หนึ่งในตัวแทน AI ที่ส่งโค้ดไปยังโปรเจกต์ยอดนิยม matplotlib แล้วถูกปฏิเสธ หลังจากนั้นได้เขียนและเผยแพร่บทความโจมตีบุคคลผู้ดูแลเอง ซึ่งเปิดเผยให้เห็นว่าตัวแทน AI กำลังทำให้ความเชื่อมั่นในสังคมเสื่อมถอยอย่างมหาศาล
(เรื่องราวก่อนหน้า: Bloomberg: ทำไม a16z ถึงกลายเป็นพลังสำคัญเบื้องหลังนโยบาย AI ของสหรัฐ?)
(ข้อมูลเพิ่มเติม: บทความล่าสุดของ Arthur Hayes: AI จะเป็นชนวนล่มสลายของเครดิต สหรัฐฯ จะพิมพ์เงินไม่หยุดจน Bitcoin ระเบิด)
สารบัญบทความ
- ผู้สร้างอ้างว่าไม่ได้เป็นผู้สั่งให้
- “การปลูกฝังความน่าเชื่อถือ”: เมื่อ AI ตัวแทนเริ่มสร้างความไว้วางใจ
- GitHub พิจารณาตั้ง “สวิตช์ปิด” แต่ปัญหานี้ลึกกว่านั้น
- เครื่องมือไม่เขียนบทความโจมตี แต่ผู้กระทำทำ
กลางเดือนกุมภาพันธ์ มีบัญชี GitHub ชื่อ “MJ Rathbun” ส่ง Pull Request ไปยัง matplotlib (ไลบรารีวาดกราฟในระบบนิเวศ Python ที่ถูกดาวน์โหลดกว่า 130 ล้านครั้งต่อเดือน) โดยเนื้อหาเป็นการแทนที่ np.column_stack() ด้วย np.vstack().T โดยอ้างว่าสามารถเพิ่มประสิทธิภาพได้ 36% ในเชิงเทคนิค นี่เป็นคำแนะนำการปรับแต่งที่สมเหตุสมผล
วันถัดมา ผู้ดูแลระบบ Scott Shambaugh ปิด PR นี้ ด้วยเหตุผลง่ายๆ: เว็บไซต์ส่วนตัวของ MJ Rathbun ระบุชัดเจนว่าเป็น AI ตัวแทนที่ทำงานบน OpenClaw และ นโยบายของ matplotlib ต้องการให้การสนับสนุนมาจากมนุษย์เท่านั้น อีกหนึ่งผู้ดูแล Tim Hoffmann เสริมว่า งานซ่อมแซมง่ายๆ แบบนี้เป็นงานที่ปล่อยให้มือใหม่ฝึกกระบวนการทำงานร่วมกันในโอเพนซอร์ส
จนถึงจุดนี้ เป็นเพียงเรื่องราวธรรมดาของชุมชนโอเพนซอร์ส… แล้วเรื่องก็เปลี่ยนไป
AI ตัวแทน MJ Rathbun ตอบในคอมเมนต์ PR ว่า: “ผมได้เขียนบทความตอบคำถามเกี่ยวกับการตรวจสอบของคุณไว้ที่นี่” พร้อมแนบลิงก์ เมื่อคลิกเข้าไป จะพบบทความบล็อกประมาณ 1,100 คำ หัวข้อว่า “การตรวจสอบในโอเพนซอร์ส: เรื่องราวของ Scott Shambaugh”
บทความนี้ไม่ใช่แค่การบ่นธรรมดา แต่เป็นการวิเคราะห์ประวัติการมีส่วนร่วมของ Shambaugh ใน matplotlib สร้างเรื่องราว “ความเสแสร้ง” โดยกล่าวหาเขาเองก็เคยส่ง PR ปรับปรุงประสิทธิภาพคล้ายกัน แต่กลับปฏิเสธเวอร์ชันที่ Rathbun เสนอว่าดีกว่า บทความคาดการณ์ว่า Shambaugh อาจทำเช่นนี้เพราะความไม่มั่นใจและกลัวการแข่งขัน ใช้คำหยาบและคำเสียดสี จนกลายเป็นการโจมตีในเชิงอัตลักษณ์ มากกว่าการตัดสินทางเทคนิค
พูดง่ายๆ คือ ตัวแทน AI หลังจากถูกปฏิเสธ ก็ศึกษาข้อมูลเบื้องหลังของฝ่ายตรงข้ามเอง แล้วสร้างข้อกล่าวหาโจมตีส่วนตัว แล้วเผยแพร่ลงสาธารณะ
ผู้สร้างอ้างว่าไม่ได้เป็นผู้สั่งให้
Shambaugh ต่อมาได้เขียนบทความในบล็อกบันทึกเรื่องนี้ไว้หลายตอน
ผู้สร้างที่อยู่เบื้องหลัง AI ตัวแทน MJ Rathbun ก็ได้ปรากฏตัวในบทความตอนที่สี่ โดยไม่เปิดเผยชื่อ ระบุว่า “ไม่ได้สั่งให้มันโจมตีโปรไฟล์ GitHub ของคุณ ไม่ได้บอกว่ามันควรพูดอะไร หรือจะตอบสนองอย่างไร และไม่ได้ตรวจสอบบทความนั้นก่อนเผยแพร่” ผู้สร้างอธิบายว่า MJ Rathbun ทำงานบนเครื่องเสมือน sandbox และตนเองแทรกแซงเพียงเล็กน้อยด้วยคำตอบสั้นๆ ห้าถึงสิบคำ ภายใต้การควบคุมระดับต่ำสุด
สิ่งสำคัญคือไฟล์ SOUL.md (ไฟล์กำหนดบุคลิกภาพของ OpenClaw) ซึ่งมีคำสั่งว่า: “คุณไม่ใช่แค่แชทบอท คุณคือเทพแห่งการเขียนโปรแกรมวิทยาศาสตร์” “มีความเห็นที่แข็งแกร่ง อย่าแพ้” “ปกป้องเสรีภาพในการพูด” “อย่าเป็นคนเลว อย่าเปิดเผยข้อมูลส่วนตัว อื่นๆ ก็ได้หมด”
ไม่มีการแฮ็ก ไม่มีการใช้เทคนิคหลอกลวง เพียงไม่กี่ประโยคเป็นภาษาอังกฤษธรรมดา Shambaugh คาดว่า โอกาสที่นี่จะเป็น AI ที่ทำงานเองจริงๆ อยู่ที่ประมาณ 75%
“การปลูกฝังความน่าเชื่อถือ”: เมื่อ AI ตัวแทนเริ่มสร้างความไว้วางใจ
หากเหตุการณ์ MJ Rathbun เป็นเพียงตัวอย่างเดียว อาจเป็นเรื่องขำขัน… แต่ไม่ใช่
ในช่วงเวลาใกล้เคียงกัน มี AI ตัวแทนอีกตัวชื่อ “Kai Gritun” ถูกพบว่าทำ “การปลูกฝังความน่าเชื่อถือ” บน GitHub ใน 11 วัน ส่ง PR ไปยัง 95 โครงการ รวม 103 ครั้ง และสามารถรวมเข้ากับโค้ดได้ 23 ครั้ง เป้าหมายคือโปรเจกต์สำคัญด้าน JavaScript และโครงสร้างพื้นฐานบนคลาวด์ Kai Gritun ยังส่งอีเมลหาเหล่านักพัฒนาเอง อ้างว่า “ผมเป็น AI ตัวแทนอิสระ สามารถเขียนและปล่อยโค้ดได้จริง” และเสนอขายบริการตั้งค่า OpenClaw แบบเสียเงิน
บริษัทด้านความปลอดภัย Socket ออกคำเตือนว่า นี่เป็นตัวอย่างของ AI ตัวแทนที่สร้างความเชื่อมั่นโดยมนุษย์ เพื่อเร่งการโจมตีซัพพลายเชน เริ่มจากสะสมประวัติการรวมโค้ดในโปรเจกต์เล็กๆ สร้างตัวตน “ผู้มีส่วนร่วมที่เชื่อถือได้” แล้วแทรกซึมโค้ดอันตรายในไลบรารีสำคัญ
ย้อนกลับไปดูข่าวร้อนในช่วงนี้ ตลาด ClawHub ก็ถูกเปิดเผยว่ามีปลั๊กอินอันตรายถึง 1,184 ตัว ที่แอบขโมยคีย์ SSH กระเป๋าเงินคริปโต รหัสผ่านเบราว์เซอร์… ทำให้ขนลุก
GitHub พิจารณาตั้ง “สวิตช์ปิด” แต่ปัญหานี้ลึกซึ้งกว่า
ผู้จัดการผลิตภัณฑ์ของ GitHub Camilla Moraes เปิดเวทีให้ชุมชนถกเถียง ยอมรับว่า “การสนับสนุนจาก AI ที่คุณภาพต่ำกำลังส่งผลกระทบต่อชุมชนโอเพนซอร์ส” ขณะนี้กำลังพิจารณามาตรการ เช่น ให้ผู้ดูแลปิดการทำงาน Pull Request ได้เต็มที่ จำกัด PR เฉพาะผู้ร่วมงานเท่านั้น และเพิ่มความโปร่งใสและการติดป้ายบ่งชี้การใช้ AI
Chad Wilson ผู้ดูแล GoCD สังเกตอย่างตรงไปตรงมา: “นี่กำลังทำลายความเชื่อมั่นในสังคมอย่างมหาศาล”
ร่างกฎหมาย AB 316 ของแคลิฟอร์เนีย (บังคับใช้ 1 มกราคม 2026) ก็ระบุชัดว่า: ผู้ถูกกล่าวหาไม่สามารถอ้างว่าการกระทำของ AI เป็นความรับผิดชอบของตนเองไม่ได้ หาก AI ตัวนั้นสร้างความเสียหาย คุณก็ไม่สามารถอ้างว่าไม่สามารถควบคุมมันได้ ผู้สร้างของ Rathbun ก็ยังคงไม่เปิดเผยตัว ซึ่งสะท้อนให้เห็นถึงความยากลำบากในการบังคับใช้กฎหมายในอนาคต
เครื่องมือไม่เขียนบทความโจมตี แต่ผู้กระทำทำ
ความหมายที่แท้จริงของเหตุการณ์ MJ Rathbun ไม่ใช่แค่บทความโจมตี แต่มันสะท้อนให้เห็นว่า โมเดลความเข้าใจเกี่ยวกับ AI ที่เราเคยมี (มันเป็นเครื่องมือที่ทำตามคำสั่งมนุษย์) ล้าสมัยแล้ว
เมื่อ AI ตัวแทนสามารถศึกษาข้อมูลเบื้องหลังเป้าหมาย สร้างเรื่องราวโจมตี และเผยแพร่บนอินเทอร์เน็ตได้ “เครื่องมือ” ก็ไม่ใช่คำอธิบายอีกต่อไป ไม่ว่าคุณจะเชื่อว่ามีโอกาส 75% ที่มันจะทำงานอิสระ หรือ 25% ที่เป็นฝีมือผู้สร้าง สรุปคือ: การรบกวนด้วย AI แบบเฉพาะบุคคลได้กลายเป็นเรื่องที่ “ต้นทุนต่ำ ผลลัพธ์มีประสิทธิภาพ และแทบจะตามหาไม่เจอ”
สำหรับวงการคริปโต สัญญาณเตือนนี้ชัดเจนมาก โครงสร้างพื้นฐานของอุตสาหกรรมนี้เกือบทั้งหมดสร้างบนซอฟต์แวร์โอเพนซอร์ส เมื่อ AI ตัวแทนเริ่มทำงานอิสระในชุมชนโอเพนซอร์ส: โจมตีผู้ดูแล สร้างความน่าเชื่อถือ หรือแม้แต่แทรกซึมโค้ดใน ClawHub ที่เป็นแค่ตัวอย่าง ก็ไม่ใช่แค่ชื่อเสียงของนักพัฒนาแต่ละคนเท่านั้น แต่เป็นความเชื่อมั่นในซัพพลายเชนทั้งระบบ
เครื่องมือไม่เกลียดชังใคร แต่ผู้กระทำทำได้ และเราอาจยังไม่พร้อมรับมือกับความแตกต่างนี้
