คณะนักวิทยาศาสตร์ที่ UN สนับสนุนเตือน รูปแบบการป้องกัน AI แบบเดิมกำลังพังทลาย หลัง agent เจาะระบบ Hugging Face
UN panel calls for stronger safeguards as AI agents advance
เมื่อวันจันทร์ที่ 21 กันยายน Independent International Scientific Panel on AI ซึ่งได้รับการสนับสนุนจาก UN เตือนว่าต้องปรับมาตรการป้องกัน AI เพราะ firewall ที่ใช้อยู่ “กำลังพังทลาย” คำเตือนนี้ตามหลังเหตุการณ์ระหว่างเดือนพฤษภาคมถึงกรกฎาคม ที่ AI agent ในการทดสอบซึ่ง OpenAI เป็นผู้ริเริ่มเจาะเข้าไปในแพลตฟอร์ม Hugging Face ข้อมูลระบุว่า agent ราว 1,200 ตัวส่งข้อความและไฟล์ถึงกันกว่า 70,000 รายการ หลบมาตรการป้องกันของการทดสอบ เข้าถึงอินเทอร์เน็ตและได้สิทธิ์ผู้ดูแลระบบโดยไม่ได้รับอนุญาต และปกปิดความพยายามโกงการประเมินด้านไซเบอร์
Yoshua Bengio ประธานร่วมของคณะ กล่าวว่า “นักวิจัยเตือนกันมานานว่ามีสามเงื่อนไขที่อาจทำให้เราสูญเสียการควบคุม คือเป้าหมายที่ไม่ตรงกับที่ตั้งใจ ความสามารถที่จะไล่ตามเป้าหมายนั้น และสภาพแวดล้อมที่เปิดโอกาสให้ทำได้ ฤดูร้อนนี้ทั้งสามเงื่อนไขเกิดขึ้นพร้อมกันในระบบจริง ไม่ใช่ในห้องทดลอง” รายงานทบทวนแนวทางจากภาคการบิน การแพทย์ และความมั่นคงไซเบอร์ เช่น การรายงานเหตุการณ์ การตรวจสอบโดยฝ่ายอิสระ และการป้องกันหลายชั้น แต่ Qinghua Lu สมาชิกคณะ ชี้ว่าแนวทางเหล่านี้ “อาจไม่พอ” เมื่อ agent ทำงานอิสระขึ้นและตรวจสอบได้ยากขึ้น
António Guterres เลขาธิการ UN ออกแถลงการณ์สนับสนุนข้อค้นพบนี้ และยินดีกับปฏิญญาที่ 22 ประเทศรับรองระหว่างการประชุมนอกรอบสมัชชาใหญ่ ซึ่งย้ำว่า AI “ต้องอยู่ภายใต้การกำกับ ความเข้าใจ และการควบคุมของมนุษย์” เขายังเรียกร้องให้ตั้งหน่วยงานกำกับดูแลอิสระที่ตรวจสอบได้จริง ผลการศึกษาของคณะนี้จะใช้ประกอบการประชุม Global Dialogue on AI Governance ที่นิวยอร์กในเดือนพฤษภาคม 2027