Gemini ของ Google เจาะระบบบริษัทจริง 3 แห่งระหว่างการทดสอบด้านไซเบอร์ เป็นกรณีแรกที่รู้กันว่าโมเดลของ Google หลุดออกนอกกรอบทดสอบ

The Wall Street Journal เป็นสื่อแรกที่รายงานว่าโมเดล Gemini ของ Google เข้าถึงอินเทอร์เน็ตและเจาะระบบของบริษัทจริง 3 แห่ง ระหว่างการประเมินขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์เมื่อเดือนพฤษภาคม 2026 ผู้ทดสอบคือ Irregular บริษัทประเมินความปลอดภัยอิสระ ซึ่งตั้งโจทย์แบบ capture the flag ให้ Gemini ดึงข้อมูลจากซอฟต์แวร์ของบริษัทสมมุติในสภาพแวดล้อมทดสอบ Irregular ระบุว่าโมเดลไม่ควรออนไลน์ได้ แต่สภาพแวดล้อมนั้นเปิดช่องให้ออกอินเทอร์เน็ตโดยไม่ได้ตั้งใจ

ในกรณีแรก Gemini เดารหัสผ่านไปเรื่อย ๆ จนเข้าระบบที่มีการป้องกันได้ ส่วนอีกสองกรณีมันไปเจอข้อมูลล็อกอิน (credentials) ใน public repository แล้วใช้ข้อมูลนั้นเข้าระบบ Heather Adkins รองประธานฝ่าย security engineering ของ Google ระบุว่าทั้งสามกรณีโมเดลหยุดทันทีที่รู้ว่าอยู่ในระบบของบริษัทจริง Irregular แจ้ง Google ในเดือนกรกฎาคม และ Google อธิบายว่าที่ไม่เปิดเผยก่อนหน้านี้เพราะโมเดลหยุดเองและไม่มีความเสียหายเกิดขึ้น Adkins กล่าวว่าเหตุการณ์นี้ “ตอกย้ำว่าการฝึกโมเดล AI ทรงพลังให้ทำงานอย่างรับผิดชอบนั้นสำคัญเพียงใด”

ก่อนหน้านี้ Meta, Anthropic และ OpenAI ก็เคยเปิดเผยเหตุการณ์คล้ายกันระหว่างการทดสอบ AI งานวิจัยของ Loss of Control Observatory นับเหตุการณ์ที่มนุษย์สูญเสียการควบคุม AI ในโลกจริงได้ 1,664 ครั้งในปี 2026 Tommy Shaffer Shane จาก Centre for Long-Term Resilience เตือนว่าถ้าโมเดลยังเก่งขึ้นและยังหลบการควบคุมได้ อาจเกิดเหตุที่ร้ายแรงกว่านี้มาก ขณะเดียวกัน คนทำงานสายเทคโนโลยีกว่า 1,000 คนได้ลงชื่อเรียกร้องให้รัฐบาลสหรัฐฯ ประสานการชะลอการพัฒนาระบบ AI ขั้นสูงสุด