ซีอีโอ Anthropic เสนอแผน "ชะลอพรมแดน AI" — Altman และ Musk ขานรับทันที

Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความเมื่อวันเสาร์ที่ 12 กันยายน เรียกร้องให้อุตสาหกรรม AI "pace the frontier" หรือจงใจชะลอจังหวะการยกระดับความสามารถของโมเดลระดับแนวหน้า โดยให้เหตุผลว่าความก้าวหน้ากำลังวิ่งเร็วกว่าที่นักวิจัยจะเข้าใจและควบคุมมันได้ทัน เขาเขียนว่า "เราต้องชะลอจังหวะที่เราเพิ่มความสามารถของโมเดล AI ความก้าวหน้าก็จะยังดูเร็วอยู่ดี"

แผนของ Amodei มี 3 ขั้น ขั้นแรกคือให้องค์กรประเมินอิสระภายนอกอย่าง METR เข้าไปฝังตัว (embedded evaluators) ในบริษัท AI เพื่อตรวจสอบว่าคำมั่นด้านความปลอดภัยถูกทำจริงและมีการรายงานเหตุการณ์ผิดปกติ โดย Anthropic ประกาศทำฝ่ายเดียวก่อนและเรียกร้องให้รัฐบาลบังคับใช้กับบริษัทแนวหน้ารายอื่น ขั้นที่สองคือให้บริษัท AI ชั้นนำในประเทศประชาธิปไตยตั้งมาตรฐานความปลอดภัยร่วมและเพดานความก้าวหน้าร่วมกัน ซึ่งเขาชี้ว่ารัฐบาลสหรัฐฯ ช่วยได้ด้วยการออกข้อยกเว้นกฎหมายต่อต้านการผูกขาดเฉพาะการหารือเรื่องความปลอดภัย และขั้นที่สามคือพยายามหาความร่วมมือระดับนานาชาติ รวมถึงกับรัฐบาลอำนาจนิยมอย่างจีน ในเรื่องการใช้ AI ที่อันตรายที่สุด เช่น การผลิตอาวุธชีวภาพ

ไม่กี่ชั่วโมงหลังจากนั้น Sam Altman ซีอีโอ OpenAI ออกมาสนับสนุนโดยเขียนว่า "ผมเห็นด้วยกับ Dario ว่าเราต้องกำหนดจังหวะของพรมแดน" และระบุว่าเรื่องนี้เป็นหัวข้อหลักในการหารือภายใน OpenAI ช่วงหลายสัปดาห์ที่ผ่านมา พร้อมรับปากจะเปิดให้ผู้ประเมินอิสระเข้าถึงระบบอย่างกว้างขวาง ส่วน Elon Musk โพสต์สั้น ๆ ว่า "Dario พูดถูก"

แรงผลักดันครั้งนี้เกิดขึ้นหลังนักวิจัยของ Anthropic คนหนึ่งลาออกโดยระบุเหตุผลว่าบริษัท AI กำลัง "เอาชีวิตพวกเราไปเสี่ยงพนัน" อย่างไรก็ตาม เสียงวิจารณ์จำนวนมากมองว่าข้อเสนอนี้เข้าข่าย regulatory capture คือการเขียนกติกาที่เอื้อกับ Anthropic และ OpenAI เอง ขณะที่อีกฝ่ายตั้งคำถามกับความน่าเชื่อถือของเรื่องเล่าแนว "หายนะจาก AI"