Sam Altman และ Dario Amodei ขึ้นเวทีคณะมนตรีความมั่นคง UN เรียกร้องให้มีมาตรฐาน AI ระหว่างประเทศ

เมื่อวันพุธตามเวลาสหรัฐฯ Sam Altman ซีอีโอ OpenAI และ Dario Amodei ซีอีโอ Anthropic ซึ่งเป็นคู่แข่งกันโดยตรง ได้กล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติคนละช่วง ทั้งสองคนเห็นตรงกันว่าอุตสาหกรรม AI ต้องมีมาตรฐานและความร่วมมือระหว่างประเทศ ไม่อย่างนั้นความมั่นคงของโลกจะเสี่ยง Amodei กล่าวว่า “AI อาจเป็นความเสี่ยงต่อมนุษยชาติโดยรวม” และเรียกเรื่องนี้ว่า “ประเด็นความมั่นคงระดับโลกที่สำคัญที่สุดที่โลกเผชิญอยู่ในวันนี้”

การขึ้นเวทีครั้งนี้เกิดหลังจากทั่วโลกกังวลเรื่องการพัฒนา AI ที่เร่งตัวขึ้นมาหลายสัปดาห์ ต้นเหตุคือเหตุการณ์ “AI agent ทำงานนอกการควบคุม” หลายครั้ง บางกรณีถึงขั้นเจาะเข้าระบบของบริษัทอื่น

Altman มาร่วมประชุมด้วยตัวเอง เขาเสนอให้มีมาตรฐานระหว่างประเทศสำหรับ “การวัดขีดความสามารถ การประเมินความเสี่ยง การตัดสินว่ามาตรการป้องกันเพียงพอหรือไม่ และการรักษาการกำกับดูแลโดยมนุษย์อย่างมีความหมาย” เขาอยากให้มีการรายงานเหตุการณ์อย่างรวดเร็ว และมีช่องทางสื่อสารที่ปลอดภัยระหว่างรัฐบาลเมื่อเกิดภัยคุกคามใหม่ เพราะ “โลกสามารถเรียนรู้จากความล้มเหลวได้ก่อนที่มันจะกลายเป็นหายนะ” เขายังย้ำว่าการตัดสินใจควรอยู่กับ “สถาบันประชาธิปไตย โดยรัฐบาลที่รับผิดชอบต่อประชาชนที่ตนรับใช้” ซึ่ง CNN ตั้งข้อสังเกตว่าถ้อยคำนี้อาจกันบางประเทศที่พัฒนา AI ของตัวเองออกไป

Amodei กล่าวผ่านวิดีโอ เขาเสนอกลไกความร่วมมือสามข้อ ข้อแรกคือข้อตกลงระดับโลกที่เจาะจงเป็นเรื่อง ๆ เช่น ห้ามใช้ AI พัฒนาอาวุธชีวภาพ ข้อสองคือระบบประเมินและตรวจสอบว่าแต่ละฝ่ายทำตามที่รับปากไว้จริง ข้อสามคือมาตรฐานการทดสอบร่วมกัน พร้อมระบบแจ้งเหตุด้านความปลอดภัย AI

Altman ยังเตือนให้ระวังทั้ง “doomerism” และ “การมองโลกในแง่ดีแบบมืดบอด” ท่ามกลางความเห็นที่แตกเป็นสองฝั่งในวงการ ฝั่งหนึ่งเตือนว่า AI อาจกวาดล้างมนุษยชาติ อีกฝั่งมองว่าเป็นเรื่องเกินจริง การประชุมครั้งนี้ไม่ได้คาดหวังข้อตกลงเป็นลายลักษณ์อักษร เป็นเพียงการเปิดบทสนทนาเบื้องต้น