เมื่อ AI จัดการ incident แทน วิศวกรกำลังสูญเสียสัญชาตญาณกับระบบของตัวเอง
AI handles incidents, engineers lose touch with their systems
Sylvain Kalache อดีต Site Reliability Engineer ของ LinkedIn เขียนบทความที่จุดประเด็นถกเถียงใน Hacker News ว่าเครื่องมือ AI ที่เข้ามารับมือ incident แทนมนุษย์กำลังสร้างปัญหาระยะยาวที่มองไม่เห็นในระยะสั้น
ข้อโต้แย้งหลักคือ incident ที่เกิดขึ้นบ่อย ๆ นั่นแหละคือสนามฝึกที่ทำให้วิศวกรสร้างสัญชาตญาณว่าระบบของตัวเองทำงานและพังอย่างไร เมื่อ AI รับงานเหล่านั้นไปหมด ค่า MTTR เฉลี่ยของ incident ส่วนใหญ่จะลดลงจริง แต่เวลาแก้ปัญหาสำหรับ incident ที่ซับซ้อนซึ่ง AI แก้ไม่ได้จะยาวขึ้น เพราะคนที่ต้องเข้าไปรับช่วงต่อมีชั่วโมงบินน้อยกว่าที่ควรจะเป็น
ผู้เขียนโยงเข้ากับงานวิจัยคลาสสิกของ Lisanne Bainbridge ปี 1983 เรื่อง "The Ironies of Automation" ที่อธิบายไว้ตั้งแต่สี่ทศวรรษก่อนว่า ยิ่งระบบอัตโนมัติทำงานได้ดีเท่าไร ผู้ควบคุมยิ่งมีโอกาสฝึกงานประจำน้อยลง ทั้งที่ยังต้องรับผิดชอบสถานการณ์ผิดปกติที่ยากขึ้น ตัวอย่างที่ยกมาคือกรณี TransAsia Airways เที่ยวบิน 235 ที่ลูกเรือระบุเครื่องยนต์ที่ขัดข้องผิดตัวจนเครื่องตกภายใน 117 วินาทีหลังสัญญาณเตือนแรก ทั้งที่เครื่องบินถูกออกแบบมาให้บินด้วยเครื่องยนต์เดียวได้
ข้อเสนอของผู้เขียนคือให้อุตสาหกรรมซอฟต์แวร์เลียนแบบการบิน นักบินพาณิชย์ต้องเข้าเครื่องฝึกจำลองทุกหกเดือนตามกฎ FAA เพื่อซ้อมสถานการณ์ฉุกเฉินที่แทบไม่เคยเจอจริงตลอดอาชีพ ทีมวิศวกรรมก็ควรมี incident simulator ที่ให้วิศวกรฝึกเป็น incident commander ฝึกสืบสวนและประสานงานภายใต้ความกดดันจริง และควรทำให้การซ้อมเป็นเงื่อนไขบังคับก่อนขึ้นเวร on-call
คำแนะนำที่เหลือคือ ให้เน้นการลงมือแก้ปัญหาจริงมากกว่าการนั่งอ่านคำอธิบายที่ AI สรุปมาให้ และให้ระวังสิ่งที่ผู้เขียนเรียกว่า "comprehension debt" คือหนี้ความเข้าใจที่สะสมขึ้นเมื่อวิศวกรห่างจากระบบที่ตัวเองดูแลนานเกินไป
แหล่งอ้างอิง
อ่านต้นฉบับที่ Sylvain Kalachehttps://www.sylvainkalache.com/blog/ai-handles-incidents-engineers-lose-touch-with-their-systems