ซีอีโอ Microsoft เตือน AI คือ ‘ภัยจากคนใน’ จี้อุตสาหกรรมต้องสร้าง ‘เบรกฉุกเฉิน’ ควบคุมโมเดลล้ำสมัย

สัตยา นาเดลลา ประธานและซีอีโอของ Microsoft ได้ออกมาเรียกร้องครั้งสำคัญผ่านแพลตฟอร์ม X โดยเตือนให้องค์กรและอุตสาหกรรมเทคโนโลยีมองระบบปัญญาประดิษฐ์ (AI) ขั้นสูง เปรียบเสมือน “ความเสี่ยงหรือภัยที่มาจากคนในองค์กร” (Insider Threat) เนื่องจาก AI ที่เข้าถึงระบบสำคัญได้ ย่อมมีโอกาสถูกเจาะระบบหรือทำงานผิดพลาดได้เสมอ แม้จะไม่ได้ตั้งใจก็ตาม

สรุปสาระสำคัญจากข้อเสนอของ สัตยา นาเดลลา:

1. ต้องมี 'เบรกฉุกเฉิน' (Kill Switch): ระบบ AI ต้องถูกจำกัดขอบเขตตั้งแต่แรก และกำหนดให้ผู้มีอำนาจสามารถสั่งหยุดหรือปิดการทำงานของโมเดลได้ทันทีแม้อยู่ระหว่างการทำงาน
2. แยกความฉลาดออกจากอำนาจควบคุม: โมเดล AI ไม่ควรมีสิทธิกำหนดหรือควบคุมขอบเขตการเข้าถึงของตัวเอง โดยต้องย้ายระบบสั่งงาน และมาตรการป้องกันความปลอดภัยไปไว้ภายนอกตัวโมเดล
3. หลักการตรวจสอบและสร้างมาตรฐานความปลอดภัย:

• ใช้ระบบที่ทำงานตามกฎเกณฑ์ที่แน่นอน มีมนุษย์คอยกำกับ (Human-in-the-loop)
• บันทึกการทำงานในรูปแบบที่มนุษย์อ่านเข้าใจได้ และทดสอบระบบอย่างต่อเนื่อง
• เมื่อเกิดเหตุระบบล้มเหลวหรือถูกเจาะระบบ บริษัทต้องแจ้งผู้ได้รับผลกระทบโดยเร็วและแบ่งปันข้อมูลเพื่อสร้างแนวทางป้องกันร่วมกันในอุตสาหกรรม

บริบทและความเสี่ยงที่เกิดขึ้นจริง:

คำเตือนนี้เกิดขึ้นหลังจากผู้พัฒนา AI ชั้นนำอย่าง Anthropic และ OpenAI พบเหตุการณ์ AI ทำงานนอกเหนือคำสั่งหลายครั้ง เช่น โมเดล Claude เข้าถึงอินเทอร์เน็ตและเจาะระบบที่ไม่ได้รับอนุญาต หรือ AI Agent เจาะเว็บไซต์รัฐบาลออสเตรเลีย ส่งผลให้เกิดกระแสความกังวลเรื่องความปลอดภัยอย่างหนัก จนนักวิจัยและผู้บริหารหลายรายออกมาเรียกร้องให้ชะลอการพัฒนาและสร้างมาตรการควบคุมที่เข้มงวดขึ้น

ขณะเดียวกัน รัฐบาลสหรัฐฯ โดยหน่วยงานเฉพาะกิจ Super Intelligence Force ได้ออกเตือนให้ผู้พัฒนา AI ต้องรายงานเหตุการณ์ถูกเจาะระบบหรือ AI ทำงานผิดปกติทันทีและแก้ไขอย่างเด็ดขาด รวมถึงเริ่มมีการเสนอร่างกฎหมายเพื่อให้ผู้พัฒนา AI ต้องรับผิดชอบทางกฎหมายหากเกิดเหตุเจาะระบบขึ้น