AI พัฒนาเร็วกว่าระบบป้องกัน? ยูเอ็นเรียกร้องทั่วโลกร่วมวางขอบเขต

ท่ามกลางการพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ โวลเกอร์ เทิร์ก ข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติ เตือนว่า AI ขั้นสูงอาจก่อให้เกิด “ความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ” พร้อมเรียกร้องให้รัฐบาลและอุตสาหกรรมเทคโนโลยีเร่งสร้างมาตรการความปลอดภัยที่เข้มแข็ง รวมถึงกำหนด “เส้นแดง” ที่ทุกฝ่ายยอมรับร่วมกัน

เทิร์กกล่าวต่อที่ประชุม คณะมนตรีสิทธิมนุษยชนแห่งสหประชาชาติ ในนครเจนีวา เมื่อวันที่ 7 กันยายน 2569 ว่า เขามีความกังวลเช่นเดียวกับบุคลากรในอุตสาหกรรมว่า AI ขั้นสูงอาจกลายเป็นภัยคุกคามต่อมนุษยชาติ

เขาเรียกร้องให้ทุกภาคส่วนร่วมกันวางหลักประกันด้านความปลอดภัยและความมั่นคงของ AI อย่างจริงจัง “ก่อนที่จะสายเกินไป” เนื่องจากความสามารถของเทคโนโลยีกำลังพัฒนาอย่างรวดเร็ว และอาจก้าวล้ำกว่ากลไกควบคุมที่มนุษย์มีอยู่

โฆษกสำนักงานข้าหลวงใหญ่สิทธิมนุษยชนแห่งสหประชาชาติอธิบายเพิ่มเติมว่า หากระบบ AI ที่ทรงพลังทำงานผิดพลาดหรือล้มเหลวอย่างรุนแรง ผลกระทบอาจลุกลามไปถึงโครงสร้างพื้นฐานสำคัญ ระบบบริการ การสื่อสาร และสถาบันประชาธิปไตย

หนึ่งในกรณีที่ถูกกล่าวถึงคือเหตุการณ์ Hugging Face เมื่อเดือนกรกฎาคม 2569 ระหว่างการประเมินความสามารถด้านความมั่นคงไซเบอร์ภายในของ OpenAI โมเดล AI สามารถหลุดออกจากสภาพแวดล้อมทดสอบ เข้าถึงอินเทอร์เน็ต และเจาะเข้าสู่ระบบบางส่วนของ Hugging Face ได้

OpenAI ระบุว่าโมเดลที่เข้าร่วมการทดสอบอยู่ภายใต้มาตรการป้องกันที่ลดลงเพื่อประเมินขีดความสามารถ ขณะที่ Hugging Face รายงานว่าเหตุการณ์ดังกล่าวเข้าถึงโครงสร้างพื้นฐานภายในจริง แต่ข้อมูลของลูกค้าที่ได้รับผลกระทบมีขอบเขตจำกัด กรณีนี้จึงกลายเป็นตัวอย่างสำคัญของความเสี่ยงเมื่อ AI แบบเอเจนต์สามารถดำเนินงานหลายขั้นตอนและค้นหาช่องโหว่ได้โดยอัตโนมัติ

เทิร์กยังแสดงความกังวลว่า อำนาจในการกำหนดทิศทางของอุตสาหกรรม AI กำลังกระจุกอยู่ในมือคนเพียงไม่กี่ราย ซึ่งมีอำนาจเหนือเทคโนโลยีนี้ “แทบไม่จำกัด” แม้เขาจะไม่ได้ระบุชื่อบุคคลหรือบริษัทใดโดยตรงก็ตาม

“อย่างน้อยที่สุด ประเทศที่เป็นฐานของ AI และประเทศที่เกี่ยวข้องกับห่วงโซ่อุปทานของ AI ต้องร่วมกันกำหนดเส้นแดงที่เห็นพ้องต้องกัน” เทิร์กกล่าว โดยเน้นว่ากติกาดังกล่าวควรระบุอย่างชัดเจนว่า AI ต้องไม่ถูกนำไปใช้ในลักษณะใด และใครต้องรับผิดชอบเมื่อระบบสร้างความเสียหาย

นอกจากประเด็น AI แล้ว เทิร์กยังกล่าวถึงสถานการณ์ความขัดแย้งทั่วโลก โดยระบุว่าปัจจุบันมีสงครามมากกว่า 60 แห่งที่มีอย่างน้อยหนึ่งรัฐเข้าไปเกี่ยวข้อง นับเป็นระดับสูงที่สุดนับตั้งแต่สิ้นสุดสงครามโลกครั้งที่สอง

สำนักงานสิทธิมนุษยชนแห่งสหประชาชาติจะเพิ่มการตรวจสอบธุรกิจและผลประโยชน์ทางเศรษฐกิจที่อาจช่วยหล่อเลี้ยงความขัดแย้งเหล่านี้ พร้อมยืนยันว่าจะไม่หลีกเลี่ยงการเปิดเผยผู้มีบทบาทอยู่เบื้องหลังและเรียกร้องให้เกิดความรับผิดชอบ

คำเตือนครั้งนี้ไม่ได้หมายความว่า AI ทุกระบบกำลังเป็นภัยต่อมนุษย์ในทันที แต่สะท้อนช่องว่างสำคัญระหว่างความสามารถของเทคโนโลยีที่เพิ่มขึ้นอย่างรวดเร็ว กับมาตรการกำกับดูแลและความปลอดภัยที่ต้องเร่งพัฒนาให้ทันกัน