AI จะพามนุษย์ไปถึงจุดสูญพันธุ์ได้จริง หรือเป็นความเสี่ยงที่ยังคาดเดาไม่ได้

คำว่า “AI ทำให้มนุษย์สูญพันธุ์” ไม่ใช่ข้อเท็จจริงที่เกิดขึ้นแล้ว แต่ก็ไม่ใช่ประเด็นที่วงการวิจัยมองข้าม

จุดที่ต้องแยกให้ออกก่อนเลยคือ ความเสี่ยงที่เกิดขึ้นจริงในปัจจุบัน กับ สถานการณ์รุนแรงที่อาจเกิดขึ้นในอนาคต เป็นคนละเรื่องกัน

ตอนนี้มีหลักฐานชัดแล้วว่า AI สามารถถูกใช้สร้างข้อมูลปลอม หลอกลวง เลียนเสียง สร้างภาพปลอม ช่วยโจมตีระบบคอมพิวเตอร์ หรือให้ข้อมูลผิดพลาดได้ นี่ยังไม่นับผลกระทบด้านงาน ความเป็นส่วนตัว และการตัดสินใจที่มนุษย์เริ่มฝากไว้กับระบบอัตโนมัติมากขึ้นเรื่อยๆ

แล้วเรื่อง “มนุษย์สูญพันธุ์” มาจากไหน?

ประเด็นนี้อยู่ในกลุ่มที่นักวิจัยเรียกว่า loss of control หรือสถานการณ์ที่ระบบ AI มีความสามารถสูงจนการควบคุมของมนุษย์ไม่มีประสิทธิภาพเพียงพอ

รายงาน International AI Safety Report อธิบายตรงๆ ว่าเหตุการณ์ลักษณะนี้ยังเป็น สถานการณ์สมมติในอนาคต และผู้เชี่ยวชาญมีความเห็นแตกต่างกันมาก บางกลุ่มมองว่าโอกาสเกิดต่ำมาก บางกลุ่มคิดว่าเป็นความเสี่ยงที่ควรให้ความสำคัญ เพราะต่อให้โอกาสไม่สูง ผลกระทบหากเกิดขึ้นอาจรุนแรงมหาศาล

ตรงนี้สำคัญมาก เพราะคำว่า “มีความเสี่ยง” ไม่เท่ากับ “จะเกิดขึ้นแน่นอน”

AI ปัจจุบันยังไม่ได้อยู่ในสถานะที่พิสูจน์แล้วว่าสามารถยึดอำนาจจากมนุษย์และทำให้มนุษยชาติสูญพันธุ์ได้ การพูดแบบนั้นเป็นการกระโดดข้ามหลักฐานไปไกลเกินไป

แต่ทำไมถึงต้องศึกษาตั้งแต่ตอนนี้?

เพราะเทคโนโลยีประเภทนี้มีลักษณะแปลกอย่างหนึ่ง คือความสามารถเพิ่มขึ้นได้เร็ว ขณะที่การประเมินความปลอดภัยและการออกกฎอาจตามหลัง

ลองนึกถึงระบบที่ไม่ได้แค่ตอบคำถาม แต่สามารถเขียนโปรแกรม ใช้เครื่องมือ วางแผนหลายขั้นตอน และดำเนินงานบางอย่างโดยอัตโนมัติ ยิ่งระบบได้รับสิทธิ์เข้าถึงทรัพยากรจริงมากเท่าไร ความผิดพลาดก็ยิ่งไม่ใช่แค่ “ตอบผิดหนึ่งประโยค” อีกต่อไป

• ระบบอาจทำงานผิดเป้าหมาย เพราะคำสั่งหรือเป้าหมายที่มนุษย์กำหนดไม่ครอบคลุมผลข้างเคียง

• มนุษย์อาจพึ่งพา AI มากเกินไป จนการตรวจสอบกลายเป็นพิธีมากกว่าการควบคุมจริง

• ผู้ไม่หวังดีอาจใช้ความสามารถของ AI เพื่อขยายขนาดการหลอกลวงหรือการโจมตี

• การแข่งขันระหว่างองค์กรหรือประเทศ อาจสร้างแรงกดดันให้รีบปล่อยระบบที่ยังประเมินความเสี่ยงไม่ครบ

สิ่งที่น่าสนใจคือ “เสียการควบคุม” ไม่จำเป็นต้องมีภาพหุ่นยนต์ลุกขึ้นมาต่อต้านมนุษย์เลย

รูปแบบที่ธรรมดากว่านั้นอาจเป็นการที่สังคมมอบการตัดสินใจจำนวนมหาศาลให้ระบบซึ่งทำงานเร็ว ซับซ้อน และตรวจสอบยาก จนมนุษย์ยังมีชื่ออยู่ในช่องผู้อนุมัติ แต่แทบไม่สามารถเข้าใจเหตุผลหรือแทรกแซงกระบวนการได้ทัน นี่เป็นความเสี่ยงเชิงระบบที่ควรจับตามองพอๆ กับภาพอนาคตแบบนิยายวิทยาศาสตร์

สิ่งที่ควรกังวลก่อนวันสิ้นโลก

รายงานด้านความปลอดภัยของ AI ชี้ว่าปัญหาหลายอย่างเกิดขึ้นแล้ว เช่น ความน่าเชื่อถือของคำตอบ การสร้างข้อมูลเท็จ อคติ การละเมิดความเป็นส่วนตัว และการนำ AI ไปใช้ในทางที่เป็นอันตราย ข้อมูลจาก Stanford AI Index ยังพบว่ารายงานเหตุการณ์ที่เกี่ยวข้องกับ AI ในปี 2024 เพิ่มขึ้นเป็น 233 เหตุการณ์ สูงกว่าปีก่อน 56.4%

ตัวเลขนี้ไม่ได้แปลว่า AI กำลังจะทำลายโลก แต่มันเตือนว่าเมื่อเทคโนโลยีถูกใช้งานกว้างขึ้น ปัญหาจริงก็เพิ่มพื้นที่ให้เห็นชัดขึ้นตามไปด้วย

NIST จึงเสนอแนวทางจัดการความเสี่ยงของ AI ตั้งแต่ขั้นออกแบบ พัฒนา ทดสอบ นำไปใช้ ไปจนถึงติดตามผลหลังใช้งาน โดยเน้นเรื่องความปลอดภัย ความน่าเชื่อถือ ความโปร่งใส ความเป็นส่วนตัว และความรับผิดชอบ ไม่ใช่รอให้ระบบเก่งจนเกิดปัญหาแล้วค่อยหาวิธีแก้

คำถามที่มีประโยชน์จึงไม่ใช่แค่ “AI จะฆ่ามนุษย์ไหม” แต่คือ “มนุษย์กำลังให้อำนาจ AI แค่ไหน และยังควบคุมมันได้จริงหรือเปล่า”

ความเสี่ยงระดับสูญพันธุ์ยังเต็มไปด้วยความไม่แน่นอน และวงการวิชาการก็ยังไม่มีฉันทามติเรื่องโอกาสที่จะเกิด แต่ความไม่แน่นอนไม่ใช่เหตุผลให้เพิกเฉย เช่นเดียวกับที่มันไม่ใช่เหตุผลให้ประกาศว่าหายนะกำลังมาแน่นอน

จุดที่จับต้องได้กว่าคือการไม่ปล่อยให้ AI กลายเป็นกล่องดำที่ได้รับสิทธิ์ตัดสินใจเรื่องสำคัญโดยไม่มีการตรวจสอบ ต้องมีการทดสอบก่อนใช้งานจริง จำกัดสิทธิ์เข้าถึงระบบสำคัญ มีมนุษย์รับผิดชอบชัดเจน และเตรียมวิธีหยุดหรือจำกัดการทำงานเมื่อระบบแสดงพฤติกรรมผิดปกติ

เพราะต่อให้วันหนึ่งไม่มี AI ตัวไหนคิดจะกำจัดมนุษย์เลย ปัญหาก็ยังเกิดได้จากมนุษย์ที่ใช้มันผิด ใช้มันเร็วเกินไป หรือเชื่อมันมากเกินหลักฐานอยู่ดี