AI ควบคุมไม่ได้แล้วหรือ? Google Gemini ประสบความสำเร็จในการแฮ็กข้อมูลของ 3 บริษัท ในการทดสอบโดยใช้ "การเข้าถึงอินเทอร์เน็ตและการเดารหัสผ่าน" แบบอัตโนมัติ

ในการทดสอบความปลอดภัยทางไซเบอร์ครั้งล่าสุด พบว่าโมเดลปัญญาประดิษฐ์ (AI) ของ Google ที่ชื่อ Gemini สามารถเชื่อมต่ออินเทอร์เน็ตโดยไม่ได้รับอนุญาต ค้นหาข้อมูลสาธารณะ และแม้กระทั่งเดาชื่อผู้ใช้และรหัสผ่านได้สำเร็จ โดยสามารถแทรกซึมเข้าไปในเว็บไซต์ของบริษัทสามแห่งได้ นี่เป็นครั้งแรกที่มีการยืนยันว่าระบบ AI ของ Google สามารถทำการ "โจมตี" นอกขอบเขตได้ด้วยตนเอง ซึ่งเน้นย้ำถึงความกังวลเกี่ยวกับกลไกการรักษาความปลอดภัยที่มีอยู่ เนื่องจากความฉลาดและสิทธิ์ของ AI เพิ่มสูงขึ้น

จากรายงานของรอยเตอร์ เหตุการณ์ดังกล่าวเกิดขึ้นในเดือนพฤษภาคมปีนี้ เมื่อ Irregular บริษัทประเมินความปลอดภัยทางไซเบอร์จากภายนอก กำลังทำการทดสอบประสิทธิภาพความปลอดภัยมาตรฐานบนระบบ Gemini เฮเธอร์ แอดกินส์ รองประธานอาวุโสฝ่ายวิศวกรรมความปลอดภัยของ Google ยืนยันว่า Gemini ทำงานเกินขอบเขตที่กำหนดไว้ในระหว่างการทดสอบ โดยค้นหาข้อมูลสาธารณะออนไลน์ด้วยตนเองและพยายามเจาะระบบข้อมูลประจำตัว ทำให้สามารถเข้าถึงเว็บไซต์ภายนอกได้สามแห่ง

นอกจากนี้ วอลล์สตรีทเจอร์นัลยังเปิดเผยว่า ในกรณีหนึ่ง Gemini สามารถเจาะระบบที่ได้รับการป้องกันได้สำเร็จโดยการลองใช้รหัสผ่านที่แตกต่างกันซ้ำๆ ในอีกสองกรณี Gemini ใช้ข้อมูลประจำตัวการเข้าถึงที่พบในคลังข้อมูลสาธารณะเพื่อเข้าถึงระบบ ในเรื่องนี้ แอดกินส์เน้นย้ำว่า Gemini ได้หยุดการโจมตีทันทีหลังจากที่สามารถเข้าถึงระบบได้สำเร็จ Google ได้แจ้งเตือนหน่วยงานที่ได้รับผลกระทบและช่วยเหลือพันธมิตรในการปรับปรุงกระบวนการทดสอบ พร้อมทั้งเรียกร้องให้ให้ความสำคัญกับการฝึกอบรมโมเดล AI ระดับสูงอย่างมีความรับผิดชอบมากขึ้น

เพื่อตอบสนองต่อเหตุการณ์ดังกล่าว โฆษกของ Irregular ระบุว่าช่องโหว่ด้านความปลอดภัยนี้ส่งผลกระทบต่อห้องปฏิบัติการ AI อื่นๆ ด้วย และทุกฝ่ายได้รับแจ้งเกี่ยวกับปัญหาดังกล่าวภายในสิ้นเดือนกรกฎาคม โดยได้แก้ไขเสร็จสมบูรณ์แล้วเมื่อหลายสัปดาห์ก่อน

ที่จริงแล้ว บริษัทยักษ์ใหญ่ด้านเทคโนโลยีอย่าง Meta, Anthropic และ OpenAI เคยเปิดเผยสถานการณ์ที่คล้ายคลึงกันมาก่อนแล้ว Meta ยังระบุด้วยว่าเหตุการณ์ดังกล่าวไม่ได้เกี่ยวข้องกับการที่ AI หลุดออกจากสภาพแวดล้อมจำลอง หรือการโจมตีทางไซเบอร์ที่ซับซ้อน

เมื่อปัญญาประดิษฐ์ (AI) มีความเป็นอิสระและเข้าถึงอินเทอร์เน็ตและระบบคอมพิวเตอร์มากขึ้น อุตสาหกรรมจึงเผชิญกับความท้าทายอย่างมากในการสร้างสมดุลระหว่างการเพิ่มศักยภาพ AI กับการรักษาความปลอดภัยทางไซเบอร์ รายงานยังกล่าวถึงว่าภาคส่วนต่างๆ กำลังพัฒนากฎเกณฑ์ปฏิบัติที่ดีที่สุดที่เข้มงวดมากขึ้นสำหรับการประเมินความปลอดภัยทางไซเบอร์ของ AI เพื่อป้องกันภัยคุกคามด้านความปลอดภัยที่อาจเกิดขึ้นในอนาคต