กษัตริย์ชาร์ลส์ทรงเตือนว่า "ปัญญาประดิษฐ์ที่ตกอยู่ในมือคนผิด" อาจนำไปสู่หายนะ เจนเซน หวง กล่าวว่า อย่าปล่อยผลิตภัณฑ์ออกสู่ตลาดหากยังไม่พร้อมใช้งาน

เนื่องจากการพัฒนาของปัญญาประดิษฐ์ (AI) เป็นไปอย่างรวดเร็ว ปัญหาด้านความปลอดภัยจึงกลับมาเป็นประเด็นสำคัญของอุตสาหกรรมเทคโนโลยีอีกครั้ง ตามรายงานของรอยเตอร์ สมเด็จพระราชาธิบดีชาร์ลส์ที่ 3 แห่งสหราชอาณาจักรทรงพบกับผู้นำในอุตสาหกรรม AI หลายคนในสกอตแลนด์เมื่อวันที่ 17 และทรงเตือนว่าหากเทคโนโลยีตกไปอยู่ในมือผู้ไม่หวังดี อาจก่อให้เกิด "อันตรายร้ายแรง" และทรงเรียกร้องให้ทุกภาคส่วนจัดตั้งกลไกด้านความปลอดภัยและการควบคุมที่เพียงพอ ก่อนที่จะสายเกินไป

การประชุมจัดขึ้นที่ Dumfries House ในสกอตแลนด์ ซึ่งเป็นกรรมสิทธิ์ของพระเจ้าชาร์ลส์ที่ 3 ผู้เข้าร่วมประชุมประกอบด้วย เจนเซน หวง ผู้ก่อตั้งและซีอีโอของ Nvidia, เดมิส ฮัสซาบิส ผู้ก่อตั้งและประธานของ Google DeepMind, ซาราห์
ฟรายเออร์ ซีเอฟโอของ OpenAI, ทีโน คูเอลลาร์ หัวหน้าฝ่ายกิจการระดับโลกของ Anthropic และคานิชกา นารายัน รัฐมนตรีว่าการกระทรวงปัญญาประดิษฐ์ของสหราชอาณาจักร เป็นต้น

พระเจ้าชาร์ลส์ที่ 3 ตรัสว่า ปัญญาประดิษฐ์ (AI) มีศักยภาพที่จะพัฒนาและช่วยชีวิตผู้คนได้ โดยเฉพาะอย่างยิ่งในด้านวิทยาศาสตร์ชีวภาพและการแพทย์ อย่างไรก็ตาม นักพัฒนาเทคโนโลยีที่เกี่ยวข้องต่างก็ออกมาเตือนมากขึ้นเรื่อยๆ ว่า AI อาจพัฒนาไปสู่ความสามารถที่อันตรายมากขึ้น "และอาจคร่าชีวิตผู้คนได้"

พระเจ้าชาร์ลส์ที่ 3 ทรงชี้ให้เห็นว่า ขณะนี้เป็นเรื่องเร่งด่วนที่จะต้องพิจารณาถึงอันตรายร้ายแรงที่อาจเกิดขึ้นจากการที่เทคโนโลยีเหล่านี้ตกไปอยู่ในมือของผู้ไม่หวังดี และความเสี่ยงที่ปัญญาประดิษฐ์อาจถูกนำไปใช้ก่อให้เกิดผลร้ายแรงอย่างมหาวินาศ พระองค์ยังทรงตั้งคำถามว่าควรมีการกำหนดมาตรการควบคุมที่เพียงพอหรือไม่ ก่อนที่จะสายเกินไป

ความปลอดภัยของปัญญาประดิษฐ์ (AI) เป็นประเด็นที่ได้รับความสนใจอย่างต่อเนื่องในช่วงที่ผ่านมา โดยมีการถกเถียงกันว่าอุตสาหกรรมเทคโนโลยีมีศักยภาพและควรควบคุมตนเองหรือไม่ สมเด็จพระสันตะปาปาเลโอที่ 14 พระเจ้าชาร์ลส์ที่ 3 และประธานาธิบดีโดนัลด์ ทรัมป์ ต่างก็มีส่วนร่วมในการอภิปรายเหล่านี้

เพื่อตอบสนองต่อประเด็นด้านความปลอดภัยและกฎระเบียบของ AI หวงเสนอแนะว่าอุตสาหกรรมควรพัฒนา AI ด้วย "ความมองโลกในแง่ดีอย่างมีความรับผิดชอบ" และเชื่อว่านักพัฒนาเองต้องรับผิดชอบในเรื่องนี้

ในการพูดคุยเกี่ยวกับความเร็วในการพัฒนา AI นั้น เจนเซน หวง กล่าวว่า บริษัทต่างๆ ควรดำเนินการไปข้างหน้าให้เร็วที่สุดเท่าที่จะทำได้ภายในขีดความสามารถของตน แต่ความเร็วไม่ควรเกินกว่าที่อนุญาตเพื่อความปลอดภัย ต้องใช้แนวทางที่เข้มงวดมากขึ้น โดยต้องมั่นใจว่าผลิตภัณฑ์พร้อมอย่างเต็มที่ก่อนเปิดตัว

ดาริโอ อโมเดอี ซีอีโอของ Anthropic ได้เรียกร้องให้บริษัทต่างๆ ชะลอการพัฒนาโมเดล AI ลง อย่างไรก็ตาม ข้อเสนอของเขาได้จุดประกายการถกเถียงในระดับนานาชาติ โดยบางคนตั้งคำถามว่าผู้บริหาร AI อาจใช้การออกกฎเกณฑ์เพื่อรักษาตำแหน่งผู้นำของบริษัท เตรียมพร้อมสำหรับกฎระเบียบของรัฐบาลที่กว้างขึ้น หรือลดค่าใช้จ่ายมหาศาลที่เกี่ยวข้องกับการขยายตัวอย่างรวดเร็วหรือไม่

รัฐมนตรีด้านปัญญาประดิษฐ์ของอังกฤษ นารายัน กล่าวว่า การประชุมครั้งนี้มุ่งเน้นไปที่ความรับผิดชอบที่ภาคธุรกิจควรมีในการพัฒนาปัญญาประดิษฐ์เพื่อประโยชน์ของประชาชน เขาย้ำว่าการประชุมครั้งนี้ไม่ใช่การประชุมครั้งเดียวจบ แต่เป็นส่วนหนึ่งของการสนทนาต่อเนื่องเพื่อสำรวจบทบาทที่สหราชอาณาจักรสามารถมีส่วนร่วมในการพัฒนาปัญญาประดิษฐ์อย่างมีความรับผิดชอบ

นารายันกล่าวว่า สหราชอาณาจักรมีความสามารถในการทดสอบ AI เข้าใจความเสี่ยงที่เกี่ยวข้อง และลดความเสี่ยงเหล่านั้นลงได้ การประชุมที่สกอตแลนด์ครั้งนี้ยังสะท้อนให้เห็นถึงการที่พระเจ้าชาร์ลส์ที่ 3 ทรงใช้บทบาทของพระองค์ในการจัดการหารือเกี่ยวกับประเด็นระดับโลกอย่างต่อเนื่องอีกด้วย

เจนเซน หวง เปิดเผยว่า เมื่อเขาได้พบกับชาร์ลส์ที่ 3 เป็นครั้งแรก พระองค์ทรงริเริ่มหยิบยกประเด็นเรื่องความปลอดภัยของปัญญาประดิษฐ์ขึ้นมาพูดคุย เขาบอกว่าชาร์ลส์ที่ 3 เป็นหนึ่งในบุคคลแรกๆ ที่แสดงแนวคิดเรื่อง "การมองโลกในแง่ดีอย่างมีความรับผิดชอบ" ออกมาอย่างลึกซึ้ง