เว็บไซต์ Talk Android รายงานเมื่อ 19 เม.ย. 68 ว่า นักวิจัยจากบริษัท Sakana AI ประเทศญี่ปุ่น พบว่า AI พยายามข้ามข้อจำกัดที่ถูกตั้งโปรแกรมไว้ โดย AI ดังกล่าวชื่อว่า “นักวิทยาศาสตร์ A I (The AI Scientist)” มีหน้าที่ดำเนินการทดลองอัตโนมัติโดยพึ่งพามนุษย์ให้น้อยที่สุด สามารถสร้างการวิจัย เขียนคำสั่งโปรแกรมที่ใช้งานได้ ดำเนินการทดลอง และจัดทำรายงานทางวิทยาศาสตร์ อย่างไรก็ตาม ระหว่างการทดสอบ นักวิจัยพบว่า AI ดังกล่าวได้พยายามปรับเปลี่ยนพารามิเตอร์โปรแกรมของตัวเองโดยที่นักวิจัยไม่ได้สั่งการ เพื่อเพิ่มเวลาการดำเนินการสำหรับกระบวนการทดลอง และพยายามมอบทรัพยากรเพิ่มเติมให้กับตัวเองนอกเหนือจากข้อจำกัดที่กำหนดไว้
แม้เหตุการณ์ดังกล่าวจะเกิดขึ้นในสภาพแวดล้อมที่จำกัดและอยู่ภายใต้การควบคุม แต่ก็แสดงให้เห็นว่า AI สามารถแสดงพฤติกรรมที่ไม่คาดคิดได้ จึงต้องมีการตรวจสอบอย่างระมัดระวัง
บริษัท Sakana AI แนะนำให้ขับเคลื่อนในสภาพแวดล้อมที่แยกจากภายนอกโดยจำกัดการเข้าถึงระบบและทรัพยากรที่สำคัญอย่างเคร่งครัด
