ผู้พัฒนา AI สกัดกั้นคำสั่งให้ปัญญาประดิษฐ์คิดค้นอาวุธชีวภาพ
บริษัท Anthropic ผู้พัฒนาระบบปัญญาประดิษฐ์ (AI) เมื่อ 10 กันยายน 2569 เผยแพร่รายงานที่ตรวจพบว่า ผู้ใช้งาน AI โมเดล Claude พยายามสั่งการหลายครั้งเพื่อให้ปัญญาประดิษฐ์คิดค้นหรือพัฒนาอาวุธชีวภาพ ทำให้บริษัทจำเป็นต้องสกัดกั้นความพยายามดังกล่าว เนื่องจากเป็นรูปแบบการใช้ AI ที่อันตรายต่อมนุษย์ บริษัท Anthropic ระบุว่ามีผู้ใช้งาน AI ที่พยายามละเมิดข้อจำกัดหรือระเบียบการเข้าถึงข้อมูล และการใช้งาน เพื่อเข้าถึงข้อมูลที่มีความอ่อนไหวต่อความมั่นคงและความปลอดภัยของมนุษย์ เช่น ขั้นตอนการสร้างและพัฒนาเชื้อไวรัสที่แพร่กระจายได้ และการสร้างสารพิษชนิดใหม่ โดยมีรายงานว่ามีผู้ใช้ AI พยายามค้นหาวิธีการที่จะแพร่ไวรัสชิคุนกุนยา และการทำลายภูมิคุ้นกันไวรัสดังกล่าว บริษัทฯ กำลังพิจารณาว่าความพยายามดังกล่าวมีมูลเหตุจูงใจจากประเด็นใด เช่น ความต้องการวิจัยด้านวิทยาศาสตร์เพื่อประโยชน์ด้านวิชาการ หรือความพยายามสร้างอาวุธชีวภาพเพื่อก่อการร้าย พร้อมเปิดเผยว่าผู้ใช้ AI ในลักษณะดังกล่าวส่วนใหญ่เป็นนักวิทยาศาสตร์ แต่ไม่ได้ระบุว่าอยู่สังกัดสถาบัน องค์กร หรือประเทศใด และยังไม่สามารถยืนยันได้ว่าข้อมูลจาก AI จะสามารถนำไปใช้สร้างอาวุธชีวภาพได้จริง พร้อมกันนี้ บริษัทฯ ยังเปิดเผยในห้วงเวลาเดียวกันว่า ผู้ใช้งาน AI จากจีนพยายามใช้โมเดล Claude เพื่อรวบรวมข้อมูลเกี่ยวกับการสร้างอาวุธระยะไกลที่ใช้พลังงานแม่เหล็กไฟฟ้าความเข้มสูง การควบคุมและสั่งการอากาศยานไร้คนขับด้วยคลื่นแม่เหล็ก…











