บริษัท Anthropic ผู้พัฒนาระบบปัญญาประดิษฐ์ (AI) เมื่อ 10 กันยายน 2569 เผยแพร่รายงานที่ตรวจพบว่า ผู้ใช้งาน AI โมเดล Claude พยายามสั่งการหลายครั้งเพื่อให้ปัญญาประดิษฐ์คิดค้นหรือพัฒนาอาวุธชีวภาพ ทำให้บริษัทจำเป็นต้องสกัดกั้นความพยายามดังกล่าว เนื่องจากเป็นรูปแบบการใช้ AI ที่อันตรายต่อมนุษย์ บริษัท Anthropic ระบุว่ามีผู้ใช้งาน AI ที่พยายามละเมิดข้อจำกัดหรือระเบียบการเข้าถึงข้อมูล และการใช้งาน เพื่อเข้าถึงข้อมูลที่มีความอ่อนไหวต่อความมั่นคงและความปลอดภัยของมนุษย์ เช่น ขั้นตอนการสร้างและพัฒนาเชื้อไวรัสที่แพร่กระจายได้ และการสร้างสารพิษชนิดใหม่ โดยมีรายงานว่ามีผู้ใช้ AI พยายามค้นหาวิธีการที่จะแพร่ไวรัสชิคุนกุนยา และการทำลายภูมิคุ้นกันไวรัสดังกล่าว
บริษัทฯ กำลังพิจารณาว่าความพยายามดังกล่าวมีมูลเหตุจูงใจจากประเด็นใด เช่น ความต้องการวิจัยด้านวิทยาศาสตร์เพื่อประโยชน์ด้านวิชาการ หรือความพยายามสร้างอาวุธชีวภาพเพื่อก่อการร้าย พร้อมเปิดเผยว่าผู้ใช้ AI ในลักษณะดังกล่าวส่วนใหญ่เป็นนักวิทยาศาสตร์ แต่ไม่ได้ระบุว่าอยู่สังกัดสถาบัน องค์กร หรือประเทศใด และยังไม่สามารถยืนยันได้ว่าข้อมูลจาก AI จะสามารถนำไปใช้สร้างอาวุธชีวภาพได้จริง พร้อมกันนี้ บริษัทฯ ยังเปิดเผยในห้วงเวลาเดียวกันว่า ผู้ใช้งาน AI จากจีนพยายามใช้โมเดล Claude เพื่อรวบรวมข้อมูลเกี่ยวกับการสร้างอาวุธระยะไกลที่ใช้พลังงานแม่เหล็กไฟฟ้าความเข้มสูง การควบคุมและสั่งการอากาศยานไร้คนขับด้วยคลื่นแม่เหล็ก แต่รัฐบาลจีนได้ปฏิเสธและตอบโต้ข้อมูลของบริษัท Anthropic ไปแล้ว
ผู้พัฒนา AI เปิดเผยเหตุการณ์และรายงานดังกล่าวเพื่อเตือนให้ทั่วโลกตระหนักว่า การใช้ AI อย่างไม่เหมาะสมอาจทำให้เกิดผู้ก่อเหตุร้าย ที่ใช้ความสามารถของ AI ในการออกแบบและพัฒนาการโจมตีต่อมนุษยชาติ ที่ผ่านมา บริษัทผู้พัฒนายารักษาโรคเป็น 1 ในภาคส่วนที่ได้รับประโยชน์จากการใช้งาน AI เพื่อสนับสนุนการวิจัยและพัฒนายารักษาโรคต่าง ๆ มาโดยตลอด แต่ในทางกลับกัน ก็มีนักวิทยาศาสตร์และผู้ใช้งาน AI บางส่วนที่แสวงประโยชน์จากความสามารถของ AI เฉพาะอย่างยิ่งโมเดล Claude ซึ่งเป็น AI ที่มีความสามารถสูงและได้รับความนิยมในการใช้งานเพื่อสนับสนุนงานวิจัยด้านวิทยาศาสตร์
มีความเป็นไปได้สูงที่ในอนาคต บริษัท Anthropic ผู้พัฒนาโมเดล Claude จะเพิ่มการตรวจสอบผู้ใช้งาน ยกระดับมาตรการที่ทำให้บริษัทเข้าถึงกิจกรรมและเครือข่ายของผู้ใช้งาน รวมทั้งตั้งค่าระบบป้องกันการใช้งาน AI ที่เสี่ยงอันตรายหรือเป็นภัยคุกคามต่อมนุษยชาติ ซึ่งจะครอบคลุมทั้งการป้องกันการใช้ AI เพื่อสร้างและพัฒนาอาวุธชีวภาพ และการใช้ AI เพื่อปฏิบัติการสอดแนม การสร้างอิทธิพลเหนือความคิด (influence operations) ปฏิบัติการโจมตีทางไซเบอร์ สร้างและพัฒนาอากาศยานไร้คนขับ และขีปนาวุธ พร้อมกันนี้ บริษัทดังกล่าวได้ออกแบบโมเดล AI ที่พัฒนาระบบป้องกันแล้ว คือ โมเดล Claude Fable 5
คำเตือนของบริษัท Anthropic จะเปิดโอกาสให้ผู้พัฒนา AI ได้ยืนยันความชอบธรรมที่ผู้พัฒนาจะตรวจสอบและกำหนดมาตรฐานด้านความปลอดภัยของโมเดล AI รวมทั้งกลุ่มผู้ใช้งาน รวมทั้งอาจเป็น “ความพยายามสร้างกระแส” เพื่อเพิ่มมูลค่าทางการตลาดให้กับโมเดล AI ใหม่ ๆ ที่มีความปลอดภัยมากขึ้น
ขณะเดียวกัน ท่าทีของบริษัทนี้ก็เป็นคำเตือนที่สอดคล้องกับผู้พัฒนา AI ทั่วโลกที่ทยอยเผยแพร่คำเตือนเกี่ยวกับการพัฒนาและใช้งาน AI โดยไม่มีกฎระเบียบหรือมาตรฐานสากล และไม่มีการสร้างความตระหนักรู้เรื่องการใช้ AI ให้ปลอดภัย เฉพาะอย่างยิ่งในกรณีที่รัฐบาลสหรัฐฯ นำโดยประธานาธิบดีโดนัลด์ ทรัมป์ ต้องการลดระเบียบเพื่อกระตุ้นอุตสาหกรรมที่เกี่ยวข้องกับการพัฒนาเทคโนโลยี AI ทำให้ธุรกิจและกิจกรรมที่เกี่ยวข้องกับ AI เติบโตอย่างรวดเร็ว กลายเป็น “พื้นที่ใหม่” ที่ไร้ระเบียบและเสี่ยงถูกแสวงประโยชน์โดยกลุ่มก่อการร้าย แฮ้กเกอร์ และคู่ขัดแย้งทางการเมือง ก่อนหน้านี้ บริษัท Anthropic เผยแพร่งานวิจัยที่สะท้อนว่ามีความเป็นไปได้ร้อยละ 10 ที่ปัญญาประดิษฐ์จะสังหารมนุษย์ หากผู้ใช้งานและผู้พัฒนายังขาดความรับผิดชอบ เนื่องจากจะมีความสามารถในระดับที่ปฏิวัติหรือเปลี่ยนแปลงทุกระบบที่จำเป็นต่อความมั่นคงปลอดภัยของมนุษย์ได้
