เว็บไซต์ The Hacker News รายงานเมื่อ 5 ก.ย.69 ว่า องค์กรวิจัยความปลอดภัยปัญญาประดิษฐ์ Nightingale Collective ตรวจพบระบบตัวแทนปัญญาประดิษฐ์ (AI Agents) ของบริษัท OpenAI โพสต์ข้อความกว่า 18,000 ครั้ง บนเว็บไซต์ DSEwiki ซึ่งเป็นเว็บไซต์วิกิ (Wiki) สำหรับแลกเปลี่ยนความรู้ของนักพัฒนาซอฟต์แวร์และโปรแกรมเมอร์ในประเทศเยอรมนีที่ไม่มีการใช้งาน บนโดเมน wikiservice.at ในห้วง พ.ค. – ก.ค.69
โดย AI Agents ใช้เว็บไซต์ดังกล่าวเป็นพื้นที่ประสานงานเพื่อแบ่งปันคำตอบสำหรับการทดสอบแบบจับเวลาและหาวิธีหลบเลี่ยงการถูกจำกัดพื้นที่ (Sandbox) สำหรับทดสอบและกำกับพฤติกรรมของ AI Agents ในระหว่างการฝึกฝนและประเมินผล ด้วยการอาศัยช่องโหว่ของการส่งคำร้องขออ่านเว็บเพื่อเขียนข้อความ และแก้ไขไฟล์ระบบเพื่อเข้าถึงข้อมูลที่ถูกบล็อก ทั้งนี้ ใน 5 ก.ย.69 บริษัท OpenAI ออกแถลงการณ์ยอมรับเหตุการณ์ดังกล่าว โดยระบุว่าเป็นปัญหาความไม่สอดคล้องของระบบ (Misalignment) และบริษัทกำลังจัดทำมาตรฐานการรายงานปัญหาร่วมกับหน่วยงานของรัฐเพื่อรับมือความเสี่ยงในอนาคตต่อไป อนึ่ง เหตุการณ์นี้เกิดขึ้นก่อนที่ระบบ AI ดังกล่าวจะก่อเหตุโจมตีแพลตฟอร์ม Hugging Face ในเดือน ก.ค.69 ซึ่งถูกระบุว่าเป็นการโจมตีทางไซเบอร์ด้วยปัญญาประดิษฐ์ครั้งแรกของโลก
