สำนักข่าว Japantimes รายงานเมื่อ 15 มี.ค. 68 ว่า วิดีโอที่ถูกสร้างโดยปัญญาประดิษฐ์ (AI) ที่มีเนื้อหาเกี่ยวกับสงครามในตะวันออกกลาง อาทิ ทหารสหรัฐฯ ถูกจับโดยอิหร่าน เมืองของอิสราเอลอยู่ในสภาพซากปรักหักพัง และสถานทูตสหรัฐฯ ถูกทำลาย ได้เผยแพร่อยู่บนแพลตฟอร์ม X อย่างแพร่หลาย ซึ่งบางส่วนเป็นข้อมูลเท็จ (Fake News) ปะปนกับข้อมูลที่เป็นความจริง และเพิ่มขึ้นอย่างรวดเร็วจนผู้ตรวจสอบข้อเท็จจริงไม่สามารถตรวจสอบได้อย่างทันท่วงที และเนื่องจากบัญชีของแพลตฟอร์ม X แบบพรีเมียม (แบบมีค่าใช้จ่าย) มีส่วนร่วม (Engagement) อาทิ การโพส กดแชร์ หรือการคอมเม้นท์ใต้โพส ทำให้เกิดแรงจูงใจให้ผู้ใช้งานเผยแพร่เนื้อหาที่ผิดหรือสุ่มเสี่ยงมากขึ้น ยิ่งไปกว่านั้น Grok ระบบปัญญาประดิษฐ์ของ X ยังระบุหลายเนื้อหาที่ถูกสร้างจาก AI ว่าเป็นความจริง ทำให้ผู้ใช้งานไม่สามารถแยกแยะได้ว่าเนื้อหาใดเป็นเนื้อหาจริงหรือปลอม
แม้ทางแพลตฟอร์ม X จึงได้ออกนโยบาย ระงับการจ่ายเงินให้กับบัญชีผู้สร้างเนื้อหาเกี่ยวกับสงครามที่ไม่เปิดเผยว่าถูกสร้างด้วย AI หรือไม่เป็นระยะเวลา 90 วัน และหากฝ่าฝืนอีก จะถูกระงับบัญชีถาวรอย่างไรก็ตาม ยังมีผู้ใช้งานระดับพรีเมียมบางบัญชีที่ยังไม่ถูกระงับการใช้งาน และระบบ Community Notes ก็ไม่สามารถตรวจสอบข้อเท็จจริงของเนื้อหาได้อย่างมีประสิทธิภาพ ทำให้ทางแพลตฟอร์ม X ไม่สามารถรับประกันความแม่นยำและความครอบคลุมในการใช้นโยบายดังกล่าวได้
