จีนกำลังเผชิญความท้าทายในการควบคุมการเผยแพร่ข้อมูลที่สร้างขึ้นจากเทคโนโลยีปัญญาประดิษฐ์ (AI) มากขึ้น เฉพาะอย่างยิ่งในห้วงที่หลายพื้นที่ในประเทศเผชิญภัยพิบัติ โดยมีรายงานว่าผู้ใช้ AI จำนวนมากผลิตเนื้อหาที่ไม่สอดคล้องกับความเป็นจริง และเผยแพร่ในสื่อสังคมออนไลน์จนทำให้ประชาชนเกิดความวิตกกังวลและสับสน เช่น กรณีมีรายงานว่าเหตุการณ์น้ำท่วมใหญ่ในมณฑลกว่างซี ประเทศจีน เมื่อ ต้นกรกฎาคม 2569 ส่งผลให้ฟาร์มเพาะเลี้ยงงูในเมืองเหิงโจวได้รับความเสียหายจากอุทกภัย และมีงูประมาณ 800-900 ตัวหลุดออกจากฟาร์ม ทำให้เจ้าหน้าที่ต้องเร่งให้ความช่วยเหลือประชาชน
ขณะเดียวกันในช่วงเวลาดังกล่าวก็มีการเผยแพร่คลิปวิดีโอและภาพที่แสดงว่ามีจระเข้จำนวนมากหลุดจากฟาร์มในพื้นที่ประสบอุทกภัยเช่นกัน ทำให้ประชาชนแตกตื่นและส่งผลกระทบต่อการปฏิบัติงานของเจ้าหน้าที่ในช่วงเวลาวิกฤต กรณีดังกล่าวทำให้หน่วยงานท้องถิ่นของจีนต้องเตือนประชาชนให้ระมัดระวังการเผยแพร่ข้อมูล พร้อมเรียกร้องให้ผู้ที่ใช้ AI ผลิตเนื้อหาในลักษณะดังกล่าวยุติการสร้างปัญหาและเผยแพร่ข้อมูลที่ไม่เป็นความจริง เพียงเพื่อต้องการเพิ่มจำนวนผู้ติดตาม หรือทำให้เนื้อหาได้รับความสนใจจากผู้ใช้อินเทอร์เน็ต
ผู้เชี่ยวชาญในจีนให้ความเห็นว่า ความท้าทายที่เกิดขึ้นนี้เกิดจากการที่ผู้ใช้ AI สามารถใช้งานได้โดยง่าย ไม่จำเป็นต้องมีความสามารถสูงในการสร้างเนื้อหา จึงสร้างข้อมูลปลอมได้โดยไม่ได้คำนึงถึงผลกระทบที่ตามมา ปัจจุบันมีผู้ผลิตเนื้อหาจาก AI จำนวนมากที่ขาดความรับผิดชอบ เนื่องจากได้รับสถานะ “ไม่มีตัวตน” และยังไม่มีกฎหมายควบคุม ขณะที่ผู้ใช้สื่อสังคมออนไลน์ขาดทักษะด้านการตรวจสอบความน่าเชื่อถือของเนื้อหาที่ปรากฏบนแพล็ตฟอร์มต่าง ๆ
ความท้าทายดังกล่าวอาจทำให้จีนต้องทบทวนแนวทางการพัฒนาเทคโนโลยี AI ให้เป็นปัจจัยขับเคลื่อนเศรษฐกิจที่สำคัญ และแนวทางการเผยแพร่ข้อมูลข่าววสารในช่วงภาวะวิกฤต เนื่องจากที่ผ่านมา รัฐบาลจีนสนับสนุนการพัฒนาเทคโนโลยี AI ด้วยการส่งเสริมให้มีผู้ใช้งานจำนวนมาก ควบคู่กับการสร้างทรัพยากรที่เอื้อต่อการพัฒนาความสามารถของ AI แต่ยังไม่มีกลไกป้องกันเนื้อหาที่สร้างขึ้นจาก AI ที่อาจส่งผลกระทบต่อความสงบเรียบร้อยของสังคม
ทั้งนี้ ผู้เชี่ยวชาญบางส่วนเสนอให้จีนเร่งจัดตั้งกลไก “trusted information infrastructure” หรือระบบที่จะช่วยให้ผู้ใช้สื่อต่าง ๆ สามารถแยกแยะข้อมูลที่เป็นข้อเท็จจริงหรือข้อมูลที่สร้างขึ้นด้วยเทคโนโลยี AI ได้ เฉพาะอย่างยิ่งเมื่อเกิดเหตุภัยพิบัติหรือวิกฤตต่าง ๆ เพื่อให้ประชาชนเข้าถึงข้อมูลที่น่าเชื่อถือ ประกอบกับกระตุ้นให้รัฐบาลจีน ให้ความสำคัญกับการเผยแพร่ข้อมูลที่ถูกต้องต่อประชาชน มากกว่าการควบคุมสื่อในช่วงที่เผชิญภาวะวิกฤต ซึ่งอาจช่วยให้ประชาชนมีแหล่งข้อมูลที่เชื่อถือได้ และไม่ต้องติดตามข่าวสารผ่านสื่อสังคมออนไลน์ เพราะเสี่ยงได้พบกับเนื้อหาที่ไม่ถูกต้อง
