บริษัทกราฟฟิก้าพบเนื้อหาวิดีโอบิดเบือนข้อมูลที่สนับสนุนจีน

คลิปวิดีโอที่ใช้เทคโนโลยี Deepfake สร้างอวตารผู้ประกาศข่าวจากช่อง “Wolf News” จำนวน 2 คลิป เผยแพร่บนบัญชีเฟสบุ๊กและทวิตเตอร์ ระหว่างวันที่ 22 – 30 พ.ย.65 จำนวน 5 บัญชี และถูกกระจายข้อมูลโดยบัญชีอื่นอีกอย่างน้อย 2 บัญชี ที่เชื่อมโยงไปสู่เครือข่ายสนับสนุนจีน “Spamouflage” ภายหลังการตรวจสอบพบว่า อวตารนี้ถูกสร้างโดย ซินธีเซีย บริษัทซอฟต์แวร์ปัญญาประดิษฐ์ในลอนดอน

เทคโนโลยี Deepfake เป็นซอฟต์แวร์ปัญญาประดิษฐ์สำหรับสร้างอวตารที่เหมือนคนจริงๆ ทั้งลักษณะตัวละครและการแต่งกาย ที่เหนือกว่าโปรแกรมตัดต่อทั่วไป มีความสมจริงเป็นอย่างมาก จึงถูกนำมาใช้บิดเบือนข้อมูลบุคคลสาธารณะ เช่น คลิปวิดีโอนายโวโลดิเมียร์ เซเลนสกี้ ประธานาธิบดียูเครนประกาศยอมแพ้ ถูกเผยแพร่บนสื่อสังคมออนไลน์ เมื่อปลายปี 2565

บริษัท Graphika พบคลิปผู้ประกาศข่าวชายรายงานข่าวความล้มเหลวของสหรัฐฯ ในการดำเนินการต่อต้านเหตุกราดยิง และคลิปวิดีโอผู้ประกาศข่าวหญิงแถลงบทบาทของจีนเกี่ยวกับความสัมพันธ์ทางภูมิรัฐศาสตร์ที่การประชุมสุดยอดผู้นำระหว่างประเทศ จากช่อง “Wolf News” แต่มีจุดผิดปกติหลายอย่าง เช่น เสียงไม่เป็นไปตามการเคลื่อนไหวของปาก ผมขึ้นไม่เป็นธรรมชาติ ใบหน้าเป็นจุดพิกเซลคล้ายภาพวิดีโอเกมส์ รวมทั้งข้อความบรรยายผิดหลักไวยากรณ์ ดูมีวัตถุประสงค์เพื่อส่งเสริมผลประโยชน์ของพรรคคอมมิวนิสต์จีนและด้อยค่าสหรัฐฯ จากการติดตามอวตารของช่อง “Wolf News” และไปส่องดูวิดีโออื่น ๆ และพบว่ามีตัวละครเดียวกันบนเว็บไซต์ของซินธีเซีย ซึ่งเรียกอวตารทั้งสองว่า เจสัน (Jason) และแอนนา (Anna)

นายวิคเตอร์ ริพาร์เบลลิ ผู้ร่วมก่อตั้งและประธานของซินธีเซีย กล่าวว่า “คนที่ใช้เทคโนโลยีเพื่อสร้างอวตารแบบผิดๆ ได้ละเมิดข้อกำหนดการให้บริการที่ระบุไว้ว่า เทคโนโลยีของบริษัทจะไม่ถูกใช้สำหรับเนื้อหาทางการเมือง เพศ ส่วนบุคคล อาชญากรรม และความเห็นต่าง” นายริพาร์เบลลิ ปฏิเสธที่จะแบ่งปันข้อมูลวิดีโอของช่อง “Wolf News” และได้ระงับบัญชีพวกเขาแล้ว นอกจากนี้ยังได้กล่าวเพิ่มเติมว่า “มันเป็นเรื่องยากที่จะตรวจสอบว่าข้อมูลในวิดีโอต่างๆเป็นข้อมูลเท็จ แต่พร้อมรับผิดชอบทุกอย่างที่เกิดขึ้นบนแพลตฟอร์มของพวกเราอย่างเต็มที่” รวมทั้งเรียกร้องให้ผู้กำหนดนโยบายตั้งกฎที่ชัดเจนยิ่งขึ้นเกี่ยวกับวิธีการใช้ปัญญาประดิษฐ์ Deepfake

คุณแจ็ค สตับบส์ รองประธานฝ่ายข่าวกรองของกราฟฟิก้า กล่าวว่า “นี่คือครั้งแรกที่ซอฟต์แวร์ปัญญาประดิษฐ์สามารถหาซื้อได้ง่ายทางออนไลน์ สร้างวิดีโอในเวลาไม่กี่นาที และค่าสมัครรับข้อมูลขั้นต่ำไม่กี่ดอลลาร์ต่อเดือน ทำให้ง่ายที่จะผลิตเนื้อหาได้ในทุกแบบ” สุดท้าย คุณสตับบส์เสริมว่า “ผู้เผยแพร่ข้อมูลบิดเบือนบนโลกออนไลน์จะทดลองใช้ซอฟต์แวร์ปัญญาประดิษฐ์ปัญญาเพื่อผลิตสื่อชวนเชื่อที่ตรวจสอบได้ยากมากขึ้น และในอนาคตก็จะมีวิดีโอที่ถูกบิดเบือนออกมาอยู่เรื่อยๆ

ที่มา: https://www.nytimes.com/2023/02/07/technology/artificial-intelligence-training-deepfake.html