สร้างข่าวปลอมด้วย AI ตำรวจจีนจับกุมชายที่ใช้ ChatGPT สร้างและเผยแพร่ข่าวปลอม

ตำรวจจีนจับกุมชายที่ใช้ ChatGPT สร้างข่าวปลอมเกี่ยวกับอุบัติเหตุรถไฟ ซึ่งถือเป็นกรณีแรกของการบังคับใช้กฎหมายที่เกี่ยวข้องกับปัญญาประดิษฐ์ในจีน

ตำรวจในมณฑลกานซู ทางตะวันตกเฉียงเหนือของจีน จับกุมชายแซ่ฮง ซึ่งถูกกล่าวหาว่าเผยแพร่ข่าวปลอมเกี่ยวกับอุบัติเหตุรถไฟชนกันที่ทำให้มีผู้เสียชีวิต 9 ราย บนแพลตฟอร์มในเครือ Baidu โดยข่าวปลอมดังกล่าวมีผู้เข้าชมแล้วกว่า 15,000 ครั้ง

เจ้าหน้าที่ตำรวจมณฑลกานซูเปิดเผยว่า นายฮงถูกจับกุมฐานละเมิดกฎหมายว่าด้วยเทคโนโลยีการสังเคราะห์สื่อเชิงลึกเพื่อเลียนแบบมนุษย์ (deep synthesis technologies) ที่เพิ่งมีผลบังคับใช้เมื่อวันที่ 10 ม.ค. ที่ผ่านมา

โดยเทคโนโลยีการสังเคราะห์เชิงลึกหมายถึง การใช้ AI เพื่อสร้างข้อความ รูปภาพ วิดีโอ หรือสื่ออื่นๆ ซึ่งกฎหมายระบุว่าห้ามนำเทคโนโลยีดังกล่าวไปใช้เพื่อการผลิตและเผยแพร่ข่าวปลอม

รายงานระบุว่า นายฮงใช้ ChatGPT สร้างข่าวปลอมในเวอร์ชันที่แตกต่างกันเล็กน้อย เพื่อหลีกเลี่ยงระบบตรวจจับข้อมูลซ้ำซ้อนของแพลตฟอร์ม

ทั้งนี้ แม้ว่ารัฐบาลจีนจะปิดกั้นการเข้าถึง ChatGPT แต่ผู้ใช้งานในจีนยังสามารถเข้าถึงได้ผ่านการใช้ VPN (virtual private network) ซึ่งเป็นซอฟต์แวร์ที่ช่วยให้ผู้ใช้สามารถเข้าถึงเว็บไซต์ที่ถูกปิดกั้น