OpenAI บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำระดับโลก ได้ประกาศดำเนินการแบนบัญชีผู้ใช้งานที่มีที่มาจากประเทศจีนและเกาหลีเหนือ หลังตรวจพบว่ามีการใช้ ChatGPT ในการดำเนินกิจกรรมที่เป็นอันตรายทางไซเบอร์ รวมถึงการสร้างเครื่องมือสำหรับการสอดแนมและโจมตีระบบความมั่นคง การเปิดเผยข้อมูลครั้งนี้มาพร้อมกับรายงานเรื่อง "Disrupting malicious uses of AI" ที่แสดงให้เห็นถึงการใช้เทคโนโลยี AI ในทางที่ผิดโดยกลุ่มแฮกเกอร์ที่ได้รับการสนับสนุนจากรัฐบาล
รายงานจากบริษัท Genians ผู้เชี่ยวชาญด้านความปลอดภัยไซเบอร์ของเกาหลีใต้ เปิดเผยว่ากลุ่มแฮกเกอร์ Kimsuky หรือที่รู้จักในนาม APT43 ซึ่งมีความเชื่อมโยงกับเกาหลีเหนือ ได้ใช้ ChatGPT ในการสร้างบัตรประจำตัวทหารเกาหลีใต้ปลอมแบบ Deepfake เพื่อใช้ในแคมเปญฟิชชิ่งโจมตีหน่วยงานด้านความมั่นคงของเกาหลีใต้ ในเดือนกรกฎาคม 2025 กลุ่มแฮกเกอร์ได้ส่งอีเมลที่ปลอมแปลงให้ดูเหมือนมาจากหน่วยงานทหาร พร้อมแนบไฟล์มัลแวร์ที่ออกแบบมาเพื่อขโมยข้อมูลจากอุปกรณ์ของเหยื่อ โดยใช้ภาพบัตรประจำตัวที่สร้างด้วย AI เป็นเครื่องมือในการหลอกลวงให้ดูน่าเชื่อถือ
นอกจากการปลอมแปลงเอกสารแล้ว OpenAI ยังพบว่ากลุ่มแฮกเกอร์จากจีนและเกาหลีเหนือใช้ ChatGPT ในกิจกรรมที่หลากหลาย ได้แก่:
- การสร้างข้อความโซเชียลมีเดียจำนวนมากเพื่อแพร่ข้อมูลบิดเบือนและโฆษณาชวนเชื่อ
- การปรับปรุงโค้ดมัลแวร์และเครื่องมือสำหรับการโจมตีทางไซเบอร์
- การสร้างเรซูเม่ปลอมและเอกสารประกอบการสมัครงานเพื่อแทรกซึมเข้าสู่องค์กร
- การวิเคราะห์และรวบรวมข้อมูลเพื่อการสอดแนม
การดำเนินการของ OpenAI ในครั้งนี้เป็นส่วนหนึ่งของมาตรการรักษาความปลอดภัยที่เข้มงวดขึ้น โดยบริษัทได้พัฒนาระบบตรวจจับพฤติกรรมที่ผิดปกติของผู้ใช้งาน เช่น การสร้างคำขอ (prompt) จำนวนมากในลักษณะที่ผิดปกติ หรือการพยายามหลีกเลี่ยงระบบความปลอดภัยของ ChatGPT ด้วยการเปลี่ยนรูปแบบคำถาม แม้ว่า ChatGPT จะมีกลไกป้องกันไม่ให้สร้างเนื้อหาที่เป็นอันตรายตั้งแต่แรก แต่กลุ่มแฮกเกอร์เหล่านี้พยายามหาช่องโหว่โดยการปรับเปลี่ยนวิธีการถามคำถามอย่างต่อเนื่อง
กรณีนี้สะท้อนให้เห็นถึงความท้าทายใหม่ในยุคของ AI โดยเฉพาะการใช้เทคโนโลยีที่พัฒนามาเพื่อประโยชน์ของมนุษยชาติกลับถูกนำไปใช้ในทางที่ผิด OpenAI ระบุว่าจะยังคงเฝ้าระวังและปรับปรุงมาตรการรักษาความปลอดภัยอย่างต่อเนื่อง พร้อมทั้งประสานงานกับหน่วยงานด้านความมั่นคงปลอดภัยระดับนานาชาติเพื่อแบ่งปันข้อมูลเกี่ยวกับภัยคุกคามและร่วมมือกันป้องกันการใช้ AI ในทางที่ผิด การแบนบัญชีเหล่านี้จึงเป็นสัญญาณที่ชัดเจนว่าผู้พัฒนา AI กำลังให้ความสำคัญกับการใช้งานอย่างมีจริยธรรมและรับผิดชอบมากขึ้น