จากการตรวจสอบพบว่ามีแอปพลิเคชันและเว็บไซต์จำนวนประมาณ 400 รายการ ซึ่งมีความเชื่อมโยงกับนักพัฒนาที่ใช้ภาษาจีน แฝงตัวมาในรูปแบบของเครื่องมือ AI ทั่วไปที่ผู้ใช้งานคุ้นเคย แต่ภายในกลับมีการติดตั้งฟีเจอร์ลับที่อนุญาตให้ผู้ใช้สามารถสร้างภาพและวิดีโอที่สร้างจาก AI ในลักษณะที่มีความรุนแรงและลามกอนาจารได้
ตัวอย่างที่พบคือแอปพลิเคชันที่ชื่อว่า Viefur ซึ่งในตอนแรกดูเหมือนจะเป็นเพียงแอปพลิเคชันสร้างภาพพอร์ตเทรตสัตว์เลี้ยงทั่วไป โดยแอปพลิเคชันเหล่านี้มักใช้ระบบเหรียญดิจิทัลในการทำธุรกรรม เช่น การจ่ายเงินประมาณ 4 ดอลลาร์เพื่อแลกกับเหรียญ 130 เหรียญ เพื่อนำไปใช้ในการเปลี่ยนภาพสัตว์เลี้ยงให้กลายเป็นภาพในลักษณะต่างๆ เช่น การใส่เสื้อผ้ามนุษย์หรืออยู่ในฉากที่แปลกตา
ทำไมเรื่องนี้จึงสำคัญ
ผู้ใช้งานทั่วไปที่ดาวน์โหลดแอปพลิเคชัน AI เพื่อความบันเทิงอาจตกเป็นเหยื่อหรือมีส่วนร่วมในการสร้างเนื้อหาที่ละเมิดผู้อื่นโดยไม่รู้ตัว การที่แอปพลิเคชันเหล่านี้แฝงตัวอยู่ในคราบของเครื่องมือทั่วไปทําให้การตรวจสอบและป้องกันทําได้ยากขึ้น ซึ่งส่งผลกระทบโดยตรงต่อความปลอดภัยทางดิจิทัลและจริยธรรมในการใช้เทคโนโลยี AI
มุมมอง Agent2Day
เหตุการณ์นี้เป็นเครื่องเตือนใจสําคัญว่าผู้ใช้งานควรเพิ่มความระมัดระวังในการเลือกใช้แอปพลิเคชัน AI โดยเฉพาะแอปพลิเคชันที่มาจากแหล่งที่ไม่คุ้นเคยหรือมีโมเดลธุรกิจที่เน้นการขายเหรียญดิจิทัลภายในแอป เพราะความสะดวกสบายที่ได้รับอาจแลกมาด้วยความเสี่ยงด้านความปลอดภัยและจริยธรรมที่ร้ายแรง
อย่างไรก็ตาม ภายใต้รูปลักษณ์ของแอปพลิเคชันที่ดูไม่มีพิษมีภัยเหล่านี้ กลับมีฟังก์ชันที่ซ่อนอยู่ซึ่งเปิดช่องให้เกิดการใช้งานในทางที่ผิด ซึ่งรวมถึงการสร้างเนื้อหา Deepfake ที่ละเมิดสิทธิส่วนบุคคลและมีความรุนแรง ซึ่งถือเป็นความเสี่ยงสำคัญต่อผู้ใช้งานทั่วไปที่อาจไม่ทราบถึงฟีเจอร์ที่แอบแฝงอยู่
การค้นพบครั้งนี้สะท้อนให้เห็นถึงปัญหาความปลอดภัยในแอปพลิเคชัน AI ที่มีอยู่เป็นจำนวนมากในปัจจุบัน ซึ่งมักจะใช้กลยุทธ์การตลาดที่ดูเหมือนเครื่องมือสร้างสรรค์ทั่วไปเพื่อดึงดูดผู้ใช้งาน แต่กลับมีจุดประสงค์แอบแฝงในการให้บริการสร้างเนื้อหาที่ผิดจริยธรรมและเป็นอันตราย
