รายงานจาก Washington Post ระบุว่า หญิงสาวรายหนึ่งซึ่งถูกระบุในเอกสารทางกฎหมายว่า 'Jane Doe 4' ได้ตัดสินใจเข้าร่วมในคดีฟ้องร้องระดับรัฐบาลกลางต่อบริษัท xAI โดยมีข้อกล่าวหาสำคัญว่าพ่อเลี้ยงของเธอได้ใช้เครื่องมือปัญญาประดิษฐ์ Grok ในการดัดแปลงรูปถ่ายในวัยเด็กของเธอให้กลายเป็นภาพลามกอนาจารเด็ก (CSAM) จำนวนมากกว่า 7,000 ภาพ
ตามคำฟ้องระบุว่า ภาพที่ถูกสร้างขึ้นจากการใช้ AI ดังกล่าวถูกนำไปซื้อขายและเผยแพร่บนโลกออนไลน์ ซึ่งเหตุการณ์นี้กลายเป็นประเด็นสำคัญที่สะท้อนถึงความกังวลเกี่ยวกับความปลอดภัยและการใช้งานเทคโนโลยี AI ในทางที่ผิด โดยเฉพาะในกรณีที่เกี่ยวข้องกับการละเมิดสิทธิและสร้างความเสียหายต่อเด็ก
คดีความนี้เกิดขึ้นท่ามกลางกระแสวิพากษ์วิจารณ์ถึงนโยบายของ xAI ภายใต้การนำของ Elon Musk ซึ่งถูกมองว่ามีความแตกต่างจากบริษัท AI รายใหญ่อื่นๆ ในอุตสาหกรรม โดยมีการตั้งข้อสังเกตถึงการส่งเสริมให้มีการใช้ Grok ในการสร้างเนื้อหาทางเพศ ซึ่งนำไปสู่ความกังวลอย่างกว้างขวางเกี่ยวกับอันตรายที่อาจเกิดขึ้นจากการเข้าถึงเครื่องมือเหล่านี้โดยไม่มีการควบคุมที่เพียงพอ
การเข้าร่วมฟ้องร้องในครั้งนี้ถือเป็นความเคลื่อนไหวทางกฎหมายที่สำคัญในการเรียกร้องความรับผิดชอบจากบริษัทเทคโนโลยีต่อการนำเครื่องมือ AI ไปใช้ในทางที่ผิดกฎหมายและผิดจริยธรรม โดยเฉพาะในกรณีที่ส่งผลกระทบโดยตรงต่อความปลอดภัยของบุคคลและเด็ก ซึ่งขณะนี้คดีดังกล่าวกำลังได้รับความสนใจอย่างมากในแวดวงเทคโนโลยีและหน่วยงานที่เกี่ยวข้อง
