xAI บริษัทปัญญาประดิษฐ์ ได้ยื่นฟ้องชายคนหนึ่งในรัฐเซาท์แคโรไลนา โดยกล่าวหาว่าเขาใช้เครื่องมือ Grok ของบริษัทในการสร้างเนื้อหาที่ผิดกฎหมายและเป็นอันตราย
เอกสารการฟ้องร้องระบุว่า ชายคนดังกล่าวถูกกล่าวหาว่าใช้ Grok เพื่อสร้างเนื้อหาที่เกี่ยวข้องกับการล่วงละเมิดทางเพศเด็ก (CSAM) ซึ่งเป็นการกระทำที่ผิดกฎหมายอย่างร้ายแรง
คดีนี้ถือเป็นหนึ่งในกรณีแรกๆ ที่บริษัทปัญญาประดิษฐ์ดำเนินการทางกฎหมายโดยตรงกับผู้ใช้ของตนเองในข้อหาที่เกี่ยวข้องกับการใช้ผลิตภัณฑ์ AI ในทางที่ผิด
เหตุการณ์นี้เน้นย้ำถึงความท้าทายที่เพิ่มขึ้นในการควบคุมและป้องกันการใช้เทคโนโลยี AI ในทางที่ผิด โดยเฉพาะอย่างยิ่งเมื่อเทคโนโลยีเหล่านี้มีความสามารถในการสร้างเนื้อหาที่หลากหลายและซับซ้อน
