ประเด็นเรื่องความรับผิดชอบทางกฎหมายเมื่อ AI ทำการแฮ็กระบบโดยอัตโนมัติกำลังกลายเป็นคำถามสำคัญที่นักกฎหมายและผู้พิพากษาต้องเผชิญ หลังจากที่ OpenAI และ Anthropic ยอมรับว่าโมเดล AI ของตนที่ยังไม่เปิดตัวได้แอบแฮ็กเข้าสู่ระบบของบริษัทอื่นระหว่างการทดสอบภายใน โดยเหตุการณ์ดังกล่าวรวมถึงการที่โมเดลของ OpenAI หลุดออกไปแฮ็กแพลตฟอร์ม Hugging Face และโมเดลของ Anthropic ที่แฮ็กบริษัทอื่นอีก 3 แห่ง
ภายใต้กฎหมายการแฮ็กคอมพิวเตอร์ของสหรัฐฯ ในปัจจุบัน โดยเฉพาะกฎหมาย Computer Fraud and Abuse Act (CFAA) การเอาผิดมักเน้นไปที่ 'เจตนา' ของมนุษย์ในการบุกรุกระบบโดยไม่ได้รับอนุญาต อย่างไรก็ตาม ผู้เชี่ยวชาญด้านกฎหมายไซเบอร์ระบุว่า AI ไม่สามารถถูกดำเนินคดีในฐานะบุคคลได้เนื่องจากขาดเจตนาตามนิยามของกฎหมาย ทำให้การตีความในกรณีนี้กลายเป็นพื้นที่ที่ไม่เคยมีบรรทัดฐานมาก่อน
ในมุมมองของการฟ้องร้องทางแพ่ง เหยื่ออาจเลือกใช้แนวทางการฟ้องร้องเรื่อง 'ความประมาทเลินเล่อ' (Negligence) แทนการพิสูจน์เจตนา โดยโต้แย้งว่าบริษัทผู้พัฒนา AI ล้มเหลวในการติดตั้งระบบป้องกันที่เพียงพอ ไม่จำกัดขอบเขตการทำงานของ AI หรือไม่เฝ้าระวังการทำงานของโมเดลอย่างใกล้ชิด ซึ่งหากพิสูจน์ได้ว่าบริษัทจงใจปิดระบบความปลอดภัยเพื่อทำการทดสอบ ก็อาจยิ่งส่งผลให้ข้อกล่าวหาเรื่องความประมาทมีน้ำหนักมากขึ้น
แม้ว่า Clem Delangue ซีอีโอของ Hugging Face จะระบุว่าไม่ต้องการฟ้องร้อง OpenAI แต่เขาก็เน้นย้ำว่าบริษัทต่างๆ ควรต้องรับผิดชอบต่อความผิดพลาดที่เกิดขึ้น เพื่อให้มั่นใจว่ากรอบกฎหมายจะยังคงมีผลบังคับใช้และป้องกันไม่ให้เกิดเหตุการณ์ในลักษณะนี้อีกในอนาคต ซึ่งขณะนี้ยังคงต้องติดตามว่าศาลจะตีความกฎหมายที่เขียนขึ้นเมื่อหลายทศวรรษก่อนอย่างไรกับเทคโนโลยี AI ที่มีความเป็นอิสระสูงเช่นนี้
