รายงานล่าสุดเผย Claude ถูกนำไปใช้ในทางที่ผิด ทั้งการแฮ็กระดับรัฐและอาวุธชีวภาพ

Anthropic ได้เผยแพร่รายงานฉบับใหม่ที่สรุปภาพรวมการนำ AI รุ่น Claude ไปใช้ในทางที่ผิดตลอดระยะเวลา 8 เดือนที่ผ่านมา โดยระบุว่าเครื่องมือดังกล่าวถูกนำไปใช้เป็นทางลัดในการเพิ่มประสิทธิภาพสำหรับกิจกรรมที่ผิดกฎหมายในวงกว้าง ซึ่งรวมถึงการแฮ็กข้อมูลโดยกลุ่มที่ได้รับการสนับสนุนจากรัฐและการก่ออาชญากรรมทางไซเบอร์

ในรายงานระบุถึงกรณีศึกษาที่น่าสนใจ เช่น กลุ่มแฮ็กเกอร์ Midnight Blizzard จากรัสเซีย ที่ใช้ Claude ในการสืบหาข้อมูลเพื่อเจาะระบบเครือข่ายของรัฐบาลในยูเครนและยุโรป นอกจากนี้ กลุ่มอาชญากรไซเบอร์อย่าง ShinyHunters ยังใช้ AI ในทุกขั้นตอนของการแฮ็กและขู่กรรโชกทรัพย์ รวมถึงมีการใช้เครื่องมือนี้ในแคมเปญเผยแพร่ข้อมูลบิดเบือนทางการเมืองในหลายประเทศ

สิ่งที่น่ากังวลที่สุดคือการตรวจพบความพยายามของผู้ใช้งานบางกลุ่มที่พยายามใช้ Claude เพื่อพัฒนาอาวุธชีวภาพ เช่น เชื้อก่อโรคและสารพิษ แม้ว่าทาง Anthropic จะยืนยันว่าบริษัทสามารถตรวจพบและระงับกิจกรรมเหล่านี้ได้ในระหว่างที่กำลังดำเนินการ แต่รายงานดังกล่าวก็สะท้อนให้เห็นถึงความท้าทายที่เพิ่มขึ้นในการควบคุมการใช้งาน AI

แม้ Anthropic จะเน้นย้ำถึงความสำเร็จในการป้องกันภัยคุกคามเหล่านี้ แต่ผู้เชี่ยวชาญมองว่ารายงานนี้เป็นเพียงส่วนหนึ่งของปัญหาเท่านั้น เนื่องจากไม่มีการรับประกันว่าบริษัทจะสามารถตรวจจับการใช้งานที่มุ่งร้ายได้ทั้งหมด ประกอบกับการมีเครื่องมือ AI แบบโอเพนซอร์สที่ขาดการป้องกันที่เข้มงวด ทำให้สถานการณ์นี้อาจเป็นเพียงจุดเริ่มต้นของความเสี่ยงที่มาพร้อมกับเทคโนโลยี AI