การโจมตีแบบ Prompt Injection ซึ่งเป็นการฝังคำสั่งที่เป็นอันตรายลงในเนื้อหา เพื่อหลอกให้โมเดลภาษาขนาดใหญ่ (LLM) ทำตามคำสั่งนั้น ได้กลายเป็นเครื่องมือหลักของแฮกเกอร์ในการใช้แพลตฟอร์ม AI ให้เป็นอันตรายต่อผู้ใช้ การใช้คำสั่งที่เขียนอย่างชาญฉลาดซึ่งซ่อนอยู่ในอีเมลหรือคำเชิญในปฏิทิน มักเป็นกุญแจสำคัญที่ทำให้ LLM เปิดเผยข้อมูลที่ละเอียดอ่อน หรือดำเนินการที่เป็นอันตรายอื่นๆ
อย่างไรก็ตาม ล่าสุดนักวิจัยจาก Tracebit ได้เปิดเผยว่า ขณะนี้ผู้พัฒนาและผู้ดูแลระบบ AI กำลังเริ่มนำเทคนิค Prompt Injection มาใช้ในทางกลับกัน เพื่อป้องกันการโจมตีดังกล่าว โดยใช้กลยุทธ์ที่เรียกว่า "Context Bombing" ซึ่งเป็นการส่งข้อมูลจำนวนมากหรือคำสั่งที่ซับซ้อนเข้าไปยัง AI เพื่อทำให้ AI เกิดความสับสน หรือหยุดการทำงานก่อนที่จะสามารถดำเนินการตามคำสั่งที่เป็นอันตรายของผู้โจมตีได้
เทคนิค Context Bombing นี้มีเป้าหมายเพื่อทำให้ AI "ระเบิด" ด้วยข้อมูลที่มากเกินไป จนไม่สามารถประมวลผลคำสั่งที่เป็นอันตรายที่ซ่อนอยู่ได้ ซึ่งเปรียบเสมือนการทำให้ AI "ปิดตัวเอง" เพื่อหลีกเลี่ยงการถูกควบคุมโดยผู้ไม่ประสงค์ดี การนำเทคนิคนี้มาใช้แสดงให้เห็นถึงการปรับตัวของผู้ที่ทำงานด้านความปลอดภัย AI ในการรับมือกับภัยคุกคามรูปแบบใหม่ที่เกิดขึ้นอย่างต่อเนื่อง
การพัฒนาและการนำเทคนิคป้องกันใหม่ๆ เช่น Context Bombing มาใช้ สะท้อนให้เห็นถึงการแข่งขันที่ทวีความรุนแรงขึ้นระหว่างผู้โจมตีและผู้ป้องกันในโลกของ AI ความสามารถในการคาดการณ์และตอบสนองต่อช่องโหว่ใหม่ๆ จะเป็นกุญแจสำคัญในการรักษาความปลอดภัยของระบบ AI ในอนาคต
