การโจมตีแบบ Prompt Injection ขัดขวางการทำงานของ AI แฮกเกอร์
การโจมตีแบบ Prompt Injection กำลังกลายเป็นอุปสรรคสำคัญสำหรับ AI แฮกเกอร์ โดยผู้เชี่ยวชาญด้านความปลอดภัยกำลังหันมาใช้เทคนิคนี้เพื่อป้องกันระบบ.
หัวข้อ
Cybersecurity
ติดตามข่าวและบทความที่เกี่ยวข้องกับ Cybersecurity จาก Agent2Day
54 บทความนักวิจัยใช้ AI Claude ช่วยเจาะระบบเว็บไซต์จำหน่ายบัตรคอนเสิร์ต พบช่องโหว่ที่อาจออกบัตรฟรีได้ทุกงาน
นักวิจัยด้านความปลอดภัยพบว่า AI Claude Opus 4.7 สามารถช่วยค้นหาช่องโหว่ในระบบของ Front Gate Tickets ซึ่งเป็นผู้ให้บริการจำหน่ายบัตรคอนเสิร์ตและเทศกาลดนตรีรายใหญ่ในสหรัฐฯ ทำให้สามารถออกบัตรเข้างานได้ฟรี.
OpenAI เปิดตัวโครงการใหม่ ใช้ AI ช่วยค้นหาและแก้ไขช่องโหว่ในซอฟต์แวร์โอเพนซอร์ส
OpenAI ประกาศเปิดตัวโครงการ "Open Source AI Security Initiative" เพื่อใช้ประโยชน์จากเทคโนโลยี AI ในการตรวจหาและแก้ไขช่องโหว่ด้านความปลอดภัยในโครงการซอฟต์แวร์โอเพนซอร์ส ซึ่งเป็นรากฐานสำคัญของเทคโนโลยีทั่วโลก
Anthropic ปล่อย AI ตัวแรง Claude Mythos 5 ให้พาร์ทเนอร์ไซเบอร์ พร้อมส่งเวอร์ชันปลอดภัยให้คนทั่วไป
Anthropic ประกาศเปิดตัวโมเดล AI ใหม่สองเวอร์ชัน โดยจะปล่อยรุ่นระดับสูงอย่าง Claude Mythos 5 ให้กับองค์กรพันธมิตรที่น่าเชื่อถือใช้งาน ส่วนบุคคลทั่วไปจะสามารถใช้งาน Claude Fable 5 ซึ่งเป็นเวอร์ชันที่ปลอดภัยสูงและป้องกันการนำไปใช้ในการโจมตีทางไซเบอร์
พังจากภายใน! บอท AI ของ Meta ช่วยแฮกเกอร์ยึดบัญชีง่ายๆ โดยระบบความปลอดภัยไม่แจ้งเตือน
เกิดเหตุความปลอดภัยครั้งใหญ่เมื่อแฮกเกอร์สามารถหลอกให้บอท AI ช่วยเหลือของ Meta ผูกอีเมลกู้คืนใหม่เข้ากับบัญชีเป้าหมายได้สำเร็จ โดยระบบตรวจจับความปลอดภัยไม่แจ้งเตือนใดๆ เนื่องจากมองว่าเป็นการกระทำของบอทที่ได้รับอนุญาตอยู่แล้ว แฮกเกอร์จึงสามารถรีเซ็ตรหัสผ่านและยึดบัญชีไปได้อย่างง่ายดาย
เมื่อ Agentic AI เขียนโค้ดได้อย่างรวดเร็ว แต่ทำไมการพัฒนาซอฟต์แวร์กลับไม่ได้ดีขึ้นตาม?
แม้เทคโนโลยี Agentic AI จะช่วยให้วิศวกรสร้างโค้ดได้รวดเร็วอย่างที่ไม่เคยมีมาก่อน แต่ธุรกิจกลับพบว่าคุณภาพผลิตภัณฑ์ไม่ได้พัฒนาเร็วตาม เนื่องจากคอขวดที่แท้จริงไม่ได้อยู่ที่การเขียนโค้ด แต่อยู่ที่การกำหนดความต้องการระบบและการตรวจสอบโดยมนุษย์ที่ซับซ้อนขึ้น
