OpenAI เปิดตัว GPT-Red ระบบทดสอบความปลอดภัย AI อัตโนมัติด้วยการพัฒนาตนเอง
OpenAI เผยโฉม GPT-Red ระบบทดสอบความปลอดภัย AI แบบอัตโนมัติ ที่ใช้เทคนิค self-play เพื่อเพิ่มความแข็งแกร่งด้านความปลอดภัย การปรับแนวทาง และการป้องกัน prompt injection.

หัวข้อ
ติดตามข่าวและบทความที่เกี่ยวข้องกับ AI จาก Agent2Day
572 บทความOpenAI เผยโฉม GPT-Red ระบบทดสอบความปลอดภัย AI แบบอัตโนมัติ ที่ใช้เทคนิค self-play เพื่อเพิ่มความแข็งแกร่งด้านความปลอดภัย การปรับแนวทาง และการป้องกัน prompt injection.

Realta Fusion บริษัทสตาร์ทอัพด้านพลังงานฟิวชัน ได้เลือกโรงงาน Oscar Mayer เก่าในเมืองแมดิสัน รัฐวิสคอนซิน เป็นที่ตั้งของศูนย์วิจัยและพัฒนาแห่งใหม่ โดยมีเป้าหมายเพื่อสร้างพลาสมาแรกในปี 2029.

นักวิจัยพบว่าผู้พัฒนา AI กำลังนำเทคนิค Prompt Injection มาใช้ในทางกลับกัน เพื่อป้องกันการโจมตีจากแฮกเกอร์ โดยใช้ "Context Bombing" หลอกให้ AI หยุดทำงานก่อนที่จะก่ออันตราย

Gidi Littwin ผู้ร่วมประดิษฐ์เทคโนโลยี FaceID และ Vision Pro ของ Apple ได้ก่อตั้งบริษัท Hemispheric เพื่อพัฒนาโมเดล AI ที่สามารถวิเคราะห์คลื่นไฟฟ้าสมองเพื่อวินิจฉัยโรคทางสมอง โดยมีเป้าหมายให้การตรวจมีราคาถูกและเข้าถึงง่ายเหมือนการตรวจเลือด

ไมลส์ วัง นักวิจัยจาก OpenAI กำลังเจรจาเพื่อก่อตั้งสตาร์ทอัพใหม่ที่เน้นการพัฒนารูปแบบ AI สำหรับการค้นคว้ายา โดยคาดว่าจะมีมูลค่าสูงถึง 2 พันล้านดอลลาร์

DeepSeek บริษัทพัฒนาโมเดลภาษาขนาดใหญ่จากจีน กำลังพิจารณาเข้าจดทะเบียนในตลาดหลักทรัพย์ปี 2027 และอาจระดมทุน 1.5 พันล้านดอลลาร์ ด้วยมูลค่าบริษัทประมาณ 71 พันล้านดอลลาร์

สำนักพิมพ์ Hachette, Elsevier, Cengage Learning และนักเขียน Scott Turow ได้ยื่นฟ้อง Google โดยกล่าวหาว่าบริษัทใช้หนังสือและบทความที่มีลิขสิทธิ์หลายล้านรายการเพื่อสร้างโมเดลปัญญาประดิษฐ์

สตาร์ทอัพด้านการออกแบบยาด้วย AI อย่าง Chai Discovery ได้รับเงินทุน 400 ล้านดอลลาร์ โดยมี Index เป็นผู้นำการลงทุน ด้วยมูลค่าบริษัท 3.8 พันล้านดอลลาร์ พร้อมเสนอโมเดล AI เป็นโครงสร้างพื้นฐานสำหรับบริษัทยา

โจฮันเนส ไฮเด็ค หัวหน้าฝ่ายระบบความปลอดภัยของ OpenAI ได้แจ้งลาออก ท่ามกลางการปรับโครงสร้างองค์กรที่รวมทีมวิจัยและทีมความปลอดภัยเข้าด้วยกัน.

Nvidia เพิ่มความเข้มงวดในการตรวจสอบลูกค้าที่ได้รับอนุญาตให้ซื้อชิป AI ในสิงคโปร์ มาเลเซีย และญี่ปุ่น โดยลดจำนวนลูกค้าลงกว่า 50% เพื่อป้องกันการส่งออกชิปไปยังประเทศจีน

Anthropic เริ่มปรับราคาบริการ AI อย่าง Claude ให้เป็นสกุลเงินรูปีอินเดีย เพื่อเจาะตลาดอินเดีย ซึ่งเป็นตลาดที่ใหญ่ที่สุดเป็นอันดับสองรองจากสหรัฐอเมริกา

คลื่น AI แบบเปิดน้ำหนักของจีนไม่ได้จะมาแล้ว แต่มาถึงแล้ว และโทเค็นกว่าครึ่งในงานเขียนโค้ดของโลกอาจไหลผ่านโมเดลจีนไปแล้ว แต่ราคาที่ถูกนั้นแลกมาด้วยความเสี่ยงด้านข้อมูลที่ไม่อาจปฏิเสธได้หากไม่ได้โฮสต์เซิร์ฟเวอร์เอง
