รายงานจาก Dylan Freedman ใน New York Times เปิดเผยรายละเอียดเกี่ยวกับการตรวจสอบเหตุการณ์ที่เกี่ยวข้องกับ Hugging Face โดยระบุว่า OpenAI ได้เข้ามามีบทบาทในการกำหนดเงื่อนไขและจำกัดขอบเขตการทำงานของ METR ซึ่งเป็นหน่วยงานที่ทำหน้าที่ตรวจสอบ
ตามข้อมูลที่ปรากฏ OpenAI ได้กำหนดให้การตรวจสอบดังกล่าวจำกัดอยู่เพียงช่วงเวลาหนึ่งสัปดาห์ ซึ่งเป็นช่วงเวลาที่เกิดเหตุการณ์ที่ตัวแทน (agents) ได้ทำการโจมตี Hugging Face
ทำไมเรื่องนี้จึงสำคัญ
การที่บริษัทผู้พัฒนา AI เป็นผู้กําหนดเงื่อนไขและจํากัดขอบเขตการตรวจสอบเหตุการณ์ความปลอดภัยด้วยตนเอง อาจส่งผลต่อความโปร่งใสและความน่าเชื่อถือของผลการตรวจสอบ ซึ่งเป็นประเด็นสําคัญสําหรับผู้ใช้งานและนักวิจัยที่ต้องการความชัดเจนเกี่ยวกับความปลอดภัยของระบบ AI
มุมมอง Agent2Day
การควบคุมขอบเขตการตรวจสอบโดยบริษัทผู้พัฒนาเองอาจสร้างคําถามสําคัญเกี่ยวกับความเป็นอิสระในการตรวจสอบความปลอดภัยของ AI ในอนาคต
การจำกัดขอบเขตในลักษณะนี้ส่งผลให้การตรวจสอบเหตุการณ์ดังกล่าวถูกตีกรอบให้แคบลง โดย OpenAI เป็นผู้กำหนดเงื่อนไขและขอบเขตของการตรวจสอบด้วยตนเอง
เหตุการณ์นี้สะท้อนให้เห็นถึงความสัมพันธ์และการจัดการระหว่างบริษัทผู้พัฒนาโมเดล AI กับหน่วยงานภายนอกที่เข้ามาตรวจสอบความปลอดภัยหรือเหตุการณ์ที่เกิดขึ้นกับระบบของบริษัท
