Anthropic ให้ทีมนักวิจัยจาก METR องค์กรไม่แสวงกำไรที่ประเมินความเสี่ยงของโมเดล AI ระดับแนวหน้า เข้าไปทำงานด้านในบริษัทด้วยสิทธิ์เข้าถึงใกล้เคียงพนักงาน ประกาศเมื่อ 15 ตุลาคม 2569 ตามเวลาสหรัฐฯ (ตรงกับเช้ามืดวันที่ 16 ตุลาคม 2569 เวลาไทย) และที่สำคัญคือ METR เผยแพร่ผลการประเมินได้เอง โดยที่ Anthropic ไม่มีสิทธิ์สั่งห้าม
สารบัญ
⚡ สรุปข่าวใน 30 วินาที
- นักวิจัย METR 6 คนได้แล็ปท็อปของบริษัท พื้นที่ทำงาน และเครื่องมือภายในระดับเดียวกับทีมประเมินความเสี่ยงของ Anthropic
- METR จะเผยแพร่รายงานเรื่องความเสี่ยง เหตุการณ์ผิดปกติ และแนวปฏิบัติของ Anthropic ได้ โดยบริษัทไม่มีสิทธิ์วีโต้
- Anthropic ขอตัดข้อมูลได้เฉพาะหมวดที่ตกลงไว้ เช่น ข้อมูลลูกค้า เอกสารที่ได้รับความคุ้มครองทางกฎหมาย และสถาปัตยกรรมโมเดล
- Anthropic แบ่งผู้ประเมินภายนอกเป็น 3 ระดับ ตอนนี้ METR เป็นรายเดียวในระดับสูงสุด
METR ได้สิทธิ์อะไรบ้างใน Anthropic
ตามโพสต์ของ Anthropic ทีม METR จะได้อุปกรณ์ของบริษัท ที่นั่งทำงาน และเข้าถึงเครื่องมือกับระบบภายในพอ ๆ กับทีมประเมินความเสี่ยงของ Anthropic เอง พนักงานยังได้รับการสนับสนุนให้คุยและแชร์ข้อมูลกับทีมนี้เหมือนเพื่อนร่วมงานที่ทำเรื่องความเสี่ยงด้าน alignment ส่วนพนักงาน METR คนอื่น รวมถึงคนที่ทำโปรเจกต์อื่นกับ Anthropic จะถูกกันออกจากงานนี้ ภายใต้ข้อตกลงที่บังคับใช้ได้ทางกฎหมาย
Anthropic ย้ำว่าข้อตกลงนี้ไม่ได้เปิดทางให้องค์กรอื่นเข้าถึงข้อมูลของบริษัท ลูกค้า หรือพาร์ตเนอร์ และ METR วิจารณ์ต่อสาธารณะได้ว่าการขอตัดข้อมูลแต่ละครั้งสมเหตุสมผลหรือไม่ แม้จะเปิดเผยเนื้อหาที่ถูกตัดไม่ได้ก็ตาม
ระบบผู้ประเมิน 3 ระดับของ Anthropic
| ระดับ | สิทธิ์ที่ได้ | ตัวอย่าง |
|---|---|---|
| ระดับ 1 | ตรวจเฉพาะเรื่อง เผยแพร่ได้เมื่อ Anthropic อนุมัติ | SecureBio ตรวจบทอาวุธเคมีและชีวภาพในรายงานความเสี่ยงเดือนสิงหาคม 2569 |
| ระดับ 2 | ได้ข้อมูลมากขึ้น เผยแพร่เองได้โดยไม่ต้องขออนุมัติ | ยังไม่ระบุชื่อ |
| ระดับ 3 | เข้าถึงแบบพนักงาน และเผยแพร่เองได้ | METR (รายเดียวในตอนนี้) |
นอกจาก METR แล้ว Anthropic กำลังคุยเรื่องความร่วมมือด้านการทดสอบโมเดล red-teaming และการทดสอบระบบป้องกันกับ Accenture และ Faculty และอยู่ระหว่างหารือขั้นต้นกับ Hugging Face รวมถึงองค์กรอื่น
We’re embedding evaluators voluntarily, and we believe every frontier AI company should do the same.
Anthropic
ทำไม Anthropic ถึงยอมเปิดบ้านให้คนนอก
TechCrunch ระบุว่าการตัดสินใจครั้งนี้มาหลังจากมีการเปิดเผยเหตุการณ์ที่เอเจนต์ AI ทำงานนอกเหนือคำสั่งหลายครั้ง ทำให้มีเสียงเรียกร้องให้มีคนนอกเข้ามาตรวจสอบบริษัท AI มากขึ้น Anthropic เปรียบแนวทางนี้กับการที่หน่วยงานกำกับดูแลส่งผู้ตรวจเข้าไปประจำในธนาคารรายใหญ่ ก่อนหน้านี้ Dario Amodei ซีอีโอของ Anthropic เขียนบทความในเดือนกันยายนเสนอแนวคิดผู้ประเมินภายนอกที่ฝังตัวอยู่ในแล็บ AI ตามด้วย OpenAI ที่ให้คำมั่นแบบเดียวกัน และต่อมา Anthropic, OpenAI, Google, Meta, NVIDIA และ xAI ได้ร่วมลงนามข้อตกลงกับทำเนียบขาวว่าจะเปิดให้มีการตรวจสอบอิสระ
เกี่ยวอะไรกับคนไทย: คนไทยและบริษัทไทยที่ใช้ Claude ทำงานจะมีรายงานจากองค์กรภายนอกไว้ดูประกอบว่าโมเดลที่ใช้อยู่มีความเสี่ยงอะไร และบริษัทรับมือแบบไหน แทนที่จะต้องเชื่อข้อมูลจากผู้พัฒนาฝ่ายเดียว
คำถามที่พบบ่อยเกี่ยวกับ Anthropic และ METR
METR คือใคร
METR เป็นองค์กรไม่แสวงกำไรที่ประเมินความสามารถและความเสี่ยงของโมเดล AI ระดับแนวหน้า และเคยร่วมรีวิวรายงานความเสี่ยงของ Anthropic มาแล้วหลายครั้งในปีที่ผ่านมา
Anthropic ห้าม METR เผยแพร่รายงานได้ไหม
ไม่ได้ Anthropic ไม่มีสิทธิ์วีโต้ ทำได้เพียงขอตัดข้อมูลบางหมวดที่ตกลงไว้ล่วงหน้า เช่น ข้อมูลลูกค้า เอกสารที่ได้รับความคุ้มครองทางกฎหมาย และรายละเอียดสถาปัตยกรรมโมเดล
บริษัท AI อื่นทำแบบนี้ด้วยหรือเปล่า
OpenAI ให้คำมั่นแบบเดียวกันหลังบทความของ Dario Amodei และหลายบริษัทรวมถึง Google, Meta, NVIDIA และ xAI ได้ลงนามข้อตกลงกับทำเนียบขาวเรื่องการตรวจสอบอิสระ แต่ตอนนี้ METR เป็นผู้ประเมินรายเดียวที่ได้สิทธิ์ระดับพนักงานใน Anthropic
ความคิดเห็น 0
ยังไม่มีความคิดเห็นเป็นคนแรกที่แสดงความคิดเห็นในบทความนี้