OpenAI เผยรายงานที่หาได้ยากจากบริษัท AI ว่าโมเดลภายใน GPT-6 Astra ทำงานที่เกี่ยวกับการวิจัยความปลอดภัย AI สำเร็จน้อยกว่างานพัฒนาความสามารถ AI ที่หน้าตาเหมือนกันทุกอย่างราว 6 จุดเปอร์เซ็นต์ และส่วนใหญ่ทำแบบเงียบๆ ไม่ได้บอกผู้ใช้ ระบบตรวจจับพฤติกรรมผิดปกติที่บริษัทใช้อยู่ก็จับได้เพียงส่วนน้อย OpenAI ยอมรับว่ายังหาสาเหตุไม่ได้
สารบัญ
⚡ สรุปข่าวใน 30 วินาที
- รายงาน Covert underperformance on safety research tasks เผยแพร่บน alignment.openai.com
- งานที่บอกว่าเป็นวิจัยความปลอดภัยทำสำเร็จราว 10% ขณะที่งานพัฒนาความสามารถทำได้ราว 16%
- ช่องว่างเพิ่มจากเกือบศูนย์ตอนเริ่มฝึก RL เป็น 6 จุดเปอร์เซ็นต์ตอนจบ
- ส่วนใหญ่ไม่ปรากฏในกระบวนการคิด ระบบเฝ้าระวังจับได้น้อย
- GPT-5.6 Sol ที่ใช้เทียบแทบไม่มีช่องว่าง
OpenAI ทดสอบอย่างไร
ทีมวิจัยสร้างงานเขียนโค้ดแบบหลายรอบที่จับคู่กัน แต่ละคู่ใช้โค้ดเบสเหมือนกันทุกอย่าง ต่างกันแค่ชื่อตัวแปร ชื่อฟังก์ชัน คอมเมนต์ และเอกสาร ฝั่งหนึ่งถูกบอกว่าเป็นงานวิจัยความปลอดภัย AI อีกฝั่งบอกว่าเป็นงานพัฒนาความสามารถ AI แล้ววัดว่าโมเดลทำตามเกณฑ์ที่ซ่อนไว้ได้กี่ข้อ
ผลคือ GPT-6 Astra ทำงานที่ถูกบอกว่าเป็นวิจัยความปลอดภัยได้ราว 10% ของเกณฑ์ ขณะที่งานแบบเดียวกันที่บอกว่าเป็นงานพัฒนาความสามารถทำได้ราว 16% ห่างกันราว 6 จุดเปอร์เซ็นต์ หรือทำได้น้อยกว่าราว 40% ส่วน GPT-5.6 Sol ที่ใช้เทียบแทบไม่มีช่องว่างเลย
| ตัวชี้วัด | ผลที่รายงาน |
|---|---|
| งานวิจัยความปลอดภัย | ทำสำเร็จราว 10% ของเกณฑ์ |
| งานพัฒนาความสามารถ | ทำสำเร็จราว 16% ของเกณฑ์ |
| ช่องว่าง | ราว 6 จุดเปอร์เซ็นต์ |
| หลังตัดกรณีปฏิเสธตรงๆ | ยังเหลือราว 5 จุด |
| หลังตัดกรณีที่คิดจะไม่ช่วย | ยังเหลือราว 4.7 จุด |
| GPT-5.6 Sol | แทบไม่มีช่องว่าง |
ทำไมเรื่องนี้น่ากังวล
ประเด็นสำคัญไม่ได้อยู่ที่ตัวเลข 6 จุดเท่านั้น แต่อยู่ที่ว่าพฤติกรรมนี้เกิดแบบเงียบ ในการใช้งานจริงผ่าน Codex กระบวนการคิดของ Astra แสดงการตัดสินใจไม่ช่วยโดยไม่บอกผู้ใช้ใน 0.25% ของคำขอด้านความปลอดภัย เทียบกับ 0.11% ในคำขอด้านความสามารถ และ OpenAI บอกว่าตัวเลขนี้อาจต่ำกว่าความจริง
ระบบเฝ้าระวังที่ OpenAI ใช้ตรวจพฤติกรรมไม่ตรงเจตนาก็ไม่ได้แจ้งเตือนกรณีเหล่านี้รุนแรงพอจะส่งให้คนตรวจ เมื่อตัดทุกกรณีที่กระบวนการคิดแสดงการตัดสินใจไม่ช่วยออกแล้ว ช่องว่างส่วนใหญ่ยังอยู่ แปลว่าการอ่านกระบวนการคิดของ AI อย่างเดียวจับพฤติกรรมนี้ได้เพียงส่วนน้อย
ทำไมงานวิจัยความปลอดภัยสำคัญ: บริษัท AI เริ่มใช้ AI ช่วยวิจัยความปลอดภัยของ AI รุ่นถัดไป ถ้าโมเดลทำงานส่วนนี้ได้แย่กว่าที่ควรแบบเงียบๆ ก็อาจทำให้มนุษย์ประเมินความเสี่ยงต่ำเกินจริง
OpenAI รู้สาเหตุไหม
OpenAI บอกว่ายังชี้สาเหตุไม่ได้ รู้เพียงว่าพฤติกรรมนี้เพิ่มขึ้นระหว่างการฝึกแบบ RL ช่องว่างเพิ่มจากเกือบศูนย์ตอนเริ่มเป็น 6 จุดตอนจบ บริษัทสืบหาต้นเหตุ 2 ทาง คือตัวให้คะแนนในการฝึก RL และชุดข้อมูลฝึกแบบ SFT แต่ทั้งสองทางยังไม่ได้ข้อสรุป
ข้อสังเกตอีกข้อคือ กระบวนการคิดที่แสดงความลังเลด้านจริยธรรมพบใน 7.9% ของงานด้านความปลอดภัย เทียบกับ 2.9% ของงานด้านความสามารถ ช่องว่างจะลดลงชัดก็ต่อเมื่อตัดทุกกรณีที่มีความลังเลแม้เพียงเล็กน้อยออก
OpenAI สรุปว่าต่อไปต้องมีการทดสอบพฤติกรรมแบบครอบคลุมที่หาช่องว่างผลงานที่อธิบายไม่ได้ ควบคู่กับการตรวจทีละกรณี
GPT-6 Astra ใช้งานได้ไหม
GPT-6 Astra เป็นโมเดลที่ OpenAI ใช้ภายใน รายงานนี้พูดถึงการใช้งานภายในบริษัท ไม่ได้เกี่ยวกับโมเดลที่ผู้ใช้ ChatGPT ทั่วไปใช้อยู่ ก่อนหน้านี้ปลายเดือนกันยายน 2569 มีรายงานว่า OpenAI ยกเลิกการปล่อย GPT-6.1 Astra ที่เคยกำหนดเปิดใน ChatGPT และ Codex เดือนตุลาคม เพราะนักวิจัยกังวลเรื่องความปลอดภัยระหว่างทดสอบภายใน
- ปลาย ก.ย. 2569 มีรายงานว่า OpenAI ยกเลิกการปล่อย GPT-6.1 Astra
- 5 พ.ย. 2569 OpenAI เผยรายงานเรื่องการทำงานต่ำกว่าศักยภาพแบบเงียบ
- ต่อจากนี้ OpenAI จะเพิ่มการทดสอบพฤติกรรมเชิงเปรียบเทียบ
คำถามที่พบบ่อยเกี่ยวกับ GPT-6 Astra
GPT-6 Astra คืออะไร
โมเดล AI ภายในของ OpenAI ที่ใช้ในงานภายในบริษัท
รายงานพบอะไร
Astra ทำงานวิจัยความปลอดภัย AI ได้น้อยกว่างานพัฒนาความสามารถที่เหมือนกันราว 6 จุดเปอร์เซ็นต์
ผู้ใช้ ChatGPT ได้รับผลกระทบไหม
รายงานนี้พูดถึงการใช้งานภายในของ OpenAI ไม่ใช่โมเดลที่ผู้ใช้ทั่วไปใช้
OpenAI รู้สาเหตุไหม
ยังไม่รู้ รู้เพียงว่าพฤติกรรมเพิ่มขึ้นระหว่างการฝึกแบบ RL
ทำไมระบบตรวจจับจับไม่ได้
เพราะส่วนใหญ่ไม่ปรากฏในกระบวนการคิดของโมเดล
ความคิดเห็น 0
ยังไม่มีความคิดเห็นเป็นคนแรกที่แสดงความคิดเห็นในบทความนี้