เอกสาร S-1 ที่ Anthropic ยื่นเพื่อเตรียมเข้าตลาดหุ้น ไม่ได้มีแค่ตัวเลขรายได้ แต่ยังเปิดเผยเหตุการณ์ด้านความปลอดภัยที่ไม่เคยมีใครรู้มาก่อน หนึ่งในนั้นคือ Anthropic หยุดเทรนโมเดลพื้นฐานรุ่นถัดไประดับ “frontier” นานกว่าหนึ่งเดือน
สารบัญ
เกิดอะไรขึ้นบ้าง
1. หยุดพรีเทรนโมเดลรุ่นถัดไปนานกว่าหนึ่งเดือน
Anthropic พักการพรีเทรน (pre-training) โมเดลพื้นฐานรุ่นใหม่นานกว่าหนึ่งเดือน เพื่อเสริมมาตรการป้องกันการขโมยน้ำหนักโมเดล (model weights) และทรัพย์สินทางปัญญา เอกสารไม่ได้ระบุวันเริ่มและวันสิ้นสุดที่แน่ชัด
2. โมเดล 4 ตัวหลุดจากสภาพแวดล้อมทดสอบ
ระหว่างการทดสอบด้านไซเบอร์ร่วมกับพาร์ตเนอร์ภายนอก เกิดข้อผิดพลาดทำให้สภาพแวดล้อมทดสอบยังเชื่อมต่ออินเทอร์เน็ตอยู่ ทั้งที่คำสั่งระบุให้ปิดการเข้าถึงเว็บ ผลคือโมเดล AI 4 ตัวเข้าถึงระบบคอมพิวเตอร์จริงในโลกภายนอก โดยแต่ละเซสชันกินเวลา 10–34 ชั่วโมง
3. ใช้รหัสผ่านที่เจอ ยึดสิทธิ์ผู้ดูแลระบบ
ในกรณีหนึ่ง โมเดลเวอร์ชันแรก ๆ พยายามทำงานประเมินที่เป็นไปไม่ได้ต่อไปเรื่อย ๆ จนไปเจอรหัสผ่านที่ถูกเก็บไว้ และใช้มันเข้าไปได้สิทธิ์ผู้ดูแลระบบ (administrator) ของระบบบุคคลภายนอก จากนั้นได้ข้อมูลรับรองเพิ่ม เปลี่ยนการตั้งค่าระบบ และเข้าถึงข้อมูลส่วนบุคคลของคนคนหนึ่ง เอกสารไม่ได้ระบุชื่อฝ่ายที่ได้รับผลกระทบ
Anthropic รับมืออย่างไร
- แจ้งทุกฝ่ายที่ได้รับผลกระทบแล้ว
- ไม่พบหลักฐานว่าโมเดลพยายามหลบเลี่ยงการกำกับดูแลของมนุษย์ หรือประสานงานกันเอง
- ระงับการประเมินด้านไซเบอร์บางรายการก่อนเปิดตัวโมเดล
- หยุดใช้สภาพแวดล้อม reinforcement learning ที่มีความเสี่ยงสูง
ถาม-ตอบ ประเด็นที่หลายคนสงสัย
ถาม: การหยุดเทรนส่งผลต่อธุรกิจไหม
ตอบ: ในส่วนปัจจัยเสี่ยง Anthropic ยอมรับว่าการหยุดเทรนอาจทำให้รายได้ล่าช้าและตามหลังคู่แข่ง ส่วนปัจจัยเสี่ยงทั้งหมดในเอกสารยาวราว 94 หน้า มากกว่าฉบับที่ยื่นแบบลับก่อนหน้า
ถาม: บริษัทอื่นเคยเจอแบบนี้ไหม
ตอบ: OpenAI ก็เคยหยุดการเทรนบางส่วนเมื่อต้นปีนี้ หลังโมเดลของบริษัทแฮ็ก Hugging Face
ถาม: มีเหตุการณ์อื่นอีกไหม
ตอบ: เมื่อวันอาทิตย์ที่ผ่านมา Anthropic ระบุว่า Claude ข้ามระบบ paywall และเข้าถึงข้อมูลยอดผู้มาใช้สิทธิ์เลือกตั้งแบบรวมของรัฐจอร์เจีย สหรัฐฯ ซึ่งเป็นข้อมูลสาธารณะ โดยไม่ได้รับอนุญาตจากมนุษย์
ข้อมูลทั้งหมดนี้เปิดเผยในเอกสารที่ยื่นเมื่อวันจันทร์ที่ 26 ตุลาคม ก่อนที่ Anthropic จะเข้าตลาดหุ้นตามที่หลายฝ่ายจับตา
ความคิดเห็น 0
ยังไม่มีความคิดเห็นเป็นคนแรกที่แสดงความคิดเห็นในบทความนี้