SambaNova Supermicro ระบบ AI ชิป SN50 คู่ GPU Nvidia คืออะไร

Supermicro จับมือ SambaNova ขายระบบ AI ผสมชิป SN50 กับ GPU Nvidia เริ่มที่ 10,000 ชิป ยืดอายุ GPU เดิม

Supermicro และ SambaNova ร่วมขายระบบประมวลผล AI ที่ให้ GPU Nvidia ทำ prefill และชิป SN50 ทำ decode เริ่มวางแผน 10,000 ชิป หวังเพิ่มกำลัง inference โดยไม่ต้องสร้างศูนย์ข้อมูลใหม่

เขียนโดยKOMCHAD 6 พ.ย. 2569 · 23:18 น.อ่าน 4 นาที

SambaNova SN50 ชิปประมวลผล AI จากสตาร์ตอัปที่ Intel หนุนหลัง จะถูกนำไปขายคู่กับ GPU ของ Nvidia ผ่าน Supermicro ผู้ผลิตเซิร์ฟเวอร์รายใหญ่ ดีลประกาศเมื่อ 3 พฤศจิกายน 2569 แนวคิดคือแบ่งงานรันโมเดล AI ออกเป็นสองช่วง ให้ GPU ทำช่วงที่ต้องใช้พลังคำนวณ และให้ SN50 ทำช่วงที่ต้องใช้หน่วยความจำ เป้าหมายคือเพิ่มกำลังให้บริการ AI โดยไม่ต้องสร้างศูนย์ข้อมูลใหม่ ระยะแรกวางแผนไว้ที่ชิป SN50 จำนวน 10,000 ตัว

สารบัญ

แบ่งงาน AI เป็นสองช่วง
สเปกชิป SN50
ใครได้ประโยชน์
เบื้องหลัง SambaNova
คำถามที่พบบ่อยเกี่ยวกับ SambaNova SN50 และ Supermicro

⚡ สรุปข่าวใน 30 วินาที

Supermicro และ SambaNova ประกาศความร่วมมือ 3 พ.ย. 2569 ขายระบบ AI แบบผสม
GPU Nvidia ทำ prefill (ประมวลผลคำสั่ง) ส่วน SN50 ทำ decode (สร้างคำตอบ)
ระยะแรกวางแผนใช้ชิป SN50 จำนวน 10,000 ตัว
SN50 ผลิตที่ 5nm ของ TSMC มี SRAM ในชิป 432MB และ HBM2E 64GB
เริ่มจากผู้ให้บริการ NeoCloud และคลาวด์ระดับชาติ ก่อนขยายสู่องค์กร

10,000ชิป SN50 ระยะแรก

432MBSRAM ในชิป

64GBHBM2E

256RDU สูงสุดต่อระบบ

แบ่งงาน AI เป็นสองช่วง

การรันโมเดลภาษาเพื่อตอบคำถาม หรือ inference แบ่งได้เป็นสองช่วงหลัก ช่วงแรกเรียกว่า prefill คือการอ่านและประมวลผลคำสั่งทั้งหมดที่ผู้ใช้ส่งมา ช่วงนี้ใช้พลังคำนวณหนัก ช่วงที่สองเรียกว่า decode คือการสร้างคำตอบทีละโทเคน ช่วงนี้ไม่ได้ต้องคำนวณมาก แต่ต้องดึงข้อมูลจากหน่วยความจำตลอดเวลา

GPU ของ Nvidia เก่งช่วง prefill ส่วนชิปแบบ Reconfigurable Dataflow Unit หรือ RDU ของ SambaNova ออกแบบมาให้ทำ decode ได้มีประสิทธิภาพ ระบบใหม่จึงให้แต่ละชิปทำงานที่ตัวเองถนัด แนวคิดนี้เรียกว่า disaggregated inference ซึ่งผู้ให้บริการ AI หลายรายเริ่มนำมาใช้

ช่วงงาน	ลักษณะ	ชิปที่ทำ
Prefill	ประมวลผลคำสั่ง ใช้พลังคำนวณหนัก	GPU Nvidia
Decode	สร้างคำตอบทีละโทเคน ใช้หน่วยความจำหนัก	SambaNova SN50

Sambanova Supermicro Sn50 Nvidia Inference 2

สเปกชิป SN50

SN50 เป็นชิป RDU รุ่นที่ห้าของ SambaNova ผลิตด้วยกระบวนการ 5 นาโนเมตรของ TSMC จุดเด่นคือหน่วยความจำสามระดับ ได้แก่ SRAM ในชิป 432MB ที่เร็วมาก หน่วยความจำ HBM2E 64GB และ DDR5 เป็นชั้นที่สามสำหรับเก็บโมเดลขนาดใหญ่ ระบบหนึ่งขยายได้สูงสุด 256 RDU กระจายหลายแร็ก

หัวข้อ	SambaNova SN50
ประเภท	Reconfigurable Dataflow Unit รุ่นที่ 5
กระบวนการผลิต	TSMC 5nm
SRAM ในชิป	432MB
HBM	64GB HBM2E
หน่วยความจำชั้นที่ 3	DDR5
ขยายสูงสุด	256 RDU หลายแร็ก

ข้อดีที่ SambaNova ชูคือ SN50 รันโมเดลใหญ่ได้โดยไม่ต้องใช้แร็กที่กินไฟหนาแน่นมาก จึงติดตั้งในศูนย์ข้อมูลเดิมได้ง่ายกว่าระบบ GPU รุ่นใหม่ที่ต้องใช้ระบบระบายความร้อนด้วยของเหลว

ใครได้ประโยชน์

Supermicro จะรับหน้าที่ประกอบ ทดสอบ ส่งมอบ และดูแลระบบรวมถึงบริการถึงที่ ส่วน SambaNova ส่งวิศวกรช่วยปรับแต่งโมเดลให้รันบน SN50 การขายจะเริ่มจากผู้ให้บริการคลาวด์ GPU รุ่นใหม่ที่เรียกว่า NeoCloud และคลาวด์ระดับชาติ ก่อนขยายไปยังองค์กรที่รัน AI ในศูนย์ข้อมูลของตัวเอง

บริษัททั้งสองอ้างว่าการเพิ่ม RDU เข้าไปในระบบเดิม ช่วยเพิ่มกำลังให้บริการ AI ได้โดยไม่ต้องสร้างอาคารใหม่ และยืดอายุการใช้งานของ GPU ที่ติดตั้งไว้แล้ว ตัวเลขประสิทธิภาพเหล่านี้ยังเป็นข้อมูลจากบริษัท ยังไม่มีผลทดสอบอิสระ

💡

ดีลนี้ประกาศสองวันก่อนที่หุ้นชิปทั่วโลกจะร่วงหนักจากความกังวลเรื่องการสร้างศูนย์ข้อมูลที่ช้าลง แนวทางเพิ่มกำลังโดยใช้อาคารเดิมจึงตอบโจทย์ประเด็นที่ตลาดกังวลอยู่พอดี

เบื้องหลัง SambaNova

SambaNova เป็นสตาร์ตอัปชิป AI จากสหรัฐฯ ที่ได้เงินทุนก้อนใหญ่จากกลุ่มที่มี Intel ร่วมด้วยเมื่อต้นปี 2569 และได้รับการประเมินมูลค่าราว 1.1 หมื่นล้านดอลลาร์ หลังระดมทุนอีกรอบในเดือนกรกฎาคม บริษัทเปลี่ยนจุดยืนจากการแข่งกับ Nvidia ตรงๆ มาเป็นการทำงานร่วมกับ GPU ที่ลูกค้ามีอยู่แล้ว