Nvidia Vera Rubin แรงขึ้น 10 เท่า เตรียมเป็นโครงสร้างหลักของศูนย์ข้อมูล AI รุ่นใหม่
Nvidia เปิดเผยความก้าวหน้าของระบบประมวลผล AI รุ่น Vera Rubin โดยระบุว่าสถาปัตยกรรมใหม่สามารถให้ปริมาณงานหรือ Throughput สูงกว่าแพลตฟอร์ม Blackwell Ultra ได้ถึงประมาณ 10 เท่าในภาระงานบางประเภท
แพลตฟอร์มดังกล่าวไม่ได้ประกอบด้วย GPU เพียงอย่างเดียว แต่เป็นระบบระดับ Rack-scale ซึ่งรวม CPU, GPU, หน่วยความจำ แพลตฟอร์มเครือข่าย และซอฟต์แวร์เข้าด้วยกัน เพื่อให้ศูนย์ข้อมูลสามารถฝึกและให้บริการโมเดล AI ขนาดใหญ่ได้อย่างมีประสิทธิภาพ
พันธมิตรที่กำลังเตรียมนำระบบไปติดตั้งประกอบด้วย CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure และ Mistral ซึ่งสะท้อนว่า Vera Rubin กำลังถูกวางเป็นโครงสร้างพื้นฐานสำหรับทั้งผู้ให้บริการคลาวด์และบริษัทพัฒนาโมเดล AI ระดับแนวหน้า
ประสิทธิภาพ 10 เท่าไม่ได้มาจาก GPU เพียงตัวเดียว
การเปรียบเทียบระบบ AI ไม่สามารถพิจารณาเฉพาะความเร็วของชิปหนึ่งตัว เพราะโมเดลขนาดใหญ่ต้องทำงานกระจายระหว่าง GPU หลายร้อยหรือหลายพันตัว
ประสิทธิภาพที่เพิ่มขึ้นจึงขึ้นอยู่กับความเร็วในการส่งข้อมูลระหว่างชิป แบนด์วิดท์หน่วยความจำ การทำงานของ CPU และซอฟต์แวร์ที่แบ่งภาระให้แต่ละอุปกรณ์
หากระบบเครือข่ายหรือ CPU ช้า GPU อาจต้องรอข้อมูล แม้ตัวเร่งประมวลผลจะมีความเร็วสูงมากก็ตาม Nvidia จึงพัฒนา Vera Rubin เป็นแพลตฟอร์มครบชุด ไม่ใช่ขายเฉพาะการ์ดประมวลผลแยกชิ้น
อ่านเพิ่มเติม
Vera CPU เข้ามาแทนที่ Grace
ชื่อ Vera Rubin มาจากการรวม Vera CPU รุ่นใหม่กับ Rubin GPU โดย Vera ถูกพัฒนาต่อจาก Grace CPU ซึ่งใช้สถาปัตยกรรม Arm สำหรับศูนย์ข้อมูล
CPU ทำหน้าที่เตรียมข้อมูล จัดการระบบ และประสานการทำงานของ GPU หลายตัว การเพิ่มประสิทธิภาพของ CPU จึงช่วยลดคอขวดในงานที่ต้องโหลดข้อมูลจำนวนมหาศาล
การออกแบบฮาร์ดแวร์ร่วมกันยังทำให้ Nvidia สามารถปรับการใช้พลังงาน การเชื่อมต่อ และหน่วยความจำให้เหมาะกับงาน AI มากกว่าเซิร์ฟเวอร์ที่ประกอบจากชิ้นส่วนของหลายบริษัท
ผู้ให้บริการคลาวด์เตรียมนำระบบไปให้ลูกค้าเช่าใช้
Google Cloud, Microsoft Azure และ Oracle มีแนวโน้มนำ Vera Rubin ไปเปิดเป็นบริการคลาวด์ ลูกค้าไม่จำเป็นต้องซื้อและติดตั้งศูนย์ข้อมูลเอง แต่สามารถเช่ากำลังประมวลผลตามช่วงเวลาและปริมาณการใช้งาน
แนวทางดังกล่าวช่วยให้สตาร์ตอัปและองค์กรเข้าถึงฮาร์ดแวร์รุ่นใหม่ได้เร็วขึ้น แต่ต้นทุนการเช่าอาจอยู่ในระดับสูง เนื่องจากความต้องการระบบ AI ยังมากกว่ากำลังผลิตในหลายช่วง
CoreWeave ซึ่งเชี่ยวชาญคลาวด์สำหรับงาน GPU เป็นอีกพันธมิตรสำคัญ เพราะสามารถนำระบบใหม่ไปให้บริการบริษัท AI ที่ต้องการทรัพยากรจำนวนมากโดยเฉพาะ
ประสิทธิภาพที่เพิ่มขึ้นอาจไม่ได้ลดค่าใช้จ่ายรวม
ระบบที่ประมวลผลได้เร็วขึ้นช่วยลดเวลาการฝึกโมเดลหรือเพิ่มจำนวนผู้ใช้ที่ให้บริการได้พร้อมกัน แต่ไม่ได้รับประกันว่าค่าใช้จ่ายรวมจะลดลง
บริษัท AI มักใช้ประสิทธิภาพที่เพิ่มขึ้นเพื่อสร้างโมเดลที่ใหญ่และซับซ้อนกว่าเดิม ทำให้การใช้พลังงานและจำนวนชิปยังเพิ่มขึ้นต่อเนื่อง
ศูนย์ข้อมูลยังต้องลงทุนกับระบบไฟฟ้า ระบบระบายความร้อน และเครือข่ายความเร็วสูง ซึ่งเป็นต้นทุนที่เพิ่มตามความหนาแน่นของการประมวลผล
Nvidia กำลังสร้างการพึ่งพาแบบครบระบบ
การซื้อแพลตฟอร์ม Nvidia แบบครบชุดช่วยลดความซับซ้อนในการประกอบระบบ แต่ทำให้องค์กรพึ่งพาผู้ผลิตรายเดียวมากขึ้น ทั้งชิป เครือข่าย ซอฟต์แวร์ และเครื่องมือพัฒนา
การย้ายงานออกจากแพลตฟอร์มอาจมีต้นทุนสูง หากซอฟต์แวร์ถูกออกแบบรอบ CUDA และระบบของ Nvidia โดยเฉพาะ
องค์กรจึงต้องเปรียบเทียบประสิทธิภาพกับความสามารถในการเปลี่ยนผู้ให้บริการในอนาคต รวมถึงประเมินว่าภาระงานจำเป็นต้องใช้ฮาร์ดแวร์ระดับสูงสุดทุกครั้งหรือไม่
