TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
NVIDIA Spectrum-X เป็นโซลูชันที่ถูกออกแบบมาเพิ่มช่วยยกระดับการเชื่อมต่อกับ Storage อย่างมีประสิทธิภาพมากขึ้นเกือบ 50% ซึ่งมีปัจจัยหลายอย่างที่ NVIDIA กล่าวถึงดังนี้
ต้องเข้าใจก่อนว่า Storage คือหัวใจสำคัญของงาน AI เสมอเพราะระบบ AI ต้องอาศัยข้อมูลปริมาณมหาศาล และการทำ RAG ก็ต้องอาศัยความรวดเร็วในการตอบสนองของข้อมูลเช่นกัน ซึ่งกลไกของ Ethernet แบบเดิมนั้นมีปัญหาอยู่หลายด้านที่ยังสามารถปรับปรุงได้ เช่น อัตราการส่งข้อมูลซ้ำ (retransmission) โดยเฉพาะในงาน AI ที่ข้อมูลล้นเหลือ กลายเป็นว่าเครือข่ายเหมือนกลายเป็นคอขวดในการทำงาน ด้วยเหตุนี้เองจึงนำไปสู่โซลูชันที่เรียกว่า Spectrum-X
Spectrum-X อาศัยฮาร์ดแวร์ Spectrum-4 Ethernet Switch ซึ่งก็คือเทคโนโลยีจาก InfiniteBand โดยรองรับในเรื่องของ Adaptive Routing ที่ช่วยป้องกันการชนกันเลือกเส้นทางที่ดีสำหรับแต่ละแพ็กเกจ ต่างกับระบบ Ethernet เดิมที่กำหนดให้มีการส่งซ้ำถ้าแพ็กเกจหลุดลำดับ แต่ Spectrum-X จะใช้ BlueField-3 SuperNIC และ DPU ไม่รับจัดข้อมูลที่ปลายทางแทน นอกจากนี้ยังมีการควบคุมอัตราการใช้ข้อมูลด้วยฮาร์ดแวร์ป้องกันความหนาแน่นที่มากเกิน(Congestion) ไปเพราะปกติแล้ว Storage มักถูกเขียนมาจากหลายผู้ใช้งาน นอกจากนี้ NVIDIA ยังได้มีซอฟต์แวร์ที่มีบทบาทใน Spectrum-X อีกหลายตัวคือ
- NVIDIA AIR – เครื่องมือคลาวด์ที่สามารถจำลองโมเดล Switch, SuperNIC และ Storage เพื่อช่วย deploy อุปกรณ์และปฏิบัติงานได้รวดเร็วขึ้น
- NVIDIA Cumulus Linux – OS ที่มาพร้อมกับ API และระบบอัตโนมัติ
- NVIDIA DQCA – SDK สำหรับ SuperNIC และ DPU ที่ช่วยให้โปรแกรมเพิ่มประสิทธิการทำงานของ Storage
- NVIDIA NetQ – เครื่องมือตรวจสอบระดับเครือข่ายแบบเรียลไทม์ที่ช่วยติดตามและแก้ไขปัญหาจากข้อมูลของ Switch
- NVIDIA GPUDirect Storage – เทคโนโลยีการส่งข้อมูลโดยตรงจาก Storage ไปยังหน่วยความจำของ GPU เพิ่ม Throughput ของข้อมูล
NVIDIA ระบุว่า Spectrum-X ได้ช่วยเพิ่มอัตราแบนวิดท์ในการอ่านข้อมูลได้มากขึ้นถึง 48% และการเขียนที่ 41% เทียบกับโปรโตคอลเครือข่ายระหว่างหน่วยประมวลผล AI และ Storage Fabric ที่เรียกว่า RoCE v2 นอกจากนี้ยังมีผลทดสอบโดยทีม Israel-1 Supercomputer ที่เทียบกับ RoCE v2 และตอกย้ำความเหนือกว่าด้วยสถิติใกล้เคียงกับที่ NVIDIA กล่าวอ้างจริง
ที่มา : https://www.storagereview.com/news/enhancing-ai-storage-fabrics-with-nvidia-spectrum-x และ https://blocksandfiles.com/2025/02/04/nvidia-spectrum-x-storage-networking/
