CDIC 2023

เปิดตัว NVIDIA HGX-2 Server รองรับ 16 GPU, 81,920 CUDA Core และ 10,240 Tensor Core ในเครื่องเดียว

NVIDIA ได้ออกมาประกาศเปิดตัว NVIDIA HGX-2 ระบบ Cloud Server Platform ที่สามารถติดตั้ง NVIDIA Tesla V100 ได้มากถึง 16 การ์ดในเครื่องเดียว เพื่อรองรับการประมวลผลความเร็วสูงถึงระดับ 2 Petaflops ได้ในตัว

 

Credit: NVIDIA

 

ความเร็วของ NVIDIA HGX-2 นี้ไม่ได้เกิดขึ้นจากการมี GPU จำนวนมหาศาลภายในเครื่องเท่านั้น แต่ภายในยังคงมีการใช้งาน NVIDIA NVSwitch จำนวน 12 ชุด เพื่อเชื่อมต่อระหว่าง GPU-to-GPU ทั้งหมดเข้าด้วยกันด้วยความเร็ว 2.4TB/s ทำให้การเข้าถึงข้อมูลบนหน่วยความจำ HBM2 ระหว่างกันนั้นเป็นไปได้อย่างเต็มประสิทธิภาพ ซึ่งหากเทียบกันแล้ว NVSwitch นี้ก็ถือว่ามีความเร็วเหนือกว่า NVLink ซึ่งมีความเร็ว 300GB/s อยู่ถึง 8 เท่าเลยทีเดียว

ประสิทธิภาพในระดับนี้ทำให้ NVIDIA HGX-2 เพียงเครื่องเดียวสามารถทำการประมวลผลรูปภาพได้มากถึง 15,500 ภาพต่อวินาทีด้วยการใช้ ResNet-50 หรือเทียบเท่ากับการใช้ CPU 600 ชุดบน Server 300 เครื่องมาช่วยกันประมวลผล ซึ่งโดยสรุปแล้ว NVIDIA ได้ระบุถึงตัวเลขเชิงประสิทธิภาพของ NVIDIA HGX-2 เอาไว้ดังนี้

  • 2 petaFLOPS tensor operations
  • 250 teraFLOPS single-precision
  • 125 teraFLOPS double-precision

หลังจากนี้ผู้ผลิต Server นั้นก็จะทยอยเปิดตัว Server ที่ใช้สถาปัตยกรรมอ้างอิงตาม NVIDIA HGX-2 กันมากขึ้นเรื่อยๆ โดยล่าสุด Supermicro ได้ประกาศเปิดตัว Server รุ่นใหม่ตามสถาปัตยกรรมนี้เป็นที่เรียบร้อยแล้ว

 

Credit: Supermicro

 

สำหรับผู้ที่ต้องการศึกษารายละเอียดเพิ่มเติม สามารถเยี่ยมชมเว็บไซต์ของ NVIDIA HGX-2 ได้ที่ https://www.nvidia.com/en-us/data-center/hgx/ ครับ

 

 

เกี่ยวกับ Throughwave Thailand

Throughwave Thailand เป็นตัวแทนจำหน่าย (Distributor) สำหรับผลิตภัณฑ์ Enterprise IT ครบวงจรทั้ง Server, Storage, Network และ Security พร้อมโซลูชัน VMware และ Microsoft ที่มีลูกค้าเป็นองค์กรชั้นนำระดับหลายหมื่นผู้ใช้งานมากมาย โดยทีมงาน Throughwave Thailand ได้รับความไว้วางใจจากลูกค้าจากทีมงาน Engineer มากประสบการณ์ ที่คอยสนับสนุนการใช้งานของลูกค้าตลอด 24×7 ร่วมกับ Partner ต่างๆ ทั่วประเทศไทยนั่นเอง https://www.throughwave.co.th

 

ที่มา: https://venturebeat.com/2018/05/29/nvidias-hgx-2-uses-16-gpus-for-fast-ai-training/, http://en.ctimes.com.tw/DispNews.asp?O=HK25U7XQFM2SAA00NG


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

Sirisoft ผนึกกำลัง Red Hat และ VST ECS นำเสนอ Red Hat OpenShift Platform Plus [Guest Post]

Sirisoft (สิริซอฟต์) ผู้ให้บริการด้านการให้คำปรึกษาและพัฒนาเทคโนโลยีสารสนเทศชั้นนำของไทย ผนึกกำลัง Red Hat (เร้ดแฮท (ประเทศไทย) ผู้ให้บริการด้านโซลูชันโอเพ่นซอร์สระดับแนวหน้าของโลก และ VST ECS (วีเอสที อีซีเอส (ประเทศไทย) …

Intel ออกบริการ Trust-as-a-Service ภายใต้โปรเจ็ค ‘Amber’

Project Amber ถูกวางตัวให้เป็นบริการ SaaS ที่จะช่วยเรื่องของการตรวจสอบว่าสภาพแวดล้อมนั้นๆมีความถูกต้องน่าเชื่อถือหรือไม่ โดยเป็นบริการแรกในส่วนของ Trust Authority ที่ถูกเปิดตัวออกมา