TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
ที่งาน GTC 2022 Nvidia หนึ่งใน Vendor และผู้คร่ำหวอดกับเทคโนโลยี AI ได้ประกาศออก GPU H100 ที่คาดว่าสามารถทำงานได้ระดับ Supercomputer นอกจากนี้ยังมีการอัปเกรตโซลูชันหรือซอฟต์แวร์ของตนอีกมากมาย โดย Nvidia เชื่อว่า AI จะปฏิวัติทุกอุตสาหกรรมและยุคถัดไปของ AI กำลังมาถึง ซึ่งตนมีหน้าที่ต้องเตรียมเทคโนโลยีเพื่อรอรับ
1.) Nvidia H100 GPU
ถือเป็นไฮไลต์สำคัญของงานนี้ที่มีชิป GPU จากสถาปัตยกรรมใหม่ออกมาภายใต้ชื่อ ‘H100’ หรือ Hopper Processor โดยชื่อมาจากผู้คิดค้น COBOL นามว่า Admiral Grace Hopper
- อัดแน่นด้วยทรานซิสเตอร์กว่า 80,000 ล้านตัว โดยใช้เทคโนโลยีการผลิตจาก TSMC ที่ 4 nm
- รองรับ PCIe Gen 5 และ High bandwidth memory (HBM3) ทำให้มีแบนด์วิดท์ของหน่วยความจำที่ 3 TB/s
- เชื่อมต่อกับภายนอกได้ถึง 5TB/s
- มีเทคโนโลยี Secure Multi-instance GPU (MIG) Gen2 โดยทำให้สามารถแบ่งพาร์ทของ GPU ไปทำงานด้านความมั่นคงปลอดภัยในลักษณะการใช้งานแบบ Multi-tenant ซึ่ง Paresh Kharya, Senior director of Data Center Computing ของ Nvidia กล่าวว่า “H100 สามารถรองรับ Cloud Tenant ได้ถึง 7 Tenant โดยมีการแบ่งแยก I/O Virtualization ได้อย่างสมบูรณ์กล่าวคือสามารถส่งมอบความมั่นใจให้แต่ละ instance ได้”
- มีฟังก์ชัน Confidential Computing ช่วยปกป้องข้อมูลระหว่างการประมวลผลในโมเดล AI
- รองรับเทคโนโลยี 4th NVLink หรือการเชื่อมต่อความเร็วสูงของ Nvidia ซึ่งเมื่อทำงานร่วมกับ NVLink Switch จะประสานพลังของ H100 GPU ได้สูงสุดถึง 250 ตัวเหนือกว่าเทคโนโลยีรุ่นก่อนถึง 9 เท่า
- เพิ่ม DPX instruction ใหม่ให้รองรับงาน Dynamic Programming หรืองานที่ต้องแบ่งย่อยปัญหา Combinatorial ที่นิยมกันในงาน Graph optimization และ Genomic
- เน้นพัฒนาศักยภาพรองรับงาน Machine Learning อย่าง GPT-3 หรือ asBERT โดย Transform Engine ทำการเทรนโมเดลได้เพิ่มขึ้นถึง 6 เท่า
2.) DGX H100 SuperPOD
Nvidia ได้ต่อยอด H100 ประกอบเป็นงานระดับ Supercomputer หรือ DGX SuperPOD ขนาดเริ่มที่ 5U พลังระดับ 32 petaflop แรงกว่า DGX A100 SuperPOD ถึง 11 เท่า หากทำงานร่วมกับ NVLink เชื่อมต่อโหนดอื่นๆเข้ามาประสิทธิภาพสูงสุดจะแตะอยู่ที่ 1 Exaflop
Nvidia ได้ทดลองสร้าง DGX H100 SuperPOD เป็น Supercomputer ภายใต้ชื่อ EOS ด้วยขุมพลัง SuperPOD 18 โหนดที่ภายในมี GPU 4,600 ตัวเชื่อมต่อกันผ่าน NVLink และ Infiniband Switch ทำให้ได้ความแรงระดับ 18 Exaflop สำหรับงานด้าน AI หรือกล่าวได้ว่าเป็น Supercomputer งานด้าน AI ที่เร็วที่สุดในโลก รวมถึงการันตีการที่แอปทำงานได้ไม่รบกวนกัน (Multi-tenant Isolation)
3.) Grace CPU Superchip
เมื่อปีก่อนที่งาน GTC Nvidia ได้เปิดเผยท้าชนชิปในดาต้าเซนเตอร์ที่ชื่อ Grace ด้วยสถาปัตยกรรม ARM ไอเดียของ Grace CPU Superchip ที่ต่อยอดมาจากเรื่องก่อนหน้าคือการผสาน CPU ที่ใช้สถาปัตยกรรม ARM v9 เข้ากับ GPU บน System on Chip (SoC) โดยรองรับ LPDDR5x และน่าจะออกสู่ตลาดได้ในครึ่งปีแรก 2023 สำหรับการพิสูจน์ประสิทธิภาพด้วย SPECrate®2017_int_base Benchmark คาดว่าจะมีคะแนนราว 740 แต้ม ซึ่งน่าจะท้าชนกับยักษ์อย่าง AMD และ intel ในตลาดนี้ได้
4.) RTX GPU ใหม่ 6 รุ่น
มีการเปิดตัว GPU สำหรับฝั่งผู้ใช้ Laptop และ Desktop 7 รุ่น โดยที่โดดเด่นคือ RTX A5500 ซึ่งรวบรวมเอา 3Gen Tensor Core และ 2Gen RT Core เข้ามาทำงานร่วมกัน มีหน่วยความจำระดับ 24 GB เติมเต็มการใช้งานด้านออกแบบ กราฟฟิค และ Aerospace ทั้งนี้น่าจะปล่อยออกมาได้ภายใน Q2 ปีนี้ นอกจากนี้ยังมี RTX อีก 6 รุ่นคือ A500, A1000, A2000 (8GB), A3000 (12GB), A4500
นอกจากนี้ Nvidia ยังมีการประกาศเปิดกว้างแพลตฟอร์ม Omniverse ที่ช่วยให้ผสานการทำงานของ GPU เพื่อสร้างระบบ Simulation จากที่ต่างๆเข้าด้วยกัน โดยทำให้ธุรกิจหรือผู้สนใจเข้าถึงได้ง่ายขึ้นแม้ไม่ได้ใช้ RTX รวมถึง Nvidia ยังได้อัปเดต AI platform ที่ประกอบด้วย Trition Inference Server, NeMo Megatron 0.9 Framework สำหรับงานเทรนนิ่งข้อมูลโมเดลภาษาขนาดใหญ่ และ Maxine Framework สำหรับการเพิ่มประสิทธิภาพเสียง/ภาพ ตลอดจน SDK ที่ใช้กันในอุตสาหกรรมต่างๆ
สำหรับตลาดรถยนต์ขับเคลื่อนอัตโนมัติก็มีการประกาศอัปเดตสถาปัตกรรมฮาร์ดแวร์ Hyperion 9 ที่คาดว่าจะออกตลาดได้ในปี 2026 ในส่วนของหุ่นยนต์มีการประกาศถึง Isaac Nova Orin
ท่านใดสนใจศึกษางานเปิดตัว GTC 2021 ที่มีการต่อยอดมายังหลายนวัตกรรมในปีนี้ เข้าชมได้ที่ https://www.techtalkthai.com/nvidia-launches-first-cpu-grace-omniverse-enterprise-bluefield3-morpheus-cuquantum-sdk-and-more-in-gtc-2021/
ที่มา : https://www.networkworld.com/article/3654186/nvidia-unveils-a-new-gpu-architecture-designed-for-ai-data-centers.html และ https://techcrunch.com/2022/03/22/nvidia-launches-a-new-gpu-architecture-and-the-grace-cpu-superchip/ และ https://www.zdnet.com/article/gtc-2022-nvidias-plan-to-power-the-next-wave-of-ai-from-silicon-to-software/ และ https://www.zdnet.com/article/nvidia-rolls-out-7-new-rtx-gpus-for-laptops-and-desktops/
