TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Intel เปิดตัว Gaudi 3 ชิปประมวลผล AI รุ่นใหม่ ประสิทธิภาพดีขึ้น 4 เท่า
ในงาน Vision 2024 ที่กำลังจัดขึ้น Intel ได้ประกาศเปิดตัว Intel Gaudi 3 ชิปประมวลผล AI รุ่นใหม่ ตอบโจทย์การนำไปใช้งานในองค์กร เพื่อใช้ในการทำ AI Training และ AI Inferening เน้นประสิทธิภาพต่อราคาและการประหยัดพลังงานของชิป ในรุ่นนี้มีการเพิ่มประสิทธิภาพการประมวลผล AI มากกว่า 4 เท่า ในการคำนวณแบบ BF16 และมีการเพิ่ม Memory Bandwidth อีก 1.5 เท่า เมื่อเทียบกับรุ่นก่อน
Intel Gaudi 3 ประกอบด้วย Tensor Processor Cores (TPCs) จำนวน 64 ตัว, Matrix Multiplication Engine (MME) จำนวน 8 ตัว ซึ่งแต่ละ MME รองรับการประมวลผล 64,000 parallel operations และมีหน่วยความจำชนิด HBMe2 ขนาด 128 GB ซึ่งหากนำไปเทียบกับคู่แข่ง NVIDIA H100 แล้ว Intel Gaudi 3 มีความเร็วในการ Train ดีกว่า 50% อ้างอิงจากโมเดล Llama2 ที่พารามิเตอร์ระดับ 7B และ 13B และ GPT-3 175B นอกจากนี้ยังมี Throughput ดีกว่า 50% และประหยัดพลังงานดีขึ้น 40% ในขั้นตอนการทำ Inferencing
นอกจากนี้ Intel Gaudi 3 ยังมาพร้อมมาตรฐานแบบเปิด รองรับซอฟต์แวร์แบบ Community-based และสามารถใช้งานร่วมกับมาตรฐาน Ethernet ได้ ทำให้องค์กรสามารถนำไปใช้งานและขยายขนาด Cluster ได้ง่าย โดยที่ไม่ต้องพึ่งพาอุปกรณ์เฉพาะทางมากนัก Intel จะเริ่มวางจำหน่าย Intel Gaudi 3 ในช่วงไตรมาสที่สองของปีนี้ผ่านทางตัวแทนจำหน่ายแบบ OEM เช่น Dell, HPE, Lenovo และ Supermicro
