Intel เปิดตัว Gaudi 3 ชิปประมวลผล AI

Intel เปิดตัว Gaudi 3 ชิปประมวลผล AI รุ่นใหม่ ประสิทธิภาพดีขึ้น 4 เท่า

Credit: Intel

ในงาน Vision 2024 ที่กำลังจัดขึ้น Intel ได้ประกาศเปิดตัว Intel Gaudi 3 ชิปประมวลผล AI รุ่นใหม่ ตอบโจทย์การนำไปใช้งานในองค์กร เพื่อใช้ในการทำ AI Training และ AI Inferening เน้นประสิทธิภาพต่อราคาและการประหยัดพลังงานของชิป ในรุ่นนี้มีการเพิ่มประสิทธิภาพการประมวลผล AI มากกว่า 4 เท่า ในการคำนวณแบบ BF16 และมีการเพิ่ม Memory Bandwidth อีก 1.5 เท่า เมื่อเทียบกับรุ่นก่อน

Intel Gaudi 3 ประกอบด้วย Tensor Processor Cores (TPCs) จำนวน 64 ตัว, Matrix Multiplication Engine (MME) จำนวน 8 ตัว ซึ่งแต่ละ MME รองรับการประมวลผล 64,000 parallel operations และมีหน่วยความจำชนิด HBMe2 ขนาด 128 GB ซึ่งหากนำไปเทียบกับคู่แข่ง NVIDIA H100 แล้ว Intel Gaudi 3 มีความเร็วในการ Train ดีกว่า 50% อ้างอิงจากโมเดล Llama2 ที่พารามิเตอร์ระดับ 7B และ 13B และ GPT-3 175B นอกจากนี้ยังมี Throughput ดีกว่า 50% และประหยัดพลังงานดีขึ้น 40% ในขั้นตอนการทำ Inferencing

นอกจากนี้ Intel Gaudi 3 ยังมาพร้อมมาตรฐานแบบเปิด รองรับซอฟต์แวร์แบบ Community-based และสามารถใช้งานร่วมกับมาตรฐาน Ethernet ได้ ทำให้องค์กรสามารถนำไปใช้งานและขยายขนาด Cluster ได้ง่าย โดยที่ไม่ต้องพึ่งพาอุปกรณ์เฉพาะทางมากนัก Intel จะเริ่มวางจำหน่าย Intel Gaudi 3 ในช่วงไตรมาสที่สองของปีนี้ผ่านทางตัวแทนจำหน่ายแบบ OEM เช่น Dell, HPE, Lenovo และ Supermicro

ที่มา: https://www.intc.com/news-events/press-releases/detail/1689/intel-unleashes-enterprise-ai-with-gaudi-3-ai-open-systems

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่ Cupertino, CA แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

Google Cloud เพิ่ม BigQuery datasets บน Marketplace แล้ว

Google Cloud ประกาศเปิดให้ผู้ใช้งานสามารถเข้าถึงชุดข้อมูล BigQuery datasets ผ่าน Google Cloud Marketplace ด้วยการผสานการทำงานร่วมกับ BigQuery Analytics Hub เพื่อเพิ่มช่องทางการเข้าถึงข้อมูลสำหรับองค์กร

Goldman Sachs คาดการณ์การใช้พลังงานของศูนย์ข้อมูลจะเพิ่มขึ้นกว่า 2 เท่าภายในปี 2030 เหตุจาก AI

การแข่งขันด้าน AI ส่งผลให้ความต้องการใช้พลังงานในศูนย์ข้อมูลทั่วโลกพุ่งสูงขึ้นอย่างมาก โดย Goldman Sachs คาดว่าจะเพิ่มขึ้นจาก 55 GW เป็น 122 GW ภายในปี 2030