Intel เปิดตัว Xeon 6900P และ Gaudi 3 เพิ่มประสิทธิภาพการประมวลผล AI

Intel ประกาศเปิดตัว CPU สำหรับเซิร์ฟเวอร์ตระกูล Xeon 6900P และชิป AI Gaudi 3 เพื่อรองรับการทำงานด้าน AI ที่ต้องการประสิทธิภาพสูง

Credit: Intel

Intel ได้เปิดตัว CPU สำหรับเซิร์ฟเวอร์ตระกูลใหม่ Xeon 6900P ที่ออกแบบมาสำหรับสภาพแวดล้อมที่ต้องการประสิทธิภาพสูง เช่น AI cluster โดยมีประสิทธิภาพการทำงานต่อวัตต์เพิ่มขึ้นเป็นสองเท่าเมื่อเทียบกับรุ่นก่อนหน้า และสามารถทำงาน AI inference ได้เร็วขึ้นถึง 2.3 เท่า

Xeon 6900P มีการใส่ Performance-cores (P-cores) เพื่อเพิ่มความเร็วในการประมวลผล โดยรุ่นเรือธง Xeon 6980P มาพร้อมกับ 128 คอร์ที่มีความเร็วพื้นฐาน 2 GHz และสามารถเพิ่มเป็น 3.9 GHz ได้ พร้อม L3 cache ขนาด 504 MB นอกจากนี้ยังมีรุ่นอื่นๆ ที่มีจำนวนคอร์ตั้งแต่ 72 ถึง 120 คอร์ โดยใช้เทคโนโลยีการผลิต Intel 3 ที่ใช้ EUV lithography รุ่นที่สอง ซึ่งให้ประสิทธิภาพต่อวัตต์ดีขึ้น 18% เมื่อเทียบกับรุ่นแรก

ในส่วนของ Gaudi 3 AI accelerator นั้น Intel ระบุว่าสามารถรัน “โมเดลภาษาขนาดใหญ่ทั่วไป หรือ Common Large Language Models” ได้เร็วกว่า NVIDIA H200 ถึง 1.5 เท่า ตามภาพประกอบด้านล่าง โดยมาพร้อมกับโมดูล MME 8 ตัวสำหรับงาน Machine Learning ทั่วไป และ TPC 64 ตัวสำหรับงาน AI ขั้นสูง เช่น Large Language Models นอกจากนี้ Intel ยังได้เผยแพร่ reference architecture สำหรับระบบ AI ที่สามารถรองรับ Gaudi 3 ได้ถึง 256 ชิป และสามารถขยายเป็น cluster ขนาดใหญ่ที่มี Gaudi 3 ได้ถึง 8,000 ชิป

ที่มา: https://www.intel.com/content/www/us/en/newsroom/news/next-generation-ai-solutions-xeon-6-gaudi-3.html

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่สหรัฐอเมริกา แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

จากข้อมูลสู่คุณค่าทางธุรกิจ: เปลี่ยนข้อมูลให้เป็นพลังขับเคลื่อนธุรกิจ [PR]

ในยุคที่องค์กรกำลังเดินหน้าสู่ Digital Transformation “ข้อมูล” ได้กลายเป็นทรัพยากรสำคัญในการทำความเข้าใจลูกค้า วางกลยุทธ์ และขับเคลื่อนธุรกิจ อย่างไรก็ตาม การเปลี่ยนข้อมูลให้เป็นข้อมูลเชิงลึก (Insight) และนำข้อมูลเชิงลึกไปสู่การตัดสินใจที่สร้างผลลัพธ์ทางธุรกิจได้จริงเป็นเรื่องสำคัญ รายงานจาก IBM Institute for …

Bitdefender MDR: ผสมผสาน ‘ บุคลากร, กระบวนการ และ เทคโนโลยี’ เพื่อปกป้องระบบธุรกิจสำคัญตลอด 24/7

การโจมตีไซเบอร์ในปัจจุบันมักเกิดขึ้นนอกเวลาทำการ อาจเป็นกลางดึกหรือวันหยุด ซึ่งเป็นช่วงที่ทีมไอทีส่วนใหญ่ไม่ได้เฝ้าระวัง ปัญหาจึงไม่ได้อยู่ที่คุณภาพของเทคโนโลยีป้องกันภัย แต่อยู่ที่ว่ามี บุคลากรคอยตรวจสอบและตอบสนองต่อสัญญาณเตือนตลอดเวลาหรือไม่ Bitdefender Managed Detection and Response (MDR) จึงถูกออกแบบมาเพื่อเติมเต็มช่องว่างนี้ ด้วยการรวมทีมผู้เชี่ยวชาญที่เฝ้าระวังตลอด 24 …