Intel ประกาศเปิดตัว CPU สำหรับเซิร์ฟเวอร์ตระกูล Xeon 6900P และชิป AI Gaudi 3 เพื่อรองรับการทำงานด้าน AI ที่ต้องการประสิทธิภาพสูง

Intel ได้เปิดตัว CPU สำหรับเซิร์ฟเวอร์ตระกูลใหม่ Xeon 6900P ที่ออกแบบมาสำหรับสภาพแวดล้อมที่ต้องการประสิทธิภาพสูง เช่น AI cluster โดยมีประสิทธิภาพการทำงานต่อวัตต์เพิ่มขึ้นเป็นสองเท่าเมื่อเทียบกับรุ่นก่อนหน้า และสามารถทำงาน AI inference ได้เร็วขึ้นถึง 2.3 เท่า
Xeon 6900P มีการใส่ Performance-cores (P-cores) เพื่อเพิ่มความเร็วในการประมวลผล โดยรุ่นเรือธง Xeon 6980P มาพร้อมกับ 128 คอร์ที่มีความเร็วพื้นฐาน 2 GHz และสามารถเพิ่มเป็น 3.9 GHz ได้ พร้อม L3 cache ขนาด 504 MB นอกจากนี้ยังมีรุ่นอื่นๆ ที่มีจำนวนคอร์ตั้งแต่ 72 ถึง 120 คอร์ โดยใช้เทคโนโลยีการผลิต Intel 3 ที่ใช้ EUV lithography รุ่นที่สอง ซึ่งให้ประสิทธิภาพต่อวัตต์ดีขึ้น 18% เมื่อเทียบกับรุ่นแรก
ในส่วนของ Gaudi 3 AI accelerator นั้น Intel ระบุว่าสามารถรัน “โมเดลภาษาขนาดใหญ่ทั่วไป หรือ Common Large Language Models” ได้เร็วกว่า NVIDIA H200 ถึง 1.5 เท่า ตามภาพประกอบด้านล่าง โดยมาพร้อมกับโมดูล MME 8 ตัวสำหรับงาน Machine Learning ทั่วไป และ TPC 64 ตัวสำหรับงาน AI ขั้นสูง เช่น Large Language Models นอกจากนี้ Intel ยังได้เผยแพร่ reference architecture สำหรับระบบ AI ที่สามารถรองรับ Gaudi 3 ได้ถึง 256 ชิป และสามารถขยายเป็น cluster ขนาดใหญ่ที่มี Gaudi 3 ได้ถึง 8,000 ชิป
