TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
เป็นข่าวดีสำหรับแฟนๆ IBM เมื่อในงาน Hot Chips 2024 ทาง IBM ได้ออกมาประกาศเปิดตัวหน่วยประมวลผลใหม่ล่าสุด IBM Telum II และ IBM Spyre Accelerator เสริมศักยภาพการประมวลผลทางด้าน AI ให้แก่ IBM Z ระบบ Mainframe ชั้นนำในอนาคต โดยหน่วยประมวลผลทั้ง 2 นี้คาดว่าจะเปิดตัวในปี 2025
สำหรับ IBM Telum II จะใช้เทคโนโลยี 5nm จาก Samsung ในการผลิต ซึ่งภายในหน่วยประมวลผลจะมี 8 Core ประสิทธิภาพสูงที่มีความเร็วถึง 5.5GHz โดยมี On-chip Cache เพิ่มขึ้นถึง 40% พร้อม Virtual L3 และ L4 ที่มีขนาด 36MB และ 2.88GB ตามลำดับ อีกทั้งยังมี Data Processing Unit (DPU) ภายในตัวสำหรับเร่งการประมวลผล IO และ AI
หน่วยประมวลผลใหม่นี้จะมี Accelerator ที่มีความเร็วสูงกว่าเดิม 4 เท่า ทำให้ Accelerator แต่ละชุดสามารถประมวลผลได้สูงถึง 24 TOPS ในสถาปัตยกรรมที่ออกแบบมาให้มีประสิทธิภาพสูงสำหรับ Enterprise Workload โดยเฉพาะ รวมถึงยังสนับสนุน Data Type แบบ INT8 สำหรับโมเดลใหม่ๆ ได้อีกด้วย
นอกจากนี้ IBM ยังได้ทำการปรับปรุงในระดับ System-Level ทำให้ AI Accelerator ภายในหน่วยประมวลผลสามารถรับคำสั่งจาก Core ใดๆ ใน Drawer เดียวกันก็ได้ ซึ่งจะช่วยให้การทำ Load Balancing ในการประมวลผลมีประสิทธิภาพมากขึ้น และทำการประมวลผล AI แบบ Latency ต่ำได้ด้วยประสิทธิภาพสูงถึง 192 TOPS
ทางด้าน IBM Spyre Accelerator นั้นเป็นเทคโนโลยีที่พัฒนาร่วมกันระหว่างทีม IBM Research และ IBM Infrastructure โดยจะมี 32 AI Accelerator Core ที่มีสถาปัตยกรรมคล้ายคลึงกับ AI Accelerator ภายใน IBM Telum II โดยถูกออกแบบมาให้สามารถติดตั้งใช้งานได้หลายชุดบน IBM Z ผ่านทาง PCIe ซึ่งก็จะช่วยให้การออกแบบระบบเพื่อรองรับ AI สามารถทำได้ยืดหยุ่นมากขึ้น
IBM ระบุว่าหน่วยประมวลผลทั้งสองนี้ถูกออกแบบมาให้สนับสนุนการใช้งานชุดของโมเดลที่มีขนาดใหญ่มากขึ้นและรองรับการใช้งานได้หลากหลายมากขึ้น ซึ่งถูกเรียกโดยรวมว่า Ensemble AI ซึ่งจะสามารถผสมผสานการประมวลผลทางด้าน AI ด้วยเทคนิคและโมเดลที่หลากหลายเพื่อให้ได้ผลลัพธ์ที่ดีขึ้นได้
