TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Qualcomm Technologies ประกาศเปิดตัวโซลูชัน AI Inference รุ่นใหม่สำหรับ Data Center ด้วยชิป AI200 และ AI250 ที่ออกแบบมาเพื่อรองรับการประมวลผล Generative AI แบบ Rack-Scale พร้อมหน่วยความจำขนาดใหญ่และต้นทุนการดำเนินงานที่คุ้มค่า
Qualcomm AI200 เป็นโซลูชัน AI Inference ระดับ Rack ที่พัฒนาขึ้นมาเฉพาะเพื่อให้ต้นทุนรวม (TCO) ต่ำและประสิทธิภาพสูงสำหรับการประมวลผล Large Language Model (LLM) และ Large Multimodal Model (LMM) โดยการ์ดแต่ละใบรองรับหน่วยความจำ LPDDR ขนาด 768 GB ซึ่งช่วยเพิ่มความจุหน่วยความจำในต้นทุนที่ต่ำลง ทำให้สามารถขยายขนาดและมีความยืดหยุ่นในการประมวลผล AI Inference ได้อย่างมีประสิทธิภาพ นอกจากนี้ยังรองรับการเชื่อมต่อ PCIe สำหรับการขยายขนาดภายในตู้ และ Ethernet สำหรับการขยายขนาดข้ามตู้ พร้อมระบบระบายความร้อนด้วยของเหลวโดยตรง (Direct Liquid Cooling) เพื่อประสิทธิภาพทางความร้อนที่ดีที่สุด โดยแต่ละตู้ Rack มีการใช้พลังงานที่ 160 kW
ส่วน Qualcomm AI250 มาพร้อมนวัตกรรมสถาปัตยกรรมหน่วยความจำแบบ Near-Memory Computing ที่สร้างความก้าวกระโดดในด้านประสิทธิภาพและการใช้พลังงาน โดยให้แบนด์วิดท์หน่วยความจำที่มีประสิทธิภาพสูงกว่า 10 เท่าและการใช้พลังงานที่ต่ำลงอย่างมาก เทคโนโลยีนี้ช่วยให้สามารถแยกการประมวลผล AI Inference เพื่อการใช้งานฮาร์ดแวร์ที่มีประสิทธิภาพสูงสุด พร้อมตอบสนองความต้องการด้านประสิทธิภาพและต้นทุนของผู้ใช้งาน โซลูชันทั้งสองยังมาพร้อมฟีเจอร์ Confidential Computing สำหรับการประมวลผล AI Workload อย่างปลอดภัย และ Software Stack ระดับ Hyperscaler ที่รองรับ Machine Learning Framework หลักๆ เช่น Hugging Face Models รวมถึงเทคนิคการเพิ่มประสิทธิภาพแบบ Disaggregated Serving
นักพัฒนาจะได้รับประโยชน์จากการติดตั้งโมเดลที่ราบรื่นและการ Deploy แบบ One-Click ผ่าน Qualcomm Efficient Transformers Library และ Qualcomm AI Inference Suite ซึ่งมีเครื่องมือ ไลบรารี API และบริการครบครันสำหรับการนำ AI ไปใช้งานจริง Qualcomm คาดว่า AI200 จะพร้อมวางจำหน่ายในปี 2026 และ AI250 ในปี 2027 พร้อมแผนการพัฒนาผลิตภัณฑ์ Data Center แบบรายปีอย่างต่อเนื่อง โดยมุ่งเน้นที่ประสิทธิภาพการประมวลผล AI Inference ที่ดีที่สุด การใช้พลังงานอย่างมีประสิทธิภาพ และต้นทุนรวมที่คุ้มค่าสำหรับองค์กร
