Inflection AI เปลี่ยนมาใช้ Intel Gaudi 3 สำหรับแพลตฟอร์ม AI สำหรับองค์กร

Inflection AI จับมือ Intel เปิดตัวแพลตฟอร์ม AI สำหรับองค์กรใหม่ ใช้ Intel Gaudi 3 แทน NVIDIA GPU เพื่อเพิ่มประสิทธิภาพและลดต้นทุน พร้อมเตรียมเปิดตัว AI Appliance รุ่นใหม่

Inflection AI ได้ประกาศร่วมมือกับ Intel เปลี่ยนมาใช้ Intel Gaudi 3 AI accelerator แทน NVIDIA GPU สำหรับแพลตฟอร์ม AI Assistant รุ่นล่าสุด Inflection 3.0 ซึ่งจะขับเคลื่อนด้วย Gaudi 3 โดยสามารถใช้งานได้ทั้งแบบ on-premises และบน Cloud ผ่าน Intel Tiber AI Cloud

Inflection 3.0 มุ่งเน้นการ fine-tune โมเดล AI ด้วยชุดข้อมูลเฉพาะขององค์กร เพื่อสร้างแอปพลิเคชัน AI ที่ตอบโจทย์ธุรกิจ โดย Intel จะเป็นหนึ่งในลูกค้ารายแรกที่ใช้บริการนี้ Sean White ซีอีโอของ Inflection AI กล่าวว่าการใช้ Intel Gaudi 3 ช่วยเพิ่มประสิทธิภาพต่อราคาได้สูงถึง 2 เท่าเมื่อเทียบกับโซลูชันคู่แข่งในปัจจุบัน Gaudi 3 มาพร้อมหน่วยความจำ HBM2e ขนาด 128 GB ให้แบนด์วิดท์ 3.7 Tbps และประสิทธิภาพ 1,835 teraFLOPS สำหรับ dense FP8 หรือ BF16

นอกจากการให้บริการบน Cloud แล้ว Inflection ยังมีแผนจะเปิดตัวระบบฮาร์ดแวร์ Appliance ที่ใช้ Intel AI accelerator สำหรับลูกค้าที่ต้องการเก็บข้อมูลไว้ภายในองค์กร โดยจะเริ่มให้บริการในไตรมาสแรกของปี 2025 อย่างไรก็ตาม ลูกค้าสามารถเลือกใช้ฮาร์ดแวร์อื่นสำหรับการรันโมเดลที่สร้างเสร็จแล้วได้ ทั้งนี้ Intel กำลังเผชิญการแข่งขันที่รุนแรงจาก NVIDIA Blackwell และ AMD MI325X GPU ที่จะเปิดตัวในไตรมาส 4 นี้ ทำให้ Intel ต้องตั้งราคา Gaudi 3 อย่างแข่งขัน โดยระบบ Gaudi 3 ที่มี 8 accelerator จะมีราคาเพียง 125,000 ดอลลาร์ หรือประมาณ 2 ใน 3 ของระบบ H100 ที่เทียบเท่ากัน

ที่มา: https://www.theregister.com/2024/10/07/inflection_ai_intel/