Inflection AI เปลี่ยนมาใช้ Intel Gaudi 3 สำหรับแพลตฟอร์ม AI สำหรับองค์กร

Inflection AI จับมือ Intel เปิดตัวแพลตฟอร์ม AI สำหรับองค์กรใหม่ ใช้ Intel Gaudi 3 แทน NVIDIA GPU เพื่อเพิ่มประสิทธิภาพและลดต้นทุน พร้อมเตรียมเปิดตัว AI Appliance รุ่นใหม่

Credit: Intel

Inflection AI ได้ประกาศร่วมมือกับ Intel เปลี่ยนมาใช้ Intel Gaudi 3 AI accelerator แทน NVIDIA GPU สำหรับแพลตฟอร์ม AI Assistant รุ่นล่าสุด Inflection 3.0 ซึ่งจะขับเคลื่อนด้วย Gaudi 3 โดยสามารถใช้งานได้ทั้งแบบ on-premises และบน Cloud ผ่าน Intel Tiber AI Cloud

Inflection 3.0 มุ่งเน้นการ fine-tune โมเดล AI ด้วยชุดข้อมูลเฉพาะขององค์กร เพื่อสร้างแอปพลิเคชัน AI ที่ตอบโจทย์ธุรกิจ โดย Intel จะเป็นหนึ่งในลูกค้ารายแรกที่ใช้บริการนี้ Sean White ซีอีโอของ Inflection AI กล่าวว่าการใช้ Intel Gaudi 3 ช่วยเพิ่มประสิทธิภาพต่อราคาได้สูงถึง 2 เท่าเมื่อเทียบกับโซลูชันคู่แข่งในปัจจุบัน Gaudi 3 มาพร้อมหน่วยความจำ HBM2e ขนาด 128 GB ให้แบนด์วิดท์ 3.7 Tbps และประสิทธิภาพ 1,835 teraFLOPS สำหรับ dense FP8 หรือ BF16

นอกจากการให้บริการบน Cloud แล้ว Inflection ยังมีแผนจะเปิดตัวระบบฮาร์ดแวร์ Appliance ที่ใช้ Intel AI accelerator สำหรับลูกค้าที่ต้องการเก็บข้อมูลไว้ภายในองค์กร โดยจะเริ่มให้บริการในไตรมาสแรกของปี 2025 อย่างไรก็ตาม ลูกค้าสามารถเลือกใช้ฮาร์ดแวร์อื่นสำหรับการรันโมเดลที่สร้างเสร็จแล้วได้ ทั้งนี้ Intel กำลังเผชิญการแข่งขันที่รุนแรงจาก NVIDIA Blackwell และ AMD MI325X GPU ที่จะเปิดตัวในไตรมาส 4 นี้ ทำให้ Intel ต้องตั้งราคา Gaudi 3 อย่างแข่งขัน โดยระบบ Gaudi 3 ที่มี 8 accelerator จะมีราคาเพียง 125,000 ดอลลาร์ หรือประมาณ 2 ใน 3 ของระบบ H100 ที่เทียบเท่ากัน

ที่มา: https://www.theregister.com/2024/10/07/inflection_ai_intel/

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่ Cupertino, CA แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

Sertis จับมือ Google จัดสัมมนายกระดับการตลาดด้วย Generative AI [PR]

บริษัท เซอร์ทิส จำกัด ผู้นำด้านโซลูชันดาต้าและเอไอชั้นนำในอาเซียน นำโดย คุณธัชกรณ์ วชิรมน ประธานเจ้าหน้าที่บริหารและผู้ก่อตั้ง (คนกลาง) คุณเจมส์ แมคกรอว์ ประธานเจ้าหน้าที่ฝ่ายการพาณิชย์ (คนที่สองจากขวา) เรียนเชิญนักการตลาด ผู้นำด้านนวัตกรรม …

UnifyApps ระดมทุน 20 ล้านดอลลาร์ ใช้ AI ตอบโจทย์การทำงานอัตโนมัติสำหรับองค์กร

UnifyApps สตาร์ทอัพน้องใหม่ที่ให้บริการชุดเครื่องมือพัฒนาซอฟต์แวร์สำหรับองค์กร ได้รับเงินทุน Series A จำนวน 20 ล้านดอลลาร์สหรัฐฯจาก ICONIQ Growth