TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Red Hat ประกาศเข้าซื้อกิจการ Neural Magic สตาร์ทอัพด้าน AI ที่พัฒนาเทคโนโลยีการปรับแต่งโมเดล AI ให้ทำงานได้อย่างมีประสิทธิภาพบนฮาร์ดแวร์ทั่วไป
Red Hat Inc. ประกาศข้อตกลงเข้าซื้อกิจการ Neural Magic Inc. บริษัทสตาร์ทอัพที่ก่อตั้งในปี 2018 โดย Alex Matveev นักวิจัยจาก MIT และ Professor Nir Shavit เทคโนโลยีของ Neural Magic ช่วยให้สามารถปรับแต่ง Large Language Model (LLM) ให้ทำงานบน CPU และ GPU ทั่วไปได้ด้วยความเร็วใกล้เคียงกับชิป AI เฉพาะทาง ช่วยให้องค์กรสามารถใช้งานโมเดล AI ได้อย่างมีประสิทธิภาพบนฮาร์ดแวร์หลากหลายรูปแบบ
Neural Magic มีบทบาทสำคัญในการพัฒนาโปรเจค Open Source อย่าง vLLM ซึ่งเป็น Library สำหรับการ Deploy AI Model ที่เพิ่มประสิทธิภาพสำหรับระบบ Cloud และรองรับสถาปัตยกรรม CPU และ GPU หลากหลายรูปแบบ นอกจากนี้ยังได้พัฒนา LLM Compressor ที่ช่วยเพิ่มความเร็วในการ Inference ร่วมกับ vLLM พร้อมทั้งมีคลังโมเดล LLM แบบ Pre-built และ Pre-optimized ที่พร้อมใช้งานทันที ทำให้องค์กรสามารถ Deploy โมเดล AI ที่มีประสิทธิภาพสูงได้อย่างรวดเร็ว
Matt Hicks ประธานและ CEO ของ Red Hat กล่าวว่า การเข้าซื้อกิจการครั้งนี้จะช่วยเสริมความสามารถในการรองรับการ Deploy LLM บน Hybrid Cloud ด้วยระบบฮาร์ดแวร์ที่หลากหลาย ซึ่งสอดคล้องกับกลยุทธ์ด้าน AI แบบ Open Source ของ Red Hat ที่เพิ่งเปิดตัว Red Hat Enterprise Linux AI ไปก่อนหน้านี้
ที่มา: https://siliconangle.com/2024/11/12/red-hat-agrees-acquire-ai-optimization-startup-neural-magic/
