Gimlet Labs ระดมทุน 300 ล้านดอลลาร์ ดันแพลตฟอร์มอินเฟอเรนซ์แบบแยกส่วน

Gimlet Labs สตาร์ทอัพที่ช่วยให้นักพัฒนาสามารถเร่งความเร็วให้กับเวิร์กโหลดอินเฟอเรนซ์ ได้ระดมทุนรอบใหม่มูลค่า 300 ล้านดอลลาร์ ส่งผลให้บริษัทมีมูลค่ากิจการสูงถึง 3 พันล้านดอลลาร์แล้ว

Andreessen Horowitz เป็นผู้นำในการระดมทุนรอบ Series B ครั้งนี้ โดย Gimlet ได้ระบุในบล็อกโพสต์ว่า มีบริษัทที่เข้าร่วมลงทุนด้วย ได้แก่ Arm Holdings, Samsung Ventures, กองทุน M12 ของ Microsoft และบริษัทอื่น ๆ อีกมากกว่า 12 แห่ง ส่งผลให้ยอดเงินระดมทุนจากภายนอกของบริษัทในปัจจุบันอยู่ที่ 392 ล้านดอลลาร์

โมเดลภาษาขนาดใหญ่ (LLM) ประกอบด้วยโมดูลซอฟต์แวร์หลายส่วนที่มีความต้องการด้านฮาร์ดแวร์ที่แตกต่างกันอย่างมาก ตัวอย่างเช่น โมดูลบางส่วนมีการใช้งานหน่วยความจำของกราฟิกการ์ดที่ติดตั้งอยู่เบื้องหลังหนักกว่าส่วนอื่น ๆ Gimlet จึงได้พัฒนาแพลตฟอร์มที่นำปรากฏการณ์ดังกล่าวมาใช้เพื่อเร่งความเร็วในการทำอินเฟอเรนซ์

ซอฟต์แวร์ของบริษัทสามารถแบ่งโมเดล LLM ออกเป็นโมดูลต่าง ๆ ได้โดยอัตโนมัติ จากนั้นจะนำแต่ละโมดูลไปปรับใช้บนสถาปัตยกรรมชิปที่สอดคล้องกับความต้องการด้านฮาร์ดแวร์ของโมดูลนั้น ๆ ได้ดีที่สุด ตัวอย่างเช่น Gimlet อาจส่งส่วนประกอบที่ต้องใช้หน่วยความจำสูงไปยังหน่วยประมวลผลที่มี RAM บนบอร์ดจำนวนมาก

การแยกโมเดล LLM สามารถทำได้หลายวิธี โดยแนวทางที่พบบ่อยที่สุดคือการแยกส่วนแบบ PD ซึ่งจะรันขั้นตอน prefill และ decode ของเวิร์กโฟลว์งานอินเฟอเรนซ์บนชิปแยกจากกัน โดยขั้นตอน prefill และ decode คือขั้นตอนการประมวลผลที่ LLM ใช้ตีความคำสั่งและสร้างการตอบสนองตามลำดับ

นอกจากนี้ Gimlet ยังรองรับวิธีการแยกส่วนที่ละเอียดมากขึ้นด้วย

นักพัฒนาบางรายไม่ได้หยุดอยู่เพียงแค่การแบ่งเวิร์กโฟลว์อินเฟอเรนซ์ออกเป็นขั้นตอน prefill และ decode เท่านั้น แต่ยังก้าวไปอีกขั้นด้วยการแบ่งขั้นตอน decode ออกเป็นเวิร์กโฟลว์ย่อย ๆ ที่สามารถมอบหมายงานให้กับชิปแต่ละตัวได้แตกต่างกัน ในโปรเจกต์อื่น ๆ นักพัฒนาอาจใช้โมเดล “drafter” ขนาดเล็กเพื่อสร้างคำตอบเบื้องต้นสำหรับคำสั่ง และใช้ LLM ระดับแนวหน้าเพื่อปรับปรุงร่างเหล่านั้นให้สมบูรณ์ โดยโมเดลแต่ละตัวจะทำงานบนสถาปัตยกรรมชิปที่แยกจากกัน

แพลตฟอร์มของ Gimlet ช่วยลดภาระงานที่ต้องใช้ในการดำเนินการตามเวิร์กโฟลว์การแยกส่วนดังกล่าว นอกจากนี้ยังปรับปรุงประสิทธิภาพของโมดูล LLM แต่ละตัวให้เหมาะสมกับสถาปัตยกรรมชิปที่ถูกนำไปติดตั้ง โดยซอฟต์แวร์จะเพิ่มประสิทธิภาพโค้ดของโมเดลด้วยการผสมผสานระหว่างเอเจนต์ AI และคอมไพเลอร์ที่ปรับแต่งขึ้นมาเป็นพิเศษ

ข้อมูลของ Gimlet ระบุว่าเอเจนต์ของบริษัทจะค้นหาวิธีการที่ดีที่สุดในการปรับโค้ด LLM ให้เข้ากับชิปด้วยการสำรวจแนวทางการออกแบบหลาย ๆ แบบ หลังจากระบุแนวทางที่น่าสนใจได้แล้ว ระบบ AI จะดำเนินการทดสอบเพื่อให้แน่ใจว่าผลลัพธ์มีความถูกต้อง ในขณะที่คอมไพเลอร์ของบริษัทจะนำการปรับปรุงประสิทธิภาพทั้งแบบทั่วไปและแบบเฉพาะเจาะจงกับชิปมาใช้กับโมเดลของลูกค้า

Gimlet จำหน่ายซอฟต์แวร์ในรูปแบบรุ่นไร้เซิร์ฟเวอร์และรูปแบบบริการที่มีการจัดการ ซึ่งองค์กรต่าง ๆ สามารถนำไปติดตั้งบนโครงสร้างพื้นฐานของตนเองได้ บริษัทระบุว่าได้รับคำสั่งซื้อจากลูกค้าคิดเป็นมูลค่าหลายพันล้านดอลลาร์แล้ว โดยในเดือนมีนาคมที่ผ่านมา บริษัทระบุว่าฐานลูกค้าของตนประกอบด้วยหนึ่งในผู้ให้บริการระบบคลาวด์รายใหญ่ที่สุดของโลก และห้องปฏิบัติการ AI ระดับท็อป 3 ของโลก

เงินทุนรอบนี้จะช่วยให้บริษัทขยายขีดความสามารถด้านโครงสร้างพื้นฐานของแพลตฟอร์มรุ่นไร้เซิร์ฟเวอร์ได้ โดย Gimlet วางแผนที่จะเพิ่มกำลังการประมวลผลอีกหลายร้อยเมกะวัตต์ นอกจากนี้ บริษัทยังตั้งเป้าที่จะขยายธุรกิจเข้าสู่ตลาดฮาร์ดแวร์เฉพาะทาง โดยปัจจุบัน Gimlet กำลังพัฒนาเซิร์ฟเวอร์ที่ปรับแต่งสำหรับการทำอินเฟอเรนซ์โดยเฉพาะที่ไม่ต้องใช้เมนบอร์ดและสามารถนำไปใช้งานภายนอกศูนย์ข้อมูลได้

ที่มา: https://siliconangle.com/2026/09/04/gimlet-labs-nabs-300m-for-its-disaggregated-inference-platform/