สตาร์ทอัพด้านปัญญาประดิษฐ์ Groq ประกาศว่าบริษัทได้ระดมทุนเพิ่มเติมจำนวน 350 ล้านดอลลาร์ โดยการระดมทุนในรอบ Series A นี้มี Disruptive ซึ่งเป็นผู้ลงทุนรายเดิมกลับมาร่วมลงทุนอีกครั้ง ทั้งนี้ Groq ระบุว่า Nvidia มีแผนที่จะเข้าร่วมการระดมทุนในรอบนี้ในภายหลัง แต่ไม่ได้ระบุรายละเอียดว่ายักษ์ใหญ่ด้านชิปรายนี้จะลงทุนเป็นจำนวนเงินเท่าใด โดยเม็ดเงินลงทุนก้อนนี้เกิดขึ้นหลังจากที่บริษัทเพิ่งปิดการระดมทุนรอบ 650 ล้านดอลลาร์ไปได้ไม่ถึงสามเดือน

Groq ก่อตั้งขึ้นในปี 2016 โดยมุ่งเน้นที่การพัฒนาตัวเร่งความเร็วสำหรับ AI ในเดือนธันวาคมปีที่แล้ว Nvidia ได้บรรลุข้อตกลงมูลค่า 2 หมื่นล้านดอลลาร์เพื่อขอใช้สิทธิ์ในเทคโนโลยีชิปของบริษัทและว่าจ้างทีมผู้บริหารหลายคน ต่อมา Groq ได้ปรับเปลี่ยนทิศทางธุรกิจด้วยการเปิดตัวแพลตฟอร์มคลาวด์สาธารณะที่ได้รับการปรับแต่งมาเพื่อรองรับภาระงานด้าน AI โดยเฉพาะ โดยแพลตฟอร์มนี้ขับเคลื่อนด้วยเทคโนโลยีชิปที่บริษัทพัฒนาขึ้นก่อนที่จะทำข้อตกลงกับ Nvidia
ในส่วนของ Nvidia นั้นได้นำเทคโนโลยีของ Groq ไปใช้ในการพัฒนาชิปที่ชื่อว่า Groq 3 LPU ซึ่งเปิดตัวเมื่อเดือนมีนาคมที่ผ่านมา โดยชิปดังกล่าวได้รับการปรับแต่งมาเพื่อการทำอินเฟอเรนซ์ ซึ่งเป็นกระบวนการรันโมเดล AI ในระบบงานจริงหลังจากผ่านการฝึกฝนมาแล้ว
โมเดลภาษาขนาดใหญ่ประกอบด้วยองค์ประกอบหลักสองส่วน ได้แก่ กลไกความสนใจและเครือข่ายฟีดฟอร์เวิร์ด หรือ FFN โดยโมดูลตัวแรกจะทำหน้าที่ระบุส่วนที่สำคัญที่สุดของพรอมต์ของผู้ใช้งาน ส่วน FFN จะเป็นตัวจัดเก็บความรู้ส่วนใหญ่ที่ LLM ได้รับมาระหว่างการฝึกฝน และยังเป็นส่วนที่ดำเนินการคำนวณจำนวนมหาศาลที่เกี่ยวข้องกับการสร้างคำตอบสำหรับพรอมต์อีกด้วย
ชิป Groq 3 LPU ได้รับการออกแบบมาให้ใช้งานร่วมกับหน่วยประมวลผลกราฟิก Rubin ของ Nvidia โดยลูกค้าสามารถรันโมดูล FFN ของโมเดลบนชิปของ Groq ในขณะที่ส่งการคำนวณที่เกี่ยวข้องกับความสนใจไปยัง GPU ได้ ตามข้อมูลจาก Nvidia แนวทางการประมวลผลแบบแยกส่วนนี้มีประสิทธิภาพมากกว่าการรันทุกอย่างบนการ์ดจอเพียงอย่างเดียว
นอกจากนี้ยังมีสถานการณ์อื่น ๆ ที่ชิป Groq 3 LPU ช่วยเพิ่มประสิทธิภาพการทำงานได้ โดยสามารถเร่งความเร็วให้กับ LLM ที่ใช้สถาปัตยกรรมแบบ mixture of expert หรือใช้เทคนิค speculative decoding ซึ่งเทคโนโลยีหลังนี้ช่วยให้ LLM สามารถเร่งความเร็วในการคำนวณบางอย่างได้โดยการส่งต่อไปยังโมเดลที่สองที่มีประสิทธิภาพด้านฮาร์ดแวร์มากกว่า
Nvidia จัดส่งชิป Groq 3 LPU ในรูปแบบแร็กที่แต่ละแร็กบรรจุตัวเร่งความเร็วจำนวน 256 ตัว โดย Groq กำลังใช้แร็กเหล่านี้เพื่อขับเคลื่อนคลาวด์สาธารณะที่เน้นการใช้งาน AI ซึ่งเรียกว่า GroqCloud โดยให้บริการสภาพแวดล้อมแบบ bare-metal ที่ช่วยให้ลูกค้าสามารถปรับแต่งฮาร์ดแวร์พื้นฐานได้ สำหรับผู้ใช้งานที่ไม่เชี่ยวชาญด้านเทคนิคมากนัก บริษัทได้นำเสนอชุดเครื่องมือที่เรียกว่า GroqStack ซึ่งจะช่วยทำหน้าที่จัดการงานด้านโครงสร้างพื้นฐานโดยอัตโนมัติ
ที่น่าสนใจคือ Groq ระบุในวันนี้ว่าแพลตฟอร์มของบริษัทไม่ได้เอื้อต่อการทำอินเฟอเรนซ์เพียงอย่างเดียว แต่ยังรวมถึงการฝึกฝน AI ด้วย แม้ว่าชิป Groq 3 LPU จะไม่รองรับกรณีการใช้งานหลังนี้ แต่คาดว่าบริษัทจะรันภาระงานด้านการฝึกฝนบนการ์ดจอ Rubin ที่ติดตั้งไว้พร้อมกับแร็ก Groq 3 LPU ของตน โดย Nvidia ได้จัดเตรียมซอฟต์แวร์เอนจินที่ชื่อว่า Dynamo ซึ่งจะช่วยกำหนดโดยอัตโนมัติว่าชิปตัวใดควรรับหน้าที่ประมวลผลส่วนใดของภาระงานอินเฟอเรนซ์
Groq จะนำเงินที่ได้จากการระดมทุนรอบนี้ไปขยายบริการคลาวด์สาธารณะของตน ปัจจุบันแพลตฟอร์มดังกล่าวทำงานบนฮาร์ดแวร์ที่ติดตั้งอยู่ในศูนย์ข้อมูล 13 แห่งทั่วโลก โดย Groq มีแผนที่จะขยายกำลังการผลิตคลาวด์จาก 57 เมกะวัตต์ เพิ่มขึ้นเป็นมากกว่า 200 เมกะวัตต์ในปีหน้า
ที่มา: https://siliconangle.com/2026/08/17/ai-cloud-operator-groq-raises-350m-more-in-funding/
TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย










