IBM เซ็นดีลโครงสร้างพื้นฐาน 240 ล้านดอลลาร์กับ Together AI

IBM จะจัดหาโครงสร้างพื้นฐานให้กับสตาร์ทอัพด้านปัญญาประดิษฐ์ Together AI โดยเป็นส่วนหนึ่งของข้อตกลงมูลค่า 240 ล้านดอลลาร์

ความร่วมมือครั้งนี้เกิดขึ้นเพียงไม่กี่สัปดาห์หลังจากที่บริษัทสตาร์ทอัพรายนี้เพิ่งระดมทุนได้ 800 ล้านดอลลาร์ โดยกลุ่มนักลงทุนที่ให้เงินทุนดังกล่าวรวมถึง Nvidia ซึ่งเป็นผู้ผลิตชิปที่ IBM จะนำมาใช้ในการรันเวิร์กโหลดของ Together AI

Together AI ซึ่งมีสำนักงานใหญ่อยู่ในเมืองซานฟรานซิสโก รัฐแคลิฟอร์เนีย ดำเนินงานแพลตฟอร์มคลาวด์ที่ได้รับการปรับแต่งมาเพื่อแมชชีนเลิร์นนิงโดยเฉพาะ แพลตฟอร์มนี้ทำงานบนโครงสร้างพื้นฐานที่บริษัทเช่ามาจากพันธมิตรอย่าง Amazon Web Services โดยนักพัฒนาสามารถใช้แพลตฟอร์มนี้ในการฝึกฝนโมเดล AI แบบเฉพาะเจาะจง การปรับจูนโมเดลที่มีอยู่เดิม และการทำอินเฟอเรนซ์ ทั้งนี้ IBM ได้เปิดเผยว่าแพลตฟอร์มดังกล่าวประมวลผลโทเค็นได้ประมาณ 4 แสนล้านล้านโทเค็นต่อเดือนให้กับลูกค้า

ข้อตกลงด้านโครงสร้างพื้นฐานที่ประกาศในครั้งนี้จะให้ยักษ์ใหญ่ด้านเทคโนโลยีรายนี้ติดตั้ง “คลัสเตอร์ขนาดใหญ่” ของระบบ HGX B300 ให้กับ Together AI โดยฮาร์ดแวร์ดังกล่าวจะพร้อมใช้งานผ่าน IBM Cloud ในช่วงครึ่งแรกของปี 2027

HGX B300 คือเมนบอร์ดที่ติดตั้งชิป Blackwell Ultra จำนวน 8 ตัว โดย Blackwell Ultra เคยเป็นกราฟิกการ์ดที่ล้ำสมัยที่สุดของ Nvidia ก่อนการเปิดตัว Rubin ในเดือนมกราคม ซึ่งสามารถมอบประสิทธิภาพการทำงานได้ถึง 15 เพตาฟลอปส์เมื่อประมวลผลข้อมูลในรูปแบบ NVFP4

Blackwell Ultra ประกอบด้วยชิปเล็ต 2 ตัวที่เชื่อมต่อกันด้วยระบบเชื่อมต่อแบบพิเศษ โดยภายในมีโมดูลประมวลผล 160 ชุดที่เรียกว่า streaming multiprocessors ซึ่งแต่ละชุดประกอบด้วยคอร์มากกว่า 130 คอร์ นอกจากนี้ยังมีหน่วยความจำที่ปรับแต่งมาเพื่อจัดเก็บผลลัพธ์ระหว่างการทำงาน ซึ่งเป็นข้อมูลชั่วคราวที่โมเดล AI สร้างขึ้นในขณะประมวลผลคำสั่ง

HGX B300 ใช้ชิป ConnectX-8 SuperNIC จำนวน 8 ตัวในการย้ายข้อมูลระหว่างตัวเร่งความเร็ว Blackwell Ultra โดยมีหน่วยประมวลผลข้อมูล BlueField-3 คอยประสานงานการรับส่งข้อมูลไปยังระบบภายนอกและรับข้อมูลกลับมา

ผู้ผลิตฮาร์ดแวร์ใช้ HGX B300 เพื่อสร้างเซิร์ฟเวอร์ AI ที่ประกอบด้วยส่วนประกอบต่าง ๆ ตามข้อมูลจาก Nvidia เครื่องเหล่านี้มีหน่วยความจำอย่างน้อย 2 เทราไบต์ และหน่วยประมวลผลกลาง (CPU) 2 ตัวที่มีคอร์ตัวละ 56 คอร์ โดย CPU เหล่านั้นเชื่อมต่อกับสวิตช์ PCIe 2 ตัวที่ช่วยให้ผู้ใช้สามารถเชื่อมต่อหน่วยความจำแฟลช NVME ได้อีกหลายเทราไบต์

Together AI จะใช้คลัสเตอร์ HGX B300 ของ IBM เพื่อโฮสต์เวิร์กโหลดสำหรับลูกค้าของพับลิกคลาวด์ โดยเฉพาะอย่างยิ่งการรันเวิร์กโหลดอินเฟอเรนซ์ที่ใช้โมเดล AI แบบโอเพนซอร์ส

สตาร์ทอัพ AI รายนี้ให้บริการอินเฟอเรนซ์ที่แตกต่างกัน 5 รูปแบบภายในแพลตฟอร์ม โดยบริการหนึ่งได้รับการปรับแต่งมาเพื่อโมเดลสร้างสื่อที่ทำงานในคอนเทนเนอร์ ส่วนบริการอื่นอย่าง Provisioned Throughput จะคิดค่าบริการตามจำนวนโทเค็นเพื่อช่วยให้ลูกค้าปรับต้นทุนให้เหมาะสม ทั้งนี้ข้อเสนออินเฟอเรนซ์อื่น ๆ ของ Together AI ยังมีโครงสร้างพื้นฐานแบบไร้เซิร์ฟเวอร์ เครื่องเจาะจงเฉพาะงาน และสภาพแวดล้อมการประมวลผลแบบแบตช์ที่แลกเปลี่ยนประสิทธิภาพบางส่วนเพื่อราคาที่ถูกลง

Vipul Ved Prakash ประธานเจ้าหน้าที่บริหารของ Together AI กล่าวว่า “คลัสเตอร์นี้ช่วยให้เรานำเสนอการทำอินเฟอเรนซ์ระดับการผลิตให้กับบริษัทต่าง ๆ ได้มากขึ้นและรวดเร็วขึ้น ซึ่งถือเป็นก้าวสำคัญในความมุ่งมั่นของเราที่จะผลักดันให้ AI แบบโอเพนซอร์สกลายเป็นทางเลือกที่ชัดเจนสำหรับองค์กรธุรกิจต่าง ๆ”

ที่มา: https://siliconangle.com/2026/08/11/ibm-inks-240m-infrastructure-deal-ai-optimized-cloud-operator-together-ai/