Tag Archives: inference

OpenRouter สตาร์ทอัพที่มุ่งเน้นการทำให้การพัฒนาแอปพลิเคชันปัญญาประดิษฐ์ง่ายขึ้นประกาศว่า บริษัท ได้รับเงินจำนวน 40 ล้านดอลลาร์ ผ่านการระดมทุนสองรอบที่นำโดย Andreessen Horowitz และ Menlo Ventures

Red Hat ประกาศเปิดตัวชุดเครื่องมือใหม่ มุ่งเน้นการเพิ่มประสิทธิภาพและลดความซับซ้อนในการทำงานบน Hybrid Cloud และ Edge Computing พร้อมประกาศความร่วมมือกับ AMD

Akamai ผู้ให้บริการ Cloud Computing และ Cybersecurity ชั้นนำระดับโลก ล่าสุดได้เปิดตัว Akamai Cloud Inference เพื่อสนับสนุนองค์กรที่ต้องการรันโมเดล Predictive AI หรือ LLM ได้อย่างมีประสิทธิภาพ เข้าใกล้ Edge มากยิ่งขึ้น พร้อมส่งมอบ Throughput ได้ดีขึ้นกว่า 3 เท่า ลด Latency ลงได้สูงสุดถึง 2.5 เท่า

Cerebras สตาร์ตอัปฮาร์ดแวร์ AI ที่ค่อย ๆ ขึ้นมาท้าทาย NVIDIA มากขึ้นเรื่อย ๆ ในตลาด AI ล่าสุดได้ประกาศการขยาย AI Data Center อย่างมีนัยสำคัญในอีก 6 ประเทศ พร้อมกับประกาศความร่วมมือระดับองค์กรอีก 2 แห่ง ที่อาจทำให้บริษัทกำลังจะกลายเป็นอีกหนึ่งในผู้นำบริการ AI Inference ความเร็วสูง

มีรายงานว่า OpenAI กำลังก้าวเข้าใกล้การผลิตชิปปัญญาประดิษฐ์ (AI) ของตัวเองมากขึ้น ในขณะที่บริษัทพยายามเพิ่มอำนาจต่อรองกับผู้ผลิตที่มีอยู่และขยายศูนย์ข้อมูลอย่างต่อเนื่อง Credit: OpenAI

Google Cloud เปิดให้บริการชิป Trillium AI อย่างเป็นทางการแบบ General Availability โดยชิป Trillium มีประสิทธิภาพสูงกว่ารุ่นก่อนถึง 3 เท่า

Google Cloud ประกาศเปิดตัว TPU รุ่นที่ 6 ชื่อ “Trillium” พร้อมอัพเกรด AI Hypercomputer รวมถึง A3 Ultra VMs ที่ขับเคลื่อนด้วย NVIDIA H200 Tensor Core GPUs เพื่อรองรับการประมวลผล AI ที่ซับซ้อนยิ่งขึ้น

มีรายงานว่า OpenAI กำลังร่วมมือกับ Broadcom และ TSMC เพื่อพัฒนาและผลิตชิปสำหรับรันโมเดล AI หลังจากเทรนเสร็จแล้ว มุ่งลดการใช้งาน GPU ที่ออกแบบมาสำหรับงานทั่วไปและจัดการกับต้นทุนที่เพิ่มขึ้นตามความต้องการฮาร์ดแวร์เฉพาะทางสำหรับ AI ที่เติบโตอย่างต่อเนื่อง