TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
สตาร์ทอัพด้านปัญญาประดิษฐ์ Cohere เปิดตัว Command A โมเดลภาษาขนาดใหญ่ (LLM) ที่สามารถรองรับการใช้งานทางธุรกิจได้อย่างมีประสิทธิภาพโดยใช้ฮาร์ดแวร์น้อยกว่าคู่แข่ง
ทางบริษัทระบุว่า LLM รุ่นใหม่นี้สามารถทำงานได้เหนือกว่าโมเดลชั้นนำทั้งแบบปิดและแบบโอเพนซอร์ส เช่น OpenAI GPT-4o และ DeepSeek-V3 อีกทั้งยังสามารถรันบนหน่วยประมวลผลกราฟิก (GPU) เพียงสองตัว ได้แก่ Nvidia A100 หรือ H100 ในขณะที่โมเดลคู่แข่งอาจต้องใช้ถึง 32 ตัว
ความแตกต่างของขนาดนี้มีความสำคัญ เนื่องจากลูกค้าที่ต้องการติดตั้ง AI ภายในองค์กร เช่น ธุรกิจการเงินและการดูแลสุขภาพ มักต้องวางโมเดล AI ไว้ภายในไฟร์วอลล์ของตน ซึ่งหมายถึงต้นทุนที่สูงในการซื้อฮาร์ดแวร์เร่งความเร็ว AI ดังนั้น การมีโมเดลที่สามารถรันได้ภายในองค์กรจึงเป็นสิ่งจำเป็น
“จากการประเมินโดยมนุษย์ในการใช้งานด้านธุรกิจ STEM และการเขียนโค้ด Command A สามารถทำงานได้เทียบเท่าหรือดีกว่าโมเดลที่ใหญ่กว่าและทำงานช้ากว่า ขณะเดียวกันก็ให้ปริมาณงานที่สูงกว่าและประสิทธิภาพที่ดีกว่า” Cohere กล่าว
Cohere ระบุว่า Command A สามารถสร้างโทเค็นได้สูงสุด 156 โทเค็นต่อวินาที ซึ่งเร็วกว่า GPT-4o ถึง 1.75 เท่า และเร็วกว่า DeepSeek-V3 ถึง 2.4 เท่า
เพื่อรองรับการใช้งานทางธุรกิจ โมเดลนี้ยังมาพร้อมกับหน้าต่างบริบทขนาดใหญ่ถึง 256,000 โทเค็น ซึ่งเป็นสองเท่าของค่าเฉลี่ยในตลาด รวมถึงโมเดล Command R+ ของ Cohere เอง ซึ่งหมายความว่าโมเดลสามารถประมวลผลเอกสารจำนวนมากในคราวเดียว หรือแม้แต่หนังสือที่มีความยาวถึง 600 หน้า
“เราเทรนโมเดลของเราเพื่อช่วยให้คุณทำงานได้ดีขึ้น” Nick Frosst ผู้ร่วมก่อตั้ง Cohere กล่าว “มันควรรู้สึกเหมือนคุณกำลังเข้าไปในกลไกสมองของคุณ ดังนั้นเราจึงออกแบบให้มันช่วยสนับสนุนคุณได้อย่างเต็มที่”
บริษัทระบุว่าพวกเขาให้ความสำคัญกับการพัฒนาโมเดลเพื่อรองรับการทำงานของเอเจนต์ AI ในระดับที่สามารถขยายตัวได้ ปัจจุบันเอเจนต์ AI กำลังเป็นแนวโน้มสำคัญในอุตสาหกรรม โดยมุ่งเน้นไปที่การสร้างระบบปัญญาประดิษฐ์ที่สามารถวิเคราะห์ข้อมูล ตัดสินใจ และดำเนินงานได้โดยอัตโนมัติหรือด้วยการมีส่วนร่วมน้อยที่สุดจากมนุษย์ ซึ่งกระบวนการนี้ต้องใช้ทรัพยากรประมวลผลจำนวนมาก และเพื่อให้สามารถทำได้อย่างมีประสิทธิภาพและแม่นยำบนข้อมูลขององค์กร AI โมเดลต้องผ่านการฝึกฝนมาเป็นอย่างดี
Cohere ระบุว่า Command A จะสามารถทำงานร่วมกับแพลตฟอร์มเอเจนต์ AI ที่มีความมั่นคงปลอดภัยของบริษัทที่ชื่อ North ได้โดยตรง ซึ่งช่วยให้ลูกค้าองค์กรสามารถใช้ข้อมูลของบริษัทได้อย่างเต็มประสิทธิภาพ แพลตฟอร์มนี้ถูกออกแบบมาเพื่อให้ AI เอเจนต์สำหรับองค์กรสามารถใช้งานระบบบริหารลูกค้าสัมพันธ์ (CRM) ซอฟต์แวร์วางแผนทรัพยากรองค์กร และเครื่องมืออื่น ๆ เพื่อทำงานโดยอัตโนมัติ
ที่มา: https://siliconangle.com/2025/03/13/cohere-releases-low-cost-ai-model-requires-2-gpus/
