TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Nexos.ai สตาร์ทอัพหน้าใหม่ที่ช่วยองค์กรต่าง ๆ ในการรันโมเดลภาษาใหญ่ (Large Language Models: LLM) ระดมทุนได้ 8 ล้านดอลลาร์จากกลุ่มนักลงทุนที่นำโดย Index Ventures มีแผนจะเปิดตัวแพลตฟอร์มอย่างเป็นทางการภายในไตรมาสนี้ และในขณะนี้กำลังทดสอบซอฟต์แวร์กับองค์กรหลายแห่งที่นำไปใช้ในกรณีต่าง ๆ เช่น การทำงานบริการลูกค้าโดยอัตโนมัติ
Nexos.ai ซึ่งตั้งอยู่ในลิทัวเนีย ก่อตั้งขึ้นเมื่อปีที่แล้วโดย Tomas Okmanas และ Eimantas Sabaliauskas ผู้ก่อตั้ง Nord Security บริษัทด้านความปลอดภัยทางไซเบอร์ที่พัฒนาเครื่องมือเครือข่ายส่วนตัวเสมือน (VPN) ชื่อ NordVPN ซึ่งมีผู้ใช้งานมากกว่า 10 ล้านคน และมีมูลค่าบริษัทล่าสุดอยู่ที่ 3 พันล้านดอลลาร์
Nexos.ai กำลังพัฒนาแพลตฟอร์มที่ช่วยให้องค์กรสามารถสร้างแอปพลิเคชันที่ขับเคลื่อนด้วย LLM ได้ง่ายขึ้น โดยบริษัทระบุว่าซอฟต์แวร์ของตนสามารถกู้คืนเวิร์กโหลดหลังจากการขัดข้องของโมเดล AI ช่วยเร่งการแก้ปัญหา และลดความยุ่งยากในงานบำรุงรักษาอื่น ๆ
แพลตฟอร์มนี้สร้างขึ้นโดยมีส่วนต่อประสานโปรแกรมประยุกต์ (API) ที่เข้าถึงโมเดล LLM กว่า 200 รายการ ซึ่งรวมถึงโมเดลที่เป็นกรรมสิทธิ์และอัลกอริทึมโอเพนซอร์ส เช่น Llama ของ Meta Platforms เนื่องจากโมเดลทั้งหมดใช้ API เดียวกันในการรับคำสั่ง (Prompts) นักพัฒนาสามารถเปลี่ยนแอปพลิเคชันให้ใช้งานโมเดลใหม่ได้ด้วยการเขียนโค้ดน้อยกว่าปกติ โดย Nexos.ai ยังสามารถสลับการใช้งานระหว่าง LLM ให้ได้โดยอัตโนมัติ หากโมเดลที่แอปพลิเคชันใช้งานอยู่ไม่สามารถประมวลผลคำสั่งได้ แพลตฟอร์มจะส่งคำสั่งไปยังโมเดลอื่น นอกจากนี้ยังช่วยลดค่าใช้จ่ายในการประมวลผลด้วยการส่งคำสั่งง่าย ๆ ไปยังโมเดลขนาดเล็กที่ใช้ทรัพยากรฮาร์ดแวร์น้อยกว่าด้วย
บริษัทกล่าวว่าจะลดค่าใช้จ่ายด้านฮาร์ดแวร์เพิ่มเติมด้วยฟีเจอร์ที่เรียกว่า “semantic cache” ซึ่งสามารถจัดเก็บคำตอบของโมเดล LLM ลงในฐานข้อมูลและดึงข้อมูลดังกล่าวมาใช้ใหม่เมื่อผู้ใช้ถามคำถามเดิมอีกครั้ง โดยไม่ต้องให้โมเดล AI สร้างคำตอบใหม่จากศูนย์ ช่วยลดต้นทุนที่เกี่ยวข้อง
แพลตฟอร์มนี้ยังบันทึกคำสั่งและคำตอบของ LLM ทุกครั้งลงในฐานข้อมูลที่สามารถค้นหาได้ เพื่อใช้สำหรับการแก้ปัญหา นักพัฒนาสามารถตรวจสอบว่าคำตอบของโมเดลเปลี่ยนแปลงไปอย่างไรเมื่อเวลาผ่านไปเพื่อระบุปัญหาด้านคุณภาพ นอกจากคำสั่งและคำตอบของ LLM แต่ละรายการ Nexos.ai ยังบันทึกเมตริกสำคัญมากกว่าสิบรายการ เช่น การใช้โทเคน
นอกจากนี้ Nexos.ai ยังมอบความสามารถในการป้องกันให้กับแอปพลิเคชัน AI ที่ขับเคลื่อนโดยแพลตฟอร์มของตน โดยบริษัทระบุว่าการป้องกันดังกล่าวจะทำให้มั่นใจได้ว่าคำสั่งที่มีข้อมูลธุรกิจที่ละเอียดอ่อนจะถูกส่งไปยังโมเดล LLM ที่โฮสต์ภายในองค์กรแทนที่จะส่งไปยังโมเดลของบุคคลที่สาม และยังป้องกันไม่ให้โมเดลสร้างคำตอบที่เป็นอันตรายอีกด้วย
ที่มา: https://siliconangle.com/2025/01/17/nexos-ai-reels-8m-simplify-enterprise-ai-projects/
