TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
บริษัทปัญญาประดิษฐ์ Cohere ได้เปิดตัว North 2 ซึ่งเป็นการยกเครื่องแพลตฟอร์มสำหรับใช้งานเอเจนต์ AI ภายในองค์กรขนาดใหญ่
นอกเหนือจากการออกแบบระบบใหม่สำหรับประสานจัดการการทำงานของเอเจนต์แบบหลายขั้นตอนแล้ว การอัปเดตครั้งนี้ยังมอบการควบคุมใหม่ให้แก่ผู้ดูแลระบบเพื่อจำกัดค่าใช้จ่ายด้านโทเคนอีกด้วย
ด้วย North 2 ทาง Cohere กำลังแก้ไขปัญหาการแลกเปลี่ยนที่องค์กรต่าง ๆ ได้ยอมรับสำหรับการดีพลอยเอเจนต์ โดยต้องแลกมาด้วยการยอมสูญเสียอย่างใดอย่างหนึ่งไป ไม่ว่าจะเป็นเรื่องความมั่นคงปลอดภัย ขีดความสามารถ หรือการควบคุมต้นทุน เพื่อให้ได้มาซึ่งอีกสองส่วนที่เหลือ ทั้งนี้ North ได้เปิดให้ใช้งานโดยทั่วไปตั้งแต่เดือนสิงหาคม 2025 และ Cohere ระบุว่าประสบการณ์หนึ่งปีจากการดีพลอยในโปรดักชันขนาดใหญ่ในอุตสาหกรรมต่าง ๆ ตั้งแต่ภาคการเงินไปจนถึงภาครัฐ ได้มีส่วนกำหนดทิศทางของการอัปเกรดในครั้งนี้
ระบบประสานการทำงานดังกล่าวจะดำเนินขั้นตอนงานหลายขั้นด้วยตัวเอง และจะดึงมนุษย์เข้ามามีส่วนร่วมในขั้นตอนที่จำเป็นต้องได้รับการอนุมัติ เอเจนต์ที่สร้างขึ้นจากคำสั่งง่าย ๆ สามารถแชร์ให้ใช้งานได้ทั่วทั้งบริษัท ซึ่งช่วยป้องกันไม่ให้ทีมอื่น ๆ ต้องสร้างเวิร์กโฟลว์ซ้ำซ้อนกัน เอเจนต์แต่ละตัวจะยังคงจดจำข้อมูลระหว่างเซสชันได้ นอกจากนี้ Cohere ยังได้เพิ่มฟีเจอร์ทักษะสำหรับบรรจุตรรกะที่เอเจนต์ต้องเรียกใช้ซ้ำ ๆ ไว้ด้วย ส่วนเอกสารและสินทรัพย์อื่น ๆ ที่เอเจนต์ทุกตัวควรเข้าถึงได้จะถูกจัดเก็บไว้ในไลบรารีที่ใช้ร่วมกัน
จากคำขอด้วยภาษาธรรมชาติ North 2 สามารถสร้างชุดสไลด์ แดชบอร์ด หรือแอปพลิเคชันที่มีขนาดเบาซึ่งผู้ใช้สามารถสร้างโปรโตไทป์ภายในหน้าต่างแชทได้ สำหรับกระบวนการที่เกิดขึ้นเป็นประจำจะมีเทมเพลตที่สร้างไว้ล่วงหน้าและตัวสร้างเวิร์กโฟลว์แบบลากวางที่รายงานประสิทธิภาพแบบเรียลไทม์ ไลบรารีตัวเชื่อมต่อในปัจจุบันรองรับ Slack, GitHub และ SharePoint รวมถึง OneDrive ของ Microsoft นอกจากนี้ Cohere ยังวางแผนที่จะสร้างตัวเชื่อมต่อสำหรับผู้ให้บริการข้อมูลทางการเงิน ซึ่งรวมถึง PitchBook Data, S&P Global และ FactSet Research Systems อีกด้วย
การควบคุมการใช้จ่ายใหม่นี้จะอยู่ใน North Admin ซึ่งเป็นคอนโซลการจัดการของแพลตฟอร์ม โดยสามารถติดตามการใช้โทเคนได้จนถึงระดับผู้ใช้และเอเจนต์รายตัว ผู้ดูแลระบบสามารถกำหนดระดับการใช้งานสำหรับผู้ใช้และกลุ่มต่าง ๆ โดยอิงตามอัตราการร้องขอและโทเคน รวมถึงจำกัดการใช้งานทั่วทั้งบริษัท ทั้งยังสามารถตั้งค่าการแจ้งเตือนเพื่อเตือนทีมงานก่อนที่จะถึงขีดจำกัดได้ เนื่องจาก North 2 เป็นแพลตฟอร์มที่ไม่ยึดติดกับโมเดลใดโมเดลหนึ่ง โมเดลที่ผู้ดูแลระบบกำหนดให้กับแต่ละทีมจึงสามารถรวมถึงโมเดลที่ลูกค้าจัดหามาจากภายนอก Cohere ได้ด้วย
Cohere คาดหวังว่าการร่วมมือกับ Nvidia จะช่วยลดต้นทุนในการดำเนินงานของ North โดยกล่าวว่าโมเดลของบริษัทสามารถผลิตโทเคนต่อวินาทีต่อโหนดได้มากขึ้นบนหน่วยประมวลผลกราฟิก Blackwell และ Hopper ของ Nvidia โดย Kari Briski รองประธานฝ่าย Generative AI ของ Nvidia กล่าวว่าสิ่งนี้ช่วยให้ North 2 สามารถส่งมอบโทเคนได้มากขึ้นในราคาที่ถูกลง
North Admin ยังมีการควบคุมด้านความมั่นคงปลอดภัย ซึ่งสามารถนำระบบป้องกันมาใช้กับเอเจนต์แต่ละตัวได้ การคัดกรองครอบคลุมถึงข้อมูลที่สามารถระบุตัวบุคคลได้ในคำสั่งและการตอบกลับ รวมถึงความพยายามในการแทรกคำสั่ง นโยบายความเป็นอิสระจะช่วยควบคุมให้เอเจนต์แต่ละตัวปฏิบัติเฉพาะสิ่งที่ได้รับอนุญาตเท่านั้น North ยังคงทำงานแบบติดตั้งภายในองค์กร หรือภายในระบบคลาวด์ส่วนตัวเสมือนของลูกค้าเอง รวมถึงการติดตั้งแบบตัดขาดจากเครือข่ายภายนอกโดยสมบูรณ์สำหรับองค์กรที่ไม่อนุญาตให้มีการเชื่อมต่อจากภายนอก
หน่วยงาน Bell Cyber ของ Bell Canada กำลังใช้ North ภายในงานด้านความมั่นคงปลอดภัยของตนเอง โดย Jawed Ahmad ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและ AI ของ Bell Cyber กล่าวว่า North ช่วยให้หน่วยงานสามารถใช้งานเอเจนต์ AI ที่มีข้อกำหนดด้านการควบคุมและอธิปไตยข้อมูลที่ลูกค้าของ Bell Cyber ต้องการรวมไว้อยู่แล้วตั้งแต่เริ่มต้น
ผู้ใช้อื่น ๆ ได้แก่บริษัทบริการเทคโนโลยีสารสนเทศจากเกาหลีใต้อย่าง LG CNS ซึ่งใช้ North ภายในองค์กรและนำไปให้บริการแก่ลูกค้าทั่วประเทศ ส่วน Radical Ventures ซึ่งเป็นนักลงทุนรายแรก ๆ ของ Cohere ได้สร้างระบบอัตโนมัติบน North ที่ช่วยจัดเตรียมสรุปข้อมูลที่ทีมงานต้องอ่านก่อนการประชุมกับผู้ก่อตั้งบริษัท โดย Parasvil Patel หุ้นส่วนของบริษัทกล่าวว่า ก่อนที่จะมีระบบนี้ ทีมงานต้องใช้เวลาหลายชั่วโมงในการรวบรวมบริบทพื้นฐานต่าง ๆ
North 2 เปิดตัวหลังจากที่ Cohere ได้ลงนามในข้อตกลงควบรวมกิจการกับ Aleph Alpha ผู้พัฒนา AI สัญชาติเยอรมันไม่ถึงสามสัปดาห์ ในข้อตกลงที่จะยังคงใช้ชื่อ Cohere สำหรับบริษัทที่ควบรวมกัน
