TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Capsule Security สตาร์ทอัพด้านความมั่นคงปลอดภัยสำหรับเอเจนต์ AI ได้เปิดตัวระบบตรวจจับที่สร้างขึ้นบนโมเดล Nemotron จำนวน 2 รุ่นจาก Nvidia ที่บริษัทปรับแต่งเอง โดยเรียกเทคโนโลยีนี้ว่าเป็น “เซอร์กิตเบรกเกอร์ AI” สำหรับเอเจนต์ AI ที่ทำงานผิดปกติ
โมเดลเหล่านี้จะทำหน้าที่ประเมินการกระทำที่เอเจนต์ตั้งใจจะทำในเสี้ยววินาทีก่อนที่จะดำเนินการจริง ลูกค้าสามารถเลือกที่จะอนุญาต ทำเครื่องหมาย หรือปิดกั้นการกระทำนั้นได้แบบเรียลไทม์ ซึ่งเป็นการสร้างชั้นการควบคุมที่อยู่นอกเหนือตัวเอเจนต์ โดยมุ่งเน้นไปที่เอเจนต์ที่มีจำนวนเพิ่มขึ้นเรื่อย ๆ ซึ่งถือสิทธิ์ในการเข้าถึงข้อมูลที่มีความละเอียดอ่อน ซอร์สโค้ด หรือโครงสร้างพื้นฐานสำหรับการผลิต
การกำหนดสิทธิ์และขั้นตอนการทำงานเพื่อขออนุมัติเป็นการจำกัดสิ่งที่เอเจนต์ได้รับอนุญาตให้ทำได้ สิ่งที่ระบบเหล่านั้นไม่สามารถทำได้คือการตรวจสอบว่าการกระทำใดการกระทำหนึ่งเหมาะสมกับงานที่ได้รับมอบหมายหรือไม่ และการเฝ้าสังเกตการณ์หลังจากเกิดเหตุการณ์ไปแล้วจะทำได้เพียงแค่ตรวจพบปัญหาหลังจากความเสียหายเกิดขึ้นแล้วเท่านั้น
ใน StepShield ซึ่งเป็นมาตรฐานทางวิชาการสำหรับการตรวจจับพฤติกรรมของเอเจนต์ที่ผิดปกติในระดับขั้นตอน Capsule ระบุว่าระบบของบริษัทมีความแม่นยำสูงถึง 98% และสามารถตรวจจับการละเมิดได้ในขั้นตอนที่เกิดเหตุการณ์ขึ้นจริง มาตรฐานดังกล่าวใช้การเฝ้าสังเกตการณ์ผ่านเส้นทางการทำงานของโค้ดเอเจนต์จำนวน 9,429 รายการที่ดึงมาจากเหตุการณ์จริง ผู้จัดทำมาตรฐานนี้โต้แย้งว่าความแม่นยำและความสามารถในการเรียกคืนอาจไม่ใช่ประเด็นสำคัญเพียงอย่างเดียว โดยระบบการป้องกันแบบอิงกฎที่พวกเขาได้ทดสอบนั้นสามารถตรวจจับเส้นทางการทำงานที่ผิดปกติได้เกือบทั้งหมด แต่การแจ้งเตือนมากกว่าสามในสี่เกิดขึ้นกับโค้ดทั่วไปที่ถูกเขียนขึ้นก่อนที่จะเกิดปัญหาใด ๆ
เนื่องจากโมเดลเหล่านี้จัดการกับงานจำแนกประเภทที่เฉพาะเจาะจงแทนที่จะเป็นการสร้างการตอบกลับทั้งหมด จึงสามารถทำงานภายในขั้นตอนการทำงานของเอเจนต์ได้โดยไม่ทำให้เกิดความล่าช้ามากนัก โดยการตัดสินใจสามารถส่งกลับมาได้ในเวลาเพียง 71 มิลลิวินาที ตัวตรวจจับที่มีความแม่นยำสูงสุดของ Capsule ทำคะแนนได้ 96.9% ในการทดสอบภายใน เทียบกับ 86% ของโมเดลจากบุคคลภายนอกที่แข็งแกร่งที่สุดที่นำมาประเมิน ทั้งนี้ Capsule ไม่ได้ระบุชื่อโมเดลของบุคคลภายนอกหรือเปิดเผยคะแนนโดยละเอียด แต่ประกาศระบุในวงกว้างว่าโมเดลที่ปรับแต่งเองนี้มีประสิทธิภาพเหนือกว่าระบบระดับแนวหน้าจาก OpenAI, Anthropic และ Google
Nemotron 3 Ultra ซึ่งเป็นโมเดลที่ใหญ่ที่สุดในตระกูล Nemotron 3 แบบโอเพนซอร์สของ Nvidia เป็นโมเดลที่รองรับการฝึกฝนในครั้งนี้ โดยเนื้อหาที่ใช้ในการฝึกฝนรวมถึงร่องรอยการทำงานจริงของเอเจนต์และตัวอย่างการโจมตีที่เขียนขึ้นเพื่อกำหนดขอบเขตของพฤติกรรมที่ได้รับอนุญาต โดยมีมนุษย์เป็นผู้ตรวจสอบชุดข้อมูลดังกล่าว บริษัทกล่าวว่าความต้องการหน่วยความจำของโมเดลรุ่นใหญ่ทั้งสองรุ่นลดลงเกือบครึ่งหนึ่งโดยไม่ส่งผลกระทบต่อประสิทธิภาพ ทำให้สามารถรันบนกราฟิกการ์ด Nvidia L40S เพียงตัวเดียวได้
Naor Paz ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่บริหารของ Capsule Security กล่าวว่าความเสี่ยงด้านความมั่นคงปลอดภัยของ AI ที่สำคัญไม่ได้อยู่ที่สิ่งที่มนุษย์สามารถทำได้ด้วยเอเจนต์เพียงอย่างเดียวอีกต่อไป แต่อยู่ที่สิ่งที่เอเจนต์อิสระสามารถตัดสินใจทำได้ด้วยตัวเอง เมื่อซอฟต์แวร์สามารถใช้เหตุผล ใช้เครื่องมือ และลงมือปฏิบัติได้ การตัดสินใจที่ผิดพลาดอาจกลายเป็นเหตุการณ์ที่ส่งผลกระทบต่อโลกจริงได้ในเวลาเพียงไม่กี่วินาที
ข้อมูลจาก Capsule ระบุว่ามีโทเค็นจำนวนหลายพันล้านรายการจากการโต้ตอบของเอเจนต์นับล้านครั้งเคลื่อนผ่านเทคโนโลยีนี้แล้ว โดยลูกค้าของบริษัทรวมถึงสถาบันการเงินและบริษัทเทคโนโลยีต่าง ๆ Phillip Miller รองประธานและประธานเจ้าหน้าที่ฝ่ายสารสนเทศความมั่นคงปลอดภัยระดับโลกของ H&R Block กล่าวว่าการควบคุมในลักษณะนี้ช่วยให้ทีมรักษาความมั่นคงปลอดภัยสามารถขยายการใช้เอเจนต์ AI ได้กว้างขวางขึ้น โดยยังคงรักษาไว้ซึ่งความมั่นคงปลอดภัย การกำกับดูแล และความรับผิดชอบที่ลูกค้าคาดหวัง
Paz และ Lidan Hazout ก่อตั้ง Capsule ในปี 2025 โดยสตาร์ทอัพแห่งนี้เปิดตัวอย่างเป็นทางการในเดือนเมษายนพร้อมเงินทุนระดับเริ่มต้นจำนวน 7 ล้านดอลลาร์สหรัฐ ผ่านรอบที่นำโดย Lama Partners และได้เปิดเผยช่องโหว่ประเภทการแทรกพรอมต์สองรายการในวันเดียวกัน ได้แก่ ใน Microsoft Copilot Studio และใน Salesforce Agentforce ซึ่งทั้งสองรายการได้รับการแก้ไขแล้ว
ความสามารถใหม่นี้พร้อมใช้งานแล้วในปัจจุบัน
ที่มา: https://siliconangle.com/2026/09/02/capsule-security-fine-tunes-nvidia-nemotron-models-to-stop-rogue-ai-agents/
