NVIDIA เปิดตัว NIM microservices สำหรับปกป้องแอปพลิเคชันในยุค Agentic AI

ปลายสัปดาห์ที่ผ่านมา NVIDIA ได้ประกาศเปิดตัว 3 NVIDIA NIM microservices ใหม่ สำหรับ NVIDIA NeMo Guardrails เพื่อช่วยเสริมความปลอดภัย (Safety) ความถูกต้อง (Accuracy) และการขยายขนาด (Scalability) ของ AI Agent ใหักับองค์กรในยุค Agentic AI ได้ดีขึ้น

จากบล็อกโพส ทาง NVIDIA ได้ประกาศเปิดตัว NVIDIA NIM microservices ใหม่เพื่อสร้างราวกั้น (Guardrails) ให้กับ Agentic AI ซึ่ง 3 NVIDIA NIM microservices ใหม่นี้จะไปเป็นส่วนหนึ่งภายใน NVIDIA NeMo Guardrails ชุดเครื่องมือซอฟต์แวร์เพื่อช่วยองค์กรในการสร้างแอปพลิเคชัน Generative AI ให้มีความปลอดภัย แม่นยำ และขยายขนาดได้อย่างมั่นใจมากขึ้น

โดย NVIDIA ได้เปิดตัว 3 NIM microservices ใหม่บน NeMo Guardrails สำหรับการดำเนินงานของ AI Agent ได้แก่

  • Content safety NIM microservice เพื่อป้องกันเหตุการณ์ที่ AI อาจสร้างเนื้อหาที่มีอคติ (Bias) หรือเนื้อหาที่มีอันตรายต่าง ๆ ได้ เพื่อให้มั่นใจว่าสิ่งที่จะได้จะเป็นไปตามมาตรฐานจริยธรรมอันดี
  • Topic control NIM microserviceเพื่อช่วยให้การสนทนามุ่งเน้นการปรับปรุงเนื้อหาให้ดีขึ้นเรื่อย ๆ ไม่ให้ออกนอกเรื่อง หรือสร้างเนื้อหาที่ไม่เหมาะสมออกมา
  • Jailbreak detection NIM microserviceที่จะเพิ่มชั้นป้องกันไม่ให้ AI มีการออกนอกกรอบ ช่วยให้ AI ยังคงมี Integrity ในสถานการณ์อย่างต่อเนื่อง

NVIDIA NeMo Guardrails เป็นเครื่องมือ Open Source ที่ชุมชนนักพัฒนาสามารถนำไปจัดการกับซอฟต์แวร์ AI หรือแอปพลิเคชัน LLM ให้มี Security ที่ดีขึ้นได้ ซึ่งสามารถทำงานร่วมกับ NVIDIA NIM microservices เพื่อทำให้การสร้างระบบ AI ในยุค Agentic AI มีความมั่นคงปลอดภัยมากยิ่งขึ้น สำหรับรายละเอียดอื่น ๆ สามารถอ่านเพิ่มเติมได้ที่บล็อกโพสของ NVIDIA และ GitHub ของ NVIDIA NeMo Guardrails

ที่มา: https://blogs.nvidia.com/blog/nemo-guardrails-nim-microservices/

About chatchai

Tech Writer แห่ง TechTalk Thai ที่สนใจในทุกนวัตกรรมและเทคโนโลยี

Check Also

มหาวิทยาลัยสวนดุสิต เปิดหลักสูตรความมั่นคงปลอดภัยทางไซเบอร์ ตอบโจทย์โลกดิจิทัล พร้อมจับมือฟอร์ติเน็ตสร้างมาตรฐานการศึกษาไซเบอร์ระดับโลก [PR]

มหาวิทยาลัยสวนดุสิต สาขาความมั่นคงปลอดภัยไซเบอร์ จับมือฟอร์ติเน็ตผู้นำด้านความปลอดภัยทางไซเบอร์ระดับโลก ร่วมพัฒนาหลักสูตร พร้อมสานองค์ความรู้ระดับโลก จัดพิธีลงนามในบันทึกความเข้าใจ หรือ MOU เพื่อต่อยอดองค์ความรู้ที่เข้มข้น และทันสมัยต่อภัยคุกคามทางไซเบอร์ที่มีการพัฒนาอย่างต่อเนื่อง เพื่อสร้างกำลังคนที่แข็งแกร่ง ‘ในหลักสูตรวิทยาศาสตรบัณฑิต สาขาความมั่นคงปลอดภัยไซเบอร์’ โดยมีความมุ่งหวังให้นักศึกษาสามารถพัฒนาและยกระดับความสามารถของนักศึกษาไทยให้ทัดเทียมระดับสากล

บั๊ก SonicWall Firewall เริ่มถูกใช้ประโยชน์ หลังโค้ด PoC ถูกปล่อยออกมา

หลังมีการปล่อยโค้ด Proof-of-Concept (PoC) ตัวอย่างในการใช้ประโยชน์จากบั๊กที่พบใน SonicWall Firewall ราว 1 เดือน ดูเหมือนว่าผู้โจมตีได้เริ่มนำเอาโค้ดดังกล่าวมาใช้ประโยชน์ พุ่งเป้าโจมตีช่องโหว่ดังกล่าวที่พบใน SonicWall Firewall เพื่อเลี่ยง (Bypass) …