NVIDIA เปิดตัว NIM microservices สำหรับปกป้องแอปพลิเคชันในยุค Agentic AI

ปลายสัปดาห์ที่ผ่านมา NVIDIA ได้ประกาศเปิดตัว 3 NVIDIA NIM microservices ใหม่ สำหรับ NVIDIA NeMo Guardrails เพื่อช่วยเสริมความปลอดภัย (Safety) ความถูกต้อง (Accuracy) และการขยายขนาด (Scalability) ของ AI Agent ใหักับองค์กรในยุค Agentic AI ได้ดีขึ้น

จากบล็อกโพส ทาง NVIDIA ได้ประกาศเปิดตัว NVIDIA NIM microservices ใหม่เพื่อสร้างราวกั้น (Guardrails) ให้กับ Agentic AI ซึ่ง 3 NVIDIA NIM microservices ใหม่นี้จะไปเป็นส่วนหนึ่งภายใน NVIDIA NeMo Guardrails ชุดเครื่องมือซอฟต์แวร์เพื่อช่วยองค์กรในการสร้างแอปพลิเคชัน Generative AI ให้มีความปลอดภัย แม่นยำ และขยายขนาดได้อย่างมั่นใจมากขึ้น

โดย NVIDIA ได้เปิดตัว 3 NIM microservices ใหม่บน NeMo Guardrails สำหรับการดำเนินงานของ AI Agent ได้แก่

• Content safety NIM microservice เพื่อป้องกันเหตุการณ์ที่ AI อาจสร้างเนื้อหาที่มีอคติ (Bias) หรือเนื้อหาที่มีอันตรายต่าง ๆ ได้ เพื่อให้มั่นใจว่าสิ่งที่จะได้จะเป็นไปตามมาตรฐานจริยธรรมอันดี
• Topic control NIM microserviceเพื่อช่วยให้การสนทนามุ่งเน้นการปรับปรุงเนื้อหาให้ดีขึ้นเรื่อย ๆ ไม่ให้ออกนอกเรื่อง หรือสร้างเนื้อหาที่ไม่เหมาะสมออกมา
• Jailbreak detection NIM microserviceที่จะเพิ่มชั้นป้องกันไม่ให้ AI มีการออกนอกกรอบ ช่วยให้ AI ยังคงมี Integrity ในสถานการณ์อย่างต่อเนื่อง

NVIDIA NeMo Guardrails เป็นเครื่องมือ Open Source ที่ชุมชนนักพัฒนาสามารถนำไปจัดการกับซอฟต์แวร์ AI หรือแอปพลิเคชัน LLM ให้มี Security ที่ดีขึ้นได้ ซึ่งสามารถทำงานร่วมกับ NVIDIA NIM microservices เพื่อทำให้การสร้างระบบ AI ในยุค Agentic AI มีความมั่นคงปลอดภัยมากยิ่งขึ้น สำหรับรายละเอียดอื่น ๆ สามารถอ่านเพิ่มเติมได้ที่บล็อกโพสของ NVIDIA และ GitHub ของ NVIDIA NeMo Guardrails

ที่มา: https://blogs.nvidia.com/blog/nemo-guardrails-nim-microservices/