Microsoft ประกาศใช้ระบบป้องกันในการใช้ AI ‘Prompt Shields’

Microsoft ได้เริ่มต้นยกระดับความมั่นคงปลอดภัยให้กับแอปพลิเคชันที่ใช้งานบริการ Azure OpenAI ด้วยการประกาศพร้อมใช้งาน Prompt Shields

Prompts Shields สามารถช่วยผู้ใช้งานได้ทั้งทางตรงและทางอ้อม

• Direct Attack – เป็นความจงใจที่ผู้ใช้งานป่วน Prompt ให้โมเดลละเมิดกฏเกณฑ์หรือสิ่งที่เรียนมา
• Indirect Attack – เป็นข้อมูลอันตรายจากภายนอกที่คนร้ายฝังมาและทำให้ LLM ประมวลคำสั่งอย่างผิดพลาด เช่น แอปพลิเคชันอีเมลที่ใช้ความสามารถของ AI ถูกหลอกให้ไปประมวลผลคำสั่งอันตรายที่ฝังมาในเนื้อหาอีเมลที่อาจนำไปสู่เรื่องข้อมูลละเอียดอ่อนหรือนำไปยังเว็บอันตราย เป็นต้น

อย่างไรก็ปัจจุบัน Prompt Shields ยังถูกจำกัดอยู่กับบางภาษาเท่านั้น เช่น จีน อังกฤษ ฝรั่งเศส เยอรมัน สเปน อิตตาเลียน ญี่ปุ่น และโปรตุเกส

ที่มา : https://redmondmag.com/Articles/2024/09/04/Prompt-Shields-AI-System-Security-Now-Available.aspx