TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
The Open Worldwide Application Security Project (OWASP) ได้เผยแพร่คู่มือตรวจสอบกลยุทธ์ในการใช้ LLM เพื่อช่วยบรรเทาความเสี่ยงด้านความมั่นคงปลอดภัยจากเครื่องมือ AI
ในคู่มือจะพาทุกท่านไปรู้จักกับความหมายและความท้าทายจาก LLM กันก่อนว่ามีอะไรบ้าง ก่อนจะเริ่มต้นโปรเจ็คเหล่านี้ โดยแนะนำถึงกลยุทธ์สำหรับประเมินองค์กรของตนถึงหัวข้อด้าน Cyber Resilience และการเทรนด้านความมั่นคงปลอดภัย ตลอดจนการสร้างความเข้าใจกับผู้นำองค์กร อย่างไรก็ดีมีหลายตัวแปรที่องค์กรต้องคิดถึง เช่น ความอ่อนไหวของแต่ละกรณี ความสามารถที่ต้องการให้ได้ผลลัพธ์ออกมา การเลือกใช้ข้อมูลเพื่อนำไปเรียนรู้ ซึ่งท้ายที่สุดองค์กรต้องสร้างความสมดุลย์ระหว่างความสะดวกในการใช้และความสามารถในการควบคุม
ครึ่งหลังของเนื้อหาจะกล่าวถึง Checklist 13 ข้อ ใน 3 มุมมองคือ การวัดผลทางธุรกิจว่าจะต้องเริ่มต้นด้วย use case ใดและใช้โซลูชัน LLM อย่างไร ตลอดจนการวัดผลความเสี่ยงต่อโมเดลที่ต้องเฝ้าติดตามและความมั่นคงปลอดภัยในขั้นการเรียนรู้ไปจนถึงการทำ Red Teaming สุดท้ายคือมุมมองทางกฎหมายว่าจะทำอย่างไรถึงจะไม่ละเมิดกฎระเบียบเหล่านั้น ซึ่งส่วนสุดท้ายนี้ผู้เขียนมองว่าค่อนข้างกว้างเพราะแต่ละประเทศอาจมีกฎหมายต่างกัน อย่างน้อยที่สุดเช่น GDPR หรืออื่นๆ
สิ่งที่ผู้จัดทำรายงานและทีมงานคาดหวังให้ผู้อ่านตกผลึกจากคู่มือมี 4 เรื่อง คือ
- ต้องมอง Generative AI ด้วยชุดความคิดใหม่ว่าไม่ใช่สิ่งที่คุณเคยทำเพื่อปกป้ององค์กรมาก่อน
- AI มีทั้งประโยชน์และโทษ ที่คนร้ายอาจได้ประโยชน์จากความซับซ้อนและพื้นผิวการโจมตีที่กว้าง และคนร้ายจะใช้เครื่องมือเหล่านี้ช่วยเร่งการโจมตีได้เร็วแค่ไหน
- ต้องปฏิบัติต่อการอิมพลีเมนต์ AI อย่างครบทุกด้านพิจารณาทุกองค์ประกอบ
- พิจารณากฎหมายที่กระทบต่อธุรกิจของคุณ
สำหรับผู้สนใจท่านสามารถดาวน์โหลดคู่มือจาก OWASP ได้ที่ https://owasp.org/www-project-top-10-for-large-language-model-applications/llm-top-10-governance-doc/LLM_AI_Security_and_Governance_Checklist-v1.pdf
ที่มา : https://www.infosecurity-magazine.com/news/owasp-security-checklist/
