TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
NIST เปิดตัว AI Agent Standards Initiative โครงการใหม่สำหรับพัฒนามาตรฐานทางเทคนิคและแนวปฏิบัติด้าน AI Agent อัตโนมัติ ที่กำลังถูกนำมาใช้งานอย่างแพร่หลายในภาคองค์กรและภาครัฐ
โครงการนี้อยู่ภายใต้การดูแลของ Center for AI Standards and Innovation (CAISI) ของ NIST มีเป้าหมายเพื่อแก้ไขปัญหาด้าน Interoperability, Identity และ Security ที่เกิดขึ้นจากการนำ AI Agent มาใช้งาน ปัจจุบันองค์กรต่างๆ เริ่มทดลองใช้ AI Agent สำหรับงานเขียนโค้ด Workflow Automation การวิจัย และการดำเนินงานอัตโนมัติเพิ่มมากขึ้น ทำให้ประเด็นด้านความน่าเชื่อถือ การยืนยันตัวตน และการผสานรวมกับระบบโครงสร้างพื้นฐานที่มีอยู่กลายเป็นเรื่องเร่งด่วน CAISI จึงมุ่งเน้นการพัฒนามาตรฐานที่นำโดยภาคอุตสาหกรรม พร้อมประสานงานกับหน่วยงานรัฐบาลกลางและองค์กรระหว่างประเทศ เพื่อลดความกระจัดกระจายในวิธีที่ AI Agent สื่อสารกับระบบภายนอกและระหว่างกัน
หนึ่งในจุดเน้นสำคัญของโครงการคือเรื่อง Identity และ Authorization เนื่องจาก AI Agent อาจทำงานแบบต่อเนื่องตลอดเวลา เรียกใช้งานระบบอื่นๆ ต่อเนื่อง และเข้าถึงหลายระบบตามลำดับ การกำหนดวิธียืนยันตัวตนของ Agent การจำกัดขอบเขตสิทธิ์ และการบันทึกตรวจสอบกิจกรรมจึงเป็นความท้าทายทางสถาปัตยกรรมใหม่ NIST กำลังศึกษาแนวทางทางเทคนิคที่ต่อยอดจาก Cybersecurity Framework ที่มีอยู่เดิมไปยังระบบ AI Agent พร้อมกับประเมินว่าจำเป็นต้องสร้างโมเดลใหม่หรือไม่ นอกจากนี้โครงการยังส่งเสริมการพัฒนา Open Protocol เพื่อรองรับ Interoperability ข้ามแพลตฟอร์ม โดยเปิดรับการมีส่วนร่วมจากนักพัฒนาภาคเอกชน สถาบันวิจัย และองค์กรมาตรฐาน
NIST ดำเนินโครงการนี้ร่วมกับ National Science Foundation และหน่วยงานรัฐบาลกลางอื่นๆ โดยได้ออก Request for Information เพื่อรับฟังความคิดเห็นจากสาธารณะเกี่ยวกับความเสี่ยงด้านความปลอดภัยของ AI Agent, โมเดล Identity และข้อพิจารณาในการ Deploy ระบบ พร้อมกำลังจัดทำ Concept Paper ที่อธิบาย Framework ทางเทคนิคสำหรับรักษาความปลอดภัยและกำกับดูแล AI Agent อัตโนมัติ ทั้งนี้ฝั่งอุตสาหกรรมด้านความปลอดภัยมองว่านอกจากการวางมาตรฐานแล้ว องค์กรยังจำเป็นต้องมีการทดสอบความปลอดภัยอย่างต่อเนื่องและ Adversarial Simulation ควบคู่ไปด้วย เพื่อให้เข้าใจพฤติกรรมของ AI Agent ภายใต้สภาวะการโจมตีก่อนที่จุดอ่อนจะถูกนำไปใช้ประโยชน์จริง
