TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Google เปิดเผยว่าสามารถค้นพบช่องโหว่ด้านความมั่นคงปลอดภัยใหม่ใน SQLite ด้วย AI โดยอ้างว่าเป็นครั้งแรกในโลก และอาจถือเป็นจุดเริ่มต้นของการใช้ AI เป็นด่านหน้าในการตรวจจับช่องโหว่เลยทีเดียว
Google ค้นพบปัญหา buffer overflow ใน SQLite ผ่านโมเดลภาษาขนาดใหญ่ชื่อ “Big Sleep” ซึ่งเป็นโครงการพัฒนาร่วมระหว่าง DeepMind และ Project Zero ด้วยเทคนิคการวิเคราะห์รูปแบบขั้นสูง ซึ่งใช้ข้อมูลจากช่องโหว่ที่ค้นพบแล้วในการระบุจุดบกพร่องที่คล้ายคลึงกันในโค้ดส่วนที่เกี่ยวข้อง ทำให้สามารถตรวจเจอช่องโหว่ที่อาจหลุดรอดไปจากวิธี fuzzing ดั้งเดิมที่อาศัยการสร้างและทดสอบอินพุตแบบสุ่มจำนวนมากเพื่อค้นหาการล่มหรือพฤติกรรมไม่พึงประสงค์ของระบบได้
Big Sleep ทำงานโดยการตรวจสอบการเปลี่ยนแปลงใน codebase ก่อน เช่น ข้อความ commit และ diffs เพื่อระบุส่วนที่อาจมีความเสี่ยง จากนั้นโมเดลจะวิเคราะห์ส่วนเหล่านี้โดยใช้ความรู้ที่ได้รับการเทรนล่วงหน้าจากรูปแบบโค้ดและช่องโหว่ที่เคยพบมาก่อน ทำให้สามารถระบุจุดบกพร่องที่ละเอียดอ่อนซึ่งเครื่องมือทดสอบแบบดั้งเดิมอาจมองข้ามไปได้ โดย Big Sleep ได้ทำการวิเคราะห์ SQLite และค้นพบปัญหาในฟังก์ชัน seriesBestIndex ที่ไม่สามารถจัดการกรณีขอบเกี่ยวกับ negative index ได้อย่างเหมาะสม ซึ่งอาจทำให้เกิดการเขียนข้อมูลนอกขอบเขตหน่วยความจำที่ตั้งใจเอาไว้และเสี่ยงต่อการถูกโจมตีได้ ทั้งนี้ AI ได้ตรวจพบช่องโหว่ดังกล่าวโดยการจำลองสถานการณ์การใช้งานจริงและตรวจสอบว่าการป้อนข้อมูลต่าง ๆ ทำงานร่วมกับโค้ดที่มีช่องโหว่อย่างไร
นอกจากนี้โมเดลยังสามารถวิเคราะห์หาสาเหตุที่แท้จริง เพื่อให้ทีมพัฒนาสามารถแก้ไขปัญหาที่รากฐานและลดความน่าจะเป็นที่จะเกิดช่องโหว่ที่คล้ายคลึงกันในอนาคตได้ การค้นพบครั้งใหม่ดังกล่าวเกิดขึ้นก่อนที่ช่องโหว่จะถูกใช้ประโยชน์ในระบบจริง แสดงให้เห็นถึงศักยภาพของ AI ในการป้องกันภัยคุกคามล่วงหน้าด้วยต้นทุนที่ลดลงอีกด้วย
ที่มา: https://siliconangle.com/2024/11/05/googles-big-sleep-ai-model-sets-world-first-discovery-sqlite-security-flaw/
