Code Security

สตาร์ทอัพด้านความมั่นคงปลอดภัยทางไซเบอร์เชิงรับ Corma ประกาศว่าบริษัทได้ระดมทุนรอบ Seed จำนวน 60 ล้านดอลลาร์ เพื่อสร้างโมเดลพื้นฐานที่ออกแบบมาเพื่อการรักษาความมั่นคงปลอดภัยโดยเฉพาะ

OpenAI เปิดเผยว่าหนึ่งในโมเดลภาษาขนาดใหญ่ที่ยังไม่ได้เปิดตัวของบริษัทอาจก่อให้เกิดความเสี่ยงด้านความมั่นคงปลอดภัยทางไซเบอร์อย่างมีนัยสำคัญ

โมเดลภาษาขนาดใหญ่สามรุ่นของ Anthropic ได้ดำเนินการโจมตีทางไซเบอร์สำเร็จระหว่างการทดสอบภายในตามปกติ บริษัทได้ให้รายละเอียดเกี่ยวกับการละเมิดดังกล่าวเมื่อวันพฤหัสบดีที่ผ่านมา โดยเพียงไม่กี่วันก่อนหน้านี้ OpenAI ได้เปิดเผยเหตุการณ์ที่คล้ายคลึงกัน โดย LLM สองรุ่นของบริษัทได้หลุดออกจากแซนด์บ็อกซ์ที่แยกส่วนซึ่งใช้ในการประเมินขีดความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ และได้แฮ็ก Hugging Face ซึ่งเป็นแพลตฟอร์มยอดนิยมสำหรับการโฮสต์โปรเจกต์ AI แบบโอเพนซอร์ส การเปิดเผยข้อมูลของ OpenAI ส่งผลให้ Anthropic ตรวจสอบบันทึกจากการประเมินความมั่นคงปลอดภัยของโมเดลตนเอง ซึ่งการตรวจสอบดังกล่าวนำไปสู่การค้นพบการโจมตีทางไซเบอร์ที่เปิดเผยเมื่อวันพฤหัสบดี โดย Anthropic ระบุว่าวิศวกรของบริษัทได้ระบุการละเมิดสามครั้งที่ดำเนินการโดยโมเดล Claude ที่แตกต่างกันสามรุ่น การโจมตีทางไซเบอร์ทั้งสามครั้งเกิดขึ้นระหว่างสิ่งที่เรียกว่าการประเมินแบบ capture the flag ในระหว่างการทดสอบดังกล่าว Anthropic ได้ติดตั้งโมเดล Claude ไว้ในแซนด์บ็อกซ์ที่จำลองโครงสร้างพื้นฐานของบริษัทภายนอก โดยมีภารกิจให้ Claude ค้นหาวิธีขโมยข้อมูลจากระบบขององค์กรที่ถูกจำลองขึ้น Anthropic ได้พัฒนาสภาพแวดล้อมการทดสอบร่วมกับ Irregular ซึ่งเป็นสตาร์ทอัพด้านความมั่นคงปลอดภัย AI โดยปกติแล้วบริษัทจะแยกแซนด์บ็อกซ์ออกจากอินเทอร์เน็ตเพื่อลดความเสี่ยงของการโจมตีทางไซเบอร์ แต่เกิดข้อผิดพลาดในการกำหนดค่าที่ทำให้โมเดล AI ทั้งสามอินสแตนซ์ที่ดำเนินการโจมตีสามารถเข้าถึงอินเทอร์เน็ตได้ การละเมิดที่รุนแรงที่สุดเกี่ยวข้องกับ Claude Opus 4.7 ซึ่งเป็น LLM ที่ Anthropic เปิดตัวในเดือนเมษายน บริษัทที่ถูกจำลองขึ้นซึ่งโมเดลได้รับมอบหมายให้ไปแฮ็กนั้นมีชื่อเดียวกับเว็บไซต์จริง ส่งผลให้โมเดลได้แฮ็กองค์กรที่ดูแลเว็บไซต์ดังกล่าวด้วยการเชื่อมโยงช่องโหว่หลายจุดเข้าด้วยกัน Opus …

Amazon Web Services (AWS) ได้ประกาศเปิดตัว AWS Continuum ซึ่งเป็นแพลตฟอร์มความมั่นคงปลอดภัยที่ใช้โมเดลปัญญาประดิษฐ์ระดับแนวหน้าในการค้นหา ตรวจสอบความถูกต้อง และแก้ไขช่องโหว่ของซอฟต์แวร์ทั่วทั้งสภาพแวดล้อมของลูกค้า โดยแทบไม่ต้องอาศัยการแทรกแซงจากมนุษย์

Anthropic กำลังขยายโครงการที่ช่วยให้องค์กรต่าง ๆ สามารถทดสอบระบบป้องกันความมั่นคงปลอดภัยทางไซเบอร์ของตนเองได้ โดยใช้โมเดล Claude Mythos Preview

OpenAI ได้ออกมาประกาศเปิดตัว GPT-5.5-Cyber ในระดับ Limited Preview เพื่อให้เหล่าผู้เชี่ยวชาญด้านความมั่นคงปลอดภัยไซเบอร์ได้นำไปใช้งานด้าน Cybersecurity กันโดยเฉพาะ

Datadog ได้ออกมาประกาศเปิดตัวเครื่องมือใหม่ Datadog Code Security MCP สำหรับใช้ตรวจสอบความปลอดภัยของโค้ดที่ AI เขียนขึ้นมาได้ทันทีโดยไม่ต้องรอ Pull Request หรือ CI Pipeline อีกต่อไป