OpenAI เผยรายละเอียด GPT-Red ระบบ AI โจมตีตัวเอง

OpenAI เผยรายละเอียดเกี่ยวกับ GPT-Red ซึ่งเป็นระบบปัญญาประดิษฐ์ภายในที่สร้างขึ้นเพื่อโจมตีโมเดลของตนเองและค้นหาช่องโหว่ประเภทการแทรกคำสั่ง (Prompt Injection) ก่อนที่ช่องโหว่เหล่านั้นจะไปถึงมือผู้ใช้งาน

Red Teaming คือการทดสอบซอฟต์แวร์อย่างหนักหน่วงเพื่อหาจุดอ่อน ซึ่งโดยปกติแล้วจะเป็นงานของทีมความมั่นคงปลอดภัยที่เป็นมนุษย์ แต่ GPT-Red สามารถทำหน้าที่นี้ได้ด้วยตนเอง โดยสามารถดำเนินการโจมตีได้ปริมาณมากกว่าที่ทีมงานจะทำด้วยมือได้หลายเท่าตัว ระบบจะส่งคำสั่งไปยังโมเดลเป้าหมายแล้วอ่านผลลัพธ์ที่ตอบกลับมา จากนั้นก็จะลองทำซ้ำ ๆ โดยปรับเปลี่ยนวิธีการไปเรื่อย ๆ จนกว่าจะได้ผลลัพธ์ที่เป็นอันตรายตามที่ต้องการ การโจมตีที่ไม่สำเร็จจะถูกคัดทิ้ง ส่วนวิธีการที่ได้ผลจะถูกนำมาพัฒนาให้รุนแรงยิ่งขึ้น

OpenAI ฝึกฝนระบบนี้โดยใช้การเรียนรู้แบบเสริมกำลังผ่านการเล่นด้วยตนเอง โดย GPT-Red ทำหน้าที่เป็นผู้โจมตีโมเดลฝั่งป้องกันในสถานการณ์ที่หลากหลาย ระบบจะได้รับรางวัลเมื่อโจมตีสำเร็จ ในขณะที่โมเดลฝั่งป้องกันจะได้รับรางวัลเมื่อสามารถต้านทานการโจมตีและปฏิบัติภารกิจจนสำเร็จได้ เมื่อระบบป้องกันพัฒนาขึ้น ผู้โจมตีก็ถูกบีบให้สร้างวิธีการโจมตีที่ซับซ้อนยิ่งขึ้นและวนลูปเช่นนี้ต่อไปเรื่อย ๆ

บริษัทกล่าวว่าแนวทางนี้ให้ผลลัพธ์ที่เหนือกว่าการใช้มนุษย์ โดย GPT-Red ประสบความสำเร็จในสถานการณ์ต่าง ๆ ถึง 84% เมื่อเทียบกับ 13% ของทีมมนุษย์ และช่วยลดอัตราความล้มเหลวจากการแทรกคำสั่งโดยตรงลงเหลือ 1 ใน 6 เมื่อเทียบกับโมเดลเวอร์ชันที่ใช้งานจริงเมื่อ 4 เดือนก่อนหน้า สำหรับการโจมตีประเภท “Fake Chain-of-Thought” ที่เคยทำสำเร็จมากกว่า 95% ในการทดสอบกับ GPT-5.1 ปัจจุบันสามารถทำสำเร็จเหลือน้อยกว่า 10% เมื่อทดสอบกับ GPT-5.6

เครื่องมือดังกล่าวยังสามารถเจาะระบบเอเจนต์อัตโนมัติได้อีกด้วย ในระหว่างการทดสอบ ระบบสามารถเข้าควบคุมเอเจนต์สำหรับเครื่องจำหน่ายสินค้าอัตโนมัติอย่าง Vendy เพื่อเปลี่ยนแปลงราคาและยกเลิกคำสั่งซื้อ นอกจากนี้ยังสามารถเจาะระบบเอเจนต์ที่ใช้เขียนโค้ดผ่านบรรทัดคำสั่ง ซึ่งเป็นเป้าหมายในโลกแห่งความเป็นจริงที่ดึงดูดผู้โจมตีในขณะที่ระบบ AI เริ่มมีความสามารถในการทำงานได้ด้วยตนเองมากขึ้น

Dylan Hunn นักวิทยาศาสตร์วิจัยและผู้ร่วมสร้าง GPT-Red กล่าวกับ MIT Technology Review ว่า เมื่อเทียบกับทีม Red Team ที่เป็นมนุษย์แล้ว โมเดลนี้เก่งกาจมากในการค้นหาจุดที่สามารถเจาะทะลวงได้จริง ส่วน Nikhil Kandpal ผู้ร่วมสร้างอีกรายกล่าวว่า ความเสี่ยงจะเพิ่มสูงขึ้นเมื่อโมเดลมีความเป็นอิสระมากขึ้น โดยเขาระบุว่า พื้นที่ความเสี่ยงนั้นขยายตัวขึ้นและรัศมีของการได้รับผลกระทบก็ขยายตัวตามไปด้วย

GPT-Red ไม่ใช่ผลิตภัณฑ์และจะไม่มีการปล่อยสู่สาธารณะ OpenAI จะเก็บระบบนี้ไว้เป็นการภายในและแยกออกจากโมเดลที่ใช้งานจริง เพื่อไม่ให้ขีดความสามารถในการโจมตีที่ระบบพัฒนาขึ้นสามารถเข้าถึงสาธารณะได้ โดยจะนำผลการค้นพบกลับไปใช้ในกระบวนการฝึกฝนแทน ซึ่งทางบริษัทกล่าวว่าได้ใช้โมเดลรุ่นก่อนหน้าในการฝึกฝนมาตั้งแต่ GPT-5.3 แล้ว

อย่างไรก็ตาม ระบบนี้ยังมีข้อจำกัด GPT-Red ยังทำได้ไม่ดีนักกับการโจมตีผ่านการสนทนาหลายรอบที่ต้องอาศัยการตอบโต้ต่อเนื่อง และยังมีขีดจำกัดในการโจมตีประเภทแทรกคำสั่งที่ใช้รูปภาพเป็นฐาน ซึ่งช่องว่างเหล่านี้เป็นสิ่งที่ OpenAI ระบุว่าผู้ทดสอบที่เป็นมนุษย์จะยังคงเข้ามาดูแลอยู่

การเปิดเผยข้อมูลนี้มีขึ้นหลายสัปดาห์หลังจากที่ OpenAI ปล่อย GPT-5.6 ซึ่งวางตำแหน่งไว้เพื่อแข่งขันกับ Claude ของ Anthropic ในขณะที่ปัญหาการแทรกคำสั่งยังคงเป็นหนึ่งในโจทย์ที่ยากที่สุดที่ยังแก้ไขไม่ได้ในแง่ของความมั่นคงปลอดภัยทาง AI

Jessica Ji นักวิเคราะห์วิจัยอาวุโสจาก Center for Security and Emerging Technology แห่ง Georgetown University กล่าวว่าผลลัพธ์ที่ได้ดูมีแนวโน้มที่ดีมาก โดยเธอกล่าวเสริมในรายงานเดียวกันของ MIT Technology Review ว่า ความเชี่ยวชาญของมนุษย์ยังคงมีความสำคัญอย่างยิ่งต่อการทำงานในส่วนนี้

ที่มา: https://siliconangle.com/2026/07/15/openai-details-gpt-red-ai-attacks-models-find-flaws/