นักวิจัยใช้ OpenAI ของ Elon Musk ช่วยสร้าง Malware ที่ Anti-virus ตรวจจับไม่ได้

ในงาน DEF CON ทาง Hyrum Anderson ผู้ดำรงตำแหน่ง Technical Director of Data Science แห่งบริษัท Endgame ได้ออกมาแสดงงานวิจัยภายในบริษัทที่ใช้ OpenAI ของ Elon Musk ในการสร้าง Malware เพื่อหลีกเลี่ยงการตรวจจับของ Anti-virus ได้สำเร็จ

สิ่งที่ทีมวิจัยได้ทำก็คือการนำโค้ดที่ดูปลอดภัยมาแก้ไขบางส่วนเพื่อให้สามารถใช้โจมตีได้ โดยการเปลี่ยนแปลงโค้ดเพียงเล็กน้อยเท่านั้นก็สามารถหลบหลีก Anti-virus ได้สำเร็จแล้ว โดยเขาเชื่อว่าระบบ Machine Learning ที่เหล่าผู้พัฒนา Anti-virus นั้นต่างก็ล้วนมีจุดบอด ซึ่งหากผู้โจมตีเข้าใจในประเด็นนี้ก็จะสามารถโจมตีได้ เหมือนกับงานวิจัยจาก Google ที่แสดงให้เห็นว่าการเปลี่ยนข้อมูลเพียงไม่กี่ Pixel ในภาพนั้นก็สามารถทำให้ AI เข้าใจภาพของรถบัสกลายเป็นนกกระจอกเทศแทนได้แล้ว

ด้วยแนวคิดนี้ ทีมวิจัยจึงได้วิธีการในการพัฒนาโค้ดสำหรับใช้ในการโจมตีขึ้นมาจากการเปลี่ยนแปลงทีละเล็กน้อยและนำไปทดสอบกับระบบ Anti-virus เหล่านั้น และด้วยการศึกษาจากผลการตอบสนองแต่ละครั้ง ก็ทำให้ทีมวิจัยได้รู้จักกับวิธีการใหม่ๆ ในการพัฒนา Malware ที่หลบเลี่ยงการตรวจจับได้มากขึ้นเรื่อยๆ

จากการ Train ระบบ OpenAI ด้วยแนวทางดังกล่าวเป็นเวลา 15 ชั่วโมงกับตัวอย่าง 100,000 รายการที่สามารถเจาะทะลุการตรวจจับของ Engine ใน Anti-virus ที่ไม่ระบุชื่อรายหนึ่งได้ 100% ทางทีมวิจัยก็ประสบความสำเร็จในการสร้าง AI ที่พัฒนา Malware ที่ผ่านมาตรวจจับของ Anti-virus รายนั้นได้ถึง 60%

สำหรับโค้ดของระบบนี้ถูกเปิดเผยอยู่ที่ https://github.com/endgameinc/gym-malware/blob/master/README.md ให้นำไปทดลองใช้งานกันได้ครับ

ที่มา: https://www.theregister.co.uk/2017/07/31/ai_defeats_antivirus_software/