นักวิจัยใช้ OpenAI ของ Elon Musk ช่วยสร้าง Malware ที่ Anti-virus ตรวจจับไม่ได้

ในงาน DEF CON ทาง Hyrum Anderson ผู้ดำรงตำแหน่ง Technical Director of Data Science แห่งบริษัท Endgame ได้ออกมาแสดงงานวิจัยภายในบริษัทที่ใช้ OpenAI ของ Elon Musk ในการสร้าง Malware เพื่อหลีกเลี่ยงการตรวจจับของ Anti-virus ได้สำเร็จ

Credit: OpenAI

 

สิ่งที่ทีมวิจัยได้ทำก็คือการนำโค้ดที่ดูปลอดภัยมาแก้ไขบางส่วนเพื่อให้สามารถใช้โจมตีได้ โดยการเปลี่ยนแปลงโค้ดเพียงเล็กน้อยเท่านั้นก็สามารถหลบหลีก Anti-virus ได้สำเร็จแล้ว โดยเขาเชื่อว่าระบบ Machine Learning ที่เหล่าผู้พัฒนา Anti-virus นั้นต่างก็ล้วนมีจุดบอด ซึ่งหากผู้โจมตีเข้าใจในประเด็นนี้ก็จะสามารถโจมตีได้ เหมือนกับงานวิจัยจาก Google ที่แสดงให้เห็นว่าการเปลี่ยนข้อมูลเพียงไม่กี่ Pixel ในภาพนั้นก็สามารถทำให้ AI เข้าใจภาพของรถบัสกลายเป็นนกกระจอกเทศแทนได้แล้ว

ด้วยแนวคิดนี้ ทีมวิจัยจึงได้วิธีการในการพัฒนาโค้ดสำหรับใช้ในการโจมตีขึ้นมาจากการเปลี่ยนแปลงทีละเล็กน้อยและนำไปทดสอบกับระบบ Anti-virus เหล่านั้น และด้วยการศึกษาจากผลการตอบสนองแต่ละครั้ง ก็ทำให้ทีมวิจัยได้รู้จักกับวิธีการใหม่ๆ ในการพัฒนา Malware ที่หลบเลี่ยงการตรวจจับได้มากขึ้นเรื่อยๆ

จากการ Train ระบบ OpenAI ด้วยแนวทางดังกล่าวเป็นเวลา 15 ชั่วโมงกับตัวอย่าง 100,000 รายการที่สามารถเจาะทะลุการตรวจจับของ Engine ใน Anti-virus ที่ไม่ระบุชื่อรายหนึ่งได้ 100% ทางทีมวิจัยก็ประสบความสำเร็จในการสร้าง AI ที่พัฒนา Malware ที่ผ่านมาตรวจจับของ Anti-virus รายนั้นได้ถึง 60%

สำหรับโค้ดของระบบนี้ถูกเปิดเผยอยู่ที่ https://github.com/endgameinc/gym-malware/blob/master/README.md ให้นำไปทดลองใช้งานกันได้ครับ

 

ที่มา: https://www.theregister.co.uk/2017/07/31/ai_defeats_antivirus_software/


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

Metasploit 6.2.0 ออกแล้ว!

สำหรับสาย Pentest มีการอัปเดตในชุดเครื่องมือ Metasploit เวอร์ชันล่าสุดออกมาแล้วนะครับ

[Guest Post] ริบบอนส่งกลุ่มโซลูชัน IP Optical และ 5G ประสิทธิภาพขั้นสูงครบวงจรใหม่ป้อนตลาดผู้ให้บริการและองค์กรในไทย

กลุ่มโซลูชันประกอบด้วยนวัตกรรมใหม่ ที่ให้ความยืดหยุ่นสูงและคุ้มค่าสูง ช่วยยกระดับเครือข่าย 5G เมตาเวิร์ส และสมาร์ทเอ็นเตอร์ไพรสให้เป็นเครือข่ายอัจฉริยะได้ตามที่ธุรกิจต้องการ