Breaking News

นักวิจัยใช้ OpenAI ของ Elon Musk ช่วยสร้าง Malware ที่ Anti-virus ตรวจจับไม่ได้

ในงาน DEF CON ทาง Hyrum Anderson ผู้ดำรงตำแหน่ง Technical Director of Data Science แห่งบริษัท Endgame ได้ออกมาแสดงงานวิจัยภายในบริษัทที่ใช้ OpenAI ของ Elon Musk ในการสร้าง Malware เพื่อหลีกเลี่ยงการตรวจจับของ Anti-virus ได้สำเร็จ

Credit: OpenAI

 

สิ่งที่ทีมวิจัยได้ทำก็คือการนำโค้ดที่ดูปลอดภัยมาแก้ไขบางส่วนเพื่อให้สามารถใช้โจมตีได้ โดยการเปลี่ยนแปลงโค้ดเพียงเล็กน้อยเท่านั้นก็สามารถหลบหลีก Anti-virus ได้สำเร็จแล้ว โดยเขาเชื่อว่าระบบ Machine Learning ที่เหล่าผู้พัฒนา Anti-virus นั้นต่างก็ล้วนมีจุดบอด ซึ่งหากผู้โจมตีเข้าใจในประเด็นนี้ก็จะสามารถโจมตีได้ เหมือนกับงานวิจัยจาก Google ที่แสดงให้เห็นว่าการเปลี่ยนข้อมูลเพียงไม่กี่ Pixel ในภาพนั้นก็สามารถทำให้ AI เข้าใจภาพของรถบัสกลายเป็นนกกระจอกเทศแทนได้แล้ว

ด้วยแนวคิดนี้ ทีมวิจัยจึงได้วิธีการในการพัฒนาโค้ดสำหรับใช้ในการโจมตีขึ้นมาจากการเปลี่ยนแปลงทีละเล็กน้อยและนำไปทดสอบกับระบบ Anti-virus เหล่านั้น และด้วยการศึกษาจากผลการตอบสนองแต่ละครั้ง ก็ทำให้ทีมวิจัยได้รู้จักกับวิธีการใหม่ๆ ในการพัฒนา Malware ที่หลบเลี่ยงการตรวจจับได้มากขึ้นเรื่อยๆ

จากการ Train ระบบ OpenAI ด้วยแนวทางดังกล่าวเป็นเวลา 15 ชั่วโมงกับตัวอย่าง 100,000 รายการที่สามารถเจาะทะลุการตรวจจับของ Engine ใน Anti-virus ที่ไม่ระบุชื่อรายหนึ่งได้ 100% ทางทีมวิจัยก็ประสบความสำเร็จในการสร้าง AI ที่พัฒนา Malware ที่ผ่านมาตรวจจับของ Anti-virus รายนั้นได้ถึง 60%

สำหรับโค้ดของระบบนี้ถูกเปิดเผยอยู่ที่ https://github.com/endgameinc/gym-malware/blob/master/README.md ให้นำไปทดลองใช้งานกันได้ครับ

 

ที่มา: https://www.theregister.co.uk/2017/07/31/ai_defeats_antivirus_software/



About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

[Guest Post] ประกาศแล้ว! สตรีมฯ ได้รับการรับรองจากกรมสรรพากรให้เป็น “Service Provider” ให้บริการจัดทำ นำส่ง และเก็บรักษาเอกสารภาษีอิเล็กทรอนิกส์ครบวงจร พร้อมข้อเสนอสุดพิเศษ!

เมื่อวานนี้ (31 มีนาคม 2563) บริษัท สตรีม ไอ.ที. คอนซัลติ้ง จำกัด บริษัทที่ปรึกษาธุรกิจและให้บริการด้านดิจิทัลซึ่งให้บริการมากว่า 20 ปี ได้รับการประกาศชื่อรับรองจากสำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (สพธอ.) หรือ …

Firefox 74 ออกแล้ว!

Mozilla ได้ปล่อย Firefox 74 ออกมาแล้ว โดยมีฟีเจอร์น่าสนใจใหม่หลายรายการเช่น ยกเลิกการรองรับ TLS 1.0 และ 1.1 หรือป้องกันไม่ให้ซอฟต์แวร์ Third-party เข้ามาติดตั้ง Add-on …