CDIC 2023

เตือนรถยนต์ขับขี่อัตโนมัติ เสี่ยงเกิดอุบัติเหตุจากการแปลสัญญาณจราจรผิด

ทีมนักวิจัยจาก University of Washington ออกมาแจ้งเตือนถึงเทคนิคการโจมตีรถยนต์ขับขี่อัตโนมัติ โดยใช้เพียงแค่สติ๊กเกอร์แปะบนป้ายสัญญาณจราจร ทำให้อัลกอริธึมในการแปลความหมายของรถยนต์ “ส่วนใหญ่” ทำงานผิดพลาด เสี่ยงก่อให้เกิดอุบัติเหตุบนท้องถนนได้

งานวิจัยดังกล่าวระบุว่า ระบบ Image Recognition บนรถยนต์ขับขี่อัตโนมัติโดยส่วนใหญ่ จะอ่านและแปลความหมายของป้ายสัญญาณจราจรผิดพลาด ถ้ามีมือดีไปแปะสติ๊กเกอร์หรือโปสเตอร์บนป้ายสัญญาณแม้เพียงส่วนใดส่วนหนึ่งก็ตาม ซึ่งทีมนักวิจัยได้แสดงตัวอย่างการทำสติ๊กเกอร์ดังกล่าวโดยใช้กล้องถ่ายรูปและเครื่องปรินท์ที่ใช้งานกันตามบ้านเท่านั้น

ตัวอย่างด้านล่างแสดงให็เห็นว่า เพียงแค่ปรินท์สติ๊กเกอร์คำว่า “Love” และ “Hate” แปะลงบนป้ายหยุด ก็ทำให้นักวิจัยสามารถหลอกอัลกอริธึมที่ใช้ตรวจจับข้อความบนป้ายสัญญาณจราจรให้คิดว่าเป็นป้ายสัญญาณจำกัดความเร็วที่ 45 ไมล์ต่อชั่วโมงได้แล้ว ที่น่าตกใจคือ ผลทดสอบประสบความสำเร็จถึง 100% จากกลุ่มตัวอย่างรถยนต์ขับขี่อัตโนมัติที่สุ่มมา ในขณะที่ถ้าใช้สติ๊กเกอร์คำดังกล่าวไปแปะบนป้ายสัญญาณเลี้ยวขวา 2 ใน 3 ของรถยนต์ตัวอย่างจะแปลความหมายผิดเป็นป้ายสัญญาณหยุดแทน

นอกจากนี้ ทีมนักวิจัยยังได้ทดลองตัดสติ๊กเกอร์เป็นแผ่นเล็กๆ และติดบนส่วนตัวหนังสือของป้ายสัญญาณหยุดบางส่วน ก็ทำให้ระบบ Image Recognition ของรถยนต์ขับขี่อัตโนมัติเข้าใจว่าเป็นเพียงป้ายที่คนมือบอนมาทำเลอะเทอะเท่านั้น

การแปะสติ๊กเกอร์บนป้ายสัญญาณจราจรที่ทีมนักวิจัยแสดงให้ดูนี้ เป็นเพียงการแก้ไขเพียงเล็กน้อยเท่านั้น ซึ่งคนทั่วไปที่ขับขี่รถยนต์อาจไม่สังเกตเห็น หรือต่อให้สังเกตเห็นก็ยังคงเข้าใจความหมายของป้ายสัญญาณอยู่ดี แต่เนื่องจากรถยนต์ขับขี่อัตโนมัติใช้ซอฟต์แวร์สำหรับอ่านและแปลความหมายรูปภาพจึงทำให้เป็นไปได้สูงที่จะเกิดการแปลความหมายผิดพลาด ส่งผลให้เกิดอุบัติเหตุบนท้องถนนได้

ผู้ที่สนใจสามารถอ่านงานวิจัยฉบับเต็มได้ที่: Robust Physical-World Attacks on Machine Learning Models [PDF]

ที่มาและเครดิตรูปภาพ: http://thehackernews.com/2017/08/self-driving-car-hacking.html


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

5 เครื่องมือโอเพ่นซอร์สสแกนหาช่องโหว่

หลายท่านอาจคงมีเครื่องมือการสแกนหาช่องโหว่อยู่แล้วในมุมมองต่างๆ แต่ในบทความนี้เราขอพาทุกท่านไปรู้จักกับ 5 เครื่องมือฟรี ที่ช่วยตอบโจทย์การค้นหาช่องโหว่

Cisco ออกแพตช์อุดช่องโหว่ Zero-day บน IOS ผู้ดูแลระบบควรอัปเดตทันที

Cisco ออกแพตช์อุดช่องโหว่ Zero-day บน IOS และ IOS XE Software ผู้ดูแลระบบควรอัปเดตทันที