Peter Norvig ผู้ดำรงตำแหน่ง Director of Research ของ Google ได้ออกมาเปิดเผยถึงความยากลำบากในการ Debug และการตรวจสอบความถูกต้องของระบบ Machine Learning และ Artificial Intelligence (AI) ซึ่งก็ถือเป็นประเด็นที่น่าสนใจดี ทางทีมงาน TechTalkThai เลยขออนุญาตสรุปเอาไว้ให้ได้อ่านกันครับ

เดิมทีนั้นการพัฒนา Software จะเป็นระบบที่ทำงานแบบใช้ Logic เป็นหลัก และสามารถสร้างระบบ Test ขึ้นมายืนยันความถูกต้องในการทำงานของ Software ได้ เพราะเป็นการพัฒนา Software ที่เราทราบผลลัพธ์ที่เราต้องการกันอยู่แล้ว และมีเครื่องไม้เครื่องมือต่างๆ สำหรับช่วยเหลือในส่วนนี้อยู่แล้ว
ในทางกลับกัน ระบบ Machine Learning นั้นกลับมีความเป็น Black Box ที่สูงกว่า เพราะเป็นการพัฒนาระบบ Machine Learning เพื่อสร้างระบบหรือสมการสำหรับการวิเคราะห์ความน่าจะเป็นของข้อมูลอีกทีหนึ่ง ทำให้การตรวจสอบความถูกต้องของการทำงานแบบเดิมๆ ไม่สามารถใช้งานได้เลย
นอกจากนี้หลายๆ ปัญหาที่ Machine Learning พยายามแก้นั้น ก็เป็นปัญหาที่แม้แต่มนุษย์เองก็ยังไม่สามารถให้คำตอบที่ตรงกันได้ ตัวอย่างเช่นระบบสำหรับการวิเคราะห์สีของเสื้อผ้า ซึ่งเราเคยเห็นปัญหาโลกแตกนี้กันมาแล้วตอนจะระบุว่าชุดนี้เป็นสีขาวทองหรือสีฟ้าดำตามตัวอย่างนี้ http://www.cbsnews.com/news/blue-black-white-gold-dress-color-debate-goes-viral/ หรือบางครั้งมนุษย์เองก็ไม่รู้คำตอบของปัญหาบางอย่างด้วยเช่นกัน ดังนั้นปัญหาเหล่านี้การตรวจสอบว่า Machine Learning ทำงานถูกต้องหรือไม่จึงกลายเป็นเรื่องที่ยากมาก
และในการพัฒนาระบบ Machine Learning ใดๆ ขึ้นมา การเกิด Bug ขึ้นมาแม้เพียงจุดเดียว ก็จะส่งผลกระทบต่อการวิเคราะห์ข้อมูลทั้งหมด ในขณะที่การแก้ไข Software เพียงแค่จุดเดียว ก็จะส่งผลกระทบกับการวิเคราะห์ข้อมูลทั้งหมดด้วยเช่นกัน ถึงแม้ปัจจุบันเราจะมีเทคนิคในการค้นหาความผิดพลาดที่เกิดขึ้น และมีเทคนิคในการปรับปรุงระบบให้ทำงานได้ดีขึ้น แต่เรายังไม่มีวิธีการแก้ไขปัญหาเฉพาะจุดอย่างเจาะจงจริงๆ กับระบบ Machine Learning
ทั้งนี้ทาง Google เองก็กำลังมีการพัฒนาวิธีการและเครื่องมือต่างๆ ขึ้นมาเพื่อแก้ปัญหาเหล่านี้อยู่ แต่ปัญหานี้ก็ดูจะเป็นเรื่องใหญ่สำหรับ Google เองเหมือนกัน และคงต้องใช้เวลาอีกระยะหนึ่งในการพัฒนากันต่อไป
Machine Learning เองได้รับความนิยมอย่างสูงเพราะเป็นหนึ่งในวิธีการพัฒนาโซลูชั่นสำหรับแก้ปัญหาหลากหลายรูปแบบที่สามารถทำได้รวดเร็วกว่าการพัฒนาโปรแกรมแบบเดิมๆ ไม่ว่าจะเป็นระบบ Recognition หรือ Classification ก็ตาม