Facebook เปิดตัว QNNPACK ระบบ Open Source Library สำหรับ Mobile Deep Learning

Facebook ได้ออกมาประกาศเปิด Open Source ให้กับ QNNPACK ซึ่งเป็น High Performance Kernel Library ที่ถูกปรับแต่งมาสำหรับรองรับการทำ Mobile AI โดยเฉพาะ

QNNPACK นี้ย่อมาจาก Quantized Neural Network PACKage โดยถูกออกแบบมาให้ทำงานอย่างมีประสิทธิภาพสูงบน Mobile Device โดยเฉพาะ และปัจจุบันก็มีการใช้งานอยู่แล้วใน Facebook App ที่มีการใช้งานอยู่นับพันล้านอุปกรณ์ทั่วโลก

Library ดังกล่าวนี้ได้เพิ่มประสิทธิภาพในการทำงานหลายส่วน อย่างเช่น การทำ Depthwise Convolutions ซึ่งสถาปัตยกรรม Neural Network ระดับสูงมักจะใช้งาน, การทำ Computer Vision ด้วยการใช้ Mask R-CNN และ DensePose บนโทรศัพท์โดยตรง ทำให้สามารถทำ Image Classification ได้ในเวลาน้อยกว่า 100ms ซึ่งเมื่อทำการ Benchmark เทียบกับ Quantized MobileNetV2 แล้ว QNNPACK ก็เร็วกว่าประมาณ 2 เท่าจากการทดสอบบนโทรศัพท์หลายรุ่น

โครงการนี้ถูกเปิด Open Source อยู่ที่ https://github.com/pytorch/qnnpack และยังสามารถสนับสนุนการทำ Quantized Inference ใน PyTorch 1.0 ได้ รวมถึงยังสามารถใช้งานได้ผ่าน Caffe2 ด้วย

สำหรับรายละเอียดฉบับเต็ม อ่านได้ในที่มานะครับ

ที่มา: https://code.fb.com/ml-applications/qnnpack/