TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
ในงาน Hot Chips 2017 ทาง Microsoft ได้ออกมาประกาศถึง Deep Learning Acceleration Platform ล่าสุดภายใต้ชื่อ Project Brainwave ที่ใช้ Intel FPGA เป็นส่วนประกอบ โดยมีโครงสร้างพื้นฐานของระบบด้วยกัน 3 ส่วน ดังต่อไปนี้
- สถาปัตยกรรม Distributed System ประสิทธิภาพสูง
- Hardware DNN Engine บน FPGA
- Complier และ Runtime สำหรับใช้ Deploy Model ต่างๆ
การนำ FPGA เข้ามาใช้นี้ทำให้ Microsoft สามารถให้บริการ DNN ได้ในแบบ Hardware Microservices ที่ผู้ใช้งานสามารถนำ DNN เข้าไป Map กับกลุ่มของ FPGA และเรียกใช้งานได้ผ่านทาง Server โดยไม่ต้องอาศัย Software ใดๆ เป็นตัวกลาง ทำให้มี Latency ลดลงเป็นอย่างมาก
นอกจากนี้ Microsoft ยังได้ใช้ Soft DNN Processing Unit (DPU) ที่ทำงานบน FPGA ทำให้มีความยืดหยุ่น, รองรับ Data Type ได้หลากหลาย ในขณะที่ยังคงมีประสิทธิภาพสูงอยู่
ปัจจุบัน Microsoft Project Brainwave นี้รองรับการทำงานร่วมกับทั้ง Microsoft Cognitive Toolkit และ Google Tensorflow รวมถึงยังมีแผนที่จะรองรับเทคโนโลยีอื่นๆ เพิ่มเติมในอนาคตอีกด้วย
ในงาน Hot Chips 2017 นี้ ทาง Microsoft ได้ออกมาทดสอบการทำงานของ Project Brainwave ให้ดูด้วยการใช้ชิป Intel 14nm Stratix 10 FPGA ทำประสิทธิภาพที่ระดับ 39.5 Teraflops และประมวลผลแต่ละ Request ได้ภายในเวลาไม่ถึง 1 Millisecond เท่านั้น เป็นการแสดงถึงศักยภาพในการพัฒนาระบบ Real-time AI ให้เป็นจริงขึ้นมาได้ของ Microsoft
หลังจากนี้ Microosft จะนำความสามารถเหล่านี้สู่ Microsoft Azure เพื่อให้ผู้ใช้งานทั่วโลกนำไปใช้งานกันได้อย่างง่ายดาย และจะนำไปใช้ใน Bing ด้วย
ที่มา: https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/
