Microsoft เปิดตัว Project Brainwave ตอบโจทย์ Real-time AI ด้วย Intel FPGA

ในงาน Hot Chips 2017 ทาง Microsoft ได้ออกมาประกาศถึง Deep Learning Acceleration Platform ล่าสุดภายใต้ชื่อ Project Brainwave ที่ใช้ Intel FPGA เป็นส่วนประกอบ โดยมีโครงสร้างพื้นฐานของระบบด้วยกัน 3 ส่วน ดังต่อไปนี้

Credit: Microsoft

 

  • สถาปัตยกรรม Distributed System ประสิทธิภาพสูง
  • Hardware DNN Engine บน FPGA
  • Complier และ Runtime สำหรับใช้ Deploy Model ต่างๆ

การนำ FPGA เข้ามาใช้นี้ทำให้ Microsoft สามารถให้บริการ DNN ได้ในแบบ Hardware Microservices ที่ผู้ใช้งานสามารถนำ DNN เข้าไป Map กับกลุ่มของ FPGA และเรียกใช้งานได้ผ่านทาง Server โดยไม่ต้องอาศัย Software ใดๆ เป็นตัวกลาง ทำให้มี Latency ลดลงเป็นอย่างมาก

นอกจากนี้ Microsoft ยังได้ใช้ Soft DNN Processing Unit (DPU) ที่ทำงานบน FPGA ทำให้มีความยืดหยุ่น, รองรับ Data Type ได้หลากหลาย ในขณะที่ยังคงมีประสิทธิภาพสูงอยู่

ปัจจุบัน Microsoft Project Brainwave นี้รองรับการทำงานร่วมกับทั้ง Microsoft Cognitive Toolkit และ Google Tensorflow รวมถึงยังมีแผนที่จะรองรับเทคโนโลยีอื่นๆ เพิ่มเติมในอนาคตอีกด้วย

ในงาน Hot Chips 2017 นี้ ทาง Microsoft ได้ออกมาทดสอบการทำงานของ Project Brainwave ให้ดูด้วยการใช้ชิป Intel 14nm Stratix 10 FPGA ทำประสิทธิภาพที่ระดับ 39.5 Teraflops และประมวลผลแต่ละ Request ได้ภายในเวลาไม่ถึง 1 Millisecond เท่านั้น เป็นการแสดงถึงศักยภาพในการพัฒนาระบบ Real-time AI ให้เป็นจริงขึ้นมาได้ของ Microsoft

หลังจากนี้ Microosft จะนำความสามารถเหล่านี้สู่ Microsoft Azure เพื่อให้ผู้ใช้งานทั่วโลกนำไปใช้งานกันได้อย่างง่ายดาย และจะนำไปใช้ใน Bing ด้วย

 

ที่มา: https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/



About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

[Video Webinar] Cyber Threat Alliance – Making the Impossible Possible and WAN Edge Transformation

สำหรับผู้ที่ไม่ได้เข้าฟังการบรรยาย Webinar เรื่อง “Cyber Threat Alliance – Making the Impossible Possible and WAN Edge Transformation” …

[Video Webinar] Detecting Ransomware with Veeam by CSL

สำหรับผู้ที่ไม่ได้เข้าฟังการบรรยาย CSL Webinar เรื่อง “Detecting Ransomware with Veeam” เพื่อเรียนรู้การปกป้องข้อมูลจาก Ransomware และการปรับปรุงแผน Business Continuity ให้รองรับกับปริมาณข้อมูลที่เพิ่มมากขึ้น และสอดคล้องกับ …