ADPT

Microsoft เปิดตัว Project Brainwave ตอบโจทย์ Real-time AI ด้วย Intel FPGA

ในงาน Hot Chips 2017 ทาง Microsoft ได้ออกมาประกาศถึง Deep Learning Acceleration Platform ล่าสุดภายใต้ชื่อ Project Brainwave ที่ใช้ Intel FPGA เป็นส่วนประกอบ โดยมีโครงสร้างพื้นฐานของระบบด้วยกัน 3 ส่วน ดังต่อไปนี้

Credit: Microsoft

 

  • สถาปัตยกรรม Distributed System ประสิทธิภาพสูง
  • Hardware DNN Engine บน FPGA
  • Complier และ Runtime สำหรับใช้ Deploy Model ต่างๆ

การนำ FPGA เข้ามาใช้นี้ทำให้ Microsoft สามารถให้บริการ DNN ได้ในแบบ Hardware Microservices ที่ผู้ใช้งานสามารถนำ DNN เข้าไป Map กับกลุ่มของ FPGA และเรียกใช้งานได้ผ่านทาง Server โดยไม่ต้องอาศัย Software ใดๆ เป็นตัวกลาง ทำให้มี Latency ลดลงเป็นอย่างมาก

นอกจากนี้ Microsoft ยังได้ใช้ Soft DNN Processing Unit (DPU) ที่ทำงานบน FPGA ทำให้มีความยืดหยุ่น, รองรับ Data Type ได้หลากหลาย ในขณะที่ยังคงมีประสิทธิภาพสูงอยู่

ปัจจุบัน Microsoft Project Brainwave นี้รองรับการทำงานร่วมกับทั้ง Microsoft Cognitive Toolkit และ Google Tensorflow รวมถึงยังมีแผนที่จะรองรับเทคโนโลยีอื่นๆ เพิ่มเติมในอนาคตอีกด้วย

ในงาน Hot Chips 2017 นี้ ทาง Microsoft ได้ออกมาทดสอบการทำงานของ Project Brainwave ให้ดูด้วยการใช้ชิป Intel 14nm Stratix 10 FPGA ทำประสิทธิภาพที่ระดับ 39.5 Teraflops และประมวลผลแต่ละ Request ได้ภายในเวลาไม่ถึง 1 Millisecond เท่านั้น เป็นการแสดงถึงศักยภาพในการพัฒนาระบบ Real-time AI ให้เป็นจริงขึ้นมาได้ของ Microsoft

หลังจากนี้ Microosft จะนำความสามารถเหล่านี้สู่ Microsoft Azure เพื่อให้ผู้ใช้งานทั่วโลกนำไปใช้งานกันได้อย่างง่ายดาย และจะนำไปใช้ใน Bing ด้วย

 

ที่มา: https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

[Guest Post] ฟอร์ติเน็ตคว้ารางวัล Google Cloud Technology Partner of the Year ด้านความปลอดภัย

Fortinet® (NASDAQ: FTNT) ฟอร์ติเน็ตผู้นำระดับโลกด้านโซลูชันการรักษาความปลอดภัยทางไซเบอร์แบบอัตโนมัติและครบวงจรได้รับรางวัล Google Cloud Global Technology Partner of the Year ด้านความปลอดภัย ประจำปีค.ศ. 2020 …

[Video Webinar] Modernize Your Application and Infrastructure by VMware Tanzu

สำหรับผู้ที่ไม่ได้เข้าฟังการบรรยาย Tangerine Webinar เรื่อง “Modernize Your Application and Infrastructure by VMware Tanzu” เพื่อเรียนรู้การทำ Application Modernization และสร้าง …