SUSE by Ingram

Microsoft เปิดตัว Project Brainwave ตอบโจทย์ Real-time AI ด้วย Intel FPGA

ในงาน Hot Chips 2017 ทาง Microsoft ได้ออกมาประกาศถึง Deep Learning Acceleration Platform ล่าสุดภายใต้ชื่อ Project Brainwave ที่ใช้ Intel FPGA เป็นส่วนประกอบ โดยมีโครงสร้างพื้นฐานของระบบด้วยกัน 3 ส่วน ดังต่อไปนี้

Credit: Microsoft

 

  • สถาปัตยกรรม Distributed System ประสิทธิภาพสูง
  • Hardware DNN Engine บน FPGA
  • Complier และ Runtime สำหรับใช้ Deploy Model ต่างๆ

การนำ FPGA เข้ามาใช้นี้ทำให้ Microsoft สามารถให้บริการ DNN ได้ในแบบ Hardware Microservices ที่ผู้ใช้งานสามารถนำ DNN เข้าไป Map กับกลุ่มของ FPGA และเรียกใช้งานได้ผ่านทาง Server โดยไม่ต้องอาศัย Software ใดๆ เป็นตัวกลาง ทำให้มี Latency ลดลงเป็นอย่างมาก

นอกจากนี้ Microsoft ยังได้ใช้ Soft DNN Processing Unit (DPU) ที่ทำงานบน FPGA ทำให้มีความยืดหยุ่น, รองรับ Data Type ได้หลากหลาย ในขณะที่ยังคงมีประสิทธิภาพสูงอยู่

ปัจจุบัน Microsoft Project Brainwave นี้รองรับการทำงานร่วมกับทั้ง Microsoft Cognitive Toolkit และ Google Tensorflow รวมถึงยังมีแผนที่จะรองรับเทคโนโลยีอื่นๆ เพิ่มเติมในอนาคตอีกด้วย

ในงาน Hot Chips 2017 นี้ ทาง Microsoft ได้ออกมาทดสอบการทำงานของ Project Brainwave ให้ดูด้วยการใช้ชิป Intel 14nm Stratix 10 FPGA ทำประสิทธิภาพที่ระดับ 39.5 Teraflops และประมวลผลแต่ละ Request ได้ภายในเวลาไม่ถึง 1 Millisecond เท่านั้น เป็นการแสดงถึงศักยภาพในการพัฒนาระบบ Real-time AI ให้เป็นจริงขึ้นมาได้ของ Microsoft

หลังจากนี้ Microosft จะนำความสามารถเหล่านี้สู่ Microsoft Azure เพื่อให้ผู้ใช้งานทั่วโลกนำไปใช้งานกันได้อย่างง่ายดาย และจะนำไปใช้ใน Bing ด้วย

 

ที่มา: https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/

About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

Cisco เผยแผนเข้าซื้อกิจการ Dashbase เสริมความสามารถ AppDynamics ติดตามวิเคราะห์ข้อมูล Real-Time Communication

Cisco ได้ออกมาเผยถึงเจตนาในการเข้าซื้อกิจการของ Dashbase ผู้พัฒนาโซลูชันวิเคราะห์ทราฟฟิกสำหรับระบบ Voice, Video และ Chat โดยเฉพาะ เพื่อนำความสามารถของ Dashbase ไปเสริมให้กับ Cisco AppDynamics โดยเฉพาะ

Cisco เผยแผนพัฒนา Co-Packaged Optics ความเร็ว 800Gbps ที่ประหยัดพลังงาน คาดพร้อมใช้งานได้ปี 2024

Cisco ได้ออกมาเผยถึงความร่วมมือกับ Inphi ในการพัฒนา Co-Packaged Optics (CPO) สำหรับใช้ใน Switch รุ่นที่รองรับความเร็ว 51.2Tbps ในอนาคตซึ่งจะมี Interface 800Gbps แบบ Pluggable โดยคาดว่าการพัฒนานี้จะแล้วเสร็จและพร้อมนำเทคโนโลยีออกสู่ตลาดได้ในปี 2024