Microsoft เริ่มใช้ FPGA ในการประมวลผล Traffic และ Deep Neural Network บน Azure มากขึ้น

ในงาน Microsoft Build ที่จัดขึ้นเมื่อวันที่ 10-12 พฤษภาคมที่ผ่านมา Mark Russinovich ซึ่งเป็น Microsoft Azure CTO ได้ออกมาเผยว่า Microsoft มีการนำ FPGA เข้ามาใช้งานใน Microsoft Azure เพื่อเพิ่มความเร็ว Network และประมวลผล Deep Neural Network (DNN) มากขึ้น

Credit: microsoft.com

ปัจจุบันหน่วยประมวลผลนั้นมีให้เลือกใช้งานอย่างหลากหลาย ไม่ว่าจะเป็น CPU, GPU และ ASIC แต่มีอีกทางเลือกหนึ่งที่มีความน่าสนใจไม่แพ้กัน ซึ่งก็คือการนำเอา FPGA (Field Programmable Gate Array) เข้ามาใช้เป็นหน่วยประมวลผล เนื่องจาก FPGA สามารถถูกโปรแกรมคำสั่งได้อย่างยืดหยุ่นกว่า ASIC ในขณะที่มี Bandwidth ในการประมวลผลสูงพร้อมให้ Latency ต่ำ และปัจจุบัน FPGA มีความสามารถเพิ่มขึ้นมากมาย เช่น สามารถเชื่อมต่อผ่าน PCIe, รองรับ OpenCL และสามารถใช้งาน Direct Memory Access (DMA) ได้ โดย Microsoft ได้นำ FPGA เข้ามาเป็นส่วนหนึ่งของของ Server ที่ใช้งานใน Microsoft Azure ในชื่อว่า Catapult v2 โดยมีหน้าที่หลักๆสองส่วนด้วยกัน คือ ใช้ในการทำ Software-Defined Network Offload (SDN Offload) และ Deep Neural Network (DNN)

ในการทำ SDN Offload นั้น Microsoft ได้พัฒนา SmartNIC ขึ้นมาและให้บริการในชื่อว่า Azure Accelerated Networking โดยใช้ FPGA เป็นตัวประมวลผล Traffic Rule ของ Virtual Machine (VM) ทั้งหมดแทน CPU ไม่ว่าจะเป็น VNET, NAT, ACL, QoS และ Encryption ทำให้สามารถลด Latency ได้ถึง 10 เท่า และทำความเร็วในการส่งข้อมูลที่ 50 Gbps และยังสามารถนำ Processing Power ของ CPU ที่เหลืออยู่ไปใช้ในงานอื่นได้อีกด้วย

Credit: microsoft.com

ส่วน Deep Neural Network (DNN) นั้น Microsoft ได้สร้างบริการในชื่อว่า Hardware Microservices ขึ้นมา โดยเป็นการนำ FPGA มาใช้ในการประมวลผล Machine Learning ร่วมกับ CPU ส่งผลสามารถเพิ่ม Efficiency ได้ถึง 73% ในขณะที่ยังรองรับการปรับแต่งชุด Model ลงบน FPGA ได้อย่างยืดหยุ่น และยังรองรับการ Scale ได้ในอนาคตอีกด้วย ปัจจุบันมีการใช้งานแล้วใน Bing Search

Credit: microsoft.com

Microsoft กล่าวว่า FPGA ยังเป็นทางเลือกหนึ่งที่น่าสนใจและจะมีการพัฒนาอย่างต่อเนื่องในอนาคต ทั้งในการใช้งานภายใน Azure เอง และบนโครงการ Open Compute Project (OCP) ซึ่งปัจจุบัน Microsoft นั้นยังเป็น Cloud Provider ที่ลงทุนใน FPGA มากที่สุดในโลกอีกด้วย

ที่มา : https://channel9.msdn.com/Events/Build/2017/B8063



About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนมือใหม่ผู้หลงใหลใน Enterprise IT และซูชิ

Check Also

Wireshark 2.4.0 ออกแล้ว กลายเป็น Stable รุ่นล่าสุดแทน 2.2.8

Wireshark ประกาศเปิดตัวรุ่น 2.4.0 ในฐานะรุ่น Stable ล่าสุด พร้อมฟีเจอร์ใหม่ๆ และโปรโตคอลใหม่ๆ ที่สามารถทำการวิเคราะห์ได้เพิ่มเติม ดังนี้

IBM เผยแผนเปิด Cloud Data Center เพิ่มอีก 4 แห่งทั่วโลก

IBM ได้ประกาศเปิดตัว Data Center ใหม่อีก 4 แห่ง โดย 2 แห่งอยู่ที่ London, 1 แห่งที่ San Jose, …