Microsoft เริ่มใช้ FPGA ในการประมวลผล Traffic และ Deep Neural Network บน Azure มากขึ้น

ในงาน Microsoft Build ที่จัดขึ้นเมื่อวันที่ 10-12 พฤษภาคมที่ผ่านมา Mark Russinovich ซึ่งเป็น Microsoft Azure CTO ได้ออกมาเผยว่า Microsoft มีการนำ FPGA เข้ามาใช้งานใน Microsoft Azure เพื่อเพิ่มความเร็ว Network และประมวลผล Deep Neural Network (DNN) มากขึ้น

Credit: microsoft.com

ปัจจุบันหน่วยประมวลผลนั้นมีให้เลือกใช้งานอย่างหลากหลาย ไม่ว่าจะเป็น CPU, GPU และ ASIC แต่มีอีกทางเลือกหนึ่งที่มีความน่าสนใจไม่แพ้กัน ซึ่งก็คือการนำเอา FPGA (Field Programmable Gate Array) เข้ามาใช้เป็นหน่วยประมวลผล เนื่องจาก FPGA สามารถถูกโปรแกรมคำสั่งได้อย่างยืดหยุ่นกว่า ASIC ในขณะที่มี Bandwidth ในการประมวลผลสูงพร้อมให้ Latency ต่ำ และปัจจุบัน FPGA มีความสามารถเพิ่มขึ้นมากมาย เช่น สามารถเชื่อมต่อผ่าน PCIe, รองรับ OpenCL และสามารถใช้งาน Direct Memory Access (DMA) ได้ โดย Microsoft ได้นำ FPGA เข้ามาเป็นส่วนหนึ่งของของ Server ที่ใช้งานใน Microsoft Azure ในชื่อว่า Catapult v2 โดยมีหน้าที่หลักๆสองส่วนด้วยกัน คือ ใช้ในการทำ Software-Defined Network Offload (SDN Offload) และ Deep Neural Network (DNN)

ในการทำ SDN Offload นั้น Microsoft ได้พัฒนา SmartNIC ขึ้นมาและให้บริการในชื่อว่า Azure Accelerated Networking โดยใช้ FPGA เป็นตัวประมวลผล Traffic Rule ของ Virtual Machine (VM) ทั้งหมดแทน CPU ไม่ว่าจะเป็น VNET, NAT, ACL, QoS และ Encryption ทำให้สามารถลด Latency ได้ถึง 10 เท่า และทำความเร็วในการส่งข้อมูลที่ 50 Gbps และยังสามารถนำ Processing Power ของ CPU ที่เหลืออยู่ไปใช้ในงานอื่นได้อีกด้วย

Credit: microsoft.com

ส่วน Deep Neural Network (DNN) นั้น Microsoft ได้สร้างบริการในชื่อว่า Hardware Microservices ขึ้นมา โดยเป็นการนำ FPGA มาใช้ในการประมวลผล Machine Learning ร่วมกับ CPU ส่งผลสามารถเพิ่ม Efficiency ได้ถึง 73% ในขณะที่ยังรองรับการปรับแต่งชุด Model ลงบน FPGA ได้อย่างยืดหยุ่น และยังรองรับการ Scale ได้ในอนาคตอีกด้วย ปัจจุบันมีการใช้งานแล้วใน Bing Search

Credit: microsoft.com

Microsoft กล่าวว่า FPGA ยังเป็นทางเลือกหนึ่งที่น่าสนใจและจะมีการพัฒนาอย่างต่อเนื่องในอนาคต ทั้งในการใช้งานภายใน Azure เอง และบนโครงการ Open Compute Project (OCP) ซึ่งปัจจุบัน Microsoft นั้นยังเป็น Cloud Provider ที่ลงทุนใน FPGA มากที่สุดในโลกอีกด้วย

ที่มา : https://channel9.msdn.com/Events/Build/2017/B8063

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่สหรัฐอเมริกา แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

Salesforce เข้าซื้อกิจการ Fin มูลค่าราว 3,600 ล้านดอลลาร์ เสริมแกร่ง AI Agent งานบริการลูกค้า

Salesforce ประกาศลงนามข้อตกลงขั้นสุดท้ายเข้าซื้อกิจการ Fin ผู้ให้บริการแพลตฟอร์ม customer agent ในมูลค่าราว 3,600 ล้านดอลลาร์สหรัฐ เพื่อนำเทคโนโลยี AI Agent สำหรับงานบริการลูกค้ามาเสริมความสามารถให้กับ Agentforce

Cisco ออกแพตช์แก้ช่องโหว่ Zero-day บน Catalyst SD-WAN Manager ที่ถูกใช้โจมตียกระดับสิทธิ์เป็น root

Cisco ปล่อยอัปเดตด้านความปลอดภัยแก้ช่องโหว่บน Catalyst SD-WAN Manager (เดิมคือ SD-WAN vManage) หลังพบว่าถูกใช้โจมตีจริงในลักษณะ Zero-day เพื่อยกระดับสิทธิ์เป็น root บนระบบที่ได้รับผลกระทบ