Microsoft เริ่มใช้ FPGA ในการประมวลผล Traffic และ Deep Neural Network บน Azure มากขึ้น

ในงาน Microsoft Build ที่จัดขึ้นเมื่อวันที่ 10-12 พฤษภาคมที่ผ่านมา Mark Russinovich ซึ่งเป็น Microsoft Azure CTO ได้ออกมาเผยว่า Microsoft มีการนำ FPGA เข้ามาใช้งานใน Microsoft Azure เพื่อเพิ่มความเร็ว Network และประมวลผล Deep Neural Network (DNN) มากขึ้น

Credit: microsoft.com

ปัจจุบันหน่วยประมวลผลนั้นมีให้เลือกใช้งานอย่างหลากหลาย ไม่ว่าจะเป็น CPU, GPU และ ASIC แต่มีอีกทางเลือกหนึ่งที่มีความน่าสนใจไม่แพ้กัน ซึ่งก็คือการนำเอา FPGA (Field Programmable Gate Array) เข้ามาใช้เป็นหน่วยประมวลผล เนื่องจาก FPGA สามารถถูกโปรแกรมคำสั่งได้อย่างยืดหยุ่นกว่า ASIC ในขณะที่มี Bandwidth ในการประมวลผลสูงพร้อมให้ Latency ต่ำ และปัจจุบัน FPGA มีความสามารถเพิ่มขึ้นมากมาย เช่น สามารถเชื่อมต่อผ่าน PCIe, รองรับ OpenCL และสามารถใช้งาน Direct Memory Access (DMA) ได้ โดย Microsoft ได้นำ FPGA เข้ามาเป็นส่วนหนึ่งของของ Server ที่ใช้งานใน Microsoft Azure ในชื่อว่า Catapult v2 โดยมีหน้าที่หลักๆสองส่วนด้วยกัน คือ ใช้ในการทำ Software-Defined Network Offload (SDN Offload) และ Deep Neural Network (DNN)

ในการทำ SDN Offload นั้น Microsoft ได้พัฒนา SmartNIC ขึ้นมาและให้บริการในชื่อว่า Azure Accelerated Networking โดยใช้ FPGA เป็นตัวประมวลผล Traffic Rule ของ Virtual Machine (VM) ทั้งหมดแทน CPU ไม่ว่าจะเป็น VNET, NAT, ACL, QoS และ Encryption ทำให้สามารถลด Latency ได้ถึง 10 เท่า และทำความเร็วในการส่งข้อมูลที่ 50 Gbps และยังสามารถนำ Processing Power ของ CPU ที่เหลืออยู่ไปใช้ในงานอื่นได้อีกด้วย

Credit: microsoft.com

ส่วน Deep Neural Network (DNN) นั้น Microsoft ได้สร้างบริการในชื่อว่า Hardware Microservices ขึ้นมา โดยเป็นการนำ FPGA มาใช้ในการประมวลผล Machine Learning ร่วมกับ CPU ส่งผลสามารถเพิ่ม Efficiency ได้ถึง 73% ในขณะที่ยังรองรับการปรับแต่งชุด Model ลงบน FPGA ได้อย่างยืดหยุ่น และยังรองรับการ Scale ได้ในอนาคตอีกด้วย ปัจจุบันมีการใช้งานแล้วใน Bing Search

Credit: microsoft.com

Microsoft กล่าวว่า FPGA ยังเป็นทางเลือกหนึ่งที่น่าสนใจและจะมีการพัฒนาอย่างต่อเนื่องในอนาคต ทั้งในการใช้งานภายใน Azure เอง และบนโครงการ Open Compute Project (OCP) ซึ่งปัจจุบัน Microsoft นั้นยังเป็น Cloud Provider ที่ลงทุนใน FPGA มากที่สุดในโลกอีกด้วย

ที่มา : https://channel9.msdn.com/Events/Build/2017/B8063

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่สหรัฐอเมริกา แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

CrowdStrike เข้าซื้อกิจการ Fiddler AI และ Dreadnode เสริมแกร่ง Falcon Platform รับมือความเสี่ยง Autonomous AI Agents

CrowdStrike เข้าซื้อกิจการสตาร์ตอัปด้านความปลอดภัย AI 2 แห่ง ได้แก่ Fiddler AI และ Dreadnode เพื่อเสริมความสามารถด้าน AI Observability และการทดสอบความปลอดภัยอัตโนมัติ ตอบโจทย์องค์กรที่เริ่มนำระบบ …

Salesforce ลงนามข้อตกลงเข้าซื้อกิจการ Cresta แพลตฟอร์ม Voice Agent สำหรับงานบริการลูกค้า

Salesforce ประกาศลงนามในข้อตกลงขั้นสุดท้าย (definitive agreement) เพื่อเข้าซื้อกิจการ Cresta ผู้พัฒนาแพลตฟอร์มแบบ voice-first สำหรับงาน customer experience โดยจะนำ voice agent ของ …