Microsoft เริ่มใช้ FPGA ในการประมวลผล Traffic และ Deep Neural Network บน Azure มากขึ้น

ในงาน Microsoft Build ที่จัดขึ้นเมื่อวันที่ 10-12 พฤษภาคมที่ผ่านมา Mark Russinovich ซึ่งเป็น Microsoft Azure CTO ได้ออกมาเผยว่า Microsoft มีการนำ FPGA เข้ามาใช้งานใน Microsoft Azure เพื่อเพิ่มความเร็ว Network และประมวลผล Deep Neural Network (DNN) มากขึ้น

Credit: microsoft.com

ปัจจุบันหน่วยประมวลผลนั้นมีให้เลือกใช้งานอย่างหลากหลาย ไม่ว่าจะเป็น CPU, GPU และ ASIC แต่มีอีกทางเลือกหนึ่งที่มีความน่าสนใจไม่แพ้กัน ซึ่งก็คือการนำเอา FPGA (Field Programmable Gate Array) เข้ามาใช้เป็นหน่วยประมวลผล เนื่องจาก FPGA สามารถถูกโปรแกรมคำสั่งได้อย่างยืดหยุ่นกว่า ASIC ในขณะที่มี Bandwidth ในการประมวลผลสูงพร้อมให้ Latency ต่ำ และปัจจุบัน FPGA มีความสามารถเพิ่มขึ้นมากมาย เช่น สามารถเชื่อมต่อผ่าน PCIe, รองรับ OpenCL และสามารถใช้งาน Direct Memory Access (DMA) ได้ โดย Microsoft ได้นำ FPGA เข้ามาเป็นส่วนหนึ่งของของ Server ที่ใช้งานใน Microsoft Azure ในชื่อว่า Catapult v2 โดยมีหน้าที่หลักๆสองส่วนด้วยกัน คือ ใช้ในการทำ Software-Defined Network Offload (SDN Offload) และ Deep Neural Network (DNN)

ในการทำ SDN Offload นั้น Microsoft ได้พัฒนา SmartNIC ขึ้นมาและให้บริการในชื่อว่า Azure Accelerated Networking โดยใช้ FPGA เป็นตัวประมวลผล Traffic Rule ของ Virtual Machine (VM) ทั้งหมดแทน CPU ไม่ว่าจะเป็น VNET, NAT, ACL, QoS และ Encryption ทำให้สามารถลด Latency ได้ถึง 10 เท่า และทำความเร็วในการส่งข้อมูลที่ 50 Gbps และยังสามารถนำ Processing Power ของ CPU ที่เหลืออยู่ไปใช้ในงานอื่นได้อีกด้วย

Credit: microsoft.com

ส่วน Deep Neural Network (DNN) นั้น Microsoft ได้สร้างบริการในชื่อว่า Hardware Microservices ขึ้นมา โดยเป็นการนำ FPGA มาใช้ในการประมวลผล Machine Learning ร่วมกับ CPU ส่งผลสามารถเพิ่ม Efficiency ได้ถึง 73% ในขณะที่ยังรองรับการปรับแต่งชุด Model ลงบน FPGA ได้อย่างยืดหยุ่น และยังรองรับการ Scale ได้ในอนาคตอีกด้วย ปัจจุบันมีการใช้งานแล้วใน Bing Search

Credit: microsoft.com

Microsoft กล่าวว่า FPGA ยังเป็นทางเลือกหนึ่งที่น่าสนใจและจะมีการพัฒนาอย่างต่อเนื่องในอนาคต ทั้งในการใช้งานภายใน Azure เอง และบนโครงการ Open Compute Project (OCP) ซึ่งปัจจุบัน Microsoft นั้นยังเป็น Cloud Provider ที่ลงทุนใน FPGA มากที่สุดในโลกอีกด้วย

ที่มา : https://channel9.msdn.com/Events/Build/2017/B8063

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่สหรัฐอเมริกา แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

Sonar เข้าซื้อกิจการ Gitar สตาร์ตอัป AI Code Review ยกระดับระบบตรวจสอบโค้ดด้วย Agentic Reasoning

Sonar ผู้ให้บริการแพลตฟอร์มตรวจสอบคุณภาพและความมั่นคงปลอดภัยของโค้ด ประกาศเข้าซื้อกิจการ Gitar สตาร์ตอัปผู้เชี่ยวชาญด้านระบบ AI-native Code Review การเข้าซื้อกิจการครั้งนี้มีเป้าหมายเพื่อผสานความสามารถด้านการคิดวิเคราะห์ของ Gitar เข้ากับเอนจินตรวจสอบโค้ดของ Sonar เพื่อสร้างความมั่นคงปลอดภัยที่รัดกุมยิ่งขึ้นสำหรับทีม DevOps ในยุคที่ …

Huawei เปิดตัวสถาปัตยกรรมชิปใหม่ แก้ปัญหาคว่ำบาตรและข้อจำกัด Moore’s Law

Huawei Technologies ยักษ์ใหญ่ด้านอิเล็กทรอนิกส์จากจีนได้เปิดตัวเฟรมเวิร์กการออกแบบชิปใหม่ ซึ่งบริษัทระบุว่าจะช่วยลดช่องว่างในอุตสาหกรรมเซมิคอนดักเตอร์กับผู้นำระดับโลกอย่าง TSMC และ Nvidia ได้