TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
ในงาน NVIDIA GTC 21 ที่ผ่านมา Microsoft ได้ประกาศเสริมความสามารถด้าน AI หลายส่วน ด้วยการผสานเทคโนโลยีของ Azure, Open Source Tools และ NVDIA GPU Hardware ทำให้มีความสามารถและประสิทธิภาพมากขึ้นโดยมีรายละเอียดดังนี้
Inferencing at scale
Azure Machine Learning ได้รองรับการทำงานร่วมกับ Triton Inference Server ทำให้การทำ AI Inferencing สามารถเริ่มต้นใช้งานได้อย่างรวดเร็วและมีประสิทธิภาพสูง นอกจากนี้ยังรองรับ Framework ต่างๆ เช่น PyTorch, TensorFlow, MXNet และ ONNX โดย Microsoft ได้ร่วมมือกับ NVIDIA ในการพัฒนาระบบ Inferencing Engine ให้มีการทำงานได้ดียิ่งขึ้น ในครั้งนี้มีการทดสอบ AI สำหรับตรวจสอบแกรมม่าใน Microsoft Word ที่ใช้งาน Inferencing Engine ที่ถูกปรับปรุงแล้วอีกด้วย
Multi-Cloud Machine Learning Model Training
ด้วยความสามารถของ Azure Arc ช่วยให้นักพัฒนาสามารถสร้างระบบ AI ที่ทำงานแบบ Cloud-native ได้อย่างง่ายๆ โดยระบบทั้งหมดทำงานบนอยู่บน Kubernetes ซึ่งมีเครื่องมีในการบริหารจัดการมาให้อย่างครบถ้วน และจะมี Agent ที่ทำงานในระดับ Cluster ซึ่งจะค่อยช่วยในการทำ Machine Learning Training ผ่านทาง Azure Machine Learning นอกจากนี้ Azure Machine Learning ยังรองรับการ Integration กับ Kubernetes ผ่านทาง Kubernetes API อีกด้วย นักพัฒนาสามารถเลือก Framework ที่ต้องการได้ เช่น SciKit, TensorFlow, PyTorch และ MPI
PyTorch Profiler
Pytorch Profiler เครื่องที่ใช้ในการวิเคราะห์การทำงานของระบบ Deep Learning ขนาดใหญ่ ได้ถูกปรับปรุงใหม่ให้มีความสามารถมากขึ้น ในครั้งนี้ Microsoft ได้สาธิตด้วยการวิเคราะห์การทำงานของ GPU เพื่อตรวจจับ Gap ของเวลาในระดับ Milliseconds ซึ่งเกิดจากคอขวดของ CPU ทำให้นักพัฒนาสามารถปรับแต่งระบบให้ใช้งานได้อย่างเต็มประสิทธิภาพมากที่สุด
