AWS จับมือ Facebook เปิดตัว TorchServe สนับสนุนนักพัฒนา PyTorch

AWS และ Facebook ได้ร่วมกับเปิดโอเพ่นซอร์สที่ชื่อ TorchServe เพื่อสนับสนุนนักพัฒนาด้าน Deep Learning ในการใช้งาน PyTorch

การใช้งาน Model Server เช่น เว็บแอปพลิเคชันสำหรับ Machine Learning ที่พร้อมใช้งาน ทำให้ขั้นตอนการ Deploy Model เป็นเรื่องง่ายขึ้น ทั้งในเรื่องของการโหลดโมเดลต่างๆ หรือเซิร์ฟเวอร์ที่ขยายได้อัตโนมัติ รวมถึงยังมีฟีเจอร์เช่น Logging, Monitoring และ Security ให้ด้วย ยกตัวอย่าง Model Server ที่มีอยู่เช่น TensorFlow Service และ Multi Model Server 

สำหรับ TorchServe เป็นไลบรารี Model Serving ที่จะเข้ามาตอบโจทย์สำหรับ PyTorch โดยเฉพาะ เพื่อช่วยผู้ใช้งานสามารถเพิ่มโมเดลของตนไปเป็น Production ได้ง่ายขึ้น โดยไม่ต้องปรับแต่งโค้ดมากมาย นอกจากนี้ยังมี API สำหรับทำ Object Detection และ Text Classification รวมถึงยังรองรับ Amazon SageMaker, Container Service และ EC2 ด้วย ไม่เพียงเท่านั้นยังมีการเปิดโอเพ่นซอร์สไลบรารี ‘TorchElastic’ ที่ช่วยให้ทำ Training ทนต่อการผิดพลาดได้บน Kubernetes Cluster 

ที่มา :  https://techcrunch.com/2020/04/21/aws-and-facebook-launch-an-open-source-model-server-for-pytorch/ และ  https://aws.amazon.com/blogs/aws/announcing-torchserve-an-open-source-model-server-for-pytorch/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

[Guest Post]“มาทำความรู้จัก VMware Horizon ตอบโจทย์การทำงาน Work from anywhere ในยุค Next Normal”

ผ่านมากว่าหนึ่งปีที่การทำงานในปัจจุบันนี้ ได้เปลี่ยนไปเริ่มเข้าสู่ยุคใหม่ จากที่ทำงานแค่เพียงในออฟฟิศ กลายเป็นการทำงานในรูปแบบ Work from home หรือ Work from anywhere และมีความเป็นไปได้สูงที่จะยังคงดำเนินต่อไป ไม่ว่าจะเป็นฝั่งการขาย กลุ่มไอที การเงิน …

Microsoft เข้าซื้อกิจการ Clear Software เสริมทัพ Microsoft Power Platform

Microsoft เข้าซื้อกิจการ Clear Software เสริมทัพ Microsoft Power Platform ระบบ Automation สำหรับการดำเนินธุรกิจ