AWS จับมือ Facebook เปิดตัว TorchServe สนับสนุนนักพัฒนา PyTorch

AWS และ Facebook ได้ร่วมกับเปิดโอเพ่นซอร์สที่ชื่อ TorchServe เพื่อสนับสนุนนักพัฒนาด้าน Deep Learning ในการใช้งาน PyTorch

การใช้งาน Model Server เช่น เว็บแอปพลิเคชันสำหรับ Machine Learning ที่พร้อมใช้งาน ทำให้ขั้นตอนการ Deploy Model เป็นเรื่องง่ายขึ้น ทั้งในเรื่องของการโหลดโมเดลต่างๆ หรือเซิร์ฟเวอร์ที่ขยายได้อัตโนมัติ รวมถึงยังมีฟีเจอร์เช่น Logging, Monitoring และ Security ให้ด้วย ยกตัวอย่าง Model Server ที่มีอยู่เช่น TensorFlow Service และ Multi Model Server 

สำหรับ TorchServe เป็นไลบรารี Model Serving ที่จะเข้ามาตอบโจทย์สำหรับ PyTorch โดยเฉพาะ เพื่อช่วยผู้ใช้งานสามารถเพิ่มโมเดลของตนไปเป็น Production ได้ง่ายขึ้น โดยไม่ต้องปรับแต่งโค้ดมากมาย นอกจากนี้ยังมี API สำหรับทำ Object Detection และ Text Classification รวมถึงยังรองรับ Amazon SageMaker, Container Service และ EC2 ด้วย ไม่เพียงเท่านั้นยังมีการเปิดโอเพ่นซอร์สไลบรารี ‘TorchElastic’ ที่ช่วยให้ทำ Training ทนต่อการผิดพลาดได้บน Kubernetes Cluster 

ที่มา :  https://techcrunch.com/2020/04/21/aws-and-facebook-launch-an-open-source-model-server-for-pytorch/ และ  https://aws.amazon.com/blogs/aws/announcing-torchserve-an-open-source-model-server-for-pytorch/