AWS จับมือ Facebook เปิดตัว TorchServe สนับสนุนนักพัฒนา PyTorch

AWS และ Facebook ได้ร่วมกับเปิดโอเพ่นซอร์สที่ชื่อ TorchServe เพื่อสนับสนุนนักพัฒนาด้าน Deep Learning ในการใช้งาน PyTorch

การใช้งาน Model Server เช่น เว็บแอปพลิเคชันสำหรับ Machine Learning ที่พร้อมใช้งาน ทำให้ขั้นตอนการ Deploy Model เป็นเรื่องง่ายขึ้น ทั้งในเรื่องของการโหลดโมเดลต่างๆ หรือเซิร์ฟเวอร์ที่ขยายได้อัตโนมัติ รวมถึงยังมีฟีเจอร์เช่น Logging, Monitoring และ Security ให้ด้วย ยกตัวอย่าง Model Server ที่มีอยู่เช่น TensorFlow Service และ Multi Model Server 

สำหรับ TorchServe เป็นไลบรารี Model Serving ที่จะเข้ามาตอบโจทย์สำหรับ PyTorch โดยเฉพาะ เพื่อช่วยผู้ใช้งานสามารถเพิ่มโมเดลของตนไปเป็น Production ได้ง่ายขึ้น โดยไม่ต้องปรับแต่งโค้ดมากมาย นอกจากนี้ยังมี API สำหรับทำ Object Detection และ Text Classification รวมถึงยังรองรับ Amazon SageMaker, Container Service และ EC2 ด้วย ไม่เพียงเท่านั้นยังมีการเปิดโอเพ่นซอร์สไลบรารี ‘TorchElastic’ ที่ช่วยให้ทำ Training ทนต่อการผิดพลาดได้บน Kubernetes Cluster 

ที่มา :  https://techcrunch.com/2020/04/21/aws-and-facebook-launch-an-open-source-model-server-for-pytorch/ และ  https://aws.amazon.com/blogs/aws/announcing-torchserve-an-open-source-model-server-for-pytorch/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

กลุ่ม RansomHouse ได้กล่าวอ้างถึงการโจรกรรมข้อมูล 450GB จาก AMD

บริษัท AMD ยักษ์ใหญ่ด้านเทคโนโลยีถูกโจมตีทางไซเบอร์ที่ปฏิบัติการโดยกลุ่มอาชญากรทางไซเบอร์ RansomHouse เมื่อเดือนมกราคมที่ผ่านมา ทำให้ข้อมูล 450GB สูญหาย  

Raspberry Pi ออกบอร์ด Pico รุ่นใหม่เพิ่มชิป Wireless และการเชื่อมต่อภายนอก

เมื่อต้นปี 2021 การมาถึงของ Raspberry Pi Pico ถือเป็นบอร์ดขนาดเล็กที่ประสบความสำเร็จมากตัวหนึ่งด้วยราคาเริ่มต้นเพียง 4 เหรียญสหรัฐฯ ล่าสุดมีการเพิ่มฟังก์ชันให้สามารถรองรับการเชื่อมต่อภายนอกและสัญญาณไวไฟได้