Breaking News

AWS เปิดตัว TorchServe ช่วยนำโมเดล PyTorch ขึ้น Production ได้อย่างง่ายๆ

AWS เปิดตัวเครื่องมือ Opensource “TorchServe” สำหรับโมเดล Machine Learning ที่พัฒนาโดย PyTorch โดยเป็นโปรเจกต์ที่ AWS ดูแลร่วมกับ Facebook ผู้พัฒนา PyTorch

TorchServe นั้นถูกเปิดตัวขึ้นในวันที่ 21 เมษายนที่ผ่านมา เป็นเครื่องมือที่ช่วยให้นักพัฒนาสามารถนำโมเดล Machine Learning ที่พัฒนาขึ้นจาก PyTorch ไปอยู่บนระบบ Production ได้โดยง่าย สามารถสเกลได้ มี Latency ต่ำ และประสิทธิภาพในการประมวลผลสูง

ตัวอย่างของฟีเจอร์หลักใน TorchServe นี้ ก็มีได้แก่
* ชุดการจัดการพื้นฐานสำหรับแอปพลิเคชันที่ใช้งานบ่อย เช่น การตรวจจับวัตถุ และการจัดกลุ่มตัวอักษร ช่วยให้นักพัฒนาไม่ต้องคอยเขียนโค้ดเพื่อ Deploy เอง
* การ Deploy หลายโมเดล
* การทำ A/B Testing โมเดล
* บันทึกสถิติการใช้โมเดล
* RESTful endpoint เพื่อเชื่อมต่อกับแอปพลิเคชันอื่นๆ

TorchServe สามารถทำงานร่วมกับ Deployment Environment ได้หลายประเภท ไม่ว่าจะเป็น Kubernetes, Amazon SageMaker, EKS หรือ EC2 ผู้อ่านท่านใดที่สนใจ สามารถศึกษาข้อมูลเพิ่มเติมได้ที่ https://github.com/pytorch/serve


ที่มา: https://www.infoworld.com/article/3540415/aws-unveils-open-source-model-server-for-pytorch.html



Check Also

Facebook เปิดตัว Pysa เครื่องมือ Open Source Static Analysis เสริมความมั่นคงปลอดภัยให้โค้ด Python

Facebook ได้ออกมาประกาศเปิด Open Source ให้กับ Pysa เครื่องมือ Static Analysis Tool ที่ Facebook ได้พัฒนาขึ้นมาเพื่อตรวจจับและป้องกันประเด็นด้าน Security และ Privacy ภายในโค้ดภาษา Python

LibreOffice 7.0 ออกแล้ว!

สำหรับสายโอเพ่นซอร์สที่ใช้งานซอฟต์แวร์ตัวนี้กันอยู่แล้ว วันนี้มีอัปเดตใหม่ในเวอร์ชัน 7.0 ออกมาแล้วครับ