Breaking News
AMR | Citrix Webinar: The Next New Normal

AWS เปิดตัว TorchServe ช่วยนำโมเดล PyTorch ขึ้น Production ได้อย่างง่ายๆ

AWS เปิดตัวเครื่องมือ Opensource “TorchServe” สำหรับโมเดล Machine Learning ที่พัฒนาโดย PyTorch โดยเป็นโปรเจกต์ที่ AWS ดูแลร่วมกับ Facebook ผู้พัฒนา PyTorch

TorchServe นั้นถูกเปิดตัวขึ้นในวันที่ 21 เมษายนที่ผ่านมา เป็นเครื่องมือที่ช่วยให้นักพัฒนาสามารถนำโมเดล Machine Learning ที่พัฒนาขึ้นจาก PyTorch ไปอยู่บนระบบ Production ได้โดยง่าย สามารถสเกลได้ มี Latency ต่ำ และประสิทธิภาพในการประมวลผลสูง

ตัวอย่างของฟีเจอร์หลักใน TorchServe นี้ ก็มีได้แก่
* ชุดการจัดการพื้นฐานสำหรับแอปพลิเคชันที่ใช้งานบ่อย เช่น การตรวจจับวัตถุ และการจัดกลุ่มตัวอักษร ช่วยให้นักพัฒนาไม่ต้องคอยเขียนโค้ดเพื่อ Deploy เอง
* การ Deploy หลายโมเดล
* การทำ A/B Testing โมเดล
* บันทึกสถิติการใช้โมเดล
* RESTful endpoint เพื่อเชื่อมต่อกับแอปพลิเคชันอื่นๆ

TorchServe สามารถทำงานร่วมกับ Deployment Environment ได้หลายประเภท ไม่ว่าจะเป็น Kubernetes, Amazon SageMaker, EKS หรือ EC2 ผู้อ่านท่านใดที่สนใจ สามารถศึกษาข้อมูลเพิ่มเติมได้ที่ https://github.com/pytorch/serve


ที่มา: https://www.infoworld.com/article/3540415/aws-unveils-open-source-model-server-for-pytorch.html



Check Also

แนวทางออกแบบ API ยังไงให้ได้เงินตอบโจทย์เพื่อธุรกิจติดจรวดสไตล์ IBM

วันนี้เราจะมาแบ่งปันแนวคิดแนวปฏิบัติและบทเรียนที่ดีที่สุดในการออกแบบ API ของแบรนด์ระดับโลกอย่างIBM ที่ใช้ในการออกแบบ API สำหรับลูกค้าองค์กรต่าง ๆ โดยมุ่งเน้นไปที่วิธีการทางเทคนิคที่พิสูจน์มาแล้วจากผลตอบรับของลูกค้าแล้วว่าได้ผลจริง โดยมีแนวคิดหลักดังนี้

Microsoft เผยเฟรมเวิร์ก .NET MAUI สำหรับการพัฒนาแอปข้ามแพลตฟอร์ม

ที่งาน Microsoft Build Developer มีการประกาศ .NET MAUI หรือจะเรียกได้ว่าพัฒนาการจาก Xamarin.Form ด้วยช่วยให้นักพัฒนาเขียนโค้ดเดียวใช้ได้ทุกแพลตฟอร์มไม่ว่าจะเป็น Windows, iOS, Android ซึ่ง MAUI …