ADPT

AWS เปิดตัว TorchServe ช่วยนำโมเดล PyTorch ขึ้น Production ได้อย่างง่ายๆ

AWS เปิดตัวเครื่องมือ Opensource “TorchServe” สำหรับโมเดล Machine Learning ที่พัฒนาโดย PyTorch โดยเป็นโปรเจกต์ที่ AWS ดูแลร่วมกับ Facebook ผู้พัฒนา PyTorch

TorchServe นั้นถูกเปิดตัวขึ้นในวันที่ 21 เมษายนที่ผ่านมา เป็นเครื่องมือที่ช่วยให้นักพัฒนาสามารถนำโมเดล Machine Learning ที่พัฒนาขึ้นจาก PyTorch ไปอยู่บนระบบ Production ได้โดยง่าย สามารถสเกลได้ มี Latency ต่ำ และประสิทธิภาพในการประมวลผลสูง

ตัวอย่างของฟีเจอร์หลักใน TorchServe นี้ ก็มีได้แก่
* ชุดการจัดการพื้นฐานสำหรับแอปพลิเคชันที่ใช้งานบ่อย เช่น การตรวจจับวัตถุ และการจัดกลุ่มตัวอักษร ช่วยให้นักพัฒนาไม่ต้องคอยเขียนโค้ดเพื่อ Deploy เอง
* การ Deploy หลายโมเดล
* การทำ A/B Testing โมเดล
* บันทึกสถิติการใช้โมเดล
* RESTful endpoint เพื่อเชื่อมต่อกับแอปพลิเคชันอื่นๆ

TorchServe สามารถทำงานร่วมกับ Deployment Environment ได้หลายประเภท ไม่ว่าจะเป็น Kubernetes, Amazon SageMaker, EKS หรือ EC2 ผู้อ่านท่านใดที่สนใจ สามารถศึกษาข้อมูลเพิ่มเติมได้ที่ https://github.com/pytorch/serve


ที่มา: https://www.infoworld.com/article/3540415/aws-unveils-open-source-model-server-for-pytorch.html


Check Also

Comarch Wealth Management: Software สำหรับทีมที่ปรึกษาทางการเงินของธนาคาร ช่วยบริหารความมั่งคั่งให้กับลูกค้าได้ด้วยข้อมูลและ AI

Comarch Wealth Management เป็น Software กึ่งสำเร็จรูปที่จะช่วยให้ธนาคารมีระบบกลางสำหรับการวางแผนทางการเงิน ที่ที่ปรึกษาทางการเงินของธนาคารนั้นจะสามารถเข้าถึงข้อมูลของลูกค้าและช่วยวางแผนจัดแพ็คเกจต่างๆ ให้เหมาะสมได้ด้วยข้อมูลและ AI ในขณะที่ลูกค้าของธนาคารเองก็สามารถเข้ามาวางแผนด้วยตนเองได้แบบ Self-Service พร้อมช่วยให้ที่ปรึกษาทางการเงินและลูกค้าสามารถพูดคุยสื่อสารกันได้อย่างสะดวก ทำให้ธนาคารสามารถปิดการขายด้านการลงทุนและการออมให้กับลูกค้าแต่ละรายได้อย่างเหมาะสม แม้จะไม่สามารถพบเจอกันโดยตรงได้

AWS ลงทุนสร้าง Data Center ใหม่ในนิวซีแลนด์ เปิดใช้งานปี 2024

AWS ประกาศลงทุนสร้าง Data Center ใหม่ในนิวซีแลนด์ ใช้เงินลงทุนกว่า 1.75 แสนล้านบาท ลงทุนยาว 15 ปี เปิดใช้งานปี 2024