AWS เปิดตัว Amazon SageMaker HyperPod สำหรับเทรน AI ขนาดใหญ่

AWS เปิดตัว Amazon SageMaker HyperPod สำหรับเทรน AI ขนาดใหญ่

Amazon Web Services (AWS) ประกาศเปิดตัวบริการ Amazon SageMaker HyperPod บริการสำหรับเทรน Foundation Models (FMs) ขนาดใหญ่เพื่อช่วยลดระยะเวลาในการเทรน โดยมีการใช้งาน Infrastucture ที่ปรับแต่งขึ้นมาโดยเฉพาะในการทำ Distributed Training นักพัฒนาสามารถสั่งให้ SageMake HyperPod ทำการเทรน FMs ได้แบบอัตโนมัติ โดยมีระบบ Cluster Health Monitoring ช่วยในการตรวจสอบ และยังมีระบบ Automated node resiliency เพื่อช่วยในการเปลี่ยน node ที่เสียหาย และสั่งให้ทำการเทรน FMs ต่อได้เอง นอกจากนี้นักพัฒนายังสามารรถเชื่อมต่อ Frameworks, debugging toos และ Library อื่นๆจากภายนอกเข้าไปได้อีกด้วย บริการนี้ช่วยลดระยะเวลาในการเทรน AI Model ได้สูงสุด 40%

ปัจจุบัน Amazon SageMaker เปิดให้ใช้งานในหลาย Region แล้ว ได้แก่ US East (Ohio), US East (N. Virginia), US West (Oregon), Asia Pacific (Singapore), Asia Pacific (Sydney), Asia Pacific (Tokyo), Europe (Frankfurt), Europe (Ireland), และ Europe (Stockholm)

ที่มา: https://aws.amazon.com/blogs/aws/introducing-amazon-sagemaker-hyperpod-a-purpose-built-infrastructure-for-distributed-training-at-scale/