TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
สำหรับงาน re:invent ของ AWS ฝั่งของชิปที่ขาดตลาดเป็นอย่างมากก็น่าสนใจไม่น้อย ซึ่ง AWS ได้เปิดตัวเตรียมส่ง Trainium 2 ลงสนามพร้อมวัดผลกับงาน AI ที่กำลังมาแรง นอกจากนี้ยังเปิดตัว Gravition 4 ที่มาพร้อมกับความสามารถการเก็บความลับ
Trainium 2 เป็นชิปที่ถูกออกแบบมาเพื่อการทำงานด้าน AI อย่างแท้จริง โดยมีประสิทธิภาพสูงขึ้น 4 เท่าแต่ใช้พลังงานได้ดีขึ้น 2 เท่าเมื่อเทียบกับ Trainium รุ่นแรก ซึ่งจะนำออกใช้งานกับ EC2 instance รุ่น Trn2 ที่อัดแน่นด้วยชิป 16 ตัว ทั้งนี้เมื่อนำ EC2 มาเชื่อมต่อเพื่อประมวลผลร่วมกันที่เรียกว่า ‘EC2 UltraCluster’ จะสามารถขยายการประมวลผลของ Trainium 2 ได้สูงสุดถึง 100,000 ตัว ที่ทาง AWS ประเมินว่าจะใช้เวลาเทรนโมเดล AI ขนาด 3 แสนล้านตัวด้วยเวลาเพียงไม่กี่สัปดาห์จากหลายเดือน ซึ่งคิดเป็นขนาดราว 1.75 ของที่ทำใน GPT-3 โดย Trainium 2 ยังไม่มีกำหนดใช้งานชัดเจน แต่คาดว่าจะเกิดขึ้นภายในปีหน้า
สำหรับงานด้านโมเดล large language models (LLMs) ที่เกิดขึ้นกับ OpenAI GPT-4 ก็มีการถูกเชื่อมโยงกับ Trainium 2 เพราะต้องบอกว่า AWS เองก็ได้ลงทุนกับสตาร์ตอัปที่แยกตัวออกมาจาก OpenAI ที่ชื่อว่า Anthropic เช่นกันด้วยมูลค่าสูงถึง 4,000 ล้านเหรียญสหรัฐฯ กล่าวคือในอนาคตเราอาจได้เห็น Generative AI จากค่ายอื่นๆด้วย
ชิป Gravition 4 เป็นการต่อยอดบนลิขสิทธิ์ของ ARM ซึ่งทาง AWS ระบุว่ามีความสามารถดีกว่าเดิมราว 30% มีจำนวนคอร์มากกว่าเดิมครึ่งหนึ่ง และแบนวิดธ์ของหน่วยความจำที่สูงขึ้น 75% โดยเล็งนำไปใช้งานกับ Workload แบบเดิม เช่น ฐานข้อมูล เว็บเซิร์ฟเวอร์ การประมวลผลแบบกลุ่มก้อน(Batch) แอปพลิเคชันเซิร์ฟเวอร์ และ microservice เป็นต้น นอกจากด้านประสิทธิภาพแล้ว Gravition 4 ยังมีความสามารถเข้ารหัสในระดับอินเทอร์เฟสฮาร์ดแวร์ที่เหมาะกับงานที่ข้อมูลมีความสำคัญมากด้วย ทั้งนี้ Gravition 4 จะถูกใช้ใน EC2 R8g ภายในไม่กี่เดือนข้างหน้า
ในวาระเกี่ยวกับเรื่องชิปนี้ AWS ยังเผยถึงความร่วมมือของตนและ Nvidia ที่เข้มข้นขึ้นมากกว่าเดิม โดยทาง AWS จะเป็นผู้ให้บริการคลาวด์รายแรกที่นำ Grace Hopper GH200 ของ Nvidia ซึ่งเป็นการรวมร่างระหว่างชิปประมวลผล ARM และชิป Hopper H100 GPU ซึ่งคาดว่าจะส่งมอบได้ภายในปีหน้า
ที่มา : https://techcrunch.com/2023/11/28/amazon-unveils-new-chips-for-training-and-running-ai-models/ และ https://www.zdnet.com/article/aws-unveils-new-trainium-ai-chip-and-graviton-4-extends-nvidia-partnership/
