AWS ปล่อยชิปใหม่ Trainium 2 สำหรับงาน AI และ Gravition4 ปลดล็อกจำกัดของงานแบบเดิม

สำหรับงาน re:invent ของ AWS ฝั่งของชิปที่ขาดตลาดเป็นอย่างมากก็น่าสนใจไม่น้อย ซึ่ง AWS ได้เปิดตัวเตรียมส่ง Trainium 2 ลงสนามพร้อมวัดผลกับงาน AI ที่กำลังมาแรง นอกจากนี้ยังเปิดตัว Gravition 4 ที่มาพร้อมกับความสามารถการเก็บความลับ

Credit: ShutterStock.com

Trainium 2 เป็นชิปที่ถูกออกแบบมาเพื่อการทำงานด้าน AI อย่างแท้จริง โดยมีประสิทธิภาพสูงขึ้น 4 เท่าแต่ใช้พลังงานได้ดีขึ้น 2 เท่าเมื่อเทียบกับ Trainium รุ่นแรก ซึ่งจะนำออกใช้งานกับ EC2 instance รุ่น Trn2 ที่อัดแน่นด้วยชิป 16 ตัว ทั้งนี้เมื่อนำ EC2 มาเชื่อมต่อเพื่อประมวลผลร่วมกันที่เรียกว่า ‘EC2 UltraCluster’ จะสามารถขยายการประมวลผลของ Trainium 2 ได้สูงสุดถึง 100,000 ตัว ที่ทาง AWS ประเมินว่าจะใช้เวลาเทรนโมเดล AI ขนาด 3 แสนล้านตัวด้วยเวลาเพียงไม่กี่สัปดาห์จากหลายเดือน ซึ่งคิดเป็นขนาดราว 1.75 ของที่ทำใน GPT-3 โดย Trainium 2 ยังไม่มีกำหนดใช้งานชัดเจน แต่คาดว่าจะเกิดขึ้นภายในปีหน้า

สำหรับงานด้านโมเดล large language models (LLMs) ที่เกิดขึ้นกับ OpenAI GPT-4 ก็มีการถูกเชื่อมโยงกับ Trainium 2 เพราะต้องบอกว่า AWS เองก็ได้ลงทุนกับสตาร์ตอัปที่แยกตัวออกมาจาก OpenAI ที่ชื่อว่า Anthropic เช่นกันด้วยมูลค่าสูงถึง 4,000 ล้านเหรียญสหรัฐฯ กล่าวคือในอนาคตเราอาจได้เห็น Generative AI จากค่ายอื่นๆด้วย

ชิป Gravition 4 เป็นการต่อยอดบนลิขสิทธิ์ของ ARM ซึ่งทาง AWS ระบุว่ามีความสามารถดีกว่าเดิมราว 30% มีจำนวนคอร์มากกว่าเดิมครึ่งหนึ่ง และแบนวิดธ์ของหน่วยความจำที่สูงขึ้น 75% โดยเล็งนำไปใช้งานกับ Workload แบบเดิม เช่น ฐานข้อมูล เว็บเซิร์ฟเวอร์ การประมวลผลแบบกลุ่มก้อน(Batch) แอปพลิเคชันเซิร์ฟเวอร์ และ microservice เป็นต้น นอกจากด้านประสิทธิภาพแล้ว Gravition 4 ยังมีความสามารถเข้ารหัสในระดับอินเทอร์เฟสฮาร์ดแวร์ที่เหมาะกับงานที่ข้อมูลมีความสำคัญมากด้วย ทั้งนี้ Gravition 4 จะถูกใช้ใน EC2 R8g ภายในไม่กี่เดือนข้างหน้า

ในวาระเกี่ยวกับเรื่องชิปนี้ AWS ยังเผยถึงความร่วมมือของตนและ Nvidia ที่เข้มข้นขึ้นมากกว่าเดิม โดยทาง AWS จะเป็นผู้ให้บริการคลาวด์รายแรกที่นำ Grace Hopper GH200 ของ Nvidia ซึ่งเป็นการรวมร่างระหว่างชิปประมวลผล ARM และชิป Hopper H100 GPU ซึ่งคาดว่าจะส่งมอบได้ภายในปีหน้า

ที่มา : https://techcrunch.com/2023/11/28/amazon-unveils-new-chips-for-training-and-running-ai-models/ และ https://www.zdnet.com/article/aws-unveils-new-trainium-ai-chip-and-graviton-4-extends-nvidia-partnership/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

PROEN พร้อมให้บริการ “ZStack Cloud” ซอฟต์แวร์สร้าง Private Cloud จัดการ VM ได้อย่างมั่นใจ

แม้ว่าองค์กรมากมายจะนิยมใช้งาน Public Cloud กันอย่างแพร่หลาย แต่ก็ปฏิเสธไม่ได้ว่ายังคงมีองค์กรอีกมากที่กังวลทั้งเรื่องความเป็นส่วนตัว (Privacy) ความมั่นคงปลอดภัย (Security) หรือเรื่องความยืดหยุ่น (Flexibility) และยังคงเชื่อว่าการเลือกใช้ “Private Cloud” น่าจะตอบโจทย์สิ่งเหล่านั้นได้มากกว่าการใช้งาน Public …

1-TO-ALL Webinar: ฟรี แปลทุกภาษาได้ด้วย Zoom AI ต่างชาติต่างภาษา ก็จบปัญหาด้วย Zoom AI [8 มี.ค. 2024 – 10.30น.]

1-TO-ALL และ Zoom ขอเรียนเชิญทุกท่านเข้าร่วมงานสัมมนาออนไลน์ฟรี "1-TO-ALL Webinar: ฟรี แปลทุกภาษาได้ด้วย Zoom AI ต่างชาติต่างภาษา ก็จบปัญหาด้วย Zoom AI" ในวันที่ 8 มีนาคม 2024 เวลา 10.30น. - 12.00น. เพื่อร่วมเรียนรู้และรับชมการทดสอบใช้งานจริงของความสามารถในการแปลภาษาบน Zoom ด้วย Zoom AI ที่เปิดให้ใช้งานได้แล้วสำหรับธุรกิจองค์กรที่ใช้ Zoom ทุกแห่ง รองรับกว่า 36 ภาษาทั่วโลก พร้อมพบกับความสามารถอื่นๆ ของ Zoom ที่จะช่วยให้การประชุมงานออนไลน์มีประสิทธิภาพอย่างที่ไม่เคยเป็นมาก่อน ไม่ว่าจะเป็น Zoom AI Companion และ Zoom One ที่คุณอาจจะยังไม่เคยรู้จักหรือใช้งาน