CDIC 2023

AMD เปิดตัว MI300X ชิป GPU ช่วยประมวลผล AI รุ่นใหม่

AMD เปิดตัว MI300X ชิป GPU ช่วยประมวลผล AI รุ่นใหม่มาพร้อมหน่วยความจำขนาดใหญ่

Credit: AMD

AMD ได้ประกาศเปิดตัว Instinct MI300X ชิป GPU ช่วยประมวลผลที่ออกแบบมาสำหรับใช้งานในระบบ AI และ HPC โดยเฉพาะ ซึ่ง MI300X พัฒนาบนสถาปัตยกรรม AMD CDNA 3 ประกอบด้วยทรานซิสเตอร์มากกว่า 153 พันล้านตัว มีหน่วยความจำขนาด 192GB แบบ HBM3 และ Memory Bandwidth ความเร็ว 5.2 TBps ซึ่งเมื่อเทียบกับ NVIDIA H100 Hopper แล้ว MI300X มีหน่วยความจำมากกว่า 2.4 เท่า และ Memory Bandwidth สูงกว่า 1.6 เท่าเลยทีเดียว ก่อนหน้านี้ AMD ได้เคยเปิดตัว MI300A มาก่อนแล้ว ซึ่งเป็นชิป GPU ที่มีการรวมหน่วยประมวลผล Zen 4 เข้าไปด้วย ส่วน MI300X นั้นจะเป็น GPU เพียงอย่างเดียว

AMD จะใช้ชิปรุ่นนี้เข้าสู่ตลาด Large Language Model ซึ่งต้องใช้พลังในการประมวลผลสูง ปัจจุบัน AMD ได้มีการทดสอบและปรับแต่งให้เข้ากับ Large Language Model หลายตัว เช่น Falcon-40B โดย MI300X ที่มีหน่วยความจำขนาดใหญ่นั้นจะช่วยให้การประมวลผลทั้งหมดเกิดขึ้นภายในหน่วยความจำได้ทั้งหมด ไม่จำเป็นต้องโอนถ่ายข้อมูลไปยัง External Memory และยังช่วยลดจำนวน GPU ที่ต้องใช้งานสำหรับ LLM อีกด้วย AMD จะเริ่มทยอยส่งมอบชิปต้นแบบของ MI300X ให้กับลูกค้าภายในช่วงไตรมาสที่สามของปีนี้ ส่วนชิปต้นแบบของ MI300A นั้น AMD เริ่มส่งมอบให้ลูกค้าแล้ว

นอกจากนี้ AMD ยังเปิดตัว AMD Instinct Platform ใหม่ เพื่อแข่งขันกับ NVIDIA DGX System โดยเป็น Platform ที่รวมเอา MI300X จำนวน 8 ตัวเข้าด้วยกัน ทำให้มีหน่วยความจำขนาด 1.5TB พร้อมใช้งาน และยังรองรับการใช้งานกับมาตรฐาน Open Compute Platform อีกด้วย

ที่มา: https://www.zdnet.com/article/amd-unveils-mi300x-ai-chip-as-generative-ai-accelerator/


About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนมือใหม่ผู้หลงใหลใน Enterprise IT และซูชิ

Check Also

จีนติดตั้ง Data Center ใต้น้ำในระดับ Commercial เป็นแห่งแรกของโลก ชี้ลดการใช้ทรัพยากรได้อย่างมหาศาล

Highlander บริษัทที่มุ่งเน้นการพัฒนาเทคโนโลยีและให้บริการด้าน Underwater Data Center หรือ UDC โดยเฉพาะ ได้ออกมาเผยถึงการติดตั้ง Data Center ใต้น้ำในระดับ Commercial จนสำเร็จเป็นแห่งแรกของโลก

HPE ออกอัปเกรดให้ GreenLake for File Storage เพิ่มความจุและ Throughput 7 เท่า!

HPE ได้ทำการอัปเกรดให้กับ HPE GreenLake for File Storage เพื่อให้มีความจุและประสิทธิภาพการรับส่งข้อมูลสูงขึ้นถึง 7 เท่า เพื่อเอาชนะคู่แข่งด้าน File Storage รายอื่นๆ ในตลาดให้ได้ในช่วงต้นปี 2024