Samsung เปิดตัวเทคโนโลยีหน่วยความจำ HBM-PIM ช่วยเร่งประสิทธิภาพการทำงานของ Supercomputer

Samsung เปิดตัวเทคโนโลยีหน่วยความจำ HBM-PIM ช่วยเร่งประสิทธิภาพการทำงานของ Supercomputer ได้ 2.6 เท่า และประหยัดพลังงานลง

Credit: Samsung

Samsung ประกาศเปิดตัวเทคโนโลยีหน่วยความจำใหม่ HBM-PIM (High Bandwidth Memory – Processing-in-Memory) ช่วยเร่งประสิทธิภาพการทำงานของ Supercomputer ในการประมวลผลงานต่างๆ เช่น AI, Hyperscale AI และ HPC โดย HBM-PIM มีความสามารถในการช่วยลดอัตราการส่งข้อมูลไปมาระหว่าง CPU และ DRAM เพื่อประมวลผลได้ ซึ่ง PIM จะมีหน่วยประมวลผลขนาดเล็กภายในหน่วยความจำเพื่อใช้ในการประมวลผลข้อมูลที่จำเป็น โดยจากการทดสอบร่วมกับ AMD ในระบบ HPC Cluster ที่มีการใช้งาน AMD Instinct Mi100 Accelerator จำนวน 48 ตัว ระบบที่ใช้ HBM-PIM ช่วยเพิ่มประสิทธิภาพการมวลผลได้ถึง 2.6 เท่า ในขณะเดียวกันก็ช่วยลดการใช้พลังงานได้ถึง 50%

Credit: Samsung

อย่างไรก็ตาม โซลูชันนี้ต้องอาศัยการปรับแต่งซอฟต์แวร์เพื่อให้รองรับการทำงาน ผ่านทางซอฟต์แวร์​ SYCL ซึ่งเป็นมาตรฐานแบบ Open Standard โดย Samsung จะพยายามพลักดันโซลูชันนี้ให้รองภายในซอฟต์แวร์ระบบ HPC และ AI เพิ่มขึ้นในอนาคต

ที่มา: https://semiconductor.samsung.com/emea/newsroom/tech-blog/samsung-electronics-semiconductor-unveils-cutting-edge-memory-technology-to-accelerate-next-generation-ai/

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่สหรัฐอเมริกา แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

งานวิจัยใหม่เผยให้เห็นการเปลี่ยนแปลงของเศรษฐศาสตร์โครงสร้างพื้นฐาน AI ท่ามกลางปริมาณข้อมูลที่ถูกจัดเก็บและเพิ่มขึ้นอย่างต่อเนื่อง [PR]

ที่ผ่านมาบทสนทนาเกี่ยวกับโครงสร้างพื้นฐาน AI มักให้ความสำคัญกับพลังการประมวลผล (Compute) เป็นหลัก อย่างไรก็ตาม งานวิจัยทั่วโลกล่าสุดจาก IDC เผยให้เห็นอีกหนึ่งปัจจัยสำคัญที่องค์กรจำเป็นต้องให้ความสำคัญเมื่อขยายการใช้งาน AI นั่นคือข้อมูลที่ยังคงถูกจัดเก็บและสะสมเพิ่มขึ้นอย่างต่อเนื่อง แม้ว่ารอบการประมวลผลแต่ละรอบจะเสร็จสิ้นไปนานแล้วก็ตาม

ค่าใช้จ่าย AI ต่อพนักงานในกลุ่มบริษัทชั้นนำลดลงเกือบ 10% แม้การใช้งานยังโตต่อเนื่อง

ข้อมูลการใช้จ่ายจาก Ramp ผู้ให้บริการด้าน Payment ในระดับองค์กร ครอบคลุมลูกค้ากว่า 70,000 แห่ง ชี้ให้เห็นว่าอัตราการเติบโตของการนำเทคโนโลยี AI มาปรับใช้ในภาคธุรกิจเริ่มส่งสัญญาณชะลอตัวในเดือนสิงหาคม โดยมีลูกค้า Ramp เพียง 56% …