TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Samsung ได้ออกมาประกาศเปิดตัวเทคโนโลยี High Bandwidth Memory (HBM) ล่าสุด ที่มีการฝังชิป AI เอาไว้เพื่อช่วยเร่งประสิทธิภาพในการประมวลผลสำหรับระบบ High Performance Computing (HPC) และ Data Center ขนาดใหญ่โดยเฉพาะ
เทคโลยี AI ดังกล่าวนี้มีชื่อว่า PIM ซึ่งย่อมาจากคำว่า Processing-in-Memory ทำให้ผลิตภัณฑ์โดยรวมมีชื่อว่า HBM-PIM ที่ถูกออกแบบมาเพื่อช่วยให้การประมวลผลทางด้าน AI มีความเร็วมากยิ่งขึ้น เนื่องจากการประมวลผลสามารถเกิดบนหน่วยความจำได้โดยตรง ไม่จำเป็นต้องถูกส่งไปยัง CPU เพียงอย่างเดียวอีกต่อไป โดยแนวทางดังกล่าวนี้จะสามารถใช้งานได้โดยไม่ต้องมีการเปลี่ยนแปลง Hardware หรือ Software ส่วนอื่นๆ ที่เกี่ยวข้องเลย
HBM-PIM นี้รองรับการใช้งานได้ทั้งสำหรับระบบ HPC, การทำ AI Training และการทำ AI Inference โดยหลังจากนี้ Samsung จะมุ่งเน้นไปที่การมองหาพันธมิตรรายใหม่ๆ เพื่อสร้างความร่วมมือในการนำ HBM-PIM ไปใช้งานจริงภายในระบบ AI ที่หลากหลาย
HBM นี้คือหน่วยความจำที่มีขนาดเล็กกว่า RAM ทั่วๆ ไปอย่างเช่น DDR4 แต่มีประสิทธิภาพในเชิง Data Rate ที่สูงกว่ามาก ตัวอย่างเช่น DDR4 DIMM ทั่วๆ ไปนั้นจะมีความจุสูงสุดได้ถึง 256GB และมี Data Rate อยู่ที่ 50GB/s ในขณะที่ Samsung Aquabolt 8GB HBM2 ที่เปิดตัวมาเมื่อปี 2018 นั้นถึงแม้จะมีความจุเพียงแค่ 8GB แต่ก็มี Data Rate ถึง 307.2GB/s เลยทีเดียว
ใน HBM-PIM ล่าสุดของ Samsung นี้จะมีประสิทธิภาพที่สูงยิ่งขึ้น อีกทั้งยังมีการฝัง Programmable Computing Unit หรือ PCU เข้าไปในแต่ละ Memory Bank โดยตรง สามารถประมวลผลได้แบบคู่ขนานโดยเกิดการเคลื่อนย้ายข้อมูลที่น้อยที่สุดทำให้สามารถประมวลผลการจำแนกรูปภาพ, การแปลภาษา และการวิเคราะห์ประโยคได้เร็วขึ้นถึง 2 เท่า ในขณะที่ใช้พลังงานน้อยลงกว่าเดิม 70%
ทั้งนี้ Samsung ก็ได้มีการนำเสนองานวิจัยในหัวข้อ “A 20nm 6GB Function-In-Memory DRAM, Based on HBM2 with a 1.2TFLOPS Programmable Computing Unit Using Bank-Level Parallelism, for Machine Learning Applications” ภายในงาน International Solid-State Circuits Conference ไปแล้วในสัปดาห์ที่ผ่านมา
ที่มา: https://blocksandfiles.com/2021/02/17/samung-high-bandwith-memory-ai-chip/ , https://news.samsung.com/global/samsung-develops-industrys-first-high-bandwidth-memory-with-ai-processing-power , https://www.samsung.com/semiconductor/newsroom/tech-leadership/the-industrys-first-hbm-pim/
