CDIC 2023

IBM ออกงานวิจัยชิป AI 7nm ประหยัดพลังงานชิ้นแรกของโลก

IBM เผยแพร่งานวิจัยฉบับใหม่ที่เผยให้เห็นถึงการพัฒนาชิป AI ประหยัดพลังงานด้วยเทคโนโลยี 7 นาโนเมตร ซึ่งสามารถทำงานร่วมกับโมเดล AI ที่หลากหลายและใช้พลังงานได้คุ้มค่ากว่าชิปอื่นๆในปัจจุบัน

Credit: IBM

งานวิจัยของ IBM ที่ถูกนำเสนอในงาน 2021 International Solid-State Circuits Virtual Conference ช่วงต้นเดือนที่ผ่านมานั้นเผยถึงชิป AI ใหม่ขนาด 4-core ที่ถูกออกแบบขึ้นเพื่องาน Low precision workload ในโมเดล AI และ Machine Learning โดยเฉพาะ

การเลือกใช้เทคนิค Low-precision นั้นช่วยให้ IBM สามารถพัฒนาชิปที่ขนาดเล็กและใช้พลังงานต่ำกว่าแบบ High-precision ซึ่งนำไปสู่การจัดการ Cache ที่ดีขึ้น และการลดคอขวดในหน่วยความจำ ซึ่งจะช่วยลดระยะเวลาและพลังงานในการเทรนโมเดล AI ได้

ชิป AI Accelerator ชิ้นนี้เป็นชิปขนาด 7nm ที่ถูกผลิตด้วยเทคนิค Extreme Ultraviolet Lithography (EUV) ซึ่งนับเป็นวิธีที่ดีที่สุดในขณะนี้ โดยในตัวชิปมีการนำเทคนิค Hybrid FP8 (HFP8) format ซึ่งสามารถทำงานได้ละเอียดในระดับ 8-bit Floating Point มาใช้ในการเทรนโมเดล Deep Learning ซึ่งคุณสมบัติเหล่านี้ช่วยให้ชิปดังกล่าวสามารถประหยัดพลังงานได้เหนือกว่าชิปอื่นๆ

ตารางเปรียบเทียบการทำงานของชิปนี้และชิปอื่นๆในตลาด (Credit: IBM)

นอกจากนี้ ตัวชิปยังมีกลไกการจัดการพลังงานที่ช่วยให้ชิปสามารถทำงานได้ดีที่สุดภายในขอบเขตของพลังงานที่จำกัด ด้วยการลดความเร็วของชิปลงในช่วงที่ทำการคำนวณ (Computation Phase) ที่ใช้พลังงานมาก

ในงานวิจัยชิ้นนี้ยังได้กล่าวถึงสถิติการทำงานต่อเนื่องของชิปซึ่งเป็นปัจจัยหนึ่งในการนำชิปมาใช้งานจริง โดยจากการวัดผล IBM พบว่าชิปนี้มีอัตรา Utilization มากกว่า 80% ในการเทรนโมเดล และมากกว่า 60% ในงาน Inference ซึ่งนับว่าอยู่ที่ระดับที่ดีมากหากเทียบกับ GPU ทั่วไปที่มีอัตรา Utilizaiton ต่ำกว่า 30%

ในขณะนี้ ชิปดังกล่าวยังอยู่เพียงในช่วงการวิจัยและพัฒนาเท่านั้น โดย IBM คาดว่าภายใน 2-3 ปีข้างหน้าจะสามารถนำชิปดังกล่าวออกมาใช้งานได้ในงานหลากหลาย ไม่ว่าจะเป็นการนำไปใช้ในเทคโนโลยีขับเคลื่อนอัตโนมัติ การประมวลผลภาพและวิดีโอ หรือการประมวลผลภาษาธรรมชาติ เช่น การแปลงเสียงพูดเป็นตัวอักษร

ที่มา:


Check Also

Cisco ออกแพตช์อุดช่องโหว่ Zero-day บน IOS ผู้ดูแลระบบควรอัปเดตทันที

Cisco ออกแพตช์อุดช่องโหว่ Zero-day บน IOS และ IOS XE Software ผู้ดูแลระบบควรอัปเดตทันที

AWS ประกาศเปิดให้ใช้งาน Amazon Bedrock บริการ Generative AI แบบ GA แล้ว

Amazon Web Services (AWS) ได้เปิดให้ใช้งาน Amazon Bedrock บริการ Generative AI แบบ General Availability (GA) แล้ว …