Intel เตรียมใช้ตัวแปรชนิดใหม่ BFloat16 เพิ่มความเร็วงาน Deep Learning ในหน่วยประมวลผล

Intel ได้ออก Whitepaper อธิบายตัวแปรชนิดใหม่ BF16/BFloat16 ซึ่งเป็น Floating Point ใน Format ใหม่ซึ่งจะถูกใช้งานในหน่วยประมวลผลของ Intel ในอนาคต

 

Credit: Intel

 

BF16 นี้ถูกออกแบบมาเพื่อเพิ่มความเร็วการประมวลผลของ Deep Learning โดยเฉพาะ และสามารถถูกประมวลผลได้เร็วกว่า FP16 ที่ใช้กันอยู่ในปัจจุบันเป็นอย่างมาก เนื่องจาก BF16 นี้ไม่ได้รองรับการทำ Denormal ดังนั้นจึงไม่ต้องมีการเตรียมจัดการกับ Exception ในระดับ Hardware โดยตัว BF16 เองนี้จะถูก Implement โดยตรงลงไปใน Hardware เลย ส่วนตัวแปรชนิด FP32 นั้นมีประสิทธิภาพที่ใกล้เคียงกับ BF16 อยู่แล้ว จึงยังไม่มีการแก้ไขอะไรเพิ่มเติม

Intel BF16 นี้จะเริ่มถูกใช้งานใน Intel Xeon รุ่น Cooper Lake เป็นต้นไป รวมถึงมีแผนจะนำไปใช้งานใน Intel Nervana, Intel FPGA และ Hardware อื่นๆ ที่ออกแบบมาสำหรับประมวลผล Deep Learning โดยเฉพาะด้วย

ผู้ที่สนใจสามารถศึกษาข้อมูลเพิ่มเติมได้ที่ https://software.intel.com/sites/default/files/managed/40/8b/bf16-hardware-numerics-definition-white-paper.pdf ครับ

 

ที่มา: https://www.phoronix.com/scan.php?page=news_item&px=Intel-BFloat16-Deep-Learning


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

จบที่ SDC ที่เดียว บริการต่อ MA อุปกรณ์ IT Hardware

หนึ่งในทางเลือกของระบบ IT โดยเฉพาะฝั่งเซิร์ฟเวอร์ On-premises ขององค์กรในปัจจุบัน คือ การบำรุงรักษา เพราะการอัปเกรดระบบอุปกรณ์ใหม่ๆ ก็อาจจะไม่ใช่เรื่องที่จะทำกันได้ง่ายๆ ไม่ว่าจะด้วยเหตุผลเรื่องค่าใช้จ่าย หรือเทคโนโลยีต่างๆ เพราะฉะนั้น การเลือกทำ MA ให้กับอุปกรณ์ …

[13 มี.ค. 2024] Blendata Webinar: Data Lakehouse in the AI World | เทคโนโลยี Big Data รูปแบบใหม่ สร้างความพร้อมธุรกิจรับมือโลกแห่ง AI

TechTalkThai ขอเชิญชวนทุกท่านร่วมเจาะลึก Data Lakehouse เทคโนโลยีรูปแบบใหม่ ตัวช่วยองค์กรธุรกิจบริหารจัดการข้อมูลอย่างมีประสิทธิภาพตอบโจทย์ยุค AI Transformation กับ Webinar โดยบริษัท Blendata ในหัวข้อ “Data Lakehouse …