TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
ในงาน Google I/O 2021 ทาง Google ได้เปิดตัว Tensor Processing Units (TPU) รุ่นที่ 4 ทำความเร็วเพิ่มขึ้นสองเท่าเมื่อเทียบกับรุ่นก่อน
Tensor Processing Units (TPU) เป็นชิป ASIC ที่พัฒนาโดย Google สำหรับประมวลผลงานด้าน AI โดยเฉพาะ เช่น Object Detection, Image Classification, Natural Language Processing และ Machine Translation ปัจจุบันมีการใช้งานในบริการหลายๆตัวของ Google อยู่แล้ว เช่น Google Search, Google Photos, Google Translate, Google Assistant, Gmail และ Google Cloud AI APIs ซึ่งมีพลังประมวลผลมากกว่า 100 petaflops
สำหรับ TPUv4 ที่ถูกเปิดตัวออกมานั้น มีความเร็วในการประมวลผล TFLOP มากกว่ารุ่นที่ 3 ถึงสองเท่า และมีการปรับปรุงการเชื่อมต่อหน่วยความจำภายในใหม่ โดยจากผลการทดสอบระหว่างการใช้งาน TPUv4 และ TPUv3 จำนวน 64 ตัวเท่ากัน สามารถทำความเร็วเพิ่มขึ้นได้ 2.7 เท่า โดยที่ไม่มีการปรับปรุงซอฟต์แวร์ใดๆเพิ่มเติม นอกจากนี้ยังมีจากผลการทดสอบ MLPerf ด้วยวิธี Image Classification (ResNet-50 v1.5) บน TPUv4 จำนวนเพียง 256 ตัว จะใช้เวลา 1.82 นาที ซึ่งเร็วใกล้เคียงกับ NVIDIA A100 จำนวน 768 ตัว ที่จับคู่กับ AMD EPYC 7742 จำนวน 192 ตัว ที่ทำเวลา 1.06 นาที เลยทีเดียว
TPUv4 สามารถทำงานในรูปแบบของ Cluster ได้ โดยจะเรียกว่า TPU pods ซึ่งเป็นการรวมชิปมากกว่า 4,096 ตัวเพื่อทำงานร่วมกัน ให้ความเร็วระดับ Exaflop โดย Google จะเปิดให้ใช้งาน TPUv4 pods กับลูกค้า Cloud ภายในปีนี้
ที่มา: https://venturebeat.com/2021/05/18/google-details-new-ai-accelerator-chips
