Black Hat Asia 2023

OpenAI เปิดตัวโอเพ่นซอร์ส Triton ช่วยเพิ่มประสิทธิภาพในงาน Deep Learning

Triton คือโอเพ่นซอร์สจาก OpenAI ซึ่งก็คือภาษาโปรแกรมและคอมไพเลอร์ที่สามารถปรับแต่งงาน Deep Learning ซึ่งมีประสิทธิภาพกว่าการใช้ CUDA

credit : openai

การทำงานกับฮาร์ดแวร์ GPU เป็นหนึ่งในองค์ประกอบของการพัฒนางาน Deep Learning  โดยมี Framework ช่วยเหลือหลายตัวเช่น CUDA และ OpenCL แต่ความท้าทายในการ Custom GPU ยังคงมีอยู่เนื่องด้วยสถาปัตยกรรมเปลี่ยนเร็ว ดังนั้นจึงมีการใช้เรื่องของ Domain Specific Language และคอมไพเลอร์เข้ามาช่วยแก้ปัญหา ประเด็นคือวิธีการเหล่านี้ก็ยังไม่ยืดหยุ่นและช้ากว่าการเขียนโค้ดใน Kernel ด้วยไลบรารี cuBLAS, cuDNN หรือ TensorRT แต่ก็ไม่ใช่เรื่อง่ายอยู่ดี

Triton จึงเกิดขึ้นเพื่อทำกระบวนการ Optimize เหล่านี้ให้เกิดขึ้นได้อัตโนมัติ ให้ผู้เขียนโค้ดเอาเวลาไปทำงานด้านลอจิกมากขึ้น ทั้งนี้ Triton ถูกตีพิมพ์ในงานวิชาการปี 2019 ที่พูดถึงเรื่องการพัฒนา Kernel ที่เร็วกว่าการใช้ไลบรารีทั่วไป จนกระทั่งกำเนิดออกมาเป็นงานจริง โดยคอมไพเลอร์จะทำโค้ดให้ง่ายขึ้น ทำการ Optimize และ Parallelize แปลงโค้ดสำหรับการ Execute ด้วย NVidia GPU ผู้สนใจศึกษาเพิ่มเติมได้ที่ https://github.com/openai/triton

ที่มา : https://venturebeat.com/2021/07/28/openai-releases-triton-a-programming-language-for-ai-workload-optimization/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

Google จับมือ Replit เสริมบริการ Generative AI สำหรับ Software Development

Google จับมือ Replit เสริมบริการ Generative AI สำหรับ Software Development

Microsoft เปิดตัว Security Copilot ระบบ AI ผู้ช่วยด้านความมั่นคงปลอดภัย

Microsoft เปิดตัว Security Copilot ระบบ AI ผู้ช่วยด้านความมั่นคงปลอดภัย ใช้งาน GPT-4