OpenAI เปิดตัวโอเพ่นซอร์ส Triton ช่วยเพิ่มประสิทธิภาพในงาน Deep Learning

Triton คือโอเพ่นซอร์สจาก OpenAI ซึ่งก็คือภาษาโปรแกรมและคอมไพเลอร์ที่สามารถปรับแต่งงาน Deep Learning ซึ่งมีประสิทธิภาพกว่าการใช้ CUDA

credit : openai

การทำงานกับฮาร์ดแวร์ GPU เป็นหนึ่งในองค์ประกอบของการพัฒนางาน Deep Learning  โดยมี Framework ช่วยเหลือหลายตัวเช่น CUDA และ OpenCL แต่ความท้าทายในการ Custom GPU ยังคงมีอยู่เนื่องด้วยสถาปัตยกรรมเปลี่ยนเร็ว ดังนั้นจึงมีการใช้เรื่องของ Domain Specific Language และคอมไพเลอร์เข้ามาช่วยแก้ปัญหา ประเด็นคือวิธีการเหล่านี้ก็ยังไม่ยืดหยุ่นและช้ากว่าการเขียนโค้ดใน Kernel ด้วยไลบรารี cuBLAS, cuDNN หรือ TensorRT แต่ก็ไม่ใช่เรื่อง่ายอยู่ดี

Triton จึงเกิดขึ้นเพื่อทำกระบวนการ Optimize เหล่านี้ให้เกิดขึ้นได้อัตโนมัติ ให้ผู้เขียนโค้ดเอาเวลาไปทำงานด้านลอจิกมากขึ้น ทั้งนี้ Triton ถูกตีพิมพ์ในงานวิชาการปี 2019 ที่พูดถึงเรื่องการพัฒนา Kernel ที่เร็วกว่าการใช้ไลบรารีทั่วไป จนกระทั่งกำเนิดออกมาเป็นงานจริง โดยคอมไพเลอร์จะทำโค้ดให้ง่ายขึ้น ทำการ Optimize และ Parallelize แปลงโค้ดสำหรับการ Execute ด้วย NVidia GPU ผู้สนใจศึกษาเพิ่มเติมได้ที่ https://github.com/openai/triton

ที่มา : https://venturebeat.com/2021/07/28/openai-releases-triton-a-programming-language-for-ai-workload-optimization/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

Dell เสริมความสามารถให้ Apex ตอบโจทย์ Multi-Cloud ได้ดียิ่งขึ้น

Dell Technologies ได้ออกมาประกาศเปิดตัวความสามารถใหม่ด้าน Multi-Cloud ให้กับผลิตภัณฑ์ตระกูล Apex เพื่อช่วยให้ธุรกิจองค์กรสามารถก้าวเข้าสู่โลกของ Multi-Cloud ได้ดียิ่งขึ้น ดังนี้

เปิดตัว Google Vertex AI Forecast ระบบ AI สำหรับช่วยวางแผนให้ธุรกิจค้าปลีก

Google ได้ออกมาประกาศเปิดตัว Vertex AI Forecast เครื่องมือ AI สำหรับช่วยทำนาย Demand ในอนาคตได้อย่างแม่นยำให้กับธุรกิจค้าปลีกโดยเฉพาะ