CDIC 2023

OpenAI เปิดตัวโอเพ่นซอร์ส Triton ช่วยเพิ่มประสิทธิภาพในงาน Deep Learning

Triton คือโอเพ่นซอร์สจาก OpenAI ซึ่งก็คือภาษาโปรแกรมและคอมไพเลอร์ที่สามารถปรับแต่งงาน Deep Learning ซึ่งมีประสิทธิภาพกว่าการใช้ CUDA

credit : openai

การทำงานกับฮาร์ดแวร์ GPU เป็นหนึ่งในองค์ประกอบของการพัฒนางาน Deep Learning  โดยมี Framework ช่วยเหลือหลายตัวเช่น CUDA และ OpenCL แต่ความท้าทายในการ Custom GPU ยังคงมีอยู่เนื่องด้วยสถาปัตยกรรมเปลี่ยนเร็ว ดังนั้นจึงมีการใช้เรื่องของ Domain Specific Language และคอมไพเลอร์เข้ามาช่วยแก้ปัญหา ประเด็นคือวิธีการเหล่านี้ก็ยังไม่ยืดหยุ่นและช้ากว่าการเขียนโค้ดใน Kernel ด้วยไลบรารี cuBLAS, cuDNN หรือ TensorRT แต่ก็ไม่ใช่เรื่อง่ายอยู่ดี

Triton จึงเกิดขึ้นเพื่อทำกระบวนการ Optimize เหล่านี้ให้เกิดขึ้นได้อัตโนมัติ ให้ผู้เขียนโค้ดเอาเวลาไปทำงานด้านลอจิกมากขึ้น ทั้งนี้ Triton ถูกตีพิมพ์ในงานวิชาการปี 2019 ที่พูดถึงเรื่องการพัฒนา Kernel ที่เร็วกว่าการใช้ไลบรารีทั่วไป จนกระทั่งกำเนิดออกมาเป็นงานจริง โดยคอมไพเลอร์จะทำโค้ดให้ง่ายขึ้น ทำการ Optimize และ Parallelize แปลงโค้ดสำหรับการ Execute ด้วย NVidia GPU ผู้สนใจศึกษาเพิ่มเติมได้ที่ https://github.com/openai/triton

ที่มา : https://venturebeat.com/2021/07/28/openai-releases-triton-a-programming-language-for-ai-workload-optimization/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

AWS ประกาศเปิดให้ใช้งาน Amazon Bedrock บริการ Generative AI แบบ GA แล้ว

Amazon Web Services (AWS) ได้เปิดให้ใช้งาน Amazon Bedrock บริการ Generative AI แบบ General Availability (GA) แล้ว …

การ์ทเนอร์ชี้ 6 กลยุทธ์ที่ผู้นำทีม Software Engineering ต้องทราบในปี 2023

การมีกลยุทธ์ถือเป็นเรื่องที่ดีเพราะแนวปฏิบัติเหล่านี้จะช่วยให้องค์กรมีกรอบที่จะเป็นไป ให้อยู่เหนือการเปลี่ยนแปลงของกระแสเทคโนโลยี ในมุมของ Software Engineering การ์ทเนอร์ได้แนะนำ 6 กลยุทธ์ไว้ดังนี้