ADPT

OpenAI เปิดตัวโอเพ่นซอร์ส Triton ช่วยเพิ่มประสิทธิภาพในงาน Deep Learning

Triton คือโอเพ่นซอร์สจาก OpenAI ซึ่งก็คือภาษาโปรแกรมและคอมไพเลอร์ที่สามารถปรับแต่งงาน Deep Learning ซึ่งมีประสิทธิภาพกว่าการใช้ CUDA

credit : openai

การทำงานกับฮาร์ดแวร์ GPU เป็นหนึ่งในองค์ประกอบของการพัฒนางาน Deep Learning  โดยมี Framework ช่วยเหลือหลายตัวเช่น CUDA และ OpenCL แต่ความท้าทายในการ Custom GPU ยังคงมีอยู่เนื่องด้วยสถาปัตยกรรมเปลี่ยนเร็ว ดังนั้นจึงมีการใช้เรื่องของ Domain Specific Language และคอมไพเลอร์เข้ามาช่วยแก้ปัญหา ประเด็นคือวิธีการเหล่านี้ก็ยังไม่ยืดหยุ่นและช้ากว่าการเขียนโค้ดใน Kernel ด้วยไลบรารี cuBLAS, cuDNN หรือ TensorRT แต่ก็ไม่ใช่เรื่อง่ายอยู่ดี

Triton จึงเกิดขึ้นเพื่อทำกระบวนการ Optimize เหล่านี้ให้เกิดขึ้นได้อัตโนมัติ ให้ผู้เขียนโค้ดเอาเวลาไปทำงานด้านลอจิกมากขึ้น ทั้งนี้ Triton ถูกตีพิมพ์ในงานวิชาการปี 2019 ที่พูดถึงเรื่องการพัฒนา Kernel ที่เร็วกว่าการใช้ไลบรารีทั่วไป จนกระทั่งกำเนิดออกมาเป็นงานจริง โดยคอมไพเลอร์จะทำโค้ดให้ง่ายขึ้น ทำการ Optimize และ Parallelize แปลงโค้ดสำหรับการ Execute ด้วย NVidia GPU ผู้สนใจศึกษาเพิ่มเติมได้ที่ https://github.com/openai/triton

ที่มา : https://venturebeat.com/2021/07/28/openai-releases-triton-a-programming-language-for-ai-workload-optimization/


About nattakon

จบการศึกษา ปริญญาตรีและโท สาขาวิศวกรรมคอมพิวเตอร์ KMITL เคยทำงานด้าน Engineer/Presale ดูแลผลิตภัณฑ์ด้าน Network Security และ Public Cloud ในประเทศ ปัจจุบันเป็นนักเขียน Full-time ที่ TechTalkThai

Check Also

IEEEXtreme 15.0 เปิดรับสมัครผู้แข่งขัน ชิงเงินรางวัลรวมกว่า 60,000 บาทและสิทธิ์เข้าร่วม IEEE Conference ฟรีทั่วโลก พร้อมที่พัก 3 คืน

IEEE เปิดรับสมัครนิสิตและนักศึกษาเข้าร่วมการแข่งขัน IEEEXtreme 15.0 ซึ่งเป็นการแข่งเขียนโปรแกรมต่อเนื่อง 24 ชั่วโมง ชิงเงินรางวัลรวมกว่า $2,100 (ประมาณ 67,000 บาท) และสิทธิ์เข้าร่วม IEEE Conference …

AIS Webinar : Hybrid Work Challenges Require Intelligent Communications [29 Sep 2564]

AIS Business ขอเรียนเชิญทีม IT, IT Admin ผู้ดูแลระบบ Phone System เข้าร่วมฟัง Mobility Jump Webinar ในหัวข้อ “Hybrid Work Challenges Require Intelligent Communications” ที่จะแนะนำการใช้ระบบ Microsoft Teams Phone ด้วยเทคโนโลยีการจัดการระบบโทรศัพท์รูปแบบใหม่ …