TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
NVIDIA ประกาศเข้าซื้อกิจการ SchedMD ผู้พัฒนาและดูแล Slurm ซึ่งเป็น open-source software สำหรับบริหารจัดการ cluster ที่สำคัญที่สุดตัวหนึ่งในระบบนิเวศ machine learning
SchedMD ก่อตั้งขึ้นในปี 2010 โดยทีมพัฒนา Slurm ซึ่งเป็น open-source platform สำหรับบริหารจัดการ server cluster บริษัทให้บริการ professional services ช่วยองค์กรนำซอฟต์แวร์ไปใช้งานจริงในระบบ production โดย NVIDIA เปิดเผยว่า SchedMD มีลูกค้าหลายร้อยราย รวมถึงหน่วยงานรัฐบาล ธนาคาร และองค์กรด้านสาธารณสุข ทั้งนี้ไม่มีการเปิดเผยมูลค่าของดีลนี้
Slurm มีความสำคัญอย่างมากสำหรับการ train AI model เนื่องจากการ train large language model บน GPU เพียงตัวเดียวต้องใช้เวลานานมาก องค์กรจึงต้องกระจาย workload ไปยัง GPU จำนวนมากเพื่อประมวลผลแบบ parallel โดย Slurm จะจัดการว่า GPU ตัวไหนควรทำงานอะไรและเมื่อไหร่ ป้องกันไม่ให้ chip บางตัวทำงานหนักเกินไปหรือถูกใช้งานต่ำกว่าที่ควร จุดเด่นของ Slurm คือสามารถบริหารจัดการ cluster ที่มี GPU มากกว่า 100,000 ตัวได้ และยังมีตัวเลือกการปรับแต่งที่ละเอียด เช่น การจัด workload ที่ต้องแลกเปลี่ยนข้อมูลกันบ่อยให้อยู่บน server ที่อยู่ใกล้กันเพื่อลด latency
นอกจาก Slurm แล้ว SchedMD ยังดูแลอีกโปรเจกต์หนึ่งชื่อ Slinky ที่ช่วยให้รัน Slurm บน Kubernetes ได้ ทำให้ไม่ต้องแยก cluster ออกเป็นสองระบบ ช่วยลดความซับซ้อนในการบริหารจัดการและเพิ่มประสิทธิภาพการใช้งานฮาร์ดแวร์ NVIDIA ระบุว่า Slurm จะยังคงเป็น open-source project ต่อไป และบริษัทจะพัฒนาโปรเจกต์นี้ต่อพร้อมให้บริการ professional services แก่ลูกค้าของ SchedMD ปัจจุบัน Slurm ขับเคลื่อน supercomputer มากกว่าครึ่งหนึ่งของ 100 เครื่องที่เร็วที่สุดในโลก ซึ่งหลายเครื่องก็ใช้ชิปของ NVIDIA อยู่แล้ว
