รู้จัก IBM POWER8 Minsky: Server รุ่นพิเศษที่ออกแบบมาสำหรับงาน AI และ HPC โดยเฉพาะ

Artificial Intelligence หรือ AI นั้นได้กลายเป็นเทคโนโลยีหลักที่ทุกๆ ธุรกิจต้องนำไปใช้งานในอนาคตอย่างแน่นอนไปแล้ว ซึ่ง IBM ที่เป็นผู้นำทางด้าน AI และ Cognitive มาโดยตลอด จึงได้ทำการพัฒนา Server รุ่นพิเศษโดยเฉพาะที่ Optimized สำหรับงานทางด้าน AI และ HPC อย่าง IBM POWER8 Minsky มาให้เหล่าองค์กรได้นำไปใช้งานกัน ในบทความนี้จึงจะเป็นการแนะนำพื้นฐานการออกแบบของ IBM POWER8 Minsky ให้ผู้อ่านทุกท่านเข้าใจว่าแตกต่างจาก Server ทั่วๆ ไปอย่างไร และทำไมถึงเหมาะสมกับงาน AI เป็นหลัก ดังนี้ครับ

 

IBM Minsky Platform: สถาปัตยกรรมสำหรับ AI และ HPC ที่เกิดจากความร่วมมือของ IBM และ NVIDIA

Credit: IBM

 

หลังจากที่ IBM ได้ออกมาประกาศถึงทิศทางใหม่ๆ เกี่ยวกับ IBM POWER Technology ซึ่งเป็นสถาปัตยกรรมหน่วยประมวลผลประสิทธิภาพสูงจาก IBM ว่าจะมีความเป็นเทคโนโลยีเปิดมากขึ้น พร้อมกับประกาศเปิดตัว OpenPower Foundation ที่เปิดให้เหล่าผู้ผลิตเทคโนโลยีรายต่างๆ ได้เข้ามามีส่วนร่วมในการพัฒนา IBM POWER และเทคโนโลยีเสริมอื่นๆ ได้อย่างกว้างขวางยิ่งขึ้นแล้ว IBM POWER ก็เริ่มถูกนำไปใช้กันอย่างแพร่หลายมากยิ่งขึ้น

Credit: IBM

 

ทางด้าน NVIDIA เองก็ได้ร่วมมือกับ IBM เพื่อพัฒนา Server สำหรับงานประมวลผลประสิทธิภาพสูงหรือ High Performance Computing (HPC) และ Artificial Intelligence (AI) ขึ้นมาภายใต้ชื่อ IBM Cognitive Systems S822LC for High Performance Computing ซึ่งมีโค้ดเนมว่า IBM Minsky Server ขึ้นมา โดยมุ่งเน้นไปที่การออกแบบ Server รุ่นนี้สำหรับงานทางด้าน Enterprise AI ให้ทำงานร่วมกับหน่วยประมวลผลประสิทธิภาพสูงของ NVIDIA อย่าง NVIDIA Tesla P100 ให้ได้ดีที่สุดเป็นหลัก

 

 

IBM Minksy นี้รองรับหน่วยประมวลผลสถาปัตยกรรม IBM POWER8 สูงสุดจำนวน 2 Processor แต่ละชุดมี 8-10 Core, รองรับ NVIDIA Tesla P100 SXM2 สูงสุดจำนวน 4 Processor, รองรับหน่วยความจำสูงสุด 1 TB พร้อมมี L4 Cache ช่วยเพิ่มความเร็วในการเข้าถึงข้อมูล, สามารถติดตั้ง 2.5″ SATA SSD/HDD ได้ 2 ชุดสำหรับติดตั้งระบบปฏิบัติการ และยังเหลือ PCIe 3.0 อีก 3 ช่องสำหรับติดตั้ง 100Gb/s EDR Infiniband, 1.6/3.2TB NVMe Storage และ 1Gbps Ethernet ได้อีกด้วย

 

นอกจากหน่วยประมวลผลแล้ว การใช้การ์ดประมวลผลเฉพาะทางก็เป็นสิ่งที่จำเป็นสำหรับการประมวลผลประสิทธิภาพสูง ซึ่งเป็นจุดเด่นเฉพาะสำหรับสถาปัตยกรรมของ IBM

แน่นอนว่างานประมวลผลประสิทธิภาพสูงและการทำ AI ในปัจจุบันนั้นเริ่มนิยมใช้หน่วยประมวลผลเฉพาะทางกันมากขึ้นเรื่อยๆ ไม่ว่าจะเป็น GPU, TPU, FPGA หรือเทคโนโลยีอื่นๆ ก็ตามแต่ ซึ่งใน IBM Minsky ที่เกิดขึ้นจากความร่วมมือของ IBM และ NVIDIA นี้ก็เลือกที่จะใช้ NVIDIA Tesla P100 SXM2 ที่มาพร้อมกับ NVIDIA NVLink สูงสุดถึง 4 ชุดเพื่อทำการประมวลผลร่วมกับ IBM POWER8 สูงสุดจำนวน 2 ชุดนั่นเอง

Credit: NVIDIA

 

ด้วยจำนวน NVIDIA CUDA Core ที่มากถึง 3,584 Core ต่อการ์ด ก็ทำให้ NVIDIA Tesla P100 for NVLink-Optimized Server แต่ละชุดนี้มีประสิทธิภาพการประมวลผลแบบ Double-Precision ที่สูงถึง 5.3 TFLOPS, มีประสิทธิภาพการประมวลผลแบบ Single-Precision สูงถึง 10.6 TFLOPS และมีประสิทธิภาพการประมวลผลแบบ Half-Precision ที่สูงถึง 21.2 TFLOPS ส่งผลให้เมื่อนำมาใช้ประมวลผลงานทางด้าน AI และ HPC แล้วก็มีประสิทธิภาพที่สูงกว่าการ์ดรุ่นก่อนๆ เป็นอย่างมาก

Credit: NVIDIA

 

High-speed NVLink: การรับส่งข้อมูลภายในได้อย่างรวดเร็ว คือหัวใจสำคัญของการวิเคราะห์ข้อมูลขนาดใหญ่

บางท่านอาจจะเข้าใจว่าในงานประมวลผลประสิทธิภาพสูงนั้น การมีหน่วยความจำขนาดใหญ่เพื่อให้การจัดเก็บข้อมูลในหน่วยความจำทั้งหมดให้ได้นั้นถือว่าเพียงพอแล้ว แต่ในความเป็นจริงนั้นแนวทางดังกล่าวก็ไม่ใช่คำตอบเพียงหนึ่งเดียวที่จำเป็นต่อการออกแบบระบบเพื่อประมวลผลประสิทธิภาพสูง

Credit: NVIDIA

 

อีกหนึ่งประเด็นที่สำคัญมากของการออกแบบระบบลักษณะนี้ก็คือการออกแบบให้การรับส่งข้อมูลนั้นเป็นไปได้ด้วยประสิทธิภาพสูงสุด เพื่อลดเวลาที่จะสูญเสียไปกับการรอที่เกิดขึ้นระหว่างการรับส่งข้อมูล ส่งผลให้ CPU และ GPU สามารถถูกนำไปใช้งานได้อย่างคุ้มค่าสูงสุดนั่นเอง ซึ่งทาง IBM และ NVIDIA ก็ได้ร่วมกันออกแบบ IBM Minsky นี้ให้สามารถรองรับเทคโนโลยี NVIDIA NVLink ซึ่งเป็นเทคโนโลยีสำหรับรับส่งข้อมูลด้วยประสิทธิภาพสูง โดยมี Bandwidth ที่มากถึง 160 GB/s สำหรับ NVLink 1.0 และ 300 GB/s สำหรับ NVLink 2.0 เลยทีเดียว

Credit: IBM

 

NVLink นี้ได้เข้ามามีบทบาทเป็นอย่างมากในการรับส่งข้อมูลระหว่าง GPU หนึ่งๆ ไปยัง GPU อีกชุดหนึ่ง รวมถึงยังมีบทบาทต่อการรับส่งข้อมูลระหว่าง IBM POWER8 ไปยัง GPU ด้วย ซึ่ง x86 CPU ที่ไม่ได้มีการรองรับ NVLink นี้ก็ยังคงต้องทำการรับส่งข้อมูลไปยัง GPU ผ่านทาง PCIe 3.0 ที่มีประสิทธิภาพต่ำกว่า NVLink ถึง 5 เท่า ทำให้ตัวเลขทางด้านประสิทธิภาพของ IBM Minsky นี้สูงกว่า x86 Server อย่างชัดเจน

Credit: Wikipedia

 

 

Open: รองรับนวัตกรรมใหม่ได้อย่างต่อเนื่อง ตอบรับตลาด AI ที่เทคโนโลยีถูกพัฒนาก้าวหน้าทุกวัน

ท่ามกลางการพัฒนาอย่างรวดเร็วของเทคโนโลยีทางด้าน AI ที่มีนวัตกรรมใหม่ๆ ทั้งในฝั่งของ Software และ Hardware ถูกสร้างสรรค์ขึ้นมาอย่างต่อเนื่อง ก็ทำให้แนวคิดของ IBM ที่จะเปิดเทคโนโลยีของตนให้ผู้พัฒนาเทคโนโลยีรายอื่นๆ เข้าถึงได้อย่างกว้างขวางนี้ส่งผลดีไม่น้อย

ในฝั่งของ Software นั้น ทาง IBM เองได้เปิดรับให้มีการนำโครงการ Open Source ชื่อดังต่างๆ ทางด้าน AI และ Machine Learning สามารถนำมาทำงานบน IBM Minsky ได้อย่างมีประสิทธิภาพ โดยทาง IBM ได้นำ Open Source Software และ Framework ที่ลูกค้าทั่วโลกนิยมใช้งานมาทำการทดสอบและรวมเป็นระบบที่มีชื่อว่า IBM PowerAI สำหรับทำหน้าที่เป็นแพลตฟอร์มสำเร็จรูปให้องค์กรสร้าง Enterprise AI ของตนต่อยอดได้อย่างง่ายดาย โดยไม่ต้องกังวลเรื่องความเข้ากันได้ของระบบ และการดูแลรักษาอีกต่อไป

Credit: IBM

 

ในส่วนของ Hardware นั้น ล่าสุดทาง IBM ได้เริ่มประกาศ IBM POWER9 ที่รองรับมาตรฐานใหม่ๆ อย่าง NVIDIA NVLink 2.0 และ PCIe 4.0 ออกมาแล้วอย่างเป็นทางการ ทำให้ในอนาคตนั้นมั่นใจได้ว่าเทคโนโลยีใหม่ๆ ที่จะช่วยเพิ่มประสิทธิภาพให้กับการประมวลผลประสิทธิภาพสูงและงานทางด้าน AI นั้นจะถูกนำมาใช้อย่างต่อเนื่องแน่นอน

 

 

Tencent ใช้ IBM Minsky ประมวลผลได้เร็วกว่า x86 Server 3 เท่า แต่ใช้เครื่องจำนวนเพียง 1 ใน 3 เท่านั้น

Tencent ซึ่งเป็นบริษัทไอทียักษ์ใหญ่ของจีนเป็นหนึ่งในลูกค้าของ IBM ที่ใช้ IBM Minsky ในการประมวลผล โดยผลลัพธ์ที่ได้นั้นก็คือทาง Tencent สามารถใช้ IBM Minsky ที่มีจำนวนน้อยกว่า x86 Server ที่ใช้อยู่เดิมถึง 3 เท่า แต่ได้ผลลัพธ์ที่ดีกว่าเดิมถึง 3 เท่า เรียกได้ว่าหากเทียบประสิทธิภาพต่อเครื่องแล้ว IBM Minsky Server นี้ก็มีประสิทธิภาพในการประมวลผลที่สูงกว่า x86 Server ที่ใช้อยู่เดิมถึง 9 เท่าเลยทีเดียว

แน่นอนว่าการเพิ่มประสิทธิภาพในการประมวลผลสำหรับธุรกิจขนาดใหญ่อย่าง Tencent นี้ถือเป็นก้าวที่สำคัญไม่น้อย เพราะที่ผ่านมาประสิทธิภาพในการประมวลผลนั้นถือเป็นคอขวดของบรรดาเหล่าธุรกิจขนาดใหญ่ที่มีข้อมูลปริมาณมหาศาลสำหรับนำไปใช้ในงาน Big Data Analytics, Cognitive Computing, AI และ HPC อยู่แล้ว

 

ศึกษารายละเอียดเพิ่มเติมเกี่ยวกับ IBM Cognitive Systems

ผู้ที่สนใจในรายละเอียดของ IBM Power System สำหรับนำไปใช้งานในรูปแบบต่างๆ นั้นสามารถตรวจตสอบรายละเอียดทั้งหมดได้ที่ https://www.ibm.com/power โดยผู้ที่สนใจตรวจสอบการเลือก Hardware ต่างๆ มาใช้งานภายใน IBM Minsky สามารถทดลองประกอบเครื่องแบบจำลองด้วยตัวเองได้ทันทีที่ https://www-03.ibm.com/systems/power/hardware/linux/select-chassis.html?server=s822lchpc ครับ หรือติดต่อขอคำปรึกษาเบื้องต้นได้ที่บริษัท Metro Systems Corporation Plc., IBM Business Partner โทร 0-2089-4994 หรือ e-mail : esgmkt@metrosystems.co.th website: www.metrosystems.co.th ครับ


About techtalkthai

ทีมงาน TechTalkThai เป็นกลุ่มบุคคลที่ทำงานในสาย Enterprise IT ที่มีความเชี่ยวชาญทางด้าน Network, Security, Server, Storage, Operating System และ Virtualization มารวมตัวกันเพื่ออัพเดตข่าวสารทางด้าน Enterprise IT ให้แก่ชาว IT ในไทยโดยเฉพาะ

Check Also

ผู้เชี่ยวชาญเตือนมีเซิร์ฟเวอร์ Jenkins จำนวนมากยังไม่แพตช์ช่องโหว่ร้ายแรง

ผู้เชี่ยวชาญจาก CyberArk ที่ค้นพบช่องโหว่ 2 รายการบน Jenkins ได้เตือนว่ายังมีเซิร์ฟเวอร์อีกจำนวนมากที่ยังไม่ได้รับการแพทช์แก้ไขช่องโหว่ของเมื่อหลายเดือนก่อนที่ถูกจัดอยู่ในระดับร้ายแรงซึ่งทำให้แฮ็กเกอร์สามารถเข้าควบคุมเครื่องได้แบบเบ็ดเสร็จ

5 โปรเจ็คน่าสนใจด้าน Machine Learning บน GitHub เดือนพฤษจิกายน 2018

ทางด้าน Analyticsvidhya ได้นำเสนอถึง 5 โปรเจ็คด้าน Machine Learning ของเดือนพฤศจิกายนที่ผ่านมาซึ่งเราเห็นว่าน่าสนใจจึงขอสรุปมาให้อ่านกันสั้นๆ ครับ