TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
VMware ได้ออกมาประกาศจับมือกับ NVIDIA เป็นพันธมิตรร่วมพัฒนาโซลูชัน Generative AI สำหรับองค์กร
VMware Private AI Foundation with NVIDIA เป็นโซลูชันที่ช่วยให้องค์กรสามารถเริ่มพัฒนาแอพพลิเคชันที่ใช้งาน Generative AI ได้อย่างรวดเร็ว เช่น ระบบ Chatbot, ระบบ Assistant, ระบบค้นหา และระบบวิเคราะห์ข้อมูล โดยเป็นแพลตฟอร์มที่ใช้งานฮาร์ดแวร์จาก NVIDIA และซอฟต์แวร์จาก VMware นอกจากนี้ตัวระบบยังมีการผสานความสามารถของ VMware Cloud Foundation และ NVIDIA AI Enterprise เข้ามาร่วมกันอีกด้วย สำหรับจุดเด่นของโซลูชันมีดังนี้
- มีการควบคุมด้าน Privacy ของข้อมูลเมื่อนำมาใช้งานในระบบ AI เพื่อให้มั่นใจได้ว่าข้อมูลขององค์กรจะถูกนำมาใช้งานอย่างปลอดภัย
- สามารถเลือกใช้งานโมเดลได้หลากหลาย เช่น NVIDIA NeMo และ Llama 2 รองรับการใช้งานทั้งบน Public Cloud และ Private Cloud
- ใช้ฮาร์ดแวร์จาก NVIDIA ช่วยในการประมวลผลช่วยเร่งประสิทธิภาพสูงที่สุด
- รองรับการ Scale ระดับ Datacenter ด้วยการใช้งาน Virtualization เพื่อแบ่ง GPU ออกเป็น vGPU พร้อมทั้งรองรับการปรับแต่งเพื่อใช้งาน Generative AI
- ช่วยประหยัดค่าใช้จ่ายสำหรับองค์กรด้วยการรีดประสิทธิภาพของ GPU, GPU และ CPU ออกมาและสร้างเป็น Pool Resource
- ใช้งาน VMware vSAN Express Storage Architecture รองรับการนำ NVMe storage และ GPUDirect storage over RDMA มาใช้งาน เพื่อให้ GPU สามารถเข้าถึงข้อมูลบน Storage ได้อย่างรวดเร็วโดยที่ไม่ต้องผ่าน CPU
- ทำให้ VMware vSphere และ NVIDIA NVSwitch สามารถทำงานร่วมกันได้ เพื่อช่วยลดคอขวดระหว่าง GPU ลง
- มี vSphere Deep Learning VM image และระบบ Image repository ช่วยเพิ่มความรวดเร็วในการเริ่มต้นใช้งานระบบ
ในช่วงเริ่มต้นนั้น VMware Private AI Foundation with NVIDIA จะได้รับการสนับสนุนจาก Dell Technologies, HPE และ Lenovo ในการพัฒนาฮาร์ดแวร์ที่ใช้งาน NVIDIA L40S GPU, NVIDIA BlueField-3 DPU และ NVIDIA ConnectX-7 SmartNIC ออกมาเพื่อใช้งานร่วมกับโซลูชันนี้ คาดว่าจะเปิดให้องค์กรได้ใช้งานในช่วงต้นปี 2024
ที่มา: https://news.vmware.com/releases/nvidia-vmware-generative-ai
