IBM Flashsystem

VMware จับมือ NVIDIA พัฒนาโซลูชัน Generative AI สำหรับองค์กร

VMware ได้ออกมาประกาศจับมือกับ NVIDIA เป็นพันธมิตรร่วมพัฒนาโซลูชัน Generative AI สำหรับองค์กร

Credit: VMware

VMware Private AI Foundation with NVIDIA เป็นโซลูชันที่ช่วยให้องค์กรสามารถเริ่มพัฒนาแอพพลิเคชันที่ใช้งาน Generative AI ได้อย่างรวดเร็ว เช่น ระบบ Chatbot, ระบบ Assistant, ระบบค้นหา และระบบวิเคราะห์ข้อมูล โดยเป็นแพลตฟอร์มที่ใช้งานฮาร์ดแวร์จาก NVIDIA และซอฟต์แวร์จาก VMware นอกจากนี้ตัวระบบยังมีการผสานความสามารถของ VMware Cloud Foundation และ NVIDIA AI Enterprise เข้ามาร่วมกันอีกด้วย สำหรับจุดเด่นของโซลูชันมีดังนี้

  • มีการควบคุมด้าน Privacy ของข้อมูลเมื่อนำมาใช้งานในระบบ AI เพื่อให้มั่นใจได้ว่าข้อมูลขององค์กรจะถูกนำมาใช้งานอย่างปลอดภัย
  • สามารถเลือกใช้งานโมเดลได้หลากหลาย เช่น NVIDIA NeMo และ Llama 2 รองรับการใช้งานทั้งบน Public Cloud และ Private Cloud
  • ใช้ฮาร์ดแวร์จาก NVIDIA ช่วยในการประมวลผลช่วยเร่งประสิทธิภาพสูงที่สุด
  • รองรับการ Scale ระดับ Datacenter ด้วยการใช้งาน Virtualization เพื่อแบ่ง GPU ออกเป็น vGPU พร้อมทั้งรองรับการปรับแต่งเพื่อใช้งาน Generative AI
  • ช่วยประหยัดค่าใช้จ่ายสำหรับองค์กรด้วยการรีดประสิทธิภาพของ GPU, GPU และ CPU ออกมาและสร้างเป็น Pool Resource
  • ใช้งาน VMware vSAN Express Storage Architecture รองรับการนำ NVMe storage และ GPUDirect storage over RDMA มาใช้งาน เพื่อให้ GPU สามารถเข้าถึงข้อมูลบน Storage ได้อย่างรวดเร็วโดยที่ไม่ต้องผ่าน CPU
  • ทำให้ VMware vSphere และ NVIDIA NVSwitch สามารถทำงานร่วมกันได้ เพื่อช่วยลดคอขวดระหว่าง GPU ลง
  • มี vSphere Deep Learning VM image และระบบ Image repository ช่วยเพิ่มความรวดเร็วในการเริ่มต้นใช้งานระบบ

ในช่วงเริ่มต้นนั้น VMware Private AI Foundation with NVIDIA จะได้รับการสนับสนุนจาก Dell Technologies, HPE และ Lenovo ในการพัฒนาฮาร์ดแวร์ที่ใช้งาน NVIDIA L40S GPU, NVIDIA BlueField-3 DPU และ NVIDIA ConnectX-7 SmartNIC ออกมาเพื่อใช้งานร่วมกับโซลูชันนี้ คาดว่าจะเปิดให้องค์กรได้ใช้งานในช่วงต้นปี 2024

ที่มา: https://news.vmware.com/releases/nvidia-vmware-generative-ai

About เด็กฝึกงาน TechTalkThai หมายเลข 1

นักเขียนผู้มีความสนใจใน Enterprise IT ด้วยประสบการณ์กว่า 10 ปีในไทย ปัจจุบันใช้ชีวิตอยู่ที่ Cupertino, CA แต่ยังคงมุ่งมั่นในการแบ่งปันความรู้และประสบการณ์ด้านเทคโนโลยีให้กับทุกคน

Check Also

DevSecOps Workshop Series คอร์สจับมือทำ DevSecOps นำไปปรับใช้กับองค์กรได้จริง

ในยุคที่องค์กรต้องพัฒนาซอฟต์แวร์ให้รวดเร็วและปลอดภัยไปพร้อมกัน หลายครั้งที่การผสานระบบความปลอดภัยเข้ากับกระบวนการ DevOps หรือการเร่งพัฒนาให้มีประสิทธิภาพ มักเป็นเรื่องท้าทายที่ต้องใช้เวลาและทรัพยากรไปกับการ “งมเอง” ลองผิดลองถูก เพื่อให้สอดคล้องกับมาตรฐานความปลอดภัยที่เข้มงวดและลดความเสี่ยงจากการโจมตีไซเบอร์  DevSecOps Workshop นี้ถูกออกแบบมาเพื่อแก้ไขปัญหาเหล่านั้นโดยเฉพาะ ด้วยการนำทีมของคุณ ลงมือทำจริงทุกกระบวนการ พร้อมรับประสบการณ์และแนวทางปฏิบัติที่ดีที่สุด (Best …

ไทยประกาศแลนด์มาร์คด้าน AI ด้วย “Bangkok AI Week 2025”23-27 มิ.ย. นี้ ทั่วกรุงเทพฯ เต็มอิ่มกับกิจกรรมจุดประกายอนาคต AI อย่างมีจริยธรรม

กระทรวงดิจิทัลเพื่อเศรษฐกิจและสังคม โดยสำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ หรือ ETDA (เอ็ตด้า) เตรียมจัดงาน Bangkok AI Week 2025 มหกรรมระดับชาติด้านปัญญาประดิษฐ์ (AI) ครั้งยิ่งใหญ่ของไทย ระหว่างวันที่ 23 – 27 มิถุนายน 2568 …