TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Google Cloud จับมือ Hugging Face ร่วมพัฒนาบริการสำหรับ Generative AI และ ML
Google Cloud และ Hugging Face ได้ออกมาประกาศร่วมมือเป็นพันธมิตรทางธุรกิจ โดยเป็นความร่วมมือในการพัฒนาบริการสำหรับ Generative AI และ Machine Learning เพื่อให้นักพัฒนาสามารถใช้งานได้ง่ายขึ้น รองรับการใช้งาน Google Cloud Infrastucture กับบริการต่างๆของ Hugging Face โดยนักพัฒนาจะสามารถใช้ความสามารถต่างๆที่เพิ่มเข้ามาจากความร่วมมือครั้งนี้ได้ภายในช่วงครึ่งแรกของปีนี้
ความร่วมมือในครั้งนี้ประกอบด้วยส่วนสำคัญดังต่อไปนี้
- นักพัฒนาสามารถเทรนและใช้งานโมเดลจาก Hugging Face บน Google Vertex AI ได้โดยตรง
- รองรับการติดตั้ง Deep Learning Container บน Google Kubernetes Engine (GKE) เพื่อให้ขยายระบบได้อย่างรวดเร็ว
- นักพัฒนาสามารถเข้าถึง Cloud TPU v5e ได้ ช่วยเพิ่มประสิทธิภาพต่อราคา 2.5 เท่า และลด Latency ได้ 1.7 เท่าในขั้นตอนการทำ Inference
- เพิ่ม A3 VM ที่ติดตั้ง NVIDIA H100 Tensor Core GPU ช่วยเพิ่มความเร็วในการเทรนได้ 3 เท่า และเพิ่ม Networking Bandwidth อีก 10 เท่า เมื่อเทียบกับรุ่นก่อน
- สามารถใช้งาน Google Cloud Marketplace ได้ โดยมีระบบบริหารจัดการและคิดค่าใช้จ่ายสำหรับ Hugging Face managed platform ซึ่งรองรับ Inference, Endpoints, Spaces, AutoTrain และอื่นๆ
