TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
ปลายสัปดาห์ที่ผ่านมา Hugging Face ได้ปล่อยโมเดลภาษาตัวใหม่ขนาดกะทัดรัดในตระกูล SmolLM2 ที่มีประสิทธิภาพอันน่าทึ่งในระดับที่สามารถรันบนทรัพยากรที่น้อยมาก ๆ จนอาจจะทำให้การรันโมเดลบนสมาร์ตโฟนอาจเกิดขึ้นได้ในวงกว้าง
Hugging Face ล่าสุดได้ปล่อยโมเดล SmolLM2 ที่เรียกว่าเป็นโมเดลขนาดเล็กแต่ก็ยังคงทรงพลัง ซึ่งสามารถรันบนโทรศัพท์มือถือหรือแท็ปเล็ตได้ ในขณะที่ยังได้ประสิทธิภาพที่เหนือกว่าโมเดลคู่แข่งอย่างเช่น Llama 1B ของ Meta ในหลากหลาย Benchmark
โดยโมเดลใหม่ภายใต้ Apache 2.0 license ทาง Hugging Face ได้ปล่อยโมเดล SmolLM2 ออกมา 3 ขนาดด้วยกัน ได้แก่ 135M, 360M และ 1.7B ที่สามารถนำไปใช้ Deploy บนสมาร์ตโฟนหรืออุปกรณ์ Edge ที่อาจจะไม่จำเป็นต้องมีหน่วยประมวลผลและหน่วยความจำที่ต้องทรงพลังมาก ๆ แล้วก็ได้
เรียกว่า Generative AI ไม่ได้แข่งขันกันเฉพาะโมเดลขนาดใหญ่เท่านั้น หากแต่ในโมเดลขนาดเล็กก็มีความสำคัญ เพราะอาจเป็นอีกตัวที่จะทำให้เกิดการใช้งานในวงกว้างและทุกหนทุกแห่ง ซึ่งสิ่งนี้อาจจะยิ่งทำให้ Generative AI สามารถเข้าไปสนับสนุนการใช้งานบน Edge Computing ที่อาจจะทำให้เห็น Use Case ใหม่ ๆ เกิดขึ้นได้ในอนาคตอันใกล้นี้
