Hugging Face เปิดตัว SmolLM2 หนุนรัน AI บนสมาร์ตโฟน

ปลายสัปดาห์ที่ผ่านมา Hugging Face ได้ปล่อยโมเดลภาษาตัวใหม่ขนาดกะทัดรัดในตระกูล SmolLM2 ที่มีประสิทธิภาพอันน่าทึ่งในระดับที่สามารถรันบนทรัพยากรที่น้อยมาก ๆ จนอาจจะทำให้การรันโมเดลบนสมาร์ตโฟนอาจเกิดขึ้นได้ในวงกว้าง

Hugging Face ล่าสุดได้ปล่อยโมเดล SmolLM2 ที่เรียกว่าเป็นโมเดลขนาดเล็กแต่ก็ยังคงทรงพลัง ซึ่งสามารถรันบนโทรศัพท์มือถือหรือแท็ปเล็ตได้ ในขณะที่ยังได้ประสิทธิภาพที่เหนือกว่าโมเดลคู่แข่งอย่างเช่น Llama 1B ของ Meta ในหลากหลาย Benchmark

โดยโมเดลใหม่ภายใต้ Apache 2.0 license ทาง Hugging Face ได้ปล่อยโมเดล SmolLM2 ออกมา 3 ขนาดด้วยกัน ได้แก่ 135M, 360M และ 1.7B ที่สามารถนำไปใช้ Deploy บนสมาร์ตโฟนหรืออุปกรณ์ Edge ที่อาจจะไม่จำเป็นต้องมีหน่วยประมวลผลและหน่วยความจำที่ต้องทรงพลังมาก ๆ แล้วก็ได้

เรียกว่า Generative AI ไม่ได้แข่งขันกันเฉพาะโมเดลขนาดใหญ่เท่านั้น หากแต่ในโมเดลขนาดเล็กก็มีความสำคัญ เพราะอาจเป็นอีกตัวที่จะทำให้เกิดการใช้งานในวงกว้างและทุกหนทุกแห่ง ซึ่งสิ่งนี้อาจจะยิ่งทำให้ Generative AI สามารถเข้าไปสนับสนุนการใช้งานบน Edge Computing ที่อาจจะทำให้เห็น Use Case ใหม่ ๆ เกิดขึ้นได้ในอนาคตอันใกล้นี้

ที่มา: https://venturebeat.com/ai/ai-on-your-smartphone-hugging-faces-smollm2-brings-powerful-models-to-the-palm-of-your-hand/