TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Nvidia ประกาศเปิดตัวโมเดลภาษาขนาดใหญ่ Nemotron 3.5 Super VL ที่สามารถปรับแต่งได้ สำหรับเอเจนต์ AI ที่ทำงานตลอดเวลา และรุ่น 3.5 Bolt ที่เน้นการประมวลผลบนอุปกรณ์ปลายทางสำหรับระบบโลคัล
บริษัทระบุว่าโมเดลใหม่ทั้ง 3 รุ่นนี้จะครอบคลุมการใช้งานของเอเจนต์ในทุกรูปแบบ ตั้งแต่เซิร์ฟเวอร์ขนาดใหญ่ในองค์กรไปจนถึงอุปกรณ์ปลายทางและฮาร์ดแวร์โลคัล
Nemotron 3.5 Super VL เป็นโมเดลแบบเปิดที่มีพารามิเตอร์ 120 พันล้านตัว ซึ่งสร้างขึ้นโดยความร่วมมือกับ Nemotron Coalition กลุ่มผู้พัฒนาโมเดลและห้องปฏิบัติการ AI ที่กำลังยกระดับโมเดลแบบเปิดระดับแนวหน้า โดยออกแบบมาสำหรับงานเอเจนต์แบบมัลติโมดัลที่ต้องการความแม่นยำสูง โมเดลนี้มีความสามารถในการปฏิบัติตามคำสั่ง การใช้เครื่องมือ เวิร์กโฟลว์ทางธุรกิจที่ซับซ้อนหลายขั้นตอน และความเข้าใจด้านภาพ Nvidia ระบุว่าโมเดลนี้มีพลังเทียบเท่ากับโมเดลการใช้เหตุผลที่ใหญ่ที่สุดของบริษัทแต่มีขนาดเพียง 1 ใน 5 เท่านั้น
ด้วยขนาดดังกล่าวและสถาปัตยกรรมใหม่ ทำให้ Super VL สามารถสร้างผลลัพธ์ได้เร็วขึ้นเกือบ 5 เท่าเมื่อเทียบกับโมเดลอื่น ๆ ในระดับเดียวกัน
Nvidia ได้เปิดเผยน้ำหนักของ Super VL เพื่อให้องค์กรต่าง ๆ สามารถนำไปฝึกฝนเพิ่มเติมด้วยข้อมูลของตนเองและดีพลอยบนโครงสร้างพื้นฐานขององค์กรได้ สิ่งนี้ช่วยให้องค์กรสามารถนำโมเดลไปใช้งานหลังไฟร์วอลล์และเก็บข้อมูลไว้ภายในโดเมนของตนเอง เพื่อรักษาอธิปไตย ความเป็นส่วนตัว และความมั่นคงปลอดภัย
ในการสร้าง Super VL นั้น Nvidia ได้ฝึกโมเดลด้วยข้อมูลแบบเปิดและวิธีการแบบเปิดโดยใช้โทเคนประมาณ 26 ล้านล้านโทเคนในการฝึกเบื้องต้นและการฝึกต่อเนื่อง ซึ่งรวมถึงตัวอย่างหลังการฝึกฝน 3.8 ล้านตัวอย่างและการเรียนรู้แบบเสริมกำลังผ่านสภาพแวดล้อมแบบเปิด 100 แห่งเพื่อปรับจูนโมเดลให้มีความแม่นยำ
นอกจากนี้ Nvidia ยังระบุว่าจะปล่อยชุดข้อมูลแบบเปิดบน Hugging Face ซึ่งครอบคลุมถึงการใช้เครื่องมือของเอเจนต์ การเงิน การปฏิบัติตามคำสั่ง บริบทที่ยาว ความปลอดภัย ความเป็นธรรม และความเข้าใจภาพและภาษา
Bolt 74B-A9B 24GB เป็นโมเดลขนาดเล็กกว่าที่ออกแบบมาเพื่อเรียกใช้งานงานเอเจนต์ในเครื่องโดยมีพื้นฐานมาจาก Super VL โดยใช้โมเดลแบบผสมผสานผู้เชี่ยวชาญ ซึ่งจะเปิดใช้งานพารามิเตอร์ 9 พันล้านตัวจากทั้งหมด 74 พันล้านตัวในแต่ละครั้ง และใช้การลดขนาดแบบ 2 บิตเพื่อให้พอดีกับหน่วยความจำขนาด 24 กิกะไบต์ ทำให้สามารถรันบนเวิร์กสเตชันขององค์กรหรือหน่วยประมวลผลกราฟิกบน PC ได้อย่างราบรื่น ช่วยให้ผู้ใช้สามารถมอบหมายโครงการต่าง ๆ ในชีวิตประจำวัน รวมถึงการเขียนและแก้ไขโค้ดโดยไม่ต้องส่งเวิร์กโหลดไปยังระบบคลาวด์
ในช่วงปลายเดือนนี้ Nvidia จะเปิดตัวโมเดลที่เล็กยิ่งกว่าคือ Bolt E4B 4GB ซึ่งเป็นโมเดลขนาดเล็กที่สร้างขึ้นสำหรับการปรับใช้บนอุปกรณ์ปลายทางอย่าง GeForce RTX, Jetson และ RTX/GTX Spark สิ่งนี้จะช่วยให้ AI เชิงกายภาพและเอเจนต์เชิงสนทนาสามารถทำงานภายในอุปกรณ์ต่าง ๆ เช่น อุปกรณ์สวมใส่ เครื่องใช้ในครัวเรือน จุดให้บริการ แผงหน้าปัดรถยนต์ ผู้ช่วยในอุปกรณ์ และอินเทอร์เฟซแบบฝังตัวอื่น ๆ
Nvidia ยังระบุว่าโมเดลนี้สามารถนำไปใช้ขับเคลื่อนตัวละครโต้ตอบ อินเทอร์เฟซการสนทนา และอินเทอร์เฟซผู้ใช้อัจฉริยะที่สามารถปรับเปลี่ยนให้เหมาะสมกับบริบทหรือความต้องการเฉพาะบุคคลได้
