TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
บริษัท IBM ลุยตลาด AI สำหรับองค์กรอย่างต่อเนื่องด้วยโมเดลภาษาใหม่ Granite 3.0 8B และ 2B พร้อมชุดเครื่องมือที่ช่วยให้มั่นใจได้ว่า AI จะถูกใช้งานอย่างมีความรับผิดชอบและปลอดภัย
โมเดลใหม่นี้มีอยู่สองรุ่น ได้แก่ “Instruct” และ “Guardian” ซึ่งใช้สำหรับการเทรนและการตรวจจับความเสี่ยงอันตรายตามลำดับ โดยจะอยู่ภายใต้ไลเซนส์ Apache 2.0 ซึ่ง Rob Thomas รองประธานอาวุโสฝ่ายซอฟต์แวร์ของ IBM กล่าวว่า “ยืดหยุ่นที่สุดสำหรับองค์กรและพันธมิตรในการสร้างมูลค่าเพิ่มเติม” ไลเซนส์แบบโอเพ่นซอร์สนั้นช่วยให้สามารถใช้งานโมเดลนี้ได้ในราคาเริ่มต้นเพียง 100 ดอลลาร์ต่อเซิร์ฟเวอร์เท่านั้น ทั้งยังมีการรับประกันทรัพย์สินทางปัญญาเพื่อให้ลูกค้าองค์กรมีความมั่นใจในการนำข้อมูลของตนมาใช้กับโมเดลของ IBM นอกจากนี้ บริษัทยังได้เปิดตัว watsonx Code Assistant รุ่นใหม่สำหรับการพัฒนาและปรับปรุงแอปพลิเคชันซึ่งรองรับภาษา C, C++, Go, Java และ Python โดยความสามารถใหม่ทั้งหมดนี้จะถูกรวมไว้ในแพลตฟอร์มที่มีหลายโมเดล เพื่อให้พนักงานที่ปรึกษาของบริษัทจำนวน 160,000 คนได้ใช้งาน
รุ่น Instruct ของ Granite ซึ่งใช้สำหรับการฝึกอบรม มีขนาด 8 พันล้านและ 2 พันล้านพารามิเตอร์ ได้รับการเทรนด้วยข้อมูลกว่า 12 ล้านล้านโทเค็นใน 12 ภาษาและ 116 ภาษาโปรแกรม ทำให้มีความสามารถในการเขียนโค้ด การจัดทำเอกสาร และการแปล โดย IBM ยังมีแผนที่จะขยายความยาวบริบทของโมเดลพื้นฐานเป็น 128,000 โทเค็นพร้อมรองรับรูปแบบข้อมูลที่หลากหลายภายในสิ้นปีอีกด้วย
IBM กล่าวว่า Granite รุ่นใหม่นี้ถูกออกแบบมาสำหรับองค์กร โดยเหมาะกับงานต่าง ๆ เช่น การสร้างเนื้อหาแบบ RAG (Retrieval-Augmented Generation) การจัดประเภท การสรุปข้อมูล การฝึกอบรมเอเจนต์ การดึงข้อมูลเชิงลึก และการใช้งานเครื่องมือ โดยสามารถเทรนด้วยข้อมูลขององค์กรเพื่อให้ได้ประสิทธิภาพในระดับโมเดลขนาดใหญ่ด้วยค่าใช้จ่ายที่ถูกกว่าถึง 60 เท่า ทั้งนี้ จากการทดสอบภายในพบว่าโมเดล Granite 8B มีประสิทธิภาพเทียบเท่ากับโมเดลรุ่นใกล้เคียงกันของ Meta และดีกว่าโมเดลจาก Google และ Mistral AI
สำหรับ Granite Guardian 3.0 นั้นถูกออกแบบมาเพื่อรักษาความปลอดภัยโดยการตรวจสอบคำสั่งและผลลัพธ์ที่เกิดจากโมเดล เพื่อป้องกันความเสี่ยงในรูปแบบต่าง ๆ เช่น การฝ่าฝืนข้อกำหนดของระบบ หรือการใช้ความรุนแรงและภาษาที่ไม่เหมาะสม รวมทั้งยังตรวจสอบความเกี่ยวข้องของเนื้อหาและการเชื่อมโยงกับข้อมูลในโลกจริง ข้อเท็จจริง และบริบทอีกด้วย
โมเดล Granite 8B และ 2B ทั้งรุ่น Instruct และ Guardian พร้อมให้ใช้งานเชิงพาณิชย์แล้วบนแพลตฟอร์ม watsonx ของ IBM และจะมีโมเดลบางส่วนให้เลือกใช้บนแพลตฟอร์มของพันธมิตรอย่าง Nvidia NIM stack และ Google Vertex ทั้งยังสามารถดาวน์โหลดได้ผ่าน HuggingFace และ Red Hat Enterprise Linux
ที่มา: https://siliconangle.com/2024/10/21/ibm-releases-new-granite-foundation-models-permissive-apache-license/
