TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Goodfire AI ซึ่งเป็นสตาร์ทอัพที่ช่วยให้นักพัฒนาสามารถเข้าใจวิธีการทำงานของโมเดลภาษาขนาดใหญ่ (LLM) ระดมทุนได้จำนวน 50 ล้านดอลลาร์ในรอบ Series A ที่นำโดย Menlo Ventures เพื่อสนับสนุนโครงการวิจัยต่าง ๆ
โมเดล LLM ประกอบด้วยโค้ดจำนวนมากที่เรียกว่านิวรอนเทียม โดยแต่ละนิวรอนจะทำการคำนวณเพียงเล็กน้อยเพื่อช่วยประมวลผลคำสั่งต่าง ๆ ซึ่งในอดีต นักพัฒนามักประสบปัญหาในการระบุว่านิวรอนใดเกี่ยวข้องกับการตอบคำถามหนึ่ง ๆ และนิวรอนเหล่านั้นมีปฏิสัมพันธ์กันอย่างไร
Goodfire ซึ่งตั้งอยู่ที่ซานฟรานซิสโกมีแพลตฟอร์มชื่อ Ember ที่ช่วยให้งานเหล่านี้ง่ายขึ้น โดยนักพัฒนาสามารถป้อนคำสั่งเข้าไปใน LLM และใช้ Ember เพื่อดูว่าองค์ประกอบใดของโมเดลที่มีส่วนในการประมวลผลคำสั่งนั้น การมองเห็นภายในโมเดลแบบนี้สามารถนำไปใช้กับงานได้หลากหลาย
หาก LLM สร้างคำตอบที่ไม่ถูกต้อง Ember ช่วยให้นักพัฒนาระบุว่าองค์ประกอบใดของโมเดลที่สร้างคำตอบนั้น และสามารถปิดการทำงานของส่วนที่เกี่ยวข้องได้ หากไม่มีความสามารถในการมองเห็นภายในโมเดล การแก้ไขข้อผิดพลาดเช่นนี้จะเป็นเรื่องยากมาก นอกจากนี้ Ember ยังสามารถใช้ปิดส่วนของ LLM ที่มีความเสี่ยงต่อการถูกโจมตีแบบ prompt injection ซึ่งเป็นคำสั่งที่ออกแบบมาเพื่อให้โมเดลสร้างผลลัพธ์ที่เป็นอันตรายได้อีกด้วย
“ไม่มีใครเข้าใจกลไกที่ทำให้โมเดล AI ล้มเหลว ดังนั้นก็ไม่มีใครรู้ว่าจะซ่อมแซมมันอย่างไร” Eric Ho ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่บริหารของ Goodfire กล่าว “วิสัยทัศน์ของเราคือการสร้างเครื่องมือที่ทำให้เครือข่ายประสาทเทียมสามารถเข้าใจ ออกแบบ และแก้ไขได้จากภายในอย่างง่ายดาย”
การปรับแต่งโมเดลให้เหมาะกับงานเฉพาะก็เป็นอีกภารกิจหนึ่งที่ Goodfire ช่วยให้ทำได้ง่ายขึ้น ตัวอย่างเช่น บริษัทที่กำลังพัฒนาแชทบอทสำหรับบริการลูกค้าอาจใช้ Ember เพื่อระบุว่าองค์ประกอบใดของ LLM ที่ไม่จำเป็นสำหรับโปรเจกต์นั้น แล้วลบองค์ประกอบเหล่านั้นออกเพื่อสร้างโมเดลใหม่ที่มีประสิทธิภาพมากขึ้น
วิธีใช้ Ember คือป้อนคำสั่งที่อธิบายถึงความต้องการในการปรับแต่ง LLM เช่น วิศวกรอาจขอให้โมเดลแทรกการเล่นคำ (pun) ในทุกคำตอบ จากนั้น Ember จะค้นหาและปรับแต่งองค์ประกอบของโมเดลที่เกี่ยวข้องโดยอัตโนมัติ
แพลตฟอร์มนี้ยังมีฟีเจอร์อื่น ๆ เช่น “conditionals” ที่ช่วยให้นำเทคนิค RAG (retrieval-augmented generation) มาใช้งานได้ง่ายขึ้น RAG เป็นวิธีใน machine learning ที่ช่วยให้ LLM สามารถดึงข้อมูลจากระบบภายนอกมาใช้ในการตอบคำสั่งได้ อีกฟีเจอร์หนึ่งของ Ember ช่วยให้นักพัฒนาสามารถวางแผนและเข้าใจขีดความสามารถของ LLM ได้ดีขึ้น
นอกจาก Ember แล้ว Goodfire ยังได้เผยแพร่ sparse autoencoder (SAE) แบบโอเพนซอร์สอีกหลายตัว โดย SAE เป็นโมเดล AI เฉพาะทางที่ใช้เพื่อทำความเข้าใจการทำงานของโมเดล AI อื่น ๆ เทคโนโลยีดังกล่าวช่วยลดงานที่มนุษย์ต้องทำเองในการวิเคราะห์องค์ประกอบภายในของเครือข่ายประสาทเทียม
เมื่อปีที่แล้ว Goodfire ได้พัฒนา SAE สำหรับ Llama 3.3 70B ของ Meta Platforms และเมื่อต้นเดือนนี้ก็ได้เปิดซอร์ส SAE สองตัวสำหรับโมเดลการใช้เหตุผล R1 ของ DeepSeek ซึ่งช่วยให้เห็นถึงขั้นตอนที่ R1 ใช้ในการลดข้อผิดพลาดของผลลัพธ์
บริษัทวางแผนที่จะใช้เงินทุนที่ได้รับในรอบล่าสุดนี้เพื่อยกระดับแพลตฟอร์ม Ember และพัฒนาวิธีใหม่ในการเข้าใจการทำงานของโมเดลด้านการใช้เหตุผลและการประมวลผลภาพ โดยจะร่วมมือกับผู้ให้บริการโมเดล AI เพื่อทำการวิจัยต่อไป
ที่มา: https://siliconangle.com/2025/04/18/ai-interpretability-startup-goodfire-raises-50m-funding/
