Alibaba เผยวิธี ZeroSearch ให้ AI เรียนรู้การสืบค้นเอง ลดค่า Train โมเดลได้มหาศาล

นักวิจัยจาก Alibaba Group ได้พัฒนาแนวทางใหม่ “ZeroSearch” ที่จะช่วยค่าใช้จ่ายและความซับซ้อนในการเทรนโมเดล AI เพื่อสืบค้นข้อมูลต่าง ๆ ได้อย่างมีนัยสำคัญ โดยเฉพาะค่าใช้จ่ายที่ต้องใช้ Search Engine APIs เชิงพาณิชย์ต่าง ๆ ได้ราว 88% 

โดยแนวทางใหม่ที่นักวิจัย Alibaba นำเสนอเรียกว่าเทคนิค ZeroSearch ที่ให้โมเดล LLM สามารถพัฒนาขีดความสามารถในการสืบค้นข้อมูลผ่านการจำลอง (Simulation) แทนที่จะไปปฏิสัมพันธ์กับ Search Engine จริง ๆ ในระหว่างกระบวนการ Train โมเดล 

และผลลัพธ์ที่ได้นั้นชี้ให้เห็นว่าโมเดล LLM ยังคงสามารถทำงานได้ดี ควบคุมได้ดีขึ้นในการเรียนรู้การ Retrieve ข้อมูล แต่จุดที่สำคัญมากคือแนวทางนี้ได้ช่วยประหยัดค่าใช้จ่ายในการใช้งาน API สำหรับสืบค้นลงไปอย่างมีนัยสำคัญ

จากข้อมูลที่นักวิจัยเปิดเผยออกมา การเทรนการสืบค้น 64,000 Search Queries ด้วยการใช้ Google Search via SerpAPI นั้นจะมีค่าใช้จ่ายราว 586.70 ดอลลาร์สหรัฐ แต่ถ้าใช้ LLM จำลองขนาด 14B บน GPU A100 จำนวน 4 การ์ดจะมีค่าใช้จ่ายราว 70.80 ดอลลาร์หสหรัฐ แสดงให้เห็นว่ามีโอกาสที่ค่าใช้จ่ายนั้นจะลดลงไปถึง 88% ได้เลย

รายละเอียดเพิ่มเติมเกี่ยวกับ ZeroSearch ของ Alibaba สามารถอ่านได้ที่ GitHub ของ Tongyi Lab หรือที่ arXiv

ที่มา: https://venturebeat.com/ai/alibabas-zerosearch-lets-ai-learn-to-google-itself-slashing-training-costs-by-88-percent/