TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
AWS เปิดตัว Strands Decider 2B โมเดลขนาดเล็กประเภท decision model ที่ทำงานในเครื่องผู้ใช้งานได้
Decision model คือโมเดลที่ยอมแลกความสามารถในการสร้างข้อความแบบอิสระ เพื่อให้เหลือเพียงการเลือกคำตอบจากตัวเลือกที่นักพัฒนาป้อนเข้าไป หรือคืนค่าเป็นคะแนนตัวเลข ทำให้เหมาะกับงานอย่างการ routing คำสั่งภาษาธรรมชาติ การเลือก tool การประเมินผลลัพธ์ และการตรวจสอบการกระทำที่ AI Agent เสนอมา ขณะที่งานสนทนาและงานที่ซับซ้อนกว่ายังเป็นหน้าที่ของ generative model ตามเดิม กระแส decision model เริ่มจาก Jev ของ TypeSafe โดยมีโมเดลอื่นตามมาอย่าง Kev, imajev และ Laya ขณะที่ผู้ให้บริการ AI รายใหญ่เริ่มทยอยส่งเวอร์ชันของตัวเองออกมา เช่น OpenAI ที่เปิด Decisions API แบบ limited preview ซึ่งเน้นใช้โมเดล Luna ตอบคำถามที่มีคำตอบกำหนดไว้ล่วงหน้า แต่ยังเป็น hosted API ต่างจาก AWS ที่ปล่อยออกมาเป็นโมเดลให้ดาวน์โหลดไปใช้ พร้อมชุดข้อมูลและสคริปต์ที่ใช้เทรน
ในทางสถาปัตยกรรม Strands Decider ใช้ Qwen3.5-2B เป็นโมเดลพื้นฐานด้านความเข้าใจภาษา ซึ่ง AWS เรียกส่วนนี้ว่า torso จากนั้นถอด language-model head ที่ทำหน้าที่สร้างข้อความออก แล้วแทนที่ด้วย pointer head ที่ให้คะแนนตัวเลือกคำตอบที่ส่งเข้ามา โดย head ส่วนนี้มีขนาดเพียง 1 ล้าน parameter กว่าเล็กน้อย ส่วน backbone ใช้ LoRA (low-rank adaptation) adapter แบบ rank-16 การจำกัดขอบเขตคำตอบช่วยปิดโอกาสที่โมเดลจะคิดตัวเลือกขึ้นมาเองโดยไม่มีใครป้อนให้ แต่ก็ไม่ได้หมายความว่าคำตอบจะถูกต้องทุกครั้ง ซึ่งถือเป็น trade-off ที่ยอมรับได้เมื่อเทียบกับ LLM ทั่วไปที่ก็ตอบผิดได้เช่นกัน และสิ่งที่นักพัฒนาได้กลับมาคือความเร็วในการตัดสินใจ พร้อม confidence score ที่นำไปใช้ต่อได้
ตัวอย่างการใช้งานที่ AWS สาธิตสร้างขึ้นบน Strands agent framework ซึ่งเป็น open source โดยจำลองสถานการณ์ที่ผู้ใช้งานถามเรื่องสภาพอากาศแต่ไม่ได้ระบุเมือง ทำให้ AI Agent เดาชื่อเมืองขึ้นมาเองและเสนอเรียกใช้ weather tool ก่อนที่ tool นั้นจะทำงาน Decider จะเข้ามาตรวจว่าค่า argument มีที่มาจากบทสนทนาจริงหรือไม่ และ Agent มีข้อมูลเพียงพอที่จะไปต่อแล้วหรือยัง จากนั้นแอปพลิเคชันจึงส่ง Agent กลับไปถามผู้ใช้งานว่าหมายถึงเมืองใด การตรวจสอบนี้ทำงานผ่าน intervention system ของ Strands ที่ให้นักพัฒนาเลือกได้ว่าจะอนุญาตให้เรียก tool ต่อ, ปฏิเสธ, ขอให้มนุษย์ยืนยัน หรือส่ง feedback กลับไปให้ Agent ในการสาธิตนี้ Decider ทำงานอยู่ในเครื่อง ขณะที่ Agent เรียก generative model ผ่าน Amazon Bedrock และ AWS ระบุว่ากำลังพัฒนา integration library สำหรับ decision model เพิ่มเติม
AWS ระบุว่าการพัฒนาโมเดลนี้เน้นหาจุดสมดุลระหว่างความแม่นยำ calibration และ latency โดย calibration หมายถึงความสอดคล้องระหว่างคะแนนความมั่นใจของโมเดลกับอัตราการตอบถูกจริง AWS ระบุว่าผลทดสอบบนชุดข้อมูลสาธารณะของ JevBench นั้น Strands Decider ทำอันดับ 2 ในกลุ่มโมเดลสาธารณะขนาดประมาณ 2B parameter และเป็นอันดับ 1 ในกลุ่มโมเดลสาธารณะที่เปิดเผยสูตรการเทรนทั้งหมด พร้อมตอบคำถามในระดับ easy tier ของ JevBench ได้ถูกต้องทั้งหมด ด้านประสิทธิภาพ AWS รายงานว่าตัดสินใจได้ในเวลาไม่ถึง 100 มิลลิวินาทีบน Nvidia RTX 3090 และมี median ราว 150 มิลลิวินาทีสำหรับงานขนาดเล็กบน MacBook ชิป M3 โดยเวลาตอบสนองจะเพิ่มขึ้นตามขนาดงาน ทั้งนี้เวอร์ชันที่ปล่อยออกมาเป็นสถาปัตยกรรมรุ่นที่ 2 หลังจาก head แบบแรกให้ผลที่แย่กว่าอย่างชัดเจน และ AWS เก็บทุก iteration ก่อนหน้าไว้ใน repository เพื่อให้นักพัฒนาย้อนดูพัฒนาการของโมเดลได้
Strands Decider เกิดขึ้นจาก Strands Labs ซึ่งเป็นหน่วยงานทดลองแนวทางด้าน agentic AI ของ AWS ที่เปิดตัวในปีนี้ โดยโมเดลนี้ตามมาหลังการปล่อย Strands Harness ที่รวมเครื่องมือและกลไกสนับสนุนสำหรับรัน AI Agent ที่ทำงานยาวนานขึ้น จุดที่ยังต้องรอดูคือ AWS จะมีเวอร์ชัน hosted บน Cloud ของตัวเองหรือไม่ เพราะการรันแบบ hybrid หรือบน localhost เหมาะกับการทดลอง แต่หากจะนำแอปพลิเคชันที่สร้างบนโมเดลนี้ขึ้น production นักพัฒนาย่อมต้องการตัวเลือกแบบ hosted ด้วย ผู้ที่สนใจสามารถดูชุดข้อมูลและสคริปต์สำหรับเทรนโมเดลได้ที่ huggingface.co/StrandsAgents
