TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
AWS ประกาศเพิ่มเครื่องมือ Advanced Prompt Optimization ลงใน Amazon Bedrock อย่างเป็นทางการ เพื่อตอบโจทย์องค์กรธุรกิจในการลดต้นทุน และเพิ่มประสิทธิภาพการบริหารจัดการ Generative AI ผ่านการปรับปรุง Prompt อัตโนมัติ ช่วยเพิ่มความแม่นยำ, ความสม่ำเสมอ และประสิทธิภาพการทำงานข้ามโมเดลภาษาต่าง ๆ ได้ดีขึ้น
กระบวนการปรับแต่งของเครื่องมือนี้เริ่มต้นจากการประเมิน Prompt ต้นฉบับเทียบกับชุดข้อมูลและตัวชี้วัดที่ผู้ใช้กำหนด จากนั้นระบบจะเขียน Prompt ใหม่เพื่อรีดประสิทธิภาพสำหรับโมเดลภาษาต่าง ๆ สูงสุดถึง 5 โมเดล พร้อมทำการเปรียบเทียบระหว่างเวอร์ชันที่ผ่านการปรับแต่งกับเวอร์ชันต้นฉบับ เพื่อให้นักพัฒนาสามารถระบุการปรับแต่งที่ดีที่สุดสำหรับแต่ละการทำงานได้อย่างแม่นยำ
เครื่องมือนี้เปิดให้ใช้งานแล้วในหลาย AWS Region สำหรับค่าใช้จ่าย องค์กรจะถูกคิดค่าบริการตามจำนวน Token ที่ถูกใช้ระหว่างกระบวนการ Optimization ซึ่งอิงตามเรตราคาต่อ Token มาตรฐานของเวิร์กโหลด Bedrock Inference และค่าใช้จ่ายด้าน Inference กำลังเป็นที่จับตา เพราะหากปรับปรุงประสิทธิภาพ Prompt เพียงเล็กน้อยสามารถลดต้นทุนการดำเนินงานได้อย่างมีนัยสำคัญ
นอกจากนี้ความหน่วงในการประมวลผลเป็นตัวชี้วัดวิกฤตสำหรับบริการ AI ที่โต้ตอบกับลูกค้า การใช้เครื่องมือปรับแต่งอย่างเป็นระบบจะช่วยคุมทั้งคุณภาพ ความเร็ว และต้นทุนได้แม่นยำกว่ากระบวนการสุ่มทดลอง ส่วนเรื่อง Multi-model นั้นจะช่วยเพิ่มความยืดหยุ่น และประสิทธิภาพ แต่ AWS ไม่ใ่ช่ Hyperscalers รายเดียวที่เดินหน้าเรื่องนี้ เพราะมีทั้ง Google Cloud และ Microsoft Azure AI Foundry ที่กำลังเดินหน้าเช่นกัน
ที่มา: https://www.infoworld.com/article/4171870/aws-adds-advanced-prompt-optimization-tool-to-bedrock.html
