TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Grafana ได้ก้าวเข้าสู่ยุคของการติดตามการทำงานของระบบ AI อย่างเต็มตัว ด้วยการเปิดตัวความสามารถใหม่ AI Observability บน Grafana Cloud แล้ว
ความสามารถนี้เปิดตัวให้ใช้งานได้ในระดับ Public Preview โดยจุดเริ่มต้นนั้นเกิดขึ้นมาจากโครงการ Hackathon ภายใน Grafana เองที่ต้องการแก้ไขปัญหาในการใช้งาน Agentic AI ภายในบริษัท
Grafana ระบุว่าความสามารถด้าน Observability แบบดั้งเดิมที่ตรวจสอบในส่วนของ CPU Usage, Request Latency และ Error Rate นั้นไม่เพียงพอต่อการติดตามการทำงานของ AI เนื่องจากไม่สามารถตรวจสอบได้ว่า AI Agent ตอบสนองอย่างมีประโยชน์และถูกต้องหรือไม่, เกิด Hallucination หรือไม่ และเกิดปัญหาเรื่อง Degrading เมื่อใช้ไปนานๆ หรือไม่
AI Observability ของ Grafana Cloud จึงถูกพัฒนาขึ้นมาโดยมีความสามารถดังนี้
- ตรวจสอบพฤติกรรมของ AI Agent ในแบบ Real-Time ทั้ง Input, Output และ Execution Flow
- ประเมิน Output อยางต่อเนื่อง พร้อมแจ้งเตือนเมื่อเกิดการตอบสนองที่คุณภาพต่ำ, ผิดนโยบายที่กำหนด หรือทำงานผิดปกติ
- ตรวจพบปัญหาต่างๆ ได้เร็วขึ้น เช่น กรณีรั่วไหลผ่าน AI หรือการใช้งาน AI ในทางที่ผิด
- เปลี่ยนการทำงานของ Agent และบทสนทนาระหว่าง AI ให้กลายเป็น Telemetry Signal พร้อมทำการ Correlation เข้ากับการทำงานของ Application ที่เชื่อมต่ออยู่ได้
- ตรวจสอบ Trace, Tool Call, Token Usage และ Cost เพื่อทำการประเมินการทำงานของ AI ได้
- ทำงานร่วมกับมาตรฐานของ OpenTelemetry ได้
ผู้ที่สนใจสามารถศึกษาข้อมูลเพิ่มเติมเกี่ยวกับ Grafana Cloud ได้ที่ https://grafana.com/products/cloud/
ที่มา: https://grafana.com/blog/ai-observability-for-agents-in-grafana-cloud/
