TechTalkThai ศูนย์รวมข่าว Enterprise IT ออนไลน์แห่งแรกในประเทศไทย
Akamai เปิดตัว Akamai Inference บริการ managed model serving และ Akamai Agent Sandbox สภาพแวดล้อมแบบ isolated สำหรับรันโค้ดของ AI Agent บน Akamai Cloud พร้อมขยาย GPU fleet ด้วย NVIDIA Blackwell Ultra
บริการใหม่ทั้งสองตัวเป็นส่วนหนึ่งของกลยุทธ์ AI ของ Akamai ที่ต้องการให้องค์กรสร้าง ปรับแต่ง และรันโมเดล AI ทั้งแบบ open-weight และโมเดลของตัวเอง เชื่อมกับข้อมูลขององค์กร รัน AI Agent ภายในขอบเขตที่ควบคุมได้ และดูแลความปลอดภัยของทั้งระบบได้บนแพลตฟอร์มเดียว Akamai มองว่าองค์กรที่นำ AI ไปใช้งานจริงต้องการมากกว่าตัวโมเดล ทั้งโครงสร้างสำหรับ serving การเข้าถึงข้อมูล การ routing และ governance รวมถึงขอบเขตที่ชัดเจนเมื่อ AI Agent เริ่มเขียนและรันโค้ดเอง ซึ่งปัจจุบันหลายทีมต้องประกอบชิ้นส่วนเหล่านี้จากผู้ให้บริการหลายราย Akamai Cloud ให้บริการ compute ตั้งแต่ GPU และ CPU cluster ใน core region ไปจนถึง edge location กว่า 4,350 แห่ง โดยมีโซลูชันด้านความปลอดภัยของ Akamai ดูแลทั้งระบบ ปัจจุบัน Akamai ได้สัญญาหลายปีสำหรับ Akamai Cloud รวมมูลค่ากว่า 1.4 หมื่นล้านดอลลาร์แล้ว
Akamai Inference เปิดให้องค์กรเข้าถึงโมเดล open-weight และโมเดลที่ปรับแต่งเองผ่าน API ที่เข้ากันได้กับ OpenAI ทำให้นำแอปพลิเคชันเดิมมาใช้ได้โดยไม่ต้องเขียนใหม่ ลูกค้าเลือกได้ทั้งแบบ serverless คิดค่าบริการตามการใช้งาน หรือแบบ dedicated deployment ในช่วงเปิดตัวมีโมเดล open-weight ให้เลือก 12 รุ่น ขนาดตั้งแต่ 8 พันล้านไปจนถึง 2.8 ล้านล้าน parameters เช่น NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b และ Google Gemma 4 รวมถึง embedding model สำหรับงาน RAG (Retrieval-Augmented Generation) โมเดลสามารถดึงข้อมูลองค์กรจาก managed database และ object storage บน Akamai Cloud หรือจาก private และ public cloud ที่เชื่อมต่อไว้ โดย Akamai Inference จัดการ orchestration การรันโมเดล และ authentication ให้ ส่วน request จะประมวลผลบนเครือข่ายทั่วโลกของ Akamai เพื่อลด latency
Akamai Agent Sandbox เป็นพื้นที่สำหรับรันทั้งตัว AI Agent และโค้ดที่ Agent เขียนขึ้น โดยตัว Agent ทำงานบน Akamai Functions ส่วนโค้ดที่ Agent สร้างจะรันในสภาพแวดล้อมแยกต่างหากจาก runtime ของ Agent ตัว Agent Sandbox เป็น open source component ของ Spin framework และใช้ WebAssembly isolation กำหนดขอบเขตด้าน compute, memory, outbound connection และ system capability ได้อย่างชัดเจน Akamai ระบุว่าแนวทางการแยก AI Agent ในปัจจุบันมีหลายรูปแบบ ทั้ง microVM ที่รองรับ snapshot และ fork, container ที่บังคับใช้ policy และ function ที่แยกด้วย WebAssembly โดย Akamai เปิดให้นักพัฒนาเลือกสถาปัตยกรรมได้ตามงาน ทั้ง infrastructure ที่เร่งความเร็วด้วย NVIDIA และ dedicated CPU, managed Kubernetes หรือ Akamai Functions สำหรับรันแบบ serverless ทั้งที่ edge และ core นอกจากนี้ Akamai มีแผนเพิ่มความสามารถในการควบคุมว่า Agent เข้าถึงอะไรได้บ้าง และอะไรเข้าถึง Agent ได้บ้าง
ด้าน GPU นั้น Akamai ขยาย fleet ให้รองรับ NVIDIA Blackwell Ultra GPU cluster ทำให้ปัจจุบันมีทั้ง NVIDIA RTX PRO 6000 Blackwell Server Edition สำหรับงาน inference ที่ต้องการ latency ต่ำ และ Blackwell Ultra สำหรับองค์กรที่ต้องการสร้าง ปรับแต่ง และ self-host โมเดลบน infrastructure ที่ควบคุมเอง แต่ละ node ของ Blackwell Ultra มี 8 GPU พร้อมหน่วยความจำ HBM3e 288 GB ต่อ GPU รวม 2.3 TB เพียงพอสำหรับโมเดลระดับ frontier และรองรับงานอย่าง test-time scaling, chain-of-thought reasoning และ agentic workload ที่ใช้ context ยาว GPU cluster เหล่านี้ให้องค์กรควบคุมเวอร์ชันโมเดลและกำหนดการ deprecation ได้เอง ไม่มี rate limit หรือการรอคิวแบบ shared tenancy ขณะที่ Akamai กำลังเตรียม data center ให้รองรับแพลตฟอร์ม NVIDIA Vera Rubin ในปี 2027
ปัจจุบัน Akamai Agent Sandbox (ผ่าน Spin SDK) และ Akamai Inference เปิดให้ใช้งานในรูปแบบ beta แล้ว โดย Akamai Inference beta มีตัวเลือก serverless deployment ส่วนผู้ที่สนใจ NVIDIA B300 GPU cluster สามารถติดต่อฝ่ายขายของ Akamai เพื่อสอบถามการให้บริการ
