Microsoft Azure บล็อกเปิดเผยกลยุทธ์การบริหารจัดการต้นทุนของ AI Agents ซึ่งมีความซับซ้อนกว่าการเรียกใช้งานโมเดลทั่วไป เนื่องจาก Agents มักมีการทำงานแบบ Loop ที่ต้องเรียกใช้โมเดลหลายครั้งเพื่อทำงานหนึ่งอย่างให้สำเร็จ ความท้าทายจึงไม่ได้อยู่ที่ราคาต่อ Token เพียงอย่างเดียว แต่อยู่ที่ต้นทุนต่อผลลัพธ์ (Cost per outcome)
Microsoft Foundry นำเสนอ 4 กลไกสำคัญเพื่อควบคุมต้นทุน: 1) Model Router ที่ช่วยคัดกรองงานและส่งไปยังโมเดลที่เหมาะสมที่สุดโดยอัตโนมัติ 2) การทำ Caching ทั้งในส่วนของ Prompt และ Semantic Caching 3) การปรับแต่ง Prompt และ Agent ให้ทำงานได้ตรงเป้าหมายไม่วนลูปเกินจำเป็น และ 4) ระบบ Observability ที่ช่วยให้มองเห็นและตรวจสอบค่าใช้จ่ายได้อย่างแม่นยำ แนวทางเหล่านี้ช่วยเปลี่ยนการใช้ AI จากการทดลองไปสู่ระบบการลงทุนที่บริหารจัดการได้จริง
