成本感知的 LLM 流水线

描述

LLM API 使用的成本优化模式——按任务复杂度进行模型路由、预算跟踪、重试逻辑和提示词缓存。