API 消耗与成本看板

数据源:生产 API Gateway · 周期:近 24 小时 · 模型:OpenAI / Claude / DeepSeek
Token 消耗总量 (24h)
4.2M
↑ +14.2% 较昨日同期
API 费用消耗
$128.80
↓ -12.4% Prompt 缓存优化生效
活跃告警 / 待处理
3 个
2 个待确认,1 个自动恢复中
平均响应延迟 (P95)
42ms
↓ -8ms 优化后持续平稳
24小时集群吞吐量趋势 (TPS)
平均负载:1,420 TPS · 峰值:2,890 TPS
+14.8% 环比
3k 2k 1k 0 2,890 00:00 04:00 08:00 12:00 16:00 20:00
各模型调用延迟对比 (ms)
P95 阶段基准 · 深度推理模型耗时较长
6 个服务节点
120 80 40 0 24 DeepSeek 48 Claude 92 GPT-4o 35 Embed 18 Rerank 64 TTS
请求路由 / 端点 目标模型 消耗 Tokens 平均延迟 调用次数 当前状态 操作
ITEM-2026-001 Core Engine API Cluster (生产主节点) 架构核心层 1.28M req/s 刚刚 正常运行
ITEM-2026-002 Async Queue Worker Group (延迟抖动) 消息队列 45.2K msg/s 3 分钟前 预警注意
ITEM-2026-003 Vector DB Cache Partition (内存命中率98%) 缓存Rerank 12.8 GB 12 分钟前 正常运行
ITEM-2026-004 Batch Data Ingestion Pipeline (日常离线同步) 数据同步 850 GB total 2 小时前 已完结
新增业务条目