AI 用量方也需要自查
企业花力气让 AI 搜索看见自己,也常在官网和内部系统里自建 AI 问答与 Agent。作为用量方,这些系统的账算得清吗?Cloudflare 在 2026 年 9 月 30 日发文介绍 AI Gateway User Insights 的更新:上月上线的 User Insights 用来回答「人们到底在用 AI 做什么」,展示是哪些用户、应用、任务和模型在驱动流量,并标记用户与 Agent 的异常用量;这次更新补上了任务语境。官方举例:同样的 token 数可能对应完全不同的工作,不弄清任务,就没法评估模型选得对不对。
三个检查点
- 模型超配视图:找出模型能力明显高于任务需要的对话,例如把简单的格式整理或摘要请求发给高能力推理模型。
- 任务分析:按工作类型把对话归入编码、研究、写作、摘要、数据分析五类初始类别,补上模型名清单给不了的语境。
- 回合分析:统计任务需要几轮追问与修正。首个请求只是成本的一部分,做完一件事花掉的时间、token 和钱要一起算。
配套的 Potential Savings 视图用来找「可以交给更快或更便宜模型、输出质量不受影响」的请求;Auto Router 则把对话轨迹、任务类别、任务复杂度与模型匹配信号用于自动选型,同时兼顾成本,并不是简单地把所有请求丢给最便宜的模型。这些能力对 AI Gateway 用户免费开放。
它不替你下结论
官方明确说,超配视图不是排行榜,也不会自动推荐换哪个模型,而是帮你把问题问准:模型配不配这个任务?多出来的能力有没有改善结果?更快或更便宜的模型能否给出等效输出?问题是否只出在某个工作流、用户或 Agent 上?分类由一个专用 Cloudflare Worker 在请求处理完成后异步分析 AI Gateway 日志生成,不占用用户等待时间;底层日志的保留仍跟随已配置的 AI Gateway 日志行为。
星岸视角:可见度之外,企业还有一张「用量自查」清单——先核对模型配不配任务,再谈要不要换。
来源与适用范围
适用:已在或拟在 Cloudflare AI Gateway 上治理自建 AI 应用(官网问答、内部 Agent)用量与成本的企业,作为「用量方自查」参考;与可见度监测(企业内容被 AI 引用)是两个视角。不适用:非 AI Gateway 环境的通用成本结论;不构成对节省幅度或选型结果的承诺。事实来源为 Cloudflare 官方博客单页,发布日期取页面元数据 datePublished 2026-09-30;「上月上线」为原文相对表述,按发文日期推算为 2026 年 8 月,原文未给具体日期。Auto Router 的 Beta 阶段原文前后措辞不一(前文 public beta、后文 closed beta),本稿只表述为处于 Beta 并可申请,不推断开放范围。与已发布《Cloudflare 把网页搜索装进 AI Gateway:Agent 不再靠猜 URL》(Gateway 内搜索能力)、《官网向 AI 智能体收钱的两条路:Cloudflare 官方 402 网关能承载什么、不能承载什么》(智能体计费)主题不重叠:本篇讲用量自查与模型匹配。
- Identify AI model overuse with User InsightsCloudflare Blog · 原始日期 2026.09.30 · 读取核对 2026.11.13
不知道先看哪一步?
和真人顾问聊清楚。
告诉我们你的品牌和客户问题,一起确认采样范围与下一步。