AI落地遭遇账单焦虑,大厂开始对Token成本“下手”

图片来源:unsplash
随着AI落地进程加快,如何不在AI上“花冤枉钱”,成了企业普遍关心的问题。
10月初,美国两大科技巨头“坎AI预算”的消息引发了广泛关注。根据The Information的报道,微软此前曾计划将超过10亿美元的年度预算用于内部员工使用Anthropic的Claude模型,但目前已被削减三分之一以上,云与AI部门超过6万名员工的人均配额更是从每月10万美元被压缩到了约1万美元。另一家巨头Meta也被爆出将内部Claude Code的使用者从约6万人直接腰斩至3万人。
但对于已习惯使用AI的员工来说,公司的预算管理却可能导致工作上的麻烦。10月4日凌晨,一则“吐槽”公司“坎Token”的贴文引发讨论。相关贴文称,博主所在公司曾大力推动AI数月,承诺并批准Token后,却在缺少沟通情况下紧急刹车,大举撤回Token额度,导致工作无法进行。不少媒体称发帖博主所在公司为芯片龙头联发科,该公司则在10月6日回应称“鼓励员工广泛应用AI工具”,但同时强调公司在探索以更具效益的方式支持AI需求。
实际上,今年下半年以来,国内许多互联网大厂也曾因Token政策调整引发关注。
管控成本似乎成了企业AI部署的新趋势。毕马威在近期发布的《2026年Q3全球AI脉搏报告》中指出,相对于今年年初,更多企业建立了成本监控、管理机制,调研中61%的企业会在审批时审查AI成本,59%的企业在运营中监控AI成本。
但另一方面,“节流”却未必能带来更高的收益。报告称,企业对AI形成的价值的评估与成本管控存在脱节,调研中只有12%的企业持续把AI创造的价值与成本对照评估,即使在已经获得稳定回报的企业中,这一比例也只有48%。这意味着,大多数企业能看到AI花了多少钱,但很少能说清这些钱买到了什么。报告也称,企业AI部署更加成熟,成本可见性在提升,但价值评估体系仍明显滞后。
德勤中国今年9月发布的《决策者视角下的企业AI应用》调研报告也显示,企业AI进入生产部署阶段的比例已从去年的56.0%提升至64.4%。但AI投入与业务价值兑现之间,却始终缺乏有效的衡量机制,相关情况甚至继续恶化,调研结果显示,60.4%的企业尚未建立起体系化的价值衡量框架,而无法明确核算AI项目ROI(投资回报率)的企业比例,也从2025年的35.8%升至44.4%。
值得注意的是,企业AI的部署方式也在发生变化,自主性更强的Agent愈发成为了AI落地的载体。与此同时,越来越多企业不再满足于让员工用AI写邮件、做PPT,而是开始将Agent嵌入真实业务流程,不少企业也在尝试让其独立完成跨系统任务。
而这也带来了新的挑战。一位制造业IT部门高管此前透露,企业Agent的接入,放大了AI的工作能力,但也放大了Token成本,相关开销不再由人工交互频次决定,而是随着业务流量线性增长。这种模式让成本控制难度增加,一定程度上也让团队开始探索更合适的成本管理方案,主要还是以“单次任务成功交付成本”为核心指标做实时监控与预算熔断。但另一方面,部署Agent还面临更大的难题,一是Agent的不可控性对AI管理成本和风险评估带来挑战,二是很多时候不知道该把多大权限、什么任务交给Agent,目前相关评估体系仍处于探索阶段。
近期,不少关于企业AI落地的行业讨论也都提及了权限开放和价值评估问题,有声音称,对于Agent,“权限给少了,怕它像个傻子;权限给大了,又怕它像个疯子”。
德勤上述报告指出,调研企业在评估AI成效时,87.3%聚焦处理速度与工时节约,70.7%关注成本节约,而涉及收入与客户层面的仅占21.5%。报告分析称,工时缩短并不自动等同于经营价值提升,只有将节省下来的时间重新配置到高价值环节,生产效率才能真正转化为可量化的经营成果。
也有一些团队探索分层式的价值评估体系,比如按照效率型、经营型、战略型的分类设定不同的AI回报比率和周期的指标。
越来越多的调研、案例也显示,企业AI价值的兑现,已不再只取决于模型本身的先进程度,更在于企业是否有意愿且有能力为AI找到新的价值评估体系,重构自身流程、组织协同方式。
毕马威上述报告也指出,大部分企业部署AI仍停留在简单的控制成本层面,而领先企业则更多考虑把成本连接到成果,再根据不断释放价值的成果决定AI规模化的进度和方向。报告也由此建议,企业在部署AI时,要事先建立好驾驭层(AI harness layer),将控制、编排、问责和经济性等指标从一开始就设计进去,围绕端到端价值流重新设计运营模式,闭合成本与价值的回路,让AI价值可衡量,继而超越可衡量,兑现可规模化复现、经得起检验的价值。(本文首发于钛媒体APP,文|飞向Tai空,作者|胡珈萌,编辑|杨林)
加载中,请稍侯......