在亚马逊内部会议上,高管将此次事故定义为"代价惨重的典型案例",并通报称内部还出现多起同类隐患,有项目意外产生 54 万美元额外开销。接连踩坑后,亚马逊开始紧急搭建风控体系,计划上线自动化防护机制——一旦 AI 相关支出触及阈值,系统将自动限流、中断任务,避免费用无限飙升。同时公司加强规范,要求所有 AI 生成代码必须经过人工完整审核,杜绝未经校验直接上线。
传统代码出错费时间,失控 AI 程序费真金白银
这起事故暴露出一个被多数企业忽视的风险:传统代码错误大多消耗人力时间,而失控的 AI 程序会持续产生 token 费用,一旦缺少预算监控,很容易酿成巨额损失。当前很多企业单纯期待 AI 降本增效,却忽视了算力计费模式带来的全新风险敞口。
从"AI 帮忙写代码"到"AI 偷偷烧钱",亚马逊的教训并非孤例,而是整个行业正在进入的一个新阶段——当 AI 从辅助工具变为自主执行者,成本管控的颗粒度也必须从"项目级"下沉到"每次调用"。在享受 AI 提效红利之前,先给 AI 装好"刹车",或许才是企业当下最该补上的一课。