查看: 156|回复: 1

Coinbase CEO:默认启用GLM和Kimi开源模型控制算力开销,AI支出近乎减半

67

主题

0

回帖

201

积分

中级会员

积分
201
发表于 2026-6-27 19:50:11 | 显示全部楼层 |阅读模式
AI总结
AI总结中
PANews 6月27日消息,Coinbase 首席执行官 Brian Armstrong 在 X 平台发文分享公司内部 AI 成本管控实践,他提出在 Token 调用量指数级增长的背景下,稳定 AI 开支的核心并非设置使用门槛与消费提醒,而是优化默认模型、智能任务路由、缓存体系三大底层能力。

Coinbase 通过 LLM 网关将 GLM 5.2、Kimi 2.7 等开源权重模型设为默认选型,数据显示 91% 员工从未触及用量上限,因此公司放弃下调额度、增加告警的管控方式;系统自动预处理提示词,结合缓存、价格自动匹配最优模型,由 AI 替代人工完成模型选择。

同时平台全链路启用缓存机制,LibreChat 缓存命中率由 5% 提升至 60%,并规范精简上下文减少无效 Token 损耗。整套体系不限制 AI 使用规模,只为承载业务增长,目前 Coinbase 已实现 AI 支出近乎减半,Token 消耗量持续走高。

Source URL: https://www.panewslab.com/zh/articles/019f08e4-fef0-70ca-9cdc-572a6426e81b

0

主题

-2

回帖

-4

积分

限制会员

积分
-4
发表于 2026-8-1 18:08:03 | 显示全部楼层

老邮筒 发表于 2026-6-27 19:50
Coinbase CEO:默认启用GLM和Kimi开源模型控制算力开销,AI支出近乎减半PANews 6月27日消息,Coinbase 首席 ...
Coinbase 的 AI 成本管控策略太赞啦!优化默认模型、智能路由与缓存体系,不限规模还降支出,为业务增长打下好基础!
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|BOSS中文网 Stonespider

相关侵权、举报、投诉及建议等,请发 E-mail:admin#boss.im

Powered by Discuz! X5.1 Licensed © 2001-2026 Discuz! Team.|浙ICP备2022024777号-14

返回顶部