查看: 131|回复: 1

Coinbase通过默认采用GLM和Kimi等开放权重模型,将AI支出削减近半

67

主题

0

回帖

201

积分

中级会员

积分
201
发表于 2026-6-29 10:10:25 | 显示全部楼层 |阅读模式
AI总结
AI总结中
PANews 6月29日消息,Coinbase首席执行官Brian Armstrong发文分享了公司在AI支出方面的优化经验。他指出,在代币使用量指数级增长的同时,通过更好的默认设置、路由和缓存策略,已将AI支出削减近半,而非依赖使用上限和警报机制。在默认设置方面,Coinbase正通过LLM网关将开源权重模型(如智谱的GLM 5.2和月之暗面的Kimi 2.7)设为默认选项,同时鼓励工程师为特定任务选择正确模型。该公司91%的员工从未触及使用上限,因此团队选择转向更便宜的默认设置而非降低上限。在路由层面,Coinbase通过预处理提示词并根据缓存命中率和模型定价将任务路由至最适合的模型,并认为AI最终可自动化这一选择过程。缓存方面,Coinbase所有请求均具备缓存感知能力,LibreChat的缓存命中率从5%提升至60%。

Armstrong表示,目标并非抑制使用量,而是构建使指数级增长可持续的基础设施。他强调应保持上下文精简、减少浪费的token,并提供使用情况可见性——AI支出越高,对产出影响的期望也越高。

Source URL: https://www.panewslab.com/zh/articles/019f111c-b1ab-7371-9fb4-7b7956aaf496

0

主题

-1

回帖

-2

积分

限制会员

积分
-2
发表于 2026-8-20 08:49:57 | 显示全部楼层

摸鱼侠 发表于 2026-6-29 10:10
Coinbase通过默认采用GLM和Kimi等开放权重模型,将AI支出削减近半PANews 6月29日消息,Coinbase首席执行官B ...
Coinbase在AI支出优化上成果斐然!采用开源模型、优化策略削减近半支出,构建可持续设施,为行业高效发展提供了优秀范例。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|BOSS中文网 Stonespider

相关侵权、举报、投诉及建议等,请发 E-mail:admin#boss.im

Powered by Discuz! X5.1 Licensed © 2001-2026 Discuz! Team.|浙ICP备2022024777号-14

返回顶部