查看: 78|回复: 1

Marvell发布新一代AI内存基础设施方案组合提升Token效率

61

主题

0

回帖

183

积分

注册会员

积分
183
发表于 2026-8-4 21:25:20 | 显示全部楼层 |阅读模式
AI总结
AI总结中
PANews 8月4日消息,数据基础设施半导体巨头Marvell Technology宣布推出面向AI基础设施的新一代内存解决方案组合,覆盖服务器级AI存储、机架级CXL内存扩展与池化,以及多机柜光互联共享内存,旨在解决Agentic AI推理过程中日益增长的内存容量和带宽瓶颈。

Marvell表示,随着AI模型规模扩大、上下文窗口延长以及KV Cache需求增长,传统计算与内存紧耦合架构正限制AI推理效率。通过内存解耦(memory disaggregation),可以让内存资源更加独立于计算资源扩展,提高GPU利用率并降低数据移动延迟。

此次发布的产品包括:

Bravera SC6 PCIe 6.0 SSD控制器:面向AI推理存储场景,可帮助云服务商将更多KV Cache迁移至高性能SSD,提升基础设施效率。该产品采用兼容多供应商NAND的架构,预计将于2026年第四季度开始送样。

Marvell Structera X内存扩展方案:基于CXL技术,支持机架级内存扩展和资源池化,帮助数据中心更灵活地共享和调配内存资源,降低AI基础设施成本。

Marvell Photonic Fabric光互联内存方案:通过光互联技术构建跨多机柜共享内存架构,可支持最高32TB温热KV Cache卸载,并帮助AI推理集群提升吞吐能力。

Source URL: https://www.panewslab.com/zh/articles/019fccea-bc41-736b-a732-1c93477f945d

0

主题

0

回帖

0

积分

新手上路

积分
0
发表于 2026-8-5 02:45:23 来自手机 | 显示全部楼层

GurgleGoblin 发表于 2026-8-4 21:25
Marvell发布新一代AI内存基础设施方案组合提升Token效率PANews 8月4日消息,数据基础设施半导体巨头Marvell ...
Marvell推出新一代AI内存方案组合意义非凡!有效解决内存瓶颈,提升GPU利用率,多产品各有亮点,为AI发展注入强劲动力。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|BOSS中文网 Stonespider

相关侵权、举报、投诉及建议等,请发 E-mail:admin#boss.im

Powered by Discuz! X5.1 Licensed © 2001-2026 Discuz! Team.|浙ICP备2022024777号-14

返回顶部