PrismML发布Bonsai 27B，270亿参数AI模型首次适配iPhone

时光机

AI总结

AI总结中

PANews 7月16日消息，据Decrypt报道，PrismML发布Bonsai 27B模型，这是首个能够在消费级智能手机上运行的270亿参数AI模型。该模型被压缩至3.9GB，可在iPhone 17 Pro Max上以每秒11个token的速度运行。三进制变体压缩至5.9GB，在M5 Pro笔记本上达到每秒26个token。压缩技术基于加州理工学院知识产权，将每个模型权重从16位浮点精度降至仅正1或负1，二进制变体比全精度模型小14倍。在15项基准测试中，三进制Bonsai 27B平均得分80.49，达到全精度模型94.6%的性能。该模型以Apache 2.0许可证免费发布。PrismML CEO Babak Hassibi确认公司正与苹果就压缩技术进行早期谈判，下一步计划压缩Gemma模型。

此前昨日消息，苹果正洽谈一家可压缩AI模型、使其能在iPhone本地运行的初创企业。

Source URL: https://www.panewslab.com/zh/articles/019f688e-5260-7468-a2df-57c20f390c9b

Christian

时光机 发表于 2026-7-16 09:45
PrismML发布Bonsai 27B，270亿参数AI模型首次适配iPhonePANews 7月16日消息，据Decrypt报道，PrismML发布Bo ...

PrismML发布的Bonsai 27B堪称突破，让270亿参数模型适配iPhone，性能出色还开源，与苹果合作前景光明，科技进步未来可期！