已在 iPhone 17 Pro 上完整运行 Qwen 3.6,消息称 PrismML 模型 AI 压缩技术被苹果看中

7月10日讯 科技媒体 The Information 昨日(7 月 9 日)发布博文,报道称苹果公司正接洽 PrismML 初创公司,评估在 iPhone 上直接运行更大规模 AI 模型的可行性。

经查询公开资料,PrismML 是加州理工衍生出来的 AI 初创公司,核心突破为原生 1-bit 模型压缩技术,模型体积可压缩至全精度版本的 1/14 左右,内存占用降低超 90%。

原生 1-bit 模型压缩技术权重仅用 {-1, +1} 表示,配合分组缩放因子,非传统量化,声称无“高精度逃生通道”,宣称在保持接近 FP16 模型精度的同时,推理速度提升最高 8 倍,能耗降低 75%-80%。

报道指出 PrismML 公司精简阿里巴巴开源大型语言模型 Qwen 3.6(拥有 27B 参数),并成功在 iPhone 17 Pro 上完整运行,苹果看中该公司的量化能力,希望进一步增强本地 AI 模型的推理性能。

声明:魔果智讯倡导尊重与保护知识产权。如发现本站文章存在版权等问题,烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至moguoai@yeah.net!我们将及时沟通与处理。
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索