一场端侧AI革命:PrismML 如何把 270 亿参数模型塞进 iPhone
PrismML 用 1-bit 压缩技术将阿里 Qwen 3.6 从 54GB 压缩到不到 4GB,在 iPhone 17 Pro 上全参数运行。苹果已接洽,端侧 AI 竞赛迎来转折点。
2026 年 7 月,一家名叫 PrismML 的初创公司用一项来自加州理工学院实验室的数学突破,回答了困扰移动行业多年的问题:一部 iPhone,能否在本地完整运行一个真正的大语言模型?
不是几十亿参数的阉割版,也不是云端推理的障眼法。是全部 270 亿参数同时在设备上激活,不联网,不降级。
一个被忽视的瓶颈
过去两年,大模型竞赛的主战场一直在云端。OpenAI、Anthropic、Google 在数据中心里堆 GPU,把模型参数量从千亿推到万亿。但很少有人认真讨论另一个问题:手机怎么办?
iPhone 拥有全世界最先进的移动芯片,但在大模型面前依然力不从心。苹果今年 WWDC 发布的最新端侧模型号称 200 亿参数,却采用稀疏架构,每次只有 10 亿到 40 亿参数处于激活状态。相当于你买了一辆标称 200 马力的车,日常只能用到 40 马力。
这不是苹果的错。把大模型塞进手机的物理约束极其苛刻。一个 270 亿参数的 Qwen 3.6,原始体积高达 54GB——接近一部入门 iPhone 的全部可用存储。即便能放下,手机的内存带宽和散热也撑不住全参数推理。
行业的应对策略始终是妥协:稀疏激活、参数裁剪,或者干脆连云端。PrismML 给出了一个不同的答案。
54GB 变 4GB 的数学魔术
PrismML 是加州理工学院的衍生公司,CEO Babak Hassibi 是该校电气工程教授。他和联合创始人在校期间完成了这项压缩技术的底层数学研究,相关专利由加州理工独家授权给 PrismML。
这项技术的核心被称为原生 1-bit 模型压缩。传统模型用 16 位或 32 位浮点数存储每一个参数权重,PrismML 的方法用 1 位表示同样的信息——模型体积直接砍到原来的约十四分之一。
通常这种激进压缩会带来显著的性能损失,但 PrismML 声称其数学方法能够规避这个代价。压缩后的 Qwen 3.6 从 54GB 骤降至不到 4GB,在 iPhone 17 Pro 上保持了复杂对话、逻辑推理、自主智能体任务和代码编写等全部能力。
还有三个数字更说明问题:
- 推理速度提升 6 到 8 倍
- 能耗降低 75% 到 80%
- 内存占用降低超过 90%
这不是「在手机上跑得动」的级别,而是「在手机上跑得比云端还快」的级别。
苹果为什么紧张
据多家媒体报道,苹果已与 PrismML 举行了多轮技术洽谈。这并非一次例行公事的供应商考察——苹果确实需要这项技术。
The Information 此前披露,苹果去年在尝试将内部 AI 模型压缩至适配 iPhone 时,曾遭遇性能大幅下滑的困境。也就是说,苹果自己试过,没做成。
而苹果的端侧 AI 焦虑由来已久。今年 WWDC 上发布的 Siri 升级版,其最复杂的功能仍需依赖运行在谷歌云上的英伟达芯片来提供算力。对于一家以「隐私」和「本地处理」为品牌信仰的公司来说,这不仅是尴尬,更是一种战略脆弱性。
PrismML CEO Hassibi 描绘了一张更有野心的路线图:未来 95% 的智能服务可以在本地设备上完成,只有 5% 的高端功能需要依赖云端。公司还计划继续压缩更大规模的模型,最终目标是万亿参数级别——也就是 GPT 和 Claude 所在的领域。
如果这个路线图成真,意味着什么?
你的对话、照片、日程安排全部在 iPhone 本地完成推理。响应速度从「等云端返回」变成「即问即答」。没有网络也能用。没有人能看到你的数据——包括苹果自己。设备端 AI 从辅助功能升级为核心大脑。
端侧 AI 竞赛开打
PrismML 的突破并非孤立事件。
2026 年上半年,高通发布了骁龙 X Elite 芯片,专门为端侧 AI 推理优化了 NPU 单元。联发科天玑系列也在加码端侧大模型支持。Google 的 Pixel 系列持续用自研 Tensor 芯片跑 Gemini Nano。三星则与 Google 合作在 Galaxy 系列中集成了端侧能力。
但 PrismML 的 1-bit 压缩开辟了一条完全不同的路径:它不是靠堆硬件,而是靠改算法。这意味着它具备跨硬件的普适性——理论上,任何足够强大的移动芯片都能受益于这种压缩方法。事实上,PrismML 声称其技术可在 iPhone 15 及以上设备运行,不限于最新旗舰。
这对整个移动生态的影响可能是深远的。如果端侧模型的能力追平甚至超越云端,当前以数据中心为核心的 AI 商业模式将面临根本性重构。卖云算力的公司需要重新思考自己的价值主张,而掌握端侧平台的公司——苹果、高通、三星——将获得新的战略筹码。
还差临门一脚
任何突破性技术从实验室到量产都需要跨过现实障碍。
电池续航是第一道坎。虽然 PrismML 声称能效大幅提升,但 270 亿参数全激活意味着持续的高计算负载。在日常使用场景下 iPhone 电池能撑多久,目前没有任何公开数据。
稳定性是第二道坎。压缩后的模型在大规模实际应用中是否真的「无损」,还是只在特定基准测试下表现良好,需要时间和用户量来验证。
苹果的整合意愿是第三道坎。苹果一向以封闭生态和对技术栈的绝对控制著称。PrismML 作为外部技术提供商,能否深度整合进 Apple Intelligence 的底层架构,是一场技术与商业的双重博弈。
PrismML 计划于 7 月 14 日开放压缩模型下载,届时开发者和技术社区将能首次独立验证其技术主张。答案很快就会揭晓。
而无论结果如何,一个趋势已经清晰:端侧 AI 的军备竞赛,正式打响了。