A Key Piece for Apple's On-Device AI? iPhone to Feature 27-Billion-Parameter Large Model for the First Time

苹果正寻求将更强大的 AI 能力留在设备端，一家由 Khosla Ventures 支持的初创公司或许提供了关键拼图。

获 Khosla Ventures 投资的初创公司 PrismML 宣称，已成功将一个拥有 270 亿参数的 AI 大模型压缩至可在 iPhone 17 Pro 上本地运行，创下移动端 AI 模型规模的新纪录。该公司表示，其压缩技术不会造成性能损失，相关开源模型将于下周二正式发布。

据知情人士透露，苹果已与 PrismML 就如何使用其技术举行了会谈。此前据 The Information 报道，苹果正积极寻求收购能够帮助其在设备端运行更多 AI 功能的公司。消息人士称，苹果去年在尝试将内部 AI 模型压缩至适配 iPhone 时，曾遭遇性能大幅下滑的困境。

270 亿参数全量激活，刷新移动端 AI 纪录

PrismML 表示，其压缩的模型为阿里巴巴开发的开源大语言模型 Qwen 3.6，参数量达 270 亿。相比之下，目前主流移动端模型每次仅有数十亿参数处于激活状态。

苹果在今年 6 月的全球开发者大会上发布的新款设备端模型拥有 200 亿参数，但采用稀疏架构，每次仅有 10 亿至 40 亿参数处于激活状态。PrismML 的模型则在运行时保持全部 270 亿参数同时激活，这一差异被该公司视为核心竞争优势。

PrismML 称，该模型能够胜任复杂对话、推理、全自主智能体及软件编程等任务。

数学压缩技术源自加州理工，专利独家授权

PrismML 是加州理工学院（Caltech）的衍生公司。其 CEO Babak Hassibi 是该校电气工程学教授，与联合创始人在校期间完成了支撑该技术的数学研究。Caltech 持有相关专利，并将其独家授权给 PrismML。

该公司的核心技术在于通过一种数学方法，将 Qwen 3.6 模型的体积从约 54GB 压缩至不足 4GB，压缩比超过 90%，且公司声称性能不受影响。

PrismML 今年早些时候完成了 1625 万美元的种子轮融资，Khosla Ventures 参与其中。Khosla Ventures 创始人 Vinod Khosla 在接受采访时表示，他对 PrismML 感兴趣，是因为该公司提供了一种"根本性的突破"。"我们在 2018 年投资 OpenAI 时重注押注了 Transformer 模型，但构建 AI 的新方式是什么？我们的团队始终在寻找新的路径。"他说。

苹果的设备端 AI 战略与潜在收购逻辑

苹果长期以来将设备端 AI 作为其隐私与安全承诺的核心支柱，并在很大程度上回避了微软、亚马逊、Meta 等科技巨头耗资数千亿美元的数据中心军备竞赛。

然而，苹果在今年 6 月宣布的迟来已久的 Siri 重大升级，仍依赖谷歌的 Gemini 模型，其最先进的功能需要调用运行在谷歌云上的英伟达芯片。这一现状与苹果的设备端 AI 愿景存在明显落差，也使 PrismML 的技术对苹果具有潜在的战略价值。

Hassibi 预测，未来三年内，用户所需的绝大多数 AI 计算将在本地完成。"想象一下，也许三年后，你所需要的 95% 的智能都可以在本地获得——在你的手机、笔记本电脑、家电上——真正需要去云端的，可能只剩最后 5% 的高端需求，"他说，"我认为这就是人们所看到的前进方向。"

混合架构派提出挑战

并非所有业内人士都认同纯设备端 AI 的路线。初创公司 Argmax 等采用混合架构，将语音和图像等处理任务在设备端完成，再将信息上传至云端进行更复杂的推理。

混合架构的支持者指出，云端大模型目前仍在以每周更新的速度快速迭代，完全运行在设备端的 AI 模型将难以享受到最新、最先进云端模型带来的性能红利。这一挑战也是 PrismML 在商业化路径上需要持续应对的核心问题之一。

PrismML 表示，公司计划继续将更大规模的模型——包括万亿参数级别的模型——压缩至设备端运行，届时将进入与 OpenAI GPT 及 Anthropic Claude 同台竞技的领域。