7 月 14 日，一家由 Khosla Ventures 支持的 Caltech 衍生公司 PrismML 公开了一项看似不可能的技术演示：将阿里巴巴开源 Qwen 模型的 270 亿参数从约 54GB 压缩至不足 4GB，并在 iPhone 上以全部参数激活运行。更值得关注的是，PrismML CEO Babak Hassibi 向 CNBC 确认，Apple 正在评估这项技术——"进展顺利"，但讨论仍处早期。
这个时间点几乎不可能是巧合。前一天，Apple 刚刚开启了 iOS 27 公测版，将酝酿已久的 Siri AI 交到用户手中。Apple 正在试图让 Siri 追上 OpenAI 和 Anthropic 的助手能力，而它的核心差异化策略——端侧处理、隐私优先——正撞上一堵物理之墙：最强大的 AI 模型动辄需要几十 GB 内存和数万美元的数据中心 GPU，智能手机根本装不下。
PrismML 的技术方案试图从数学层面绕过这堵墙。
从 16-bit 到 1.58-bit：压缩的不是模型，是数字的浪费
当前主流大语言模型使用 16 位浮点精度存储每个权重。这意味着 270 亿参数理论上需要约 54GB 内存——远超 iPhone 的物理上限。
PrismML 的答案是极端量化。它的 Ternary Bonsai 模型系列将每个权重压缩到仅三个可能值：{-1, 0, +1}，对应 1.58 bits——不到标准 16 位精度的十分之一。这家公司早在今年 3 月就以 1625 万美元种子轮从隐身模式走出，当时发布了全球首个商用的 1-bit LLM。到 4 月，三元版本 Bonsai 系列覆盖了 80 亿、40 亿和 17 亿参数三个规格，在 MMLU、GSM8K 和 HumanEval 等标准基准上表现与同类全精度模型相当。
但将 270 亿参数的模型塞进手机，是另一个数量级的挑战。CNBC 报道引述的数据显示，PrismML 的压缩版本内存占用减少 10-15 倍、响应速度提升 6-8 倍、能耗降低 3-6 倍。公司宣称，在数据中心端，同样的技术可以让原本需要 8 张 GPU 的推理任务在 1 张 GPU 上完成。
Hassibi 将这一思路类比为芯片行业从 8 位到 4 位计算的演进——"但我们走得更远"。Caltech 持有底层专利并独家授权给 PrismML，公司的技术路线图下一步是 Google 的开源 Gemma 模型，随后是更大的前沿模型。
不过，Hassibi 也坦承存在性能折损——"通常会损失几个百分点，事实性回忆最先下降，推理、数学和编程能力相对更稳定。"
Apple 为什么需要 PrismML
将这个故事放在 Apple 当前处境中，压缩技术的战略价值变得异常清晰。
首先是 Siri 的生存危机。iOS 27 的 Siri AI 被 Apple 描述为"深刻更具能力和个性化的助手"，具备个人语境理解、屏幕感知和系统级集成。但它对硬件的要求暴露了 Apple 的尴尬：最强端侧模型仅限 iPhone Air、iPhone 17 Pro 系列以及配备至少 12GB 统一内存的 iPad 和 Mac 使用。这意味着大量现有 iPhone 用户被挡在门外——而压缩技术可以直接拓宽这个硬件门槛。
其次是隐私叙事的经济账。Apple 已将端侧 AI 处理作为区别于 Google 和 OpenAI 的核心卖点。Asymco 创始人 Horace Dediu 对 CNBC 表示，Apple 的目标是将绝大多数常见 Siri 交互保留在设备本地，仅将最复杂的请求路由到云端。"他们正在试图搞清楚，能在设备上塞进多大、多聪明的模型。"本地处理不仅更快、更私密，还能降低云授权费用。
第三层是法律与战略动机。就在 PrismML 发布前四天，Apple 在加州北区联邦法院起诉 OpenAI 窃取商业机密，指控其系统性挖角 400 多名前 Apple 员工。无论这起诉讼的最终走向如何，它强化了 Apple 降低对云端闭源模型依赖的紧迫感——而任何能让更多 AI 功能在本地运行的技术，都是在削弱 OpenAI 和 Anthropic 在 iPhone 上的话语权。
Creative Strategies 分析师 Carolina Milanesi 指出，更小的模型可以让 Apple 把计算摄影、视频生成和健康工具等功能也都迁移到端侧——"能在设备上做的越多越好"，尤其是涉及用户不愿离开手机的敏感健康数据。
分析师的分歧：实验室数据 vs. 真实世界
多位分析师对 PrismML 的技术声称保持了谨慎。
Counterpoint Research 研究总监 Tarun Pathak 表示，模型在长提示词下的表现、多任务场景中的电池消耗、以及数百万级请求下的可靠性才是真正的考验——"终极测试是数百万次查询、数千种设备组合和大规模稳健验证。"
IDC 客户端处理器研究负责人 Phil Solis 则指出，功耗可能是最大的未解之谜。一个足够强大、能被频繁使用——或者在后台持续运行以支持 Agent 类任务——的模型，即使占用更少内存，"也可能迅速耗尽手机电池。"
目前 PrismML 的性能声明主要来自受控演示环境。公司已将压缩版 Qwen 模型以 Apache 2.0 许可开源，并提供针对 Apple Metal 框架的定制内核。这意味着开发者和竞争对手可以自行验证其声明——但大规模、独立的第三方基准测试尚未出现。
内存行业的"TurboQuant 时刻"会重演吗？
PrismML 的发布也撞上了一个敏感的市场叙事：AI 效率提升是否会最终压低对内存芯片和数据中心基础设施的需求。
摩根士丹利预计，Apple 在 2027 财年的平均 DRAM 每比特成本可能同比飙升约 190%，NAND 成本上涨约 180%。该机构预测 iPhone 18 的起售价将上涨约 200 美元以保护利润率——而模型压缩直接针对的就是这个成本痛点。
不过，DA Davidson 分析师 Gil Luria 指出，效率突破未必意味着芯片总需求的下降。它可能只是将芯片需求从数据中心迁移到手机和其他终端设备。"不是说不需要芯片了，"Luria 说，"你仍然需要 GPU，仍然需要内存。"
一个更根本的经济学原理——杰文斯悖论——也在起作用：更便宜、更快的 AI 推理可能导致更多使用场景，而非更少支出。端侧 AI 能力的解锁本身就会创造新的需求。
但市场对类似叙事已有过剧烈反应。今年 3 月，Google 发布 TurboQuant 论文展示极端压缩技术后，Micron 股价曾暴跌——尽管随后有所回升。PrismML 的公开演示给了投资者一个在真实设备上检验效率声明的机会。
端侧 AI 的拐点，但时钟还在走
PrismML 的故事令人信服，但尚未被充分验证。一个 1625 万美元种子轮的公司声称解决了困扰整个行业的容量问题，而 Apple 的评估仍处于"非常早期"阶段。Hassibi 自己也承认，讨论"将走向何方尚不明确。"
不过，技术方向本身具备足够的合理性。1-bit 量化并非 PrismML 独创——学术界对这一方向的探索已持续数年，包括 2024 年那篇著名的"1.58 Bits"论文。PrismML 的差异化在于将学术成果工程化为可在 iPhone 上运行的商用产品，并且拥有 Caltech 的独家专利授权。
对于 Apple 而言，PrismML 代表的不只是一个供应商选项。它是目前看似唯一能在不彻底重新设计芯片架构的前提下，让 iPhone 运行与云端模型能力相当的端侧 AI 的技术路径。而随着 Siri AI 公测的开启，用户很快就会用自己的使用体验来检验——Apple 究竟是真心押注端侧 AI，还是只把它当作隐私营销的话术。