手机里跑大模型？苹果这步棋下得有点意思
苹果正在跟一家小公司悄悄勾搭，这家公司说能把AI模型压缩到能在iPhone上跑起来，内存还能省掉15倍。如果这事儿真成了，以后Siri不用联网也能变聪明，你的健康数据也不用传到云上被看光光。但问题来了，这技术到底靠不靠谱？芯片巨头们会不会因此丢掉饭碗？
苹果盯上一家能“压缩”AI的奇葩公司
硅谷有个叫PrismML的初创公司，背后站着Khosla Ventures这种大佬投资机构。这家公司最近搞了个大新闻，说能把阿里的开源AI模型从54GB压缩到不到4GB。54GB什么概念？你手机里装个《原神》也才20GB出头，这模型比两个《原神》还大。压缩完之后，所有270亿个参数都能在iPhone 15或者更新的机型上跑起来。参数这玩意儿你可以理解成AI大脑里的神经连接数量，连接越多理论上越聪明，但吃掉的算力和内存也越多。
Bonsai 27B 是 Bonsai 系列的全新多模态旗舰产品。它基于 Qwen3.6 27B，为本地 AI 带来了新的能力层级：多步骤推理、结构化工具使用、长上下文工作流和连贯的智能体循环。
它有两种版本：
• Ternary Bonsai 27B：5.9 GB，每重量 1.71 个有效位，针对笔记本电脑级质量进行了优化。
• 1 位 Bonsai 27B：3.9 GB，每重量 1.125 个有效位，针对手机级尺寸进行了优化。
目前所有代码都以 Apache 2.0 许可证开源。
这家公司的CEO叫Babak Hassibi，是加州理工学院的教授。他告诉CNBC，苹果正在测试他们的技术，测速度、测能耗、测实际跑起来的效果怎么样。他说跟苹果的讨论还在非常早期的阶段，不知道最后能不能成，但“进展还不错”。这话说得就很微妙了，既不让苹果难堪，又给自己贴了金。苹果那边倒是没吭声，既没承认也没否认，这种沉默在科技圈通常意味着“我们在看了但不想让外界知道我们在看”。
这家公司还放出了两个压缩版模型让大家免费玩，说是能在iPhone、MacBook还有带英伟达显卡的电脑上跑。他们的技术核心就是极度简化AI内部存储信息的方式，把每个数值从16位压缩到只有1个或3个可能的值。你可以把它想象成把一本写满密密麻麻小字的百科全书，重新编排成只有几个简单符号的速记本。这样一来存储和运行需要的内存就大幅减少了，速度反而变快了。
压缩之后的AI还聪明吗
压缩AI模型这事儿听着很美好，但天下没有免费的午餐。Hassibi自己也承认，压缩之后的模型会掉几个百分点的性能，而且掉的主要是事实记忆能力。什么意思呢？就是说你问它“法国首都是哪里”这种需要死记硬背的知识，它可能会翻车。但推理能力、数学能力、写代码的能力反而掉得少。这就很诡异了，就好像一个学生考试的时候公式推导全对，但就是记不住乘法口诀表。
他们把压缩后的模型跟原版比了比，说内存省了10到15倍，回答速度快了6到8倍，能耗省了3到6倍。但你想想，一个模型连基本事实都记不太清，那它给出的答案你敢信吗？不过话又说回来，如果你只是让它帮你总结一段文字或者写封邮件，记忆力差点好像也不是什么致命伤。毕竟大多数人用手机AI也就是干这些杂活，真要查资料谁也不会只靠Siri。
这技术的源头在加州理工学院Hassibi的研究组，学校持有底层专利然后独家授权给PrismML。三月份这家公司融了1625万美元的种子轮，Khosla Ventures领投。下一步他们打算把谷歌的开源模型Gemma也给压缩了，然后就是那些现在还得靠数据中心服务器才能跑的超大模型。按他们的说法，这技术最终能用在机器人、自动驾驶这些需要快速决策但又不能依赖云端连接的设备上。
Siri翻身仗就靠这波操作了
苹果在AI这条路上一直走得很纠结。一方面要保护用户隐私，恨不得所有数据都留在手机里别出去。另一方面真正聪明的AI模型又太大太能吃内存，手机根本扛不住。所以苹果之前的策略是：简单的活儿在手机上干，比如翻译、摘要、跟个人信息相关的东西。复杂的请求就扔到云端去处理。但云端处理有延迟，数据来回跑也费时间，而且用户心理上总觉得数据出手机就不安全。
就在PrismML发布压缩模型前一天，苹果刚开放了iOS 27的公测版。这个版本最引人注目的就是Siri的大改版，苹果憋了好久的AI助手终于要跟用户见面了。但Siri之前一直被吐槽智商不在线，跟OpenAI和Anthropic的助手比起来像个小学生。问题就出在既要让Siri变聪明，又不能把数据送出手机，这俩目标本身是矛盾的。PrismML的技术正好卡在这个矛盾点上，如果真能把大模型塞进手机里，Siri就有救了。
苹果其实已经在自己设计芯片和软件了，软硬一体是它的传统强项。如果AI模型能在本地跑，苹果可以更精细地控制功耗和性能的平衡。分析师Horace Dediu就说，苹果真正的优势不在于用更少的内存，而是在同样的物理限制下塞进一个更聪明的模型。就像你换了一个更高效的发动机，不是为了省油，而是为了在同样大小的引擎盖里塞进一个马力更大的引擎。这个逻辑确实更符合苹果一贯的产品思路。
云端和本地到底谁更香
PrismML这消息出来的时候，正好赶上整个科技圈在吵一个话题：AI越来越高效了，以后是不是就不需要那么多芯片了？这问题直接关系到好几家芯片巨头的股价。之前谷歌发了一篇压缩技术的论文，美光的股价就暴跌过，虽说后来涨回来了，但市场的敏感程度可见一斑。
PrismML说他们的技术能让原本需要8块GPU才能跑的模型变成只要1块，还能让原本必须放在服务器上的模型直接塞进手机和笔记本。但这并不意味着芯片需求会减少。D.A. Davidson的分析师Gil Luria就说得很直接：芯片该用还得用，只不过从数据中心挪到手机里了。而且手机里的芯片大部分时间是闲置的，从整体效率来看反而可能不如数据中心的共享架构高。这就有意思了，你以为你在省资源，结果资源利用率反而更低了。
Counterpoint的研究总监Tarun Pathak指出，真正的考验是面对几百万个真实用户的查询、几千种不同的设备组合，在这样的大规模测试下还能不能保持稳定。IDC的Phil Solis则担心电池问题，一个足够聪明到让人愿意频繁使用的模型，就算内存省了，如果一直跑在后台处理任务，那电量的消耗依然是个大问题。你总不想为了一个聪明的Siri让手机半天就得充一次电吧。
芯片巨头慌不慌
摩根士丹利的数据显示，苹果在2027财年的内存成本每个比特可能要涨190%，NAND闪存的成本涨180%。按照这个趋势，下一代的iPhone 18可能得涨价200美元才能保住利润。PrismML这种压缩技术如果真能用，对苹果来说就是救命稻草，省下来的内存成本就是纯利润。但对芯片厂商来说这消息就没那么美好了，尤其是美光、三星、SK海力士这些靠内存吃饭的公司。
不过分析师们普遍认为，更高效的AI只会催生更多的应用场景，而不是让芯片卖不出去。打个比方，当年汽车发动机从化油器变成电喷，油耗降了动力升了，结果呢？车反而越卖越多。便宜了快了之后大家只会用得更多，而不是更少。AI也是这个道理，如果手机上的AI助手真正变得好用又便宜，用户的使用频率会大幅提升，背后的计算量可能不减反增。
PrismML这波公开发布让普通用户和投资人都有机会亲手测一测，到底是不是实验室里的花架子。对于苹果来说，能把更强大的AI直接装在iPhone上，意味着能在不牺牲隐私和硬件整合优势的前提下，终于把Siri提升到一个能跟竞争对手掰手腕的水平。Counterpoint的Pathak最后那句话总结得很到位：云端处理复杂任务，本地处理敏感和需要低延迟的任务，两者结合才能提供真正完整的AI体验。
说到底，AI压缩这事儿就像把一头大象塞进一个冰箱，塞进去了是本事，但大象还是那头大象，该吃多少草一点没少。你省下的只是草料钱，大象本身的身价可能反而更高了。苹果这步棋到底走不走得通，几个月后看Siri的表现就知道了。不过以苹果的尿性，就算技术真用上了，也大概率不会主动告诉你“嘿我们的模型现在变压缩了”。