苹果正与硅谷首创公司PrismML睁开早期洽谈，，，，，，后者声称可将大型AI模子压缩至能在iPhone受骗地运行。。。。若手艺验证通过，，，，，，此举将强化苹果的隐私主张，，，，，，并为其迟滞已久的Siri升级提供要害支持。。。。 此次新闻宣布恰在苹果推出iOS 27公测版的越日——这是苹果对Siri举行大幅改版后向公众开放的首次普遍测试，，，，，，旨在与OpenAI和Anthropic的AI助手睁开竞争。。。。 关于苹果而言，，，，，，将更多AI运算留在装备外地，，，，，，意味着更低的响应延迟、更少的云盘算本钱，，，，，，以及无需联网即可使用部分功效的能力——这些与其焦点隐私定位高度契合。。。。 "云端与装备端AI的组合，，，，，，能够提供更完整、更高效、更注重隐私的AI体验——重大使命交由云端处理，，，，，，敏感、时延敏感及隐私相关的使命则在装备端执行。。。。" PrismML由加州理工学院研究团队孵化而来，，，，，，背后有Khosla Ventures支持。。。。该公司周二果真宣布了阿里巴巴开源模子Qwen的压缩版本，，，，，，将约54GB的原始模子压缩至缺乏4GB，，，，，，使所有270亿参数能够在iPhone 15或更新机型上直接运行。。。。 PrismML CEO Babak Hassibi向CNBC体现，，，，，，公司通过大幅简化模子内部信息的存储方式实现压缩——将每个数值从16位降至仅1至3个可能值，，，，，，从而显著削减存储和运行模子所需的内存。。。。 据该公司称，，，，，，压缩后的模子内存占用镌汰10至15倍，，，，，，响应速率提升6至8倍，，，，，，能耗降低3至6倍。。。。Hassibi坦承保存一定取舍：模子整体性能通常下降数个百分点，，，，，，事实性影象的衰减早于推理、数学和编程等能力。。。。 现在，，，，，，PrismML免费宣布了两个压缩版本，，，，，，适配iPhone、MacBook及搭载英伟达芯片的PC。。。。公司体现，，，，，，谷歌的开源模子Gemma是下一个压缩目的，，，，，，以后还将处理需要数据中心硬件才华运行的更大规模前沿模子。。。。 苹果现在已在装备端外地运行部分AI功效，，，，，，包括翻译、部分摘要天生及与个人信息亲近相关的特征，，，，，，较重大的请求则路由至其私有云基础设施或外部模子。。。。 Asymco首创人Horace Dediu体现，，，，，，苹果的目的很可能是将绝大大都日常Siri交互保保存装备端，，，，，，仅将最高需求的使命交付云端处理。。。。外地处理意味着更低延迟、更强隐私；
；；
；ぃ，，，，，以及潜在的更低授权和云盘算本钱。。。。 Creative Strategies总裁兼首席剖析师Carolina Milanesi指出，，，，，，更小的模子可让苹果将更多高需求功效移至iPhone外地，，，，，，包括盘算摄影、视频天生，，，，，，以及依赖康健、药物等敏感数据的康健与健身工具。。。。"装备端能做的越多越好，，，，，，"她说。。。。 Counterpoint Research研究总监Tarun Pathak体现，，，，，，模子在长提醒下的体现、多使命处理时的电池消耗，，，，，，以及跨数百万次请求和数千种装备组合的可靠性，，，，，，将是要害考量。。。。他说： IDC客户端处理器研究认真人Phil Solis则指出，，，，，，功耗可能是最大的未知变量。。。。一个足够强盛、被频仍使用甚至在后台一连运行以执行智能体使命的模子，，，，，，即便内存占用较低，，，，，，也可能敌手机电量造成显著消耗。。。。 摩根士丹利预计，，，，，，苹果在2027财年的每比特动态随机存取内存平均本钱可能同比上涨约190%，，，，，，NAND存储本钱上涨约180%。。。。该机构预计苹果将把iPhone 18一律起售机型的价钱提高约200美元以；
；；
；だ舐。。。。 PrismML体现，，，，，，其压缩方案可使原本需要8块GPU运行的云端模子缩减至仅需1块，，，，，，并让原本依赖服务器的模子迁徙至手机和条记本电脑。。。。这可能降低简单AI使命所需的内存或算力，，，，，，但并不必定导致整体芯片需求下滑。。。。 D.A. Davidson剖析师Gil Luria体现，，，，，，模子瘦身并不会消除对处理器或内存的需求，，，，，，只是将更多芯片从数据中心转移至手机等终端装备。。。。"你仍然需要GPU，，，，，，仍然需要内存，，，，，，"他说。。。。 他还增补，，，，，，在简单装备上运行AI现实上可能比共享数据中心基础设施效率更低，，，，，，由于手机芯片大大都时间处于闲置状态。。。。别的，，，，，，效率突破往往催生更多使用需求，，，，，，而非带来支出下降。。。。 市场对"AI所需内存少于预期"的信号向来反映迅速。。。。今年3月，，，，，，谷歌宣布TurboQuant论文——涉及在不损害模子性能的条件下削减内存使用——美光科技股价随即大幅下跌，，，，，，只管以后有所回升。。。。