任选九场围绕任选九场开奖不断创新，回应用户的真实需求。
马克·扎克伯格曾公开批评苹果，称其自iPhone之后未能推出任何重大创新产品。然而，如今他却主动展示Meta AI在Mac上运行的画面，并对苹果及其新任CEO约翰·特努斯表达了谢意。
促使双方合作的，是一个拥有8160亿参数的大模型，以及将其部署到用户桌面上的共同愿景。
今日凌晨，Meta发布了开放权重模型Muse Spark Open，并与苹果共同展示了其在两台或四台Mac Studio上运行的方案。开发者可在本地利用该模型编写代码、分析视频、执行智能体任务，推理过程无需经过模型厂商的服务器。
随着人工智能开始处理私人文件和企业数据，数据在哪里处理以及由谁掌控，正变得日益关键。开放模型与本地AI相辅相成，使用户能够自行部署模型，将推理过程保留在自己的设备上。
苹果多年来在自研芯片、统一内存及开发工具上的投入，也因此找到了用武之地。如今，8160亿参数的模型在桌面上运行，使Mac距离成为AI时代的首选个人电脑更近了一步。
小扎送来新模型，苹果准备好了电脑
Muse Spark Open的发布，兑现了扎克伯格此前的承诺。
今年8月，Meta推出了规模较小的开放权重模型Muse Glimmer，扎克伯格当时表示，后续还将开放更大、更强的模型。如今，这一承诺已兑现为拥有8160亿参数的Muse Spark Open。
新模型Muse Spark Open的性能接近Muse Spark 1.3，Meta更是将其誉为目前能力最强的美国开发的开放权重模型。
开发者可下载模型权重，在自有硬件上部署，也可通过云服务商和开发工具使用。其许可证允许一定范围内的商业用途，为企业自行部署和开发应用留出了空间。
Meta AI负责人亚历山大·王表示，Muse Spark Open的性能仍低于本周早些时候发布的闭源模型Muse Wonder。不过，开放权重赋予了它另一种吸引力，开发者能自主选择运行环境、研究模型，并根据实际需求组织应用。
Meta希望这些尝试从小规模起步，随后逐步扩大。苹果的加入，则为开发者提供了一套明确的本地运行方案。
扎克伯格在X平台上分享了Meta智能体在Mac上工作的照片，并表示Muse Spark Open当日开放权重，得益于与特努斯和苹果的合作，它在新款Mac Studio上运行良好。
特努斯随后回应称，能在桌面上如此高效地运行这种规模和能力的模型令人振奋，并指出Mac Studio正持续拓展设备端AI的边界。
王对两家公司的合作给出了一个更生活化的评价。他向Axios开玩笑说，看到**“爸爸妈妈终于又能好好相处”**，大家都感到高兴。
据他介绍，双方已合作数月，曾在苹果任职、如今加入Meta的丹尼尔·格罗斯在其中发挥了关键作用。特别是，Meta今年早些时候已购入数百台Mac，供超级智能团队探索本地AI和智能体应用。
合作中最值得关注的一点，是模型能力与用户数据之间可建立一种新的关系。
按照王的说法，开发者在自己的设备上运行模型时，Meta无法看到或控制其使用内容。用户可获得Meta的模型能力，同时将提示词和推理过程保留在自己掌控的环境中。
对个人而言，本地运行可减少私人资料向外部服务器传输；对企业而言，代码、文档和业务数据也能留在自主管理的设备上。隐私与安全需求因此成为推动本地AI的实际动力，而开放权重让这条路具备了可操作性。
8160亿参数，怎么装进几台Mac
将如此庞大的模型搬上书桌，需解决两个问题：电脑能否装得下，以及装下后能否足够快地工作。
Muse Spark Open采用混合专家架构（MoE），总参数量达8160亿，每次推理激活约420亿参数。
它像一个规模庞大的专家团队，处理不同内容时，只调动其中一部分专家参与计算。模型因此可保留较大的总容量，同时减少每一步实际需要完成的计算。
不过，未参与当前计算的参数仍需存储，供后续调用。MoE降低了计算负担，但容纳整套模型的内存需求依然可观。
按照苹果技术博客的数据，在原生BF16精度下，Muse Spark Open仅模型参数就需要超过1.6TB内存。
苹果使用NVFP4四位量化版本，将模型内存占用压缩至约493GB。量化相当于用更精简的数值表示方式存储参数，通过降低数值精度换取更小的内存占用。
即便如此，单台配备512GB统一内存的Mac Studio依然难以做到游刃有余。模型权重之外，推理过程中的临时计算数据、KV Cache（键值缓存），以及操作系统和运行框架，都需要占用额外内存。
多台Mac协同工作，便成了下一步。
在苹果展示的多机推理方案中，MLX主要采用两种并行方式。其中较易理解的是流水线并行：模型前一部分放在一台Mac上，后一部分放在另一台上，第一台完成计算后，再把结果交给第二台继续处理。
这种方式能让两台电脑共同容纳一个大型模型，但计算存在前后依赖，后一台机器需等待前一台的结果，设备无法始终同时投入工作。
张量并行则将同一层里的计算分配给多台机器，让它们共同参与，再交换和汇总结果。
更多设备可同时工作，机器之间也就需要更频繁地交换数据。如果传输太慢，增加的计算能力就会消耗在等待中。
苹果为此使用雷雳5上的RDMA通信，降低多机交换数据的延迟，再由MLX协调计算。在博客展示的双机配置中，两台Mac通过两根雷雳线连接，以增加链路带宽。
最终的性能差距，清晰地体现了这种协作方式的价值。
在输入上下文为8192 tokens、随后生成128 tokens的测试中，两台M5 Ultra Mac Studio使用流水线并行时，Muse Spark Open的生成速度约为每秒15.74 tokens。
改用张量并行后，双机速度提高到每秒24.99 tokens，提升接近六成。进一步增加到四台机器，速度达到每秒36.73 tokens，首个token的等待时间也从双机张量并行的约8.2秒，缩短至约4.8秒。
从存得下，到能够以实际可用的速度交互，背后依靠的是一整套软硬件配合。
统一内存架构让CPU和GPU能共享内存资源，大容量配置为模型提供存储空间，高带宽支持持续读取数据，而MLX与雷雳互联则让多台电脑能协同承担任务。
M5 Ultra进一步将统一内存带宽从M3 Ultra的819GB/s提高至1.2TB/s。M5系列GPU新增的Neural Accelerators，则用于加速矩阵运算，改善处理输入上下文时的计算效率。
两项变化对应着用户能感受到的两个环节：提交一大段材料后，需等多久才开始回答，以及开始回答以后，内容输出有多快。
在苹果针对Qwen 3.8和Mistral Medium 3.5的单机测试中，M5 Ultra相比M3 Ultra，首个token等待时间对应的速度提升最高约为4.6倍，文字生成速度约为1.6倍。
苹果还展示了如何把本地模型服务用于OpenCode等编程工具。开发者可继续通过智能体界面提交任务，让模型处理上下文、生成代码，而背后的推理工作由桌上的Mac完成。
由此来看，Muse Spark Open在Mac上运行，也是一场对苹果既有投入的集中检验。芯片、内存、互联和软件工具各自解决一部分问题，最终共同决定了桌面AI能走多远。
目前，这套方案仍主要面向专业开发者和团队。搭载M5 Ultra的Mac Studio起售价为46999元，512GB版本将于本月晚些时候上市，运行Muse Spark Open还需根据内存需求配置多台设备。
大型模型进入个人电脑的过程，显然还有门槛。但苹果已展示出一条具体路径，让需要自主掌握模型和数据的用户，能在桌面上构建自己的AI运行环境。
苹果连闲着的Mac也惦记上了
几台高配Mac Studio组成集群，解决了大型模型如何进入桌面的问题。苹果研究人员近期发表的另一篇论文，则将目光投向办公室里已存在、却经常未充分使用的电脑。
名为Minions的系统，尝试把Apple Silicon设备闲置的GPU组织起来，形成一个共享的推理资源池。
研究人员观察到一种常见的资源错配：一边是团队申请集中式GPU时需长时间排队；另一边，大量Mac正在处理邮件、文档等日常工作，GPU仍有不少空闲。
Minions希望让这些已有设备分担任务，减少团队对新增GPU采购的依赖。
团队提交工作后，系统会将其分成多个子任务，由参与的Mac主动领取，使用本机GPU完成计算，再把结果上传至指定存储位置。
与前文多台Mac紧密协作运行同一个大型模型的方式不同，Minions主要面向能分别执行的任务，让不同电脑各自处理一部分工作，提高整体处理量。
目前，系统支持生成文本向量，以及通过Ollama调用本地大模型完成文本生成。前者可用于检索等场景，后者适合批量处理大量独立请求。
员工电脑的使用状态随时可能变化：有人会合上笔记本，有人会断开网络，也有人需优先处理自己的工作。
Minions因此设置了任务回收机制，监测正在执行任务的设备，一旦设备失去响应，就将未完成的子任务重新交给其他电脑。
设备拥有者还可设置优先参与的团队、项目或任务。论文提到，团队有时会通过Slack临时招呼同事，请大家启动执行程序，共同处理某项工作。
原本需排队申请的计算资源，就这样变成了同事之间可临时组织的协作。
按照论文披露的使用情况，过去因集中式GPU紧张而需等待十多个小时的部分任务，使用Minions后，往往几分钟内就能开始执行。闲置设备的加入，让团队更早获得了可用算力。
数据如何管理，也被纳入系统设计。Minions支持在指定团队或组织内部独立部署，将任务限制在各自管理的设备范围内，让共享算力与数据管理要求相适应。
研究人员还计划探索分布式模型训练，而现阶段的重点，是让已有Mac成为集中式GPU基础设施的补充。
从Muse Spark Open到Minions，苹果正在挖掘个人电脑在AI时代的两种价值。一种通过大内存和高速互联，让桌面设备承担更大的模型；另一种利用闲置时间，让更多已有电脑参与计算。
端侧AI的发展也因此拥有了更具体的形态。它可以是一台设备独立处理私人任务，也可以是几台电脑共同运行大型模型，或者由一个团队内部的设备协作完成批量工作。
当AI接触的数据越来越私人、承担的任务越来越深入，用户对隐私、安全和自主控制的需求，也会不断推动本地部署。开放模型提供了选择权，能高效运行它们的硬件，则把选择权变成了实际能力。
苹果与Meta的合作，正是两股趋势的一次汇合。 对于努力争取AI PC位置的Mac而言，多年来投入的芯片、统一内存和开发生态，终于开始以一种足够直观的方式得到回报：越来越大的模型，正在它的桌面上运行起来。
技术博客参考地址： https://machinelearning.apple.com/research/mlx-distributed-inference
本文来自微信公众号“APPSO”，作者：发现明日产品的，36氪经授权发布。
评论