晨报归档

AI 晨报 · 2026-10-16 期

开源模型已经能搬回家,判定它对不对还得自己搭

本期导读 展开 / 收起
  1. 一、八千亿参数的模型,摆到了两台台式机上
  2. 二、Meta 的另一篇:八周做出一个 App,靠的是把验收放进循环
  3. 三、评审与规则:两个把“标准”写成可执行物的做法
  4. 四、ARC Prize 那一组数字:脚手架值多少分
  5. 五、基础设施、治理与企业侧的几则
  6. 来源与说明

昨天和今天凌晨这几件事,表面上是三桩互不搭界的新闻:Meta 放出了一个总参数八千多亿的开放权重模型,苹果证明了它在四台 Mac Studio 上跑得动;Meta 另一篇工程博客说,一个独立的新应用只用了八周就做到与 Facebook Groups 的核心功能对齐;ARC Prize 则公布,同一个模型换个跑法,分数能从 49.8% 变成 97.5%。摆在一起看,被推到台前的是同一件东西——决定结果的不只是模型本身,还有包在它外面那一层:让它在什么环境里跑、用什么流程拆任务、拿什么标准判定它做完了。那一层以前是默认配置,现在成了要自己设计的东西。

数字本期几组硬数字
8160 亿
Muse Spark Open 的总参数,每 token 激活 420 亿
36.7
四台 M5 Ultra Mac Studio 上跑该模型的每秒生成 token 数,苹果实测
49.8% → 97.5%
同一个模型换一套脚手架,ARC-AGI-3 成绩的变化
八周
Meta 的 Forum 从零做到与 Facebook Groups 核心功能对齐的时间

一、八千亿参数的模型,摆到了两台台式机上

Meta 十月十五日放出 Muse Spark Open 的权重,采用混合专家架构,总参数 8160 亿、每 token 激活 420 亿,上下文窗口一百万 token,输入支持文本、图像、视频与音频,定位是长时程的编码与智能体任务。按 Meta 公布的模型卡,语言部分 62 层、256 个专家每次激活 8 个,视觉侧是一个 18 亿参数的感知编码器。权重以 Muse Model License 发布,BF16 与 NVFP4 两种精度,本地跑起来分别需要 2TB 与约 700GB 显存——后者是它能在桌面设备上出现的前提。

让它真正落到桌面上的是苹果同日发布的 MLX 更新。苹果团队写得很具体:用 macOS 26.2 里新加的 RDMA over Thunderbolt 驱动把多台 Mac Studio 连起来,两台各 512GB 统一内存的 M5 Ultra 就能装下整个模型;实测里四台机器张量并行,NVFP4 精度下每秒生成 36.7 个 token,高于人的平均阅读速度;单台 M5 Ultra 的首 token 时间比上一代 M3 Ultra 快约 4.6 倍,峰值功耗约 300 瓦。同一篇还给出:1280 亿参数的 Mistral Medium 3.5 在 65536 token 上下文下占 158GB,270 亿的 Qwen 3.8 占 68GB。

流程一个八千亿参数模型怎么上桌
1
先量化
BF16 下要 1.6TB 以上,压到 NVFP4 约 493GB
2
再拆分
两台 M5 Ultra 各 512GB 统一内存,靠 RDMA over Thunderbolt 5 互连
3
后供给
mlx_lm.server 起本地服务,编码智能体接到这个端点上跑

推理侧的托管也在同一天铺开。vLLM、SGLang 与 TensorRT-LLM 在发布当天支持,Together AI、OpenRouter 与 Fireworks 提供托管,亚马逊、谷歌云与微软的目录提供权重下载。Meta 自述,与八月那版相比,这一版多做了针对开放权重场景的安全后训练,并给出 Helion 内核在英伟达与 AMD 显卡上 1.03 到 3.95 倍的内核级加速。需要说清的是,这些基准都是 Meta 与苹果各自的实测,没有第三方复现;两台能装下模型,不等于两台就适合生产并发。

二、Meta 的另一篇:八周做出一个 App,靠的是把验收放进循环

同一天,Meta 工程博客讲了它怎么做出 Forum——一个独立的 Groups 应用。这篇的价值不在“快”,而在它把成功的定义换了:不量代码量,量“经过验证、可上生产的结果”,也就是能构建、能过测试、能过评审的改动。文章把两种模式摆在一起对照:人在环内时,工程师驱动每一步,智能体在步骤里补一句代码、给一个建议;人在环上时,智能体自己跑完整轮——计划、实现、构建、测试、修正、重复——人做的是定目标、看过程、偏离时插手、最后签结果。Meta 明确说这是正在靠近的目标而不是已完成的现状,部分环节仍要工程师在每一轮里。

能让这个循环自己转起来,文章列了四项能力。一是把计划写成技术规格——人可以靠直觉补上的含糊,智能体补不上,所以要在上游做够分解、给出机器可读的上下文。二是把自动化的通过与不通过信号接进循环:构建状态、单元测试、界面规格比对,直接喂给智能体,让它先自查,交到评审手里的是已经附好测试计划与验证记录的拉取请求。三是用导航智能体跑模拟用户测试,它们像真人那样操作真实应用、读屏幕、报回归。四是上线后的生产运维智能体,收到用户反馈后自己查根因,把结论连建议一起交给工程师定夺。支撑这些的还有五件东西:规则(把重复犯过的错写死一次)、技能(团队约定打包成可加载步骤)、智能体(接管过去要人手工跑的检查)、命令(串成流程)、钩子(每轮之后自动跑检查)。

真正让它出效果的是两处改动,都不在提示词里。一是主要失败模式:智能体弄不清自己在应用的哪一屏,让它改群主页却改了首页信息流,或者去猜屏幕坐标。改法不是把应用描述得更细,而是给它工具——从模拟器读实时的视图层级、列出屏幕上真实存在的元素、查到目标视图的路径,改完之后错位的改动明显减少。二是压力测试循环:团队设了一组可重复的压测场景,模拟激进滚动、随机浏览群组、快速跳转与反复加载媒体,跨版本常规跑,产出崩溃、内存增长、缺页与界面回归这些一致信号;智能体据此分诊、缩小到触发序列、再查根因。开发期就抓到并修掉的那处内存问题,让内存占用与缺页大约减半。文章最后一句判断值得抄下来:收益主要来自改代码和改工具,不是改提示词。

三、评审与规则:两个把“标准”写成可执行物的做法

Anthropic 十月十五日把 Code Review 从研究预览转为正式可用,面向 Team 与 Enterprise。它的流程是四段:多个智能体并行读差异与周边代码找问题;一个验证环节拿真实代码逐条核候选发现、滤掉误报;剩下的去重并按严重程度排序;结果以行内评论、摘要和一个检查项发到拉取请求上。按 Anthropic 的说明,正式版的审查比预览期快约三倍,从约二十分钟降到六到十分钟,管理员可以给每个仓库设快速、标准、深度三档。边界写得很清楚:检查项永远不会判失败,审查既不批准也不阻塞合并,决定权留在团队;它只读差异与周边代码,不构建不运行。该公司自己的内部数字是,部署前 16% 的拉取请求拿到实质性评审意见,部署后是 54%;改动超过一千行的拉取请求有 84% 收到发现、平均 7.5 条,五十行以下的降到 31%,被工程师标为有误的发现不到 1%。

另一件更轻,但更好抄。Tessl 同期发布 Verifiers:规则就是仓库里的一个 JSON 文件,写一条指令、适用条件、以及一组是非题清单,每次改动由一个大模型裁判读相关文件逐条判通过与不通过,用法和 lint、测试一样——本地、pre-commit 或持续集成门禁。它针对的是 lint 管不了、通用 AI 评审又不会每次都查的那些规矩,比如“每条接口都用带类型的响应辅助函数”“面向用户的报错要写清下一步该做什么”。作用域与严重程度放在 tessl.json 里,分提示、警告、错误三档,错误会让构建非零退出。默认只查本次改动碰到的文件,改了规则就重查它覆盖的全部。作者给的适用条件是:有明确的是非答案、证据能在改动文件里看到、且没有现成的 lint 或测试能查。

四、ARC Prize 那一组数字:脚手架值多少分

ARC Prize 公布的 Gemini 4 Argon 成绩,把“外挂那一层值多少”算成了具体分数。在 ARC-AGI-3 上,用供应商适配的脚手架跑出 97.5%、花费约 4800 美元;换成 ARC Prize 的标准脚手架——一种只允许模型带走它自己选择保留的笔记的受限设置——同一模型的验证分数掉到 49.8%,花费反而更高,约 5800 美元。同一个模式此前也出现在 GPT-6 Astra 身上:99.9% 对 62.7%。ARC Prize 还说明,标准脚手架那次跑遇到接口问题,55 个游戏里有 13 个没跑完。另两个版本是 ARC-AGI-1 的 98.5%(每任务 0.16 美元)与 ARC-AGI-2 的 91.3%(每任务 0.32 美元)。

对照
供应商适配脚手架
标准脚手架
保留模型内部推理状态,跨轮续接
只许带走模型自己选择保留的笔记
自动压缩长会话,能接着前面的进度
长会话靠模型自己记,容易重来
ARC-AGI-3 得 97.5%,约 4800 美元
同一模型得 49.8%,约 5800 美元

这组数字不该被读成“分数是假的”,更准确的读法是:公开出来的那个数字,测的是模型加上一整套工程的总和,而这套工程是要自己搭的。ARC Prize 方面的判断是 Argon 的表现形态与此前那款模型接近,也有观察者把这次跳升归因于在游戏上做强化学习。无论哪种解释,结论都指向同一处——把脚手架写出来的人,能力不小。

五、基础设施、治理与企业侧的几则

Perplexity 十月十五日把 SPACE 以 Apache 2.0 开源,这是驱动它自家 Computer 产品的沙箱平台。做法上,每个任务跑在一个 Firecracker 微虚拟机里,隔离边界是虚拟机监视器而不是容器命名空间;网络访问与平台持有的凭据都放在沙箱之外管理,凭据只在需要时注入、不落在沙箱里;快照存增量而不是反复拷整份环境,因此支持暂停、恢复与分支,滚动快照保留一周。它给出的数字是:自七月起每天处理数百万次沙箱创建,中位创建耗时从 185 毫秒降到约 60 毫秒;九月的内部测试中,九种前沿模型配置在拿到虚拟机内根权限的情况下做了一百零八次尝试,没有一次触达宿主机,少数绕过网络限制的问题已修。开源它的理由是让外面的人能审这道边界——同样的权衡,当年浏览器厂商开源传输层加密栈时做过一次。

Anthropic 同一天讲了它怎么给独立评估方开门。它给非营利机构 METR 的六名员工办了入职,配公司硬件、办公场地,以及与自家风险评估团队大致相当的内部系统访问;METR 会公开发表对风险水平、事件与做法的分析,Anthropic 不能否决发布,但能要求在少数预先定义的类别里做删减,METR 可以公开说它认为这些删减是否合理。公司正在做三档访问:低档做范围有限的调查、发布需批准;中档能不经批准发布,信息更多;METR 所在的高档就是员工级访问。文章把这套比作银行监管里派驻检查员的做法。

企业侧有一条值得记下。金融基础设施公司 FIS 十月十五日宣布,它与 Anthropic 合作、以 Amalgamated Bank 为设计伙伴做出的反洗钱调查智能体正式商用。它做的是最费人工的那一半:把分散在核心、支付与数据系统里的证据汇总成一份带出处的调查摘要,同时把每个客户的历史行为与预期套到告警上再判断——季节性现金存入与刻意压在申报门槛之下的存款,在它这里是两回事。治理部分写得很实:每条输出都链到具体记录,每条建议连同推理与分析师的最终决定进不可改的审计链,没有分析师的明确确认不能结案。Amalgamated 按现行流程做的推算是一级告警复核时间降九成以上、二级案件调查时间降约 98%——这是设计伙伴自己的推算,不是上线后的实测。

要点
今天这几条共同的走向
模型这一层正在变便宜、变可得,而把模型变成能交付的结果所需要的那套东西——运行环境、任务分解、通过或不通过的标准、失败时的记录——正变成要自己写、自己维护、自己签字的部分。买模型是采购,搭那一层是工程。

另外几则。微软 AI 十月十五日公布 MAI-Base-2 完成预训练:混合专家架构,每 token 激活 800 亿、总参数 2.8 万亿,在 16000 张英伟达 GB200 上训练 38 天,用约 50 万亿 token(图文语料去重后 4.5 万亿、占 18%);该公司称其在自有留出评测上优于所测的全部开放权重模型,预训练算力效率是所比较的那个万亿级开源基座模型的 4.2 到 12.3 倍,均为自述且模型尚在后训练、无发布日期。OpenAI 把 computer use 能力带进 Chrome:聊天里可以看用户打开的标签页并汇总,工作模式下能操作标签页发消息、填表单、下载文件。英伟达发布 Nemotron 3.5 Super VL(1200 亿参数、每 token 激活 120 亿)与两款端侧模型,其中 Bolt 74B-A9B 用原生 2 比特量化装进 24GB,Bolt E4B 4GB 十月二十三日上线。Black Forest Labs 放出 56 亿参数的 FLUX 3 Image Klein 开源权重,支持文生图、图像编辑与最多十张参考图。谷歌开发者博客发布了两则工程内容:一份是把智能体评测从“跑几个提示词看看”推进到以关键用户旅程定义成功、布尔判定加持续集成门禁的实践指南;另一份是 adk-recipes 仓库按 core、plugins、contrib 三层重构,作为多个智能体平台入口的同一内容来源。

来源与说明

本稿事实均来自下列公开材料,厂商自述与独立核验已在正文中分开写明。

[1]: Introducing Muse Spark Open(参数规模、许可、托管方与苹果优化)—— Meta Superintelligence Labs / 2026-10-15 (https://research.meta.ai/blog/muse-spark-open) [2]: Build with Muse Spark Open(推理运行时、精度、后训练与部署命令)—— Meta Developer / 2026-10-15 (https://developer.meta.com/ai/resources/blog/build-with-muse-spark-open/) [3]: Meta’s 816B-Parameter Muse Spark Open Weights Are Now Public(模型卡结构、显存门槛与自测基准)—— Unite.AI / 2026-10-15 (https://www.unite.ai/metas-816b-parameter-muse-spark-open-weights-are-now-public) [4]: Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio(四台机器实测、TTFT 与功耗)—— Apple Machine Learning Research / 2026-10-15 (https://machinelearning.apple.com/research/mlx-distributed-inference) [5]: MLX RDMA on Mac Studio: 36.7 tok/s on 4 M5 Ultras(吞吐数字与测试口径)—— ExplainX / 2026-10-15 (https://explainx.ai/blog/apple-mlx-rdma-thunderbolt-5-mac-studio-m5-ultra-muse-spark-open-local-inference-2026) [6]: How Meta Built Forum With AI-Native Engineering(八周、验收定义、四项能力、五组件、压测循环)—— Engineering at Meta / 2026-10-15 (https://engineering.fb.com/2026/10/15/ml-applications/how-meta-built-forum-ai-native-engineering/) [7]: Meta Says It Built Its New Forum App With an AI Agent in a Human-on-the-Loop Workflow(两种模式对照与沙箱构建风味)—— TSN Media / 2026-10-15 (https://tsnmedia.org/meta-forum-ai-native-engineering) [8]: Anthropic Makes Code Review for Claude Code Generally Available(四段流程、耗时、分档与内部数字)—— Unite.AI / 2026-10-15 (https://www.unite.ai/anthropic-makes-code-review-for-claude-code-generally-available) [9]: Verifiers: enforce your repo’s rules on every agent change(机制、判定方式、适用条件与局限)—— Tessl / 2026-10-15 (https://tessl.io/blog/verifiers-enforce-your-repos-rules-on-every-agent-change) [10]: Google Gemini 4 Argon Hits 97.5% to Become Second Lab to Top ARC-AGI-3(三个版本成绩与成本)—— MarketBrief / 2026-10-16 (https://marketbrief.now/ai/google-gemini-4-argon-hits-975percent-to-become-second-lab-to-top-arc-ag-4fbef265) [11]: Gemini 4 Argon Scores 97.5% On ARC-AGI 3 With Harness(标准脚手架分数与未完成局数)—— Web Pulse / 2026-10-16 (https://wpnews.pro/news/gemini-4-argon-scores-97-5-on-arc-agi-3-with-harness-only-second-behind-gpt-6) [12]: Open-sourcing SPACE, the sandbox platform behind Computer(隔离模型、凭据处理、快照与实测数字)—— Perplexity / 2026-10-15 (https://www.perplexity.ai/hub/blog/open-sourcing-space) [13]: Perplexity Open-Sources SPACE: The Firecracker Agent Sandbox(许可、仓库结构与逃逸测试口径)—— ExplainX / 2026-10-15 (https://www.explainx.ai/blog/perplexity-open-sources-space-firecracker-agent-sandbox-apache-2-github-2026) [14]: An update on independent evaluators(六名 METR 员工、三档访问、发布与删减规则)—— Anthropic / 2026-10-15 (https://anthropic.com/news/an-update-on-independent-evaluators) [15]: Anthropic grants outside evaluator METR employee-level access in AI safety push(三层体系与未资助说明)—— Channel NewsAsia 转路透 / 2026-10-15 (https://www.channelnewsasia.com/business/anthropic-grants-outside-evaluator-metr-employee-level-access-in-ai-safety-push-6463306) [16]: FIS AML Investigations Agent Now Commercially Available(治理设计、审计链与降幅推算)—— StockTitan 转 Business Wire / 2026-10-15 (https://www.stocktitan.net/news/FIS/fis-aml-investigations-agent-now-commercially-available-to-help-gm4c6zenpgr4.html) [17]: Frontier Pre-training at Microsoft AI(参数规模、训练规模、数据与效率自述)—— Microsoft AI / 2026-10-15 (https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai) [18]: Microsoft AI Finishes Pre-Training MAI-Base-2(规模、算力与未发布时间的核对)—— TSN Media / 2026-10-15 (https://tsnmedia.org/microsoft-ai-mai-base-2-pre-training) [19]: ChatGPT 为 Chrome 用户带来标签页读取与控制能力(功能范围与两种模式)—— AIHOT 转 ChatGPT 官方 / 2026-10-16 (https://aihot.news/items/bme0mytjnlk0d2lk8hf7srzoh) [20]: Open From Data Center to Desktop: NVIDIA Expands Nemotron Family(Super VL 与两款端侧模型的规格、训练数据与采用方)—— NVIDIA Blog / 2026-10-15 (https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/) [21]: FLUX 3 Image Klein(参数、许可、参考图数量与本地门槛)—— Black Forest Labs / 2026-10-15 (https://bfl.ai/blog/flux-3-image-klein) [22]: Evaluating AI agents: moving past the vibe check(关键用户旅程、布尔判定与持续集成门禁)—— Google Developers Blog 转载 / 2026-10-15 (https://www.worldprogramming.org/posts/evaluating-ai-agents-moving-past-the-vibe-check-snqrfe) [23]: Three Layers, One Repo: A Tour of google/adk-recipes(三层结构与多入口共用)—— Google Developers Blog / 2026-10-15 (https://developers.googleblog.com/three-layers-one-repo-a-tour-of-googleadk-recipes/) [24]: AIHOT 精选 · 过去 24 小时(线索查漏用,不作证据)—— AIHOT / 2026-10-16 (https://aihot.news/agent?tab=api) [25]: Stories from October 15, 2026(Hacker News 当日榜单)—— Hacker News / 2026-10-15 (https://news.ycombinator.com/front?day=2026-10-15)

← 晨报归档