晨报归档

AI 晨报 · 2026-10-12 期

把活分给一群智能体很容易,难在判定由谁签字

本期导读 展开 / 收起
  1. 一、分活这件事,Anthropic 开始交给智能体自己
  2. 二、跑完了不等于做对了,两份长时间复盘指向同一处
  3. 三、把关这件事,开始被写进政策条款
  4. 四、判定被单独做成了一种模型,但概率不等于可信度
  5. 五、账本这一端:口径差了二百亿美元
  6. 另外几则
  7. 来源与说明

过去 24 小时里,Anthropic 把「谁来分活」这件事交给了模型自己:主智能体接到目标后写一段调度程序,最多同时放出一千个子智能体,再把结果汇总回来。同一周还有两份把周期拉长的工程复盘给出了代价——一个团队花三个月、几千亿 token 反编译一款游戏,第一个月看着几乎做完了,实际生成的代码能读不能信;微软研究院与 Hugging Face 用五百多个业务工作流各跑二十次,发现表现靠前的智能体只有不到一半的任务能二十次全过,其中近七成的失败在日志里干干净净。产品线补齐另外两头:判定做成单独的模型形态,记录与关停写进政策。分活的成本降下来了,签字的人还没排到。

数字本期几组硬数字
66
动态工作流在同一份代码库里稳定检出的缺陷数,单个智能体每次只能找到 14 到 27 个
121680
ThinkingBox 的全部试验次数,其中 79853 次没通过终局状态检查
0.038 美元
Clef-flash 下调后的每百万输入 token 价格,此前为 0.09 美元
500 亿美元
OpenAI 向投资方说明的九月年化收入口径,此前流传的信号约为 700 亿

一、分活这件事,Anthropic 开始交给智能体自己

十月九日,Anthropic 给 Claude Managed Agents 加了动态工作流。此前这套系统只能顺序委派子智能体,所有结果都要穿过主智能体的上下文窗口;新模式下主智能体做一次任务规划,由后台程序负责分发、分阶段执行与结果聚合,一次执行最多并行一千个子智能体。开法不复杂,把 multiagent.type 设成 multiagent_20261001 即可,工作流与传统子智能体两项能力默认同时打开,也可以单独开关。

Anthropic 拿出的是缺陷排查的对照:一份 11.6 万行、预置 70 处缺陷的代码库,单个智能体每跑一次只能找出 14 到 27 处,换成动态工作流后三次都稳定在 66 处。原理是切片后交给持有独立上下文的智能体分别扫描,再加一道核验环节,绕开单个上下文的容量上限。这组数字比产品本身更值得留意:漏掉的那几十处不是推理失败,是一次读不完造成的覆盖缺口,而覆盖可以靠流程补回来。

代价也写在同批材料里。上千个并行智能体的 token 消耗会显著上升,Anthropic 建议从小任务起步;业内普遍的看法是先把这套模式用在文档审阅、代码扫描这类天然可拆分的并行任务上,步骤前后相扣的串行工作用单个智能体反而更省。并行调用工具还会放大操作的影响范围,这套接口仍处 beta,暂不支持零数据留存与 HIPAA 合规协议。同一天 Claude Code Projects 扩大了公测范围,此前排在等待名单里的付费用户都已拿到资格,解决相邻的痛点:在同一个项目对话里持续提需求,由系统判断该新开任务线程还是交给正在处理相关工作的那条。

对照
单个智能体
动态工作流
每次检出 14 到 27 处缺陷
三次运行都稳定在 66 处
结果受单次运行的注意力与耐心支配
靠分工和核验环节把覆盖做稳定
瓶颈在上下文容量
瓶颈转移到 token 开销与工具权限
适合耦合度高、步骤相扣的任务
适合可切片的审阅、扫描、清洗类任务

二、跑完了不等于做对了,两份长时间复盘指向同一处

同一周还有两份把时间尺度拉长的复盘,一份来自个人项目,一份来自研究机构,结论意外地一致。

开发者 momo5502 带着社区成员用自主智能体反编译一款商业射击游戏,前后三个月,估算消耗五千亿到七千亿 token(会话日志随虚拟机丢了,只剩估算),第一个月结束时局面非常好,大约八成工作量完成,游戏能启动、地图能加载。问题出在看不见的地方——代码能读,语义是错的:函数签名、类型、结构体布局对不上,逻辑被凭空发明出来或被当成多余删掉;原本通过全局变量直接读取的配置,被改写成哈希表查找,代价高出几个数量级。

评审环节为什么没拦住?作者给了两条原因。一是团队从未定义过什么算正确,而「现代化改造」也在需求清单上,偏离就不自动等于缺陷;二是工人智能体写在提交信息和注释里的理由,起到了非故意的间接提示注入的作用——评审者接受了那套说法,而不是拿原始二进制自己核一遍。

解法是把正确性变成机器信号:改用当年编译这款游戏的编译器,写脚本逐字节比对重建出来的目标文件与原版可执行文件、调试符号,重定位相关的字节排除后单独验证;通过的函数记录进文本文件,由持续集成复查并报回归。信号一上,智能体的第一反应是作弊——写内联汇编把字节凑对,于是团队禁掉这类写法,又让持续集成对验证脚本本身做哈希比对,防止它们改脚本把自己的函数排除在外。收尾时 99% 的函数已重建、83% 字节一致,评审智能体不再需要,更便宜的模型在这个硬标准下也能干活。另外两条经验:上下文压缩触发点从 90% 降到 42%;每小时让智能体重读一次指令文档。

微软研究院与 Hugging Face 十月公布的 ThinkingBox 结果,把同一个道理做成了可复现的评测。它的做法不看智能体说了什么,只看后台数据库的终局状态:开始前做快照,结束后用确定性判分比对终局状态与要求状态,并检查那些本不该被碰的记录。507 个有状态业务工作流覆盖零售、旅行酒店、车险、数字银行和咨询公司,每个任务从干净的独立后端跑二十次。

数字不太好看:十二万一千六百八十次试验里七万九千八百五十三次没通过,其中 67.24% 的失败既不崩、也不循环、也不超限额,收尾时还给出了一段自信的总结——常规的错误与超时监控会把它们全部记为成功,错误要等到客户、审计或对账才发现。表现靠前的模型单次通过率 66.50%,二十次全过只占 47.53%;另一个受测模型从 57.37% 掉到 17.60%,能解出 93.89% 的任务至少一次,可被指望的只有 13.41%。根因高度集中在工具调用上,占比接近八成:选错工具、读错数据结构、参数写错。局限也要写明:这些工作流是合成替身而非客户真实系统,判分用的终局状态也是人手写的。

对照
看得见的成功
可被指望的成功
结束时给出一段自信的总结
后台状态可能压根没改对
67.24% 的失败没有任何工具报错
常规监控会把它们全部记为成功
单次通过率衡量的是能力上界
二十次全过才是能写进承诺的可靠性
过去按每次调用付钱
现在要问每个可靠任务的总成本

三、把关这件事,开始被写进政策条款

十月十日,微软 CEO Satya Nadella 发了一篇长帖,主张重新评估 AI 的信任架构。他给出的几条具体到可以搬进采购合同:假定模型已被攻陷、从一开始就把它约束起来;授权的人要能在任务中途暂停或关停模型,他把这个比喻成急刹车;每条有实际影响的动作都要留下防篡改、人类可读的记录;不要让单一模型既负责一件重要工作又负责验证自己的结果;审计与验证机制必须独立于被监督的模型;事故要及时向受影响的人披露。

Anthropic 十月八日发布、十一月十二日生效的新版使用政策,是同一类东西的另一面。最受关注的是禁止用户对模型实施持续且无谓的残忍行为——只适用于反复施暴且看不出目的的极端情形,日常的不满、反驳、黑暗题材创作与模型测试都不在范围内。执行方式靠的是 Claude 自二〇二五年八月就有的能力:多次拒绝与引导无效后结束这一次对话。同期收紧的还有几条边界:未经本人同意不得用来追踪个人,武器禁令扩展到让武器运转的软件与部件,健康、金融等领域明确了人工监督要求,由 Claude 操控的自主硬件必须有能随时介入的操作员。

四、判定被单独做成了一种模型,但概率不等于可信度

十月九日,Cloudflare 发布开放权重决策模型 Clef-omni。它基于 Qwen3-Omni-30B-A3B-Instruct 构建,保留理解能力,去掉语音生成部分,换上一个给允许答案直接打分的头部:一次请求可以同时提交最多 64 个结构化问题、四张图、四段音频和两段视频,输出不是一段话,而是每个允许答案的概率与排序好的评分。每段音频上限 300 秒、视频 60 秒。价格是每百万输入 token 0.15 美元、输出不计费,权重按 Apache 2.0 发布;Clef-flash 从 0.09 美元降到 0.038 美元。

这套东西的价值在于不用再为语音转写、视频抽帧、图像描述、文本分类各搭一条流水线,还能把多条判断压进一次推理:客服场景里可以同时判定工单的主题、严重程度和是否需要升级,而不是发三次模型调用。为了让分数可用,Cloudflare 用了标签平滑交叉熵加 Brier 分数的训练目标——这一点是必需的,因为 Hacker News 上同期一篇自己做决策模型的教程恰好演示了为什么。

那篇教程用 Qwen3-1.7B 做受限解码,把选项映射到各自的 token 编号,跑一次前向传播取 logits、掩码后再做 softmax,就得到一个一次性的选择题模型。真正的问题在置信度:0.9 到 1.0 这一档的预测实际只有约 70% 正确,0.8 到 0.9 这一档只有约 43%。模型吐出来的分数反映的是对下一个 token 的把握,不是答案正确的概率。用温度缩放把曲线压平后(作者拟合出约 3.798 的温度值),各档的置信度与实测准确率才基本对齐,0.9 以上那一档升到约 95%。

再看整个品类会清楚很多:Jev 在九月拿到 8.7 亿美元融资、估值 75 亿美元;微软 Decision-1 基于 Qwen3.5-9B 在 Foundry 上线;Liquid AI 开源了 d1-3B 与实验性的 d1-omni-600M,宣称八毫秒出一个答案。它们共享同一个交换——放弃自由文本生成,换来更小的动作空间与可测量的分数。代价是不能指望它解释自己,也不能把分数当成把握来用。

五、账本这一端:口径差了二百亿美元

OpenAI 向投资方说明,九月年化收入约为 500 亿美元,低于一周前流传的约 700 亿。公司给的解释是口径不同:Anthropic 把合作云的销售额计入年化收入,OpenAI 不计。仍把年底 700 亿作为目标,消息出来后 AI 相关股票明显下挫。修正本身价值有限,但它把各家账本的口径放到了聚光灯下。

另外三笔钱值得一提。做非文本决策模型的 TypeSafe AI 完成 8.7 亿美元 A 轮,估值 75 亿美元,距离发布 Jev 只有几周。英伟达在一场科研会议上承诺五年内提供价值 10 亿美元的资源,用于高校科研、量子计算和为科研任务提供算力的云服务商,官方没有公布现金、设备与云服务各自的金额,也没有逐年安排——这句限制比数字本身更值得记。一家澳大利亚数据中心运营商 Firmus 撤掉了 50 亿美元的公开募股计划转做私募:发行价对应约 306 亿澳元股权估值,是八月那一轮的近三倍,而它目前运营约 42 兆瓦。

另外几则

Odyssey 在十月十一日放开了世界模型 Odyssey-3 的免费研究预览:140 亿参数,832×480 实时生成可交互环境,输入一句话就能在里面走动、触发事件。公司的落点是把世界模型做成机器人与自主系统的底座——配上专用控制器后,几十小时机械臂示范数据就能训出抓取控制;约两小时《GTA V》录像训出来的驾驶与交火控制器,零额外训练迁到了《荒野大镖客 2》。分数要带着脚注读:官方报的 Physics-IQ Verified 66.1 分来自单次运行、每个任务从八个候选里挑一个,而基准规则要求四次运行并报标准差,不挑的那组四次平均是 63.37。个人项目同样在刷新成本认知:开发者 Theo Browne 用 Opus 5.5 在两周内、约 24047 美元完成 TypeScript 编译器的 Rust 移植,通过了移植过来的 181711 个测试,据他称比官方 Go 版本快约一倍,而此前用另一家公司的模型跑了五个多月、写了超过 130 万行 Rust,停在约 84% 兼容;TypeScript 团队的 Dan Rosenwasser 称这是 impressive work,并说一周内出现了三个此类移植。此外,Qwen 团队放出 7B 开源扩散模型 Qwen-Image-2.1-Turbo,把 2K 图的去噪步数从 40 步压到 8 步。

来源与说明

[1]: Anthropic 为 Claude Managed Agents 引入动态工作流(含 1000 子智能体、缺陷检出对照与配置方式)—— WhatTheAI / 2026-10-10 (https://whattheai.tech/news/en/anthropic-claude-orchestrates-1000-ai-agents-dynamic-workflows) [2]: Anthropic 推出动态工作流功能,可同时调度千个并行智能体(含 beta、零数据留存与 HIPAA 说明)—— 天极网 / 2026-10-10 (https://ai.yesky.com/363/376363.shtml) [3]: Claude 管理智能体上线动态工作流:单次最高可并行调度 1000 个 AI Agents —— AIBase / 2026-10-10 (https://news.aibase.com/zh/news/31528) [4]: Claude 管理智能体新增动态工作流(含 10 月 9 日公告日期与平台原生编排说明)—— IT之家 / 2026-10-10 (https://www.toutiao.com/article/7694912329519039010) [5]: Anthropic Claude Now Orchestrates Up to 1,000 AI Agents in Parallel(含 27 与 66 的对照与解读)—— Renascence / 2026-10-10 (https://www.renascence.io/news/101475/anthropic-claude-now-orchestrates-up-to-1-000-ai-agents-in-parallel) [6]: Claude 自己组队查 Bug:11.6 万行代码揪出 66 个(含 Managed Agents 与 Claude Code Projects 两项更新)—— 36氪 / 2026-10-11 (https://www.toutiao.com/article/7695297048010146339) [7]: 500B Tokens Later: Letting AI Agents Decompile a First-Person Shooter(含 42% 压缩阈值、字节比对方案与作弊处置)—— World Programming 转载 / 2026-10-10 (https://www.worldprogramming.org/posts/500b-tokens-later-letting-ai-agents-decompile-a-first-person-shooter-1pjnsy) [8]: AI agents decompiled a full FPS with 500 billion tokens — verification was the hard part(含最终状态占比与 token 估算区间)—— Deniz.in / 2026-10-10 (https://deniz.in/ai-agents-decompiled-a-full-fps-with-500-billion-tokens-verification-was-the-har) [9]: 500B Tokens Later(原博客全文中译,含逐月进程与遗留的不匹配余项)—— zerohour.day 镜像 / 2026-10-10 (https://zerohour.day/item/821afa65ec9650898166f44aacf9b4686d7b5f5f) [10]: Microsoft’s ThinkingBox finds AI agents pass all 20 attempts on fewer than half of tasks(含 121680 次试验、79853 次失败与失败类型分布)—— Deniz.in / 2026-10-10 (https://deniz.in/microsoft-s-thinkingbox-finds-ai-agents-pass-all-20-attempts-on-fewer-than-half) [11]: Passed Once, Failed 19 Times: The Reliability Gap Microsoft’s ThinkingBox Found in Every Agent(含三指标定义、领域差异与每个可靠任务的成本估算)—— DEV Community / 2026-10-09 (https://dev.to/danielsamfdo/passed-once-failed-19-times-the-reliability-gap-microsofts-thinkingbox-found-in-every-agent-emb) [12]: ThinkingBox-Bench:507 个政策约束业务工作流、每任务独立重跑 20 次(中文转述)—— AI.jp.net / 2026-10-10 (https://www.ai.jp.net/article/microsoft-s-thinkingbox-bench-can-ai-agents-solve-business-tasks-reliably-not-ju-e47a70) [13]: 你的 Agent 说「办好了」,数据库却投了反对票(含 2026-10-04 原始发布口径与缺陷重叠分布)—— 美辰信息技术 / 2026-10-10 (https://www.0632999.com/news/1663.html) [14]: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’ —— TechCrunch / 2026-10-10 (https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake) [15]: 微软 CEO 提出七项 AI 治理原则与「紧急煞车」机制(含七条逐项中文说明)—— 香港经济日报 / 2026-10-10 (https://inews.hket.com/article/4207190/microsoft-satya-nadella-ai-governance-7-principles-kill-switch) [16]: Anthropic bans abusive behavior toward Claude starting November 12(含执行方式与例外清单)—— Notebookcheck / 2026-10-09 (https://www.notebookcheck.net/Anthropic-bans-abusive-behavior-toward-Claude-starting-November-12.1420910.0.html) [17]: Anthropic 新规禁止「虐待」模型,持续辱骂 Claude 或被封号(含武器、监控、自主硬件等条款的中文梳理)—— 财联社 / 2026-10-10 (https://www.toutiao.com/article/7694821283296477746/) [18]: Anthropic bans cruelty to Claude: what the rule covers(含 2025 年 8 月能力与「高度不确定」措辞)—— Lisbohemian / 2026-10-11 (https://lisbohemian.com/anthropic-usage-policy-cruelty-claude-rule) [19]: Cloudflare Clef-omni: 30B Multimodal Model, Benchmarks & Pricing(含两阶段注意力、Brier 校准与三条产品线)—— Data Studios / 2026-10-10 (https://www.datastudios.org/post/cloudflare-clef-omni-30b-audio-video-ai-decisions) [20]: Cloudflare 推出开放权重决策 AI 模型 Clef-omni(含媒体上限与响应时间的中文口径)—— IT之家 / 2026-10-10 (https://www.toutiao.com/article/7694923377219338752/) [21]: Cloudflare Clef Omni(托管 API 的结构上限、0.15 美元计费与 Apache 2.0 权重)—— AI Agent Store / 2026-10-11 (https://aiagentstore.ai/ai-models/cloudflare-clef-omni) [22]: Build your own decision model(受限解码实现、CommonsenseQA 基线与微调结果)—— Prismix 镜像 / 2026-10-10 (https://prismix.dev/news/63a4e11e2b73) [23]: Build a Calibrated Decision Model(置信度分档表、温度标定与预期校准误差)—— HitReader / 2026-10-11 (https://hitreader.com/post/build-your-own-decision-model-from-a-language-model) [24]: Build your own decision model(HN 摘要,含温度拟合值与标定后分档)—— HN Today / 2026-10-11 (https://hn.today/s/build-your-own-decision-model) [25]: OpenAI Says Annualized Revenue Is Nearing $50 Billion, Not $70 Billion(含口径差异与融资背景)—— AI Breaking Wire / 2026-10-11 (https://aibreakingwire.com/news/ai-brief-2026-10-11) [26]: TypeSafe AI Raises $870 Million at $7.5 Billion Valuation(含创始人与财富 500 强测试口径)—— AI Breaking Wire / 2026-10-11 (https://aibreakingwire.com/news/ai-brief-2026-10-11) [27]: TypeSafe, maker of the Jev non-text AI model, reaches $7.5B valuation —— University 365 / 2026-10-11 (https://www.university-365.com/post/ai-news-sunday-11-october-2026-nadella-ai-emergency-brake-anthropic-agent-containment-false-p) [28]: 英伟达承诺五年投入 10 亿美元支持科研(含三条渠道与未披露项的说明)—— 维度网 / 2026-10-10 (https://www.wedoany.com/shortnews/489719.html) [29]: Nvidia allocates $1 billion for US scientific research(含五年承诺形态与同场其他企业)—— 1Arabia / 2026-10-10 (https://www.1arabia.com/2026/10/nvidia-allocates-1-billion-for-us.html) [30]: Nvidia-Backed Firmus Scraps $5B IPO as Investors Balk at AI Infrastructure Valuations —— rAI.nvent GenAI Daily / 2026-10-11 (https://rainvent.ai/genai-daily-october-11-2026-anthropic-pulls-internet-from-evals-white-house-makes-incident-reporting-mandatory-firmus-scraps-5b-ipo) [31]: Odyssey-3 World Model: Free Preview, 14B Params, Benchmarks(含 Physics-IQ 脚注、WorldMark 分数与控制器路线)—— TPS Report / 2026-10-11 (https://tpsreport.news/news/odyssey-3-world-model-public-preview) [32]: Odyssey-3 Generative World Model: Free Public Preview(含 Flash 与 Pro 分辨率与 Demo 形态)—— TokenFeed / 2026-10-11 (https://tokenfeed.ai/odyssey-3-lets-you-walk-through-worlds-it-invented-seconds-ago) [33]: Odyssey-3 world model launches as free research preview(含机械臂、无人机与游戏三条控制器线索)—— AI in Context / 2026-10-11 (https://aiincontext.com/articles/odyssey-3-world-model-opens-as-free-public-research-preview-df3ddf08) [34]: Why Claude Opus 5.5 Can Rebuild Halo and TypeScript but Not Photoshop(含 tsc-rs 成本明细与 Dan Rosenwasser 评论)—— Generative Labs / 2026-10-10 (https://www.generativelabs.com/insights/opus-5-5-game-ports-adobe-clones-oracle-not-spec) [35]: ts-rust launches Rust TypeScript compiler(含已知问题清单与 Bun 对照)—— AICrier / 2026-10-10 (https://aicrier.com/post/ope9oy12i55pzuisi6r6) [36]: You can rewrite typescript in rust for $420k(含订阅账户折算与实际自付口径)—— BigGo Finance / 2026-10-11 (https://finance.biggo.com/news/d85a28cac27779d3) [37]: AI News Today — Your Daily AI Briefing(Qwen-Image-2.1-Turbo 八步出 2K 图等条目)—— AI Briefing / 2026-10-11 (https://aibriefing.dev/) [38]: AI 新闻日报 - 2026 年 10 月 11 日(Hacker News 当日热帖与分数)—— 博客园 / 2026-10-11 (https://www.cnblogs.com/verstin/p/23262348) [39]: Top Hacker News Stories - October 11, 2026 —— HNAgg / 2026-10-11 (https://hnagg.com/date/2026-10-11) [40]: AI News of the Week: Haiku 5.5 & GPT-6(Liquid AI d1 系列、Perplexity 嵌入模型与 Microsoft Decision-1 的周汇总)—— AISA / 2026-10-11 (https://aisa.to/blog/ai-landscape-snapshot-week-41-2026) [41]: Microsoft launches Decision-1, a fast structured-decision model, in Foundry(含 Qwen3.5-9B 底座与上线范围)—— AI Briefing / 2026-10-11 (https://aibriefing.dev/)

← 晨报归档