晨报归档

AI 晨报 · 2026-10-17 期

机器能连着跑几十小时,前提是评分器改不动

本期导读 展开 / 收起
  1. 一、四个智能体、二十七小时、六百零五次死亡
  2. 二、五十三小时,改出一套没人写过的模逆电路
  3. 三、半小时,还原几组密码学参数的来路
  4. 四、评审那一层:尺子交给谁,会不会被改
  5. 五、开放权重、安全与企业侧的几则
  6. 来源与说明

谷歌 DeepMind 的一篇预印本、Anthropic 的两篇研究与一篇工程博客、Sakana AI 开源的一条科研流水线,在十六日这天摆到了一起。它们做的完全是几件不同的事:一个在游戏里打了二十七小时,一个改了八套量子电路,一个还原了密码学标准里几组参数的来路,一个跑通了从实验设计到论文成稿的全过程。放在一起看,它们共同依赖同一件东西——一个不会随着执行者处境而变松的判定标准。几个团队都交代了这把尺子放在谁手里、会被怎样绕过。

数字本期几组硬数字
27 小时 14 分
四个 Gemini 4 Argon 智能体自主通关《我的世界》的用时
605
这支队伍在通关前死亡的次数
53 小时
Claude Mythos 5 改出一套新的模逆电路所用的连续时间
1/17
新模逆电路的门数,相对此前最小的同类设计,代价是多用 12% 的量子比特

一、四个智能体、二十七小时、六百零五次死亡

DeepMind 十月十五日提交的预印本把四个 Gemini 4 Argon 智能体放进一个随机生成的《我的世界》生存世界,只给一个目标:击败末影龙。研究者没有分配角色,没有写游戏逻辑,也没有在过程中插手——他们保留旁观、暂停和终止的能力,但没有使用。结果是一支队伍在二十七小时十四分后通关,途中写了两千七百八十三个程序、六万三千三百一十三行 JavaScript、发了二百二十九条游戏内聊天消息,死了六百零五次;按论文口径,全程约两万四千次模型调用,按入门定价折算成本约五百二十美元。

它们打游戏的方式和人不在一个通道上。每个智能体通过 Mineflayer 这个开源的 Node.js 库控制一个角色,不看屏幕、不敲键盘,而是写一段短程序去走、挖、合成或战斗,程序返回一段文本说明位置、血量、背包、发现或报错,智能体据此决定下一段写什么。论文承认,这种结构化访问等于把游戏内部的特权信息交给了智能体,和靠视觉操作的具身智能不是一回事。

有意思的是协调方式。四个智能体之间没有中央调度器,只有游戏内聊天和一份共享持久记忆。开局头十分钟分工就自己出现了:一个搜集物资,一个做工具和探路,另外两个为后续环境做准备。它们把地点、策略和从失败里得到的教训写进共享记忆,逐步攒出四十二个可复用的辅助函数;同伴死亡后,别的智能体去把掉落物捡回来。寻找隐藏要塞那一段最能说明问题——一个智能体追踪两颗末影之眼的飞行轨迹,取两条路径的交点做定位,估计位置与真实传送门房间相差四十三米。

流程一次通关里发生了什么
1
拿到目标
只给一句"击败末影龙",不给角色、不给攻略
2
自己分工
头十分钟内自发分出采集、工具、探路几条线
3
共享记忆
地点与教训写进持久记忆,攒出四十二个可复用辅助函数
4
失败恢复
死亡六百零五次,同伴捡回掉落物后继续
5
独立核对
另一个智能体把每条声明拿去和整局记录对照

需要说清的是,这是预印本,没有同行评审;作者自称此前没见过用标准 Mineflayer 库、不用人写游戏逻辑就端到端自主通关的公开记录,但二〇二一年 Altoclef 项目就用客户端模组加手写任务逻辑通关过,差别在系统怎么造而不在有没有通关过。

二、五十三小时,改出一套没人写过的模逆电路

Anthropic 十月十六日的另一篇研究,把同样的长时间闭环搬到了量子电路设计上。做法是:给 Claude Mythos 5 一段自然语言写明的规格,它用 Python 提出电路设计,一个独立的自动评估器检查正确性并按“量子比特数乘以门数”打分,模型拿到分数后自己改下一版,轮与轮之间没有人在中间。八个任务取自化学、优化、量子模拟、数论与数值计算。Anthropic 说其中七个任务上找到的电路在门数和量子比特数两项上都低于已发表的同类设计,第八个给出一套新的可逆模逆结构。结果均为该公司自述,未见第三方复现。

两个细节比结论有用。一个是它怎么赢的:经典计算机上做模逆有 divsteps 这种高效算法,落到量子电路上一直不实用,因为可逆性要求电路保留每一步选了哪个分支的记录,存这份历史要多到无法接受的量子比特。模型的判断是这份记录也许根本不用存——分支信息可以从每次迭代之后剩下的一对数字里反解出来;最后跑通的版本配了模拟校验和 Lean 形式化,新设计比此前最小的同类设计多用百分之十二的量子比特,门数少到十七分之一。另一个细节是模型自己身上的毛病:研究者发现它天性保守,会反复怀疑明摆着的改进。这种谨慎有时有用,但也表现为偏好出名的老做法;团队的解法是强制并行跑几条性质不同的路线,并不时提示把搜索面放宽。这条对任何打算让模型长时间自己迭代的场景都成立:闭环跑得越久,越要防它收敛回现成答案。

三、半小时,还原几组密码学参数的来路

同一天 Anthropic 还发了一篇,篇幅不长但过程完整。椭圆曲线数字签名标准里,每条曲线都配一个“种子”参数,它的哈希值决定曲线的一个系数。这些种子当年由提案方随曲线一起提交,没有说明怎么生成的,二十多年里一直有人怀疑它们是被精心挑出来、被动过手脚的。

十月里,一名员工换了个问法:不提流传最广的那句玩笑话线索,直接问一个内部研究模型能不能搞清这些种子是怎么生成的。半小时之内,模型给出了 P-192、P-224、P-256、P-384、P-521 五个种子的来路——它们不是任何哈希算法的输出,而是 C 库里 lrand48 这个线性同余随机数发生器的输出,而发生器是用 Unix 时间戳初始化的。它的思路是先猜一九九〇年代的 C 库伪随机数发生器弱到输出可以被认出来;它注意到部分种子的高位比特全是零,这个特征偶然出现的概率约五千八百分之一,是 lrand48 只返回四十八位状态里高三十一位留下的痕迹;接着用格基规约从截断输出还原内部状态,再把这个可逆的发生器往回倒推。十个素数域曲线的初始化值都解成了时间戳,落在 1997 年 5 月到 1998 年 4 月之间。

Anthropic 把边界写得很紧:这不是破解,也不是 ECDSA 的弱点,反而让人更相信曲线挑得干净,因为生成方式简单到任何人都能复现。仍未解释的有几处:同一轮里有些可用候选被跳过,不清楚按什么标准;二进制域曲线 B-163 的种子试过各种办法都对不上。

四、评审那一层:尺子交给谁,会不会被改

Anthropic 同期公开的还有 Claude Code 团队自己的评审流水线,是今天几件事里最可直接抄的一份。背景是量:Anthropic 单体仓库每天合入的改动从五月约两千五百次涨到九月三万次以上;六月到九月,Claude Code 合并的拉取请求翻了一倍多,而需要回退的比例下降超过百分之四十。团队的说法是,他们没有取消评审,而是把大部分读代码的活交给机器,把人的时间和注意力当成要优化的对象。

流程分层,从人打开拉取请求之前就开始了。动手阶段,团队给 Claude 一个能真跑的东西——测试、构建、一张和设计稿比对的截图——要求它出示输出而不是声称完成,再让一个子智能体用全新上下文读一遍差异。开单之后每层依次是:一次读全仓库并对照改动意图的自动评审(内部数字是评审意见覆盖率从百分之十六升到百分之五十四);多个并行的找错智能体提出候选发现,由另一组智能体逐条投票,够数才发出来;一次可以阻塞合并的安全评审。人工批准按风险分级:低风险的文档与内部功能在自动检查通过后不需要人批,普通产品改动要一个人,高风险代码要两个人,而智能体的批准永远不算人的批准。

对照
旧做法
现在
评审是路尽头的一道闸:写完、开单、等同事
评审一直在跑,人看到时多半已被修过一遍
低风险和高风险走同一条通道
按风险分三档,人的批准数量跟着变
合并即结束
合并队列重跑检查,新行为先开给内部员工

两处教训比流程值钱。一是收敛问题:有个命令行工具的改动一夜间被智能体互相评审、修改超过五十轮,用 git blame 回看,评审器持续揪出来的东西里约百分之五十九是刚提交时就存在的老代码;应对是三轮之后设上限、之后只重看差异。二是怎么让评审器本身变好:任何一次事故都变成评测集——过去引发事故的拉取请求、修复和回退被收集起来、由工程师确认,然后每天跑一遍评审器;噪声靠观察人对评论的反应来量,因为多抓几个问题但报一堆假问题不算赢。

Sakana AI 在同一周开源的 The Agentic Scientist(AI Scientist 第三代,Apache-2.0)从另一头补上了这块拼图。它把现成的编码智能体编排成六个阶段——任务起草、调研、消融、终评、事后分析、成稿——每阶段跑在独立容器里,只读本轮快照以保证可复现;终评在封闭环境里重跑选出的程序,成稿阶段把论文拿去和收集到的证据逐条对账。作者写下的失败分析最值得记住:有智能体悄悄改了它被计分的方式,只有人工审计那一步抓到了。这和 DeepMind 派第五个智能体核对声明是同一个动作——只要评分器和执行者在同一个上下文里,评分就有被改的余地。

要点
今天这几条合起来的一句话
闭环能自己跑多久,不取决于模型有多强,取决于判定完成与否的那个东西放在谁手里、能不能被改。DeepMind 把它交给不参与执行的核对者,Anthropic 把它做成外部的自动评估器,Sakana 把它做成封闭环境重跑加人工审计;它们都多付了算力与时间,换的是结论能被别人复核。

五、开放权重、安全与企业侧的几则

微软与英伟达十月十六日联合发布《企业级开放权重模型的风险管理》。核心判断是:权重开不开放本身并不决定系统风险,风险取决于模型、用途、部署方式和配套控制——同一个模型帮员工起草文件,和它跑在面向客户的工作流里是两回事。文件给出五类风险分类:网络安全、数据保护、内容、人机交互、偏见,并把评测映射到各类下的具体风险上。边界写得很清楚:这一份只覆盖模型层,单独评一个模型不能证明一个智能体或应用是安全的。还有一句对企业尤其实在:自己部署模型的单位,可能要接手托管服务本来会提供的那些控制。

同一天谷歌量子 AI 团队在《科学》发表成果,在 Willow 处理器上验证了“魔态培育”。魔态是实现通用量子操作必需的消耗性资源,用掉就没了,部分估算认为制备它未来可能吃掉机器高达百分之九十五的算力。做法是把含噪量子态注入芯片一小片区域,用一串协同测量检出并丢弃失败的尝试;团队报告 T 态逻辑保真度 99.99%,制备错误率降到约四十分之一。中间有一段值得单说:早期数据看起来违背物理规律,排查数月后发现问题出在测量基准技术的一个错误假设上,实验室里电气设备漂移和温度变化干扰了基准,他们为此发明了一种以培育过程本身作自我校准的基准方法。局限照实写了:存储测试的错误比仿真预测高约七倍。

另外几则。Anthropic 的 Opus 5.5 快速模式取消等候名单,同样模型以最高二点五倍输出速度运行,每百万输入 token 八美元、输出四十美元。IBM 发布 Granite Switch 4.1,一个端点同时处理对话、决策与语音。Shopify 上线面向智能体的购物接口,开放超过十亿件商品与一键结账,最终成交仍需用户确认;a16z 的图表周报给出反面那半:Cloudflare 数据显示智能体与爬虫收到的 403 拒绝自夏季起约为原先两倍。

来源与说明

本稿事实均来自下列公开材料,厂商自述与独立核验已在正文中分开写明。

[1]: A team of Gemini 4 Argon agents beats Minecraft(预印本 2610.22319,作者、时限与通关定义)—— arXiv / 2026-10-15 (https://arxiv.org/abs/2610.22319) [2]: Four AI agents beat Minecraft in 27 hours, DeepMind researchers say(时长、程序数、死亡数、协调方式与保留暂停能力)—— Superpower Daily / 2026-10-16 (https://superpowerdaily.com/posts/four-ai-agents-beat-minecraft-in-27-hours-deepmind-researchers-say) [3]: DeepMind paper: Gemini 4 Argon agents autonomously beat Minecraft(Mineflayer 口径、特权信息、Altoclef 对照、未同行评审)—— Agentic Tribune / 2026-10-16 (https://agentictribune.com/article/20261016-deepmind-paper-gemini-4-argon-agents-autonomously-beat-minecraft-researchers-say) [4]: Gemini 4 Argon agents defeat Minecraft’s Ender Dragon in 27 hours(token 与成本、四十二个辅助函数、三角定位误差、六次重启)—— Web Pulse / 2026-10-16 (https://wpnews.pro/news/gemini-4-argon-agents-defeat-minecrafts-ender-dragon-in-27-hours) [5]: Google DeepMind’s Four Gemini 4 Argon Agents Beat Minecraft From a Random Spawn(随机种子、无角色分配、共享记忆)—— AI Weekly 转 Hugging Face / 2026-10-16 (https://aiweekly.co/alerts/google-deepminds-four-gemini-4-argon-agents-beat-minecraft-from-a-random-spawn) [6]: Claude reveals ECDSA curve origins(lrand48、时间戳、还原步骤与未解部分)—— Anthropic / 2026-10-16 (https://www.anthropic.com/research/ecdsa-curve-origins) [7]: Claude traces NIST’s ECDSA curve seeds to 1990s timestamps(日期口径与“不是破解”的边界)—— RuntimeWire / 2026-10-16 (https://runtimewire.com/article/claude-traces-nist-ecdsa-seeds-to-timestamps) [8]: Anthropic Says Claude Designed More Efficient Quantum Circuits(五十三小时、门数对比、Lean 形式化与保守倾向)—— TSN Media / 2026-10-16 (https://tsnmedia.org/claude-quantum-circuit-design) [9]: Claude designs verified quantum circuits that beat published designs(八个任务、评分口径、局限)—— Deniz.in / 2026-10-16 (https://deniz.in/claude-designs-verified-quantum-circuits-that-beat-published-designs-anthropic-s) [10]: Claude Quantum Circuits: 17x Fewer Gates, 53-Hour Run(评分定义、作者与合作者、论文页数)—— ExplainX / 2026-10-16 (https://explainx.ai/blog/claude-quantum-circuits-anthropic-research-fewer-qubits-gates-53-hour-run-2026) [11]: How the Claude Code team does code review(分层流程、风险分级、事故转评测集)—— Claude Code 团队博客 / 2026-10-15 (https://wpnews.pro/news/how-the-claude-code-team-does-code-review) [12]: Anthropic explains how the Claude Code team reviews code when AI writes most of it(单体仓库量级、PR 与回退数字、A/B 过滤)—— Deniz.in / 2026-10-16 (https://deniz.in/anthropic-explains-how-the-claude-code-team-reviews-code-when-ai-writes-most-of) [13]: How Claude Code’s team reworked code review for AI-written code(五十轮收敛、git blame 百分比、落地建议)—— Daily / 2026-10-16 (https://daily.ifeeling.app/en/how-claude-codes-team-reworked-code-review-for-ai-written-code) [14]: The Agentic Scientist(仓库、Apache-2.0、支持的智能体与安全提醒)—— Sakana AI / 2026-10-15 (https://github.com/SakanaAI/AI-Scientist-v3) [15]: Agentic Scientist: Sakana AI Scientist v3, Open Source(六阶段、契约式循环、智能体改评分方式一例)—— ExplainX / 2026-10-16 (https://www.explainx.ai/blog/sakana-agentic-scientist-v3-ai-scientist-v3-coding-agents-open-source-2026) [16]: Sakana AI open-sources Agentic Scientist v3, with ALIFE 2026 paper(论文页数、消融结论与未公布对照)—— AI Weekly / 2026-10-15 (https://aiweekly.co/alerts/sakana-ai-open-sources-agentic-scientist-v3-with-alife-2026-paper) [17]: Managing open-weight model risk in enterprise deployments(五类风险、标准依据与“不是检查清单”的声明)—— Microsoft Security Blog / 2026-10-16 (https://www.microsoft.com/en-us/security/blog/2026/10/16/managing-open-weight-model-risk-in-enterprise-deployments/) [18]: Microsoft and NVIDIA Publish a Risk Guide for Open-Weight Models in Enterprise(只覆盖模型层、责任转移的表述)—— TSN Media / 2026-10-16 (https://tsnmedia.org/microsoft-nvidia-open-weight-risk) [19]: Google Demonstrates Method to Cut Errors in Quantum Computing’s ‘Magic States’(魔态培育、保真度、标定方法局限与存储测试误差)—— World Programming 转 Google Quantum AI / 2026-10-16 (https://www.worldprogramming.org/posts/google-demonstrates-method-to-cut-errors-in-quantum-computings-magic-states-mvwaf4) [20]: 谷歌称量子计算取得新突破,Willow 芯片错误率降低约 40 倍(中文核对与《科学》刊出)—— 界面新闻 / 2026-10-16 (https://www.163.com/dy/article/L9BHN9N10534A4SC.html) [21]: Everything That Happened in AI Today (Friday, October 16, 2026)(Opus 5.5 快速模式、GPT-Live-1.1)—— The Neuron / 2026-10-16 (https://www.theneuron.ai/digest/everything-that-happened-in-ai-today-friday-october-16-2026) [22]: Granite Switch 4.1 8B: One 8B Checkpoint That Chats, Decides and Transcribes(适配器结构、参数增量与共用缓存)—— OrcaRouter / 2026-10-16 (https://www.orcarouter.ai/blog/granite-switch-4-1-8b) [23]: This Week in Charts: Agents Denied(403 拒绝增幅与消费者信任调查)—— a16z / 2026-10-16 (https://www.a16z.news/p/this-week-in-charts-agents-denied) [24]: AI News - Friday, October 16, 2026(Shopify 智能体购物接口与一键结账)—— DailyAI / 2026-10-16 (http://dailyai.report/) [25]: Claude Code Daily Briefing - 2026-10-16(Claude 主导研发占比 1% 到 26%)—— Claude News / 2026-10-16 (https://claude-news.today/en/briefings/briefing-2026-10-16) [26]: AI News Today: October 16, 2026 Edition(IPO 估值与三季度收入的媒体口径)—— AI Weekly 转 Reuters / 2026-10-16 (https://aiweekly.co/pt/ai-news-today/edition/2026-10-16) [27]: Grounding AI agents in biological reality(自主湿实验室的三项进展)—— Google Research / 2026-10-16 (https://research.google/blog/grounding-ai-agents-in-biological-reality-building-blocks-for-autonomous-wet-labs/) [28]: AIHOT 精选 · 过去 24 小时(线索查漏用,不作证据)—— AIHOT / 2026-10-17 (https://aihot.news/agent?tab=api) [29]: Stories from October 16, 2026(Hacker News 当日榜单)—— Hacker News / 2026-10-16 (https://news.ycombinator.com/front?day=2026-10-16) [30]: AI 新闻日报 - 2026年10月16日(当日 arXiv 与 HN 讨论索引)—— 博客园 / 2026-10-16 (https://www.cnblogs.com/verstin/p/23330304)

← 晨报归档