今天排在前面的那条来自盖伊医院的皮肤科医生马格努斯·林奇。他拿 200 例活检确诊的皮肤病灶做了一次六选一:两个前沿模型各判对 84 例和 85 例,而一张微调二十分钟的 2015 年 Inception v3 判对 125 例[1]。另外几则分别来自 OpenAI、vLLM、谷歌云和 Voltus,落点比模型榜单更靠账单这一层——块钱花在哪,开始有了能自己复核的凭据。
一、判皮肤病这件事,一张 2015 年的网络压过了前沿模型
林奇的做法没有用到新架构。他取出 2015 年的 Inception v3,用 ISIC 档案库里 68,011 张公开皮肤病图像微调了二十分钟,然后让它和一个得给出六选一答案的前沿模型组同做一道题:每张图给出六种最可能的诊断之一[1][2]。结果按总数算是 62% 对 42%,中间的二十个百分点差得很开,这个量级不需要做统计检验也能看见趋势。
真正有内容的是错在哪。这批病灶里黑色素瘤 30 例,Inception v3 首诊判对 13 例;GPT-6 Astra 把 75 张图判成了基底细胞癌,而这批里真正的基底细胞癌只有 25 例,被判错的这批里带着 14 例黑色素瘤[1]。换句话说前沿模型不是答得模糊,是把最常见的那一类当成了默认答案——一个泛化到很宽范围的模型,先验会自动往高频类别靠。
改一句问法就有变化。不再要求给诊断、改口问要不要看医生时,GPT-6 Astra 在 100 例确诊黑色素瘤里给出了 99 例就医建议[1]。这个落差说明它在训练里学到的“这类图像危险”这件事是有的,问题出在被要求一定 six 选一的时候。允许它再给一个备选,Inception v3 的命中数也从 125 升到 173[1]。
作者把能力界限写得比结论详细。只有 200 例、30 例黑色素瘤,他自己说这个量级看得出趋势,不足以给很接近的结果排序;每个模型每个病灶只跑一次,换一轮回答会变;这批病灶全部做过活检,等于专挑临床上本来就可疑的难例;MILK10k 自 2025 年公开,前沿模型可能训练时见过,而真见过的话对模型反而有利[1]。他也自认 Inception v3 只是基线,当下做法是用更多数据训练图像 Transformer 集成[1]。
同一批材料里还有一个更贴近门诊的数字。用普通存档图像训练出的那个 CNN,在“这个病灶该处置还是可以放走”这个二分问题上做到了 0.96 的曲线下面积[2]。窄到二选一之后,两千多类分类做不成的事,一个专门判活的网络有可能做成。
二、换脚手架带不来成绩,带来的是三倍账单
山东大学研究者刘扬泽与韩仲义把这件事测到了纸面上。他们把五个模型分别装进 Claude Code、OpenCode 和 mini-SWE-agent,在同一批任务上跑了一遍:换脚手架带来的成绩差异,不超过把同一套配置重跑一次的波动[3]。而成本这边,同一模型同一批任务,不同脚手架之间单任务花费差到 3 倍[3]。
两个对照数字撑住了前半句。同一套配置重复跑一次,逐题结果由通过变失败或反之的比例是 13%;把这一步重复十次,分数波动区间是 2.2 到 6.0 个百分点,比多数厂商宣传的脚手架差距还宽[3]。也就是说,一个 A/B 测试跑出来的两个百分点,很可能只是噪声。题目池取自 SWE-bench Verified 的 447 个任务,另抽出 45 个最难的单独看[3]。
钱花在哪则是论文的另一半。Claude Code 每一步都要把 16,581 个 token 的系统提示与工具定义重发一遍[3]。这是结构性重复付费,任务越长越明显,跟模型好不好没关系。作为参照,GLM-5.3-Flash 在 Claude Code 下单次试探的平均花费是 1.81 元[3]。
论文的短板作者自己写了:预印本,没有同行评审;主实验只跑 SWE-bench Verified 一个基准,另在 Terminal-Bench 2.1 上抽验了一小组;闭源模型只在自家脚手架里跑过,能不能推广到前沿闭源模型还不知道;多数配置在他们自己的跑表里只跑了一次[3]。
三、OpenAI 把承载上亿用户的存储翻成了 Rust
OpenAI 基础设施团队放出了 Habitat 的第二篇工程笔记。这个平台目前管着 500 PB 数据,每秒处理 7000 万次请求,其中九成是读[5]。改造之后全球读取延迟的中位数从 120 毫秒降到 10 毫秒[5][6]。
过程不是一条直线。团队先试了给每个租户单独分配物理分区,这条路在容量、成本和数据均衡上都撞了墙,最后绕一圈回到共享多租户容器,靠分区二次拆分、选择性复制和一层用Valkey 缓存把争抢压下去[5]。新无服务器模式下单个物理分区能撑到每秒 10000 个请求单位[5]。团队也给各段容量留了时间限定,那句“数月没再出现过争抢”不是永久承诺[5]。
另一件事放在更后面:把服务从 Python 整体翻成 Rust 的工程师人数是 2 个,用一个季度完成,中间大量借助自家编码智能体[5]。OpenAI 没把选择性复制、缓存和 Rust 重写各自的贡献拆开,也承认大量沿用了 Cosmos DB 内置能力,相当于把多租户排班的账先记到以后[5]。那句 12 倍指的是存储读取的中位延迟,不是一次对话的端到端响应时间[5]。
四、通用引擎追平了厂商专用引擎
vLLM 团队与 Inferact 报告的结果,是把 DeepSeek-V4.1-Flash 的在线服务放到一台 GB300 NVL72 上,做到单卡每秒 95.4 万 token,含缓存命中输入、未缓存输入与输出三部分,是十月初单机部署结果的 7.9 倍[7]。在批处理 8 到 256 的区间里,其解码吞吐与 DeepSeek 自研引擎 DeepInfer 公开曲线的差距被压到 6% 以内[7]。每个 token 的全局 KV 缓存占用降到 890 字节,靠的是跨层共用一份 KV 和 FP4 量化[7]。
对要做选型的人,另外两个数更实用。基准报告里每个用户的每秒 token 数在第 90 百分位是 196;单独开一条低延迟解码路径之后,单用户能到 826[7]。 这两条曲线要对着限定条件看:这组在线服务的数字全部出自 vLLM 自己的构建,DeepInfer 只公布了离线模式下的曲线;每 token 成本是按 DeepSeek 谷时价格与第三方总拥有成本模型折算的,不是账单[7]。还有一处反直觉的发现,DEP4 的每卡吞吐反而只有 DEP2 的百分之八十几,并行度不是越高越好[7]。
五、两个版本的同款模型,与另外几则
谷歌云把 Anthropic 自运维版本的 Claude 转成了正式可用。现在同一个模型在谷歌云上有两种买法,同价、同一天上线,差别只在谁来当数据处理方[9]。选 Anthropic 运维版,就拿不到谷歌那套客户自管密钥、服务边界控制与地区留存;选谷歌运维版,则要等新能力被集成进去才用得上,而谷歌没给时间表[9]。另一侧的三款闭源模型还在私有预览,连单价都还没公开[9]。
亚马逊云科技首席执行官安迪·贾西在一档播客访谈里说,AWS 2026 年的主力算力产能已经售罄,2027 年基本订满,2028 也有一部分被预订[10]。亚马逊 2026 年计划投入 2200 亿美元资本开支,贾西说即便如此仍有大量需求接不下[10]。同期口径里 AWS 第二季度营收 422 亿美元、同比增 36.7%,生成式 AI 兴起三年后年化收入 250 亿美元,Trainium 已拿到 2250 亿美元的未来收入承诺[10]。这是播客口径,不是财报数字,第三季度财报要到 10 月 29 日才发;网上传的把 422 亿当成第三季度数是错的[10]。
容量紧张的下游动作也有一条。谷歌与分布式能源公司 Voltus 把六月签的合约扩容十倍到 1070 兆瓦,做法是付费让家庭与企业在用电高峰让出负荷[11]。这套办法上限取决于有多少用户愿意参加,储电放电也只能撑有限时长,替不了七乘二十四小时的基荷供电,各方自己也只是把它当成短期办法[11][12]。PJM 电网覆盖 6700 万用户、跨 13 个州与哥伦比亚特区[11]。
模型这边两则。Block 旗下 Dessa 实验室发布了全双工语音模型 Dessa,只喂人类对话录音、全程不经过文字,训练用掉一台英伟达 GB200 NVL72,官方称 M4 Max 及以上的 MacBook 能本地实时跑[13][14]。没有论文没有基准分,参数量、训练时长与训练数据量一项也没公布,暂不开放试用,权重、代码与许可证都没放,先给一小批安全研究者[13]。
Hugging Face Bio 联合那不勒斯费德里科二世大学与中关村学院放出了 Carbon-X,一个 14.8B 参数的密集 DNA 语言模型,底座是 Qwen3-14B,在五项 DNA 基准上平均 66.7%,与 GPT-6.1 Sol 差 0.8 个百分点[15][16]。得分高的一项是 BioReason Coding 上的 74.9%,偏低的一项是 GenomeQA 剪接位点题的 29.8%[16]。模型卡写明没做临床验证,一次最多喂五万左右碱基对,训练数据里刻意排除了病毒序列[16]。Hugging Face 自己的估算是刷完 ClinVar 里那批意义未明变异约 300 美元,还没有独立方复算[16]。
AWS 与加州大学伯克利分校 Hydro 项目开源的 Infinity 昨天已经提过一次,今天补一个和前面几则对照的点:它把工具调用做成挂起点,因此智能体等待期间不占内存,8 GB 能容下约 75000 个空转智能体[17]。这一节的几条合起来看是个很直的结论——成本的下降很多时候来自流程改动,不是模型升级。
来源与说明
[1]: Can a 2015 network beat frontier models at skin lesion diagnosis? —— Lynch Lab (https://lynchlab.net/llm-skin-cancer) [2]: Triage with a small CNN —— Lynch Lab (https://lynchlab.net/skin-ai-inception) [3]: What Does a Harness Buy You? —— arXiv / 2026-10-21 (https://arxiv.org/abs/2610.04433) [4]: Fancy harnesses make coding agents more expensive, but not better —— The Decoder / 2026-10-24 (https://the-decoder.com/fancy-harnesses-make-coding-agents-more-expensive-but-not-better-study-finds/) [5]: Rapidly scaling online storage to serve over 1 billion ChatGPT users, Part II —— OpenAI (https://openai.com/index/scaling-storage-one-billion-users-part-two/) [6]: OpenAI Habitat Storage: 70 Million Requests, 12x Faster Reads —— Data Studios / 2026-10-24 (https://www.datastudios.org/post/openai-habitat-storage-70-million-requests-12x-faster-reads) [7]: Serving DeepSeek-V4.1-Flash at Scale: vLLM Matches DeepInfer and Scales to GB300 NVL72 —— vLLM Blog / 2026-10-23 (https://vllm-project.github.io/2026/10/23/deepseek-v41-flash-pd-wide-ep.html) [8]: vLLM 称已追平 DeepSeek 自研引擎 DeepInfer 的性能曲线 —— 智源社区 / 2026-10-25 (https://hub.baai.ac.cn/view/59021) [9]: Google Cloud lets Anthropic run Claude directly for customers who want new features first —— Web and IT News / 2026-10-24 (https://www.awnews.org/google-cloud-lets-anthropic-run-claude-directly-for-customers-who-want-new-features-first) [10]: 亚马逊 AWS 称 2026 年主力算力产能已售罄 —— 中国证券网 / 2026-10-24 (https://www.cnstock.com/commonDetail/808520) [11]: Google and Voltus unlock more than a gigawatt of flexible power —— Voltus (https://www.voltus.co/press/google-voltus-1gw) [12]: Google, Voltus turn to homes and businesses to free up power for AI data centres —— CNBC TV18 / 2026-10-25 (https://www.cnbctv18.com/energy/google-voltus-turn-to-homes-and-businesses-to-free-up-power-for-ai-data-centres-20017318.htm) [13]: Dessa —— Block (https://block.xyz/dessa) [14]: Block 发布全双工语音模型 Dessa —— 新浪财经 / 2026-10-25 (https://finance.sina.com.cn/tech/roll/2026-10-25/doc-iniwmpav6474247.shtml) [15]: Carbon-X —— Hugging Face (https://huggingface.co/HuggingFaceBio/Carbon-X) [16]: Hugging Face’s Carbon-X lets researchers chat with DNA —— DailyAI / 2026-10-24 (https://dailyai.com/2026/10/hugging-faces-carbon-x-lets-researchers-chat-with-dna) [17]: Introducing Infinity: a runtime for extreme agent concurrency —— AWS Open Source Blog / 2026-10-23 (https://aws.amazon.com/blogs/opensource/introducing-infinity-a-runtime-for-extreme-agent-concurrency/) [18]: Coding agent harnesses: pass rates flat, costs can triple —— Renascence / 2026-10-24 (https://www.renascence.io/news/133754/coding-agent-harnesses-pass-rates-flat-costs-can-triple) [19]: Claude on Google Cloud: two versions compared —— LLM Match Maker / 2026-10-24 (https://llmmatchmaker.com/blog/claude-google-cloud-two-versions) [20]: AWS open-sources Infinity Rust runtime for 75,000 idle AI agents —— Data Studios / 2026-10-24 (https://www.datastudios.org/post/aws-infinity-open-source-rust-runtime-75000-idle-ai-agents)