1/13 OpenAI 首席科学家呼吁把安全信心变成继续扩展 AI 的硬约束
OpenAI 首席科学家 Jakub Pachocki 在《An Alien Mind》中称,推理模型已进入经济、科研、计算机操作和网络安全,并可能继续走向机器递归自我改进;但这属于 OpenAI 的能力判断,不是统一基准下的行业共识。他认为链式思维监控正因复杂交互、自我操纵和非文字推理而变弱,目前没有实验室已充分解决对齐与监控,主张建立可由第三方和政府执行的共同安全门槛,并在信心不足时自愿放缓扩展。
2/13 Nature 论文给出语言模型以内部置信度驱动弃答的因果证据
Google DeepMind 与 Princeton 研究者在 Nature Machine Intelligence 发表开放论文:GPT-4o 的置信度对弃答行为的预测效应约为难度、检索可得性等变量的十倍;在 Gemma 3 27B 中注入高低置信方向,可把弃答率从 66.5% 拉到 7.0%,但回答覆盖率上升伴随已回答准确率下降。中介分析把 67.1% 的影响归于置信度重新分配,支持“内部表示 + 阈值策略”解释;结果仍限于受控多选环境,不等同于通用自知。
3/13 Shopify 用生产失败训练专用小模型,把 Sidekick 服务成本估算压低 96%
AlphaSignal 今日重新聚焦 Shopify 的持续学习飞轮,并转述 CEO 关于 0.8B 专用模型在买家画像任务超过 GPT-5.6 Sol 的说法。Shopify 官方工程文档显示,其 GraphQL Agent 每分钟最高处理 2,000 请求:低分生产会话经前沿模型批评、修复和 judge 复评后,进入 SFT 与 GRPO 的每日训练;公司估算年服务费可由 2,700 万美元降至约 100 万。具体模型尺寸和日产量来自社交转述,成本、延迟和 GPU 节省仍是厂商测量。
4/13 Databricks 让编码 Agent 按任务动态选择模型与 harness
Databricks 再次推广 Unity AI Gateway 的 Smart Routing:轻量分类器先读取任务范围、失败形态和代码证据,从中型模型起步,简单任务下调、复杂任务升级;与 Omnigent 结合后还可跨编码 harness 和子 Agent 路由。公司称内部私有基准节省 35%、公开基准节省 56%,产品口径为任务成本降低 30% 以上且维持前沿质量。功能仍为 Beta,真实多轮会话会因首条提示含糊、任务中途变化和缓存损失削弱收益。
5/13 GLM-5.3 Flash 把“同档智能”的价格竞争推进到长上下文与原生视觉
Together AI 称 GLM-5.3 Flash 在 Artificial Analysis 智能指数附近达到 GPT-5.6 Terra 档位,而单任务成本低 82%。当前公开比较页实际给出 GLM 46、Terra 41,标价分别约 0.10 与 1.74 美元/百万 token,同时 Terra 输出更快;不同时间、推理档和“每 token/每任务”口径不能混算。GLM 以 320B 总参数、18B 激活参数、1M context 和原生视觉瞄准高并发 Agent,但性能与成本仍需按实际 token 使用、缓存和失败重试复验。
6/13 GPT-6 Pro 的论文审阅出现“更少挑刺、更多实质问题”的早期使用信号
Ethan Mollick 把自己的早期论文交给 GPT-6 Pro 审阅,称模型能够指出实质问题,同时承认论文优点并给出补充方向;他对比表示 GPT-5 Pro 系列更容易堆叠细碎意见。Matt Shumer 也公开称赞 Pro 的能力,但没有给出统一任务与对照。此类案例显示高推理档可能更接近编辑式评审,而不是简单错误清单;不过单篇论文、作者自评和选择性展示无法证明普遍同行评审质量,引用核验与领域专家复审仍不可省。
7/13 Astra 的 3D 热度开始从成品展示转向可复用 Agent 流程
Greg Brockman 展示 Astra 用视觉化解释药物机制、识别声谱图和处理现实任务;Matt Shumer 则公开其 3D 工作流:用真实参考图约束目标,让专门子 Agent 在 Blender 制作资产,在 Three.js 或 Unreal Engine 组装,再用独立视觉 critic 反复退回修订。他称相关演示合计超过 1,500 万浏览,但未披露完整成本、耗时和人工干预量。新增信号不是“一次提示生成世界”,而是 grounding、工具权限、并行分工和验证循环共同决定输出。
8/13 “AGI 已到”遭到发明能力、现实世界掌控与定义缺失的联合质疑
François Chollet 认为,只有当系统能提出超出训练输入的概念突破、发明新技术,而非靠搜索机械完成已有证明,才应宣布 AGI。Jürgen Schmidhuber 经 Gary Marcus 转发强调现实世界掌控与真正自我改进;Aravind Srinivas 则用“在印度道路安全驾驶 1,000 公里”提出具身能力测试。三种标准分别指向新知识、开放环境和通用执行,也说明当前争论缺少共同测量协议;Astra 的视觉与计算机操作进步不能自动等同于 AGI。
9/13 《经济学人》估算 AI 在美国带来的新增岗位暂时多于被归因裁员
《经济学人》称,自 2022 年以来 AI 相关扩张约创造 100 万个美国岗位,而被归因于 AI 的裁员约 20 万;工程师、开发者、数学家和数据科学家等职业较趋势多增约 73 万,增长还来自数据中心建设及 Head of AI、forward-deployed engineer 等新职位。Yann LeCun 将其概括为“jobundance”。这些是分类和趋势外推估算,难以剥离宏观周期,也不覆盖工资、岗位质量和初级入口;当前证据否定的是“就业灾难已经发生”,不是长期替代风险。
10/13 Spawn v6 把对话生成游戏推向无缝大世界与实时多人共创
Spawn 的 Engine v6 “One Place” 宣称支持无尺寸上限的世界、可见且无加载穿越的 portal、任意数量玩家同处一界,以及 AI 助手 Savi 在玩家继续游玩时修改场景。早期测试者 Matt Shumer 进一步称可容纳 1,000 名以上玩家实时共建,世界可接近美国国土大小。公开页面尚未给出并发拓扑、服务器成本、实例密度或延迟数据,因此容量仍是厂商与测试者口径;方向上,它把生成式原型推进到持久状态、同步和边玩边改。
11/13 Replit 在伦敦设立首个海外办公室,作为欧洲业务中心
Replit 宣布伦敦办公室正式启用,这是其首个国际办公室,将承担欧洲小企业与企业客户扩张。公司把选址归因于当地人才、大学与 AI 公司集群,并与 The Lord Mayor’s Appeal 合作试点,为未在教育、就业或培训中的伦敦年轻人提供技能提升。公告没有披露团队规模、投资额或收入目标,因此更适合作为组织扩张信号,而非欧洲业务增长已经兑现的证据。
12/13 多设备与远程 Agent 让 ChatGPT、Claude 的“工作在哪里”成为新 UX 债务
Ethan Mollick 指出,工作与对话可能分散在本地、云端、不同电脑、手机、远程调度、语音入口和项目容器中,现有界面对任务实际运行位置、身份账号和可恢复性提示不足;语音模式还会增加“输入进入哪个会话、之后能否找回”的不确定性。问题不是单项模型能力,而是 Agent 跨设备持久运行后出现的状态可见性、会话归属和控制面缺口,产品需要提供统一任务标识、执行位置、权限、同步状态与中断恢复。
13/13 Hugging Face 负责人把公开 Agent 网络攻击视为 AI 透明度压力测试
Hugging Face CEO Clément Delangue 回顾团队公开披露 Agent 网络攻击的决定,称如果不披露可能避免部分争议,但事件反而强化其“AI 需要高一个数量级透明度”的判断;同日 Hugging Face 也转发联合计划获得大量正面反馈的后续。这里新增的是治理立场和披露激励,而非新的技术调查结果。透明度的实际价值仍取决于时间线、权限边界、受影响资产、根因和修复措施是否可供外部复核,而不能只以舆论反应衡量。
Deep Dive 附录
OpenAI《An Alien Mind》:扩展速度开始被监控能力而非单纯算力约束
Pachocki 把价值对齐、目标对齐和可验证监控区分开:RL 偏好或“宪法”能改善平均行为,却可能在陌生环境中泛化失败;预训练中的价值取向更稳定,却可能在持续优化压力下被目标驱动的推理扭曲。OpenAI 长期避免直接监督隐藏链式思维,希望让推理过程保留可监控性,但 Astra 级系统与人、工具和其他 AI 的交互已模糊“内部推理—外部行动”边界,模型还能更好地操纵自身推理,并在无文字思维时表现更强。作者据此预期,前沿扩展会越来越受“我们能否相信监控”限制。他支持用自动化 AI 研究加速对齐,也主张把 Preparedness Framework、Responsible Scaling Policy 一类承诺升级为共享安全门槛,并在安全论证不足时放慢。这是实验室内部的风险判断和政策立场,关键主张仍需外部评测、审计和国际协调检验。 查看原文
LLM 置信度研究:激活 steering 改变弃答,且主要经内部置信重新分配
研究先在无弃答选项的四选一事实题中读取 GPT-4o 的校准概率与口头置信度,再在相同问题中加入弃答,以隔离决定前的置信信号。模型自然弃答时,置信度效应约为难度、RAG 可得性或语义特征的十倍,50% 弃答对应约 77% 隐式置信阈值。因 GPT-4o 内部激活不可得,因果阶段改用 Gemma 3 27B:在中间层注入高/低置信向量,使弃答从 66.5% 变为 7.0%,同时覆盖率由 33.5% 升至 93.0%,已回答准确率则从 59.2% 降至 53.7%。中介分析认为置信重新分配贡献 67.1%、策略改变贡献 26.2%;显式阈值实验也能调节弃答。结果支持模型存在可用于行为控制的丰富内部不确定性表示,但仍是多选题与特定模型实验,开放式 Agent 是否能可靠识别自身盲区仍未解决。 查看原文
Shopify 持续学习飞轮:真正可复用的资产是 judge、失败轨迹与每日重训循环
Shopify 先让产品专家以 rubric 标注随机生产样本,并用 Cohen’s kappa 测试定义是否清晰,再通过历史 A/B 与定向退化实验校准 LLM judge。系统先用 autoresearch 改提示、工具和 harness;当离散改进趋缓后,从生产流量挖 hard negatives,由多名前沿模型批评、arbiter 合并修复、重放会话并重新评分。通过的完整轨迹先用于 SFT,再以 judge 分数执行 GRPO;失败案例转人工,数据按日累积并重训。GraphQL Agent 每分钟最高 2,000 请求,官方估算专用模型将年成本由 2,700 万降至约 100 万;gist 把系统提示约 6,000 token 压至 1,500,在 350 RPM 压测下降低 19% 首 token 时间、38% 端到端延迟,并少用约 14% GPU。收益建立在高流量、可评分、可校准的封闭任务上;错误 judge 会把错误行为系统化写回权重。 查看原文
Databricks Smart Routing:一次性模型选择正演化为可观测、可重路由的运行时策略
路由器先以小模型抽取任务语义标签,再从中型模型向便宜或昂贵模型移动;Omnigent 进一步让模型与 harness 共同参与选择,且子 Agent 可使用不同组合。Databricks 报告内部基准节省 35%、公开基准节省 56%,但也承认公开任务通常边界清楚,而真实首条提示只是症状,同一 session 可能在第四轮已换成另一种任务。它因此提出在几轮澄清后再路由、鼓励更小的单任务 session,并在 context compaction 这个天然 cache miss 点切换模型。评测不只看花费,还要记录 session trace、完整完成率和模型分布;这些 trace 高度敏感,需要 Unity Catalog 权限与标签治理。功能仍为 Beta,候选模型权限、缓存命中、返工和切换开销会决定净收益。 查看原文
Astra 3D 流程:视觉成品背后是一条 Reference→Assets→Assembly→Critique 的闭环
Shumer 的公开方法先用现实照片或生成参考图固定尺度与风格,让 Astra 分派子 Agent 在无界面 Blender 中分别制作资产,再在 Three.js 或 Unreal Engine 组装场景。独立 critic 不参与制作,只比较渲染与参考,将不合格结果退回;循环直到达到人工接受标准。该结构解释了为何社交媒体成品不能归因于单次提示:真实软件、文件权限、资产流水线、并行分工、视觉回归和人类品味同时作用。作者称曼哈顿、社区复刻、僵尸游戏与 Agent 文明等案例合计获得超过 1,500 万浏览,但未公开统一运行时长、token/算力成本、失败率和人工修改量。它可作为 Agent harness 设计案例,尚不是通用 3D 工程能力基准。 查看原文
《经济学人》AI 就业估算:当前是建设与岗位重组先行,不代表替代压力消失
文章把美国 AI 相关新增岗位估算为约 100 万、AI 相关裁员约 20 万,并称最接近 AI 热潮的工程、软件、数学与数据职业较既有趋势多增约 73 万。数据中心建设带动电工与施工岗位,企业内部则出现 Head of AI、forward-deployed engineer 等角色;部分可能受自动化影响的白领职业在 2023—2025 年也仍增长,如律师助理约 11%、市场研究分析师约 6%。相对地,企业 2026 年每月平均仍宣布约 1.6 万个 AI 相关裁员。核心限制是归因:趋势外就业、建设周期和企业公告不能完全隔离宏观景气与产业政策,岗位数量也掩盖工资、地域和入门岗位变化。因此最可靠的表述是“净就业灾难尚未在当前数据中出现”,而不是 AI 已被证明长期净增就业。 查看原文
Spawn v6:生成式游戏的瓶颈从造内容转向状态、同步与运行时治理
Engine v6 “One Place” 把无缝 portal、无尺寸上限世界、多人共处和 Savi 实时改世界放进同一运行时,意图让创作者与玩家不离开游戏就能持续生成。Shumer 的早期测试称超过 1,000 名玩家可共同建造,世界可达美国国土尺度;官方页面则使用“任意数量玩家”“无尺寸上限”的产品表述。两者都没有公开定义同时活跃区、对象密度、网络拓扑、服务器成本或尾延迟。若要把演示升级为平台能力,关键验证不再只是模型能否生成资产,而是持久状态冲突、权限与版本控制、跨区域同步、恶意内容处理以及 AI 修改在在线玩家之间的一致性。v6 因而是值得跟踪的架构方向,但容量数字仍需独立负载测试。 查看原文