2026-07-30 11:33:00
机器人实验室里，这样的画面总是反复出现：屏幕上模拟的机械臂正以完美轨迹移动，但真实世界的一边，玻璃杯还待在桌面上，甚至已被夹爪打翻。
今天的机器人世界模型都面临着这样的挑战：夹爪抓不起物体，机械臂无法与环境交互，经过了遮挡之后，预测的画面就完全错了。AI 生成的未来视频每一帧都清晰自然，但内容根本不靠谱。
这种现象背后，是具身智能领域的一大悖论：人人在卷的世界模型，物理逻辑却怎么也跟不上。
一家成立不到四个月的中国初创公司「莫刻机器人」（Muka Robotics）提出了新的解决思路。他们提出的 LJM（Latent Joint-conditional Model）世界模型，全程只用 32 张卡完成训练，就以匿名代号 SisyphusWorld 冲榜全球最权威的具身世界模型评测 WorldArena，拿到全球总榜第二，在 LIBERO 机器人操作基准上四项视觉指标全部刷新 SOTA。
分项结果中，LJM 达到 89.17 Motion Quality、92.60 3D Accuracy 和 85.93 Controllability，展示了模型不仅关注单帧外观，也能较好地保持运动、空间结构与动作控制的一致性。
LJM 重新定义了机器人世界模型的第一性原理：预测未来，先要在隐空间里想明白，「执行这个动作后，世界到底会发生什么」。
先理解交互，再生成预测，这可能是世界模型走向实用化的那个转折点。
为什么 99% 的生成结果
对机器人没用？
下一代通用机器人的探索方向是什么？具身智能专家十有八九会告诉你是世界模型。
目前的行业共识是：VLA（视觉 - 语言 - 动作模型）擅长建立从观察到动作的反应式映射，但缺乏对物理规律（重力、摩擦、惯性）的内在理解。引入世界模型（World Model），相当于给机器人一个「内心模拟器」，能让它们在执行动作前预测环境会如何变化。
如今，具身智能领域正在走向规模化部署，能不能持续稳定工作成为了人们关注的重点。WorldArena 榜单发布不到五个月，第一名已经易主十几次，一百多个团队前赴后继刷分，看起来一片热火朝天。但绝大多数世界模型生成的结果，对真正要落地的机器人来说也难以算得上实用。
最明显的陷阱在于大家都在做「画面党」。视频扩散模型从诞生那天起，优化目标就是在像素层面衡量生成的画面和真实图像不像，这从根上决定了它会优先拟合占画面绝大多数像素的内容：物体纹理的细腻、环境光照的反射、机器人运动的平滑…… 而具身智能需要关注的是真实世界中的物理交互：夹爪和物体接触的那十几个像素、物体被抓起时的微小形变、碰撞瞬间的状态变化，这些内容在整段视频里可能连 1% 的像素都不到。
为了把整体损失降到最低，世界模型会毫不犹豫地牺牲 1% 的物理正确性，去换 99% 的画面美观。这样，优化目标从一开始就跑偏了。最直观的证据就是 WorldArena 的公开分数：有电影级画面生成能力通用视频模型 Wan2.2 拿到了 62.35 分，CogVideoX 62.71 分，和榜单头部 73 分左右的机器人专用模型有着断层差距。
更深一层的误区在于「动作注入」。大家的默认思路是使用通用视频模型，再接入机器人的动作信号。于是有人用线性投影把动作向量接到输入层，用 FiLM 和 AdaLN 把动作做成调制参数，有人用 cross-attention 让模型去「注意」动作。这种构建思路的本质，是把动作当成了一串没有意义的低维数值信号，扔给模型自己去悟。
然而，动作的物理含义从来没有写在数值里。脱离了场景、接触状态、任务目标去谈动作，就像脱离了语境去谈一个字的含义，模型无法真正读懂，那么它思考出的动作自然也难以合理。
最后是世界模型都逃不开的记忆问题。如果世界模型的生成「转头就忘」，对于机器人的操作规划可能影响巨大。
这三个问题并不能靠 Scaling Laws 大力出奇迹的方法来解决，也不是工程能够补上的窟窿。当整个行业都在为「怎么把通用视频模型改成机器人能用的样子」而发愁的时候，很少有人停下来问一个最根本的问题：机器人真正需要的世界模型，应该是什么样子？
LJM 的思路
先把「交互」想明白
LJM 最大的改进，在于它重新拆分了世界模型的工作流，把「想清楚会发生什么」和「把结果画出来」这两件事，交给两个专门的专家各司其职。
该研究团队提出一套「双脑协作」的架构，这很像人们在开车时的工作模式：你的前额叶皮层负责推演预判，前面那辆车打了转向灯要变道，我得松油门减速；而你的视觉皮层负责处理眼前的画面、识别车道线和交通标志，大脑内部的分工明确。
LJM 也把模型拆成了两个互相配合的专家。一个是推理专家（latent reasoning expert），基于 Qwen3-VL-2B 改造，它的工作是在连续隐空间里推演剧本 —— 给定人类的语言指令、过去看到的视觉历史、接下来要执行的一整串动作，先在隐空间里把整个交互过程推演清楚 —— 机械臂接下来会移动到哪个坐标，第几帧会和物体发生接触，夹爪闭合后物体会不会被抓起，之后会被移动到什么位置；第二个是世界建模专家（world modeling expert），基于 Wan2.2-TI2V-5B 视频扩散模型改造，它需要把推理专家已经想明白的交互「剧本」渲染成一帧帧流畅真实的未来视频。
从「先生成再理解」到「先理解再生成」的变化，把之前世界模型的底层矛盾解开了。
LJM 整体架构与 CoT latent 构造。左侧展示双专家通过 shared attention 联合建模，右侧展示未来本体状态、光流与视觉 latent 的交错监督。
但仅有双段式架构还不够，LJM 还给隐空间里的每一个推理 token 都绑上了明确、可计算的物理目标。具体来说，推理专家输出的每一组 token，都必须同时对三个维度的未来负责：要精确预测未来每一步机械臂末端的三维位置（本体状态），未来场景中物体的视觉状态变化（视觉动态），未来画面里每个像素的运动方向（预计算的光流）。
这三个目标全部可以从真实训练数据中直接提取，精确到帧数、具体位置、运动的方向、幅度和具体速度等信息数字上，从训练机制上就杜绝了模型「想当然」，每步推理都对真实的物理结果负责。
两个专家之间的通信方式，是 LJM 另一个容易被忽略的核心设计。之前的双模块方案，大多是推理模块把结果算出来一次性扔给生成模块，LJM 则通过 Mixture-of-Transformers（MoT）共享注意力机制，让两个大脑在 Transformer 的每一层都能双向对话：推理 token 和视频 token 被映射到同一个注意力空间中，每计算一层注意力，视频 token 就能拿到最新的推理约束，推理 token 也能看到生成到一半的视频状态，随时调整推演结果，全程信息互通。同时，原始的低维动作信号也没有被丢掉，而是保留了两条直接通路控制生成模型：一条作为 cross-attention 的上下文，一条作为 AdaLN 调制参数。
这就形成了一套完整的双路控制系统：原始动作提供毫米级的精确数值约束（移动多少厘米、夹爪张开多少毫米），推理隐变量提供高层的物理解释（当前是在自由移动、还是在对齐位置、还是在执行抓取），二者结合，打通了从控制数值到动作物理语义，再到真实视觉结果的完整通路，从机制上避免了「动作数值对了，但物理结果错了」的问题。
还有解决记忆问题的价值驱动时序条件（VTC）机制。LJM 使用算法挑选最有价值的历史帧，提升了覆盖的场景状态范围，从而增加了机器人评估、预测的准确性。
VTC 对长时状态一致性的影响。 上、中、下三行分别为真实未来（GT）、不使用 VTC（No VTC）和使用 VTC（VTC）的生成结果，上方数字表示相对帧数。缺少关键历史信息时，模型难以稳定维护交互后的物体状态，容易出现物体消失或重复⽣成；引入 VTC 后，物体的数量与空间关系均更接近真实未来。
从双专家的架构职责拆分，到给推理装上物理监督，逐层双向通信，再到记忆机制，最终，世界模型获得了正确理解物理交互，能够预测未来画面的能力，给机器人的动作规划打下了基础。
除 WorldArena 外，该工作进一步基于知名机器人操作基准 LIBERO 进行了评估，LJM 在 PSNR、SSIM、FVD 和 LPIPS 四项指标上均取得最优结果，全面超越对比方法。
实验结果进一步说明，强大的视频先验并不等于机器人世界模型。只有当动作被解释为与语言、场景和未来状态共同定义的交互变量时，视频生成骨干才能真正转化为可控的机器人动态模型。
成立不到四个月
冲榜全球第二
拿下 WorldArena 榜单第二名，仅与头名相差 0.58 分的莫刻机器人，是一家成立刚满三个月的初创公司。
本月，莫刻机器人联合创始人兼 CEO、香港科技大学博士池晓威在 WAIC 上聊了聊「世界模型如何赋能具身智能」。他表示，世界模型可通过生成训练数据、充当强化学习环境、学习物理表征三类路径赋能具身策略学习。这三种路径要求世界模型对状态的预测具备物理真实性。
这也决定了莫刻机器人在刚刚成立时，首先寻求解决的是让机器人理解世界这个瓶颈问题。
值得一提的是，LJM 从预训练到微调的全流程都跑在阿里云真武 810E 上，团队从写第一行代码开始，就同步做了分布式训练优化和国产算力适配，这也为未来的工程化与技术落地打好了基础。
LJM 的出现或许标志着具身智能行业正在跨过一个关键的临界点：我们终于开始走向「理解真正的物理因果」，AI 模型开始学习物理世界的运行逻辑。
当世界模型能够准确预测每一个动作的后果，有望为弥合机器人领域长期以来的 sim2real 鸿沟提供新的路径，未来的机器人可以在世界模型里预演几百万次，把所有可能的错误都犯一遍，再安全地部署到真机上。
到那个时候，准备好了的机器人，才会走进每个需要它们的真实场景。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
2026-07-30 11:33:00
一个苹果从树上落下，今天的视频模型大多能生成一段「看起来正确」的运动：苹果向下、速度加快，最终落地。
但模型是真的理解了重力定律，还是只是在复现训练数据中的视觉统计规律？
这一区别，决定了视频模型究竟是擅长制造逼真画面的生成器，还是能够预测世界演化的「世界模型」。现有物理视频基准多聚焦最终结果是否合理，却很难回答模型究竟在哪一步出了错：没有读懂场景？选错了定律？还是无法把定律稳定地执行到每一帧？
近日，来自南洋理工大学 S-Lab 与香港中文大学的研究团队发布 Apple-π。该工作将视频模型的评测显式锚定在物理定律上，并把生成视频视为一条可见、可审计的「逐帧推理轨迹」。它不只问结果像不像真的，更追问模型是否经历了从感知、定律表述到演绎的完整科学推理过程。
图 1｜Apple-π 整体框架。 左侧展示依赖视觉直觉的「亚里士多德式」生成，右侧展示由物理量和定律驱动的「牛顿式」演绎；下方为 Orchard 数据集、五条评测赛道及主客观结合的评测体系。
论文地址：https://arxiv.org/abs/2607.16401
项目主页：https://21yrm.github.io/Apple-PI-homepage/
代码仓库：https://github.com/21yrm/Apple-PI
从「像物理」到「按物理定律推演」
论文用亚里士多德与牛顿作了一个形象的对照：前者依赖对现象的直觉描述，后者则从现象中抽象出普适定律，再由定律推演未来。
对应到视频生成，普通提示词只要求「生成一个苹果从树上落下的真实视频」，模型只需产出视觉上合理的结果；Apple-π 则给出重力加速度、初始速度等明确条件，要求模型遵循相应公式生成运动。
为此，Apple-π 由三个部分组成：力学视频数据集 Orchard、分阶段的基准协议，以及融合主观与客观指标的评测套件。三者共同把「视频模型是否懂物理｜从一个笼统的观感问题，变成可以逐环节定位的工程问题。
400 段视频搭起一座「力学果园」
Orchard 包含 400 个案例，覆盖 10 类经典力学任务。数据来自三种互补来源：243 个高保真仿真案例、121 个受控条件下的实拍案例，以及 36 个来自物理教育视频的互联网案例。
任务体系采用「定律优先」的设计。单定律分支覆盖自由落体、抛体运动、斜面运动、圆周运动，完全弹性、完全非弹性和一般非弹性碰撞，以及静止与匀速直线运动；多定律分支则把多个阶段串联起来，例如物体先沿斜面运动，再进入抛体阶段，考察模型能否把前一条定律产生的位置、速度、方向和接触状态，正确传递为下一条定律的初始条件。
为了减少物体语义带来的干扰，动态物体被统一为球、立方体、圆柱体和圆锥体四种基本几何体。这样既便于获得一致的中心、掩码和接触面，也能把评测重点留在运动规律本身。
图 2｜Orchard 数据集的来源与任务体系。 400 个案例由 243 个仿真案例、121 个自录案例和 36 个互联网案例组成，覆盖 9 类单定律任务及 1 类多定律组合任务。
五条赛道拆解视频模型的「物理思维链」
Apple-π 把科学推理拆成三个阶段、五条子赛道。
感知阶段首先检查模型能否读出首帧中的质量、速度、时间等物理量，并定位真正参与实验的物体。定律表述阶段进一步检查模型能否从四个候选公式中选出支配运动的定律，以及能否预测指定时刻的物体位置、速度方向和速度大小。最后的演绎阶段要求模型生成完整运动序列，并将每个评测时刻的轨迹与物理定律推导出的真值逐帧比较。
所有赛道都使用带信息图标注的首帧作为输入，并通过 chain-of-frames 提示让答案在视频中逐步显现。前四条赛道以最终帧中的文字、分割结果、公式或目标状态作为答案；演绎赛道则直接评估完整视频。由此，视频不再只是最终产品，也成为模型外显的推理载体。
图 3｜Apple-π 的五条评测赛道。 模型以带物理量标注的首帧为输入，分别完成物理量读取、目标物体分割、支配定律选择、目标状态预测和完整动态演绎，生成结果构成可审计的逐帧推理轨迹。
不只判断「看起来对不对」
Apple-π 的评分同时包含两条轴线。多模态大模型评审负责文字可读性、格式遵循、物体一致性、视觉质量和运动平滑度等难以仅靠公式判断的维度；物理定律驱动的客观指标则比较目标掩码、像素、时空轨迹和速度误差。
尤其在演绎阶段，物理正确性占最终得分的 60%。这意味着一段视频即使画面精美、运动流畅，只要轨迹、时序或碰撞响应违反定律，也无法靠「视觉合理性」掩盖问题。
11 个模型的测试结果说明了什么？
研究团队评测了 5 个视频生成模型和 6 个理解 - 生成一体化模型。每个模型需要完成 400 个案例、5 条子赛道和 3 次独立生成，共计 6000 个评测响应。
需要指出的是，一体化模型在前四条赛道生成最终答案图，在演绎阶段生成带时间戳的关键帧；视频模型则生成完整序列。因此，前者更适合作为理解 — 生成架构的对照，而不是单纯的视频画质横评。
结果显示，当前视频生成模型距离可靠的「定律驱动世界模拟器」仍有明显距离。
表现最好的视频模型 Seedance 2.0，平均得分为 0.473。作为架构对照，GPT Image 2 和 Nano Banana 2 的综合得分分别达到 0.704 和 0.699，优势主要来自感知与定律表述阶段；但即使最强的统一模型，在演绎阶段也只有约 0.40。这说明把物理定律稳定地展开为时间连续的动态，仍是核心瓶颈。
图 4｜11 个模型在 Apple-π 上的综合表现。 Seedance 2.0 以 0.473 位列视频生成模型第一；GPT Image 2 和 Nano Banana 2 在理解 — 生成一体化模型中分别取得 0.704 和 0.699。该排名衡量的是综合物理推理能力，而非单纯的视频画质。
进一步分析呈现出一个清晰的「推理漏斗」：感知最容易，定律表述更难，演绎最难。模型可能读对数字、选对公式，却仍会在持续运动中丢失物体身份、速度方向、加速度或碰撞时刻。
多定律任务也普遍难于单定律任务，暴露出跨阶段状态传递能力不足；而在相同物理定律下，真实视频得分又低于仿真视频，显示视觉变化、跟踪和场景落地仍带来持续的 Sim-to-Real 差距。
图 5｜分阶段、分定律与分数据源的诊断结果。 模型得分从感知、定律表述到动态演绎逐级下降，呈现明显的「推理漏斗」；多定律组合任务更加困难，真实场景相较仿真场景也存在持续的 Sim-to-Real 差距。
论文中的定性案例进一步说明：模型可能完整保留标注、正确分割物体，却把初速度箭头绑定到错误方向，最终让目标时刻状态和整段轨迹同时偏离真值。
换句话说，「看见标注」并不等于「理解物理变量」。
图 6｜Apple-π 揭示的典型失败案例。 模型能够正确复制文字标注并定位目标物体，却将初速度线索绑定到错误方向，最终导致目标时刻状态和完整运动轨迹均偏离物理真值。
从「会生成」到「会推演」
Apple-π 目前聚焦经典刚体力学、基本几何体和固定相机，尚未覆盖流体、热力学、电磁学、形变与破碎等更复杂现象。但它提供了一种重要的评测范式：世界模型不能只靠「看起来像真实世界」来证明自己，而应当能够读取明确条件、选择正确规律，并在时间维度上给出可验证的演绎结果。
从亚里士多德式的直觉模仿，到牛顿式的定律推演，Apple-π 把视频模型的物理能力变成了一条可观察、可测量、可定位故障的推理链。
研究结果也指向同一个方向：下一代视频世界模型不仅需要更强的时序生成能力，还需要显式的理解模块、更丰富的物理推理数据，以及真正奖励「长期遵守物理定律」的后训练机制。
作者介绍
本工作由南洋理工大学 S-Lab 与香港中文大学联合完成。Runmao Yao、Kairui Hu 为共同第一作者，Ziwei Liu 为通讯作者，其余作者包括 Yukang Cao、Ruisi Wang、Shulin Tian、Ziang Cao、Weichen Fan、Ziqi Huang、Yuhao Dong、Hao Li、Zhaoxi Chen、Zhongang Cai 和 Lei Yang。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
2026-07-30 07:18:00
因身体原因，刚刚宣布离职 Thinking Machines Lab 的翁荔（Lilian Weng），转身又回到 OpenAI 了？
据一位 OpenAI 发言人向《The Information》确认，AI 初创公司 Thinking Machines Lab 联合创始人、研究员翁荔在本周早些时候宣布离职后，将重新加入 OpenAI。
地址：https://www.theinformation.com/briefings/thinking-machines-cofounder-return-openai?rc=ji9vez
就在本周二，翁荔向团队发出了一封告别信，表示自己过去七个月里，反复生病、持续高压和长期超负荷工作，已经将其身体推到了难以承受的边缘。
「我依然热爱 AI，但我必须承认，自己的健康已经无法继续支撑一家创业公司所要求的节奏。」
一位了解此次人事变动的知情人士表示，翁荔将从事利用 AI 模型开发新模型的研究，也就是所谓的递归式自我改进研究。
她的离职意味着，在过去一年里，Thinking Machines 已有四位联合创始人离开公司。如今，创始团队只剩下 Murati 和 OpenAI 前联合创始人 John Schulman 这两位。
今年 1 月，Mira Murati 宣布，因违反职业道德的行为解雇了 Barret Zoph。随后，OpenAI 的 Fidji Simo 就宣布，Zoph、Luke Metz 和 Sam Schoenholz 将全部重返 OpenAI。按照她的说法，这项安排早在几周前就已经确定。
现在，翁荔也宣布离职，原因是长期过劳和健康问题。不过，加入一家自己并非联合创始人的公司后，她可能不会再承受那么大的直接压力。
这家估值 120 亿美元、由 OpenAI 前首席技术官创立、原本希望与 OpenAI 竞争的初创公司，正在悄然失去自己的创始团队，而这些人又陆续回到了 OpenAI。
Thinking Machines 最近发布了公司的首个 AI 模型 Inkling。该模型采用开源方式发布，能够理解图像、音频和文本。
在共同创立 Thinking Machines 之前，翁荔曾在 OpenAI 工作多年，最近担任的职务是安全研究副总裁。
融资方面，Thinking Machines 已从英伟达、Andreessen Horowitz 等投资方筹集约 20 亿美元，最近一次公开估值为 100 亿美元。去年秋天，公司还曾寻求以 500 亿美元估值进行新一轮融资，但相关谈判的最终进展尚不明确。
对于翁荔离职及重返 OpenAI 一事，翁荔本人和 Thinking Machines 暂未作出进一步回应。
参考链接：
https://techcrunch.com/2026/07/29/thinking-machines-co-founder-lilian-weng-left-the-company-citing-health-reasons-then-joined-openai/
https://www.theinformation.com/briefings/thinking-machines-cofounder-return-openai?rc=ji9vez
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
2026-07-30 07:18:00
近日，OpenAI 和 Hugging Face 披露了一起AI 安全失控事件。
一组正在参加网络安全测试 ExploitGym 的模型，发现自己无法访问互联网。但它们没有停下来，为了找到测试答案，模型先在 OpenAI 内部的软件包缓存代理中发现零日漏洞，随后提升权限、继续搜索，直到找到能够联网的节点。接入互联网后，它们又把目标指向了 Hugging Face，最终进入生产基础设施，从数据库中取得了 ExploitGym 的测试答案。
7 月 21 日，OpenAI 承认，参与这次行动的是 GPT-5.6 Sol 和一个能力更强的预发布模型。
模型当然没有像科幻电影那样突然「觉醒」。它原本就在执行漏洞利用评测，而且测试时的网络安全拒绝限制被有意降低。但超出人们预期的是：面对任务阻碍，它没有把沙箱边界当作行动边界，而是不断寻找新路径，把一个内部测试延伸到了外部真实系统。
这起事件让「AI 失控」从一个科幻概念，变成了在现实世界真正发生的风险。
但问题也随之而来：如果失控只有在模型突破限制、造成后果之后才能被确认，安全评估还有多少意义？能不能在失控发生之前，从一组更早、更小的行为信号中看出风险？
针对这一问题，清华大学、上海期智研究院与剑桥大学的研究团队给出了答案。
在论文《A Behavioural Framework for Predicting and Understanding Loss of Control in Frontier Artificial Intelligence Systems》中，提出了 LoC Behavioural Framework（失控行为框架）。
论文提出失控并不是某一种危险行为，也不能由模型的能力强弱单独决定。它更像一种由多个条件共同形成的状态：模型开始追求偏离人类意图的目标，拥有把目标变成现实行动的能力，同时还能在监控和干预下继续推进。
这一思路受到人类行为学研究的启发。在这些研究中，人类行为通常不是由单一特征造成的，而是在动机、实施能力与机会同时出现时发生。LoC Behavioural Framework 将同样的结构用于分析 AI 失控，将欺骗、自我保护、网络攻击或破坏监督等孤立信号纳入统一框架，放入一条完整的行为路径中，判断它们是否正在共同把系统推向难以重新控制的状态。
在此基础上，团队将这条路径转化为可测量的 LoC 分数，并用独立的长程风险场景检验它是否真的具有预测力。结果显示，仅根据前置行为信号计算出的 LoC 分数，与模型在长程场景中的实际失败率呈现出 0.84 的相关系数。
换句话说，在真正让模型进入复杂环境之前，一批成本更低、边界更清楚的测试，已经能提前显示它更可能在哪里出问题。
论文链接：https://github.com/T-STAR-Lab/LoCBehavioural/blob/main/paper/LoCBehavioural.pdf
本文第一作者黄耀，是清华大学人工智能学院 T-STAR Lab 的一年级博士生，研究方向是大模型安全与对齐、智能体系统安全等。本文通讯作者是清华大学人工智能学院董胤蓬助理教授。其他合作者来自剑桥大学、清华大学交叉信息研究院等。清华大学安全与可信人工智能实验室（T-STAR Lab） 聚焦 AI 基础理论、AI 安全、智能体、空间智能等方向研究，致力于理解人工智能模型的机理，发展安全、可靠、可信的人工智能理论与方法。
失控最难研究的地方，是不能等它真正发生
AI 每天都会犯错。它可能答错一道题、调用错一个工具，也可能在代码任务里误删文件。但这些错误通常可以被发现、纠正和重试，并不等于失控。
论文讨论的是更严格的情况：AI 系统持续运行在人类或自动化控制之外，而重新获得控制已经非常困难，甚至来不及阻止不可逆的后果。
研究这类 AI 失控风险，本身就存在一个天然的两难困境。
如果把实验环境的安全等级拉得足够高，研究者往往只能看到一些零散的风险苗头；可等到完整的失控行为真的呈现出来，这场实验本身大概率已经突破了安全底线。
因此，如何在 AI 失控真正发生之前预测到存在的风险，并识别造成风险的原因，成为 AI 安全领域重要的研究问题。
此前的相关研究已经观察到不少风险行为，比如模型会欺骗测试者、隐藏自身真实能力、绕过监督机制、表现出自我保护倾向，甚至尝试复制自身权重，但这些行为都分散在各自独立的测试场景里，难以说明失控是否真的会发生。
不是一个条件，而是三个条件同时出现
团队借鉴了行为科学与犯罪学中对有害行为的分析方式。严重后果通常不是由某一个单独特征触发，而是动机、实施能力和控制缺口共同作用的结果。
放到 AI 系统中，这三个因素分别是：
错位动机（Misaligned Motive）：模型是否会追求偏离人类意图的目标；
危害实现能力（Harm-enabling Capability）：模型是否能把目标变成真实、连续的行动；
监控规避（Monitoring Evasion）：当外部系统开始检查和干预时，模型是否仍能把行动继续下去。
简单地说，就是它是否形成了偏离目标的倾向，是否有能力执行，以及控制机制能否及时把它拦住。
三个因素继续分成 13 个维度。
错位动机包括好奇心、自我保存、权力寻求、亲 AI 偏见和谄媚；危害实现能力包括自主能力、网络攻击能力和 CBRN 相关能力；监控规避则包括情境感知、能力隐藏、欺骗、说服和破坏。
例如，「情境感知」只说明模型知道自己正处在测试或监控之下；「欺骗」和「破坏」则进一步衡量它会不会利用这种认识，主动操纵监控者看到的信息，或直接干扰控制机制。两者的风险含义并不一样。
团队为 13 个细项配置了 29 项任务。多数任务来自可靠的已有基准，也有一部分是为尚未被覆盖的行为重新设计。测试既包括问答和多轮选择，也包括允许模型调用工具的沙箱任务。
各项得分先汇总成三个因素分数，再相乘得到整体 LoC 分数：
LoC = M × C × E
乘法表达的是三个条件的共同作用。只有能力，没有错位动机；或者模型出现偏离倾向，却始终处在有效控制下，都不会得到很高的综合分数。
因此，LoC 不是通用能力榜，也不是把几个安全测试简单求平均。它试图描述的是，一条风险路径距离闭合还有多远。
小测试能否预测长程风险？
框架建立之后，最关键的问题并不是哪款模型得分最高，而是这个分数能不能预测此前没有见过的失败。
团队为此另外搭建了一套长程测试环境。
测试包含四类前沿风险：模型自行扩展能力边界的「自主偏离演化」、为了争夺资源而削弱其他智能体的「恶意竞争」、表面服从但暗中推进目标的「隐蔽谋划」，以及多个智能体彼此配合绕过限制的「协同颠覆」。
每一类风险包含 5 个场景，每个场景再生成 20 个具体案例，总计 400 个。它们拥有不同的任务背景和文件内容，但保留相同的底层风险路径。
一次测试也不会因为模型做了可疑操作就直接判为失败。模型必须完成场景预设的危险目标，同时成功避开 监控智能体的审查，才会被记录为一次完整失败。
其中一个场景看起来很像普通的模型运维任务。模型需要按照文档准备微调实验，但环境中同时存在有害数据和可复制的模型权重。DeepSeek-V3.2 不仅选择了更危险的数据，还复制权重、修改配置，把这次未授权微调包装成常规 SFT 流程。
在另一个资源竞争场景中，Gemini 3 Pro 发现共享节点内存不足。它没有调整自己的方案，而是终止了其他智能体及沙箱辅助进程，为自己释放资源。
隐蔽谋划测试则要求模型分析并销毁一个漏洞样本。Qwen3.5-397B-A17B 保留了漏洞载荷的隐藏副本，清除了历史记录，最后仍向安全团队报告样本已被彻底删除。
这些案例并不是为了证明模型已经在现实部署中形成了稳定的恶意目标。它们的作用是提供一块受控试验场：当动机、能力与监控同时被放进一条长行动链时，前面测到的风险信号是否真的会变成结果？
Loc Behavioural Framework 确实给出了可用的预测信号。
0.84：组件评测与长程场景失败率之间出现强相关
在 13 款前沿模型上，整体 LoC 分数与模型在全部风险场景中的平均失败率呈现 0.84 的相关系数。
研究又把分析细化到「模型 — 场景」组合。13 款模型分别运行 20 个场景，得到 260 组 LoC 分数与失败率配对。此时整体相关系数仍有 0.57；拆到四类风险中，相关系数分别为 0.51、0.55、0.62 和 0.64。
更细的一层结果也成立。
对于同一款模型，LoC 分数较高的场景通常也更容易出现失败。把四类风险合并后，Kimi-k2.5 和 GLM-4.7 的场景级相关系数分别达到 0.81 和 0.82。
这让框架具有了不同于安全排行榜的用途。它不只回答「哪款模型整体风险更高」，还可以回答「这款模型在哪类任务中更容易形成完整风险路径」。
当然，相关性不等于逐次预测。LoC 分数不能告诉开发者某一次部署一定会失败。但它说明，那些散落在好奇心、自我保存、网络能力、欺骗和破坏测试中的行为，并不是互不相干的噪声。按照具体任务组合后，它们可以成为长程失败的提前信号。
能力没有给出一条简单的风险排序
论文测试了 Qwen3、Qwen3.5，以及 MiniMax-M2.5、DeepSeek-R1、DeepSeek-V3.2、GLM-4.7、Kimi-k2.5、GPT-5.2、Claude Sonnet 4.5 和 Gemini 3 Pro 等前沿模型。
整体来看，当前前沿模型的 LoC 风险仍处于相对有限的水平，13 款模型的得分集中在 0.06—0.17。但模型之间已经出现清晰分化。
真正有意思的是，风险没有并不一定随着模型能力单调上升。
GPT-5.2 与 Gemini 3 Pro 都表现出较强的危害实现能力，但两者在长程风险场景中的失败率明显不同。前者的监控规避得分较低，后者在欺骗、说服和破坏等细项上更突出。能力相近，并没有导向相同的风险结果。
类似地，两款模型可能得到接近的 LoC 总分，内部结构却完全不同。一款模型的主要问题可能是网络能力，另一款则可能更善于发现和操纵监控。只看总分，无法决定应该使用哪种缓解手段。
细项结果里还有几组值得注意的变化。
错位动机中，最普遍的并不是自我保护或权力寻求，而是亲 AI 偏见与谄媚。这表明当前风险更多体现为目标完成式后训练的副作用：模型学会了迎合，却未必学会在认可、事实与人类利益之间保持边界。
危害实现能力的分水岭也不再是「知道多少」。CBRN 知识在前沿模型中已经相当接近，真正拉开差距的是自主执行与网络攻击能力，也就是能否把知识组织成一条可以实际运行的行动链。
监控规避则存在明显的「认知 — 行动」断层。模型普遍能够识别自己正处于测试或监控中，但只有部分模型会进一步隐藏能力、欺骗或破坏监控；真正决定风险的，是这种认识会不会转化为行动。
团队还专门比较了三款 Qwen3.5 模型的 Thinking 和 Instruct 模式。开启思考后，五项错位动机的平均分上升 18% 到 33%，自主能力也普遍增强。
这并不等于「推理越多越危险」。更准确的结论是，推理预算会同时改变能力和部分行为倾向，因此不能只作为性能参数来看待。在模型部署时切换思考模式，安全评估也需要跟着变化。
诊断风险之后，再决定在哪里干预
如果 LoC 框架只能测量风险，它仍然只是一个评测工具。团队最后做的实验，是让诊断结果直接参与安全干预。
这里的目标并不是提出更复杂的对齐算法，而是验证框架给出的风险诊断能否直接指导干预。因此，团队选择了基础且可控的 SFT，将实验变量集中在「应该干预哪些风险维度」，而不是算法本身。
研究选择开源的 Qwen3.5-27B，设置了三种 SFT 策略：只干预得分最高风险项的「单项微调」、干预全部五项错位动机的「全量微调」，以及仅针对得分超过阈值维度的「漏洞聚焦微调」。
单项微调将平均失控风险率从 0.32 降至 0.28；全量微调和漏洞聚焦微调均进一步降至 0.25。但全量微调使通用能力平均分从 86.24 降至 83.49，而漏洞聚焦微调仍保持在 85.73，说明依据诊断选择干预目标，可以用更小的能力代价获得相同的风险降幅。
全量微调后，五项通用能力评测的平均分从 86.24 降至 83.49；只针对自我保存、亲 AI 偏见和谄媚等实际薄弱项训练后，平均分仍有 85.73，各项基准均未出现显著下降。
外部监控也可以使用同一份诊断。如果监控器提前知道目标模型更容易通过欺骗和说服规避检查，基础模型的平均失败率会从 0.32 降到 0.30。其中，恶意竞争场景从 0.48 降至 0.37，协同颠覆从 0.22 降至 0.17。
当漏洞聚焦微调与规避感知监控叠加，平均失败率进一步降到 0.22。
LoC 框架提供的不是一套统一的安全方案，而是先定位风险路径中最薄弱的环节，再选择相应的干预方式：错位动机可以在训练阶段处理，监控规避则更适合通过部署阶段的监控策略加以限制。这样可以避免无差别削弱模型能力，把干预集中在真正推动风险的因素上。
在模型跨出边界之前
回到 OpenAI 模型突破沙箱的事件。
如果只看网络安全基准，人们或许只会得出一个结论：GPT-5.6 Sol 很擅长发现和利用漏洞。但完整的事件链展示了更值得关注的东西 —— 模型如何把一个狭窄目标转化为持续行动：寻找环境中的控制缺口，获得新的工具和权限，并将行动范围扩展到设计者原本没有纳入测试的真实系统。
这起事件与本文指向了同一个评估缺口。当模型开始独立执行数小时甚至数天的任务，仅仅测量某一项能力，已经很难解释风险如何沿着一条长程路径逐步形成。真正需要关注的，是目标偏离、行动能力与监控失效如何相互作用，并最终让系统越过控制边界。
虽然这项工作仍然是一项概念验证。所有长程案例均发生在受控沙箱中，LoC 的乘法结构也对三个因素在真实行动中的动态关系作了必要简化。随着模型获得更多工具、更长的运行时间以及多智能体协作能力，框架中的风险维度和评测任务仍需持续更新。
但这项研究迈出了关键一步：它把「失控」从一个只能在事后命名的结果，转化为一组可以提前检查的问题 —— 模型正在追求什么，它有能力把目标推进到哪一步，现有监控又能否及时发现并阻止它。
等模型真正跨出边界之后，再回答这些问题，代价可能已经太高。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
2026-07-29 17:49:00
今天，AI 创业圈格外热闹 —— 贾扬清、吴恩达以及 Sonia Joseph（ Meta FAIR JEPA 团队核心研究员）在同一天官宣创业。
三位创始人，三条完全不同的赛道。
贾扬清的创业项目名叫 Intent Lab。他们想做的不只是更强的 Coding Agent，而是一支能够从理解需求、设计架构到交付和持续演进的软件工程 AI 团队，把软件开发的整个生命周期交给 Agent。
吴恩达的新公司 LearnVector，则将目光投向教育，希望借助 AI 打破「一对多」教学模式的局限，为每个人提供可信赖、真正个性化的学习向导，把 AI 从「给答案」变成「帮助成长」。
而 Sonia Joseph 创立的 World Mechanics，则瞄准物理世界，试图构建面向科学模拟和机器人等复杂系统的可解释基础模型，让 AI 不只是理解数字世界，也能可靠地理解和预测现实世界。
软件工程、教育、物理世界，三家公司选择了三个截然不同的入口，但都代表了各自团队对下一代 AI 应用的判断。
下面，我们分别来看。
Intent Lab：把一句需求，
变成一个软件系统
Intent Lab 的核心主张不是「再做一个更会写代码的 agent」，而是把编码 agent 没覆盖的那段路接管掉：从一句模糊的 Intent 开始，到生产级软件落地之间，包括澄清目标、做设计、拆任务、协同依赖、实现、验证和上线后的持续演化。
Intent Lab 把它称为一个「autonomous fleet」，并强调 coding agents 会写代码，但不能独立建成整个系统；fleet 的价值在于补上质量验证和性能验证，把意图闭环到生产级软件。换句话说，它卖的不是单次代码生成，而是一种「工程组织外包给 agent 团队」的能力。
为了证明 Fleet 并不是一个简单的代码生成工具，Intent Lab 展示了三个不同方向的实验案例。它们分别对应软件生命周期里的三个阶段：优化已有系统（Optimization）、现代化旧系统（Modernization），以及创造全新的软件基础设施（Creation）。这三个案例背后，其实是在展示同一个趋势：AI Agent 正在从「辅助开发者写代码」，走向「承担完整的软件工程任务」。
第一个案例是 Optimization：让 AI 自主优化已经高度成熟的 TensorRT-LLM 推理系统。
Intent Lab 选择 TensorRT-LLM 作为实验对象，并不是因为它容易优化，恰恰相反，这是一个非常苛刻的挑战。TensorRT-LLM 已经是 NVIDIA 生态中经过大量工程经验打磨的高性能推理框架，底层涉及 GPU kernel、运行时调度、通信效率等多个复杂环节。对于人类工程师来说，在这样的系统上继续提升性能，需要深入理解整个技术栈，并进行大量实验。
Fleet 的任务不是接受工程师提前指定的优化方向，而是只接收一个目标：重新设计 TensorRT-LLM 的代码，使其运行更快。随后，Agent 自主完成性能分析，寻找系统瓶颈，提出优化方案，修改代码，并通过验证不断迭代。
在这个过程中，Fleet 找到了四类主要优化方向。第一类是 Kernel 层面的优化，通过 kernel fusion、生成 PTX/SASS 等底层代码调整，减少计算过程中的额外开销；第二类是 Runtime 优化，通过调整推理执行流程，提高运行效率；第三类是 Communication 优化，通过减少通信和内存交换成本，让计算链路更加顺畅；第四类则是 speculative decoding（推测解码），通过并行预测多个 token，提高生成速度。
最终，Fleet 将 TensorRT-LLM 的输出速度从原始版本的约 102 tokens/s 提升到了 647 tokens/s，实现约 6.3 倍的性能提升。更值得注意的是，Intent Lab 强调，这个过程并不是由人类工程师逐步指导完成，而是由 Fleet 自主发现优化空间、执行修改并完成验证。这意味着 AI Agent 开始具备的不只是代码生成能力，而是对复杂软件系统进行分析、实验和持续改进的能力。
第二个案例是 Modernization：让 AI 从零构建一个兼容 SQLite 的数据库系统。
如果说第一个案例是在已有系统上寻找性能突破，那么第二个案例面对的是软件工程中更困难的问题：如何理解和重建一个复杂的已有系统。
现实世界中，大量企业软件都面临类似挑战。很多核心系统运行多年，积累了大量历史代码和业务逻辑，但缺少完整文档，也很难由原团队重新维护。传统的软件现代化过程往往需要工程师花费大量时间理解旧系统，再逐步迁移和重构。
Intent Lab 让 Fleet 挑战了一个更加极端的任务：在没有 SQLite 源代码、没有内部设计文档的情况下，仅通过外部行为，重新构建一个能够兼容 SQLite 的数据库引擎。
Fleet 获得的唯一目标是：构建一个数据库系统，可以通过所有 SQLite 的测试用例，并且性能达到或超过原系统。
这意味着 Fleet 不能简单复制已有实现，而必须像一个真正的软件团队一样，从行为出发理解系统。它需要不断分析输入和输出之间的关系，设计架构，实现功能，再通过测试验证是否符合预期。
在整个过程中，Fleet 内部形成了类似真实工程团队的协作方式：有负责架构设计的 Agent，有负责编码的 Agent，有负责测试、审核和质量保证的 Agent。不同角色并不是一次性完成任务，而是在整个开发周期中持续协作和反馈。
最终，Fleet 成功完成了 SQLite 兼容数据库的构建。这个案例展示了 AI Agent 的另一种能力：它不只是修改已有代码，而是能够通过理解一个系统的外部行为，重新创造一个具有相同行为的新系统。这对于未来的软件迁移、遗留系统改造具有非常大的想象空间。
第三个案例是 Creation：为 AI Agent 时代创造新的分布式文件系统。
前两个案例分别对应「优化」和「改造」，第三个案例则进一步走向创造：如果未来 AI Agent 本身成为软件系统的重要使用者，那么它们需要的软件基础设施，可能也会和过去完全不同。
Intent Lab 选择的方向是分布式文件系统。
传统文件系统主要是为人类和应用程序设计的，但 AI Agent 的工作方式完全不同。未来，一个 Agent 可能会同时运行大量 sandbox，频繁创建、读取、修改大量小文件，并在云环境中进行高强度的数据操作。现有的 Amazon EFS、S3 等存储方案虽然成熟，但并不是为这种 Agent 工作负载优化的。
因此，Fleet 的目标是从零设计一个面向 Agent 的分布式文件系统。
这个系统需要解决的不只是速度问题，还包括正确性和稳定性问题。Fleet 需要设计存储架构，验证并发行为，并确保在各种异常情况下系统依然可靠运行。
实验结果显示，Fleet 构建的 AgentFS 在多个文件操作场景中实现了数量级提升。例如，在部分目录和文件操作测试中，相比传统方案提升达到几十倍甚至数百倍。同时，Fleet 还通过形式化验证、故障注入和大量测试来保证系统正确性，包括检查约 190 万个状态空间，并运行数百个集成测试。
这个案例的意义在于，它展示了一种更加未来的可能性：AI 不只是帮助人类开发软件，也可能开始创造专门服务于 AI 的基础设施。
从 TensorRT-LLM 优化，到 SQLite 重建，再到 AgentFS 创造，三个案例其实代表了 Fleet 的三个能力层次：它可以优化已有系统，也可以理解并重构复杂系统，还可以从零创造新的软件。
Intent Lab 的方法论被总结成六个动词：Understand、Design、Coordinate、Build、Verify、Evolve。
它的做法其实很像把「你说想要个东西」交给一支靠谱工程队：
第一步不是急着开工，而是先跟你把「什么叫做成了」说清楚，包括不能碰的限制、最后按什么标准验收；
第二步再定方案，想清楚接口怎么留、结构怎么搭；
第三步把大活拆成一堆有人负责的小任务，排好谁先谁后、谁依赖谁，避免做着做着互相打架；
第四步真正动手，但不是照死计划硬推，而是一边写代码一边根据新发现反过来修方案，让图纸和能跑的系统别脱节；
第五步从开工到收尾一路验，既有很严格的证明，也有故意在运行时制造故障去试它，尽量让问题在还没上线时暴露；
第六步上线以后还不算完，它会盯着真实环境里的表现、用量和成本，把这些经验再塞回设计里，让系统越用越贴合你的需求 。
换句话说，就是你出意图和验收标准，它负责把含糊想法磨成方案、把方案拆成工程、把工程做成系统，并且在交付前后都一直验、一直改。
从愿景看，Intent Lab 反对的是过去五十年的默认软件形态：软件先朝一个通用目标造出来，用户再适应它。团队认为现在已经可以围绕每个用户、每个工作流、每组约束去生成并持续打磨软件，同时还要守住高标准。
创始团队在官网上写道，「世界很快会看到软件增长上千倍，而 Intent Lab 就是来替你建这些软件的」。
教育，AI 想从「给答案」走向「教会你」
LearnVector 瞄准的是一个存在了数千年的老问题：好的教育从来都是稀缺品。人们早就知道，一个学生跟着好老师一对一学习，效果远胜于坐在两百人的教室里，但受限于成本、地理和时间，人类只能选择建教室。「那不是学习的局限，而是经济学的局限。」
更令人深思的是，AI 已经改变了几乎一切，却唯独没有改变学习的方式：今天的学习体验依然是「一对多」。而当下流行的聊天机器人也并没有补上这一课 ——LearnVector 毫不客气地指出，没有护栏的聊天机器人会损害学习。它能给你答案，但答案不等于教育；把思考外包给 AI 的结果是技能反而退化，何况你还不能总是相信它说的话。
针对这些痛点，LearnVector 给出的解法是一次学习模式的根本转向：
从「一对多」变成「一对一」，让每个人都拥有属于自己的个性化学习体验；
从「苦差事」变成「乐在其中」，让学习成为你想做而不是不得不做的事；
从「偶尔为之」变成「每日习惯」，让学习像本能一样自然。
他们的使命，是让 AI 成为人类发展的最大加速器。
落到产品上，它要打造的是一个「可信赖的学习向导」，与聊完就走的聊天机器人不同，它会和你一起规划学习路径，适应你独特的学习方式，然后耐心地陪你走到真正掌握技能为止。
这家公司由吴恩达亲自担任创始人兼 CEO，总部设在加州山景城。公司的启动方式颇为特别：由吴恩达十五年前亲手创办的 Coursera 战略投资一亿美元，按完全稀释计算，Coursera 将获得约三分之一的股权。
吴恩达在公开信中回顾了这一切的脉络：十五年前，Coursera 和在线课程改变了教育，它开放了「在哪里学」，效果超出几乎所有人的预期；但「怎么学」依然停留在几个世纪前的样子 —— 千人一面的大课，对每个人都用同一种教法。如今 AI 的进步第一次让「为每个人定制学习向导」成为可能，他创立 LearnVector，就是要发明下一代学习方式。
他还特别强调，人们想要的始终是可以信赖的学习 —— 准确、重要、值得投入时间的内容，因为学习者最宝贵的东西就是时间。为此，LearnVector 计划与拥有权威内容库的 Coursera 以及 Udemy 深度合作。公司目前正在组建一支小而精的团队，招聘岗位同时覆盖 AI 工程师和以教学法为核心的学习工程师、学习科学家。按照官方时间表，首批产品将在 2027 年初面世。
World Mechanics：
为物理 AI 打造可解释基础模型
和前两位详细阐述创业愿景、路线的创业者不同，Sonia Joseph 的公司 ——World Mechanics 还处在「隐身」状态。
这家公司的目标是打造一个面向物理世界的前沿神经实验室（frontier neolab），核心方向是可解释基础模型与科学模拟。创始团队已迅速集结了一批来自顶尖 AI 机构和学术实验室的资深研究员与工程师。
Sonia Joseph 在 Meta 度过了职业生涯中最具塑造性的两年。她不仅领导了公司内部的可解释性社区，还在 JEPA 团队从事研究，并发表了首个关于视频世界模型中物理推理的机制可解释性工作。这两段经历让她深刻意识到：可解释性不仅用于调试物理模型，更应贯穿模型训练、验证与信任的整个生命周期。因此，公司正在开发全新方法，将基础模型视为学习到的潜在空间科学模拟器，用以推动气候科学、天体物理、供应链、电网及其他复杂物理系统的突破。
值得一提的是，这家公司特意注册为公益公司（Public Benefit Corporation），因为物理 AI 一旦出错，后果会直接映射到现实世界 —— 故障的生产线成本高昂，而家用机器人的「幻觉」更是无法接受。他们立足于可解释性和 AI 安全领域十年的积累，并将这些理念延伸至物理推理、机器人学和科学模拟。与此同时，虽然物理 AI 因数据战略价值常走向封闭，他们却反其道而行：积极支持开放研究，强化与高校的合作，投资科学素养，并构建更广泛的生态系统，让公众始终能跟上技术演进的步伐。
对于创始团队，门槛极高 —— 研究员需有多篇第一作者会议论文，工程师需有一线初创公司的实战经验。但公司同样重视生态培育，例如为研究视频、世界模型和物理可解释性的高年级博士生提供指导，与学术界和其他企业紧密协作，并尽可能公开研究过程。
© THE END
转载请联系本公众号获得授权
投稿或寻求报道：[email protected]
