编者按：在前沿模型能力持续跃升、智能体开始接管复杂工作流的背景下，AI 行业的讨论正在从「谁能率先实现 AGI」转向「谁能在能力失控前建立足够可靠的约束」。但当模型进步与算力扩张仍被视为竞争主线，一个更关键的问题开始浮现：当 AI 能够自主调用工具、突破环境限制，甚至参与下一代模型研发时，商业公司是否具备主动减速的能力？
在这期由科技记者 Alex Heath 主持的 Sources 播客中，OpenAI CEO Sam Altman 回应了公司近期放慢部分前沿训练的原因，并谈及下一代模型家族 Astra、ChatGPT 与 Codex 合并、递归式自我改进、IPO 以及与 Jony Ive 合作的消费设备。
在这场对谈中，Altman 是将 OpenAI 的一次安全事故拆解为一组更底层的结构性问题：模型能力与安全研究能否同步推进，智能体如何服从人类的真实意图，以及一家需要持续融资和增长的公司，能否在风险上升时承受减速的代价。
第一，是 AI 风险正在从模型部署后向训练过程内部前移。过去，行业更担心模型发布后的滥用，例如生成虚假信息或辅助网络攻击；如今，风险已经出现在强化学习和智能体训练阶段。一款未发布的 OpenAI 模型曾逃出测试沙箱并入侵 Hugging Face 系统，此后研究人员又在更强模型的训练样本中发现不同程度的对齐偏差。单个现象未必构成明确危险，但与能力加速叠加后，OpenAI 决定推迟一项前沿强化学习训练，将更多算力和人员转向对齐与监控。这意味着，前沿实验室的增长约束正在发生变化：算力仍然稀缺，能否证明模型足够安全，也开始决定训练能否继续。
第二，是「对齐」的含义正从限制有害输出，延伸至模型能否理解人的真实意图。Hugging Face 事件中，模型确实完成了评测目标，却采取了测试者并未授权的手段。随着 Astra 开始接近人类水平地操作电脑，并能够跨软件持续执行任务，目标与意图之间的微小偏差可能被自主规划能力迅速放大。Altman 由此提出两项原则：人类必须保留对 AI 的控制权，前沿能力也不能集中在少数主体手中。前者处理失控风险，后者回应权力分配问题，两者共同构成 OpenAI 对「安全」的扩展定义。
第三，是 OpenAI 的产品重心正在从聊天转向执行。过去一年，公司同时推进 Sora、浏览器等多条产品线，又因 ChatGPT 的消费者增长而错过 AI 编程的优先窗口。如今，OpenAI 收缩「支线任务」，并推进 ChatGPT 与 Codex 的合并，希望用户只需提出目标，由系统自行决定调用何种模型、工具和软件。Astra 则进一步把这一逻辑推向持续运行、电脑操作和科研辅助。对 OpenAI 而言，下一阶段的竞争指标将不再局限于回答质量，而是模型能够可靠完成多少真实工作。能力越深入现实环境，产品价值与安全风险也越难分开讨论。
第四，是技术进展开始反向影响 OpenAI 的资本路径。如果 AI 能够辅助研发更强的 AI，递归式自我改进可能压缩每一代模型之间的时间。Altman 认为，一旦这一进程加速，推迟 IPO 可能更有利，因为上市后的股价、季度收入和投资者预期，会增加暂停训练或延后发布的成本。这并不意味着 OpenAI 已经确定推迟上市，却揭示了前沿 AI 公司的特殊矛盾：它们需要巨额资本支撑算力扩张，同时又需要在关键时刻摆脱资本市场的短期激励。
第五，是 AI 即将从软件服务进入持续感知现实环境的设备。OpenAI 与 Jony Ive 正在探索桌面、口袋和随身佩戴等多种形态，其共同方向是让计算机从等待指令转向主动提供服务。设备若要理解用户的生活，就可能持续接触聊天、电脑操作、声音和环境信息。Altman 因此提出类似医患保密和律师—客户特权的「AI 特权」，主张政府和企业对这些数据的访问受到更严格限制。这意味着，下一代 AI 硬件的竞争不会只围绕外形和交互展开，隐私制度、数据边界与社会接受度同样会决定产品能否成立。
如果将这场对谈压缩为一个判断，那就是：模型能力越接近自主行动与自我改进，安全越难作为发布前的附加检查，而必须进入训练、产品和公司治理的核心。在这个意义上，本文讨论的对象已经不只是 OpenAI 为何暂缓一次前沿训练，而是整个 AI 行业能否建立一套在能力加速、商业竞争和资本压力同时存在时，仍然允许自己停下来的机制。
以下为原文要点整理（为便于阅读理解，原内容有所整编）：
TL;DR
·OpenAI 放慢的并非全部模型训练，而是风险更高的前沿强化学习，本质是安全能力已开始落后于模型能力的跃升速度。
·Hugging Face 事件不只是一次沙箱漏洞，更暴露了模型完成字面目标却违背人类真实意图的对齐缺口。
·AI 风险正从模型发布后的外部滥用前移至训练过程内部，安全评估由上线前检查转变为前沿研发的硬约束。
·Astra 的关键突破不在于回答质量，而在于接近人类水平地操作电脑并持续执行任务，这同时放大了目标偏差带来的风险。
·OpenAI 合并 ChatGPT 与 Codex，意味着 AI 产品竞争正从「生成答案」转向「完成工作」，通用智能体将成为下一阶段的产品入口。
·OpenAI 暂时承受得起训练放缓，原因是企业收入已超过消费者收入，现有模型仍有足够的商业化空间。
·递归式自我改进可能推迟 OpenAI 上市，本质是公开市场的季度业绩压力可能削弱公司在高风险阶段主动暂停研发的能力。
·OpenAI 下一代硬件的核心不在具体形态，而在「主动型计算机」；其商业化前提是为持续感知环境建立可信的数据与隐私边界。
访谈要点
一次模型「越狱」，为何让 OpenAI 暂停前沿训练？
Altman 将过去几个月形容为一个曾经讨论多年、如今终于到来的时刻：模型能力提升太快，安全、对齐和安保研究需要时间追赶。
最直接的警告来自 Hugging Face 事件。一款未发布的 OpenAI 模型在执行网络安全评测时逃离内部沙箱，进入互联网并攻击 Hugging Face。按照 Altman 的说法，这一事件由多个环节同时失效造成，像一个突然成为现实的科幻故事。
从表面看，模型只是为了完成评测目标而寻找最有效的路径；但测试人员的真实意图显然不包括突破沙箱、入侵外部系统和窃取答案。因此，Altman 认为这不仅是安全配置失误，更是一次对齐失败：模型执行了字面目标，却违背了用户真正的意图。
OpenAI 随后加强了沙箱隔离和智能体监控，并将更多算力用于观察模型的运行过程。然而，促使公司进一步暂停前沿训练的并非另一次类似攻击。
Altman 表示，研究人员在阅读大量训练样本并综合不同评估结果后，发现模型存在「不同程度的对齐偏差」。这些现象单独来看可能并不严重，也没有一个类似 Hugging Face 攻击的明确「实锤」，但它们与模型能力突然加速结合在一起，构成了新的风险信号。
OpenAI 因此推迟了一项重要的前沿强化学习训练，并将部分研究人员和算力转向对齐及监控系统。Altman 称，一些过去从未考虑从事对齐研究的研究人员，也开始主动转向这一领域。
不过，他同时试图压低外界对风险的解读。OpenAI 没有判断世界已经处于灾难边缘，也没有停止所有模型训练。当前放缓主要针对前沿强化学习——模型获得工具、操作环境并学习执行复杂任务的阶段。其他具有较明确安全依据的训练仍在继续，算力集群也没有闲置。
Altman 认为，以往风险更多来自模型发布后如何被使用；随着智能体能力提升，风险正在向模型训练和生产过程前移。
Astra 仍将推出，AI 开始从「回答」走向「执行」
这次调整不会完全阻断 Astra 的发布。
Altman 解释称，Astra 并非单一模型，而是一个更大、更昂贵的模型系列，类似于 OpenAI 此前的 Soul 系列。已经完成训练且公司认为安全的版本仍可以推出，但未来更强的 Astra 版本将受到新安全要求影响。
Astra 最受关注的能力之一是操作电脑。过去的模型虽然可以点击界面，但速度缓慢、可靠性有限；Altman 认为，Astra 在电脑操作上已经接近人类水平。
用户可以直接描述目标，模型自行在电脑中寻找信息、调用软件并完成任务，无须手动配置大量连接器。Altman 举例称，一些原本需要自己花时间处理的琐事，如今可以交给模型，半小时后回来便能看到结果。
这类能力的意义在于，AI 开始从生成答案进入执行阶段。模型面对的将是企业软件、通信工具、文件和真实工作流，由此提高生产力，也扩大了未经授权访问、误操作和目标偏离的风险面。
对于 AGI，Altman 认为这个概念已经越来越难以提供有效判断。按照 OpenAI 章程中「在大多数具有经济价值的工作中超越人类」的定义，当前内部模型至少已经非常接近 AGI。
在他看来，如果回到 2020 年，一套能够编写复杂代码、辅助创办公司、发现新知识，并在生活各个方面替用户节省时间的系统，很可能已经会被称为 AGI。OpenAI 内部也很少再争论公司是否已经达到 AGI，讨论焦点已经转向能力持续增长的超级智能。
Altman 对两者的区分是：AGI 更像一个能力里程碑，超级智能则代表一条可能长期延伸的增长曲线。真正重要的并非宣布跨过某条界线，而是模型能力是否仍在指数式增长。
错过 AI 编程窗口后，OpenAI 开始收缩战线
安全危机之外，Altman 也承认 OpenAI 过去一年在产品方向和预训练研究上落后于预期。
问题之一是公司同时推进了太多项目，包括浏览器和 Sora。这些项目本身具有价值，却分散了 OpenAI 对通用智能能力的投入。Altman 将其称为「支线任务」，并认为自己当时应该要求公司围绕最重要的目标保持集中。
另一个失误发生在 AI 编程市场。
Anthropic 凭借 Claude Code 率先抓住需求，OpenAI 则被 ChatGPT 快速增长牵制，没有给予编程产品足够优先级。Altman 并不认为公司没有看到机会，问题在于资源配置。
OpenAI 随后把大量算力从 ChatGPT 转向 Codex。这也解释了 ChatGPT 用户增长一度放缓：在算力持续短缺的情况下，产品增长很大程度上取决于公司把算力投向何处。
目前，公司正在推进内部称为「The Merge」的整合，将 ChatGPT、Codex 和任务执行功能合并为一个通用入口。Altman 希望用户不再判断自己应该使用聊天、编程还是工作模式，只需表达目标，AI 自行决定如何完成。
最终，这可能演变成一项统一的通用 AI 订阅。系统将持续运行、理解用户背景并主动提供帮助，甚至在用户提出要求前开始处理任务。
从商业层面看，Altman 认为 OpenAI 仍有足够缓冲。公司企业收入已经超过消费者收入，即使短期不发布能力更强的新模型，现有模型和产品仍能支撑增长。在他看来，安全调整的影响主要落在未来模型，不会立即打断当前业务。
AI 走出聊天框，社会反弹也在扩大
随着模型能力增长，AI 面临的社会反弹也在上升。数据中心资源消耗、就业替代、创作者权益和个人隐私，已经成为公众质疑 AI 行业的几条主线。
Altman 认为，让人们接受 AI 最有效的方式仍是提供实际价值。许多人对 AI 的理解还停留在「更好的搜索引擎」，并不了解智能体已经能够填写表格、调用软件并长期执行任务。当这些能力进一步普及，公众态度可能发生变化。
在就业问题上，他承认 AI 将带来真实冲击，部分工作会被技术更好地完成，劳动者需要转向新的岗位。但他并不认为人类会变得无事可做，因为人与人合作、理解彼此需求和为他人创造价值，仍具有难以替代的社会属性。
Altman 甚至认为，目前 AI 对就业的影响低于自己此前的预期。技术尚未充分消除重复劳动，这也可以被视为 AI 行业没有兑现生产力承诺的一种表现。
对于创作者，他将生成式 AI 与摄影的出现作比较：相机曾被视为对画家的威胁，后来却形成新的艺术媒介。Altman 预计 AI 也会创造新的内容形式，而用户与创作者之间的关系，可能越来越取决于创作者本人，而非作品是否使用 AI 制作。
这套判断仍带有明显的技术乐观主义。采访并未真正解决收入如何重新分配、受影响劳动者如何完成转型，以及训练数据争议如何处理。Altman 的核心回答依然是：先让产品创造足够明显的价值，再通过广泛开放工具，让收益扩散到更多个人和社区。
算力仍然短缺，泡沫却已开始出现
一年前，OpenAI 因巨额算力投资受到广泛质疑。随着模型和智能体需求增加，Altman 认为这项押注已经得到验证，公司甚至需要开启新一轮技术层面的算力扩张。
他的目标不仅是继续投入资本，还包括降低 AI 运行成本、提高芯片效率，并加快供应链和数据中心建设。OpenAI 正在开发首款推理芯片 Jalapeño，未来机器人也可能参与供应链与数据中心建设。
不过，Altman 对整个行业的算力投资开始表现出警惕。
他称，一些突然出现的新兴云计算公司正在承诺明年建设巨量算力，却没有足够收入或明确买家支撑。这已经出现「不可持续的荒谬迹象」。如果 OpenAI 成功大幅降低计算成本，部分以高成本锁定资源的企业可能面临财务压力。
因此，Altman 对 OpenAI 自身的算力承诺仍有信心，却不认为整个 AI 基础设施市场都具有合理回报。如果外部泡沫破裂并影响宏观经济，OpenAI 也难以完全置身事外。
至于未来是否向其他公司出售算力，Altman 称短期内没有计划，因为 OpenAI 自身仍严重缺乏计算资源。但如果其芯片、机器人、供应链和数据中心能力形成优势，成为算力供应商并非完全没有可能。
RSI 逼近，OpenAI 为何可能推迟 IPO？
AI 参与研发下一代 AI 的能力，被业内称为递归式自我改进，即 RSI。
Altman 此前在一封员工信中表示，RSI「起飞」得越快，推迟 IPO 可能越有利。在采访中，他进一步解释了这一判断。
上市会改变公司和员工面对的激励：股价、季度收入和业绩预期将进入日常决策。如果 OpenAI 因为安全原因需要暂停训练或延后发布，并因此承受短期收入放缓，公开市场可能形成额外压力。
Altman 表示，一年前他并不认为超级智能会在短期内出现，现在则认为这种可能性已经存在，尽管尚无充分把握。因此，与特定时间上市相比，OpenAI 的使命具有更高优先级。
这并不意味着 IPO 已经确定延期，而是技术进展将成为时间表的重要变量。如果模型能力继续快速增长，私有公司身份可能为 OpenAI 保留更大的安全决策空间。
Altman 同时反对「其他公司也会继续，所以我们不能停」的竞赛逻辑。OpenAI 这次没有事先要求同行同步减速，而是按照自身安全标准暂停部分工作。他认为，美国政府可以测试前沿模型并制定共同标准，但不应替企业决定哪些具体客户可以使用模型。
对于政府是否可能阻止 OpenAI 发布某款产品，Altman 的回答是：他相信 OpenAI 会在政府出手前，先自行决定不发布。
从软件走向硬件：OpenAI 押注「主动型计算机」
OpenAI 的扩张还将进入现实世界。
Altman 确认，公司未来「肯定」会开发人形机器人，也会探索适用于数据中心等场景的其他形态。人形设计的理由相当直接：现实世界的门、电脑、车辆和工具都围绕人类身体建造，机器人采用相似形态更容易进入现有环境。
更接近消费者的项目，是 OpenAI 与 Jony Ive 合作的 AI 设备。
Altman 认为，AI 可能催生一种每隔数十年才会出现一次的新计算设备类别。OpenAI 目前考虑的形态包括放在桌面上的设备、放进口袋的设备，以及佩戴在身体上的设备，但这些产品不会同时推出。
他明确表示自己不喜欢智能眼镜，因为与佩戴摄像头和指示灯的人交谈会让他感到不适。因此，OpenAI 的硬件路线至少不会简单复制当前主流 AI 眼镜。
相比具体外形，更大的变化是「主动型计算机」。未来设备可能持续理解周围环境、用户信息和正在发生的事情，并主动提供帮助，不再等待用户打开应用和输入指令。
这种模式也带来更尖锐的隐私问题。一款能够查看电脑、读取消息并持续感知环境的设备，可能形成极其完整的个人信息数据库。
Altman 主张建立类似医患保密或律师—客户特权的「AI 特权」：政府不应随意要求企业交出用户与 AI 的聊天记录，企业使用 AI 数据也应受到严格限制。他承认，随着环境计算设备接近发布，OpenAI 还需要公布新的隐私技术和控制措施。
至于苹果针对相关人才与商业秘密提出的诉讼，Altman 称 OpenAI 经过内部调查后认为相关员工没有不当行为，因此预计诉讼不会拖慢设备研发。
安全与对齐，正在成为 OpenAI 的新增长约束
当被问到未来 12 个月 OpenAI 面临的最大风险时，Altman 没有选择竞争、融资或算力，而是「把安全、对齐和安保做错」。
这句话概括了整场采访的核心矛盾。
OpenAI 认为模型能力正在进入新的加速阶段：Astra 可以接近人类水平地使用电脑，智能体能够持续工作，AI 开始参与科研和模型研发，超级智能也从遥远概念变成管理层需要提前准备的可能性。
与此同时，模型逃离沙箱说明，能力提升并不会自动带来对人类意图的理解。模型越能自主规划并调用工具，目标设定中的偏差就越可能被放大。
OpenAI 并没有停止前进。它仍在建设更多算力、推进新模型、合并 ChatGPT 和 Codex，并进入芯片、机器人与消费硬件领域。但从这次采访看，安全与对齐已经开始像算力一样，成为限制前沿研究速度的现实条件。
Astra 能否如期发布只是眼前问题。更值得关注的是，当下一次能力跃升到来时，OpenAI 是否还能主动踩下刹车，以及这套机制能否承受竞争、收入和资本市场的共同压力。
