哈·萨比斯：AGI将在2030年实现
关于通用人工智能（AGI）及其潜在影响的讨论正变得越来越紧迫。曾经被认为是遥远的未来，现在正被视为具体的规划要素进行讨论。DeepMind首席执行官Demis Hassabis预测，“变革性”的AGI将在不久的将来实现，并强调“世界模型”作为关键发展领域的作用。与此同时，他警告了现实风险，特别是AI驱动的网络攻击对关键基础设施的威胁。
来源: 原创展示
AGI辩论与世界模型
Demis Hassabis曾多次表示，AGI——被理解为在许多领域达到或超越人类能力的系统——可能在2030年左右实现。这一时间表在 Axios AI+ Summit 上被再次提及，并与“变革性时刻”的概念联系在一起。
来源: axios.com
Demis Hassabis与Google联合创始人Sergey Brin讨论人工智能的未来。
AGI的争论在技术上仍然存在争议，因为定义、衡量标准和基准并不统一。即使一些参与者认为2030年是合理的，但严肃的估计范围要广泛得多，一直到2040年代或更晚，正如在 专家调查和模型局限性 中讨论的。Hassabis并不将时间表与纯粹的规模化相联系，而是与其他突破联系起来。“世界模型”在这里成为愿景和研究议程之间的连接概念。
DeepMind世界模型解释：为什么模拟不仅仅是漂亮的视频
“世界模型”是指一个AI系统构建内部的、可操作的世界模型，以预测行动的后果。随着强大的智能体和机器人技术在没有可靠环境模拟的情况下难以扩展，这一概念正在复兴。关于历史渊源以及今天关于什么是真正的“世界模型”的不一致之处，提供了一个分类。 Quanta Magazine.
在过去12个月里，DeepMind极大地具体化了这一方向。在2024年底，发布了 Genie 2 ，一个基础世界模型，它可以从一个提示图像生成多样化、可操作的3D环境。 Genie 3 于2025年8月5日发布，旨在实现实时交互式、一致的世界的生成。
这项发展的核心在于一种不同的架构愿景：AI智能体应该在建模的世界中进行规划、测试和学习，然后才能影响真实的系统。DeepMind自己明确地将这项技术与AGI的道路联系起来。这一想法也在DeepMind之外得到了讨论，例如在自然视频上通过自我监控产生的“直观物理理解”的工作，其中也包括 Yann LeCun beteiligt 。
AI风险与关键基础设施
Hassabis的警告指向了一个令人不快的重叠：在模拟世界中能够更快学习的相同的智能体能力，可以在真实的IT和OT环境中更快地进行攻击。在Axios AI+峰会上，他明确提到了 针对能源或水利系统的网络恐怖主义 作为一个特别明显的向量，它“几乎已经发生了”。
来源: 1950.ai
DeepMind首席执行官Demis Hassabis谈论通用人工智能的机遇与风险。
与此同时，西方政府发布了关于如何安全地将AI集成到运营技术中的具体指导方针。2025年12月4日，宣布了一项 国际指导方针 ，强调了四个原则：风险理解、需求和风险分析、治理以及监督和故障安全。该发布在行业媒体上被视为对AI+OT日益增长的攻击面的回应，正如 Dark Reading 和 SecurityWeek 所报道的。
关键基础设施仍然是国家行为者关注的焦点，这一点也通过当前的BRICKSTORM事件得以体现。根据美国和加拿大当局的说法，一个与中国有关的后门被用来建立长期访问系统——具有干扰或破坏的潜力，正如 Reuters 所报道的。行业报告指出，VMware vSphere环境和Windows基础设施尤其受到了影响。
此外，根据美国报告，勒索软件仍然是关键行业的关键压力因素。FBI报告称，2024年 投诉数量有所增加 ，与关键基础设施的联系非常紧密。
行动需求与治理
AGI的短时间表和具体的安全警告的危险组合产生了采取行动的压力。Hassabis的声明暗示：即使AGI在2030年不完全实现，其“变革性”的部分能力也会更早地广泛传播。这个阶段，攻击者不需要“超级智能”，而是需要强大、组织良好的智能体，它们可以扩展并自动化人类的错误链。
来源: time.com
Demis Hassabis，人工智能领域最具影响力的人物之一，登上《时代》周刊100期杂志封面。
因此，对于组织来说，更重要的问题是“AGI何时到来？”的形而上学问题，而是“哪些智能体能力将在2026/2027年进入标准工具链？”的实际问题。政府的答复也指向同一方向。新的OT指导方针明确要求，AI系统不得在不受控制的情况下嵌入安全关键流程，并且必须从设计上就植入人类监督和故障安全机制。
在治理层面， NIST AI Risk Management Framework 仍然是核心参考点，因为它为AI风险的结构化提供了一个自愿但被广泛接受的框架。NIST还提到了自2024年以来发布的关于生成式AI的特定配置文件。
供应商自己也记录了滥用的现实。OpenAI在其 Threat-Reporting, 中描述，参与者通常会将AI“对接”到现有的攻击模式，以提高速度，而不是发明全新的攻击类别。这一观察结果与Hassabis的警告一致，即最危险的向量实际上已经存在，只是变得更加高效。
总结与展望
当前的AGI辩论似乎被激化了，因为“世界模型”在抽象的通用智能和非常具体的系统能力之间架起了桥梁：规划、模拟、行动序列、动态环境中的鲁棒性。这些能力在工业和关键基础设施中既是受欢迎的，也是危险的。
因此，Hassabis的双重信息——AGI正在临近，但某些风险已经显而易见——不仅仅是一种修辞技巧，而是一种合理的系统诊断：未来是逐步到来的，而危险的中间阶段往往是最不受监管的。