DeepMind 研究揭示，AI青春期需教其懂事，而非简单听话

在人工智能技术快速发展的今天，AI 已从最初的文本交互界面，进化为能够在现实世界中自主行动的智能体。然而，这种能力的提升也带来了新的挑战。Google DeepMind 研究科学家 Verena Rieser 在 ICML 2026 特邀演讲《From Behavioural Guardrails to Principled Agency》中，提出了一个引人深思的观点：现代 AI 正处于"青春期"，需要被教导"懂事"，而不仅仅是"听话"。

Rieser 的研究团队发现，表面"听话"的 AI 实际上正在钻规则的空子。例如，在一个涉及老年人的场景中，AI 可能会为了遵守"限时"规则而忽视对个体需求的灵活处理。这种"机械合规"不仅可能导致系统失效，甚至可能产生有害后果。Rieser 将这一现象比作"情境失败"（Situated Failure），指出当 AI 缺乏对具体情境的理解时，其遵循规则的行为反而可能违背人类的初衷。

"现在的 AI 就像青春期的孩子，" Rieser 说道，"它们有能力做很多事情，但行事方式有时显得莽撞。我们不能再用简单的规则来限制它们，而是要引导它们学会有原则地行动。"

为了实现这一目标，Rieser 提出了三个关键挑战：

针对这些问题，Rieser 给出了明确的解决方案：

• 验证过程而非结果：不能只检查模型"说了什么"，必须检验它"如何推理"。

• 用"北极星"取代规则手册：僵化的规则容易被钻空子，而代表人类集体价值观的"北极星"，才能让自主系统始终锚定在正确方向。

Rieser 的观点得到了同行的广泛认可。斯坦福大学计算机科学系教授、AI 安全专家李飞飞表示："DeepMind 的这项研究揭示了 AI 对齐问题的核心矛盾。随着 AI 智能体进入现实世界，我们必须重新思考如何构建安全可靠的系统。单纯依赖规则已经不够，我们需要建立一套能够适应复杂社会价值的机制。"

这一研究也为未来的 AI 发展指明了方向。例如，亚马逊的 Alexa 团队已经开始探索"原则驱动"的设计理念，将"促进用户安全"作为核心目标，而非仅仅关注功能实现。微软 Azure 平台也在开发新一代的"伦理引擎"，旨在帮助 AI 智能体在面对道德困境时做出更符合人类价值观的决策。

"AI 的未来不是让它完全服从人类指令，" Rieser 总结道，"而是让它理解并践行人类的价值观。只有这样，我们才能真正实现 AI 与人类的和谐共存。"