李飞飞与JeffDean对谈AI自我进化，RSI并非无限加速，物理与认知存在真实边界

离开谷歌27年后，Jeff Dean选择重新创业，将技术理想投向一个更具挑战性的方向：构建能自主设计实验、验证结果并持续学习的AI系统。这家名为Discovery Loop的新公司，由Dean与Quoc Le、Sanjay Ghemawat、Oriol Vinyals四位谷歌资深工程师联合创立，核心目标是通过大规模AI Agent协作，将领域专家的科研生产力提升20至50倍。

在斯坦福大学以人为本人工智能研究所（HAI）举办的公开活动中，Dean首次系统阐述了公司的技术路径。团队已建成专用的Agent Harness基础设施，运行约20个自动化改进循环，主要用于优化实验效率与历史经验复用。值得注意的是，公司成立前三周即完成近400场面试，成员中约10%曾获ACM计算奖，10%拥有国际信息学奥林匹克竞赛奖牌，体现出极强的学术与工程复合背景。

但真正引发行业关注的，是活动尾声李飞飞与Dean关于“递归自我改进”（Recursive Self-Improvement, RSI）的对谈。这一概念近期在硅谷被广泛讨论，部分观点认为AI将通过自我迭代实现指数级能力跃升，甚至突破人类认知边界。然而两位长期深耕AI一线的研究者给出了冷静判断。

Dean指出，尽管神经架构搜索（NAS）可视为早期RSI雏形——系统能根据任务自动探索模型结构——但其本质仍是人类设定目标、定义搜索空间后的有限优化。今天的进步在于，用户可用自然语言直接指令AI：“请探索新模型架构以解读MRI图像”，系统即可启动实验闭环。但这并不意味着AI具备“自主意图”或“目标演化能力”。

他强调，当前RSI仍高度依赖人类提供的初始问题框架与评估标准。“我们告诉系统‘改进这个模型’，但它不知道‘更好’意味着什么，除非我们明确定义损失函数、数据集与评价指标。”在大型项目管理中，Dean曾领导过4400人的Google Research团队，深知协调成本之高；而Discovery Loop试图用自动化系统替代部分人工协调环节——由专家设定顶层目标，AI负责子问题识别、实验组织与路径动态调整。但这种“自动化”并非无监督演进，而是受控的闭环优化。

李飞飞则从认知科学角度补充：人类科研本身即是一种“递归过程”——提出假设、实验验证、修正理论、再提新假设。AI若要模拟此过程，必须解决三个根本难题：第一，如何定义“有价值的问题”？第二，如何判断“证据是否充分”？第三，如何处理反常结果而不陷入局部最优？她指出，当前LLM驱动的Agent虽能生成大量实验方案，但其“学习”仍局限于统计关联，缺乏因果推理与物理常识约束。

两人一致认为，所谓“AI自我进化”的流行叙事存在严重简化。RSI在特定任务中可行（如芯片设计、蛋白质折叠），但将其泛化为通用智能的无限加速机制，忽视了现实世界的物理极限与信息熵约束。例如，训练一个更优模型需更多算力与数据，而算力增长正逼近半导体物理瓶颈；数据质量亦非线性提升，噪声与偏见会随规模放大。

此外，Dean提及一个常被忽略的事实：目前所有自动化改进循环均运行在人类预设的“安全沙盒”内。系统不会擅自修改自身目标函数，也不会跨领域迁移策略——这恰恰说明，当前技术远未达到“自主演化”阶段。真正的递归改进需满足：系统能反思自身目标合理性，并主动重构任务定义。而现有系统连“意识到自己可能错了”都尚未实现。

行业观察显示，RSI热潮背后隐含两类误读：一是将“工具自动化”等同于“智能主体化”，二是混淆“能力增强”与“目标自主”。前者如GitHub Copilot辅助编程，属典型人机协同；后者则要求AI能发起新研究议程，如主动提出“暗物质探测应改用量子传感阵列”。目前尚无系统接近后者。

值得玩味的是，Dean团队虽聚焦自动化科研，却刻意避开“奇点”“超智能”等话语。他们更愿称其系统为“科研协作者”而非“替代者”。在被问及“科学家未来角色”时，李飞飞回应：“不是被取代，而是升级为问题定义者与伦理把关人。当AI能跑一万次实验，人类的价值将更集中于‘问对问题’和‘识别真伪信号’。”

事实上，RSI的可行性边界已在多个维度显现。2023年DeepMind的AlphaFold 3虽大幅提升结构预测精度，但仍依赖人工标注的PDB数据库；2024年Meta的Llama 3训练中，团队发现单纯扩大数据量导致事实幻觉加剧，被迫引入更强的对齐机制——这印证了Dean所言：“改进不是单向的，有时退一步才能进两步。”

从技术演进看，当前AI系统的“自我改进”实质是“反馈驱动的参数调优”，而非“元认知层面的架构重写”。真正的递归进化需满足：系统能生成新算法、新表示形式甚至新硬件指令集，并验证其有效性。这不仅涉及软件层，还需与底层计算架构协同演进——而目前软硬解耦仍是主流范式。

值得注意的是，Discovery Loop的实践路径反而揭示了一条更务实的方向：不追求AI“取代科学家”，而是构建“可扩展的科研操作系统”。该系统允许少数专家指挥数万Agent并行探索，但每个Agent的行为规则、终止条件与结果校验均由人类预设。这种“受控递归”或许比虚无缥缈的“无限进化”更具现实价值。

最后，李飞飞以一句总结收束对话：“我们敬畏技术潜力，但更需警惕修辞陷阱。当有人说‘AI将自我进化到超越人类’，请先问：它依据什么标准判断‘超越’？又由谁来定义‘人类’？”

这场对话并未否定AI在科研中的巨大潜力，而是划清了技术现实与科幻想象的界限。在资本与媒体热炒RSI概念之际，两位奠基者的选择颇具深意：他们带着顶尖人才离开大厂，不是为了追逐下一个风口，而是回归问题本质——如何让AI成为可靠的科研伙伴，而非不可控的“进化引擎”。