斯坦福教授Susan Athey，用LLM随机性破解因果推断难题

7月7日，在首尔举行的国际机器学习大会（ICML）上，斯坦福大学商学院技术经济学教授Susan Athey发表了一场题为《基于Transformer模型的因果推断》的Keynote演讲。作为一位长期致力于AI与因果推断交叉研究的学者，Athey教授提出了一个颠覆性的方法论，旨在破解生成式AI时代因果推断面临的巨大挑战。

"随机性是一面镜子，因果推断照见了自己。"Athey教授在演讲中开宗明义地指出，生成式AI虽然带来了前所未有的个性化体验，但也使得传统的因果推断方法面临严峻考验。她强调，当每个用户的每一次交互都独一无二时，如何准确评估不同干预措施的效果成为了一个亟待解决的问题。

Athey教授的方法核心在于"以彼之矛，攻彼之盾"——利用LLM固有的随机性特性，构建一种全新的因果推断框架。这种方法有三大创新点：首先，它摒弃了传统方法中复杂的倾向得分估计，转而关注单个用户在特定查询中的行为概率；其次，通过夜间调用API的方式，可以低成本地获取反事实数据，无需额外招募实验对象；最后，该方法聚焦于实际应用场景，能够直接回答AI产品经理日常决策中的关键问题，如语气调整或界面设计对用户行为的影响。

"这不是一个学术玩具问题，而是每个AI产品经理每天都在面对的真实挑战。"Athey教授举例说明，当系统在两种回复之间几乎无差异时，如何通过微小的干预（如让语气更温暖）来影响用户行为，这正是她的方法所要解决的核心问题。

为了验证这一方法的有效性，Athey教授团队进行了两项实证研究。第一项研究聚焦于聊天机器人和电子商务平台的个性化内容生成，探讨了不同内容特征（如友好度、情感语言等）对用户行为的影响。第二项研究则深入分析了在线推荐系统中，不同特征组合对用户点击率的影响。研究结果表明，通过利用LLM的随机性，可以显著提高因果效应估计的准确性，同时降低实验成本。

"看似维度爆炸的大模型，实则为因果推断送上了最好的武器。"Athey教授总结道，生成式AI不仅带来了挑战，也提供了全新的工具。她的研究为AI领域的因果推断开辟了一条新路径，特别是在个性化推荐系统、智能客服等领域具有广泛的应用前景。

"我们正在进入一个全新的AI时代，"Athey教授在演讲结束时说道，"在这个时代，因果推断不再是一个理论问题，而是关乎商业成功的关键能力。"

以下是Athey教授演讲中的关键幻灯片内容摘要：

这张幻灯片清晰地展示了Athey教授的研究主题及其所属机构，包括斯坦福大学商学院、人类中心人工智能研究所和计算与数学工程研究所。

这张幻灯片详细阐述了研究的科学价值和工业应用，从消费者行为心理学到电商内容优化，涵盖了多个研究领域。

这张幻灯片介绍了研究采用的具体方法论，包括Logged Counterfactual Exposures（LCE）数据结构和Conditional Treatment-Averaged Causal Effect（C-TACE）估计量。

这张幻灯片说明了数据来源，指出大多数算法都是随机性的，可以通过现有用户数据或通过随机算法采样获得反事实暴露数据。

这张幻灯片展示了研究论文的标题和DOI链接，方便读者进一步查阅详细内容。