网通社科技快报
百度AI搜索造谣风波多人被AI嫁接犯罪记录
近期,百度AI搜索陷入一场关于信息准确性和个人名誉的争议风波。多位律师和企业家反映,在搜索自己的姓名或职业信息时,AI生成的摘要内容与事实严重不符,甚至将他人犯罪记录“嫁接”到他们身上,造成极大的负面影响。
2025年5月,北京律师黄贵耕收到委托人发来的三张截图,显示以“黄贵耕律师”为关键词检索后,百度AI生成的摘要称其涉及伪造公司印章案、保证期间审查案和威胁法官案。黄贵耕表示,这一虚假信息导致委托人对其执业品行产生极大疑虑,双方之间一度爆发信任危机。随后,黄贵耕起诉百度索赔百万元,直至立案后,错误内容仍在持续生成。
类似案例并非个例。南京律师李小亮的百度AI摘要配图显示他“被判三年有期徒刑”;江西一家酒厂老板在搜索自家品牌时,AI自动关联出“为什么被禁”的分析,列出的几条“被禁理由”全是凭空捏造;37岁的冀承祥也被AI“诋毁”,将“组织卖淫罪”嫁接到他的早年求学经历之后。
这些案例有一个共同点:AI并非简单的“搞错了”,而是进行了一种规模性的“张冠李戴”。它将网络上关于其他同名同姓者的犯罪记录,或者新闻报道中匿名处理的“黄某”,精准地嫁接到无辜者身上,并配以其真实的照片或经历,生成了一份看似权威、实则失实的摘要。这种行为不仅对当事人造成了实质性的伤害,也引发了业界对AI责任边界的广泛讨论。
面对如潮的质疑和诉讼,百度的回应方式引发了业界的广泛讨论。2026年2月,黄贵耕案一审开庭,百度当庭答辩称:AI幻觉是产品发展中无法避免的阶段性问题,百度提供中立技术服务,不存在主观过错,不构成侵权。这套说辞,与2016年快播CEO王欣站在被告席上说的“内容不是我的责任”“我只是技术服务方”何其相似。
然而,技术深度介入信息分发后,已脱离“中立”范畴。正如去年百度世界大会上,李彦宏曾高调宣称大模型已“基本消除幻觉”,但百度AI搜索的实际表现却与这一战略预期形成了鲜明反差。所谓的“幻觉”不仅未绝迹,反而呈现出一种令人不安的“定向攻击性”。它不再是随机的技术噪点,而是精准地“嫁接”并凭空捏造出受罚、定罪、判刑等高风险负面情节。
值得注意的是,在李小亮案中,二审法官当庭发问:豆包、DeepSeek为何没有这些评价?这说明错误并非技术发展的必然代价,而是百度在事前安全评估、事中审核拦截、事后纠错等环节的投入可能不足。涉及法官、律师、刑事案件等高敏感关键词,审核机制未能有效拦截。
此外,今年3月武汉近百辆萝卜快跑集体趴窝,车内SOS系统失灵,客服无法响应,最终由交警徒步疏散。文章认为,企业享受“无人化”成本优势却将安全风险转嫁公共救援体系,暴露出应急响应与联动机制的短板。AI业务占比近半,商业化与安全投入亟需平衡。
综上所述,百度AI搜索的造谣风波不仅暴露了技术平台在信息审核机制上的漏洞,更凸显了AI责任边界的模糊性。随着AI技术的深度应用,如何在技术创新与社会责任之间找到平衡,已成为亟待解决的问题。
2025年5月,北京律师黄贵耕收到委托人发来的三张截图,显示以“黄贵耕律师”为关键词检索后,百度AI生成的摘要称其涉及伪造公司印章案、保证期间审查案和威胁法官案。黄贵耕表示,这一虚假信息导致委托人对其执业品行产生极大疑虑,双方之间一度爆发信任危机。随后,黄贵耕起诉百度索赔百万元,直至立案后,错误内容仍在持续生成。
类似案例并非个例。南京律师李小亮的百度AI摘要配图显示他“被判三年有期徒刑”;江西一家酒厂老板在搜索自家品牌时,AI自动关联出“为什么被禁”的分析,列出的几条“被禁理由”全是凭空捏造;37岁的冀承祥也被AI“诋毁”,将“组织卖淫罪”嫁接到他的早年求学经历之后。
这些案例有一个共同点:AI并非简单的“搞错了”,而是进行了一种规模性的“张冠李戴”。它将网络上关于其他同名同姓者的犯罪记录,或者新闻报道中匿名处理的“黄某”,精准地嫁接到无辜者身上,并配以其真实的照片或经历,生成了一份看似权威、实则失实的摘要。这种行为不仅对当事人造成了实质性的伤害,也引发了业界对AI责任边界的广泛讨论。
面对如潮的质疑和诉讼,百度的回应方式引发了业界的广泛讨论。2026年2月,黄贵耕案一审开庭,百度当庭答辩称:AI幻觉是产品发展中无法避免的阶段性问题,百度提供中立技术服务,不存在主观过错,不构成侵权。这套说辞,与2016年快播CEO王欣站在被告席上说的“内容不是我的责任”“我只是技术服务方”何其相似。
然而,技术深度介入信息分发后,已脱离“中立”范畴。正如去年百度世界大会上,李彦宏曾高调宣称大模型已“基本消除幻觉”,但百度AI搜索的实际表现却与这一战略预期形成了鲜明反差。所谓的“幻觉”不仅未绝迹,反而呈现出一种令人不安的“定向攻击性”。它不再是随机的技术噪点,而是精准地“嫁接”并凭空捏造出受罚、定罪、判刑等高风险负面情节。
值得注意的是,在李小亮案中,二审法官当庭发问:豆包、DeepSeek为何没有这些评价?这说明错误并非技术发展的必然代价,而是百度在事前安全评估、事中审核拦截、事后纠错等环节的投入可能不足。涉及法官、律师、刑事案件等高敏感关键词,审核机制未能有效拦截。
此外,今年3月武汉近百辆萝卜快跑集体趴窝,车内SOS系统失灵,客服无法响应,最终由交警徒步疏散。文章认为,企业享受“无人化”成本优势却将安全风险转嫁公共救援体系,暴露出应急响应与联动机制的短板。AI业务占比近半,商业化与安全投入亟需平衡。
综上所述,百度AI搜索的造谣风波不仅暴露了技术平台在信息审核机制上的漏洞,更凸显了AI责任边界的模糊性。随着AI技术的深度应用,如何在技术创新与社会责任之间找到平衡,已成为亟待解决的问题。