谷歌地球AI生成功能上线48小时即暂停,卫星图造假风险引关注

7月31日,谷歌在其地图服务Google Earth中推出一项备受瞩目的新功能:通过整合自研图像生成模型Nano Banana 2,用户可以基于真实卫星影像生成虚构场景。这一功能甫一发布便迅速吸引了大...

人工智能

7月31日,谷歌在其地图服务Google Earth中推出一项备受瞩目的新功能:通过整合自研图像生成模型Nano Banana 2,用户可以基于真实卫星影像生成虚构场景。这一功能甫一发布便迅速吸引了大量关注,但仅仅48小时后,谷歌便宣布暂停该服务,以加强安全防护。

这项功能的核心在于允许用户输入文字指令,在真实的卫星、航拍或三维地图基础上生成全新场景。例如,用户可以轻松创建"埃菲尔铁塔倒塌"或"胡夫金字塔被天坑吞噬"等虚假画面,并下载分享至社交媒体。测试显示,这些AI生成图像几乎以假乱真,其迷惑性远超单纯的数字绘画。

图片

"我们最初设想的是让城市规划师、历史学者和教育工作者能够更直观地展示概念,"谷歌产品经理Bryan Horowitz在官方博客中写道,"但现实情况表明,这种强大的创作能力也可能被滥用。"

事件的导火索是一系列极具冲击力的虚假图像。BBC事实核查部门和《华盛顿邮报》均证实,仅需几秒钟,用户便能生成看似来自权威来源的虚假卫星图。这些图像不仅包含精确的地理坐标和周边环境细节,还嵌入了谷歌声称的隐形水印,试图提供验证依据。

然而,测试发现,这些水印机制存在明显漏洞。部分验证工具可被绕过,外部检测系统也未必能稳定识别假图。当"真实底图+虚构叠加"成为可能,虚假信息的传播门槛被降至最低,公众对卫星图像的信任基础正面临前所未有的挑战。

"过去我们担心AI生成的文字内容可能误导,但现在问题已经升级到视觉层面,"一位网络安全专家表示,"一张看似真实的卫星图像,可能承载着完全虚假的信息。"

这起事件揭示了一个更深层次的问题:当生成式AI技术渗透进高可信度领域时,如何在创新与安全之间找到平衡点?专家建议,未来类似功能应默认开启可见水印、限制敏感地点生成,并建立跨平台溯源核验机制。

"技术本身不是问题,失控的落地才是关键,"另一位行业分析师指出,"当AI创作能力触及人类最后的"真实阵地"时,我们必须为每一步创新都装上责任的护栏。"

目前,谷歌尚未公布何时重新上线该功能,但已明确表示将加强安全措施,包括改进水印技术、增加内容审核机制以及限制某些敏感区域的生成权限。