谷歌紧急停用Google Earth AI图像生成功能,虚假灾害卫星图引发安全担忧
谷歌紧急停用Google Earth AI图像生成功能,虚假灾害卫星图引发安全担忧
8月2日下午消息,谷歌因用户可轻易生成逼真的虚假军事袭击、爆炸和内乱卫星图像,在发布数小时后紧急暂停Google Earth AI图像生成功能。该工具被指严重威胁开源情报公信力。
8月2日下午,谷歌突然暂停了Google Earth中嵌入的AI图像生成功能。该功能上线仅数小时,就因可被滥用于生成高度逼真的虚假灾害和军事冲突卫星图像而引发强烈批评。
这一功能允许用户在地图上定位任意地点,点击提示按钮即可即时合成照片级真实的场景修改。研究人员、记者和开源情报分析师迅速展示了该软件可被利用来制造令人信服的重大危机虚假卫星图像,包括任意地点的炸弹坑、巴黎的虚假爆炸、边境沿线的军事营地以及受损的核设施。
事件核心要点:
- 功能风险:用户可在真实地理位置上叠加虚假的军事袭击、爆炸、内乱等场景
- 批评声音:伦敦信息弹性中心等数字安全组织和冲突监测机构强烈批评
- 双重威胁:不仅传播虚假信息,还为专制政权提供否认真实战争罪行的借口
- 水印局限性:尽管谷歌添加了数字水印和元数据标签,但截图传播后难以识别
谷歌已移除"创建图像"按钮并暂停该功能。发言人承认存在风险,表示公司正在评估额外的安全防护措施,以防止有害滥用并维护其核心地图服务的完整性。
这一事件再次凸显AI生成内容与地理信息结合所带来的特殊风险——卫星图像一直是新闻机构、人权调查人员和国家安全分析师核实现实世界暴行和自然灾害的重要工具,一旦其可信度被破坏,将对全球信息生态造成深远影响。