9 月 18 日消息，当地时间本周三，谷歌宣布将与专注防止“非自愿影像”在网上传播的非营利组织 StopNCII 达成合作。据彭博社报道，业内人士认为，这一步虽来得晚，但标志着谷歌在打击影像滥用方面取得重要进展。
StopNCII 的技术能为私密影像生成数字指纹（哈希值），并将这些哈希值分享给 Facebook、Instagram、Reddit 和 OnlyFans 等合作平台，以阻止影像被再次上传，且无需人工审核或举报。
谷歌推进速度偏慢也遭到质疑。StopNCII 于 2021 年底上线，其基于 Meta 的检测工具开发，Facebook 和 Instagram 最早接入，TikTok 和 Bumble 于 2022 年 12 月加入，微软则在 2024 年 9 月将该系统整合进必应，比谷歌早了近一年。谷歌曾在 2024 年 4 月向英国议员解释，因担心数据库的互操作性问题，所以暂时无法参与。
一些倡导者认为，谷歌的行动力度仍显不足。倡导组织 End Technology-Enabled Abuse 创始人 Adam Dodge 表示：“这是积极的一步，但仍把自我举报的责任推给了受害者。”他强调，谷歌完全有能力主动下架非自愿影像，而不该让受害者自己生成哈希值。
谷歌此次声明未提及 AI 生成的非自愿影像或深度伪造。StopNCII 依赖已知图像，无法提前拦截 AI 生成的伪造内容。Wright 说：“如果是合成图或完全不同的影像，哈希值捕捉不到。”
彭博社在 2023 年调查发现，谷歌搜索是引流深度伪造和色情 AI 生成内容网站的头号来源。此后，谷歌已采取措施减少相关内容，并降低其搜索排名。