谷歌推出SynthID Detector工具，用于标记AI生成内容，但远非完美 - SiliconANGLE
Google LLC 今日推出一项人人都可使用的新服务，使其用于识别 AI 创建和 AI 编辑的视频与图像的人工智能 SynthID 识别工具更广泛地开放。
基于网页的 SynthID Detector 可以识别使用 Google、OpenAI Group PBC、Nvidia Corp. 和 Kakao Corp. 的 AI 模型创建的图像、视频和音频片段。但要使用它，人们必须先登录，使用 Google、OpenAI 或 Apple 账户。几周后，该工具的能力将扩展至识别使用 Apple Inc. 的 AI 工具（如 Image Playground）创建的图像。
Google 于 2023 年首次开发了 SynthID。这是一种不可感知的水印，会被添加到使用上述公司工具创建的 AI 生成内容中，但唯一的问题是，识别它一直都需要特殊工具。
尽管该公司已向记者和其他媒体专业人士提供了不同版本的检测工具，但可用范围受到严重限制。Google 还提供了其他几种检测 AI 生成内容的方法。例如，其 Circle to Search 智能手机功能，用户还可以将内容上传到 Gemini，询问其是否由 AI 创建。但随着专用检测工具的推出，它正在让这些能力更易于使用，
SynthID Detector 的缺点在于，嗯，它确实有缺点。例如，由于它旨在识别 AI 内容中隐藏的 SynthID 水印，因此它并不擅长检测没有 SynthID 水印的 AI 生成内容。而这类内容有很多。
Anthropic PBC 的 Claude 不使用 SynthID，xAI Corp. 的 Grok 聊天机器人也不使用。许多开放权重的中文 AI 模型也都不使用 SynthID。因此，无论如何它都会漏掉大量 AI 生成内容。
SynthID Detector 的另一个问题是，它无法区分完全从头创建或仅使用 AI 编辑的图像、视频和音频。因此，对于经过编辑的内容，它无法揭示哪一部分是假的、哪一部分是真的。
SynthID Detector 仍是朝着正确方向迈出的一步，但这还远远不够。现实是，仍然没有万无一失的方法来验证 AI 生成内容，部分原因是给模型创作内容添加水印的标准太多。
Meta Platforms Inc. 一直在试验自己的水印工具，并开发了一套用于识别使用 Muse Image 创建的图像的系统，但在面对使用第三方模型创建的图像时，它毫无用处。除非所有主要 AI 模型制造商，包括中国的制造商，决定达成一致，并为 AI 内容水印制定某种通用标准，否则很可能永远不会有一种可靠的方法来检测此类材料。
鉴于其影响力，以及已有几家技术巨头参与其中，Google 很可能最有条件推动某种通用标准成为现实。该公司至少似乎认识到了这个问题，并在 SynthID Detector 网站上表示，它正在“持续努力扩展我们的合作伙伴关系”，以便能够检测更多类型的 AI 生成媒体。
“建立行业标准需要时间，不同的内容类型（图像、音频、视频）有不同的技术要求，”Google表示。“目标是建立一个分层生态系统，让水印、元数据标准和验证工具在整个行业中协同工作。”
转载声明：本文为转载整理，原文版权归原作者及原站点所有。
原文来源：SiliconANGLE
原文作者：Mike Wheatley；如有侵权，请联系管理员删除。
