研究人员测试了人工智能水印 – 并将其全部打破

Feizi 和合著者研究了不良行为者如何轻松逃避水印尝试。 他称之为水印的“洗掉”。 该研究不仅展示了攻击者如何删除水印，还展示了他们如何将水印添加到人类创建的图像中，这可能导致误报。 预印本论文本周在网上发布。 它尚未经过同行评审。 然而，飞子是人工智能检测领域的领导者，即使在现阶段也非常值得关注。

这项研究是及时的。 水印是识别人工智能生成的图像和文本最有前途的方法之一。 数字水印，就像邮票和纸币上的物理水印一样，用于在线跟踪图像和文本。 他们帮助人们识别虚假视频和书籍。 在 2024 年美国总统大选前夕，人们对媒体被操纵的担忧有所上升。有些人甚至被愚弄了。 美国前总统唐纳德·特朗普在他的“真相社交”平台上分享了一段以安德森·库珀为主角的假视频，他的声音是人工智能克隆的。

OpenAI、Alphabet Meta、亚马逊和其他主要人工智能公司已承诺今年夏天开发水印技术来打击错误信息。 谷歌的 DeepMind 于 8 月底发布了其新水印软件 SynthID 的测试版。 这些工具旨在在创建人工智能内容时对其进行标记，就像物理水印在印刷美元钞票时对其进行验证一样。

来源和详细信息：
https://www.wired.com/story/artificial-intelligence-watermarking-issues/