研究表明:为 AI 生成图像添加的数字水印可被轻易破解

10 月 6 日消息,研究据外媒 Engadget、表明Wired 等报道,生数字水印御魂神剑美国马里兰大学的成图一个研究小组对 AI 生成内容的“数字水印”技术可靠性进行研究,发现这一技术可被轻易破解。像添

该校计算机科学教授 Soheil Feizi 面对 AI 生成图像的可被水印现状时直言不讳:“目前我们没有任何可靠的水印技术,我们破解了所有的轻易水印。”

在测试过程中,破解研究人员可轻松避开现有的研究水印方法,并发现在非 AI 生成的表明图像上添加“假水印”更为容易。同时,生数字水印御魂神剑该团队还开发出了一种“几乎无法”从图像中去除的成图水印技术,且不会完全损害图像的像添知识产权。

而在加州大学圣巴巴拉分校和卡内基梅隆大学合作的可被一项类似研究中,研究人员发现通过“模拟攻击”,轻易AI 生成图像的水印可被轻易去除:通过破坏性的调整亮度、对比度或压缩乃至旋转图像来去除,或通过建设性的高斯模糊等技术来去除。

据报道,AI 生成数字水印将成为一场与黑客之间的竞争。这种水印尽管肉眼不可见,但可以打击滥用 AI 生成的内容。

此前报道,美国政府曾在 7 月下旬宣布,已获得多家人工智能头部公司的自愿承诺,将对人工智能生成的内容加水印等措施,以帮助提高技术的安全性。

亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 这七家公司都同意提高其系统的安全性和透明度,包括允许第三方专家对其模型进行审查。

在发给 TechRadar 的一份声明中,美国政府表示:“正在开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力,美国政府鼓励该行业坚持最高标准,以确保创新不会以牺牲美国人的权利和安全为代价。”

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。

娱乐
上一篇:建好国家文化公园 构筑共有精神家园
下一篇:生日之战!东契奇轰30+三双,遭绝杀后反弹,背靠背两战75分