免于被AI“吞噬”的新工具来了！它或许能保护你的作品👇


图源：《麻省理工科技评论》网站报道
随着技术应用的进步关于AI的争议越来越大有人将AI用于助力科技发展有人则利用AI做着一些不道德的事情
近期，AI带来的抄袭、喂图乱象
在圈内不断出现正持续影响着画圈内越来越多的创作者👇
文章链接：AI制图师连抄四位画师...还敢标原创？独家最新消息！维权成功！
这种未经允许便擅自喂图的情况至今已出现了不少全网艺术家都在联合抵制这样的行为但却很难制止他们喂自己的作品给AI
我们之前曾介绍过一款名为glaze的工具旨在阻止 AI 模型学习艺术家的风格

# 为你的作品添加保护伞 #

该工具能够帮助艺术家在他们发布的艺术作品上添加一些
用肉眼无法看见但机器能识别的“水印”
当作品被喂给AI用作训练数据时这些“水印”会误导试图模仿特定艺术家风格的生成模型

更多精彩图片 请登录

原创作品（左）、由AI 生成的作品（中）使用 Glaze 后由AI 生成的图像（右）
具体功效与操作可以看看这篇👇

更多精彩图片 请登录

文章链接：那个防止AI吞图的工具开放下载啦！我国也上线了管制生成类规定......
但随着时间的推移和AI相关技术的发展部分艺术家发现这一工具还是无法完全阻挡AI模型学习艺术家的风格
而时至今日，好消息来了Glaze团队在原有功能上进一步推出了升级版“Nightshade”
Nightshade可以仅凭寥寥数十张图像就能“毒害”建立在几十亿张正常图像库上的大模型团队即将在后续更新中把它嵌入Glaze应用程序中👇

# 将盗取你风格的AI模型“毒害” #

最近圈内一位名为<Katria>的插画师分享了一篇《麻省理工科技评论》网站报道其中介绍了这次的新功能

更多精彩图片 请登录

某推@Katria
Nightshade被形容为“隐形毒药”被其涂毒的图像将混入互联网的正常图像和数据之中
当盗窃者或爬虫窃取该涂毒图像用于生成类AI训练时Nightshade的毒素将神不知鬼不觉地“破坏”该模型
微博@赛博法医检验鉴定中心
翻译总结了下这篇文章的要点

更多精彩图片 请登录

微博@赛博法医检验鉴定中心
团队使用了最新版本的sd大模型来测试Nightshade的毒性在混入50张涂毒图像后模型已经不能生成该prompt下的正常图像
在混入100张涂毒图像后模型已经失去辨认该prompt的能力在混入300张涂毒图像后模型的输出已经崩溃成抽象画和雪花屏

更多精彩图片 请登录

官方研究团队给出的示例
而对指定prompt的攻击
会扩散到所有相关的prompt下例如对“dog”的毒害会波及“puppy”“husky”和“wolf”对“fantasy art”的毒害会波及“dragon”“a castle in The Lord Of The Rings”

更多精彩图片 请登录

官方研究团队给出的示例
该研究还指出Nightshade攻击的是生成类AI的必然漏洞
“这些漏洞不会因为模型更新而魔法般地消失而只会越来越严重”
后续嵌入Nightshade以后这些涂毒作品将不会是大模型的肆意攫取掠夺的养分而是创作者主动反攻回击的铁拳和刺客

更多精彩图片 请登录

图源：《麻省理工科技评论》网站报道
重点是，由于模型训练数据量庞大模型中毒后AI模型开发者想清理有毒的数据样本也很难
当然，模型中毒的前提是AI公司未经创作者允许抓取他们的作品来训练模型
这款工具一经曝出艺术创作者们就赶紧转发了起来热度一路飙升

更多精彩图片 请登录

更多精彩图片 请登录

某推@Benjamin BLM  @Eric Bourdages
网友们已针对现有功能及其实用性展开热议&#128071;

更多精彩图片 请登录

微博评论区网友热议

更多精彩图片 请登录

好酷！ 很细节

斯国一