1张AI图画借鉴21幅人类作品!AI老底被揭穿了

添加书签

喂一张AI画的图,立马揪出它借鉴了哪些人类作品。

一次性溯源20多张图画的那种。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图

这个反向搜索引擎,要把AI画画的老底给扒干净了。

它的目的很简单,为人类艺术家讨公道。

看网站名就懂得都懂了,Stable Attribution(稳定归因),与Stable Diffusion(稳定扩散)相对应。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图1

点击任何一张溯源到的图片,就会出现一个可以提交来源及作者的对话框。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图2

网站表示,通过大家提交的原作信息,能够正视人类艺术家对于AI画画的贡献,并可能进一步按比例分配报酬,让人类艺术家和AI画画化干戈为玉帛。

在Haker News上,它一发布热度已经超过700 points。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图3

网友们也表示认同:

这总比“一刀切”禁止AI生成内容好啊。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图4

一键给AI画图溯源

网站本身已经给出了一些示例,可以直接点击尝试反向搜索。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图5

比如一张看似真实的女人画像,可能是AI参考了多张人脸后合成来的。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图6

还能自己找一张Stable Diffusion生成的图片试试。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图7

我们用Stable Diffusion生成了一组雪景图,并拿第一张图测试了一下。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图8

Stable Attribution给出的结果是酱婶儿的,即左边那列是它参考过的图片。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图9

但是也会有失败的案例,同样是一幅雪景,网站这一次却说搜不到结果。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图101张AI图画借鉴21幅人类作品!AI老底被揭穿了插图11

原理上,官方表示目前Stable Attribution的算法是对AI生成的图像进行解码,从Stable Diffusion模型训练数据集中找到相似的案例。

而Stable Diffusion使用的是公开数据集LAION-5B,所以寻找起来也不是很麻烦。

同时网站还声明,对于溯源到的图片,他们没有版权,而且也不会拿来训练模型。

背后公司名叫Chroma,创立于2022年。主要业务是做嵌入式数据库、嵌入式搜索和嵌入式分析的开源工作,能为算法模型的训练、微调和使用提供支持。

现在已经得到了一些机器学习领域人士的投资,他们投过的公司有Hugging Face、Replit等。

主创团队有两个人,之前都有过科技大厂的工作经历。

Anton Troynikov创业前是Facebook Reality Labs(研究AR/VR)的研究工程师,更早之前还做过CV、软件等方面工作。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图12

Jeff Huber之前是Standard Cyborg的联合创始人,这家公司的明星产品是3D打印义肢。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图13

目前公司还在大力招聘中。

网友:会不会有些夸大其词?

虽然想法很美好,但是也有不少网友指出,这个网站背后的原理真的可靠吗?

结果很令人满意,但似乎把问题太过简单化了,也曲解了Attribution的意思。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图14

这个网站认为,AI生成的图片,一定不会存在于原本的训练数据集中。因此在数据集范围内找到一些和它非常相似的图,就可以被认为是“参考图”。

有人就指出,如果拿一张1850年的手绘图,它不是AI生成的,也不会存在于数据集中,网站是不是也会给出一些所谓的相似参考结果?

雀实,我们扔进去了一张表情包试了下,结果emmm……它在瞎搞。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图15

也有人说,感觉网站提供的图像里,并没有包含AI生成图片的一些细节元素。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图16

官方也表示,目前算法中还存在很多需要优化的问题,比如训练过程中的噪声太多、训练数据中有很多错误和冗余。

但这些问题都能解决,他们也在想办法改进。

有网友也打算用长远的目光看这个事:

即便只是找相似结果,算不上attribution,我认为这也是更好的。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图17

毕竟另一边,各路图片网站和Stable Diffusion的维权大战还在持续发酵。

最近,美版视觉中国Getty升级了法律诉讼,表示Stable Diffusion在未经过授权的情况下,使用了他们1200万张图片。

法律人士表示,相比于艺术家们提出的维权,Getty这边的诉讼可能更有希望。

因为艺术家们提出的是AI画画对于职业的威胁,而Getty被侵权差不多是板上钉钉,之前甚至生成了打着Getty水印的图片。

但鉴于这种官司属于前所未有,所以结果很难预测。

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图18

也有图片网站选择“打不过就加入”,和OpenAI一块搞了个AI图片生成器,并且对数据集做贡献的人提供补偿。

Stable Attribution的态度是:AI应该和所有其他技术一样服务于人类,我们不应该疏远它。

你怎么看呢?

One More Thing

u1s1,这个网站开屏动画做的还不戳,感兴趣的可以去玩玩~

1张AI图画借鉴21幅人类作品!AI老底被揭穿了插图19

参考链接:
[1] https://www.stableattribution.com/?image=bd55373a-5d48-43cc-b077-673438780799

[2] https://news.ycombinator.com/item?id=34670136
[3] https://www.reddit.com/r/technology/comments/10vc9wo/getty_images_sues_ai_art_generator_stable/

END

加入AIGC开放社区交流群

添加微信:13331022201 ,备注“职位信息&名字”

管理员审核后加入讨论群