MIT研究发现扩散模型训练数据越大，输出越无法归因到具体作品、人脸或艺术家，画得再像也证明不了抄袭。
想知道机器怎么工作，最直接的办法是把它拆开，看每一步怎么变。MIT的两名研究者用这个思路研究图像生成AI：模型出图时，是像肖像画家那样看着某幅具体作品，还是另有过程？结果出人意料，对起诉AI侵权的艺术家们却可能是坏消息。
研究发表于《自然·通讯》。结论是：对扩散模型，也就是Midjourney、Stable Diffusion这类工具背后的技术，无法在某一幅艺术作品、某张人脸乃至某位艺术家的全部作品与模型输出之间，建立直接因果联系。训练数据规模太大，把创作过程淹没其中，好比国际空间站上的宇航员用肉眼找亚马逊雨林里的一棵树。论文作者强调，即便AI输出与某位艺术家的作品看起来一模一样，把该作品从训练数据中移除，输出也保持不变，这正是"不可归因"的含义。
主导研究的MIT计算机科学与人工智能实验室博士生Zheng Dai说，"如果扩散模型生成了某物，你会想说：这部分训练数据对此负责。"他和计算机科学家David Gifford据此设计了"反事实半径"测量法：把特定图片或图像片段逐一从训练集里删掉，量化原输出与移除后输出的差异。"在那个数据不存在的平行宇宙里，你的样本应该不同。"他们不用训练数据不公开的商用模型，而是自建24个模型，训练集从几百张到几十万张不等，全部来自在线图库；还分别对只练人脸、只练特定艺术家作品的模型做同样实验。三种情形结果一致：训练图片越多，越难判断输出里用了哪张，他们称之为"归因衰减"。论文写道，训练集大到一定程度，不仅无法把生成图归因到训练图，也无法把生成的人脸归因到真人、把生成的作品归因到艺术家。
这对打官司的艺术家是坏消息：AI图再像自己的作品，也无法确定模型到底参考了什么。商业扩散模型比测试模型大好几个数量级，归因更难，输出不存在单一的人类灵感来源。研究也提醒人们，这些黑箱系统多么陌生：人类创作时清楚哪些人、哪些作品影响了自己，扩散模型却把全部训练数据的总和揉进输出，机制至今神秘。法律专家要解开这些知识产权难题还任重道远，Dai强调，理解模型才能研究与监管它。
原文：https://gizmodo.com/artists-want-to-prove-their-work-was-stolen-by-ai-a-new-study-says-thats-impossible-2000802925