卡内基梅隆大学的研究人员最近针对生成式AI模型中涉及版权和补偿问题进行了研究。

计算机科学学院的生成智能实验室与Adobe Research和加州大学伯克利分校合作，开发了两种算法，帮助生成式AI模型在这些问题上取得重要进展。第一个算法可以防止这些模型生成受版权保护的材料，而第二个算法则开发了一种在模型使用作品生成图像时对人类创作者进行补偿的方式。

像DALL-E 2、Midjourney和Stable Diffusion这样的图像生成模型是从简单的文本描述中创建逼真视觉内容的强大工具。在幕后，这些模型是在数百万到数十亿的互联网图像中进行训练的，其中包括可能是受版权保护的材料、许可图像和个人照片。

计算机科学学院机器人学研究所助理教授、生成智能实验室负责人朱俊彦表示："作为这个领域的研究人员，我们有责任解决与之相关的社会问题。解决这些问题的技术只是一个方面。我们还需要在立法和监管人工智能方面进行更多的工作。"

该研究团队将于2023年10月在国际计算机视觉会议上发表两篇论文。

第一篇论文 "在文本到图像扩散模型中去除概念"，帮助AI生成模型避免生成具体的受版权保护的图像或风格。

例如，如果你要求AI程序生成一幅活着的艺术家的画作，它将生成一幅与该艺术家风格紧密相似的图像。卡内基梅隆大学的研究人员提出的算法旨在防止这种情况发生，并促使AI模型生成一幅通用的画作。

论文首席作者、机器人学博士生Nupur Kumari表示："我们可以将这作为一个选择，供艺术家在任何时间点退出AI模型使用。它为那些不希望他们的图像被使用的个人和公司提供更多的控制和自由。"

第二篇论文 "对文本到图像模型的数据归因进行评估"，开发了一种为使用数据训练AI的人和公司提供补偿的方法。该算法试图确定每个训练图像对生成图像的贡献程度。它可以用来公平地向AI数据库中受版权保护的图像的所有者分配付款。

例如，如果你要求AI模型生成一幅水彩画的图像，最终的图像将受到一些擅长水彩画的艺术家的影响。这个新算法的目标是量化每个艺术家对这幅新的合成艺术品的贡献程度。

论文首席作者、机器人学博士生Sheng-Yu Wang表示："我们的目标是回答一个问题，即 '哪组图像对合成图像产生了影响？'。我们有望使用这个算法给数据贡献者分配权益。最终的目标是公平地补偿为生成式AI图像的创作做出贡献的数据所有者。"

这些新算法仍处于早期开发阶段，作者承认还有许多问题有待回答。例如，尚不清楚受版权保护的内容是否已经完全移除，或者只是被隐藏在某个地方，还需要进一步研究来解释归因算法如何评估每个训练图像的影响。

尽管还有一些问题尚未解答，但是这些新算法为解决生成式AI平台上的版权问题和对为AI图像做出贡献的人和公司进行补偿迈出了第一步。