Exploring the Use of Abusive Generative AI Models on Civitai

生成式人工智能的崛起正在改变数字图像领域的格局，并对在线创意社区产生了重大影响。这导致了AI-Generated Content (AIGC)社交平台的出现，例如Civitai。这些独特的社交平台允许用户构建和分享自己的生成式AI模型，从而增强更多多样化艺术表达的潜力。设计成社交网络的形式，它们还为艺术家提供了展示他们的创作（从模型中生成），参与讨论和获得反馈的手段，从而培养了一种社区意识。然而，这种开放性也引发了对这些平台滥用的担忧，例如使用模型传播欺骗性的Deepfake或侵犯版权。为了探讨这个问题，我们进行了第一次综合实证研究，重点研究了AIGC社交平台的滥用内容。我们以Civitai为例构建了一个全面的数据集，涵盖了最大的可用AIGC社交平台。基于这个包含87K个模型和2M张图片的数据集，我们探讨了内容的特征，并讨论了更好地管理这些平台的调节策略。

本文旨在探讨AI-Generated Content (AIGC) social platforms的滥用问题，特别是在生成虚假深度伪造图像和侵犯版权方面的滥用。作者通过对Civitai平台的87K个模型和2M张图像的全面数据集进行研究，探讨了这些平台内容的特点，并讨论了更好地管理这些平台的策略。

本文的关键思路是通过对Civitai平台的数据集进行分析，探讨AIGC social platforms的滥用问题，并提出更好地管理这些平台的策略。

本文的亮点在于全面研究了AIGC social platforms的滥用问题，提供了对于虚假深度伪造图像和版权侵犯的实证研究。此外，本文讨论了更好地管理这些平台的策略，例如加强审核和监管机制。作者还提供了一个包含87K个模型和2M张图像的数据集，可以用于进一步研究。

在这个领域中，还有一些相关的研究。例如，有关深度伪造的研究，包括“Deep Video Portraits”和“Everybody Dance Now”。还有一些关于版权侵犯的研究，例如“Image Inpainting for Irregular Holes Using Partial Convolutions”和“DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection”。