新的研究分析了当前多模态生成AI的误用情况，旨在帮助构建更安全、负责任的技术。生成式AI模型能够生产图像、文本、音频、视频等，开启了创意和商业的新时代。然而，随着这些能力的增长，其被用于操纵、欺诈、欺凌或骚扰等不当用途的风险也在增加。谷歌与Jigsaw和Google.org合作，发布了一篇论文，分析了当前生成AI技术的误用情况。研究团队收集并分析了近200份媒体报告，涵盖了2023年1月至2024年3月期间公开的误用事件，定义并分类了常见的误用手段。谷歌正利用这些研究成果开发更有效的保护措施，以提高生成AI技术的安全性。

本专栏通过快照技术转载，仅保留核心内容

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除