点击蓝字

关注我们

 

前言

 

2024年9月14日，为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》），现向社会公开征求意见。人工智能生成合成内容标识有何分类，添加标识又有何要求？《办法》对这些问题都做了一一规定，以下为《办法》的要点梳理。

 

 

Part.01

《人工智能生成合成内容标识办法（征求意见稿）》要点梳理

 

01
定义 “人工智能生成合成内容”及其标识

 

    1. 人工智能生成合成内容：是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。

    2. 人工智能生成合成内容标识：根据能否被用户明显感知，分为显式标识和隐式标识。

  1. 包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息

  1. 显式标识：是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。

  2. 隐式标识：是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

 

02
网络信息服务提供者应当为其生成合成内容添加显式标识的要求

 

  1. 文本：在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；
  2. 音频：在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；
  3. 图片：在图片的适当位置添加显著的提示标识；
  4. 视频：在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识；
  5. 虚拟场景：呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；
  6. 其他：其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。
  服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。

 

03
网络信息服务提供者应当为其生成合成内容添加隐式标识的要求

 

  1. 鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。
  2. 文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。

 

04
服务提供者及互联网应用程序分发平台责任

 

    1. 网络信息服务提供者的责任：
      （一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；
      （二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；
      （三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；（四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；
      （五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。
    1. 互联网应用程序分发平台的责任：
  1. 在应用程序上架或上线审核时，核验服务提供者是否提供生成合成内容标识功能。

 

05
服务提供者的用户协议

 

    1. 服务提供者应尽义务：
  1. 在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户理解相关的标识管理要求。
  2. 如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。
    1. 用户上传生成合成内容应履行规定：
  1. 用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。
  2. 任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。

 

 
 
Part.02

继承《生成式人工智能服务管理暂行办法》文件精神

 

此外，通过将《办法》与《生成式人工智能服务管理暂行办法》对比，不难发现《办法》的许多内容也继承了该文件的核心精神。

 

 

 
01
总体要求：

 

《生成式人工智能服务管理暂行办法》的第三条指出：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”
本次《办法》正是这一总体要求的具体措施。两个文件均强调要促进生成式人工智能技术健康发展和规范应用。

 

02
生成式人工智能服务提供者的服务规范

 

《生成式人工智能服务管理暂行办法》对于服务提供者的服务规范做出明确规定，第十二条明确提及“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。”本次发布的《办法》正是对这一细则的具体阐释。
其第九条指出：“提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。
提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。”

 

《人工智能生成合成内容标识办法（征求意见稿）》是对《生成式人工智能服务管理暂行办法》的进一步细化，明确了标识的具体要求和流程，以确保生成内容的透明度和可追溯性。

 

原文链接：
https://www.cac.gov.cn/202304/11/c_1682854275475410.htm
https://www.cac.gov.cn/202307/13/c_1690898327029107.htm

 

主理人丨刘典
编辑丨陶含孜
排版丨夏冉
审核丨梁正 鲁俊群

 

关于我们

清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。

 

 

新浪微博：@清华大学人工智能国际治理研究院

微信视频号：THU-AIIG

Bilibili：清华大学AIIG

 

内容中包含的图片若涉及版权问题，请及时与我们联系删除