由阿里巴巴集团、中国电子技术标准化研究院、阿里云智能集团、达摩院联合编写的《生成式人工智能治理与实践白皮书》已连载完成。

现分享30句金句合集👇

生成式人工智能的发展以及担忧

点击此处，阅读章节👆

1、相较于通用大模型，行业大模型具有定制化、易部署、可微调、强安全等特点，能够有效适用于具体应用场景，更准确解决专业领域问题，提升行业效能。目前，部分行业大模型已经在电力、交通、金融、能源、民生服务、互联网等行业的智能化中崭露头角。——《生成式人工智能治理与实践白皮书》P17

2、新技术往往是一把双刃剑，生成式人工智能也不例外，其对社会的深刻影响将强化和放大各类治理风险。——《生成式人工智能治理与实践白皮书》P21

3、各界需要在新的技术背景下重新思考和审视个人信息问题，尤其是实时交互中的个人信息是否可以收集、如何收集、是否需要单独提示、收集的信息应当如何使用，以及模型的生成内容是否可以呈现个人信息等问题。——《生成式人工智能治理与实践白皮书》P21

4、生成式人工智能的内容安全广义上包括输出内容的社会安全性，是否合法合规、遵守道德伦理和公序良俗等，具体表现在违法不良信息、内容失实、偏见歧视、违反伦理道德等方面。——《生成式人工智能治理与实践白皮书》P21

5、生成式人工智能模型安全包含数据集、模型等要素，涉及训练、测试、验证等多个环节，是一项复杂命题。——《生成式人工智能治理与实践白皮书》P22

6、生成式人工智能以各类作品、科技成果、程序、标识、设计等人类智力成果为重要“养料”，可能触及的知识产权侵权问题较多；又以各类图片、文字、代码等内容为“果实”，生成物能否成为知识产权的保护对象是核心关注点。——《生成式人工智能治理与实践白皮书》P22

生成式人工智能的治理愿景和框架

点击此处，阅读章节👆

1、生成式人工智能产业的竞技式发展，已经引起了各国监管部门高度重视。在原有的监管框架下，各国纷纷针对生成式人工智能开展监管与治理的探索与思考。——《生成式人工智能治理与实践白皮书》P26

2、生成式人工智能治理不能一刀切，需要针对全生命周期中各关键阶段的要求，建立健全包容审慎、动态敏捷的柔性治理机制，针对不同阶段、不同类型的风险进行针对性治理。同时，要围绕模型训练、服务上线、内容生成、内容传播、用户使用管理等关键环节，创新研发治理技术体系；营造政产学研用多主体协同共治的外部环境，提供生成式人工智能创新与良性发展的重要机制保障。——《生成式人工智能治理与实践白皮书》P31

生成式人工智能风险产生原因的分析

点击此处，阅读章节👆

1、生成式人工智能本质上是一个被用户使用的算法服务，从生命周期上，分为模型训练、服务上线、内容生成、内容传播四个阶段。这一算法服务通常由语言大模型和视觉大模型驱动，都离不开算力、数据、算法、生态和人才五个构成条件。——《生成式人工智能治理与实践白皮书》P34

2、数据，本质是知识，对生成式大模型能力的突破起着至关重要的作用。——《生成式人工智能治理与实践白皮书》P34

3、语言大模型的训练目标是通过对无监督语料、有监督语料、人类反馈信号的学习，使其具备通用智能。——《生成式人工智能治理与实践白皮书》P36

4、从无监督预训练的目的看，是让大模型具备通用的能力，而不是对用户个体的理解，所以并不需要主动搜集个人信息用于训练。——《生成式人工智能治理与实践白皮书》P37

5、一个好的评价模型能够让语言大模型在短时间内低成本完成与人类价值观的全面对齐；与此同时，语言大模型无法反抗评价模型，只能按照其评价来修改自己的行为，一旦评价模型有偏会导致语言大模型放大偏差。——《生成式人工智能治理与实践白皮书》P38

6、视觉大模型的具体训练过程一般可以分为无监督预训练阶段（文本编码器、图像自编码器）、生成模型训练阶段（图像生成器）、生成模型对齐阶段这三个阶段。其中无监督预训练阶段包括图像自编码器与文本编码器的训练。——《生成式人工智能治理与实践白皮书》P39

7、视觉大模型的风险来源主要来自两部分，一部分是模型自身的安全问题，例如深度神经网络的鲁棒性、公平性、不可解释性等风险。此外，在视觉大模型的不同训练阶段，也存在个人信息、内容安全、模型安全、知识产权等方面的风险。——《生成式人工智能治理与实践白皮书》P45

生成式人工智能风险治理实践和探索

点击此处，阅读章节👆

1、对生成式人工智能进行有针对性的风险治理成为了政府侧和产业侧的共识，并形成了立法针对性回应、政策顺应实践发展、产业自律自治的治理格局。——《生成式人工智能治理与实践白皮书》P48

2、生成式人工智能的风险治理需要贯穿产品的全生命周期——模型训练、服务上线、内容生成、内容发布与传播各阶段。——《生成式人工智能治理与实践白皮书》P51

3、服务提供者需要选择安全有效的模型作为基座构建完整的算法服务。在这个阶段并不涉及模型的训练、使用的数据，但是会决定对模型的核验、对模型的使用方式、调用的工具集等。——《生成式人工智能治理与实践白皮书》P53

4、语言大模型的主要功能是模拟人类的思维活动方式生成人类可以理解和使用的内容，模型的训练并不依赖于用户行为数据，而是对语料库这一类知识性内容有强烈的需求。——《生成式人工智能治理与实践白皮书》P56

5、需要使用技术手段，构建生成信息的信任机制，具体的做法包括但不限于：在可能造成误解的场景下，对AIGC予以明确说明；有条件的情况下对于生成的内容提供依据，比如附上相关的真实链接；对于图像、视频等生成内容嵌入鲁棒性的隐藏水印，在传播过程中做到可辨识可溯源。——《生成式人工智能治理与实践白皮书》P63

6、生成式人工智能模型的部署和使用需要遵守伦理和法律准则。服务提供者对模型使用过程中的合规性和合法性进行评估和监测，以确保模型的不被恶意使用。——《生成式人工智能治理与实践白皮书》P69

7、应在不限制技术创新发展的同时，凝聚更多共识，革新旧有的著作权制度，使其更符合生成式人工智能内容创作、传播和利用的权益保护和惠益分享体系。——《生成式人工智能治理与实践白皮书》P74

生成式人工智能多主体协同敏捷治理体系

点击此处，阅读章节👆

1、生成式人工智能不可避免地要强调政府、产业、学术研究、公众用户等多权利相关主体的协同共治，同时，为了统筹安全与发展，保持持续创新能力，也应在协同共治的基础上，探索动态治理机制，寻求足够敏捷的治理方式。——《生成式人工智能治理与实践白皮书》P80

2、人工智能发展所面临的难题，单凭一家企业、一所高校或是一个机构是不可能独立解决的。——《生成式人工智能治理与实践白皮书》P84

3、在人工智能的支撑下，优质数字资源跨越山海，推动新技术交流更加开放。——《生成式人工智能治理与实践白皮书》P84

总结与展望

点击此处，阅读章节👆

1、我们需要意识到生成式人工智能还存在着较大的缺陷，需要判断其对人类权益和社会秩序构成的潜在风险，用审慎的态度规划技术发展路径，采取多元协同的方式聚各方合力确保技术在正确的轨道上发展和应用。——《生成式人工智能治理与实践白皮书》P88

2、第一，构建目标明确、敏捷协同的治理体系，对生成式人工智能带来的颠覆式创新进行针对性的监管和治理，确保技术在人类掌握下有序发展，被更广泛更好地利用，服务于人类日益增长的美好生活需要，成为了政府、产业乃至全社会的普遍共识。——《生成式人工智能治理与实践白皮书》P88

3、第二，针对研发过程设置安全措施，针对重点风险域形成治理方案。在模型训练、服务上线、内容生成、内容传播各阶段，覆盖生成式人工智能服务和产品的全生命周期设置安全措施，避免遗漏风险；在内容安全、个人信息、模型安全、知识产权等重点风险领域，制定专项风险治理方案。——《生成式人工智能治理与实践白皮书》P89

4、第三，重视更加技术化的治理手段，提升生成式人工智能在数据、模型、应用等层面的治理技术，促进人工智能产业健康、快速发展。——《生成式人工智能治理与实践白皮书》P89

5、这些问题需要包括政府机构、科技企业、科研人员、社会公众在内，每一个面向未来的参与者，去一同面对、共担责任、共商共治、协作探索，用更为精准、精确的手段管控生成式人工智能的发展路径，从而确保人工智能始终在人类的掌控之下，并为人类带来更大的福祉和价值。——《生成式人工智能治理与实践白皮书》P90