近日，谷歌Jeff Dean发表了深度学习研究的黄金十年文章，其中提到未来深度学习的发展趋势是负责任的AI开发。这引出了一个话题：负责任AI。

知识点

1.负责任AI的目的是构建一个AI治理的框架，能够规定一个组织在研发、部署和应用AI算法、程序和系统过程中，所应该采取的伦理和法律准则。

2.负责任AI的内涵大致包括包容性、公平性、以人为本、透明和可解释性、安全性、隐私和可被问责性等。

图注：负责任AI的主要基本原则 [9]

定义

负责任的AI是近年来人工智能领域兴起的讨论议题，其目的是构建一个AI治理的框架，能够以文本的形式规定一个组织在研发、部署和应用AI算法、程序和系统过程中，所应该采取的伦理和法律准则。[1]

遗憾的是，目前国际组织、科技巨头和咨询公司对负责任的AI的内涵，并没有进行统一的界定。本词条仅列举其中一部分。

1.OECD

经济合作组织（OECD）在2019年发布的AI原则（AI Principle）中提出 [2]，AI的应用应当兼具创新性和可信性，并需要尊重人类的价值观。其中，负责任的AI应包含以下原则：

（1）包容性增长、可持续地发展和谋取福利；

（2）以人为中心的价值和公平性；

（3）透明度和可解释性；

（4）鲁棒性和安全性；

（5）能够被问责。

目前，这一原则已被某些机构所接受，作为AI研发和使用所遵守的准则。例如，负责任AI研究所（Responsible Artificial Intelligence Institute，RAII）基于OECD原则，提出了负责任AI认证项目，是全球首个独立、被认可的认证。[3]

2.谷歌

谷歌认为负责任AI应当包含以下原则：公平性、可解释性、隐私、安全。同时，谷歌在其网站上提到了负责任AI实践，其中包含六条推荐的技术实践原则[4]：

（1）使用以人为中心的设计方法；

（2）找到用于评价训练和监控AI的多种指标；

（3）可能的话，直接使用原始数据进行评测；

（4）理解数据集和模型的限制；

（5）测试、测试、测试；

（6）开发完成后，持续监控和更新系统。

目前负责任AI的实践已经在谷歌的多项产品中使用，包括谷歌云、TensorFlow等。

3.微软

微软定义了六大负责任AI原则[5]，包括：

（1）公平性

（2）可靠性和安全性

（3）隐私和安全

（4）包容性

（5）透明性

（6）可问责性

实现负责任AI的具体方法

1.制度和管理措施

在实现负责任AI的发展方面，科技巨头普遍会制定相关战略。例如，微软设立了负责任AI办公室（ORA）、Aether委员会等机构。ORA从公司层面制定负责任AI的规定，并通过治理、团队赋能、评估敏感用例、公共政策四大方式实施这些规定。同时，Aether委员会定期向管理层提出AI创新所面临的挑战和机会，其中包括了负责任AI方面的内容。

谷歌在实施负责任AI方面，建立了一个中心团队，用于对所有将要上线的AI技术和系统提供流程化的审核，所有团队都可以获得支持。审核的主要流程包括接入、分析、调整和决策四大组成部分。

同时，该团队会每年发布AI原则更新文档，及时更新所有技术规范。此外，在公共政策领域，谷歌发布了多份提案、政策咨询文件等，推动负责任AI原则在各国成为长期的政策。[8]

2.技术措施

谷歌在负责任AI方面，建立了人与AI研究项目（People+AI Research，PAIR）。这是一个专门负责制定负责任AI技术指导原则和技术研发的团队，帮助工程师了解用户日常使用AI的实际体验。[7]

微软设立了面向工程的负责任AI战略（Responsible AI Strategy in Engineering，RAISE）项目。该项目团队会构建负责任AI的工具和系统，为公司内的团队提供开发工具和技术实践案例。例如，该团队正在研发统一工程系统（One Engineering System，1ES）。这是一系列部署在Azure ML上的工具，能够帮助用户使用负责任AI实践，也能支持微软内部团队在公司内执行负责任AI规范。[6]

参考链接

[1] Responsible AI：https://www.techtarget.com/searchenterpriseai/definition/responsible-AI

[2] OECD AI Principle Overview：https://oecd.ai/en/ai-principles

[3] RAII Certification Beta：https://www.responsible.ai/certification

[4] Responsible AI practices：https://ai.google/responsibilities/responsible-ai-practices/

[5] Responsible AI：https://www.microsoft.com/en-us/ai/responsible-ai

[6] Putting principles into practice：https://www.microsoft.com/en-us/ai/our-approach

[7] People + AI Research (PAIR)：https://research.google/teams/brain/pair/

[8] Policy perspectives：https://ai.google/responsibilities/public-policy-perspectives/

[9] What is Responsible AI? https://towardsdatascience.com/what-is-responsible-ai-548743369729

内容中包含的图片若涉及版权问题，请及时与我们联系删除