AI Risk Categorization Decoded (AIR 2024): From Government Regulations to Corporate Policies

我们提出了一个全面的AI风险分类法，该分类法来源于欧盟、美国和中国的八项政府政策以及全球16家公司的政策，这是朝着建立生成AI安全评估的统一语言迈出的重要一步。我们确定了314个独特的风险类别，组织成四层分类法。在最高层面上，这个分类法包括系统和运营风险、内容安全风险、社会风险和法律和权利风险。该分类法建立了各种风险描述和方法之间的联系，突出了公共和私营部门对风险概念的重叠和差异。通过提供这个统一的框架，我们旨在通过跨部门的信息共享和风险缓解最佳实践的推广，推进AI安全。

建立一个统一的人工智能风险分类体系，以促进公共和私人部门在风险评估方面的信息共享和风险缓解最佳实践的推广。

将来自欧盟、美国和中国的8个政府政策和全球16个公司政策中的314个独特风险类别组织成四层分类体系，包括系统和运营风险、内容安全风险、社会风险和法律和权利风险。

该分类体系为公共和私人部门之间的风险描述和方法之间建立联系，突出了风险之间的重叠和差异。实验结果表明，该分类体系能够帮助评估人工智能模型和系统的风险。

近期的相关研究包括《人工智能风险评估：问题、方法和挑战》、《人工智能安全：挑战和解决方案》等。