Holistic Safety and Responsibility Evaluations of Advanced AI Models

安全和责任评估是先进人工智能模型关键但发展中的研究和实践领域。在Google DeepMind的先进人工智能模型开发中，我们创新并应用了广泛的安全评估方法。在本报告中，我们总结和分享了我们不断发展的方法以及为广大受众所学到的经验教训。关键经验教训包括：首先，理论基础和框架对于组织风险领域、模态、形式、度量和目标的广度是无价的。其次，安全评估开发的理论和实践都受益于协作，以澄清目标、方法和挑战，并促进不同利益相关者和学科之间的见解传递。第三，类似的关键方法、经验教训和机构适用于责任和安全范围内的各种问题，包括已经确立和新兴的危害。因此，重要的是，安全评估和安全研究社区的广泛参与者一起开发、完善和实施新的评估方法和最佳实践，而不是孤立地进行。报告最后总结了迅速推进评估科学、将新的评估纳入人工智能的开发和治理、建立科学基础的规范和标准以及促进健全的评估生态系统的明确需求。

Google DeepMind的高级人工智能模型的安全性和责任性评估

通过采用多种方法和框架来评估安全性和责任性，包括理论基础、合作、共同方法和机构等

论文总结了Google DeepMind在开发高级人工智能模型时采用的安全性评估方法和经验教训，强调了合作和共同方法的重要性，呼吁广泛的安全评估和研究社区共同推进人工智能的发展和治理。

最近在这个领域的相关研究包括：《人工智能安全和责任性：现状、挑战和前景》、《人工智能的道德和社会影响》、《人工智能的安全性和责任性：现状和未来研究方向》等。