Open Problems in Technical AI Governance

人工智能的进步创造了越来越多的风险和机遇，但如何应对这些风险和机遇往往不清楚。在许多情况下，所面临的障碍和不确定性至少在一定程度上是技术上的。技术AI治理是指技术分析和工具，用于支持有效治理人工智能，旨在解决这些挑战。它可以帮助(a)确定需要干预的领域，(b)确定和评估潜在的治理行动的功效，以及(c)通过设计执行、激励或合规机制来增强治理选择。在本文中，我们解释了技术AI治理是什么，为什么它很重要，并提出了一个分类和不完整的问题目录。本文旨在为技术研究人员或研究基金提供一个资源，以便为AI治理做出贡献。

本论文旨在介绍技术人员如何通过技术分析和工具来支持人工智能的有效治理，解决人工智能治理面临的技术挑战和不确定性问题。

技术人员可以通过技术分析和工具来识别需要干预的领域、评估潜在治理措施的有效性，并设计执行、激励或遵从性机制来增强治理选项。

本文介绍了技术人员如何通过技术分析和工具来支持人工智能的有效治理，提出了技术人员可以采取的方法和工具，以及面临的开放问题和挑战。本文还提供了一个分类和不完整的目录，作为技术研究人员或研究资助者在人工智能治理方面的参考资源。

近期的相关研究包括《人工智能治理：新兴议程》、《人工智能治理的问题与挑战》、《人工智能治理：现状和未来研究方向》等。