AI Emergency Preparedness: Examining the federal government's ability to detect and respond to AI-related national security threats

我们探讨了联邦政府如何增强其人工智能应急准备能力：即检测和准备针对与人工智能相关的紧急国家安全威胁的能力。应急准备可以提高政府监测和预测人工智能进展的能力，识别国家安全威胁，并为可能的威胁和最坏情况制定有效的响应计划。我们的方法借鉴了一些领域的做法，这些领域的专家们在不确定威胁的确切性质或时间的情况下为威胁做好准备（例如反恐、网络安全、流行病应对等领域）。我们重点关注了三种可能的风险场景：（1）失控（来自一个强大的人工智能系统，它变得足以逃脱人类控制的威胁），（2）来自恶意行为者的网络安全威胁（来自外国行为者窃取强大人工智能系统的模型权重的威胁），以及（3）生物武器扩散（用户发现一种绕过公开发布的模型的安全保障以开发生物武器的威胁）。我们评估了联邦政府检测、预防和应对这些威胁的能力。然后，我们强调了潜在的差距，并提出了改进应急准备的建议。最后，我们描述了如何将未来关于人工智能应急准备的工作应用于提高政策制定者对风险场景的理解，识别检测能力的差距，并制定应急计划以提高联邦应对与人工智能相关的国家安全威胁的效力。

加强联邦政府的人工智能应急准备能力，以便及时检测和应对与人工智能相关的国家安全威胁。

通过借鉴反恐、网络安全和大流行病等领域的经验，针对人工智能可能的三种威胁场景，评估联邦政府的检测、预防和响应能力，提出改进建议。

论文重点关注人工智能可能的三种威胁场景，并提出了相应的解决方案。论文强调了加强应急准备的重要性，并提出了具体的建议。

最近的相关研究主要集中在人工智能安全和应急准备方面，例如《人工智能安全：挑战和前沿》、《人工智能安全：现状和未来研究方向》等。