Coordinated Disclosure of Dual-Use Capabilities: An Early Warning System for Advanced AI

高级人工智能系统可能会展现出对公共安全或安全性构成重大风险的能力。它们也可能展现出在多个领域中可以被用于防御的能力，包括（但不限于）对抗人工智能威胁的社会韧性的提高。我们提出了协调披露双重用途能力（CDDC）作为一种过程，以指导高级人工智能开发者、美国政府机构和其他私营部门关于这些能力的早期信息共享。该过程围绕一个信息清算中心（“协调员”）展开，该中心通过强制和/或自愿报告途径接收发现者提供的双重用途能力证据，并将值得注意的报告传递给防御者进行跟进（即进一步分析和响应）。这旨在为美国政府、双重用途基础模型开发者和其他参与者提供对可能显著影响公共安全和安全性的人工智能能力的概述，以及最大的应对时间。

提出协调披露双重用途能力（CDDC）的过程，以指导早期信息共享，以识别可能对公共安全和安全产生重大影响的人工智能能力。

建立一个信息清理中心来收集双重用途人工智能能力的证据，并将有价值的报告传递给防御者进行跟进，以最大程度地提供时间响应。

该过程涉及多个私人和公共部门的参与者，旨在提供对可能对公共安全和安全产生重大影响的人工智能能力的全面概述。

没有提到其他相关研究。