Mind the Gap: Foundation Models and the Covert Proliferation of Military Intelligence, Surveillance, and Targeting

关于基础模型的双重用途及其带来的风险的讨论，主要集中在一组狭窄的使用案例和国家安全指令上——特别是人工智能如何可能使一类被称为CBRN（化学、生物、放射性和核武器）系统的高效构建成为可能。对这些假设性和狭隘主题的过度关注，掩盖了对于当前人工智能在军事系统中的应用——特别是ISTAR（情报、监视、目标获取和侦察）——所必需的讨论。这些应用是最实际部署的人工智能，关乎平民的生死，其误用和失败可能导致地缘政治后果和军事升级。这一点尤其体现在新型扩散风险上，这些风险与商业模型的广泛可用性有关，而目前缺乏有效的措施来可靠地防止这些模型为ISTAR能力做出贡献。 在本文中，我们概述了当前和预期的商业基础模型在非CBRN背景下使用的重大国家安全关切，并批评了由于CBRN焦点（例如计算阈值、模型权重发布）导致的政策辩论的狭隘化。我们展示了无法防止个人可识别信息对商业基础模型中的ISTAR能力做出贡献，可能会导致对手使用和扩散军事人工智能技术。我们还展示了基础模型在军事环境中的使用如何内在地扩展了军事系统的攻击面以及它们所连接的国防基础设施的攻击面。我们得出结论，为了确保军事系统的安全并限制人工智能武器的扩散，可能有必要将军事人工智能系统和个人数据与商业基础模型隔离开来。

论文探讨了商业基础模型在军事系统中的应用，特别是ISTAR（情报、监视、目标获取和侦察）方面的风险，这些风险可能对平民造成生命威胁，并引发地缘政治后果和军事升级。论文指出，目前政策讨论主要集中在AI在CBRN（化学、生物、放射性和核武器）领域的潜在用途，而忽视了更为实际和紧迫的ISTAR应用。

论文的关键思路是强调当前政策讨论的狭窄性，尤其是过度关注CBRN领域，而忽略了更为现实的ISTAR应用。论文提出，商业基础模型的广泛可用性可能导致个人身份信息被用于军事目的，增加军事系统的攻击面，并可能被对手利用。为了解决这些问题，论文建议将军事AI系统和个人数据与商业基础模型隔离开来。

论文通过具体案例和分析，展示了商业基础模型在军事应用中的实际风险。研究使用了现有的军事和商业数据集，但未提及开源代码。论文还强调了未来研究的方向，包括如何有效防止个人身份信息被用于军事目的，以及如何设计更安全的军事AI系统。

近期相关研究包括： 1. "The Dual-Use Dilemma in AI Research: Balancing Innovation and Security" - 探讨了AI研究中的双重用途问题。 2. "AI in Military Operations: Ethical and Strategic Considerations" - 讨论了AI在军事行动中的伦理和战略影响。 3. "Proliferation of Commercial AI Models: Risks and Mitigation Strategies" - 研究了商业AI模型的扩散风险及其缓解策略。 4. "Securing Military AI Systems: Challenges and Solutions" - 集中讨论了保护军事AI系统的挑战和解决方案。