Beyond Accidents and Misuse: Decoding the Structural Risk Dynamics of Artificial Intelligence

本文探讨了人工智能（AI）在当代各行各业中的整合不仅是技术升级，而且是具有深刻结构影响的转型。本文探讨了快速整合先进AI系统在社会、经济和政治系统中所涉及的结构风险概念。该框架挑战了传统观点，主要关注直接的AI威胁，如事故和滥用，并建议这些更接近的风险是相互关联的，并受到更大的社会技术系统的影响。通过分析技术进步和社会动态之间的相互作用，本研究分离了三个主要的结构风险类别：先行结构原因、先行系统原因和有害反馈环。我们提出了一个全面的框架，以理解驱动这些风险的因果链，突出了结构力量与滥用和系统失灵等更接近的风险之间的相互依存关系。本文阐述了不受限制的AI进步如何重塑权力动态、信任和激励结构，导致深刻且常常是不可预测的转变。我们介绍了一个方法论的研究议程，旨在为政策制定者和国家安全官员准备应对下一代AI技术所带来的挑战。本文最后提出了政策建议。

论文探讨人工智能快速融合对社会、经济、政治系统的结构风险，并提出了一个新的框架来理解这些风险。

论文提出了三个主要的结构风险类别：先决结构原因、先决系统原因和有害反馈循环，并介绍了一种方法论研究这些动态。

论文指出，人工智能的快速发展可能会重塑权力动态、信任和激励结构，导致深刻而难以预测的变化。论文还提出了一些政策建议。

最近的相关研究包括：《人工智能安全：现状与前景》、《人工智能的伦理问题》等。