- 简介基础模型是强大的技术，它们公开发布的方式直接影响它们的社会影响。在这篇立场文件中，我们关注开放基础模型，这里定义为具有广泛可用的模型权重的模型（例如Llama 2，Stable Diffusion XL）。我们确定了五个独特的属性（例如更高的定制性，差劲的监控），这些属性导致了开放基础模型的好处和风险。开放基础模型具有显着的好处，但也存在一些限制，这些好处涵盖了创新、竞争、决策权的分配和透明度。为了了解它们被滥用的风险，我们设计了一个风险评估框架来分析它们的边际风险。在几个滥用向量（例如网络攻击、生物武器）中，我们发现当前的研究不足以有效地表征开放基础模型相对于现有技术的边际风险。该框架有助于解释为什么某些情况下边际风险很低，通过揭示过去的工作集中在具有不同假设的框架的不同子集上，澄清了关于滥用风险的分歧，并阐明了更具建设性的辩论的方法。总的来说，我们的工作通过概述需要进行实证验证其理论好处和风险的研究，有助于支持更为扎实的开放基础模型社会影响评估。
- 图表
- 解决问题对于开放基础模型的社会影响进行评估，并设计一个风险评估框架来分析其潜在风险。
- 关键思路开放基础模型具有广泛的可定制性和透明度等优势，但也存在一些潜在的风险，如缺乏监测和可能被滥用。该论文设计了一个风险评估框架，以分析这些潜在风险。
- 其它亮点该论文提出了一个风险评估框架，以分析开放基础模型的潜在风险，包括网络攻击和生物武器等方面。该框架有助于更好地评估开放基础模型的社会影响，并指出了未来需要进行的研究方向。
- 相关研究包括《The Ethics of Artificial Intelligence》、《The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation》等。
提问交流