Mapping LLM Security Landscapes: A Comprehensive Stakeholder Risk Assessment Proposal

大型语言模型（LLMs）在各个领域的快速整合标志着一个变革时代，展示了在文本生成和问题解决任务方面的显著能力。然而，这种技术进步伴随着重大的风险和漏洞。尽管不断加强安全性，攻击者仍然持续利用这些弱点，对LLMs的整体可信度产生了怀疑。更为严重的是，组织在不了解潜在后果的严重性的情况下部署LLM集成系统。OWASP和MITRE的现有研究提供了威胁和漏洞的概述，但缺乏直接而简洁地分析安全从业人员、开发人员和关键决策者在使用这种新技术时面临的风险的方法。为了解决这一问题，我们提出了一种风险评估过程，使用像OWASP风险评估方法这样用于传统系统的工具。我们进行场景分析，以确定潜在的威胁代理，并将依赖系统组件与漏洞因素进行映射。通过这种分析，我们评估了网络攻击的可能性。随后，我们进行了彻底的影响分析，得出了一个全面的威胁矩阵。我们还将威胁与三个关键利益相关者群体进行了映射：从事模型微调的开发人员、利用第三方API的应用程序开发人员和最终用户。所提出的威胁矩阵提供了LLM相关风险的全面评估，使利益相关者能够做出明智的决策，采取有效的缓解策略。我们概述的过程是安全从业人员的可行和全面的工具，为资源管理提供了洞察力，并增强了整个系统的安全性。

评估大型语言模型的风险和漏洞，并提出一种可行的风险评估方法。

提出一种使用OWASP风险评估方法的风险评估流程，通过场景分析和影响分析来综合评估大型语言模型相关的风险，并将威胁映射到三个关键利益相关者群体。

该论文提供了一种可行的风险评估流程，以帮助安全从业人员和决策者更好地管理大型语言模型相关的风险。论文还将威胁映射到三个关键利益相关者群体，提供了全面的威胁矩阵。

最近的相关研究包括OWASP和MITRE的概述，但缺乏直接简洁地分析安全从业人员、开发人员和关键决策者正在使用的大型语言模型相关风险的方法。