AI Safety in Generative AI Large Language Models: A Survey

大型语言模型（LLMs）如ChatGPT展示了生成式人工智能能力，正面临加速采用和创新。生成式人工智能（GAI）的增加不可避免地引发了与这些模型相关的风险和安全问题。本文从计算机科学家的角度提供了一份关于GAI-LLMs的人工智能安全研究最新趋势的调查报告：具体和技术性。在本次调查中，我们探讨了在LLMs作为生成语言模型的背景和动机下，已经确定的伤害和风险，并强调了需要统一理论来区分LLMs研究开发和应用中不同的安全挑战的必要性。我们从相关文献支持的简明介绍LLMs的工作原理开始讨论。然后我们讨论了早期的研究，指出了生成模型的基本限制或缺乏理解（例如，随着LLMs参数数量的增加，性能和安全之间的权衡）。我们提供了LLM对齐的充分覆盖——深入探讨了各种方法、竞争方法以及将LLMs与人类偏好对齐所面临的挑战。通过强调文献中的差距和可能的实施疏漏，我们的目的是创建一份全面的分析，为解决LLMs中的人工智能安全问题提供见解，并鼓励开发对齐和安全的模型。最后，我们讨论了LLMs在人工智能安全方面的未来方向，并提供了这一关键领域正在进行的研究的见解。

人工智能领域中的大型语言模型（LLMs）存在的风险和安全问题需要解决

通过对LLMs的安全挑战进行综合分析，提出了一种对LLMs进行安全对齐的方法，以实现LLMs的安全开发和应用

提出了一种基于对抗性训练的安全对齐方法，使用了不同的评估指标来衡量模型的对齐性，实验表明该方法可以提高模型的安全性；研究了LLMs的性能和安全之间的权衡，提出了一种基于参数修剪的方法来提高模型的效率和安全性；探讨了LLMs对齐的挑战和现有方法的局限性，并提出了未来的研究方向

最近的相关研究包括：《On the Risks of Stochastic Parrots: Can Language Models Be Too Big?》、《Towards Robust and Verified AI: Specification Testing, Risk Minimization, and Formal Verification》、《AI Safety via Debate》