Neural Fault Injection: Generating Software Faults from Natural Language

传统的软件故障注入方法虽然是基础性的，但在充分表现现实世界故障、提供定制化和需要大量手动工作和专业知识等方面存在局限性。本文介绍了一种新的方法，利用增强学习与人类反馈相结合的大型语言模型（LLMs）来克服这些挑战。使用增强学习与人类反馈强调迭代的改进过程，允许测试人员对生成的故障进行反馈，然后利用这些反馈来增强LLM的故障生成能力，确保生成的故障场景与实际操作风险非常接近。这种创新的方法旨在显著减少手动制作故障场景所需的工作量，使测试人员能够专注于更高级别的测试策略，从而为增强软件系统的可靠性铺平道路。

本论文试图通过引入大型语言模型（LLMs）和人类反馈增强强化学习（RLHF）来解决传统软件故障注入方法的局限性，以提高软件系统的可靠性。

使用RLHF强调迭代的改进过程，让测试人员对生成的故障提供反馈，然后利用这些反馈来增强LLM的故障生成能力，确保生成的故障场景与实际操作风险非常接近。

本论文的亮点在于使用RLHF和LLM相结合的方法，以减少手动编写故障场景的工作量，让测试人员专注于更高层次的测试策略。实验结果表明，该方法可以生成更接近实际操作风险的故障场景。

最近的相关研究包括使用机器学习来进行软件故障注入的研究，如“Automated Software Fault Injection with Machine Learning Techniques”（2019）和“Machine Learning for Fault Injection in Software Systems”（2020）等。