Know the Unknown: An Uncertainty-Sensitive Method for LLM Instruction Tuning

大型语言模型（LLMs）在各种任务中展示出了卓越的能力，但仍然面临幻觉等挑战。幻觉的一个潜在原因是缺乏相关知识或上下文。因此，缓解这个问题的一个有希望的解决方案涉及指导LLMs在问题超出其知识领域或所提供的上下文时回答“我不知道”。然而，在这项工作中，我们观察到LLMs很难承认自己的知识缺乏，主要是由于现有的指导数据集旨在鼓励特定的答案。为了提高大型语言模型识别其知识边界的能力，我们提出了一种新的方法，称为不确定性敏感调整。该方法涉及两个阶段的训练，旨在识别不确定性和提示敏感激活。在第一阶段，我们指导LLM拒绝未知的问题。在第二阶段，我们通过设计因果指令来恢复QA任务中降低的性能。通过利用这种方法，我们旨在增强模型识别不确定性区域的能力。实验结果表明，我们提出的不确定性敏感调整方法显着提高了Llama2-chat-7B模型的性能。具体而言，与原始模型相比，它在处理涉及知识差距的问题方面取得了34.7％的显着改进。此外，我们的方法优于GPT-4，表现出总体性能增加了9.4％。我们在GitHub上开源了模型和代码。

解决问题：论文试图解决什么问题，或者验证什么假设？这是否是一个新问题？

关键思路：论文中解决问题的方案关键思路是什么？相比当前这个领域的研究状况，这篇论文的思路有什么新意？

其他亮点：论文提出了一种新的方法叫做不确定性敏感调整，可以提高大型语言模型识别其知识边界的能力。通过实验，证明了该方法可以显著提高模型在处理知识缺口问题时的表现，并且超过了GPT-4模型。论文还开源了模型和代码。

相关研究：最近在这个领域中，还有哪些相关的研究被进行？能否列举一些相关研究的论文标题？