From Zero to Hero: Examining the Power of Symbolic Tasks in Instruction Tuning

解决问题：本篇论文旨在探讨如何通过使用符号任务来提高指导微调（instruction tuning）的效果，以便更好地实现零样本泛化（zero-shot generalization）。同时，论文还试图验证符号任务对于提高语言模型在表格推理（table reasoning）等方面的表现是否有所帮助。这是一个新的问题，因为目前关于指导微调的研究很少涉及符号任务的应用。

关键思路：论文提出了一种简单而有效的方法，即使用符号任务来增强指导微调的效果。与众包人类任务或模型生成任务相比，符号任务具有独特的优势，因为它们可以轻松地大量生成，从理论上提供了无限的高质量训练实例。论文通过对代表性符号任务SQL执行的广泛案例研究，验证了符号任务的潜力。实验结果表明，SQL执行的集成可以显著提高零样本场景下的表格推理能力。值得注意的是，本文的3B模型在四个基准测试中的零样本表格推理能力超过了175B的GPT-3和ChatGPT。此外，论文还通过BBH（27个任务）和MMLU（57个任务）的实验结果表明，符号任务可以在不影响语言模型泛化性能的情况下提高其性能。

其他亮点：本文的实验设计合理，使用了多个基准测试数据集。论文没有公开代码，但是提供了详细的实验细节，可以帮助其他研究人员重现实验结果。值得进一步研究的是，如何将符号任务应用于其他指导微调的场景，以及如何进一步提高符号任务的效率和质量。

关于作者：本文的主要作者是Qian Liu、Fan Zhou、Zhengbao Jiang、Longxu Dou和Min Lin。他们分别来自清华大学和微软亚洲研究院。他们之前的代表作包括《Pretraining-Based Natural Language Generation for Text Summarization》和《Unsupervised Neural Machine Translation with Weight Sharing》等。

相关研究：与本文相关的其他研究包括《Learning to Generalize from Sparse and Underspecified Rewards》（作者：Yan Duan等，机构：OpenAI）、《Few-Shot Learning with Localization in Realistic Settings》（作者：Dinesh Jayaraman等，机构：Princeton University）和《Meta-Learning for Low-Resource Neural Machine Translation》（作者：Xuanli He等，机构：University of Maryland）等。

论文摘要：本文研究了在指令任务上微调语言模型的能力，发现该方法可以促进零样本泛化。为了增强指令微调的效果，本文提出了一种简单而有效的方法，即采用符号任务。与众包人类任务或模型生成任务相比，符号任务具有独特的优势，因为它们可以轻松生成大量任务，从理论上提供无限量的高质量训练实例。为了探索符号任务的潜力，本文在代表性的符号任务SQL执行上进行了广泛的案例研究。各种基准测试的实证结果验证了SQL执行的整合在零样本场景下，特别是在表格推理方面，可以显著提高性能。值得注意的是，我们的3B模型在四个基准测试中的零样本表格推理方面均超过了175B GPT-3和ChatGPT。此外，在BBH（27个任务）和MMLU（57个任务）的实验结果表明，符号任务可以增强语言模型的性能而不影响其泛化能力。我们希望本文能够成为一个催化剂，激发人们在指令微调中增加符号任务的努力。

内容中包含的图片若涉及版权问题，请及时与我们联系删除