Chain-of-Table: Evolving Tables in the Reasoning Chain for Table Understanding

使用大型语言模型（LLM）进行基于表格的推理是解决许多表格理解任务的有前途的方向，例如基于表格的问答和事实验证。与通用推理相比，基于表格的推理需要从自由形式的问题和半结构化的表格数据中提取潜在的语义。Chain-of-Thought及其类似方法通过文本上下文的形式将推理链结合在一起，但如何有效地利用表格数据来推理仍然是一个开放性问题。我们提出了Chain-of-Table框架，其中表格数据明确地作为中间思路的代理在推理链中使用。具体而言，我们使用上下文学习来引导LLMs迭代生成操作并更新表格，以表示表格推理链。因此，LLMs可以根据前面操作的结果动态地规划下一个操作。这种表格的连续演变形成了一个链条，展示了给定表格问题的推理过程。该链条携带了中间结果的结构化信息，从而实现更准确可靠的预测。Chain-of-Table在WikiTQ、FeTaQA和TabFact基准测试中实现了新的最先进性能，适用于多种LLM选择。

论文旨在解决表格理解任务中的问题，如基于表格的问答和事实验证。需要从自由形式问题和半结构化表格数据中提取潜在的语义。然而，如何有效地利用表格数据进行推理仍然是一个开放性问题。

Chain-of-Table框架将表格数据明确地用作推理链中的代理，作为中间思想的代表。使用上下文学习指导LLMs迭代生成操作和更新表格，以表示表格推理链。LLMs因此可以基于先前操作的结果动态地规划下一个操作。这种连续的表格演变形成了一个链，显示给定表格问题的推理过程。该链携带中间结果的结构化信息，从而实现更准确和可靠的预测。

论文提出的Chain-of-Table框架在WikiTQ，FeTaQA和TabFact基准测试中实现了新的最先进性能，跨多个LLM选择。实验结果表明，该框架可以有效地利用表格数据进行推理，从而实现更好的性能。论文还提供了开源代码和使用的数据集。

最近的相关研究包括基于表格的问答和事实验证领域的其他工作，如BERT-based和GPT-based模型，以及其他基于表格的推理方法，如Table-BERT和TaBERT。