$φ$-Decoding: Adaptive Foresight Sampling for Balanced Inference-Time Exploration and Exploitation

推理时间优化通过扩展计算来推导出有效的推理步骤以实现高性能。虽然之前的基于搜索的策略解决了自回归生成的短视问题，但庞大的搜索空间导致了过多的探索和不足的利用。为了高效地找到最佳步骤，我们将解码策略定义为“前瞻性采样”，利用模拟未来步骤来获得全局最优的步长估计。基于此，我们提出了一种新的解码策略，称为$\phi$-解码。为了提供精确且富有表现力的步长价值估计，$\phi$-解码通过前瞻性和聚类方法近似两个分布。从联合分布中采样，可以选择最优步骤进行利用。为了支持自适应计算分配，我们提出了宽度和深度修剪策略，这些策略具有轻量级解决方案的特点，能够实现推理效率。广泛的实验在七个基准测试中表明，$\phi$-解码在性能和效率上均优于强大的基线方法。额外的分析证明了其在各种大语言模型中的泛化能力和在不同计算预算范围内的可扩展性。代码将在https://github.com/xufangzhi/phi-Decoding发布，开源PyPI包也将很快推出。

该论文试图解决自回归生成模型在推理过程中因短视性导致的性能不足问题，同时避免传统搜索策略中因巨大搜索空间而产生的过度探索与低效利用问题。这是一个在大语言模型优化领域中的重要研究方向，但具体的‘ foresight sampling’方法提供了一种新的解决视角。

论文提出了一种名为φ-Decoding的新解码策略，通过模拟未来的步骤（foresight sampling）来实现全局最优步长估计，并结合聚类技术近似两个分布以更精确地评估每一步的价值。此外，为了支持自适应计算分配，论文引入了宽度和深度剪枝策略，从而在性能和效率之间取得平衡。相比现有方法，这种思路通过更精细的采样和轻量级优化显著提升了推理效率。

论文通过七个基准测试验证了φ-Decoding的有效性，证明其在性能和效率上均优于强基线模型。此外，实验展示了该方法在不同规模的语言模型上的泛化能力以及对多种计算预算的良好适配性。作者承诺开源代码（https://github.com/xufangzhi/phi-Decoding），并计划发布PyPI包，这为后续研究提供了便利。未来可以进一步探索φ-Decoding在多模态任务或更大规模模型上的应用。

近期相关研究包括：1) 样本高效解码策略如Beam Search、Nucleus Sampling等；2) 针对推理优化的工作，例如《Accelerating Large Language Models via Pruning and Quantization》；3) 基于模拟未来步骤的优化方法，如《Look-Ahead Transformers for Monotonic Speech Recognition》；4) 聚类技术在自然语言处理中的应用，例如《Clustering-based Decoding for Neural Machine Translation》。这些工作为φ-Decoding奠定了基础，但该论文的独特之处在于将foresight sampling与轻量级剪枝策略结合，形成了更高效的推理框架。