Self-consistency for open-ended generations

Siddhartha Jain, Xiaofei Ma, Anoop Deoras, Bing Xiang
[AWS AI Labs]

开放域问答的自一致性方法

  • 动机：为提高大规模预训练语言模型(LLM)生成的输出质量和一致性，提出一种新的自一致性方法，可以扩展到不仅仅是有固定答案的问题。
  • 方法：所提出方法是从LLM中采样多个生成结果，并从每个生成结果中提取预测的答案，选择票数最多的答案。对于没有固定答案的开放式问题，引入一个相似性函数，该函数比较不同的生成结果，并根据它们与其他生成结果的平均相似性进行重新排序。
  • 优势：该方法能一致地从一组候选者中找到最优或接近最优的生成结果。此外，该方法的计算开销很小，不需要任何额外的重新排序模型或对现有模型的修改。


提出了一种新的自一致性方法，通过比较和重新排序不同的生成结果，提高了大规模预训练语言模型的输出质量和一致性。

https://arxiv.org/abs/2307.06857 


图片
图片

内容中包含的图片若涉及版权问题，请及时与我们联系删除