MINERS: Multilingual Language Models as Semantic Retrievers

单词已经被表示为高维向量空间中的向量，这些向量编码了它们的语义相似性，使得下游应用程序如检索同义词、反义词和相关上下文成为可能。然而，尽管多语言语言模型（LMs）最近取得了进展，但这些模型在语义检索环境中的表示效果尚未得到全面探索。为了填补这一空白，本文介绍了MINERS，这是一个基准测试，旨在评估多语言LM在语义检索任务中的能力，包括通过检索增强的上下文进行的双语挖掘和分类。我们创建了一个全面的框架，评估LM在检索200多种不同语言的样本时的鲁棒性，包括在具有挑战性的跨语言和代码切换设置中的极低资源语言。我们的结果表明，仅通过检索语义相似的嵌入，就可以获得与最先进的方法相竞争的性能，而无需进行任何微调。

本论文旨在探讨多语言语言模型在语义检索任务中的表现，并提出了MINERS基准测试，以评估多语言语言模型在语义检索任务中的能力。

本论文提出了使用多语言语言模型中的语义相似嵌入来检索样本的方法，并通过MINERS基准测试证明了该方法的有效性。

论文使用MINERS基准测试对多语言语言模型在语义检索任务中的表现进行了评估，并证明了使用语义相似嵌入来检索样本的有效性。实验设计全面，使用了200多种不同语言的数据集，并且不需要进行微调即可与当前最先进的方法竞争。

最近的相关研究包括：《Cross-lingual Language Model Pretraining》、《Multilingual Universal Sentence Encoder for Semantic Retrieval》等。