Quantifying Lexical Semantic Shift via Unbalanced Optimal Transport

词汇语义变化检测旨在识别词义随时间的变化。虽然现有的方法使用历时语料库对中的嵌入来估计目标词的变化程度，但它们在单个用例层面的变化上提供的见解有限。为了解决这一问题，我们应用了非平衡最优传输（UOT）到上下文化词嵌入集，通过使用实例之间的对齐差异来捕捉语义变化。特别是，我们提出了一个称为“义项使用频次变化”（SUS）的度量，该度量量化了每个使用实例中词义使用频率的变化。通过利用SUS，我们展示了几个语义变化检测中的挑战可以以统一的方式解决，包括量化实例级别的语义变化和词级别的任务，如测量语义变化的幅度以及意义的扩展或缩小。

该论文旨在解决词汇语义变化检测中的两个主要问题：1) 现有方法在估计词义变化时主要关注词级别的变化，缺乏对单个用例实例变化的详细分析；2) 如何量化和理解词义变化的具体方式，包括词义的扩展或缩小。

论文提出了一种新的方法——Sense Usage Shift (SUS)，通过应用不平衡最优传输 (Unbalanced Optimal Transport, UOT) 到上下文化词嵌入集合中，捕捉词义变化过程中单个用例实例之间的对齐差异。SUS 不仅可以量化每个用例实例的语义变化，还可以用于测量词级别的变化幅度和词义的扩展或缩小。

1) 实验设计：通过多个数据集验证了 SUS 的有效性和鲁棒性，包括历史语料库和现代语料库。 2) 数据集：使用了多个标准数据集，如 Google Books Ngrams 和 COHA（Corpus of Historical American English）。 3) 开源代码：提供了 SUS 的实现代码，便于其他研究者复现和进一步研究。 4) 值得深入研究的方向：如何将 SUS 应用于跨语言的语义变化检测，以及如何结合其他自然语言处理任务（如情感分析）来增强 SUS 的效果。

1) "Diachronic Word Embeddings Reveal Statistical Laws of Semantic Change" - 提出了基于时间序列的词嵌入方法来检测词义变化。 2) "A Survey on Diachronic Word Representation and Semantic Change Detection" - 综述了词义变化检测的各种方法和技术。 3) "Detecting and Measuring Lexical Semantic Change with Continuous Word Representations" - 探讨了连续词表示在词义变化检测中的应用。 4) "Optimal Transport for Domain Adaptation" - 将最优传输理论应用于领域适应任务，为本文的方法提供了理论基础。