Exploring Intra and Inter-language Consistency in Embeddings with ICA

词向量将单词表示为多维实向量，有助于数据分析和处理，但常常难以解释。独立成分分析（ICA）通过识别独立的关键特征，创建更清晰的语义轴。先前的研究表明，ICA有揭示跨语言的通用语义轴的潜力，但缺乏对语言内和跨语言独立成分一致性的验证。我们通过两种方式调查了语义轴的一致性：在单一语言内和跨多种语言。我们首先探究了语言内一致性，重点关注通过多次执行ICA并聚类结果来复现轴的可重复性。然后，我们通过使用统计测试验证这些轴的对应关系，统计检验跨语言一致性。我们新应用了统计方法来建立一个稳健的框架，以确保语义轴的可靠性和普适性。

本论文旨在研究独立分量分析（ICA）在语义轴一致性上的应用，以解决语义轴的可解释性问题。

通过对ICA进行多次聚类和统计验证，探究语义轴在单一语言内和跨语言之间的一致性，建立一个可靠的框架来保证语义轴的可靠性和普适性。

实验结果表明，ICA可以产生清晰的语义轴，且在单一语言内和跨语言之间保持一致性。该研究提出的统计方法可以帮助建立可靠的语义轴，有助于深入研究自然语言处理和语义分析领域。

相关研究包括：《Cross-lingual Alignment of Word Embeddings: A Survey》、《On the Dimensionality of Word Embedding》等。