Survey of Cultural Awareness in Language Models: Text and Beyond

大规模语言模型（LLM）在各种应用中的广泛部署，如聊天机器人和虚拟助手，要求这些模型对用户具有文化敏感性，以确保包容性。文化在心理学和人类学中得到了广泛研究，最近在使LLM更具文化包容性的研究中出现了激增，这不仅超越了多语言性，还借鉴了心理学和人类学的研究成果。本文综述了将文化意识融入基于文本和多模态LLM的努力。我们首先定义了LLM中的文化意识，从人类学和心理学对文化的定义出发。接着，我们考察了创建跨文化数据集的方法、下游任务中文化包容性的策略，以及用于评估LLM文化意识的方法。此外，我们讨论了文化一致性的伦理影响、人机交互在推动LLM文化包容性中的作用，以及文化一致性在推动社会科学研究所起的作用。最后，我们根据文献中的不足之处，为未来的研究提供了方向。

该论文旨在探讨如何在大规模语言模型（LLMs）中融入文化敏感性，以确保其应用（如聊天机器人和虚拟助手）能够更加包容不同文化背景的用户。这是一个相对较新的问题，尤其是在深度学习和自然语言处理领域。

论文的关键思路是结合心理学和人类学对文化的定义，提出一种系统的方法来增强LLMs的文化意识。与现有研究相比，本文不仅关注多语言能力，还深入探讨了如何通过创建跨文化数据集、制定文化包容策略和建立文化意识基准测试方法来实现这一目标。

论文详细讨论了文化意识在LLMs中的定义、跨文化数据集的构建方法、文化包容在下游任务中的应用策略，以及文化意识的评估方法。此外，还探讨了文化对齐的伦理影响、人机交互在推动文化包容中的作用，以及文化对齐在社会科学中的应用潜力。论文指出了一些未来的研究方向，包括改进文化数据集的质量、开发更有效的文化对齐算法和评估框架。

近期在这个领域的一些相关研究包括： 1. 'Cultural Adaptation of Pre-trained Language Models' - 探讨了如何通过微调预训练模型来适应特定文化背景。 2. 'Cross-Cultural Evaluation of Dialogue Systems' - 研究了对话系统在不同文化背景下的表现差异。 3. 'Multimodal Cultural Awareness in AI' - 讨论了如何在多模态AI中融入文化意识。 4. 'Ethical Considerations in Culturally Inclusive AI' - 深入分析了文化包容AI中的伦理问题。