Disentangling Perceptions of Offensiveness: Cultural and Moral Correlates

对于什么是冒犯性的认知在本质上是主观的，受到感知者的生活经验和社会文化价值观的影响。近年来，人们大力开发基于人工智能的工具，以便规模化地检测冒犯性语言，以此来管理社交媒体平台，并确保聊天GPT和Bard等对话型人工智能技术的安全性。然而，现有的方法将这项任务视为一项技术性工作，建立在由全球众包劳动力注释为冒犯性数据之上，而没有关注众包工人的来源或他们感知所反映的价值观。我们认为，文化和心理因素在冒犯性认知加工中起着至关重要的作用，在这种情况下需要考虑这些因素。我们重新构建了确定什么是冒犯性的任务，本质上是道德判断的问题——在一个隐含的社会文化规范集合中，决定何为道德上错误的语言边界。通过一项大规模的跨文化研究，涵盖了来自8个文化地区的21个国家的4309名参与者，我们证明了在冒犯性认知方面存在相当大的跨文化差异。更重要的是，我们发现个体道德价值观在塑造这些差异方面发挥着至关重要的作用：关于关怀和纯洁的道德关注是推动跨文化差异的显著中介因素。在构建面向多元地缘文化背景的人工智能模型时，这些见解具有至关重要的意义，因为它们所宣扬的价值观应该旨在尊重和考虑不同地缘文化背景下的道德价值观。

本论文试图解决如何在不同文化背景下评估语言冒犯性的问题，以帮助构建AI模型以尊重和考虑多元化的道德价值观。

本论文通过大规模的跨文化研究，发现不同文化背景下对冒犯性的感知存在显著差异，个体的道德价值观是影响这种差异的重要因素，因此在构建AI模型时需要考虑不同文化背景下的道德价值观。

论文使用了大规模的跨文化研究，涉及21个国家和8个文化区域的4309名参与者。研究发现，个体的道德关注点（Care和Purity）是影响不同文化背景下对冒犯性感知差异的重要因素。这些结论对于构建尊重多元文化道德价值观的AI模型具有重要意义。

在这个领域中，最近的相关研究包括：1. "Offensive Language Detection using Multi-Task Deep Learning Approach" 2. "Detecting Hate Speech on Twitter Using a Convolution-GRU Based Deep Neural Network" 3. "A Survey of Automatic Detection of Hate Speech in Text"