Exploring Gender Biases in Language Patterns of Human-Conversational Agent Conversations

随着人机交互的兴起，机器越来越多地设计出类似于人类的特征，比如性别，这可能无意中触发认知偏见。许多对话代理（CAs），如语音助手和聊天机器人，默认使用女性角色，引发了有关持续性性别刻板印象和不平等的担忧。批评者已经出现，关于这些技术可能会将女性物化和强化性别刻板印象。这项研究位于对话人工智能设计领域，旨在更深入地探讨性别偏见对人-CA互动的影响。从行为和交流研究的角度出发，该项目不仅关注用户的感知，还关注以前研究很少探索的用户与CAs互动时的语言风格。它旨在了解CAs的性别设计如何触发现有的性别偏见。它进一步调查CAs的性别设计如何强化性别偏见并将其扩展到人-人交流中。研究结果旨在为对话代理的道德设计提供指导，解决CAs中性别分配是否恰当以及如何促进设计中的性别平等问题。

研究探讨人机交互中性别偏见的影响，特别是在语音助手和聊天机器人等对话型人工智能中的性别设计是否会加强和传递性别偏见

从行为和交流研究的角度，探讨用户与对话型人工智能交互时的认知和语言风格，以了解性别偏见如何被触发和加强，并扩展到人际交流中。旨在为对话型人工智能的伦理设计提供指导，解决性别分配是否合适以及如何促进设计中的性别平等问题。

论文探讨了对话型人工智能中性别偏见的影响及其可能带来的问题，提出了从行为和交流研究的角度来探究这一问题的方案。论文还介绍了实验设计和使用的数据集，并提供了一些值得深入研究的工作。

该领域的相关研究包括：1. “Gender and Interaction in a Socially Intelligent Robot”；2. “Gendered Voices and Feminist Robots: Exploring Gender Stereotypes in Human-Robot Interaction”；3. “Gender and Race Bias in Two Commercially Available Natural Language Processing Systems”等。