Blended Bots: Infiltration through Identity Deception on Social Media

机器人是自动化的社交媒体用户，可以用来放大（误导的）信息和散播有害言论。为了有效地影响用户，可以生成机器人来复制人类用户的行为。事实上，人们倾向于相信来自符合他们期望存在的角色的个人资料的用户的信息，例如具有性别角色刻板印象的用户。在这项工作中，我们研究了人类和机器人账户中身份类型的差异，重点关注代表性别角色刻板印象的身份组合。我们发现，某些类型的身份可以区分人类和机器人账户，证实这种方法可以在社交媒体上区分人类和机器人账户。然而，与我们的期望相反，我们揭示出性别偏见在人类账户中的表达比机器人账户更多。尽管总体上性别偏见较少，但我们提供了在机器人账户中与性别身份有强烈关联的身份示例，例如与技术、金融、体育和星座有关的身份。最后，我们讨论了设计有益的社交媒体机器人检测培训材料的意义。

区分社交媒体上的人类用户和机器人账户，特别关注账户中存在的性别角色刻板印象。

通过分析账户中存在的性别角色刻板印象的不同类型，可以区分人类用户和机器人账户。然而，与预期相反的是，整体上人类账户比机器人账户表现出更多的性别偏见。

论文发现了一些与性别角色刻板印象强相关的机器人账户身份，如技术、金融、体育和星座等。此外，论文还讨论了设计有益的社交媒体机器人检测培训材料的意义。研究使用了真实的社交媒体数据集，并提供了开源代码。

相关研究包括：1.《社交媒体上的机器人账户检测：综述》；2.《社交媒体上的机器人账户：谁在控制？》；3.《社交媒体上的机器人账户：对话模式和话题的影响》等。