Designing Human-AI Systems: Anthropomorphism and Framing Bias on Human-AI Collaboration

人工智能正在重新定义人类与技术的互动方式，从而导致两者之间的协同合作。然而，人类认知对这种合作的影响仍不清楚。本研究调查了两种认知偏见——拟人化和框架效应——对招聘场景中人工智能协作的影响。实验对象使用了一个AI推荐工具来帮助选择求职者。该工具被操纵为具有人类或机器人的特征，并用正面或负面的方式呈现其推荐结果。结果显示，AI推荐的框架对实验对象的决策没有显著影响。相反，拟人化显著影响了实验对象对AI推荐的认同。与预期相反，如果AI具有人类特征，实验对象更不可能同意AI的推荐。这些发现表明，认知偏见可能会影响人工智能的协作，并强调需要量身定制AI产品设计的方法，而不是一种通用解决方案。

研究人工智能中的认知偏见对人机协作的影响，特别是在招聘领域中使用AI推荐工具时的影响。

研究发现，人工智能推荐工具的特征和推荐结果的表述方式会影响人们对其推荐的接受程度。人类化特征会导致人们更不愿意接受AI的推荐，而推荐结果的表述方式则没有显著影响。

实验使用了AI推荐工具和招聘场景，研究了人工智能中的认知偏见对人机协作的影响。研究发现，人类化特征会降低人们对AI推荐的接受程度，这一结论对于人工智能产品的设计具有重要意义。

相关研究包括：1.《人工智能与人类认知偏见：对话中的社会认知》（Bainbridge, 2018）；2.《人工智能中的人类化设计：对用户体验和社交影响的影响》（Ju, 2019）；3.《使用人工智能进行招聘的优缺点》（Davies, 2017）等。