From "AI" to Probabilistic Automation: How Does Anthropomorphization of Technical Systems Descriptions Influence Trust?

本文研究了所谓“人工智能”（AI）系统的拟人化描述对人们对该系统信任自我评估的影响。在之前的研究基础上，我们定义了四种拟人化类别（1. 认知者的属性，2. 代理，3. 生物隐喻，4. 传达者的属性）。我们使用基于调查的方法（n = 954）来调查参与者是否倾向于信任两个（虚构的）“AI”系统之一，通过随机分配人们查看拟人化或去拟人化的系统描述来实现。我们发现，总体上，参与者不太可能信任拟人化的产品描述而不是去拟人化的产品描述。产品或系统的类型与不同的拟人化类别相结合似乎对信任产生更大的影响，而年龄是唯一与人们对拟人化或去拟人化描述偏好显著相关的人口因素。当参与者阐述他们的选择时，无论他们看到的是拟人化的还是去拟人化的产品描述，他们都会强调较小的两个恶、较低或较高的利益相关环境以及人类偏爱等因素。我们的结果表明，“AI”描述中的“拟人化”是一个综合概念，可能对不同的群体产生不同的影响，并对拟人化是否导致公众在被销售为“AI”的系统中产生更高的信任和过度依赖的讨论提供细微差别。

本论文研究人们对于人工智能系统的人格化描述对其信任度的影响，探讨人格化描述是否会导致公众对于所谓的“AI”系统的过度信任。

通过随机分配实验参与者，将其看到的产品描述分为人格化和非人格化两组，发现参与者对于人格化和非人格化产品描述的信任度没有明显差异，同时发现产品类型和不同人格化类别的组合对于信任度的影响更大，年龄是唯一与人格化描述偏好显著相关的因素。

本论文提供了关于人格化描述对不同群体影响的细致分析，揭示了人格化描述并不会自动导致公众对于所谓的“AI”系统的过度信任，而是受到多种因素的影响。实验采用了问卷调查的方式，样本量较大，结果具有一定的代表性。

近年来，关于人工智能系统的人格化描述对公众信任度的影响已经成为研究热点。相关研究包括："The Impact of Anthropomorphic Language on Patient Compliance in Health Care AI"，"Anthropomorphism and Trust in Online Auctions"等。