Collaborative human-AI trust (CHAI-T): A process framework for active management of trust in human-AI collaboration

协作式人工智能（HAI）团队合作结合了人类和机器的独特技能和能力，在持续的团队合作互动中利用各自的优势。在涉及到新奇和不确定性的任务中，适应性强、富有创造力的人类与强大精准的人工智能（AI）之间的协作，有望带来新的解决方案和效率。用户信任对于创建和维护这些协作关系至关重要。传统形式的AI中建立信任的已有模型通常认识到三个主要信任先决条件的贡献：人类用户的特征、技术的特征和环境因素。然而，HAI团队的出现需要理解人类信任，考虑任务背景和目标的特定性，整合互动过程，并捕捉团队环境中信任如何随时间演变。本文提出的协作HAI团队（CHAI-T）信任过程框架，借鉴了心理学和计算机科学文献，采用了早期模型建立的三元结构的信任先决条件，同时整合了团队过程和绩效阶段，以捕捉信任在团队合作环境中固有的动态性。这些特点使得协作AI系统中的信任得以积极管理，对于协作HAI团队的设计和部署具有实际意义。

解决问题的问题是如何在协作人工智能团队中建立和维护用户信任？

提出了一种协作人工智能团队信任的过程框架（CHAI-T），该框架结合了早期模型中建立信任的三个主要类别的先决条件，同时还考虑了团队过程和绩效阶段，以捕捉信任在团队环境中随时间变化的动态性。

该论文的亮点包括提出了一个新的框架来管理协作人工智能系统中的信任，这对协作人工智能系统的设计和部署具有实际意义。此外，该论文还参考了心理学和计算机科学领域的文献，并提供了实际应用的建议。

在最近的研究中，还有一些相关的研究，如《人工智能的信任建立：综述与展望》、《人工智能与人类之间的信任：从社会心理学到人机交互》等。