Trust in AI: Progress, Challenges, and Future Directions

简介

随着各种应用、服务和产品中人工智能系统（与其他技术相比）的不断普及，从用户角度来看，信任/不信任人工智能的重要性得到了解释。人工智能驱动的系统不仅作为人类代理人使用的一些有益工具，而且还将成为我们的替代代理人，或者说是会影响人类思想、决策和行动的操纵心灵。信任/不信任人工智能扮演着调节者的角色，可以显著控制这种普及程度，因为信任可以增加，而不信任可能会减少人工智能的采用率。最近，各种研究已经关注了人工智能信任/不信任的不同维度及其相关考虑因素。在这篇系统文献综述中，我们在概念化当前人工智能文献综述中的信任之后，将调查不同类型的人机交互中的信任以及其对不同领域的技术接受的影响。除此之外，我们提出了技术（如安全性、准确性、鲁棒性）和非技术的价值（如道德、法律和混合）信任度量的分类法，以及一些可信度量。此外，我们还研究了一些主要的人工智能信任破坏者（例如自主性和尊严威胁）和信任制造者，并提出了一些未来的方向和可能的解决方案，以实现人工智能的可信转变。

图表

解决问题

研究人工智能系统中用户信任的维度和影响因素，探讨如何提高人工智能系统的可信度

关键思路

提出了一个针对人工智能系统可信度的分类体系，包括技术和非技术维度，同时探讨了提高可信度的措施和未来方向

其它亮点

使用了系统文献综述的方法，提出了可信度的分类体系，探讨了可信度的影响因素和提高可信度的措施

Trust in AI: Progress, Challenges, and Future Directions

评论