Improving Health Professionals' Onboarding with AI and XAI for Trustworthy Human-AI Collaborative Decision Making

随着先进的人工智能和机器学习技术的发展，越来越多的关于可解释人工智能（XAI）的研究和人类如何与AI和XAI进行有效的人机协作决策的研究正在进行。然而，我们仍然缺乏对于没有技术背景的用户应该如何首次接触AI系统和XAI的理解。在本文中，我们通过对12位医疗专业人士和4名主修医学和健康学的学生进行半结构化访谈，研究如何改进AI和XAI的入门体验。在访谈中，我们基于人机交互指南，为中风康复评估的AI系统和AI解释创建了入门材料，并将其介绍给参与者。我们的研究发现，除了展示AI的传统性能指标外，参与者还希望了解基准信息、AI的实际效益以及交互试验，以更好地将AI的性能置于上下文中，并优化AI的目标和性能。基于这些发现，我们提出了改进AI和XAI入门体验以及人机协作决策的方向。

如何改进人工智能和可解释人工智能的引导方式以提高人工智能与人类协同决策的效果？

通过半结构化访谈研究医学和健康专业人士以及学生的需求，提出改进人工智能和可解释人工智能的引导方式，包括提供基准信息、实际应用场景、交互试验等，以更好地理解人工智能的表现和优化目标。

通过半结构化访谈研究了医学和健康专业人士以及学生的需求，提出了改进人工智能和可解释人工智能的引导方式。

近期相关研究包括《可解释人工智能的综述》、《人工智能和人类协同决策的研究进展》等。