Explainable AI Enhances Glaucoma Referrals, Yet the Human-AI Team Still Falls Short of the AI Alone

初级医疗保健提供者对于最初的分流和转诊非常重要。在青光眼中，无症状和快速进展可能导致视力丧失，需要及时转诊给专科医生。然而，初级眼科保健提供者可能无法识别紧急情况，可能会延误护理。提供解释的人工智能（AI）可以增强他们的转诊决策。我们研究了各种AI解释如何帮助提供者区分需要立即或非紧急专科转诊的患者。我们建立了可解释的AI算法，从日常眼科护理数据中预测青光眼手术需求，作为识别高风险患者的代理。我们结合固有和事后可解释性，并与验光师进行在线研究，评估人-AI团队的表现，测量转诊准确性，并分析与AI的交互，包括协议率、任务时间和用户体验感知。AI支持提高了87名参与者的转诊准确性（59.9％/50.8％有/没有AI），尽管与AI单独相比，人-AI团队表现不佳。参与者认为在使用固有模型时包含了更多的AI建议，并认为它更有用和有前途。没有解释，与AI建议的偏差增加。AI支持没有增加工作量、信心和信任，但减少了挑战。在单独的测试集上，我们的黑盒和固有模型分别实现了77％和71％的手术预测准确性。我们确定了人-AI团队在初级眼科护理中管理青光眼的机会，指出尽管AI增强了转诊准确性，但与AI单独相比也存在表现差距，即使有解释。人的参与在医疗决策中仍然至关重要，强调未来研究需要优化协作，确保积极体验和安全的AI使用。

本文旨在研究如何使用人工智能算法来辅助眼科医生识别青光眼患者中哪些需要紧急转诊，以及如何提高转诊的准确性。

本文使用可解释的人工智能算法来预测青光眼手术的需求，以此作为识别高风险患者的代理指标，并对眼科医生的转诊决策提供各种解释，从而提高转诊的准确性。

本文进行了在线实验，测试了87名眼科医生与人工智能算法的协同表现。研究结果表明，人工智能算法的支持可以提高转诊的准确性，但与单独使用人工智能算法相比，人工智能算法和人类的协同表现仍有差距。此外，本文还使用黑盒和内在可解释的模型在另一个测试集上进行了预测，黑盒模型和内在可解释模型的准确率分别为77%和71%。

近年来，有不少研究致力于将人工智能技术应用于医疗领域，特别是辅助医生做出诊断和治疗决策。例如，有研究使用卷积神经网络来自动识别视网膜病变，还有研究使用深度学习算法来预测癌症患者的生存率。