Large Language Models and User Trust: Focus on Healthcare

本文探讨了临床医生对LLM的信任关系、数据来源从以人类为主到以AI生成内容为主的转变，以及对LLM精度和临床医生能力的影响。其中，一个主要关注的问题是，随着LLM越来越依赖其输出进行学习，可能会出现反馈循环，导致输出质量下降，临床医生的基本诊断过程参与度降低，从而降低临床医生的技能水平。虽然这种反馈循环目前还只是理论上的问题，但随着LLM在医疗保健中的应用加深，这个问题也越来越突出，强调了需要积极对话和战略措施，以确保LLM技术的安全有效使用。此外，我们还深入探讨了与LLM自我参考学习循环和医疗保健专业人员技能下降相关的潜在风险。LLM在回音室中运作的风险，即AI生成内容进入学习算法，威胁到数据池的多样性和质量，可能会固化偏见，并降低LLM的效力。同时，依赖LLM进行例行或关键任务可能会导致医疗保健提供者的诊断和思考能力下降，特别是影响未来专业人员的培训和发展。

论文探讨了临床医生对LLMs的信任与数据来源的转变，以及对LLMs精度和临床医生能力的影响。同时指出LLMs可能存在的自我学习反馈循环，可能导致输出质量下降和临床医生技能退化。

论文强调需要采取积极措施确保安全有效地使用LLM技术，以避免自我学习反馈循环和临床医生技能退化的风险。

论文探讨了LLMs的自我学习反馈循环和临床医生技能退化的风险，提出了应对措施。实验设计并不是论文的重点，没有提到使用的数据集和开源代码。

最近的相关研究包括“Machine Learning in Healthcare: A Systematic Review of Literature and Bibliometric Survey”和“Artificial Intelligence and Machine Learning in Radiology: Opportunities, Challenges, Pitfalls, and Criteria for Success”。