Adversarial Attacks on Large Language Models in Medicine

本研究探讨了大型语言模型（LLMs）在医疗诊断、治疗建议和患者护理方面的应用前景。然而，LLMs易受到对抗攻击的影响，这可能在敏感的医疗环境中导致有害后果。本研究调查了LLMs在三个医学任务中受到两种类型对抗攻击的脆弱性。利用真实世界的患者数据，我们证明了开源和专有的LLMs都容易在多个任务中被操纵。此研究还揭示了领域特定任务需要更多的对抗数据来进行模型微调，以实现有效的攻击执行，特别是对于更具能力的模型。我们发现，虽然整合对抗数据不会显著降低医学基准测试的整体模型性能，但它确实会导致微调模型权重的明显变化，这表明了检测和对抗模型攻击的潜在途径。本研究强调了在医疗应用中保护LLMs的迫切需要，需要强大的安全措施和防御机制，以确保它们在医疗保健环境中的安全有效部署。

研究LLMs在医疗应用中面临的对抗攻击威胁，探索防御机制。

通过对真实患者数据进行实验，发现LLMs在医疗任务中容易受到对抗攻击，特别是针对特定领域的任务需要更多的对抗数据。同时，引入对抗数据对模型的性能影响不大，但会导致微小的模型权重变化，这为检测和防御模型攻击提供了潜在途径。

实验使用了真实患者数据，揭示了LLMs在医疗任务中的对抗攻击威胁，并提出了防御机制。研究发现，特定领域的任务需要更多的对抗数据。引入对抗数据对模型性能影响不大，但会导致微小的模型权重变化。

最近的相关研究包括“Adversarial Attacks and Defenses in Deep Learning”和“Adversarial Machine Learning in Healthcare: A Survey”。