Development of a Reliable and Accessible Caregiving Language Model (CaLM)

与专业护理人员不同，家庭护理者通常没有正式的准备或培训就承担了这个角色。因此，迫切需要增强家庭护理者提供优质护理的能力。大型语言模型有可能作为支持护理者的教育工具或护理的附加工具的基础技术。本研究旨在使用FMs和护理知识库开发可靠的护理语言模型（CaLM），使用需要更少计算资源的小型FM开发易于访问的CaLM，并评估该模型与大型FM的性能。我们使用检索增强生成（RAG）框架结合FM微调来开发CaLM，从而通过将模型基于护理知识库进行固定，提高FM答案的质量。我们使用两个小型FM作为CaLM的FM候选者（LLaMA-2和带有7B参数的Falcon），并使用更大的FM GPT-3.5作为基准。我们通过从互联网收集各种类型的文档来构建护理知识库。在本研究中，我们专注于阿尔茨海默病相关痴呆症患者的护理者。我们使用常用于评估语言模型的基准指标来评估模型的性能以及提供准确答案参考的可靠性。RAG框架提高了本研究中所有FM的性能，所有指标都表现出色。预期的是，大型FM在所有指标上表现优于小型FM。最有趣的结果是，带有RAG的小型微调FM在所有指标上的表现显著优于GPT 3.5。微调的LLaMA-2小型FM在返回带答案的参考文献方面比GPT 3.5（甚至带有RAG）表现更好。该研究表明，可以使用特定于护理领域的知识库和小型FM开发可靠且易于访问的CaLM。

本文旨在开发一个可靠的Caregiving Language Model (CaLM)，以帮助家庭照护者提供高质量的照护服务。作者使用了Retrieval Augmented Generation (RAG)框架和fine-tuning技术，结合照护知识库开发了CaLM，并使用小型FMs进行测试。研究的重点是阿尔茨海默病相关痴呆症的照护。

本文提出了一种新的方法，使用小型fine-tuned FMs结合RAG框架和照护知识库开发可靠且易于访问的CaLM。研究结果表明，这种方法比使用大型FMs更有效，并且在返回答案的参考文献方面表现更好。

本文使用了Retrieval Augmented Generation (RAG)框架和fine-tuning技术，结合照护知识库开发了可靠的Caregiving Language Model (CaLM)。作者使用了小型FMs进行测试，并发现这种方法比使用大型FMs更有效，并且在返回答案的参考文献方面表现更好。研究的重点是阿尔茨海默病相关痴呆症的照护。

最近在这个领域中，还有一些相关的研究，如《Deep Learning for Healthcare: Review, Opportunities, and Challenges》、《A Survey on Deep Learning in Medical Image Analysis》等。