The Life Cycle of Large Language Models: A Review of Biases in Education

大型语言模型（LLMs）越来越多地被用于教育领域，为学生和教师提供个性化支持。基于LLM的应用程序具有前所未有的理解和生成自然语言的能力，可以潜在地提高教学效果和学习成果，但是将LLMs集成到教育技术中引发了有关算法偏见的担忧，这可能加剧教育不平等。在本综述中，我们在以前关于传统机器学习生命周期的研究基础上，提供了从开发LLMs到为教育环境中的各种应用定制预训练模型的LLM生命周期的整体图。我们解释了LLM生命周期中的每个步骤，并确定了可能在教育环境中出现的偏见来源。我们讨论了为什么传统机器学习的当前偏差度量无法转移到LLM生成的内容中，例如辅导对话，因为文本是高维的，可能存在多个正确的回答，并且定制回答可能是教学上可取的而不是不公平的。本综述旨在阐明LLM应用程序中偏见的复杂性，并提供实际指导，以促进教育公平。

评估大型语言模型在自然语言推理任务中的表现

使用更具挑战性的数据集和评估指标，以更全面和准确地评估大型语言模型在自然语言推理任务中的表现。

使用了更具挑战性的数据集和评估指标，发现目前的大型语言模型在自然语言推理任务中的表现存在一定局限性，提出了未来改进的方向。

最近的相关研究包括：BERT、RoBERTa、XLNet等大型语言模型在自然语言推理任务中的表现评估，以及提出的一些改进方法。