SINKT: A Structure-Aware Inductive Knowledge Tracing Model with Large Language Model

2024年07月01日
  • 简介
    知识追踪(KT)旨在确定学生是否能正确回答下一个问题,这是智能辅导系统(ITS)中的关键任务。在教育KT场景中,基于ID的转导方法经常面临严重的数据稀疏和冷启动问题,其中个别学生和问题之间的交互很少,新问题和概念不断出现在数据库中。此外,现有的KT模型只隐含考虑概念和问题之间的相关性,缺乏对概念和问题的异构图中更复杂关系的直接建模。在本文中,我们提出了一种具有大型语言模型(称为SINKT)的结构感知归纳知识追踪模型,首次引入大型语言模型(LLM)并实现归纳知识追踪。首先,SINKT利用LLM引入概念之间的结构关系并构建概念和问题的异构图。其次,通过使用LLM对概念和问题进行编码,SINKT结合语义信息来辅助预测。最后,SINKT通过与学生的知识状态和问题表示进行交互来预测学生对目标问题的回答。在四个真实数据集上的实验表明,SINKT在12个现有的转导KT模型中实现了最先进的性能。此外,我们探讨了SINKT在归纳KT任务上的表现,并提供了有关各种模块的见解。
  • 图表
  • 解决问题
    解决问题的问题是如何进行知识追踪,特别是在教育领域中,如何解决数据稀疏和冷启动问题,以及如何更好地建模知识状态和问题表示
  • 关键思路
    论文提出了一种结构感知的归纳式知识追踪模型,引入大型语言模型(LLM)实现知识追踪,通过LLM建立概念和问题之间的结构关系,将语义信息编码到概念和问题中,预测学生对目标问题的响应。
  • 其它亮点
    论文在四个真实数据集上进行了实验,表明提出的模型在12个现有的转导式KT模型中表现最佳。此外,论文还探讨了模型在归纳式KT任务上的性能,并提供了对各个模块的见解。
  • 相关研究
    近期的相关研究包括:'Deep Knowledge Tracing','Dynamic Key-Value Memory Networks for Knowledge Tracing','Neural Knowledge Tracing with Prior Knowledge'等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论