Human-Centred Learning Analytics and AI in Education: a Systematic Literature Review

学习分析和人工智能在教育领域的快速发展提供了新的可扩展、数据密集型系统，但也引发了数据隐私和代理权方面的担忧。如果排除利益相关者（如学生和教师）参与设计过程，可能会导致不信任和工具不适当。尽管最近的学习分析和人工智能研究已经转向以人为中心的设计，但在设计和实施这些系统时，人类控制、安全、可靠性和可信度的重要性仍存在差距。我们进行了系统文献综述，探讨了这些问题和差距。我们分析了108篇论文，提供了以下洞察：i）目前以人为中心的学习分析/人工智能研究的现状；ii）教育利益相关者在人为中心的学习分析/人工智能系统设计过程中的参与程度；iii）这些系统人类控制和计算机自动化之间的平衡；以及iv）文献中安全、可靠性和可信度的考虑程度。结果表明，在学习分析/人工智能系统设计方面有一定的人类控制考虑，但实际设计中目标终端用户的参与有限。基于这些发现，我们建议：1）在所有设计阶段中谨慎平衡利益相关者参与设计和部署学习分析/人工智能系统；2）积极让目标终端用户，特别是学生，参与界定人类控制和自动化之间的平衡；以及3）将安全、可靠性和可信度作为未来以人为中心的学习分析/人工智能系统的原则进行探索。

人工智能在教育领域中的设计和实施中存在的人类控制、安全性、可靠性和信任度问题

在设计和实施人类中心的学习分析和人工智能教育系统时，需要平衡利益相关者的参与，特别是目标用户（尤其是学生）的参与，并探索安全性，可靠性和信任度作为原则。

论文通过系统文献综述分析了108篇论文，发现当前的学习分析和人工智能教育系统设计中存在一定程度的人类控制考虑，但实际设计中目标用户的参与度较低。建议在设计和实施人类中心的学习分析和人工智能教育系统时需要平衡利益相关者的参与，特别是目标用户（尤其是学生）的参与，并探索安全性，可靠性和信任度作为原则。

相关研究包括：1）人类中心的设计方法在其他领域的应用；2）学习分析和人工智能教育系统的技术和应用现状；3）利益相关者参与对于人工智能教育系统设计的影响。