滑铁卢大学 |Continuous Active Learning Using Pretrained Transformers（使用预训练的 Transformer 进行持续主动学习）

作者：Nima Sadri, Gordon V. Cormack

简介：本文研究基于Transformer的模型的持续主动学习。BERT 和 T5 等预训练和微调的 Transformer 模型提高了即席检索和问答的最新技术水平，但在高召回率信息检索方面还没有提高，其目标是检索基本上所有相关的文件。作者研究使用基于Transformer的模型进行重新排序和/或特征化是否可以改进 TREC 总召回跟踪的基线模型实现，这代表了高召回信息检索的当前技术水平。作者还介绍了 CALBERT，该模型可用于根据相关反馈不断微调基于 BERT 的模型。

论文下载：https://arxiv.org/pdf/2208.06955.pdf

内容中包含的图片若涉及版权问题，请及时与我们联系删除