BEACON: Benchmark for Comprehensive RNA Tasks and Language Models

RNA在将基因指令转化为功能结果方面发挥着关键作用，突显了它在生物过程和疾病机制中的重要性。尽管出现了许多RNA深度学习方法，特别是通用RNA语言模型，但仍然缺乏标准化基准来评估这些方法的有效性。在本研究中，我们介绍了第一个全面的RNA基准BEACON（\textbf{BE}nchm\textbf{A}rk for \textbf{CO}mprehensive R\textbf{N}A Task and Language Models）。首先，BEACON包含了13个不同的任务，涵盖了结构分析、功能研究和工程应用等广泛的先前工作，从而可以全面评估方法在各种RNA理解任务上的性能。其次，我们研究了一系列模型，包括传统的CNN方法，以及基于语言模型的先进RNA基础模型，为这些模型的任务特定表现提供了有价值的见解。第三，我们研究了RNA语言模型组件的关键点，包括分词器和位置编码方面。值得注意的是，我们的研究结果强调了单核苷酸分词的优越性，以及Attention with Linear Biases（ALiBi）相对于传统位置编码方法的有效性。基于这些见解，我们提出了一个简单但强大的基准模型BEACON-B，它可以在有限的数据和计算资源下实现出色的性能。我们的基准数据集和源代码可在https://github.com/terry-r123/RNABenchmark上获得。

本文旨在解决RNA的深度学习方法缺乏标准化基准测试的问题，引入了第一个全面的RNA基准测试BEACON，以评估不同方法在各种RNA理解任务上的性能。

BEACON包含13个不同的任务，涵盖结构分析、功能研究和工程应用，可以评估各种RNA理解任务上方法的性能。文章研究了传统方法和基于语言模型的高级RNA基础模型，并深入探讨了RNA语言模型组件的重要性。

文章提出了一个简单而强大的基线模型BEACON-B，可在有限的数据和计算资源下实现卓越的性能。数据集和源代码已经开源。研究发现单核苷酸标记法优于其他标记方法，Attention with Linear Biases（ALiBi）比传统的位置编码方法更有效。

在这个领域中，最近的相关研究包括使用深度学习方法预测RNA二级结构的研究，使用深度学习方法进行RNA序列分类的研究等。