Toto: Time Series Optimized Transformer for Observability

这份技术报告介绍了Datadog开发的一种新的时间序列预测基础模型——Time Series Optimized Transformer for Observability (Toto)。除了在电力和天气等领域的广义时间序列基准测试中推动了技术水平的提高之外，这个模型还是第一个专门针对可观测度量调整的通用时间序列预测基础模型。 Toto是在一个万亿级时间序列数据点的数据集上进行训练的，这是目前所有已发布的时间序列基础模型中最大的。除了公开可用的时间序列数据集之外，用于训练Toto的数据中有75%是Datadog平台上的完全匿名的数值度量数据点。 在我们的实验中，Toto在可观测度数据上的表现优于现有的时间序列基础模型。同时，它在通用预测任务上也表现出色，在多个开放基准数据集上实现了最先进的零-shot性能。

Toto是一个新的时间序列预测模型，旨在解决时间序列预测中的可观察度问题，并在多个开放基准数据集上实现零-shot性能。

Toto是第一个专门针对可观测度指标进行调整的通用时间序列预测基础模型，使用1万亿个时间序列数据点进行训练。

Toto在可观测数据上优于现有的时间序列基础模型，在多个开放基准数据集上实现了最先进的零-shot性能。75%的训练数据来自Datadog平台的完全匿名数字度量数据点。实验设计合理，使用公开数据集，开源代码。

最近的相关研究包括Facebook的Prophet，Uber的N-BEATS和DeepMind的Neural Forecasting等。