近年来科技领域的可用数据量呈现爆炸式增长。庞大的高维数据集通常过于复杂，无法精确拟合预先指定的模型，这对我们从复杂数据集中理解和提取有用信息的能力提出了重大挑战。计算机科学领域开发了第一个用于基本高维稳健统计任务的高效算法，包括均值和协方差估计，并引发了一系列关于算法高维鲁棒估计的研究活动。本书则概述了算法高维稳健统计的最新发展。
鲁棒统计领域研究的一般问题是设计即使在数据显著偏离理想化建模假设的情况下也能表现良好的估计量。对鲁棒统计过程的系统研究可以追溯到20世纪60年代Tukey和Huber的开创性工作。经典统计理论对大多数常见问题的鲁棒估计的信息理论极限进行了表征。另一方面，直到最近，人们对这个领域的计算方面知之甚少。计算机科学最近的一项工作为一系列学习任务提供了第一个计算高效的高维鲁棒估计器。
具体而言，2016年两项独立且并行的研究开发了第一个用于基本高维鲁棒统计任务的高效算法，包括均值和协方差估计。自这些著作的传播以来，人们对各种背景下的高维鲁棒估计算法进行了大量的研究。
将一个模型与一组观察结果相匹配是统计学和机器学习中的典型问题之一。典型的假设是，数据是由给定类型的模型生成的(例如，混合模型)。这是一个简化的假设，仅近似有效，因为真实数据集通常暴露于某些污染源。因此，为特定模型设计的任何估计器在存在损坏/噪声数据时也必须是鲁棒的。经典的鲁棒统计研究，从20世纪60年代的Tukey和Huber的开创性工作开始，确定了高维鲁棒估计的基本信息理论方面。相比之下，直到最近，人们对计算方面的了解还很少。
特别是，即使是对高维数据集均值的鲁棒估计这一基本问题，所有已知的鲁棒估计量都很难计算。此外，已知的启发式(如RANSAC)的准确性随着维数的增加呈多项式递减。这种情况自然引起了以下问题：
高维估计的鲁棒性和计算效率能否协调一致?
理论计算机科学的最近一行工作获得了第一个计算高效的鲁棒估计器，用于一系列高维估计任务。将研究这些估计器的算法技术以及它们之间的联系，针对以下问题和设置说明这些技术:鲁棒均值和协方差估计、鲁棒随机优化、稀疏性假设下的鲁棒估计、列表可解码学习和混合模型、高阶矩的鲁棒估计、计算鲁棒权衡。
-
Introduction to Robust Statistics（稳健统计简介）：第 1 章包含对经典稳健统计的简洁概述 -
Robust Mean Estimation（稳健平均估计）：第 2 章介绍了高维稳健统计的现代算法理论，包括 2016 年发展背后的关键思想 -
Algorithmic Refinements in Robust Estimation（鲁棒估计中的算法改进）：第 3 章是对第 2 章基本算法的一些改进 -
Robust Covariance Estimation（鲁棒协方差估计）：第 4 章给出了一种算法，用于稳健地估计类高斯分布的协方差 -
List-Decodable Learning（列表解码学习）：第 5 章开发了列表解码学习的技术，对应于异常值占数据集大部分的制度 -
Robust Estimation via Higher Moments（通过更高矩进行稳健估计）：第 6 章介绍了利用更高矩信息进行稳健估计的算法技术，包括使用 Sumof-Squares 方法的技术 -
Robust Supervised Learning（鲁棒监督学习）：第 7 章为监督学习问题开发了稳健的算法 -
Information-Computation Tradeoffs（信息-计算权衡）：第 8 章介绍了一些技术，用于为稳健的统计任务建立信息计算权衡。 Algorithmic High-Dimensional Robust Statistics 算法高维鲁棒统计
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢