Amazing Things Come From Having Many Good Models

“拉肖蒙效应”是由Leo Breiman提出的术语，描述了对于同一数据集存在许多同等优秀的预测模型的现象。当这种现象出现时，它会引发魔力和困惑，但更多的是魔力。鉴于拉肖蒙效应，这篇观点文章提出了重新塑造我们对机器学习的思考方式，特别是在非确定性（嘈杂）设置下的表格数据问题。我们讨论了拉肖蒙效应如何影响（1）简单而准确的模型的存在，（2）灵活性以解决用户偏好，如公平性和单调性，而不失去性能，（3）预测、公平性和解释的不确定性，（4）可靠的变量重要性，（5）算法选择，具体而言，提供哪些算法可能适用于特定问题的先进知识，以及（6）公共政策。我们还讨论了拉肖蒙效应发生的理论和原因。我们的目标是说明拉肖蒙效应如何对社会中的复杂问题的机器学习应用产生巨大影响。

本文试图解决机器学习中Rashomon效应带来的问题，即同一数据集存在多个同样好的预测模型的现象，探讨如何应对这种情况。

本文提出了一种重新思考机器学习的方法，特别是针对非确定性（嘈杂）环境下的表格数据问题。针对Rashomon效应，提出了解决简单而准确的模型存在性、用户偏好灵活性、预测不确定性、可靠的变量重要性、算法选择和公共政策等方面的解决方案。

本文讨论了Rashomon效应的发生原因和理论，介绍了实验设计和使用的数据集，提出了多种解决方案，并探讨了未来研究方向。

在这个领域中，最近的相关研究包括《Rashomon Effects in Deep Learning: A Comparative Study of Training Diversity in Large Ensemble Classifiers》和《Rashomon Networks: Ensemble of Networks without a Common Truth》等。