论文标题：Boosting Light-Weight Depth Estimation Via Knowledge Distillation

论文链接：https://arxiv.org/abs/2105.06143

作者单位：AIRS & 香港中文大学 & 日本东北大学

本文提出一种实时深度估计的轻量级网络，在速度、准确率、计算效率等均衡上表现优秀！性能优于FastDepth等网络。

深度估计的先进性能是通过使用大型和复杂的神经网络来实现的。尽管性能仍在不断提高，但我们认为深度估计必须准确高效。这是实际应用的初步要求。但是，由于模型的容量和准确性之间需要进行权衡，因此快速深度估计会降低性能。在本文中，我们尝试使用轻量级网络进行高度准确的深度估计。为此，我们首先介绍一个可以实时估计深度图的紧凑型网络。然后，我们将在技术上展示两种互补且必要的策略，以改善轻量级网络的性能。由于现实世界中场景的数量是无限的，所以首先是使用辅助数据，这会增加训练数据的多样性。第二个是使用知识蒸馏来进一步提高性能。通过广泛而严格的实验，我们证明了我们的方法在推理准确性，计算效率和泛化方面都优于以前的轻量级方法。与仅使用1％参数的最新方法相比，我们可以实现可比的性能，另一方面，我们的方法在很大程度上优于其他轻量方法。

内容中包含的图片若涉及版权问题，请及时与我们联系删除