Improving deep learning with prior knowledge and cognitive models: A survey on enhancing explainability, adversarial robustness and zero-shot learning

我们回顾了目前正在兴起的知识驱动和受大脑启发的认知系统，用于实现对抗防御、可解释的人工智能（XAI）和零样本或少样本学习。数据驱动的深度学习模型在许多应用中取得了显著的性能，并展示了超越人类专家的能力。然而，它们无法利用领域知识，导致在实际应用中存在严重的性能限制。特别是，深度学习系统容易受到对抗攻击，这可能会让它们做出明显错误的决策。此外，复杂的数据驱动模型通常缺乏可解释性，即它们的决策不能被人类理解。此外，模型通常是在标准数据集上进行训练的，这种训练方式具有封闭世界假设。因此，在实际开放世界环境中进行推理时，它们往往难以推广到未见过的情况，从而引发零样本或少样本泛化问题。尽管存在许多传统的解决方案，但明确的领域知识、受大脑启发的神经网络和认知架构为缓解这些问题提供了强大的新维度。先前的知识以适当的形式表示，并纳入深度学习框架中以提高性能。受大脑启发的认知方法使用计算模型来模仿人类思维，以增强人工智能代理和自主机器人的智能行为。最终，这些模型实现了更好的可解释性、更高的对抗鲁棒性和数据效率学习，并可以为认知科学和神经科学提供洞见，深入了解人脑的工作原理以及如何处理这些问题。

论文试图解决深度学习模型在实际应用中面临的性能限制和困境，包括对抗攻击、可解释性和零样本学习等问题。

论文提出了利用领域知识、基于大脑启发的神经网络和认知架构等方法来提高深度学习模型的性能和能力，实现对抗防御、可解释性和零样本学习。

论文介绍了多种深度学习模型的对抗攻击方法，并提出了基于领域知识的对抗防御策略；论文还介绍了解释性人工智能的方法和技术，包括局部可解释性和全局可解释性；此外，论文还介绍了零样本学习的方法和技术，包括基于元学习和基于生成对抗网络的方法。论文提出的方法在多个数据集和任务上进行了实验验证，并取得了比较好的效果。

最近在这个领域中，还有一些相关的研究，包括：《Adversarial Machine Learning at Scale》、《Towards Interpretable Reinforcement Learning Using Attention Augmented Agents》、《Zero-shot Learning - A Comprehensive Evaluation of the Good, the Bad and the Ugly》等。