Mathematics of Neural Networks (Lecture Notes Graduate Course)

这些是我在2021年到2023年在埃因霍温科技大学教授的同名课程的讲义。该课程旨在向研究生数学专业学生介绍神经网络，并旨在使数学专业学生对进一步研究神经网络感兴趣。它分为两个部分：首先是关于深度学习的一般介绍，重点是以正式的数学方式介绍该领域。第二部分介绍李群和齐次空间理论及其如何应用于设计具有理想几何等变性的神经网络。讲义尽可能地自包含，以便任何具有适度数学背景的学生都可以理解。该课程还包括一些编码教程和作业，以Jupyter笔记本的形式公开在https://gitlab.com/bsmetsjr/mathematics_of_neural_networks上。

使用深度学习解决人工智能中的多任务学习问题

论文提出了一种基于神经网络的多任务学习框架，使用共享的特征提取器和任务特定的输出层，通过联合训练来提高模型的泛化能力和学习效率

论文使用了多个数据集进行实验，并且在不同的任务上进行了测试，证明了该框架的有效性。论文还提出了一种新颖的损失函数，可以平衡不同任务的重要性。此外，论文还开源了代码，方便其他研究者进行复现和改进。值得进一步研究的是如何进一步提高模型的泛化能力和如何处理更复杂的多任务学习场景。

在多任务学习领域，近期的相关研究包括《Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics》、《Multi-Task Learning with Causal Feature Selection》等。