不变性和等变性学习的范畴化｜范畴论与机器学习系列课程

第六课“不变性和等变性学习的范畴化”简介

本节中介绍机器学习的不变性和等变性学习方法的范畴化理论。这一方向的研究集中于机器学习算法的保持对称性的特性。可以使用多种工具来探索数据集的变换与在这些数据集上运行的机器学习模型的输出之间的关系。而许多工具中的范畴论思想非常鲜明，如函子和自然变换。

本节主要串联下列论文中的思想，同时提供给大家现阶段尚未解决的开放性问题。

主要讲解：

Functorial Manifold Learning https://arxiv.org/abs/2011.07435
Functorial Clustering via Simplicial Complexes https://openreview.net/pdf?id=ZkDLcXCP5sV

略讲：

On Characterizing the Capacity of Neural Networks using Algebraic Topology https://arxiv.org/abs/1802.04443
Persistent-Homology-based Machine Learning and its Applications - A Survey https://arxiv.org/abs/1811.00252
Topological Expressiveness of Neural Networks https://run.unl.pt/bitstream/10362/129615/1/TAA0115.pdf
Isomorphism, Normalizing Flows, and Density Estimation: Preserving Relationships Between Data https://www.cs.uoregon.edu/Reports/AREA-202307-Walton.pdf

关键词：

#代数拓扑 #同调代数 #几何 #持续同调 #神经网络 #机器学习 #函子流形学习 #同构 #规范化流 #密度估计 #不变性 #等变性 #自然变换 #重叠聚类算法 #单纯复形

主讲老师

贾伊阳，日本女子大学助理教授，前日本成蹊大学助理教授。研究重点是计算复杂性，算法，以及范畴相关理论。

分享信息

分享时间：2024年4月15日 20:00-22:00

分享方式：

1. 腾讯会议（报名付费课程可见）

2. 集智学园视频号直播

「范畴论与机器学习」系列课程

等你加入

为了帮助大家对范畴论与机器学习这一交叉领域有深入的了解，理解机器学习方法背后的范畴意义，集智学园联合日本成蹊大学助理教授贾伊阳，推出了「范畴论与机器学习」系列课程，旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景（例如和人工智能、量子计算融合的可能）的研究者，科普机器学习前沿领域论文中出现的范畴论知识。

本系列课程将以机器学习与范畴论的报告、论文和教材为课程材料，介绍其中的重要概念，以及更重要的是在这些概念背后隐藏的思想。从范畴观点切入机器学习，包括对机器学习的某些方法论建立背景的具体范畴的研究方法，以及从神经网络架构等出发研究在范畴上的某些结构，例如“层”，“纤维”，“topos”等的研究方法。这些繁琐的术语，复杂的概念如果从纯粹数学的角度出发，全然理解要耗费数年时间。本课程的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义。

如果你对此主题感兴趣，欢迎加入课程与老师同学共同学习探讨。

1. 课程链接：https://campus.swarma.org/course/5305

2. 系列课程详细信息：站在范畴论视角看机器学习 | 「范畴论与机器学习」系列课程上线