范畴广泛出现在数学、物理以及哲学之中。研究范畴的学科称为范畴论。范畴论在数学的几乎所有分支中都发挥了重要作用,层理论等作为现代数学的重要分支,通过研究某个对象和其他对象之间的关系而研究对象,同时符合深度神经网络等中常见的以网络结构学习的思想。另一方面, 当代范畴论提出了范畴的若干推广, 包括 ∞-范畴的概念, 及由此引出了高阶同伦的思想,高阶关系的构成,提示了许多可能的机器学习的方法论。https://github.com/bgavran/Category_Theory_Machine_Learning?tab=readme-ov-file这一网页中给出了关于范畴思想的机器学习的数十篇论文。本课程属于「范畴论与机器学习」系列课程的第二课,在本节课中,贾伊阳老师带我们深入理解它们的思想,给出我们学习时必不可少的一些范畴中的初等概念,为大家后续理解论文做好铺垫。课程大纲:
(1)如何将数据的集合和数据间的关系统一视为范畴
(2)范畴、函子、自然变换的定义、理解及例子
(3)J-图、极限、余极限、神经的定义、理解及例子
重点参考资料:
Fong, Brendan and David I. Spivak. “Seven Sketches in Compositionality: An Invitation to Applied Category Theory.” arXiv: Category Theory (2018)
这本书通过具体现实的案例来和读者共同探索范畴论中的高级主题。它通过入门介绍引导读者做后续的探索,共分为7个部分,每个部分都通过一个引入入胜的应用(如数据库、电路或电力系统等)和一个范畴论结构的探索(如伴随函子、充实范畴或拓扑学等)进行关联。
贾伊阳,日本成蹊大学助理教授。研究重点是计算复杂性,算法,以及范畴相关理论。
分享时间:2024年3月11日 19:30-21:00分享方式:
1. 腾讯会议(报名付费课程可见)
2. 集智学园视频号直播
为了帮助大家对范畴论与机器学习这一交叉领域有深入的了解,理解机器学习方法背后的范畴意义,集智学园联合日本成蹊大学助理教授贾伊阳,推出了「范畴论与机器学习」系列课程,旨在面向机器学习领域并且希望深入到理论思想层面、身在数学领域想要利用人工智能解决问题的、以及希望了解一些范畴论应用前景(例如和人工智能、量子计算融合的可能)的研究者,科普机器学习前沿领域论文中出现的范畴论知识。本系列课程将以机器学习与范畴论的报告、论文和教材为课程材料,介绍其中的重要概念,以及更重要的是在这些概念背后隐藏的思想。从范畴观点切入机器学习,包括对机器学习的某些方法论建立背景的具体范畴的研究方法,以及从神经网络架构等出发研究在范畴上的某些结构,例如“层”,“纤维”,“topos”等的研究方法。这些繁琐的术语,复杂的概念如果从纯粹数学的角度出发,全然理解要耗费数年时间。本课程的主要目的是引导大家在避免过度消耗精力的同时快速了解这些概念和范畴架构在机器学习理论及应用中的意义。如果你对此主题感兴趣,欢迎加入课程与老师同学共同学习探讨。1. 课程链接:https://campus.swarma.org/course/5305
推荐阅读:
大模型的能力边界在哪里?来自范畴论视角的答案
AI 为什么会有创造力?范畴论刻画大模型创造力的来源
智能是什么?范畴论为通用人工智能提供普适框架
当自然语言处理遇上量子计算与范畴论:人工智能开启更大想象空间
范畴论:数学的数学
一分钟数学:范畴论
构建数学和物理基础的范畴论:用「等价」取代「相等」
通用人工智能(AGI)已经到来?深度解析 ChatGPT 获得智能的数学物理机理
思维的极限:科学的进步将取决于人类还是AI ?
人人可学的范畴论——跨领域的科学方法论 | 精品入门系列课
点击“阅读原文”,报名课程
评论
沙发等你来抢