现实世界中大量问题的解决依赖于算法的设计与求解。传统算法由人类专家设计，而随着人工智能技术不断发展，算法自动学习算法的案例日益增多，如以神经网络为代表的的人工智能算法，这是算法神经化求解的缘由。在算法神经化求解方向上，图神经网络是一个强有力的工具，能够充分利用图结构的特性，实现对高复杂度算法的高效近似求解。基于图神经网络的复杂系统优化与控制将会是大模型热潮之后新的未来方向。
为了探讨图神经网络在算法神经化求解的发展与现实应用，集智俱乐部联合国防科技大学系统工程学院副教授范长俊、中国人民大学高瓴人工智能学院助理教授黄文炳，共同发起「图神经网络与组合优化」读书会。读书会将聚焦于图神经网络与算法神经化求解的相关领域，包括神经算法推理、组合优化问题求解、几何图神经网络，以及算法神经化求解在 AI for Science 中的应用等方面，希望为参与者提供一个学术交流平台，激发参与者的学术兴趣，进一步推动相关领域的研究和应用发展。读书会从2023年6月14日开始，每周三晚 19:00-21:00 举行，持续时间预计8周。欢迎感兴趣的朋友报名参与！
算法是一种用于解决问题的有序步骤的集合，现实中很多问题的解决依赖于相应算法的设计与求解，如页面推荐的PageRank算法，整数规划的分支定界算法。传统算法都是人类专家设计的，随着人工智能技术的不断发展，出现了越来越多的算法自动学习算法的成功案例，前一个“算法”一般指以神经网络为代表的的人工智能算法，后一个“算法”则指传统的经典算法，这便是算法神经化求解的缘由。
算法神经化求解的主要研究动机是解决经典算法算不动的问题。很多经典算法虽然在现实中很有用，但往往因其昂贵的计算复杂度难以大规模使用，如很多的组合优化算法因其问题的NP难属性，求解难度随问题规模呈指数级增长。算法神经化求解主要采用神经网络模型和数据驱动训练的方式自动学习经典算法的求解，求解效率往往很高，通用性也强，但也因缺乏理论保证无法保证算得准。
算法神经化求解的意义也是显而易见的。加速经典算法的计算效率可以极大提高经典算法在现实中的适用范围和应用价值。AI for Science 中有很大一部分是模拟科学计算的问题，归根到底其实就是经典算法的神经化求解。物流运输、生产调度、芯片设计等一大类现实问题的瓶颈技术难点，也在于其背后NP难运筹优化算法的高效求解。
在算法神经化求解方向上，图神经网络是一个强有力的工具。实际上任何对象都可以适用图表示的框架。比如图像，可以看作是由附近的像素组成的图。文本可以看作彼此相连的一系列目标。更广泛地说，自然界中没有被人为设计编排进某个框架或序列的东西，都非常自然地表现为图结构。基于图神经网络的求解方法能够充分利用图结构的特性，进而实现对高复杂度算法的高效近似求解。
本次读书会将聚焦于图神经网络与算法神经化求解的相关领域，包括神经算法推理、组合优化问题求解、几何图神经网络以及算法神经化求解在 AI for Science 中的应用等方面。我们将邀请一些业内专家分享他们在这些领域的最新研究成果。本次读书会将为参会者提供一个学术交流的平台，以共同探讨图神经网络在算法神经化求解的发展与现实应用。同时希望能够激发与会者的学术兴趣，进一步推动相关领域的研究和应用发展。
在过去几年中，随着神经网络和深度学习技术的快速发展，图神经网络用于组合优化问题的求解已经取得了显著的进步，尤其是在端到端求解、局部改进求解以及处理自然输入等方面。
同时，算法推理技术的出现让深度学习模型模仿经典算法，实现了传统算法的泛化性和神经网络的最优解的完美结合。此外，图神经网络的出现还极大推动了AI在基础科学中的应用，实现了人工智能与基础学科的深度融合，从而极大地促进了相关学科的发展。
本次读书会旨在分享这些领域的最新研究成果，以促进图神经网络和算法神经化求解的研究和应用的进一步发展。
范长俊，国防科技大学系统工程学院副教授，研究方向是人工智能与复杂系统。以第一作者或通讯作者在Nature Machine Intelligence、Nature Communications、AAAI等顶级期刊和会议发表论文多篇。
黄文炳，中国人民大学高瓴人工智能学院助理教授、博导。研究方向包括几何机器学习理论方法、几何机器学习在机器人感知与决策任务上的应用、科学知识嵌入的机器学习等。尤其在图神经网络GNN方面，提出了训练深度图神经网络的方法DropEdge和面向大规模图的图神经网络高效训练方法AS-GCN。
本读书会适合参与的对象
-
基于图神经网络与算法神经化求解相关研究，特别是对算法对齐、组合优化、几何图神经网络和AI for Science相关研究中的模型、方法有浓厚兴趣的一线科研工作者；
-
能基于读书会所列主题和文献进行深入探讨，可提供适合的文献和主题的朋友；
-
能熟练阅读英文文献，并对复杂科学充满激情，对世界的本质充满好奇的探索者；
-
想锻炼自己科研能力或者有出国留学计划的高年级本科生及研究生。
本读书会谢绝参与的对象
为确保专业性和讨论的聚焦，本读书会谢绝脱离读书会文本和复杂科学问题本身的空泛的哲学和思辨式讨论；不提倡过度引申在社会、人文、管理、政治、经济等应用层面的讨论。我们将对参与人员进行筛选，如果出现讨论内容不符合要求、经提醒无效者，会被移除群聊并对未参与部分退费，解释权归集智俱乐部所有。
运行模式
本季读书会预计讨论分享8次，按暂定框架贯次展开；每周进行线上会议，由 1-2 名读书会成员以PPT讲解的形式领读相关论文，与会者可以广泛参与讨论，会后可以获得视频回放持续学习。
举办时间
从 2023 年 6 月 14 日开始，每周三晚上 19:00-21:00，持续时间预计8周。我们也会对每次分享的内容进行录制，剪辑后发布在集智斑图网站上，供读书会成员回看，因此报名的成员可以根据自己的时间自由安排学习时间。
参与方式
此次读书会为线上闭门读书会，采用的会议软件是腾讯会议（请提前下载安装）。在扫码完成报名并添加负责人微信后，负责人会将您拉入交流社区（微信群），入群后告知具体的会议号码。
扫码报名
针对学生的退费机制
读书会通过共学共研的机制，围绕前沿主题进行内容梳理和沉淀，所以针对于学生，可以通过参与共创任务，获取积分，积分达到退费标准之后，可以直接退费。
-
在线会议室沉浸式讨论：与主讲人即时讨论交流
-
交互式播放器高效回看：快速定位主讲人提到的术语、论文、大纲、讨论等重要时间点
-
高质量的主题微信社群：硕博比例超过80%的成员微信社区，闭门夜谈和交流
-
超多学习资源随手可得：从不同尺度记录主题下的路径、词条、前沿解读、算法、学者等
-
参与社区内容共创任务：读书会笔记、百科词条、公众号文章、论文解读分享等不同难度共创任务，在学习中贡献，在付出中收获。
-
共享追踪主题前沿进展：在群内和公众号分享最新进展，领域论文速递。
主题一：图神经网络与经典算法对齐
DeepMind提出的神经算法推理技术能够将经典算法用深度学习模型进行模仿，并实现了传统算法的泛化性和神经网络的最优解的完美结合。该技术采用算法对齐的思想，即将算法划分成多个部分，每个部分由神经算法建模。在此基础上，提出了新的GNN架构和训练机制，可有效解决复杂的组合优化问题，同时提高算法的泛化能力。
主题二：图神经网络与组合优化——端到端求解
自回归简介
自回归方式是指在图神经网络中，将解的生成过程建模为一个逐步生成的过程。每一步生成一 个解的一部分，并使用已生成的部分来指导下一步的生成。这种方式的优点是可以在生成过程中动态地考虑约束条件和优化目标，但缺点是生成速度相对较慢。
非自回归简介
非自回归方式是指在图神经网络中，将整个问题的求解过程作为一个整体进行求解，一次性 输出最终的解。这种方式的优点是求解速度较快，但缺点是不能动态地考虑约束条件和优化目标。
主题三：图神经网络与组合优化——局部改进求解
图神经网络采用局部改进求解组合优化问题主要包括两种方式，一种是改进精确算法，如分支定 界法中的分支用分类学习代替；另一种则是局部改进启发式算法，如改进模拟退火中的退火机制。
局部改进精确算法
局部改进启发式算法
主题四：几何图神经网络
简介：无论是微观世界中的分子、蛋白质、抗体、RNA，还是宏观世界中的机械系统、不同形状的物体等，构成了一类重要的数据形态——几何图。与社交网络中的拓扑图不同，几何图中的节点占据了一定的空间位置，需要满足某些内蕴的物理性质，比如对称性，导致传统的图神经网络难以处理几何图。近年来，不变和等变图神经网络考虑了对称性，具有良好的解释性、泛化性和通用性，能有效实现几何图的处理和分析。几何图神经网络在物理系统模拟、蛋白质折叠预测（如主题五中的RoseTTAFold论文）、抗体设计（如主题五中的MEAN论文）等问题上得到了成功应用。
不变图神经网络
将数据映射到某个不变特征，使得原始数据无论做任何变换，不变特征均不受影响。
等变图神经网络
对模型输入做一定的变换之后，模型输出做同样的变换。
主题五：图神经网络在科学计算中的应用
中国科学院院士鄂维南教授提出基础学科发展新的曙光：AI for Science将人工智能与基础科学深度融合。科学领域的许多问题本质上是对物理系统的处理和分析，而物理系统是可以建模成图谱。因此，图神经网络是AI for Science领域的基础工具，极大推动了AI在分子动力学模拟、材料设计、药物发现等任务上的应用前景。
关于上述主题的论文列表与相关学习资源，可以扫码查看
图网络入门路径：从网络科学视角出发，上手深度学习前沿技术
图网络——悄然兴起的深度学习新浪潮 | AI&Society第八期回顾（总结文章）
面向组合优化问题的图学习综述
内容中包含的图片若涉及版权问题，请及时与我们联系删除
评论
沙发等你来抢