导语


为了深入探讨 AGI 相关话题，集智俱乐部联合集萃深度感知技术研究所所长岳玉涛、麻省理工学院博士沈马成、天普大学博士生徐博文，共同发起 AGI 通用人工智能读书会。读书会从2023年9月21日开始，每周四晚上 19:00-21:00，预计持续7-10周。


本次分享是系列读书会的第三期分享，将由岳玉涛老师对于智能的原理进行分享。关于智能的原理，总共将分为两期，本期（第三期）将主要分享解读讨论马毅、曹颖、沈向洋三位老师的一篇比较有影响力的论文“On the Principles of Parsimony and Self-Consistency for the Emergence of Intelligence” （“智能涌现的简约和自洽原则”），下期（第四期）将主要分享讨论探究智能原理所需考虑的几个相关问题：粒度、角度、维度。






内容简介




“On the Principles of Parsimony and Self-Consistency for the Emergence of Intelligence” 论文摘要：深度网络和人工智能复兴十年之际，我们提出了一个理论框架，有助于在更广泛的智能背景下理解深度网络。我们引入了两个基本原则，即简约原则和自洽原则，它们分别解决了关于智能的两个基本问题：学什么和怎么学。我们相信这两个原则是智能产生的基石，无论是人工智能还是自然智能。虽然这两个原则有着丰富的古典根源，但我们认为它们可以以完全可衡量和可计算的方式重新表述。更具体地说，这两个原则导致了一个有效和高效的计算框架——压缩闭环转录，它统一并解释了现代深度网络和大多数人工智能实践的演变。虽然我们主要使用视觉数据建模作为例子，但我们相信这两个原则将统一理解广泛的自主智能系统家族，并为理解大脑提供一个框架。（注：本段由GPT-4翻译）




分享内容大纲




  • 背景

  • 简约原则

  • 自洽原则

  • 通用学习机

  • 结论

  • 讨论




主要涉及核心概念




  • 多重视角：信息论与编码理论、控制论与博弈论、计算机图形学与计算机视觉
  • 简约（Parsimony）与压缩（Compression）的关系
  • 失真率（Rate Distortion）
  • 前向展开（Forward Unrolling）与反向传播（Back Propagation）
  • 卷积神经网络与Transformer
  • 线性空间与非线性空间
  • 自洽（Self-Consistency）
  • 最大最小原理
  • 增量学习（Incremental learning）
  • 闭环压缩转录（Compressive Closed-loop Transcription）




主讲人




岳玉涛博士，江苏省产业技术研究院深度感知技术研究所所长，中国科学技术大学应用物理学学士，美国普渡大学计算物理学硕士、博士。曾任广东省“珠江计划”引进第三批创新科研团队带头人，深圳光启集团高级科学家、首席人才官等。

研究兴趣包括智能雷达、多模态感知融合、机器意识等。从事科研及产业化工作近20年，作为共同发明人获已授权中国发明专利354项、美国发明专利18项、欧盟发明专利7项。作为第一负责人完成横纵向科研项目6项，总经费近1.5亿元。作为博士后导师培养博士后13人。发表论文40余篇，获吴文俊人工智能科学技术奖等多个奖项。




主要涉及到的参考文献




On the Principles of Parsimony and Self-Consistency for the Emergence of Intelligence, Yi Ma, Doris Tsao, Heung-Yeung Shum, https://doi.org/10.48550/arXiv.2207.04630

 



直播信息




直播时间：

2023年10月12日（本周四）19:00-21:00


参与方式：扫码参与AGI通用人工智能读书会，加入群聊，获取系列读书会回看权限，与社区的一线科研工作者与企业实践者沟通交流，共同推动AGI通用人工智能社区的发展。


AGI读书会启动


为了深入探讨 AGI 相关话题，集智俱乐部联合集萃深度感知技术研究所所长岳玉涛、麻省理工学院博士沈马成、天普大学博士生徐博文，共同发起 AGI 读书会，涵盖主题包括：智能的定义与度量、智能的原理、大语言模型与信息世界的智能、感知与具身智能、多视角下的人工智能、对齐技术与AGI安全性、AGI时代的未来社会。读书会从2023年9月21日开始，每周四晚上 19:00-21:00，预计持续7-10周。欢迎感兴趣的朋友报名参与！



详情请见：

AGI 读书会启动：迈向通用人工智能的跨学科路径



点击“阅读原文”，报名读书会

内容中包含的图片若涉及版权问题，请及时与我们联系删除