本期热点讨论

💙 为什么大模型≠大知识?

💙 如何量化神经网络的知识表征?

💙 什么是决定神经网络泛化性和鲁棒性的第一性原理?

下周四(10月19日)19:00，《追AI的人》系列直播第30期邀请了上海交通大学电院计算机科学与工程系张拳石教授分享《较真地追问，神经网络是否可以被严谨地彻底地解释清楚？》。

直播详情

直播主题：《较真地追问，神经网络是否可以被严谨地彻底地解释清楚？》

直播时间：2023年10月19日(周四)19:00

直播地点：微信搜索“阿里巴巴AI治理中心”视频号，B站搜“AAIG课代表”。

议题简介

虽然近年来神经网络的可解释性研究得到了广泛的关注，但是大部分可解释性研究依然停留在工程技术层面，尚缺少相对严谨的理论体系从根本机理层面统一解释神经网络的知识表达和其表征性能。大量根本性问题尚未得到解决，比如，证明神经网络内在决策逻辑是否可以被严谨地解释为符号化的概念，如何量化神经网络的知识表征，什么是决定神经网络泛化性和鲁棒性的第一性原理，等等。

💛【课程大纲】：

1、如何量化神经网络的知识表征

2、如何证明一个解释是可靠的

3、如何证明『一个神经网络是否能被严谨地解释』

4、不同经验性归因解释算法在数学上的统一与区别

5、解释不同提升对抗迁移性算法的公共内在机理

6、为什么大模型≠大知识

7、如何在知识表征层面解释泛化性和鲁棒性

讲师简介

张拳石

张拳石，上海交通大学电院计算机科学与工程系长聘教轨副教授，博士生导师，获ACM China新星奖。他于2014年获得日本东京大学博士学位，于2014-2018年在加州大学洛杉矶分校（UCLA）从事博士后研究，主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上（包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等）。

近年来，张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石承担了ICPR 2020的领域负责人，CCF-A类会议IJCAI 2020和IJCAI 2021的可解释性方向的Tutorial。