智源社区AI周刊#72：ICML 2021 放榜

导读

为了帮助中国人工智能科研、从业者更好地了解全球人工智能领域的最新资讯，智源研究院编辑团队本周整理了第72期《智源社区AI周刊》，从学术（论文和新思想、学术会议等），行业和政策（技术产业政策、项目基金申请、技术投融资等），人物（学者的人事变动和获奖情况）、数据（数据集），工具（新工具和应用推荐）等诸多角度，鸟瞰过去一周人工智能领域值得关注的动态。

过去一周（2021/05/03~2021/05/09），值得关注的内容有以下3方面：

一、近日，ICML 2021论文录取结果出来了，今年一共有5513篇有效投稿，其中1184篇论文被接收，接收率为21.4% 。另外在这1184篇被接收论文中，有166篇长presentations和1018篇短presentations。从下表可以看出，在投稿量增长523篇（10%增长）的情况下，今年21.4%的接收率仍为近五年最低。（详情参见本周报“会议”栏目）

二、时至今日，AI医疗虽然已经在药物筛选、辅助诊断等方面有了丰富的应用场景，但仍然存在数据集小、容错成本高等问题。AI医疗，归根结底，应聚焦以人为本，从实际场景出发更好地帮助医患。对此，清华大学交叉信息学院助理教授、智源青年科学家袁洋提出AI会从六大方面改变整个医疗体系，包括数据格式与数据采集、医患交互、治疗方案、患者反馈、医生评价和挂号。（详情参见本周报“观点”栏目）

三、最近，基于注意力的网络，如视觉Transformer，在计算机视觉任务重也开始流行起来。虽然卷积和注意力都可以实现良好的性能，但都不是必要的。谷歌近日提出MLP-Mixer，一种完全基于多层感知器的架构，包含两种类型的层：一种是独立应用于图块的MLP，另一种是跨图块应用的MLP。在大型数据集上进行训练，或使用现代正则化方案时，MLP-Mixer在图像分类基准上获得了有竞争力的分数，其预训练和推理的计算资源开销与最先进的模型相当。（详情参见本周报“论文推荐”栏目）

下面是各个要点的详情介绍。

论文推荐

多模态图学习 | 从多模态多图中学习邻域表征

Learning Neighborhood Representation from Multi-Modal Multi-Graph: Image, Text, Mobility Graph and Beyond

本文作者提出了一种新的方法，基于区域与邻域的关系（如图块、人口块、邮政编码区域等），将输入的多模式地理标注数据集成为多图的节点或边特征。接着，作者学习基于多图的对比采样方案学习邻域表征。具体而言，作者使用街景图像和 POI 特征来表征邻居节点，并使用人类的移动来表征邻居之间的关系（有向边）。作者通过定量的下游任务以及对嵌入空间的定性分析证明了所提方法的有效性：本文训练的嵌入优于仅使用单模态数据作为区域输入的嵌入。

查看详情及论文下载

大脑多图预测 | 使用拓扑感知的对抗图神经网络进行大脑多图预测

Brain Multigraph Prediction using Topology-Aware Adversarial Graph Neural Network

由医学扫描如磁共振成像（MRI）构造的脑图（即连接体）已成为表征人脑异常变化的越来越重要的工具。由于多模式MRI的高昂购置成本和处理时间，基于生成对抗网络（GAN）的现有深度学习框架着重于从几种现有模式中预测缺失的多模式医学图像。尽管脑图有助于更好地理解特定疾病如何改变大脑的连接面，但仍然非常缺乏从单一来源的脑图合成目标脑多图（即多个脑图）的方法。另外，现有的图生成工作主要针对每个目标域学习一个模型，这在联合预测多个目标域时限制了它们的可伸缩性。此外，尽管他们考虑了图的全局拓扑规模（即图连通性结构），但他们却忽略了节点规模的局部拓扑（例如节点在图中的居中程度）。为了解决这些局限性，本文引入了拓扑感知图GAN架构（topoGAN），该架构可以从一个脑图联合预测多个脑图，同时保留每个目标图的拓扑结构。它的三项关键创新是：（i）设计一种新颖的图对抗自动编码器，以从一个图预测自动对脑图；（ii）对编码的源图进行聚类，以处理GAN的模式崩溃问题，并提出一个聚类-特定解码器；（iii）引入拓扑损失以强制预测拓扑合理的目标脑图。使用五个目标域的实验结果表明，与基线方法相比，本文的方法在单个图的脑部多图预测中表现出色。

查看详情及论文下载

虎牙 | PD-GAN：用于图像补全的概率多样GAN

PD-GAN: Probabilistic Diverse GAN for Image Inpainting

我们提出PD-GAN，这是一种用于图像补全/修复的概率多样GAN。给定具有任意孔区域的输入图像，PD-GAN会产生具有多种多样且视觉逼真的内容的多种修复结果。我们的PD-GAN建立在原GAN的基础上，该原GAN会基于随机噪声生成图像。在图像生成期间，我们通过注入初始恢复的图像和多尺度的孔区域，从粗到细地调制输入随机噪声的深层特征。我们认为，在孔填充期间，孔边界附近的像素应更具确定性（即，更有可能信任上下文并最初还原图像以创建自然的修复边界），而位于孔中心的那些像素应享有更多的像素性。自由度（即，更可能依赖于随机噪声来增强分集）。为此，我们提出了调制内部的空间概率分集归一化（SPDNorm），以模拟根据上下文信息生成像素的概率。 SPDNorm动态平衡孔区域内部的真实性和多样性，从而使生成的内容朝向孔中心更加多样化，并且更加类似于邻近图像内容朝向孔边界。同时，我们提出了一种感知上的多样性损失，以进一步增强PD-GAN进行多样化内容生成的能力。对包括CelebA-HQ，Places2和Paris Street View在内的基准数据集进行的实验表明，PD-GAN可有效实现多种视觉逼真的图像恢复。

查看详情及论文下载

达姆施塔特工业大学 | Multi-Mono-SF：自监督多帧单目场景流估计

Self-Supervised Multi-Frame Monocular Scene Flow

由于简单，经济的捕获设置，从单目图像序列估计3D场景流已引起越来越多的关注。由于问题的严重ill-posedness，当前方法的准确性受到了限制，尤其是有效的实时方法的准确性。在本文中，我们介绍了一种基于自监督学习的多帧单目场景流网络，在保持实时效率的同时，比以前的网络提高了准确性。基于采用split-decoder设计的高级两帧基线，我们提出（i）使用三帧输入和卷积LSTM连接的多帧模型，（ii）可以识别遮挡的census loss以获得更好的准确性，以及（ iii）梯度分离策略，以提高训练的稳定性。在KITTI数据集上，我们观察到基于自监督学习的单目场景流方法之间的最新准确性。

查看详情及论文下载

谷歌 | MLP-Mixer：视觉全MLP架构

MLP-Mixer: An all-MLP Architecture for Vision

卷积神经网络(CNN)是计算机视觉的首选模型。最近，基于注意力的网络，如视觉Transformer，也开始流行起来。虽然卷积和注意力都可以实现良好的性能，但都不是必要的。本文提出MLP-Mixer，一种完全基于多层感知器(MLP)的架构，包含两种类型的层：一种是独立应用于图块的MLP(用于位置级特征"混合")，另一种是跨图块应用的MLP(用于空间信息"混合")。在大型数据集上进行训练，或使用现代正则化方案时，MLP-Mixer在图像分类基准上获得了有竞争力的分数，其预训练和推理的计算资源开销与最先进的模型相当。

查看详情及论文下载

观点

清华袁洋：AI对医疗体系的改变

时至今日，AI医疗虽然已经在药物筛选、辅助诊断等方面有了丰富的应用场景，但仍然存在数据集小、容错成本高等问题。AI医疗，归根结底，应聚焦以人为本，从实际场景出发更好地帮助医患。对此，清华大学交叉信息学院助理教授、智源青年科学家袁洋提出AI会从六大方面改变整个医疗体系，包括数据格式与数据采集、医患交互、治疗方案、患者反馈、医生评价和挂号。

智源社区AI周刊#72：ICML 2021 放榜

评论