arXiv在2021年10月3日上传论文“Translating Images into Maps“，作者来自英国University of Surrey和德国亚马逊分公司。

瞬时地图，将图像转换为俯视世界地图，作为一个变换问题。在单个端到端网络用一种transformer网络将图像和视频直接映射到世界俯视图或鸟瞰图 (BEV)。假设图像的垂直扫描线与俯视图中穿过相机位置的光线之间存在 1-1 对应关系，这样将图像的地图生成定义为一组序列到序列转换。

将问题视为转换，可允许网络在解释每个像素作用时采用图像的上下文，得到的是一个限制的transformer网络，只在水平方向做卷积。

代码链接：github.com/avishkarsaha

如图所示是网络架构图：(A) 模型架构。 前端（frontend）提取多尺度空间特征，编码器-解码器transformer将空间特征从图像转换为 BEV，可选的动态模块（dynamic module）用过去的空间 BEV 特征来学习时-空 BEV 表征，BEV segmentation network（分割网络）处理 BEV 表征生成多尺度占用格。 (B) 平面间注意机制。 在基于注意的模型中，图像的垂直扫描线被一条条地传递到transformer编码器，创建一个“内存（memory）”表征，解码为 BEV 极向射线（polar ray）。

这个端到端方法实现的任务包括：(1) 在图像平面构建表征，对语义和深度（depth）知识进行编码；(2) 图像平面表示转换为 BEV， 这种映射可以看作是语义目标从图像平面到其BEV平面光线的位置分配；和 (3) 语义上分割 BEV 表征。

作者通过注意机制学习输入扫描线和输出极线之间的对齐，包括两种方式：（1）平面间注意，最初将特征从扫描线分配给射线；（2）极线自注意，全局推理跨射线的位置分配。这是一种软对齐，其中极线的每个像素都被分配了图像列元素的组合，即上下文向量。 具体来说，生成每个径向元素时，根据图像列元素的凸组合和沿极向射线的径向位置赋予上下文。在注意机制中，内存（memory）中的输入序列和查询通过输入序列的元素与其径向位置的对齐生成上下文。

以这种方式生成上下文，允许每个径向元素独立地从图像列中收集相关信息，表示从图像到其 BEV 位置组件的初始分配。 这种初始分配类似于根据深度（depth）提升像素到3D。 然而，被提升到深度的分布，能够克服稀疏和细长目标视锥体的常见缺陷。 这意味着每个径向元素的图像上下文与其和相机的距离分离。

鉴于每个上下文缺乏全局推理，沿射线的特征空间分布不太可能与局部或全局的目标形状一致。 需要沿射线做全局操作，让指定的扫描线特征推断在整个射线上下文的位置，以生成相干目标形状的方式聚合信息。

单调注意（MA）最初提议用于计算同步机器翻译的对齐问题。 然而，源和目标序列之间的“硬”分配意味着忽略了重要的上下文，导致具有无限回溯 (MAIL) 的 MA 发展，将硬单调注意与软注意相结合。 作者采用 MAIL 作为约束注意机制的一种方式，忽略图像垂直扫描线的冗余上下文，潜在地防止过拟合。采用 MAIL 的主要目的是了解图像某个点下面的上下文是否比上面的更有帮助。

模型架构包含三个主要组件：一个标准的 CNN 主干网提取图像平面的空间特征，编码器-解码器transformer将特征从图像平面转换为 BEV，最后是一个将 BEV 特征解码为语义图的分割网络。其中Transformer编码器和解码器对每个序列-到-序列的转换用相同的投影矩阵，具有沿 x 轴卷积的结构。

实验的基线方法包括

  • VPN（“Cross-view semantic segmentation for sensing surroundings,” IEEE Robotics and Automation Letters, 2020）
  • VED（“Monocular semantic occupancy grid mapping with convolutional variational encoder–decoder networks,” IEEE Robotics and Automation Letters, 2019.）
  • PON（“Predicting semantic map representations from images using pyramid occupancy networks,” CVPR 2020）
  • LSS（“Lift, splat, shoot: Encoding images from arbitrary camera rigs by implicitly unprojecting to 3d,” ECCV, 2020）
  • STA-S（“Enabling spatio- temporal aggregation in birds-eye-view vehicle estimation,” ICRA, 2021.）
  • FIERY（“FIERY: Future instance segmentation in bird’s-eye view from surround monocular cameras,” ICCV, 2021）

实验比较结果如下：