MotionLM：作为语言建模的多智能体运动预测

本文将连续轨迹表示为离散运动tokens序列，并将多智能体运动预测作为该领域的语言建模任务。

本文经自动驾驶之心公众号授权转载，转载请联系出处。

原标题：MotionLM: Multi-Agent Motion Forecasting as Language Modeling

论文链接：https://arxiv.org/pdf/2309.16534.pdf

会议：ICCV 2023

论文思路：

对道路 *** 未来行为的可靠预测是自动驾驶车辆安全规划的关键组成部分。在这里，本文将连续轨迹表示为离散运动tokens序列，并将多智能体运动预测作为该领域的语言建模任务。本文的模型 MotionLM 提供了几个优点：首先，它不需要anchors或显式潜变量(explicit latent variable)优化来学习多模态分布。相反，本文利用单一标准语言建模目标，更大化序列tokens的平均对数概率。其次，本文的 *** 绕过了 post-hoc 交互启发法，其中个体 *** 轨迹生成是在交互评分之前进行的。相反，MotionLM 在单个自回归解码过程中生成交互式 *** 未来的联合分布。此外，模型的顺序分解可以实现时间上的因果条件的推出。所提出的 *** 在 Waymo Open Motion Dataset 上为多智能体运动预测建立了新的更先进性能，在交互式挑战排行榜上排名之一。

主要贡献：

本文将多智能体运动预测作为一种语言建模任务，在经过因果语言建模损失训练的离散运动tokens上引入时间因果解码器。

本文将模型中的采样与简单的 rollout 聚合方案配对，该方案有助于联合轨迹的加权模式识别，在 Waymo Open Motion Dataset 交互预测挑战中建立新的更先进性能（在排名联合 mAP 指标上提高6% ）。

本文对本文的 *** 进行了广泛的消融实验，并对它的时间因果条件预测进行了分析，这在很大程度上是目前的联合预测模型所不支持的。

*** 设计：

本文的目标是以一种通用的方式对多智能体交互上的分布建模，这种分布可以应用于不同的下游任务，包括更低限度的、联合的和条件预测。这需要一个有表现力的生成框架，能够捕捉到驾驶场景中的多种形态。此外，本文在这里考虑保存时间依赖性; 即，在本文的模型中，推理遵循一个有向无环图，每个节点的父节点在时间上较早，子节点在时间上较晚，这使得条件预测更接近于因果干预[34]，因为它消除了某些虚假的相关性，否则就会导致不服从时间因果关系。本文观察到，不保留时间依赖关系的联合模型可能在预测实际agent反应方面的能力有限——这是规划中的一个关键用途。为此，本文利用了未来解码器的自回归分解，其中 *** 的运动tokens有条件地依赖于所有先前采样的tokens，并且轨迹按顺序推出(rolled out)(图2)。

图1。本文的模型自回归地为一组 *** 生成离散运动tokens序列，以产生一致的交互式轨迹预测。

图2。MotionLM架构。

本文首先将与每个建模 *** 相关的异构场景特征(左)编码为形状R、N、·、H的场景嵌入。其中，R为首次推出(rollouts)的数量，N为联合建模的 *** 数量，H为每次嵌入的维数。在推理过程中，为了并行采样，本文在批量维度上重复嵌入R次。接下来，一个轨迹解码器以一种时间因果的方式(中心)为多个 *** 推出(rolls out) T 个离散运动tokens。最后，通过使用非更大抑制初始化的k-means聚类的简单聚合，可以恢复 rollouts 典型模式(右图)。

图3。展示了三个WOMD场景的前两种预测联合推出(joint rollout)模式。

颜色梯度表示从t = 0s到t = 8s的时间推移，联合模式由绿色过渡到蓝色，次联合模式由橙色过渡到紫色的概率更大。观察到三种类型的交互：相邻车道中的智能体根据变道时间向变道智能体让行（左），行人根据车辆的进度走在过往车辆后面（中），转弯车辆要么给过路的骑车人让路（最可能的模式），要么在骑车人接近之前转弯（次要模式）（右）。

图4。对于联合推出(joint rollout)(左)、干预后因果贝叶斯 *** (中)和因果条件反射(右)的因果贝叶斯 *** 表示。

实线表示时间上的因果相关性，而虚线表示因果信息流。没有时间依赖约束的模型将支持因果条件作用，但不支持时间因果条件作用，这在试图预测agent反应时可能是有问题的。

实验结果：

引用：

Seff, A., Cera, B., Chen, D., Ng, M., Zhou, A., Nayakanti, N., Refaat, K. S., & Sapp, B. (2023). MotionLM: Multi-Agent Motion Forecasting as Language Modeling.ArXiv. /abs/2309.16534

原文链接：https://mp.weixin.qq.com/s/MTai0rA8PeNFuj7UjCfd6A