AI 透镜
← 返回首页
研究突破 arXiv cs.AI

面向规划的 token 压缩:长上下文驾驶模型提速 Planning-aligned Token Compression for Long-Context Autonomous Driving

精读摘要

一体化视觉-动作模型是自动驾驶的新兴范式,但编码长时序上下文时产生的 token 序列会迅速超出实时计算预算。线性注意力、外部记忆等方案让上下文变轻,但 token 压缩最契合架构——它无需改动骨干网络。现有压缩却采用时间衰减、解耦融合等规则式启发法;这项研究提出与规划对齐的 token 压缩,让压缩服务于驾驶规划本身,为长上下文自动驾驶模型实时运行提供新方案。 Monolithic vision-action models produce token sequences that exceed real-time computational budgets when encoding extended temporal context. Token compression is the most architecture-compatible solution, requiring no backbone modifications, but existing methods use rule-based heuristics like temporal decay. This work proposes planning-aligned token compression so that compression serves driving planning itself.

关键要点

  • 一体化视觉-动作模型编码长时序时 token 超预算
  • token 压缩无需改动骨干网络,与架构最契合
  • 用与规划对齐的压缩取代规则式启发法

💡 对普通人的影响:暂无直接影响;关乎自动驾驶模型在复杂场景下能否实时决策。

#autonomous-driving #token-compression #VLA 阅读原文 ↗