
S-Space:探索多模态语言模型的空间工作区
发现MLLM中编码连续空间坐标的线性表示子空间。
为什么重要
为分析和诊断MLLM空间推理失败提供了可操作表示工具。
阅读原文arxiv.org
AI 解读(根据原文生成)
该论文研究多模态语言模型空间推理的内部机制,提出 S-Space:一个线性表示子空间,其中对象 token 表示会沿水平、垂直和距离轴编码连续坐标。作者通过空间答案分数相对于对象 token 激活的差分识别这些轴,并指出 S-Space 是模型内在的,在非空间问题下也可读出。论文还用因果干预和诊断分析表明,它可作为内部空间工作区,并揭示视角变化推理中的空间变换瓶颈。论文和代码已给出链接。
要点(AI 据原文整理,数字均已与原文核对)
- S-Space 是一个线性表示子空间,对象 token 表示在其中编码水平、垂直和距离轴上的连续坐标。
- S-Space 在非空间问题下仍可读出,被认为是内在表示而非由特定数据或提示诱导。