disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face

论文Hugging Face Daily Papers

OmniReasoning:音视频联合推理

提出需音频与视觉证据共同参与的评测、数据引擎和训练方法。

为什么重要

为研究音视频联合推理提供了评测、数据构造和训练方法参考。

阅读原文arxiv.org

AI 解读(根据原文生成)

论文针对现有全模态模型中音视频联合推理评测和训练不足的问题,提出 OmniReasoningBench、数据引擎 OmniQA 和学习方法 MFSD。OmniReasoningBench 要求音频与视觉证据缺一不可,覆盖视频内推理和视频外推理;OmniQA 自动构造带证据和时间戳线索链的问答,并生成 SFT 与 RL 训练数据。结合数据和方法训练的 OmniReasoning-30B-A3B 在相关基准上优于其基础模型。论文、代码和项目页已给出链接。

要点(AI 据原文整理,数字均已与原文核对)

  • OmniReasoningBench comprises 1,150 multiple-choice and open-ended questions across two tasks.
  • OmniQA produces training data OmniReasoning-SFT-112K and OmniReasoning-RL-19K.
  • OmniReasoning-30B-A3B achieves 50.0% on OmniVideoBench and 42.5% on OmniReasoningBench.
  • The method MFSD evaluates each sampled response under modality-specific clue contexts for token-level credit assignment.

全部来源(1)

  1. [1]Hugging Face Daily Papers(每日论文)

    OmniReasoning:音视频联合推理