disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face

论文重要Hugging Face Daily Papers

Kandinsky 6.0 Video 音视频生成模型

用双流 CrossDiT 同步生成 5 秒视频与 44 kHz 音频。

为什么重要

为同步音视频生成研究提供了开放代码与检查点。

阅读原文arxiv.org

AI 解读(根据原文生成)

论文提出 Kandinsky 6.0 Video,一组用于同步文本到音频视频生成的基础扩散模型,包含 3B 参数的 Lite 和 29B 参数的 Pro。模型支持 T2AV 与 I2AV,生成带 44 kHz 同步音频的 5 秒视频,并通过内置超分模型提升到 Full-HD。方法上采用双流 CrossDiT,将预训练视频流与新训练音频流通过双向交叉注意力对齐。作者称已以 MIT 许可证发布代码、模型检查点和 diffusers 集成。

要点(AI 据原文整理,数字均已与原文核对)

  • Both models generate 5-second video clips with synchronized 44 kHz audio.

全部来源(1)

  1. [1]Hugging Face Daily Papers(每日论文)

    Kandinsky 6.0 Video 音视频生成模型