disrouter.aiAI 情报台

disrouter.aiAI 情报台

图片:Hugging Face Blog

模型发布Hugging Face Blog

面向边缘的 open d1 决策模型

d1 系列用单次前向传播完成多模态决策而非生成 token。

为什么重要

为边缘设备上的低延迟多模态分类和问答决策提供了新模型选择。

阅读原文huggingface.co

AI 解读(根据原文生成)

LiquidAI 发布 open d1 决策模型,基于 Liquid Foundation Models 构建。d1-3B 来自 LFM2.5-VL-3B,支持文本和图像;d1-omni-600M 来自 LFM2.5-Encoder-350M,加入视觉和音频编码器,支持文本+图像或文本+音频。模型不生成 token,而是在单次前向传播中回答。文章给出 Decision Index、七个公开数据集和 NVIDIA/Jetson 等边缘设备上的评测与延迟数据;链接为 Hugging Face Blog。

要点(AI 据原文整理,数字均已与原文核对)

  • d1-3B answers a question in 16 ms on an NVIDIA Jetson AGX Thor, 26 ms on a Jetson AGX Orin, and 50ms on a Jetson Orin Nano.
  • d1-3B achieves a mean score of 82.9 on seven public datasets.
  • d1-omni-600M scores 78.4, surpassing Decider 2B (77.1) with only a quarter of the parameters.
  • d1-omni-600M is currently in an early research release and is undergoing further development.
  • Three questions take only 1.3x the time of one, with the AGX Thor going from 16 ms to 20 ms.

全部来源(1)

  1. [1]Hugging Face Blog官方

    面向边缘的 open d1 决策模型