
Irodori-TTS-v4-Large 量化模型
提供5种torchao训练后量化变体,面向日语TTS推理部署。
为什么重要
为日语TTS和声音克隆提供多种量化部署选择。
阅读原文huggingface.co
AI 解读(根据原文生成)
Aratako/Irodori-TTS-v4-Large-Quantized 是 Aratako/Irodori-TTS-v4-Large 的训练后 torchao 量化版本。基础模型是日语 Text-to-Speech 模型,支持声音克隆、文本式 Voice Design、风格控制声音克隆、长参考音频和 emoji 控制。该模型在 Hugging Face 提供权重,使用说明、CLI、Gradio、LoRA 和长参考用法见 Irodori-TTS GitHub 仓库。
要点(AI 据原文整理,数字均已与原文核对)
- 提供 `int8-weight-only`、`int8-dynamic`、`int4-weight-only`、`float8-weight-only`、`float8-dynamic` 五种量化变体。
- `int4-weight-only` 的 checkpoint size 为 2,818 MiB,是最小变体。
- `int8-weight-only` 的 checkpoint size 为 3,662 MiB,被推荐为通用 INT8 变体。
- 这些 checkpoints 量化 shared text encoder、speaker encoder 和 diffusion Transformer 中兼容的 attention 与 MLP Linear layers。
- Projectors、AdaLN、duration prediction 和其他不支持的层保持 BF16。
- Runtime validation was performed with NVIDIA CUDA;CPU、ROCm 和 Intel XPU 未在本次发布中验证。