Llasa TTS— 香港科技大学开源的文本转语音模型

新闻中心 NEWS CENTER

您当前位置：首页 > 新闻中心 > 行业资讯

Llasa TTS— 香港科技大学开源的文本转语音模型

2025-03-19

浏览次数：次

返回列表

Llasa TTS是什么

llasa tts 是香港科技大学基于 llama 架构推出的开源文本转语音（tts）模型，支持高质量语音合成和克隆。llasa tts 基于单层向量量化（vq）编解码器和单个 transformer 架构，与标准 llama 模型完全对齐，生成自然流畅的语音，支持情感表达和音色克隆等功能。llasa tts 在训练和推理阶段均表现出色，基于扩展训练时间和推理时间的计算资源，提升语音的自然度、韵律准确性和情感表达能力。llasa tts 提供 1b、3b 和 8b 参数规模的模型，支持多语言合成。

Zyro AI Background Remover

Zyro推出的AI图片背景移除工具

145 查看详情 Zyro AI Background Remover

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

Llasa TTS的主要功能

高质量语音合成：生成自然流畅的语音，支持中英文双语，适用于多种应用场景。
情感表达：注入情感信息，生成带有快乐、愤怒、悲伤等情感色彩的语音，增强语音的自然度和表现力。
语音克隆：仅需少量音频样本（如15秒），克隆特定人声的音色和情感，实现个性化语音合成。
长文本支持：支持处理长文本输入，生成连贯的语音输出，适用于有声读物、语音播报等场景。
零样本学习：支持对未见过的说话者或情感进行语音合成，无需额外的微调。

Llasa TTS的技术原理

基于 Transformer 的架构：基于单个 Transformer 架构，与标准的大型语言模型完全对齐。用单层向量量化（VQ）编解码器将语音波形转换为离散的语音标记，基于 Transformer 进行建模。
语音分词器：
- 编码：将语音信号分解为语义特征和声学特征，分别基于预训练的 W*2Vec2-BERT 和卷积模块提取。
- 量化：用改进的向量量化（VQ）技术将特征编码为离散标记。
- 解码：将离散标记解码回高质量的语音波形，支持语义和声学信息的重建。
训练与推理扩展：
- 训练时间扩展：基于增加模型规模（如 1B、3B、8B 参数）或训练数据量（如 250k 小时语音数据），提升语音自然度和韵律准确性。
- 推理时间扩展：在推理阶段引入语音理解模型作为验证器，用复杂的搜索策略（如束搜索、最佳候选选择）优化生成结果，增强情感表达和音色一致性。
自回归生成：基于自回归生成方式，逐个生成语音标记，确保生成的语音在语义和韵律上与输入文本一致。