跨
04

跨语种音色复刻

给 AI VTuber 一把没有日语腔的中文嗓子

开发中 RVCGPT-SoVITS语音合成音色转换Python

项目简介

这是 AI VTuber「千尋かえで」 的联动项目,专门解决她的「嗓子」问题。

主项目用 GPT-SoVITS 做语音合成,但中意的音色只有日语素材,直接拿去合成中文会带一股挥之不去的「日语腔」(俗称「大佐味」)。这个子项目就是把这股味儿去掉,顺便沉淀出一套可复用的音色转换工具。

要解决的问题

RVC / GPT-SoVITS 这类跨语种合成,拿日语参考去念中文,发音会被「拉」向最接近的日语音,于是中文听起来总差一口气。直接换成中文素材重训是最干净的办法,但手上没有这个音色的中文录音——音色本身就是个日语模型。

解决思路:反向造数据

既然缺的是「这个音色说的中文」,那就用模型自己造出来,把跨语种难题转成母语内微调:

 母语中文文本
      │  edge-tts(标准中文发音)
      ▼
 干净的中文源音频
      │  RVC(授权日语音色模型 · index≈0.3 · rmvpe)
      ▼
 「目标音色说的中文」音频  ──►  GPT-SoVITS 微调  ──►  千寻的中文音色(母语内生成,无日语腔)

关键点:RVC 保留源音频的母语中文韵律、只替换音色;再拿这批音频微调 GPT-SoVITS,模型从此是在中文里做中文生成,跨语种口音自然消失。index rate 压到 0.3 左右,在「像目标音色」和「不带回日语味」之间取平衡。

离线音色转换工具

搭管线的过程中,把音色转换这块单独打包成了一个自包含的离线小工具,谁拿到都能用:

  • 双击 exe 打开图形界面,选一个文件或整个文件夹
  • 视频:自动抽出音频 → 人声音色转换 → 合并回视频(画面不重编码,快且无损)
  • 音频:直接音色转换后输出
  • GPU 自动加速,没有 N 卡时自动降级 CPU;整包绿色免安装,拷到别的 Windows 机器即用
  • 音高、Index Rate、F0 算法都在界面上可调

技术栈

部分 技术
音色转换 RVC v2(Retrieval-based Voice Conversion),rmvpe 音高提取
语音合成 GPT-SoVITS v2(微调目标)
造源 edge-tts 母语中文
音视频处理 ffmpeg(抽取 / 封装,视频流直通不重编码)
界面 / 打包 Python 3 + FreeSimpleGUI,PyInstaller 启动器 + 内置运行时
硬件 RTX 4080 SUPER 16GB

正在做的事

  • RVC v2 推理环境,离线音色转换跑通
  • 跨语种造数据方案验证(测试模型 → 授权音色)
  • 离线音视频音色转换工具打包(双击即用、可拷贝分发)
  • 扩写音素均衡的中文语料,批量产出训练集
  • 用该数据集微调 GPT-SoVITS,接回主项目
  • 对比微调前后,确认「日语腔」消除效果

内置音色为商用授权模型,使用与分发均遵循其授权条款。之后会补上微调前后的对比音频。

千尋かえで 立绘

PROFILE — 看板娘

千尋かえで

CHIHIRO KAEDE

AI VTuber / 实验室的看板娘

AGE
20
HEIGHT
158cm
BIRTHDAY
4.14
TYPE
AI VTuber

千尋かえで 是我做的 AI VTuber,也是这间实验室的看板娘。她在另一个次元会读取直播弹幕、用思考回复,再用语音和 Live2D 表情回应大家。在这个次元里,她负责接待来访的人——右下角就可以直接和她聊天。

EXPRESSIONS · 表情差分

AI VTUBER 项目