项目简介
这是 AI VTuber「千尋かえで」 的联动项目,专门解决她的「嗓子」问题。
主项目用 GPT-SoVITS 做语音合成,但中意的音色只有日语素材,直接拿去合成中文会带一股挥之不去的「日语腔」(俗称「大佐味」)。这个子项目就是把这股味儿去掉,顺便沉淀出一套可复用的音色转换工具。
要解决的问题
RVC / GPT-SoVITS 这类跨语种合成,拿日语参考去念中文,发音会被「拉」向最接近的日语音,于是中文听起来总差一口气。直接换成中文素材重训是最干净的办法,但手上没有这个音色的中文录音——音色本身就是个日语模型。
解决思路:反向造数据
既然缺的是「这个音色说的中文」,那就用模型自己造出来,把跨语种难题转成母语内微调:
母语中文文本
│ edge-tts(标准中文发音)
▼
干净的中文源音频
│ RVC(授权日语音色模型 · index≈0.3 · rmvpe)
▼
「目标音色说的中文」音频 ──► GPT-SoVITS 微调 ──► 千寻的中文音色(母语内生成,无日语腔)
关键点:RVC 保留源音频的母语中文韵律、只替换音色;再拿这批音频微调 GPT-SoVITS,模型从此是在中文里做中文生成,跨语种口音自然消失。index rate 压到 0.3 左右,在「像目标音色」和「不带回日语味」之间取平衡。
离线音色转换工具
搭管线的过程中,把音色转换这块单独打包成了一个自包含的离线小工具,谁拿到都能用:
- 双击 exe 打开图形界面,选一个文件或整个文件夹
- 视频:自动抽出音频 → 人声音色转换 → 合并回视频(画面不重编码,快且无损)
- 音频:直接音色转换后输出
- GPU 自动加速,没有 N 卡时自动降级 CPU;整包绿色免安装,拷到别的 Windows 机器即用
- 音高、Index Rate、F0 算法都在界面上可调
技术栈
| 部分 | 技术 |
|---|---|
| 音色转换 | RVC v2(Retrieval-based Voice Conversion),rmvpe 音高提取 |
| 语音合成 | GPT-SoVITS v2(微调目标) |
| 造源 | edge-tts 母语中文 |
| 音视频处理 | ffmpeg(抽取 / 封装,视频流直通不重编码) |
| 界面 / 打包 | Python 3 + FreeSimpleGUI,PyInstaller 启动器 + 内置运行时 |
| 硬件 | RTX 4080 SUPER 16GB |
正在做的事
- RVC v2 推理环境,离线音色转换跑通
- 跨语种造数据方案验证(测试模型 → 授权音色)
- 离线音视频音色转换工具打包(双击即用、可拷贝分发)
- 扩写音素均衡的中文语料,批量产出训练集
- 用该数据集微调 GPT-SoVITS,接回主项目
- 对比微调前后,确认「日语腔」消除效果
内置音色为商用授权模型,使用与分发均遵循其授权条款。之后会补上微调前后的对比音频。