Datasets:

Cong123779
/

matcha-tts-multilingual-datasets

---
license: apache-2.0
task_categories:
  - text-to-speech
language:
  - vi
  - en
tags:
  - speech
  - tts
  - matcha-tts
  - vocos
  - voice-cloning
  - vietnamese-tts
  - english-tts
  - audiobook
  - ecapa-tdnn
  - squim
  - zero-noise
size_categories:
  - 100K<n<1M
---

# 🎙️ Matcha-TTS Multilingual Master Speech & Acoustic Datasets

Kho dữ liệu âm thanh đa ngôn ngữ (**Tiếng Việt** & **Tiếng Anh**) chuẩn phòng thu SOTA, được tiền xử lý và thẩm định toàn diện (SQUIM noise assessment, trích xuất vector âm sắc ECAPA-TDNN 192-d, căn chỉnh phụ đề JSON/timestamps, Mel-spectrogram & F0 pitch contours) phục vụ tối ưu cho việc huấn luyện và suy luận mô hình **Matcha-TTS** kết hợp Vocoder **Vocos**.

---

## 📌 I. Tổng Quan Các Bộ Dữ Liệu Trên Hugging Face

Toàn bộ dữ liệu âm thanh lớn được đóng gói thành các **Shard tiêu chuẩn 2.5 GB – 3.0 GB** (`.tar.gz`) để tối ưu hoá băng thông, tránh lỗi timeout và tương thích hoàn hảo với giới hạn Git LFS của Hugging Face.

```
matcha-tts-multilingual-datasets/
├── README.md                                  # Hướng dẫn chi tiết & đặc tính kỹ thuật
├── MASTER_DATASET_INVENTORY.md                # Bảng kiểm kê 1,363,144 mẫu chi tiết
├── speaker_centroids/                         # 36 Vector trọng tâm âm sắc (.npy) & manifest
│   ├── centroids_manifest.json
│   ├── vieneu_spk_01_centroid.npy ... vieneu_spk_23_centroid.npy
│   ├── english_master_centroid.npy, mtet_english_centroid.npy ...
│   └── tghm_mc_centroid.npy, vldp_mc_tran_van_centroid.npy
├── vieneu_generated/                          # 53,218 mẫu âm thanh Vieneu AI (~46GB)
│   ├── manifest.jsonl, summary_report.json, squim_noise_quality_assessment.csv
│   ├── ecapa_embeddings.tar.gz, json_timestamps.tar.gz, srt_subtitles.tar.gz
│   └── wavs_shard_0001.tar.gz ... wavs_shard_0016.tar.gz (mỗi shard ~2.5 - 3GB)
├── english_270h/                              # 270 Giờ Audiobook Tiếng Anh (~65GB)
│   ├── manifest.jsonl, squim_noise_quality_assessment.csv
│   ├── f0.tar.gz, ecapa_embeddings.tar.gz
│   ├── mels_shard_0001.tar.gz ... (Mel-spectrograms 80-bin)
│   └── wavs_part_1_shard_xxxx.tar.gz ... (WAV audio theo từng bộ)
├── the_gioi_hoan_my/                          # Audiobook Tiên Hiệp 44.1kHz (~114GB)
│   ├── squim_noise_quality_assessment.csv, ecapa_embeddings.tar.gz
│   ├── canonical_aligned_chapters_dataset.tar.gz, the_gioi_hoan_my_text_dataset.tar.gz
│   └── audio_44100hz_shard_xxxx.tar.gz (88 tập audio siêu dài 4-5 tiếng)
├── vietphrase_vietspeech/                     # 956,826 câu Tiếng Việt Đa Giọng (~124GB)
│   ├── metadata_pristine_studio_25db.csv, metadata.csv, squim_noise_quality_assessment.csv
│   ├── acoustic_features_report.jsonl, ecapa_embeddings.tar.gz, speaker_embeddings.tar.gz
│   └── wavs_16k_shard_xxxx.tar.gz (WAV audio 16kHz chia nhỏ 2.5GB/shard)
└── mtet_english/                              # 294,690 câu Tiếng Anh AI Studio (~149GB)
    ├── metadata.jsonl, squim_noise_quality_assessment.csv
    ├── ecapa_embeddings.tar.gz, json.tar.gz
    └── audio_shard_xxxx.tar.gz (WAV audio studio phòng thu tĩnh 100%)
```

---

## 🎛️ II. Chi Tiết Kỹ Thuật Từng Bộ Dữ Liệu

### 1. `speaker_centroids/` (Trọng Tâm Âm Sắc Cho Voice Cloning)
* **Số lượng:** 36 vector đặc trưng âm sắc cho tất cả các giọng nói.
* **Định dạng:** `.npy` (NumPy Array), Shape `(192,)`, Dtype `float32`, chuẩn hoá $L_2$-norm = 1.0.
* **Cách dùng:** Nạp trực tiếp vào mô hình Matcha-TTS để định hình âm sắc người nói mà không cần chạy lại mô hình trích xuất âm sắc.

### 2. `vieneu_generated/` (53,218 mẫu giọng Vieneu AI)
* **Dung lượng:** ~46.27 GB (gồm 16 shard audio).
* **Đặc tính:** File âm thanh 22,050Hz kèm phụ đề SRT, JSON timestamp từng từ, nhãn điểm độ ồn SQUIM.

### 3. `english_270h/` (270 Giờ Audiobook Tiếng Anh)
* **Dung lượng:** ~65.41 GB.
* **Thành phần:**
  * Audio WAV gốc chia theo 3 phần: *Part 1 - Mortal Journey (100h)*, *Part 2 - Shadow Slave (100h)*, *Part 3 - My Dungeon Life (70h)*.
  * `mels/`: Mel-spectrogram 80 băng tần trích xuất sẵn (~24 GB).
  * `f0/`: Đường cong cao độ F0 trích xuất sẵn (~640 MB).
  * `manifest.jsonl`: Chỉ mục toàn bộ văn bản và đường dẫn file tương ứng.

### 4. `the_gioi_hoan_my/` (Bộ Truyện Tiên Hiệp Dài 44.1kHz)
* **Dung lượng:** ~113.74 GB.
* **Đặc tính:** 88 tập audio hoàn chỉnh chất lượng cao 44,100Hz kết hợp bộ văn bản đối soát từng chương `canonical_aligned_chapters_dataset`.

### 5. `vietphrase_vietspeech/` (956,826 Mẫu Đa Giọng Tiếng Việt)
* **Dung lượng:** ~123.82 GB.
* **Điểm nổi bật:** Chứa **72,207 mẫu Zero-Noise tuyệt đối** ($\text{SI-SDR} \ge 25\text{ dB}$) lọc từ tập dữ liệu lớn thông qua mô hình thẩm định TorchAudio SQUIM.

### 6. `mtet_english/` (294,690 Mẫu Nữ AI Studio Tiếng Anh)
* **Dung lượng:** ~149.35 GB.
* **Đặc tính:** Giọng đọc tiếng Anh chuẩn phòng thu, $99.5\%$ file đạt độ sạch $\ge 28\text{ dB}$ (nền tĩnh tuyệt đối).

---

## 🚀 III. Hướng Dẫn Sử Dụng & Khôi Phục Dữ Liệu

### Cách 1: Tải & Tự Động Giải Nén Bằng Script Python Sẵn Có (Khuyên Dùng)

Sử dụng script [restore_dataset.py](file:///home/alida/Documents/IT/matcha_vocos_system/scripts/restore_dataset.py) có sẵn trong dự án:

```bash
# Tải và tự động giải nén riêng 1 bộ (ví dụ vieneu_generated)
python3 scripts/restore_dataset.py --dataset vieneu_generated --output_dir ./datasets_restored

# Tải bộ english_270h
python3 scripts/restore_dataset.py --dataset english_270h --output_dir ./datasets_restored

# Tải toàn bộ tất cả các bộ
python3 scripts/restore_dataset.py --dataset all --output_dir ./datasets_restored
```

---

### Cách 2: Tải Bằng Thư Viện `huggingface_hub` Trong Code Python

```python
from huggingface_hub import snapshot_download

# Tải thư mục speaker_centroids (rất nhẹ, ~40 KB)
centroids_dir = snapshot_download(
    repo_id="Cong123779/matcha-tts-multilingual-datasets",
    repo_type="dataset",
    allow_patterns="speaker_centroids/*",
    local_dir="./speaker_centroids"
)

# Tải file manifest & điểm SQUIM của Vieneu
manifest_path = snapshot_download(
    repo_id="Cong123779/matcha-tts-multilingual-datasets",
    repo_type="dataset",
    allow_patterns="vieneu_generated/*.json*",
    local_dir="./vieneu_meta"
)
```

---

### Cách 3: Nạp Trọng Tâm Âm Sắc Vào Matcha-TTS (Voice Cloning)

```python
import numpy as np
import torch

# 1. Nạp vector trọng tâm âm sắc (192 chiều)
centroid_path = "speaker_centroids/vieneu_spk_01_centroid.npy"
speaker_emb = np.load(centroid_path)  # Shape: (192,)

# 2. Chuyển sang PyTorch Tensor cho Matcha-TTS
spk_tensor = torch.from_numpy(speaker_emb).unsqueeze(0).float()  # Shape: [1, 192]

# 3. Đưa vào hàm sinh âm thanh
# mel_output = model.synthesise(text_tokens, spk=spk_tensor, n_timesteps=10, temperature=0.667)
```

---

## 🎚️ IV. Công Thức Điều Khiển Triệt Tiêu Tạp Âm (Zero-Noise Conditioning)

Các file `squim_noise_quality_assessment.csv` trong dataset cung cấp điểm $\text{SI-SDR}$ (Signal-to-Distortion Ratio). Để huấn luyện và suy luận mô hình sinh giọng nói tĩnh tuyệt đối:

1. **Công thức chuẩn hóa điểm tạp âm về đoạn $[0.0, 1.0]$:**
   $$\text{Noise\_Score} = \text{Clip}\left(\frac{25.0 - \text{SI\_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$
   * $\text{SI-SDR} \ge 25.0\text{ dB}$ (Chuẩn phòng thu vô thanh): $\mathbf{\text{Noise\_Score} = 0.00}$.
   * $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu bình thường): $\mathbf{\text{Noise\_Score} = 0.33}$.
   * $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm lớn): $\mathbf{\text{Noise\_Score} = 1.00}$.

2. **Ứng dụng:**
   * **Khi Huấn Luyện (Training):** Nạp đúng `Noise_Score` để model học cách phân tách tạp âm khỏi giọng người.
   * **Khi Suy Luận (Inference):** Luôn gán cố định $\mathbf{\text{Noise\_Score} = 0.0}$ $\rightarrow$ Mô hình tự động lọc bỏ tạp âm, sinh giọng trong và tĩnh $100\%$.