Datasets:

Cong123779
/

matcha-tts-multilingual-datasets

+# 📘 MASTER DATASET INVENTORY & TRAINING SPECIFICATION
+**Hệ Thống Dữ Liệu Âm Sắc & Đánh Giá Độ Ồn Chuẩn SOTA Cho Matcha-TTS Voice Cloning**
+Tài liệu này tổng hợp toàn bộ cấu trúc thư mục, đường dẫn liên kết, đặc tính kỹ thuật âm học và quy chuẩn nạp dữ liệu cho **1,363,144 mẫu dữ liệu** sẵn sàng cho việc huấn luyện mô hình **Matcha-TTS Đa Ngôn Ngữ / Đa Đặc Tính**.
+---
+## I. TỔNG QUAN 6 BỘ DỮ LIỆU ĐÃ XỬ LÝ 100%
+```
+========================================================================================================================
+STT  Tập Dữ Liệu         Ngôn Ngữ / Đặc Tính        Số Lượng        Vector Âm Sắc (192-d)   Đánh Giá Độ Ồn (SQUIM)
+========================================================================================================================
+1    VietSpeech          Tiếng Việt Đa Giọng        956,826 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+2    MTET English        Tiếng Anh Đơn Giọng        294,690 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+3    Train Splits 22050  Audiobook Segments Sạch     56,094 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+4    Vieneu Generated    Âm Thanh Vieneu AI          53,218 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+5    Dataset 270h        Audiobook Chương Dài         2,228 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+6    YouTube 44.1kHz     Audio Bộ Dài 4-5 Tiếng          88 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
+------------------------------------------------------------------------------------------------------------------------
+🔥   TỔNG MASTER         Toàn Bộ Hệ Thống         1,363,144 files   100% HOÀN TẤT VĨNH VIỄN TRÊN Ổ CỨNG
+========================================================================================================================
+```
+---
+## II. CHI TIẾT ĐƯỜNG DẪN & CẤU TRÚC TỪNG BỘ DỮ LIỆU
+### 1. Tập VietSpeech (Tiếng Việt Đa Người Nói - 956,826 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/wavs/{audio_id}.wav`
+* **Metadata danh sách sạch:** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/metadata_pristine_studio_25db.csv`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/ecapa_embeddings/{audio_id}.npy`
+* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/squim_noise_quality_assessment.csv`
+* **Đặc tính:** Multi-speaker, dải Pitch $80 - 350\text{ Hz}$, chứa **72,207 files Zero-Noise tuyệt đối** ($\text{SI-SDR} \ge 25\text{ dB}$).
+### 2. Tập MTET English (Tiếng Anh Đơn Giọng AI Studio - 294,690 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/audio/shard_xxxx/{sample_id}.wav`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/ecapa_embeddings/{sample_id}.npy`
+* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/squim_noise_quality_assessment.csv`
+* **Đặc tính:** Single-speaker nữ chuẩn Studio, $99.5\%$ file đạt độ sạch $\text{SI-SDR} \ge 28\text{ dB}$ (nền tĩnh 100%).
+### 3. Tập Train Splits 22050 (Audiobook Segments - 56,094 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/{audio_id}.wav`
+* **Metadata sạch chuẩn:** `/home/alida/Documents/new_voice_standalone/train_splits_22050/metadata_pristine_clean_only.csv`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/ecapa_embeddings/{audio_id}.npy`
+* **Đặc tính:** Đã cách ly hoàn toàn 51 file lỗi tạp âm, $94\%$ đạt chuẩn Studio ($\ge 15\text{ dB}$).
+### 4. Tập Vieneu Generated (Âm Thanh Vieneu - 53,218 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/wavs/{sample_id}.wav`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/ecapa_embeddings/{sample_id}.npy`
+* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/squim_noise_quality_assessment.csv`
+### 5. Tập Dataset 270h (Audiobook Chương Dài 10-20 phút - 2,228 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/{part_name}/audio/{chapter_id}.wav`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/ecapa_embeddings/{rel_name}.npy`
+* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/squim_noise_quality_assessment.csv`
+### 6. Tập YouTube 44.1kHz (Audio Siêu Dài 4-5 Tiếng/Bộ - 88 files)
+* **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/{video_name}.wav`
+* **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/ecapa_embeddings/{video_name}.npy`
+* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/squim_noise_quality_assessment.csv`
+* **Đặc tính:** Vector âm sắc tổng hợp đại diện từ 3 mốc (đầu, giữa, cuối) bằng thuật toán Multi-Segment $L_2$-mean.
+---
+## III. QUY CHUẨN LIÊN KẾT MẪU (DATA LINKING PROTOCOL)
+Khi nạp 1 mẫu vào PyTorch `DataLoader`, hệ thống liên kết theo khóa định danh duy nhất:
+```
+[audio_id] ────────► Audio Waveform:        .wav (Samplerate 22,050Hz hoặc 16,000Hz)
+            ├──────► Speaker Embedding:     .npy (Shape: [192], Dtype: float32, L2-Norm = 1.0)
+            ├──────► Noise Quality Score:    SI-SDR (dB), PESQ, STOI từ SQUIM
+            └──────► Text / Phonemes IPA:   Transcript văn bản tương ứng
+```
+---
+## IV. CÔNG THỨC ÁNH XẠ ĐIỀU KHIỂN ĐỘ ỒN VỀ 0 (ZERO-NOISE FORMULA)
+Để điều khiển Matcha-TTS Decoder tự động triệt tiêu toàn bộ tạp âm khi sinh giọng:
+1. **Công thức chuẩn hóa điểm ồn từ SI-SDR về $[0.0, 1.0]$:**
+   $$\text{Noise\_Score} = \text{Clip}\left(\frac{25.0 - \text{SI\_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$
+   * $\text{SI-SDR} \ge 25.0\text{ dB}$ (Studio tĩnh lặng): $\mathbf{\text{Noise\_Score} = 0.00}$ (Zero-Noise).
+   * $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu tiêu chuẩn): $\mathbf{\text{Noise\_Score} = 0.33}$.
+   * $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm nặng): $\mathbf{\text{Noise\_Score} = 1.00}$.
+2. **Quy tắc sử dụng:**
+   * **Khi Huấn Luyện (Training):** Truyền đúng `Noise_Score` thực tế của từng file. Model sẽ học cách bóc tách năng lượng tạp âm ra khỏi dạng sóng giọng nói.
+   * **Khi Suy Luận (Inference):** **Luôn cố định `Noise_Score = 0.0`** $\rightarrow$ Model tự động sinh ra âm thanh chuẩn phòng thu cách âm vô thanh $100\%$.
+---
+## V. CÁC TỆP NGUỒN SẴN SÀNG
+* **Streaming Zero-Disk Loader:** `/home/alida/Documents/IT/all_model/matchtts_test/streaming_word_aligned_dataset.py`
+* **Script Trích Xuất ECAPA:** `/home/alida/Documents/IT/all_model/matchtts_test/extract_ecapa_speaker_embeddings.py`
+* **Script Thẩm Định SQUIM:** `/home/alida/Documents/IT/all_model/matchtts_test/run_squim_noise_assessment.py`