Datasets:
File size: 7,694 Bytes
8556697 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 | # 📘 MASTER DATASET INVENTORY & TRAINING SPECIFICATION
**Hệ Thống Dữ Liệu Âm Sắc & Đánh Giá Độ Ồn Chuẩn SOTA Cho Matcha-TTS Voice Cloning**
Tài liệu này tổng hợp toàn bộ cấu trúc thư mục, đường dẫn liên kết, đặc tính kỹ thuật âm học và quy chuẩn nạp dữ liệu cho **1,363,144 mẫu dữ liệu** sẵn sàng cho việc huấn luyện mô hình **Matcha-TTS Đa Ngôn Ngữ / Đa Đặc Tính**.
---
## I. TỔNG QUAN 6 BỘ DỮ LIỆU ĐÃ XỬ LÝ 100%
```
========================================================================================================================
STT Tập Dữ Liệu Ngôn Ngữ / Đặc Tính Số Lượng Vector Âm Sắc (192-d) Đánh Giá Độ Ồn (SQUIM)
========================================================================================================================
1 VietSpeech Tiếng Việt Đa Giọng 956,826 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
2 MTET English Tiếng Anh Đơn Giọng 294,690 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
3 Train Splits 22050 Audiobook Segments Sạch 56,094 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
4 Vieneu Generated Âm Thanh Vieneu AI 53,218 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
5 Dataset 270h Audiobook Chương Dài 2,228 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
6 YouTube 44.1kHz Audio Bộ Dài 4-5 Tiếng 88 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI
------------------------------------------------------------------------------------------------------------------------
🔥 TỔNG MASTER Toàn Bộ Hệ Thống 1,363,144 files 100% HOÀN TẤT VĨNH VIỄN TRÊN Ổ CỨNG
========================================================================================================================
```
---
## II. CHI TIẾT ĐƯỜNG DẪN & CẤU TRÚC TỪNG BỘ DỮ LIỆU
### 1. Tập VietSpeech (Tiếng Việt Đa Người Nói - 956,826 files)
* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/wavs/{audio_id}.wav`
* **Metadata danh sách sạch:** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/metadata_pristine_studio_25db.csv`
* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/ecapa_embeddings/{audio_id}.npy`
* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/squim_noise_quality_assessment.csv`
* **Đặc tính:** Multi-speaker, dải Pitch $80 - 350\text{ Hz}$, chứa **72,207 files Zero-Noise tuyệt đối** ($\text{SI-SDR} \ge 25\text{ dB}$).
### 2. Tập MTET English (Tiếng Anh Đơn Giọng AI Studio - 294,690 files)
* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/audio/shard_xxxx/{sample_id}.wav`
* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/ecapa_embeddings/{sample_id}.npy`
* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/squim_noise_quality_assessment.csv`
* **Đặc tính:** Single-speaker nữ chuẩn Studio, $99.5\%$ file đạt độ sạch $\text{SI-SDR} \ge 28\text{ dB}$ (nền tĩnh 100%).
### 3. Tập Train Splits 22050 (Audiobook Segments - 56,094 files)
* **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/{audio_id}.wav`
* **Metadata sạch chuẩn:** `/home/alida/Documents/new_voice_standalone/train_splits_22050/metadata_pristine_clean_only.csv`
* **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/ecapa_embeddings/{audio_id}.npy`
* **Đặc tính:** Đã cách ly hoàn toàn 51 file lỗi tạp âm, $94\%$ đạt chuẩn Studio ($\ge 15\text{ dB}$).
### 4. Tập Vieneu Generated (Âm Thanh Vieneu - 53,218 files)
* **Audio gốc (.wav):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/wavs/{sample_id}.wav`
* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/ecapa_embeddings/{sample_id}.npy`
* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/squim_noise_quality_assessment.csv`
### 5. Tập Dataset 270h (Audiobook Chương Dài 10-20 phút - 2,228 files)
* **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/{part_name}/audio/{chapter_id}.wav`
* **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/ecapa_embeddings/{rel_name}.npy`
* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/squim_noise_quality_assessment.csv`
### 6. Tập YouTube 44.1kHz (Audio Siêu Dài 4-5 Tiếng/Bộ - 88 files)
* **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/{video_name}.wav`
* **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/ecapa_embeddings/{video_name}.npy`
* **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/squim_noise_quality_assessment.csv`
* **Đặc tính:** Vector âm sắc tổng hợp đại diện từ 3 mốc (đầu, giữa, cuối) bằng thuật toán Multi-Segment $L_2$-mean.
---
## III. QUY CHUẨN LIÊN KẾT MẪU (DATA LINKING PROTOCOL)
Khi nạp 1 mẫu vào PyTorch `DataLoader`, hệ thống liên kết theo khóa định danh duy nhất:
```
[audio_id] ────────► Audio Waveform: .wav (Samplerate 22,050Hz hoặc 16,000Hz)
├──────► Speaker Embedding: .npy (Shape: [192], Dtype: float32, L2-Norm = 1.0)
├──────► Noise Quality Score: SI-SDR (dB), PESQ, STOI từ SQUIM
└──────► Text / Phonemes IPA: Transcript văn bản tương ứng
```
---
## IV. CÔNG THỨC ÁNH XẠ ĐIỀU KHIỂN ĐỘ ỒN VỀ 0 (ZERO-NOISE FORMULA)
Để điều khiển Matcha-TTS Decoder tự động triệt tiêu toàn bộ tạp âm khi sinh giọng:
1. **Công thức chuẩn hóa điểm ồn từ SI-SDR về $[0.0, 1.0]$:**
$$\text{Noise\_Score} = \text{Clip}\left(\frac{25.0 - \text{SI\_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$
* $\text{SI-SDR} \ge 25.0\text{ dB}$ (Studio tĩnh lặng): $\mathbf{\text{Noise\_Score} = 0.00}$ (Zero-Noise).
* $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu tiêu chuẩn): $\mathbf{\text{Noise\_Score} = 0.33}$.
* $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm nặng): $\mathbf{\text{Noise\_Score} = 1.00}$.
2. **Quy tắc sử dụng:**
* **Khi Huấn Luyện (Training):** Truyền đúng `Noise_Score` thực tế của từng file. Model sẽ học cách bóc tách năng lượng tạp âm ra khỏi dạng sóng giọng nói.
* **Khi Suy Luận (Inference):** **Luôn cố định `Noise_Score = 0.0`** $\rightarrow$ Model tự động sinh ra âm thanh chuẩn phòng thu cách âm vô thanh $100\%$.
---
## V. CÁC TỆP NGUỒN SẴN SÀNG
* **Streaming Zero-Disk Loader:** `/home/alida/Documents/IT/all_model/matchtts_test/streaming_word_aligned_dataset.py`
* **Script Trích Xuất ECAPA:** `/home/alida/Documents/IT/all_model/matchtts_test/extract_ecapa_speaker_embeddings.py`
* **Script Thẩm Định SQUIM:** `/home/alida/Documents/IT/all_model/matchtts_test/run_squim_noise_assessment.py`
|