| # 📘 MASTER DATASET INVENTORY & TRAINING SPECIFICATION |
| **Hệ Thống Dữ Liệu Âm Sắc & Đánh Giá Độ Ồn Chuẩn SOTA Cho Matcha-TTS Voice Cloning** |
|
|
| Tài liệu này tổng hợp toàn bộ cấu trúc thư mục, đường dẫn liên kết, đặc tính kỹ thuật âm học và quy chuẩn nạp dữ liệu cho **1,363,144 mẫu dữ liệu** sẵn sàng cho việc huấn luyện mô hình **Matcha-TTS Đa Ngôn Ngữ / Đa Đặc Tính**. |
|
|
| --- |
|
|
| ## I. TỔNG QUAN 6 BỘ DỮ LIỆU ĐÃ XỬ LÝ 100% |
|
|
| ``` |
| ======================================================================================================================== |
| STT Tập Dữ Liệu Ngôn Ngữ / Đặc Tính Số Lượng Vector Âm Sắc (192-d) Đánh Giá Độ Ồn (SQUIM) |
| ======================================================================================================================== |
| 1 VietSpeech Tiếng Việt Đa Giọng 956,826 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| 2 MTET English Tiếng Anh Đơn Giọng 294,690 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| 3 Train Splits 22050 Audiobook Segments Sạch 56,094 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| 4 Vieneu Generated Âm Thanh Vieneu AI 53,218 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| 5 Dataset 270h Audiobook Chương Dài 2,228 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| 6 YouTube 44.1kHz Audio Bộ Dài 4-5 Tiếng 88 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI |
| ------------------------------------------------------------------------------------------------------------------------ |
| 🔥 TỔNG MASTER Toàn Bộ Hệ Thống 1,363,144 files 100% HOÀN TẤT VĨNH VIỄN TRÊN Ổ CỨNG |
| ======================================================================================================================== |
| ``` |
| |
| --- |
| |
| ## II. CHI TIẾT ĐƯỜNG DẪN & CẤU TRÚC TỪNG BỘ DỮ LIỆU |
| |
| ### 1. Tập VietSpeech (Tiếng Việt Đa Người Nói - 956,826 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/wavs/{audio_id}.wav` |
| * **Metadata danh sách sạch:** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/metadata_pristine_studio_25db.csv` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/ecapa_embeddings/{audio_id}.npy` |
| * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/squim_noise_quality_assessment.csv` |
| * **Đặc tính:** Multi-speaker, dải Pitch $80 - 350\text{ Hz}$, chứa **72,207 files Zero-Noise tuyệt đối** ($\text{SI-SDR} \ge 25\text{ dB}$). |
| |
| ### 2. Tập MTET English (Tiếng Anh Đơn Giọng AI Studio - 294,690 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/audio/shard_xxxx/{sample_id}.wav` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/ecapa_embeddings/{sample_id}.npy` |
| * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/squim_noise_quality_assessment.csv` |
| * **Đặc tính:** Single-speaker nữ chuẩn Studio, $99.5\%$ file đạt độ sạch $\text{SI-SDR} \ge 28\text{ dB}$ (nền tĩnh 100%). |
| |
| ### 3. Tập Train Splits 22050 (Audiobook Segments - 56,094 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/{audio_id}.wav` |
| * **Metadata sạch chuẩn:** `/home/alida/Documents/new_voice_standalone/train_splits_22050/metadata_pristine_clean_only.csv` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/ecapa_embeddings/{audio_id}.npy` |
| * **Đặc tính:** Đã cách ly hoàn toàn 51 file lỗi tạp âm, $94\%$ đạt chuẩn Studio ($\ge 15\text{ dB}$). |
| |
| ### 4. Tập Vieneu Generated (Âm Thanh Vieneu - 53,218 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/wavs/{sample_id}.wav` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/ecapa_embeddings/{sample_id}.npy` |
| * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/squim_noise_quality_assessment.csv` |
| |
| ### 5. Tập Dataset 270h (Audiobook Chương Dài 10-20 phút - 2,228 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/{part_name}/audio/{chapter_id}.wav` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/ecapa_embeddings/{rel_name}.npy` |
| * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/squim_noise_quality_assessment.csv` |
| |
| ### 6. Tập YouTube 44.1kHz (Audio Siêu Dài 4-5 Tiếng/Bộ - 88 files) |
| * **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/{video_name}.wav` |
| * **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/ecapa_embeddings/{video_name}.npy` |
| * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/squim_noise_quality_assessment.csv` |
| * **Đặc tính:** Vector âm sắc tổng hợp đại diện từ 3 mốc (đầu, giữa, cuối) bằng thuật toán Multi-Segment $L_2$-mean. |
| |
| --- |
| |
| ## III. QUY CHUẨN LIÊN KẾT MẪU (DATA LINKING PROTOCOL) |
| |
| Khi nạp 1 mẫu vào PyTorch `DataLoader`, hệ thống liên kết theo khóa định danh duy nhất: |
| |
| ``` |
| [audio_id] ────────► Audio Waveform: .wav (Samplerate 22,050Hz hoặc 16,000Hz) |
| ├──────► Speaker Embedding: .npy (Shape: [192], Dtype: float32, L2-Norm = 1.0) |
| ├──────► Noise Quality Score: SI-SDR (dB), PESQ, STOI từ SQUIM |
| └──────► Text / Phonemes IPA: Transcript văn bản tương ứng |
| ``` |
| |
| --- |
| |
| ## IV. CÔNG THỨC ÁNH XẠ ĐIỀU KHIỂN ĐỘ ỒN VỀ 0 (ZERO-NOISE FORMULA) |
| |
| Để điều khiển Matcha-TTS Decoder tự động triệt tiêu toàn bộ tạp âm khi sinh giọng: |
| |
| 1. **Công thức chuẩn hóa điểm ồn từ SI-SDR về $[0.0, 1.0]$:** |
| $$\text{Noise\_Score} = \text{Clip}\left(\frac{25.0 - \text{SI\_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$ |
| * $\text{SI-SDR} \ge 25.0\text{ dB}$ (Studio tĩnh lặng): $\mathbf{\text{Noise\_Score} = 0.00}$ (Zero-Noise). |
| * $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu tiêu chuẩn): $\mathbf{\text{Noise\_Score} = 0.33}$. |
| * $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm nặng): $\mathbf{\text{Noise\_Score} = 1.00}$. |
|
|
| 2. **Quy tắc sử dụng:** |
| * **Khi Huấn Luyện (Training):** Truyền đúng `Noise_Score` thực tế của từng file. Model sẽ học cách bóc tách năng lượng tạp âm ra khỏi dạng sóng giọng nói. |
| * **Khi Suy Luận (Inference):** **Luôn cố định `Noise_Score = 0.0`** $\rightarrow$ Model tự động sinh ra âm thanh chuẩn phòng thu cách âm vô thanh $100\%$. |
| |
| --- |
| |
| ## V. CÁC TỆP NGUỒN SẴN SÀNG |
| |
| * **Streaming Zero-Disk Loader:** `/home/alida/Documents/IT/all_model/matchtts_test/streaming_word_aligned_dataset.py` |
| * **Script Trích Xuất ECAPA:** `/home/alida/Documents/IT/all_model/matchtts_test/extract_ecapa_speaker_embeddings.py` |
| * **Script Thẩm Định SQUIM:** `/home/alida/Documents/IT/all_model/matchtts_test/run_squim_noise_assessment.py` |
|
|
