# 📘 MASTER DATASET INVENTORY & TRAINING SPECIFICATION **Hệ Thống Dữ Liệu Âm Sắc & Đánh Giá Độ Ồn Chuẩn SOTA Cho Matcha-TTS Voice Cloning** Tài liệu này tổng hợp toàn bộ cấu trúc thư mục, đường dẫn liên kết, đặc tính kỹ thuật âm học và quy chuẩn nạp dữ liệu cho **1,363,144 mẫu dữ liệu** sẵn sàng cho việc huấn luyện mô hình **Matcha-TTS Đa Ngôn Ngữ / Đa Đặc Tính**. --- ## I. TỔNG QUAN 6 BỘ DỮ LIỆU ĐÃ XỬ LÝ 100% ``` ======================================================================================================================== STT Tập Dữ Liệu Ngôn Ngữ / Đặc Tính Số Lượng Vector Âm Sắc (192-d) Đánh Giá Độ Ồn (SQUIM) ======================================================================================================================== 1 VietSpeech Tiếng Việt Đa Giọng 956,826 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI 2 MTET English Tiếng Anh Đơn Giọng 294,690 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI 3 Train Splits 22050 Audiobook Segments Sạch 56,094 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI 4 Vieneu Generated Âm Thanh Vieneu AI 53,218 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI 5 Dataset 270h Audiobook Chương Dài 2,228 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI 6 YouTube 44.1kHz Audio Bộ Dài 4-5 Tiếng 88 files ECAPA-TDNN (192-d) SI-SDR, PESQ, STOI ------------------------------------------------------------------------------------------------------------------------ 🔥 TỔNG MASTER Toàn Bộ Hệ Thống 1,363,144 files 100% HOÀN TẤT VĨNH VIỄN TRÊN Ổ CỨNG ======================================================================================================================== ``` --- ## II. CHI TIẾT ĐƯỜNG DẪN & CẤU TRÚC TỪNG BỘ DỮ LIỆU ### 1. Tập VietSpeech (Tiếng Việt Đa Người Nói - 956,826 files) * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/wavs/{audio_id}.wav` * **Metadata danh sách sạch:** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/metadata_pristine_studio_25db.csv` * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/ecapa_embeddings/{audio_id}.npy` * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/squim_noise_quality_assessment.csv` * **Đặc tính:** Multi-speaker, dải Pitch $80 - 350\text{ Hz}$, chứa **72,207 files Zero-Noise tuyệt đối** ($\text{SI-SDR} \ge 25\text{ dB}$). ### 2. Tập MTET English (Tiếng Anh Đơn Giọng AI Studio - 294,690 files) * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/audio/shard_xxxx/{sample_id}.wav` * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/ecapa_embeddings/{sample_id}.npy` * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/squim_noise_quality_assessment.csv` * **Đặc tính:** Single-speaker nữ chuẩn Studio, $99.5\%$ file đạt độ sạch $\text{SI-SDR} \ge 28\text{ dB}$ (nền tĩnh 100%). ### 3. Tập Train Splits 22050 (Audiobook Segments - 56,094 files) * **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/{audio_id}.wav` * **Metadata sạch chuẩn:** `/home/alida/Documents/new_voice_standalone/train_splits_22050/metadata_pristine_clean_only.csv` * **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/train_splits_22050/ecapa_embeddings/{audio_id}.npy` * **Đặc tính:** Đã cách ly hoàn toàn 51 file lỗi tạp âm, $94\%$ đạt chuẩn Studio ($\ge 15\text{ dB}$). ### 4. Tập Vieneu Generated (Âm Thanh Vieneu - 53,218 files) * **Audio gốc (.wav):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/wavs/{sample_id}.wav` * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/ecapa_embeddings/{sample_id}.npy` * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/squim_noise_quality_assessment.csv` ### 5. Tập Dataset 270h (Audiobook Chương Dài 10-20 phút - 2,228 files) * **Audio gốc (.wav):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/{part_name}/audio/{chapter_id}.wav` * **Vector âm sắc (.npy):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/ecapa_embeddings/{rel_name}.npy` * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/squim_noise_quality_assessment.csv` ### 6. Tập YouTube 44.1kHz (Audio Siêu Dài 4-5 Tiếng/Bộ - 88 files) * **Audio gốc (.wav):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/{video_name}.wav` * **Vector âm sắc (.npy):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/ecapa_embeddings/{video_name}.npy` * **Bảng điểm độ ồn SQUIM (.csv):** `/home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/squim_noise_quality_assessment.csv` * **Đặc tính:** Vector âm sắc tổng hợp đại diện từ 3 mốc (đầu, giữa, cuối) bằng thuật toán Multi-Segment $L_2$-mean. --- ## III. QUY CHUẨN LIÊN KẾT MẪU (DATA LINKING PROTOCOL) Khi nạp 1 mẫu vào PyTorch `DataLoader`, hệ thống liên kết theo khóa định danh duy nhất: ``` [audio_id] ────────► Audio Waveform: .wav (Samplerate 22,050Hz hoặc 16,000Hz) ├──────► Speaker Embedding: .npy (Shape: [192], Dtype: float32, L2-Norm = 1.0) ├──────► Noise Quality Score: SI-SDR (dB), PESQ, STOI từ SQUIM └──────► Text / Phonemes IPA: Transcript văn bản tương ứng ``` --- ## IV. CÔNG THỨC ÁNH XẠ ĐIỀU KHIỂN ĐỘ ỒN VỀ 0 (ZERO-NOISE FORMULA) Để điều khiển Matcha-TTS Decoder tự động triệt tiêu toàn bộ tạp âm khi sinh giọng: 1. **Công thức chuẩn hóa điểm ồn từ SI-SDR về $[0.0, 1.0]$:** $$\text{Noise\_Score} = \text{Clip}\left(\frac{25.0 - \text{SI\_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$ * $\text{SI-SDR} \ge 25.0\text{ dB}$ (Studio tĩnh lặng): $\mathbf{\text{Noise\_Score} = 0.00}$ (Zero-Noise). * $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu tiêu chuẩn): $\mathbf{\text{Noise\_Score} = 0.33}$. * $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm nặng): $\mathbf{\text{Noise\_Score} = 1.00}$. 2. **Quy tắc sử dụng:** * **Khi Huấn Luyện (Training):** Truyền đúng `Noise_Score` thực tế của từng file. Model sẽ học cách bóc tách năng lượng tạp âm ra khỏi dạng sóng giọng nói. * **Khi Suy Luận (Inference):** **Luôn cố định `Noise_Score = 0.0`** $\rightarrow$ Model tự động sinh ra âm thanh chuẩn phòng thu cách âm vô thanh $100\%$. --- ## V. CÁC TỆP NGUỒN SẴN SÀNG * **Streaming Zero-Disk Loader:** `/home/alida/Documents/IT/all_model/matchtts_test/streaming_word_aligned_dataset.py` * **Script Trích Xuất ECAPA:** `/home/alida/Documents/IT/all_model/matchtts_test/extract_ecapa_speaker_embeddings.py` * **Script Thẩm Định SQUIM:** `/home/alida/Documents/IT/all_model/matchtts_test/run_squim_noise_assessment.py`