Datasets:

Cong123779
/

matcha-tts-multilingual-datasets

Tài liệu này tổng hợp toàn bộ cấu trúc thư mục, đường dẫn liên kết, đặc tính kỹ thuật âm học và quy chuẩn nạp dữ liệu cho 1,363,144 mẫu dữ liệu sẵn sàng cho việc huấn luyện mô hình Matcha-TTS Đa Ngôn Ngữ / Đa Đặc Tính.

I. TỔNG QUAN 6 BỘ DỮ LIỆU ĐÃ XỬ LÝ 100%

========================================================================================================================
STT  Tập Dữ Liệu         Ngôn Ngữ / Đặc Tính        Số Lượng        Vector Âm Sắc (192-d)   Đánh Giá Độ Ồn (SQUIM)
========================================================================================================================
1    VietSpeech          Tiếng Việt Đa Giọng        956,826 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
2    MTET English        Tiếng Anh Đơn Giọng        294,690 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
3    Train Splits 22050  Audiobook Segments Sạch     56,094 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
4    Vieneu Generated    Âm Thanh Vieneu AI          53,218 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
5    Dataset 270h        Audiobook Chương Dài         2,228 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
6    YouTube 44.1kHz     Audio Bộ Dài 4-5 Tiếng          88 files   ECAPA-TDNN (192-d)      SI-SDR, PESQ, STOI
------------------------------------------------------------------------------------------------------------------------
🔥   TỔNG MASTER         Toàn Bộ Hệ Thống         1,363,144 files   100% HOÀN TẤT VĨNH VIỄN TRÊN Ổ CỨNG
========================================================================================================================

II. CHI TIẾT ĐƯỜNG DẪN & CẤU TRÚC TỪNG BỘ DỮ LIỆU

1. Tập VietSpeech (Tiếng Việt Đa Người Nói - 956,826 files)

Audio gốc (.wav): /home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/wavs/{audio_id}.wav
Metadata danh sách sạch: /home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/metadata_pristine_studio_25db.csv
Vector âm sắc (.npy): /home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/ecapa_embeddings/{audio_id}.npy
Bảng điểm độ ồn SQUIM (.csv): /home/alida/Documents/IT/all_model/matchtts_test/datasets/VietSpeech/squim_noise_quality_assessment.csv
Đặc tính: Multi-speaker, dải Pitch $80 - 350\text{ Hz}$, chứa 72,207 files Zero-Noise tuyệt đối ($\text{SI-SDR} \ge 25\text{ dB}$).

2. Tập MTET English (Tiếng Anh Đơn Giọng AI Studio - 294,690 files)

Audio gốc (.wav): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/audio/shard_xxxx/{sample_id}.wav
Vector âm sắc (.npy): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/ecapa_embeddings/{sample_id}.npy
Bảng điểm độ ồn SQUIM (.csv): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_mtet_en/squim_noise_quality_assessment.csv
Đặc tính: Single-speaker nữ chuẩn Studio, $99.5%$ file đạt độ sạch $\text{SI-SDR} \ge 28\text{ dB}$ (nền tĩnh 100%).

3. Tập Train Splits 22050 (Audiobook Segments - 56,094 files)

Audio gốc (.wav): /home/alida/Documents/new_voice_standalone/train_splits_22050/{audio_id}.wav
Metadata sạch chuẩn: /home/alida/Documents/new_voice_standalone/train_splits_22050/metadata_pristine_clean_only.csv
Vector âm sắc (.npy): /home/alida/Documents/new_voice_standalone/train_splits_22050/ecapa_embeddings/{audio_id}.npy
Đặc tính: Đã cách ly hoàn toàn 51 file lỗi tạp âm, $94%$ đạt chuẩn Studio ($\ge 15\text{ dB}$).

4. Tập Vieneu Generated (Âm Thanh Vieneu - 53,218 files)

Audio gốc (.wav): /home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/wavs/{sample_id}.wav
Vector âm sắc (.npy): /home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/ecapa_embeddings/{sample_id}.npy
Bảng điểm độ ồn SQUIM (.csv): /home/alida/Documents/IT/Vieneu/dataset_generated_vieneu/squim_noise_quality_assessment.csv

5. Tập Dataset 270h (Audiobook Chương Dài 10-20 phút - 2,228 files)

Audio gốc (.wav): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/{part_name}/audio/{chapter_id}.wav
Vector âm sắc (.npy): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/ecapa_embeddings/{rel_name}.npy
Bảng điểm độ ồn SQUIM (.csv): /home/alida/Documents/IT/all_model/matchtts_test/outputs/dataset_270h/squim_noise_quality_assessment.csv

6. Tập YouTube 44.1kHz (Audio Siêu Dài 4-5 Tiếng/Bộ - 88 files)

Audio gốc (.wav): /home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/{video_name}.wav
Vector âm sắc (.npy): /home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/ecapa_embeddings/{video_name}.npy
Bảng điểm độ ồn SQUIM (.csv): /home/alida/Documents/new_voice_standalone/youtube_dataset_44100hz/squim_noise_quality_assessment.csv
Đặc tính: Vector âm sắc tổng hợp đại diện từ 3 mốc (đầu, giữa, cuối) bằng thuật toán Multi-Segment $L_2$-mean.

III. QUY CHUẨN LIÊN KẾT MẪU (DATA LINKING PROTOCOL)

Khi nạp 1 mẫu vào PyTorch DataLoader, hệ thống liên kết theo khóa định danh duy nhất:

[audio_id] ────────► Audio Waveform:        .wav (Samplerate 22,050Hz hoặc 16,000Hz)
            ├──────► Speaker Embedding:     .npy (Shape: [192], Dtype: float32, L2-Norm = 1.0)
            ├──────► Noise Quality Score:    SI-SDR (dB), PESQ, STOI từ SQUIM
            └──────► Text / Phonemes IPA:   Transcript văn bản tương ứng

IV. CÔNG THỨC ÁNH XẠ ĐIỀU KHIỂN ĐỘ ỒN VỀ 0 (ZERO-NOISE FORMULA)

Để điều khiển Matcha-TTS Decoder tự động triệt tiêu toàn bộ tạp âm khi sinh giọng:

Công thức chuẩn hóa điểm ồn từ SI-SDR về $[0.0, 1.0]$: $$\text{Noise_Score} = \text{Clip}\left(\frac{25.0 - \text{SI_SDR}}{30.0}, \quad 0.0, \quad 1.0\right)$$
- $\text{SI-SDR} \ge 25.0\text{ dB}$ (Studio tĩnh lặng): $\mathbf{\text{Noise_Score} = 0.00}$ (Zero-Noise).
- $\text{SI-SDR} = 15.0\text{ dB}$ (Phòng thu tiêu chuẩn): $\mathbf{\text{Noise_Score} = 0.33}$.
- $\text{SI-SDR} \le -5.0\text{ dB}$ (Tạp âm nặng): $\mathbf{\text{Noise_Score} = 1.00}$.
Quy tắc sử dụng:
- Khi Huấn Luyện (Training): Truyền đúng Noise_Score thực tế của từng file. Model sẽ học cách bóc tách năng lượng tạp âm ra khỏi dạng sóng giọng nói.
- Khi Suy Luận (Inference): Luôn cố định Noise_Score = 0.0 $\rightarrow$ Model tự động sinh ra âm thanh chuẩn phòng thu cách âm vô thanh $100%$.

V. CÁC TỆP NGUỒN SẴN SÀNG

Streaming Zero-Disk Loader: /home/alida/Documents/IT/all_model/matchtts_test/streaming_word_aligned_dataset.py
Script Trích Xuất ECAPA: /home/alida/Documents/IT/all_model/matchtts_test/extract_ecapa_speaker_embeddings.py
Script Thẩm Định SQUIM: /home/alida/Documents/IT/all_model/matchtts_test/run_squim_noise_assessment.py