opedromartins commited on
Commit
afac0a6
·
verified ·
1 Parent(s): 5efabae

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +121 -10
README.md CHANGED
@@ -1,4 +1,15 @@
1
  ---
 
 
 
 
 
 
 
 
 
 
 
2
  dataset_info:
3
  - config_name: cetuc
4
  features:
@@ -54,10 +65,10 @@ dataset_info:
54
  dtype: float64
55
  splits:
56
  - name: train
57
- num_bytes: 163568316.0
58
  num_examples: 253
59
  download_size: 163344293
60
- dataset_size: 163568316.0
61
  - config_name: common-voice-22
62
  features:
63
  - name: audio_filename
@@ -181,10 +192,10 @@ dataset_info:
181
  num_bytes: 2337501626.501
182
  num_examples: 2793
183
  - name: validation
184
- num_bytes: 297534890.0
185
  num_examples: 386
186
  - name: test
187
- num_bytes: 746473185.0
188
  num_examples: 919
189
  download_size: 3355807403
190
  dataset_size: 3381509701.501
@@ -202,10 +213,10 @@ dataset_info:
202
  dtype: float64
203
  splits:
204
  - name: train
205
- num_bytes: 103794148.0
206
  num_examples: 700
207
  download_size: 103780948
208
- dataset_size: 103794148.0
209
  - config_name: mls
210
  features:
211
  - name: audio_filename
@@ -223,10 +234,10 @@ dataset_info:
223
  num_bytes: 9043539824.764
224
  num_examples: 37533
225
  - name: validation
226
- num_bytes: 224395981.0
227
  num_examples: 826
228
  - name: test
229
- num_bytes: 222289068.0
230
  num_examples: 871
231
  download_size: 10051399800
232
  dataset_size: 9490224873.764
@@ -302,10 +313,10 @@ dataset_info:
302
  dtype: float64
303
  splits:
304
  - name: train
305
- num_bytes: 71093523.0
306
  num_examples: 760
307
  download_size: 68849090
308
- dataset_size: 71093523.0
309
  - config_name: yodas-granary
310
  features:
311
  - name: audio_filename
@@ -440,3 +451,103 @@ configs:
440
  - split: train
441
  path: youtube-commons-granary/train-*
442
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ language:
3
+ - pt
4
+ pretty_name: Datasets de Áudios em Português
5
+ task_categories:
6
+ - automatic-speech-recognition
7
+ tags:
8
+ - ASR
9
+ - Speech
10
+ - Portuguese
11
+ size_categories:
12
+ - 1M<n<10M
13
  dataset_info:
14
  - config_name: cetuc
15
  features:
 
65
  dtype: float64
66
  splits:
67
  - name: train
68
+ num_bytes: 163568316
69
  num_examples: 253
70
  download_size: 163344293
71
+ dataset_size: 163568316
72
  - config_name: common-voice-22
73
  features:
74
  - name: audio_filename
 
192
  num_bytes: 2337501626.501
193
  num_examples: 2793
194
  - name: validation
195
+ num_bytes: 297534890
196
  num_examples: 386
197
  - name: test
198
+ num_bytes: 746473185
199
  num_examples: 919
200
  download_size: 3355807403
201
  dataset_size: 3381509701.501
 
213
  dtype: float64
214
  splits:
215
  - name: train
216
+ num_bytes: 103794148
217
  num_examples: 700
218
  download_size: 103780948
219
+ dataset_size: 103794148
220
  - config_name: mls
221
  features:
222
  - name: audio_filename
 
234
  num_bytes: 9043539824.764
235
  num_examples: 37533
236
  - name: validation
237
+ num_bytes: 224395981
238
  num_examples: 826
239
  - name: test
240
+ num_bytes: 222289068
241
  num_examples: 871
242
  download_size: 10051399800
243
  dataset_size: 9490224873.764
 
313
  dtype: float64
314
  splits:
315
  - name: train
316
+ num_bytes: 71093523
317
  num_examples: 760
318
  download_size: 68849090
319
+ dataset_size: 71093523
320
  - config_name: yodas-granary
321
  features:
322
  - name: audio_filename
 
451
  - split: train
452
  path: youtube-commons-granary/train-*
453
  ---
454
+ # 📚 Datasets de Áudio em Português (PT-BR)
455
+
456
+ Este repositório reúne **diversos corpora públicos de fala em português do Brasil**, combinados em um único dataset para facilitar treinamentos e pesquisas em **ASR (Automatic Speech Recognition)**.
457
+ O objetivo é fornecer um recurso amplo, padronizado e de fácil acesso para a comunidade.
458
+
459
+ ---
460
+
461
+ ## 📂 Datasets Integrados
462
+
463
+ A tabela abaixo lista todos os datasets incluídos, com suas informações:
464
+
465
+ | Dataset | Config Name | **TOTAL** | train | test | validation | Speaker | Fonte |
466
+ |---|---|:---:|:---:|:---:|:---:|:---:| :---: |
467
+ | Todos os Datasets | - | **15774.98 h** | 15650.38 h | 79.75 h | 44.85 h | - | - |
468
+ | YODAS-Granary | yodas-granary | **13423.68 h** | 13423.68 h | - | - | ❌ | [Fonte](https://huggingface.co/datasets/nvidia/Granary) |
469
+ | YouTube-Commons-Granary | youtube-commons-granary | **806.54 h** | 806.54 h | - | - | ❌ | [Fonte](https://huggingface.co/datasets/nvidia/Granary) |
470
+ | CORAA MuPe | coraa-mupe | **365.04 h** | 319.90 h | 32.90 h | 12.25 h | ✅ | [Fonte](https://huggingface.co/datasets/nilc-nlp/CORAA-MUPE-ASR) |
471
+ | CORAA v1.1 | coraa-v1.1 | **290.53 h** | 273.38 h | 11.24 h | 5.91 h | ❌ | [Fonte](https://github.com/nilc-nlp/CORAA) |
472
+ | CORAA NURC-SP | coraa-nurc-sp | **239.23 h** | 224.40 h | 10.23 h | 4.60 h | ❌ | [Fonte](https://huggingface.co/datasets/nilc-nlp/CORAA-NURC-SP-Audio-Corpus) |
473
+ | MLS | mls | **168.35 h** | 160.96 h | 3.74 h | 3.64 h | ✅ | [Fonte](https://www.openslr.org/94) |
474
+ | TEDx | tedx | **155.91 h** | 152.55 h | 1.82 h | 1.54 h | ✅ | [Fonte](https://www.openslr.org/100) |
475
+ | CETUC | cetuc | **144.66 h** | 144.66 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
476
+ | CML | cml | **85.36 h** | 78.09 h | 3.68 h | 3.59 h | ✅ | [Fonte](https://www.openslr.org/146) |
477
+ | Common Voice 22 | common-voice-22 | **51.32 h** | 26.38 h | 12.90 h | 12.04 h | ✅ | [Fonte](https://commonvoice.mozilla.org/pt/datasets) |
478
+ | Fleurs | fleurs | **14.71 h** | 10.18 h | 3.24 h | 1.29 h | ❌ | [Fonte](https://huggingface.co/datasets/google/fleurs) |
479
+ | TTS Portuguese Corpus | tts-portuguese-corpus | **10.48 h** | 10.48 h | - | - | ❌ | [Fonte](https://github.com/Edresson/TTS-Portuguese-Corpus) |
480
+ | Constituição Federal | constituicao-federal | **8.97 h** | 8.97 h | - | - | ❌ | [Fonte](https://gitlab.com/fb-audio-corpora/constituicao16k) |
481
+ | Sidney | sidney | **7.28 h** | 7.28 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
482
+ | Código de Defesa do Consumidor | codigo-de-defesa-do-consumidor | **1.42 h** | 1.42 h | - | - | ❌ | [Fonte](https://gitlab.com/fb-audio-corpora/codigodefesaconsumidor16k) |
483
+ | LapsBM | lapsbm | **0.90 h** | 0.90 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
484
+ | VoxForge | voxforge | **0.62 h** | 0.62 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
485
+
486
+ ---
487
+
488
+ ## 🗂️ Estrutura do Dataset
489
+
490
+ O dataset está organizado em configs, onde cada config corresponde a um dataset ou corpora específico. Dentro de cada config, os dados estão divididos nos splits:
491
+
492
+ * `train`
493
+ * `test`
494
+ * `validation`
495
+
496
+ ⚠️ **Importante**: Apenas os splits originais dos datasets foram mantidos, nem todos os datasets possuem splits de `test` e `validation`.
497
+
498
+ Cada amostra contém os seguintes campos:
499
+
500
+ * `audio_filename`: nome original do arquivo
501
+ * `speaker`: identificador do falante, presente apenas quando a informação está disponível no dataset original
502
+ * `audio`: conteúdo do áudio
503
+ * `transcription`: transcrição do áudio
504
+ * `duration`: duração em segundos
505
+
506
+ ---
507
+
508
+ ## 🚀 Como Utilizar
509
+
510
+ O dataset pode ser carregado pelo [🤗 Hugging Face Datasets](https://huggingface.co/docs/datasets):
511
+
512
+ ### Listar todas as configurações disponíveis
513
+
514
+ ```python
515
+ from datasets import get_dataset_config_names
516
+
517
+ configs = get_dataset_config_names("opedromartins/ASR-datasets-ptbr")
518
+ print(configs)
519
+ ```
520
+
521
+ ### Carregar uma configuração específica
522
+
523
+ ```python
524
+ from datasets import load_dataset
525
+
526
+ # Exemplo: carregar todos os splits do CORAA v1.1
527
+ ds = load_dataset("opedromartins/ASR-datasets-ptbr", name="coraa-v1.1")
528
+
529
+ # Apenas o split de treino
530
+ ds_train = load_dataset("opedromartins/ASR-datasets-ptbr", name="coraa-v1.1", split="train")
531
+ ```
532
+
533
+ ### Uso em modo [streaming](https://huggingface.co/docs/datasets/stream)
534
+
535
+ ```python
536
+ from datasets import load_dataset
537
+
538
+ ds_stream = load_dataset(
539
+ "opedromartins/ASR-datasets-ptbr",
540
+ name="coraa-v1.1",
541
+ split="train",
542
+ streaming=True
543
+ )
544
+ print(next(iter(ds_stream)))
545
+ ```
546
+
547
+ ---
548
+
549
+ ## ⚖️ Licenciamento
550
+
551
+ Cada dataset mantém **sua licença original**.
552
+ É responsabilidade do usuário verificar e respeitar os termos de uso de cada corpus.
553
+ Consulte os links das fontes listadas na [tabela](#📂-datasets-integrados) para mais detalhes.