Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -1,4 +1,15 @@
|
|
| 1 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 2 |
dataset_info:
|
| 3 |
- config_name: cetuc
|
| 4 |
features:
|
|
@@ -54,10 +65,10 @@ dataset_info:
|
|
| 54 |
dtype: float64
|
| 55 |
splits:
|
| 56 |
- name: train
|
| 57 |
-
num_bytes: 163568316
|
| 58 |
num_examples: 253
|
| 59 |
download_size: 163344293
|
| 60 |
-
dataset_size: 163568316
|
| 61 |
- config_name: common-voice-22
|
| 62 |
features:
|
| 63 |
- name: audio_filename
|
|
@@ -181,10 +192,10 @@ dataset_info:
|
|
| 181 |
num_bytes: 2337501626.501
|
| 182 |
num_examples: 2793
|
| 183 |
- name: validation
|
| 184 |
-
num_bytes: 297534890
|
| 185 |
num_examples: 386
|
| 186 |
- name: test
|
| 187 |
-
num_bytes: 746473185
|
| 188 |
num_examples: 919
|
| 189 |
download_size: 3355807403
|
| 190 |
dataset_size: 3381509701.501
|
|
@@ -202,10 +213,10 @@ dataset_info:
|
|
| 202 |
dtype: float64
|
| 203 |
splits:
|
| 204 |
- name: train
|
| 205 |
-
num_bytes: 103794148
|
| 206 |
num_examples: 700
|
| 207 |
download_size: 103780948
|
| 208 |
-
dataset_size: 103794148
|
| 209 |
- config_name: mls
|
| 210 |
features:
|
| 211 |
- name: audio_filename
|
|
@@ -223,10 +234,10 @@ dataset_info:
|
|
| 223 |
num_bytes: 9043539824.764
|
| 224 |
num_examples: 37533
|
| 225 |
- name: validation
|
| 226 |
-
num_bytes: 224395981
|
| 227 |
num_examples: 826
|
| 228 |
- name: test
|
| 229 |
-
num_bytes: 222289068
|
| 230 |
num_examples: 871
|
| 231 |
download_size: 10051399800
|
| 232 |
dataset_size: 9490224873.764
|
|
@@ -302,10 +313,10 @@ dataset_info:
|
|
| 302 |
dtype: float64
|
| 303 |
splits:
|
| 304 |
- name: train
|
| 305 |
-
num_bytes: 71093523
|
| 306 |
num_examples: 760
|
| 307 |
download_size: 68849090
|
| 308 |
-
dataset_size: 71093523
|
| 309 |
- config_name: yodas-granary
|
| 310 |
features:
|
| 311 |
- name: audio_filename
|
|
@@ -440,3 +451,103 @@ configs:
|
|
| 440 |
- split: train
|
| 441 |
path: youtube-commons-granary/train-*
|
| 442 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
+
language:
|
| 3 |
+
- pt
|
| 4 |
+
pretty_name: Datasets de Áudios em Português
|
| 5 |
+
task_categories:
|
| 6 |
+
- automatic-speech-recognition
|
| 7 |
+
tags:
|
| 8 |
+
- ASR
|
| 9 |
+
- Speech
|
| 10 |
+
- Portuguese
|
| 11 |
+
size_categories:
|
| 12 |
+
- 1M<n<10M
|
| 13 |
dataset_info:
|
| 14 |
- config_name: cetuc
|
| 15 |
features:
|
|
|
|
| 65 |
dtype: float64
|
| 66 |
splits:
|
| 67 |
- name: train
|
| 68 |
+
num_bytes: 163568316
|
| 69 |
num_examples: 253
|
| 70 |
download_size: 163344293
|
| 71 |
+
dataset_size: 163568316
|
| 72 |
- config_name: common-voice-22
|
| 73 |
features:
|
| 74 |
- name: audio_filename
|
|
|
|
| 192 |
num_bytes: 2337501626.501
|
| 193 |
num_examples: 2793
|
| 194 |
- name: validation
|
| 195 |
+
num_bytes: 297534890
|
| 196 |
num_examples: 386
|
| 197 |
- name: test
|
| 198 |
+
num_bytes: 746473185
|
| 199 |
num_examples: 919
|
| 200 |
download_size: 3355807403
|
| 201 |
dataset_size: 3381509701.501
|
|
|
|
| 213 |
dtype: float64
|
| 214 |
splits:
|
| 215 |
- name: train
|
| 216 |
+
num_bytes: 103794148
|
| 217 |
num_examples: 700
|
| 218 |
download_size: 103780948
|
| 219 |
+
dataset_size: 103794148
|
| 220 |
- config_name: mls
|
| 221 |
features:
|
| 222 |
- name: audio_filename
|
|
|
|
| 234 |
num_bytes: 9043539824.764
|
| 235 |
num_examples: 37533
|
| 236 |
- name: validation
|
| 237 |
+
num_bytes: 224395981
|
| 238 |
num_examples: 826
|
| 239 |
- name: test
|
| 240 |
+
num_bytes: 222289068
|
| 241 |
num_examples: 871
|
| 242 |
download_size: 10051399800
|
| 243 |
dataset_size: 9490224873.764
|
|
|
|
| 313 |
dtype: float64
|
| 314 |
splits:
|
| 315 |
- name: train
|
| 316 |
+
num_bytes: 71093523
|
| 317 |
num_examples: 760
|
| 318 |
download_size: 68849090
|
| 319 |
+
dataset_size: 71093523
|
| 320 |
- config_name: yodas-granary
|
| 321 |
features:
|
| 322 |
- name: audio_filename
|
|
|
|
| 451 |
- split: train
|
| 452 |
path: youtube-commons-granary/train-*
|
| 453 |
---
|
| 454 |
+
# 📚 Datasets de Áudio em Português (PT-BR)
|
| 455 |
+
|
| 456 |
+
Este repositório reúne **diversos corpora públicos de fala em português do Brasil**, combinados em um único dataset para facilitar treinamentos e pesquisas em **ASR (Automatic Speech Recognition)**.
|
| 457 |
+
O objetivo é fornecer um recurso amplo, padronizado e de fácil acesso para a comunidade.
|
| 458 |
+
|
| 459 |
+
---
|
| 460 |
+
|
| 461 |
+
## 📂 Datasets Integrados
|
| 462 |
+
|
| 463 |
+
A tabela abaixo lista todos os datasets incluídos, com suas informações:
|
| 464 |
+
|
| 465 |
+
| Dataset | Config Name | **TOTAL** | train | test | validation | Speaker | Fonte |
|
| 466 |
+
|---|---|:---:|:---:|:---:|:---:|:---:| :---: |
|
| 467 |
+
| Todos os Datasets | - | **15774.98 h** | 15650.38 h | 79.75 h | 44.85 h | - | - |
|
| 468 |
+
| YODAS-Granary | yodas-granary | **13423.68 h** | 13423.68 h | - | - | ❌ | [Fonte](https://huggingface.co/datasets/nvidia/Granary) |
|
| 469 |
+
| YouTube-Commons-Granary | youtube-commons-granary | **806.54 h** | 806.54 h | - | - | ❌ | [Fonte](https://huggingface.co/datasets/nvidia/Granary) |
|
| 470 |
+
| CORAA MuPe | coraa-mupe | **365.04 h** | 319.90 h | 32.90 h | 12.25 h | ✅ | [Fonte](https://huggingface.co/datasets/nilc-nlp/CORAA-MUPE-ASR) |
|
| 471 |
+
| CORAA v1.1 | coraa-v1.1 | **290.53 h** | 273.38 h | 11.24 h | 5.91 h | ❌ | [Fonte](https://github.com/nilc-nlp/CORAA) |
|
| 472 |
+
| CORAA NURC-SP | coraa-nurc-sp | **239.23 h** | 224.40 h | 10.23 h | 4.60 h | ❌ | [Fonte](https://huggingface.co/datasets/nilc-nlp/CORAA-NURC-SP-Audio-Corpus) |
|
| 473 |
+
| MLS | mls | **168.35 h** | 160.96 h | 3.74 h | 3.64 h | ✅ | [Fonte](https://www.openslr.org/94) |
|
| 474 |
+
| TEDx | tedx | **155.91 h** | 152.55 h | 1.82 h | 1.54 h | ✅ | [Fonte](https://www.openslr.org/100) |
|
| 475 |
+
| CETUC | cetuc | **144.66 h** | 144.66 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
|
| 476 |
+
| CML | cml | **85.36 h** | 78.09 h | 3.68 h | 3.59 h | ✅ | [Fonte](https://www.openslr.org/146) |
|
| 477 |
+
| Common Voice 22 | common-voice-22 | **51.32 h** | 26.38 h | 12.90 h | 12.04 h | ✅ | [Fonte](https://commonvoice.mozilla.org/pt/datasets) |
|
| 478 |
+
| Fleurs | fleurs | **14.71 h** | 10.18 h | 3.24 h | 1.29 h | ❌ | [Fonte](https://huggingface.co/datasets/google/fleurs) |
|
| 479 |
+
| TTS Portuguese Corpus | tts-portuguese-corpus | **10.48 h** | 10.48 h | - | - | ❌ | [Fonte](https://github.com/Edresson/TTS-Portuguese-Corpus) |
|
| 480 |
+
| Constituição Federal | constituicao-federal | **8.97 h** | 8.97 h | - | - | ❌ | [Fonte](https://gitlab.com/fb-audio-corpora/constituicao16k) |
|
| 481 |
+
| Sidney | sidney | **7.28 h** | 7.28 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
|
| 482 |
+
| Código de Defesa do Consumidor | codigo-de-defesa-do-consumidor | **1.42 h** | 1.42 h | - | - | ❌ | [Fonte](https://gitlab.com/fb-audio-corpora/codigodefesaconsumidor16k) |
|
| 483 |
+
| LapsBM | lapsbm | **0.90 h** | 0.90 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
|
| 484 |
+
| VoxForge | voxforge | **0.62 h** | 0.62 h | - | - | ✅ | [Fonte](https://igormq.github.io/datasets) |
|
| 485 |
+
|
| 486 |
+
---
|
| 487 |
+
|
| 488 |
+
## 🗂️ Estrutura do Dataset
|
| 489 |
+
|
| 490 |
+
O dataset está organizado em configs, onde cada config corresponde a um dataset ou corpora específico. Dentro de cada config, os dados estão divididos nos splits:
|
| 491 |
+
|
| 492 |
+
* `train`
|
| 493 |
+
* `test`
|
| 494 |
+
* `validation`
|
| 495 |
+
|
| 496 |
+
⚠️ **Importante**: Apenas os splits originais dos datasets foram mantidos, nem todos os datasets possuem splits de `test` e `validation`.
|
| 497 |
+
|
| 498 |
+
Cada amostra contém os seguintes campos:
|
| 499 |
+
|
| 500 |
+
* `audio_filename`: nome original do arquivo
|
| 501 |
+
* `speaker`: identificador do falante, presente apenas quando a informação está disponível no dataset original
|
| 502 |
+
* `audio`: conteúdo do áudio
|
| 503 |
+
* `transcription`: transcrição do áudio
|
| 504 |
+
* `duration`: duração em segundos
|
| 505 |
+
|
| 506 |
+
---
|
| 507 |
+
|
| 508 |
+
## 🚀 Como Utilizar
|
| 509 |
+
|
| 510 |
+
O dataset pode ser carregado pelo [🤗 Hugging Face Datasets](https://huggingface.co/docs/datasets):
|
| 511 |
+
|
| 512 |
+
### Listar todas as configurações disponíveis
|
| 513 |
+
|
| 514 |
+
```python
|
| 515 |
+
from datasets import get_dataset_config_names
|
| 516 |
+
|
| 517 |
+
configs = get_dataset_config_names("opedromartins/ASR-datasets-ptbr")
|
| 518 |
+
print(configs)
|
| 519 |
+
```
|
| 520 |
+
|
| 521 |
+
### Carregar uma configuração específica
|
| 522 |
+
|
| 523 |
+
```python
|
| 524 |
+
from datasets import load_dataset
|
| 525 |
+
|
| 526 |
+
# Exemplo: carregar todos os splits do CORAA v1.1
|
| 527 |
+
ds = load_dataset("opedromartins/ASR-datasets-ptbr", name="coraa-v1.1")
|
| 528 |
+
|
| 529 |
+
# Apenas o split de treino
|
| 530 |
+
ds_train = load_dataset("opedromartins/ASR-datasets-ptbr", name="coraa-v1.1", split="train")
|
| 531 |
+
```
|
| 532 |
+
|
| 533 |
+
### Uso em modo [streaming](https://huggingface.co/docs/datasets/stream)
|
| 534 |
+
|
| 535 |
+
```python
|
| 536 |
+
from datasets import load_dataset
|
| 537 |
+
|
| 538 |
+
ds_stream = load_dataset(
|
| 539 |
+
"opedromartins/ASR-datasets-ptbr",
|
| 540 |
+
name="coraa-v1.1",
|
| 541 |
+
split="train",
|
| 542 |
+
streaming=True
|
| 543 |
+
)
|
| 544 |
+
print(next(iter(ds_stream)))
|
| 545 |
+
```
|
| 546 |
+
|
| 547 |
+
---
|
| 548 |
+
|
| 549 |
+
## ⚖️ Licenciamento
|
| 550 |
+
|
| 551 |
+
Cada dataset mantém **sua licença original**.
|
| 552 |
+
É responsabilidade do usuário verificar e respeitar os termos de uso de cada corpus.
|
| 553 |
+
Consulte os links das fontes listadas na [tabela](#📂-datasets-integrados) para mais detalhes.
|