--- license: cc-by-sa-4.0 language: - pt task_categories: - text-generation pretty_name: wiki_brazil configs: - config_name: original data_files: - split: train path: data/original/*.parquet - config_name: article_pt data_files: - split: train path: data/article_pt/*.parquet - config_name: commentary_pt data_files: - split: train path: data/commentary_pt/*.parquet - config_name: discussion_pt data_files: - split: train path: data/discussion_pt/*.parquet - config_name: explanation_pt data_files: - split: train path: data/explanation_pt/*.parquet - config_name: faq_pt data_files: - split: train path: data/faq_pt/*.parquet - config_name: math_pt data_files: - split: train path: data/math_pt/*.parquet - config_name: narrative_pt data_files: - split: train path: data/narrative_pt/*.parquet - config_name: table_pt data_files: - split: train path: data/table_pt/*.parquet - config_name: tutorial_pt data_files: - split: train path: data/tutorial_pt/*.parquet --- # wiki_brazil Dataset em portugues derivado de conteudos da Wikipedia em portugues, com um subset para os textos originais e subsets separados para reescritas sinteticas. Repositorio alvo: `gregassagraf/wiki_brazil`. Visibilidade pretendida no Hugging Face Hub: `private`. ## Subsets - `original`: 1,617 rows in 1 shard(s). - `article_pt`: 1,879 rows in 1 shard(s). - `commentary_pt`: 1,879 rows in 1 shard(s). - `discussion_pt`: 1,879 rows in 1 shard(s). - `explanation_pt`: 1,879 rows in 1 shard(s). - `faq_pt`: 1,879 rows in 1 shard(s). - `math_pt`: 1,879 rows in 1 shard(s). - `narrative_pt`: 1,879 rows in 1 shard(s). - `table_pt`: 1,879 rows in 1 shard(s). - `tutorial_pt`: 1,879 rows in 1 shard(s). ## Schema Todos os subsets usam o mesmo schema: | coluna | tipo | descricao | | --- | --- | --- | | `id` | string | Identificador do registro original. | | `title` | string | Titulo do artigo no subset `original`; nulo nas reescritas. | | `text` | string | Texto original ou texto reescrito, dependendo do subset. | | `subset` | string | Nome do subset/config. | | `prompt_id` | string | Prompt de reescrita; nulo no subset `original`. | ## Preparacao - O subset `original` foi produzido a partir de `original/train.parquet`. - Os subsets de reescrita foram produzidos a partir de `prompt_id=*/status=ok/*.parquet`. - Registros com `status=failed` ou `status=rejected` nao foram publicados. - Os textos originais ficam exclusivamente no subset `original`. - Os subsets de reescrita contem apenas o texto reescrito correspondente. ## Licenca O dataset deve manter compatibilidade com a licenca da Wikipedia, normalmente CC BY-SA. Verifique e preserve as obrigacoes de atribuicao e compartilhamento pela mesma licenca ao redistribuir ou derivar estes dados.