---
language:
- pt
license: cc-by-4.0
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train.parquet
  - split: validation
    path: data/validation.parquet
- config_name: metadata
  data_files:
  - split: train
    path: data/documentos_metadata.parquet
task_categories:
- text-generation
pretty_name: STF Acordaos CPT 2048
tags:
- brazil
- law
- stf
- legal-text
- pretraining
size_categories:
- 100K<n<1M
---

# STF Acordaos CPT 2048

Dataset de acórdãos do STF preparado para continuous pre-training (CPT), com foco em textos jurídicos e preservação da cauda final dos documentos longos (parte 2, parte 3, etc.).

## Origem dos dados

Fonte pública: https://dadosabertos.c3sl.ufpr.br/acordaos/json/

Arquivos de origem utilizados:
- `DocumentosAcordaos.json`
- `AcordaosVotos.json`
- `AcordaosRelatorios.json`

## Construção

- Fonte canônica: `DocumentosAcordaos.json`
- Labels incluídos: `integra`, `voto`, `relatorio`
- Tokenizer: `Qwen/Qwen3-8B`
- Chunk target: 2048
- Faixa final alvo: 1600-2600
- Overlap: 128
- Split: 99/1 (`train`/`val`)
- Deduplicação: SHA256 de texto normalizado
- Preservação de cauda: ativa para documentos longos

## Estatísticas principais (versão atual)

- Total de linhas: 209359
- Distribuição por label:
  - integra: 152221
  - voto: 44104
  - relatorio: 13034
- Split:
  - train: 207140
  - val: 2219
- Tokens (global): min=129 p50=2048 p99=2466 max=2600

## Arquivos

- `data/train.parquet`: split de treino do dataset CPT
- `data/validation.parquet`: split de validação do dataset CPT
- `data/cpt_mixed_2048.parquet`: dataset CPT completo (com coluna `split`)
- `data/documentos_metadata.parquet`: metadados normalizados de `DocumentosAcordaos`
- `reports/build_stats.json`: estatísticas de construção
- `reports/consistency_report.json`: validação de consistência entre dumps
- `reports/quality_report.json`: métricas de qualidade
- `reports/quality_summary.md`: resumo das métricas
- `reports/quality_samples.jsonl`: amostras de inspeção

## Observações

- Este repositório contém dados públicos e transformações mínimas para uso em NLP jurídico.
- Recomenda-se revisar a política de uso, licenciamento e privacidade antes de uso em produção.