Dataset de acórdãos do STF preparado para continuous pre-training (CPT), com foco em textos jurídicos e preservação da cauda final dos documentos longos (parte 2, parte 3, etc.).

Origem dos dados

Fonte pública: https://dadosabertos.c3sl.ufpr.br/acordaos/json/

Arquivos de origem utilizados:

DocumentosAcordaos.json
AcordaosVotos.json
AcordaosRelatorios.json

Construção

Fonte canônica: DocumentosAcordaos.json
Labels incluídos: integra, voto, relatorio
Tokenizer: Qwen/Qwen3-8B
Chunk target: 2048
Faixa final alvo: 1600-2600
Overlap: 128
Split: 99/1 (train/val)
Deduplicação: SHA256 de texto normalizado
Preservação de cauda: ativa para documentos longos

Estatísticas principais (versão atual)

Total de linhas: 209359
Distribuição por label:
- integra: 152221
- voto: 44104
- relatorio: 13034
Split:
- train: 207140
- val: 2219
Tokens (global): min=129 p50=2048 p99=2466 max=2600

Arquivos

data/train.parquet: split de treino do dataset CPT
data/validation.parquet: split de validação do dataset CPT
data/cpt_mixed_2048.parquet: dataset CPT completo (com coluna split)
data/documentos_metadata.parquet: metadados normalizados de DocumentosAcordaos
reports/build_stats.json: estatísticas de construção
reports/consistency_report.json: validação de consistência entre dumps
reports/quality_report.json: métricas de qualidade
reports/quality_summary.md: resumo das métricas
reports/quality_samples.jsonl: amostras de inspeção

Observações

Este repositório contém dados públicos e transformações mínimas para uso em NLP jurídico.
Recomenda-se revisar a política de uso, licenciamento e privacidade antes de uso em produção.

Downloads last month: 9

Total file size:

698 MB