Hugging Face's logo

Datasets:
CEIA-GAIA-EDU
/
gaia-edu-corpus-rag-v2

Modalities:
Tabular
Text
Formats:
parquet
Languages:
Portuguese
Size:
10K - 100K
ArXiv:
Tags:
education
portuguese
brazil
rag
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
gaia-edu-corpus-rag-v2 / README.md
orlowf's picture
orlowf
espelho byte a byte de orlowf/gaia-edu-corpus-rag@v2.3.0
236e24e verified
preview code
|
Raw
History Blame Contribute Delete
8.25 kB
metadata 
license: other
license_name: mixed-per-source
language:
  - pt
pretty_name: GAIA-EDU Corpus RAG (gold) v2
tags:
  - education
  - portuguese
  - brazil
  - rag
configs:
  - config_name: default
    data_files: data/*.parquet
    default: true

GAIA-EDU Corpus RAG (gold) v2

TL;DR

Corpus educacional brasileiro (PT-BR) pronto para RAG (Retrieval-Augmented Generation) — camada gold do pipeline GAIA Task 02: chunks sentence-aware com metadados completos e linhagem char-level até o documento de origem (camada silver, orlowf/gaia-edu-corpus-clean). 52945 chunks, 9 fontes.

Schema (27 colunas)

Coluna Tipo Descrição
chunk_id string {doc_id}#c{index:04d}
doc_id string doc_id do documento de origem (silver)
chunk_index int Índice do chunk dentro do documento
parent_chunk_id string|null Chunk pai, quando aplicável
chunk_type string conteudo|texto_base|questao|tema|redacao|habilidade|secao|exercicio|solucao|poesia|resumo
header string Cabeçalho determinístico (fonte/matéria/nível/título/seção)
body string Corpo do chunk
texto string header + "\n\n" + contexto + "\n\n" + body quando contexto é não-nulo; header + "\n\n" + body caso contrário — campo embeddável; n_tokens conta sobre ele
contexto string|null Frase de contexto gerada por LLM (contextual retrieval): situa o chunk na obra. Populada nas fontes de livro/didáticas (dominio-publico, gutenberg-pt, wikilivros, obmep); null nas fontes atômicas e em navegação/RECITATION (ver Limitações). Desde a v2.3.0 também está EMBUTIDO em texto; a coluna é mantida para recombinações
secao_path string|null Caminho de heading, unido por " > "
char_start int|null Offset inicial do body no text_md do doc de origem
char_end int|null Offset final do body no text_md do doc de origem
n_tokens int Nº de tokens de texto (tokenizer BAAI/bge-m3) — inclui o contexto quando presente; pode exceder 768 nesses casos (a disciplina de chunking é medida sobre header+body no gate)
tokenizer string BAAI/bge-m3
n_chars int Nº de caracteres de texto
overlap_prev_tokens int Overlap com o chunk anterior (0 em atômicos)
source string Fonte de origem
titulo_obra string|null Título do documento de origem
autor string|null Autor, quando aplicável
ano int|null Ano, quando aplicável
materia string|null Matéria/disciplina, quando aplicável
nivel string Nível de ensino
url string|null URL de origem, quando aplicável
licenca string Identificador da licença/fonte legal
estrategia string Estratégia de chunking aplicada (configs/chunking.yaml)
flags list[string] Flags de QA (ex.: oversized_atomic, atomico_curto, orphan_kept)
pipeline_version string Short SHA do commit que gerou o chunk

Fontes

Fonte Docs Chunks Estratégia de chunking p50 tokens
aes-enem 614 667 redacao-atomica 465
bluex 812 812 questao-atomica 347
bncc 3 1523 habilidade-atomica 91
dominio-publico 412 25104 md-sent-600-o80 628
enem 763 774 questao-atomica 305
gutenberg-pt 49 11323 md-sent-600-o80 609
obmep 18 2178 estrutural-fallback-md-sent-600-o80 292
scielo 195 196 resumo-atomico 192
wikilivros 1993 10368 secao-o50 367

Linhagem

  • Documento de origem: orlowf/gaia-edu-corpus-clean @ tag v1.1.0.
  • Offsets char-level (char_start/char_end) permitem rastrear qualquer chunk de volta ao trecho exato do text_md do documento silver correspondente.
  • chunk_id é determinístico: {doc_id}#c{index:04d}.
  • Fingerprint de integridade dos chunk_ids: 34498310baf1f0b0 (campo sha256_chunk_ids do manifest.json) — inalterado desde a v2.1.0 (os ids não mudam nesta release). Atenção: identifica o CONJUNTO de ids, não o conteúdo — pinar sempre a tag/revision.

Comparação v1 (baseline) vs v2 (gold atual)

Check Baseline v1 Gold v2
Total de chunks 8135 52945
HARD FAILS 7/14 0/14
1. Glifos url-safe no corpo FALHOU OK
2. TOC pontilhado¹ FALHOU OK (allowlist de 3 obras)
4. Hifenização quebrada FALHOU OK
5. Caracteres de controle FALHOU OK
8. Duplicatas pós-dedup FALHOU OK
9. n_tokens_base (header+body) > 768 fora de atômico FALHOU OK
12. Metadados obrigatórios 100% FALHOU OK

¹ Nota metodológica obrigatória: o check 2 (TOC pontilhado) no baseline foi medido com uma régua sem âncora (regex sem exigir número de página no fim da linha), enquanto o gold atual usa uma régua ancorada. As duas medições não usam a mesma régua — a melhoria ilustra a direção da correção, mas não é uma comparação estritamente apples-to-apples.

Como carregar 

import pandas as pd

df = pd.read_parquet(
    "hf://datasets/orlowf/gaia-edu-corpus-rag@v2.3.0/data/enem.parquet"
)

from datasets import load_dataset
ds = load_dataset("orlowf/gaia-edu-corpus-rag", revision="v2.3.0")

Changelog

  • v2.3.0 (2026-08-21): contexto EMBUTIDO em texto nos 43740 chunks com contexto (82,6%); n_tokens/n_chars recomputados; body, chunk_ids, ordem e fingerprint inalterados; 139 chunks passam de 768 tokens em texto (a disciplina de chunking segue medida sobre header+body no gate) — 52945 chunks, 0/14 hard fails no gate.
  • v2.2.0 (2026-07-15): coluna contexto populada em 82,6% dos chunks (contextual retrieval: sinopse + vizinhos via gemini-3.1-flash-lite, validação humana 30/30 fiéis nos livros e 77/80 em wikilivros/obmep) — 52945 chunks, 0/14 hard fails no gate. Corpo dos chunks inalterado desde a v2.1.0.
  • v2.1.0 (2026-07-08): correções pós-validação manual — matéria do SciELO re-classificada por título+resumo (Biologia 60→7); 193 chunks de navegação pura do Wikilivros descartados; separadores decorativos do Domínio Público normalizados; allowlist do gate de TOC migrada para doc_id (estável entre re-chunks) — 52945 chunks, 0/14 hard fails no gate.
  • v2.0.0 (2026-07-03): re-extração com roteamento OCR/text-layer por página, re-chunking sentence-aware com metadados completos — 53142 chunks (vs. 8135 no v1), 0/14 hard fails no gate (vs. 7/14 no v1).
  • v1.0.0: corpus antigo, pinado como referência em CEIA-GAIA-EDU/gaia-edu-corpus-rag @ sha f6c9afe5f4b71776b6369f40189f39eab54b94a0.

Limitações

  • 47 questões do ENEM 2021 excluídas por corrupção residual não reparável no texto de origem — lista completa em manifest.json (enem_excluidas).
  • contexto cobre 82,6% dos chunks (43740/52945): gerado por gemini-3.1-flash-lite com sinopse da obra + chunks vizinhos (prompt v2/fontes-v1.1, validação humana: 30/30 fiéis nos livros, 77/80 nas demais — ver reports/context_llm.md e reports/handoff_contextual_fontes.md). É null nas fontes atômicas (enem, bluex, bncc, scielo, aes-enem — chunk já autocontido), em 547 chunks de navegação do wikilivros e em 31 chunks bloqueados por RECITATION. Desde a v2.3.0 o contexto ESTÁ embutido em texto — para embeddar sem contexto, use header+body (ou só body).
  • LUME/UFRGS ausente — 0 chunks nesta versão, por decisão de escopo: são teses/dissertações de nível superior, fora do público-alvo escolar do tutor (ver reports/decisoes.md, 2026-07-07).

Citações 

@misc{aes_enem_kamel_usp,
  title = {AES-ENEM Dataset},
  author = {kamel-usp},
  howpublished = {Hugging Face Hub},
  url = {https://huggingface.co/datasets/kamel-usp/aes_enem_dataset}
}

@misc{bluex2023,
  title = {BLUEX: A benchmark based on Brazilian Leading Universities Entrance eXams},
  author = {Almeida, Thales Sales and Abonizio, Hugo and Nogueira, Rodrigo and Pires, Ramon},
  year = {2023},
  eprint = {2307.05410},
  archivePrefix = {arXiv}
}