README.md

---
license: other
license_name: mixed-per-source
language:
  - pt
pretty_name: "GAIA-EDU Corpus RAG (gold) v2"
tags:
  - education
  - portuguese
  - brazil
  - rag
configs:
  - config_name: default
    data_files: "data/*.parquet"
    default: true
---

# GAIA-EDU Corpus RAG (gold) v2

## TL;DR

Corpus educacional brasileiro (PT-BR) pronto para RAG (Retrieval-Augmented
Generation) — camada **gold** do pipeline GAIA Task 02: chunks
sentence-aware com metadados completos e linhagem char-level até o
documento de origem (camada **silver**, `orlowf/gaia-edu-corpus-clean`).
**52945 chunks**, 9 fontes.

## Schema (27 colunas)

| Coluna | Tipo | Descrição |
|---|---|---|
| `chunk_id` | string | `{doc_id}#c{index:04d}` |
| `doc_id` | string | `doc_id` do documento de origem (silver) |
| `chunk_index` | int | Índice do chunk dentro do documento |
| `parent_chunk_id` | string\|null | Chunk pai, quando aplicável |
| `chunk_type` | string | `conteudo`\|`texto_base`\|`questao`\|`tema`\|`redacao`\|`habilidade`\|`secao`\|`exercicio`\|`solucao`\|`poesia`\|`resumo` |
| `header` | string | Cabeçalho determinístico (fonte/matéria/nível/título/seção) |
| `body` | string | Corpo do chunk |
| `texto` | string | `header + "\n\n" + contexto + "\n\n" + body` quando `contexto` é não-nulo; `header + "\n\n" + body` caso contrário — campo embeddável; `n_tokens` conta sobre ele |
| `contexto` | string\|null | Frase de contexto gerada por LLM (contextual retrieval): situa o chunk na obra. Populada nas fontes de livro/didáticas (dominio-publico, gutenberg-pt, wikilivros, obmep); `null` nas fontes atômicas e em navegação/RECITATION (ver Limitações). Desde a v2.3.0 também está EMBUTIDO em `texto`; a coluna é mantida para recombinações |
| `secao_path` | string\|null | Caminho de heading, unido por " > " |
| `char_start` | int\|null | Offset inicial do `body` no `text_md` do doc de origem |
| `char_end` | int\|null | Offset final do `body` no `text_md` do doc de origem |
| `n_tokens` | int | Nº de tokens de `texto` (tokenizer `BAAI/bge-m3`) — inclui o contexto quando presente; pode exceder 768 nesses casos (a disciplina de chunking é medida sobre `header`+`body` no gate) |
| `tokenizer` | string | `BAAI/bge-m3` |
| `n_chars` | int | Nº de caracteres de `texto` |
| `overlap_prev_tokens` | int | Overlap com o chunk anterior (0 em atômicos) |
| `source` | string | Fonte de origem |
| `titulo_obra` | string\|null | Título do documento de origem |
| `autor` | string\|null | Autor, quando aplicável |
| `ano` | int\|null | Ano, quando aplicável |
| `materia` | string\|null | Matéria/disciplina, quando aplicável |
| `nivel` | string | Nível de ensino |
| `url` | string\|null | URL de origem, quando aplicável |
| `licenca` | string | Identificador da licença/fonte legal |
| `estrategia` | string | Estratégia de chunking aplicada (`configs/chunking.yaml`) |
| `flags` | list[string] | Flags de QA (ex.: `oversized_atomic`, `atomico_curto`, `orphan_kept`) |
| `pipeline_version` | string | Short SHA do commit que gerou o chunk |

## Fontes

| Fonte | Docs | Chunks | Estratégia de chunking | p50 tokens |
|---|---:|---:|---|---:|
| aes-enem | 614 | 667 | redacao-atomica | 465 |
| bluex | 812 | 812 | questao-atomica | 347 |
| bncc | 3 | 1523 | habilidade-atomica | 91 |
| dominio-publico | 412 | 25104 | md-sent-600-o80 | 628 |
| enem | 763 | 774 | questao-atomica | 305 |
| gutenberg-pt | 49 | 11323 | md-sent-600-o80 | 609 |
| obmep | 18 | 2178 | estrutural-fallback-md-sent-600-o80 | 292 |
| scielo | 195 | 196 | resumo-atomico | 192 |
| wikilivros | 1993 | 10368 | secao-o50 | 367 |

## Linhagem

- Documento de origem: `orlowf/gaia-edu-corpus-clean` @ tag `v1.1.0`.
- Offsets char-level (`char_start`/`char_end`) permitem rastrear qualquer chunk de volta ao trecho exato do `text_md` do documento silver correspondente.
- `chunk_id` é determinístico: `{doc_id}#c{index:04d}`.
- Fingerprint de integridade dos chunk_ids: `34498310baf1f0b0` (campo `sha256_chunk_ids` do `manifest.json`) — inalterado desde a v2.1.0 (os ids não mudam nesta release). Atenção: identifica o CONJUNTO de ids, não o conteúdo — pinar sempre a tag/revision.

## Comparação v1 (baseline) vs v2 (gold atual)

| Check | Baseline v1 | Gold v2 |
|---|---|---|
| Total de chunks | 8135 | 52945 |
| HARD FAILS | 7/14 | 0/14 |
| 1. Glifos url-safe no corpo | FALHOU | OK |
| 2. TOC pontilhado¹ | FALHOU | OK (allowlist de 3 obras) |
| 4. Hifenização quebrada | FALHOU | OK |
| 5. Caracteres de controle | FALHOU | OK |
| 8. Duplicatas pós-dedup | FALHOU | OK |
| 9. `n_tokens_base` (header+body) > 768 fora de atômico | FALHOU | OK |
| 12. Metadados obrigatórios 100% | FALHOU | OK |

¹ **Nota metodológica obrigatória**: o check 2 (TOC pontilhado) no baseline
foi medido com uma régua **sem âncora** (regex sem exigir número de página
no fim da linha), enquanto o gold atual usa uma régua **ancorada**. As duas
medições não usam a mesma régua — a melhoria ilustra a direção da correção,
mas não é uma comparação estritamente apples-to-apples.

## Como carregar

```python
import pandas as pd

df = pd.read_parquet(
    "hf://datasets/orlowf/gaia-edu-corpus-rag@v2.3.0/data/enem.parquet"
)

from datasets import load_dataset
ds = load_dataset("orlowf/gaia-edu-corpus-rag", revision="v2.3.0")
```

## Changelog

- **v2.3.0** (2026-08-21): `contexto` EMBUTIDO em `texto` nos
  43740 chunks com contexto (82,6%);
  `n_tokens`/`n_chars` recomputados; `body`, `chunk_id`s, ordem e
  fingerprint inalterados; 139 chunks passam de
  768 tokens em `texto` (a disciplina de chunking segue medida sobre
  header+body no gate) — 52945 chunks, 0/14
  hard fails no gate.
- **v2.2.0** (2026-07-15): coluna `contexto` populada em 82,6%
  dos chunks (contextual retrieval: sinopse + vizinhos via
  `gemini-3.1-flash-lite`, validação humana 30/30 fiéis nos livros e 77/80
  em wikilivros/obmep) — 52945 chunks, 0/14
  hard fails no gate. Corpo dos chunks inalterado desde a v2.1.0.
- **v2.1.0** (2026-07-08): correções pós-validação manual —
  matéria do SciELO re-classificada por título+resumo (Biologia 60→7);
  193 chunks de navegação pura do Wikilivros descartados; separadores
  decorativos do Domínio Público normalizados; allowlist do gate de TOC
  migrada para `doc_id` (estável entre re-chunks) — 52945
  chunks, 0/14 hard fails no gate.
- **v2.0.0** (2026-07-03): re-extração com roteamento OCR/text-layer por
  página, re-chunking sentence-aware com metadados completos — 53142
  chunks (vs. 8135 no v1), 0/14 hard fails no gate
  (vs. 7/14 no v1).
- **v1.0.0**: corpus antigo, pinado como referência em
  `CEIA-GAIA-EDU/gaia-edu-corpus-rag` @ sha `f6c9afe5f4b71776b6369f40189f39eab54b94a0`.

## Limitações

- **47 questões do ENEM 2021 excluídas** por corrupção residual não reparável no texto de origem — lista completa em `manifest.json` (`enem_excluidas`).
- **`contexto` cobre 82,6% dos chunks** (43740/52945): gerado por `gemini-3.1-flash-lite` com sinopse da obra + chunks vizinhos (prompt v2/fontes-v1.1, validação humana: 30/30 fiéis nos livros, 77/80 nas demais — ver `reports/context_llm.md` e `reports/handoff_contextual_fontes.md`). É `null` nas fontes atômicas (enem, bluex, bncc, scielo, aes-enem — chunk já autocontido), em 547 chunks de navegação do wikilivros e em 31 chunks bloqueados por RECITATION. Desde a v2.3.0 o `contexto` ESTÁ embutido em `texto` — para embeddar sem contexto, use `header`+`body` (ou só `body`).
- **LUME/UFRGS ausente** — 0 chunks nesta versão, por decisão de escopo: são teses/dissertações de nível superior, fora do público-alvo escolar do tutor (ver `reports/decisoes.md`, 2026-07-07).

## Citações

```bibtex
@misc{aes_enem_kamel_usp,
  title = {AES-ENEM Dataset},
  author = {kamel-usp},
  howpublished = {Hugging Face Hub},
  url = {https://huggingface.co/datasets/kamel-usp/aes_enem_dataset}
}

@misc{bluex2023,
  title = {BLUEX: A benchmark based on Brazilian Leading Universities Entrance eXams},
  author = {Almeida, Thales Sales and Abonizio, Hugo and Nogueira, Rodrigo and Pires, Ramon},
  year = {2023},
  eprint = {2307.05410},
  archivePrefix = {arXiv}
}
```