# DEDUP TRUE-UNIQUE — FineWeb-clean vs korpus + OpenStax-MC residual

**Cel:** policzyć HONEST true-unique tokeny nowego FineWeb-clean (`en.parquet`) po dedup
względem istniejącego korpusu `minimal-en-corpus-5b`, oraz semantic-residual OpenStax-MC.
CPU-only. NIE merged do canonical. NIE git-commit.

Tokenizer: `gollem-v5-models/tokenizer.json` (nanogpt-12k, vocab 12288, `<|endoftext|>`=12285) —
**identyczny** z tokenizerem korpusu → liczby tokenów porównywalne.
Konwencja: tokeny/dok = `len(BPE.ids)+1` (jeden EOS/dok), zgodna z `fineweb_edu_clean.bin` i `train.bin`.

---

## Wynik (TL;DR)

| pozycja | docs | tokeny BPE-12k | status |
|---|---:|---:|---|
| **korpus istniejący** (minimal-en-corpus-5b train) | 3,968,467 | **5,396,605,407** | EXACT |
| **FineWeb NEW-unique** (po dedup vs korpus) | 2,337,970 | **2,756,248,149** | EXACT |
| **OpenStax final-clean** (po semantic) | ~50,529 chunk | **~35,115,180** | EST (−0.20%) |
| **TOTAL expanded-unique** | | **≈ 8,187,968,736 (~8.19B)** | |

**Czy ≥5B? → TAK**, z zapasem **+3.19B** (margines ~64% ponad próg).
fineweb-overlap-rate = **1.80%**.

---

## 1. Korpus istniejący — EXACT (nie ~2.70B)

`SlayerLab/minimal-en-corpus-5b`, split train:

- **5,396,605,407 tokenów**, 3,968,467 dokumentów.
- Potwierdzone 3× niezależnie: `data/train.idx` `idx[-1]` == `data/manifest.json` `train.tokens`
  == `train.bin_bytes/2` == `qa.json final_audit` (wszystkie się zgadzają, eos_count=3,968,467, jeden EOS/dok).

> ⚠️ Placeholder **„2.70B” z pivot-planu jest ~2× za niski** — 2.70B ≈ `tokeny/2`
> (2,698,302,703). Realny istniejący korpus to **5.40B**, więc total jest DUŻO powyżej 5B.

Korpus już zawiera fineweb-edu: **877,129 docs** (~1.101B tok, mixture-quota), `source_id=fineweb-edu`,
schemat id `fineweb-edu:sample-10BT:<dump>:<idx>` → **inny sample (10BT)** niż nowy en.parquet (100BT).

## 2. FineWeb NEW-unique — dedup en.parquet vs korpus-fineweb

- en.parquet: 2,384,000 docs → decontam-any8 dropped 3,184 → **clean = 2,380,816**.
- Dedup match: `OVERLAP` gdy `head-sha1(pierwsze 2000 norm-znaków)` **LUB** `tail-sha1(ostatnie 2000)`
  **LUB** `document_id` ∈ zbiór korpus-fineweb (877,129 id / 876,511 head / 875,987 tail sig).
  - normalizacja: lowercase + collapse-whitespace + strip.
  - **tail-sig złapał ~8% overlapów więcej niż sam head** (leading-boilerplate-trim w cleaning-v2 korpusu).
- **OVERLAP = 42,846 docs (1.7996%)** — sygnały: head=39,788, tail=40,595, document_id=**0**
  (schemat id 10BT≠100BT → cały overlap tylko przez content-hash).
- **NEW-unique = 2,337,970 docs = 2,756,248,149 tok**.
  - wyliczenie: `bin_total(2,813,489,953) − overlap(57,241,804)`.
  - **cross-walidacja (exact):** overlap-tokeny liczone z zakresów EOT-segmentów w
    `fineweb_edu_clean.bin` == overlap-tokeny z re-tokenizacji == 57,241,804. ✅

**Wniosek:** sample-10BT (korpus) i sample-100BT (en.parquet) to ~niezależne losowania —
tylko 1.80% en.parquet duplikuje korpus, **98.2% jest realnie nowe**.

## 3. OpenStax-MC semantic residual — EST

- pre-semantic (any8 clean): 50,630 chunk = **35,185,551 tok** (EXACT, odtworzone 1:1 z pipeline).
- semantic-gate: `all-MiniLM-L6-v2` (CPU), sentence-level max-cosine vs 78,963 protected-questions, drop ≥0.95.
- **próbka 6,000 chunk → 12 dropów (0.200%)**, Wilson-95%-CI [0.114%, 0.349%].
  12/12 trafień = cosine **1.0** (verbatim MC-pytania które przeszły any8 — dokładnie ten MC-residual co spot-check).
- ekstrapolacja: ~**101 chunk** (CI 58..177) ≈ **~70,371 tok** (0.20%) → pomijalne.
- **final-clean ≈ 35,115,180 tok** (EST).
  > Pełny embed (781k unikalnych zdań) za wolny na CPU → estymata z próbki (spójna ze spot-checkiem 1/500=0.2%).

## 4. TOTAL true-unique

```
5,396,605,407  (korpus istniejący, EXACT)
2,756,248,149  (FineWeb NEW-unique po dedup, EXACT)
   35,115,180  (OpenStax final-clean, EST)
─────────────
8,187,968,736  ≈ 8.19B   →  ≥5B: TAK (+3.19B)
```

Brak double-count: fineweb-new zdedupowane vs korpus-fineweb; korpus nie ma OpenStax (README source-list).
Cross-source dup (nowy-fineweb vs nie-fineweb w korpusie) poza zakresem / spodziewanie znikomy
(korpus przeszedł exact+near-dedup, qa.json duplicate_documents=0).

*Gdyby jednak „istniejący” miało oznaczać placeholder 2.70B: TOTAL = 5,491,363,329 (~5.49B) — nadal ≥5B.*

## 5. Artefakty (merge-remove ready)

- **`fineweb_overlap_docs.jsonl`** — 42,846 overlap-docs do usunięcia przy merge:
  `document_id`, `row` (en.parquet order = int po `fineweb-edu:`), `clean_ordinal`,
  oraz **dokładne zakresy w `fineweb_edu_clean.bin`**: `bin_token_start/end`, `bin_byte_start/end`, `n_tokens`.
  - uwaga: 1 dok (`fineweb-edu:1662841`, clean_ordinal 1,660,636) ma w surowym tekście literalny
    `<|endoftext|>` → rozpada się na 2 segmenty w binie (bin ma 2,380,817 EOS vs 2,380,816 docs);
    offsety w pliku **już scalają** oba segmenty. Suma `n_tokens` = 57,241,804 (zgodna).
- `fineweb_edu_clean.bin`, `openstax_clean.bin` — bez zmian (NIE merged).
- `dedup_report.json` — pełne metryki maszynowe.

## 6. Lekcja (dziennik)

Zadanie: HONEST true-unique nowego FineWeb-clean (en.parquet, 100BT) vs korpus minimal-en-corpus-5b. Wykonawca: DedupTrueUnique (CPU-only). Data: 2026-09-22.

- **10BT-korpus vs 100BT-en.parquet NIE są nested.** Intuicja „sample-10BT ⊂ sample-100BT" jest FAŁSZYWA dla FineWeb-Edu — to ~niezależne losowania. Zmierzony overlap = **1.80%** (42,846 / 2,380,816 docs), nie ~37% jaki dałoby zagnieżdżenie. → 98.2% en.parquet realnie nowe. Zawsze mierz overlap empirycznie, nie zakładaj z nazw sampli.
- **head+tail content-hash > head-only.** Sam sha1(pierwsze-2000-znaków) gubi overlapy gdy cleaning-v2 przyciął boilerplate na początku doc. Dodanie sha1(ostatnie-2000) złapało **~8% overlapów więcej**. Dla cross-corpus dedup dwa okna (head+tail) > jedno.
- **document_id bezużyteczne cross-corpus.** Korpus: `fineweb-edu:sample-10BT:<dump>:<idx>`; en.parquet: `fineweb-edu:<row>`. Zero id-matchy → cały overlap tylko przez content-hash. Nie ufaj że dwa dumpy tej samej proweniencji dzielą schemat id.
- **Double-correction corpus-count: 2.70B był 2× za niski.** Placeholder „2.70B istniejący" ≈ tokeny/2 (2,698,302,703). Realny korpus = **5,396,605,407** (train.idx idx[-1] = manifest = train.bin_bytes/2 = qa.json, zgodne 3×). Zawsze potwierdź token-count z indeksu/binu, nie z zaokrąglenia w planie.
- **Walidacja przez niezależną ścieżkę.** overlap-tokeny policzone 2×: (a) re-tokenizacja overlap-docs, (b) suma zakresów EOT-segmentów w binie — exact match (57,241,804). Przy tym wyszedł 1 embedded-`<|endoftext|>` w surowym tekście (fineweb-edu:1662841) → bin ma o 1 EOS więcej niż docs; alignment trzeba było skorygować w punkcie split.
- **CPU semantic = próbka, nie full.** Pełny embed 781k zdań OpenStax za wolny (timeout). Próbka 6000 chunk dała drop 0.20% (CI 0.11–0.35%), spójne ze spot-checkiem 1/500. Gdy komponent jest drugorzędny (35M z 8.19B), estymata z próbki > blokowanie całości.