Hugging Face's logo

Datasets:
SlayerLab
/
gollem-corpus-2b-pl

Tasks:
Text Generation
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Polish
Size:
1M - 10M
Tags:
pretraining
polish
gollem
from-scratch
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
gollem-corpus-2b-pl / README.md
Maggio33's picture
Maggio33
GoLLeM Corpus 2B PL: zstd, shuffled (seed=42), single clean version
d2e00f4
preview code
|
Raw History Blame Contribute Delete
4.31 kB
metadata 
license: cc-by-sa-4.0
language:
  - pl
task_categories:
  - text-generation
pretty_name: GoLLeM Corpus 2B PL
size_categories:
  - 1M<n<10M
tags:
  - pretraining
  - polish
  - gollem
  - from-scratch

GoLLeM Corpus 2B PL

Dokładny korpus treningowy polskiego modelu bazowego SlayerLab/GoLLeM-110M-PL-v3 (oraz v2) — ten sam zbiór, po którym model przeszedł dwie epoki. Publikujemy go, aby każdy mógł odtworzyć trening od zera na własnym tokenizerze.

Jak powstał ten plik. Korpus odzyskano przez zdekodowanie stokenizowanego checkpointu treningowego (byte-level BPE dynaword-32k, round-trip bezstratny; granice dokumentów = token <|endoftext|>). To jest dokładnie tekst, który model widział — nie rekonstrukcja ze źródeł.

Zawartość

split dokumenty tokeny (proxy dynaword-32k)
train 2 790 164 1 987 316 263
validation 14 021 10 123 670

Format: Parquet (zstd), kolumny id (int), text (str), n_tokens (int, w tokenizerze dynaword-32k). Liczba tokenów jest orientacyjna — przy własnym tokenizerze przelicz sam; liczba dokumentów jest tokenizer-agnostyczna.

Skład (cele, % tokenów)

  • ~58% curated (wiedza + literatura): Wikipedia, Wikisource, Wolne Lektury, 1000 Novels, Wikiquote / Wikibooks / Wikinews / Wikivoyage, ELTeC-pol.
  • ~42% web: HPLT v3.0 PL (po czyszczeniu: strip boilerplate span+line, filtr jakości/języka).
  • Zero legalese — świadomie wykluczone eur-lex / parlament / Dziennik Ustaw, by rejestr prawny nie zdominował korpusu.

Jak używać 

from datasets import load_dataset
ds = load_dataset("SlayerLab/gollem-corpus-2b-pl", split="train")
print(ds[0]["text"][:300])
# ... następnie tokenizuj WŁASNYM tokenizerem i trenuj model bazowy

Zastrzeżenia (uczciwie)

  • Surowy korpus pretreningowy, nie zbiór wyczyszczony pod czytelnika: część web zawiera listy słów-kluczy, tagi itp. — to realne dane treningowe (42% HPLT).
  • Proweniencja agregatowa. Ponieważ korpus odzyskano z jednolitego strumienia tokenów, etykiety źródła/licencji per dokument nie są zachowane — udokumentowany jest jedynie skład zbiorczy (wyżej). Jeśli potrzebujesz proweniencji per-źródło z datasheetami, użyj SlayerLab/polish-dynaword (z niego pochodzi warstwa curated).
  • PII scrubowane na etapie treningu (telefon/email/PESEL/NIP → tagi) — korpus nie jest źródłem PII.
  • Tokeny liczone tokenizerem dynaword-32k (proxy), nie liczbą słów/bajtów.

Licencja i atrybucja

CC-BY-SA-4.0 (licencja dominująca, share-alike). Skład licencyjny źródeł: Wikimedia (Wikipedia/Wikisource/Wiki*) — CC-BY-SA-3.0; Wolne Lektury — CC-BY-SA-4.0 / Wolna Sztuka 1.3; 1000 Novels, ELTeC-pol — CC-BY-4.0; HPLT v3 (web) — CC0-1.0. Użycie wymaga atrybucji (Wikimedia Foundation, Wolne Lektury, autorzy 1000 Novels, HPLT / CLARIN-PL) oraz share-alike dla derywatów.

Powiązania

Autor: Arkadiusz Słota / SlayerLab.

English (summary)

Exact pretraining corpus of GoLLeM-110M-PL v2/v3 — the same data the model saw for two epochs — released so anyone can retrain from scratch with their own tokenizer. Recovered by decoding the tokenized training checkpoint (byte-level BPE, lossless round-trip; documents split on <|endoftext|>), so it is exactly what the model was trained on.

train 2,790,164 docs / 1.99B tokens (dynaword-32k proxy); validation 14,021 docs. Mix: ~58% curated (Wikimedia, Wolne Lektury, 1000 Novels, ELTeC) + ~42% cleaned HPLT v3 PL web; no legalese. Raw pretraining data (web keyword-lists included). Aggregate provenance only (per-document source/license labels are not preserved by the decode; for per-source datasheets use SlayerLab/polish-dynaword). PII scrubbed during training. CC-BY-SA-4.0, attribution + share-alike required.