| --- |
| license: cc-by-sa-4.0 |
| language: |
| - pl |
| task_categories: |
| - text-generation |
| pretty_name: GoLLeM Corpus 2B PL |
| size_categories: |
| - 1M<n<10M |
| tags: |
| - pretraining |
| - polish |
| - gollem |
| - from-scratch |
| --- |
| |
| # GoLLeM Corpus 2B PL |
|
|
| **Dokładny korpus treningowy** polskiego modelu bazowego |
| [`SlayerLab/GoLLeM-110M-PL-v3`](https://huggingface.co/SlayerLab/GoLLeM-110M-PL-v3) |
| (oraz v2) — ten sam zbiór, po którym model przeszedł **dwie epoki**. Publikujemy go, |
| aby każdy mógł **odtworzyć trening od zera** na własnym tokenizerze. |
|
|
| > **Jak powstał ten plik.** Korpus odzyskano przez **zdekodowanie** stokenizowanego |
| > checkpointu treningowego (byte-level BPE `dynaword-32k`, round-trip bezstratny; granice |
| > dokumentów = token `<|endoftext|>`). To jest **dokładnie** tekst, który model widział — |
| > nie rekonstrukcja ze źródeł. |
|
|
| ## Zawartość |
| | split | dokumenty | tokeny (proxy dynaword-32k) | |
| |---|---:|---:| |
| | train | 2 790 164 | 1 987 316 263 | |
| | validation | 14 021 | 10 123 670 | |
|
|
| Format: Parquet (zstd), kolumny `id` (int), `text` (str), `n_tokens` (int, w tokenizerze |
| dynaword-32k). Liczba tokenów jest orientacyjna — przy własnym tokenizerze przelicz sam; |
| liczba **dokumentów** jest tokenizer-agnostyczna. |
|
|
| ## Skład (cele, % tokenów) |
| - **~58% curated** (wiedza + literatura): Wikipedia, Wikisource, Wolne Lektury, 1000 Novels, |
| Wikiquote / Wikibooks / Wikinews / Wikivoyage, ELTeC-pol. |
| - **~42% web**: HPLT v3.0 PL (po czyszczeniu: strip boilerplate span+line, filtr jakości/języka). |
| - **Zero legalese** — świadomie wykluczone eur-lex / parlament / Dziennik Ustaw, by rejestr |
| prawny nie zdominował korpusu. |
|
|
| ## Jak używać |
| ```python |
| from datasets import load_dataset |
| ds = load_dataset("SlayerLab/gollem-corpus-2b-pl", split="train") |
| print(ds[0]["text"][:300]) |
| # ... następnie tokenizuj WŁASNYM tokenizerem i trenuj model bazowy |
| ``` |
|
|
| ## Zastrzeżenia (uczciwie) |
| - **Surowy korpus pretreningowy**, nie zbiór wyczyszczony pod czytelnika: część web zawiera |
| listy słów-kluczy, tagi itp. — to realne dane treningowe (42% HPLT). |
| - **Proweniencja agregatowa.** Ponieważ korpus odzyskano z jednolitego strumienia tokenów, |
| **etykiety źródła/licencji per dokument nie są zachowane** — udokumentowany jest jedynie skład |
| zbiorczy (wyżej). Jeśli potrzebujesz proweniencji per-źródło z datasheetami, użyj |
| [`SlayerLab/polish-dynaword`](https://huggingface.co/datasets/SlayerLab/polish-dynaword) |
| (z niego pochodzi warstwa curated). |
| - **PII scrubowane** na etapie treningu (telefon/email/PESEL/NIP → tagi) — korpus nie jest źródłem PII. |
| - Tokeny liczone tokenizerem `dynaword-32k` (proxy), nie liczbą słów/bajtów. |
|
|
| ## Licencja i atrybucja |
| **CC-BY-SA-4.0** (licencja dominująca, share-alike). Skład licencyjny źródeł: |
| Wikimedia (Wikipedia/Wikisource/Wiki*) — **CC-BY-SA-3.0**; Wolne Lektury — **CC-BY-SA-4.0 / |
| Wolna Sztuka 1.3**; 1000 Novels, ELTeC-pol — **CC-BY-4.0**; HPLT v3 (web) — **CC0-1.0**. |
| Użycie wymaga **atrybucji** (Wikimedia Foundation, Wolne Lektury, autorzy 1000 Novels, |
| HPLT / CLARIN-PL) oraz **share-alike** dla derywatów. |
| |
| ## Powiązania |
| - Model trenowany na tym korpusie: [`SlayerLab/GoLLeM-110M-PL-v3`](https://huggingface.co/SlayerLab/GoLLeM-110M-PL-v3) |
| - Warstwa curated / proweniencja per-źródło: [`SlayerLab/polish-dynaword`](https://huggingface.co/datasets/SlayerLab/polish-dynaword) |
| |
| **Autor:** Arkadiusz Słota / SlayerLab. |
| |
| --- |
| |
| ## English (summary) |
| |
| Exact pretraining corpus of **GoLLeM-110M-PL v2/v3** — the same data the model saw for two |
| epochs — released so anyone can **retrain from scratch** with their own tokenizer. Recovered by |
| **decoding** the tokenized training checkpoint (byte-level BPE, lossless round-trip; documents |
| split on `<|endoftext|>`), so it is *exactly* what the model was trained on. |
|
|
| **train** 2,790,164 docs / 1.99B tokens (dynaword-32k proxy); **validation** 14,021 docs. |
| Mix: ~58% curated (Wikimedia, Wolne Lektury, 1000 Novels, ELTeC) + ~42% cleaned HPLT v3 PL web; |
| **no legalese**. Raw pretraining data (web keyword-lists included). **Aggregate provenance only** |
| (per-document source/license labels are not preserved by the decode; for per-source datasheets use |
| `SlayerLab/polish-dynaword`). PII scrubbed during training. **CC-BY-SA-4.0**, attribution + |
| share-alike required. |
|
|
