Datasets:

---

SlayerLab

/

polish-dynaword

Like 24

Follow

Fabryka AI 84

Add Wiadomosci Statystyczne (The Polish Statistician) CC BY-SA 4.0 Polish articles

Adds wiadomosci_statystyczne_pl: 169 records and 1,506,269 measured cl100k_base proxy tokens from a deterministic enumeration of the official GUS journal portal.

Source dataset: https://huggingface.co/datasets/PiotrSty/wiadomosci-statystyczne-pl-articles/tree/078ecdc38e8227faff1769f3ad7f080f44a44bef

What the texts are

Genre: peer-reviewed statistics-journal content - research articles ("Statystyka w praktyce"), statistics-history articles ("Z dziejów statystyki"), conference reports/reviews ("Dyskusje. Recenzje. Informacje"), obituaries ("In memoriam"); one record per article. Register: formal academic written Polish with PL/EN abstracts, JEL classes, tables and reference lists; bilingual headings; author bylines and affiliations are published credits. Time span: 2022-2026 (the per-article CC BY-SA 4.0 grant starts 2022-01-01). Born-digital publisher PDFs, not OCR'd, not machine-translated.

Sample (verbatim, from the built shard)

Research article:

id: wiadomosci_statystyczne_pl_2023_11_023-047
source: wiadomosci_statystyczne_pl
added: 2026-09-10
created: 2023-11-30
token_count: 21113
license: CC-BY-SA-4.0
author: Elżbieta Antczak; Agnieszka Rzeńca; Agnieszka Sobol

Statystyka w praktyce / Statistics in practice
Zgłoszony/submitted: 14.12.2022, poprawiony/revised: 8.08.2023, zaakceptowany/accepted: 21.09.2023
Zielone miasta w Polsce – analiza porównawcza na podstawie agregatowego miernika rozwoju

Elżbieta Antczaka, Agnieszka Rzeńcab, Agnieszka Sobolc

Streszczenie. Idea zielonego miasta ma na celu wpisanie uwarunkowań środowiskowych w fundamenty strategii jego rozwoju, budowanie równowagi przyrodniczej i odporności klimatycznej oraz stymulowanie zielonej transformacji terenów miejskich. Zazielenianie miast polega na wyborze priorytetów i działań zapewniających wysoki poziom jakości życia i ochronę środowiska oraz ograniczenie ryzyka i zagrożeń powodowanych przez zmiany klimatu. Celem badania omawianego w artykule jest ocena stopnia zazielenienia […]

Conference report (note the per-article license line, kept in the text as evidence):

id: wiadomosci_statystyczne_pl_2023_10_071-079
source: wiadomosci_statystyczne_pl
added: 2026-09-10
created: 2023-10-31
token_count: 8223
license: CC-BY-SA-4.0
author: Krzysztof Malaga; Jarogniew Rykowski; Marcin Szymkowiak; Krzysztof Węcel

Dyskusje. Recenzje. Informacje / Discussions. Reviews. Information

© Krzysztof Malaga, Jarogniew Rykowski, Marcin Szymkowiak, Krzysztof Węcel
Artykuł udostępniony na licencji CC BY-SA 4.0 / Article available under the CC BY-SA 4.0 licence

XII Ogólnopolska Konferencja Naukowa im. Profesora Zbigniewa Czerwińskiego
„Matematyka i informatyka na usługach ekonomii”
The 12th Professor Zbigniew Czerwiński
National Scientific Conference
‘Mathematics and IT at the services of economics’

22 września 2023 r. odbyła się XII Ogólnopolska Konferencja Naukowa im. Profesora Zbigniewa Czerwińskiego poświęcona zastosowaniom metod matematycznych i statystycznych oraz informatyki w ekonomii. Konferencja została zorganizowana przez Instytut Informatyki i Ekonometrii Ilościowej (IIEI) Uniwersytetu Ekonomicznego […]

History-of-statistics article:

id: wiadomosci_statystyczne_pl_2024_9_061-077
source: wiadomosci_statystyczne_pl
added: 2026-09-10
created: 2024-09-30
token_count: 16232
license: CC-BY-SA-4.0
author: Józef Pociecha; Krzysztof Jajuga; Marek Walesiak

Z dziejów statystyki / From the history of statistics
Zgłoszony/submitted: 8.12.2023, poprawiony/revised: 23.02.2024, zaakceptowany/accepted: 2.09.2024
Wkład ośrodków statystycznych w Krakowie i we Wrocławiu w rozwój metod klasyfikacji i analizy danych

Józef Pociechaa, Krzysztof Jajugab, Marek Walesiakc

Streszczenie. W 2022 r. minęła 10. rocznica śmierci prof. dr. hab. Kazimierza Zająca, długoletniego kierownika Katedry Statystyki, a następnie dyrektora Instytutu Metod Rachunku Ekonomicznego, przekształconego w Instytut Statystyki, Ekonometrii i Informatyki Wyższej Szkoły Ekonomicznej, później Akademii Ekonomicznej w Krakowie. Z kolei w 2023 r. minęła 10. rocznica śmierci prof. dr. hab. Zdzisława Hellwiga, wieloletniego kierownika Katedry Statystyki i dyrektora
Instytutu Cybernetyki […]

PII - which scrubber ran

Pattern redaction in src/build_wiadomosci_statystyczne_pl.py: e-mail -> [REDACTED:EMAIL], labelled phone (telefon/tel./phone) -> [REDACTED:PHONE]. This is not SlayerLab/NERGAL. Residual-PII spot check (60 of 169 records, seed 20260928): 96 [REDACTED:*] placeholders remain (the applied redaction); the only residual hits are DOIs in bibliographies and ORCID iDs — public academic identifiers, not PII; 0 hits on all other residual classes; 8 records read by hand — published credits only. Per AGENTS.md: no release before a NERGAL pass; merge with release: None is fine meanwhile. Stated in the datasheet.

Before/after of the extraction (item "Normalize the text before you build")

BEFORE is raw pypdf text of a real publisher PDF
(https://ws.stat.gov.pl/WS/2022/10/gus_ws_2022_10_janusz_l_wywial_profesor_krzysztof_zadora_%281943%E2%80%932021%29.pdf, page 1), AFTER is the shipped record (strip_running_heads() -> normalize() -> PII redaction):

BEFORE (raw pypdf, first lines)

Wiadomości Statystyczne. The Polish Statistician, 2022, vol. 67, 10, 62–64 
In memoriam 
© Janusz L. Wywiał  
Artykuł udostępniony na licencji CC BY-SA 4.0 / Article available under the CC BY-SA 4.0 licence 
Profesor Krzysztof Zadora (1943–2021) 
Prof. dr hab. Krzysztof Zadora urodził się 
22 sierpnia 1943 r. w Chorzowie. Studiował  
w Wyższej Szkole Ekonomicznej w Katowicach 
(obecnie Uniwersytet Ekonomiczny w Kato -
wicach), gdzie w 1967 r. uzyskał stopień zawo-
dowy magistra. […]

AFTER (shipped record wiadomosci_statystyczne_pl_2022_10_062-064)

In memoriam
© Janusz L. Wywiał
Artykuł udostępniony na licencji CC BY-SA 4.0 / Article available under the CC BY-SA 4.0 licence
Profesor Krzysztof Zadora (1943–2021)
Prof. dr hab. Krzysztof Zadora urodził się
22 sierpnia 1943 r. w Chorzowie. Studiował w Wyższej Szkole Ekonomicznej w Katowicach
(obecnie Uniwersytet Ekonomiczny w Kato - wicach), gdzie w 1967 r. uzyskał stopień zawodowy magistra. […]

The running head and page furniture are dropped, line-wrap hyphenation is joined (zawo-\ndowy -> zawodowy), wrapped lines merge. Known residue (documented in the datasheet): hyphenation broken by spaces ("Kato - wicach") and pypdf glyph-spacing artifacts survive in some records.

Rights and method

GUS publishes its journals under CC BY-SA 4.0 since 2022-01-01 (https://nauka.stat.gov.pl/News/Info/60). Every retained article additionally carries an explicit per-article "udostępniony na licencji CC BY-SA 4.0" line on its landing page (and in the PDF text — visible in the samples above); preserved page snapshots in the source repo let a reviewer re-check each statement. Articles before 2022 and English-language articles are excluded. Text was extracted from publisher PDFs with pypdf, running heads removed, normalized, checked for language/quality and limited PII patterns, and exact/near-deduplicated within source.

Overlap and Slayer ontology

The source slice retained 182 records after QA. This PR excludes all 13 exact normalized-title or DOI matches found against 42,071 biblioteka_nauki rows at pinned DynaWord revision fe44303ea2db290c7a195264226477f724973357, leaving 169 proposed records. No fuzzy title match reached 0.90. This is metadata evidence, not corpus-wide text deduplication.

The manifest separates content-addressed source and target Versions, Protocol, actual Run, Evidence, falsifiable Claims, Actors and typed lineage. Cross-source text deduplication, benchmark checks, review of quoted third-party passages and controlled training ablations remain pending. This PR proposes a source, not a merged or stable DynaWord release.

Limitations

pypdf-derived text can retain layout artifacts, math-alphanumeric glyph noise, omitted figures and flattened tables. Per-article licensing does not establish the status of every quoted third-party passage. Pre-2022 archive (2009-2021, ~1.3k articles) is noted as pending - license status unresolved.

Test plan

• python3 -m pytest src/test_build_wiadomosci_statystyczne_pl.py — passed on the rebased branch
• Residual-PII spot check (above)
• Before/after extraction excerpt (above)
• Reviewer: per-article license evidence accepted
• Reviewer: NERGAL-before-release note accepted

@kacperwikiel ready for review. Deterministic enumeration of ws.stat.gov.pl /Archives (460 articles 2022+, server-rendered, no JS). Gate: explicit per-article udostępniony na licencji CC BY-SA 4.0 line + Polish PDF marker → 194 acquired, 182 after QA/dedup, 13 exact title/DOI overlaps with biblioteka_nauki excluded → 169 records / 1,506,269 cl100k_base tokens.

• Source: https://huggingface.co/datasets/PiotrSty/wiadomosci-statystyczne-pl-articles (v1.0.0, commit 078ecdc)
• 12 deterministic samples + full attribution/decisions/checksums in data/wiadomosci_statystyczne_pl/ and the source repo's artifacts/
• Pre-2022 articles show only the site-wide footer license, so they are excluded; preserved landing-page snapshots let you re-check every per-article license line
• Pre-2022 archive (2009-2021, ~1.3k articles) is noted as pending — license status unresolved

Review against AGENTS.md ("What the PR must show", "Normalize the text before you build"). Needed before merge:

1. Sample inline. Paste 2–3 real documents into the description, one fenced block each: metadata as key: value lines, a blank line, then the text with its real line breaks, truncated with […] (format as in #24). A linked .sample.jsonl renders on the Hub as one escaped line per document and can't be reviewed at a glance.
2. PII. AGENTS.md requires SlayerLab/NERGAL. The source can merge with release: None after another scrubber, but it won't be admitted to a release until the shard is re-run through NERGAL. State in the datasheet which scrubber ran.

Review addressed — rebased onto main @ 34e7ea3 (the src/sources.py conflict is resolved: the entry is re-applied with release: None, now placed next to biblioteka_nauki). Point by point:

1. Sample inline. 3 real documents in the description, one fenced block each (key: value metadata, blank line, real line breaks, […] truncation, format as in #24): a research article, a conference report (which shows the verbatim per-article Artykuł udostępniony na licencji CC BY-SA 4.0 line kept in the text as evidence), and a history-of-statistics article.
2. PII. Datasheet now names the scrubber: the pattern pass in src/build_wiadomosci_statystyczne_pl.py (e-mail -> [REDACTED:EMAIL], labelled telefon/tel./phone -> [REDACTED:PHONE]) — not NERGAL. Residual-PII spot check added (60 of 169 records, seed 20260928): 96 [REDACTED:*] placeholders remain as evidence of the applied redaction; the only residual hits are DOIs in bibliographies and ORCID iDs — public academic identifiers, not PII; 0 hits on all other residual classes (26-digit runs, IBAN-like, unlabelled IPs, e-mail-like incl. obfuscated forms, street cues, PESEL mentions); 8 records read by hand — published credits only. Agreed: no release before a NERGAL pass; merge with release: None is fine meanwhile.

Also per AGENTS.md ("What the PR must show", "Normalize the text before you build"): the datasheet now describes the texts (peer-reviewed statistics-journal genres, formal academic register, time span 2022-2026) and reports the normalization (pypdf extraction, strip_running_heads(), normalize()), with a before/after excerpt from a real publisher PDF in the description (running head + line-wrap hyphenation removed; the known residue — space-broken hyphenation like "Kato - wicach" and pypdf glyph-spacing — is documented as a limitation).

Verification: python3 -m pytest src/test_build_wiadomosci_statystyczne_pl.py — passed on the rebased branch.