Add CC BY-SA 4.0 Open AGH Polish chemistry textbooks (#25)

- Add CC BY-SA 4.0 Open AGH Polish chemistry textbooks (27d521657c8515baf3fdd17ced508475515b94be)
- Address review: origin license quote, normalization + before/after, PII spot check (3161b0604c7f5a3bc4617c71b86bb47ee6983623)


Co-authored-by: Piotr Styla <PiotrSty@users.noreply.huggingface.co>

artifacts/open_agh_chemistry_pl_ontology_manifest.json

@@ -0,0 +1,677 @@
+{
+  "actors": [
+    {
+      "id": "agent:codex",
+      "identity": "OpenAI Codex",
+      "kind": "agent"
+    },
+    {
+      "id": "hf:PiotrSty",
+      "identity": "Piotr Styla",
+      "kind": "human"
+    },
+    {
+      "id": "org:agh",
+      "identity": "AGH University of Krakow and credited authors",
+      "kind": "organization"
+    }
+  ],
+  "attestations": [
+    {
+      "actor_id": "agent:codex",
+      "created_at": "2026-09-05T20:34:12.482947+00:00",
+      "id": "slayer://attestation/open_agh_chemistry_pl@sha256:beb17587bab7af78f36c312cf39d9f97c641ff31e6962807ebf57fd5aab48509",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "supported_by": [
+        "slayer://evidence/open_agh_chemistry_pl/quality@sha256:6c49b9ff52723730190fd31521437ec73e482cff15ea0e20e244cb2c4de7ef34"
+      ],
+      "type": "cross_source_deduplication",
+      "value": "pending_target_integration"
+    }
+  ],
+  "claim_evidence": [
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:6bc934ee3e40b1d3906d665f1557f1f927f6bed3a18d9876d2d217b0200e64b0",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/license@sha256:9a16d1ffbc087e0d2e16cc7acdd96a8d35dca2d08287a52c75dbd61f9e782667",
+      "relation": "SUPPORTS"
+    },
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:6bc934ee3e40b1d3906d665f1557f1f927f6bed3a18d9876d2d217b0200e64b0",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+      "relation": "SUPPORTS"
+    },
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:18e042a6850d2cc804c49118ad62e658d7661bfa249cdd1767824ed081fead0c",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/counts@sha256:3918023a71eb4ab7fea51d87147af88f4779542d88d7b6d2b85f4efe82527cd4",
+      "relation": "SUPPORTS"
+    },
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:18e042a6850d2cc804c49118ad62e658d7661bfa249cdd1767824ed081fead0c",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+      "relation": "SUPPORTS"
+    },
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:5dc442db888e5aee35391cbf45c5830b779eca4a052ab79985c6b997d12fece7",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/target_audit@sha256:0444c01f05e43b7188e75fdd6072380b4912613d126bc9c16f6e32991df0733b",
+      "relation": "SUPPORTS"
+    },
+    {
+      "claim_id": "slayer://claim/open_agh_chemistry_pl@sha256:5dc442db888e5aee35391cbf45c5830b779eca4a052ab79985c6b997d12fece7",
+      "evidence_id": "slayer://evidence/open_agh_chemistry_pl/quality@sha256:6c49b9ff52723730190fd31521437ec73e482cff15ea0e20e244cb2c4de7ef34",
+      "relation": "SUPPORTS"
+    }
+  ],
+  "claims": [
+    {
+      "asserted_by": "agent:codex",
+      "falsification_condition": "An included edition lacks its rights page or a retained module lacks attribution.",
+      "id": "slayer://claim/open_agh_chemistry_pl@sha256:6bc934ee3e40b1d3906d665f1557f1f927f6bed3a18d9876d2d217b0200e64b0",
+      "scope": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "statement": "The four selected editions have preserved explicit CC BY-SA 4.0 rights and module authorship.",
+      "supported_by": [
+        "slayer://evidence/open_agh_chemistry_pl/license@sha256:9a16d1ffbc087e0d2e16cc7acdd96a8d35dca2d08287a52c75dbd61f9e782667",
+        "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b"
+      ]
+    },
+    {
+      "asserted_by": "agent:codex",
+      "falsification_condition": "A module has no decision or a reproduced record/token count differs.",
+      "id": "slayer://claim/open_agh_chemistry_pl@sha256:18e042a6850d2cc804c49118ad62e658d7661bfa249cdd1767824ed081fead0c",
+      "scope": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "statement": "Every discovered module has a selection decision and each retained text and token count replay from the snapshot.",
+      "supported_by": [
+        "slayer://evidence/open_agh_chemistry_pl/counts@sha256:3918023a71eb4ab7fea51d87147af88f4779542d88d7b6d2b85f4efe82527cd4",
+        "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b"
+      ]
+    },
+    {
+      "asserted_by": "agent:codex",
+      "falsification_condition": "The pinned registry or recorded discussion titles identify this contribution.",
+      "id": "slayer://claim/open_agh_chemistry_pl@sha256:5dc442db888e5aee35391cbf45c5830b779eca4a052ab79985c6b997d12fece7",
+      "scope": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "statement": "A dedicated AGH registration/proposal was not identified in the audited registry and discussion titles; textual novelty remains untested.",
+      "supported_by": [
+        "slayer://evidence/open_agh_chemistry_pl/target_audit@sha256:0444c01f05e43b7188e75fdd6072380b4912613d126bc9c16f6e32991df0733b",
+        "slayer://evidence/open_agh_chemistry_pl/quality@sha256:6c49b9ff52723730190fd31521437ec73e482cff15ea0e20e244cb2c4de7ef34"
+      ]
+    }
+  ],
+  "evidence": [
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/checksums@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "observation_type": "checksums",
+      "observed_at": "2026-09-05T20:34:12.482947+00:00",
+      "payload": {
+        "artifacts/attribution.jsonl": "24e46e3888b81f2ab93c814fd52c764b4584578188881bba7b848eec9b5ce139",
+        "artifacts/books.json": "a6d5e10d4be8d3905b7d62a2dcae4cc1521783c61167653758d4c3da88420309",
+        "artifacts/decisions.jsonl": "a2ff6b8c3f41fb488a52bd0c806f3945b50f258faf55304afc4839e50df18b45",
+        "artifacts/modules.jsonl.gz": "cc8d5a1d0aba19d111ce8609f6d379d308f41f9e1a33a2dedbd170f34098281f",
+        "artifacts/qa.json": "c4ef410a4f10e443bb537553f23918fb77dbf9cac75c95eff5ae842caebbb6f9",
+        "artifacts/run.json": "0b152920fa6758159f791a37c9b80948af885166e7f37753a74aebd5595beb6e",
+        "artifacts/sample.jsonl": "a665f50b8504004079e53254542625ca3236efc061f1638bb9a34cc6121c8f49",
+        "artifacts/stats.json": "57f9a36d35f25fd243c9a4b6d547cad2a736fb50dbab32382c986f81cf324278",
+        "artifacts/target_audit.json": "a27a1425dc2dbbf03d72e444fd971db8a673225bceeb9ce4b69fd511534520be",
+        "data/train-00000-of-00001.parquet": "a26d4fa2d515238bf2f2d028b18e641ecd0735ee65a79e045bc7cc44601f5ee8",
+        "src/build_open_agh_pl.py": "ee011e779426c538e57dafba4d65c6e715c6e66598500351be863cfb8acc5cd3",
+        "src/open_agh_requirements.txt": "c6e880c5a443d39fb82a7051d29522320467a8e8721b6376c681369944a43fc5",
+        "src/publish_open_agh_pl.py": "8e8de96b2b4248f3ca96ffd8884a2086764d3e9e5a8304ae1ff89e8747be0dd2",
+        "src/test_build_open_agh_pl.py": "95036ae77c0e5e4b4536245f36409a3c56743b3f90873964cd2e64f1086bf9a4",
+        "src/test_open_agh_contribution.py": "e0bfec10151551bcfc556bec6cf7a937a809be1938dcb9a00807bf52c23d0d64"
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    },
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/counts@sha256:3918023a71eb4ab7fea51d87147af88f4779542d88d7b6d2b85f4efe82527cd4",
+      "observation_type": "counts",
+      "observed_at": "2026-09-05T20:34:12.482947+00:00",
+      "payload": {
+        "added": "2026-09-05",
+        "book_count": 4,
+        "by_book": {
+          "1394": 48,
+          "1893": 57,
+          "29": 184,
+          "37": 81
+        },
+        "chars": 1446015,
+        "drop_by_reason": {
+          "frontmatter_or_bibliography": 2,
+          "too_short": 2
+        },
+        "kept": 370,
+        "license": "CC-BY-SA-4.0",
+        "module_occurrences": 374,
+        "sample_count": 12,
+        "tokenizer": "cl100k_base",
+        "tokens": 564028,
+        "unique_modules": 374
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    },
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/quality@sha256:6c49b9ff52723730190fd31521437ec73e482cff15ea0e20e244cb2c4de7ef34",
+      "observation_type": "quality",
+      "observed_at": "2026-09-05T20:34:12.482947+00:00",
+      "payload": {
+        "benchmark_overlap_check": "pending",
+        "cross_source_exact_dedup_completed": false,
+        "cross_source_near_dedup_completed": false,
+        "extraction_operations": {
+          "email": 0,
+          "labelled_phone": 0,
+          "media_or_ui_removed": 653,
+          "unbalanced_math_delimiters": 0
+        },
+        "limitations": [
+          "figures/media omitted; prose can reference missing figures",
+          "LaTeX preserved, not equation correctness verification",
+          "tables flattened into rows",
+          "email/labelled-phone patterns are not complete PII scrubbing; author attribution retained",
+          "published source snapshots are not de-identified",
+          "API revision is an observed label; source content identity is its snapshot hash"
+        ],
+        "module_identity_dedup": true,
+        "near_dedup": {
+          "algorithm": "seeded MinHashLSH .8 candidates and exact 5-word-shingle Jaccard >=.9",
+          "limitation": "probabilistic retrieval can miss pairs",
+          "num_perm": 128,
+          "removed": 0,
+          "seed": 1
+        },
+        "normalized_exact_dedup": true
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    },
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/license@sha256:9a16d1ffbc087e0d2e16cc7acdd96a8d35dca2d08287a52c75dbd61f9e782667",
+      "observation_type": "license",
+      "observed_at": "2026-09-05T20:34:12.482947+00:00",
+      "payload": {
+        "books_artifact": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/artifacts/books.json",
+        "editions": [
+          29,
+          1394,
+          37,
+          1893
+        ],
+        "license": "CC-BY-SA-4.0",
+        "sha256": "a6d5e10d4be8d3905b7d62a2dcae4cc1521783c61167653758d4c3da88420309"
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    },
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/target_audit@sha256:0444c01f05e43b7188e75fdd6072380b4912613d126bc9c16f6e32991df0733b",
+      "observation_type": "target_audit",
+      "observed_at": "2026-09-05T20:34:12.482947+00:00",
+      "payload": {
+        "cross_source_dedup": "pending; registry and title checks do not establish text novelty",
+        "discussions": [
+          {
+            "num": 23,
+            "status": "open",
+            "title": "Add CC BY 4.0 Polish OpenStax academic textbooks"
+          },
+          {
+            "num": 22,
+            "status": "open",
+            "title": "Add CC0 Polish Common Voice validated text (v26.0)"
+          },
+          {
+            "num": 21,
+            "status": "open",
+            "title": "Add pinned SAOS Polish court judgments snapshot"
+          },
+          {
+            "num": 20,
+            "status": "merged",
+            "title": "Add in-tree PII scrub (no new parquet)"
+          },
+          {
+            "num": 19,
+            "status": "open",
+            "title": "Add source: Studia BAS peer-reviewed policy articles"
+          },
+          {
+            "num": 18,
+            "status": "open",
+            "title": "Add source: sejm_api_2011_2022 - remaining attributed Sejm speeches"
+          },
+          {
+            "num": 17,
+            "status": "merged",
+            "title": "Contributor guidance: source findings log + PR/normalization requirements"
+          },
+          {
+            "num": 16,
+            "status": "merged",
+            "title": "Add source: sejm_api — contemporary parliamentary speeches (2023 onward)"
+          },
+          {
+            "num": 15,
+            "status": "open",
+            "title": "feat(data): update samorzad_gov_pl to upstream v0.2"
+          },
+          {
+            "num": 14,
+            "status": "merged",
+            "title": "feat(data): add wiktionary_examples (8.6k docs / 1.12M tok)"
+          },
+          {
+            "num": 13,
+            "status": "merged",
+            "title": "feat(data): add samorzad.gov.pl institutional corpus"
+          },
+          {
+            "num": 12,
+            "status": "merged",
+            "title": "feat(data): european_hplt_v3_pl expansion WDS bins 10-5 (+1.49M docs / 2.04B tok)"
+          },
+          {
+            "num": 11,
+            "status": "merged",
+            "title": "feat(data): add biblioteka_nauki source (42,071 docs, per-document license + attribution)"
+          },
+          {
+            "num": 10,
+            "status": "merged",
+            "title": "Complete v0.2.3 phrase-frequency report + register drifted sources + AGENTS.md"
+          },
+          {
+            "num": 9,
+            "status": "merged",
+            "title": "Add source: govpl (gov.pl government press releases)"
+          },
+          {
+            "num": 8,
+            "status": "merged",
+            "title": "Add source: nkjp1m"
+          },
+          {
+            "num": 7,
+            "status": "merged",
+            "title": "feat(data): add reviewed Global Voices Polish corpus"
+          },
+          {
+            "num": 6,
+            "status": "merged",
+            "title": "SJP.PL"
+          },
+          {
+            "num": 5,
+            "status": "merged",
+            "title": "Add source: european_hplt_v3_pl (HPLT v3.0 Polish, top WDS bins, CC0)"
+          },
+          {
+            "num": 4,
+            "status": "merged",
+            "title": "Release v0.3.1 Europeana preview shard"
+          },
+          {
+            "num": 3,
+            "status": "merged",
+            "title": "Document live source-gate validation"
+          },
+          {
+            "num": 2,
+            "status": "open",
+            "title": "An absolute joy to see!"
+          },
+          {
+            "num": 1,
+            "status": "merged",
+            "title": "Add source: 1000_novels (1000 Novels Corpus, CLARIN-PL, CC BY 4.0)"
+          }
+        ],
+        "files": [
+          ".gitattributes",
+          ".gitignore",
+          "AGENTS.md",
+          "BLOGPOST.md",
+          "CHANGELOG.md",
+          "LICENSE",
+          "PAPER.md",
+          "README.md",
+          "artifacts/bartek_source_ingestion_plan_2026-07-02.md",
+          "artifacts/dataset_size_by_version.png",
+          "artifacts/hf_readmes/PleIAs__Polish-PD__README.md",
+          "artifacts/hf_readmes/PleIAs__common_corpus__README.md",
+          "artifacts/hf_readmes/WiktorS__polish-news__README.md",
+          "artifacts/hf_readmes/allegro__polish-question-passage-pairs__README.md",
+          "artifacts/hf_readmes/allegro__summarization-polish-summaries-corpus__README.md",
+          "artifacts/hf_readmes/ashtok897__european-hplt-v1__README.md",
+          "artifacts/hf_readmes/clarin-knext__wsd_polish_datasets__README.md",
+          "artifacts/hf_readmes/clarin-pl__ComplexQA__README.md",
+          "artifacts/hf_readmes/clarin-pl__PUGG__README.md",
+          "artifacts/hf_readmes/clarin-pl__poquad__README.md",
+          "artifacts/hf_readmes/ipipan__polqa__README.md",
+          "artifacts/hf_readmes/michaljunczyk__pl-asr-bigos__README.md",
+          "artifacts/hf_readmes/openlanguagedata__flores_plus__README.md",
+          "artifacts/hf_readmes/oscar-corpus__OSCAR-2301__README.md",
+          "artifacts/hf_readmes/oscar-corpus__mOSCAR__README.md",
+          "artifacts/hf_readmes/pelcra__PLLuMIC__README.md",
+          "artifacts/hf_readmes/ptaszynski__PolishCyberbullyingDataset__README.md",
+          "artifacts/pattern_frequency_artykul.png",
+          "artifacts/pattern_frequency_dzu.png",
+          "artifacts/pattern_frequency_hf_snippet.md",
+          "artifacts/pattern_frequency_klasyfikacji.png",
+          "artifacts/pattern_frequency_mieszkańców.png",
+          "artifacts/pattern_frequency_overall.png",
+          "artifacts/pattern_frequency_parlament.png",
+          "artifacts/pattern_frequency_rozporządzenie.png",
+          "artifacts/pattern_frequency_ustawa.png",
+          "artifacts/pattern_frequency_w_pobliżu.png",
+          "artifacts/pattern_frequency_w_roku.png",
+          "artifacts/sejm_api_ontology_manifest.json",
+          "artifacts/source_candidate_audit_v0_3.json",
+          "artifacts/source_candidate_audit_v0_3.md",
+          "artifacts/source_findings.md",
+          "artifacts/source_license_review_v0_3.md",
+          "artifacts/source_scouting_v0_3.md",
+          "artifacts/training_mix_v0_3.json",
+          "artifacts/training_mix_v0_3.md",
+          "configs/source_candidates_v0_3.json",
+          "configs/training_mix_v0_3.json",
+          "data/1000_novels/1000_novels.md",
+          "data/1000_novels/1000_novels.parquet",
+          "data/1000_novels/1000_novels.stats.json",
+          "data/biblioteka_nauki/biblioteka_nauki.md",
+          "data/biblioteka_nauki/biblioteka_nauki.parquet",
+          "data/biblioteka_nauki/biblioteka_nauki.stats.json",
+          "data/biblioteka_nauki/recover_attribution.py",
+          "data/biblioteka_nauki/recover_licenses.py",
+          "data/dziennik_ustaw/dziennik_ustaw.md",
+          "data/dziennik_ustaw/dziennik_ustaw.parquet",
+          "data/dziennik_ustaw/dziennik_ustaw.stats.json",
+          "data/eltec_pol/eltec_pol.md",
+          "data/eltec_pol/eltec_pol.parquet",
+          "data/eltec_pol/eltec_pol.stats.json",
+          "data/eurlex/eurlex.md",
+          "data/eurlex/eurlex.parquet",
+          "data/eurlex/eurlex.stats.json",
+          "data/european_hplt_v3_pl/european_hplt_v3_pl.md",
+          "data/european_hplt_v3_pl/european_hplt_v3_pl.parquet",
+          "data/european_hplt_v3_pl/european_hplt_v3_pl.stats.json",
+          "data/global_voices/NOTICE.md",
+          "data/global_voices/global_voices.attribution.jsonl",
+          "data/global_voices/global_voices.md",
+          "data/global_voices/global_voices.parquet",
+          "data/global_voices/global_voices.stats.json",
+          "data/govpl/govpl.md",
+          "data/govpl/govpl.parquet",
+          "data/govpl/govpl.stats.json",
+          "data/nkjp1m/nkjp1m.md",
+          "data/nkjp1m/nkjp1m.parquet",
+          "data/nkjp1m/nkjp1m.stats.json",
+          "data/parliamentary/parliamentary.md",
+          "data/parliamentary/parliamentary.parquet",
+          "data/parliamentary/parliamentary.stats.json",
+          "data/samorzad_gov_pl/NOTICE.md",
+          "data/samorzad_gov_pl/samorzad_gov_pl.attribution.jsonl",
+          "data/samorzad_gov_pl/samorzad_gov_pl.license-evidence.json",
+          "data/samorzad_gov_pl/samorzad_gov_pl.md",
+          "data/samorzad_gov_pl/samorzad_gov_pl.parquet",
+          "data/samorzad_gov_pl/samorzad_gov_pl.stats.json",
+          "data/sejm_api/NOTICE.md",
+          "data/sejm_api/sejm_api.attribution.jsonl",
+          "data/sejm_api/sejm_api.license-evidence.json",
+          "data/sejm_api/sejm_api.md",
+          "data/sejm_api/sejm_api.parquet",
+          "data/sejm_api/sejm_api.stats.json",
+          "data/wikibooks/wikibooks.md",
+          "data/wikibooks/wikibooks.parquet",
+          "data/wikibooks/wikibooks.stats.json",
+          "data/wikinews/wikinews.md",
+          "data/wikinews/wikinews.parquet",
+          "data/wikinews/wikinews.stats.json",
+          "data/wikipedia/wikipedia.md",
+          "data/wikipedia/wikipedia.parquet",
+          "data/wikipedia/wikipedia.stats.json",
+          "data/wikiquote/wikiquote.md",
+          "data/wikiquote/wikiquote.parquet",
+          "data/wikiquote/wikiquote.stats.json",
+          "data/wikisource/wikisource.md",
+          "data/wikisource/wikisource.parquet",
+          "data/wikisource/wikisource.stats.json",
+          "data/wikivoyage/wikivoyage.md",
+          "data/wikivoyage/wikivoyage.parquet",
+          "data/wikivoyage/wikivoyage.stats.json",
+          "data/wiktionary_examples/wiktionary_examples.md",
+          "data/wiktionary_examples/wiktionary_examples.parquet",
+          "data/wiktionary_examples/wiktionary_examples.stats.json",
+          "data/wolne_lektury/wolne_lektury.md",
+          "data/wolne_lektury/wolne_lektury.parquet",
+          "data/wolne_lektury/wolne_lektury.stats.json",
+          "pattern_frequency_report.md",
+          "previews/v0.3.1/europeana.parquet",
+          "previews/v0.3.1/europeana.stats.json",
+          "src/__pycache__/fetch_sejm_api.cpython-311.pyc",
+          "src/build_dynaword.py",
+          "src/clean_hplt_v3.py",
+          "src/clean_samorzad_gov_pl.py",
+          "src/compare_tokenizers.py",
+          "src/count_vocab.py",
+          "src/discover_govpl.py",
+          "src/eval_bpb.py",
+          "src/fetch_eli.py",
+          "src/fetch_eltec.py",
+          "src/fetch_europeana.py",
+          "src/fetch_govpl.py",
+          "src/fetch_njkp.py",
+          "src/fetch_sejm_api.py",
+          "src/fetch_sejm_interpellations.py",
+          "src/fetch_wikimedia.py",
+          "src/fetch_wiktionary_examples.py",
+          "src/filter_common_corpus.py",
+          "src/filter_european_hplt.py",
+          "src/govpl_subsites.json",
+          "src/html_text.py",
+          "src/launch_hplt_parallel.py",
+          "src/make_docs.py",
+          "src/make_linkedin_card.py",
+          "src/make_training_mix.py",
+          "src/normalize_schema.py",
+          "src/pattern_frequency_report.py",
+          "src/plot_version_growth.py",
+          "src/review_source_candidates.py",
+          "src/rights.py",
+          "src/samorzad_gov_pl_publishers.json",
+          "src/sample_quality.py",
+          "src/scrub_entities.py",
+          "src/scrub_pii.py",
+          "src/sources.py",
+          "src/test_europeana_contract.py",
+          "src/test_govpl_contract.py",
+          "src/test_hplt_v3_contract.py",
+          "src/test_samorzad_gov_pl_contract.py",
+          "src/test_scrub_entities.py",
+          "src/test_scrub_pii.py",
+          "src/test_sejm_api_contract.py",
+          "src/test_sejm_interpellations_contract.py",
+          "src/tokenize_shards.py",
+          "src/train_bpe.py"
+        ],
+        "observed_at": "2026-09-05T15:59:11.637435+00:00",
+        "registry_sha256": "68a4f279f90bd060701966bd8d621ee07d0880e7edb44e10b75e506df8b82cc3",
+        "repository": "SlayerLab/polish-dynaword",
+        "revision": "a916edecabc2be8832e08fb2bd9dfafcc1d2dd71"
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    },
+    {
+      "id": "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+      "observation_type": "validation",
+      "observed_at": "2026-09-05T20:34:49.372576+00:00",
+      "payload": {
+        "actor_id": "agent:codex",
+        "code_sha256": "8e8de96b2b4248f3ca96ffd8884a2086764d3e9e5a8304ae1ff89e8747be0dd2",
+        "dataset_checksums_sha256": "cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+        "finished_at": "2026-09-05T20:34:49.372576+00:00",
+        "protocol": "checksum/schema/coverage/source-text replay/per-record token and author validation",
+        "started_at": "2026-09-05T20:34:44.456270+00:00",
+        "success": true,
+        "verified_records": 370,
+        "verified_tokens": 564028
+      },
+      "run_id": "slayer://run/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+      "subject_version": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    }
+  ],
+  "object": {
+    "id": "slayer://object/dataset-source/open_agh_chemistry_pl",
+    "kind": "dataset_source",
+    "name": "open_agh_chemistry_pl"
+  },
+  "ontology_version": "slayer.ai/research-ontology/v0.1",
+  "protocol": {
+    "id": "slayer://object/protocol/open_agh_chemistry_pl",
+    "kind": "protocol",
+    "specification": {
+      "allowlist": [
+        29,
+        1394,
+        37,
+        1893
+      ],
+      "code_sha256": "ee011e779426c538e57dafba4d65c6e715c6e66598500351be863cfb8acc5cd3",
+      "command": "python src/build_open_agh_pl.py --output WORK build",
+      "dedup": "module identity, normalized exact body, seeded MinHashLSH + exact 5-word-shingle Jaccard >=.9",
+      "extraction": "HTML prose, native LaTeX, exclude media; reject unbalanced math delimiters",
+      "input": "inventory.json and modules.jsonl",
+      "language_check": "langid eight-language classification; reject non-PL confidence >=0.99",
+      "minimum_body_chars": 200,
+      "minimum_letter_ratio": 0.35,
+      "packages": {
+        "beautifulsoup4": "4.14.3",
+        "datasketch": "1.6.5",
+        "langid": "1.1.6",
+        "pyarrow": "23.0.1",
+        "requests": "2.32.5",
+        "tiktoken": "0.12.0"
+      },
+      "privacy": "email and labelled-phone redaction; official author attribution preserved",
+      "tokenizer": "cl100k_base"
+    },
+    "version": {
+      "created_at": "2026-09-05T20:34:12.482947+00:00",
+      "created_by": "agent:codex",
+      "digest": "sha256:d0b520f9362257cbe189385f37c94250912d799cf1886c54cf69473e4aba3ee2",
+      "id": "slayer://version/protocol/open_agh_chemistry_pl@sha256:d0b520f9362257cbe189385f37c94250912d799cf1886c54cf69473e4aba3ee2",
+      "object_id": "slayer://object/protocol/open_agh_chemistry_pl",
+      "payload_uri": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/src/build_open_agh_pl.py"
+    }
+  },
+  "relations": [
+    {
+      "introduced_by_run": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "predicate": "DERIVED_FROM",
+      "source_version_id": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "target_version_id": "slayer://version/source-snapshot/open_agh_chemistry_pl@sha256:ec845dbced84e58b11acf5498c9874e8a81dafde7cac0643bfe70d823916e4c2"
+    },
+    {
+      "introduced_by_run": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "predicate": "FILTERED_BY",
+      "source_version_id": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "target_version_id": "slayer://version/protocol/open_agh_chemistry_pl@sha256:d0b520f9362257cbe189385f37c94250912d799cf1886c54cf69473e4aba3ee2"
+    },
+    {
+      "introduced_by_run": "slayer://run/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+      "predicate": "VALIDATED_AGAINST",
+      "source_version_id": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "target_version_id": "slayer://version/validation-protocol/open_agh_chemistry_pl@sha256:df8399ba03d287d103de612c96fe0a794b067b0c048cb0f28fe95efdeca6d00b"
+    },
+    {
+      "introduced_by_run": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+      "predicate": "COMPATIBLE_WITH",
+      "source_version_id": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+      "target_version_id": "hf://datasets/SlayerLab/polish-dynaword@a916edecabc2be8832e08fb2bd9dfafcc1d2dd71"
+    }
+  ],
+  "run": {
+    "actor_id": "agent:codex",
+    "code_sha256": "ee011e779426c538e57dafba4d65c6e715c6e66598500351be863cfb8acc5cd3",
+    "finished_at": "2026-09-05T20:34:12.482947+00:00",
+    "id": "slayer://run/open_agh_chemistry_pl@sha256:81a4f8f14792b444efebabd65610ed4392b51400570baa7f1bf242271f62e0c7",
+    "input_sha256": "58821645a52720120ea974a51dcbb298d862357abae5777df2dc55444d8de37e",
+    "inputs": [
+      "slayer://version/source-snapshot/open_agh_chemistry_pl@sha256:ec845dbced84e58b11acf5498c9874e8a81dafde7cac0643bfe70d823916e4c2"
+    ],
+    "outputs": [
+      "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    ],
+    "packages": {
+      "beautifulsoup4": "4.14.3",
+      "datasketch": "1.6.5",
+      "langid": "1.1.6",
+      "pyarrow": "23.0.1",
+      "requests": "2.32.5",
+      "tiktoken": "0.12.0"
+    },
+    "protocol_version_id": "slayer://version/protocol/open_agh_chemistry_pl@sha256:d0b520f9362257cbe189385f37c94250912d799cf1886c54cf69473e4aba3ee2",
+    "python": "3.11.9",
+    "requested_by": "hf:PiotrSty",
+    "started_at": "2026-09-05T20:34:03.433690+00:00"
+  },
+  "schema_version": "slayer.ai/dataset-source-contribution/v1",
+  "source_object": {
+    "id": "slayer://object/source-snapshot/open_agh_chemistry_pl",
+    "kind": "source_snapshot"
+  },
+  "source_version": {
+    "components": {
+      "artifacts/books.json": "a6d5e10d4be8d3905b7d62a2dcae4cc1521783c61167653758d4c3da88420309",
+      "artifacts/modules.jsonl.gz": "cc8d5a1d0aba19d111ce8609f6d379d308f41f9e1a33a2dedbd170f34098281f"
+    },
+    "created_at": "2026-09-05T20:34:12.482947+00:00",
+    "created_by": "agent:codex",
+    "digest": "sha256:ec845dbced84e58b11acf5498c9874e8a81dafde7cac0643bfe70d823916e4c2",
+    "id": "slayer://version/source-snapshot/open_agh_chemistry_pl@sha256:ec845dbced84e58b11acf5498c9874e8a81dafde7cac0643bfe70d823916e4c2",
+    "inventory_uri": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/artifacts/books.json",
+    "object_id": "slayer://object/source-snapshot/open_agh_chemistry_pl",
+    "payload_uri": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/artifacts/modules.jsonl.gz"
+  },
+  "validation_protocol": {
+    "description": "checksum/schema/coverage/source-text replay/per-record token and author validation",
+    "id": "slayer://object/validation-protocol/open_agh_chemistry_pl",
+    "kind": "protocol",
+    "version": {
+      "created_at": "2026-09-05T20:34:12.482947+00:00",
+      "created_by": "agent:codex",
+      "digest": "sha256:df8399ba03d287d103de612c96fe0a794b067b0c048cb0f28fe95efdeca6d00b",
+      "id": "slayer://version/validation-protocol/open_agh_chemistry_pl@sha256:df8399ba03d287d103de612c96fe0a794b067b0c048cb0f28fe95efdeca6d00b",
+      "object_id": "slayer://object/validation-protocol/open_agh_chemistry_pl",
+      "payload_uri": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/src/publish_open_agh_pl.py"
+    }
+  },
+  "validation_run": {
+    "actor_id": "agent:codex",
+    "code_sha256": "8e8de96b2b4248f3ca96ffd8884a2086764d3e9e5a8304ae1ff89e8747be0dd2",
+    "dataset_checksums_sha256": "cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+    "finished_at": "2026-09-05T20:34:49.372576+00:00",
+    "id": "slayer://run/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b",
+    "inputs": [
+      "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01"
+    ],
+    "outputs": [
+      "slayer://evidence/open_agh_chemistry_pl/validation@sha256:8318d12edb019c89cc5e7b2fc9cb4c1adad0c545b54e02a1eceb85497a94017b"
+    ],
+    "protocol": "checksum/schema/coverage/source-text replay/per-record token and author validation",
+    "protocol_version_id": "slayer://version/validation-protocol/open_agh_chemistry_pl@sha256:df8399ba03d287d103de612c96fe0a794b067b0c048cb0f28fe95efdeca6d00b",
+    "started_at": "2026-09-05T20:34:44.456270+00:00",
+    "success": true,
+    "verified_records": 370,
+    "verified_tokens": 564028
+  },
+  "version": {
+    "created_at": "2026-09-05T20:34:12.482947+00:00",
+    "created_by": "agent:codex",
+    "digest": "sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+    "id": "slayer://version/dataset-source/open_agh_chemistry_pl@sha256:cdd9d3c40e791bb73b9f5a025bf717094db9a421fb6cd120f3ec44fd46f02b01",
+    "object_id": "slayer://object/dataset-source/open_agh_chemistry_pl",
+    "payload_uri": "hf://datasets/PiotrSty/open-agh-chemistry-pl@07d38bfdb3c9ac961f0aed380195cada1871d53b/data/train-00000-of-00001.parquet"
+  }
+}

artifacts/source_findings.md

@@ -784,3 +784,35 @@ user-talk chars).
 99.3% of it just 47 template/notice lines shared across namespaces. Also:
 line-level boilerplate rules need their length cap revisited (the <160-char rule
 lets long templated notices survive in both corpora).
+
+---
+
+## open_agh_chemistry_pl — Open AGH chemistry textbooks
+
+**Investigated** — 2026-09-05 (review round 2026-09-28).
+
+**Verdict** — `added` (proposed with `release: None`). 370 modules / 564k
+`cl100k_base` tokens from four Polish AGH chemistry textbooks (general,
+inorganic, polymer, corrosion) — didactic LaTeX-bearing prose.
+
+**Enumeration** — the AGH e-textbook platform
+(<https://epodreczniki.open.agh.edu.pl/handbook/{29,1394,37,1893}>); 374
+modules discovered, 370 retained (each with a selection decision). Pinned
+snapshot `PiotrSty/open-agh-chemistry-pl@07d38bfd` with raw module HTML.
+
+**License evidence** — verified AT THE ORIGIN: each book's official EPUB rights
+page (served by AGH at `/rpc/preview/handbooks/{id}/epub/light`, preserved
+verbatim with `rights_sha256` in `books.json`) states "Publikacja udostępniona
+jest na licencji Creative Commons Uznanie Autorstwa - Na tych samych warunkach
+4.0…" with attribution terms and a "Wersja oryginalna" marking requirement.
+Per-book, not catalogue-level — the strong pattern.
+
+**Blockers** — none to merge with `release: None`. Before release: NERGAL pass
+(two-pattern redaction only; the 60-record spot check was clean — DOIs only),
+cross-source dedup and benchmark checks.
+
+**Lesson** — repo hygiene findings worth keeping: (1) `sources.py` line endings —
+`main`'s own blob is CRLF today, so the AGENTS.md "commit LF" rule as written
+would CREATE whole-file rewrites; the minimal-diff rule is "match main", and the
+repo-wide normalization is maintainer work; (2) the entry shipped without
+`added`/`release` — the registry contract check belongs in the contract test.

data/open_agh_chemistry_pl/NOTICE.md

@@ -0,0 +1,37 @@
+# Attribution and license
+
+CC BY-SA 4.0: https://creativecommons.org/licenses/by-sa/4.0/deed.pl
+
+## Chemia ogólna
+
+Authors: Alicja Łukaszczyk; Bartosz Grysakowski; Dominika Święch; Edyta Proniewicz; Halina Krawiec; Maria Starowicz; Zbigniew Szklarz.
+
+Publisher: Akademia Górniczo-Hutnicza im. St. Staszica w Krakowie.
+
+Wersja oryginalna e-podręcznika dostępna na stronie: https://epodreczniki.open.agh.edu.pl/handbook/29
+
+## Podstawy chemii nieorganicznej – układ okresowy
+
+Authors: Halina Krawiec; Maria Starowicz; Urszula Lelek-Borkowska.
+
+Publisher: Akademia Górniczo-Hutnicza im. St. Staszica w Krakowie.
+
+Wersja oryginalna e-podręcznika dostępna na stronie: https://epodreczniki.open.agh.edu.pl/handbook/1394
+
+## Podstawy chemii polimerów
+
+Authors: Dominika Święch; Edyta Proniewicz; Halina Krawiec; Maria Starowicz; Urszula Lelek-Borkowska.
+
+Publisher: Akademia Górniczo-Hutnicza im. St. Staszica w Krakowie.
+
+Wersja oryginalna e-podręcznika dostępna na stronie: https://epodreczniki.open.agh.edu.pl/handbook/37
+
+## Korozja i ochrona przed korozją
+
+Authors: Dominika Święch; Maria Starowicz; Urszula Lelek-Borkowska.
+
+Publisher: Akademia Górniczo-Hutnicza im. St. Staszica w Krakowie.
+
+Wersja oryginalna e-podręcznika dostępna na stronie: https://epodreczniki.open.agh.edu.pl/handbook/1893
+
+Preparation: Piotr Styla with OpenAI Codex. Changes: module-level HTML prose extraction, media removal, whitespace/Unicode normalization, formula preservation, pattern redaction, quality filtering and deduplication. No endorsement by AGH is implied. The recorded rights pages and per-module authors are in artifacts/books.json and attribution.jsonl. This text adaptation is shared under CC BY-SA 4.0.

data/open_agh_chemistry_pl/open_agh_chemistry_pl.attribution.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:24e46e3888b81f2ab93c814fd52c764b4584578188881bba7b848eec9b5ce139
+size 513227

data/open_agh_chemistry_pl/open_agh_chemistry_pl.decisions.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a2ff6b8c3f41fb488a52bd0c806f3945b50f258faf55304afc4839e50df18b45
+size 68440

data/open_agh_chemistry_pl/open_agh_chemistry_pl.md

@@ -0,0 +1,118 @@
+# Open AGH Polish chemistry textbooks
+
+Four Polish editions: general chemistry, inorganic chemistry, polymer chemistry,
+and corrosion/corrosion protection. This is an independent text-only adaptation.
+
+- Snapshot: 2026-09-05
+- Module occurrences: 374; unique modules: 374
+- Retained records: 370; measured tokens: 564028 (`cl100k_base` proxy)
+- Characters: 1446015
+- License: CC BY-SA 4.0, independently documented in each official EPUB rights page.
+- Immutable payload: `07d38bfdb3c9ac961f0aed380195cada1871d53b`
+
+## Source, attribution and changes
+
+See NOTICE.md, artifacts/books.json and artifacts/attribution.jsonl for the
+original edition URLs, module authors, institutional credit, book-specific
+rights XHTML, observed revision labels and hashes. Preserve attribution,
+original publication links, license links and notices of modifications.
+The license assertion concerns these four editions, not every repository item.
+No media binaries are redistributed. Published source HTML snapshots are not
+de-identified; only the selected text undergoes the documented pattern checks.
+
+## License at the origin
+
+The rights statement lives in each book's official EPUB rights page on the AGH
+platform (the exact pages are preserved verbatim in `artifacts/books.json` as
+`rights_xhtml`/`rights_text` with `rights_sha256`, fetched from
+`https://epodreczniki.open.agh.edu.pl/rpc/preview/handbooks/{id}/epub/light`):
+"Publikacja udostępniona jest na licencji Creative Commons Uznanie Autorstwa -
+Na tych samych warunkach 4.0. Pewne prawa zastrzeżone na rzecz autorów i
+Akademii Górniczo-Hutniczej im. Stanisława Staszica w Krakowie." with the
+attribution terms "podania linku do publikacji oraz informacji o licencji wraz z
+linkiem https://creativecommons.org/licenses/by-sa/4.0/deed.pl" and the
+"Wersja oryginalna e-podręcznika dostępna na stronie:
+https://epodreczniki.open.agh.edu.pl/handbook/{id}" marking requirement. The
+handbook landing pages: <https://epodreczniki.open.agh.edu.pl/handbook/29>,
+`/1394`, `/37`, `/1893`. All four editions carry the same CC BY-SA 4.0 grant;
+the NOTICE implements the required credit + link + license-link + modification
+notice.
+
+## Normalization (steps and before/after)
+
+`src/build_open_agh_pl.py`, against the pinned module HTML:
+
+1. `extract()` - BeautifulSoup text extraction of the module prose: HTML tags,
+   comments (`<!-- l. 5 -->`), anchors and media dropped; block structure kept
+   as lines; native LaTeX preserved verbatim (`\(\ce{Na_2O}\)`,
+   `\begin{equation}\ce{E_{n}O_{m}}\end{equation}`).
+2. `normalize()` - NFKC; soft hyphens (U+00AD) and zero-width spaces (U+200B)
+   removed; spaces/tabs/NBSP runs collapsed per line, lines trimmed; runs of 3+
+   newlines capped at one empty line.
+3. Pattern PII redaction (e-mail, labelled phone -> `[REDACTED:*]`).
+4. Quality gates: body >= 200 chars, letter ratio >= 0.35, balanced LaTeX
+   delimiters, langid Polish; exact normalized dedup, then seeded MinHashLSH
+   candidates with exact 5-word-shingle Jaccard >= 0.9.
+
+Before/after excerpt (raw module HTML -> shipped record, `open_agh_chemistry_pl_527`) is in
+the review thread: the TeX4ht markup, `mathjax-*` wrappers and example-block scaffolding
+disappear; the sentences and LaTeX survive.
+
+## PII scrubber and residual spot check
+
+Scrubber that ran: **pattern redaction in `src/build_open_agh_pl.py`** (e-mail
+-> `[REDACTED:EMAIL]`, labelled phone -> `[REDACTED:LABELLED_PHONE]`). This is
+**not** [SlayerLab/NERGAL](https://huggingface.co/SlayerLab/NERGAL); the shard
+must be re-run through NERGAL before it is admitted to a release. Merge with
+`release: None` is fine meanwhile.
+
+Spot check (60 of 370 records, seed 20260928): zero contact-like hits (e-mail,
+phone words, IBAN, street cues) and zero redaction placeholders; the 7
+long-digit-run hits are **DOIs in bibliographies**, not PII. Author bylines are
+published credits; the only address in the source material is the institutional
+publisher colophon (AGH). Residual risk is low here - but the scrubber is
+two-pattern, so the NERGAL gate stands.
+
+## Reproduction
+
+Install `src/open_agh_requirements.txt`. Decompress artifacts/modules.jsonl.gz
+into WORK/modules.jsonl; copy artifacts/books.json to WORK/inventory.json and
+artifacts/target_audit.json to WORK/target_audit.json. Run:
+
+```sh
+python src/build_open_agh_pl.py --output WORK build
+python src/publish_open_agh_pl.py --output WORK verify
+```
+
+Build is offline and preserves native LaTeX, including chemical notation.
+The data replay is deterministic; a new Run has new execution timestamps.
+Live acquisition uses `discover` and `fetch` in a fresh output directory.
+API revisions are observed labels; immutable identity is the recorded byte hash.
+
+## QA and limitations
+
+Each discovered unique module has a selection decision. Minimum body length
+200 chars; letter ratio >=0.35; reject unbalanced LaTeX delimiters and confidently
+non-Polish text. All retained text, author attribution and token counts are replayed.
+Module identity and normalized exact dedup precede seeded MinHashLSH candidates
+and exact five-word-shingle Jaccard >=0.9. Candidate retrieval is probabilistic.
+
+Media are omitted, so some prose references missing figures. Tables are flattened;
+retaining LaTeX and balanced delimiters does not establish equation correctness.
+Email/labelled-phone checks are limited, not comprehensive PII de-identification.
+The `created` field is a book publication metadata proxy, not a module creation date.
+Embedded citations may remain. Corpus-wide DynaWord exact/near dedup and benchmark
+overlap checks remain pending. Test a capped chemistry source share in controlled
+ablations; neither textual novelty nor training gains are asserted.
+
+## Review artifacts
+
+- artifacts/sample.jsonl: 12 complete deterministic sample records, selected three per book.
+- artifacts/attribution.jsonl and decisions.jsonl: record provenance and selection decisions.
+- artifacts/books.json and modules.jsonl.gz: source snapshot and official licensing evidence.
+- artifacts/checksums.json, stats.json, qa.json, run.json, ontology.json: versioned research evidence.
+
+The Slayer graph separates Objects/Versions, processing and validation Protocols,
+actual Runs, typed lineage, Evidence, falsifiable Claims, Actors and pending gates.
+This is a pretraining candidate source, not an uncontaminated benchmark or a stable
+DynaWord release. The HF train split points only to data/*.parquet.

data/open_agh_chemistry_pl/open_agh_chemistry_pl.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a26d4fa2d515238bf2f2d028b18e641ecd0735ee65a79e045bc7cc44601f5ee8
+size 560790

data/open_agh_chemistry_pl/open_agh_chemistry_pl.qa.json

@@ -0,0 +1,28 @@
+{
+  "benchmark_overlap_check": "pending",
+  "cross_source_exact_dedup_completed": false,
+  "cross_source_near_dedup_completed": false,
+  "extraction_operations": {
+    "email": 0,
+    "labelled_phone": 0,
+    "media_or_ui_removed": 653,
+    "unbalanced_math_delimiters": 0
+  },
+  "limitations": [
+    "figures/media omitted; prose can reference missing figures",
+    "LaTeX preserved, not equation correctness verification",
+    "tables flattened into rows",
+    "email/labelled-phone patterns are not complete PII scrubbing; author attribution retained",
+    "published source snapshots are not de-identified",
+    "API revision is an observed label; source content identity is its snapshot hash"
+  ],
+  "module_identity_dedup": true,
+  "near_dedup": {
+    "algorithm": "seeded MinHashLSH .8 candidates and exact 5-word-shingle Jaccard >=.9",
+    "limitation": "probabilistic retrieval can miss pairs",
+    "num_perm": 128,
+    "removed": 0,
+    "seed": 1
+  },
+  "normalized_exact_dedup": true
+}

data/open_agh_chemistry_pl/open_agh_chemistry_pl.sample.jsonl

@@ -0,0 +1,12 @@
+{"added": "2026-09-05", "author": "Dominika Święch", "created": "2018-01-01", "id": "open_agh_chemistry_pl_536", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Wpływ orientacji cząsteczek na szybkość reakcji chemicznej\n\nZgodnie z teorią zderzeń (zewn.) czynnikiem, który ogranicza efektywność zderzeń jest orientacja przestrzenna zderzających się cząsteczek (lub atomów, jonów, rodników).\n\nSzybkość reakcji chemicznej zależy od liczby zderzeń efektywnych, czyli takich, w których zderzające się cząsteczki mają odpowiednią energię oraz właściwą orientację względem siebie.\n\nPrzykład 1: Zderzenie nieefektywne vs. zderzenie efektywne\n\nRys. 1 przedstawia ułożenie cząsteczek względem siebie podczas zderzenia nieefektywnego i efektywnego (przykładowa reakcja chemiczna:\\(\\ce{CO_{(g)} + NO_{2(g)}\\rightarrow CO_{2(g)} + NO_{(g)}}\\)).", "token_count": 269}
+{"added": "2026-09-05", "author": "Edyta Proniewicz", "created": "2018-01-01", "id": "open_agh_chemistry_pl_633", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Kwasy nukleinowe\n\nDefinicja 1: Kwasy nukleinowe\n\n... kwas dezoksyrybonukleinowy dwuniciowy (DNA) i kwas rybonukleinowy jednoniciowy (RNA), są biopolimerami zbudowanymi z nukleotydów.\n\nNukleotydy to estry nukleozydów i kwasu fosforowego (zob. Rys. 1). Nukleozydy składają się z zasady azotowej ( Rys. 2) i cukru (zewn.) 5–węglowego (dezoksyrybozy w DNA lub rybozy w RNA).\n\nZnanych jest pięć zasad azotowych: adenina (skrót A), guanina (G), tymina (T), uracyl (U) i cytozyna (C) (zob. Rys. 2). Adenina i guanina należą do zasad purynowych, podczas gdy tymina, uracyl i cytozyna są zasadami pirymidynowymi. Cztery z tych zasad (A, G, U i C) występują w strukturze RNA. Natomiast, zasady azotowe G, A, T i C występują w obu niciach DNA. Dwie nici DNA są utrzymywane razem poprzez wiązania wodorowe utworzone pomiędzy zasadami azotowymi obu nici. Wiązania wodorowe tworzą się pomiędzy atomami azotu lub tlenu, a atomami wodoru zasad azotowych sąsiednich nici. Te dwa nici biegną w kierunkach przeciwnych do siebie nawzajem. Dlatego są one antyrównoległe. Dezoksyryboza lub ryboza, poprzez atomy węgla 3’-końca i 5’-końca, łączą się z grupami fosforowymi za pomocą wiązań fosforodiestrowych. Pierścień pentozy jest przyłączony do zasady azotowej za pomocą wiązania N-glikozydowego, które obejmuje atom azotu pierścienia nukleotydowego (N-1 dla pirymidyn i N-9 dla puryn) i atom węgla C-1 pierścienia pentozy.\n\nKomórki wszystkich organizmów żywych zamieszkujących Ziemię zawierają DNA i RNA. Kwasy DNA i RNA przechowują informacje genetyczne organizmu i pośredniczą w syntezie białek zgodnie z zasadami kodu genetycznego. Mogą one również pełnić funkcję enzymów.", "token_count": 664}
+{"added": "2026-09-05", "author": "Bartosz Grysakowski", "created": "2018-01-01", "id": "open_agh_chemistry_pl_674", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Stechiometria równań chemicznych - przykłady obliczeń\n\nPrawidłowo uzgodnione równanie chemiczne podaje stosunki molowe substratów i produktów biorących udział w danej reakcji. Dzięki znajomości tych relacji można z kolei obliczyć masy bądź objętości poszczególnych reagentów i odwrotnie, znając masy bądź objętości reagujących substancji można określić współczynniki stechiometryczne występujące w równaniu reakcji lub wzorze chemicznym. W module tym przedstawione zostały przykłady obliczeń dla substancji czystych (np. nie będących składnikiem mieszaniny). Przykłady obliczeń dla roztworów (mieszanin) można znaleźć w Reakcje chemiczne w roztworach (zewn.).\n\nPrzykład 1: Ustalanie wzoru chemicznego związku z równania reakcji\n\nW celu zredukowania czystego tlenku żelaza \\(\\text{Fe}_{a}\\text{O}_{b}\\) zużyto 9 gramów czystego glinu. Produktami tej reakcji były tlenek glinu oraz metaliczne żelazo, którego uzyskano 18.7 gramów. Określ jaki to tlenek.\n\nZapiszmy równanie reakcji bez jego uzgadniania:\n\n\\begin{equation}\\text{Fe}_{a}\\text{O}_{b}+\\text{Al}=\\text{Fe}+\\text{Al}_{2}\\text{O}_{3}\\end{equation}\n\nPo lewej stronie równania reakcji znajduje się \\(a\\) atomów żelaza, \\(b\\) tlenu i tylko jeden atom glinu, podczas gdy po stronie prawej - jeden atom żelaza, dwa glinu oraz trzy atomy tlenu.\n\nRozpocznijmy bilansowanie równania od atomów glinu i tlenu. W tym celu należy dopisać współczynnik równy trzy przed cząsteczką tlenku żelaza po stronie substratów, ponieważ trzy atomy tego pierwiastka wchodzą w skład cząsteczki \\(\\text{Al}_{2}\\text{O}_{3}\\) oraz \\(b\\) przed cząsteczką tlenku glinu po stronie produktów (\\(b\\) atomów tlenu występuje w cząsteczce tlenku żelaza). Po lewej stronie równania chemicznego zmienić należy współczynnik przed atomem glinu na \\(2b\\). Aby zbilansować liczbę atomów żelaza, trzeba dopisać \\(3a\\) przed atomem żelaza po stronie produktów.\n\n\\begin{equation}3\\text{Fe}_{a}\\text{O}_{b}+2b\\text{Al}=3a\\text{Fe}+b\\text{Al}_{2}\\text{O}_{3}\\end{equation}\n\nPoprawnie uzgodnione równanie reakcji podaje stosunki molowe reagentów, z których można obliczyć stosunki wagowe lub objętościowe związków biorących udział w reakcji. Zapiszmy proporcję korzystając z obliczonych liczb moli żelaza i glinu zawierających się w podanych w treści zadania masach oraz współczynników stechiometrycznych stojących przed symbolami \\(\\text{Al}\\) i \\(\\text{Fe}\\) w równaniu reakcji (2).\n\n\\begin{equation}\\displaystyle \\left .\\begin{aligned}2b&\\Longleftrightarrow 3a\\\\n_{Al}&\\Longleftrightarrow {n_{Fe}}\\end{aligned}\\right \\}{\\Longrightarrow }\\frac{b}{a}=\\frac{3n_{Al}}{2n_{Fe}}=\\frac{3m_{Al}M_{Fe}}{2m_{Fe}M_{Al}}=\\frac{3{\\cdot }9{\\text{ g}}{\\cdot }56{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}}{2{\\cdot }18.7{\\text{ g}}{\\cdot }27{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}}\\approx \\frac{3}{2}\\end{equation}\n\nWzór poszukiwanego tlenku to:\n\n\\begin{equation}\\text{Fe}_{2}\\text{O}_{3}\\end{equation}\n\nPrzykład 2: Rozkład wodorowęglanu wapnia\n\nOblicz masę węglanu wapnia jaką można otrzymać z rozkładu termicznego 81 gramów wodorowęglanu wapnia. Masa molowa węglanu wapnia \\(M_{CaCO_{3}}=100{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}\\), masa molowa wodorowęglanu wapnia \\(M_{Ca{(}HCO_{3})_{2}}=162{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}\\).\n\n\\begin{equation}\\text{Ca}\\big {(}\\text{HCO}_{3}\\big {)}_{2}=\\text{CaCO}_{3}+\\text{CO}_{2}+\\text{H}_{2}\\text{O}\\end{equation}\n\nZ wartości stosunku molowego reagentów biorących udział w reakcji rozkładu, równanie (6), wiadomo, że rozkład jednego mola wodorowęglanu wapnia powoduje powstanie jednego mola węglanu wapnia.\n\n\\begin{equation}n_{Ca{(}HCO_{3})_{2}}:n_{CaCO_{3}}:n_{CO_{2}}:n_{H_{2}O}=1:1:1:1\\end{equation}\n\nObliczmy masy molowe wodorglanu wapnia oraz węglanu wapnia:\n\n\\begin{equation}\\begin {split}M_{Ca{(}HCO_{3})_{2}}=M_{Ca}+2M_{H}+2M_{C}+6M_{O}=40+2+24+96=162{\\text{ g}}{\\cdot }{\\text{mol}}^{-1} \\\\ M_{CaCO_{3}}= M_{Ca}+M_{C}+3M_{O}=40+12+48=100{\\text{ g}}{\\cdot }{\\text{mol}}^{-1} \\end {split}\\end{equation}\n\nLiczba moli wodorowęglanu wapnia znajdujących się w próbce o podanej masie:\n\n\\begin{equation}\\displaystyle n_{Ca{(}HCO_{3})_{2}}=\\frac{m_{Ca{(}HCO_{3})_{2}}}{M_{Ca{(}HCO_{3})_{2}}}=\\frac{81{\\text{ g}}}{162{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}}=\\frac{1}{2}\\end{equation}\n\nNa podstawie stosunku molowego można zapisać równość pomiędzy liczbami moli wodorowęglanu wapnia i węglanu wapnia oraz obliczyć masę tego drugiego związku:\n\n\\begin{equation}\\displaystyle n_{CaCO_{3}}=n_{Ca{(}HCO_{3})_{2}}=\\frac{1}{2}{\\Longrightarrow }m_{CaCO_{3}}=n_{CaCO_{3}}M_{CaCO_{3}}=50{\\text{ g}}\\end{equation}\n\nPrzykład 3: Obliczenia na podstawie równań dwóch reakcji\n\nOblicz masę kwasu solnego niezbędnego do zobojętnienia próbki wodorotlenku sodu, która jest produktem reakcji 124 gramów tlenku sodu z wodą.\n\nW opisywanym przykładzie wodorotlenek sodu jest produktem reakcji tlenku sodu z wodą, równanie (10). Związek ten jest następnie zobojętniany przy pomocy kwasu solnego zgodnie z równaniem reakcji (11).\n\n\\begin{equation}\\text{Na}_{2}\\text{O}+2\\text{H}_{2}\\text{O}=2\\text{NaOH}+\\text{H}_{2}\\end{equation}\n\n\\begin{equation}\\text{NaOH}+\\text{HCl}=\\text{NaCl}+\\text{H}_{2}\\text{O}\\end{equation}\n\nW pierwszej reakcji stosunki molowe reagentów wynoszą:\n\n\\begin{equation}n_{Na_{2}O}:n_{H_{2}O}:n_{NaOH}:n_{H_{2}}=1:2:2:1\\end{equation}\n\nDla reakcji drugiej:\n\n\\begin{equation}n_{NaOH}:n_{HCl}:n_{NaCl}:n_{H_{2}O}=1:1:1:1\\end{equation}\n\nObliczmy liczbę moli tlenku sodu w próbce 124 g tego związku, a także, korzystając ze stosunku molowego (12), liczba moli wodorotlenku sodu:\n\n\\begin{equation}\\displaystyle n_{Na_{2}O}=\\frac{m_{Na_{2}O}}{M_{Na_{2}O}}=\\frac{124{\\text{ g}}}{62{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}}=2{\\text{ mol}}\\\\\\displaystyle \\frac{n_{Na{2}O}}{n_{NaOH}}=\\frac{1}{2}{\\Longrightarrow }n_{NaOH}=2n_{Na_{2}O}=4{\\text{ mol}}\\end{equation}\n\nPonieważ stosunek molowy wodorotlenku sodu i kwasu solnego wynosi 1:1, można zapisać:\n\n\\begin{equation}\\displaystyle \\frac{n_{HCl}}{n_{NaOH}}=\\frac{1}{1}{\\Longrightarrow }m_{HCl}=n_{NaOH}{M_{HCl}}=4{\\text{ mol}}{\\cdot }37{\\text{ g}}{\\cdot }{\\text{mol}}^{-1}=143{\\text{ g}}\\end{equation}\n\nZadanie 1: Rozkład termiczny wodorowęglanu amonu\n\nTreść zadania: W wyniku rozkładu termicznego próbki wodorowęglanu amonu o masie 7.4 g otrzymano 1.8 g pary wodnej, 2.24 dm3 dwutlenku węgla oraz pewną objętość gazowego amoniaku. Wyznacz objętość amoniaku przyjmując, że gęstości amoniaku i dwutlenku węgla to odpowiednio 0.76 g/dm3 oraz 1.96 g/dm3.\n\nRozwiązanie: Objętość gazowego amoniaku wynosi:\\(V_{NH_{3}}=2.24{\\text{ dm}}^{3}\\)\n\nPokaż rozwiązanie\n\nUkryj rozwiazanie\n\nZadanie 2: Reakcja redoks\n\nTreść zadania: Oblicz ile moli gazowego chloru można otrzymać w reakcji 120 g tlenku manganu(IV) z kwasem solnym. Produktami tej reakcji są gazowy chlor, chlorek manganu(II) oraz woda.\n\nRozwiązanie: Ilość moli gazowego chloru to 1.38 mol.\n\nPokaż rozwiązanie\n\nUkryj rozwiazanie\n\nZadanie 3: Rozkład termiczny węglanu wapnia\n\nTreść zadania: Oblicz masę węglanu wapnia, która w wyniku rozkładu termicznego tego związku pozwala na otrzymanie 2 litrów gazowego dwutlenku węgla (zmierzonego przy ciśnieniu 101.325 hPa oraz temperaturze 294 K). Wykonaj podobne obliczenia dla temperatury 294 K oraz ciśnienia 992 hPa.\n\nRozwiązanie: Masy suchego osadu węglanu wapnia wynoszą:9 g (dla T=294 K i P=101.325 hPa), 8 g (dla T=294 K oraz P=992 hPa).\n\nPokaż rozwiązanie\n\nUkryj rozwiazanie\n\nModuł opracowano na podstawie [1], [2], [3], [4].\n\nBibliografia\n\n[1]\n\n(Red.) A. Śliwa. Obliczenia chemiczne. Zbiór zadań z chemii nieorganicznej i analitycznej wraz z podstawami teoretycznymi. Warszawa: Państwowe Wydawnictwa Naukowe PWN, 1979.\n\n[2]\n\nKalicka Z., Kawecka-Cebula E., Szałkowicz M. Zbiór zadań z chemii ogólnej dla studentów metalurgii. Kraków: Wydawnictwo AGH, 1991.\n\n[3]\n\nPazdro K. M. Zbiór zadań z chemii dla szkół średnich. Warszawa: Oficyna Edukacyjna Krzysztof Pazdro, 1994.\n\n[4]\n\nW. Solarski (Red.) J. Banaś i. Chemia dla inżynierów. Materiały do kształcenia w systemie otwartym. Kraków: Uczelniane Wydawnictwa Nauk.-Dydakt., 2008.", "token_count": 3323}
+{"added": "2026-09-05", "author": "Maria Starowicz", "created": "2022-01-01", "id": "open_agh_chemistry_pl_1413", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Lantanowce\n\nLantanowce to pierwiastki 6 okresu od lantanu do lutetu ( Rys. 1).\n\nPierwiastki te wraz z chemicznie podobnymi skandem i itrem nazywamy pierwiastkami ziem rzadkich lub metalami ziem rzadkich. Ogólnie oznaczamy je symbolem Ln w odniesieniu do dowolnego lantanowca.\n\nWystępowanie i otrzymywanie\n\nLantanowce nie występują w przyrodzie w stanie wolnym, lecz w postaci minerałów mieszanych, z których trudno jest wyodrębnić czyste pierwiastki. Najpopularniejszym minerałem, w którym występują jest monacyt (w jego skład wchodzi lantan i kilka lantanowców). Kolejnym ważnym minerałem jest bastnezyt, zawierający węglany i fluorki Ce, Nd, La i Pr. Lantanowce razem ze skandowcami: skandem i itrem, nazywane są metalami ziem rzadkich. Pierwiastki ziem rzadkich często wchodzą wszystkie razem w skład bardzo trwałych i odpornych na wietrzenie minerałów. Promet jest jedynym lantanowcem nie występującym w przyrodzie. Wszystkie jego izotopy są promieniotwórcze [1].\n\nZe względu na podobieństwo właściwości chemicznych, rozdzielanie lantanowców jest trudne i kosztowne, więc są one stosowane w technice w postaci mieszanki zwanej Mischmetall. Czyste lantanowce otrzymuje się poprzez redukcję soli chlorkowych.\n\nWłaściwości fizyczne\n\nWszystkie lantanowce z wyjątkiem jednego – lantanu są pierwiastkami bloku f ( Tabela 1). Są srebrzystymi metalami, stosunkowo miękkimi, a ich twardość wzrasta wraz ze wzrostem liczby atomowej.\n\nZwiązki lantanowców są najczęściej barwne ( Rys. 2). Związane jest to z możliwymi przejściami elektronów \\(f-f\\).\n\nMetale ziem rzadkich i ich związki mają niską lub umiarkowaną toksyczność.\n\nMetaliczny cer jest wysoce piroforyczny, co oznacza, że podczas szlifowania jego wióry zapalają się.\n\nWłaściwości chemiczne\n\nNa właściwości chemiczne lantanowców bardzo duży wpływ ma orbital \\(f\\), który równocześnie jest czynnikiem odróżniającym je od metali przejściowych. Orbital ten znajduje się w rdzeniu atomowym, nie uczestniczy zatem w wiązaniu chemicznym. Ponieważ istnieje 7 orbitali typu \\(4f\\), liczba niesparowanych elektronów może sięgać nawet 7. Powoduje to powstawanie dużych momentów magnetycznych w związkach lantanowców [2].\n\nLantanowce pod względem chemicznym są bardzo do siebie podobne. Wszystkie tworzą związki na +3 stopniu utlenienia, a niektóre dodatkowo na +2 i +4. Metale te są bardzo aktywne chemicznie. Reagują z wodą z wydzieleniem wodoru, jednak po pewnym czasie reakcja ustaje, bo powierzchnia pokrywa się warstwą nierozpuszczalnego wodorotlenku, która izoluje metal od dalszego kontaktu z wodą:\n\n\\begin{equation}\\ce{2Ln + 3H_2O \\rightarrow 2Ln(OH)_3}\\end{equation}\n\ntworzą zatem nierozpuszczalne w wodzie tlenki i wodorotlenki.\n\nReagują z kwasami z wydzieleniem wodoru:\n\n\\begin{equation}\\ce{Ln + 3HCl \\rightarrow LnCl_3 +3HCl}\\end{equation}\n\nReagują z wodorem tworząc wodorki typu \\(\\ce{LnH_2}\\), a w podwyższonych temperaturach wodorki typu \\(\\ce{LnH_3}\\).\n\nZ fluorowcami dają odpowiednio fluorki, chlorki, bromki jodki (X – fluorowiec):\n\n\\begin{equation}\\ce{2Ln + 3X_2 \\rightarrow 2LnX_3}\\end{equation}\n\nLantanowce są silnymi środkami redukującymi.\n\nPrzykład 1: Właściwości fizyczne i chemiczne samaru\n\nFilm pokazuje właściwości fizyczne i chemiczne samaru.\n\nŹródło: Thoisoi2 - Chemical Experiments!, Samar - metalem, który pomaga leczyć RAKA!, 29.07.2017 (dostęp 07.09.2021). Dostępne w Youtube:https://www.youtube.com/watch?v=d-RbpEIHJRI.\n\nInformacja dodatkowa 1: Zastosowanie\n\nMieszany stop metali ziem rzadkich zwany Mischmetall (50\\(\\%\\) Ce, 25\\(\\%\\) La, 25\\(\\%\\) innych lekkich lantanowców) lub metal misch jest łączony z żelazem w celu wytworzenia krzemieni do zapalniczek. Niewielki dodatek Mischmetallu do stali niskostopowych poprawia ich wytrzymałość i urabialność.\n\nPierwiastki ziem rzadkich są niezbędnym surowcem do produkcji w nowoczesnych technologiach. Większość lantanowców stosuje się do wytwarzania katalizatorów i wysokowydajnych magnesów. Cer i lantan są wykorzystywane w katalizatorach, które stosuje się do rafinacji ropy naftowej oraz jako dodatki do oleju napędowego. Neodym ma duże znaczenie w produkcji magnesów.\n\nPierwiastki ziem rzadkich znajdują zastosowanie w silnikach elektrycznych pojazdów hybrydowych i elektrycznych, generatorach stosowanych w turbinach wiatrowych, dyskach twardych, przenośnej elektronice, mikrofonach i głośnikach [3].\n\nCer, lantan i neodym są wykorzystywane do produkcji stopów oraz do produkcji ogniw paliwowych i akumulatorów nikolowo-wodorowych. Cer, gal i neodym są wykorzystywane do produkcji ekranów LCD i plazmowych, światłowodów i laserów.\n\nHolm ma największą siłę magnetyczną ze wszystkich pierwiastków i dlatego jest używany do tworzenia najsilniejszych sztucznie generowanych pół magnetycznych [4].\n\nLantanowce stosowane są również w medycynie, wchodzą w skład środków kontrastujących w obrazowaniu, np. gadolin. Roztwory organicznych kompleksów gadolinu i związków gadolinu są stosowane jako dożylny środek kontrastowy w celu wzmocnienia obrazów w medycznym obrazowaniu metodą rezonansu magnetycznego. Po wstrzyknięciu środka kontrastowego na bazie gadolinu, gromadzi się on w nieprawidłowych tkankach, co zapewnia większy kontrast i ułatwia lokalizację nieprawidłowych komórek i guzów [5]. Erb jest stosowany w chirurgii laserowej, jak również do produkcji światłowodów [6].\n\nNajważniejsze związki\n\n\\(\\ce{CeO_2}\\)tlenek ceru (IV) – jest stosowany w syntezie organicznej i nieorganicznej jako utleniacz.\n\n\\(\\ce{SmI_3}\\)jodek samaru – stosowany jako efektywny reagent w reakcjach tworzenia wiązań \\(\\ce{C - C}\\).\n\nStop\\(\\ce{Nd_2Fe_{14}B}\\) – jest najsilniejszym znanym magnesem trwałym.\n\n\\(\\ce{Nd_2O_3}\\)tlenek neodymu (III) – surowiec do produkcji szkieł neodymowych.\n\n\\(\\ce{Eu_2O_3}\\)tlenek europu (III) – stosowany jako czerwony luminofor w telewizorach i lampach fluorescencyjnych.\n\n\\(\\ce{Dy_2O_3}\\)tlenek dysprozu (III) – żółtawo-zielonkawy proszek, mający zastosowanie w ceramice, szkle, luminoforach. Jest wysoce magnetyczny, bardziej niż tlenek żelaza [7].\n\n\\(\\ce{Dy(NO_3)_3}\\)azotan (V) dysprozu – stosowany jako katalizator.\n\n\\(\\ce{Ho_2O_3}\\)tlenek holmu (III) – stosowany jako barwnik do cyrkonu i szkła. Jest używany jako wzorzec kalibracyjny do spektrometrów optycznych [4].\n\n\\(\\ce{Er_2O_3}\\)tlenek erbu (III) – jest jednym z najważniejszych tlenków metali ziem rzadkich stosowanych w biomedycynie [6].\n\nBibliografia\n\n[1]\n\nBala H. „Wstęp do chemii materiałów”. W: (2003).\n\n[2]\n\nWikipedia. „Lanthanide”. W: (). url: https://en.wikipedia.org/wiki/Lanthanide. (accessed: 17.10.2021).\n\n[3]\n\nWikipedia. „Rare-earth element”. W: (). url: https://en.wikipedia.org/wiki/Rare-earth_element. (accessed: 17.10.2021).\n\n[4]\n\nWikipedia. „Holmium”. W: (). url: https://en.wikipedia.org/wiki/Holmium. (accessed: 17.10.2021).\n\n[5]\n\nWikipedia. „Gadolimium”. W: (). url: https://en.wikipedia.org/wiki/Gadolinium. (accessed: 17.10.2021).\n\n[6]\n\nWikipedia. „Erbium”. W: (). url: https://en.wikipedia.org/wiki/Erbium. (accessed: 17.10.2021).\n\n[7]\n\nWikipedia. „Dysprosium”. W: (). url: https://en.wikipedia.org/wiki/Dysprosium. (accessed: 17.10.2021).", "token_count": 2666}
+{"added": "2026-09-05", "author": "Urszula Lelek-Borkowska", "created": "2022-01-01", "id": "open_agh_chemistry_pl_1400", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Litowce\n\nDo grupy litowców zaliczamy pierwiastki pierwszej grupy układu okresowego, leżące poniżej wodoru: lit, sód, potas, rubid, cez oraz frans ( Rys. 1).\n\nTabela 1 prezentuje wielkości charakterystyczne dla litowców.\n\nWystępowanie i otrzymywanie\n\nNajbardziej rozpowszechnionym litowcem w przyrodzie jest sód (2,6\\(\\%\\)), który występuje w skaleniach typu \\(Na[AlSi_3O_8]\\) [1], w złożach soli kamiennej, wodach mórz i oceanów w postaci \\(NaCl\\) oraz azotanie (V) sodu \\(NaNO_3\\) – saletrze chilijskiej. Potas występuje w przyrodzie prawie równie często, jak sód (2,4\\(\\%\\)), podobnie jak Na najczęściej w postaci chlorku \\(KCl\\) – sylwinu [2]. Lit (0,00065\\(\\%\\)) występuje w postaci glinokrzemianów, jak spodumen \\(LiAl[Si_2O_6]\\), czy w fosforanach, jak ambligonit \\(LiAl(PO_4)F\\). Rubid (0,028\\(\\%\\)) występuje w ilości 0,3\\(\\%\\) do 3,5\\(\\%\\) w lepidolicie \\(K(Li,Al)_3(Al,Si,Rb)_4O_10(F,OH)_2\\) [3].\n\nLitowce otrzymywane są w procesie elektrolizy. Ponieważ potencjał normalny litowców jest niższy niż wodoru – nie można otrzymać ich z roztworów wodnych, z racji tego, że jako pierwszy redukowany jest wodór. Dlatego litowce otrzymuje się podczas elektrolizy stopionych soli, np. sód – ze stopionego, bezwodnego chlorku sodu:\n\n\\begin{equation}Katoda: 2Na^+ + 2e^- = 2Na\\end{equation}\n\n\\begin{equation}Anoda: 2Cl^– = Cl_2 + 2e^-\\end{equation}\n\nWłaściwości fizyczne\n\nLitowce są miękkimi metalami o małej gęstości, o srebrzystobiałej barwie i połysku po przekrojeniu (są tak miękkie, że można je kroić nożem – Rys. 2).\n\nW wysokiej temperaturze, np. w płomieniu palnika, związki litowców wyparowują, a ich pary pobudzone do świecenia zabarwiają płomień palnika w charakterystyczny dla siebie sposób. Wynika to z faktu, że niski potencjał jonizacyjny litowców umożliwia łatwe wzbudzenie elektronów z niższych na wyższe poziomy energetyczne. Wzbudzone elektrony wracając na niższe poziomy wypromieniowują kwant energii o określonej długości światła, co obserwuje się jako zabarwienie płomienia palnika. Lit barwi płomień na kolor karminowy, sód – żółty, potas – fioletowy, rubid – fioletowo-czerwony, cez – niebieski. Cecha ta została wykorzystana do identyfikacji litowców metodą płomieniową. Rys. 3 przedstawia kolory płomieni.\n\nWłaściwości chemiczne\n\nLitowce posiadają tylko jeden elektron na powłoce walencyjnej i bardzo łatwo go oddają, co powoduje, że są pierwiastkami bardzo aktywnymi chemicznie.\n\nReagują z tlenem z powietrza:\n\n\\begin{equation}2K + \\frac{1}{2} O_2 = K_2O\\end{equation}\n\nW podwyższonych temperaturach łączą się z wodorem:\n\n\\begin{equation}2Li + H_2 = 2LiH\\end{equation}\n\nReagują gwałtownie z fluorowcami do halogenków:\n\n\\begin{equation}K + \\frac{1}{2} Cl_2 = KCl\\end{equation}\n\nOgrzewane z gazowym amoniakiem dają amidki:\n\n\\begin{equation}2Li + 2 NH_3 = 2LiNH_2 + H_2\\end{equation}\n\nGwałtownie reagują z wodą:\n\n\\begin{equation}2Na + 2H_2O = 2NaOH + H_2\\end{equation}\n\nInformacja dodatkowa 1: Zastosowanie\n\nLit stosowany jest jako dodatek do stopów aluminium, cynku i magnezu, zwiększa ich twardość i wytrzymałość. Stosowany jest jako środek odtleniający w metalurgii oraz w produkcji baterii np. litowo-polimerowych.\n\nSód znajduje zastosowanie przede wszystkim w produkcji nadtlenku sodu \\(Na_2O_2\\). Używany jest jako reduktor związków organicznych oraz substrat reakcji chemicznych, np. syntezy Wurtza. Pierwiastkowy sód stosowany jest w lampach sodowych, dających żółte światło, które jest widoczne nawet we mgle. Obecnie lampy sodowe zastępuje się lampami LED. W stanie ciekłym stosowany jest jako chłodziwo w niektórych reaktorach.\n\nCez w stopie z glinem i barem służy do produkcji fotokomórek cezowych, stosuje się go także w radiografii i badaniach geofizycznych [4].\n\nNajważniejsze związki\n\n\\(Na_2O_2\\) nadtlenek sodu – silnie utleniający, stosowany do oczyszczania powietrza w okrętach podwodnych i aparatach tlenowych:\n\n\\begin{equation}Na_2O_2 + CO_2 = Na_2CO_3 + \\frac{1}{2} O_2\\end{equation}\n\n\\(NaOH\\) wodorotlenek sodu (dawniej zwany sodą kaustyczną) – biała krystaliczna substancja, żrący, silnie higroskopijny, stosowany do produkcji mydła, barwników organicznych, sztucznego jedwabiu, otrzymywania celulozy z drewna, środek neutralizujący.\n\n\\(KOH\\) wodorotlenek potasu – silnie higroskopijny, stosowany do produkcji mydła w płynie, w syntezach organicznych, do otrzymywania dwuchromianu i nadmanganianu potasu, pochłaniania \\(CO_2\\) z powietrza:\n\n\\begin{equation}2KOH + CO_2 = K_2CO_3 + H_2O\\end{equation}\n\n\\(NaCl\\) chlorek sodu (sól kuchenna) – materiał wyjściowy do przemysłowej produkcji sodu, środek spożywczy, roztwór 0,9\\(\\%\\)(sól fizjologiczna) stosowany w medycynie.\n\n\\(KCl\\) chlorek potasu (sylwin) – nawóz mineralny.\n\n\\(Na_2CO_3\\) węglan sodu (soda) – służy do produkcji szkła, proszków do prania, zmiękczania wody, stosowany w przemyśle papierniczym i farbiarskim.\n\n\\(NaHCO_3\\) wodorowęglan sodu, kwaśny węglan sodowy (soda oczyszczona) – proszek do pieczenia, spulchnia ciasto poprzez wydzielanie tlenku węgla (IV) zgodnie z reakcją\n\n\\begin{equation}2 NaHCO_3 = Na_2CO_3+ CO_2 + H_2O\\end{equation}\n\n\\(NaNO_3 \\) azotan (V) sodu (saletra chilijska), \\(KNO_3 \\) azotan (V) potasu (saletra indyjska) – nawozy mineralne, stosowane w produkcji prochu strzelniczego.\n\nInformacja dodatkowa 2: Znaczenie biologiczne\n\nSód jest jednym z najważniejszych składników elektrolitów w ciele człowieka. Odpowiada za prawidłowe funkcjonowanie układu nerwowego i mięśniowego – wraz z potasem reguluje napięcie mięśniowe (także serca) i wpływa na przewodzenie bodźców w komórkach nerwowych. Sód reguluje gospodarkę wodną organizmu – zatrzymuje wodę w organizmie i odpowiada za jej prawid��owe rozmieszczenie w ustroju. Sód ma także swój udział w utrzymaniu odpowiedniego pH, czyli równowagi kwasowo-zasadowej organizmu. Uczestniczy także w aktywnym wchłanianiu wielu składników odżywczych, na przykład glukozy i aminokwasów [5], [6].\n\nBibliografia\n\n[1]\n\nWikipedia. „Albit”. W: (). url: https://pl.wikipedia.org/wiki/Albit. (accessed: 12.09.2021).\n\n[2]\n\nWikipedia. „Sylwin (minerał)”. W: (). url: https://pl.wikipedia.org/wiki/Sylwin_(minera%C5%82). (accessed: 12.09.2021).\n\n[3]\n\nHart W. A., Beumel O. F., Whaley T. P. „The Chemistry of Lithium, Sodium, Potassium, Rubidium, Cesium and Francium”. W: (1973).\n\n[4]\n\nSzepke R. „1000 słów o atomie i technice jądrowej”. W: (1982).\n\n[5]\n\nIII J. L. Lewis. „Overview of Sodium’s Role in the Body”. W: (2020). url: https://www.msdmanuals.com/en-au/home/hormonal-and-metabolic-disorders/electrolyte-balance/overview-of-sodiums-role-in-the-body. (accessed: 28.06.2021).\n\n[6]\n\nCook N. R., Obarzanek E., Cutler J. A., Buring J. E., Rexrode K. M., al. S. K. Kumanyika et. „Joint effects of sodium and potassium intake on subsequent cardiovascular disease: the Trials of Hypertension Prevention follow-up studyexternal icon”. W: ().", "token_count": 2672}
+{"added": "2026-09-05", "author": "Halina Krawiec", "created": "2022-01-01", "id": "open_agh_chemistry_pl_1430", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Napięcie powierzchniowe, zwilżalność\n\nNapięcie powierzchniowe jest to zjawisko fizyczne występujące na styku powierzchni cieczy z ciałem stałym, gazem lub inną cieczą. Zjawisko to spowodowane jest istnieniem niezrównoważonych na powierzchni cieczy sił przyciągania międzycząsteczkowego. Na cząsteczkę cieczy znajdującą się w głębi cieczy działają symetryczne siły oddziaływania międzycząsteczkowego ( Rys. 1). Cząsteczka znajdująca się na powierzchni cieczy doznaje działania sił międzycząsteczkowych tylko od strony cieczy. Siła wypadkowa działająca na cząsteczkę znajdującą się na powierzchni cieczy zmierza do wciągnięcia tej cząsteczki w głąb cieczy. Ciecz zachowuje się tak, jakby jej powierzchnia była pokryta elastyczną błonką, wykazującą tendencję do kurczenia się. Ze względu na występowanie napięcia powierzchniowego, ciecze wykazują tendencję do przyjmowania kształtu, któremu odpowiada najmniejsza energia. Krople wody zawsze dążą do przyjęcia kształtu kulistego. Kula jest bryłą geometryczną, która wykazuje najmniejszy stosunek powierzchni do objętości.\n\nAby zwiększyć powierzchnię cieczy, należy wykonać pracę, która jest wyrażona równaniem (1).\n\n\\begin{equation}{dW} = {\\sigma }{dA}\\end{equation}\n\ngdzie W – oznacza pracę wykonaną w celu zwiększenia powierzchni cieczy, A – powierzchnię cieczy, natomiast współczynnik proporcjonalności \\(\\sigma \\) nosi nazwę napięcia powierzchniowego i jest on wyrażony w \\(\\ce{[J*m^2]}\\). Miarą napięcia powierzchniowego jest praca, jaką trzeba wykonać, aby zwiększyć powierzchnię cieczy o jednostkę powierzchni [1].\n\nDefinicja 1: Napięcie powierzchniowe\n\nNapięcie powierzchniowe definiuje się jako siłę styczną do powierzchni cieczy, działającą na jednostkę obrzeża powierzchni cieczy (2).\n\n\\begin{equation}{\\sigma } = \\dfrac{F}{l}\\end{equation}\n\ngdzie:\n\nF – to siła napięcia powierzchniowego, działająca równolegle do powierzchni cieczy,\n\nl – długość odcinka, na którym działa siła.\n\nNapięcie powierzchniowe zależy od temperatury cieczy i ze wzrostem temperatury napięcie powierzchniowe maleje. Napięcie powierzchniowe cieczy można zmniejszyć poprzez dodanie do niej substancji powierzchniowo-czynnych zwanych surfaktantami (mydła, detergenty). Cząsteczka surfaktantu zbudowana jest z dwóch grup. Jedna z nich wykazuje niskie powinowactwo do rozpuszczalnika (grupa liofobowa), a druga grupa wykazuje silne powinowactwo do rozpuszczalnika (grupa liofilowa). Cząsteczki surfaktantu gromadzą się na granicy faz (np. ciecz/gaz) i każda z grup miesza się z odrębną fazą, co skutkuje zmniejszeniem napięcia powierzchniowego.\n\nSiły napięcia powierzchniowego mają wpływ na kształt swobodnej powierzchni cieczy. Z oddziaływaniem napięcia powierzchniowego związany jest kulisty kształt kropel wody, powstawanie menisku, tworzenie się pęcherzyków, baniek oraz wznoszenia się cieczy w cienkich rurkach zwanych kapilarami (zjawisko włoskowatości). Zakrzywienia powierzchni swobodnej cieczy występujące na granicy dwóch faz (np. cieczy i ciała stałego), spowodowanie współdziałaniem sił napięcia powierzchniowego oraz sił przylegania (adhezji) prowadzi do powstania menisku.\n\nMenisk wypukły powstaje, gdy siły oddziaływania między cząsteczkami cieczy i ściankami naczynia są mniejsze od sił oddziaływań samych cząsteczek cieczy. Menisk wklęsły powstaje, gdy siły oddziaływania między cząsteczkami cieczy i ściankami naczynia są większe od siły wzajemnych oddziaływań cząsteczek cieczy. W cienkich rurkach (kapilarach) menisk może spowodować podniesienie lub obniżenie słupa cieczy w zależności od kąta zwilżania. W przypadku menisku wklęsłego (ciecz zwilża ścianki naczynia) tworzącego się w cieczy znajdującej się w cienkiej szklanej rurce, słup cieczy jest podnoszony na znaczną wysokość. Jeśli ciecz nie zwilża ścianek naczynia, wówczas tworzy się menisk wypukły, a słup cieczy jest obniżany ( Rys. 2).\n\nUwaga 1: Efekt napięcia powierzchniowego\n\nDzięki napięciu powierzchniowemu niektóre owady (np. nartnik duży) mogą poruszać się po powierzchni wody.\n\nPomiar napięcia powierzchniowego\n\nMetody pomiaru napięcia powierzchniowego można podzielić na metody bezwzględne i metody względne. Metody bezwzględne pozwalają na bezpośredni pomiar napięcia powierzchniowego, natomiast metody względne pozwalają na wyznaczenie parametrów służących do obliczania napięcia powierzchniowego badanej cieczy i porównania ich z takimi samymi parametrami wyznaczonymi dla cieczy o znanym napięciu powierzchniowym.\n\nMetody bezwzględne:\n\nmetoda kapilarna – polega na pomiarze wysokości wzniesienia cieczy w dwóch rurkach o różnej średnicy lub pomiarze ciśnienia powstającego w rurce kapilarnej,\n\nmetoda maksymalnego ciśnienia w kroplach lub pęcherzykach – polega na pomiarze maksymalnej wartości ciśnienia podczas wtłaczania powietrza do cieczy lub podczas tworzenia się kropli na rurce.\n\nMetody względne:\n\nmetoda stalagmometryczna – polega na wyznaczeniu masy kropli, która odrywa się od rurki kapilarnej stalagmometru lub wyznaczeniu liczby kropel, które powstają podczas wypływania z rurki cieczy o znanej objętości i gęstości,\n\nmetoda tensjometryczna – polega na pomiarze siły, jakiej trzeba użyć do oderwania pierścienia wykonanego z cienkiego drutu platynowego lub ramki wyciąganych z cieczy. Pierścień lub ramka są przytrzymywane w cieczy siłą napięcia powierzchniowego [2].\n\nDefinicja 2: Zwilżalność\n\nZwilżalność jest właściwością materiałów, która charakteryzuje ich sposób zachowania się w kontakcie z cieczami.\n\nJeśli ciało stałe łatwo pokrywa się warstwą wody, to mówi się, że posiada ono właściwości hydrofilowe (materiał łatwo zwilżalny), natomiast materiał trudno zwilżalny ma właściwości hydrofobowe. W zależności od charakteru powierzchni danego materiału, kropla wody rozpłynie się na niej, bądź pozostanie na nim zachowując swój kulisty kształt. Zdolność do zwilżania ciała stałego przez ciecz jest charakteryzowana za pomocą kąta zwilżania. Rys. 3 przedstawia kąt zwilżania dla cieczy całkowicie zwilżającej ciało stałe (a) i dla cieczy niezwilżającej powierzchni ciała stałego (b).\n\nKąt zwilżania zależy od napięcia powierzchniowego występującego na granicy faz: ciało stałe (s)/ ciecz (c), ciało stałe (s)/ gaz (g) i ciecz (c)/ gaz (g) zgodnie z równaniem (3).\n\n\\begin{equation}{cos\\theta } = \\dfrac{\\sigma _{gs}-\\sigma _{cs}}{\\sigma _{gc}}\\end{equation}\n\ngdzie \\(\\sigma _{gs}\\) oznacza napięcie powierzchniowe na granicy gaz/ciało stałe, \\(\\sigma _{cs}\\) – napięcie powierzchniowe na granicy ciecz/ciało stałe, \\(\\sigma _{gc}\\) – napięcie powierzchniowe na granicy gaz/ciecz.\n\nJeśli \\( cos\\theta \\) jest równy jeden, to ciecz zwilża powierzchnię ciała stałego, jeśli cos\\( cos\\theta \\) jest równy minus jeden, to ciecz nie zwilża powierzchni ciała stałego. Wartość \\( cos\\theta \\) jest nazywana współczynnikiem zwilżalności.\n\nZjawisko zwilżania jest bardzo ważne w wielu procesach technologicznych, np. wytwarzania materiałów kompozytowych, nakładania powłok metalicznych. Zwilżalność odgrywa istotną rolę w korozji atmosferycznej, a także przy nanoszeniu farb, lakierów czy powłok organicznych. W celu podniesienia odporności na korozję na metalach lub stopach wytwarza się hydrofobowe powłoki, które ograniczają zwilżalność materiału przez elektrolit. Kąt zwilżania większy od zera umożliwia unoszenie się na powierzchni cieczy ciał stałych o gęstości większej od gęstości cieczy. Zjawisko to wykorzystywane jest w procesie flotacji, która polega na rozdzieleniu ciał stałych rozdrobnionych wykorzystując różnice zwilżalności. Kąt zwilżania zwiększa się podczas impregnacji tkanin, dzięki czemu uzyskują one wodoodporność.\n\nBibliografia\n\n[1]\n\nBielański A. „Podstawy chemii nieorganicznej”. W: (2010, tom I.).\n\n[2]\n\nPigoń K., Ruziewicz Z. „Chemia fizyczna”. W: (2009).", "token_count": 2935}
+{"added": "2026-09-05", "author": "Halina Krawiec", "created": "2021-01-01", "id": "open_agh_chemistry_pl_952", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Polihydroksyalkaniany (PHA)\n\nPolihydroksyalkaniany (PHA) są to polimery biodegradowalne, które należą do grupy poliestrów alifatycznych. Ogólny wzór PHA przedstawiono na Rys. 1, gdzie x wynosi 1 dla polimerów komercyjnych, natomiast R oznacza łańcuch węglowodorowy zawieraj��cy do 15 atomów węgla [1].\n\nWyróżniany dwie grupy polihydroksyalkanianów:\n\nPHA powstające z krótkołańcuchowych hydroksykwasów, które zawierają od trzech do pięciu atomów węgla;\n\nPHA powstające z hydroksykwasów zawierających od sześciu do czternastu atomów węgla w łańcuchu węglowodorowym.\n\nPolihydroksyalkaniany (PHA) są syntetyzowane przez wiele bakterii Gram-dodatnich i Gram-ujemnych. Polimery PHA są gromadzone wewnątrzkomórkowo i działają jako rezerwa węglowa i energetyczna. Znajdują one zastosowanie jako biodegradowalne tworzywa sztuczne, a także są używane do produkcji implantów i sztucznych tkanek [2]. Polimery PHA są wykorzystywane do otrzymywania związków chiralnych, biodegradowalnych toreb do pakowania oraz pojemników. Polimery te są używane również do produkcji pojemników na szampony, kosmetyki, produkty higieniczne, maszynki do golenia i naczynia [3]. PHA znalazły również zastosowanie w produkcji nawozów, środków owadobójczych, a także umożliwiają długotrwałe dawkowanie leków. W medycynie polihydroksyalkaniany są używane do produkcji opatrunków na rany, szpilek, zszywek i wacików chirurgicznych, stymulują również wzrost kości [4].\n\nBibliografia\n\n[1]\n\nE. Rudnik. „10 – Compostable Polymer Materials: Definitions, Structures, and Methods of Preparation”. W: Handbook of Biopolymers and Biodegradable Plastics. Oprac. Ebnesajjad S. Oxford: Elsevier, 2013, pp. 189--211. url: https://www.sciencedirect.com/science/article/pii/B9781455728343000100. (accessed: 14.12.2020).\n\n[2]\n\nLuyt A. S. Malik S. S. „16 – Can Biodegradable Plastics Solve Plastic Solid Waste Accumulation?”. W: Plastics to Energy : Fuel, Chemicals, and Sustainability Implications. Oprac. Al-Salem S. M. Oxford: Elsevier, 2019, p. 404. url: https://www.sciencedirect.com/science/article/pii/B9780128131404000169. (accessed: 14.12.2020).\n\n[3]\n\nG.-Q. Chen. „A microbial polyhydroxyalkanoates (PHA) based bio- and materials industry”. W: Chemical Society Reviews Vol. 38, Iss. 8 (2009), pp. 2434--2446. url: https://doi.org/10.1039/B812677C. (accessed: 14.12.2020).\n\n[4]\n\nP. Luef K., F. Stelzer, F. Wiesbrock. „Poly(hydroxy alkanoate)s in medical applications”. W: Chemical and Biochemical Engineering Quarterly Vol. 29, Iss. 2 (2015), pp. 287--297. url: https://europepmc.org/article/med/28239227. (accessed: 14.12.2020).", "token_count": 937}
+{"added": "2026-09-05", "author": "Dominika Święch", "created": "2021-01-01", "id": "open_agh_chemistry_pl_925", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Polimeryzacja addycyjna vs. kondensacyjna\n\nReakcję polimeryzacji ze względu na mechanizm można podzielić na dwa podstawowe typy (podział ze względu na mechanizm wzrostu łańcucha) [1], [2], [3], [4]:\n\npolimeryzację addycyjną (zewn.),\n\npolimeryzację kondensacyjną (zewn.).\n\nTabela 1 przedstawia główne różnice pomiędzy polimeryzacją addycyjną i kondensacyjną.\n\nW Tabela 2 zebrano przykłady polimerów otrzymywanych za pomocą polimeryzacji addycyjnej i kondensacyjnej.\n\nBibliografia\n\n[1]\n\nSu Wei-Fang. „Radical Chain Polymerization”. W: Principles of Polymer Design and Synthesis (Lecture Notes in Chemistry, Vol. 82). Berlin, Heidelberg: Springer, 2013, s. 137--183. url: https://doi.org/10.1007/978-3-642-38730-2_7. (accessed: 14.12.2020).\n\n[2]\n\nG. Tanzi M. C.; Farè S.; Candiani. „Organization, Structure, and Properties of Materials”. W: Foundations of Biomaterials Engineering. London: Academic Press, 2019, pp. 3--103. url: https://doi.org/10.1016/B978-0-08-101034-1.00001-3. (accessed: 14.12.2020).\n\n[3]\n\nF. Rabek J. Współczesna wiedza o polimerach. (T. 2) Polimery naturalne i syntetyczne, otrzymywanie i zastosowanie. Warszawa: Wydawnictwo Naukowe PWN, 2017.\n\n[4]\n\nFlorjańczyk Z. Penczek S. (Red.) Chemia polimerów. (T. 1) Makrocząsteczki i metody ich otrzymywania. Warszawa: Oficyna Wydawnicza Politechniki Warszawskiej, 2001.", "token_count": 513}
+{"added": "2026-09-05", "author": "Dominika Święch", "created": "2021-01-01", "id": "open_agh_chemistry_pl_915", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Poliestry - budowa i właściwości\n\nDefinicja 1: Poliestry\n\nPolimery, które charakteryzują się występowaniem w łańcuchu głównym wiązania estrowego (zewn.) (\\(-C(=O)-O-\\)) [1], [2], [3].\n\nMetody otrzymywania poliestrów\n\nPoliestry mogą być otrzymywane na drodze polimeryzacji kondensacyjnej (zewn.) (najpopularniejsza metoda reakcji), polimeryzacji z otwarciem pierścienia (zewn.).\n\nPrzykłady metod otrzymywania poliestrów:\n\n1. Reakcja polikondensacji (1) alkoholi polihydroksylowych (wielowodorotlenowych), np. alkohol dihydroksylowy (HO-R-OH) z wielofunkcyjnymi kwasami karboksylowymi (HOOC-R-COOH), która przebiega z wydzieleniem małocząsteczkowego produktu ubocznego (wody); jest to reakcja poliestryfikacji.\n\nUwaga: W celu zwiększenia wydajności reakcji (czyli przesunięcia równowagi dynamicznej w prawo, w kierunku powstawania produkt��w) usuwa się produkt uboczny (wodę) ze środowiska reakcyjnego (np. prowadząc proces w wysokiej temperaturze). Wysoka temperatura może doprowadzić do występowania innych procesów ubocznych, użycie gazu obojętnego lub rozpuszczalnika prowadzi do obniżenia temperatury reakcji poliestryfikacji (eliminacja ubocznych procesów). Do katalizatorów reakcji poliestryfikacji należą kwasy (np. kwas siarkowy i p-toluenosulfonowy).\n\n2. Reakcja homopolikondensacji hydroksykwasów (1).\n\n3. Reakcja transestryfikacji estrów dimetylowych kwasu dikarboksylowego z glikolami (powstaje produkt uboczny alkohol – zob. rozdział Poliestry-Politereftalen etylenu (zewn.), otrzymywanie, etap I.\n\n4. Reakcja polikondensacji alkoholi dihydroksylowych (dioli) z dichlorkami kwasów karboksylowych (powstaje produkt uboczny – chlorowodór).\n\nPrzykład 1: Wybrane przykłady otrzymywania poliestrów\n\nWśród grupy poliestrów można wyróżnić m.in.:\n\npoliestry alifatyczne;\n\npoliestry aromatyczne (np. poliarylany);\n\npoliestry alifatyczno-aromatyczne;\n\npoliwęglany;\n\nżywice poliestrowe;\n\nżywice alkidowe.\n\nZe względu na bardzo szerokie możliwości syntezy, poliestry charakteryzują się bardzo zróżnicowanymi właściwościami. Właściwości fizyczne i chemiczne zależą m.in. od składu i struktury chemicznej, średniej masy cząsteczkowej, zawartości substancji małocząsteczkowych (zob. rozdziały, w których omówiono poliestry - politereftalen etylenu (zewn.), poliestry alifatyczno-aromatyczne (zewn.), żywice poliestrowe (zewn.), żywice alkidowe (zewn.), poliwęglany (zewn.)).\n\nBibliografia\n\n[1]\n\nF. Rabek J. Polimery. Otrzymywanie, metody badawcze, zastosowanie. Warszawa: Wydawnictwo Naukowe PWN, 2013.\n\n[2]\n\nFlorjańczyk Z. Penczek S. (Red.) Chemia polimerów. (T. 2) Podstawowe polimery syntetyczne i ich zastosowanie. Warszawa: Oficyna Wydawnicza Politechniki Warszawskiej, 2002.\n\n[3]\n\nUllmann’s Encyclopedia of Industrial Chemistry. Weinheim: Wiley-VCH, 2016.", "token_count": 1048}
+{"added": "2026-09-05", "author": "Dominika Święch", "created": "2024-10-01", "id": "open_agh_chemistry_pl_1904", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Definicja, pojęcia podstawowe\n\nDefinicja 1: Korozja\n\n(łac. corrosio – zżeranie) to proces stopniowego niszczenia materiału, który zachodzi w wyniku jego oddziaływania z otaczającym go otoczeniem [1].\nKorozji ulegają m.in. [2], [3], [4]:\n\nmateriały metaliczne (metale, stopy metali),\n\nmateriały ceramiczne,\n\nmateriały polimerowe,\n\nmateriały budowlane (np. beton, żelbet),\n\ndrewno,\n\nszkło.\n\nDefinicja 2: Anoda\n\nelektroda, na której zachodzi reakcja utleniania (proces oddawania elektronów).\n\nDefinicja 3: Katoda\n\nelektroda, na której zachodzi reakcja redukcji (proces dostarczania przez elektrodę elektronów substancjom redukowanym).\n\nDefinicja 4: Depolaryzacja wodorowa\n\nDepolaryzacja wodorowa to proces, w którym jony wodorowe (\\(\\text{H}^+\\)) ulegają redukcji do postaci gazowego wodoru (\\(\\text{H}_2\\)). Reakcja ta może być opisana następującym równaniem chemicznym:\n\n\\begin{equation} 2\\text{H}^+ + 2\\text{e}^- \\rightarrow \\text{H}_2 \\end{equation}\n\nReakcja ta przebiega łatwo w środowiskach kwaśnych, gdzie stężenie jonów wodorowych jest wysokie. W środowiskach obojętnych i alkalicznych proces ten zachodzi znacznie wolniej ze względu na niższe stężenie jonów wodorowych.\n\nDefinicja 5: Depolaryzacja tlenowa\n\nDepolaryzacja tlenowa to proces, w którym tlen ulega redukcji do wody w obecności elektronów. Reakcja ta jest istotna w procesach elektrochemicznych, takich jak korozja metali i reakcje w ogniwach paliwowych. Depolaryzacja tlenowa może być opisana następującym równaniem chemicznym:\n\n\\begin{equation}\\text{O}_2 + 4\\text{H}^+ + 4\\text{e}^- \\rightarrow 2\\text{H}_2\\text{O} \\end{equation}\n\nW środowisku alkalicznym reakcja ta przebiega według równania:\n\n\\begin{equation}\\text{O}_2 + 2\\text{H}_2\\text{O} + 4\\text{e}^- \\rightarrow 4\\text{OH}^- \\end{equation}\n\nReakcja ta zachodzi łatwo w środowiskach tlenowych, gdzie dostępność tlenu jest wysoka. Jest kluczowym procesem w wielu ogniwach elektrochemicznych i może przyczyniać się do korozji metali w obecności wody i tlenu.\n\nDefinicja 6: Elektrolit\n\nElektrolity to związki chemiczne, które tworzą jony podczas rozpuszczania w wodzie lub w niektórych innych rozpuszczalnikach [5]. Roztwory powstałe w ten sposób przewodzą prąd elektryczny. Mocne elektrolity całkowicie dysocjują na jony, a stopień dysocjacji ich roztworów o stężeniu 0,1 M jest bliski lub równy 1,0. W kontekście korozji elektrolity odgrywają kluczową rolę, ponieważ umożliwiają przepływ jonów pomiędzy anodą a katodą, co prowadzi do degradacji materiałów metalicznych.\n\nPrzykłady reakcji dysocjacji elektrolitów w roztworach wodnych:\n\nKwas: \\(\\text{HCl} \\rightarrow \\text{H}^+ + \\text{Cl}^-\\)\n\nZasada: \\(\\text{NaOH} \\rightarrow \\text{Na}^+ + \\text{OH}^-\\)\n\nSól: \\(\\text{NaCl} \\rightarrow \\text{Na}^+ + \\text{Cl}^-\\)\n\nW procesach korozyjnych elektrolity, takie jak roztwory soli, kwasów i zasad, mogą przyspieszać korozję metali, tworząc środowisko sprzyjające przepływowi prądu elektrycznego i tym samym przyczyniając się do degradacji metalu.\n\nDefinicja 7: Korozja elektrochemiczna (zewn.)\n\nzob. Mechanizmy korozji (zewn.)\n\nDefinicja 8: Korozja chemiczna\n\nzob. Mechanizmy korozji (zewn.)\n\nDefinicja 9: Ogniwa elektrochemiczne (zewn.)\n\nBibliografia\n\n[1]\n\nRevie R. W., Uhlig H. H. „Chapter 1: Definition and Importance of Corrosion”. W: Corrosion and Corrosion Control. Hoboken: Wiley-Interscience, 2008, s. 1--8. isbn: 9780470277270. doi: https://doi.org/10.1002/9780470277270.ch1.\n\n[2]\n\nShreir L. L. Corrosion in aqueous solutions (Corrosion vol. 1). Oxford: Butterworth-Heinemann, 2010.\n\n[3]\n\nZelinka S. L. „Corrosion of Metals in Wood Products”. W: Developments in Corrosion Protection. Oprac. M. Aliofkhazraei. InTech, 2014. isbn: 9789535112235. url: http://dx.doi.org/10.5772/57296.\n\n[4]\n\nZanini R., Franceschin G., Cattaruzza E., Traviglia A. „A review of glass corrosion: the unique contribution of studying ancient glass to validate glass alteration models”. W: npj Materials Degradation 7.1 (2023), art. no 38. url: https://www.nature.com/articles/s41529-023-00355-4.\n\n[5]\n\nAtkins P. W., De Paula J., Keeler J. Chemia fizyczna. Warszawa: Wydawnictwo Naukowe PWN, 2012.", "token_count": 1559}
+{"added": "2026-09-05", "author": "Maria Starowicz", "created": "2024-10-01", "id": "open_agh_chemistry_pl_1919", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Korozja atmosferyczna\n\nKorozja atmosferyczna jest najbardziej rozpowszechnionym procesem degradacji materiałów. W zależności od warunków jakich przebiega korozja atmosferyczna, zmianie ulega nie tylko szybkość korozji, ale i jej mechanizm. Klasyfikacja różnego rodzaju atmosfer korozyjnych została przedstawiona na Rys. 1.\n\nPodstawowym czynnikiem, który decyduje o szybkości korozji oraz determinuje mechanizm korozyjny jest zawilgocenie powierzchni. W atmosferze suchej będzie zachodziła korozja chemiczna (zob. Mechanizmy korozji (zewn.)). Typowym przykładem tego typu korozji będzie zmatowienie czystej powierzchni metalu. Jeżeli atmosfera stanie się wilgotna, zmienia się mechanizm korozji na elektrochemiczny. W atmosferze mokrej, gdzie para wodna kondensuje na powierzchni tworząc warstewkę wody, korozja przebiega jak dla metalu zanurzonego w elektrolicie (korozja elektrochemiczna) [1], [2].\n\nNasilenie korozji atmosferycznej zależy w dużej mierze od składu chemicznego atmosfery, wilgotności i temperatury. Dlatego agresywność korozyjna atmosfery waha się w bardzo szerokich granicach. Najbardziej korozyjne są silnie zanieczyszczone atmosfery przemysłowe i morskie, a najmniej korozyjne - czyste i suche atmosfery kontynentalne. Również większość zanieczyszczeń występujących w powietrzu przyśpiesza korozję, np. [2]:\n\nzanieczyszczenia gazowe: \\(\\ce{CO2}\\), \\(\\ce{SO2}\\),\\(\\ce{H2S}\\), \\(\\ce{HCl}\\), \\(\\ce {NH3}\\),\n\nzanieczyszczenia ciekłe: para wodna nasycona gazami lub związkami chemicznymi,\n\nzanieczyszczenia stałe: kurz, piasek, sadza, stałe związki chemiczne rozpylone w powietrzu.\n\nPrzykład 1: Skutki korozji atmosferycznej\n\nNa Rys. 2 przedstawiono skutki korozji elektrochemicznej.\n\nStal pełniąca rolę anody utlenia się wokół śrub i przechodzi do środowiska w postaci jonów \\(\\ce{Fe^2+}\\). Śruby z materiału bardziej szlachetnego pełnia rolę katody na której zachodzi depolaryzacja tlenowa i powstają grupy \\(\\ce{OH^-}\\). Rdza widoczna na zdjęciu powstaje w wyniku reakcji wtórnej pomiędzy jonami żelaza a jonami wodorotlenkowymi.\n\nBibliografia\n\n[1]\n\nTomaszow N. D. Teoria korozji i ochrony metali. Warszawa: Państwowe Wydawnictwo Naukowe, 1962.\n\n[2]\n\nSurowska B. Wybrane zagadnienia z korozji i ochrony przed korozją. url: https://bc.pollub.pl/Content/254/korozja.pdf. (accessed: 20.06.2024).", "token_count": 874}
+{"added": "2026-09-05", "author": "Urszula Lelek-Borkowska", "created": "2024-10-01", "id": "open_agh_chemistry_pl_1922", "license": "CC-BY-SA-4.0", "source": "open_agh_chemistry_pl", "text": "Korozja w betonie\n\nDefinicja 1: Korozja w betonie\n\n(ang. corrosion in concrete) dotyczy zniszczeń korozyjnych materiałów metalowych stosowanych do wzmocnienia konstrukcji betonowych.\n\nDo wzmocnienia konstrukcji betonowych stosuje się zbrojenie, czyli stalowe wkładki w formie prętów lub kształtowników, które zatopione w betonie, nadają konstrukcji większą sztywność i chronią przed rozciąganiem. Jako materiał zbrojeniowy wykorzystuje się 16 gatunków stali zbrojeniowej, które muszą spełniać normę PN-EN 1992-1-1:2008. Najczęściej stosowane stale zbrojeniowe to S235JR, B500B, 34Cr4. Elektrolit wypełniający pory betonu zawiera wodorotlenki potasu, sodu oraz wapnia i jest silnie zasadowy - jego pH mieści się w granicach 12,5 do 13,5 [1]. Żelazo w takim zasadowym roztworze cieczy porowej ulega pasywacji i pokrywa się tlenkami żelaza zgodnie z reakcją (1):\n\n\\begin{equation}\\ce{2Fe + 6OH^- -> Fe_2O_3 + 3H_2O + 6e} \\end{equation}\n\nKorozja stali w betonie może być spowodowana dwoma czynnikami:\n\nspadkiem pH w wyniku karbonizacji cementu, będącym efektem reakcji wodorotlenków oraz z \\(CO_2\\), jeśli pH osiągnie wartość ¡9 obserwuje się korozję równomierną stali [2],\n\npenetracją chlorków przez pory betonu, w miejscach, gdzie chlorki docierają do stali, mogą tworzyć się obszary o obniżonym pH, chlorki działają także jako katalizatory reakcji elektrochemicznej.\n\nKorozję stali zbrojeniowej w betonie wywołaną chlorkami można podzielić na dwie odrębne fazy:\n\nfazę inicjacji korozji, czyli procesu depasywacji stali zbrojeniowej w obecności jonów chlorkowych, obejmuje ona głównie sprzężone procesy dyfuzji chlorków i wilgoci przez pory betonu,\n\nfazę propagacji - reakcję elektrochemiczną i pękanie, odpryskiwanie i rozwarstwianie otuliny betonowej wywołane rozszerzaniem się pod wpływem rosnącej objętości produktów korozji.\n\nPodczas fazy propagacji na zachodzą reakcje (2) oraz (3):\n\n\\begin{equation}anodowa: \\ce{Fe -> Fe^{2+} + 2e} \\end{equation}\n\n\\begin{equation}katodowa: \\ce{O_2 + 2H_2O + 4e -> 4OH^-} \\end{equation}\n\nReakcja elektrochemiczna prowadząca do rozpuszczania metalu może zachodzić w mikroogniwach, składających się z par bezpośrednio sąsiadujących anod i katod oraz makroogniwach, składających się z przestrzennie izolowanych anod i katod. Korozja w mikroogniwach prowadzi najczęściej do równomiernego rozpuszczania żelaza, natomiast w makroogniwach może powodować korozję miejscową lub wżerową.\nRys. 2 pokazuje schemat mikro– i makroogniwa na drucie zbrojeniowym.\n\nKiedy stal ulega korozji, powstająca rdza, składająca się z tlenków wodorotlenków żelaza, zajmuje o wiele większą objętość niż drut, z którego powstaje [3].\nRys. 2 pokazuje stosunek objętości tlenków i hydroksotlenków żelaza do objętości czystego żelaza.\n\nObecność produktów korozji żelaza w dużo większej objętości, niż samo żelazo, powoduje powstawanie naprężeń rozciągających w betonie, które ostatecznie jest przyczyną pękania, rozwarstwiania i odpryskiwania betonu (Rys. 3).\n\nPowszechnie stosowaną metodą oceny szybkości korozji układu stal zbrojeniowa/cement jest stosowanie pomiarów elektrochemicznych: monitorowanie potencjału korozyjnego oraz oporu polaryzacyjnego - potencjał stali w betonie powinien wynosić powyżej -0,2V. Metody te pozwalają na dokładną ocenę procesów korozji i podjęcie odpowiednich działań naprawczych i konserwacyjnych [4].\n\nOchrona przed korozją w betonie:\n\ndobór materiałów (zewn.) - należy stosować druty zbrojeniowe z materiałów odpornych na korozję, jak np. stal nierdzewna,\n\nmodyfikacja środowiska (zewn.) - kontrola ilości chlorków w środowisku,\n\npowłoki ochronne organiczne (zewn.), takie jak np. żywica epoksydowa, nanoszone na stal,\n\ninhibitory korozji (zewn.) - np. inhibitory penetrujące, nanoszone na powierzchnię betonu, które przechodząc przez pory docierają do powierzchni metalu [5],\n\nochrona katodowa (zewn.).\n\nPodsumowanie 1: Korozja w betonie\n\nPoniższy film podsumowuje korozję stali zbrojeniowej w betonie.\n\nBibliografia\n\n[1]\n\nLocke C. E. „Mechanism of Corrosion of Steel in Concrete”. W: Solving Rebar Corrosion Problems in Concrete. Oprac. National Association of Corrosion Engineers. Houston: NACE, 1983.\n\n[2]\n\nCao C., Cheung M. M. S., Chan B. Y. B. „Modelling of interaction between corrosion-induced concrete cover crack and steel corrosion rate”. W: Corrosion Science 69.7 (2013), s. 97--109. doi: 10.1016/j.corsci.2012.11.028.\n\n[3]\n\nShamsad A. „Reinforcement corrosion in concrete structures, its monitoring and service life prediction-a review”. W: Cement and Concrete Composites 25 (2003), s. 459--471. url: https://www.sciencedirect.com/science/article/pii/S0958946502000860.\n\n[4]\n\nFlis J., Sabol S., Pickering H. W., Sehgal A., Osseo-Asare K., Cady P. D. „Electrochemical Measurements on Concrete Bridges for Evaluation of Reinforcement Corrosion Rates”. W: Corrosion 49.7 (1993), s. 601--613. url: https://doi.org/10.5006/1.3316091.\n\n[5]\n\nKrólikowski A., Kuziak J. „Impedance study on calcium nitrite as a penetrating corrosion inhibitor for steel in concrete”. W: Electrochimica Acta 56.23 (2011), s. 7845--7853. url: https://www.sciencedirect.com/science/article/pii/S0013468611001307.", "token_count": 1886}

data/open_agh_chemistry_pl/open_agh_chemistry_pl.stats.json

@@ -0,0 +1,22 @@
+{
+  "added": "2026-09-05",
+  "book_count": 4,
+  "by_book": {
+    "29": 184,
+    "37": 81,
+    "1394": 48,
+    "1893": 57
+  },
+  "chars": 1446015,
+  "drop_by_reason": {
+    "frontmatter_or_bibliography": 2,
+    "too_short": 2
+  },
+  "kept": 370,
+  "license": "CC-BY-SA-4.0",
+  "module_occurrences": 374,
+  "sample_count": 12,
+  "tokenizer": "cl100k_base",
+  "tokens": 564028,
+  "unique_modules": 374
+}

src/build_open_agh_pl.py

@@ -0,0 +1,401 @@
+#!/usr/bin/env python3
+"""Snapshot and replay four Polish Open AGH chemistry textbooks."""
+from __future__ import annotations
+
+import argparse
+import ast
+from collections import Counter, defaultdict
+from concurrent.futures import ThreadPoolExecutor, as_completed
+from datetime import datetime, timezone
+import gzip
+import hashlib
+import importlib.metadata
+import io
+import json
+from pathlib import Path
+import platform
+import pprint
+import re
+import shutil
+import threading
+import time
+import unicodedata
+import xml.etree.ElementTree as ET
+import zipfile
+
+from bs4 import BeautifulSoup, Comment, NavigableString
+import requests
+
+BASE = "https://epodreczniki.open.agh.edu.pl"
+BOOK_IDS = (29, 1394, 37, 1893)
+SOURCE = "open_agh_chemistry_pl"
+OWN_REPO = "PiotrSty/open-agh-chemistry-pl"
+TARGET = "SlayerLab/polish-dynaword"
+LICENSE = "CC-BY-SA-4.0"
+FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
+LOCK = threading.Lock()
+NEXT = 0.0
+
+
+def now():
+    return datetime.now(timezone.utc).isoformat()
+
+
+def sha(value):
+    if not isinstance(value, bytes):
+        value = json.dumps(value, ensure_ascii=False, sort_keys=True, separators=(",", ":")).encode()
+    return hashlib.sha256(value).hexdigest()
+
+
+def save(path, value):
+    path.parent.mkdir(parents=True, exist_ok=True)
+    path.write_text(json.dumps(value, ensure_ascii=False, sort_keys=True, indent=2) + "\n", encoding="utf-8")
+
+
+def read(path):
+    return json.loads(path.read_text(encoding="utf-8"))
+
+
+def lines(path, rows):
+    path.parent.mkdir(parents=True, exist_ok=True)
+    path.write_text("".join(json.dumps(r, ensure_ascii=False, sort_keys=True) + "\n" for r in rows), encoding="utf-8")
+
+
+def read_lines(path):
+    return [json.loads(s) for s in path.read_text(encoding="utf-8").splitlines() if s]
+
+
+def get(url):
+    global NEXT
+    for attempt in range(5):
+        with LOCK:
+            wait = max(0, NEXT - time.monotonic())
+            NEXT = max(time.monotonic(), NEXT) + 0.4
+        time.sleep(wait)
+        response = requests.get(url, timeout=(20, 100), headers={
+            "User-Agent": "OpenAGHTextResearch/1.0 (PiotrSty; four-book text corpus)", "Accept-Language": "pl"})
+        if response.status_code not in (429, 500, 502, 503, 504):
+            response.raise_for_status()
+            return response
+        time.sleep(2 ** attempt)
+    response.raise_for_status()
+
+
+def walk(items, chapter=""):
+    for item in items:
+        module = item.get("_embedded", {}).get("module")
+        if module:
+            yield module, chapter
+        else:
+            yield from walk(item.get("children", []), item.get("title", chapter))
+
+
+def license_from_epub(payload, book_id):
+    with zipfile.ZipFile(io.BytesIO(payload)) as archive:
+        rights = archive.read("OEBPS/main.xhtml")
+    document = ET.fromstring(rights)
+    text = " ".join(" ".join(document.itertext()).split())
+    links = [n.attrib["href"] for n in document.iter() if "href" in n.attrib]
+    if not any("creativecommons.org/licenses/by-sa/4.0" in link for link in links):
+        raise ValueError("Missing book-specific CC BY-SA 4.0 link")
+    if "Na tych samych warunkach" not in text or f"/handbook/{book_id}" not in text:
+        raise ValueError("Book-specific rights/identity evidence missing")
+    if re.search(r"(?i)licenses/by-nc|CC\s*BY[- ]NC", text + " ".join(links)):
+        raise ValueError("Noncommercial marker in rights page")
+    return {"license": LICENSE, "epub_url": f"{BASE}/rpc/preview/handbooks/{book_id}/epub/light",
+        "epub_sha256": sha(payload), "rights_xhtml": rights.decode("utf-8"),
+        "rights_sha256": sha(rights), "rights_text": text, "links": links,
+        "observed_at": now()}
+
+
+def discover(out):
+    from huggingface_hub import HfApi
+    if (out / "inventory.json").exists():
+        raise ValueError("Inventory already exists; use a fresh output for a new snapshot")
+    out.mkdir(parents=True, exist_ok=True)
+    api = HfApi(token=False)
+    target = api.dataset_info(TARGET)
+    registry = get(f"https://huggingface.co/datasets/{TARGET}/resolve/{target.sha}/src/sources.py").content.decode("utf-8")
+    discussions = [{"num": d.num, "title": d.title, "status": d.status} for d in api.get_repo_discussions(TARGET, repo_type="dataset")]
+    if SOURCE in registry or any(re.search(r"(?i)\bAGH\b", d["title"]) for d in discussions):
+        raise ValueError("AGH registration/proposal found; inspect before creating another")
+    (out / "target_sources.py").write_text(registry, encoding="utf-8")
+    save(out / "target_audit.json", {"repository": TARGET, "revision": target.sha, "observed_at": now(),
+        "registry_sha256": sha(registry.encode()), "files": [s.rfilename for s in target.siblings], "discussions": discussions,
+        "cross_source_dedup": "pending; registry and title checks do not establish text novelty"})
+    books = []
+    for book_id in BOOK_IDS:
+        response = get(f"{BASE}/rest/handbooks/{book_id}?lang=auto")
+        book = response.json()
+        meta = book["_embedded"]["metadata"]
+        if book["id"] != book_id or meta["in_language"] != "pl" or meta.get("private_token") or meta.get("ai_based"):
+            raise ValueError("Unexpected/private/non-Polish/AI-marked edition")
+        item_response = get(book["_links"]["items"]["href"])
+        occurrences = []
+        for module, chapter in walk(item_response.json()):
+            embedded = module["_embedded"]
+            occurrences.append({"module_id": module["id"], "title": module["title"], "chapter": chapter,
+                "revision": embedded["revision"]["version"],
+                "authors": [" ".join([a["firstname"], a["lastname"]]) for a in embedded["authors"]],
+                "preview_url": next(f["_links"]["preview"]["href"] for f in embedded["formats"] if f["type"] == "html"),
+                "module_url": module["_links"]["self"]["href"],
+                "reader_url": f"{BASE}/handbook/{book_id}/module/{module['id']}/reader"})
+        rights_url = next(f["_links"]["preview"]["href"] for f in book["_embedded"]["formats"] if f["type"] == "epub/light")
+        rights = license_from_epub(get(rights_url).content, book_id)
+        books.append({"id": book_id, "title": book["title"], "url": f"{BASE}/handbook/{book_id}",
+            "observed_at": now(), "metadata_sha256": sha(response.content), "items_sha256": sha(item_response.content),
+            "metadata": {k: meta.get(k) for k in ("publisher", "publish_time", "update_time", "isbn", "reviewers", "in_language", "ai_based")},
+            "license_evidence": rights, "occurrences": occurrences})
+        save(out / "inventory_progress.json", books)
+        print(f"Verified book {book_id}: {len(occurrences)} modules; {LICENSE}", flush=True)
+    save(out / "inventory.json", books)
+
+
+def module_map(books):
+    modules = {}
+    for book in books:
+        for item in book["occurrences"]:
+            mid = item["module_id"]
+            if mid in modules and any(modules[mid][key] != item[key] for key in ("title", "revision", "authors")):
+                raise ValueError("Shared module has inconsistent identity/version/authors")
+            modules[mid] = item
+    return modules
+
+
+def fetch_one(out, module):
+    path = out / "cache" / f"{module['module_id']}.json.gz"
+    if path.exists():
+        row = json.loads(gzip.decompress(path.read_bytes()))
+        if row["revision"] != module["revision"] or row["html_sha256"] != sha(row["html"].encode()):
+            raise ValueError("Stale or corrupt module cache")
+        return row
+    response = get(module["preview_url"])
+    html = response.content.decode("utf-8")
+    current = get(module["module_url"]).json()
+    if current["_embedded"]["revision"]["version"] != module["revision"] or current["title"] != module["title"]:
+        raise ValueError("Module changed since inventory; acquire a new snapshot")
+    row = {"module_id": module["module_id"], "revision": module["revision"], "preview_url": module["preview_url"],
+        "observed_at": now(), "html": html, "html_sha256": sha(html.encode()), "response_sha256": sha(response.content)}
+    path.parent.mkdir(parents=True, exist_ok=True)
+    path.write_bytes(gzip.compress(json.dumps(row, ensure_ascii=False, sort_keys=True).encode(), mtime=0))
+    return row
+
+
+def fetch(out):
+    modules = module_map(read(out / "inventory.json"))
+    rows, failures = [], []
+    with ThreadPoolExecutor(max_workers=3) as pool:
+        futures = {pool.submit(fetch_one, out, module): mid for mid, module in sorted(modules.items())}
+        for count, future in enumerate(as_completed(futures), 1):
+            try:
+                rows.append(future.result())
+            except Exception as error:
+                failures.append({"module_id": futures[future], "error": str(error)})
+            if count % 25 == 0 or count == len(futures):
+                print(f"Fetched {count}/{len(futures)}; failures={len(failures)}", flush=True)
+    save(out / "fetch_failures.json", failures)
+    if failures:
+        raise ValueError("Fetch incomplete; inspect failures then rerun to resume")
+    lines(out / "modules.jsonl", sorted(rows, key=lambda r: r["module_id"]))
+
+
+def normalize(text):
+    text = unicodedata.normalize("NFKC", text).replace("\u00ad", "").replace("\u200b", "")
+    text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f\x7f]", "", text)
+    return re.sub(r"\n{3,}", "\n\n", "\n".join(re.sub(r"[ \t\xa0]+", " ", s).strip() for s in text.splitlines())).strip()
+
+
+def text_key(text):
+    return " ".join(normalize(text).casefold().split())
+
+
+def extract(html):
+    soup = BeautifulSoup(html, "html.parser")
+    if soup.find(["html", "body"]) or soup.select_one('#root, form[action*="login"]'):
+        raise ValueError("Expected module fragment, received a shell/login document")
+    changes = Counter()
+    for node in list(soup.select("script, style, nav, figure, img, video, audio, iframe, svg")):
+        if node.parent is not None:
+            node.decompose()
+            changes["media_or_ui_removed"] += 1
+    for comment in soup.find_all(string=lambda n: isinstance(n, Comment)):
+        comment.extract()
+    # Collapse physical source wrapping before inserting semantic paragraph breaks.
+    for node in list(soup.find_all(string=True)):
+        node.replace_with(NavigableString(re.sub(r"\s+", " ", str(node))))
+    for node in list(soup.find_all(["sub", "sup"])):
+        node.replace_with(NavigableString(("_" if node.name == "sub" else "^") + "{" + node.get_text() + "}"))
+    for node in soup.find_all(["br", "hr"]):
+        node.replace_with(NavigableString("\n"))
+    for node in soup.find_all(["td", "th"]):
+        node.append(NavigableString(" | "))
+    for node in soup.find_all(["p", "div", "section", "h1", "h2", "h3", "h4", "h5", "li", "table", "tr", "blockquote"]):
+        node.insert_before(NavigableString("\n\n"))
+        node.insert_after(NavigableString("\n\n"))
+    text = normalize(soup.get_text())
+    for name, pattern in (
+        ("email", r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b"),
+        ("labelled_phone", r"(?i)(?:\btelefon|\btel\.)\s*:?\s*(?:\+48\s*)?\d(?:[ .-]?\d){8}\b"),
+    ):
+        text, count = re.subn(pattern, "[REDACTED:" + name.upper() + "]", text)
+        changes[name] += count
+    changes["unbalanced_math_delimiters"] = int(text.count(r"\(") != text.count(r"\)") or text.count(r"\[") != text.count(r"\]"))
+    return text, dict(changes)
+
+
+def near_dedup(rows):
+    from datasketch import MinHash, MinHashLSH
+    index, features, kept, dropped = MinHashLSH(threshold=0.8, num_perm=128), {}, [], []
+    for row in rows:
+        words = re.findall(r"\w+", text_key(row["text"]))
+        shingles = {" ".join(words[i:i + 5]).encode() for i in range(max(0, len(words) - 4))}
+        signature = MinHash(num_perm=128, seed=1)
+        if not shingles:
+            kept.append(row)
+            continue
+        signature.update_batch(sorted(shingles))
+        for other in sorted(index.query(signature)):
+            score = len(shingles & features[other]) / len(shingles | features[other])
+            if score >= 0.9:
+                dropped.append({"id": row["id"], "duplicate_of": other, "jaccard": score})
+                break
+        else:
+            kept.append(row)
+            features[row["id"]] = shingles
+            index.insert(row["id"], signature)
+    return kept, dropped
+
+
+def registry(base):
+    tree = ast.parse(base)
+    node = next(n.value for n in tree.body if isinstance(n, ast.Assign) and any(isinstance(t, ast.Name) and t.id == "SOURCES" for t in n.targets))
+    if SOURCE in ast.literal_eval(node):
+        raise ValueError("Source already registered")
+    entry = {"file_key": SOURCE, "pretty": "Open AGH - four Polish chemistry textbooks", "license": LICENSE, "license_spdx": LICENSE,
+        "traceable": "Each contributed Polish edition includes explicit CC BY-SA 4.0 terms in its preserved official EPUB rights page. Authors, AGH attribution, original URLs and changes are preserved.",
+        "upstream": BASE, "provenance": "Pinned PiotrSty/open-agh-chemistry-pl source snapshot; public AGH module previews with observed revision identifiers and per-module author attribution.",
+        "domain": "educational/chemistry/materials", "created": "2018-2024 (book publication metadata proxy)", "is_ocr": False, "custom_datasheet": True}
+    offset = sum(len(s) for s in base.splitlines(keepends=True)[:node.lineno - 1]) + node.col_offset + 1
+    return base[:offset] + "\n    " + repr(SOURCE) + ": " + pprint.pformat(entry, width=96, sort_dicts=False).replace("\n", "\n    ") + "," + base[offset:]
+
+
+def build(out):
+    import pyarrow as pa
+    import pyarrow.parquet as pq
+    import tiktoken
+    from langid.langid import LanguageIdentifier, model
+    started = now()
+    code_digest = sha(Path(__file__).read_bytes())
+    books = read(out / "inventory.json")
+    if {b["id"] for b in books} != set(BOOK_IDS):
+        raise ValueError("Four-book allowlist mismatch")
+    modules = module_map(books)
+    snapshot = read_lines(out / "modules.jsonl")
+    if {r["module_id"] for r in snapshot} != set(modules) or len(snapshot) != len(modules):
+        raise ValueError("Incomplete/duplicated module snapshot")
+    memberships = defaultdict(list)
+    for book in books:
+        for occurrence in book["occurrences"]:
+            memberships[occurrence["module_id"]].append({"book_id": book["id"], "book_title": book["title"], "book_url": book["url"],
+                "publish_time": book["metadata"]["publish_time"], "isbn": book["metadata"]["isbn"], "reader_url": occurrence["reader_url"], "chapter": occurrence["chapter"]})
+    encoder = tiktoken.get_encoding("cl100k_base")
+    lang = LanguageIdentifier.from_modelstring(model, norm_probs=True)
+    lang.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru", "fr"])
+    rows, sidecars, decisions, seen = [], [], {}, {}
+    totals = Counter()
+    added = min(r["observed_at"][:10] for r in snapshot)
+    for raw in snapshot:
+        mid = raw["module_id"]
+        module = modules[mid]
+        if raw["html_sha256"] != sha(raw["html"].encode()) or raw["revision"] != module["revision"]:
+            raise ValueError("Module checksum/revision mismatch")
+        body, operations = extract(raw["html"])
+        totals.update(operations)
+        reason = ""
+        if re.match(r"(?i)^(informacj[ae]\s+o\s+e-podr|bibliografia|spis\s)", module["title"]):
+            reason = "frontmatter_or_bibliography"
+        elif len(body) < 200:
+            reason = "too_short"
+        elif operations["unbalanced_math_delimiters"]:
+            reason = "unbalanced_math"
+        elif len(re.findall(r"[a-zA-Z\u00c0-\u024f]", body)) / len(body) < 0.35:
+            reason = "low_letter_ratio"
+        language, confidence = lang.classify(body[:12000]) if body else ("unknown", 0.0)
+        if not reason and language != "pl" and confidence >= 0.99:
+            reason = "non_polish"
+        if not module["authors"]:
+            reason = "missing_authorship"
+        key = text_key(body)
+        duplicate = seen.get(key)
+        if not reason and duplicate:
+            reason = "normalized_duplicate"
+        row_id = SOURCE + "_" + str(mid)
+        decisions[mid] = {"module_id": mid, "book_ids": [b["book_id"] for b in memberships[mid]], "selected": not bool(reason),
+            "reason": reason or "include", "duplicate_of": duplicate, "html_sha256": raw["html_sha256"]}
+        if reason:
+            continue
+        seen[key] = row_id
+        text = normalize(module["title"]) + "\n\n" + body
+        rows.append({"id": row_id, "text": text, "source": SOURCE, "added": added,
+            "created": min(b["publish_time"][:10] for b in memberships[mid]), "token_count": len(encoder.encode_ordinary(text)),
+            "license": LICENSE, "author": "; ".join(module["authors"])})
+        sidecars.append({"id": row_id, "module_id": mid, "title": module["title"], "observed_revision": raw["revision"],
+            "observed_at": raw["observed_at"], "url": memberships[mid][0]["reader_url"], "preview_url": raw["preview_url"],
+            "memberships": memberships[mid], "authors": module["authors"], "publisher": "AGH University of Krakow",
+            "original_notice": "Wersja oryginalna e-podr\u0119cznika dost\u0119pna na stronie: " + memberships[mid][0]["book_url"],
+            "license": LICENSE, "license_url": "https://creativecommons.org/licenses/by-sa/4.0/deed.pl",
+            "created_semantics": "book publication metadata proxy, not module authorship date",
+            "text_sha256": sha(text.encode()), "html_sha256": raw["html_sha256"], "transformations": operations,
+            "language": language, "language_confidence": float(confidence)})
+    rows, removed = near_dedup(rows)
+    for duplicate in removed:
+        mid = int(duplicate["id"].rsplit("_", 1)[1])
+        decisions[mid].update(selected=False, reason="near_duplicate", duplicate_of=duplicate["duplicate_of"], jaccard=duplicate["jaccard"])
+    ids = {r["id"] for r in rows}
+    sidecars = [s for s in sidecars if s["id"] in ids]
+    counts = Counter(b["book_id"] for s in sidecars for b in s["memberships"])
+    if set(counts) != set(BOOK_IDS):
+        raise ValueError("An approved book has no retained text")
+    root = out / "hf_repo"
+    (root / "data").mkdir(parents=True, exist_ok=True)
+    artifacts = root / "artifacts"
+    schema = pa.schema([(name, pa.int64() if name == "token_count" else pa.string()) for name in FIELDS])
+    pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd", row_group_size=128)
+    lines(artifacts / "attribution.jsonl", sidecars)
+    lines(artifacts / "decisions.jsonl", sorted(decisions.values(), key=lambda r: r["module_id"]))
+    samples = {}
+    for book_id in BOOK_IDS:
+        book_ids = {s["id"] for s in sidecars if any(b["book_id"] == book_id for b in s["memberships"])}
+        for row in sorted((r for r in rows if r["id"] in book_ids), key=lambda r: sha(("sample:" + r["id"]).encode()))[:3]:
+            samples[row["id"]] = row
+    lines(artifacts / "sample.jsonl", list(samples.values()))
+    save(artifacts / "books.json", books)
+    shutil.copy2(out / "target_audit.json", artifacts / "target_audit.json")
+    (artifacts / "modules.jsonl.gz").write_bytes(gzip.compress((out / "modules.jsonl").read_bytes(), mtime=0))
+    qa = {"extraction_operations": dict(totals), "normalized_exact_dedup": True, "module_identity_dedup": True,
+        "near_dedup": {"algorithm": "seeded MinHashLSH .8 candidates and exact 5-word-shingle Jaccard >=.9", "seed": 1, "num_perm": 128, "removed": len(removed), "limitation": "probabilistic retrieval can miss pairs"},
+        "cross_source_exact_dedup_completed": False, "cross_source_near_dedup_completed": False, "benchmark_overlap_check": "pending",
+        "limitations": ["figures/media omitted; prose can reference missing figures", "LaTeX preserved, not equation correctness verification", "tables flattened into rows", "email/labelled-phone patterns are not complete PII scrubbing; author attribution retained", "published source snapshots are not de-identified", "API revision is an observed label; source content identity is its snapshot hash"]}
+    save(artifacts / "qa.json", qa)
+    stats = {"book_count": len(books), "module_occurrences": sum(len(b["occurrences"]) for b in books), "unique_modules": len(snapshot),
+        "kept": len(rows), "tokens": sum(r["token_count"] for r in rows), "chars": sum(len(r["text"]) for r in rows),
+        "by_book": dict(counts), "drop_by_reason": dict(Counter(d["reason"] for d in decisions.values() if not d["selected"])),
+        "tokenizer": "cl100k_base", "sample_count": len(samples), "license": LICENSE, "added": added}
+    save(artifacts / "stats.json", stats)
+    (root / "src").mkdir(exist_ok=True)
+    for name in ("build_open_agh_pl.py", "publish_open_agh_pl.py", "test_build_open_agh_pl.py", "test_open_agh_contribution.py", "open_agh_requirements.txt"):
+        shutil.copy2(Path(__file__).with_name(name), root / "src" / name)
+    save(artifacts / "run.json", {"started_at": started, "finished_at": now(), "actor_id": "agent:codex", "requested_by": "hf:PiotrSty",
+        "code_sha256": code_digest, "input_sha256": sha((out / "modules.jsonl").read_bytes()), "python": platform.python_version(),
+        "packages": {n: importlib.metadata.version(n) for n in ("beautifulsoup4", "requests", "pyarrow", "tiktoken", "langid", "datasketch")}})
+    save(artifacts / "checksums.json", {p.relative_to(root).as_posix(): sha(p.read_bytes()) for p in sorted(root.rglob("*"))
+        if p.is_file() and p.name not in ("README.md", "NOTICE.md", "ontology.json", "checksums.json") and "__pycache__" not in p.parts})
+    print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
+
+
+if __name__ == "__main__":
+    parser = argparse.ArgumentParser(description=__doc__)
+    parser.add_argument("--output", type=Path, required=True)
+    parser.add_argument("command", choices=["discover", "fetch", "build"])
+    args = parser.parse_args()
+    globals()[args.command](args.output)

src/open_agh_requirements.txt

@@ -0,0 +1,8 @@
+beautifulsoup4==4.14.3
+requests==2.32.5
+pyarrow==23.0.1
+tiktoken==0.12.0
+huggingface_hub>=1.0,<2
+langid==1.1.6
+datasketch==1.6.5
+pytest>=8,<10

src/publish_open_agh_pl.py

@@ -0,0 +1,359 @@
+#!/usr/bin/env python3
+"""Verify, publish and independently audit the Open AGH contribution."""
+from __future__ import annotations
+
+import argparse
+import ast
+import gzip
+import json
+import os
+from pathlib import Path
+import shutil
+import subprocess
+import sys
+
+from build_open_agh_pl import (BOOK_IDS, SOURCE, OWN_REPO, TARGET, LICENSE, FIELDS,
+    sha, save, read, read_lines, now, extract, normalize, module_map, registry)
+
+
+def verify(out):
+    import pyarrow.parquet as pq
+    import tiktoken
+    started = now()
+    root = out / "hf_repo"
+    sums = read(root / "artifacts/checksums.json")
+    for name, value in sums.items():
+        if sha((root / name).read_bytes()) != value:
+            raise ValueError("Checksum mismatch: " + name)
+    table = pq.read_table(root / "data/train-00000-of-00001.parquet")
+    rows = table.to_pylist()
+    books = read(root / "artifacts/books.json")
+    modules = module_map(books)
+    raw = {r["module_id"]: r for r in map(json.loads, gzip.decompress((root / "artifacts/modules.jsonl.gz").read_bytes()).decode().splitlines())}
+    decisions = read_lines(root / "artifacts/decisions.jsonl")
+    sidecars = read_lines(root / "artifacts/attribution.jsonl")
+    stats = read(root / "artifacts/stats.json")
+    if table.column_names != FIELDS or len(rows) != stats["kept"] or len({r["id"] for r in rows}) != len(rows):
+        raise ValueError("Schema/count/identity mismatch")
+    if len(decisions) != len(modules) or {d["module_id"] for d in decisions} != set(raw) or set(raw) != set(modules):
+        raise ValueError("Incomplete source decisions")
+    by_id = {s["id"]: s for s in sidecars}
+    if len(sidecars) != len(rows) or set(by_id) != {r["id"] for r in rows}:
+        raise ValueError("Attribution mismatch")
+    if {d["module_id"] for d in decisions if d["selected"]} != {s["module_id"] for s in sidecars}:
+        raise ValueError("Selected decision mismatch")
+    if {b["book_id"] for s in sidecars for b in s["memberships"]} != set(BOOK_IDS):
+        raise ValueError("Book coverage mismatch")
+    encoder = tiktoken.get_encoding("cl100k_base")
+    for row in rows:
+        sidecar = by_id[row["id"]]
+        mid = sidecar["module_id"]
+        expected = normalize(modules[mid]["title"]) + "\n\n" + extract(raw[mid]["html"])[0]
+        if row["text"] != expected or sha(expected.encode()) != sidecar["text_sha256"]:
+            raise ValueError("Snapshot replay mismatch")
+        if row["token_count"] != len(encoder.encode_ordinary(row["text"])):
+            raise ValueError("Token count mismatch")
+        if row["license"] != LICENSE or row["author"] != "; ".join(modules[mid]["authors"]):
+            raise ValueError("Rights/author mismatch")
+    if sum(r["token_count"] for r in rows) != stats["tokens"]:
+        raise ValueError("Token total mismatch")
+    report = {"started_at": started, "finished_at": now(), "actor_id": "agent:codex",
+        "protocol": "checksum/schema/coverage/source-text replay/per-record token and author validation",
+        "code_sha256": sha(Path(__file__).read_bytes()), "dataset_checksums_sha256": sha(sums),
+        "verified_records": len(rows), "verified_tokens": stats["tokens"], "success": True}
+    save(out / "validation_report.json", report)
+    print(f"Verified {len(rows)} records, all source decisions, text replay and token counts", flush=True)
+    return report
+
+
+def ontology(root, payload, validation):
+    artifact = root / "artifacts"
+    sums, run = read(artifact / "checksums.json"), read(artifact / "run.json")
+    audit = read(artifact / "target_audit.json")
+    uri = f"hf://datasets/{OWN_REPO}@{payload}/"
+    def version(kind, digest, path):
+        obj = f"slayer://object/{kind}/{SOURCE}"
+        return {"id": obj.replace("/object/", "/version/") + "@sha256:" + digest,
+            "object_id": obj, "digest": "sha256:" + digest, "payload_uri": uri + path,
+            "created_at": run["finished_at"], "created_by": "agent:codex"}
+    data_v = version("dataset-source", sha(sums), "data/train-00000-of-00001.parquet")
+    source_spec = {name: sums[name] for name in ("artifacts/modules.jsonl.gz", "artifacts/books.json")}
+    source_v = version("source-snapshot", sha(source_spec), "artifacts/modules.jsonl.gz")
+    source_v.update(components=source_spec, inventory_uri=uri + "artifacts/books.json")
+    spec = {"command": "python src/build_open_agh_pl.py --output WORK build", "code_sha256": run["code_sha256"],
+        "packages": run["packages"], "input": "inventory.json and modules.jsonl", "allowlist": list(BOOK_IDS),
+        "minimum_body_chars": 200, "minimum_letter_ratio": 0.35, "tokenizer": "cl100k_base",
+        "language_check": "langid eight-language classification; reject non-PL confidence >=0.99",
+        "dedup": "module identity, normalized exact body, seeded MinHashLSH + exact 5-word-shingle Jaccard >=.9",
+        "extraction": "HTML prose, native LaTeX, exclude media; reject unbalanced math delimiters",
+        "privacy": "email and labelled-phone redaction; official author attribution preserved"}
+    protocol_v = version("protocol", sha(spec), "src/build_open_agh_pl.py")
+    validation_v = version("validation-protocol", sha({"code": validation["code_sha256"], "protocol": validation["protocol"]}), "src/publish_open_agh_pl.py")
+    run_id = f"slayer://run/{SOURCE}@sha256:" + sha(run)
+    validation_id = f"slayer://run/{SOURCE}/validation@sha256:" + sha(validation)
+    evidence = []
+    for kind, content in (("checksums", sums), ("counts", read(artifact / "stats.json")), ("quality", read(artifact / "qa.json")),
+        ("license", {"books_artifact": uri + "artifacts/books.json", "sha256": sums["artifacts/books.json"], "editions": list(BOOK_IDS), "license": LICENSE}),
+        ("target_audit", audit), ("validation", validation)):
+        evidence.append({"id": f"slayer://evidence/{SOURCE}/{kind}@sha256:" + sha(content), "observation_type": kind,
+            "subject_version": data_v["id"], "run_id": validation_id if kind == "validation" else run_id,
+            "payload": content, "observed_at": validation["finished_at"] if kind == "validation" else run["finished_at"]})
+    evidence_ids = {e["observation_type"]: e["id"] for e in evidence}
+    claims = []
+    for statement, falsification, support in (
+        ("The four selected editions have preserved explicit CC BY-SA 4.0 rights and module authorship.", "An included edition lacks its rights page or a retained module lacks attribution.", ["license", "validation"]),
+        ("Every discovered module has a selection decision and each retained text and token count replay from the snapshot.", "A module has no decision or a reproduced record/token count differs.", ["counts", "validation"]),
+        ("A dedicated AGH registration/proposal was not identified in the audited registry and discussion titles; textual novelty remains untested.", "The pinned registry or recorded discussion titles identify this contribution.", ["target_audit", "quality"]),
+    ):
+        body = {"statement": statement, "falsification_condition": falsification, "scope": data_v["id"],
+            "asserted_by": "agent:codex", "supported_by": [evidence_ids[k] for k in support]}
+        claims.append({"id": f"slayer://claim/{SOURCE}@sha256:" + sha(body), **body})
+    manifest = {"ontology_version": "slayer.ai/research-ontology/v0.1", "schema_version": "slayer.ai/dataset-source-contribution/v1",
+        "object": {"id": data_v["object_id"], "kind": "dataset_source", "name": SOURCE}, "version": data_v,
+        "source_object": {"id": source_v["object_id"], "kind": "source_snapshot"}, "source_version": source_v,
+        "protocol": {"id": protocol_v["object_id"], "kind": "protocol", "version": protocol_v, "specification": spec},
+        "validation_protocol": {"id": validation_v["object_id"], "kind": "protocol", "version": validation_v, "description": validation["protocol"]},
+        "run": {"id": run_id, **run, "protocol_version_id": protocol_v["id"], "inputs": [source_v["id"]], "outputs": [data_v["id"]]},
+        "validation_run": {"id": validation_id, **validation, "protocol_version_id": validation_v["id"], "inputs": [data_v["id"]], "outputs": [evidence_ids["validation"]]},
+        "evidence": evidence, "claims": claims,
+        "claim_evidence": [{"claim_id": c["id"], "evidence_id": e, "relation": "SUPPORTS"} for c in claims for e in c["supported_by"]],
+        "relations": [{"source_version_id": data_v["id"], "predicate": p, "target_version_id": v, "introduced_by_run": validation_id if p == "VALIDATED_AGAINST" else run_id}
+            for p, v in (("DERIVED_FROM", source_v["id"]), ("FILTERED_BY", protocol_v["id"]), ("VALIDATED_AGAINST", validation_v["id"]),
+                ("COMPATIBLE_WITH", f"hf://datasets/{TARGET}@{audit['revision']}"))],
+        "actors": [{"id": "agent:codex", "kind": "agent", "identity": "OpenAI Codex"}, {"id": "hf:PiotrSty", "kind": "human", "identity": "Piotr Styla"},
+            {"id": "org:agh", "kind": "organization", "identity": "AGH University of Krakow and credited authors"}],
+        "attestations": [{"id": f"slayer://attestation/{SOURCE}@sha256:" + sha({"subject": data_v["id"], "state": "pending", "evidence": evidence_ids["quality"]}),
+            "type": "cross_source_deduplication", "value": "pending_target_integration", "actor_id": "agent:codex", "subject_version": data_v["id"], "supported_by": [evidence_ids["quality"]], "created_at": run["finished_at"]}]}
+    save(artifact / "ontology.json", manifest)
+
+
+def prepare(out, payload):
+    root = out / "hf_repo"
+    stats, books = read(root / "artifacts/stats.json"), read(root / "artifacts/books.json")
+    ontology(root, payload, read(out / "validation_report.json"))
+    notice = "# Attribution and license\n\nCC BY-SA 4.0: https://creativecommons.org/licenses/by-sa/4.0/deed.pl\n\n"
+    for book in books:
+        authors = sorted({a for m in book["occurrences"] for a in m["authors"]})
+        notice += f"## {book['title']}\n\nAuthors: {'; '.join(authors)}.\n\nPublisher: {book['metadata']['publisher']}.\n\n"
+        notice += "Wersja oryginalna e-podr\u0119cznika dost\u0119pna na stronie: " + book["url"] + "\n\n"
+    notice += "Preparation: Piotr Styla with OpenAI Codex. Changes: module-level HTML prose extraction, media removal, whitespace/Unicode normalization, formula preservation, pattern redaction, quality filtering and deduplication. No endorsement by AGH is implied. The recorded rights pages and per-module authors are in artifacts/books.json and attribution.jsonl. This text adaptation is shared under CC BY-SA 4.0.\n"
+    (root / "NOTICE.md").write_text(notice, encoding="utf-8")
+    body = f"""# Open AGH Polish chemistry textbooks
+
+Four Polish editions: general chemistry, inorganic chemistry, polymer chemistry,
+and corrosion/corrosion protection. This is an independent text-only adaptation.
+
+- Snapshot: {stats['added']}
+- Module occurrences: {stats['module_occurrences']}; unique modules: {stats['unique_modules']}
+- Retained records: {stats['kept']}; measured tokens: {stats['tokens']} (`cl100k_base` proxy)
+- Characters: {stats['chars']}
+- License: CC BY-SA 4.0, independently documented in each official EPUB rights page.
+- Immutable payload: `{payload}`
+
+## Source, attribution and changes
+
+See NOTICE.md, artifacts/books.json and artifacts/attribution.jsonl for the
+original edition URLs, module authors, institutional credit, book-specific
+rights XHTML, observed revision labels and hashes. Preserve attribution,
+original publication links, license links and notices of modifications.
+The license assertion concerns these four editions, not every repository item.
+No media binaries are redistributed. Published source HTML snapshots are not
+de-identified; only the selected text undergoes the documented pattern checks.
+
+## Reproduction
+
+Install `src/open_agh_requirements.txt`. Decompress artifacts/modules.jsonl.gz
+into WORK/modules.jsonl; copy artifacts/books.json to WORK/inventory.json and
+artifacts/target_audit.json to WORK/target_audit.json. Run:
+
+```sh
+python src/build_open_agh_pl.py --output WORK build
+python src/publish_open_agh_pl.py --output WORK verify
+```
+
+Build is offline and preserves native LaTeX, including chemical notation.
+The data replay is deterministic; a new Run has new execution timestamps.
+Live acquisition uses `discover` and `fetch` in a fresh output directory.
+API revisions are observed labels; immutable identity is the recorded byte hash.
+
+## QA and limitations
+
+Each discovered unique module has a selection decision. Minimum body length
+200 chars; letter ratio >=0.35; reject unbalanced LaTeX delimiters and confidently
+non-Polish text. All retained text, author attribution and token counts are replayed.
+Module identity and normalized exact dedup precede seeded MinHashLSH candidates
+and exact five-word-shingle Jaccard >=0.9. Candidate retrieval is probabilistic.
+
+Media are omitted, so some prose references missing figures. Tables are flattened;
+retaining LaTeX and balanced delimiters does not establish equation correctness.
+Email/labelled-phone checks are limited, not comprehensive PII de-identification.
+The `created` field is a book publication metadata proxy, not a module creation date.
+Embedded citations may remain. Corpus-wide DynaWord exact/near dedup and benchmark
+overlap checks remain pending. Test a capped chemistry source share in controlled
+ablations; neither textual novelty nor training gains are asserted.
+
+## Review artifacts
+
+- artifacts/sample.jsonl: {stats['sample_count']} complete deterministic sample records, selected three per book.
+- artifacts/attribution.jsonl and decisions.jsonl: record provenance and selection decisions.
+- artifacts/books.json and modules.jsonl.gz: source snapshot and official licensing evidence.
+- artifacts/checksums.json, stats.json, qa.json, run.json, ontology.json: versioned research evidence.
+
+The Slayer graph separates Objects/Versions, processing and validation Protocols,
+actual Runs, typed lineage, Evidence, falsifiable Claims, Actors and pending gates.
+This is a pretraining candidate source, not an uncontaminated benchmark or a stable
+DynaWord release. The HF train split points only to data/*.parquet.
+"""
+    header = "---\nlicense: cc-by-sa-4.0\nlanguage:\n- pl\ntask_categories:\n- text-generation\nconfigs:\n- config_name: default\n  data_files:\n  - split: train\n    path: data/train-00000-of-00001.parquet\n---\n\n"
+    (root / "README.md").write_text(header + body, encoding="utf-8")
+    pr = out / "dynaword_pr"
+    data = pr / "data" / SOURCE
+    data.mkdir(parents=True, exist_ok=True)
+    (pr / "src").mkdir(exist_ok=True)
+    (pr / "artifacts").mkdir(exist_ok=True)
+    shutil.copy2(root / "data/train-00000-of-00001.parquet", data / f"{SOURCE}.parquet")
+    for name in ("attribution.jsonl", "decisions.jsonl", "sample.jsonl", "books.json", "stats.json", "qa.json"):
+        shutil.copy2(root / "artifacts" / name, data / f"{SOURCE}.{name}")
+    shutil.copy2(root / "NOTICE.md", data / "NOTICE.md")
+    (data / f"{SOURCE}.md").write_text(body, encoding="utf-8")
+    shutil.copy2(root / "artifacts/ontology.json", pr / f"artifacts/{SOURCE}_ontology_manifest.json")
+    for path in (root / "src").glob("*"):
+        if path.is_file():
+            shutil.copy2(path, pr / "src" / path.name)
+    (pr / "src/sources.py").write_text(registry((out / "target_sources.py").read_text(encoding="utf-8")), encoding="utf-8")
+    description = f"""## Add Open AGH Polish chemistry prose
+
+Adds `{SOURCE}` from four Polish chemistry textbooks: **{stats['kept']} records,
+{stats['tokens']:,} measured cl100k_base proxy tokens**, from {stats['unique_modules']} discovered modules.
+Book IDs: 29, 1394, 37, 1893. Text only, with per-module authorship and CC BY-SA 4.0
+documented in each preserved official EPUB rights page. Attribution, original
+edition links, ShareAlike terms and modification notices are preserved.
+
+Source: [PiotrSty/open-agh-chemistry-pl](https://huggingface.co/datasets/{OWN_REPO}).
+Immutable payload: `{payload}`.
+
+### Data sample
+
+[{stats['sample_count']} complete deterministic sample records](https://huggingface.co/datasets/{OWN_REPO}/blob/{payload}/artifacts/sample.jsonl).
+[Book-specific rights evidence](https://huggingface.co/datasets/{OWN_REPO}/blob/{payload}/artifacts/books.json).
+[Per-record authors and original URLs](https://huggingface.co/datasets/{OWN_REPO}/blob/{payload}/artifacts/attribution.jsonl).
+
+### Verification and Slayer ontology
+
+All retained texts, token counts and author fields replay from the immutable
+snapshot. Every discovered module has a selection decision. Source identity,
+exact normalization and seeded MinHash/Jaccard dedup are applied within source.
+The manifest includes content-addressed Objects/Versions, processing and validation
+Protocols, actual Runs, typed lineage, Evidence, falsifiable Claims and Actors.
+
+### Remaining integration gates
+
+Cross-source DynaWord exact/near dedup and benchmark overlap checks remain pending.
+Source-key absence does not prove textual novelty. Media are omitted; references
+to missing figures, flattened tables and formula quality require downstream care.
+Test a capped chemistry share in controlled ablations before stable-release inclusion.
+This PR proposes a source, not a merged or stable DynaWord release.
+"""
+    (out / "pr_description.md").write_text(description, encoding="utf-8")
+
+
+def token():
+    value = os.environ.get("HF_TOKEN")
+    if not value and os.name == "nt":
+        import winreg
+        with winreg.OpenKey(winreg.HKEY_CURRENT_USER, "Environment") as key:
+            value = winreg.QueryValueEx(key, "HF_TOKEN")[0]
+    if not value or not value.startswith("hf_"):
+        raise ValueError("HF_TOKEN unavailable")
+    return value
+
+
+def files(root):
+    return [p for p in sorted(root.rglob("*")) if p.is_file() and "__pycache__" not in p.parts and ".pytest_cache" not in p.parts]
+
+
+def publish(out):
+    from huggingface_hub import HfApi, CommitOperationAdd
+    from huggingface_hub.utils import disable_progress_bars
+    disable_progress_bars()
+    verify(out)
+    root = out / "hf_repo"
+    api = HfApi(token=token())
+    if api.whoami()["name"].casefold() != "piotrsty":
+        raise ValueError("Unexpected HF account")
+    audit = read(out / "target_audit.json")
+    if api.dataset_info(TARGET).sha != audit["revision"]:
+        raise ValueError("Target changed; inspect/rebase before publication")
+    receipt_path = out / "publication.json"
+    receipt = read(receipt_path) if receipt_path.exists() else {}
+    if not receipt:
+        if api.repo_exists(OWN_REPO, repo_type="dataset"):
+            raise ValueError("Existing source repository without this run receipt")
+        api.create_repo(OWN_REPO, repo_type="dataset", private=True)
+        receipt = {"repository": OWN_REPO, "created_at": now()}
+        save(receipt_path, receipt)
+    if not receipt.get("payload_commit"):
+        result = api.create_commit(OWN_REPO, repo_type="dataset", commit_message="Add validated four-book AGH chemistry snapshot",
+            operations=[CommitOperationAdd(path_in_repo=p.relative_to(root).as_posix(), path_or_fileobj=str(p)) for p in files(root) if p.name not in ("README.md", "NOTICE.md", "ontology.json")])
+        receipt["payload_commit"] = result.oid
+        save(receipt_path, receipt)
+    prepare(out, receipt["payload_commit"])
+    subprocess.run([sys.executable, "-m", "pytest", "-q", str(out / "dynaword_pr/src/test_open_agh_contribution.py")], check=True)
+    if not receipt.get("release_commit"):
+        result = api.create_commit(OWN_REPO, repo_type="dataset", parent_commit=receipt["payload_commit"], commit_message="Document attribution and pinned Slayer research graph",
+            operations=[CommitOperationAdd(path_in_repo=n, path_or_fileobj=str(root / n)) for n in ("README.md", "NOTICE.md", "artifacts/ontology.json")])
+        receipt["release_commit"] = result.oid
+        save(receipt_path, receipt)
+    if not any(t.name == "v1.0.0" for t in api.list_repo_refs(OWN_REPO, repo_type="dataset").tags):
+        api.create_tag(OWN_REPO, repo_type="dataset", tag="v1.0.0", revision=receipt["release_commit"])
+    api.update_repo_settings(OWN_REPO, repo_type="dataset", private=False)
+    if not receipt.get("pr_url"):
+        pr = out / "dynaword_pr"
+        result = api.create_commit(TARGET, repo_type="dataset", parent_commit=audit["revision"], create_pr=True,
+            commit_message="Add CC BY-SA 4.0 Open AGH Polish chemistry textbooks",
+            commit_description=(out / "pr_description.md").read_text(encoding="utf-8"),
+            operations=[CommitOperationAdd(path_in_repo=p.relative_to(pr).as_posix(), path_or_fileobj=str(p)) for p in files(pr)])
+        receipt.update(pr_url=result.pr_url, pr_commit=result.oid)
+        save(receipt_path, receipt)
+    print(json.dumps(receipt, indent=2), flush=True)
+
+
+def audit(out):
+    from huggingface_hub import HfApi, hf_hub_download
+    from huggingface_hub.utils import disable_progress_bars
+    disable_progress_bars()
+    api = HfApi(token=False)
+    receipt = read(out / "publication.json")
+    info = api.dataset_info(OWN_REPO)
+    if info.private or info.sha != receipt["release_commit"]:
+        raise ValueError("Release visibility/revision mismatch")
+    if not any(t.name == "v1.0.0" and t.target_commit == info.sha for t in api.list_repo_refs(OWN_REPO, repo_type="dataset").tags):
+        raise ValueError("Tag mismatch")
+    number = int(receipt["pr_url"].rsplit("/", 1)[-1])
+    discussion = api.get_discussion_details(TARGET, number, repo_type="dataset")
+    pr_info = api.dataset_info(TARGET, revision=f"refs/pr/{number}")
+    if not discussion.is_pull_request or pr_info.sha != receipt["pr_commit"]:
+        raise ValueError("PR identity/revision mismatch")
+    verified = []
+    for repo, revision, root in ((OWN_REPO, info.sha, out / "hf_repo"), (TARGET, pr_info.sha, out / "dynaword_pr")):
+        for path in files(root):
+            name = path.relative_to(root).as_posix()
+            remote = Path(hf_hub_download(repo, name, repo_type="dataset", revision=revision, token=False, cache_dir=str(out / "remote_verification_cache")))
+            if sha(remote.read_bytes()) != sha(path.read_bytes()):
+                raise ValueError("Remote checksum mismatch: " + name)
+            verified.append({"repository": repo, "revision": revision, "path": name, "sha256": sha(remote.read_bytes())})
+    base = (out / "target_sources.py").read_text(encoding="utf-8")
+    if (out / "dynaword_pr/src/sources.py").read_text(encoding="utf-8") != registry(base):
+        raise ValueError("Unrelated registry changes")
+    result = {"observed_at": now(), "source_revision": info.sha, "pr_url": receipt["pr_url"], "pr_status": discussion.status,
+        "pr_revision": pr_info.sha, "target_main_revision": api.dataset_info(TARGET).sha, "verified_files": verified}
+    save(out / "publication_audit.json", result)
+    print(json.dumps({**result, "verified_files": len(verified)}, indent=2), flush=True)
+
+
+if __name__ == "__main__":
+    parser = argparse.ArgumentParser(description=__doc__)
+    parser.add_argument("--output", type=Path, required=True)
+    parser.add_argument("command", choices=["verify", "publish", "audit"])
+    args = parser.parse_args()
+    globals()[args.command](args.output)

src/sources.py

@@ -315,6 +315,25 @@ SOURCES = {
         "created": "2005-01-01, 2025-12-31",
         "is_ocr": False,
     },
+    "open_agh_chemistry_pl": {
+        "added": "2026-09-05",
+        "release": None,
+        "file_key": "open_agh_chemistry_pl",
+        "pretty": "Open AGH - four Polish chemistry textbooks",
+        "license": "CC-BY-SA-4.0",
+        "license_spdx": "CC-BY-SA-4.0",
+        "traceable": "Each contributed Polish edition includes explicit CC BY-SA 4.0 terms in its "
+                     "preserved official EPUB rights page. Authors, AGH attribution, original URLs "
+                     "and changes are preserved.",
+        "upstream": "https://epodreczniki.open.agh.edu.pl",
+        "provenance": "Pinned PiotrSty/open-agh-chemistry-pl source snapshot; public AGH module "
+                      "previews with observed revision identifiers and per-module author attribution. "
+                      "Pattern PII redaction only - re-run through SlayerLab/NERGAL before release.",
+        "domain": "educational/chemistry/materials",
+        "created": "2018-2024 (book publication metadata proxy)",
+        "is_ocr": False,
+        "custom_datasheet": True,
+    },
     "eltec_pol": {
         "added": "2026-07-02",
         "release": "0.2.0",

src/test_build_open_agh_pl.py

@@ -0,0 +1,54 @@
+import ast
+import io
+import zipfile
+import pytest
+from build_open_agh_pl import extract, walk, module_map, license_from_epub, near_dedup, registry, SOURCE
+
+
+def test_wrapping_inline_words_and_paragraphs():
+    text, _ = extract('Pierwsza\nlinia.<p>To <b>jest</b>\n tekst.</p><p>Drugi.</p>')
+    assert text == 'Pierwsza linia.\n\nTo jest tekst.\n\nDrugi.'
+
+
+def test_math_media_table_and_pii():
+    text, counts = extract(r'<figure><img src="x"><figcaption>Remove</figcaption></figure><p>Woda: <span>\(\ce{H_2O}\)</span> H<sub>2</sub>O.</p><table><tr><td>A</td><td>B</td></tr></table><p>a@example.com</p>')
+    assert r'\(\ce{H_2O}\)' in text and 'H_{2}O' in text
+    assert 'A | B |' in text
+    assert 'Remove' not in text and 'example.com' not in text
+    assert counts['email'] == 1 and counts['unbalanced_math_delimiters'] == 0
+
+
+def test_fail_closed_and_math_delimiters():
+    with pytest.raises(ValueError):
+        extract('<html><body>Login</body></html>')
+    assert extract(r'<p>Broken \(x</p>')[1]['unbalanced_math_delimiters'] == 1
+
+
+def test_nested_inventory_and_conflicting_revisions():
+    module = {'module_id': 5, 'title': 'One', 'revision': 1, 'authors': ['Author']}
+    assert module_map([{'occurrences': [module]}, {'occurrences': [module]}]) == {5: module}
+    with pytest.raises(ValueError):
+        module_map([{'occurrences': [module]}, {'occurrences': [{**module, 'revision': 2}]}])
+    assert list(walk([{'title': 'Chapter', 'children': [{'_embedded': {'module': {'id': 5}}}]}])) == [({'id': 5}, 'Chapter')]
+
+
+def test_book_specific_license():
+    def epub(license_path):
+        buffer = io.BytesIO()
+        with zipfile.ZipFile(buffer, 'w') as z:
+            z.writestr('OEBPS/main.xhtml', f'<html><body>Na tych samych warunkach /handbook/29<a href="https://creativecommons.org/licenses/{license_path}/4.0">license</a></body></html>')
+        return buffer.getvalue()
+    assert license_from_epub(epub('by-sa'), 29)['license'] == 'CC-BY-SA-4.0'
+    with pytest.raises(ValueError):
+        license_from_epub(epub('by-nc-sa'), 29)
+    with pytest.raises(ValueError):
+        license_from_epub(epub('by-sa'), 37)
+
+
+def test_registry_and_near_duplicate():
+    base = 'SOURCES = {"existing": {"is_ocr": False}}\n'
+    result = ast.literal_eval(ast.parse(registry(base)).body[0].value)
+    assert result['existing'] == {'is_ocr': False} and result[SOURCE]['license'] == 'CC-BY-SA-4.0'
+    words = ' '.join('word' + str(n) for n in range(100))
+    kept, dropped = near_dedup([{'id': 'a', 'text': words}, {'id': 'b', 'text': words + ' extra'}])
+    assert len(kept) == 1 and dropped[0]['duplicate_of'] == 'a'

src/test_open_agh_contribution.py

@@ -0,0 +1,61 @@
+"""Run from the prepared DynaWord contribution tree."""
+import json
+from pathlib import Path
+import pyarrow.parquet as pq
+import pytest
+from build_open_agh_pl import SOURCE, LICENSE, FIELDS, BOOK_IDS, sha
+
+ROOT = Path(__file__).resolve().parents[1]
+DATA = ROOT / 'data' / SOURCE
+MANIFEST = ROOT / f'artifacts/{SOURCE}_ontology_manifest.json'
+pytestmark = pytest.mark.skipif(not MANIFEST.exists(), reason='Requires prepared DynaWord contribution')
+
+
+def test_data_and_source_contract():
+    table = pq.read_table(DATA / f'{SOURCE}.parquet')
+    rows = table.to_pylist()
+    stats = json.loads((DATA / f'{SOURCE}.stats.json').read_text(encoding='utf-8'))
+    sidecars = [json.loads(s) for s in (DATA / f'{SOURCE}.attribution.jsonl').read_text(encoding='utf-8').splitlines()]
+    assert table.column_names == FIELDS and len(rows) == stats['kept']
+    assert sum(r['token_count'] for r in rows) == stats['tokens']
+    assert {r['id'] for r in rows} == {s['id'] for s in sidecars}
+    assert len({r['id'] for r in rows}) == len(rows)
+    assert {r['source'] for r in rows} == {SOURCE}
+    assert {r['license'] for r in rows} == {LICENSE}
+    assert {m['book_id'] for s in sidecars for m in s['memberships']} == set(BOOK_IDS)
+    sample = [json.loads(s) for s in (DATA / f'{SOURCE}.sample.jsonl').read_text(encoding='utf-8').splitlines()]
+    assert len(sample) == stats['sample_count']
+    by_id = {r['id']: r for r in rows}
+    assert all(by_id[s['id']] == s for s in sample)
+    for book in BOOK_IDS:
+        ids = {s['id'] for s in sidecars if any(m['book_id'] == book for m in s['memberships'])}
+        assert len(ids & {s['id'] for s in sample}) >= 3
+
+
+def test_ontology_content_addresses_and_lineage():
+    m = json.loads(MANIFEST.read_text(encoding='utf-8'))
+    sums = next(e['payload'] for e in m['evidence'] if e['observation_type'] == 'checksums')
+    assert m['version']['digest'] == 'sha256:' + sha(sums)
+    assert m['protocol']['version']['digest'] == 'sha256:' + sha(m['protocol']['specification'])
+    assert m['source_version']['digest'] == 'sha256:' + sha(m['source_version']['components'])
+    assert '@0000000000000000000000000000000000000000/' not in m['version']['payload_uri']
+    mapping = {'data/train-00000-of-00001.parquet': DATA / f'{SOURCE}.parquet'}
+    for name in ('attribution.jsonl', 'decisions.jsonl', 'sample.jsonl', 'books.json', 'stats.json', 'qa.json'):
+        mapping['artifacts/' + name] = DATA / f'{SOURCE}.{name}'
+    for name, path in mapping.items():
+        assert sha(path.read_bytes()) == sums[name]
+    assert m['validation_run']['success']
+    assert m['validation_run']['code_sha256'] == sums['src/publish_open_agh_pl.py']
+    assert m['run']['code_sha256'] == sums['src/build_open_agh_pl.py']
+    assert next(r['introduced_by_run'] for r in m['relations'] if r['predicate'] == 'VALIDATED_AGAINST') == m['validation_run']['id']
+    evidence = {e['id'] for e in m['evidence']}
+    assert all(set(c['supported_by']) <= evidence and c['falsification_condition'] for c in m['claims'])
+    graph = {}
+    for r in m['relations']:
+        graph.setdefault(r['source_version_id'], []).append(r['target_version_id'])
+    def visit(node, path):
+        assert node not in path
+        for child in graph.get(node, []):
+            visit(child, path | {node})
+    for node in graph:
+        visit(node, set())