add README_KORPUS.md

README_KORPUS.md

@@ -0,0 +1,162 @@
+# Ratsvorlagen-Korpus deutscher Kommunen (InfraNode)
+
+Volltexte kommunaler Beschlussvorlagen, Anträge, Anfragen und
+Informationsvorlagen (öffentlicher Teil) aus den Ratsinformationssystemen
+(OParl) von Leipzig, Osnabrück und Dresden. Aufbereitet für LLM-Training und
+Evaluation, insbesondere als deutsches Long-Context-Material.
+
+Stand des Quell-Snapshots: 29.07.2026. Abruf am 31.07. und 01.08.2026, höflich
+mit einem Request pro Sekunde je Host (Dresden ein Request pro drei Sekunden,
+dort steht ein DDoS-Schutz davor), mit identifizierendem User-Agent und
+Kontaktadresse. Textextraktion mit pypdf; Dokumente ohne Textlayer sind nicht
+enthalten. Tokenzählung: cl100k_base.
+
+## Umfang
+
+| Stadt | Dokumente | Tokens | Median | Anteil über 32K | Längstes Dokument | Lizenz |
+|---|---|---|---|---|---|---|
+| Leipzig | 26.685 | 200,3 Mio. | 1.100 | 3,50 % | 7.375.767 | CC BY 4.0 |
+| Osnabrück | 10.334 | 77,2 Mio. | 1.418 | 4,64 % | 676.664 | CC BY 4.0 |
+| Dresden | 4.064 | 3,3 Mio. | 501 | 0,07 % | 100.808 | DL-DE/Zero 2.0 |
+| Freiburg im Breisgau | 2.044 | 22,1 Mio. | 3.321 | 6,07 % | 566.107 | DL-DE/BY 2.0 |
+
+Gesamt: **43.127 Dokumente, 302,9 Mio. Tokens**. Davon
+5.082 Dokumente über 8K Tokens, 1.540 über 32K und
+388 über 100K. Das längste Dokument hat 7.375.767 Tokens.
+
+Duplikate über den gesamten Korpus: **35 exakte** (SHA-256 über
+normalisierten Text) und **265 Near-Duplikate** (MinHash mit 128
+Permutationen, LSH-Kandidatensuche, Jaccard mindestens 0,8). Boilerplate-Anteil
+je Stadt (Zeilen, die in mindestens 20 % der Dokumente derselben Stadt
+vorkommen, zeichengewichtet): Leipzig 2,2 %, Osnabrück 1,7 %, Dresden 7,5 %, Freiburg im Breisgau 1,1 %. Vollständige Verteilungen inklusive
+p90, p95 und p99 stehen in STATS.json.
+
+## Vollständigkeit
+
+Grundlage sind 43.602 Dokumente mit direktem Dateilink im
+Quell-Snapshot. Erfolgsquoten: Leipzig 85,7 %, Osnabrück 99,8 %, Dresden 41,9 %, Freiburg im Breisgau 94,4 %.
+
+Die Leipziger Lücke ist zeitlich scharf begrenzt: In den Jahrgängen 2016 bis
+2020 liefert das Ratsinformationssystem für einen Teil der Dokumente die
+Portalseite statt der PDF-Datei (Spitze 2017 mit 69 %), ab 2021 liegt die
+Quote bei 0 bis 2 %. Die betroffenen Dokumente sind auch bei erneuter
+Auflösung über die OParl-API anonym nicht abrufbar; die Ursache liegt im
+Quellsystem. Zusätzlich enthielten 412 Dokumente keinen Textlayer.
+
+**Anlagen.** Die Ratsinformationssysteme unterscheiden sich darin, wie sie
+Anlagen führen. Freiburg und Dresden trennen sie von der Vorlage ab, deshalb
+sind sie hier eigene Dokumente. Osnabrück führt keine getrennten Anlagen: in
+einer Stichprobe von 80 Vorlagen, gleichmäßig über den gesamten Bestand
+gezogen, war keine einzige verzeichnet. Für Leipzig ließ sich das nicht
+abschließend prüfen, weil der OParl-Endpunkt über Stunden nicht antwortete; in
+der erreichbaren Stichprobe fand sich keine Anlage, was zur Bauart des dort
+eingesetzten Systems passt. Leipziger Anlagen sind in dieser Fassung daher
+nicht enthalten. Für Freiburg sind alle
+Anlagen ab 10 MB sowie alle Vorlagen ab 2020 erfasst, denn dort liegt das
+Long-Context-Material: die Vorlagen allein haben einen Median von rund 2.200
+Tokens und kein Dokument über 8K. Für Dresden gilt: zu jedem enthaltenen
+Paper sind auch seine Anlagen enthalten.
+
+67 besonders große Dateien (50 bis 400 MB) wurden in einem zweiten Durchgang
+nachgeladen. Sie enthalten zusammen 47,1 Mio. Tokens und
+stellen den größten Teil der Dokumente jenseits von 100K Tokens.
+
+## Format
+
+JSONL, ein Dokument je Zeile, UTF-8. Felder: city_slug, oparl_id, name, reference, date, paper_type, source_url, pdf_bytes, pages, text, tokens_cl100k, masked. Dokumente aus Freiburg und Dresden tragen zusätzlich das Feld rolle (hauptdatei oder anlage) und den datei_name der Anlage.
+Das Ersatzzeichen U+FFFD markiert defekte Stellen im Encoding des Quell-PDFs.
+
+Begleitdateien: `INDEX.csv.zst` enthält die Metadaten aller Dokumente ohne
+Text, damit sich die Verteilungen ohne Laden des Vollkorpus nachrechnen
+lassen. `PREVIEW.jsonl` enthält einige vollständige Dokumente quer durch die
+Längenklassen. `STATS.json` führt alle Kennzahlen maschinenlesbar.
+`SHA256SUMS.txt` deckt alle übrigen Dateien ab.
+
+## Maskierung
+
+Diese Fassung ist maskiert. Ersetzt wurden E-Mail-Adressen, Telefon- und
+Faxnummern sowie IBANs durch die Platzhalter `[E-MAIL ENTFERNT]`,
+`[TELEFONNUMMER ENTFERNT]` und `[IBAN ENTFERNT]`. Betroffen sind
+**3.799 von 43.127 Dokumenten (8,8 %)**; insgesamt
+10.154 E-Mail-Adressen, 13.214 Rufnummern und 792 IBANs.
+
+| Stadt | Dokumente mit Ersetzung | E-Mail | Telefon | IBAN |
+|---|---|---|---|---|
+| Leipzig | 1.452 | 5.853 | 6.588 | 388 |
+| Osnabrück | 888 | 3.263 | 3.973 | 146 |
+| Dresden | 260 | 492 | 368 | 256 |
+| Freiburg im Breisgau | 1.199 | 546 | 2.285 | 2 |
+
+**Personennamen bleiben stehen.** Ratsmitglieder, Verwaltungsmitarbeitende und
+Antragstellende handeln hier in amtlicher Funktion, und ohne Namen verlieren
+Beschluss- und Antragstexte ihren Sinn. Der Korpus bildet damit den
+öffentlichen Stand der Gremienarbeit ab, so wie ihn die Städte selbst
+veröffentlichen.
+
+Grenzen des Verfahrens, offen dokumentiert:
+
+- Rufnummern werden nur mit vorangehendem Kontextwort ersetzt (Tel, Telefon,
+  Telefax, Fax, Fon, Mobil, Handy, Durchwahl, jeweils auch als Wortteil wie
+  "Telefonnummer" oder "telefonisch", sowie die Kurzform "T:" und "M:" aus
+  Visitenkartenblöcken). Ein generischer Nummernfilter ist bewusst nicht
+  eingesetzt, weil er Vorlagennummern, Aktenzeichen und Haushaltszahlen
+  zerstören würde.
+- Dadurch bleiben Nummern ohne Kontextwort stehen. Eine Nachkontrolle mit
+  einem absichtlich weiter gefassten Suchmuster fand im gesamten Korpus noch
+  274 solcher Stellen; nach Sichtung sind das öffentliche Servicenummern
+  (0800-Hotlines, Telefonseelsorge, Krisendienste), die eine Stadt gerade
+  bekannt machen will, sowie Fehltreffer des Suchmusters auf Aktenzeichen.
+  Namentliche Durchwahlen sind nicht darunter.
+- E-Mail-Adressen werden auch dann erfasst, wenn die PDF-Extraktion sie
+  zerlegt: Umlaut- und Ligaturdomains, geschützte Leerzeichen und ein
+  Zeilenumbruch vor oder nach dem @ sind abgedeckt.
+- Das Feld `tokens_cl100k` zählt den Originaltext vor der Maskierung, die
+  Platzhalter verschieben die Tokenzahl je Dokument geringfügig.
+
+## Personenbezogene Daten
+
+Alle Dokumente stammen aus dem anonym zugänglichen OParl-Endpunkt der
+jeweiligen Stadt; die Freigabeentscheidung liegt bei der Stadt, und es wurde
+keine Zugangsbeschränkung umgangen. Amtliche Dokumente der Gremienarbeit
+nennen naturgemäß Personen (Ratsmitglieder, Verwaltungsmitarbeitende,
+Antragstellende). Gemessener Anteil der Dokumente je Muster:
+
+| Muster | Leipzig | Osnabrück | Dresden | Freiburg im Breisgau |
+|---|---|---|---|---|
+| Telefonnummer (mit Kontextwort) | 2,3 % | 4,9 % | 1,7 % | 59,6 % |
+| E-Mail-Adresse | 4,3 % | 7,0 % | 5,9 % | 8,3 % |
+| Personenname mit Anrede | 5,5 % | 8,3 % | 5,7 % | 9,2 % |
+| IBAN | 0,6 % | 0,9 % | 1,5 % | 0,3 % |
+| Geburtsdatum | 0,0 % | 0,2 % | 0,1 % | 0,0 % |
+
+Einordnung nach Sichtung der Treffer: IBAN-Nennungen sind durchweg
+institutionell (Sparkassen, Ministerien, Vereine), Geburtsdaten stammen aus
+Straßenbenennungen nach historischen Persönlichkeiten und aus
+Ernennungsbeschlüssen, E-Mail-Adressen sind überwiegend amtliche
+Funktionsadressen. Die Werte oben sind **vor** der Maskierung gemessen; welche
+Muster in der veröffentlichten Fassung ersetzt wurden, steht im Abschnitt
+Maskierung.
+
+Ein kleiner Teil der Dokumente (0,2 % bis 0,4 %) erwähnt nichtöffentliche
+Beratungen. Nach Sichtung sind das fast durchweg Verweise auf den
+Beratungsgang ("Anlage im nichtöffentlichen Teil"), vereinzelt nachträglich
+freigegebene Protokollauszüge, die die Stadt selbst veröffentlicht hat.
+
+## Lizenzen und Attribution
+
+Jedes Dokument trägt die Lizenz seiner Stadt, am 01.08.2026 direkt am
+OParl-System-Endpunkt verifiziert. CC BY 4.0 erfordert die Namensnennung der
+jeweiligen Stadt, DL-DE/Zero 2.0 ist attributionsfrei. Die Inhalte sind
+amtliche Dokumente der öffentlichen Gremienarbeit. Für die Sammlung als Ganzes
+gilt CC BY 4.0 als die strengere der beiden Lizenzen.
+
+| Stadt | Lizenz | Attribution | Beleg |
+|---|---|---|---|
+| Leipzig | CC BY 4.0 | Stadt Leipzig | https://ratsinformation.leipzig.de/allris_leipzig_public/oparl/system |
+| Osnabrück | CC BY 4.0 | Stadt Osnabrück | https://www.osnabrueck.sitzung-online.de/oparl/system |
+| Dresden | DL-DE/Zero 2.0 | Landeshauptstadt Dresden | https://oparl.dresden.de/system |
+| Freiburg im Breisgau | DL-DE/BY 2.0 | Stadt Freiburg im Breisgau | https://ris.freiburg.de/oparl/system |
+
+## Kontakt
+
+Khaled Cherif, admin@infranode.dev, https://infranode.dev