# Ratsvorlagen-Korpus deutscher Kommunen (InfraNode)

Volltexte kommunaler Beschlussvorlagen, Anträge, Anfragen und
Informationsvorlagen (öffentlicher Teil) aus den Ratsinformationssystemen
(OParl) von Leipzig, Osnabrück und Dresden. Aufbereitet für LLM-Training und
Evaluation, insbesondere als deutsches Long-Context-Material.

Stand des Quell-Snapshots: 29.07.2026. Abruf am 31.07. und 01.08.2026, höflich
mit einem Request pro Sekunde je Host (Dresden ein Request pro drei Sekunden,
dort steht ein DDoS-Schutz davor), mit identifizierendem User-Agent und
Kontaktadresse. Textextraktion mit pypdf; Dokumente ohne Textlayer sind nicht
enthalten. Tokenzählung: cl100k_base.

## Umfang

| Stadt | Dokumente | Tokens | Median | Anteil über 32K | Längstes Dokument | Lizenz |
|---|---|---|---|---|---|---|
| Leipzig | 26.685 | 200,3 Mio. | 1.100 | 3,50 % | 7.375.767 | CC BY 4.0 |
| Osnabrück | 10.334 | 77,2 Mio. | 1.418 | 4,64 % | 676.664 | CC BY 4.0 |
| Dresden | 4.064 | 3,3 Mio. | 501 | 0,07 % | 100.808 | DL-DE/Zero 2.0 |
| Freiburg im Breisgau | 2.044 | 22,1 Mio. | 3.321 | 6,07 % | 566.107 | DL-DE/BY 2.0 |

Gesamt: **43.127 Dokumente, 302,9 Mio. Tokens**. Davon
5.082 Dokumente über 8K Tokens, 1.540 über 32K und
388 über 100K. Das längste Dokument hat 7.375.767 Tokens.

Duplikate über den gesamten Korpus: **35 exakte** (SHA-256 über
normalisierten Text) und **265 Near-Duplikate** (MinHash mit 128
Permutationen, LSH-Kandidatensuche, Jaccard mindestens 0,8). Boilerplate-Anteil
je Stadt (Zeilen, die in mindestens 20 % der Dokumente derselben Stadt
vorkommen, zeichengewichtet): Leipzig 2,2 %, Osnabrück 1,7 %, Dresden 7,5 %, Freiburg im Breisgau 1,1 %. Vollständige Verteilungen inklusive
p90, p95 und p99 stehen in STATS.json.

## Vollständigkeit

Grundlage sind 43.602 Dokumente mit direktem Dateilink im
Quell-Snapshot. Erfolgsquoten: Leipzig 85,7 %, Osnabrück 99,8 %, Dresden 41,9 %, Freiburg im Breisgau 94,4 %.

Die Leipziger Lücke ist zeitlich scharf begrenzt: In den Jahrgängen 2016 bis
2020 liefert das Ratsinformationssystem für einen Teil der Dokumente die
Portalseite statt der PDF-Datei (Spitze 2017 mit 69 %), ab 2021 liegt die
Quote bei 0 bis 2 %. Die betroffenen Dokumente sind auch bei erneuter
Auflösung über die OParl-API anonym nicht abrufbar; die Ursache liegt im
Quellsystem. Zusätzlich enthielten 412 Dokumente keinen Textlayer.

**Anlagen.** Die Ratsinformationssysteme unterscheiden sich darin, wie sie
Anlagen führen. Freiburg und Dresden trennen sie von der Vorlage ab, deshalb
sind sie hier eigene Dokumente. Osnabrück führt keine getrennten Anlagen: in
einer Stichprobe von 80 Vorlagen, gleichmäßig über den gesamten Bestand
gezogen, war keine einzige verzeichnet. Für Leipzig ließ sich das nicht
abschließend prüfen, weil der OParl-Endpunkt über Stunden nicht antwortete; in
der erreichbaren Stichprobe fand sich keine Anlage, was zur Bauart des dort
eingesetzten Systems passt. Leipziger Anlagen sind in dieser Fassung daher
nicht enthalten. Für Freiburg sind alle
Anlagen ab 10 MB sowie alle Vorlagen ab 2020 erfasst, denn dort liegt das
Long-Context-Material: die Vorlagen allein haben einen Median von rund 2.200
Tokens und kein Dokument über 8K. Für Dresden gilt: zu jedem enthaltenen
Paper sind auch seine Anlagen enthalten.

67 besonders große Dateien (50 bis 400 MB) wurden in einem zweiten Durchgang
nachgeladen. Sie enthalten zusammen 47,1 Mio. Tokens und
stellen den größten Teil der Dokumente jenseits von 100K Tokens.

## Format

JSONL, ein Dokument je Zeile, UTF-8. Felder: city_slug, oparl_id, name, reference, date, paper_type, source_url, pdf_bytes, pages, text, tokens_cl100k, masked. Dokumente aus Freiburg und Dresden tragen zusätzlich das Feld rolle (hauptdatei oder anlage) und den datei_name der Anlage.
Das Ersatzzeichen U+FFFD markiert defekte Stellen im Encoding des Quell-PDFs.

Begleitdateien: `INDEX.csv.zst` enthält die Metadaten aller Dokumente ohne
Text, damit sich die Verteilungen ohne Laden des Vollkorpus nachrechnen
lassen. `PREVIEW.jsonl` enthält einige vollständige Dokumente quer durch die
Längenklassen. `STATS.json` führt alle Kennzahlen maschinenlesbar.
`SHA256SUMS.txt` deckt alle übrigen Dateien ab.

## Maskierung

Diese Fassung ist maskiert. Ersetzt wurden E-Mail-Adressen, Telefon- und
Faxnummern sowie IBANs durch die Platzhalter `[E-MAIL ENTFERNT]`,
`[TELEFONNUMMER ENTFERNT]` und `[IBAN ENTFERNT]`. Betroffen sind
**3.799 von 43.127 Dokumenten (8,8 %)**; insgesamt
10.154 E-Mail-Adressen, 13.214 Rufnummern und 792 IBANs.

| Stadt | Dokumente mit Ersetzung | E-Mail | Telefon | IBAN |
|---|---|---|---|---|
| Leipzig | 1.452 | 5.853 | 6.588 | 388 |
| Osnabrück | 888 | 3.263 | 3.973 | 146 |
| Dresden | 260 | 492 | 368 | 256 |
| Freiburg im Breisgau | 1.199 | 546 | 2.285 | 2 |

**Personennamen bleiben stehen.** Ratsmitglieder, Verwaltungsmitarbeitende und
Antragstellende handeln hier in amtlicher Funktion, und ohne Namen verlieren
Beschluss- und Antragstexte ihren Sinn. Der Korpus bildet damit den
öffentlichen Stand der Gremienarbeit ab, so wie ihn die Städte selbst
veröffentlichen.

Grenzen des Verfahrens, offen dokumentiert:

- Rufnummern werden nur mit vorangehendem Kontextwort ersetzt (Tel, Telefon,
  Telefax, Fax, Fon, Mobil, Handy, Durchwahl, jeweils auch als Wortteil wie
  "Telefonnummer" oder "telefonisch", sowie die Kurzform "T:" und "M:" aus
  Visitenkartenblöcken). Ein generischer Nummernfilter ist bewusst nicht
  eingesetzt, weil er Vorlagennummern, Aktenzeichen und Haushaltszahlen
  zerstören würde.
- Dadurch bleiben Nummern ohne Kontextwort stehen. Eine Nachkontrolle mit
  einem absichtlich weiter gefassten Suchmuster fand im gesamten Korpus noch
  274 solcher Stellen; nach Sichtung sind das öffentliche Servicenummern
  (0800-Hotlines, Telefonseelsorge, Krisendienste), die eine Stadt gerade
  bekannt machen will, sowie Fehltreffer des Suchmusters auf Aktenzeichen.
  Namentliche Durchwahlen sind nicht darunter.
- E-Mail-Adressen werden auch dann erfasst, wenn die PDF-Extraktion sie
  zerlegt: Umlaut- und Ligaturdomains, geschützte Leerzeichen und ein
  Zeilenumbruch vor oder nach dem @ sind abgedeckt.
- Das Feld `tokens_cl100k` zählt den Originaltext vor der Maskierung, die
  Platzhalter verschieben die Tokenzahl je Dokument geringfügig.

## Personenbezogene Daten

Alle Dokumente stammen aus dem anonym zugänglichen OParl-Endpunkt der
jeweiligen Stadt; die Freigabeentscheidung liegt bei der Stadt, und es wurde
keine Zugangsbeschränkung umgangen. Amtliche Dokumente der Gremienarbeit
nennen naturgemäß Personen (Ratsmitglieder, Verwaltungsmitarbeitende,
Antragstellende). Gemessener Anteil der Dokumente je Muster:

| Muster | Leipzig | Osnabrück | Dresden | Freiburg im Breisgau |
|---|---|---|---|---|
| Telefonnummer (mit Kontextwort) | 2,3 % | 4,9 % | 1,7 % | 59,6 % |
| E-Mail-Adresse | 4,3 % | 7,0 % | 5,9 % | 8,3 % |
| Personenname mit Anrede | 5,5 % | 8,3 % | 5,7 % | 9,2 % |
| IBAN | 0,6 % | 0,9 % | 1,5 % | 0,3 % |
| Geburtsdatum | 0,0 % | 0,2 % | 0,1 % | 0,0 % |

Einordnung nach Sichtung der Treffer: IBAN-Nennungen sind durchweg
institutionell (Sparkassen, Ministerien, Vereine), Geburtsdaten stammen aus
Straßenbenennungen nach historischen Persönlichkeiten und aus
Ernennungsbeschlüssen, E-Mail-Adressen sind überwiegend amtliche
Funktionsadressen. Die Werte oben sind **vor** der Maskierung gemessen; welche
Muster in der veröffentlichten Fassung ersetzt wurden, steht im Abschnitt
Maskierung.

Ein kleiner Teil der Dokumente (0,2 % bis 0,4 %) erwähnt nichtöffentliche
Beratungen. Nach Sichtung sind das fast durchweg Verweise auf den
Beratungsgang ("Anlage im nichtöffentlichen Teil"), vereinzelt nachträglich
freigegebene Protokollauszüge, die die Stadt selbst veröffentlicht hat.

## Lizenzen und Attribution

Jedes Dokument trägt die Lizenz seiner Stadt, am 01.08.2026 direkt am
OParl-System-Endpunkt verifiziert. CC BY 4.0 erfordert die Namensnennung der
jeweiligen Stadt, DL-DE/Zero 2.0 ist attributionsfrei. Die Inhalte sind
amtliche Dokumente der öffentlichen Gremienarbeit. Für die Sammlung als Ganzes
gilt CC BY 4.0 als die strengere der beiden Lizenzen.

| Stadt | Lizenz | Attribution | Beleg |
|---|---|---|---|
| Leipzig | CC BY 4.0 | Stadt Leipzig | https://ratsinformation.leipzig.de/allris_leipzig_public/oparl/system |
| Osnabrück | CC BY 4.0 | Stadt Osnabrück | https://www.osnabrueck.sitzung-online.de/oparl/system |
| Dresden | DL-DE/Zero 2.0 | Landeshauptstadt Dresden | https://oparl.dresden.de/system |
| Freiburg im Breisgau | DL-DE/BY 2.0 | Stadt Freiburg im Breisgau | https://ris.freiburg.de/oparl/system |

## Kontakt

Khaled Cherif, admin@infranode.dev, https://infranode.dev