PiotrSty commited on
Commit
244e61d
·
1 Parent(s): 5ec3e18

Add Polish TED public-procurement notices

Browse files

Adds `ted_pl`: **15,544 documents and 42,475,098 measured `cl100k_base` proxy tokens** from official Polish-language TED procurement-notice records (2023-02-15 to 2024-05-15). The corpus uses 20,588 official Search API records and 1,255 official XML fallbacks.

Source dataset: https://huggingface.co/datasets/PiotrSty/ted-polish-procurement-notices/tree/c2075874d36035e6cbc29b252155ac1da299cd13

```text
Opracowanie dokumentacji projektowej dla zadania pn.: „Budowa parku wodnego w Rzeszowie”

Przedmiotem zamówienia jest opracowanie kompletnej dokumentacji projektowej wraz z uzyskaniem pozwolenia na budowę dla obiektu rekreacji wodnej zwanego dalej „Park Wodny w Rzeszowie”, „Obiekt”, „Park Wodny”. Obiekt ma składać się z części krytej (w tym centrum edukacyjnego i saunarium) i części zewnętrznej (sezonowy basen odkryty) wraz z infrastrukturą towarzyszącą oraz zagospodarowaniem terenu wokół Parku Wodnego. Powierzchnia lustra wody krytej części Parku Wodnego co najmniej 1600 m2 (w tym całoroczny basen wypływowy o powierzchni lustra wody co najmniej 50 m2. Część zewnętrzna Parku Wodnego powinna
```

```text
Zakup usługi wsparcia technicznego i merytorycznego oprogramowania do replikacji i optymalizacji serwerów dziedzinowych IBM i oraz warsztaty szkoleniowe

Zakup usługi wsparcia technicznego i merytorycznego oprogramowania do replikacji i optymalizacji serwerów dziedzinowych IBM i oraz warsztaty szkoleniowe zgodnie z Załącznikiem nr 1 do SWZ.

Liczba dodatkowych osób dedykowanych do realizacji zamówienia posiadających umiejętności niezbędne dla uzyskania co najmniej jednego z następujących certyfikatów: MIMIX v9.0 Implementation Certification lub certyfikat MIMIX v10.0 Implementation Certification, potwierdzone tym dokumentem lub innym równoważnym dokumentem, który potwierdza umiejętności wyma
```

```text
Dostawa nagrzewnic tramwajowych wraz z częściami zamiennymi do nich, stanowiących wyposażenie tramwajów typu 105N, 120N, 120Na, 123N i pochodnych oraz typu 116Na i pochodnych (4 części).

Dostawa nagrzewnic tramwajowych wraz z częściami zamiennymi do nich, stanowiących wyposażenie tramwajów typu 105N, 120N, 120Na, 123N i pochodnych oraz typu 116Na i pochodnych (4 części), w tym: 1) w części nr 1 – dostawa nagrzewnic i części zamiennych do nich, stanowiących wyposażenie tramwajów typu 105N, 116Na, 123N i 120N; 2) w części nr 2 - dostawa nagrzewnic tramwajowych przedziału pasażerskiego, stanowiących wyposażenie tramwajów typu 120Na; 3) w części nr 3 - dostawa nagrzewnic tramwajowych oraz zabez
```

- [12 complete deterministic sample records](https://huggingface.co/datasets/PiotrSty/ted-polish-procurement-notices/blob/c2075874d36035e6cbc29b252155ac1da299cd13/artifacts/sample.jsonl)
- [Per-record official URLs, source/text hashes and attribution](https://huggingface.co/datasets/PiotrSty/ted-polish-procurement-notices/blob/c2075874d36035e6cbc29b252155ac1da299cd13/artifacts/attribution.jsonl)
- [All selection decisions](https://huggingface.co/datasets/PiotrSty/ted-polish-procurement-notices/blob/c2075874d36035e6cbc29b252155ac1da299cd13/artifacts/decisions.jsonl)

TED's [official legal notice](https://ted.europa.eu/en/legal-notice) says that, unless otherwise noted, procurement notices may be freely reused for commercial or non-commercial purposes. It separately assigns CC0 to metadata; this contribution therefore records notice text as `LicenseRef-TED-Notice-Reuse` rather than silently relabelling it CC0. Third-party-work and identifiable-person exceptions remain explicit review items.

The pinned PleIAs mirror is used only to enumerate Polish-labelled identifiers because its Polish preview contains replacement-character encoding damage. Every released text is rebuilt from a checksum-addressed official TED Search API record or, where narrative fields are absent, an official XML fallback. Structured contact/address fields are omitted; email, phone and labelled national-ID patterns are replaced. Frequent exact boilerplate and exact/near duplicates are removed.

The manifest separates content-addressed source/dataset Versions, Protocols, executed Runs, Evidence, falsifiable Claims, Actors and typed lineage. Per-notice/legal exception review, free-text name review, cross-source DynaWord deduplication, benchmark-overlap testing and a deliberate training-mix cap/ablation remain pending. This PR proposes a source; it does not claim a merged or stable release.

artifacts/ted_pl_ontology_manifest.json ADDED
The diff for this file is too large to render. See raw diff
 
data/ted_pl/NOTICE.md ADDED
@@ -0,0 +1,8 @@
 
 
 
 
 
 
 
 
 
1
+ # Notice and attribution
2
+
3
+ Source notice text: https://ted.europa.eu/
4
+ Official reuse terms: https://ted.europa.eu/en/legal-notice
5
+
6
+ Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
7
+
8
+ The PleIAs mirror at revision `2752d9d6f7628387583eac2435caa11edb36b9c1` is used only to enumerate Polish-labelled notice identifiers. Training text is extracted afresh from official TED Search API narrative fields, with official XML fallback where those fields are absent. Preserve source acknowledgement, record URLs, this notice and the documented modifications.
data/ted_pl/ted_pl.attribution.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:36afcd12e67bf1af38dca15690bf32bf51f669536e0e9736ca32aa80e44b16ef
3
+ size 17223335
data/ted_pl/ted_pl.decisions.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d3e89a6f0eb33193cabc7ae33be603cd65df2673d40fed1251a333ab93dead58
3
+ size 7957525
data/ted_pl/ted_pl.md ADDED
@@ -0,0 +1,33 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: other
3
+ license_name: ted-notice-reuse-terms
4
+ language:
5
+ - pl
6
+ task_categories:
7
+ - text-generation
8
+ configs:
9
+ - config_name: default
10
+ data_files:
11
+ - split: train
12
+ path: data/train-00000-of-00001.parquet
13
+ ---
14
+
15
+ # TED Polish procurement notices
16
+
17
+ Polish narrative text rebuilt from official TED procurement-notice records.
18
+
19
+ - Indexed notices: 20,588
20
+ - Search API records: 20,588
21
+ - XML fallbacks: 1,255
22
+ - Retained documents: 15,544
23
+ - Tokens: 42,475,098 (`cl100k_base` proxy)
24
+ - Dates: 2023-02-15 to 2024-05-15
25
+ - Contracting-authority attribution: 100.0%
26
+
27
+ The pinned PleIAs mirror is an identifier index only because its Polish preview contains replacement-character encoding damage. Released text comes from official TED Search API narrative fields or, when absent, official XML; any remaining U+FFFD record is rejected. Structured contact/address fields are omitted; emails, phone numbers and labelled national identifiers in narrative fields are replaced. Recurrent boilerplate and within-source duplicates are filtered.
28
+
29
+ See `NOTICE.md` and `artifacts/` for the source index, attribution, selection decisions, QA, checksums, full samples and Slayer ontology manifest.
30
+
31
+ ## Limitations
32
+
33
+ Free-text personal names are not comprehensively de-identified. The official reuse notice has exceptions for third-party works and identifiable private individuals, so per-notice/legal review remains appropriate. Cross-source DynaWord deduplication, benchmark-overlap checks and controlled training ablations remain pending. This administrative/technical register should be capped deliberately in a training mix.
data/ted_pl/ted_pl.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:200960adfce7874dd0d1c1b35bd1785484f762c3f25ae90f3aaca80faddadd21
3
+ size 21593162
data/ted_pl/ted_pl.qa.json ADDED
The diff for this file is too large to render. See raw diff
 
data/ted_pl/ted_pl.sample.jsonl ADDED
@@ -0,0 +1,12 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {"added": "2026-09-08", "author": "Gmina Miasto Rzeszów - Urząd Miasta Rzeszowa", "created": "2024-05-02", "id": "ted_pl_261467-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Opracowanie dokumentacji projektowej dla zadania pn.: „Budowa parku wodnego w Rzeszowie”\n\nPrzedmiotem zamówienia jest opracowanie kompletnej dokumentacji projektowej wraz z uzyskaniem pozwolenia na budowę dla obiektu rekreacji wodnej zwanego dalej „Park Wodny w Rzeszowie”, „Obiekt”, „Park Wodny”. Obiekt ma składać się z części krytej (w tym centrum edukacyjnego i saunarium) i części zewnętrznej (sezonowy basen odkryty) wraz z infrastrukturą towarzyszącą oraz zagospodarowaniem terenu wokół Parku Wodnego. Powierzchnia lustra wody krytej części Parku Wodnego co najmniej 1600 m2 (w tym całoroczny basen wypływowy o powierzchni lustra wody co najmniej 50 m2. Część zewnętrzna Parku Wodnego powinna uzupełnić ofertę części krytej. Powierzchnia lustra wody części zewnętrznej co najmniej 1400m2 (w tym splashparki). Zamówienie obejmuje również projekt zagospodarowania terenu i infrastruktury towarzyszącej w szczególności parking na co najmniej 150 miejsc postojowych dla samochodów osobowych i minimum 6 miejsc postojowych dla autokarów oraz miejsce postojowe dla kamperów. Zamawiający dysponuje terenem o powierzchni 8,72 ha. Zadaniem Wykonawcy będzie wskazanie optymalnego i ekonomicznie uzasadnionego obszaru przeznaczonego pod przedmiot zamówienia, tj. Obiekt składający się z części krytej, części zewnętrznej, zagospodarowania terenu i infrastruktury towarzyszącej. Umiejscowienie Obiektu na wskazanym przez Zamawiającego terenie powinna umożliwiać Zamawiającemu dalszą rozbudowę obiektu. Obiekt musi być zaprojektowany zgodnie z obowiązującą Ustawą z dnia 19 lipca 2019 r. o zapewnieniu dostępności osobom ze szczególnymi potrzebami. Zamawiający oczekuje dodatkowo uwzględnienie wytycznych programu „Dostępność Plus” (https://www.gov.pl/web/fundusze-regiony/program-dostepnosc-plus ) w zakresie dostosowanie obiektu do możliwości osób ze specjalnymi potrzebami m.in seniorów, rodzin z dziećmi, osób ze spektrum autyzmu. Zamawiający oczekuje nowoczesnych rozwiązań w zakresie formy architektonicznej z zachowaniem wymagań OPZ, MPZP oraz warunków technicznych a także optymalnych rozwiązań w zakresie formy i funkcji projektowanego obiektu, efektywnych rozwiązań technologicznych wpływających na późniejsze oszczędności w zakresie zużycia mediów. Całość musi być zaprojektowana w sposób umożliwiający oddzielne kosztorysowanie, realizację i funkcjonowanie w okresie eksploatacji części zewnętrznej i wewnętrznej obiektu. Ponadto obiekt musi być zaprojektowany w sposób zapewniający jak najniższe koszty eksploatacji, w tym zużycie energii elektrycznej i wody. Zamawiający oczekuje rozwiązań z wykorzystaniem OZE oraz rozwiązań związanych z retencją wody, np. zatrzymanie i wykorzystanie deszczówki. Zamawiający oczekuje uzasadnienia zaproponowanych rozwiązań w oparciu o analizę finansową opracowaną przez Oferenta. Dokumentacja projektowa ma być opracowana przy założeniu etapowania robót budowlanych: Etap I – Park Wodny - część kryta z basenem wypływowym, centrum edukacyjne, część sezonowa – basen odkryty o minimalnym lustrze wody 550 m2 wraz z wodnym placem zabaw min. 170 m2, infrastruktura towarzysząca wraz z zagospodarowaniem terenu, Etap II - Park Wodny część sezonowa – rozbudowa części odkrytej Parku Wodnego zgodnie z wymaganiami Zamawiającego (do powierzchni lustra wody min.1400 m2) infrastruktura towarzysząca wraz z zagospodarowaniem terenu.\n\nRozwiązania funkcjonalno – ekonomiczne\n\nCena ryczałtowa projektu brutto\n\nDoświadczenie zespołu projektowego\n\nOdwołanie wnosi się do Prezesa Krajowej Izby Odwoławczej: 1) w terminie 10 dni od dnia przekazania informacji o czynności Zamawiającego stanowiącej podstawę jego wniesienia; 2) wobec treści ogłoszenia wszczynającego postępowanie i treści dokumentów zamówienia w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej; 3) w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia wobec czynności innych niż określone w ppkt 1 i w ppkt 2.", "token_count": 1500}
2
+ {"added": "2026-09-08", "author": "Narodowy Fundusz Zdrowia Centrala", "created": "2024-01-18", "id": "ted_pl_35480-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup usługi wsparcia technicznego i merytorycznego oprogramowania do replikacji i optymalizacji serwerów dziedzinowych IBM i oraz warsztaty szkoleniowe\n\nZakup usługi wsparcia technicznego i merytorycznego oprogramowania do replikacji i optymalizacji serwerów dziedzinowych IBM i oraz warsztaty szkoleniowe zgodnie z Załącznikiem nr 1 do SWZ.\n\nLiczba dodatkowych osób dedykowanych do realizacji zamówienia posiadających umiejętności niezbędne dla uzyskania co najmniej jednego z następujących certyfikatów: MIMIX v9.0 Implementation Certification lub certyfikat MIMIX v10.0 Implementation Certification, potwierdzone tym dokumentem lub innym równoważnym dokumentem, który potwierdza umiejętności wymagane do uzyskania ww. certyfikatów (wykluczone oświadczenie własne Wykonawcy lub podmiotu powiązanego)\n\n1. Wykonawca zobowiązany jest do zabezpieczenia swojej oferty wadium w wysokości: 30 000,00 zł (słownie: trzydzieści tysięcy zł 00/100). 2. Wadium wnosi się przed upływem terminu składania ofert i utrzymuje nieprzerwanie do dnia upływu terminu związania ofertą, z wyjątkiem przypadków, o których mowa w art. 98 ust. 1 pkt 2 i 3 oraz ust. 2 ustawy Pzp. 3. Wadium może być wnoszone według wyboru Wykonawcy w jednej lub kilku następujących formach: 1) pieniądzu; 2) gwarancjach bankowych; 3) gwarancjach ubezpieczeniowych; 4) poręczeniach udzielanych przez podmioty, o których mowa w art. 6b ust. 5 pkt 2 ustawy z dnia 9 listopada 2000 r. o utworzeniu Polskiej Agencji Rozwoju Przedsiębiorczości (Dz. U. z 2023 r. poz. 462).\n\nZałącznik do umowy podstawowej\n\nMiejsce realizacji usługi: NFZ Centrala oraz inne lokalizacje należące do Oddziałów Wojewódzkich NFZ, wskazane w szczegółowym opisie przedmiotu zamówienia (załącznik nr 1 do Specyfikacji).\n\nhttps://nfz.ezamawiajacy.pl\n\nOdwołanie wnosi się w terminie 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej. Środki ochrony prawnej przysługują Wykonawcy, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy Pzp. W niniejszym postępowaniu przysługują środki ochrony prawnej określone w Dziale IX ustawy Pzp.\n\nW zakresie zdolności technicznej lub zawodowej: Zamawiający uzna warunek w zakresie zdolności technicznej za spełniony, jeżeli Wykonawca wykaże, że wykonał (a w przypadku świadczeń powtarzających się lub ciągłych uwzględniane są również wykonywane), w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres prowadzenia działalności jest krótszy - w tym okresie: co najmniej dwie usługi wsparcia technicznego dla oprogramowania klasy HA (wysokiej dostępności), każda o wartości przekraczającej 2.000.000,00 zł brutto. W przypadku składania oferty przez Wykonawców wspólnie ubiegających się o udzielenie zamówienia, wyżej wymieniony warunek musi spełniać, co najmniej 1 podmiot. Zamawiający nie dopuszcza możliwości łącznego wykazywania spełniania warunku udziału w postępowaniu. Zamawiający uzna warunek w zakresie zdolności zawodowej za spełniony jeżeli Wykonawca wykaże, że dysponuje lub będzie dysponował podczas realizacji zamówienia co najmniej 2 osobami z których każda posiada: a) doświadczenie w co najmniej dwóch usługach polegających na serwisie oprogramowania klasy HA realizowanych w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres prowadzenia działalności jest krótszy - w tym okresie. b) umiejętności niezbędne dla uzyskania co najmniej jednego z następujących certyfikatów: MIMIX v 9.0 Implementation Certification lub certyfikat MIMIX v10.0 Implementation Certification, potwierdzone tym dokumentem lub innym równoważnym dokumentem, który potwierdza umiejętności wymagane do uzyskania ww. certyfikatów (wykluczone oświadczenie własne Wykonawcy lub podmiotu powiązanego). W przypadku składania oferty przez Wykonawców wspólnie ubiegających się o udzielenie zamówienia, wyżej wymieniony warunek musi spełniać, co najmniej 1 Wykonawca lub Wykonawcy mogą spełniać go wspólnie.", "token_count": 1499}
3
+ {"added": "2026-09-08", "author": "Tramwaje Warszawskie sp. z o.o.", "created": "2024-05-08", "id": "ted_pl_271535-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Dostawa nagrzewnic tramwajowych wraz z częściami zamiennymi do nich, stanowiących wyposażenie tramwajów typu 105N, 120N, 120Na, 123N i pochodnych oraz typu 116Na i pochodnych (4 części).\n\nDostawa nagrzewnic tramwajowych wraz z częściami zamiennymi do nich, stanowiących wyposażenie tramwajów typu 105N, 120N, 120Na, 123N i pochodnych oraz typu 116Na i pochodnych (4 części), w tym: 1) w części nr 1 – dostawa nagrzewnic i części zamiennych do nich, stanowiących wyposażenie tramwajów typu 105N, 116Na, 123N i 120N; 2) w części nr 2 - dostawa nagrzewnic tramwajowych przedziału pasażerskiego, stanowiących wyposażenie tramwajów typu 120Na; 3) w części nr 3 - dostawa nagrzewnic tramwajowych oraz zabezpieczeń termicznych, stanowiących wyposażenie tramwajów typu 120Na; 4) w części nr 4 - dostawa nagrzewnic tramwajowych, stanowiących wyposażenie tramwajów typu 123N.\n\nDostawa nagrzewnic i części zamiennych do nich, stanowiących wyposażenie tramwajów typu 105N, 116Na, 123N i 120N\n\nDostawa nagrzewnic tramwajowych przedziału pasażerskiego, stanowiących wyposażenie tramwajów typu 120Na.\n\nDostawa nagrzewnic tramwajowych oraz zabezpieczeń termicznych, stanowiących wyposażenie tramwajów typu 120Na.\n\nDostawa nagrzewnic tramwajowych, stanowiących wyposażenie tramwajów typu 123N\n\nPrzedmiotem zamówienia jest dostawa nagrzewnic i części zamiennych do nich, stanowiących wyposażenie tramwajów typu 105N, 116Na, 123N i 120N w terminie i ilościach określonych w rozdziale II SWZ.\n\nPrzedmiotem zamówienia jest dostawa nagrzewnic tramwajowych przedziału pasażerskiego, stanowiących wyposażenie tramwajów typu 120Na w terminie i ilościach określonych w rozdziale II SWZ.\n\nPrzedmiotem zamówienia jest dostawa nagrzewnic tramwajowych oraz zabezpieczeń termicznych, stanowiących wyposażenie tramwajów typu 120Na w terminie i ilościach określonych w rozdziale II SWZ.\n\nPrzedmiotem zamówienia jest dostawa nagrzewnic tramwajowych, stanowiących wyposażenie tramwajów typu 123N w terminie i ilościach określonych w rozdziale II SWZ.\n\nPostępowanie o udzielenie zamówienia publicznego prowadzone jest w języku polskim, w trybie przetargu nieograniczonego, na podstawie ustawy z dnia 11 września 2019 r. Prawo zamówień publicznych (tekst jednolity: Dz.U. z 2023 r. poz. 1605 z późn. zm.) /zwanej w niniejszej SWZ „ustawą Pzp”/ – jako zamówienie sektorowe o wartości przekraczającej progi unijne, o których mowa w art. 3 ust. 1 pkt 2 ustawy Pzp. Adres strony internetowej prowadzonego postępowania, na której będą udostępniane dokumenty zamówienia bezpośrednio związane z postępowaniem oraz zmiany i wyjaśnienia SWZ: https://tw.ezamawiajacy.pl/; podzakładka dedykowana przedmiotowemu postępowaniu https://tw.ezamawiajacy.pl/pn/tw/demand/133843/notice/public/details dostępna w zakładce „Aktualne”, „W toku” lub „Rozstrzygnięte” (w zależności od etapu postępowania)\n\n1.Wykonawcom oraz innym podmiotom, jeżeli mają lub mieli interes w uzyskaniu niniejszego zamówienia oraz ponieśli lub mogą ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej przewidziane w ustawie Pzp Dział IX „Środki ochrony prawnej”: odwołanie do Prezesa Krajowej Izby Odwoławczej, wnoszone w sposób i w terminach określonych w ustawie Pzp. 2. Odwołanie wnosi się w terminie 10 dni od dnia przekazania informacji o czynności Zamawiającego stanowiącej podstawę jego wniesienia – jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, albo w terminie 15 dni– jeżeli została przekazana w inny sposób. 3. Odwołanie wnosi się do Prezesa Krajowej Izby Odwoławczej w formie elektronicznej albo postaci elektronicznej opatrzonej podpisem zaufanym albo w formie pisemnej. Odwołujący przekazuje Zamawiającemu odwołanie wniesione w formie elektronicznej albo w postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej, przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu.", "token_count": 1499}
4
+ {"added": "2026-09-08", "author": "Zakład Unieszkodliwiania Odpadów Komunalnych RUDNO Sp. z o.o.", "created": "2024-02-08", "id": "ted_pl_83401-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Odbiór, transport i zagospodarowanie odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF) poprzez ich odzysk i/lub recykling\n\nPrzedmiotem zamówienia jest ,,Odbiór, transport i zagospodarowanie odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF) poprzez ich odzysk i/lub recykling w okresie od dnia podpisania umowy do 31 grudnia 2024 r.” Ilość odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF) przeznaczonych do odbioru i zagospodarowania w ramach zamówienia podstawowego wynosi 5.000 Mg. Minimalna ilość odpadów w ciągu jednego miesiąca 200 Mg.Zamawiający nie ma wpływu na wielkość strumienia wytwarzanych odpadów o kodzie 19 12 10, z uwagi na dużą zmienność tego strumienia. W przypadku zwiększenia wytwarzania strumienia odpadów, Zamawiający dopuszcza skorzystanie z opcji, o której mowa w art. 441 ust. 1 ustawy PZP, polegającej na zwiększeniu ilości odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF przeznaczonych do odbioru i zagospodarowania dodatkowo o ilość 1.500 Mg. Biorąc powyższe pod uwagę łączna ilość odpadów przeznaczonych do odbioru i zagospodarowania wynosi 6.500 Mg, w tym: dla zamówienia podstawowego: 5.000 Mg oraz dla zamówienia w ramach opcji: do 1500 Mg. Transport odpadów do miejsca zagospodarowania po stronie Wykonawcy. Szczegółowy opz stanowi Załącznik nr 2 do SWZ.\n\nOdbiór, transport i zagospodarowanie odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF) poprzez ich odzysk i/lub recykling.\n\nPrzedmiotem zamówienia jest ,,Odbiór, transport i zagospodarowanie odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF) poprzez ich odzysk i/lub recykling w okresie od dnia podpisania umowy do 31 grudnia 2024 r.”Szczegółowy opz stanowi Załącznik nr 2 do SWZ\n\nCena (C) - waga kryterium 100%;\n\nZamawiający nie ma wpływu na wielkość strumienia wytwarzanych odpadów o kodzie 19 12 10, z uwagi na dużą zmienność tego strumienia. W przypadku zwiększenia wytwarzania strumienia odpadów, Zamawiający dopuszcza skorzystanie z opcji, o której mowa w art. 441 ust. 1 ustawy PZP, polegającej na zwiększeniu ilości odpadów o kodzie 19 12 10 - odpady palne (paliwo alternatywne preRDF przeznaczonych do odbioru i zagospodarowania dodatkowo o ilość 1.500 Mg.\n\nŚrodki ochrony prawnej określone w niniejszym dziale przysługują wykonawcy, uczestnikowi konkursu oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia lub nagrody w konkursie oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy p.z.p. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub ogłoszenia o konkursie oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 p.z.p. oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: 1) niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; 2) zaniechanie czynności w postępowaniu o udzielenie zamówienia do której zamawiający był obowiązany na podstawie ustawy; 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje kopię odwołania zamawiającemu przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. 5. Odwołanie wobec treści ogłoszenia lub treści SWZ wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 6. Odwołanie wnosi się w terminie: 1) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, 2) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w pkt 1).", "token_count": 1501}
5
+ {"added": "2026-09-08", "author": "Województwo Łódzkie", "created": "2024-05-15", "id": "ted_pl_284809-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowa organizacja Festiwalu Ogrodniczego „Województwo Łódzkie Ogrodem Polski”\n\n1. Przedmiotem zamówienia jest kompleksowa organizacja Festiwalu Ogrodniczego „Województwo Łódzkie Ogrodem Polski”. 2. Przedmiot zamówienia został opisany w Szczegółowym Opisie Przedmiotu Zamówienia (zwanym dalej „SOPZ”), stanowiącym Załącznik nr 1 do SWZ. 3. Przedmiot zamówienia zrealizowany będzie w terminie 5 miesięcy od dnia zawarcia umowy. 4. Planowany termin Festiwalu: 8 czerwiec 2024 r. 5. Planowane miejsce Festiwalu: Zespół pałacowo-ogrodowy w Nieborowie.\n\nKompleksowa organizacja Festiwalu Ogrodniczego \"Województwo Łódzkie Ogrodem Polski\"\n\nDoświadczenie koordynatora Festiwalu - 40%\n\n1. Środki ochrony prawnej przysługują wykonawcy, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 Pzp, oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. W postępowaniu odwołanie przysługuje na: 1) niezgodną z przepisami ustawy czynność zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; 2) zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Krajowej Izby Odwoławczej. 5. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej, przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. 6. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania albo jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 7. Odwołanie w przypadku zamówień, których wartość jest równa albo przekracza progi unijne wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej; b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 8. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 9. Odwołanie w przypadkach innych niż określone w ust. 7 i 8 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 10. Jeżeli zamawiający mimo takiego obowiązku nie przesłał wykonawcy zawiadomienia o wyborze najkorzystniejszej oferty, odwołanie wnosi się nie później niż w terminie: a) 30 dni od dnia publikacji w Dzienniku Urzędowym Unii Europejskiej ogłoszenia o udzieleniu zamówienia; b) 6 miesięcy od dnia zawarcia umowy, jeżeli zamawiający nie opublikował w Dzienniku Urzędowym Unii Europejskiej ogłoszenia o udzieleniu zamówienia. 11. Pisma w postępowaniu odwoławczym wnosi się w formie pisemnej albo w formie elektronicznej albo w postaci elektronicznej, z tym że odwołanie i przystąpienie do postępowania odwoławczego, wniesione w postaci elektronicznej, wymagają opatrzenia podpisem zaufanym. 12. Pisma w formie pisemnej wnosi się za pośrednictwem operatora pocztowego, w rozumieniu ustawy z dnia 23 listopada 2012 r. - Prawo pocztowe, osobiście, za pośrednictwem posłańca, a pisma w postaci elektronicznej wnosi się przy użyciu środków komunikacji elektronicznej.", "token_count": 1499}
6
+ {"added": "2026-09-08", "author": "UNIWERSYTET MEDYCZNY W BIAŁYMSTOKU", "created": "2024-05-13", "id": "ted_pl_278506-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część SWZ.\n\nPrzedmiotem zamówienia są: sukcesywne dostawy drobnego sprzętu laboratoryjnego dla Zakładów UMB do celów naukowo-badawczych Szczegółowy opis przedmiotu zamówienia, ilości i wymagane parametry zamówienia zawiera załącznik Nr 2 do SWZ – Opis przedmiotu zamówienia - formularz cenowy na dostawę drobnego sprzętu laboratoryjnego do celów naukowo - badawczych, stanowiące integralną część niniejszej SWZ.\n\nKryterium TERMIN DOSTAWY (TD): TD = TD min./ TD of x 40. gdzie: TD min. najkrótszy możliwy termin dostawy (5 dni roboczych od daty złożenia zamówienia), TD of. –termin dostawy oferty badanej, UWAGA: W kryterium termin dostawy (TD,) ilość punktów obliczona będzie na podstawie danych podanych przez Wykonawcę w Formularzu ofertowym (wg załącznika nr 1 do SWZ). W przypadku, gdy Wykonawca nie wpisze zaoferowanego terminu dostawy Zamawiający przyjmie termin maksymalny dopuszczony (25 dni roboczych od daty złożenia zamówienia)\n\nOcena ofert w zakresie przedstawionego poniżej kryterium zostanie dokonana wg następujących zasad: kryterium CENA OFERTOWA (C): C = (C min./C of.) x 60 gdzie: C min. cena najniższa spośród badanych ofert, C of. cena oferty badanej.\n\nZamawiający prowadził postępowanie nr AZP.25.1.99.2023 część 5, w którym złożono dwie oferty, jednak postępowanie w tej części nie zakończyło się zawarciem umowy. Jedna oferta podlegała odrzuceniu, druga przekraczała środki, które przeznaczył Zamawiający na sfinansowanie przedmiotu zamówienia.Biorąc pod uwagę 30-dniowy termin na składanie ofert, czas konieczny na dokonanie oceny ofert, jak również to iż badania przy użyciu próbówek będących przedmiotem zamówienia trwają cały czas i są potrzebne na bieżąco (dostawa przewidziana na koniec kwietnia 2024 r.), skrócenie terminu składania ofert jest uzasadnione.\n\n1. Środki ochrony prawnej przewidziane w Dziale IX ustawy Pzp przysługują wykonawcy, a także innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu danego zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez zamawiającego przepisów ustawy. 2. Środki ochrony prawnej wobec ogłoszenia o zamówieniu oraz specyfikacji istotnych warunków zamówienia przysługują również organizacjom wpisanym na listę organizacji uprawnionych do wnoszenia środków ochrony prawnej prowadzoną i ogłaszaną przez Prezesa Urzędu Zamówień Publicznych oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje wyłącznie od niezgodnej z przepisami ustawy czynności zamawiającego podjętej w postępowaniu o udzielenie zamówienia lub zaniechania czynności, do której zamawiający jest zobowiązany na podstawie ustawy. 4. Odwołanie wnosi się w przypadku zamówień, których wartość jest równa albo przekracza progi unijne w terminie : a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w lit. a. 5. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów na na stronie internetowej. 6. Odwołanie w przypadkach innych niż określone powyżej wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 7. Szczegółowe zasady wnoszenia środków ochrony prawnej oraz postępowania toczonego wskutek ich wniesienia określa Dział IX ustawy Pzp.", "token_count": 1499}
7
+ {"added": "2026-09-08", "author": "Gmina Miasto Ostrów Wielkopolski", "created": "2024-01-05", "id": "ted_pl_8152-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Świadczenie usługi administrowania obiektami sportowo – rekreacyjnymi stanowiącymi własność Gminy Miasto Ostrów Wielkopolski\n\n1. Przedmiotem umowy jest administrowanie obiektami sportowo-rekreacyjnymi, stanowiącymi własność Gminy Miasto Ostrów Wielkopolski, w ilości: 1) place zabaw – 19 obiektów, 2) siłownie zewnętrzne – 15 obiektów, 3) boiska sportowe – 8 obiektów, 4) skatepark – 1 obiekt, 5) street wokaut park – 1 obiekt, 6) murawa stadionu miejskiego – 1 obiekt, 7) pomieszczenia w budynku świetlicy – 1 obiekt, 8) amfiteatr – 1 obiekt. 2. Wykaz obiektów sportowych zawarty jest w załączniku nr 10. 3. Szczegółowy opis przedmiotu zamówienia zawarty jest w załączniku nr 11. 4. Inne wymagania. 1) Wykonawca w okresie realizacji umowy będzie ubezpieczony od odpowiedzialności cywilnej w zakresie prowadzonej działalności związanej z przedmiotem zamówienia na kwotę nie mniejszą niż 500.000,00 zł (słownie: pięćset tysięcy złotych). 2) Wykonawca zobowiązany jest do podejmowania skutecznych działań zgłaszanych telefonicznie lub drogą elektroniczną przez przedstawiciela zamawiającego w czasie nie dłuższym niż 8 godzin od chwili otrzymania zgłoszenia o awariach, zabezpieczeniu uszkodzonych urządzeń, aktach wandalizmu. Czas reakcji na awarie, zabezpieczenie uszkodzonych urządzeń, akty wandalizmu stanowi kryterium oceny oferty w niniejszym postępowaniu. 3) Przed złożeniem oferty zaleca się dokonanie wizji lokalnej na obiektach. 5. Pozostałe informacje. 1) Zamawiający nie dokonuje podziału zamówienia na części. Biorąc pod uwagę faktyczny zakres świadczenia usług oraz sezonowość i specyfikę obiektu, dzielenie zamówienia na części powodowałoby komplikacje na etapie wykonawczym uniemożliwiając rzetelne wykonanie zadania. Niedokonanie podziału na części zagwarantuje efektywne, profesjonalne i prawidłowe administrowanie obiektem, zgodnie z przeznaczeniem. Ze względu na zróżnicowanie atrakcyjności obiektów istnieje ryzyko przy dopuszczeniu podziału na części braku zainteresowania ze strony wykonawców. Ponadto, przedmiot zamówienia może być wykonany w całości przez MŚP. 2) Nie przewiduje się udzielenia zamówienia polegającego na powtórzeniu podobnych usług. 3) Nie dopuszcza się składania ofert wariantowych. 4) Zamawiający nie przewiduje możliwości skorzystania z prawa opcji.\n\n1. Warunek ten będzie spełniony jeżeli wykonawca wykaże, że w okresie ostatnich 3 lat przed upływem terminu składania ofert, a jeżeli okres działalności jest krótszy – w tym okresie, wykonywał bądź wykonuje przez okres minimum 6 miesięcy usługę prowadzenia i utrzymania co najmniej: a) jednego boiska wielofunkcyjnego typu „Orlik 2012”, b) jednej murawy na stadionie, z nawierzchnią trawiastą o powierzchni minimum 3000 m2, c) jednego placu zabaw z minimum 8 urządzeniami zabawowymi, d) jednej siłowni zewnętrznej z minimum 6 urządzeniami do ćwiczeń. UWAGA: „W przypadku wykonawców wspólnie ubiegających się o udzielenie zamówienia warunek określony w ppkt 4 lit. a musi być spełniony w całości przez co najmniej jednego z wykonawców wspólnie ubiegających się o zamówienie Natomiast w przypadku polegania na zasobach podmiotów trzecich, warunek określony w ppkt 4 lit. a SWZ musi być spełniony w całości wyłącznie przez jeden podmiot udostępniający zasoby. W obu przypadkach podmioty te muszą zrealizować usługi będące przedmiotem zamówienia.” 2. Warunek ten będzie spełniony, jeżeli wykonawca wykaże, że w trakcie realizacji zamówienia będzie dysponował co najmniej: a) jednym podnośnikiem koszowym do 3,5 Mg (zasięg kosza min. 20 m) b) trzema kosami mechanicznymi, c) trzema kosiarkami spalinowymi, d) jedną kosiarką samobieżną, e) jednym wertykulatorem spalinowym, f) jednym aeratorem spalinowym, g) jednym siewnikiem do nasion, h) jednym wałem, i) jedną włóką do równomiernego rozłożenia piasku, j) jedną piaskarką zaciągnikową, k) jednym ciągnikiem rolniczym, lekkim do 0,9 Mg, l) jedną beczką do podlewania.", "token_count": 1499}
8
+ {"added": "2026-09-08", "author": "Powiat Rycki", "created": "2023-10-27", "id": "ted_pl_658009-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Udzielenie i obsługa długoterminowego kredytu bankowego w kwocie 3 000 000,00 zł na pokrycie planowanego deficytu\n\nOtwarcie ofert dokonywane jest przez odszyfrowanie i otwarcie ofert.\n\n1. Wykonawcy oraz innemu podmiotowi, jeżeli ma lub miał interes w uzyskaniu zamówienia oraz poniósł lub może ponieść szkodę w wyniku naruszenia przez Zamawiającego przepisów ustawy, przysługują środki ochrony prawnej określone w dziale IX ustawy. 2. Środki ochrony prawnej wobec ogłoszenia wszczynającego postępowanie o udzielenie zamówienia oraz dokumentów zamówienia przysługują również organizacjom wpisanym na listę, o której mowa w art. 469 pkt 15 ustawy oraz Rzecznikowi Małych i Średnich Przedsiębiorców. 3. Odwołanie przysługuje na: a. niezgodną z przepisami ustawy czynność Zamawiającego, podjętą w postępowaniu o udzielenie zamówienia, w tym na projektowane postanowienie umowy; b. zaniechanie czynności w postępowaniu o udzielenie zamówienia, do której zamawiający był obowiązany na podstawie ustawy. 4. Odwołanie wnosi się do Prezesa Izby. Odwołujący przekazuje zamawiającemu odwołanie wniesione w formie elektronicznej albo postaci elektronicznej albo kopię tego odwołania, jeżeli zostało ono wniesione w formie pisemnej przed upływem terminu do wniesienia odwołania w taki sposób, aby mógł on zapoznać się z jego treścią przed upływem tego terminu. Domniemywa się, że zamawiający mógł zapoznać się z treścią odwołania przed upływem terminu do jego wniesienia, jeżeli przekazanie odpowiednio odwołania lub jego kopii nastąpiło przed upływem terminu do jego wniesienia przy użyciu środków komunikacji elektronicznej. 5. Odwołanie wnosi się w terminie: a) 10 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana przy użyciu środków komunikacji elektronicznej, b) 15 dni od dnia przekazania informacji o czynności zamawiającego stanowiącej podstawę jego wniesienia, jeżeli informacja została przekazana w sposób inny niż określony w ust. 5 lit. a. 6. Odwołanie wobec treści ogłoszenia wszczynającego postępowanie o udzielenie zamówienia lub wobec treści dokumentów zamówienia wnosi się w terminie 10 dni od dnia publikacji ogłoszenia w Dzienniku Urzędowym Unii Europejskiej lub zamieszczenia dokumentów zamówienia na stronie internetowej. 7. Odwołanie w przypadkach innych niż określone w ust. 5 i 6 wnosi się w terminie 10 dni od dnia, w którym powzięto lub przy zachowaniu należytej staranności można było powziąć wiadomość o okolicznościach stanowiących podstawę jego wniesienia. 8. Na orzeczenie Izby oraz postanowienie Prezesa Izby, o którym mowa w art. 519 ust. 1 Ustawy, stronom oraz uczestnikom postępowania odwoławczego przysługuje skarga do sądu. 9. W postępowaniu toczącym się wskutek wniesienia skargi stosuje się odpowiednio przepisy ustawy z dnia 17.11.1964 r. - Kodeks postępowania cywilnego o apelacji, jeżeli przepisy niniejszego rozdziału nie stanowią inaczej. 10. Skargę wnosi się do Sądu Okręgowego w Warszawie - sądu zamówień publicznych,. 11. Skargę wnosi się za pośrednictwem Prezesa Izby, w terminie 14 dni od dnia doręczenia orzeczenia Izby lub postanowienia Prezesa Izby, o którym mowa w art. 519 ust. 1 ustawy, przesyłając jednocześnie jej odpis przeciwnikowi skargi. Złożenie skargi w placówce pocztowej operatora wyznaczonego w rozumieniu ustawy z dnia 23.11.2012 r. – Prawo pocztowe jest równoznaczne z jej wniesieniem. 12. Prezes Izby przekazuje skargę wraz z aktami postępowania odwoławczego do sądu zamówień publicznych w terminie 7 dni od dnia jej otrzymania.\n\nW celu potwierdzenia warunku należy złożyć aktualne zezwolenie uprawniające do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej wydanego przez Komisję Nadzoru Finansowego zgodnie z ustawą z dnia 29 sierpnia 1997 r. Prawo bankowe (t.j. Dz. z 2022 r. poz. 2324) lub innego dokumentu potwierdzającego, że Wykonawca jest uprawniony do wykonywania czynności bankowych na terenie Rzeczypospolitej Polskiej ale tylko w przypadku gdy Wykonawca nie działa na podstawie zezwolenia wydanego przez Komisję Nadzoru Finansowego.", "token_count": 1499}
9
+ {"added": "2026-09-08", "author": "Powiat Tucholski", "created": "2023-12-27", "id": "ted_pl_790193-2023", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Organizowanie publicznego transportu zbiorowego na terenie Powiatu Tucholskiego\n\nŚwiadczenie usług w zakresie publicznego transportu zbiorowego na liniach komunikacyjnych o charakterze użyteczności publicznej dla których Powiat Tucholski jest organizatorem. Zapotrzebowanie na transport zgodnie z art. 22 ust 1 pkt. 1 Ustawy z dnia 16 grudnia 2010 r. o publicznym transporcie zbiorowym.\n\nZgodnie z art. 13 ust. 1−2 rozporządzenia Parlamentu Europejskiego i Rady (UE) 2016/679 z 27.04.2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych) (Dz. Urz. UE L 119, s. 1) – dalej RODO − informujemy, że:\n\n1. Administratorem Pani/Pana danych osobowych jest Starosta Tucholski z siedzibą w Tucholi przy ul. Pocztowej 7, 89-500 Tuchola.\n\n2. Inspektorem ochrony danych jest Pani Hanna Borzyszkowska, z którym możesz się skontaktować w sprawach ochrony swoich danych osobowych poprzez e-mail: [PII] oraz pod numerem telefonu 52 559 07 00 lub pisemnie na adres naszej siedziby, wskazany w pkt 1.\n\n3. Administrator danych przetwarza Pani/Pana dane osobowe na podstawie obowiązujących przepisów prawa, zawartych umów oraz na podstawie udzielonej zgody.\n\n4. Pani/Pana dane osobowe przetwarzane będą w celu/celach:\n\na) wypełnienia obowiązków prawnych ciążących na administratorze zgodnie z art. 6 pkt 1 lit. c RODO;\n\nb) realizacji celu w jakim Pan/Pani wyraził/a zgodę na przetwarzanie swoich danych osobowych (art. 6 ust. 1 lit. a RODO) lub w przypadku podania danych należących do szczególnych kategorii danych (art. 9 ust. 2 lit. a RODO);\n\nc) wykonania umowy, której Pani/Pan jest stroną lub do podjęcia działań na Pani/Pana żądanie przed zawarciem umowy (art. 6 ust. 1 lit. b RODO);\n\nd) ochrony żywotnych interesów Pani/Pana lub innej osoby fizycznej (art. 6 ust. 1 lit. d RODO);\n\ne) wykonania zadania realizowanego w interesie publicznym lub w ramach sprawowania władzy publicznej powierzonej administratorowi (art. 6 ust. 1 lit. e RODO).\n\n5. Odbiorcami Pani/Pana danych osobowych będą wyłącznie podmioty uprawnione do uzyskania tych danych na podstawie przepisów prawa, tj. organy władzy publicznej oraz podmioty wykonujące zadania publiczne lub działające na zlecenie organów władzy publicznej, w zakresie i w celach, które wynikają z przepisów powszechnie obowiązującego prawa; inne podmioty, którym na podstawie stosownych umów podpisanych z Powiatem Tucholskim powierzono przetwarzanie danych osobowych, dla których administratorem jest Starosta Tucholski.\n\n6. Pani/Pana dane nie będą przekazywane do państw trzecich lub organizacji międzynarodowych.\n\n7. Pani/Pana dane osobowe przechowywane będą w czasie określonym przepisami prawa, zgodnie z rozporządzeniem Prezesa Rady Ministrów z dnia 18 stycznia 2011 r. w sprawie instrukcji kancelaryjnej, jednolitych rzeczowych wykazów akt oraz instrukcji w sprawie organizacji i zakresu działania archiwów zakładowych. Dane przetwarzane będą przez okres nie dłuższy, niż jest to niezbędne do celów, w których dane te są przetwarzane. Dane osobowe można przechowywać przez okres dłuższy, o ile będą one przetwarzane wyłącznie do celów archiwalnych w interesie publicznym.\n\n8. W związku z przetwarzaniem Pani/Pana danych osobowych przysługuje Pani/Panu prawo do: dostępu do swoich danych osobowych, w tym prawo do uzyskania kopii tych danych; sprostowania danych (poprawiania); ograniczenia przetwarzania; wniesienia sprzeciwu wobec przetwarzania danych; usunięcia danych oraz ich przenoszenia danych.\n\nInformuję również, że powyższe uprawnienia, na podstawie przepisów powszechnie obowiązujących, mogą być ograniczone lub wyłączone. W takim przypadku skorzystanie z danego uprawnienia będzie niemożliwe.\n\n9. Jeżeli przetwarzanie Pani/Pana danych osobowych odbywa się na podstawie zgody na przetwarzanie danych osobowych (art. 6 ust. 1 lit. a RODO), przysługuje Pani/Panu prawo do cofnięcia tej zgody w dowolnym momencie. Cofnięcie to nie ma wpływu na zgodność przetwarzania, którego dokonano na podstawie zgody przed jej cofnięciem, z obowiązującym prawem.\n\n10. Posiada Pani/Pan prawo wniesienia skargi do organu nadzorczego, tj. Prezesa Urzędu Ochrony Danych Osobowych (00-193 Warszawa, ul. Stawki 2), gdy uzna Pani/Pan, że przetwarzanie danych osobowych", "token_count": 1499}
10
+ {"added": "2026-09-08", "author": "Prokuratura Okręgowa w Świdnicy", "created": "2024-03-01", "id": "ted_pl_128349-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Kompleksowe wykonywanie usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego\n\nPrzedmiotem zamówienia jest wykonywanie kompleksowych usług porządkowo - czystościowych w budynkach prokuratur okręgu świdnickiego o ogólnej powierzchni: Prokuratura Okręgowa w Świdnicy ul. 1 Maja 21 - około 2.000 m2, Prokuratura Rejonowa w Świdnicy ul. Zamkowa 2- około 1.214 m2, Prokuratura Rejonowa w Wałbrzychu Pl. Magistracki 7 - około 1.090 m2 oraz Dział Śledczy przy ul. Kilińskiego 1- około -372,50 m2, Prokuratura Rejonowa w Kłodzku Pl. Chrobrego 20 - około 1.165 m2, Prokuratura Rejonowa w Dzierżoniowie ul. Rolna 1- około 975m 2, Prokuratura Rejonowa w Ząbkowicach Śląskich ul. Niepodległości 2- około 581,00 m2 oraz Prokuratura Rejonowa w Bystrzycy Kłodzkiej ul. Sempołowskiej 4 - około 644 m2.\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 i w Dziale Śledczym przy ul. Kilińskiego 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śląskich przy ul. Niepodległości 2\n\nKompleksowe wykonywanie usług porządkowo - czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Okręgowej w Świdnicy przy ul. 1 Maja 21o ogólnej powierzchni 2.000 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Świdnicy przy ul. Zamkowej 2 o ogólnej powierzchni 1.214 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynkach Prokuratury Rejonowej w Wałbrzychu przy Pl. Magistrackim 7 o ogólnej powierzchni 1.090 m2 oraz Dziale Śledczym przy ul. Kilińskiego 1 o ogólnej powierzchni 372,50 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Kłodzku przy Pl. Chrobrego 20 o ogólnej powierzchni 1.165,10 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Dzierżoniowie przy ul. Rolnej 1 o ogólnej powierzchni 975 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Ząbkowicach Śl. przy ul. Niepodległości 2 o ogólnej powierzchni 581 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nPrzedmiotem zamówienia jest wykonywanie usług porządkowo czystościowych w budynku Prokuratury Rejonowej w Bystrzycy Kłodzkiej przy ul. Sempołowskiej 4 o ogólnej powierzchni 644 m2. Szczegółowy zakres zamówienia przedstawiono w SWZ\n\nCena – 60 %, C = (Cmin : Cx) x 60 pkt\n\nN- Organizacja nadzoru usługi sprzątania — przy ocenie ofert w kryterium organizacja nadzoru Zamawiający będzie oceniał zaoferowaną częstotliwość kontroli przez Koordynatora jakości wykonywanych usług w następujący sposób: - raz na dwa tygodnie - Zamawiający przyzna 40 pkt.; - raz na miesiąc - Zamawiający przyzna 20 pkt.; - raz na kwartał - Zamawiający przyzna 0 pkt.; Maksymalna ilość punktów przyznana w tym kryterium wynosi 40.", "token_count": 1502}
11
+ {"added": "2026-09-08", "author": "Urząd Komunikacji Elektronicznej", "created": "2024-02-13", "id": "ted_pl_90791-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "Zakup licencji, gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy\n\n1. Przedmiotem zamówienia jest zakup licencji, wydłużenie gwarancji i wsparcia na oprogramowanie oraz sprzęt sieciowy, posiadany przez Zamawiającego - niezbędne do prawidłowego działania systemów informatycznych. 2. Zamówienie zostało podzielone na 4 (słownie: cztery) części: • Część nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. • Część nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. • Część nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. • Część nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nCzęść nr 1 - Zakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku\n\nCzęść nr 2 - Świadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast\n\nCzęść nr 3 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5\n\nCzęść nr 4 - Świadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus\n\nZakup licencji dla systemu Hitachi Data Protection Suite w celu rozszerzenia pojemności danych wraz ze wsparciem i utrzymaniem do dnia 31.12.2024 roku. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia i gwarancji producenta dla posiadanego przez Zamawiającego klastra systemu zapór sieciowych firmy CheckPoint 7000 Plus Appliance with SandBlast. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń F5. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nŚwiadczenie usługi wsparcia technicznego i gwarancji dla posiadanych przez Zamawiającego urządzeń Cisco Nexus. Szczegółowy opis przedmiotu zamówienia został zawarty w Załączniku nr 1 do SWZ.\n\nZamawiający dopuszcza składanie ofert częściowych. Wykonawca może złożyć ofertę na jedną lub więcej części zamówienia.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów. Przedmiot zamówienia stanowi wykup licencji, standardowego wsparcia i gwarancji producenta dla poszczególnego oprogramowania, tym samym jest to zamówienie o określonych parametrach jakościowych, a sam przedmiot zamówienia jest powszechnie dostępny. Zatem zastosowanie kryterium ceny jako jedynego przy zakupie standardowego wsparcia producenta rozwiązania nie wiąże się z ryzykiem pojawienia się dodatkowych kosztów w trakcie realizacji zamówienia, co uprawnia do stwierdzenia, iż jest to świadczenie, które może być nabywane przy kryterium ceny określonym na poziomie 100%. Charakter i specyfika zamówienia posiada ustalone standardy jakościowe i została szczegółowo określona w SWZ - wskazanie innych kryteriów oceny ofert niż cena, naruszałoby zasadę efektywnego i oszczędnego wydatkowania środków publicznych.\n\nKryterium Cena = 100% Pi (C)=Cmin/Ci ∙max(C) gdzie: i – numer oferty; Pi (C) – liczba punktów jakie otrzyma oferta „i” za kryterium „Cena (C)”; Cmin – najniższa cena brutto spośród wszystkich nieodrzuconych ofert; Ci – cena brutto oferty „i” (oferty badanej); max(C) – maksymalna liczba punktów jakie może otrzymać badana oferta za kryterium „Cena (C)”, tj. 100 punktów.\n\nWykonawcom przysługują środki ochrony prawnej zgodnie z Działem IX ustawy Pzp.", "token_count": 1498}
12
+ {"added": "2026-09-08", "author": "Mazowieckie Centrum Polityki Społecznej", "created": "2024-02-16", "id": "ted_pl_99977-2024", "license": "LicenseRef-TED-Notice-Reuse", "source": "ted_pl", "text": "„Przygotowanie i organizacja szkoleń specjalistycznych nt. profilaktyki uzależnień”\n\nPrzedmiotem zamówienia jest usługa przygotowania i realizacji szkoleń specjalistycznych nt. profilaktyki uzależnień w formie stacjonarnej dla uczestników z terenu województwa mazowieckiego z podziałem na części: Część 1 – Przygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych”; Część 2 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”; Część 3 – Przygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”; Część 4 – Przygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”; Część 5 – Przygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”.\n\nPrzygotowanie i realizacja 6 szkoleń „Profilaktyka uzależnień chemicznych i behawioralnych\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - I stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Edukator profilaktyki uzależnień chemicznych i behawioralnych - II stopnia”\n\nPrzygotowanie i realizacja 1 szkolenia „Psychoterapia uzależnień dzieci i młodzieży”\n\nPrzygotowanie i realizacja 1 szkolenia „Rozwój i superwizja w profilaktyce uzależnień”\n\nDoświadczenie wykładowcy - trenera\n\nArt. 138 ust. 2 pkt. 2 Pzp , pilna potrzeba udzielenia zamówienia i skrócenia terminu składania ofert.\n\nWykonawca wykaże, że dysponuje co najmniej 2 (dwoma) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat przed terminem składania ofert, zrealizował faktycznie co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut). Zamawiający informuje, iż w doświadczeniu trenera nie bierze pod uwagę zajęć na uczelni a faktycznie zrealizowane szkolenia (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych.  jeden spośród 2 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).\n\nWykonawca wykaże, że dysponuje co najmniej 4 (czterema) trenerami zdolnymi do wykonania zamówienia, z których każdy posiada co najmniej:  wykształcenie wyższe II stopnia (tytuł magistra);  co najmniej 10 lat doświadczenia w pracy dydaktycznej, profilaktycznej i terapeutycznej;  certyfikat/dyplom specjalisty psychoterapii uzależnień wydany przez Krajowe Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN) lub przez Centrum Egzaminów Medycznych (CEM).  w okresie ostatnich 3 lat, przed terminem składania ofert, zrealizował co najmniej 50 godzin dydaktycznych szkoleń (w formie stacjonarnej i/lub w formie zdalnej) w zakresie profilaktyki uzależnień chemicznych lub behawioralnych (1 godzina dydaktyczna = 45 minut);  dwóch spośród 4 wyżej wymaganych trenerów musi posiadać dodatkowo rekomendację superwizora/certyfikat superwizora wydany przez dyrektora Krajowego Centrum Przeciwdziałania Uzależnieniom (KCPU) lub przez Państwową Agencję Rozwiązywania Problemów Alkoholowych (PARPA) lub przez Krajowe Biuro do Spraw Przeciwdziałania Narkomanii (KBPN).", "token_count": 1502}
data/ted_pl/ted_pl.stats.json ADDED
@@ -0,0 +1,20 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "acquired": 20588,
3
+ "added": "2026-09-08",
4
+ "api_acquired": 20588,
5
+ "author_coverage": 1.0,
6
+ "characters": 112883460,
7
+ "created_max": "2024-05-15",
8
+ "created_min": "2023-02-15",
9
+ "indexed": 20588,
10
+ "kept": 15544,
11
+ "rejected": 5044,
12
+ "rejection_reasons": {
13
+ "exact_normalized_duplicate": 2350,
14
+ "near_duplicate": 1680,
15
+ "too_short_after_cleaning": 1014
16
+ },
17
+ "sample_count": 12,
18
+ "tokens": 42475098,
19
+ "xml_fallback": 1255
20
+ }
src/build_ted_pl.py ADDED
@@ -0,0 +1,912 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #!/usr/bin/env python3
2
+ """Acquire official Polish TED notices and build an auditable DynaWord contribution."""
3
+ from __future__ import annotations
4
+
5
+ import argparse
6
+ import ast
7
+ from collections import Counter
8
+ from concurrent.futures import ThreadPoolExecutor, as_completed
9
+ from datetime import datetime, timezone
10
+ import gzip
11
+ import hashlib
12
+ import json
13
+ import os
14
+ from pathlib import Path
15
+ import pprint
16
+ import re
17
+ import shutil
18
+ import subprocess
19
+ import sys
20
+ import threading
21
+ import time
22
+ import unicodedata
23
+ from urllib.parse import urlparse
24
+ import xml.etree.ElementTree as ET
25
+
26
+ import requests
27
+
28
+ SOURCE = "ted_pl"
29
+ PRETTY = "TED Polish public-procurement notices"
30
+ OWN_REPO = "PiotrSty/ted-polish-procurement-notices"
31
+ TARGET = "SlayerLab/polish-dynaword"
32
+ MIRROR = "PleIAs/TEDEUTenders"
33
+ MIRROR_REVISION = "2752d9d6f7628387583eac2435caa11edb36b9c1"
34
+ YEARS = (2023, 2024)
35
+ LICENSE = "LicenseRef-TED-Notice-Reuse"
36
+ LICENSE_URL = "https://ted.europa.eu/en/legal-notice"
37
+ SEARCH_API_URL = "https://api.ted.europa.eu/v3/notices/search"
38
+ FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
39
+ UA = "TEDPolishCorpusResearch/1.0 (PiotrSty; open research dataset)"
40
+ TEXT_TAGS = {"Name", "Title", "Description", "Note", "DocumentDescription", "ProcessReason", "ChangeDescription"}
41
+ EXCLUDED_ANCESTORS = {"Organization", "Company", "PartyName", "PostalAddress", "Contact", "PartyLegalEntity", "Person"}
42
+ EMAIL_RE = re.compile(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b")
43
+ PHONE_RE = re.compile(
44
+ r"(?ix)(?<!\w)(?:(?:tel(?:efon)?\.?\s*:?\s*|\+48[ .-]?)\d{3}[ .-]?\d{3}[ .-]?\d{3}|\d{3}[ .-]\d{3}[ .-]\d{3})(?!\d)"
45
+ )
46
+ NATIONAL_ID_RE = re.compile(r"(?i)\b(?:PESEL|NIP|REGON)\s*:?[ \t]*(?:\d[ -]?){9,14}\b")
47
+ THREAD_LOCAL = threading.local()
48
+ API_NARRATIVE_FIELDS = (
49
+ "title-proc", "description-proc", "title-lot", "description-lot", "title-part", "description-part",
50
+ "title-glo", "description-glo", "additional-info-glo", "award-criteria-order-justification",
51
+ "award-criterion-description-glo", "award-criterion-description-lot", "accessibility-justification-lot",
52
+ "direct-award-justification-text-proc", "duration-additional-information-lot",
53
+ "electronic-auction-description-lot", "guarantee-required-description-lot",
54
+ "missing-info-submission-description-lot", "non-disclosure-agreement-description-lot",
55
+ "option-description-lot", "place-of-performance-additional-part", "place-of-performance-add-proc",
56
+ "place-of-performance-addtional-lot", "procedure-features", "procedure-justification",
57
+ "public-opening-description-lot", "quality-target-description-lot", "recurrence-description-lot",
58
+ "renewal-description-lot", "review-deadline-description-lot", "selection-criterion-description-lot",
59
+ "strategic-procurement-description-lot", "subcontracting-description",
60
+ "submission-nonelectronic-description-lot", "terms-financial-lot",
61
+ "reserved-execution-justification-lot", "tenderer-legal-form-description-lot",
62
+ )
63
+ API_FIELDS = (
64
+ "publication-number", "publication-date", "official-language", "buyer-name", "notice-title",
65
+ *API_NARRATIVE_FIELDS,
66
+ )
67
+
68
+
69
+ def now():
70
+ return datetime.now(timezone.utc).isoformat()
71
+
72
+
73
+ def sha(value):
74
+ if not isinstance(value, bytes):
75
+ value = json.dumps(value, ensure_ascii=False, sort_keys=True, separators=(",", ":")).encode("utf-8")
76
+ return hashlib.sha256(value).hexdigest()
77
+
78
+
79
+ def save(path, value):
80
+ path.parent.mkdir(parents=True, exist_ok=True)
81
+ path.write_text(json.dumps(value, ensure_ascii=False, sort_keys=True, indent=2) + "\n", encoding="utf-8")
82
+
83
+
84
+ def load(path):
85
+ return json.loads(path.read_text(encoding="utf-8"))
86
+
87
+
88
+ def write_lines(path, rows):
89
+ path.parent.mkdir(parents=True, exist_ok=True)
90
+ path.write_text("".join(json.dumps(row, ensure_ascii=False, sort_keys=True) + "\n" for row in rows), encoding="utf-8")
91
+
92
+
93
+ def read_lines(path):
94
+ return [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line]
95
+
96
+
97
+ def normalize(text):
98
+ text = unicodedata.normalize("NFKC", text or "").replace("\u00ad", "").replace("\u200b", "")
99
+ text = re.sub(r"[\x00-\x08\x0b\x0c\x0e-\x1f\x7f]", "", text)
100
+ lines = [re.sub(r"[ \t\xa0]+", " ", line).strip() for line in text.splitlines()]
101
+ return re.sub(r"\n{3,}", "\n\n", "\n".join(lines)).strip()
102
+
103
+
104
+ def redact_pii(text):
105
+ counts = Counter()
106
+ text, counts["email"] = EMAIL_RE.subn("[PII]", text)
107
+ text, counts["national_id"] = NATIONAL_ID_RE.subn("[PII]", text)
108
+ text, counts["phone"] = PHONE_RE.subn("[Telefon]", text)
109
+ return normalize(text), dict(counts)
110
+
111
+
112
+ def local_name(tag):
113
+ return tag.rsplit("}", 1)[-1]
114
+
115
+
116
+ def notice_id(url):
117
+ match = re.search(r"(?<!\d)(\d{1,6}-\d{4})(?:xml)?(?:\b|$)", url)
118
+ if not match:
119
+ raise ValueError("cannot derive TED notice id from " + url)
120
+ return match.group(1)
121
+
122
+
123
+ def request(url, attempts=6, stream=False):
124
+ if not hasattr(THREAD_LOCAL, "session"):
125
+ THREAD_LOCAL.session = requests.Session()
126
+ THREAD_LOCAL.session.headers.update({"User-Agent": UA})
127
+ last = None
128
+ for attempt in range(attempts):
129
+ last = THREAD_LOCAL.session.get(url, timeout=(20, 120), stream=stream)
130
+ if last.status_code not in (429, 500, 502, 503, 504):
131
+ last.raise_for_status()
132
+ return last
133
+ last.close()
134
+ time.sleep(min(30, 2 ** attempt))
135
+ last.raise_for_status()
136
+
137
+
138
+ def search_request(payload, attempts=6):
139
+ if not hasattr(THREAD_LOCAL, "session"):
140
+ THREAD_LOCAL.session = requests.Session()
141
+ THREAD_LOCAL.session.headers.update({"User-Agent": UA})
142
+ last = None
143
+ for attempt in range(attempts):
144
+ last = THREAD_LOCAL.session.post(SEARCH_API_URL, json=payload, timeout=(20, 120))
145
+ if last.status_code not in (429, 500, 502, 503, 504):
146
+ last.raise_for_status()
147
+ return last.json()
148
+ last.close()
149
+ time.sleep(min(30, 2 ** attempt))
150
+ last.raise_for_status()
151
+
152
+
153
+ def download(url, path):
154
+ if path.exists() and path.stat().st_size:
155
+ return
156
+ path.parent.mkdir(parents=True, exist_ok=True)
157
+ temp = path.with_suffix(path.suffix + ".partial")
158
+ with request(url, stream=True) as response, temp.open("wb") as handle:
159
+ for block in response.iter_content(1024 * 1024):
160
+ if block:
161
+ handle.write(block)
162
+ temp.replace(path)
163
+
164
+
165
+ def build_index(out):
166
+ import pyarrow.compute as pc
167
+ import pyarrow.parquet as pq
168
+ source_dir = out / "source"
169
+ records = {}
170
+ source_files = []
171
+ for year in YEARS:
172
+ name = f"{year}_EUTenders.parquet"
173
+ url = f"https://huggingface.co/datasets/{MIRROR}/resolve/{MIRROR_REVISION}/{name}"
174
+ path = source_dir / name
175
+ download(url, path)
176
+ source_files.append({"path": name, "url": url, "bytes": path.stat().st_size, "sha256": sha(path.read_bytes())})
177
+ parquet = pq.ParquetFile(path)
178
+ for batch in parquet.iter_batches(columns=["filename", "identifier", "date", "language", "url"], batch_size=4096):
179
+ selected = batch.filter(pc.equal(batch.column("language"), "POL"))
180
+ for row in selected.to_pylist():
181
+ identifier = notice_id(row["url"])
182
+ item = {"notice_id": identifier, "mirror_filename": row["filename"], "mirror_identifier": row["identifier"],
183
+ "date": row["date"], "mirror_url": row["url"],
184
+ "official_xml_url": f"https://ted.europa.eu/en/notice/{identifier}/xml"}
185
+ if identifier in records and records[identifier] != item:
186
+ raise ValueError("conflicting duplicate notice id: " + identifier)
187
+ records[identifier] = item
188
+ print(f"Indexed {year}: cumulative Polish notices={len(records)}", flush=True)
189
+ index = sorted(records.values(), key=lambda row: row["notice_id"])
190
+ write_lines(out / "source_index.jsonl", index)
191
+ save(out / "source_files.json", {"mirror": MIRROR, "revision": MIRROR_REVISION,
192
+ "files": source_files, "years": list(YEARS), "indexed_polish_notices": len(index), "created_at": now()})
193
+ return index
194
+
195
+
196
+ def fetch_one(out, item):
197
+ year = item["notice_id"].rsplit("-", 1)[-1]
198
+ path = out / "raw_xml" / year / (item["notice_id"] + ".xml")
199
+ if path.exists() and path.stat().st_size > 100 and path.read_bytes().lstrip().startswith(b"<?xml"):
200
+ return {**item, "xml_path": path.relative_to(out).as_posix(), "xml_sha256": sha(path.read_bytes()), "bytes": path.stat().st_size}
201
+ download(item["official_xml_url"], path)
202
+ payload = path.read_bytes()
203
+ if not payload.lstrip().startswith(b"<?xml"):
204
+ path.unlink(missing_ok=True)
205
+ raise ValueError("official response is not XML")
206
+ ET.fromstring(payload)
207
+ return {**item, "xml_path": path.relative_to(out).as_posix(), "xml_sha256": sha(payload), "bytes": len(payload)}
208
+
209
+
210
+ def canonical_notice_key(value):
211
+ number, year = value.rsplit("-", 1)
212
+ return int(number), int(year)
213
+
214
+
215
+ def polish_values(value):
216
+ if isinstance(value, dict):
217
+ return polish_values(value.get("pol")) if "pol" in value else []
218
+ if isinstance(value, list):
219
+ return [text for item in value for text in polish_values(item)]
220
+ return [normalize(value)] if isinstance(value, str) and normalize(value) else []
221
+
222
+
223
+ def parse_search_record(record):
224
+ chunks = []
225
+ counts = Counter()
226
+ seen = set()
227
+ for field in API_NARRATIVE_FIELDS:
228
+ for raw in polish_values(record.get(field)):
229
+ value, redacted = redact_pii(raw)
230
+ counts.update(redacted)
231
+ key = " ".join(value.casefold().split())
232
+ if len(value) >= 20 and key not in seen:
233
+ chunks.append(value)
234
+ seen.add(key)
235
+ return {"authors": sorted(set(polish_values(record.get("buyer-name")))), "chunks": chunks, "pii": dict(counts)}
236
+
237
+
238
+ def fetch_api_batch(out, batch):
239
+ by_key = {canonical_notice_key(item["notice_id"]): item for item in batch}
240
+ query = " OR ".join(f'publication-number = "{item["notice_id"]}"' for item in batch)
241
+ payload = search_request({
242
+ "query": query,
243
+ "fields": list(API_FIELDS),
244
+ "page": 1,
245
+ "limit": len(batch),
246
+ "scope": "ALL",
247
+ "checkQuerySyntax": False,
248
+ "paginationMode": "PAGE_NUMBER",
249
+ })
250
+ results = []
251
+ observed = set()
252
+ for notice in payload.get("notices", []):
253
+ key = canonical_notice_key(notice["publication-number"])
254
+ if key not in by_key or key in observed:
255
+ raise ValueError("unexpected or duplicate Search API publication number")
256
+ observed.add(key)
257
+ item = by_key[key]
258
+ notice = {field: notice[field] for field in API_FIELDS if field in notice}
259
+ year = item["notice_id"].rsplit("-", 1)[-1]
260
+ path = out / "raw_api" / year / (item["notice_id"] + ".json")
261
+ encoded = (json.dumps(notice, ensure_ascii=False, sort_keys=True, separators=(",", ":")) + "\n").encode("utf-8")
262
+ path.parent.mkdir(parents=True, exist_ok=True)
263
+ path.write_bytes(encoded)
264
+ parsed = parse_search_record(notice)
265
+ results.append({
266
+ **item,
267
+ "api_path": path.relative_to(out).as_posix(),
268
+ "api_sha256": sha(encoded),
269
+ "api_bytes": len(encoded),
270
+ "api_has_narrative": bool(parsed["chunks"]),
271
+ })
272
+ missing = sorted(set(by_key) - observed)
273
+ if missing:
274
+ raise ValueError(f"Search API omitted {len(missing)} requested notices")
275
+ return results
276
+
277
+
278
+ def acquire(out, workers, limit):
279
+ out.mkdir(parents=True, exist_ok=True)
280
+ index = read_lines(out / "source_index.jsonl") if (out / "source_index.jsonl").exists() else build_index(out)
281
+ selected = index[:limit] if limit else index
282
+ api_records, failures = [], []
283
+ batches = [selected[start:start + 100] for start in range(0, len(selected), 100)]
284
+ with ThreadPoolExecutor(max_workers=min(8, workers)) as pool:
285
+ futures = {pool.submit(fetch_api_batch, out, batch): batch for batch in batches}
286
+ for count, future in enumerate(as_completed(futures), 1):
287
+ batch = futures[future]
288
+ try:
289
+ api_records.extend(future.result())
290
+ except Exception as error:
291
+ failures.append({"notice_ids": [item["notice_id"] for item in batch], "url": SEARCH_API_URL, "error": str(error)})
292
+ if count % 10 == 0 or count == len(batches):
293
+ print(f"Search API batches {count}/{len(batches)}; failures={len(failures)}", flush=True)
294
+ if failures:
295
+ save(out / "acquisition_failures.json", failures)
296
+ raise ValueError(f"{len(failures)} Search API batches failed; rerun acquire to retry")
297
+ fallbacks = [record for record in api_records if not record["api_has_narrative"]]
298
+ xml_records, xml_failures = [], []
299
+ with ThreadPoolExecutor(max_workers=workers) as pool:
300
+ futures = {pool.submit(fetch_one, out, item): item for item in fallbacks}
301
+ for count, future in enumerate(as_completed(futures), 1):
302
+ item = futures[future]
303
+ try:
304
+ xml_records.append({**future.result(), "source_kind": "official_xml"})
305
+ except Exception as error:
306
+ xml_failures.append({"notice_id": item["notice_id"], "url": item["official_xml_url"], "error": str(error)})
307
+ if count % 250 == 0 or count == len(fallbacks):
308
+ print(f"XML fallbacks {count}/{len(fallbacks)}; failures={len(xml_failures)}", flush=True)
309
+ xml_by_id = {record["notice_id"]: record for record in xml_records}
310
+ completed = [
311
+ xml_by_id.get(record["notice_id"], {**record, "source_kind": "official_search_api"})
312
+ for record in api_records
313
+ ]
314
+ completed.sort(key=lambda row: row["notice_id"])
315
+ save(out / "inventory.json", {"created_at": now(), "complete": not limit and len(completed) == len(index) and not xml_failures,
316
+ "indexed": len(index), "attempted": len(selected), "acquired": len(completed), "api_acquired": len(api_records),
317
+ "xml_fallback": len(xml_records), "records": completed, "failures": xml_failures,
318
+ "source_files": load(out / "source_files.json")})
319
+ if xml_failures:
320
+ raise ValueError(f"{len(xml_failures)} XML fallback downloads failed; rerun acquire to retry")
321
+ if limit:
322
+ print("Pilot acquisition complete; rerun without --limit for a complete immutable acquisition", flush=True)
323
+
324
+
325
+ def organization_map(root):
326
+ result = {}
327
+ for organization in root.iter():
328
+ if local_name(organization.tag) != "Organization":
329
+ continue
330
+ company = next((node for node in list(organization) if local_name(node.tag) == "Company"), None)
331
+ if company is None:
332
+ continue
333
+ org_id = ""
334
+ names = []
335
+ for node in company.iter():
336
+ tag = local_name(node.tag)
337
+ if tag == "ID" and not org_id and normalize(node.text):
338
+ org_id = normalize(node.text)
339
+ if tag == "Name" and node.attrib.get("languageID") in ("POL", "PL") and normalize(node.text):
340
+ names.append(normalize(node.text))
341
+ if org_id and names:
342
+ result[org_id] = names[0]
343
+ return result
344
+
345
+
346
+ def contracting_authorities(root):
347
+ mapping = organization_map(root)
348
+ ids = []
349
+ for party in root.iter():
350
+ if local_name(party.tag) != "ContractingParty":
351
+ continue
352
+ for node in party.iter():
353
+ if local_name(node.tag) == "ID" and normalize(node.text) in mapping:
354
+ ids.append(normalize(node.text))
355
+ break
356
+ return sorted({mapping[item] for item in ids})
357
+
358
+
359
+ def parse_official_xml(payload):
360
+ root = ET.fromstring(payload)
361
+ if local_name(root.tag) == "TED_EXPORT":
362
+ return parse_legacy_xml(root)
363
+ parents = {child: parent for parent in root.iter() for child in parent}
364
+ chunks = []
365
+ counts = Counter()
366
+ seen = set()
367
+ for node in root.iter():
368
+ if local_name(node.tag) not in TEXT_TAGS or node.attrib.get("languageID") not in ("POL", "PL"):
369
+ continue
370
+ ancestors = []
371
+ current = parents.get(node)
372
+ while current is not None:
373
+ ancestors.append(local_name(current.tag))
374
+ current = parents.get(current)
375
+ if set(ancestors) & EXCLUDED_ANCESTORS:
376
+ continue
377
+ value, redacted = redact_pii(normalize(" ".join(node.itertext())))
378
+ counts.update(redacted)
379
+ key = " ".join(value.casefold().split())
380
+ if len(value) >= 20 and key not in seen:
381
+ chunks.append(value)
382
+ seen.add(key)
383
+ return {"authors": contracting_authorities(root), "chunks": chunks, "pii": dict(counts)}
384
+
385
+
386
+ def parse_legacy_xml(root):
387
+ forms = [
388
+ node
389
+ for node in root.iter()
390
+ if node.attrib.get("LG") == "PL" and node.attrib.get("CATEGORY") == "ORIGINAL"
391
+ ]
392
+ authors = []
393
+ chunks = []
394
+ counts = Counter()
395
+ seen = set()
396
+ for form in forms:
397
+ parents = {child: parent for parent in form.iter() for child in parent}
398
+ for node in form.iter():
399
+ tag = local_name(node.tag)
400
+ ancestors = []
401
+ current = parents.get(node)
402
+ while current is not None:
403
+ ancestors.append(local_name(current.tag))
404
+ current = parents.get(current)
405
+ if tag == "OFFICIALNAME" and "CONTRACTING_BODY" in ancestors and normalize(node.text):
406
+ authors.append(normalize(node.text))
407
+ if tag != "P" or "CONTRACTING_BODY" in ancestors:
408
+ continue
409
+ value, redacted = redact_pii(normalize(" ".join(node.itertext())))
410
+ counts.update(redacted)
411
+ key = " ".join(value.casefold().split())
412
+ if len(value) >= 20 and key not in seen:
413
+ chunks.append(value)
414
+ seen.add(key)
415
+ return {"authors": sorted(set(authors)), "chunks": chunks, "pii": dict(counts)}
416
+
417
+
418
+ def shingle_set(text):
419
+ words = re.findall(r"\w+", text.casefold())
420
+ return {" ".join(words[index:index + 5]).encode("utf-8") for index in range(max(0, len(words) - 4))}
421
+
422
+
423
+ def near_dedup(rows):
424
+ from datasketch import MinHash, MinHashLSH
425
+ index = MinHashLSH(threshold=0.86, num_perm=128)
426
+ signatures = {}
427
+ texts = {}
428
+ kept, removed = [], []
429
+ for row in rows:
430
+ shingles = shingle_set(row["text"])
431
+ signature = MinHash(num_perm=128, seed=1)
432
+ signature.update_batch(sorted(shingles))
433
+ duplicate = None
434
+ score = 0.0
435
+ for candidate in sorted(index.query(signature)):
436
+ other = shingle_set(texts[candidate])
437
+ value = len(shingles & other) / len(shingles | other) if shingles | other else 1.0
438
+ if value >= 0.9:
439
+ duplicate, score = candidate, value
440
+ break
441
+ if duplicate:
442
+ removed.append({"id": row["id"], "duplicate_of": duplicate, "jaccard": score})
443
+ else:
444
+ kept.append(row)
445
+ signatures[row["id"]] = signature
446
+ texts[row["id"]] = row["text"]
447
+ index.insert(row["id"], signature)
448
+ return kept, removed
449
+
450
+
451
+ def date_iso(value):
452
+ try:
453
+ return datetime.strptime(value, "%d/%m/%Y").date().isoformat()
454
+ except (TypeError, ValueError):
455
+ return "unknown"
456
+
457
+
458
+ def parse_acquired_record(out, record):
459
+ if record["source_kind"] == "official_search_api":
460
+ payload = (out / record["api_path"]).read_bytes()
461
+ if sha(payload) != record["api_sha256"]:
462
+ raise ValueError("Search API checksum mismatch: " + record["notice_id"])
463
+ return parse_search_record(json.loads(payload)), record["api_sha256"]
464
+ payload = (out / record["xml_path"]).read_bytes()
465
+ if sha(payload) != record["xml_sha256"]:
466
+ raise ValueError("XML checksum mismatch: " + record["notice_id"])
467
+ return parse_official_xml(payload), record["xml_sha256"]
468
+
469
+
470
+ def build(out):
471
+ import pyarrow as pa
472
+ import pyarrow.parquet as pq
473
+ import tiktoken
474
+ from langid.langid import LanguageIdentifier, model
475
+ inventory = load(out / "inventory.json")
476
+ if not inventory["complete"] or inventory["failures"] or inventory["acquired"] != inventory["indexed"]:
477
+ raise ValueError("complete official-XML acquisition required before build")
478
+ parsed = []
479
+ chunk_frequency = Counter()
480
+ pii = Counter()
481
+ for count, record in enumerate(inventory["records"], 1):
482
+ item, source_hash = parse_acquired_record(out, record)
483
+ parsed.append((record, item, source_hash))
484
+ pii.update(item["pii"])
485
+ chunk_frequency.update({sha(" ".join(chunk.casefold().split()).encode("utf-8")) for chunk in item["chunks"]})
486
+ if count % 1000 == 0:
487
+ print(f"Parsed {count}/{len(inventory['records'])}", flush=True)
488
+ boilerplate_threshold = max(100, int(len(parsed) * 0.01))
489
+ boilerplate = {key for key, count in chunk_frequency.items() if count >= boilerplate_threshold}
490
+ encoder = tiktoken.get_encoding("cl100k_base")
491
+ identifier = LanguageIdentifier.from_modelstring(model, norm_probs=True)
492
+ identifier.set_languages(["pl", "en", "de", "cs", "sk", "uk", "ru"])
493
+ added = inventory["created_at"][:10]
494
+ rows, attribution, decisions = [], [], []
495
+ seen = {}
496
+ reject_counts = Counter()
497
+ for record, item, source_hash in parsed:
498
+ retained_chunks = [chunk for chunk in item["chunks"] if sha(" ".join(chunk.casefold().split()).encode("utf-8")) not in boilerplate]
499
+ text = normalize("\n\n".join(retained_chunks))
500
+ reason = ""
501
+ if "\ufffd" in text:
502
+ reason = "replacement_character"
503
+ elif not item["authors"]:
504
+ reason = "missing_contracting_authority"
505
+ elif len(text) < 300:
506
+ reason = "too_short_after_cleaning"
507
+ language, confidence = identifier.classify(text[:20000]) if text else ("unknown", 0.0)
508
+ if not reason and language != "pl" and confidence >= 0.98:
509
+ reason = "non_polish"
510
+ normalized_key = " ".join(text.casefold().split())
511
+ if not reason and normalized_key in seen:
512
+ reason = "exact_normalized_duplicate"
513
+ row_id = SOURCE + "_" + record["notice_id"]
514
+ decision = {"id": row_id, "notice_id": record["notice_id"], "selected": not bool(reason), "reason": reason or "include",
515
+ "source_kind": record["source_kind"], "source_sha256": source_hash,
516
+ "api_sha256": record["api_sha256"], "official_xml_url": record["official_xml_url"]}
517
+ if record.get("xml_sha256"):
518
+ decision["xml_sha256"] = record["xml_sha256"]
519
+ decisions.append(decision)
520
+ if reason:
521
+ reject_counts[reason] += 1
522
+ continue
523
+ seen[normalized_key] = row_id
524
+ author = "; ".join(item["authors"])
525
+ row = {"id": row_id, "text": text, "source": SOURCE, "added": added, "created": date_iso(record["date"]),
526
+ "token_count": len(encoder.encode_ordinary(text)), "license": LICENSE, "author": author}
527
+ rows.append(row)
528
+ transformations = [
529
+ "official TED Search API extraction of Polish narrative fields"
530
+ if record["source_kind"] == "official_search_api"
531
+ else "official TED XML extraction of Polish-language narrative fields",
532
+ "structured contact and address fields omitted", "Unicode and whitespace normalization",
533
+ "email, phone and labelled national-ID pattern redaction", "within-document exact chunk deduplication",
534
+ "source-frequency boilerplate removal",
535
+ ]
536
+ attribution.append({"id": row_id, "notice_id": record["notice_id"], "official_xml_url": record["official_xml_url"],
537
+ "mirror_record_url": record["mirror_url"], "created": row["created"], "authors": item["authors"],
538
+ "license": LICENSE, "license_url": LICENSE_URL, "source_kind": record["source_kind"],
539
+ "source_sha256": source_hash, "api_sha256": record["api_sha256"],
540
+ "xml_sha256": record.get("xml_sha256"), "text_sha256": sha(text.encode("utf-8")),
541
+ "language": language, "language_confidence": float(confidence), "retained_chunks": len(retained_chunks),
542
+ "transformations": transformations})
543
+ rows, near_removed = near_dedup(rows)
544
+ removed = {item["id"]: item for item in near_removed}
545
+ for decision in decisions:
546
+ if decision["id"] in removed:
547
+ decision.update(selected=False, reason="near_duplicate", **removed[decision["id"]])
548
+ reject_counts["near_duplicate"] += 1
549
+ kept_ids = {row["id"] for row in rows}
550
+ attribution = [item for item in attribution if item["id"] in kept_ids]
551
+ root = out / "hf_repo"
552
+ (root / "data").mkdir(parents=True, exist_ok=True)
553
+ (root / "artifacts").mkdir(exist_ok=True)
554
+ schema = pa.schema([(field, pa.int64() if field == "token_count" else pa.string()) for field in FIELDS])
555
+ pq.write_table(pa.Table.from_pylist(rows, schema=schema), root / "data/train-00000-of-00001.parquet", compression="zstd")
556
+ write_lines(root / "artifacts/attribution.jsonl", attribution)
557
+ write_lines(root / "artifacts/decisions.jsonl", decisions)
558
+ candidates = sorted(rows, key=lambda row: (abs(row["token_count"] - 1500), sha(("sample:" + row["id"]).encode("utf-8"))))
559
+ samples = candidates[:12]
560
+ write_lines(root / "artifacts/sample.jsonl", samples)
561
+ source_index = [{
562
+ "notice_id": record["notice_id"], "date": record["date"], "mirror_url": record["mirror_url"],
563
+ "official_xml_url": record["official_xml_url"], "source_kind": record["source_kind"],
564
+ "source_sha256": record.get("xml_sha256", record["api_sha256"]), "api_sha256": record["api_sha256"],
565
+ "api_bytes": record["api_bytes"], "xml_sha256": record.get("xml_sha256"), "xml_bytes": record.get("bytes"),
566
+ } for record in inventory["records"]]
567
+ (root / "artifacts/source_index.jsonl.gz").write_bytes(gzip.compress(
568
+ "".join(json.dumps(row, ensure_ascii=False, sort_keys=True) + "\n" for row in source_index).encode("utf-8"), mtime=0))
569
+ shutil.copy2(out / "source_files.json", root / "artifacts/source_files.json")
570
+ stats = {"indexed": inventory["indexed"], "acquired": inventory["acquired"], "api_acquired": inventory["api_acquired"],
571
+ "xml_fallback": inventory["xml_fallback"], "kept": len(rows),
572
+ "rejected": len(decisions) - len(rows), "rejection_reasons": dict(reject_counts),
573
+ "tokens": sum(row["token_count"] for row in rows), "characters": sum(len(row["text"]) for row in rows),
574
+ "sample_count": len(samples), "author_coverage": sum(bool(row["author"]) for row in rows) / len(rows) if rows else 0,
575
+ "created_min": min((row["created"] for row in rows if row["created"] != "unknown"), default="unknown"),
576
+ "created_max": max((row["created"] for row in rows if row["created"] != "unknown"), default="unknown"), "added": added}
577
+ qa = {"official_sources_only": True, "source_protocol": "official TED Search API narrative fields with official XML fallback",
578
+ "mirror_text_used_for_training": False,
579
+ "mirror_encoding_defect": "U+FFFD observed in pilot; mirror used only to enumerate official notice identifiers",
580
+ "license_gate": "TED legal notice permits commercial and non-commercial reuse unless otherwise noted; document-level exceptions remain reviewable",
581
+ "pii_pattern_matches_replaced": dict(pii), "structured_contacts_omitted": True,
582
+ "boilerplate": {"method": "drop exact normalized narrative chunks present in >=1% and at least 100 documents",
583
+ "threshold_documents": boilerplate_threshold, "removed_chunk_hashes": len(boilerplate)},
584
+ "exact_normalized_dedup": True,
585
+ "near_dedup": {"method": "seeded MinHash 128 / LSH 0.86 candidates / exact 5-word Jaccard >=0.9", "removed": near_removed},
586
+ "cross_source_dedup": "pending target integration", "benchmark_overlap": "pending",
587
+ "limitations": ["free-text personal names are not comprehensively de-identified", "third-party works and per-notice exceptions require review",
588
+ "source is institutional/legal-administrative and requires a deliberate mix cap", "official records may contain repeated form language below the frequency threshold"]}
589
+ save(root / "artifacts/stats.json", stats)
590
+ save(root / "artifacts/qa.json", qa)
591
+ input_hashes = [{"notice_id": row["notice_id"], "source_kind": row["source_kind"],
592
+ "sha256": row.get("xml_sha256", row["api_sha256"])} for row in inventory["records"]]
593
+ run = {"id": "run:" + sha({"code": sha(Path(__file__).read_bytes()), "sources": input_hashes}),
594
+ "started_at": inventory["created_at"], "finished_at": now(), "code_sha256": sha(Path(__file__).read_bytes()), "success": True,
595
+ "inputs": {"mirror_revision": MIRROR_REVISION, "source_records": input_hashes}, "stats": stats}
596
+ save(root / "artifacts/run.json", run)
597
+ print(json.dumps(stats, ensure_ascii=False, indent=2), flush=True)
598
+
599
+
600
+ def checksums(root):
601
+ excluded = {"artifacts/checksums.json", "artifacts/ontology.json", "artifacts/validation_run.json"}
602
+ return {path.relative_to(root).as_posix(): sha(path.read_bytes()) for path in sorted(root.rglob("*"))
603
+ if path.is_file() and path.relative_to(root).as_posix() not in excluded}
604
+
605
+
606
+ def registry(base):
607
+ tree = ast.parse(base)
608
+ node = next(item.value for item in tree.body if isinstance(item, ast.Assign)
609
+ and any(isinstance(target, ast.Name) and target.id == "SOURCES" for target in item.targets))
610
+ if SOURCE in ast.literal_eval(node):
611
+ raise ValueError("source already registered")
612
+ entry = {"file_key": SOURCE, "pretty": PRETTY, "license": "TED notice reuse terms", "license_spdx": LICENSE,
613
+ "traceable": "TED legal notice permits commercial and non-commercial reuse of procurement notices unless otherwise noted; official Search API/XML provenance and SHA-256 are preserved per record. Metadata is CC0, while notice text uses the separate reuse grant.",
614
+ "upstream": "https://ted.europa.eu/", "provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders is used only as a pinned identifier index, while text is rebuilt from official TED Search API narrative fields with official XML fallback.",
615
+ "domain": "public procurement / institutional / technical", "created": "2023-2024 per-record publication date", "is_ocr": False, "custom_datasheet": True}
616
+ offset = sum(len(line) for line in base.splitlines(keepends=True)[:node.lineno - 1]) + node.col_offset + 1
617
+ return base[:offset] + "\n " + repr(SOURCE) + ": " + pprint.pformat(entry, width=96, sort_dicts=False).replace("\n", "\n ") + "," + base[offset:]
618
+
619
+
620
+ def verify_core(out):
621
+ import pyarrow.parquet as pq
622
+ root = out / "hf_repo"
623
+ table = pq.read_table(root / "data/train-00000-of-00001.parquet")
624
+ rows = table.to_pylist()
625
+ stats = load(root / "artifacts/stats.json")
626
+ attribution = read_lines(root / "artifacts/attribution.jsonl")
627
+ decisions = read_lines(root / "artifacts/decisions.jsonl")
628
+ sample = read_lines(root / "artifacts/sample.jsonl")
629
+ assert table.column_names == FIELDS
630
+ assert len(rows) == stats["kept"] == len(attribution)
631
+ assert len(decisions) == stats["indexed"]
632
+ assert sum(bool(item["selected"]) for item in decisions) == stats["kept"]
633
+ assert sum(row["token_count"] for row in rows) == stats["tokens"]
634
+ assert all(row["author"] and row["license"] == LICENSE and "\ufffd" not in row["text"] for row in rows)
635
+ assert all(not EMAIL_RE.search(row["text"]) for row in rows)
636
+ by_id = {row["id"]: row for row in rows}
637
+ assert len(sample) == min(12, len(rows)) and all(by_id[item["id"]] == item for item in sample)
638
+ if (root / "artifacts/checksums.json").exists():
639
+ for name, digest in load(root / "artifacts/checksums.json").items():
640
+ assert sha((root / name).read_bytes()) == digest
641
+ return stats
642
+
643
+
644
+ def prepare(out, target_revision):
645
+ root = out / "hf_repo"
646
+ (root / "src").mkdir(exist_ok=True)
647
+ shutil.copy2(Path(__file__), root / "src/build_ted_pl.py")
648
+ shutil.copy2(Path(__file__).with_name("ted_pl_requirements.txt"), root / "src/requirements.txt")
649
+ shutil.copy2(Path(__file__).with_name("test_ted_pl_contribution.py"), root / "src/test_ted_pl_contribution.py")
650
+ stats = load(root / "artifacts/stats.json")
651
+ (root / "NOTICE.md").write_text(f"""# Notice and attribution
652
+
653
+ Source notice text: https://ted.europa.eu/
654
+ Official reuse terms: {LICENSE_URL}
655
+
656
+ Unless otherwise noted, procurement notices in the Supplement to the Official Journal of the European Union may be freely reused for commercial or non-commercial purposes. The same legal notice identifies exceptions for third-party works and identifiable private individuals. TED metadata is CC0; this does not silently relabel the notice text as CC0.
657
+
658
+ The PleIAs mirror at revision `{MIRROR_REVISION}` is used only to enumerate Polish-labelled notice identifiers. Training text is extracted afresh from official TED Search API narrative fields, with official XML fallback where those fields are absent. Preserve source acknowledgement, record URLs, this notice and the documented modifications.
659
+ """, encoding="utf-8")
660
+ (root / "README.md").write_text(f"""---
661
+ license: other
662
+ license_name: ted-notice-reuse-terms
663
+ language:
664
+ - pl
665
+ task_categories:
666
+ - text-generation
667
+ configs:
668
+ - config_name: default
669
+ data_files:
670
+ - split: train
671
+ path: data/train-00000-of-00001.parquet
672
+ ---
673
+
674
+ # TED Polish procurement notices
675
+
676
+ Polish narrative text rebuilt from official TED procurement-notice records.
677
+
678
+ - Indexed notices: {stats['indexed']:,}
679
+ - Search API records: {stats['api_acquired']:,}
680
+ - XML fallbacks: {stats['xml_fallback']:,}
681
+ - Retained documents: {stats['kept']:,}
682
+ - Tokens: {stats['tokens']:,} (`cl100k_base` proxy)
683
+ - Dates: {stats['created_min']} to {stats['created_max']}
684
+ - Contracting-authority attribution: {stats['author_coverage']:.1%}
685
+
686
+ The pinned PleIAs mirror is an identifier index only because its Polish preview contains replacement-character encoding damage. Released text comes from official TED Search API narrative fields or, when absent, official XML; any remaining U+FFFD record is rejected. Structured contact/address fields are omitted; emails, phone numbers and labelled national identifiers in narrative fields are replaced. Recurrent boilerplate and within-source duplicates are filtered.
687
+
688
+ See `NOTICE.md` and `artifacts/` for the source index, attribution, selection decisions, QA, checksums, full samples and Slayer ontology manifest.
689
+
690
+ ## Limitations
691
+
692
+ Free-text personal names are not comprehensively de-identified. The official reuse notice has exceptions for third-party works and identifiable private individuals, so per-notice/legal review remains appropriate. Cross-source DynaWord deduplication, benchmark-overlap checks and controlled training ablations remain pending. This administrative/technical register should be capped deliberately in a training mix.
693
+ """, encoding="utf-8")
694
+ digest_map = checksums(root)
695
+ save(root / "artifacts/checksums.json", digest_map)
696
+ verified = verify_core(out)
697
+ validation = {"id": "run:" + sha({"checksums": digest_map, "target": target_revision}), "started_at": now(), "finished_at": now(),
698
+ "success": True, "protocol": "dataset-contract-and-checksum-validation-v1", "target_main_revision": target_revision, "stats": verified}
699
+ save(root / "artifacts/validation_run.json", validation)
700
+ build_run = load(root / "artifacts/run.json")
701
+ qa = load(root / "artifacts/qa.json")
702
+ check_id = "evidence:checksums:" + sha(digest_map)
703
+ qa_id = "evidence:qa:" + sha(qa)
704
+ dataset_version = "version:dataset:" + sha(digest_map)
705
+ source_version = "version:source:" + sha({"records": build_run["inputs"]["source_records"], "mirror": MIRROR_REVISION})
706
+ ontology = {"schema": "slayer-research-ontology-profile-v1",
707
+ "objects": [{"id": "object:source:ted", "type": "Source"}, {"id": "object:dataset:ted-pl", "type": "Dataset"}],
708
+ "versions": [{"id": source_version, "object": "object:source:ted", "content_address": source_version.rsplit(":", 1)[-1]},
709
+ {"id": dataset_version, "object": "object:dataset:ted-pl", "content_address": dataset_version.rsplit(":", 1)[-1]}],
710
+ "protocols": [{"id": "protocol:ted-official-v1", "procedure": "pinned identifier index, official Search API narrative extraction with official XML fallback, structured-contact omission, PII patterns, boilerplate and dedup filters"},
711
+ {"id": "protocol:contract-v1", "procedure": "schema, checksum, sample, provenance and ontology contract checks"}],
712
+ "runs": [{"id": build_run["id"], "protocol": "protocol:ted-official-v1", "success": True,
713
+ "started_at": build_run["started_at"], "finished_at": build_run["finished_at"]}, validation],
714
+ "evidence": [{"id": check_id, "observation_type": "checksums", "payload": digest_map, "produced_by": validation["id"]},
715
+ {"id": qa_id, "observation_type": "qa", "payload": qa, "produced_by": build_run["id"]}],
716
+ "claims": [{"id": "claim:official-source", "statement": "Every retained text is rebuilt from a checksum-addressed official TED Search API record or official XML fallback; mirror text is not training input.",
717
+ "supported_by": [check_id, qa_id], "falsification_condition": "A retained attribution lacks an official source kind/hash or released text contains mirror encoding damage."},
718
+ {"id": "claim:rights-qualified", "statement": "TED's official legal notice permits commercial and non-commercial reuse of notices unless otherwise noted; exceptions are not claimed absent.",
719
+ "supported_by": [qa_id], "falsification_condition": "The pinned legal notice does not contain the reuse grant or a retained notice is explicitly excepted."}],
720
+ "actors": [{"id": "actor:piotrsty", "type": "Contributor"}, {"id": "actor:publications-office-eu", "type": "Organization"},
721
+ {"id": "actor:codex", "type": "Agent"}],
722
+ "relations": [{"source": dataset_version, "predicate": "DERIVED_FROM", "target": source_version},
723
+ {"source": dataset_version, "predicate": "GENERATED_BY", "target": build_run["id"]},
724
+ {"source": dataset_version, "predicate": "VALIDATED_AGAINST", "target": validation["id"]}],
725
+ "pending": ["per-notice exception/legal review", "free-text PERSON de-identification review", "cross-source deduplication",
726
+ "benchmark contamination check", "training-mix cap and controlled ablation"]}
727
+ save(root / "artifacts/ontology.json", ontology)
728
+
729
+
730
+ def verify(out):
731
+ stats = verify_core(out)
732
+ manifest = load(out / "hf_repo/artifacts/ontology.json")
733
+ evidence = {item["id"] for item in manifest["evidence"]}
734
+ assert all(item["falsification_condition"] and set(item["supported_by"]) <= evidence for item in manifest["claims"])
735
+ assert len(manifest["runs"]) >= 2 and all(item["success"] for item in manifest["runs"])
736
+ print(json.dumps({"verified": True, **stats}, ensure_ascii=False, indent=2), flush=True)
737
+
738
+
739
+ def findings_append(base, stats):
740
+ heading = "## TED Polish procurement notices (2026-09-07)"
741
+ if heading in base:
742
+ raise ValueError("TED finding already present")
743
+ return base.rstrip() + f"""
744
+
745
+
746
+ {heading}
747
+
748
+ - **Decision:** open PR, qualified; source inclusion and training-mix weight remain separate decisions.
749
+ - **Observed scale:** {stats['indexed']:,} Polish-labelled identifiers, {stats['kept']:,} retained documents, {stats['tokens']:,} measured `cl100k_base` proxy tokens.
750
+ - **Provenance:** the pinned `PleIAs/TEDEUTenders@{MIRROR_REVISION}` mirror enumerates identifiers only. Its Polish preview contains U+FFFD encoding damage, so training text is rebuilt from checksum-addressed official TED Search API narrative records, with official XML fallback where those fields are absent.
751
+ - **Rights:** TED's legal notice permits commercial and non-commercial reuse of procurement notices unless otherwise noted. Metadata is CC0, but notice text is recorded separately as `{LICENSE}`. Third-party-work and identifiable-person exceptions remain reviewable.
752
+ - **Quality/privacy:** structured contact/address nodes are excluded; email, phone and labelled national-ID patterns are replaced. Cross-document boilerplate and within-source exact/near duplicates are filtered. Free-text names are not comprehensively de-identified.
753
+ - **Remaining gates:** per-notice/legal exception review, cross-source deduplication, benchmark overlap, and a deliberate cap/ablation because this is a large administrative/legal-technical register.
754
+ """
755
+
756
+
757
+ def all_files(root):
758
+ return [path for path in sorted(root.rglob("*")) if path.is_file() and "__pycache__" not in path.parts and ".pytest_cache" not in path.parts]
759
+
760
+
761
+ def assemble_pr(out, base_sources, base_findings, source_commit):
762
+ root = out / "hf_repo"
763
+ pr = out / "dynaword_pr"
764
+ data = pr / "data" / SOURCE
765
+ data.mkdir(parents=True, exist_ok=True)
766
+ (pr / "src").mkdir(exist_ok=True)
767
+ (pr / "artifacts").mkdir(exist_ok=True)
768
+ shutil.copy2(root / "data/train-00000-of-00001.parquet", data / f"{SOURCE}.parquet")
769
+ for name in ("attribution.jsonl", "decisions.jsonl", "sample.jsonl", "stats.json", "qa.json"):
770
+ shutil.copy2(root / "artifacts" / name, data / f"{SOURCE}.{name}")
771
+ shutil.copy2(root / "NOTICE.md", data / "NOTICE.md")
772
+ shutil.copy2(root / "README.md", data / f"{SOURCE}.md")
773
+ shutil.copy2(root / "artifacts/ontology.json", pr / f"artifacts/{SOURCE}_ontology_manifest.json")
774
+ shutil.copy2(Path(__file__), pr / "src/build_ted_pl.py")
775
+ shutil.copy2(Path(__file__).with_name("test_ted_pl_contribution.py"), pr / "src/test_ted_pl_contribution.py")
776
+ (pr / "src/sources.py").write_text(registry(base_sources), encoding="utf-8")
777
+ stats = load(root / "artifacts/stats.json")
778
+ (pr / "artifacts/source_findings.md").write_text(findings_append(base_findings, stats), encoding="utf-8")
779
+ samples = read_lines(root / "artifacts/sample.jsonl")[:3]
780
+ snippets = []
781
+ for row in samples:
782
+ excerpt = row["text"][:700].replace("```", "`` `")
783
+ snippets.append(f"#### `{row['id']}` ({row['token_count']:,} tokens)\n\n```text\n{excerpt}\n```")
784
+ description = f"""## Add Polish TED procurement notices
785
+
786
+ Adds `{SOURCE}`: **{stats['kept']:,} documents and {stats['tokens']:,} measured `cl100k_base` proxy tokens** from official Polish-language TED procurement-notice records ({stats['created_min']} to {stats['created_max']}). The corpus uses {stats['api_acquired']:,} official Search API records and {stats['xml_fallback']:,} official XML fallbacks.
787
+
788
+ Source dataset: https://huggingface.co/datasets/{OWN_REPO}/tree/{source_commit}
789
+
790
+ ### Data samples
791
+
792
+ {"\n\n".join(snippets)}
793
+
794
+ - [12 complete deterministic sample records](https://huggingface.co/datasets/{OWN_REPO}/blob/{source_commit}/artifacts/sample.jsonl)
795
+ - [Per-record official URLs, source/text hashes and attribution](https://huggingface.co/datasets/{OWN_REPO}/blob/{source_commit}/artifacts/attribution.jsonl)
796
+ - [All selection decisions](https://huggingface.co/datasets/{OWN_REPO}/blob/{source_commit}/artifacts/decisions.jsonl)
797
+
798
+ ### Rights and method
799
+
800
+ TED's [official legal notice]({LICENSE_URL}) says that, unless otherwise noted, procurement notices may be freely reused for commercial or non-commercial purposes. It separately assigns CC0 to metadata; this contribution therefore records notice text as `{LICENSE}` rather than silently relabelling it CC0. Third-party-work and identifiable-person exceptions remain explicit review items.
801
+
802
+ The pinned PleIAs mirror is used only to enumerate Polish-labelled identifiers because its Polish preview contains replacement-character encoding damage. Every released text is rebuilt from a checksum-addressed official TED Search API record or, where narrative fields are absent, an official XML fallback. Structured contact/address fields are omitted; email, phone and labelled national-ID patterns are replaced. Frequent exact boilerplate and exact/near duplicates are removed.
803
+
804
+ ### Slayer ontology and remaining gates
805
+
806
+ The manifest separates content-addressed source/dataset Versions, Protocols, executed Runs, Evidence, falsifiable Claims, Actors and typed lineage. Per-notice/legal exception review, free-text name review, cross-source DynaWord deduplication, benchmark-overlap testing and a deliberate training-mix cap/ablation remain pending. This PR proposes a source; it does not claim a merged or stable release.
807
+ """
808
+ (out / "pr_description.md").write_text(description, encoding="utf-8")
809
+ return pr
810
+
811
+
812
+ def hf_token():
813
+ value = os.environ.get("HF_TOKEN")
814
+ if not value and os.name == "nt":
815
+ import winreg
816
+ with winreg.OpenKey(winreg.HKEY_CURRENT_USER, "Environment") as key:
817
+ value = winreg.QueryValueEx(key, "HF_TOKEN")[0]
818
+ if not value or not value.startswith("hf_"):
819
+ raise ValueError("HF_TOKEN unavailable")
820
+ return value
821
+
822
+
823
+ def publish(out):
824
+ from huggingface_hub import CommitOperationAdd, HfApi
825
+ api = HfApi(token=hf_token())
826
+ if api.whoami()["name"].casefold() != "piotrsty":
827
+ raise ValueError("unexpected HF account")
828
+ target = api.dataset_info(TARGET)
829
+ sources_url = f"https://huggingface.co/datasets/{TARGET}/resolve/{target.sha}/src/sources.py"
830
+ findings_url = f"https://huggingface.co/datasets/{TARGET}/resolve/{target.sha}/artifacts/source_findings.md"
831
+ base_sources = request(sources_url).content.decode("utf-8")
832
+ base_findings = request(findings_url).content.decode("utf-8")
833
+ discussions = list(api.get_repo_discussions(TARGET, repo_type="dataset"))
834
+ if SOURCE in base_sources or any("ted" in item.title.casefold() and "procurement" in item.title.casefold() for item in discussions):
835
+ raise ValueError("source registration or proposal already exists")
836
+ prepare(out, target.sha)
837
+ verify(out)
838
+ root = out / "hf_repo"
839
+ receipt_path = out / "publication.json"
840
+ receipt = load(receipt_path) if receipt_path.exists() else {}
841
+ if not receipt:
842
+ if api.repo_exists(OWN_REPO, repo_type="dataset"):
843
+ raise ValueError("own HF repository already exists without this run receipt")
844
+ api.create_repo(OWN_REPO, repo_type="dataset", private=True)
845
+ receipt = {"source_repo": OWN_REPO, "target_main_revision": target.sha, "created_at": now()}
846
+ save(receipt_path, receipt)
847
+ if receipt["target_main_revision"] != target.sha:
848
+ raise ValueError("target main changed since publication started; inspect before continuing")
849
+ if not receipt.get("source_commit"):
850
+ result = api.create_commit(OWN_REPO, repo_type="dataset", commit_message="Add validated Polish TED procurement notices",
851
+ operations=[CommitOperationAdd(path_in_repo=path.relative_to(root).as_posix(), path_or_fileobj=str(path)) for path in all_files(root)])
852
+ receipt["source_commit"] = result.oid
853
+ save(receipt_path, receipt)
854
+ source_revision = receipt["source_commit"]
855
+ if not any(item.name == "v1.0.0" for item in api.list_repo_refs(OWN_REPO, repo_type="dataset").tags):
856
+ api.create_tag(OWN_REPO, repo_type="dataset", tag="v1.0.0", revision=source_revision)
857
+ api.update_repo_settings(OWN_REPO, repo_type="dataset", private=False)
858
+ pr = assemble_pr(out, base_sources, base_findings, source_revision)
859
+ subprocess.run([sys.executable, "-m", "pytest", "-q", str(pr / "src/test_ted_pl_contribution.py")], check=True)
860
+ if not receipt.get("pr_url"):
861
+ result = api.create_commit(TARGET, repo_type="dataset", parent_commit=target.sha, create_pr=True,
862
+ commit_message="Add Polish TED public-procurement notices",
863
+ commit_description=(out / "pr_description.md").read_text(encoding="utf-8"),
864
+ operations=[CommitOperationAdd(path_in_repo=path.relative_to(pr).as_posix(), path_or_fileobj=str(path)) for path in all_files(pr)])
865
+ receipt.update(tag="v1.0.0", pr_url=result.pr_url, pr_commit=result.oid, published_at=now())
866
+ save(receipt_path, receipt)
867
+ print(json.dumps(receipt, ensure_ascii=False, indent=2), flush=True)
868
+
869
+
870
+ def audit(out):
871
+ from huggingface_hub import HfApi, hf_hub_download
872
+ api = HfApi(token=False)
873
+ receipt = load(out / "publication.json")
874
+ info = api.dataset_info(OWN_REPO)
875
+ if info.private or info.sha != receipt["source_commit"]:
876
+ raise ValueError("source repo visibility or revision mismatch")
877
+ if not any(item.name == receipt["tag"] and item.target_commit == info.sha for item in api.list_repo_refs(OWN_REPO, repo_type="dataset").tags):
878
+ raise ValueError("release tag mismatch")
879
+ number = int(receipt["pr_url"].rsplit("/", 1)[-1])
880
+ discussion = api.get_discussion_details(TARGET, number, repo_type="dataset")
881
+ pr_info = api.dataset_info(TARGET, revision=f"refs/pr/{number}")
882
+ if not discussion.is_pull_request or pr_info.sha != receipt["pr_commit"]:
883
+ raise ValueError("PR identity mismatch")
884
+ checked = []
885
+ for repo, revision, root in ((OWN_REPO, info.sha, out / "hf_repo"), (TARGET, pr_info.sha, out / "dynaword_pr")):
886
+ for path in all_files(root):
887
+ name = path.relative_to(root).as_posix()
888
+ remote = Path(hf_hub_download(repo, name, repo_type="dataset", revision=revision, token=False,
889
+ cache_dir=str(out / "remote_cache")))
890
+ if sha(remote.read_bytes()) != sha(path.read_bytes()):
891
+ raise ValueError("remote mismatch: " + name)
892
+ checked.append({"repo": repo, "revision": revision, "path": name, "sha256": sha(remote.read_bytes())})
893
+ result = {"observed_at": now(), "source_revision": info.sha, "pr_revision": pr_info.sha,
894
+ "pr_status": discussion.status, "target_main_revision": api.dataset_info(TARGET).sha, "verified_files": checked}
895
+ save(out / "publication_audit.json", result)
896
+ shutil.rmtree(out / "remote_cache", ignore_errors=True)
897
+ print(json.dumps({**result, "verified_files": len(checked)}, ensure_ascii=False, indent=2), flush=True)
898
+
899
+
900
+ if __name__ == "__main__":
901
+ parser = argparse.ArgumentParser(description=__doc__)
902
+ parser.add_argument("--output", type=Path, required=True)
903
+ parser.add_argument("--workers", type=int, default=12)
904
+ parser.add_argument("--limit", type=int, default=0)
905
+ parser.add_argument("command", choices=["acquire", "build", "prepare", "verify", "publish", "audit"])
906
+ args = parser.parse_args()
907
+ if args.command == "acquire":
908
+ acquire(args.output, args.workers, args.limit)
909
+ elif args.command == "prepare":
910
+ raise SystemExit("prepare is executed by publish against the current target revision")
911
+ else:
912
+ globals()[args.command](args.output)
src/sources.py CHANGED
@@ -302,6 +302,28 @@ SOURCES = {
302
  "created": "1840-01-01, 1920-12-31",
303
  "is_ocr": False,
304
  },
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
305
  "dziennik_ustaw": {
306
  "added": "2026-07-02",
307
  "release": "0.2.0",
 
302
  "created": "1840-01-01, 1920-12-31",
303
  "is_ocr": False,
304
  },
305
+ "ted_pl": {
306
+ "added": "2026-09-08",
307
+ "release": None,
308
+ "file_key": "ted_pl",
309
+ "pretty": "TED Polish public-procurement notices",
310
+ "license": "TED notice reuse terms",
311
+ "license_spdx": "LicenseRef-TED-Notice-Reuse",
312
+ "traceable": "TED legal notice permits commercial and non-commercial reuse of procurement "
313
+ "notices unless otherwise noted, implementing Commission Decision 2011/833/EU "
314
+ "on the reuse of Commission documents (CELEX:32011D0833); official Search API/XML "
315
+ "provenance and SHA-256 are preserved per record. Metadata is CC0, while notice "
316
+ "text uses the separate reuse grant.",
317
+ "upstream": "https://ted.europa.eu/",
318
+ "provenance": "Pinned PiotrSty/ted-polish-procurement-notices snapshot; PleIAs/TEDEUTenders "
319
+ "is used only as a pinned identifier index, while text is rebuilt from official "
320
+ "TED Search API narrative fields with official XML fallback. Pattern PII "
321
+ "redaction only - re-run through SlayerLab/NERGAL before release.",
322
+ "domain": "public procurement / institutional / technical",
323
+ "created": "2023-02-15, 2024-05-15",
324
+ "is_ocr": False,
325
+ "custom_datasheet": True,
326
+ },
327
  "dziennik_ustaw": {
328
  "added": "2026-07-02",
329
  "release": "0.2.0",
src/test_ted_pl_contribution.py ADDED
@@ -0,0 +1,67 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """Contract checks run from the prepared DynaWord contribution tree."""
2
+ import hashlib
3
+ import json
4
+ from pathlib import Path
5
+ import re
6
+
7
+ import pyarrow.parquet as pq
8
+
9
+ SOURCE = "ted_pl"
10
+ LICENSE = "LicenseRef-TED-Notice-Reuse"
11
+ FIELDS = ["id", "text", "source", "added", "created", "token_count", "license", "author"]
12
+ ROOT = Path(__file__).resolve().parents[1]
13
+ DATA = ROOT / "data" / SOURCE
14
+ MANIFEST = ROOT / "artifacts" / f"{SOURCE}_ontology_manifest.json"
15
+
16
+
17
+ def digest(payload):
18
+ return hashlib.sha256(payload).hexdigest()
19
+
20
+
21
+ def rows(path):
22
+ return [json.loads(line) for line in path.read_text(encoding="utf-8").splitlines() if line]
23
+
24
+
25
+ def test_dataset_contract_and_samples():
26
+ table = pq.read_table(DATA / f"{SOURCE}.parquet")
27
+ data = table.to_pylist()
28
+ stats = json.loads((DATA / f"{SOURCE}.stats.json").read_text(encoding="utf-8"))
29
+ attribution = rows(DATA / f"{SOURCE}.attribution.jsonl")
30
+ decisions = rows(DATA / f"{SOURCE}.decisions.jsonl")
31
+ sample = rows(DATA / f"{SOURCE}.sample.jsonl")
32
+ assert table.column_names == FIELDS
33
+ assert len(data) == stats["kept"] == len(attribution)
34
+ assert len(decisions) == stats["indexed"]
35
+ assert sum(bool(item["selected"]) for item in decisions) == stats["kept"]
36
+ assert sum(item["token_count"] for item in data) == stats["tokens"]
37
+ assert {item["id"] for item in data} == {item["id"] for item in attribution}
38
+ assert all(item["source"] == SOURCE and item["license"] == LICENSE for item in data)
39
+ assert all(item["author"] and item["text"].strip() and item["token_count"] > 0 for item in data)
40
+ assert all("\ufffd" not in item["text"] for item in data)
41
+ assert all(not re.search(r"(?i)\b[A-Z0-9._%+-]+@[A-Z0-9.-]+\.[A-Z]{2,}\b", item["text"]) for item in data)
42
+ by_id = {item["id"]: item for item in data}
43
+ assert len(sample) == stats["sample_count"] == min(12, len(data))
44
+ assert all(by_id[item["id"]] == item for item in sample)
45
+
46
+
47
+ def test_ontology_is_addressed_and_falsifiable():
48
+ manifest = json.loads(MANIFEST.read_text(encoding="utf-8"))
49
+ evidence = {item["id"] for item in manifest["evidence"]}
50
+ assert all(item["falsification_condition"] for item in manifest["claims"])
51
+ assert all(set(item["supported_by"]) <= evidence for item in manifest["claims"])
52
+ assert len(manifest["runs"]) >= 2 and all(item["success"] for item in manifest["runs"])
53
+ assert any(item["predicate"] == "VALIDATED_AGAINST" for item in manifest["relations"])
54
+ checks = next(item["payload"] for item in manifest["evidence"] if item["observation_type"] == "checksums")
55
+ mapping = {
56
+ "data/train-00000-of-00001.parquet": DATA / f"{SOURCE}.parquet",
57
+ "artifacts/attribution.jsonl": DATA / f"{SOURCE}.attribution.jsonl",
58
+ "artifacts/decisions.jsonl": DATA / f"{SOURCE}.decisions.jsonl",
59
+ "artifacts/sample.jsonl": DATA / f"{SOURCE}.sample.jsonl",
60
+ "artifacts/stats.json": DATA / f"{SOURCE}.stats.json",
61
+ "artifacts/qa.json": DATA / f"{SOURCE}.qa.json",
62
+ "src/build_ted_pl.py": ROOT / "src/build_ted_pl.py",
63
+ "src/test_ted_pl_contribution.py": ROOT / "src/test_ted_pl_contribution.py",
64
+ }
65
+ for name, path in mapping.items():
66
+ assert digest(path.read_bytes()) == checks[name]
67
+