tokenizers / evaluation /polish_suite.jsonl
kacperwikiel's picture
Add multi-agent tokenizer judging benchmark
2d4c842
Raw History Blame
2.18 kB
{"domain":"general","text":"Zażółć gęślą jaźń — to krótkie zdanie sprawdza wszystkie polskie znaki."}
{"domain":"general","text":"W sobotę pojedziemy pociągiem z Gdańska do Krakowa, jeśli pogoda dopisze."}
{"domain":"literature","text":"Nad spokojną rzeką zapadał zmierzch, a wilgotne łąki pachniały miętą i sianem."}
{"domain":"literature","text":"Nie wiedział jeszcze, że ten niepozorny list odmieni całe jego życie."}
{"domain":"news","text":"Rada miasta przyjęła uchwałę większością dwudziestu trzech głosów."}
{"domain":"news","text":"Według wstępnych danych inflacja wyniosła 4,7 proc. rok do roku."}
{"domain":"legal","text":"Wnioskodawcy przysługuje prawo wniesienia odwołania w terminie czternastu dni."}
{"domain":"legal","text":"Na podstawie art. 15 § 2 pkt 3 postępowanie zostało umorzone."}
{"domain":"technical","text":"Model wykorzystuje mechanizm uwagi, normalizację warstwową i kwantyzację do czterech bitów."}
{"domain":"technical","text":"Uruchom polecenie `python3 -m pytest`, a następnie sprawdź kod wyjścia procesu."}
{"domain":"dialogue","text":"— Naprawdę tam byłeś? — zapytała. — Tak, ale nikomu o tym nie mów."}
{"domain":"dialogue","text":"Cześć! Możesz mi wysłać ten plik jeszcze dziś? Jasne, zrobię to po 18:00."}
{"domain":"web","text":"XD ale sztos 😅 wrzucisz linka na priv? #polska #AI"}
{"domain":"web","text":"Kontakt: użytkownik+test@example.org, https://żółw.pl/a?x=1&y=2"}
{"domain":"names_numbers","text":"Łódź, Bielsko-Biała, Świętochłowice, Szczebrzeszyn i Nowy Sącz."}
{"domain":"names_numbers","text":"Zamówienie PL-2026/08/26 kosztuje 12 345,67 zł, czyli około €2890."}
{"domain":"morphology","text":"dom, domu, domem, domowi, domy, domów, domami, domach; najnieprawdopodobniejszego"}
{"domain":"morphology","text":"robić, zrobię, zrobiłabyś, robilibyśmy, niezrobionymi, poprzerabiawszy"}
{"domain":"unicode_noise","text":"Emoji: 🧠🚀🇵🇱; alfabet: Ελληνικά, кириллица, العربية, 漢字."}
{"domain":"unicode_noise","text":"Spacje\t tabulator\nnowa linia; cudzysłowy „polskie”,  NBSP i wielokropek…"}