tokenizers / ola /quo_vadis_tokenizer.json
kacperwikiel's picture
Add contributor tokenizer artifacts and manifest
7832347
Raw History Blame
58.1 kB
{
"model": "byte-level BPE (od zera, warsztat)",
"opis": "Tokenizer wytrenowany na 'Quo Vadis' H. Sienkiewicza (Wolne Lektury).",
"vocab_size": 512,
"n_base_bytes": 256,
"n_merges": 256,
"merges": [
[
105,
101,
256
],
[
197,
130,
257
],
[
44,
32,
258
],
[
111,
32,
259
],
[
105,
32,
260
],
[
97,
32,
261
],
[
196,
153,
262
],
[
114,
122,
263
],
[
196,
133,
264
],
[
115,
122,
265
],
[
121,
32,
266
],
[
110,
256,
267
],
[
99,
122,
268
],
[
101,
32,
269
],
[
99,
104,
270
],
[
195,
179,
271
],
[
197,
188,
272
],
[
197,
155,
273
],
[
110,
105,
274
],
[
97,
257,
275
],
[
112,
111,
276
],
[
109,
32,
277
],
[
115,
116,
278
],
[
105,
262,
279
],
[
100,
122,
280
],
[
196,
135,
281
],
[
32,
119,
282
],
[
46,
32,
283
],
[
32,
122,
284
],
[
110,
97,
285
],
[
226,
128,
286
],
[
263,
101,
287
],
[
114,
111,
288
],
[
32,
115,
289
],
[
114,
97,
290
],
[
10,
10,
291
],
[
106,
101,
292
],
[
119,
105,
293
],
[
32,
109,
294
],
[
32,
112,
295
],
[
97,
107,
296
],
[
286,
148,
297
],
[
110,
261,
298
],
[
99,
105,
299
],
[
297,
32,
300
],
[
32,
116,
301
],
[
103,
259,
302
],
[
32,
100,
303
],
[
119,
256,
304
],
[
257,
111,
305
],
[
32,
111,
306
],
[
97,
108,
307
],
[
272,
269,
308
],
[
263,
121,
309
],
[
117,
265,
310
],
[
32,
260,
311
],
[
46,
291,
312
],
[
107,
116,
313
],
[
97,
114,
314
],
[
271,
119,
315
],
[
32,
276,
316
],
[
280,
256,
317
],
[
108,
105,
318
],
[
119,
97,
319
],
[
280,
105,
320
],
[
115,
279,
321
],
[
98,
121,
322
],
[
271,
114,
323
],
[
107,
111,
324
],
[
106,
264,
325
],
[
289,
279,
326
],
[
32,
267,
327
],
[
119,
121,
328
],
[
107,
97,
329
],
[
99,
256,
330
],
[
106,
296,
331
],
[
119,
111,
332
],
[
258,
308,
333
],
[
109,
105,
334
],
[
122,
97,
335
],
[
101,
277,
336
],
[
313,
323,
337
],
[
101,
106,
338
],
[
100,
111,
339
],
[
32,
292,
340
],
[
110,
121,
341
],
[
97,
116,
342
],
[
110,
111,
343
],
[
268,
121,
344
],
[
98,
266,
345
],
[
257,
97,
346
],
[
281,
32,
347
],
[
108,
101,
348
],
[
109,
117,
349
],
[
111,
100,
350
],
[
109,
256,
351
],
[
257,
32,
352
],
[
274,
99,
353
],
[
108,
260,
354
],
[
115,
107,
355
],
[
108,
117,
356
],
[
110,
264,
357
],
[
101,
302,
358
],
[
111,
98,
359
],
[
114,
121,
360
],
[
112,
287,
361
],
[
109,
258,
362
],
[
257,
261,
363
],
[
270,
32,
364
],
[
97,
258,
365
],
[
116,
121,
366
],
[
119,
265,
367
],
[
273,
299,
368
],
[
267,
32,
369
],
[
197,
132,
370
],
[
284,
97,
371
],
[
288,
122,
372
],
[
275,
32,
373
],
[
100,
97,
374
],
[
117,
115,
375
],
[
109,
260,
376
],
[
87,
105,
377
],
[
101,
116,
378
],
[
106,
310,
379
],
[
290,
122,
380
],
[
103,
111,
381
],
[
109,
111,
382
],
[
116,
259,
383
],
[
291,
300,
384
],
[
312,
300,
385
],
[
98,
111,
386
],
[
99,
101,
387
],
[
119,
32,
388
],
[
108,
97,
389
],
[
258,
337,
390
],
[
264,
32,
391
],
[
111,
110,
392
],
[
303,
259,
393
],
[
119,
275,
394
],
[
295,
287,
395
],
[
114,
271,
396
],
[
103,
105,
397
],
[
353,
379,
398
],
[
97,
110,
399
],
[
377,
398,
400
],
[
257,
259,
401
],
[
265,
268,
402
],
[
117,
32,
403
],
[
272,
121,
404
],
[
257,
117,
405
],
[
101,
114,
406
],
[
122,
32,
407
],
[
112,
97,
408
],
[
107,
105,
409
],
[
76,
105,
410
],
[
268,
97,
411
],
[
282,
121,
412
],
[
273,
281,
413
],
[
278,
97,
414
],
[
98,
256,
415
],
[
103,
100,
416
],
[
325,
99,
417
],
[
287,
107,
418
],
[
258,
261,
419
],
[
306,
100,
420
],
[
99,
260,
421
],
[
114,
101,
422
],
[
112,
256,
423
],
[
32,
285,
424
],
[
33,
32,
425
],
[
67,
104,
426
],
[
270,
111,
427
],
[
32,
298,
428
],
[
32,
117,
429
],
[
116,
101,
430
],
[
264,
99,
431
],
[
115,
105,
432
],
[
108,
107,
433
],
[
116,
97,
434
],
[
258,
307,
435
],
[
121,
277,
436
],
[
116,
111,
437
],
[
121,
273,
438
],
[
112,
309,
439
],
[
257,
266,
440
],
[
103,
305,
441
],
[
258,
331,
442
],
[
98,
105,
443
],
[
100,
259,
444
],
[
106,
97,
445
],
[
282,
32,
446
],
[
112,
105,
447
],
[
107,
117,
448
],
[
275,
261,
449
],
[
263,
266,
450
],
[
107,
256,
451
],
[
303,
111,
452
],
[
58,
384,
453
],
[
268,
101,
454
],
[
274,
310,
455
],
[
108,
269,
456
],
[
411,
115,
457
],
[
106,
117,
458
],
[
106,
32,
459
],
[
109,
97,
460
],
[
286,
166,
461
],
[
257,
121,
462
],
[
294,
111,
463
],
[
197,
186,
464
],
[
262,
32,
465
],
[
278,
111,
466
],
[
114,
262,
467
],
[
338,
32,
468
],
[
114,
117,
469
],
[
110,
260,
470
],
[
110,
269,
471
],
[
265,
121,
472
],
[
78,
256,
473
],
[
258,
260,
474
],
[
284,
32,
475
],
[
100,
32,
476
],
[
294,
105,
477
],
[
283,
80,
478
],
[
110,
266,
479
],
[
288,
455,
480
],
[
378,
480,
481
],
[
101,
110,
482
],
[
112,
101,
483
],
[
410,
397,
484
],
[
270,
293,
485
],
[
367,
266,
486
],
[
99,
259,
487
],
[
435,
269,
488
],
[
283,
87,
489
],
[
282,
105,
490
],
[
106,
269,
491
],
[
271,
293,
492
],
[
122,
121,
493
],
[
257,
326,
494
],
[
301,
121,
495
],
[
116,
296,
496
],
[
80,
481,
497
],
[
274,
261,
498
],
[
122,
285,
499
],
[
119,
279,
500
],
[
112,
290,
501
],
[
272,
101,
502
],
[
268,
266,
503
],
[
108,
261,
504
],
[
282,
256,
505
],
[
321,
32,
506
],
[
295,
309,
507
],
[
267,
106,
508
],
[
359,
256,
509
],
[
416,
266,
510
],
[
265,
101,
511
]
],
"vocab": {
"0": {
"bytes": [
0
],
"text": "\u0000"
},
"1": {
"bytes": [
1
],
"text": "\u0001"
},
"2": {
"bytes": [
2
],
"text": "\u0002"
},
"3": {
"bytes": [
3
],
"text": "\u0003"
},
"4": {
"bytes": [
4
],
"text": "\u0004"
},
"5": {
"bytes": [
5
],
"text": "\u0005"
},
"6": {
"bytes": [
6
],
"text": "\u0006"
},
"7": {
"bytes": [
7
],
"text": "\u0007"
},
"8": {
"bytes": [
8
],
"text": "\b"
},
"9": {
"bytes": [
9
],
"text": "\t"
},
"10": {
"bytes": [
10
],
"text": "\n"
},
"11": {
"bytes": [
11
],
"text": "\u000b"
},
"12": {
"bytes": [
12
],
"text": "\f"
},
"13": {
"bytes": [
13
],
"text": "\r"
},
"14": {
"bytes": [
14
],
"text": "\u000e"
},
"15": {
"bytes": [
15
],
"text": "\u000f"
},
"16": {
"bytes": [
16
],
"text": "\u0010"
},
"17": {
"bytes": [
17
],
"text": "\u0011"
},
"18": {
"bytes": [
18
],
"text": "\u0012"
},
"19": {
"bytes": [
19
],
"text": "\u0013"
},
"20": {
"bytes": [
20
],
"text": "\u0014"
},
"21": {
"bytes": [
21
],
"text": "\u0015"
},
"22": {
"bytes": [
22
],
"text": "\u0016"
},
"23": {
"bytes": [
23
],
"text": "\u0017"
},
"24": {
"bytes": [
24
],
"text": "\u0018"
},
"25": {
"bytes": [
25
],
"text": "\u0019"
},
"26": {
"bytes": [
26
],
"text": "\u001a"
},
"27": {
"bytes": [
27
],
"text": "\u001b"
},
"28": {
"bytes": [
28
],
"text": "\u001c"
},
"29": {
"bytes": [
29
],
"text": "\u001d"
},
"30": {
"bytes": [
30
],
"text": "\u001e"
},
"31": {
"bytes": [
31
],
"text": "\u001f"
},
"32": {
"bytes": [
32
],
"text": " "
},
"33": {
"bytes": [
33
],
"text": "!"
},
"34": {
"bytes": [
34
],
"text": "\""
},
"35": {
"bytes": [
35
],
"text": "#"
},
"36": {
"bytes": [
36
],
"text": "$"
},
"37": {
"bytes": [
37
],
"text": "%"
},
"38": {
"bytes": [
38
],
"text": "&"
},
"39": {
"bytes": [
39
],
"text": "'"
},
"40": {
"bytes": [
40
],
"text": "("
},
"41": {
"bytes": [
41
],
"text": ")"
},
"42": {
"bytes": [
42
],
"text": "*"
},
"43": {
"bytes": [
43
],
"text": "+"
},
"44": {
"bytes": [
44
],
"text": ","
},
"45": {
"bytes": [
45
],
"text": "-"
},
"46": {
"bytes": [
46
],
"text": "."
},
"47": {
"bytes": [
47
],
"text": "/"
},
"48": {
"bytes": [
48
],
"text": "0"
},
"49": {
"bytes": [
49
],
"text": "1"
},
"50": {
"bytes": [
50
],
"text": "2"
},
"51": {
"bytes": [
51
],
"text": "3"
},
"52": {
"bytes": [
52
],
"text": "4"
},
"53": {
"bytes": [
53
],
"text": "5"
},
"54": {
"bytes": [
54
],
"text": "6"
},
"55": {
"bytes": [
55
],
"text": "7"
},
"56": {
"bytes": [
56
],
"text": "8"
},
"57": {
"bytes": [
57
],
"text": "9"
},
"58": {
"bytes": [
58
],
"text": ":"
},
"59": {
"bytes": [
59
],
"text": ";"
},
"60": {
"bytes": [
60
],
"text": "<"
},
"61": {
"bytes": [
61
],
"text": "="
},
"62": {
"bytes": [
62
],
"text": ">"
},
"63": {
"bytes": [
63
],
"text": "?"
},
"64": {
"bytes": [
64
],
"text": "@"
},
"65": {
"bytes": [
65
],
"text": "A"
},
"66": {
"bytes": [
66
],
"text": "B"
},
"67": {
"bytes": [
67
],
"text": "C"
},
"68": {
"bytes": [
68
],
"text": "D"
},
"69": {
"bytes": [
69
],
"text": "E"
},
"70": {
"bytes": [
70
],
"text": "F"
},
"71": {
"bytes": [
71
],
"text": "G"
},
"72": {
"bytes": [
72
],
"text": "H"
},
"73": {
"bytes": [
73
],
"text": "I"
},
"74": {
"bytes": [
74
],
"text": "J"
},
"75": {
"bytes": [
75
],
"text": "K"
},
"76": {
"bytes": [
76
],
"text": "L"
},
"77": {
"bytes": [
77
],
"text": "M"
},
"78": {
"bytes": [
78
],
"text": "N"
},
"79": {
"bytes": [
79
],
"text": "O"
},
"80": {
"bytes": [
80
],
"text": "P"
},
"81": {
"bytes": [
81
],
"text": "Q"
},
"82": {
"bytes": [
82
],
"text": "R"
},
"83": {
"bytes": [
83
],
"text": "S"
},
"84": {
"bytes": [
84
],
"text": "T"
},
"85": {
"bytes": [
85
],
"text": "U"
},
"86": {
"bytes": [
86
],
"text": "V"
},
"87": {
"bytes": [
87
],
"text": "W"
},
"88": {
"bytes": [
88
],
"text": "X"
},
"89": {
"bytes": [
89
],
"text": "Y"
},
"90": {
"bytes": [
90
],
"text": "Z"
},
"91": {
"bytes": [
91
],
"text": "["
},
"92": {
"bytes": [
92
],
"text": "\\"
},
"93": {
"bytes": [
93
],
"text": "]"
},
"94": {
"bytes": [
94
],
"text": "^"
},
"95": {
"bytes": [
95
],
"text": "_"
},
"96": {
"bytes": [
96
],
"text": "`"
},
"97": {
"bytes": [
97
],
"text": "a"
},
"98": {
"bytes": [
98
],
"text": "b"
},
"99": {
"bytes": [
99
],
"text": "c"
},
"100": {
"bytes": [
100
],
"text": "d"
},
"101": {
"bytes": [
101
],
"text": "e"
},
"102": {
"bytes": [
102
],
"text": "f"
},
"103": {
"bytes": [
103
],
"text": "g"
},
"104": {
"bytes": [
104
],
"text": "h"
},
"105": {
"bytes": [
105
],
"text": "i"
},
"106": {
"bytes": [
106
],
"text": "j"
},
"107": {
"bytes": [
107
],
"text": "k"
},
"108": {
"bytes": [
108
],
"text": "l"
},
"109": {
"bytes": [
109
],
"text": "m"
},
"110": {
"bytes": [
110
],
"text": "n"
},
"111": {
"bytes": [
111
],
"text": "o"
},
"112": {
"bytes": [
112
],
"text": "p"
},
"113": {
"bytes": [
113
],
"text": "q"
},
"114": {
"bytes": [
114
],
"text": "r"
},
"115": {
"bytes": [
115
],
"text": "s"
},
"116": {
"bytes": [
116
],
"text": "t"
},
"117": {
"bytes": [
117
],
"text": "u"
},
"118": {
"bytes": [
118
],
"text": "v"
},
"119": {
"bytes": [
119
],
"text": "w"
},
"120": {
"bytes": [
120
],
"text": "x"
},
"121": {
"bytes": [
121
],
"text": "y"
},
"122": {
"bytes": [
122
],
"text": "z"
},
"123": {
"bytes": [
123
],
"text": "{"
},
"124": {
"bytes": [
124
],
"text": "|"
},
"125": {
"bytes": [
125
],
"text": "}"
},
"126": {
"bytes": [
126
],
"text": "~"
},
"127": {
"bytes": [
127
],
"text": ""
},
"128": {
"bytes": [
128
],
"text": "�"
},
"129": {
"bytes": [
129
],
"text": "�"
},
"130": {
"bytes": [
130
],
"text": "�"
},
"131": {
"bytes": [
131
],
"text": "�"
},
"132": {
"bytes": [
132
],
"text": "�"
},
"133": {
"bytes": [
133
],
"text": "�"
},
"134": {
"bytes": [
134
],
"text": "�"
},
"135": {
"bytes": [
135
],
"text": "�"
},
"136": {
"bytes": [
136
],
"text": "�"
},
"137": {
"bytes": [
137
],
"text": "�"
},
"138": {
"bytes": [
138
],
"text": "�"
},
"139": {
"bytes": [
139
],
"text": "�"
},
"140": {
"bytes": [
140
],
"text": "�"
},
"141": {
"bytes": [
141
],
"text": "�"
},
"142": {
"bytes": [
142
],
"text": "�"
},
"143": {
"bytes": [
143
],
"text": "�"
},
"144": {
"bytes": [
144
],
"text": "�"
},
"145": {
"bytes": [
145
],
"text": "�"
},
"146": {
"bytes": [
146
],
"text": "�"
},
"147": {
"bytes": [
147
],
"text": "�"
},
"148": {
"bytes": [
148
],
"text": "�"
},
"149": {
"bytes": [
149
],
"text": "�"
},
"150": {
"bytes": [
150
],
"text": "�"
},
"151": {
"bytes": [
151
],
"text": "�"
},
"152": {
"bytes": [
152
],
"text": "�"
},
"153": {
"bytes": [
153
],
"text": "�"
},
"154": {
"bytes": [
154
],
"text": "�"
},
"155": {
"bytes": [
155
],
"text": "�"
},
"156": {
"bytes": [
156
],
"text": "�"
},
"157": {
"bytes": [
157
],
"text": "�"
},
"158": {
"bytes": [
158
],
"text": "�"
},
"159": {
"bytes": [
159
],
"text": "�"
},
"160": {
"bytes": [
160
],
"text": "�"
},
"161": {
"bytes": [
161
],
"text": "�"
},
"162": {
"bytes": [
162
],
"text": "�"
},
"163": {
"bytes": [
163
],
"text": "�"
},
"164": {
"bytes": [
164
],
"text": "�"
},
"165": {
"bytes": [
165
],
"text": "�"
},
"166": {
"bytes": [
166
],
"text": "�"
},
"167": {
"bytes": [
167
],
"text": "�"
},
"168": {
"bytes": [
168
],
"text": "�"
},
"169": {
"bytes": [
169
],
"text": "�"
},
"170": {
"bytes": [
170
],
"text": "�"
},
"171": {
"bytes": [
171
],
"text": "�"
},
"172": {
"bytes": [
172
],
"text": "�"
},
"173": {
"bytes": [
173
],
"text": "�"
},
"174": {
"bytes": [
174
],
"text": "�"
},
"175": {
"bytes": [
175
],
"text": "�"
},
"176": {
"bytes": [
176
],
"text": "�"
},
"177": {
"bytes": [
177
],
"text": "�"
},
"178": {
"bytes": [
178
],
"text": "�"
},
"179": {
"bytes": [
179
],
"text": "�"
},
"180": {
"bytes": [
180
],
"text": "�"
},
"181": {
"bytes": [
181
],
"text": "�"
},
"182": {
"bytes": [
182
],
"text": "�"
},
"183": {
"bytes": [
183
],
"text": "�"
},
"184": {
"bytes": [
184
],
"text": "�"
},
"185": {
"bytes": [
185
],
"text": "�"
},
"186": {
"bytes": [
186
],
"text": "�"
},
"187": {
"bytes": [
187
],
"text": "�"
},
"188": {
"bytes": [
188
],
"text": "�"
},
"189": {
"bytes": [
189
],
"text": "�"
},
"190": {
"bytes": [
190
],
"text": "�"
},
"191": {
"bytes": [
191
],
"text": "�"
},
"192": {
"bytes": [
192
],
"text": "�"
},
"193": {
"bytes": [
193
],
"text": "�"
},
"194": {
"bytes": [
194
],
"text": "�"
},
"195": {
"bytes": [
195
],
"text": "�"
},
"196": {
"bytes": [
196
],
"text": "�"
},
"197": {
"bytes": [
197
],
"text": "�"
},
"198": {
"bytes": [
198
],
"text": "�"
},
"199": {
"bytes": [
199
],
"text": "�"
},
"200": {
"bytes": [
200
],
"text": "�"
},
"201": {
"bytes": [
201
],
"text": "�"
},
"202": {
"bytes": [
202
],
"text": "�"
},
"203": {
"bytes": [
203
],
"text": "�"
},
"204": {
"bytes": [
204
],
"text": "�"
},
"205": {
"bytes": [
205
],
"text": "�"
},
"206": {
"bytes": [
206
],
"text": "�"
},
"207": {
"bytes": [
207
],
"text": "�"
},
"208": {
"bytes": [
208
],
"text": "�"
},
"209": {
"bytes": [
209
],
"text": "�"
},
"210": {
"bytes": [
210
],
"text": "�"
},
"211": {
"bytes": [
211
],
"text": "�"
},
"212": {
"bytes": [
212
],
"text": "�"
},
"213": {
"bytes": [
213
],
"text": "�"
},
"214": {
"bytes": [
214
],
"text": "�"
},
"215": {
"bytes": [
215
],
"text": "�"
},
"216": {
"bytes": [
216
],
"text": "�"
},
"217": {
"bytes": [
217
],
"text": "�"
},
"218": {
"bytes": [
218
],
"text": "�"
},
"219": {
"bytes": [
219
],
"text": "�"
},
"220": {
"bytes": [
220
],
"text": "�"
},
"221": {
"bytes": [
221
],
"text": "�"
},
"222": {
"bytes": [
222
],
"text": "�"
},
"223": {
"bytes": [
223
],
"text": "�"
},
"224": {
"bytes": [
224
],
"text": "�"
},
"225": {
"bytes": [
225
],
"text": "�"
},
"226": {
"bytes": [
226
],
"text": "�"
},
"227": {
"bytes": [
227
],
"text": "�"
},
"228": {
"bytes": [
228
],
"text": "�"
},
"229": {
"bytes": [
229
],
"text": "�"
},
"230": {
"bytes": [
230
],
"text": "�"
},
"231": {
"bytes": [
231
],
"text": "�"
},
"232": {
"bytes": [
232
],
"text": "�"
},
"233": {
"bytes": [
233
],
"text": "�"
},
"234": {
"bytes": [
234
],
"text": "�"
},
"235": {
"bytes": [
235
],
"text": "�"
},
"236": {
"bytes": [
236
],
"text": "�"
},
"237": {
"bytes": [
237
],
"text": "�"
},
"238": {
"bytes": [
238
],
"text": "�"
},
"239": {
"bytes": [
239
],
"text": "�"
},
"240": {
"bytes": [
240
],
"text": "�"
},
"241": {
"bytes": [
241
],
"text": "�"
},
"242": {
"bytes": [
242
],
"text": "�"
},
"243": {
"bytes": [
243
],
"text": "�"
},
"244": {
"bytes": [
244
],
"text": "�"
},
"245": {
"bytes": [
245
],
"text": "�"
},
"246": {
"bytes": [
246
],
"text": "�"
},
"247": {
"bytes": [
247
],
"text": "�"
},
"248": {
"bytes": [
248
],
"text": "�"
},
"249": {
"bytes": [
249
],
"text": "�"
},
"250": {
"bytes": [
250
],
"text": "�"
},
"251": {
"bytes": [
251
],
"text": "�"
},
"252": {
"bytes": [
252
],
"text": "�"
},
"253": {
"bytes": [
253
],
"text": "�"
},
"254": {
"bytes": [
254
],
"text": "�"
},
"255": {
"bytes": [
255
],
"text": "�"
},
"256": {
"bytes": [
105,
101
],
"text": "ie"
},
"257": {
"bytes": [
197,
130
],
"text": "ł"
},
"258": {
"bytes": [
44,
32
],
"text": ", "
},
"259": {
"bytes": [
111,
32
],
"text": "o "
},
"260": {
"bytes": [
105,
32
],
"text": "i "
},
"261": {
"bytes": [
97,
32
],
"text": "a "
},
"262": {
"bytes": [
196,
153
],
"text": "ę"
},
"263": {
"bytes": [
114,
122
],
"text": "rz"
},
"264": {
"bytes": [
196,
133
],
"text": "ą"
},
"265": {
"bytes": [
115,
122
],
"text": "sz"
},
"266": {
"bytes": [
121,
32
],
"text": "y "
},
"267": {
"bytes": [
110,
105,
101
],
"text": "nie"
},
"268": {
"bytes": [
99,
122
],
"text": "cz"
},
"269": {
"bytes": [
101,
32
],
"text": "e "
},
"270": {
"bytes": [
99,
104
],
"text": "ch"
},
"271": {
"bytes": [
195,
179
],
"text": "ó"
},
"272": {
"bytes": [
197,
188
],
"text": "ż"
},
"273": {
"bytes": [
197,
155
],
"text": "ś"
},
"274": {
"bytes": [
110,
105
],
"text": "ni"
},
"275": {
"bytes": [
97,
197,
130
],
"text": "ał"
},
"276": {
"bytes": [
112,
111
],
"text": "po"
},
"277": {
"bytes": [
109,
32
],
"text": "m "
},
"278": {
"bytes": [
115,
116
],
"text": "st"
},
"279": {
"bytes": [
105,
196,
153
],
"text": "ię"
},
"280": {
"bytes": [
100,
122
],
"text": "dz"
},
"281": {
"bytes": [
196,
135
],
"text": "ć"
},
"282": {
"bytes": [
32,
119
],
"text": " w"
},
"283": {
"bytes": [
46,
32
],
"text": ". "
},
"284": {
"bytes": [
32,
122
],
"text": " z"
},
"285": {
"bytes": [
110,
97
],
"text": "na"
},
"286": {
"bytes": [
226,
128
],
"text": "�"
},
"287": {
"bytes": [
114,
122,
101
],
"text": "rze"
},
"288": {
"bytes": [
114,
111
],
"text": "ro"
},
"289": {
"bytes": [
32,
115
],
"text": " s"
},
"290": {
"bytes": [
114,
97
],
"text": "ra"
},
"291": {
"bytes": [
10,
10
],
"text": "\n\n"
},
"292": {
"bytes": [
106,
101
],
"text": "je"
},
"293": {
"bytes": [
119,
105
],
"text": "wi"
},
"294": {
"bytes": [
32,
109
],
"text": " m"
},
"295": {
"bytes": [
32,
112
],
"text": " p"
},
"296": {
"bytes": [
97,
107
],
"text": "ak"
},
"297": {
"bytes": [
226,
128,
148
],
"text": "—"
},
"298": {
"bytes": [
110,
97,
32
],
"text": "na "
},
"299": {
"bytes": [
99,
105
],
"text": "ci"
},
"300": {
"bytes": [
226,
128,
148,
32
],
"text": "— "
},
"301": {
"bytes": [
32,
116
],
"text": " t"
},
"302": {
"bytes": [
103,
111,
32
],
"text": "go "
},
"303": {
"bytes": [
32,
100
],
"text": " d"
},
"304": {
"bytes": [
119,
105,
101
],
"text": "wie"
},
"305": {
"bytes": [
197,
130,
111
],
"text": "ło"
},
"306": {
"bytes": [
32,
111
],
"text": " o"
},
"307": {
"bytes": [
97,
108
],
"text": "al"
},
"308": {
"bytes": [
197,
188,
101,
32
],
"text": "że "
},
"309": {
"bytes": [
114,
122,
121
],
"text": "rzy"
},
"310": {
"bytes": [
117,
115,
122
],
"text": "usz"
},
"311": {
"bytes": [
32,
105,
32
],
"text": " i "
},
"312": {
"bytes": [
46,
10,
10
],
"text": ".\n\n"
},
"313": {
"bytes": [
107,
116
],
"text": "kt"
},
"314": {
"bytes": [
97,
114
],
"text": "ar"
},
"315": {
"bytes": [
195,
179,
119
],
"text": "ów"
},
"316": {
"bytes": [
32,
112,
111
],
"text": " po"
},
"317": {
"bytes": [
100,
122,
105,
101
],
"text": "dzie"
},
"318": {
"bytes": [
108,
105
],
"text": "li"
},
"319": {
"bytes": [
119,
97
],
"text": "wa"
},
"320": {
"bytes": [
100,
122,
105
],
"text": "dzi"
},
"321": {
"bytes": [
115,
105,
196,
153
],
"text": "się"
},
"322": {
"bytes": [
98,
121
],
"text": "by"
},
"323": {
"bytes": [
195,
179,
114
],
"text": "ór"
},
"324": {
"bytes": [
107,
111
],
"text": "ko"
},
"325": {
"bytes": [
106,
196,
133
],
"text": "ją"
},
"326": {
"bytes": [
32,
115,
105,
196,
153
],
"text": " się"
},
"327": {
"bytes": [
32,
110,
105,
101
],
"text": " nie"
},
"328": {
"bytes": [
119,
121
],
"text": "wy"
},
"329": {
"bytes": [
107,
97
],
"text": "ka"
},
"330": {
"bytes": [
99,
105,
101
],
"text": "cie"
},
"331": {
"bytes": [
106,
97,
107
],
"text": "jak"
},
"332": {
"bytes": [
119,
111
],
"text": "wo"
},
"333": {
"bytes": [
44,
32,
197,
188,
101,
32
],
"text": ", że "
},
"334": {
"bytes": [
109,
105
],
"text": "mi"
},
"335": {
"bytes": [
122,
97
],
"text": "za"
},
"336": {
"bytes": [
101,
109,
32
],
"text": "em "
},
"337": {
"bytes": [
107,
116,
195,
179,
114
],
"text": "któr"
},
"338": {
"bytes": [
101,
106
],
"text": "ej"
},
"339": {
"bytes": [
100,
111
],
"text": "do"
},
"340": {
"bytes": [
32,
106,
101
],
"text": " je"
},
"341": {
"bytes": [
110,
121
],
"text": "ny"
},
"342": {
"bytes": [
97,
116
],
"text": "at"
},
"343": {
"bytes": [
110,
111
],
"text": "no"
},
"344": {
"bytes": [
99,
122,
121
],
"text": "czy"
},
"345": {
"bytes": [
98,
121,
32
],
"text": "by "
},
"346": {
"bytes": [
197,
130,
97
],
"text": "ła"
},
"347": {
"bytes": [
196,
135,
32
],
"text": "ć "
},
"348": {
"bytes": [
108,
101
],
"text": "le"
},
"349": {
"bytes": [
109,
117
],
"text": "mu"
},
"350": {
"bytes": [
111,
100
],
"text": "od"
},
"351": {
"bytes": [
109,
105,
101
],
"text": "mie"
},
"352": {
"bytes": [
197,
130,
32
],
"text": "ł "
},
"353": {
"bytes": [
110,
105,
99
],
"text": "nic"
},
"354": {
"bytes": [
108,
105,
32
],
"text": "li "
},
"355": {
"bytes": [
115,
107
],
"text": "sk"
},
"356": {
"bytes": [
108,
117
],
"text": "lu"
},
"357": {
"bytes": [
110,
196,
133
],
"text": "ną"
},
"358": {
"bytes": [
101,
103,
111,
32
],
"text": "ego "
},
"359": {
"bytes": [
111,
98
],
"text": "ob"
},
"360": {
"bytes": [
114,
121
],
"text": "ry"
},
"361": {
"bytes": [
112,
114,
122,
101
],
"text": "prze"
},
"362": {
"bytes": [
109,
44,
32
],
"text": "m, "
},
"363": {
"bytes": [
197,
130,
97,
32
],
"text": "ła "
},
"364": {
"bytes": [
99,
104,
32
],
"text": "ch "
},
"365": {
"bytes": [
97,
44,
32
],
"text": "a, "
},
"366": {
"bytes": [
116,
121
],
"text": "ty"
},
"367": {
"bytes": [
119,
115,
122
],
"text": "wsz"
},
"368": {
"bytes": [
197,
155,
99,
105
],
"text": "ści"
},
"369": {
"bytes": [
110,
105,
101,
32
],
"text": "nie "
},
"370": {
"bytes": [
197,
132
],
"text": "ń"
},
"371": {
"bytes": [
32,
122,
97
],
"text": " za"
},
"372": {
"bytes": [
114,
111,
122
],
"text": "roz"
},
"373": {
"bytes": [
97,
197,
130,
32
],
"text": "ał "
},
"374": {
"bytes": [
100,
97
],
"text": "da"
},
"375": {
"bytes": [
117,
115
],
"text": "us"
},
"376": {
"bytes": [
109,
105,
32
],
"text": "mi "
},
"377": {
"bytes": [
87,
105
],
"text": "Wi"
},
"378": {
"bytes": [
101,
116
],
"text": "et"
},
"379": {
"bytes": [
106,
117,
115,
122
],
"text": "jusz"
},
"380": {
"bytes": [
114,
97,
122
],
"text": "raz"
},
"381": {
"bytes": [
103,
111
],
"text": "go"
},
"382": {
"bytes": [
109,
111
],
"text": "mo"
},
"383": {
"bytes": [
116,
111,
32
],
"text": "to "
},
"384": {
"bytes": [
10,
10,
226,
128,
148,
32
],
"text": "\n\n— "
},
"385": {
"bytes": [
46,
10,
10,
226,
128,
148,
32
],
"text": ".\n\n— "
},
"386": {
"bytes": [
98,
111
],
"text": "bo"
},
"387": {
"bytes": [
99,
101
],
"text": "ce"
},
"388": {
"bytes": [
119,
32
],
"text": "w "
},
"389": {
"bytes": [
108,
97
],
"text": "la"
},
"390": {
"bytes": [
44,
32,
107,
116,
195,
179,
114
],
"text": ", któr"
},
"391": {
"bytes": [
196,
133,
32
],
"text": "ą "
},
"392": {
"bytes": [
111,
110
],
"text": "on"
},
"393": {
"bytes": [
32,
100,
111,
32
],
"text": " do "
},
"394": {
"bytes": [
119,
97,
197,
130
],
"text": "wał"
},
"395": {
"bytes": [
32,
112,
114,
122,
101
],
"text": " prze"
},
"396": {
"bytes": [
114,
195,
179
],
"text": "ró"
},
"397": {
"bytes": [
103,
105
],
"text": "gi"
},
"398": {
"bytes": [
110,
105,
99,
106,
117,
115,
122
],
"text": "nicjusz"
},
"399": {
"bytes": [
97,
110
],
"text": "an"
},
"400": {
"bytes": [
87,
105,
110,
105,
99,
106,
117,
115,
122
],
"text": "Winicjusz"
},
"401": {
"bytes": [
197,
130,
111,
32
],
"text": "ło "
},
"402": {
"bytes": [
115,
122,
99,
122
],
"text": "szcz"
},
"403": {
"bytes": [
117,
32
],
"text": "u "
},
"404": {
"bytes": [
197,
188,
121
],
"text": "ży"
},
"405": {
"bytes": [
197,
130,
117
],
"text": "łu"
},
"406": {
"bytes": [
101,
114
],
"text": "er"
},
"407": {
"bytes": [
122,
32
],
"text": "z "
},
"408": {
"bytes": [
112,
97
],
"text": "pa"
},
"409": {
"bytes": [
107,
105
],
"text": "ki"
},
"410": {
"bytes": [
76,
105
],
"text": "Li"
},
"411": {
"bytes": [
99,
122,
97
],
"text": "cza"
},
"412": {
"bytes": [
32,
119,
121
],
"text": " wy"
},
"413": {
"bytes": [
197,
155,
196,
135
],
"text": "ść"
},
"414": {
"bytes": [
115,
116,
97
],
"text": "sta"
},
"415": {
"bytes": [
98,
105,
101
],
"text": "bie"
},
"416": {
"bytes": [
103,
100
],
"text": "gd"
},
"417": {
"bytes": [
106,
196,
133,
99
],
"text": "jąc"
},
"418": {
"bytes": [
114,
122,
101,
107
],
"text": "rzek"
},
"419": {
"bytes": [
44,
32,
97,
32
],
"text": ", a "
},
"420": {
"bytes": [
32,
111,
100
],
"text": " od"
},
"421": {
"bytes": [
99,
105,
32
],
"text": "ci "
},
"422": {
"bytes": [
114,
101
],
"text": "re"
},
"423": {
"bytes": [
112,
105,
101
],
"text": "pie"
},
"424": {
"bytes": [
32,
110,
97
],
"text": " na"
},
"425": {
"bytes": [
33,
32
],
"text": "! "
},
"426": {
"bytes": [
67,
104
],
"text": "Ch"
},
"427": {
"bytes": [
99,
104,
111
],
"text": "cho"
},
"428": {
"bytes": [
32,
110,
97,
32
],
"text": " na "
},
"429": {
"bytes": [
32,
117
],
"text": " u"
},
"430": {
"bytes": [
116,
101
],
"text": "te"
},
"431": {
"bytes": [
196,
133,
99
],
"text": "ąc"
},
"432": {
"bytes": [
115,
105
],
"text": "si"
},
"433": {
"bytes": [
108,
107
],
"text": "lk"
},
"434": {
"bytes": [
116,
97
],
"text": "ta"
},
"435": {
"bytes": [
44,
32,
97,
108
],
"text": ", al"
},
"436": {
"bytes": [
121,
109,
32
],
"text": "ym "
},
"437": {
"bytes": [
116,
111
],
"text": "to"
},
"438": {
"bytes": [
121,
197,
155
],
"text": "yś"
},
"439": {
"bytes": [
112,
114,
122,
121
],
"text": "przy"
},
"440": {
"bytes": [
197,
130,
121,
32
],
"text": "ły "
},
"441": {
"bytes": [
103,
197,
130,
111
],
"text": "gło"
},
"442": {
"bytes": [
44,
32,
106,
97,
107
],
"text": ", jak"
},
"443": {
"bytes": [
98,
105
],
"text": "bi"
},
"444": {
"bytes": [
100,
111,
32
],
"text": "do "
},
"445": {
"bytes": [
106,
97
],
"text": "ja"
},
"446": {
"bytes": [
32,
119,
32
],
"text": " w "
},
"447": {
"bytes": [
112,
105
],
"text": "pi"
},
"448": {
"bytes": [
107,
117
],
"text": "ku"
},
"449": {
"bytes": [
97,
197,
130,
97,
32
],
"text": "ała "
},
"450": {
"bytes": [
114,
122,
121,
32
],
"text": "rzy "
},
"451": {
"bytes": [
107,
105,
101
],
"text": "kie"
},
"452": {
"bytes": [
32,
100,
111
],
"text": " do"
},
"453": {
"bytes": [
58,
10,
10,
226,
128,
148,
32
],
"text": ":\n\n— "
},
"454": {
"bytes": [
99,
122,
101
],
"text": "cze"
},
"455": {
"bytes": [
110,
105,
117,
115,
122
],
"text": "niusz"
},
"456": {
"bytes": [
108,
101,
32
],
"text": "le "
},
"457": {
"bytes": [
99,
122,
97,
115
],
"text": "czas"
},
"458": {
"bytes": [
106,
117
],
"text": "ju"
},
"459": {
"bytes": [
106,
32
],
"text": "j "
},
"460": {
"bytes": [
109,
97
],
"text": "ma"
},
"461": {
"bytes": [
226,
128,
166
],
"text": "…"
},
"462": {
"bytes": [
197,
130,
121
],
"text": "ły"
},
"463": {
"bytes": [
32,
109,
111
],
"text": " mo"
},
"464": {
"bytes": [
197,
186
],
"text": "ź"
},
"465": {
"bytes": [
196,
153,
32
],
"text": "ę "
},
"466": {
"bytes": [
115,
116,
111
],
"text": "sto"
},
"467": {
"bytes": [
114,
196,
153
],
"text": "rę"
},
"468": {
"bytes": [
101,
106,
32
],
"text": "ej "
},
"469": {
"bytes": [
114,
117
],
"text": "ru"
},
"470": {
"bytes": [
110,
105,
32
],
"text": "ni "
},
"471": {
"bytes": [
110,
101,
32
],
"text": "ne "
},
"472": {
"bytes": [
115,
122,
121
],
"text": "szy"
},
"473": {
"bytes": [
78,
105,
101
],
"text": "Nie"
},
"474": {
"bytes": [
44,
32,
105,
32
],
"text": ", i "
},
"475": {
"bytes": [
32,
122,
32
],
"text": " z "
},
"476": {
"bytes": [
100,
32
],
"text": "d "
},
"477": {
"bytes": [
32,
109,
105
],
"text": " mi"
},
"478": {
"bytes": [
46,
32,
80
],
"text": ". P"
},
"479": {
"bytes": [
110,
121,
32
],
"text": "ny "
},
"480": {
"bytes": [
114,
111,
110,
105,
117,
115,
122
],
"text": "roniusz"
},
"481": {
"bytes": [
101,
116,
114,
111,
110,
105,
117,
115,
122
],
"text": "etroniusz"
},
"482": {
"bytes": [
101,
110
],
"text": "en"
},
"483": {
"bytes": [
112,
101
],
"text": "pe"
},
"484": {
"bytes": [
76,
105,
103,
105
],
"text": "Ligi"
},
"485": {
"bytes": [
99,
104,
119,
105
],
"text": "chwi"
},
"486": {
"bytes": [
119,
115,
122,
121,
32
],
"text": "wszy "
},
"487": {
"bytes": [
99,
111,
32
],
"text": "co "
},
"488": {
"bytes": [
44,
32,
97,
108,
101,
32
],
"text": ", ale "
},
"489": {
"bytes": [
46,
32,
87
],
"text": ". W"
},
"490": {
"bytes": [
32,
119,
105
],
"text": " wi"
},
"491": {
"bytes": [
106,
101,
32
],
"text": "je "
},
"492": {
"bytes": [
195,
179,
119,
105
],
"text": "ówi"
},
"493": {
"bytes": [
122,
121
],
"text": "zy"
},
"494": {
"bytes": [
197,
130,
32,
115,
105,
196,
153
],
"text": "ł się"
},
"495": {
"bytes": [
32,
116,
121
],
"text": " ty"
},
"496": {
"bytes": [
116,
97,
107
],
"text": "tak"
},
"497": {
"bytes": [
80,
101,
116,
114,
111,
110,
105,
117,
115,
122
],
"text": "Petroniusz"
},
"498": {
"bytes": [
110,
105,
97,
32
],
"text": "nia "
},
"499": {
"bytes": [
122,
110,
97
],
"text": "zna"
},
"500": {
"bytes": [
119,
105,
196,
153
],
"text": "wię"
},
"501": {
"bytes": [
112,
114,
97
],
"text": "pra"
},
"502": {
"bytes": [
197,
188,
101
],
"text": "że"
},
"503": {
"bytes": [
99,
122,
121,
32
],
"text": "czy "
},
"504": {
"bytes": [
108,
97,
32
],
"text": "la "
},
"505": {
"bytes": [
32,
119,
105,
101
],
"text": " wie"
},
"506": {
"bytes": [
115,
105,
196,
153,
32
],
"text": "się "
},
"507": {
"bytes": [
32,
112,
114,
122,
121
],
"text": " przy"
},
"508": {
"bytes": [
110,
105,
101,
106
],
"text": "niej"
},
"509": {
"bytes": [
111,
98,
105,
101
],
"text": "obie"
},
"510": {
"bytes": [
103,
100,
121,
32
],
"text": "gdy "
},
"511": {
"bytes": [
115,
122,
101
],
"text": "sze"
}
},
"training": {
"corpus": "Quo Vadis (Henryk Sienkiewicz), Wolne Lektury, public domain",
"train_chars": 1046738,
"heldout_chars": 40000
},
"eval_heldout": {
"chars": 40000,
"words": 6261,
"bytes": 43182,
"tokens": 20741,
"fertility_tok_per_word": 3.3127,
"chars_per_token": 1.9285,
"roundtrip_ok": true
}
}