tokenizers / ola /diverse_tokenizer.json
kacperwikiel's picture
Add contributor tokenizer artifacts and manifest
7832347
Raw History Blame
57.2 kB
{
"model": "byte-level BPE (od zera, warsztat)",
"opis": "Tokenizer wytrenowany na probce polskiej Wikipedii (10 artykulow, diverse).",
"vocab_size": 512,
"n_base_bytes": 256,
"n_merges": 256,
"merges": [
[
105,
101,
256
],
[
97,
32,
257
],
[
197,
130,
258
],
[
105,
32,
259
],
[
111,
119,
260
],
[
115,
116,
261
],
[
44,
32,
262
],
[
111,
32,
263
],
[
99,
104,
264
],
[
121,
32,
265
],
[
195,
179,
266
],
[
110,
105,
267
],
[
196,
153,
268
],
[
196,
133,
269
],
[
99,
122,
270
],
[
119,
32,
271
],
[
114,
97,
272
],
[
46,
32,
273
],
[
114,
122,
274
],
[
115,
107,
275
],
[
101,
32,
276
],
[
112,
111,
277
],
[
256,
32,
278
],
[
114,
111,
279
],
[
115,
122,
280
],
[
97,
110,
281
],
[
97,
114,
282
],
[
264,
32,
283
],
[
109,
32,
284
],
[
197,
155,
285
],
[
110,
97,
286
],
[
117,
32,
287
],
[
100,
122,
288
],
[
197,
188,
289
],
[
97,
258,
290
],
[
108,
105,
291
],
[
122,
32,
292
],
[
111,
110,
293
],
[
105,
268,
294
],
[
106,
32,
295
],
[
274,
101,
296
],
[
269,
32,
297
],
[
114,
101,
298
],
[
110,
257,
299
],
[
116,
101,
300
],
[
122,
97,
301
],
[
61,
61,
302
],
[
116,
121,
303
],
[
226,
128,
304
],
[
111,
100,
305
],
[
108,
101,
306
],
[
110,
256,
307
],
[
109,
105,
308
],
[
103,
263,
309
],
[
197,
132,
310
],
[
99,
106,
311
],
[
110,
101,
312
],
[
266,
271,
313
],
[
121,
283,
314
],
[
97,
119,
315
],
[
106,
101,
316
],
[
110,
278,
317
],
[
111,
114,
318
],
[
115,
294,
319
],
[
111,
108,
320
],
[
119,
121,
321
],
[
97,
116,
322
],
[
112,
296,
323
],
[
10,
10,
324
],
[
99,
105,
325
],
[
97,
108,
326
],
[
97,
100,
327
],
[
319,
32,
328
],
[
119,
111,
329
],
[
110,
111,
330
],
[
97,
107,
331
],
[
267,
257,
332
],
[
275,
256,
333
],
[
107,
111,
334
],
[
266,
119,
335
],
[
101,
114,
336
],
[
107,
116,
337
],
[
119,
105,
338
],
[
109,
256,
339
],
[
111,
98,
340
],
[
258,
32,
341
],
[
274,
121,
342
],
[
101,
110,
343
],
[
105,
110,
344
],
[
275,
105,
345
],
[
304,
147,
346
],
[
196,
135,
347
],
[
269,
99,
348
],
[
268,
32,
349
],
[
111,
107,
350
],
[
100,
263,
351
],
[
107,
260,
352
],
[
117,
100,
353
],
[
110,
121,
354
],
[
347,
32,
355
],
[
49,
57,
356
],
[
99,
107,
357
],
[
97,
109,
358
],
[
273,
87,
359
],
[
46,
10,
360
],
[
114,
121,
361
],
[
97,
310,
362
],
[
80,
320,
363
],
[
100,
32,
364
],
[
107,
287,
365
],
[
270,
101,
366
],
[
116,
117,
367
],
[
107,
32,
368
],
[
119,
256,
369
],
[
97,
106,
370
],
[
112,
260,
371
],
[
288,
256,
372
],
[
258,
257,
373
],
[
103,
111,
374
],
[
282,
280,
375
],
[
288,
105,
376
],
[
98,
121,
377
],
[
111,
261,
378
],
[
110,
276,
379
],
[
97,
262,
380
],
[
110,
265,
381
],
[
266,
114,
382
],
[
114,
266,
383
],
[
261,
119,
384
],
[
290,
32,
385
],
[
103,
105,
386
],
[
375,
315,
387
],
[
99,
101,
388
],
[
272,
292,
389
],
[
260,
101,
390
],
[
285,
99,
391
],
[
114,
117,
392
],
[
117,
106,
393
],
[
97,
115,
394
],
[
270,
121,
395
],
[
99,
121,
396
],
[
260,
281,
397
],
[
111,
115,
398
],
[
107,
259,
399
],
[
110,
314,
400
],
[
73,
73,
401
],
[
115,
112,
402
],
[
111,
112,
403
],
[
346,
32,
404
],
[
50,
48,
405
],
[
258,
265,
406
],
[
260,
97,
407
],
[
285,
325,
408
],
[
97,
283,
409
],
[
122,
101,
410
],
[
122,
121,
411
],
[
277,
100,
412
],
[
302,
61,
413
],
[
311,
259,
414
],
[
359,
32,
415
],
[
111,
116,
416
],
[
111,
389,
417
],
[
286,
106,
418
],
[
98,
105,
419
],
[
329,
106,
420
],
[
41,
32,
421
],
[
261,
32,
422
],
[
279,
122,
423
],
[
316,
100,
424
],
[
115,
105,
425
],
[
87,
387,
426
],
[
258,
263,
427
],
[
107,
257,
428
],
[
337,
382,
429
],
[
99,
265,
430
],
[
323,
292,
431
],
[
258,
97,
432
],
[
41,
262,
433
],
[
289,
32,
434
],
[
275,
257,
435
],
[
391,
259,
436
],
[
75,
272,
437
],
[
279,
100,
438
],
[
116,
32,
439
],
[
324,
10,
440
],
[
279,
112,
441
],
[
107,
105,
442
],
[
290,
257,
443
],
[
261,
121,
444
],
[
48,
32,
445
],
[
107,
117,
446
],
[
107,
293,
447
],
[
275,
259,
448
],
[
97,
267,
449
],
[
256,
114,
450
],
[
273,
80,
451
],
[
117,
441,
452
],
[
112,
342,
453
],
[
115,
277,
454
],
[
99,
276,
455
],
[
290,
265,
456
],
[
119,
97,
457
],
[
112,
105,
458
],
[
100,
101,
459
],
[
122,
378,
460
],
[
108,
259,
461
],
[
270,
268,
462
],
[
258,
111,
463
],
[
97,
261,
464
],
[
285,
355,
465
],
[
121,
284,
466
],
[
277,
108,
467
],
[
107,
97,
468
],
[
119,
294,
469
],
[
100,
121,
470
],
[
289,
276,
471
],
[
304,
158,
472
],
[
304,
157,
473
],
[
32,
279,
474
],
[
343,
116,
475
],
[
102,
105,
476
],
[
107,
313,
477
],
[
312,
295,
478
],
[
101,
295,
479
],
[
103,
272,
480
],
[
116,
119,
481
],
[
305,
32,
482
],
[
109,
259,
483
],
[
115,
121,
484
],
[
107,
272,
485
],
[
46,
440,
486
],
[
116,
263,
487
],
[
83,
116,
488
],
[
107,
256,
489
],
[
289,
121,
490
],
[
115,
258,
491
],
[
358,
259,
492
],
[
273,
78,
493
],
[
260,
105,
494
],
[
117,
98,
495
],
[
58,
32,
496
],
[
97,
291,
497
],
[
109,
111,
498
],
[
116,
331,
499
],
[
101,
106,
500
],
[
101,
284,
501
],
[
107,
280,
502
],
[
298,
115,
503
],
[
264,
305,
504
],
[
117,
110,
505
],
[
69,
452,
506
],
[
264,
262,
507
],
[
362,
384,
508
],
[
272,
110,
509
],
[
119,
280,
510
],
[
258,
327,
511
]
],
"vocab": {
"0": {
"bytes": [
0
],
"text": "\u0000"
},
"1": {
"bytes": [
1
],
"text": "\u0001"
},
"2": {
"bytes": [
2
],
"text": "\u0002"
},
"3": {
"bytes": [
3
],
"text": "\u0003"
},
"4": {
"bytes": [
4
],
"text": "\u0004"
},
"5": {
"bytes": [
5
],
"text": "\u0005"
},
"6": {
"bytes": [
6
],
"text": "\u0006"
},
"7": {
"bytes": [
7
],
"text": "\u0007"
},
"8": {
"bytes": [
8
],
"text": "\b"
},
"9": {
"bytes": [
9
],
"text": "\t"
},
"10": {
"bytes": [
10
],
"text": "\n"
},
"11": {
"bytes": [
11
],
"text": "\u000b"
},
"12": {
"bytes": [
12
],
"text": "\f"
},
"13": {
"bytes": [
13
],
"text": "\r"
},
"14": {
"bytes": [
14
],
"text": "\u000e"
},
"15": {
"bytes": [
15
],
"text": "\u000f"
},
"16": {
"bytes": [
16
],
"text": "\u0010"
},
"17": {
"bytes": [
17
],
"text": "\u0011"
},
"18": {
"bytes": [
18
],
"text": "\u0012"
},
"19": {
"bytes": [
19
],
"text": "\u0013"
},
"20": {
"bytes": [
20
],
"text": "\u0014"
},
"21": {
"bytes": [
21
],
"text": "\u0015"
},
"22": {
"bytes": [
22
],
"text": "\u0016"
},
"23": {
"bytes": [
23
],
"text": "\u0017"
},
"24": {
"bytes": [
24
],
"text": "\u0018"
},
"25": {
"bytes": [
25
],
"text": "\u0019"
},
"26": {
"bytes": [
26
],
"text": "\u001a"
},
"27": {
"bytes": [
27
],
"text": "\u001b"
},
"28": {
"bytes": [
28
],
"text": "\u001c"
},
"29": {
"bytes": [
29
],
"text": "\u001d"
},
"30": {
"bytes": [
30
],
"text": "\u001e"
},
"31": {
"bytes": [
31
],
"text": "\u001f"
},
"32": {
"bytes": [
32
],
"text": " "
},
"33": {
"bytes": [
33
],
"text": "!"
},
"34": {
"bytes": [
34
],
"text": "\""
},
"35": {
"bytes": [
35
],
"text": "#"
},
"36": {
"bytes": [
36
],
"text": "$"
},
"37": {
"bytes": [
37
],
"text": "%"
},
"38": {
"bytes": [
38
],
"text": "&"
},
"39": {
"bytes": [
39
],
"text": "'"
},
"40": {
"bytes": [
40
],
"text": "("
},
"41": {
"bytes": [
41
],
"text": ")"
},
"42": {
"bytes": [
42
],
"text": "*"
},
"43": {
"bytes": [
43
],
"text": "+"
},
"44": {
"bytes": [
44
],
"text": ","
},
"45": {
"bytes": [
45
],
"text": "-"
},
"46": {
"bytes": [
46
],
"text": "."
},
"47": {
"bytes": [
47
],
"text": "/"
},
"48": {
"bytes": [
48
],
"text": "0"
},
"49": {
"bytes": [
49
],
"text": "1"
},
"50": {
"bytes": [
50
],
"text": "2"
},
"51": {
"bytes": [
51
],
"text": "3"
},
"52": {
"bytes": [
52
],
"text": "4"
},
"53": {
"bytes": [
53
],
"text": "5"
},
"54": {
"bytes": [
54
],
"text": "6"
},
"55": {
"bytes": [
55
],
"text": "7"
},
"56": {
"bytes": [
56
],
"text": "8"
},
"57": {
"bytes": [
57
],
"text": "9"
},
"58": {
"bytes": [
58
],
"text": ":"
},
"59": {
"bytes": [
59
],
"text": ";"
},
"60": {
"bytes": [
60
],
"text": "<"
},
"61": {
"bytes": [
61
],
"text": "="
},
"62": {
"bytes": [
62
],
"text": ">"
},
"63": {
"bytes": [
63
],
"text": "?"
},
"64": {
"bytes": [
64
],
"text": "@"
},
"65": {
"bytes": [
65
],
"text": "A"
},
"66": {
"bytes": [
66
],
"text": "B"
},
"67": {
"bytes": [
67
],
"text": "C"
},
"68": {
"bytes": [
68
],
"text": "D"
},
"69": {
"bytes": [
69
],
"text": "E"
},
"70": {
"bytes": [
70
],
"text": "F"
},
"71": {
"bytes": [
71
],
"text": "G"
},
"72": {
"bytes": [
72
],
"text": "H"
},
"73": {
"bytes": [
73
],
"text": "I"
},
"74": {
"bytes": [
74
],
"text": "J"
},
"75": {
"bytes": [
75
],
"text": "K"
},
"76": {
"bytes": [
76
],
"text": "L"
},
"77": {
"bytes": [
77
],
"text": "M"
},
"78": {
"bytes": [
78
],
"text": "N"
},
"79": {
"bytes": [
79
],
"text": "O"
},
"80": {
"bytes": [
80
],
"text": "P"
},
"81": {
"bytes": [
81
],
"text": "Q"
},
"82": {
"bytes": [
82
],
"text": "R"
},
"83": {
"bytes": [
83
],
"text": "S"
},
"84": {
"bytes": [
84
],
"text": "T"
},
"85": {
"bytes": [
85
],
"text": "U"
},
"86": {
"bytes": [
86
],
"text": "V"
},
"87": {
"bytes": [
87
],
"text": "W"
},
"88": {
"bytes": [
88
],
"text": "X"
},
"89": {
"bytes": [
89
],
"text": "Y"
},
"90": {
"bytes": [
90
],
"text": "Z"
},
"91": {
"bytes": [
91
],
"text": "["
},
"92": {
"bytes": [
92
],
"text": "\\"
},
"93": {
"bytes": [
93
],
"text": "]"
},
"94": {
"bytes": [
94
],
"text": "^"
},
"95": {
"bytes": [
95
],
"text": "_"
},
"96": {
"bytes": [
96
],
"text": "`"
},
"97": {
"bytes": [
97
],
"text": "a"
},
"98": {
"bytes": [
98
],
"text": "b"
},
"99": {
"bytes": [
99
],
"text": "c"
},
"100": {
"bytes": [
100
],
"text": "d"
},
"101": {
"bytes": [
101
],
"text": "e"
},
"102": {
"bytes": [
102
],
"text": "f"
},
"103": {
"bytes": [
103
],
"text": "g"
},
"104": {
"bytes": [
104
],
"text": "h"
},
"105": {
"bytes": [
105
],
"text": "i"
},
"106": {
"bytes": [
106
],
"text": "j"
},
"107": {
"bytes": [
107
],
"text": "k"
},
"108": {
"bytes": [
108
],
"text": "l"
},
"109": {
"bytes": [
109
],
"text": "m"
},
"110": {
"bytes": [
110
],
"text": "n"
},
"111": {
"bytes": [
111
],
"text": "o"
},
"112": {
"bytes": [
112
],
"text": "p"
},
"113": {
"bytes": [
113
],
"text": "q"
},
"114": {
"bytes": [
114
],
"text": "r"
},
"115": {
"bytes": [
115
],
"text": "s"
},
"116": {
"bytes": [
116
],
"text": "t"
},
"117": {
"bytes": [
117
],
"text": "u"
},
"118": {
"bytes": [
118
],
"text": "v"
},
"119": {
"bytes": [
119
],
"text": "w"
},
"120": {
"bytes": [
120
],
"text": "x"
},
"121": {
"bytes": [
121
],
"text": "y"
},
"122": {
"bytes": [
122
],
"text": "z"
},
"123": {
"bytes": [
123
],
"text": "{"
},
"124": {
"bytes": [
124
],
"text": "|"
},
"125": {
"bytes": [
125
],
"text": "}"
},
"126": {
"bytes": [
126
],
"text": "~"
},
"127": {
"bytes": [
127
],
"text": ""
},
"128": {
"bytes": [
128
],
"text": "�"
},
"129": {
"bytes": [
129
],
"text": "�"
},
"130": {
"bytes": [
130
],
"text": "�"
},
"131": {
"bytes": [
131
],
"text": "�"
},
"132": {
"bytes": [
132
],
"text": "�"
},
"133": {
"bytes": [
133
],
"text": "�"
},
"134": {
"bytes": [
134
],
"text": "�"
},
"135": {
"bytes": [
135
],
"text": "�"
},
"136": {
"bytes": [
136
],
"text": "�"
},
"137": {
"bytes": [
137
],
"text": "�"
},
"138": {
"bytes": [
138
],
"text": "�"
},
"139": {
"bytes": [
139
],
"text": "�"
},
"140": {
"bytes": [
140
],
"text": "�"
},
"141": {
"bytes": [
141
],
"text": "�"
},
"142": {
"bytes": [
142
],
"text": "�"
},
"143": {
"bytes": [
143
],
"text": "�"
},
"144": {
"bytes": [
144
],
"text": "�"
},
"145": {
"bytes": [
145
],
"text": "�"
},
"146": {
"bytes": [
146
],
"text": "�"
},
"147": {
"bytes": [
147
],
"text": "�"
},
"148": {
"bytes": [
148
],
"text": "�"
},
"149": {
"bytes": [
149
],
"text": "�"
},
"150": {
"bytes": [
150
],
"text": "�"
},
"151": {
"bytes": [
151
],
"text": "�"
},
"152": {
"bytes": [
152
],
"text": "�"
},
"153": {
"bytes": [
153
],
"text": "�"
},
"154": {
"bytes": [
154
],
"text": "�"
},
"155": {
"bytes": [
155
],
"text": "�"
},
"156": {
"bytes": [
156
],
"text": "�"
},
"157": {
"bytes": [
157
],
"text": "�"
},
"158": {
"bytes": [
158
],
"text": "�"
},
"159": {
"bytes": [
159
],
"text": "�"
},
"160": {
"bytes": [
160
],
"text": "�"
},
"161": {
"bytes": [
161
],
"text": "�"
},
"162": {
"bytes": [
162
],
"text": "�"
},
"163": {
"bytes": [
163
],
"text": "�"
},
"164": {
"bytes": [
164
],
"text": "�"
},
"165": {
"bytes": [
165
],
"text": "�"
},
"166": {
"bytes": [
166
],
"text": "�"
},
"167": {
"bytes": [
167
],
"text": "�"
},
"168": {
"bytes": [
168
],
"text": "�"
},
"169": {
"bytes": [
169
],
"text": "�"
},
"170": {
"bytes": [
170
],
"text": "�"
},
"171": {
"bytes": [
171
],
"text": "�"
},
"172": {
"bytes": [
172
],
"text": "�"
},
"173": {
"bytes": [
173
],
"text": "�"
},
"174": {
"bytes": [
174
],
"text": "�"
},
"175": {
"bytes": [
175
],
"text": "�"
},
"176": {
"bytes": [
176
],
"text": "�"
},
"177": {
"bytes": [
177
],
"text": "�"
},
"178": {
"bytes": [
178
],
"text": "�"
},
"179": {
"bytes": [
179
],
"text": "�"
},
"180": {
"bytes": [
180
],
"text": "�"
},
"181": {
"bytes": [
181
],
"text": "�"
},
"182": {
"bytes": [
182
],
"text": "�"
},
"183": {
"bytes": [
183
],
"text": "�"
},
"184": {
"bytes": [
184
],
"text": "�"
},
"185": {
"bytes": [
185
],
"text": "�"
},
"186": {
"bytes": [
186
],
"text": "�"
},
"187": {
"bytes": [
187
],
"text": "�"
},
"188": {
"bytes": [
188
],
"text": "�"
},
"189": {
"bytes": [
189
],
"text": "�"
},
"190": {
"bytes": [
190
],
"text": "�"
},
"191": {
"bytes": [
191
],
"text": "�"
},
"192": {
"bytes": [
192
],
"text": "�"
},
"193": {
"bytes": [
193
],
"text": "�"
},
"194": {
"bytes": [
194
],
"text": "�"
},
"195": {
"bytes": [
195
],
"text": "�"
},
"196": {
"bytes": [
196
],
"text": "�"
},
"197": {
"bytes": [
197
],
"text": "�"
},
"198": {
"bytes": [
198
],
"text": "�"
},
"199": {
"bytes": [
199
],
"text": "�"
},
"200": {
"bytes": [
200
],
"text": "�"
},
"201": {
"bytes": [
201
],
"text": "�"
},
"202": {
"bytes": [
202
],
"text": "�"
},
"203": {
"bytes": [
203
],
"text": "�"
},
"204": {
"bytes": [
204
],
"text": "�"
},
"205": {
"bytes": [
205
],
"text": "�"
},
"206": {
"bytes": [
206
],
"text": "�"
},
"207": {
"bytes": [
207
],
"text": "�"
},
"208": {
"bytes": [
208
],
"text": "�"
},
"209": {
"bytes": [
209
],
"text": "�"
},
"210": {
"bytes": [
210
],
"text": "�"
},
"211": {
"bytes": [
211
],
"text": "�"
},
"212": {
"bytes": [
212
],
"text": "�"
},
"213": {
"bytes": [
213
],
"text": "�"
},
"214": {
"bytes": [
214
],
"text": "�"
},
"215": {
"bytes": [
215
],
"text": "�"
},
"216": {
"bytes": [
216
],
"text": "�"
},
"217": {
"bytes": [
217
],
"text": "�"
},
"218": {
"bytes": [
218
],
"text": "�"
},
"219": {
"bytes": [
219
],
"text": "�"
},
"220": {
"bytes": [
220
],
"text": "�"
},
"221": {
"bytes": [
221
],
"text": "�"
},
"222": {
"bytes": [
222
],
"text": "�"
},
"223": {
"bytes": [
223
],
"text": "�"
},
"224": {
"bytes": [
224
],
"text": "�"
},
"225": {
"bytes": [
225
],
"text": "�"
},
"226": {
"bytes": [
226
],
"text": "�"
},
"227": {
"bytes": [
227
],
"text": "�"
},
"228": {
"bytes": [
228
],
"text": "�"
},
"229": {
"bytes": [
229
],
"text": "�"
},
"230": {
"bytes": [
230
],
"text": "�"
},
"231": {
"bytes": [
231
],
"text": "�"
},
"232": {
"bytes": [
232
],
"text": "�"
},
"233": {
"bytes": [
233
],
"text": "�"
},
"234": {
"bytes": [
234
],
"text": "�"
},
"235": {
"bytes": [
235
],
"text": "�"
},
"236": {
"bytes": [
236
],
"text": "�"
},
"237": {
"bytes": [
237
],
"text": "�"
},
"238": {
"bytes": [
238
],
"text": "�"
},
"239": {
"bytes": [
239
],
"text": "�"
},
"240": {
"bytes": [
240
],
"text": "�"
},
"241": {
"bytes": [
241
],
"text": "�"
},
"242": {
"bytes": [
242
],
"text": "�"
},
"243": {
"bytes": [
243
],
"text": "�"
},
"244": {
"bytes": [
244
],
"text": "�"
},
"245": {
"bytes": [
245
],
"text": "�"
},
"246": {
"bytes": [
246
],
"text": "�"
},
"247": {
"bytes": [
247
],
"text": "�"
},
"248": {
"bytes": [
248
],
"text": "�"
},
"249": {
"bytes": [
249
],
"text": "�"
},
"250": {
"bytes": [
250
],
"text": "�"
},
"251": {
"bytes": [
251
],
"text": "�"
},
"252": {
"bytes": [
252
],
"text": "�"
},
"253": {
"bytes": [
253
],
"text": "�"
},
"254": {
"bytes": [
254
],
"text": "�"
},
"255": {
"bytes": [
255
],
"text": "�"
},
"256": {
"bytes": [
105,
101
],
"text": "ie"
},
"257": {
"bytes": [
97,
32
],
"text": "a "
},
"258": {
"bytes": [
197,
130
],
"text": "ł"
},
"259": {
"bytes": [
105,
32
],
"text": "i "
},
"260": {
"bytes": [
111,
119
],
"text": "ow"
},
"261": {
"bytes": [
115,
116
],
"text": "st"
},
"262": {
"bytes": [
44,
32
],
"text": ", "
},
"263": {
"bytes": [
111,
32
],
"text": "o "
},
"264": {
"bytes": [
99,
104
],
"text": "ch"
},
"265": {
"bytes": [
121,
32
],
"text": "y "
},
"266": {
"bytes": [
195,
179
],
"text": "ó"
},
"267": {
"bytes": [
110,
105
],
"text": "ni"
},
"268": {
"bytes": [
196,
153
],
"text": "ę"
},
"269": {
"bytes": [
196,
133
],
"text": "ą"
},
"270": {
"bytes": [
99,
122
],
"text": "cz"
},
"271": {
"bytes": [
119,
32
],
"text": "w "
},
"272": {
"bytes": [
114,
97
],
"text": "ra"
},
"273": {
"bytes": [
46,
32
],
"text": ". "
},
"274": {
"bytes": [
114,
122
],
"text": "rz"
},
"275": {
"bytes": [
115,
107
],
"text": "sk"
},
"276": {
"bytes": [
101,
32
],
"text": "e "
},
"277": {
"bytes": [
112,
111
],
"text": "po"
},
"278": {
"bytes": [
105,
101,
32
],
"text": "ie "
},
"279": {
"bytes": [
114,
111
],
"text": "ro"
},
"280": {
"bytes": [
115,
122
],
"text": "sz"
},
"281": {
"bytes": [
97,
110
],
"text": "an"
},
"282": {
"bytes": [
97,
114
],
"text": "ar"
},
"283": {
"bytes": [
99,
104,
32
],
"text": "ch "
},
"284": {
"bytes": [
109,
32
],
"text": "m "
},
"285": {
"bytes": [
197,
155
],
"text": "ś"
},
"286": {
"bytes": [
110,
97
],
"text": "na"
},
"287": {
"bytes": [
117,
32
],
"text": "u "
},
"288": {
"bytes": [
100,
122
],
"text": "dz"
},
"289": {
"bytes": [
197,
188
],
"text": "ż"
},
"290": {
"bytes": [
97,
197,
130
],
"text": "ał"
},
"291": {
"bytes": [
108,
105
],
"text": "li"
},
"292": {
"bytes": [
122,
32
],
"text": "z "
},
"293": {
"bytes": [
111,
110
],
"text": "on"
},
"294": {
"bytes": [
105,
196,
153
],
"text": "ię"
},
"295": {
"bytes": [
106,
32
],
"text": "j "
},
"296": {
"bytes": [
114,
122,
101
],
"text": "rze"
},
"297": {
"bytes": [
196,
133,
32
],
"text": "ą "
},
"298": {
"bytes": [
114,
101
],
"text": "re"
},
"299": {
"bytes": [
110,
97,
32
],
"text": "na "
},
"300": {
"bytes": [
116,
101
],
"text": "te"
},
"301": {
"bytes": [
122,
97
],
"text": "za"
},
"302": {
"bytes": [
61,
61
],
"text": "=="
},
"303": {
"bytes": [
116,
121
],
"text": "ty"
},
"304": {
"bytes": [
226,
128
],
"text": "�"
},
"305": {
"bytes": [
111,
100
],
"text": "od"
},
"306": {
"bytes": [
108,
101
],
"text": "le"
},
"307": {
"bytes": [
110,
105,
101
],
"text": "nie"
},
"308": {
"bytes": [
109,
105
],
"text": "mi"
},
"309": {
"bytes": [
103,
111,
32
],
"text": "go "
},
"310": {
"bytes": [
197,
132
],
"text": "ń"
},
"311": {
"bytes": [
99,
106
],
"text": "cj"
},
"312": {
"bytes": [
110,
101
],
"text": "ne"
},
"313": {
"bytes": [
195,
179,
119,
32
],
"text": "ów "
},
"314": {
"bytes": [
121,
99,
104,
32
],
"text": "ych "
},
"315": {
"bytes": [
97,
119
],
"text": "aw"
},
"316": {
"bytes": [
106,
101
],
"text": "je"
},
"317": {
"bytes": [
110,
105,
101,
32
],
"text": "nie "
},
"318": {
"bytes": [
111,
114
],
"text": "or"
},
"319": {
"bytes": [
115,
105,
196,
153
],
"text": "się"
},
"320": {
"bytes": [
111,
108
],
"text": "ol"
},
"321": {
"bytes": [
119,
121
],
"text": "wy"
},
"322": {
"bytes": [
97,
116
],
"text": "at"
},
"323": {
"bytes": [
112,
114,
122,
101
],
"text": "prze"
},
"324": {
"bytes": [
10,
10
],
"text": "\n\n"
},
"325": {
"bytes": [
99,
105
],
"text": "ci"
},
"326": {
"bytes": [
97,
108
],
"text": "al"
},
"327": {
"bytes": [
97,
100
],
"text": "ad"
},
"328": {
"bytes": [
115,
105,
196,
153,
32
],
"text": "się "
},
"329": {
"bytes": [
119,
111
],
"text": "wo"
},
"330": {
"bytes": [
110,
111
],
"text": "no"
},
"331": {
"bytes": [
97,
107
],
"text": "ak"
},
"332": {
"bytes": [
110,
105,
97,
32
],
"text": "nia "
},
"333": {
"bytes": [
115,
107,
105,
101
],
"text": "skie"
},
"334": {
"bytes": [
107,
111
],
"text": "ko"
},
"335": {
"bytes": [
195,
179,
119
],
"text": "ów"
},
"336": {
"bytes": [
101,
114
],
"text": "er"
},
"337": {
"bytes": [
107,
116
],
"text": "kt"
},
"338": {
"bytes": [
119,
105
],
"text": "wi"
},
"339": {
"bytes": [
109,
105,
101
],
"text": "mie"
},
"340": {
"bytes": [
111,
98
],
"text": "ob"
},
"341": {
"bytes": [
197,
130,
32
],
"text": "ł "
},
"342": {
"bytes": [
114,
122,
121
],
"text": "rzy"
},
"343": {
"bytes": [
101,
110
],
"text": "en"
},
"344": {
"bytes": [
105,
110
],
"text": "in"
},
"345": {
"bytes": [
115,
107,
105
],
"text": "ski"
},
"346": {
"bytes": [
226,
128,
147
],
"text": "–"
},
"347": {
"bytes": [
196,
135
],
"text": "ć"
},
"348": {
"bytes": [
196,
133,
99
],
"text": "ąc"
},
"349": {
"bytes": [
196,
153,
32
],
"text": "ę "
},
"350": {
"bytes": [
111,
107
],
"text": "ok"
},
"351": {
"bytes": [
100,
111,
32
],
"text": "do "
},
"352": {
"bytes": [
107,
111,
119
],
"text": "kow"
},
"353": {
"bytes": [
117,
100
],
"text": "ud"
},
"354": {
"bytes": [
110,
121
],
"text": "ny"
},
"355": {
"bytes": [
196,
135,
32
],
"text": "ć "
},
"356": {
"bytes": [
49,
57
],
"text": "19"
},
"357": {
"bytes": [
99,
107
],
"text": "ck"
},
"358": {
"bytes": [
97,
109
],
"text": "am"
},
"359": {
"bytes": [
46,
32,
87
],
"text": ". W"
},
"360": {
"bytes": [
46,
10
],
"text": ".\n"
},
"361": {
"bytes": [
114,
121
],
"text": "ry"
},
"362": {
"bytes": [
97,
197,
132
],
"text": "ań"
},
"363": {
"bytes": [
80,
111,
108
],
"text": "Pol"
},
"364": {
"bytes": [
100,
32
],
"text": "d "
},
"365": {
"bytes": [
107,
117,
32
],
"text": "ku "
},
"366": {
"bytes": [
99,
122,
101
],
"text": "cze"
},
"367": {
"bytes": [
116,
117
],
"text": "tu"
},
"368": {
"bytes": [
107,
32
],
"text": "k "
},
"369": {
"bytes": [
119,
105,
101
],
"text": "wie"
},
"370": {
"bytes": [
97,
106
],
"text": "aj"
},
"371": {
"bytes": [
112,
111,
119
],
"text": "pow"
},
"372": {
"bytes": [
100,
122,
105,
101
],
"text": "dzie"
},
"373": {
"bytes": [
197,
130,
97,
32
],
"text": "ła "
},
"374": {
"bytes": [
103,
111
],
"text": "go"
},
"375": {
"bytes": [
97,
114,
115,
122
],
"text": "arsz"
},
"376": {
"bytes": [
100,
122,
105
],
"text": "dzi"
},
"377": {
"bytes": [
98,
121
],
"text": "by"
},
"378": {
"bytes": [
111,
115,
116
],
"text": "ost"
},
"379": {
"bytes": [
110,
101,
32
],
"text": "ne "
},
"380": {
"bytes": [
97,
44,
32
],
"text": "a, "
},
"381": {
"bytes": [
110,
121,
32
],
"text": "ny "
},
"382": {
"bytes": [
195,
179,
114
],
"text": "ór"
},
"383": {
"bytes": [
114,
195,
179
],
"text": "ró"
},
"384": {
"bytes": [
115,
116,
119
],
"text": "stw"
},
"385": {
"bytes": [
97,
197,
130,
32
],
"text": "ał "
},
"386": {
"bytes": [
103,
105
],
"text": "gi"
},
"387": {
"bytes": [
97,
114,
115,
122,
97,
119
],
"text": "arszaw"
},
"388": {
"bytes": [
99,
101
],
"text": "ce"
},
"389": {
"bytes": [
114,
97,
122,
32
],
"text": "raz "
},
"390": {
"bytes": [
111,
119,
101
],
"text": "owe"
},
"391": {
"bytes": [
197,
155,
99
],
"text": "śc"
},
"392": {
"bytes": [
114,
117
],
"text": "ru"
},
"393": {
"bytes": [
117,
106
],
"text": "uj"
},
"394": {
"bytes": [
97,
115
],
"text": "as"
},
"395": {
"bytes": [
99,
122,
121
],
"text": "czy"
},
"396": {
"bytes": [
99,
121
],
"text": "cy"
},
"397": {
"bytes": [
111,
119,
97,
110
],
"text": "owan"
},
"398": {
"bytes": [
111,
115
],
"text": "os"
},
"399": {
"bytes": [
107,
105,
32
],
"text": "ki "
},
"400": {
"bytes": [
110,
121,
99,
104,
32
],
"text": "nych "
},
"401": {
"bytes": [
73,
73
],
"text": "II"
},
"402": {
"bytes": [
115,
112
],
"text": "sp"
},
"403": {
"bytes": [
111,
112
],
"text": "op"
},
"404": {
"bytes": [
226,
128,
147,
32
],
"text": "– "
},
"405": {
"bytes": [
50,
48
],
"text": "20"
},
"406": {
"bytes": [
197,
130,
121,
32
],
"text": "ły "
},
"407": {
"bytes": [
111,
119,
97
],
"text": "owa"
},
"408": {
"bytes": [
197,
155,
99,
105
],
"text": "ści"
},
"409": {
"bytes": [
97,
99,
104,
32
],
"text": "ach "
},
"410": {
"bytes": [
122,
101
],
"text": "ze"
},
"411": {
"bytes": [
122,
121
],
"text": "zy"
},
"412": {
"bytes": [
112,
111,
100
],
"text": "pod"
},
"413": {
"bytes": [
61,
61,
61
],
"text": "==="
},
"414": {
"bytes": [
99,
106,
105,
32
],
"text": "cji "
},
"415": {
"bytes": [
46,
32,
87,
32
],
"text": ". W "
},
"416": {
"bytes": [
111,
116
],
"text": "ot"
},
"417": {
"bytes": [
111,
114,
97,
122,
32
],
"text": "oraz "
},
"418": {
"bytes": [
110,
97,
106
],
"text": "naj"
},
"419": {
"bytes": [
98,
105
],
"text": "bi"
},
"420": {
"bytes": [
119,
111,
106
],
"text": "woj"
},
"421": {
"bytes": [
41,
32
],
"text": ") "
},
"422": {
"bytes": [
115,
116,
32
],
"text": "st "
},
"423": {
"bytes": [
114,
111,
122
],
"text": "roz"
},
"424": {
"bytes": [
106,
101,
100
],
"text": "jed"
},
"425": {
"bytes": [
115,
105
],
"text": "si"
},
"426": {
"bytes": [
87,
97,
114,
115,
122,
97,
119
],
"text": "Warszaw"
},
"427": {
"bytes": [
197,
130,
111,
32
],
"text": "ło "
},
"428": {
"bytes": [
107,
97,
32
],
"text": "ka "
},
"429": {
"bytes": [
107,
116,
195,
179,
114
],
"text": "któr"
},
"430": {
"bytes": [
99,
121,
32
],
"text": "cy "
},
"431": {
"bytes": [
112,
114,
122,
101,
122,
32
],
"text": "przez "
},
"432": {
"bytes": [
197,
130,
97
],
"text": "ła"
},
"433": {
"bytes": [
41,
44,
32
],
"text": "), "
},
"434": {
"bytes": [
197,
188,
32
],
"text": "ż "
},
"435": {
"bytes": [
115,
107,
97,
32
],
"text": "ska "
},
"436": {
"bytes": [
197,
155,
99,
105,
32
],
"text": "ści "
},
"437": {
"bytes": [
75,
114,
97
],
"text": "Kra"
},
"438": {
"bytes": [
114,
111,
100
],
"text": "rod"
},
"439": {
"bytes": [
116,
32
],
"text": "t "
},
"440": {
"bytes": [
10,
10,
10
],
"text": "\n\n\n"
},
"441": {
"bytes": [
114,
111,
112
],
"text": "rop"
},
"442": {
"bytes": [
107,
105
],
"text": "ki"
},
"443": {
"bytes": [
97,
197,
130,
97,
32
],
"text": "ała "
},
"444": {
"bytes": [
115,
116,
121
],
"text": "sty"
},
"445": {
"bytes": [
48,
32
],
"text": "0 "
},
"446": {
"bytes": [
107,
117
],
"text": "ku"
},
"447": {
"bytes": [
107,
111,
110
],
"text": "kon"
},
"448": {
"bytes": [
115,
107,
105,
32
],
"text": "ski "
},
"449": {
"bytes": [
97,
110,
105
],
"text": "ani"
},
"450": {
"bytes": [
105,
101,
114
],
"text": "ier"
},
"451": {
"bytes": [
46,
32,
80
],
"text": ". P"
},
"452": {
"bytes": [
117,
114,
111,
112
],
"text": "urop"
},
"453": {
"bytes": [
112,
114,
122,
121
],
"text": "przy"
},
"454": {
"bytes": [
115,
112,
111
],
"text": "spo"
},
"455": {
"bytes": [
99,
101,
32
],
"text": "ce "
},
"456": {
"bytes": [
97,
197,
130,
121,
32
],
"text": "ały "
},
"457": {
"bytes": [
119,
97
],
"text": "wa"
},
"458": {
"bytes": [
112,
105
],
"text": "pi"
},
"459": {
"bytes": [
100,
101
],
"text": "de"
},
"460": {
"bytes": [
122,
111,
115,
116
],
"text": "zost"
},
"461": {
"bytes": [
108,
105,
32
],
"text": "li "
},
"462": {
"bytes": [
99,
122,
196,
153
],
"text": "czę"
},
"463": {
"bytes": [
197,
130,
111
],
"text": "ło"
},
"464": {
"bytes": [
97,
115,
116
],
"text": "ast"
},
"465": {
"bytes": [
197,
155,
196,
135,
32
],
"text": "ść "
},
"466": {
"bytes": [
121,
109,
32
],
"text": "ym "
},
"467": {
"bytes": [
112,
111,
108
],
"text": "pol"
},
"468": {
"bytes": [
107,
97
],
"text": "ka"
},
"469": {
"bytes": [
119,
105,
196,
153
],
"text": "wię"
},
"470": {
"bytes": [
100,
121
],
"text": "dy"
},
"471": {
"bytes": [
197,
188,
101,
32
],
"text": "że "
},
"472": {
"bytes": [
226,
128,
158
],
"text": "„"
},
"473": {
"bytes": [
226,
128,
157
],
"text": "”"
},
"474": {
"bytes": [
32,
114,
111
],
"text": " ro"
},
"475": {
"bytes": [
101,
110,
116
],
"text": "ent"
},
"476": {
"bytes": [
102,
105
],
"text": "fi"
},
"477": {
"bytes": [
107,
195,
179,
119,
32
],
"text": "ków "
},
"478": {
"bytes": [
110,
101,
106,
32
],
"text": "nej "
},
"479": {
"bytes": [
101,
106,
32
],
"text": "ej "
},
"480": {
"bytes": [
103,
114,
97
],
"text": "gra"
},
"481": {
"bytes": [
116,
119
],
"text": "tw"
},
"482": {
"bytes": [
111,
100,
32
],
"text": "od "
},
"483": {
"bytes": [
109,
105,
32
],
"text": "mi "
},
"484": {
"bytes": [
115,
121
],
"text": "sy"
},
"485": {
"bytes": [
107,
114,
97
],
"text": "kra"
},
"486": {
"bytes": [
46,
10,
10,
10
],
"text": ".\n\n\n"
},
"487": {
"bytes": [
116,
111,
32
],
"text": "to "
},
"488": {
"bytes": [
83,
116
],
"text": "St"
},
"489": {
"bytes": [
107,
105,
101
],
"text": "kie"
},
"490": {
"bytes": [
197,
188,
121
],
"text": "ży"
},
"491": {
"bytes": [
115,
197,
130
],
"text": "sł"
},
"492": {
"bytes": [
97,
109,
105,
32
],
"text": "ami "
},
"493": {
"bytes": [
46,
32,
78
],
"text": ". N"
},
"494": {
"bytes": [
111,
119,
105
],
"text": "owi"
},
"495": {
"bytes": [
117,
98
],
"text": "ub"
},
"496": {
"bytes": [
58,
32
],
"text": ": "
},
"497": {
"bytes": [
97,
108,
105
],
"text": "ali"
},
"498": {
"bytes": [
109,
111
],
"text": "mo"
},
"499": {
"bytes": [
116,
97,
107
],
"text": "tak"
},
"500": {
"bytes": [
101,
106
],
"text": "ej"
},
"501": {
"bytes": [
101,
109,
32
],
"text": "em "
},
"502": {
"bytes": [
107,
115,
122
],
"text": "ksz"
},
"503": {
"bytes": [
114,
101,
115
],
"text": "res"
},
"504": {
"bytes": [
99,
104,
111,
100
],
"text": "chod"
},
"505": {
"bytes": [
117,
110
],
"text": "un"
},
"506": {
"bytes": [
69,
117,
114,
111,
112
],
"text": "Europ"
},
"507": {
"bytes": [
99,
104,
44,
32
],
"text": "ch, "
},
"508": {
"bytes": [
97,
197,
132,
115,
116,
119
],
"text": "aństw"
},
"509": {
"bytes": [
114,
97,
110
],
"text": "ran"
},
"510": {
"bytes": [
119,
115,
122
],
"text": "wsz"
},
"511": {
"bytes": [
197,
130,
97,
100
],
"text": "ład"
}
},
"training": {
"corpus": "Wikipedia PL (10 artykulow, ~749k znakow, CC BY-SA)",
"train_chars": 709308,
"heldout_chars": 40000
}
}