| { | |
| "source": "en_fineweb_edu", | |
| "repo": "HuggingFaceFW/fineweb-edu", | |
| "config": "sample-10BT", | |
| "lang": "en", | |
| "seq_len": 2048, | |
| "shards": [ | |
| { | |
| "file": "shard_00000.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00001.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00002.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00003.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00004.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00005.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00006.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00007.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00008.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00009.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00010.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00011.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00012.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00013.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00014.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00015.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00016.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00017.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00018.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00019.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00020.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00021.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00022.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00023.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00024.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00025.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00026.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00027.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00028.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00029.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00030.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00031.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00032.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00033.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00034.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00035.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00036.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00037.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00038.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00039.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00040.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00041.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00042.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00043.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00044.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00045.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00046.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00047.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00048.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00049.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00050.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00051.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00052.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00053.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00054.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00055.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00056.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00057.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00058.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00059.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00060.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00061.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00062.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00063.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00064.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00065.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00066.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00067.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00068.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00069.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00070.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00071.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00072.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00073.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00074.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00075.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00076.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00077.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00078.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00079.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00080.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00081.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00082.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00083.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00084.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00085.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00086.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00087.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00088.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00089.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00090.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00091.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00092.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00093.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00094.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00095.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00096.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00097.parquet", | |
| "n_seqs": 32768 | |
| }, | |
| { | |
| "file": "shard_00098.parquet", | |
| "n_seqs": 11393 | |
| } | |
| ], | |
| "n_seqs": 3222657, | |
| "n_tokens": 6600001536, | |
| "n_docs": 6078750, | |
| "n_decontam_skipped": 8587, | |
| "decontam": true | |
| } |