error577 commited on
Commit
763e64e
·
verified ·
1 Parent(s): 953e3b7

Training in progress, step 8600, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ec3f6564bd7522eeb4fb5d69fec41694461ebf16882a551c3cfccb6c92e433d3
3
  size 231448
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:889978cfc7be63b6e9a00918f26c0024760d6ad8b75f3c91a989e3e22bbed610
3
  size 231448
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:e9097df56cd3dffac5fda4d67cee9252d7259fd12ea8cd49673feb5d8e79b44d
3
  size 374849
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2d866c94cd1e9c903d69ab0dae1f3e2cf8192e008b87f84830e02d0cf2ee737f
3
  size 374849
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:3cbb81613188b924c340702f401b2d52233106858e293793d7f5b38544949dba
3
  size 14645
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:822c2e60f7d0b765b4c74b243a65b295a367a80d56a701c21bb94e710fba5e56
3
  size 14645
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:448e2477283a605c2c1c90be551a053640227741cb12135a581e5480fd9dd084
3
  size 1465
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a98d3aa7e0418c007a4d77df7f9dbc801620e2860d5fb22148dddd6056e2a075
3
  size 1465
last-checkpoint/trainer_state.json CHANGED
@@ -1,10 +1,10 @@
1
  {
2
- "best_global_step": 8000,
3
- "best_metric": 10.171509742736816,
4
- "best_model_checkpoint": "miner_id_24/checkpoint-8000",
5
- "epoch": 1.4666753960979442,
6
  "eval_steps": 200,
7
- "global_step": 8400,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
@@ -59152,6 +59152,1414 @@
59152
  "eval_samples_per_second": 321.94,
59153
  "eval_steps_per_second": 161.667,
59154
  "step": 8400
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
59155
  }
59156
  ],
59157
  "logging_steps": 1,
@@ -59166,7 +60574,7 @@
59166
  "early_stopping_threshold": 0.0
59167
  },
59168
  "attributes": {
59169
- "early_stopping_patience_counter": 2
59170
  }
59171
  },
59172
  "TrainerControl": {
@@ -59180,7 +60588,7 @@
59180
  "attributes": {}
59181
  }
59182
  },
59183
- "total_flos": 455842765602816.0,
59184
  "train_batch_size": 2,
59185
  "trial_name": null,
59186
  "trial_params": null
 
1
  {
2
+ "best_global_step": 8600,
3
+ "best_metric": 10.171344757080078,
4
+ "best_model_checkpoint": "miner_id_24/checkpoint-8600",
5
+ "epoch": 1.5015931212081532,
6
  "eval_steps": 200,
7
+ "global_step": 8600,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
 
59152
  "eval_samples_per_second": 321.94,
59153
  "eval_steps_per_second": 161.667,
59154
  "step": 8400
59155
+ },
59156
+ {
59157
+ "epoch": 1.4668499847234953,
59158
+ "grad_norm": 0.0668182447552681,
59159
+ "learning_rate": 0.00010357608997436075,
59160
+ "loss": 10.2291,
59161
+ "step": 8401
59162
+ },
59163
+ {
59164
+ "epoch": 1.4670245733490463,
59165
+ "grad_norm": 0.059272170066833496,
59166
+ "learning_rate": 0.00010355780569580635,
59167
+ "loss": 10.1829,
59168
+ "step": 8402
59169
+ },
59170
+ {
59171
+ "epoch": 1.4671991619745974,
59172
+ "grad_norm": 0.06497234851121902,
59173
+ "learning_rate": 0.00010353952129815772,
59174
+ "loss": 10.1832,
59175
+ "step": 8403
59176
+ },
59177
+ {
59178
+ "epoch": 1.4673737506001485,
59179
+ "grad_norm": 0.07130590826272964,
59180
+ "learning_rate": 0.00010352123678202685,
59181
+ "loss": 10.1876,
59182
+ "step": 8404
59183
+ },
59184
+ {
59185
+ "epoch": 1.4675483392256994,
59186
+ "grad_norm": 0.072455495595932,
59187
+ "learning_rate": 0.0001035029521480259,
59188
+ "loss": 10.1687,
59189
+ "step": 8405
59190
+ },
59191
+ {
59192
+ "epoch": 1.4677229278512505,
59193
+ "grad_norm": 0.07770170271396637,
59194
+ "learning_rate": 0.00010348466739676683,
59195
+ "loss": 10.1855,
59196
+ "step": 8406
59197
+ },
59198
+ {
59199
+ "epoch": 1.4678975164768016,
59200
+ "grad_norm": 0.06936001777648926,
59201
+ "learning_rate": 0.00010346638252886178,
59202
+ "loss": 10.1598,
59203
+ "step": 8407
59204
+ },
59205
+ {
59206
+ "epoch": 1.4680721051023526,
59207
+ "grad_norm": 0.07694468647241592,
59208
+ "learning_rate": 0.00010344809754492277,
59209
+ "loss": 10.1754,
59210
+ "step": 8408
59211
+ },
59212
+ {
59213
+ "epoch": 1.4682466937279037,
59214
+ "grad_norm": 0.08666953444480896,
59215
+ "learning_rate": 0.00010342981244556186,
59216
+ "loss": 10.163,
59217
+ "step": 8409
59218
+ },
59219
+ {
59220
+ "epoch": 1.4684212823534546,
59221
+ "grad_norm": 0.07151759415864944,
59222
+ "learning_rate": 0.00010341152723139118,
59223
+ "loss": 10.1713,
59224
+ "step": 8410
59225
+ },
59226
+ {
59227
+ "epoch": 1.4685958709790057,
59228
+ "grad_norm": 0.07702621817588806,
59229
+ "learning_rate": 0.00010339324190302279,
59230
+ "loss": 10.179,
59231
+ "step": 8411
59232
+ },
59233
+ {
59234
+ "epoch": 1.4687704596045568,
59235
+ "grad_norm": 0.0806993767619133,
59236
+ "learning_rate": 0.00010337495646106876,
59237
+ "loss": 10.1701,
59238
+ "step": 8412
59239
+ },
59240
+ {
59241
+ "epoch": 1.4689450482301079,
59242
+ "grad_norm": 0.09199921786785126,
59243
+ "learning_rate": 0.00010335667090614123,
59244
+ "loss": 10.1894,
59245
+ "step": 8413
59246
+ },
59247
+ {
59248
+ "epoch": 1.469119636855659,
59249
+ "grad_norm": 0.0760493129491806,
59250
+ "learning_rate": 0.00010333838523885222,
59251
+ "loss": 10.1915,
59252
+ "step": 8414
59253
+ },
59254
+ {
59255
+ "epoch": 1.4692942254812098,
59256
+ "grad_norm": 0.08545751124620438,
59257
+ "learning_rate": 0.00010332009945981385,
59258
+ "loss": 10.2064,
59259
+ "step": 8415
59260
+ },
59261
+ {
59262
+ "epoch": 1.469468814106761,
59263
+ "grad_norm": 0.08570168167352676,
59264
+ "learning_rate": 0.00010330181356963822,
59265
+ "loss": 10.1897,
59266
+ "step": 8416
59267
+ },
59268
+ {
59269
+ "epoch": 1.469643402732312,
59270
+ "grad_norm": 0.08417075127363205,
59271
+ "learning_rate": 0.00010328352756893745,
59272
+ "loss": 10.1564,
59273
+ "step": 8417
59274
+ },
59275
+ {
59276
+ "epoch": 1.469817991357863,
59277
+ "grad_norm": 0.09384147077798843,
59278
+ "learning_rate": 0.00010326524145832364,
59279
+ "loss": 10.1557,
59280
+ "step": 8418
59281
+ },
59282
+ {
59283
+ "epoch": 1.4699925799834141,
59284
+ "grad_norm": 0.09500440955162048,
59285
+ "learning_rate": 0.00010324695523840889,
59286
+ "loss": 10.1633,
59287
+ "step": 8419
59288
+ },
59289
+ {
59290
+ "epoch": 1.470167168608965,
59291
+ "grad_norm": 0.10723542422056198,
59292
+ "learning_rate": 0.00010322866890980533,
59293
+ "loss": 10.2131,
59294
+ "step": 8420
59295
+ },
59296
+ {
59297
+ "epoch": 1.470341757234516,
59298
+ "grad_norm": 0.10397425293922424,
59299
+ "learning_rate": 0.00010321038247312504,
59300
+ "loss": 10.2086,
59301
+ "step": 8421
59302
+ },
59303
+ {
59304
+ "epoch": 1.4705163458600672,
59305
+ "grad_norm": 0.10319370776414871,
59306
+ "learning_rate": 0.0001031920959289802,
59307
+ "loss": 10.1842,
59308
+ "step": 8422
59309
+ },
59310
+ {
59311
+ "epoch": 1.4706909344856183,
59312
+ "grad_norm": 0.10546421259641647,
59313
+ "learning_rate": 0.00010317380927798291,
59314
+ "loss": 10.1637,
59315
+ "step": 8423
59316
+ },
59317
+ {
59318
+ "epoch": 1.4708655231111694,
59319
+ "grad_norm": 0.11684134602546692,
59320
+ "learning_rate": 0.0001031555225207453,
59321
+ "loss": 10.1993,
59322
+ "step": 8424
59323
+ },
59324
+ {
59325
+ "epoch": 1.4710401117367202,
59326
+ "grad_norm": 0.13376906514167786,
59327
+ "learning_rate": 0.00010313723565787945,
59328
+ "loss": 10.1657,
59329
+ "step": 8425
59330
+ },
59331
+ {
59332
+ "epoch": 1.4712147003622715,
59333
+ "grad_norm": 0.15051141381263733,
59334
+ "learning_rate": 0.00010311894868999758,
59335
+ "loss": 10.2093,
59336
+ "step": 8426
59337
+ },
59338
+ {
59339
+ "epoch": 1.4713892889878224,
59340
+ "grad_norm": 0.21471360325813293,
59341
+ "learning_rate": 0.00010310066161771179,
59342
+ "loss": 10.217,
59343
+ "step": 8427
59344
+ },
59345
+ {
59346
+ "epoch": 1.4715638776133735,
59347
+ "grad_norm": 0.07297468930482864,
59348
+ "learning_rate": 0.00010308237444163419,
59349
+ "loss": 10.1934,
59350
+ "step": 8428
59351
+ },
59352
+ {
59353
+ "epoch": 1.4717384662389246,
59354
+ "grad_norm": 0.07766608148813248,
59355
+ "learning_rate": 0.00010306408716237701,
59356
+ "loss": 10.1969,
59357
+ "step": 8429
59358
+ },
59359
+ {
59360
+ "epoch": 1.4719130548644757,
59361
+ "grad_norm": 0.05711710453033447,
59362
+ "learning_rate": 0.00010304579978055233,
59363
+ "loss": 10.2061,
59364
+ "step": 8430
59365
+ },
59366
+ {
59367
+ "epoch": 1.4720876434900267,
59368
+ "grad_norm": 0.05710412561893463,
59369
+ "learning_rate": 0.00010302751229677232,
59370
+ "loss": 10.2093,
59371
+ "step": 8431
59372
+ },
59373
+ {
59374
+ "epoch": 1.4722622321155776,
59375
+ "grad_norm": 0.06026318296790123,
59376
+ "learning_rate": 0.00010300922471164915,
59377
+ "loss": 10.2088,
59378
+ "step": 8432
59379
+ },
59380
+ {
59381
+ "epoch": 1.4724368207411287,
59382
+ "grad_norm": 0.0558895505964756,
59383
+ "learning_rate": 0.00010299093702579497,
59384
+ "loss": 10.1819,
59385
+ "step": 8433
59386
+ },
59387
+ {
59388
+ "epoch": 1.4726114093666798,
59389
+ "grad_norm": 0.05924765020608902,
59390
+ "learning_rate": 0.00010297264923982193,
59391
+ "loss": 10.1953,
59392
+ "step": 8434
59393
+ },
59394
+ {
59395
+ "epoch": 1.4727859979922309,
59396
+ "grad_norm": 0.06922179460525513,
59397
+ "learning_rate": 0.00010295436135434222,
59398
+ "loss": 10.2117,
59399
+ "step": 8435
59400
+ },
59401
+ {
59402
+ "epoch": 1.472960586617782,
59403
+ "grad_norm": 0.05581573024392128,
59404
+ "learning_rate": 0.000102936073369968,
59405
+ "loss": 10.203,
59406
+ "step": 8436
59407
+ },
59408
+ {
59409
+ "epoch": 1.4731351752433328,
59410
+ "grad_norm": 0.056130971759557724,
59411
+ "learning_rate": 0.00010291778528731145,
59412
+ "loss": 10.2049,
59413
+ "step": 8437
59414
+ },
59415
+ {
59416
+ "epoch": 1.473309763868884,
59417
+ "grad_norm": 0.06736091524362564,
59418
+ "learning_rate": 0.00010289949710698472,
59419
+ "loss": 10.2037,
59420
+ "step": 8438
59421
+ },
59422
+ {
59423
+ "epoch": 1.473484352494435,
59424
+ "grad_norm": 0.059710610657930374,
59425
+ "learning_rate": 0.00010288120882960002,
59426
+ "loss": 10.2165,
59427
+ "step": 8439
59428
+ },
59429
+ {
59430
+ "epoch": 1.473658941119986,
59431
+ "grad_norm": 0.06624577194452286,
59432
+ "learning_rate": 0.00010286292045576951,
59433
+ "loss": 10.2112,
59434
+ "step": 8440
59435
+ },
59436
+ {
59437
+ "epoch": 1.4738335297455372,
59438
+ "grad_norm": 0.05566858500242233,
59439
+ "learning_rate": 0.00010284463198610544,
59440
+ "loss": 10.2057,
59441
+ "step": 8441
59442
+ },
59443
+ {
59444
+ "epoch": 1.474008118371088,
59445
+ "grad_norm": 0.06325181573629379,
59446
+ "learning_rate": 0.00010282634342121991,
59447
+ "loss": 10.1842,
59448
+ "step": 8442
59449
+ },
59450
+ {
59451
+ "epoch": 1.4741827069966391,
59452
+ "grad_norm": 0.058720313012599945,
59453
+ "learning_rate": 0.00010280805476172515,
59454
+ "loss": 10.1687,
59455
+ "step": 8443
59456
+ },
59457
+ {
59458
+ "epoch": 1.4743572956221902,
59459
+ "grad_norm": 0.07577281445264816,
59460
+ "learning_rate": 0.00010278976600823337,
59461
+ "loss": 10.1944,
59462
+ "step": 8444
59463
+ },
59464
+ {
59465
+ "epoch": 1.4745318842477413,
59466
+ "grad_norm": 0.05983367934823036,
59467
+ "learning_rate": 0.00010277147716135673,
59468
+ "loss": 10.1949,
59469
+ "step": 8445
59470
+ },
59471
+ {
59472
+ "epoch": 1.4747064728732924,
59473
+ "grad_norm": 0.06087689846754074,
59474
+ "learning_rate": 0.00010275318822170748,
59475
+ "loss": 10.1769,
59476
+ "step": 8446
59477
+ },
59478
+ {
59479
+ "epoch": 1.4748810614988432,
59480
+ "grad_norm": 0.08360599726438522,
59481
+ "learning_rate": 0.00010273489918989783,
59482
+ "loss": 10.1771,
59483
+ "step": 8447
59484
+ },
59485
+ {
59486
+ "epoch": 1.4750556501243943,
59487
+ "grad_norm": 0.06066247820854187,
59488
+ "learning_rate": 0.00010271661006653994,
59489
+ "loss": 10.2002,
59490
+ "step": 8448
59491
+ },
59492
+ {
59493
+ "epoch": 1.4752302387499454,
59494
+ "grad_norm": 0.0698317214846611,
59495
+ "learning_rate": 0.00010269832085224602,
59496
+ "loss": 10.2278,
59497
+ "step": 8449
59498
+ },
59499
+ {
59500
+ "epoch": 1.4754048273754965,
59501
+ "grad_norm": 0.0640646368265152,
59502
+ "learning_rate": 0.00010268003154762833,
59503
+ "loss": 10.2229,
59504
+ "step": 8450
59505
+ },
59506
+ {
59507
+ "epoch": 1.4755794160010476,
59508
+ "grad_norm": 0.06928551197052002,
59509
+ "learning_rate": 0.00010266174215329909,
59510
+ "loss": 10.187,
59511
+ "step": 8451
59512
+ },
59513
+ {
59514
+ "epoch": 1.4757540046265984,
59515
+ "grad_norm": 0.0699775218963623,
59516
+ "learning_rate": 0.00010264345266987046,
59517
+ "loss": 10.1948,
59518
+ "step": 8452
59519
+ },
59520
+ {
59521
+ "epoch": 1.4759285932521498,
59522
+ "grad_norm": 0.06856152415275574,
59523
+ "learning_rate": 0.00010262516309795474,
59524
+ "loss": 10.2269,
59525
+ "step": 8453
59526
+ },
59527
+ {
59528
+ "epoch": 1.4761031818777006,
59529
+ "grad_norm": 0.07105306535959244,
59530
+ "learning_rate": 0.00010260687343816408,
59531
+ "loss": 10.2221,
59532
+ "step": 8454
59533
+ },
59534
+ {
59535
+ "epoch": 1.4762777705032517,
59536
+ "grad_norm": 0.06926587224006653,
59537
+ "learning_rate": 0.00010258858369111075,
59538
+ "loss": 10.184,
59539
+ "step": 8455
59540
+ },
59541
+ {
59542
+ "epoch": 1.4764523591288028,
59543
+ "grad_norm": 0.06670872867107391,
59544
+ "learning_rate": 0.000102570293857407,
59545
+ "loss": 10.1878,
59546
+ "step": 8456
59547
+ },
59548
+ {
59549
+ "epoch": 1.4766269477543539,
59550
+ "grad_norm": 0.09218961745500565,
59551
+ "learning_rate": 0.00010255200393766504,
59552
+ "loss": 10.2014,
59553
+ "step": 8457
59554
+ },
59555
+ {
59556
+ "epoch": 1.476801536379905,
59557
+ "grad_norm": 0.07427852600812912,
59558
+ "learning_rate": 0.0001025337139324971,
59559
+ "loss": 10.1747,
59560
+ "step": 8458
59561
+ },
59562
+ {
59563
+ "epoch": 1.4769761250054558,
59564
+ "grad_norm": 0.06799423694610596,
59565
+ "learning_rate": 0.00010251542384251545,
59566
+ "loss": 10.1718,
59567
+ "step": 8459
59568
+ },
59569
+ {
59570
+ "epoch": 1.477150713631007,
59571
+ "grad_norm": 0.08058067411184311,
59572
+ "learning_rate": 0.0001024971336683323,
59573
+ "loss": 10.2162,
59574
+ "step": 8460
59575
+ },
59576
+ {
59577
+ "epoch": 1.477325302256558,
59578
+ "grad_norm": 0.0736398845911026,
59579
+ "learning_rate": 0.00010247884341055992,
59580
+ "loss": 10.1764,
59581
+ "step": 8461
59582
+ },
59583
+ {
59584
+ "epoch": 1.477499890882109,
59585
+ "grad_norm": 0.07495296746492386,
59586
+ "learning_rate": 0.00010246055306981052,
59587
+ "loss": 10.1959,
59588
+ "step": 8462
59589
+ },
59590
+ {
59591
+ "epoch": 1.4776744795076602,
59592
+ "grad_norm": 0.08984889835119247,
59593
+ "learning_rate": 0.00010244226264669643,
59594
+ "loss": 10.1666,
59595
+ "step": 8463
59596
+ },
59597
+ {
59598
+ "epoch": 1.477849068133211,
59599
+ "grad_norm": 0.0794825404882431,
59600
+ "learning_rate": 0.00010242397214182984,
59601
+ "loss": 10.1614,
59602
+ "step": 8464
59603
+ },
59604
+ {
59605
+ "epoch": 1.4780236567587621,
59606
+ "grad_norm": 0.08208408951759338,
59607
+ "learning_rate": 0.00010240568155582304,
59608
+ "loss": 10.1917,
59609
+ "step": 8465
59610
+ },
59611
+ {
59612
+ "epoch": 1.4781982453843132,
59613
+ "grad_norm": 0.08588790148496628,
59614
+ "learning_rate": 0.0001023873908892883,
59615
+ "loss": 10.2103,
59616
+ "step": 8466
59617
+ },
59618
+ {
59619
+ "epoch": 1.4783728340098643,
59620
+ "grad_norm": 0.07419563829898834,
59621
+ "learning_rate": 0.00010236910014283782,
59622
+ "loss": 10.1784,
59623
+ "step": 8467
59624
+ },
59625
+ {
59626
+ "epoch": 1.4785474226354154,
59627
+ "grad_norm": 0.07932838052511215,
59628
+ "learning_rate": 0.00010235080931708391,
59629
+ "loss": 10.1787,
59630
+ "step": 8468
59631
+ },
59632
+ {
59633
+ "epoch": 1.4787220112609663,
59634
+ "grad_norm": 0.08766372501850128,
59635
+ "learning_rate": 0.00010233251841263886,
59636
+ "loss": 10.1744,
59637
+ "step": 8469
59638
+ },
59639
+ {
59640
+ "epoch": 1.4788965998865173,
59641
+ "grad_norm": 0.09050332754850388,
59642
+ "learning_rate": 0.0001023142274301149,
59643
+ "loss": 10.179,
59644
+ "step": 8470
59645
+ },
59646
+ {
59647
+ "epoch": 1.4790711885120684,
59648
+ "grad_norm": 0.0869126245379448,
59649
+ "learning_rate": 0.00010229593637012434,
59650
+ "loss": 10.1844,
59651
+ "step": 8471
59652
+ },
59653
+ {
59654
+ "epoch": 1.4792457771376195,
59655
+ "grad_norm": 0.09087109565734863,
59656
+ "learning_rate": 0.00010227764523327943,
59657
+ "loss": 10.1711,
59658
+ "step": 8472
59659
+ },
59660
+ {
59661
+ "epoch": 1.4794203657631706,
59662
+ "grad_norm": 0.10016663372516632,
59663
+ "learning_rate": 0.00010225935402019242,
59664
+ "loss": 10.1795,
59665
+ "step": 8473
59666
+ },
59667
+ {
59668
+ "epoch": 1.4795949543887215,
59669
+ "grad_norm": 0.1059325709939003,
59670
+ "learning_rate": 0.00010224106273147564,
59671
+ "loss": 10.1751,
59672
+ "step": 8474
59673
+ },
59674
+ {
59675
+ "epoch": 1.4797695430142725,
59676
+ "grad_norm": 0.1175021231174469,
59677
+ "learning_rate": 0.00010222277136774141,
59678
+ "loss": 10.1998,
59679
+ "step": 8475
59680
+ },
59681
+ {
59682
+ "epoch": 1.4799441316398236,
59683
+ "grad_norm": 0.13095182180404663,
59684
+ "learning_rate": 0.00010220447992960192,
59685
+ "loss": 10.1538,
59686
+ "step": 8476
59687
+ },
59688
+ {
59689
+ "epoch": 1.4801187202653747,
59690
+ "grad_norm": 0.19397065043449402,
59691
+ "learning_rate": 0.00010218618841766952,
59692
+ "loss": 10.1993,
59693
+ "step": 8477
59694
+ },
59695
+ {
59696
+ "epoch": 1.4802933088909258,
59697
+ "grad_norm": 0.06644479185342789,
59698
+ "learning_rate": 0.0001021678968325565,
59699
+ "loss": 10.1851,
59700
+ "step": 8478
59701
+ },
59702
+ {
59703
+ "epoch": 1.4804678975164767,
59704
+ "grad_norm": 0.08480013161897659,
59705
+ "learning_rate": 0.00010214960517487511,
59706
+ "loss": 10.2116,
59707
+ "step": 8479
59708
+ },
59709
+ {
59710
+ "epoch": 1.480642486142028,
59711
+ "grad_norm": 0.06042501702904701,
59712
+ "learning_rate": 0.0001021313134452377,
59713
+ "loss": 10.2265,
59714
+ "step": 8480
59715
+ },
59716
+ {
59717
+ "epoch": 1.4808170747675788,
59718
+ "grad_norm": 0.05274130031466484,
59719
+ "learning_rate": 0.00010211302164425655,
59720
+ "loss": 10.1889,
59721
+ "step": 8481
59722
+ },
59723
+ {
59724
+ "epoch": 1.48099166339313,
59725
+ "grad_norm": 0.06130589544773102,
59726
+ "learning_rate": 0.00010209472977254392,
59727
+ "loss": 10.188,
59728
+ "step": 8482
59729
+ },
59730
+ {
59731
+ "epoch": 1.481166252018681,
59732
+ "grad_norm": 0.06761162728071213,
59733
+ "learning_rate": 0.00010207643783071221,
59734
+ "loss": 10.1927,
59735
+ "step": 8483
59736
+ },
59737
+ {
59738
+ "epoch": 1.481340840644232,
59739
+ "grad_norm": 0.06121981889009476,
59740
+ "learning_rate": 0.00010205814581937366,
59741
+ "loss": 10.2145,
59742
+ "step": 8484
59743
+ },
59744
+ {
59745
+ "epoch": 1.4815154292697832,
59746
+ "grad_norm": 0.06404118239879608,
59747
+ "learning_rate": 0.00010203985373914056,
59748
+ "loss": 10.2065,
59749
+ "step": 8485
59750
+ },
59751
+ {
59752
+ "epoch": 1.481690017895334,
59753
+ "grad_norm": 0.06725100427865982,
59754
+ "learning_rate": 0.00010202156159062523,
59755
+ "loss": 10.203,
59756
+ "step": 8486
59757
+ },
59758
+ {
59759
+ "epoch": 1.4818646065208851,
59760
+ "grad_norm": 0.06863710284233093,
59761
+ "learning_rate": 0.00010200326937444002,
59762
+ "loss": 10.2021,
59763
+ "step": 8487
59764
+ },
59765
+ {
59766
+ "epoch": 1.4820391951464362,
59767
+ "grad_norm": 0.07374930381774902,
59768
+ "learning_rate": 0.00010198497709119721,
59769
+ "loss": 10.2056,
59770
+ "step": 8488
59771
+ },
59772
+ {
59773
+ "epoch": 1.4822137837719873,
59774
+ "grad_norm": 0.0537978932261467,
59775
+ "learning_rate": 0.00010196668474150917,
59776
+ "loss": 10.198,
59777
+ "step": 8489
59778
+ },
59779
+ {
59780
+ "epoch": 1.4823883723975384,
59781
+ "grad_norm": 0.05801427364349365,
59782
+ "learning_rate": 0.00010194839232598816,
59783
+ "loss": 10.1964,
59784
+ "step": 8490
59785
+ },
59786
+ {
59787
+ "epoch": 1.4825629610230893,
59788
+ "grad_norm": 0.06265287846326828,
59789
+ "learning_rate": 0.00010193009984524651,
59790
+ "loss": 10.1959,
59791
+ "step": 8491
59792
+ },
59793
+ {
59794
+ "epoch": 1.4827375496486404,
59795
+ "grad_norm": 0.0643366128206253,
59796
+ "learning_rate": 0.00010191180729989654,
59797
+ "loss": 10.197,
59798
+ "step": 8492
59799
+ },
59800
+ {
59801
+ "epoch": 1.4829121382741914,
59802
+ "grad_norm": 0.056791238486766815,
59803
+ "learning_rate": 0.00010189351469055062,
59804
+ "loss": 10.1875,
59805
+ "step": 8493
59806
+ },
59807
+ {
59808
+ "epoch": 1.4830867268997425,
59809
+ "grad_norm": 0.06440174579620361,
59810
+ "learning_rate": 0.00010187522201782102,
59811
+ "loss": 10.2047,
59812
+ "step": 8494
59813
+ },
59814
+ {
59815
+ "epoch": 1.4832613155252936,
59816
+ "grad_norm": 0.06826891750097275,
59817
+ "learning_rate": 0.00010185692928232016,
59818
+ "loss": 10.1441,
59819
+ "step": 8495
59820
+ },
59821
+ {
59822
+ "epoch": 1.4834359041508445,
59823
+ "grad_norm": 0.059040773659944534,
59824
+ "learning_rate": 0.00010183863648466027,
59825
+ "loss": 10.2026,
59826
+ "step": 8496
59827
+ },
59828
+ {
59829
+ "epoch": 1.4836104927763956,
59830
+ "grad_norm": 0.06253241002559662,
59831
+ "learning_rate": 0.00010182034362545372,
59832
+ "loss": 10.1625,
59833
+ "step": 8497
59834
+ },
59835
+ {
59836
+ "epoch": 1.4837850814019466,
59837
+ "grad_norm": 0.06503453850746155,
59838
+ "learning_rate": 0.00010180205070531286,
59839
+ "loss": 10.2013,
59840
+ "step": 8498
59841
+ },
59842
+ {
59843
+ "epoch": 1.4839596700274977,
59844
+ "grad_norm": 0.06663502007722855,
59845
+ "learning_rate": 0.00010178375772485003,
59846
+ "loss": 10.1918,
59847
+ "step": 8499
59848
+ },
59849
+ {
59850
+ "epoch": 1.4841342586530488,
59851
+ "grad_norm": 0.06922559440135956,
59852
+ "learning_rate": 0.00010176546468467756,
59853
+ "loss": 10.1981,
59854
+ "step": 8500
59855
+ },
59856
+ {
59857
+ "epoch": 1.4843088472785997,
59858
+ "grad_norm": 0.06519865244626999,
59859
+ "learning_rate": 0.00010174717158540779,
59860
+ "loss": 10.1701,
59861
+ "step": 8501
59862
+ },
59863
+ {
59864
+ "epoch": 1.4844834359041508,
59865
+ "grad_norm": 0.06487800925970078,
59866
+ "learning_rate": 0.00010172887842765309,
59867
+ "loss": 10.218,
59868
+ "step": 8502
59869
+ },
59870
+ {
59871
+ "epoch": 1.4846580245297019,
59872
+ "grad_norm": 0.06742730736732483,
59873
+ "learning_rate": 0.00010171058521202577,
59874
+ "loss": 10.2156,
59875
+ "step": 8503
59876
+ },
59877
+ {
59878
+ "epoch": 1.484832613155253,
59879
+ "grad_norm": 0.07677727937698364,
59880
+ "learning_rate": 0.00010169229193913816,
59881
+ "loss": 10.1737,
59882
+ "step": 8504
59883
+ },
59884
+ {
59885
+ "epoch": 1.485007201780804,
59886
+ "grad_norm": 0.07017601281404495,
59887
+ "learning_rate": 0.0001016739986096027,
59888
+ "loss": 10.1847,
59889
+ "step": 8505
59890
+ },
59891
+ {
59892
+ "epoch": 1.485181790406355,
59893
+ "grad_norm": 0.07594582438468933,
59894
+ "learning_rate": 0.00010165570522403167,
59895
+ "loss": 10.2288,
59896
+ "step": 8506
59897
+ },
59898
+ {
59899
+ "epoch": 1.4853563790319062,
59900
+ "grad_norm": 0.07488789409399033,
59901
+ "learning_rate": 0.00010163741178303743,
59902
+ "loss": 10.1928,
59903
+ "step": 8507
59904
+ },
59905
+ {
59906
+ "epoch": 1.485530967657457,
59907
+ "grad_norm": 0.07019854336977005,
59908
+ "learning_rate": 0.00010161911828723234,
59909
+ "loss": 10.2004,
59910
+ "step": 8508
59911
+ },
59912
+ {
59913
+ "epoch": 1.4857055562830082,
59914
+ "grad_norm": 0.07630911469459534,
59915
+ "learning_rate": 0.0001016008247372288,
59916
+ "loss": 10.1782,
59917
+ "step": 8509
59918
+ },
59919
+ {
59920
+ "epoch": 1.4858801449085592,
59921
+ "grad_norm": 0.07899501919746399,
59922
+ "learning_rate": 0.00010158253113363911,
59923
+ "loss": 10.163,
59924
+ "step": 8510
59925
+ },
59926
+ {
59927
+ "epoch": 1.4860547335341103,
59928
+ "grad_norm": 0.07723283022642136,
59929
+ "learning_rate": 0.00010156423747707563,
59930
+ "loss": 10.1622,
59931
+ "step": 8511
59932
+ },
59933
+ {
59934
+ "epoch": 1.4862293221596614,
59935
+ "grad_norm": 0.08820296823978424,
59936
+ "learning_rate": 0.00010154594376815083,
59937
+ "loss": 10.2197,
59938
+ "step": 8512
59939
+ },
59940
+ {
59941
+ "epoch": 1.4864039107852123,
59942
+ "grad_norm": 0.07614205032587051,
59943
+ "learning_rate": 0.00010152765000747693,
59944
+ "loss": 10.1918,
59945
+ "step": 8513
59946
+ },
59947
+ {
59948
+ "epoch": 1.4865784994107634,
59949
+ "grad_norm": 0.07438066601753235,
59950
+ "learning_rate": 0.00010150935619566637,
59951
+ "loss": 10.1631,
59952
+ "step": 8514
59953
+ },
59954
+ {
59955
+ "epoch": 1.4867530880363145,
59956
+ "grad_norm": 0.08218051493167877,
59957
+ "learning_rate": 0.00010149106233333152,
59958
+ "loss": 10.178,
59959
+ "step": 8515
59960
+ },
59961
+ {
59962
+ "epoch": 1.4869276766618655,
59963
+ "grad_norm": 0.0882856473326683,
59964
+ "learning_rate": 0.00010147276842108473,
59965
+ "loss": 10.175,
59966
+ "step": 8516
59967
+ },
59968
+ {
59969
+ "epoch": 1.4871022652874166,
59970
+ "grad_norm": 0.08412595093250275,
59971
+ "learning_rate": 0.0001014544744595384,
59972
+ "loss": 10.1566,
59973
+ "step": 8517
59974
+ },
59975
+ {
59976
+ "epoch": 1.4872768539129675,
59977
+ "grad_norm": 0.09463980793952942,
59978
+ "learning_rate": 0.00010143618044930487,
59979
+ "loss": 10.1686,
59980
+ "step": 8518
59981
+ },
59982
+ {
59983
+ "epoch": 1.4874514425385186,
59984
+ "grad_norm": 0.08355294913053513,
59985
+ "learning_rate": 0.00010141788639099653,
59986
+ "loss": 10.1927,
59987
+ "step": 8519
59988
+ },
59989
+ {
59990
+ "epoch": 1.4876260311640697,
59991
+ "grad_norm": 0.09588873386383057,
59992
+ "learning_rate": 0.00010139959228522576,
59993
+ "loss": 10.1739,
59994
+ "step": 8520
59995
+ },
59996
+ {
59997
+ "epoch": 1.4878006197896207,
59998
+ "grad_norm": 0.09157407283782959,
59999
+ "learning_rate": 0.00010138129813260493,
60000
+ "loss": 10.1655,
60001
+ "step": 8521
60002
+ },
60003
+ {
60004
+ "epoch": 1.4879752084151718,
60005
+ "grad_norm": 0.08910644054412842,
60006
+ "learning_rate": 0.00010136300393374641,
60007
+ "loss": 10.1806,
60008
+ "step": 8522
60009
+ },
60010
+ {
60011
+ "epoch": 1.4881497970407227,
60012
+ "grad_norm": 0.09741178154945374,
60013
+ "learning_rate": 0.00010134470968926262,
60014
+ "loss": 10.1656,
60015
+ "step": 8523
60016
+ },
60017
+ {
60018
+ "epoch": 1.4883243856662738,
60019
+ "grad_norm": 0.11199750006198883,
60020
+ "learning_rate": 0.00010132641539976593,
60021
+ "loss": 10.1626,
60022
+ "step": 8524
60023
+ },
60024
+ {
60025
+ "epoch": 1.4884989742918249,
60026
+ "grad_norm": 0.11429779976606369,
60027
+ "learning_rate": 0.00010130812106586869,
60028
+ "loss": 10.169,
60029
+ "step": 8525
60030
+ },
60031
+ {
60032
+ "epoch": 1.488673562917376,
60033
+ "grad_norm": 0.1259108930826187,
60034
+ "learning_rate": 0.0001012898266881833,
60035
+ "loss": 10.1908,
60036
+ "step": 8526
60037
+ },
60038
+ {
60039
+ "epoch": 1.488848151542927,
60040
+ "grad_norm": 0.1718766689300537,
60041
+ "learning_rate": 0.00010127153226732218,
60042
+ "loss": 10.2004,
60043
+ "step": 8527
60044
+ },
60045
+ {
60046
+ "epoch": 1.489022740168478,
60047
+ "grad_norm": 0.06908583641052246,
60048
+ "learning_rate": 0.00010125323780389765,
60049
+ "loss": 10.1869,
60050
+ "step": 8528
60051
+ },
60052
+ {
60053
+ "epoch": 1.489197328794029,
60054
+ "grad_norm": 0.06407397240400314,
60055
+ "learning_rate": 0.0001012349432985222,
60056
+ "loss": 10.2115,
60057
+ "step": 8529
60058
+ },
60059
+ {
60060
+ "epoch": 1.48937191741958,
60061
+ "grad_norm": 0.062481123954057693,
60062
+ "learning_rate": 0.00010121664875180816,
60063
+ "loss": 10.2051,
60064
+ "step": 8530
60065
+ },
60066
+ {
60067
+ "epoch": 1.4895465060451312,
60068
+ "grad_norm": 0.058791350573301315,
60069
+ "learning_rate": 0.00010119835416436792,
60070
+ "loss": 10.1886,
60071
+ "step": 8531
60072
+ },
60073
+ {
60074
+ "epoch": 1.4897210946706823,
60075
+ "grad_norm": 0.05872055143117905,
60076
+ "learning_rate": 0.00010118005953681386,
60077
+ "loss": 10.217,
60078
+ "step": 8532
60079
+ },
60080
+ {
60081
+ "epoch": 1.4898956832962331,
60082
+ "grad_norm": 0.05497005954384804,
60083
+ "learning_rate": 0.00010116176486975843,
60084
+ "loss": 10.1936,
60085
+ "step": 8533
60086
+ },
60087
+ {
60088
+ "epoch": 1.4900702719217844,
60089
+ "grad_norm": 0.052389759570360184,
60090
+ "learning_rate": 0.00010114347016381399,
60091
+ "loss": 10.176,
60092
+ "step": 8534
60093
+ },
60094
+ {
60095
+ "epoch": 1.4902448605473353,
60096
+ "grad_norm": 0.07189197838306427,
60097
+ "learning_rate": 0.00010112517541959296,
60098
+ "loss": 10.2135,
60099
+ "step": 8535
60100
+ },
60101
+ {
60102
+ "epoch": 1.4904194491728864,
60103
+ "grad_norm": 0.05845106765627861,
60104
+ "learning_rate": 0.00010110688063770773,
60105
+ "loss": 10.1868,
60106
+ "step": 8536
60107
+ },
60108
+ {
60109
+ "epoch": 1.4905940377984375,
60110
+ "grad_norm": 0.05633122846484184,
60111
+ "learning_rate": 0.00010108858581877065,
60112
+ "loss": 10.2039,
60113
+ "step": 8537
60114
+ },
60115
+ {
60116
+ "epoch": 1.4907686264239886,
60117
+ "grad_norm": 0.053012914955616,
60118
+ "learning_rate": 0.00010107029096339417,
60119
+ "loss": 10.204,
60120
+ "step": 8538
60121
+ },
60122
+ {
60123
+ "epoch": 1.4909432150495396,
60124
+ "grad_norm": 0.07082869857549667,
60125
+ "learning_rate": 0.00010105199607219073,
60126
+ "loss": 10.1837,
60127
+ "step": 8539
60128
+ },
60129
+ {
60130
+ "epoch": 1.4911178036750905,
60131
+ "grad_norm": 0.07509144395589828,
60132
+ "learning_rate": 0.00010103370114577269,
60133
+ "loss": 10.1903,
60134
+ "step": 8540
60135
+ },
60136
+ {
60137
+ "epoch": 1.4912923923006416,
60138
+ "grad_norm": 0.0752166211605072,
60139
+ "learning_rate": 0.00010101540618475245,
60140
+ "loss": 10.1744,
60141
+ "step": 8541
60142
+ },
60143
+ {
60144
+ "epoch": 1.4914669809261927,
60145
+ "grad_norm": 0.060993220657110214,
60146
+ "learning_rate": 0.00010099711118974244,
60147
+ "loss": 10.1963,
60148
+ "step": 8542
60149
+ },
60150
+ {
60151
+ "epoch": 1.4916415695517438,
60152
+ "grad_norm": 0.05854663997888565,
60153
+ "learning_rate": 0.00010097881616135505,
60154
+ "loss": 10.2042,
60155
+ "step": 8543
60156
+ },
60157
+ {
60158
+ "epoch": 1.4918161581772948,
60159
+ "grad_norm": 0.06088762357831001,
60160
+ "learning_rate": 0.00010096052110020268,
60161
+ "loss": 10.1859,
60162
+ "step": 8544
60163
+ },
60164
+ {
60165
+ "epoch": 1.4919907468028457,
60166
+ "grad_norm": 0.04950258880853653,
60167
+ "learning_rate": 0.00010094222600689778,
60168
+ "loss": 10.1903,
60169
+ "step": 8545
60170
+ },
60171
+ {
60172
+ "epoch": 1.4921653354283968,
60173
+ "grad_norm": 0.06855688244104385,
60174
+ "learning_rate": 0.00010092393088205272,
60175
+ "loss": 10.1823,
60176
+ "step": 8546
60177
+ },
60178
+ {
60179
+ "epoch": 1.4923399240539479,
60180
+ "grad_norm": 0.06364034861326218,
60181
+ "learning_rate": 0.00010090563572627994,
60182
+ "loss": 10.1879,
60183
+ "step": 8547
60184
+ },
60185
+ {
60186
+ "epoch": 1.492514512679499,
60187
+ "grad_norm": 0.05668959766626358,
60188
+ "learning_rate": 0.00010088734054019184,
60189
+ "loss": 10.1759,
60190
+ "step": 8548
60191
+ },
60192
+ {
60193
+ "epoch": 1.49268910130505,
60194
+ "grad_norm": 0.06490933895111084,
60195
+ "learning_rate": 0.00010086904532440085,
60196
+ "loss": 10.1614,
60197
+ "step": 8549
60198
+ },
60199
+ {
60200
+ "epoch": 1.492863689930601,
60201
+ "grad_norm": 0.06543440371751785,
60202
+ "learning_rate": 0.00010085075007951934,
60203
+ "loss": 10.1885,
60204
+ "step": 8550
60205
+ },
60206
+ {
60207
+ "epoch": 1.493038278556152,
60208
+ "grad_norm": 0.07770552486181259,
60209
+ "learning_rate": 0.00010083245480615979,
60210
+ "loss": 10.1715,
60211
+ "step": 8551
60212
+ },
60213
+ {
60214
+ "epoch": 1.493212867181703,
60215
+ "grad_norm": 0.06594755500555038,
60216
+ "learning_rate": 0.00010081415950493456,
60217
+ "loss": 10.2025,
60218
+ "step": 8552
60219
+ },
60220
+ {
60221
+ "epoch": 1.4933874558072542,
60222
+ "grad_norm": 0.06985203921794891,
60223
+ "learning_rate": 0.00010079586417645613,
60224
+ "loss": 10.1924,
60225
+ "step": 8553
60226
+ },
60227
+ {
60228
+ "epoch": 1.4935620444328053,
60229
+ "grad_norm": 0.07526712864637375,
60230
+ "learning_rate": 0.00010077756882133686,
60231
+ "loss": 10.1974,
60232
+ "step": 8554
60233
+ },
60234
+ {
60235
+ "epoch": 1.4937366330583561,
60236
+ "grad_norm": 0.07344431430101395,
60237
+ "learning_rate": 0.00010075927344018921,
60238
+ "loss": 10.2087,
60239
+ "step": 8555
60240
+ },
60241
+ {
60242
+ "epoch": 1.4939112216839072,
60243
+ "grad_norm": 0.0881945788860321,
60244
+ "learning_rate": 0.00010074097803362554,
60245
+ "loss": 10.233,
60246
+ "step": 8556
60247
+ },
60248
+ {
60249
+ "epoch": 1.4940858103094583,
60250
+ "grad_norm": 0.06690188497304916,
60251
+ "learning_rate": 0.00010072268260225837,
60252
+ "loss": 10.17,
60253
+ "step": 8557
60254
+ },
60255
+ {
60256
+ "epoch": 1.4942603989350094,
60257
+ "grad_norm": 0.0692349523305893,
60258
+ "learning_rate": 0.00010070438714670002,
60259
+ "loss": 10.1779,
60260
+ "step": 8558
60261
+ },
60262
+ {
60263
+ "epoch": 1.4944349875605605,
60264
+ "grad_norm": 0.07600129395723343,
60265
+ "learning_rate": 0.00010068609166756302,
60266
+ "loss": 10.1972,
60267
+ "step": 8559
60268
+ },
60269
+ {
60270
+ "epoch": 1.4946095761861113,
60271
+ "grad_norm": 0.0705539807677269,
60272
+ "learning_rate": 0.00010066779616545972,
60273
+ "loss": 10.1736,
60274
+ "step": 8560
60275
+ },
60276
+ {
60277
+ "epoch": 1.4947841648116627,
60278
+ "grad_norm": 0.08034319430589676,
60279
+ "learning_rate": 0.00010064950064100254,
60280
+ "loss": 10.1579,
60281
+ "step": 8561
60282
+ },
60283
+ {
60284
+ "epoch": 1.4949587534372135,
60285
+ "grad_norm": 0.07941841334104538,
60286
+ "learning_rate": 0.00010063120509480393,
60287
+ "loss": 10.1834,
60288
+ "step": 8562
60289
+ },
60290
+ {
60291
+ "epoch": 1.4951333420627646,
60292
+ "grad_norm": 0.06893574446439743,
60293
+ "learning_rate": 0.00010061290952747633,
60294
+ "loss": 10.2088,
60295
+ "step": 8563
60296
+ },
60297
+ {
60298
+ "epoch": 1.4953079306883157,
60299
+ "grad_norm": 0.07366642355918884,
60300
+ "learning_rate": 0.00010059461393963214,
60301
+ "loss": 10.1898,
60302
+ "step": 8564
60303
+ },
60304
+ {
60305
+ "epoch": 1.4954825193138668,
60306
+ "grad_norm": 0.06984256207942963,
60307
+ "learning_rate": 0.00010057631833188381,
60308
+ "loss": 10.1663,
60309
+ "step": 8565
60310
+ },
60311
+ {
60312
+ "epoch": 1.4956571079394179,
60313
+ "grad_norm": 0.09205296635627747,
60314
+ "learning_rate": 0.00010055802270484375,
60315
+ "loss": 10.2048,
60316
+ "step": 8566
60317
+ },
60318
+ {
60319
+ "epoch": 1.4958316965649687,
60320
+ "grad_norm": 0.09741609543561935,
60321
+ "learning_rate": 0.0001005397270591244,
60322
+ "loss": 10.1837,
60323
+ "step": 8567
60324
+ },
60325
+ {
60326
+ "epoch": 1.4960062851905198,
60327
+ "grad_norm": 0.08170933276414871,
60328
+ "learning_rate": 0.00010052143139533816,
60329
+ "loss": 10.1989,
60330
+ "step": 8568
60331
+ },
60332
+ {
60333
+ "epoch": 1.496180873816071,
60334
+ "grad_norm": 0.08411642163991928,
60335
+ "learning_rate": 0.00010050313571409751,
60336
+ "loss": 10.1535,
60337
+ "step": 8569
60338
+ },
60339
+ {
60340
+ "epoch": 1.496355462441622,
60341
+ "grad_norm": 0.09037617594003677,
60342
+ "learning_rate": 0.00010048484001601489,
60343
+ "loss": 10.2019,
60344
+ "step": 8570
60345
+ },
60346
+ {
60347
+ "epoch": 1.496530051067173,
60348
+ "grad_norm": 0.08756934106349945,
60349
+ "learning_rate": 0.00010046654430170266,
60350
+ "loss": 10.1712,
60351
+ "step": 8571
60352
+ },
60353
+ {
60354
+ "epoch": 1.496704639692724,
60355
+ "grad_norm": 0.08999358862638474,
60356
+ "learning_rate": 0.00010044824857177328,
60357
+ "loss": 10.1664,
60358
+ "step": 8572
60359
+ },
60360
+ {
60361
+ "epoch": 1.496879228318275,
60362
+ "grad_norm": 0.09130936861038208,
60363
+ "learning_rate": 0.00010042995282683922,
60364
+ "loss": 10.1811,
60365
+ "step": 8573
60366
+ },
60367
+ {
60368
+ "epoch": 1.497053816943826,
60369
+ "grad_norm": 0.08583549410104752,
60370
+ "learning_rate": 0.00010041165706751288,
60371
+ "loss": 10.1825,
60372
+ "step": 8574
60373
+ },
60374
+ {
60375
+ "epoch": 1.4972284055693772,
60376
+ "grad_norm": 0.11610297113656998,
60377
+ "learning_rate": 0.0001003933612944067,
60378
+ "loss": 10.204,
60379
+ "step": 8575
60380
+ },
60381
+ {
60382
+ "epoch": 1.4974029941949283,
60383
+ "grad_norm": 0.11835920810699463,
60384
+ "learning_rate": 0.00010037506550813314,
60385
+ "loss": 10.1444,
60386
+ "step": 8576
60387
+ },
60388
+ {
60389
+ "epoch": 1.4975775828204791,
60390
+ "grad_norm": 0.1680239588022232,
60391
+ "learning_rate": 0.0001003567697093046,
60392
+ "loss": 10.2108,
60393
+ "step": 8577
60394
+ },
60395
+ {
60396
+ "epoch": 1.4977521714460302,
60397
+ "grad_norm": 0.06295479834079742,
60398
+ "learning_rate": 0.00010033847389853348,
60399
+ "loss": 10.1903,
60400
+ "step": 8578
60401
+ },
60402
+ {
60403
+ "epoch": 1.4979267600715813,
60404
+ "grad_norm": 0.07027721405029297,
60405
+ "learning_rate": 0.0001003201780764323,
60406
+ "loss": 10.1951,
60407
+ "step": 8579
60408
+ },
60409
+ {
60410
+ "epoch": 1.4981013486971324,
60411
+ "grad_norm": 0.06153915449976921,
60412
+ "learning_rate": 0.00010030188224361345,
60413
+ "loss": 10.2072,
60414
+ "step": 8580
60415
+ },
60416
+ {
60417
+ "epoch": 1.4982759373226835,
60418
+ "grad_norm": 0.059418097138404846,
60419
+ "learning_rate": 0.00010028358640068936,
60420
+ "loss": 10.2111,
60421
+ "step": 8581
60422
+ },
60423
+ {
60424
+ "epoch": 1.4984505259482344,
60425
+ "grad_norm": 0.06404032558202744,
60426
+ "learning_rate": 0.0001002652905482725,
60427
+ "loss": 10.2156,
60428
+ "step": 8582
60429
+ },
60430
+ {
60431
+ "epoch": 1.4986251145737854,
60432
+ "grad_norm": 0.05415285378694534,
60433
+ "learning_rate": 0.00010024699468697527,
60434
+ "loss": 10.2113,
60435
+ "step": 8583
60436
+ },
60437
+ {
60438
+ "epoch": 1.4987997031993365,
60439
+ "grad_norm": 0.06382688879966736,
60440
+ "learning_rate": 0.00010022869881741012,
60441
+ "loss": 10.1867,
60442
+ "step": 8584
60443
+ },
60444
+ {
60445
+ "epoch": 1.4989742918248876,
60446
+ "grad_norm": 0.06129562109708786,
60447
+ "learning_rate": 0.0001002104029401895,
60448
+ "loss": 10.1984,
60449
+ "step": 8585
60450
+ },
60451
+ {
60452
+ "epoch": 1.4991488804504387,
60453
+ "grad_norm": 0.06641210615634918,
60454
+ "learning_rate": 0.00010019210705592582,
60455
+ "loss": 10.1881,
60456
+ "step": 8586
60457
+ },
60458
+ {
60459
+ "epoch": 1.4993234690759896,
60460
+ "grad_norm": 0.06929859519004822,
60461
+ "learning_rate": 0.00010017381116523152,
60462
+ "loss": 10.1855,
60463
+ "step": 8587
60464
+ },
60465
+ {
60466
+ "epoch": 1.4994980577015409,
60467
+ "grad_norm": 0.061393965035676956,
60468
+ "learning_rate": 0.0001001555152687191,
60469
+ "loss": 10.1812,
60470
+ "step": 8588
60471
+ },
60472
+ {
60473
+ "epoch": 1.4996726463270917,
60474
+ "grad_norm": 0.0638079047203064,
60475
+ "learning_rate": 0.00010013721936700093,
60476
+ "loss": 10.2016,
60477
+ "step": 8589
60478
+ },
60479
+ {
60480
+ "epoch": 1.4998472349526428,
60481
+ "grad_norm": 0.05810302123427391,
60482
+ "learning_rate": 0.00010011892346068945,
60483
+ "loss": 10.1842,
60484
+ "step": 8590
60485
+ },
60486
+ {
60487
+ "epoch": 1.500021823578194,
60488
+ "grad_norm": 0.06004645675420761,
60489
+ "learning_rate": 0.00010010062755039715,
60490
+ "loss": 10.1709,
60491
+ "step": 8591
60492
+ },
60493
+ {
60494
+ "epoch": 1.5001964122037448,
60495
+ "grad_norm": 0.060015782713890076,
60496
+ "learning_rate": 0.00010008233163673642,
60497
+ "loss": 10.197,
60498
+ "step": 8592
60499
+ },
60500
+ {
60501
+ "epoch": 1.500371000829296,
60502
+ "grad_norm": 0.05252918228507042,
60503
+ "learning_rate": 0.00010006403572031968,
60504
+ "loss": 10.1678,
60505
+ "step": 8593
60506
+ },
60507
+ {
60508
+ "epoch": 1.500545589454847,
60509
+ "grad_norm": 0.06297896802425385,
60510
+ "learning_rate": 0.00010004573980175948,
60511
+ "loss": 10.1972,
60512
+ "step": 8594
60513
+ },
60514
+ {
60515
+ "epoch": 1.500720178080398,
60516
+ "grad_norm": 0.06629159301519394,
60517
+ "learning_rate": 0.00010002744388166814,
60518
+ "loss": 10.1798,
60519
+ "step": 8595
60520
+ },
60521
+ {
60522
+ "epoch": 1.5008947667059491,
60523
+ "grad_norm": 0.05907110124826431,
60524
+ "learning_rate": 0.00010000914796065813,
60525
+ "loss": 10.1693,
60526
+ "step": 8596
60527
+ },
60528
+ {
60529
+ "epoch": 1.5010693553315,
60530
+ "grad_norm": 0.06426182389259338,
60531
+ "learning_rate": 9.999085203934191e-05,
60532
+ "loss": 10.194,
60533
+ "step": 8597
60534
+ },
60535
+ {
60536
+ "epoch": 1.5012439439570513,
60537
+ "grad_norm": 0.05978473648428917,
60538
+ "learning_rate": 9.997255611833187e-05,
60539
+ "loss": 10.1648,
60540
+ "step": 8598
60541
+ },
60542
+ {
60543
+ "epoch": 1.5014185325826022,
60544
+ "grad_norm": 0.06174011155962944,
60545
+ "learning_rate": 9.995426019824054e-05,
60546
+ "loss": 10.2005,
60547
+ "step": 8599
60548
+ },
60549
+ {
60550
+ "epoch": 1.5015931212081532,
60551
+ "grad_norm": 0.059747397899627686,
60552
+ "learning_rate": 9.993596427968033e-05,
60553
+ "loss": 10.1707,
60554
+ "step": 8600
60555
+ },
60556
+ {
60557
+ "epoch": 1.5015931212081532,
60558
+ "eval_loss": 10.171344757080078,
60559
+ "eval_runtime": 0.7286,
60560
+ "eval_samples_per_second": 317.032,
60561
+ "eval_steps_per_second": 159.202,
60562
+ "step": 8600
60563
  }
60564
  ],
60565
  "logging_steps": 1,
 
60574
  "early_stopping_threshold": 0.0
60575
  },
60576
  "attributes": {
60577
+ "early_stopping_patience_counter": 0
60578
  }
60579
  },
60580
  "TrainerControl": {
 
60588
  "attributes": {}
60589
  }
60590
  },
60591
+ "total_flos": 466695841775616.0,
60592
  "train_batch_size": 2,
60593
  "trial_name": null,
60594
  "trial_params": null