ErrorAI commited on
Commit
ff67e17
·
verified ·
1 Parent(s): 317921e

Training in progress, step 1367, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:b9677d0f9d1c274695c93f06bb3a1a40c75b99ce8d729a1cb78e4be7c89cd41f
3
  size 125248064
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f82827d066c37668176c70070107d70abee4f41334cd1ecbfc4d7ead674f1fc1
3
  size 125248064
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:560006c5894a7045501961244ee8384fd4a3b9b4a72bfa3f1df8a70bcff8336a
3
  size 64220436
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:446d52577ec0113b5eeb57c3427480742a55b27c374d188e70f4242428967b14
3
  size 64220436
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:2aa680c72d00dc81b7a7d4c816ef3d3b5976d221bd2dd9bcc23849bdc71f39f3
3
  size 14244
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fb9fcb865a164bd3ffed4c9c046f0151ec60e03fcb4265dfa8554c009adcd6f2
3
  size 14244
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:5fd0e00ab7dafca6f8acba6251ee53ef68cfcb536622daa991bc09320904782a
3
  size 1064
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c2a18c05f5ffb58c964a85533e37e52b871681ba7ad23cb8c9ac32da52075d32
3
  size 1064
last-checkpoint/trainer_state.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
- "epoch": 0.08775418564372314,
5
  "eval_steps": 342,
6
- "global_step": 1026,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
@@ -7221,6 +7221,2393 @@
7221
  "eval_samples_per_second": 18.823,
7222
  "eval_steps_per_second": 9.414,
7223
  "step": 1026
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7224
  }
7225
  ],
7226
  "logging_steps": 1,
@@ -7235,12 +9622,12 @@
7235
  "should_evaluate": false,
7236
  "should_log": false,
7237
  "should_save": true,
7238
- "should_training_stop": false
7239
  },
7240
  "attributes": {}
7241
  }
7242
  },
7243
- "total_flos": 3.506572514820096e+17,
7244
  "train_batch_size": 2,
7245
  "trial_name": null,
7246
  "trial_params": null
 
1
  {
2
  "best_metric": null,
3
  "best_model_checkpoint": null,
4
+ "epoch": 0.11692005046293326,
5
  "eval_steps": 342,
6
+ "global_step": 1367,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
 
7221
  "eval_samples_per_second": 18.823,
7222
  "eval_steps_per_second": 9.414,
7223
  "step": 1026
7224
+ },
7225
+ {
7226
+ "epoch": 0.08783971603908738,
7227
+ "grad_norm": 0.7073795199394226,
7228
+ "learning_rate": 2.9412205204434583e-05,
7229
+ "loss": 1.1294,
7230
+ "step": 1027
7231
+ },
7232
+ {
7233
+ "epoch": 0.08792524643445164,
7234
+ "grad_norm": 0.7574434280395508,
7235
+ "learning_rate": 2.924840812881614e-05,
7236
+ "loss": 1.17,
7237
+ "step": 1028
7238
+ },
7239
+ {
7240
+ "epoch": 0.0880107768298159,
7241
+ "grad_norm": 0.6731263399124146,
7242
+ "learning_rate": 2.908499025995859e-05,
7243
+ "loss": 1.2751,
7244
+ "step": 1029
7245
+ },
7246
+ {
7247
+ "epoch": 0.08809630722518015,
7248
+ "grad_norm": 0.6531186103820801,
7249
+ "learning_rate": 2.8921952473731406e-05,
7250
+ "loss": 1.1121,
7251
+ "step": 1030
7252
+ },
7253
+ {
7254
+ "epoch": 0.0881818376205444,
7255
+ "grad_norm": 0.7077070474624634,
7256
+ "learning_rate": 2.8759295643966977e-05,
7257
+ "loss": 1.3125,
7258
+ "step": 1031
7259
+ },
7260
+ {
7261
+ "epoch": 0.08826736801590865,
7262
+ "grad_norm": 0.5633338093757629,
7263
+ "learning_rate": 2.859702064245584e-05,
7264
+ "loss": 1.4186,
7265
+ "step": 1032
7266
+ },
7267
+ {
7268
+ "epoch": 0.0883528984112729,
7269
+ "grad_norm": 0.7479159832000732,
7270
+ "learning_rate": 2.8435128338942075e-05,
7271
+ "loss": 1.4404,
7272
+ "step": 1033
7273
+ },
7274
+ {
7275
+ "epoch": 0.08843842880663716,
7276
+ "grad_norm": 0.6074594855308533,
7277
+ "learning_rate": 2.8273619601118617e-05,
7278
+ "loss": 1.1936,
7279
+ "step": 1034
7280
+ },
7281
+ {
7282
+ "epoch": 0.08852395920200141,
7283
+ "grad_norm": 0.5824387669563293,
7284
+ "learning_rate": 2.8112495294622588e-05,
7285
+ "loss": 1.3747,
7286
+ "step": 1035
7287
+ },
7288
+ {
7289
+ "epoch": 0.08860948959736567,
7290
+ "grad_norm": 0.819052517414093,
7291
+ "learning_rate": 2.7951756283030705e-05,
7292
+ "loss": 1.2833,
7293
+ "step": 1036
7294
+ },
7295
+ {
7296
+ "epoch": 0.08869501999272991,
7297
+ "grad_norm": 0.6256073713302612,
7298
+ "learning_rate": 2.77914034278546e-05,
7299
+ "loss": 1.1667,
7300
+ "step": 1037
7301
+ },
7302
+ {
7303
+ "epoch": 0.08878055038809417,
7304
+ "grad_norm": 0.8997748494148254,
7305
+ "learning_rate": 2.7631437588536224e-05,
7306
+ "loss": 1.525,
7307
+ "step": 1038
7308
+ },
7309
+ {
7310
+ "epoch": 0.08886608078345842,
7311
+ "grad_norm": 0.6278972625732422,
7312
+ "learning_rate": 2.7471859622443274e-05,
7313
+ "loss": 1.303,
7314
+ "step": 1039
7315
+ },
7316
+ {
7317
+ "epoch": 0.08895161117882268,
7318
+ "grad_norm": 0.6343949437141418,
7319
+ "learning_rate": 2.7312670384864515e-05,
7320
+ "loss": 1.2763,
7321
+ "step": 1040
7322
+ },
7323
+ {
7324
+ "epoch": 0.08903714157418692,
7325
+ "grad_norm": 0.7341639995574951,
7326
+ "learning_rate": 2.7153870729005305e-05,
7327
+ "loss": 1.2615,
7328
+ "step": 1041
7329
+ },
7330
+ {
7331
+ "epoch": 0.08912267196955118,
7332
+ "grad_norm": 0.7451346516609192,
7333
+ "learning_rate": 2.699546150598291e-05,
7334
+ "loss": 1.3665,
7335
+ "step": 1042
7336
+ },
7337
+ {
7338
+ "epoch": 0.08920820236491543,
7339
+ "grad_norm": 0.5834757089614868,
7340
+ "learning_rate": 2.683744356482203e-05,
7341
+ "loss": 1.2301,
7342
+ "step": 1043
7343
+ },
7344
+ {
7345
+ "epoch": 0.08929373276027969,
7346
+ "grad_norm": 1.054060697555542,
7347
+ "learning_rate": 2.667981775245021e-05,
7348
+ "loss": 1.1152,
7349
+ "step": 1044
7350
+ },
7351
+ {
7352
+ "epoch": 0.08937926315564394,
7353
+ "grad_norm": 0.6749647259712219,
7354
+ "learning_rate": 2.6522584913693294e-05,
7355
+ "loss": 1.4318,
7356
+ "step": 1045
7357
+ },
7358
+ {
7359
+ "epoch": 0.08946479355100818,
7360
+ "grad_norm": 0.658867359161377,
7361
+ "learning_rate": 2.636574589127091e-05,
7362
+ "loss": 1.4974,
7363
+ "step": 1046
7364
+ },
7365
+ {
7366
+ "epoch": 0.08955032394637244,
7367
+ "grad_norm": 0.8128570914268494,
7368
+ "learning_rate": 2.620930152579195e-05,
7369
+ "loss": 1.4599,
7370
+ "step": 1047
7371
+ },
7372
+ {
7373
+ "epoch": 0.0896358543417367,
7374
+ "grad_norm": 0.7412766218185425,
7375
+ "learning_rate": 2.6053252655750104e-05,
7376
+ "loss": 1.411,
7377
+ "step": 1048
7378
+ },
7379
+ {
7380
+ "epoch": 0.08972138473710095,
7381
+ "grad_norm": 0.820220410823822,
7382
+ "learning_rate": 2.589760011751926e-05,
7383
+ "loss": 1.4402,
7384
+ "step": 1049
7385
+ },
7386
+ {
7387
+ "epoch": 0.0898069151324652,
7388
+ "grad_norm": 0.8349152207374573,
7389
+ "learning_rate": 2.5742344745349145e-05,
7390
+ "loss": 1.3788,
7391
+ "step": 1050
7392
+ },
7393
+ {
7394
+ "epoch": 0.08989244552782945,
7395
+ "grad_norm": 0.9030941128730774,
7396
+ "learning_rate": 2.5587487371360775e-05,
7397
+ "loss": 1.4699,
7398
+ "step": 1051
7399
+ },
7400
+ {
7401
+ "epoch": 0.0899779759231937,
7402
+ "grad_norm": 0.6474955081939697,
7403
+ "learning_rate": 2.5433028825542016e-05,
7404
+ "loss": 1.1086,
7405
+ "step": 1052
7406
+ },
7407
+ {
7408
+ "epoch": 0.09006350631855796,
7409
+ "grad_norm": 0.8108144998550415,
7410
+ "learning_rate": 2.5278969935743157e-05,
7411
+ "loss": 1.397,
7412
+ "step": 1053
7413
+ },
7414
+ {
7415
+ "epoch": 0.09014903671392221,
7416
+ "grad_norm": 0.6039214134216309,
7417
+ "learning_rate": 2.5125311527672434e-05,
7418
+ "loss": 1.4964,
7419
+ "step": 1054
7420
+ },
7421
+ {
7422
+ "epoch": 0.09023456710928646,
7423
+ "grad_norm": 0.6295107007026672,
7424
+ "learning_rate": 2.4972054424891623e-05,
7425
+ "loss": 1.3321,
7426
+ "step": 1055
7427
+ },
7428
+ {
7429
+ "epoch": 0.09032009750465071,
7430
+ "grad_norm": 0.7569166421890259,
7431
+ "learning_rate": 2.4819199448811613e-05,
7432
+ "loss": 1.3664,
7433
+ "step": 1056
7434
+ },
7435
+ {
7436
+ "epoch": 0.09040562790001497,
7437
+ "grad_norm": 0.7334814667701721,
7438
+ "learning_rate": 2.466674741868813e-05,
7439
+ "loss": 1.3102,
7440
+ "step": 1057
7441
+ },
7442
+ {
7443
+ "epoch": 0.09049115829537922,
7444
+ "grad_norm": 0.8081105947494507,
7445
+ "learning_rate": 2.4514699151617025e-05,
7446
+ "loss": 1.2486,
7447
+ "step": 1058
7448
+ },
7449
+ {
7450
+ "epoch": 0.09057668869074348,
7451
+ "grad_norm": 0.682022213935852,
7452
+ "learning_rate": 2.4363055462530338e-05,
7453
+ "loss": 1.2479,
7454
+ "step": 1059
7455
+ },
7456
+ {
7457
+ "epoch": 0.09066221908610772,
7458
+ "grad_norm": 0.6981306076049805,
7459
+ "learning_rate": 2.4211817164191462e-05,
7460
+ "loss": 1.2983,
7461
+ "step": 1060
7462
+ },
7463
+ {
7464
+ "epoch": 0.09074774948147198,
7465
+ "grad_norm": 0.570421040058136,
7466
+ "learning_rate": 2.4060985067191245e-05,
7467
+ "loss": 1.1781,
7468
+ "step": 1061
7469
+ },
7470
+ {
7471
+ "epoch": 0.09083327987683623,
7472
+ "grad_norm": 0.6636925339698792,
7473
+ "learning_rate": 2.3910559979943214e-05,
7474
+ "loss": 1.5518,
7475
+ "step": 1062
7476
+ },
7477
+ {
7478
+ "epoch": 0.09091881027220049,
7479
+ "grad_norm": 0.8669824600219727,
7480
+ "learning_rate": 2.3760542708679645e-05,
7481
+ "loss": 1.3866,
7482
+ "step": 1063
7483
+ },
7484
+ {
7485
+ "epoch": 0.09100434066756474,
7486
+ "grad_norm": 0.5803864598274231,
7487
+ "learning_rate": 2.3610934057446853e-05,
7488
+ "loss": 1.3681,
7489
+ "step": 1064
7490
+ },
7491
+ {
7492
+ "epoch": 0.09108987106292898,
7493
+ "grad_norm": 1.2091318368911743,
7494
+ "learning_rate": 2.346173482810127e-05,
7495
+ "loss": 1.333,
7496
+ "step": 1065
7497
+ },
7498
+ {
7499
+ "epoch": 0.09117540145829324,
7500
+ "grad_norm": 0.6863420605659485,
7501
+ "learning_rate": 2.3312945820304753e-05,
7502
+ "loss": 1.2655,
7503
+ "step": 1066
7504
+ },
7505
+ {
7506
+ "epoch": 0.0912609318536575,
7507
+ "grad_norm": 0.5430271625518799,
7508
+ "learning_rate": 2.31645678315207e-05,
7509
+ "loss": 1.3168,
7510
+ "step": 1067
7511
+ },
7512
+ {
7513
+ "epoch": 0.09134646224902175,
7514
+ "grad_norm": 0.6713351607322693,
7515
+ "learning_rate": 2.301660165700936e-05,
7516
+ "loss": 1.2643,
7517
+ "step": 1068
7518
+ },
7519
+ {
7520
+ "epoch": 0.09143199264438599,
7521
+ "grad_norm": 0.6131070852279663,
7522
+ "learning_rate": 2.2869048089824018e-05,
7523
+ "loss": 1.1364,
7524
+ "step": 1069
7525
+ },
7526
+ {
7527
+ "epoch": 0.09151752303975025,
7528
+ "grad_norm": 0.6926897168159485,
7529
+ "learning_rate": 2.2721907920806284e-05,
7530
+ "loss": 1.0894,
7531
+ "step": 1070
7532
+ },
7533
+ {
7534
+ "epoch": 0.0916030534351145,
7535
+ "grad_norm": 0.6349180936813354,
7536
+ "learning_rate": 2.257518193858228e-05,
7537
+ "loss": 1.121,
7538
+ "step": 1071
7539
+ },
7540
+ {
7541
+ "epoch": 0.09168858383047876,
7542
+ "grad_norm": 0.6556125283241272,
7543
+ "learning_rate": 2.242887092955801e-05,
7544
+ "loss": 1.0694,
7545
+ "step": 1072
7546
+ },
7547
+ {
7548
+ "epoch": 0.09177411422584301,
7549
+ "grad_norm": 0.558599591255188,
7550
+ "learning_rate": 2.2282975677915574e-05,
7551
+ "loss": 1.2182,
7552
+ "step": 1073
7553
+ },
7554
+ {
7555
+ "epoch": 0.09185964462120726,
7556
+ "grad_norm": 0.5393333435058594,
7557
+ "learning_rate": 2.213749696560853e-05,
7558
+ "loss": 1.0461,
7559
+ "step": 1074
7560
+ },
7561
+ {
7562
+ "epoch": 0.09194517501657151,
7563
+ "grad_norm": 0.5710281133651733,
7564
+ "learning_rate": 2.1992435572358105e-05,
7565
+ "loss": 1.2625,
7566
+ "step": 1075
7567
+ },
7568
+ {
7569
+ "epoch": 0.09203070541193577,
7570
+ "grad_norm": 0.5627983212471008,
7571
+ "learning_rate": 2.1847792275648617e-05,
7572
+ "loss": 1.2658,
7573
+ "step": 1076
7574
+ },
7575
+ {
7576
+ "epoch": 0.09211623580730002,
7577
+ "grad_norm": 0.7187315821647644,
7578
+ "learning_rate": 2.170356785072375e-05,
7579
+ "loss": 1.3174,
7580
+ "step": 1077
7581
+ },
7582
+ {
7583
+ "epoch": 0.09220176620266428,
7584
+ "grad_norm": 0.5496204495429993,
7585
+ "learning_rate": 2.155976307058192e-05,
7586
+ "loss": 1.1626,
7587
+ "step": 1078
7588
+ },
7589
+ {
7590
+ "epoch": 0.09228729659802852,
7591
+ "grad_norm": 0.6215189695358276,
7592
+ "learning_rate": 2.1416378705972607e-05,
7593
+ "loss": 1.4042,
7594
+ "step": 1079
7595
+ },
7596
+ {
7597
+ "epoch": 0.09237282699339278,
7598
+ "grad_norm": 0.6556244492530823,
7599
+ "learning_rate": 2.1273415525391782e-05,
7600
+ "loss": 1.2972,
7601
+ "step": 1080
7602
+ },
7603
+ {
7604
+ "epoch": 0.09245835738875703,
7605
+ "grad_norm": 0.652683675289154,
7606
+ "learning_rate": 2.1130874295078208e-05,
7607
+ "loss": 1.0965,
7608
+ "step": 1081
7609
+ },
7610
+ {
7611
+ "epoch": 0.09254388778412129,
7612
+ "grad_norm": 0.7210525274276733,
7613
+ "learning_rate": 2.0988755779008895e-05,
7614
+ "loss": 1.1216,
7615
+ "step": 1082
7616
+ },
7617
+ {
7618
+ "epoch": 0.09262941817948553,
7619
+ "grad_norm": 0.6015889048576355,
7620
+ "learning_rate": 2.0847060738895473e-05,
7621
+ "loss": 1.2687,
7622
+ "step": 1083
7623
+ },
7624
+ {
7625
+ "epoch": 0.09271494857484978,
7626
+ "grad_norm": 0.5169641375541687,
7627
+ "learning_rate": 2.0705789934179665e-05,
7628
+ "loss": 1.1705,
7629
+ "step": 1084
7630
+ },
7631
+ {
7632
+ "epoch": 0.09280047897021404,
7633
+ "grad_norm": 0.8933482766151428,
7634
+ "learning_rate": 2.0564944122029594e-05,
7635
+ "loss": 1.2532,
7636
+ "step": 1085
7637
+ },
7638
+ {
7639
+ "epoch": 0.0928860093655783,
7640
+ "grad_norm": 0.796908438205719,
7641
+ "learning_rate": 2.0424524057335372e-05,
7642
+ "loss": 1.3411,
7643
+ "step": 1086
7644
+ },
7645
+ {
7646
+ "epoch": 0.09297153976094255,
7647
+ "grad_norm": 0.6861847043037415,
7648
+ "learning_rate": 2.0284530492705456e-05,
7649
+ "loss": 1.136,
7650
+ "step": 1087
7651
+ },
7652
+ {
7653
+ "epoch": 0.09305707015630679,
7654
+ "grad_norm": 0.6295773386955261,
7655
+ "learning_rate": 2.0144964178462157e-05,
7656
+ "loss": 1.2162,
7657
+ "step": 1088
7658
+ },
7659
+ {
7660
+ "epoch": 0.09314260055167105,
7661
+ "grad_norm": 0.7247845530509949,
7662
+ "learning_rate": 2.000582586263807e-05,
7663
+ "loss": 1.3524,
7664
+ "step": 1089
7665
+ },
7666
+ {
7667
+ "epoch": 0.0932281309470353,
7668
+ "grad_norm": 0.7550213932991028,
7669
+ "learning_rate": 1.9867116290971666e-05,
7670
+ "loss": 1.3781,
7671
+ "step": 1090
7672
+ },
7673
+ {
7674
+ "epoch": 0.09331366134239956,
7675
+ "grad_norm": 0.6848693490028381,
7676
+ "learning_rate": 1.9728836206903656e-05,
7677
+ "loss": 1.423,
7678
+ "step": 1091
7679
+ },
7680
+ {
7681
+ "epoch": 0.0933991917377638,
7682
+ "grad_norm": 0.7921642661094666,
7683
+ "learning_rate": 1.9590986351572637e-05,
7684
+ "loss": 1.6666,
7685
+ "step": 1092
7686
+ },
7687
+ {
7688
+ "epoch": 0.09348472213312806,
7689
+ "grad_norm": 0.7729972004890442,
7690
+ "learning_rate": 1.9453567463811517e-05,
7691
+ "loss": 1.455,
7692
+ "step": 1093
7693
+ },
7694
+ {
7695
+ "epoch": 0.09357025252849231,
7696
+ "grad_norm": 0.6873956918716431,
7697
+ "learning_rate": 1.931658028014316e-05,
7698
+ "loss": 1.1576,
7699
+ "step": 1094
7700
+ },
7701
+ {
7702
+ "epoch": 0.09365578292385657,
7703
+ "grad_norm": 0.7904304265975952,
7704
+ "learning_rate": 1.9180025534776804e-05,
7705
+ "loss": 1.2654,
7706
+ "step": 1095
7707
+ },
7708
+ {
7709
+ "epoch": 0.09374131331922082,
7710
+ "grad_norm": 0.7358798384666443,
7711
+ "learning_rate": 1.904390395960376e-05,
7712
+ "loss": 1.3513,
7713
+ "step": 1096
7714
+ },
7715
+ {
7716
+ "epoch": 0.09382684371458506,
7717
+ "grad_norm": 0.6227467656135559,
7718
+ "learning_rate": 1.8908216284193903e-05,
7719
+ "loss": 1.0633,
7720
+ "step": 1097
7721
+ },
7722
+ {
7723
+ "epoch": 0.09391237410994932,
7724
+ "grad_norm": 0.6056643128395081,
7725
+ "learning_rate": 1.8772963235791296e-05,
7726
+ "loss": 1.277,
7727
+ "step": 1098
7728
+ },
7729
+ {
7730
+ "epoch": 0.09399790450531358,
7731
+ "grad_norm": 0.7758252024650574,
7732
+ "learning_rate": 1.863814553931078e-05,
7733
+ "loss": 1.4999,
7734
+ "step": 1099
7735
+ },
7736
+ {
7737
+ "epoch": 0.09408343490067783,
7738
+ "grad_norm": 0.6872943639755249,
7739
+ "learning_rate": 1.8503763917333605e-05,
7740
+ "loss": 1.2724,
7741
+ "step": 1100
7742
+ },
7743
+ {
7744
+ "epoch": 0.09416896529604209,
7745
+ "grad_norm": 0.639504611492157,
7746
+ "learning_rate": 1.8369819090104035e-05,
7747
+ "loss": 1.335,
7748
+ "step": 1101
7749
+ },
7750
+ {
7751
+ "epoch": 0.09425449569140633,
7752
+ "grad_norm": 0.7677364945411682,
7753
+ "learning_rate": 1.8236311775524993e-05,
7754
+ "loss": 1.1448,
7755
+ "step": 1102
7756
+ },
7757
+ {
7758
+ "epoch": 0.09434002608677058,
7759
+ "grad_norm": 0.5989501476287842,
7760
+ "learning_rate": 1.8103242689154742e-05,
7761
+ "loss": 1.0161,
7762
+ "step": 1103
7763
+ },
7764
+ {
7765
+ "epoch": 0.09442555648213484,
7766
+ "grad_norm": 0.5663689374923706,
7767
+ "learning_rate": 1.7970612544202504e-05,
7768
+ "loss": 1.3348,
7769
+ "step": 1104
7770
+ },
7771
+ {
7772
+ "epoch": 0.0945110868774991,
7773
+ "grad_norm": 0.660309374332428,
7774
+ "learning_rate": 1.7838422051525162e-05,
7775
+ "loss": 1.3806,
7776
+ "step": 1105
7777
+ },
7778
+ {
7779
+ "epoch": 0.09459661727286334,
7780
+ "grad_norm": 0.6574042439460754,
7781
+ "learning_rate": 1.7706671919622964e-05,
7782
+ "loss": 1.3526,
7783
+ "step": 1106
7784
+ },
7785
+ {
7786
+ "epoch": 0.09468214766822759,
7787
+ "grad_norm": 0.6711617112159729,
7788
+ "learning_rate": 1.757536285463619e-05,
7789
+ "loss": 1.3693,
7790
+ "step": 1107
7791
+ },
7792
+ {
7793
+ "epoch": 0.09476767806359185,
7794
+ "grad_norm": 0.6022560596466064,
7795
+ "learning_rate": 1.7444495560340923e-05,
7796
+ "loss": 1.2685,
7797
+ "step": 1108
7798
+ },
7799
+ {
7800
+ "epoch": 0.0948532084589561,
7801
+ "grad_norm": 0.582665205001831,
7802
+ "learning_rate": 1.731407073814568e-05,
7803
+ "loss": 1.3888,
7804
+ "step": 1109
7805
+ },
7806
+ {
7807
+ "epoch": 0.09493873885432036,
7808
+ "grad_norm": 0.6184068322181702,
7809
+ "learning_rate": 1.7184089087087286e-05,
7810
+ "loss": 1.1831,
7811
+ "step": 1110
7812
+ },
7813
+ {
7814
+ "epoch": 0.0950242692496846,
7815
+ "grad_norm": 0.6964118480682373,
7816
+ "learning_rate": 1.705455130382747e-05,
7817
+ "loss": 0.9769,
7818
+ "step": 1111
7819
+ },
7820
+ {
7821
+ "epoch": 0.09510979964504886,
7822
+ "grad_norm": 0.6486069560050964,
7823
+ "learning_rate": 1.6925458082648814e-05,
7824
+ "loss": 1.1819,
7825
+ "step": 1112
7826
+ },
7827
+ {
7828
+ "epoch": 0.09519533004041311,
7829
+ "grad_norm": 0.5542632341384888,
7830
+ "learning_rate": 1.6796810115451355e-05,
7831
+ "loss": 1.2112,
7832
+ "step": 1113
7833
+ },
7834
+ {
7835
+ "epoch": 0.09528086043577737,
7836
+ "grad_norm": 0.7129067778587341,
7837
+ "learning_rate": 1.6668608091748495e-05,
7838
+ "loss": 1.1792,
7839
+ "step": 1114
7840
+ },
7841
+ {
7842
+ "epoch": 0.09536639083114162,
7843
+ "grad_norm": 0.7138066291809082,
7844
+ "learning_rate": 1.6540852698663744e-05,
7845
+ "loss": 1.024,
7846
+ "step": 1115
7847
+ },
7848
+ {
7849
+ "epoch": 0.09545192122650586,
7850
+ "grad_norm": 0.8500154614448547,
7851
+ "learning_rate": 1.641354462092659e-05,
7852
+ "loss": 1.3554,
7853
+ "step": 1116
7854
+ },
7855
+ {
7856
+ "epoch": 0.09553745162187012,
7857
+ "grad_norm": 0.7634010910987854,
7858
+ "learning_rate": 1.6286684540869257e-05,
7859
+ "loss": 1.0554,
7860
+ "step": 1117
7861
+ },
7862
+ {
7863
+ "epoch": 0.09562298201723438,
7864
+ "grad_norm": 0.6083820462226868,
7865
+ "learning_rate": 1.6160273138422644e-05,
7866
+ "loss": 1.3523,
7867
+ "step": 1118
7868
+ },
7869
+ {
7870
+ "epoch": 0.09570851241259863,
7871
+ "grad_norm": 0.7217734456062317,
7872
+ "learning_rate": 1.6034311091113054e-05,
7873
+ "loss": 1.2202,
7874
+ "step": 1119
7875
+ },
7876
+ {
7877
+ "epoch": 0.09579404280796287,
7878
+ "grad_norm": 0.7784074544906616,
7879
+ "learning_rate": 1.590879907405821e-05,
7880
+ "loss": 1.1529,
7881
+ "step": 1120
7882
+ },
7883
+ {
7884
+ "epoch": 0.09587957320332713,
7885
+ "grad_norm": 0.7111767530441284,
7886
+ "learning_rate": 1.5783737759964002e-05,
7887
+ "loss": 1.2538,
7888
+ "step": 1121
7889
+ },
7890
+ {
7891
+ "epoch": 0.09596510359869138,
7892
+ "grad_norm": 0.6297357678413391,
7893
+ "learning_rate": 1.5659127819120512e-05,
7894
+ "loss": 1.1614,
7895
+ "step": 1122
7896
+ },
7897
+ {
7898
+ "epoch": 0.09605063399405564,
7899
+ "grad_norm": 0.4988422393798828,
7900
+ "learning_rate": 1.55349699193987e-05,
7901
+ "loss": 1.3157,
7902
+ "step": 1123
7903
+ },
7904
+ {
7905
+ "epoch": 0.0961361643894199,
7906
+ "grad_norm": 0.7283987402915955,
7907
+ "learning_rate": 1.541126472624671e-05,
7908
+ "loss": 1.3237,
7909
+ "step": 1124
7910
+ },
7911
+ {
7912
+ "epoch": 0.09622169478478414,
7913
+ "grad_norm": 0.6443654894828796,
7914
+ "learning_rate": 1.528801290268631e-05,
7915
+ "loss": 1.2974,
7916
+ "step": 1125
7917
+ },
7918
+ {
7919
+ "epoch": 0.09630722518014839,
7920
+ "grad_norm": 0.6462159752845764,
7921
+ "learning_rate": 1.5165215109309339e-05,
7922
+ "loss": 1.0702,
7923
+ "step": 1126
7924
+ },
7925
+ {
7926
+ "epoch": 0.09639275557551265,
7927
+ "grad_norm": 0.6380646228790283,
7928
+ "learning_rate": 1.50428720042742e-05,
7929
+ "loss": 1.093,
7930
+ "step": 1127
7931
+ },
7932
+ {
7933
+ "epoch": 0.0964782859708769,
7934
+ "grad_norm": 0.5833716988563538,
7935
+ "learning_rate": 1.492098424330226e-05,
7936
+ "loss": 1.3303,
7937
+ "step": 1128
7938
+ },
7939
+ {
7940
+ "epoch": 0.09656381636624116,
7941
+ "grad_norm": 0.6419957280158997,
7942
+ "learning_rate": 1.4799552479674416e-05,
7943
+ "loss": 1.2292,
7944
+ "step": 1129
7945
+ },
7946
+ {
7947
+ "epoch": 0.0966493467616054,
7948
+ "grad_norm": 1.132210612297058,
7949
+ "learning_rate": 1.4678577364227609e-05,
7950
+ "loss": 1.2821,
7951
+ "step": 1130
7952
+ },
7953
+ {
7954
+ "epoch": 0.09673487715696966,
7955
+ "grad_norm": 0.5967508554458618,
7956
+ "learning_rate": 1.4558059545351143e-05,
7957
+ "loss": 1.1487,
7958
+ "step": 1131
7959
+ },
7960
+ {
7961
+ "epoch": 0.09682040755233391,
7962
+ "grad_norm": 0.882344126701355,
7963
+ "learning_rate": 1.4437999668983527e-05,
7964
+ "loss": 1.3197,
7965
+ "step": 1132
7966
+ },
7967
+ {
7968
+ "epoch": 0.09690593794769817,
7969
+ "grad_norm": 0.6314916014671326,
7970
+ "learning_rate": 1.4318398378608677e-05,
7971
+ "loss": 1.1112,
7972
+ "step": 1133
7973
+ },
7974
+ {
7975
+ "epoch": 0.09699146834306241,
7976
+ "grad_norm": 0.686590850353241,
7977
+ "learning_rate": 1.4199256315252784e-05,
7978
+ "loss": 1.2158,
7979
+ "step": 1134
7980
+ },
7981
+ {
7982
+ "epoch": 0.09707699873842666,
7983
+ "grad_norm": 0.5377119183540344,
7984
+ "learning_rate": 1.408057411748056e-05,
7985
+ "loss": 1.1932,
7986
+ "step": 1135
7987
+ },
7988
+ {
7989
+ "epoch": 0.09716252913379092,
7990
+ "grad_norm": 0.6981042623519897,
7991
+ "learning_rate": 1.3962352421392155e-05,
7992
+ "loss": 1.2248,
7993
+ "step": 1136
7994
+ },
7995
+ {
7996
+ "epoch": 0.09724805952915518,
7997
+ "grad_norm": 0.6594929099082947,
7998
+ "learning_rate": 1.3844591860619383e-05,
7999
+ "loss": 1.1575,
8000
+ "step": 1137
8001
+ },
8002
+ {
8003
+ "epoch": 0.09733358992451943,
8004
+ "grad_norm": 0.681953489780426,
8005
+ "learning_rate": 1.3727293066322711e-05,
8006
+ "loss": 1.3006,
8007
+ "step": 1138
8008
+ },
8009
+ {
8010
+ "epoch": 0.09741912031988367,
8011
+ "grad_norm": 0.7691402435302734,
8012
+ "learning_rate": 1.36104566671875e-05,
8013
+ "loss": 1.0347,
8014
+ "step": 1139
8015
+ },
8016
+ {
8017
+ "epoch": 0.09750465071524793,
8018
+ "grad_norm": 0.7091867327690125,
8019
+ "learning_rate": 1.3494083289420967e-05,
8020
+ "loss": 1.4123,
8021
+ "step": 1140
8022
+ },
8023
+ {
8024
+ "epoch": 0.09759018111061218,
8025
+ "grad_norm": 0.9249230027198792,
8026
+ "learning_rate": 1.337817355674853e-05,
8027
+ "loss": 1.5917,
8028
+ "step": 1141
8029
+ },
8030
+ {
8031
+ "epoch": 0.09767571150597644,
8032
+ "grad_norm": 0.8790913820266724,
8033
+ "learning_rate": 1.3262728090410781e-05,
8034
+ "loss": 1.4272,
8035
+ "step": 1142
8036
+ },
8037
+ {
8038
+ "epoch": 0.0977612419013407,
8039
+ "grad_norm": 0.4759587347507477,
8040
+ "learning_rate": 1.3147747509159792e-05,
8041
+ "loss": 1.0164,
8042
+ "step": 1143
8043
+ },
8044
+ {
8045
+ "epoch": 0.09784677229670494,
8046
+ "grad_norm": 0.8406909108161926,
8047
+ "learning_rate": 1.3033232429256193e-05,
8048
+ "loss": 1.3841,
8049
+ "step": 1144
8050
+ },
8051
+ {
8052
+ "epoch": 0.09793230269206919,
8053
+ "grad_norm": 1.0066759586334229,
8054
+ "learning_rate": 1.2919183464465479e-05,
8055
+ "loss": 1.394,
8056
+ "step": 1145
8057
+ },
8058
+ {
8059
+ "epoch": 0.09801783308743345,
8060
+ "grad_norm": 0.6004915237426758,
8061
+ "learning_rate": 1.2805601226055109e-05,
8062
+ "loss": 1.2202,
8063
+ "step": 1146
8064
+ },
8065
+ {
8066
+ "epoch": 0.0981033634827977,
8067
+ "grad_norm": 0.6759750247001648,
8068
+ "learning_rate": 1.2692486322790842e-05,
8069
+ "loss": 1.1767,
8070
+ "step": 1147
8071
+ },
8072
+ {
8073
+ "epoch": 0.09818889387816195,
8074
+ "grad_norm": 0.6109463572502136,
8075
+ "learning_rate": 1.257983936093382e-05,
8076
+ "loss": 1.0886,
8077
+ "step": 1148
8078
+ },
8079
+ {
8080
+ "epoch": 0.0982744242735262,
8081
+ "grad_norm": 0.6280931830406189,
8082
+ "learning_rate": 1.2467660944237013e-05,
8083
+ "loss": 1.2943,
8084
+ "step": 1149
8085
+ },
8086
+ {
8087
+ "epoch": 0.09835995466889046,
8088
+ "grad_norm": 0.6213207244873047,
8089
+ "learning_rate": 1.2355951673942323e-05,
8090
+ "loss": 1.1665,
8091
+ "step": 1150
8092
+ },
8093
+ {
8094
+ "epoch": 0.09844548506425471,
8095
+ "grad_norm": 0.6124899983406067,
8096
+ "learning_rate": 1.224471214877696e-05,
8097
+ "loss": 1.2477,
8098
+ "step": 1151
8099
+ },
8100
+ {
8101
+ "epoch": 0.09853101545961897,
8102
+ "grad_norm": 0.67739337682724,
8103
+ "learning_rate": 1.2133942964950629e-05,
8104
+ "loss": 1.4612,
8105
+ "step": 1152
8106
+ },
8107
+ {
8108
+ "epoch": 0.09861654585498321,
8109
+ "grad_norm": 0.5677928328514099,
8110
+ "learning_rate": 1.2023644716151995e-05,
8111
+ "loss": 1.0833,
8112
+ "step": 1153
8113
+ },
8114
+ {
8115
+ "epoch": 0.09870207625034746,
8116
+ "grad_norm": 0.5912926197052002,
8117
+ "learning_rate": 1.1913817993545818e-05,
8118
+ "loss": 1.4148,
8119
+ "step": 1154
8120
+ },
8121
+ {
8122
+ "epoch": 0.09878760664571172,
8123
+ "grad_norm": 0.9364431500434875,
8124
+ "learning_rate": 1.1804463385769437e-05,
8125
+ "loss": 1.5571,
8126
+ "step": 1155
8127
+ },
8128
+ {
8129
+ "epoch": 0.09887313704107598,
8130
+ "grad_norm": 0.6148780584335327,
8131
+ "learning_rate": 1.1695581478930006e-05,
8132
+ "loss": 1.3999,
8133
+ "step": 1156
8134
+ },
8135
+ {
8136
+ "epoch": 0.09895866743644023,
8137
+ "grad_norm": 1.060227870941162,
8138
+ "learning_rate": 1.1587172856600936e-05,
8139
+ "loss": 1.3556,
8140
+ "step": 1157
8141
+ },
8142
+ {
8143
+ "epoch": 0.09904419783180447,
8144
+ "grad_norm": 0.5721437335014343,
8145
+ "learning_rate": 1.1479238099819168e-05,
8146
+ "loss": 1.1384,
8147
+ "step": 1158
8148
+ },
8149
+ {
8150
+ "epoch": 0.09912972822716873,
8151
+ "grad_norm": 0.6430489420890808,
8152
+ "learning_rate": 1.1371777787081716e-05,
8153
+ "loss": 1.3938,
8154
+ "step": 1159
8155
+ },
8156
+ {
8157
+ "epoch": 0.09921525862253298,
8158
+ "grad_norm": 0.5318665504455566,
8159
+ "learning_rate": 1.1264792494342857e-05,
8160
+ "loss": 1.2653,
8161
+ "step": 1160
8162
+ },
8163
+ {
8164
+ "epoch": 0.09930078901789724,
8165
+ "grad_norm": 0.630840003490448,
8166
+ "learning_rate": 1.1158282795010766e-05,
8167
+ "loss": 1.3743,
8168
+ "step": 1161
8169
+ },
8170
+ {
8171
+ "epoch": 0.09938631941326148,
8172
+ "grad_norm": 0.9807463884353638,
8173
+ "learning_rate": 1.1052249259944736e-05,
8174
+ "loss": 1.2829,
8175
+ "step": 1162
8176
+ },
8177
+ {
8178
+ "epoch": 0.09947184980862574,
8179
+ "grad_norm": 0.6725842952728271,
8180
+ "learning_rate": 1.0946692457451801e-05,
8181
+ "loss": 1.1312,
8182
+ "step": 1163
8183
+ },
8184
+ {
8185
+ "epoch": 0.09955738020398999,
8186
+ "grad_norm": 0.6256046891212463,
8187
+ "learning_rate": 1.0841612953284031e-05,
8188
+ "loss": 1.2688,
8189
+ "step": 1164
8190
+ },
8191
+ {
8192
+ "epoch": 0.09964291059935425,
8193
+ "grad_norm": 0.7676641345024109,
8194
+ "learning_rate": 1.0737011310635148e-05,
8195
+ "loss": 1.391,
8196
+ "step": 1165
8197
+ },
8198
+ {
8199
+ "epoch": 0.0997284409947185,
8200
+ "grad_norm": 0.7028516530990601,
8201
+ "learning_rate": 1.0632888090137838e-05,
8202
+ "loss": 1.4279,
8203
+ "step": 1166
8204
+ },
8205
+ {
8206
+ "epoch": 0.09981397139008275,
8207
+ "grad_norm": 0.6178726553916931,
8208
+ "learning_rate": 1.052924384986046e-05,
8209
+ "loss": 1.15,
8210
+ "step": 1167
8211
+ },
8212
+ {
8213
+ "epoch": 0.099899501785447,
8214
+ "grad_norm": 0.7424608469009399,
8215
+ "learning_rate": 1.0426079145304324e-05,
8216
+ "loss": 1.086,
8217
+ "step": 1168
8218
+ },
8219
+ {
8220
+ "epoch": 0.09998503218081126,
8221
+ "grad_norm": 1.4815465211868286,
8222
+ "learning_rate": 1.032339452940041e-05,
8223
+ "loss": 1.0878,
8224
+ "step": 1169
8225
+ },
8226
+ {
8227
+ "epoch": 0.10007056257617551,
8228
+ "grad_norm": 0.7094009518623352,
8229
+ "learning_rate": 1.0221190552506755e-05,
8230
+ "loss": 1.0006,
8231
+ "step": 1170
8232
+ },
8233
+ {
8234
+ "epoch": 0.10015609297153977,
8235
+ "grad_norm": 0.788488507270813,
8236
+ "learning_rate": 1.0119467762405133e-05,
8237
+ "loss": 1.3264,
8238
+ "step": 1171
8239
+ },
8240
+ {
8241
+ "epoch": 0.10024162336690401,
8242
+ "grad_norm": 0.572658121585846,
8243
+ "learning_rate": 1.0018226704298483e-05,
8244
+ "loss": 1.1981,
8245
+ "step": 1172
8246
+ },
8247
+ {
8248
+ "epoch": 0.10032715376226826,
8249
+ "grad_norm": 0.6463015079498291,
8250
+ "learning_rate": 9.917467920807644e-06,
8251
+ "loss": 1.5562,
8252
+ "step": 1173
8253
+ },
8254
+ {
8255
+ "epoch": 0.10041268415763252,
8256
+ "grad_norm": 0.7174463272094727,
8257
+ "learning_rate": 9.817191951968774e-06,
8258
+ "loss": 1.4205,
8259
+ "step": 1174
8260
+ },
8261
+ {
8262
+ "epoch": 0.10049821455299678,
8263
+ "grad_norm": 0.5894198417663574,
8264
+ "learning_rate": 9.717399335230114e-06,
8265
+ "loss": 1.2834,
8266
+ "step": 1175
8267
+ },
8268
+ {
8269
+ "epoch": 0.10058374494836102,
8270
+ "grad_norm": 0.6444647312164307,
8271
+ "learning_rate": 9.61809060544948e-06,
8272
+ "loss": 1.2369,
8273
+ "step": 1176
8274
+ },
8275
+ {
8276
+ "epoch": 0.10066927534372527,
8277
+ "grad_norm": 0.5419690012931824,
8278
+ "learning_rate": 9.519266294891016e-06,
8279
+ "loss": 1.2426,
8280
+ "step": 1177
8281
+ },
8282
+ {
8283
+ "epoch": 0.10075480573908953,
8284
+ "grad_norm": 0.6689468622207642,
8285
+ "learning_rate": 9.420926933222696e-06,
8286
+ "loss": 1.3205,
8287
+ "step": 1178
8288
+ },
8289
+ {
8290
+ "epoch": 0.10084033613445378,
8291
+ "grad_norm": 0.7869369387626648,
8292
+ "learning_rate": 9.323073047513153e-06,
8293
+ "loss": 1.2829,
8294
+ "step": 1179
8295
+ },
8296
+ {
8297
+ "epoch": 0.10092586652981804,
8298
+ "grad_norm": 0.7244793772697449,
8299
+ "learning_rate": 9.225705162229204e-06,
8300
+ "loss": 1.1761,
8301
+ "step": 1180
8302
+ },
8303
+ {
8304
+ "epoch": 0.10101139692518228,
8305
+ "grad_norm": 0.7290056943893433,
8306
+ "learning_rate": 9.128823799232645e-06,
8307
+ "loss": 1.2342,
8308
+ "step": 1181
8309
+ },
8310
+ {
8311
+ "epoch": 0.10109692732054654,
8312
+ "grad_norm": 0.5737406611442566,
8313
+ "learning_rate": 9.03242947777786e-06,
8314
+ "loss": 1.0031,
8315
+ "step": 1182
8316
+ },
8317
+ {
8318
+ "epoch": 0.10118245771591079,
8319
+ "grad_norm": 0.8678712844848633,
8320
+ "learning_rate": 8.936522714508678e-06,
8321
+ "loss": 0.9806,
8322
+ "step": 1183
8323
+ },
8324
+ {
8325
+ "epoch": 0.10126798811127505,
8326
+ "grad_norm": 0.571510910987854,
8327
+ "learning_rate": 8.841104023455904e-06,
8328
+ "loss": 1.3388,
8329
+ "step": 1184
8330
+ },
8331
+ {
8332
+ "epoch": 0.1013535185066393,
8333
+ "grad_norm": 0.5718685388565063,
8334
+ "learning_rate": 8.746173916034295e-06,
8335
+ "loss": 1.1207,
8336
+ "step": 1185
8337
+ },
8338
+ {
8339
+ "epoch": 0.10143904890200355,
8340
+ "grad_norm": 0.6320329904556274,
8341
+ "learning_rate": 8.651732901040088e-06,
8342
+ "loss": 1.1338,
8343
+ "step": 1186
8344
+ },
8345
+ {
8346
+ "epoch": 0.1015245792973678,
8347
+ "grad_norm": 0.8995944857597351,
8348
+ "learning_rate": 8.557781484647976e-06,
8349
+ "loss": 1.3897,
8350
+ "step": 1187
8351
+ },
8352
+ {
8353
+ "epoch": 0.10161010969273206,
8354
+ "grad_norm": 0.6182651519775391,
8355
+ "learning_rate": 8.464320170408724e-06,
8356
+ "loss": 1.1698,
8357
+ "step": 1188
8358
+ },
8359
+ {
8360
+ "epoch": 0.10169564008809631,
8361
+ "grad_norm": 0.7744005918502808,
8362
+ "learning_rate": 8.371349459246148e-06,
8363
+ "loss": 1.0418,
8364
+ "step": 1189
8365
+ },
8366
+ {
8367
+ "epoch": 0.10178117048346055,
8368
+ "grad_norm": 0.7139986157417297,
8369
+ "learning_rate": 8.278869849454718e-06,
8370
+ "loss": 1.2422,
8371
+ "step": 1190
8372
+ },
8373
+ {
8374
+ "epoch": 0.10186670087882481,
8375
+ "grad_norm": 0.5272407531738281,
8376
+ "learning_rate": 8.186881836696603e-06,
8377
+ "loss": 1.3767,
8378
+ "step": 1191
8379
+ },
8380
+ {
8381
+ "epoch": 0.10195223127418906,
8382
+ "grad_norm": 0.7826871275901794,
8383
+ "learning_rate": 8.09538591399933e-06,
8384
+ "loss": 1.1483,
8385
+ "step": 1192
8386
+ },
8387
+ {
8388
+ "epoch": 0.10203776166955332,
8389
+ "grad_norm": 0.6467208862304688,
8390
+ "learning_rate": 8.004382571752821e-06,
8391
+ "loss": 1.3155,
8392
+ "step": 1193
8393
+ },
8394
+ {
8395
+ "epoch": 0.10212329206491758,
8396
+ "grad_norm": 0.8034864068031311,
8397
+ "learning_rate": 7.913872297707037e-06,
8398
+ "loss": 1.3306,
8399
+ "step": 1194
8400
+ },
8401
+ {
8402
+ "epoch": 0.10220882246028182,
8403
+ "grad_norm": 0.6829416751861572,
8404
+ "learning_rate": 7.823855576969152e-06,
8405
+ "loss": 1.3536,
8406
+ "step": 1195
8407
+ },
8408
+ {
8409
+ "epoch": 0.10229435285564607,
8410
+ "grad_norm": 0.5595396757125854,
8411
+ "learning_rate": 7.73433289200114e-06,
8412
+ "loss": 1.2384,
8413
+ "step": 1196
8414
+ },
8415
+ {
8416
+ "epoch": 0.10237988325101033,
8417
+ "grad_norm": 0.6439934968948364,
8418
+ "learning_rate": 7.645304722616986e-06,
8419
+ "loss": 1.2375,
8420
+ "step": 1197
8421
+ },
8422
+ {
8423
+ "epoch": 0.10246541364637458,
8424
+ "grad_norm": 0.6955091953277588,
8425
+ "learning_rate": 7.556771545980346e-06,
8426
+ "loss": 1.2773,
8427
+ "step": 1198
8428
+ },
8429
+ {
8430
+ "epoch": 0.10255094404173884,
8431
+ "grad_norm": 0.6937287449836731,
8432
+ "learning_rate": 7.468733836601738e-06,
8433
+ "loss": 1.0761,
8434
+ "step": 1199
8435
+ },
8436
+ {
8437
+ "epoch": 0.10263647443710308,
8438
+ "grad_norm": 0.6428677439689636,
8439
+ "learning_rate": 7.381192066336251e-06,
8440
+ "loss": 1.3753,
8441
+ "step": 1200
8442
+ },
8443
+ {
8444
+ "epoch": 0.10272200483246734,
8445
+ "grad_norm": 0.6128683686256409,
8446
+ "learning_rate": 7.294146704380789e-06,
8447
+ "loss": 1.1993,
8448
+ "step": 1201
8449
+ },
8450
+ {
8451
+ "epoch": 0.10280753522783159,
8452
+ "grad_norm": 0.5537887215614319,
8453
+ "learning_rate": 7.207598217271738e-06,
8454
+ "loss": 1.1871,
8455
+ "step": 1202
8456
+ },
8457
+ {
8458
+ "epoch": 0.10289306562319585,
8459
+ "grad_norm": 0.7775152325630188,
8460
+ "learning_rate": 7.12154706888235e-06,
8461
+ "loss": 1.1852,
8462
+ "step": 1203
8463
+ },
8464
+ {
8465
+ "epoch": 0.10297859601856009,
8466
+ "grad_norm": 0.6062970757484436,
8467
+ "learning_rate": 7.035993720420286e-06,
8468
+ "loss": 1.1542,
8469
+ "step": 1204
8470
+ },
8471
+ {
8472
+ "epoch": 0.10306412641392435,
8473
+ "grad_norm": 0.6594257354736328,
8474
+ "learning_rate": 6.9509386304251855e-06,
8475
+ "loss": 1.2148,
8476
+ "step": 1205
8477
+ },
8478
+ {
8479
+ "epoch": 0.1031496568092886,
8480
+ "grad_norm": 0.696414053440094,
8481
+ "learning_rate": 6.866382254766157e-06,
8482
+ "loss": 1.2221,
8483
+ "step": 1206
8484
+ },
8485
+ {
8486
+ "epoch": 0.10323518720465286,
8487
+ "grad_norm": 0.8169296979904175,
8488
+ "learning_rate": 6.782325046639337e-06,
8489
+ "loss": 1.32,
8490
+ "step": 1207
8491
+ },
8492
+ {
8493
+ "epoch": 0.10332071760001711,
8494
+ "grad_norm": 0.5975808501243591,
8495
+ "learning_rate": 6.698767456565514e-06,
8496
+ "loss": 1.1731,
8497
+ "step": 1208
8498
+ },
8499
+ {
8500
+ "epoch": 0.10340624799538135,
8501
+ "grad_norm": 0.6444505453109741,
8502
+ "learning_rate": 6.615709932387648e-06,
8503
+ "loss": 1.1545,
8504
+ "step": 1209
8505
+ },
8506
+ {
8507
+ "epoch": 0.10349177839074561,
8508
+ "grad_norm": 0.6064745187759399,
8509
+ "learning_rate": 6.533152919268515e-06,
8510
+ "loss": 1.1075,
8511
+ "step": 1210
8512
+ },
8513
+ {
8514
+ "epoch": 0.10357730878610986,
8515
+ "grad_norm": 0.9440077543258667,
8516
+ "learning_rate": 6.4510968596882995e-06,
8517
+ "loss": 1.4889,
8518
+ "step": 1211
8519
+ },
8520
+ {
8521
+ "epoch": 0.10366283918147412,
8522
+ "grad_norm": 0.7302765846252441,
8523
+ "learning_rate": 6.369542193442235e-06,
8524
+ "loss": 1.189,
8525
+ "step": 1212
8526
+ },
8527
+ {
8528
+ "epoch": 0.10374836957683838,
8529
+ "grad_norm": 0.6205735802650452,
8530
+ "learning_rate": 6.288489357638228e-06,
8531
+ "loss": 1.108,
8532
+ "step": 1213
8533
+ },
8534
+ {
8535
+ "epoch": 0.10383389997220262,
8536
+ "grad_norm": 0.504887580871582,
8537
+ "learning_rate": 6.207938786694534e-06,
8538
+ "loss": 1.0552,
8539
+ "step": 1214
8540
+ },
8541
+ {
8542
+ "epoch": 0.10391943036756687,
8543
+ "grad_norm": 0.964135468006134,
8544
+ "learning_rate": 6.127890912337442e-06,
8545
+ "loss": 1.2924,
8546
+ "step": 1215
8547
+ },
8548
+ {
8549
+ "epoch": 0.10400496076293113,
8550
+ "grad_norm": 0.8769885897636414,
8551
+ "learning_rate": 6.048346163598917e-06,
8552
+ "loss": 1.3238,
8553
+ "step": 1216
8554
+ },
8555
+ {
8556
+ "epoch": 0.10409049115829538,
8557
+ "grad_norm": 0.6359437704086304,
8558
+ "learning_rate": 5.969304966814338e-06,
8559
+ "loss": 1.4852,
8560
+ "step": 1217
8561
+ },
8562
+ {
8563
+ "epoch": 0.10417602155365963,
8564
+ "grad_norm": 0.8242224454879761,
8565
+ "learning_rate": 5.890767745620196e-06,
8566
+ "loss": 1.2492,
8567
+ "step": 1218
8568
+ },
8569
+ {
8570
+ "epoch": 0.10426155194902388,
8571
+ "grad_norm": 0.7939228415489197,
8572
+ "learning_rate": 5.8127349209518235e-06,
8573
+ "loss": 1.3867,
8574
+ "step": 1219
8575
+ },
8576
+ {
8577
+ "epoch": 0.10434708234438814,
8578
+ "grad_norm": 0.8482233285903931,
8579
+ "learning_rate": 5.735206911041158e-06,
8580
+ "loss": 1.1829,
8581
+ "step": 1220
8582
+ },
8583
+ {
8584
+ "epoch": 0.10443261273975239,
8585
+ "grad_norm": 0.6763672232627869,
8586
+ "learning_rate": 5.658184131414479e-06,
8587
+ "loss": 1.2295,
8588
+ "step": 1221
8589
+ },
8590
+ {
8591
+ "epoch": 0.10451814313511665,
8592
+ "grad_norm": 0.5925362706184387,
8593
+ "learning_rate": 5.581666994890167e-06,
8594
+ "loss": 1.1504,
8595
+ "step": 1222
8596
+ },
8597
+ {
8598
+ "epoch": 0.10460367353048089,
8599
+ "grad_norm": 0.6096864342689514,
8600
+ "learning_rate": 5.505655911576535e-06,
8601
+ "loss": 1.118,
8602
+ "step": 1223
8603
+ },
8604
+ {
8605
+ "epoch": 0.10468920392584515,
8606
+ "grad_norm": 0.7584922909736633,
8607
+ "learning_rate": 5.430151288869612e-06,
8608
+ "loss": 1.5041,
8609
+ "step": 1224
8610
+ },
8611
+ {
8612
+ "epoch": 0.1047747343212094,
8613
+ "grad_norm": 0.6769731044769287,
8614
+ "learning_rate": 5.355153531450918e-06,
8615
+ "loss": 1.3298,
8616
+ "step": 1225
8617
+ },
8618
+ {
8619
+ "epoch": 0.10486026471657366,
8620
+ "grad_norm": 0.7898415327072144,
8621
+ "learning_rate": 5.280663041285383e-06,
8622
+ "loss": 1.3877,
8623
+ "step": 1226
8624
+ },
8625
+ {
8626
+ "epoch": 0.10494579511193791,
8627
+ "grad_norm": 0.7577039003372192,
8628
+ "learning_rate": 5.206680217619086e-06,
8629
+ "loss": 1.0991,
8630
+ "step": 1227
8631
+ },
8632
+ {
8633
+ "epoch": 0.10503132550730215,
8634
+ "grad_norm": 0.7986608743667603,
8635
+ "learning_rate": 5.133205456977219e-06,
8636
+ "loss": 1.1128,
8637
+ "step": 1228
8638
+ },
8639
+ {
8640
+ "epoch": 0.10511685590266641,
8641
+ "grad_norm": 0.6890549063682556,
8642
+ "learning_rate": 5.060239153161872e-06,
8643
+ "loss": 1.3756,
8644
+ "step": 1229
8645
+ },
8646
+ {
8647
+ "epoch": 0.10520238629803066,
8648
+ "grad_norm": 0.6101962327957153,
8649
+ "learning_rate": 4.987781697249982e-06,
8650
+ "loss": 1.425,
8651
+ "step": 1230
8652
+ },
8653
+ {
8654
+ "epoch": 0.10528791669339492,
8655
+ "grad_norm": 0.7669442296028137,
8656
+ "learning_rate": 4.915833477591225e-06,
8657
+ "loss": 1.3221,
8658
+ "step": 1231
8659
+ },
8660
+ {
8661
+ "epoch": 0.10537344708875916,
8662
+ "grad_norm": 0.6217659115791321,
8663
+ "learning_rate": 4.844394879805925e-06,
8664
+ "loss": 1.4349,
8665
+ "step": 1232
8666
+ },
8667
+ {
8668
+ "epoch": 0.10545897748412342,
8669
+ "grad_norm": 0.6486561298370361,
8670
+ "learning_rate": 4.7734662867829575e-06,
8671
+ "loss": 1.1972,
8672
+ "step": 1233
8673
+ },
8674
+ {
8675
+ "epoch": 0.10554450787948767,
8676
+ "grad_norm": 0.5239240527153015,
8677
+ "learning_rate": 4.703048078677774e-06,
8678
+ "loss": 1.1518,
8679
+ "step": 1234
8680
+ },
8681
+ {
8682
+ "epoch": 0.10563003827485193,
8683
+ "grad_norm": 0.6849849224090576,
8684
+ "learning_rate": 4.633140632910304e-06,
8685
+ "loss": 1.3088,
8686
+ "step": 1235
8687
+ },
8688
+ {
8689
+ "epoch": 0.10571556867021618,
8690
+ "grad_norm": 0.6147019267082214,
8691
+ "learning_rate": 4.563744324162933e-06,
8692
+ "loss": 1.1012,
8693
+ "step": 1236
8694
+ },
8695
+ {
8696
+ "epoch": 0.10580109906558043,
8697
+ "grad_norm": 1.3184218406677246,
8698
+ "learning_rate": 4.4948595243785255e-06,
8699
+ "loss": 1.2001,
8700
+ "step": 1237
8701
+ },
8702
+ {
8703
+ "epoch": 0.10588662946094468,
8704
+ "grad_norm": 0.648530125617981,
8705
+ "learning_rate": 4.426486602758417e-06,
8706
+ "loss": 1.2401,
8707
+ "step": 1238
8708
+ },
8709
+ {
8710
+ "epoch": 0.10597215985630894,
8711
+ "grad_norm": 0.607159435749054,
8712
+ "learning_rate": 4.358625925760418e-06,
8713
+ "loss": 1.1493,
8714
+ "step": 1239
8715
+ },
8716
+ {
8717
+ "epoch": 0.10605769025167319,
8718
+ "grad_norm": 0.9025888442993164,
8719
+ "learning_rate": 4.291277857096887e-06,
8720
+ "loss": 1.3402,
8721
+ "step": 1240
8722
+ },
8723
+ {
8724
+ "epoch": 0.10614322064703745,
8725
+ "grad_norm": 1.002595067024231,
8726
+ "learning_rate": 4.224442757732738e-06,
8727
+ "loss": 1.7902,
8728
+ "step": 1241
8729
+ },
8730
+ {
8731
+ "epoch": 0.10622875104240169,
8732
+ "grad_norm": 0.7104892134666443,
8733
+ "learning_rate": 4.15812098588354e-06,
8734
+ "loss": 1.4,
8735
+ "step": 1242
8736
+ },
8737
+ {
8738
+ "epoch": 0.10631428143776595,
8739
+ "grad_norm": 0.7596904635429382,
8740
+ "learning_rate": 4.092312897013572e-06,
8741
+ "loss": 1.2291,
8742
+ "step": 1243
8743
+ },
8744
+ {
8745
+ "epoch": 0.1063998118331302,
8746
+ "grad_norm": 0.64473557472229,
8747
+ "learning_rate": 4.027018843833963e-06,
8748
+ "loss": 1.4634,
8749
+ "step": 1244
8750
+ },
8751
+ {
8752
+ "epoch": 0.10648534222849446,
8753
+ "grad_norm": 0.5645984411239624,
8754
+ "learning_rate": 3.962239176300741e-06,
8755
+ "loss": 1.4206,
8756
+ "step": 1245
8757
+ },
8758
+ {
8759
+ "epoch": 0.1065708726238587,
8760
+ "grad_norm": 0.6030212640762329,
8761
+ "learning_rate": 3.897974241612967e-06,
8762
+ "loss": 1.186,
8763
+ "step": 1246
8764
+ },
8765
+ {
8766
+ "epoch": 0.10665640301922295,
8767
+ "grad_norm": 0.5396397113800049,
8768
+ "learning_rate": 3.834224384210949e-06,
8769
+ "loss": 1.263,
8770
+ "step": 1247
8771
+ },
8772
+ {
8773
+ "epoch": 0.10674193341458721,
8774
+ "grad_norm": 0.6954016089439392,
8775
+ "learning_rate": 3.7709899457742616e-06,
8776
+ "loss": 1.3077,
8777
+ "step": 1248
8778
+ },
8779
+ {
8780
+ "epoch": 0.10682746380995146,
8781
+ "grad_norm": 0.5988014936447144,
8782
+ "learning_rate": 3.7082712652200867e-06,
8783
+ "loss": 1.3737,
8784
+ "step": 1249
8785
+ },
8786
+ {
8787
+ "epoch": 0.10691299420531572,
8788
+ "grad_norm": 0.7848079204559326,
8789
+ "learning_rate": 3.646068678701198e-06,
8790
+ "loss": 1.2598,
8791
+ "step": 1250
8792
+ },
8793
+ {
8794
+ "epoch": 0.10699852460067996,
8795
+ "grad_norm": 0.8373442888259888,
8796
+ "learning_rate": 3.584382519604379e-06,
8797
+ "loss": 1.4514,
8798
+ "step": 1251
8799
+ },
8800
+ {
8801
+ "epoch": 0.10708405499604422,
8802
+ "grad_norm": 0.8593282103538513,
8803
+ "learning_rate": 3.5232131185484076e-06,
8804
+ "loss": 1.526,
8805
+ "step": 1252
8806
+ },
8807
+ {
8808
+ "epoch": 0.10716958539140847,
8809
+ "grad_norm": 0.7379378080368042,
8810
+ "learning_rate": 3.4625608033824865e-06,
8811
+ "loss": 1.2807,
8812
+ "step": 1253
8813
+ },
8814
+ {
8815
+ "epoch": 0.10725511578677273,
8816
+ "grad_norm": 0.5504053831100464,
8817
+ "learning_rate": 3.4024258991843362e-06,
8818
+ "loss": 1.2502,
8819
+ "step": 1254
8820
+ },
8821
+ {
8822
+ "epoch": 0.10734064618213697,
8823
+ "grad_norm": 0.7493682503700256,
8824
+ "learning_rate": 3.342808728258573e-06,
8825
+ "loss": 0.9812,
8826
+ "step": 1255
8827
+ },
8828
+ {
8829
+ "epoch": 0.10742617657750123,
8830
+ "grad_norm": 0.8157804012298584,
8831
+ "learning_rate": 3.283709610134833e-06,
8832
+ "loss": 1.0511,
8833
+ "step": 1256
8834
+ },
8835
+ {
8836
+ "epoch": 0.10751170697286548,
8837
+ "grad_norm": 0.5223971605300903,
8838
+ "learning_rate": 3.225128861566262e-06,
8839
+ "loss": 1.0041,
8840
+ "step": 1257
8841
+ },
8842
+ {
8843
+ "epoch": 0.10759723736822974,
8844
+ "grad_norm": 1.3647834062576294,
8845
+ "learning_rate": 3.1670667965275956e-06,
8846
+ "loss": 1.0796,
8847
+ "step": 1258
8848
+ },
8849
+ {
8850
+ "epoch": 0.10768276776359399,
8851
+ "grad_norm": 0.6816798448562622,
8852
+ "learning_rate": 3.1095237262136813e-06,
8853
+ "loss": 1.2143,
8854
+ "step": 1259
8855
+ },
8856
+ {
8857
+ "epoch": 0.10776829815895823,
8858
+ "grad_norm": 0.684135377407074,
8859
+ "learning_rate": 3.0524999590376247e-06,
8860
+ "loss": 1.4316,
8861
+ "step": 1260
8862
+ },
8863
+ {
8864
+ "epoch": 0.10785382855432249,
8865
+ "grad_norm": 0.5939525961875916,
8866
+ "learning_rate": 2.9959958006293143e-06,
8867
+ "loss": 1.0884,
8868
+ "step": 1261
8869
+ },
8870
+ {
8871
+ "epoch": 0.10793935894968675,
8872
+ "grad_norm": 0.7031239867210388,
8873
+ "learning_rate": 2.9400115538336105e-06,
8874
+ "loss": 1.1412,
8875
+ "step": 1262
8876
+ },
8877
+ {
8878
+ "epoch": 0.108024889345051,
8879
+ "grad_norm": 0.6580141186714172,
8880
+ "learning_rate": 2.884547518708891e-06,
8881
+ "loss": 1.1271,
8882
+ "step": 1263
8883
+ },
8884
+ {
8885
+ "epoch": 0.10811041974041526,
8886
+ "grad_norm": 0.7254558205604553,
8887
+ "learning_rate": 2.8296039925252647e-06,
8888
+ "loss": 1.3817,
8889
+ "step": 1264
8890
+ },
8891
+ {
8892
+ "epoch": 0.1081959501357795,
8893
+ "grad_norm": 1.1656817197799683,
8894
+ "learning_rate": 2.775181269763183e-06,
8895
+ "loss": 1.4486,
8896
+ "step": 1265
8897
+ },
8898
+ {
8899
+ "epoch": 0.10828148053114375,
8900
+ "grad_norm": 0.8375726938247681,
8901
+ "learning_rate": 2.7212796421116404e-06,
8902
+ "loss": 1.1268,
8903
+ "step": 1266
8904
+ },
8905
+ {
8906
+ "epoch": 0.10836701092650801,
8907
+ "grad_norm": 0.7977327704429626,
8908
+ "learning_rate": 2.667899398466822e-06,
8909
+ "loss": 1.7236,
8910
+ "step": 1267
8911
+ },
8912
+ {
8913
+ "epoch": 0.10845254132187226,
8914
+ "grad_norm": 0.6417127847671509,
8915
+ "learning_rate": 2.61504082493037e-06,
8916
+ "loss": 1.3954,
8917
+ "step": 1268
8918
+ },
8919
+ {
8920
+ "epoch": 0.1085380717172365,
8921
+ "grad_norm": 0.7422102093696594,
8922
+ "learning_rate": 2.5627042048079975e-06,
8923
+ "loss": 1.2973,
8924
+ "step": 1269
8925
+ },
8926
+ {
8927
+ "epoch": 0.10862360211260076,
8928
+ "grad_norm": 0.6549059748649597,
8929
+ "learning_rate": 2.5108898186078534e-06,
8930
+ "loss": 1.4368,
8931
+ "step": 1270
8932
+ },
8933
+ {
8934
+ "epoch": 0.10870913250796502,
8935
+ "grad_norm": 0.5317689180374146,
8936
+ "learning_rate": 2.4595979440391493e-06,
8937
+ "loss": 1.0502,
8938
+ "step": 1271
8939
+ },
8940
+ {
8941
+ "epoch": 0.10879466290332927,
8942
+ "grad_norm": 0.7879956364631653,
8943
+ "learning_rate": 2.4088288560105034e-06,
8944
+ "loss": 1.3253,
8945
+ "step": 1272
8946
+ },
8947
+ {
8948
+ "epoch": 0.10888019329869353,
8949
+ "grad_norm": 0.5838624238967896,
8950
+ "learning_rate": 2.3585828266286415e-06,
8951
+ "loss": 1.347,
8952
+ "step": 1273
8953
+ },
8954
+ {
8955
+ "epoch": 0.10896572369405777,
8956
+ "grad_norm": 0.6028071045875549,
8957
+ "learning_rate": 2.308860125196777e-06,
8958
+ "loss": 1.15,
8959
+ "step": 1274
8960
+ },
8961
+ {
8962
+ "epoch": 0.10905125408942203,
8963
+ "grad_norm": 0.7116326689720154,
8964
+ "learning_rate": 2.259661018213333e-06,
8965
+ "loss": 1.2989,
8966
+ "step": 1275
8967
+ },
8968
+ {
8969
+ "epoch": 0.10913678448478628,
8970
+ "grad_norm": 0.6057271361351013,
8971
+ "learning_rate": 2.210985769370366e-06,
8972
+ "loss": 1.2123,
8973
+ "step": 1276
8974
+ },
8975
+ {
8976
+ "epoch": 0.10922231488015054,
8977
+ "grad_norm": 0.6325726509094238,
8978
+ "learning_rate": 2.1628346395522357e-06,
8979
+ "loss": 1.2975,
8980
+ "step": 1277
8981
+ },
8982
+ {
8983
+ "epoch": 0.10930784527551479,
8984
+ "grad_norm": 0.5754159688949585,
8985
+ "learning_rate": 2.1152078868341696e-06,
8986
+ "loss": 1.2779,
8987
+ "step": 1278
8988
+ },
8989
+ {
8990
+ "epoch": 0.10939337567087903,
8991
+ "grad_norm": 0.8565877676010132,
8992
+ "learning_rate": 2.06810576648091e-06,
8993
+ "loss": 1.2766,
8994
+ "step": 1279
8995
+ },
8996
+ {
8997
+ "epoch": 0.10947890606624329,
8998
+ "grad_norm": 0.6002119183540344,
8999
+ "learning_rate": 2.021528530945338e-06,
9000
+ "loss": 1.1152,
9001
+ "step": 1280
9002
+ },
9003
+ {
9004
+ "epoch": 0.10956443646160755,
9005
+ "grad_norm": 0.5605664849281311,
9006
+ "learning_rate": 1.9754764298670957e-06,
9007
+ "loss": 1.1574,
9008
+ "step": 1281
9009
+ },
9010
+ {
9011
+ "epoch": 0.1096499668569718,
9012
+ "grad_norm": 0.5164323449134827,
9013
+ "learning_rate": 1.929949710071266e-06,
9014
+ "loss": 1.3431,
9015
+ "step": 1282
9016
+ },
9017
+ {
9018
+ "epoch": 0.10973549725233604,
9019
+ "grad_norm": 0.6215521693229675,
9020
+ "learning_rate": 1.8849486155670727e-06,
9021
+ "loss": 1.2281,
9022
+ "step": 1283
9023
+ },
9024
+ {
9025
+ "epoch": 0.1098210276477003,
9026
+ "grad_norm": 0.7583231329917908,
9027
+ "learning_rate": 1.8404733875465373e-06,
9028
+ "loss": 1.5797,
9029
+ "step": 1284
9030
+ },
9031
+ {
9032
+ "epoch": 0.10990655804306455,
9033
+ "grad_norm": 0.835430383682251,
9034
+ "learning_rate": 1.7965242643831704e-06,
9035
+ "loss": 1.5281,
9036
+ "step": 1285
9037
+ },
9038
+ {
9039
+ "epoch": 0.10999208843842881,
9040
+ "grad_norm": 0.650722861289978,
9041
+ "learning_rate": 1.7531014816307812e-06,
9042
+ "loss": 1.4392,
9043
+ "step": 1286
9044
+ },
9045
+ {
9046
+ "epoch": 0.11007761883379306,
9047
+ "grad_norm": 0.6767429113388062,
9048
+ "learning_rate": 1.7102052720220917e-06,
9049
+ "loss": 1.4187,
9050
+ "step": 1287
9051
+ },
9052
+ {
9053
+ "epoch": 0.1101631492291573,
9054
+ "grad_norm": 0.6588196158409119,
9055
+ "learning_rate": 1.6678358654676153e-06,
9056
+ "loss": 1.3479,
9057
+ "step": 1288
9058
+ },
9059
+ {
9060
+ "epoch": 0.11024867962452156,
9061
+ "grad_norm": 0.7096944451332092,
9062
+ "learning_rate": 1.6259934890543115e-06,
9063
+ "loss": 1.4908,
9064
+ "step": 1289
9065
+ },
9066
+ {
9067
+ "epoch": 0.11033421001988582,
9068
+ "grad_norm": 0.5578837394714355,
9069
+ "learning_rate": 1.5846783670444453e-06,
9070
+ "loss": 1.258,
9071
+ "step": 1290
9072
+ },
9073
+ {
9074
+ "epoch": 0.11041974041525007,
9075
+ "grad_norm": 0.6049456596374512,
9076
+ "learning_rate": 1.5438907208743747e-06,
9077
+ "loss": 1.4199,
9078
+ "step": 1291
9079
+ },
9080
+ {
9081
+ "epoch": 0.11050527081061433,
9082
+ "grad_norm": 0.8195196986198425,
9083
+ "learning_rate": 1.503630769153308e-06,
9084
+ "loss": 1.1553,
9085
+ "step": 1292
9086
+ },
9087
+ {
9088
+ "epoch": 0.11059080120597857,
9089
+ "grad_norm": 0.58273845911026,
9090
+ "learning_rate": 1.4638987276622163e-06,
9091
+ "loss": 1.2286,
9092
+ "step": 1293
9093
+ },
9094
+ {
9095
+ "epoch": 0.11067633160134283,
9096
+ "grad_norm": 0.7217947840690613,
9097
+ "learning_rate": 1.4246948093526003e-06,
9098
+ "loss": 1.4802,
9099
+ "step": 1294
9100
+ },
9101
+ {
9102
+ "epoch": 0.11076186199670708,
9103
+ "grad_norm": 0.6720291376113892,
9104
+ "learning_rate": 1.386019224345414e-06,
9105
+ "loss": 1.1429,
9106
+ "step": 1295
9107
+ },
9108
+ {
9109
+ "epoch": 0.11084739239207134,
9110
+ "grad_norm": 0.7198173999786377,
9111
+ "learning_rate": 1.3478721799298766e-06,
9112
+ "loss": 1.1973,
9113
+ "step": 1296
9114
+ },
9115
+ {
9116
+ "epoch": 0.11093292278743558,
9117
+ "grad_norm": 0.6483471393585205,
9118
+ "learning_rate": 1.3102538805624176e-06,
9119
+ "loss": 1.3734,
9120
+ "step": 1297
9121
+ },
9122
+ {
9123
+ "epoch": 0.11101845318279983,
9124
+ "grad_norm": 0.7871120572090149,
9125
+ "learning_rate": 1.2731645278655445e-06,
9126
+ "loss": 1.3121,
9127
+ "step": 1298
9128
+ },
9129
+ {
9130
+ "epoch": 0.11110398357816409,
9131
+ "grad_norm": 0.6037241220474243,
9132
+ "learning_rate": 1.2366043206267774e-06,
9133
+ "loss": 1.3261,
9134
+ "step": 1299
9135
+ },
9136
+ {
9137
+ "epoch": 0.11118951397352834,
9138
+ "grad_norm": 0.648343026638031,
9139
+ "learning_rate": 1.20057345479756e-06,
9140
+ "loss": 1.3448,
9141
+ "step": 1300
9142
+ },
9143
+ {
9144
+ "epoch": 0.1112750443688926,
9145
+ "grad_norm": 0.8309826254844666,
9146
+ "learning_rate": 1.1650721234922723e-06,
9147
+ "loss": 1.2673,
9148
+ "step": 1301
9149
+ },
9150
+ {
9151
+ "epoch": 0.11136057476425684,
9152
+ "grad_norm": 1.0943888425827026,
9153
+ "learning_rate": 1.1301005169871093e-06,
9154
+ "loss": 1.7835,
9155
+ "step": 1302
9156
+ },
9157
+ {
9158
+ "epoch": 0.1114461051596211,
9159
+ "grad_norm": 0.7025185823440552,
9160
+ "learning_rate": 1.0956588227191145e-06,
9161
+ "loss": 1.1987,
9162
+ "step": 1303
9163
+ },
9164
+ {
9165
+ "epoch": 0.11153163555498535,
9166
+ "grad_norm": 0.5585519075393677,
9167
+ "learning_rate": 1.0617472252851924e-06,
9168
+ "loss": 1.1821,
9169
+ "step": 1304
9170
+ },
9171
+ {
9172
+ "epoch": 0.11161716595034961,
9173
+ "grad_norm": 0.6993909478187561,
9174
+ "learning_rate": 1.0283659064410422e-06,
9175
+ "loss": 1.3913,
9176
+ "step": 1305
9177
+ },
9178
+ {
9179
+ "epoch": 0.11170269634571386,
9180
+ "grad_norm": 0.59099942445755,
9181
+ "learning_rate": 9.955150451002926e-07,
9182
+ "loss": 1.3309,
9183
+ "step": 1306
9184
+ },
9185
+ {
9186
+ "epoch": 0.1117882267410781,
9187
+ "grad_norm": 0.6612148284912109,
9188
+ "learning_rate": 9.631948173334238e-07,
9189
+ "loss": 1.2754,
9190
+ "step": 1307
9191
+ },
9192
+ {
9193
+ "epoch": 0.11187375713644236,
9194
+ "grad_norm": 0.9609559774398804,
9195
+ "learning_rate": 9.314053963669245e-07,
9196
+ "loss": 1.0977,
9197
+ "step": 1308
9198
+ },
9199
+ {
9200
+ "epoch": 0.11195928753180662,
9201
+ "grad_norm": 0.699019730091095,
9202
+ "learning_rate": 9.001469525823036e-07,
9203
+ "loss": 1.3731,
9204
+ "step": 1309
9205
+ },
9206
+ {
9207
+ "epoch": 0.11204481792717087,
9208
+ "grad_norm": 0.6898882985115051,
9209
+ "learning_rate": 8.694196535152132e-07,
9210
+ "loss": 1.3451,
9211
+ "step": 1310
9212
+ },
9213
+ {
9214
+ "epoch": 0.11213034832253511,
9215
+ "grad_norm": 0.5687432885169983,
9216
+ "learning_rate": 8.392236638545048e-07,
9217
+ "loss": 1.1744,
9218
+ "step": 1311
9219
+ },
9220
+ {
9221
+ "epoch": 0.11221587871789937,
9222
+ "grad_norm": 0.6639848351478577,
9223
+ "learning_rate": 8.095591454414076e-07,
9224
+ "loss": 1.2564,
9225
+ "step": 1312
9226
+ },
9227
+ {
9228
+ "epoch": 0.11230140911326363,
9229
+ "grad_norm": 0.7681564688682556,
9230
+ "learning_rate": 7.80426257268585e-07,
9231
+ "loss": 1.3862,
9232
+ "step": 1313
9233
+ },
9234
+ {
9235
+ "epoch": 0.11238693950862788,
9236
+ "grad_norm": 0.5505660176277161,
9237
+ "learning_rate": 7.518251554793798e-07,
9238
+ "loss": 1.3276,
9239
+ "step": 1314
9240
+ },
9241
+ {
9242
+ "epoch": 0.11247246990399214,
9243
+ "grad_norm": 0.7425112724304199,
9244
+ "learning_rate": 7.237559933668925e-07,
9245
+ "loss": 1.2953,
9246
+ "step": 1315
9247
+ },
9248
+ {
9249
+ "epoch": 0.11255800029935638,
9250
+ "grad_norm": 0.5895477533340454,
9251
+ "learning_rate": 6.962189213731818e-07,
9252
+ "loss": 1.0456,
9253
+ "step": 1316
9254
+ },
9255
+ {
9256
+ "epoch": 0.11264353069472063,
9257
+ "grad_norm": 0.6351099610328674,
9258
+ "learning_rate": 6.692140870884878e-07,
9259
+ "loss": 1.2214,
9260
+ "step": 1317
9261
+ },
9262
+ {
9263
+ "epoch": 0.11272906109008489,
9264
+ "grad_norm": 0.8409857749938965,
9265
+ "learning_rate": 6.427416352504212e-07,
9266
+ "loss": 1.1467,
9267
+ "step": 1318
9268
+ },
9269
+ {
9270
+ "epoch": 0.11281459148544914,
9271
+ "grad_norm": 0.6242703199386597,
9272
+ "learning_rate": 6.168017077431643e-07,
9273
+ "loss": 1.2641,
9274
+ "step": 1319
9275
+ },
9276
+ {
9277
+ "epoch": 0.1129001218808134,
9278
+ "grad_norm": 0.7873100638389587,
9279
+ "learning_rate": 5.913944435967378e-07,
9280
+ "loss": 1.3328,
9281
+ "step": 1320
9282
+ },
9283
+ {
9284
+ "epoch": 0.11298565227617764,
9285
+ "grad_norm": 0.6437128186225891,
9286
+ "learning_rate": 5.665199789862907e-07,
9287
+ "loss": 1.182,
9288
+ "step": 1321
9289
+ },
9290
+ {
9291
+ "epoch": 0.1130711826715419,
9292
+ "grad_norm": 0.7677131295204163,
9293
+ "learning_rate": 5.421784472312675e-07,
9294
+ "loss": 1.4137,
9295
+ "step": 1322
9296
+ },
9297
+ {
9298
+ "epoch": 0.11315671306690615,
9299
+ "grad_norm": 0.5623267292976379,
9300
+ "learning_rate": 5.183699787948082e-07,
9301
+ "loss": 1.2437,
9302
+ "step": 1323
9303
+ },
9304
+ {
9305
+ "epoch": 0.11324224346227041,
9306
+ "grad_norm": 0.5537742972373962,
9307
+ "learning_rate": 4.95094701282961e-07,
9308
+ "loss": 1.1205,
9309
+ "step": 1324
9310
+ },
9311
+ {
9312
+ "epoch": 0.11332777385763465,
9313
+ "grad_norm": 0.7459024786949158,
9314
+ "learning_rate": 4.723527394440708e-07,
9315
+ "loss": 1.1938,
9316
+ "step": 1325
9317
+ },
9318
+ {
9319
+ "epoch": 0.1134133042529989,
9320
+ "grad_norm": 0.773434042930603,
9321
+ "learning_rate": 4.5014421516803574e-07,
9322
+ "loss": 1.5129,
9323
+ "step": 1326
9324
+ },
9325
+ {
9326
+ "epoch": 0.11349883464836316,
9327
+ "grad_norm": 0.5854814052581787,
9328
+ "learning_rate": 4.284692474857299e-07,
9329
+ "loss": 1.1397,
9330
+ "step": 1327
9331
+ },
9332
+ {
9333
+ "epoch": 0.11358436504372742,
9334
+ "grad_norm": 0.6215174794197083,
9335
+ "learning_rate": 4.073279525682927e-07,
9336
+ "loss": 1.3733,
9337
+ "step": 1328
9338
+ },
9339
+ {
9340
+ "epoch": 0.11366989543909167,
9341
+ "grad_norm": 0.7090808153152466,
9342
+ "learning_rate": 3.8672044372657367e-07,
9343
+ "loss": 1.1646,
9344
+ "step": 1329
9345
+ },
9346
+ {
9347
+ "epoch": 0.11375542583445591,
9348
+ "grad_norm": 0.7614963054656982,
9349
+ "learning_rate": 3.666468314104665e-07,
9350
+ "loss": 1.3501,
9351
+ "step": 1330
9352
+ },
9353
+ {
9354
+ "epoch": 0.11384095622982017,
9355
+ "grad_norm": 1.3699378967285156,
9356
+ "learning_rate": 3.47107223208365e-07,
9357
+ "loss": 1.4105,
9358
+ "step": 1331
9359
+ },
9360
+ {
9361
+ "epoch": 0.11392648662518443,
9362
+ "grad_norm": 0.6890426278114319,
9363
+ "learning_rate": 3.2810172384656336e-07,
9364
+ "loss": 1.2018,
9365
+ "step": 1332
9366
+ },
9367
+ {
9368
+ "epoch": 0.11401201702054868,
9369
+ "grad_norm": 0.5584431886672974,
9370
+ "learning_rate": 3.0963043518866806e-07,
9371
+ "loss": 1.2269,
9372
+ "step": 1333
9373
+ },
9374
+ {
9375
+ "epoch": 0.11409754741591294,
9376
+ "grad_norm": 0.6500727534294128,
9377
+ "learning_rate": 2.9169345623512034e-07,
9378
+ "loss": 0.9829,
9379
+ "step": 1334
9380
+ },
9381
+ {
9382
+ "epoch": 0.11418307781127718,
9383
+ "grad_norm": 0.6611320376396179,
9384
+ "learning_rate": 2.7429088312259656e-07,
9385
+ "loss": 1.2253,
9386
+ "step": 1335
9387
+ },
9388
+ {
9389
+ "epoch": 0.11426860820664143,
9390
+ "grad_norm": 0.7164574861526489,
9391
+ "learning_rate": 2.57422809123542e-07,
9392
+ "loss": 1.0727,
9393
+ "step": 1336
9394
+ },
9395
+ {
9396
+ "epoch": 0.11435413860200569,
9397
+ "grad_norm": 0.650112509727478,
9398
+ "learning_rate": 2.4108932464564915e-07,
9399
+ "loss": 1.3949,
9400
+ "step": 1337
9401
+ },
9402
+ {
9403
+ "epoch": 0.11443966899736994,
9404
+ "grad_norm": 0.6068373918533325,
9405
+ "learning_rate": 2.2529051723134688e-07,
9406
+ "loss": 1.1671,
9407
+ "step": 1338
9408
+ },
9409
+ {
9410
+ "epoch": 0.11452519939273419,
9411
+ "grad_norm": 0.6568993926048279,
9412
+ "learning_rate": 2.1002647155740074e-07,
9413
+ "loss": 1.17,
9414
+ "step": 1339
9415
+ },
9416
+ {
9417
+ "epoch": 0.11461072978809844,
9418
+ "grad_norm": 0.6577581167221069,
9419
+ "learning_rate": 1.952972694343913e-07,
9420
+ "loss": 1.3441,
9421
+ "step": 1340
9422
+ },
9423
+ {
9424
+ "epoch": 0.1146962601834627,
9425
+ "grad_norm": 0.7729737162590027,
9426
+ "learning_rate": 1.8110298980630325e-07,
9427
+ "loss": 1.3502,
9428
+ "step": 1341
9429
+ },
9430
+ {
9431
+ "epoch": 0.11478179057882695,
9432
+ "grad_norm": 0.6375022530555725,
9433
+ "learning_rate": 1.674437087501257e-07,
9434
+ "loss": 1.2189,
9435
+ "step": 1342
9436
+ },
9437
+ {
9438
+ "epoch": 0.11486732097419121,
9439
+ "grad_norm": 0.7751336693763733,
9440
+ "learning_rate": 1.5431949947538605e-07,
9441
+ "loss": 1.2697,
9442
+ "step": 1343
9443
+ },
9444
+ {
9445
+ "epoch": 0.11495285136955545,
9446
+ "grad_norm": 0.7712266445159912,
9447
+ "learning_rate": 1.4173043232380557e-07,
9448
+ "loss": 1.3183,
9449
+ "step": 1344
9450
+ },
9451
+ {
9452
+ "epoch": 0.1150383817649197,
9453
+ "grad_norm": 1.1306445598602295,
9454
+ "learning_rate": 1.2967657476892213e-07,
9455
+ "loss": 1.0048,
9456
+ "step": 1345
9457
+ },
9458
+ {
9459
+ "epoch": 0.11512391216028396,
9460
+ "grad_norm": 0.6228393316268921,
9461
+ "learning_rate": 1.1815799141569051e-07,
9462
+ "loss": 1.0478,
9463
+ "step": 1346
9464
+ },
9465
+ {
9466
+ "epoch": 0.11520944255564822,
9467
+ "grad_norm": 0.6524732708930969,
9468
+ "learning_rate": 1.0717474400019356e-07,
9469
+ "loss": 1.1695,
9470
+ "step": 1347
9471
+ },
9472
+ {
9473
+ "epoch": 0.11529497295101247,
9474
+ "grad_norm": 0.8066007494926453,
9475
+ "learning_rate": 9.672689138923163e-08,
9476
+ "loss": 1.4336,
9477
+ "step": 1348
9478
+ },
9479
+ {
9480
+ "epoch": 0.11538050334637671,
9481
+ "grad_norm": 0.7118714451789856,
9482
+ "learning_rate": 8.681448958010041e-08,
9483
+ "loss": 1.2027,
9484
+ "step": 1349
9485
+ },
9486
+ {
9487
+ "epoch": 0.11546603374174097,
9488
+ "grad_norm": 0.6325302720069885,
9489
+ "learning_rate": 7.743759170021348e-08,
9490
+ "loss": 1.3094,
9491
+ "step": 1350
9492
+ },
9493
+ {
9494
+ "epoch": 0.11555156413710523,
9495
+ "grad_norm": 0.9481894373893738,
9496
+ "learning_rate": 6.859624800685804e-08,
9497
+ "loss": 1.3763,
9498
+ "step": 1351
9499
+ },
9500
+ {
9501
+ "epoch": 0.11563709453246948,
9502
+ "grad_norm": 0.6145927906036377,
9503
+ "learning_rate": 6.029050588691742e-08,
9504
+ "loss": 1.2131,
9505
+ "step": 1352
9506
+ },
9507
+ {
9508
+ "epoch": 0.11572262492783372,
9509
+ "grad_norm": 0.6894472241401672,
9510
+ "learning_rate": 5.2520409856604556e-08,
9511
+ "loss": 1.2278,
9512
+ "step": 1353
9513
+ },
9514
+ {
9515
+ "epoch": 0.11580815532319798,
9516
+ "grad_norm": 0.7032344341278076,
9517
+ "learning_rate": 4.528600156126217e-08,
9518
+ "loss": 1.3887,
9519
+ "step": 1354
9520
+ },
9521
+ {
9522
+ "epoch": 0.11589368571856223,
9523
+ "grad_norm": 0.657748818397522,
9524
+ "learning_rate": 3.858731977508523e-08,
9525
+ "loss": 1.189,
9526
+ "step": 1355
9527
+ },
9528
+ {
9529
+ "epoch": 0.11597921611392649,
9530
+ "grad_norm": 0.5676443576812744,
9531
+ "learning_rate": 3.24244004009322e-08,
9532
+ "loss": 1.1779,
9533
+ "step": 1356
9534
+ },
9535
+ {
9536
+ "epoch": 0.11606474650929074,
9537
+ "grad_norm": 0.894984245300293,
9538
+ "learning_rate": 2.679727647018071e-08,
9539
+ "loss": 1.1078,
9540
+ "step": 1357
9541
+ },
9542
+ {
9543
+ "epoch": 0.11615027690465499,
9544
+ "grad_norm": 0.6647772789001465,
9545
+ "learning_rate": 2.1705978142461114e-08,
9546
+ "loss": 1.3643,
9547
+ "step": 1358
9548
+ },
9549
+ {
9550
+ "epoch": 0.11623580730001924,
9551
+ "grad_norm": 0.7792564630508423,
9552
+ "learning_rate": 1.7150532705578758e-08,
9553
+ "loss": 1.0664,
9554
+ "step": 1359
9555
+ },
9556
+ {
9557
+ "epoch": 0.1163213376953835,
9558
+ "grad_norm": 0.5903293490409851,
9559
+ "learning_rate": 1.3130964575303051e-08,
9560
+ "loss": 1.4131,
9561
+ "step": 1360
9562
+ },
9563
+ {
9564
+ "epoch": 0.11640686809074775,
9565
+ "grad_norm": 0.7030196785926819,
9566
+ "learning_rate": 9.64729529530084e-09,
9567
+ "loss": 1.3377,
9568
+ "step": 1361
9569
+ },
9570
+ {
9571
+ "epoch": 0.11649239848611201,
9572
+ "grad_norm": 0.7028117179870605,
9573
+ "learning_rate": 6.699543536958786e-09,
9574
+ "loss": 1.2874,
9575
+ "step": 1362
9576
+ },
9577
+ {
9578
+ "epoch": 0.11657792888147625,
9579
+ "grad_norm": 1.077134609222412,
9580
+ "learning_rate": 4.287725099327844e-09,
9581
+ "loss": 1.1994,
9582
+ "step": 1363
9583
+ },
9584
+ {
9585
+ "epoch": 0.1166634592768405,
9586
+ "grad_norm": 0.605636715888977,
9587
+ "learning_rate": 2.4118529090011443e-09,
9588
+ "loss": 1.2702,
9589
+ "step": 1364
9590
+ },
9591
+ {
9592
+ "epoch": 0.11674898967220476,
9593
+ "grad_norm": 0.6536275744438171,
9594
+ "learning_rate": 1.0719370200806822e-09,
9595
+ "loss": 1.4564,
9596
+ "step": 1365
9597
+ },
9598
+ {
9599
+ "epoch": 0.11683452006756902,
9600
+ "grad_norm": 0.6081898808479309,
9601
+ "learning_rate": 2.679846140996034e-10,
9602
+ "loss": 1.3295,
9603
+ "step": 1366
9604
+ },
9605
+ {
9606
+ "epoch": 0.11692005046293326,
9607
+ "grad_norm": 0.6231502890586853,
9608
+ "learning_rate": 0.0,
9609
+ "loss": 1.2893,
9610
+ "step": 1367
9611
  }
9612
  ],
9613
  "logging_steps": 1,
 
9622
  "should_evaluate": false,
9623
  "should_log": false,
9624
  "should_save": true,
9625
+ "should_training_stop": true
9626
  },
9627
  "attributes": {}
9628
  }
9629
  },
9630
+ "total_flos": 4.689150243294413e+17,
9631
  "train_batch_size": 2,
9632
  "trial_name": null,
9633
  "trial_params": null