error577 commited on
Commit
4fc7d76
·
verified ·
1 Parent(s): dc40b67

Training in progress, step 1400, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:de83c25da4e1e42bc2156d9e93b81c93bd0b96e23fa5cc5f8d0ffd296a487dbb
3
  size 131146352
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a410427f4f8f899af5b96bab43ffa5bffbd212e468d47e665bd804f5ff163970
3
  size 131146352
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:6a18e40c851555368afab981160dfa4afa7b4a3df28ee790a343cfdccae42c0c
3
  size 100504276
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4e0ca925edbf09db5d19ce72f97026e99bd200ddf4fee41c788fe1df5440a44a
3
  size 100504276
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:f8774eee986ebc551ae2bbc2bb5fc169dcdedcba4bf5ad4d5fd01cacdcd2c2c8
3
  size 14244
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:4be26cad667468929eb3375ddd86099e13bf5d22a4a438a4cd7f077fa8c24979
3
  size 14244
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:3fb1b6b3a2726bf0e901fa4a8dadc74eb6bfb687a75fb2b3404efd571a3a40a5
3
  size 1064
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:453298c725dc876f48f4117f31a959a679f34c339ee78106006a336afee3ac5c
3
  size 1064
last-checkpoint/trainer_state.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "best_metric": 0.04605964198708534,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-1000",
4
- "epoch": 0.12731420083815181,
5
  "eval_steps": 200,
6
- "global_step": 1200,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
@@ -8463,6 +8463,1414 @@
8463
  "eval_samples_per_second": 3.117,
8464
  "eval_steps_per_second": 1.559,
8465
  "step": 1200
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
8466
  }
8467
  ],
8468
  "logging_steps": 1,
@@ -8477,7 +9885,7 @@
8477
  "early_stopping_threshold": 0.0
8478
  },
8479
  "attributes": {
8480
- "early_stopping_patience_counter": 1
8481
  }
8482
  },
8483
  "TrainerControl": {
@@ -8491,7 +9899,7 @@
8491
  "attributes": {}
8492
  }
8493
  },
8494
- "total_flos": 3.68108189908992e+17,
8495
  "train_batch_size": 2,
8496
  "trial_name": null,
8497
  "trial_params": null
 
1
  {
2
  "best_metric": 0.04605964198708534,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-1000",
4
+ "epoch": 0.14853323431117713,
5
  "eval_steps": 200,
6
+ "global_step": 1400,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
 
8463
  "eval_samples_per_second": 3.117,
8464
  "eval_steps_per_second": 1.559,
8465
  "step": 1200
8466
+ },
8467
+ {
8468
+ "epoch": 0.12742029600551694,
8469
+ "grad_norm": 6.890715599060059,
8470
+ "learning_rate": 0.0002,
8471
+ "loss": 0.2492,
8472
+ "step": 1201
8473
+ },
8474
+ {
8475
+ "epoch": 0.1275263911728821,
8476
+ "grad_norm": 4.04957914352417,
8477
+ "learning_rate": 0.0002,
8478
+ "loss": 0.1144,
8479
+ "step": 1202
8480
+ },
8481
+ {
8482
+ "epoch": 0.1276324863402472,
8483
+ "grad_norm": 3.1099143028259277,
8484
+ "learning_rate": 0.0002,
8485
+ "loss": 0.112,
8486
+ "step": 1203
8487
+ },
8488
+ {
8489
+ "epoch": 0.12773858150761233,
8490
+ "grad_norm": 14.339091300964355,
8491
+ "learning_rate": 0.0002,
8492
+ "loss": 0.9548,
8493
+ "step": 1204
8494
+ },
8495
+ {
8496
+ "epoch": 0.12784467667497745,
8497
+ "grad_norm": 8.501301765441895,
8498
+ "learning_rate": 0.0002,
8499
+ "loss": 0.567,
8500
+ "step": 1205
8501
+ },
8502
+ {
8503
+ "epoch": 0.12795077184234258,
8504
+ "grad_norm": 9.18374252319336,
8505
+ "learning_rate": 0.0002,
8506
+ "loss": 0.3452,
8507
+ "step": 1206
8508
+ },
8509
+ {
8510
+ "epoch": 0.1280568670097077,
8511
+ "grad_norm": 7.7342610359191895,
8512
+ "learning_rate": 0.0002,
8513
+ "loss": 0.4653,
8514
+ "step": 1207
8515
+ },
8516
+ {
8517
+ "epoch": 0.12816296217707285,
8518
+ "grad_norm": 5.56123685836792,
8519
+ "learning_rate": 0.0002,
8520
+ "loss": 0.2263,
8521
+ "step": 1208
8522
+ },
8523
+ {
8524
+ "epoch": 0.12826905734443797,
8525
+ "grad_norm": 3.8906068801879883,
8526
+ "learning_rate": 0.0002,
8527
+ "loss": 0.1386,
8528
+ "step": 1209
8529
+ },
8530
+ {
8531
+ "epoch": 0.1283751525118031,
8532
+ "grad_norm": 8.045018196105957,
8533
+ "learning_rate": 0.0002,
8534
+ "loss": 0.3284,
8535
+ "step": 1210
8536
+ },
8537
+ {
8538
+ "epoch": 0.12848124767916821,
8539
+ "grad_norm": 7.703570365905762,
8540
+ "learning_rate": 0.0002,
8541
+ "loss": 0.246,
8542
+ "step": 1211
8543
+ },
8544
+ {
8545
+ "epoch": 0.12858734284653334,
8546
+ "grad_norm": 14.283702850341797,
8547
+ "learning_rate": 0.0002,
8548
+ "loss": 0.8917,
8549
+ "step": 1212
8550
+ },
8551
+ {
8552
+ "epoch": 0.12869343801389846,
8553
+ "grad_norm": 8.171622276306152,
8554
+ "learning_rate": 0.0002,
8555
+ "loss": 0.3529,
8556
+ "step": 1213
8557
+ },
8558
+ {
8559
+ "epoch": 0.12879953318126358,
8560
+ "grad_norm": 6.034450054168701,
8561
+ "learning_rate": 0.0002,
8562
+ "loss": 0.2579,
8563
+ "step": 1214
8564
+ },
8565
+ {
8566
+ "epoch": 0.12890562834862873,
8567
+ "grad_norm": 8.120826721191406,
8568
+ "learning_rate": 0.0002,
8569
+ "loss": 0.4665,
8570
+ "step": 1215
8571
+ },
8572
+ {
8573
+ "epoch": 0.12901172351599385,
8574
+ "grad_norm": 3.7813832759857178,
8575
+ "learning_rate": 0.0002,
8576
+ "loss": 0.1243,
8577
+ "step": 1216
8578
+ },
8579
+ {
8580
+ "epoch": 0.12911781868335898,
8581
+ "grad_norm": 8.184707641601562,
8582
+ "learning_rate": 0.0002,
8583
+ "loss": 0.3438,
8584
+ "step": 1217
8585
+ },
8586
+ {
8587
+ "epoch": 0.1292239138507241,
8588
+ "grad_norm": 4.959222793579102,
8589
+ "learning_rate": 0.0002,
8590
+ "loss": 0.1892,
8591
+ "step": 1218
8592
+ },
8593
+ {
8594
+ "epoch": 0.12933000901808922,
8595
+ "grad_norm": 6.145408630371094,
8596
+ "learning_rate": 0.0002,
8597
+ "loss": 0.2289,
8598
+ "step": 1219
8599
+ },
8600
+ {
8601
+ "epoch": 0.12943610418545434,
8602
+ "grad_norm": 6.488265514373779,
8603
+ "learning_rate": 0.0002,
8604
+ "loss": 0.2781,
8605
+ "step": 1220
8606
+ },
8607
+ {
8608
+ "epoch": 0.1295421993528195,
8609
+ "grad_norm": 4.026022911071777,
8610
+ "learning_rate": 0.0002,
8611
+ "loss": 0.1402,
8612
+ "step": 1221
8613
+ },
8614
+ {
8615
+ "epoch": 0.12964829452018461,
8616
+ "grad_norm": 12.955522537231445,
8617
+ "learning_rate": 0.0002,
8618
+ "loss": 0.6681,
8619
+ "step": 1222
8620
+ },
8621
+ {
8622
+ "epoch": 0.12975438968754974,
8623
+ "grad_norm": 13.117371559143066,
8624
+ "learning_rate": 0.0002,
8625
+ "loss": 0.3278,
8626
+ "step": 1223
8627
+ },
8628
+ {
8629
+ "epoch": 0.12986048485491486,
8630
+ "grad_norm": 14.95661449432373,
8631
+ "learning_rate": 0.0002,
8632
+ "loss": 0.7688,
8633
+ "step": 1224
8634
+ },
8635
+ {
8636
+ "epoch": 0.12996658002227998,
8637
+ "grad_norm": 5.002791881561279,
8638
+ "learning_rate": 0.0002,
8639
+ "loss": 0.1391,
8640
+ "step": 1225
8641
+ },
8642
+ {
8643
+ "epoch": 0.1300726751896451,
8644
+ "grad_norm": 14.707405090332031,
8645
+ "learning_rate": 0.0002,
8646
+ "loss": 0.652,
8647
+ "step": 1226
8648
+ },
8649
+ {
8650
+ "epoch": 0.13017877035701023,
8651
+ "grad_norm": 7.4781270027160645,
8652
+ "learning_rate": 0.0002,
8653
+ "loss": 0.2313,
8654
+ "step": 1227
8655
+ },
8656
+ {
8657
+ "epoch": 0.13028486552437538,
8658
+ "grad_norm": 4.653233051300049,
8659
+ "learning_rate": 0.0002,
8660
+ "loss": 0.1656,
8661
+ "step": 1228
8662
+ },
8663
+ {
8664
+ "epoch": 0.1303909606917405,
8665
+ "grad_norm": 11.363765716552734,
8666
+ "learning_rate": 0.0002,
8667
+ "loss": 0.5146,
8668
+ "step": 1229
8669
+ },
8670
+ {
8671
+ "epoch": 0.13049705585910562,
8672
+ "grad_norm": 23.83978271484375,
8673
+ "learning_rate": 0.0002,
8674
+ "loss": 1.032,
8675
+ "step": 1230
8676
+ },
8677
+ {
8678
+ "epoch": 0.13060315102647074,
8679
+ "grad_norm": 11.135316848754883,
8680
+ "learning_rate": 0.0002,
8681
+ "loss": 0.3423,
8682
+ "step": 1231
8683
+ },
8684
+ {
8685
+ "epoch": 0.13070924619383587,
8686
+ "grad_norm": 6.124490737915039,
8687
+ "learning_rate": 0.0002,
8688
+ "loss": 0.1446,
8689
+ "step": 1232
8690
+ },
8691
+ {
8692
+ "epoch": 0.130815341361201,
8693
+ "grad_norm": 8.802969932556152,
8694
+ "learning_rate": 0.0002,
8695
+ "loss": 0.3515,
8696
+ "step": 1233
8697
+ },
8698
+ {
8699
+ "epoch": 0.13092143652856614,
8700
+ "grad_norm": 14.535836219787598,
8701
+ "learning_rate": 0.0002,
8702
+ "loss": 0.2175,
8703
+ "step": 1234
8704
+ },
8705
+ {
8706
+ "epoch": 0.13102753169593126,
8707
+ "grad_norm": 7.143708229064941,
8708
+ "learning_rate": 0.0002,
8709
+ "loss": 0.2655,
8710
+ "step": 1235
8711
+ },
8712
+ {
8713
+ "epoch": 0.13113362686329638,
8714
+ "grad_norm": 10.469614028930664,
8715
+ "learning_rate": 0.0002,
8716
+ "loss": 0.283,
8717
+ "step": 1236
8718
+ },
8719
+ {
8720
+ "epoch": 0.1312397220306615,
8721
+ "grad_norm": 6.262835502624512,
8722
+ "learning_rate": 0.0002,
8723
+ "loss": 0.2133,
8724
+ "step": 1237
8725
+ },
8726
+ {
8727
+ "epoch": 0.13134581719802663,
8728
+ "grad_norm": 12.358888626098633,
8729
+ "learning_rate": 0.0002,
8730
+ "loss": 0.5284,
8731
+ "step": 1238
8732
+ },
8733
+ {
8734
+ "epoch": 0.13145191236539175,
8735
+ "grad_norm": 7.299028396606445,
8736
+ "learning_rate": 0.0002,
8737
+ "loss": 0.2979,
8738
+ "step": 1239
8739
+ },
8740
+ {
8741
+ "epoch": 0.13155800753275687,
8742
+ "grad_norm": 6.281275749206543,
8743
+ "learning_rate": 0.0002,
8744
+ "loss": 0.2202,
8745
+ "step": 1240
8746
+ },
8747
+ {
8748
+ "epoch": 0.13166410270012202,
8749
+ "grad_norm": 9.865002632141113,
8750
+ "learning_rate": 0.0002,
8751
+ "loss": 0.3818,
8752
+ "step": 1241
8753
+ },
8754
+ {
8755
+ "epoch": 0.13177019786748714,
8756
+ "grad_norm": 11.342612266540527,
8757
+ "learning_rate": 0.0002,
8758
+ "loss": 0.3577,
8759
+ "step": 1242
8760
+ },
8761
+ {
8762
+ "epoch": 0.13187629303485227,
8763
+ "grad_norm": 7.851486682891846,
8764
+ "learning_rate": 0.0002,
8765
+ "loss": 0.1747,
8766
+ "step": 1243
8767
+ },
8768
+ {
8769
+ "epoch": 0.1319823882022174,
8770
+ "grad_norm": 16.913169860839844,
8771
+ "learning_rate": 0.0002,
8772
+ "loss": 0.4946,
8773
+ "step": 1244
8774
+ },
8775
+ {
8776
+ "epoch": 0.1320884833695825,
8777
+ "grad_norm": 12.21477222442627,
8778
+ "learning_rate": 0.0002,
8779
+ "loss": 0.2812,
8780
+ "step": 1245
8781
+ },
8782
+ {
8783
+ "epoch": 0.13219457853694763,
8784
+ "grad_norm": 22.81415557861328,
8785
+ "learning_rate": 0.0002,
8786
+ "loss": 0.5507,
8787
+ "step": 1246
8788
+ },
8789
+ {
8790
+ "epoch": 0.13230067370431278,
8791
+ "grad_norm": 42.41170883178711,
8792
+ "learning_rate": 0.0002,
8793
+ "loss": 1.46,
8794
+ "step": 1247
8795
+ },
8796
+ {
8797
+ "epoch": 0.1324067688716779,
8798
+ "grad_norm": 9.986234664916992,
8799
+ "learning_rate": 0.0002,
8800
+ "loss": 0.1635,
8801
+ "step": 1248
8802
+ },
8803
+ {
8804
+ "epoch": 0.13251286403904303,
8805
+ "grad_norm": 9.169960975646973,
8806
+ "learning_rate": 0.0002,
8807
+ "loss": 0.1931,
8808
+ "step": 1249
8809
+ },
8810
+ {
8811
+ "epoch": 0.13261895920640815,
8812
+ "grad_norm": 146.71475219726562,
8813
+ "learning_rate": 0.0002,
8814
+ "loss": 1.7616,
8815
+ "step": 1250
8816
+ },
8817
+ {
8818
+ "epoch": 0.13272505437377327,
8819
+ "grad_norm": 6.264101028442383,
8820
+ "learning_rate": 0.0002,
8821
+ "loss": 0.1245,
8822
+ "step": 1251
8823
+ },
8824
+ {
8825
+ "epoch": 0.1328311495411384,
8826
+ "grad_norm": 8.134949684143066,
8827
+ "learning_rate": 0.0002,
8828
+ "loss": 0.2554,
8829
+ "step": 1252
8830
+ },
8831
+ {
8832
+ "epoch": 0.13293724470850352,
8833
+ "grad_norm": 5.760680675506592,
8834
+ "learning_rate": 0.0002,
8835
+ "loss": 0.2234,
8836
+ "step": 1253
8837
+ },
8838
+ {
8839
+ "epoch": 0.13304333987586867,
8840
+ "grad_norm": 4.085294246673584,
8841
+ "learning_rate": 0.0002,
8842
+ "loss": 0.1747,
8843
+ "step": 1254
8844
+ },
8845
+ {
8846
+ "epoch": 0.1331494350432338,
8847
+ "grad_norm": 4.462237358093262,
8848
+ "learning_rate": 0.0002,
8849
+ "loss": 0.1352,
8850
+ "step": 1255
8851
+ },
8852
+ {
8853
+ "epoch": 0.1332555302105989,
8854
+ "grad_norm": 7.289393901824951,
8855
+ "learning_rate": 0.0002,
8856
+ "loss": 0.3264,
8857
+ "step": 1256
8858
+ },
8859
+ {
8860
+ "epoch": 0.13336162537796403,
8861
+ "grad_norm": 10.202658653259277,
8862
+ "learning_rate": 0.0002,
8863
+ "loss": 0.5737,
8864
+ "step": 1257
8865
+ },
8866
+ {
8867
+ "epoch": 0.13346772054532915,
8868
+ "grad_norm": 4.331934928894043,
8869
+ "learning_rate": 0.0002,
8870
+ "loss": 0.114,
8871
+ "step": 1258
8872
+ },
8873
+ {
8874
+ "epoch": 0.13357381571269428,
8875
+ "grad_norm": 7.286320686340332,
8876
+ "learning_rate": 0.0002,
8877
+ "loss": 0.2013,
8878
+ "step": 1259
8879
+ },
8880
+ {
8881
+ "epoch": 0.13367991088005943,
8882
+ "grad_norm": 4.421566009521484,
8883
+ "learning_rate": 0.0002,
8884
+ "loss": 0.137,
8885
+ "step": 1260
8886
+ },
8887
+ {
8888
+ "epoch": 0.13378600604742455,
8889
+ "grad_norm": 5.596869468688965,
8890
+ "learning_rate": 0.0002,
8891
+ "loss": 0.2133,
8892
+ "step": 1261
8893
+ },
8894
+ {
8895
+ "epoch": 0.13389210121478967,
8896
+ "grad_norm": 11.388298034667969,
8897
+ "learning_rate": 0.0002,
8898
+ "loss": 0.4968,
8899
+ "step": 1262
8900
+ },
8901
+ {
8902
+ "epoch": 0.1339981963821548,
8903
+ "grad_norm": 12.69575023651123,
8904
+ "learning_rate": 0.0002,
8905
+ "loss": 0.4301,
8906
+ "step": 1263
8907
+ },
8908
+ {
8909
+ "epoch": 0.13410429154951992,
8910
+ "grad_norm": 9.41312026977539,
8911
+ "learning_rate": 0.0002,
8912
+ "loss": 0.5109,
8913
+ "step": 1264
8914
+ },
8915
+ {
8916
+ "epoch": 0.13421038671688504,
8917
+ "grad_norm": 6.461081504821777,
8918
+ "learning_rate": 0.0002,
8919
+ "loss": 0.3142,
8920
+ "step": 1265
8921
+ },
8922
+ {
8923
+ "epoch": 0.13431648188425016,
8924
+ "grad_norm": 6.410338878631592,
8925
+ "learning_rate": 0.0002,
8926
+ "loss": 0.1166,
8927
+ "step": 1266
8928
+ },
8929
+ {
8930
+ "epoch": 0.1344225770516153,
8931
+ "grad_norm": 7.185196399688721,
8932
+ "learning_rate": 0.0002,
8933
+ "loss": 0.2185,
8934
+ "step": 1267
8935
+ },
8936
+ {
8937
+ "epoch": 0.13452867221898043,
8938
+ "grad_norm": 11.557251930236816,
8939
+ "learning_rate": 0.0002,
8940
+ "loss": 0.4979,
8941
+ "step": 1268
8942
+ },
8943
+ {
8944
+ "epoch": 0.13463476738634556,
8945
+ "grad_norm": 8.70836353302002,
8946
+ "learning_rate": 0.0002,
8947
+ "loss": 0.383,
8948
+ "step": 1269
8949
+ },
8950
+ {
8951
+ "epoch": 0.13474086255371068,
8952
+ "grad_norm": 6.914636135101318,
8953
+ "learning_rate": 0.0002,
8954
+ "loss": 0.2065,
8955
+ "step": 1270
8956
+ },
8957
+ {
8958
+ "epoch": 0.1348469577210758,
8959
+ "grad_norm": 8.398102760314941,
8960
+ "learning_rate": 0.0002,
8961
+ "loss": 0.2853,
8962
+ "step": 1271
8963
+ },
8964
+ {
8965
+ "epoch": 0.13495305288844092,
8966
+ "grad_norm": 9.197179794311523,
8967
+ "learning_rate": 0.0002,
8968
+ "loss": 0.2758,
8969
+ "step": 1272
8970
+ },
8971
+ {
8972
+ "epoch": 0.13505914805580604,
8973
+ "grad_norm": 8.578436851501465,
8974
+ "learning_rate": 0.0002,
8975
+ "loss": 0.4225,
8976
+ "step": 1273
8977
+ },
8978
+ {
8979
+ "epoch": 0.1351652432231712,
8980
+ "grad_norm": 9.300743103027344,
8981
+ "learning_rate": 0.0002,
8982
+ "loss": 0.2531,
8983
+ "step": 1274
8984
+ },
8985
+ {
8986
+ "epoch": 0.13527133839053632,
8987
+ "grad_norm": 8.925727844238281,
8988
+ "learning_rate": 0.0002,
8989
+ "loss": 0.4034,
8990
+ "step": 1275
8991
+ },
8992
+ {
8993
+ "epoch": 0.13537743355790144,
8994
+ "grad_norm": 8.458330154418945,
8995
+ "learning_rate": 0.0002,
8996
+ "loss": 0.3518,
8997
+ "step": 1276
8998
+ },
8999
+ {
9000
+ "epoch": 0.13548352872526656,
9001
+ "grad_norm": 13.157434463500977,
9002
+ "learning_rate": 0.0002,
9003
+ "loss": 0.2583,
9004
+ "step": 1277
9005
+ },
9006
+ {
9007
+ "epoch": 0.13558962389263168,
9008
+ "grad_norm": 8.095745086669922,
9009
+ "learning_rate": 0.0002,
9010
+ "loss": 0.3694,
9011
+ "step": 1278
9012
+ },
9013
+ {
9014
+ "epoch": 0.1356957190599968,
9015
+ "grad_norm": 7.974912643432617,
9016
+ "learning_rate": 0.0002,
9017
+ "loss": 0.3036,
9018
+ "step": 1279
9019
+ },
9020
+ {
9021
+ "epoch": 0.13580181422736196,
9022
+ "grad_norm": 6.209217548370361,
9023
+ "learning_rate": 0.0002,
9024
+ "loss": 0.196,
9025
+ "step": 1280
9026
+ },
9027
+ {
9028
+ "epoch": 0.13590790939472708,
9029
+ "grad_norm": 6.585304260253906,
9030
+ "learning_rate": 0.0002,
9031
+ "loss": 0.3013,
9032
+ "step": 1281
9033
+ },
9034
+ {
9035
+ "epoch": 0.1360140045620922,
9036
+ "grad_norm": 11.580331802368164,
9037
+ "learning_rate": 0.0002,
9038
+ "loss": 0.281,
9039
+ "step": 1282
9040
+ },
9041
+ {
9042
+ "epoch": 0.13612009972945732,
9043
+ "grad_norm": 19.015884399414062,
9044
+ "learning_rate": 0.0002,
9045
+ "loss": 0.4832,
9046
+ "step": 1283
9047
+ },
9048
+ {
9049
+ "epoch": 0.13622619489682244,
9050
+ "grad_norm": 8.91678524017334,
9051
+ "learning_rate": 0.0002,
9052
+ "loss": 0.286,
9053
+ "step": 1284
9054
+ },
9055
+ {
9056
+ "epoch": 0.13633229006418757,
9057
+ "grad_norm": 11.975906372070312,
9058
+ "learning_rate": 0.0002,
9059
+ "loss": 0.4886,
9060
+ "step": 1285
9061
+ },
9062
+ {
9063
+ "epoch": 0.1364383852315527,
9064
+ "grad_norm": 5.000464916229248,
9065
+ "learning_rate": 0.0002,
9066
+ "loss": 0.1404,
9067
+ "step": 1286
9068
+ },
9069
+ {
9070
+ "epoch": 0.13654448039891784,
9071
+ "grad_norm": 10.880637168884277,
9072
+ "learning_rate": 0.0002,
9073
+ "loss": 0.3242,
9074
+ "step": 1287
9075
+ },
9076
+ {
9077
+ "epoch": 0.13665057556628296,
9078
+ "grad_norm": 9.661633491516113,
9079
+ "learning_rate": 0.0002,
9080
+ "loss": 0.2853,
9081
+ "step": 1288
9082
+ },
9083
+ {
9084
+ "epoch": 0.13675667073364808,
9085
+ "grad_norm": 16.724220275878906,
9086
+ "learning_rate": 0.0002,
9087
+ "loss": 0.5778,
9088
+ "step": 1289
9089
+ },
9090
+ {
9091
+ "epoch": 0.1368627659010132,
9092
+ "grad_norm": 10.552864074707031,
9093
+ "learning_rate": 0.0002,
9094
+ "loss": 0.229,
9095
+ "step": 1290
9096
+ },
9097
+ {
9098
+ "epoch": 0.13696886106837833,
9099
+ "grad_norm": 7.293450832366943,
9100
+ "learning_rate": 0.0002,
9101
+ "loss": 0.2087,
9102
+ "step": 1291
9103
+ },
9104
+ {
9105
+ "epoch": 0.13707495623574345,
9106
+ "grad_norm": 12.54265022277832,
9107
+ "learning_rate": 0.0002,
9108
+ "loss": 0.3804,
9109
+ "step": 1292
9110
+ },
9111
+ {
9112
+ "epoch": 0.1371810514031086,
9113
+ "grad_norm": 4.438275337219238,
9114
+ "learning_rate": 0.0002,
9115
+ "loss": 0.1009,
9116
+ "step": 1293
9117
+ },
9118
+ {
9119
+ "epoch": 0.13728714657047372,
9120
+ "grad_norm": 15.128436088562012,
9121
+ "learning_rate": 0.0002,
9122
+ "loss": 0.5859,
9123
+ "step": 1294
9124
+ },
9125
+ {
9126
+ "epoch": 0.13739324173783884,
9127
+ "grad_norm": 15.132716178894043,
9128
+ "learning_rate": 0.0002,
9129
+ "loss": 0.3327,
9130
+ "step": 1295
9131
+ },
9132
+ {
9133
+ "epoch": 0.13749933690520397,
9134
+ "grad_norm": 13.210197448730469,
9135
+ "learning_rate": 0.0002,
9136
+ "loss": 0.2299,
9137
+ "step": 1296
9138
+ },
9139
+ {
9140
+ "epoch": 0.1376054320725691,
9141
+ "grad_norm": 11.39732837677002,
9142
+ "learning_rate": 0.0002,
9143
+ "loss": 0.2984,
9144
+ "step": 1297
9145
+ },
9146
+ {
9147
+ "epoch": 0.1377115272399342,
9148
+ "grad_norm": 10.91480827331543,
9149
+ "learning_rate": 0.0002,
9150
+ "loss": 0.3786,
9151
+ "step": 1298
9152
+ },
9153
+ {
9154
+ "epoch": 0.13781762240729933,
9155
+ "grad_norm": 12.576189041137695,
9156
+ "learning_rate": 0.0002,
9157
+ "loss": 0.4536,
9158
+ "step": 1299
9159
+ },
9160
+ {
9161
+ "epoch": 0.13792371757466448,
9162
+ "grad_norm": 44.04448699951172,
9163
+ "learning_rate": 0.0002,
9164
+ "loss": 0.6621,
9165
+ "step": 1300
9166
+ },
9167
+ {
9168
+ "epoch": 0.1380298127420296,
9169
+ "grad_norm": 5.772139072418213,
9170
+ "learning_rate": 0.0002,
9171
+ "loss": 0.1891,
9172
+ "step": 1301
9173
+ },
9174
+ {
9175
+ "epoch": 0.13813590790939473,
9176
+ "grad_norm": 19.7458553314209,
9177
+ "learning_rate": 0.0002,
9178
+ "loss": 0.8312,
9179
+ "step": 1302
9180
+ },
9181
+ {
9182
+ "epoch": 0.13824200307675985,
9183
+ "grad_norm": 13.536046981811523,
9184
+ "learning_rate": 0.0002,
9185
+ "loss": 0.6329,
9186
+ "step": 1303
9187
+ },
9188
+ {
9189
+ "epoch": 0.13834809824412497,
9190
+ "grad_norm": 10.36724853515625,
9191
+ "learning_rate": 0.0002,
9192
+ "loss": 0.5255,
9193
+ "step": 1304
9194
+ },
9195
+ {
9196
+ "epoch": 0.1384541934114901,
9197
+ "grad_norm": 8.655875205993652,
9198
+ "learning_rate": 0.0002,
9199
+ "loss": 0.3637,
9200
+ "step": 1305
9201
+ },
9202
+ {
9203
+ "epoch": 0.13856028857885525,
9204
+ "grad_norm": 5.116086006164551,
9205
+ "learning_rate": 0.0002,
9206
+ "loss": 0.1547,
9207
+ "step": 1306
9208
+ },
9209
+ {
9210
+ "epoch": 0.13866638374622037,
9211
+ "grad_norm": 6.3393144607543945,
9212
+ "learning_rate": 0.0002,
9213
+ "loss": 0.1963,
9214
+ "step": 1307
9215
+ },
9216
+ {
9217
+ "epoch": 0.1387724789135855,
9218
+ "grad_norm": 8.040077209472656,
9219
+ "learning_rate": 0.0002,
9220
+ "loss": 0.361,
9221
+ "step": 1308
9222
+ },
9223
+ {
9224
+ "epoch": 0.1388785740809506,
9225
+ "grad_norm": 20.939470291137695,
9226
+ "learning_rate": 0.0002,
9227
+ "loss": 0.2065,
9228
+ "step": 1309
9229
+ },
9230
+ {
9231
+ "epoch": 0.13898466924831573,
9232
+ "grad_norm": 26.244338989257812,
9233
+ "learning_rate": 0.0002,
9234
+ "loss": 0.5341,
9235
+ "step": 1310
9236
+ },
9237
+ {
9238
+ "epoch": 0.13909076441568086,
9239
+ "grad_norm": 8.157188415527344,
9240
+ "learning_rate": 0.0002,
9241
+ "loss": 0.3637,
9242
+ "step": 1311
9243
+ },
9244
+ {
9245
+ "epoch": 0.13919685958304598,
9246
+ "grad_norm": 7.755431652069092,
9247
+ "learning_rate": 0.0002,
9248
+ "loss": 0.3329,
9249
+ "step": 1312
9250
+ },
9251
+ {
9252
+ "epoch": 0.13930295475041113,
9253
+ "grad_norm": 7.9413371086120605,
9254
+ "learning_rate": 0.0002,
9255
+ "loss": 0.2398,
9256
+ "step": 1313
9257
+ },
9258
+ {
9259
+ "epoch": 0.13940904991777625,
9260
+ "grad_norm": 11.56313705444336,
9261
+ "learning_rate": 0.0002,
9262
+ "loss": 0.2182,
9263
+ "step": 1314
9264
+ },
9265
+ {
9266
+ "epoch": 0.13951514508514137,
9267
+ "grad_norm": 8.31189250946045,
9268
+ "learning_rate": 0.0002,
9269
+ "loss": 0.2181,
9270
+ "step": 1315
9271
+ },
9272
+ {
9273
+ "epoch": 0.1396212402525065,
9274
+ "grad_norm": 10.230040550231934,
9275
+ "learning_rate": 0.0002,
9276
+ "loss": 0.4605,
9277
+ "step": 1316
9278
+ },
9279
+ {
9280
+ "epoch": 0.13972733541987162,
9281
+ "grad_norm": 6.153731822967529,
9282
+ "learning_rate": 0.0002,
9283
+ "loss": 0.2034,
9284
+ "step": 1317
9285
+ },
9286
+ {
9287
+ "epoch": 0.13983343058723674,
9288
+ "grad_norm": 7.85717248916626,
9289
+ "learning_rate": 0.0002,
9290
+ "loss": 0.3198,
9291
+ "step": 1318
9292
+ },
9293
+ {
9294
+ "epoch": 0.1399395257546019,
9295
+ "grad_norm": 4.910926818847656,
9296
+ "learning_rate": 0.0002,
9297
+ "loss": 0.1415,
9298
+ "step": 1319
9299
+ },
9300
+ {
9301
+ "epoch": 0.140045620921967,
9302
+ "grad_norm": 11.90323257446289,
9303
+ "learning_rate": 0.0002,
9304
+ "loss": 0.4141,
9305
+ "step": 1320
9306
+ },
9307
+ {
9308
+ "epoch": 0.14015171608933213,
9309
+ "grad_norm": 12.459893226623535,
9310
+ "learning_rate": 0.0002,
9311
+ "loss": 0.8666,
9312
+ "step": 1321
9313
+ },
9314
+ {
9315
+ "epoch": 0.14025781125669726,
9316
+ "grad_norm": 5.982353687286377,
9317
+ "learning_rate": 0.0002,
9318
+ "loss": 0.2501,
9319
+ "step": 1322
9320
+ },
9321
+ {
9322
+ "epoch": 0.14036390642406238,
9323
+ "grad_norm": 6.693942546844482,
9324
+ "learning_rate": 0.0002,
9325
+ "loss": 0.1965,
9326
+ "step": 1323
9327
+ },
9328
+ {
9329
+ "epoch": 0.1404700015914275,
9330
+ "grad_norm": 9.561388969421387,
9331
+ "learning_rate": 0.0002,
9332
+ "loss": 0.4154,
9333
+ "step": 1324
9334
+ },
9335
+ {
9336
+ "epoch": 0.14057609675879262,
9337
+ "grad_norm": 12.952603340148926,
9338
+ "learning_rate": 0.0002,
9339
+ "loss": 0.5324,
9340
+ "step": 1325
9341
+ },
9342
+ {
9343
+ "epoch": 0.14068219192615777,
9344
+ "grad_norm": 15.116247177124023,
9345
+ "learning_rate": 0.0002,
9346
+ "loss": 0.3332,
9347
+ "step": 1326
9348
+ },
9349
+ {
9350
+ "epoch": 0.1407882870935229,
9351
+ "grad_norm": 9.550641059875488,
9352
+ "learning_rate": 0.0002,
9353
+ "loss": 0.3013,
9354
+ "step": 1327
9355
+ },
9356
+ {
9357
+ "epoch": 0.14089438226088802,
9358
+ "grad_norm": 7.75424861907959,
9359
+ "learning_rate": 0.0002,
9360
+ "loss": 0.2838,
9361
+ "step": 1328
9362
+ },
9363
+ {
9364
+ "epoch": 0.14100047742825314,
9365
+ "grad_norm": 13.92508316040039,
9366
+ "learning_rate": 0.0002,
9367
+ "loss": 0.5901,
9368
+ "step": 1329
9369
+ },
9370
+ {
9371
+ "epoch": 0.14110657259561826,
9372
+ "grad_norm": 7.823973655700684,
9373
+ "learning_rate": 0.0002,
9374
+ "loss": 0.2479,
9375
+ "step": 1330
9376
+ },
9377
+ {
9378
+ "epoch": 0.14121266776298338,
9379
+ "grad_norm": 13.762690544128418,
9380
+ "learning_rate": 0.0002,
9381
+ "loss": 0.7112,
9382
+ "step": 1331
9383
+ },
9384
+ {
9385
+ "epoch": 0.14131876293034853,
9386
+ "grad_norm": 8.561161994934082,
9387
+ "learning_rate": 0.0002,
9388
+ "loss": 0.4215,
9389
+ "step": 1332
9390
+ },
9391
+ {
9392
+ "epoch": 0.14142485809771366,
9393
+ "grad_norm": 4.252801895141602,
9394
+ "learning_rate": 0.0002,
9395
+ "loss": 0.1204,
9396
+ "step": 1333
9397
+ },
9398
+ {
9399
+ "epoch": 0.14153095326507878,
9400
+ "grad_norm": 7.190428256988525,
9401
+ "learning_rate": 0.0002,
9402
+ "loss": 0.2663,
9403
+ "step": 1334
9404
+ },
9405
+ {
9406
+ "epoch": 0.1416370484324439,
9407
+ "grad_norm": 6.25680685043335,
9408
+ "learning_rate": 0.0002,
9409
+ "loss": 0.1841,
9410
+ "step": 1335
9411
+ },
9412
+ {
9413
+ "epoch": 0.14174314359980902,
9414
+ "grad_norm": 9.265543937683105,
9415
+ "learning_rate": 0.0002,
9416
+ "loss": 0.2908,
9417
+ "step": 1336
9418
+ },
9419
+ {
9420
+ "epoch": 0.14184923876717415,
9421
+ "grad_norm": 7.347250461578369,
9422
+ "learning_rate": 0.0002,
9423
+ "loss": 0.265,
9424
+ "step": 1337
9425
+ },
9426
+ {
9427
+ "epoch": 0.14195533393453927,
9428
+ "grad_norm": 13.055035591125488,
9429
+ "learning_rate": 0.0002,
9430
+ "loss": 0.4024,
9431
+ "step": 1338
9432
+ },
9433
+ {
9434
+ "epoch": 0.14206142910190442,
9435
+ "grad_norm": 4.432365894317627,
9436
+ "learning_rate": 0.0002,
9437
+ "loss": 0.0922,
9438
+ "step": 1339
9439
+ },
9440
+ {
9441
+ "epoch": 0.14216752426926954,
9442
+ "grad_norm": 15.559868812561035,
9443
+ "learning_rate": 0.0002,
9444
+ "loss": 0.4948,
9445
+ "step": 1340
9446
+ },
9447
+ {
9448
+ "epoch": 0.14227361943663466,
9449
+ "grad_norm": 13.719801902770996,
9450
+ "learning_rate": 0.0002,
9451
+ "loss": 0.6514,
9452
+ "step": 1341
9453
+ },
9454
+ {
9455
+ "epoch": 0.14237971460399979,
9456
+ "grad_norm": 21.84075927734375,
9457
+ "learning_rate": 0.0002,
9458
+ "loss": 0.9652,
9459
+ "step": 1342
9460
+ },
9461
+ {
9462
+ "epoch": 0.1424858097713649,
9463
+ "grad_norm": 15.697550773620605,
9464
+ "learning_rate": 0.0002,
9465
+ "loss": 0.4002,
9466
+ "step": 1343
9467
+ },
9468
+ {
9469
+ "epoch": 0.14259190493873003,
9470
+ "grad_norm": 6.697174072265625,
9471
+ "learning_rate": 0.0002,
9472
+ "loss": 0.172,
9473
+ "step": 1344
9474
+ },
9475
+ {
9476
+ "epoch": 0.14269800010609518,
9477
+ "grad_norm": 10.240446090698242,
9478
+ "learning_rate": 0.0002,
9479
+ "loss": 0.3352,
9480
+ "step": 1345
9481
+ },
9482
+ {
9483
+ "epoch": 0.1428040952734603,
9484
+ "grad_norm": 14.785737991333008,
9485
+ "learning_rate": 0.0002,
9486
+ "loss": 0.6323,
9487
+ "step": 1346
9488
+ },
9489
+ {
9490
+ "epoch": 0.14291019044082542,
9491
+ "grad_norm": 13.367588996887207,
9492
+ "learning_rate": 0.0002,
9493
+ "loss": 0.3156,
9494
+ "step": 1347
9495
+ },
9496
+ {
9497
+ "epoch": 0.14301628560819055,
9498
+ "grad_norm": 8.60525894165039,
9499
+ "learning_rate": 0.0002,
9500
+ "loss": 0.3018,
9501
+ "step": 1348
9502
+ },
9503
+ {
9504
+ "epoch": 0.14312238077555567,
9505
+ "grad_norm": 13.699087142944336,
9506
+ "learning_rate": 0.0002,
9507
+ "loss": 0.3177,
9508
+ "step": 1349
9509
+ },
9510
+ {
9511
+ "epoch": 0.1432284759429208,
9512
+ "grad_norm": 17.507211685180664,
9513
+ "learning_rate": 0.0002,
9514
+ "loss": 0.1861,
9515
+ "step": 1350
9516
+ },
9517
+ {
9518
+ "epoch": 0.1433345711102859,
9519
+ "grad_norm": 8.357665061950684,
9520
+ "learning_rate": 0.0002,
9521
+ "loss": 0.4331,
9522
+ "step": 1351
9523
+ },
9524
+ {
9525
+ "epoch": 0.14344066627765106,
9526
+ "grad_norm": 7.526707172393799,
9527
+ "learning_rate": 0.0002,
9528
+ "loss": 0.3339,
9529
+ "step": 1352
9530
+ },
9531
+ {
9532
+ "epoch": 0.14354676144501619,
9533
+ "grad_norm": 6.245390892028809,
9534
+ "learning_rate": 0.0002,
9535
+ "loss": 0.2763,
9536
+ "step": 1353
9537
+ },
9538
+ {
9539
+ "epoch": 0.1436528566123813,
9540
+ "grad_norm": 6.374793529510498,
9541
+ "learning_rate": 0.0002,
9542
+ "loss": 0.1887,
9543
+ "step": 1354
9544
+ },
9545
+ {
9546
+ "epoch": 0.14375895177974643,
9547
+ "grad_norm": 4.34623908996582,
9548
+ "learning_rate": 0.0002,
9549
+ "loss": 0.1933,
9550
+ "step": 1355
9551
+ },
9552
+ {
9553
+ "epoch": 0.14386504694711155,
9554
+ "grad_norm": 5.8989715576171875,
9555
+ "learning_rate": 0.0002,
9556
+ "loss": 0.1422,
9557
+ "step": 1356
9558
+ },
9559
+ {
9560
+ "epoch": 0.14397114211447667,
9561
+ "grad_norm": 6.8564982414245605,
9562
+ "learning_rate": 0.0002,
9563
+ "loss": 0.2119,
9564
+ "step": 1357
9565
+ },
9566
+ {
9567
+ "epoch": 0.14407723728184182,
9568
+ "grad_norm": 6.154183864593506,
9569
+ "learning_rate": 0.0002,
9570
+ "loss": 0.1624,
9571
+ "step": 1358
9572
+ },
9573
+ {
9574
+ "epoch": 0.14418333244920695,
9575
+ "grad_norm": 4.457561016082764,
9576
+ "learning_rate": 0.0002,
9577
+ "loss": 0.104,
9578
+ "step": 1359
9579
+ },
9580
+ {
9581
+ "epoch": 0.14428942761657207,
9582
+ "grad_norm": 10.274301528930664,
9583
+ "learning_rate": 0.0002,
9584
+ "loss": 0.3836,
9585
+ "step": 1360
9586
+ },
9587
+ {
9588
+ "epoch": 0.1443955227839372,
9589
+ "grad_norm": 10.73849105834961,
9590
+ "learning_rate": 0.0002,
9591
+ "loss": 0.443,
9592
+ "step": 1361
9593
+ },
9594
+ {
9595
+ "epoch": 0.1445016179513023,
9596
+ "grad_norm": 24.961994171142578,
9597
+ "learning_rate": 0.0002,
9598
+ "loss": 1.0934,
9599
+ "step": 1362
9600
+ },
9601
+ {
9602
+ "epoch": 0.14460771311866744,
9603
+ "grad_norm": 9.245685577392578,
9604
+ "learning_rate": 0.0002,
9605
+ "loss": 0.3542,
9606
+ "step": 1363
9607
+ },
9608
+ {
9609
+ "epoch": 0.14471380828603256,
9610
+ "grad_norm": 5.28680944442749,
9611
+ "learning_rate": 0.0002,
9612
+ "loss": 0.1911,
9613
+ "step": 1364
9614
+ },
9615
+ {
9616
+ "epoch": 0.1448199034533977,
9617
+ "grad_norm": 8.322172164916992,
9618
+ "learning_rate": 0.0002,
9619
+ "loss": 0.2717,
9620
+ "step": 1365
9621
+ },
9622
+ {
9623
+ "epoch": 0.14492599862076283,
9624
+ "grad_norm": 3.9982528686523438,
9625
+ "learning_rate": 0.0002,
9626
+ "loss": 0.112,
9627
+ "step": 1366
9628
+ },
9629
+ {
9630
+ "epoch": 0.14503209378812795,
9631
+ "grad_norm": 23.222265243530273,
9632
+ "learning_rate": 0.0002,
9633
+ "loss": 0.7461,
9634
+ "step": 1367
9635
+ },
9636
+ {
9637
+ "epoch": 0.14513818895549307,
9638
+ "grad_norm": 10.668312072753906,
9639
+ "learning_rate": 0.0002,
9640
+ "loss": 0.4463,
9641
+ "step": 1368
9642
+ },
9643
+ {
9644
+ "epoch": 0.1452442841228582,
9645
+ "grad_norm": 13.229131698608398,
9646
+ "learning_rate": 0.0002,
9647
+ "loss": 0.2645,
9648
+ "step": 1369
9649
+ },
9650
+ {
9651
+ "epoch": 0.14535037929022332,
9652
+ "grad_norm": 7.776607990264893,
9653
+ "learning_rate": 0.0002,
9654
+ "loss": 0.2929,
9655
+ "step": 1370
9656
+ },
9657
+ {
9658
+ "epoch": 0.14545647445758847,
9659
+ "grad_norm": 9.31643295288086,
9660
+ "learning_rate": 0.0002,
9661
+ "loss": 0.393,
9662
+ "step": 1371
9663
+ },
9664
+ {
9665
+ "epoch": 0.1455625696249536,
9666
+ "grad_norm": 13.268705368041992,
9667
+ "learning_rate": 0.0002,
9668
+ "loss": 0.3352,
9669
+ "step": 1372
9670
+ },
9671
+ {
9672
+ "epoch": 0.14566866479231871,
9673
+ "grad_norm": 4.319291114807129,
9674
+ "learning_rate": 0.0002,
9675
+ "loss": 0.1053,
9676
+ "step": 1373
9677
+ },
9678
+ {
9679
+ "epoch": 0.14577475995968384,
9680
+ "grad_norm": 5.873892307281494,
9681
+ "learning_rate": 0.0002,
9682
+ "loss": 0.1739,
9683
+ "step": 1374
9684
+ },
9685
+ {
9686
+ "epoch": 0.14588085512704896,
9687
+ "grad_norm": 15.370256423950195,
9688
+ "learning_rate": 0.0002,
9689
+ "loss": 0.2897,
9690
+ "step": 1375
9691
+ },
9692
+ {
9693
+ "epoch": 0.14598695029441408,
9694
+ "grad_norm": 18.4765625,
9695
+ "learning_rate": 0.0002,
9696
+ "loss": 0.4926,
9697
+ "step": 1376
9698
+ },
9699
+ {
9700
+ "epoch": 0.1460930454617792,
9701
+ "grad_norm": 18.674333572387695,
9702
+ "learning_rate": 0.0002,
9703
+ "loss": 0.6077,
9704
+ "step": 1377
9705
+ },
9706
+ {
9707
+ "epoch": 0.14619914062914435,
9708
+ "grad_norm": 6.999634742736816,
9709
+ "learning_rate": 0.0002,
9710
+ "loss": 0.291,
9711
+ "step": 1378
9712
+ },
9713
+ {
9714
+ "epoch": 0.14630523579650948,
9715
+ "grad_norm": 5.089010715484619,
9716
+ "learning_rate": 0.0002,
9717
+ "loss": 0.2744,
9718
+ "step": 1379
9719
+ },
9720
+ {
9721
+ "epoch": 0.1464113309638746,
9722
+ "grad_norm": 10.347954750061035,
9723
+ "learning_rate": 0.0002,
9724
+ "loss": 0.3709,
9725
+ "step": 1380
9726
+ },
9727
+ {
9728
+ "epoch": 0.14651742613123972,
9729
+ "grad_norm": 10.16544246673584,
9730
+ "learning_rate": 0.0002,
9731
+ "loss": 0.4002,
9732
+ "step": 1381
9733
+ },
9734
+ {
9735
+ "epoch": 0.14662352129860484,
9736
+ "grad_norm": 7.98573112487793,
9737
+ "learning_rate": 0.0002,
9738
+ "loss": 0.2799,
9739
+ "step": 1382
9740
+ },
9741
+ {
9742
+ "epoch": 0.14672961646596996,
9743
+ "grad_norm": 11.006216049194336,
9744
+ "learning_rate": 0.0002,
9745
+ "loss": 0.5155,
9746
+ "step": 1383
9747
+ },
9748
+ {
9749
+ "epoch": 0.14683571163333511,
9750
+ "grad_norm": 8.312963485717773,
9751
+ "learning_rate": 0.0002,
9752
+ "loss": 0.2583,
9753
+ "step": 1384
9754
+ },
9755
+ {
9756
+ "epoch": 0.14694180680070024,
9757
+ "grad_norm": 5.677665710449219,
9758
+ "learning_rate": 0.0002,
9759
+ "loss": 0.1898,
9760
+ "step": 1385
9761
+ },
9762
+ {
9763
+ "epoch": 0.14704790196806536,
9764
+ "grad_norm": 22.07912826538086,
9765
+ "learning_rate": 0.0002,
9766
+ "loss": 0.5443,
9767
+ "step": 1386
9768
+ },
9769
+ {
9770
+ "epoch": 0.14715399713543048,
9771
+ "grad_norm": 8.111579895019531,
9772
+ "learning_rate": 0.0002,
9773
+ "loss": 0.2472,
9774
+ "step": 1387
9775
+ },
9776
+ {
9777
+ "epoch": 0.1472600923027956,
9778
+ "grad_norm": 12.860954284667969,
9779
+ "learning_rate": 0.0002,
9780
+ "loss": 0.3856,
9781
+ "step": 1388
9782
+ },
9783
+ {
9784
+ "epoch": 0.14736618747016073,
9785
+ "grad_norm": 7.958261966705322,
9786
+ "learning_rate": 0.0002,
9787
+ "loss": 0.395,
9788
+ "step": 1389
9789
+ },
9790
+ {
9791
+ "epoch": 0.14747228263752585,
9792
+ "grad_norm": 8.656932830810547,
9793
+ "learning_rate": 0.0002,
9794
+ "loss": 0.2722,
9795
+ "step": 1390
9796
+ },
9797
+ {
9798
+ "epoch": 0.147578377804891,
9799
+ "grad_norm": 8.867057800292969,
9800
+ "learning_rate": 0.0002,
9801
+ "loss": 0.3438,
9802
+ "step": 1391
9803
+ },
9804
+ {
9805
+ "epoch": 0.14768447297225612,
9806
+ "grad_norm": 10.866012573242188,
9807
+ "learning_rate": 0.0002,
9808
+ "loss": 0.306,
9809
+ "step": 1392
9810
+ },
9811
+ {
9812
+ "epoch": 0.14779056813962124,
9813
+ "grad_norm": 13.738873481750488,
9814
+ "learning_rate": 0.0002,
9815
+ "loss": 0.4618,
9816
+ "step": 1393
9817
+ },
9818
+ {
9819
+ "epoch": 0.14789666330698636,
9820
+ "grad_norm": 12.006548881530762,
9821
+ "learning_rate": 0.0002,
9822
+ "loss": 0.381,
9823
+ "step": 1394
9824
+ },
9825
+ {
9826
+ "epoch": 0.1480027584743515,
9827
+ "grad_norm": 11.133866310119629,
9828
+ "learning_rate": 0.0002,
9829
+ "loss": 0.3327,
9830
+ "step": 1395
9831
+ },
9832
+ {
9833
+ "epoch": 0.1481088536417166,
9834
+ "grad_norm": 15.31755256652832,
9835
+ "learning_rate": 0.0002,
9836
+ "loss": 0.244,
9837
+ "step": 1396
9838
+ },
9839
+ {
9840
+ "epoch": 0.14821494880908176,
9841
+ "grad_norm": 11.190190315246582,
9842
+ "learning_rate": 0.0002,
9843
+ "loss": 0.2578,
9844
+ "step": 1397
9845
+ },
9846
+ {
9847
+ "epoch": 0.14832104397644688,
9848
+ "grad_norm": 6.678422451019287,
9849
+ "learning_rate": 0.0002,
9850
+ "loss": 0.1471,
9851
+ "step": 1398
9852
+ },
9853
+ {
9854
+ "epoch": 0.148427139143812,
9855
+ "grad_norm": 24.605445861816406,
9856
+ "learning_rate": 0.0002,
9857
+ "loss": 0.7027,
9858
+ "step": 1399
9859
+ },
9860
+ {
9861
+ "epoch": 0.14853323431117713,
9862
+ "grad_norm": 114.21978759765625,
9863
+ "learning_rate": 0.0002,
9864
+ "loss": 3.7961,
9865
+ "step": 1400
9866
+ },
9867
+ {
9868
+ "epoch": 0.14853323431117713,
9869
+ "eval_loss": 0.05162820219993591,
9870
+ "eval_runtime": 49.0372,
9871
+ "eval_samples_per_second": 3.1,
9872
+ "eval_steps_per_second": 1.55,
9873
+ "step": 1400
9874
  }
9875
  ],
9876
  "logging_steps": 1,
 
9885
  "early_stopping_threshold": 0.0
9886
  },
9887
  "attributes": {
9888
+ "early_stopping_patience_counter": 2
9889
  }
9890
  },
9891
  "TrainerControl": {
 
9899
  "attributes": {}
9900
  }
9901
  },
9902
+ "total_flos": 4.293250279538688e+17,
9903
  "train_batch_size": 2,
9904
  "trial_name": null,
9905
  "trial_params": null