error577 commited on
Commit
2119572
·
verified ·
1 Parent(s): a60ac15

Training in progress, step 10800, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:6905a52e18758a696c7ce3fa2fa9f24dca5c4715b5bc7585f522e35e5d232130
3
  size 231448
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d7e02fc92146f3ce2e785bbf9c1fcd1b627dc71eb528ba0277138b1a4d86918b
3
  size 231448
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:72a583a2b54771981d346bca0a157285c9647eccc752b9c36d70722a855db2e4
3
  size 374849
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b28afb86cf4e9c2649710689906c6081324ca42dddac6a69f32cd8308b5ba0ed
3
  size 374849
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:e8b7fcb14190c0b304aea6fb54e275105c231149af68c48bd43ae8b5bac6753a
3
  size 14645
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:342bc811c21e52aebf1d73104c6d7d5985ca2fa2215d04f81f331c7b7f9f4a48
3
  size 14645
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:9c10612e81a47906a30c96a2ed6c987bc88870593490568283a71c2c999308f4
3
  size 1465
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:229fb5a4953a6349d6e98ee676f873c46b7bcad7c4140d41cde35eee76fdaabf
3
  size 1465
last-checkpoint/trainer_state.json CHANGED
@@ -2,9 +2,9 @@
2
  "best_global_step": 10600,
3
  "best_metric": 10.168953895568848,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-10600",
5
- "epoch": 1.850770372310244,
6
  "eval_steps": 200,
7
- "global_step": 10600,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
@@ -74640,6 +74640,1414 @@
74640
  "eval_samples_per_second": 303.796,
74641
  "eval_steps_per_second": 152.556,
74642
  "step": 10600
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
74643
  }
74644
  ],
74645
  "logging_steps": 1,
@@ -74654,7 +76062,7 @@
74654
  "early_stopping_threshold": 0.0
74655
  },
74656
  "attributes": {
74657
- "early_stopping_patience_counter": 0
74658
  }
74659
  },
74660
  "TrainerControl": {
@@ -74668,7 +76076,7 @@
74668
  "attributes": {}
74669
  }
74670
  },
74671
- "total_flos": 575226603503616.0,
74672
  "train_batch_size": 2,
74673
  "trial_name": null,
74674
  "trial_params": null
 
2
  "best_global_step": 10600,
3
  "best_metric": 10.168953895568848,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-10600",
5
+ "epoch": 1.885688097420453,
6
  "eval_steps": 200,
7
+ "global_step": 10800,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
 
74640
  "eval_samples_per_second": 303.796,
74641
  "eval_steps_per_second": 152.556,
74642
  "step": 10600
74643
+ },
74644
+ {
74645
+ "epoch": 1.850944960935795,
74646
+ "grad_norm": 0.07258344441652298,
74647
+ "learning_rate": 6.414242439808808e-05,
74648
+ "loss": 10.1948,
74649
+ "step": 10601
74650
+ },
74651
+ {
74652
+ "epoch": 1.851119549561346,
74653
+ "grad_norm": 0.06922319531440735,
74654
+ "learning_rate": 6.412534574422435e-05,
74655
+ "loss": 10.1708,
74656
+ "step": 10602
74657
+ },
74658
+ {
74659
+ "epoch": 1.8512941381868973,
74660
+ "grad_norm": 0.06709286570549011,
74661
+ "learning_rate": 6.410826829123142e-05,
74662
+ "loss": 10.1878,
74663
+ "step": 10603
74664
+ },
74665
+ {
74666
+ "epoch": 1.8514687268124481,
74667
+ "grad_norm": 0.07004748284816742,
74668
+ "learning_rate": 6.409119203968094e-05,
74669
+ "loss": 10.1989,
74670
+ "step": 10604
74671
+ },
74672
+ {
74673
+ "epoch": 1.8516433154379992,
74674
+ "grad_norm": 0.06744974106550217,
74675
+ "learning_rate": 6.407411699014458e-05,
74676
+ "loss": 10.1841,
74677
+ "step": 10605
74678
+ },
74679
+ {
74680
+ "epoch": 1.8518179040635503,
74681
+ "grad_norm": 0.07280489057302475,
74682
+ "learning_rate": 6.405704314319388e-05,
74683
+ "loss": 10.1949,
74684
+ "step": 10606
74685
+ },
74686
+ {
74687
+ "epoch": 1.8519924926891012,
74688
+ "grad_norm": 0.0769948810338974,
74689
+ "learning_rate": 6.403997049940034e-05,
74690
+ "loss": 10.1688,
74691
+ "step": 10607
74692
+ },
74693
+ {
74694
+ "epoch": 1.8521670813146525,
74695
+ "grad_norm": 0.07522201538085938,
74696
+ "learning_rate": 6.402289905933549e-05,
74697
+ "loss": 10.1783,
74698
+ "step": 10608
74699
+ },
74700
+ {
74701
+ "epoch": 1.8523416699402033,
74702
+ "grad_norm": 0.07303333282470703,
74703
+ "learning_rate": 6.400582882357078e-05,
74704
+ "loss": 10.2013,
74705
+ "step": 10609
74706
+ },
74707
+ {
74708
+ "epoch": 1.8525162585657544,
74709
+ "grad_norm": 0.09249033778905869,
74710
+ "learning_rate": 6.398875979267757e-05,
74711
+ "loss": 10.1783,
74712
+ "step": 10610
74713
+ },
74714
+ {
74715
+ "epoch": 1.8526908471913055,
74716
+ "grad_norm": 0.08442588895559311,
74717
+ "learning_rate": 6.39716919672273e-05,
74718
+ "loss": 10.1482,
74719
+ "step": 10611
74720
+ },
74721
+ {
74722
+ "epoch": 1.8528654358168564,
74723
+ "grad_norm": 0.07595143467187881,
74724
+ "learning_rate": 6.395462534779124e-05,
74725
+ "loss": 10.2047,
74726
+ "step": 10612
74727
+ },
74728
+ {
74729
+ "epoch": 1.8530400244424077,
74730
+ "grad_norm": 0.07672160118818283,
74731
+ "learning_rate": 6.393755993494075e-05,
74732
+ "loss": 10.2014,
74733
+ "step": 10613
74734
+ },
74735
+ {
74736
+ "epoch": 1.8532146130679585,
74737
+ "grad_norm": 0.09397691488265991,
74738
+ "learning_rate": 6.392049572924701e-05,
74739
+ "loss": 10.1904,
74740
+ "step": 10614
74741
+ },
74742
+ {
74743
+ "epoch": 1.8533892016935096,
74744
+ "grad_norm": 0.09067194908857346,
74745
+ "learning_rate": 6.390343273128123e-05,
74746
+ "loss": 10.1732,
74747
+ "step": 10615
74748
+ },
74749
+ {
74750
+ "epoch": 1.8535637903190607,
74751
+ "grad_norm": 0.09171110391616821,
74752
+ "learning_rate": 6.388637094161464e-05,
74753
+ "loss": 10.1462,
74754
+ "step": 10616
74755
+ },
74756
+ {
74757
+ "epoch": 1.8537383789446118,
74758
+ "grad_norm": 0.14176900684833527,
74759
+ "learning_rate": 6.386931036081834e-05,
74760
+ "loss": 10.1853,
74761
+ "step": 10617
74762
+ },
74763
+ {
74764
+ "epoch": 1.8539129675701629,
74765
+ "grad_norm": 0.09686875343322754,
74766
+ "learning_rate": 6.385225098946337e-05,
74767
+ "loss": 10.1597,
74768
+ "step": 10618
74769
+ },
74770
+ {
74771
+ "epoch": 1.8540875561957137,
74772
+ "grad_norm": 0.08732463419437408,
74773
+ "learning_rate": 6.383519282812082e-05,
74774
+ "loss": 10.192,
74775
+ "step": 10619
74776
+ },
74777
+ {
74778
+ "epoch": 1.854262144821265,
74779
+ "grad_norm": 0.0978822112083435,
74780
+ "learning_rate": 6.381813587736172e-05,
74781
+ "loss": 10.1861,
74782
+ "step": 10620
74783
+ },
74784
+ {
74785
+ "epoch": 1.854436733446816,
74786
+ "grad_norm": 0.11261062324047089,
74787
+ "learning_rate": 6.380108013775697e-05,
74788
+ "loss": 10.2099,
74789
+ "step": 10621
74790
+ },
74791
+ {
74792
+ "epoch": 1.854611322072367,
74793
+ "grad_norm": 0.1078120544552803,
74794
+ "learning_rate": 6.378402560987755e-05,
74795
+ "loss": 10.1957,
74796
+ "step": 10622
74797
+ },
74798
+ {
74799
+ "epoch": 1.854785910697918,
74800
+ "grad_norm": 0.11008605360984802,
74801
+ "learning_rate": 6.376697229429432e-05,
74802
+ "loss": 10.165,
74803
+ "step": 10623
74804
+ },
74805
+ {
74806
+ "epoch": 1.854960499323469,
74807
+ "grad_norm": 0.1250036358833313,
74808
+ "learning_rate": 6.374992019157813e-05,
74809
+ "loss": 10.1651,
74810
+ "step": 10624
74811
+ },
74812
+ {
74813
+ "epoch": 1.8551350879490203,
74814
+ "grad_norm": 0.12087695300579071,
74815
+ "learning_rate": 6.373286930229979e-05,
74816
+ "loss": 10.1671,
74817
+ "step": 10625
74818
+ },
74819
+ {
74820
+ "epoch": 1.8553096765745711,
74821
+ "grad_norm": 0.12113357335329056,
74822
+ "learning_rate": 6.371581962703006e-05,
74823
+ "loss": 10.1647,
74824
+ "step": 10626
74825
+ },
74826
+ {
74827
+ "epoch": 1.8554842652001222,
74828
+ "grad_norm": 0.1743500828742981,
74829
+ "learning_rate": 6.36987711663396e-05,
74830
+ "loss": 10.2082,
74831
+ "step": 10627
74832
+ },
74833
+ {
74834
+ "epoch": 1.8556588538256733,
74835
+ "grad_norm": 0.07632096111774445,
74836
+ "learning_rate": 6.36817239207992e-05,
74837
+ "loss": 10.2257,
74838
+ "step": 10628
74839
+ },
74840
+ {
74841
+ "epoch": 1.8558334424512242,
74842
+ "grad_norm": 0.06482792645692825,
74843
+ "learning_rate": 6.366467789097948e-05,
74844
+ "loss": 10.2317,
74845
+ "step": 10629
74846
+ },
74847
+ {
74848
+ "epoch": 1.8560080310767755,
74849
+ "grad_norm": 0.06726192682981491,
74850
+ "learning_rate": 6.364763307745096e-05,
74851
+ "loss": 10.203,
74852
+ "step": 10630
74853
+ },
74854
+ {
74855
+ "epoch": 1.8561826197023263,
74856
+ "grad_norm": 0.08420189470052719,
74857
+ "learning_rate": 6.363058948078427e-05,
74858
+ "loss": 10.1927,
74859
+ "step": 10631
74860
+ },
74861
+ {
74862
+ "epoch": 1.8563572083278774,
74863
+ "grad_norm": 0.06701776385307312,
74864
+ "learning_rate": 6.36135471015499e-05,
74865
+ "loss": 10.173,
74866
+ "step": 10632
74867
+ },
74868
+ {
74869
+ "epoch": 1.8565317969534285,
74870
+ "grad_norm": 0.06086110323667526,
74871
+ "learning_rate": 6.35965059403183e-05,
74872
+ "loss": 10.2002,
74873
+ "step": 10633
74874
+ },
74875
+ {
74876
+ "epoch": 1.8567063855789794,
74877
+ "grad_norm": 0.060117896646261215,
74878
+ "learning_rate": 6.357946599766e-05,
74879
+ "loss": 10.2055,
74880
+ "step": 10634
74881
+ },
74882
+ {
74883
+ "epoch": 1.8568809742045307,
74884
+ "grad_norm": 0.061250388622283936,
74885
+ "learning_rate": 6.356242727414532e-05,
74886
+ "loss": 10.2085,
74887
+ "step": 10635
74888
+ },
74889
+ {
74890
+ "epoch": 1.8570555628300816,
74891
+ "grad_norm": 0.06225757300853729,
74892
+ "learning_rate": 6.354538977034462e-05,
74893
+ "loss": 10.1835,
74894
+ "step": 10636
74895
+ },
74896
+ {
74897
+ "epoch": 1.8572301514556326,
74898
+ "grad_norm": 0.059876296669244766,
74899
+ "learning_rate": 6.352835348682823e-05,
74900
+ "loss": 10.2079,
74901
+ "step": 10637
74902
+ },
74903
+ {
74904
+ "epoch": 1.8574047400811837,
74905
+ "grad_norm": 0.06572900712490082,
74906
+ "learning_rate": 6.351131842416647e-05,
74907
+ "loss": 10.2076,
74908
+ "step": 10638
74909
+ },
74910
+ {
74911
+ "epoch": 1.8575793287067348,
74912
+ "grad_norm": 0.06221628561615944,
74913
+ "learning_rate": 6.349428458292945e-05,
74914
+ "loss": 10.225,
74915
+ "step": 10639
74916
+ },
74917
+ {
74918
+ "epoch": 1.857753917332286,
74919
+ "grad_norm": 0.07406983524560928,
74920
+ "learning_rate": 6.347725196368748e-05,
74921
+ "loss": 10.167,
74922
+ "step": 10640
74923
+ },
74924
+ {
74925
+ "epoch": 1.8579285059578368,
74926
+ "grad_norm": 0.06753164529800415,
74927
+ "learning_rate": 6.346022056701067e-05,
74928
+ "loss": 10.1799,
74929
+ "step": 10641
74930
+ },
74931
+ {
74932
+ "epoch": 1.8581030945833878,
74933
+ "grad_norm": 0.07266393303871155,
74934
+ "learning_rate": 6.34431903934691e-05,
74935
+ "loss": 10.1997,
74936
+ "step": 10642
74937
+ },
74938
+ {
74939
+ "epoch": 1.858277683208939,
74940
+ "grad_norm": 0.06909793615341187,
74941
+ "learning_rate": 6.342616144363292e-05,
74942
+ "loss": 10.1959,
74943
+ "step": 10643
74944
+ },
74945
+ {
74946
+ "epoch": 1.85845227183449,
74947
+ "grad_norm": 0.06717100739479065,
74948
+ "learning_rate": 6.340913371807209e-05,
74949
+ "loss": 10.1616,
74950
+ "step": 10644
74951
+ },
74952
+ {
74953
+ "epoch": 1.858626860460041,
74954
+ "grad_norm": 0.06653790175914764,
74955
+ "learning_rate": 6.339210721735655e-05,
74956
+ "loss": 10.1971,
74957
+ "step": 10645
74958
+ },
74959
+ {
74960
+ "epoch": 1.858801449085592,
74961
+ "grad_norm": 0.06408768892288208,
74962
+ "learning_rate": 6.33750819420564e-05,
74963
+ "loss": 10.1653,
74964
+ "step": 10646
74965
+ },
74966
+ {
74967
+ "epoch": 1.8589760377111433,
74968
+ "grad_norm": 0.0644698366522789,
74969
+ "learning_rate": 6.335805789274141e-05,
74970
+ "loss": 10.2031,
74971
+ "step": 10647
74972
+ },
74973
+ {
74974
+ "epoch": 1.8591506263366941,
74975
+ "grad_norm": 0.06682746112346649,
74976
+ "learning_rate": 6.334103506998148e-05,
74977
+ "loss": 10.1754,
74978
+ "step": 10648
74979
+ },
74980
+ {
74981
+ "epoch": 1.8593252149622452,
74982
+ "grad_norm": 0.057543061673641205,
74983
+ "learning_rate": 6.332401347434648e-05,
74984
+ "loss": 10.1896,
74985
+ "step": 10649
74986
+ },
74987
+ {
74988
+ "epoch": 1.8594998035877963,
74989
+ "grad_norm": 0.06425422430038452,
74990
+ "learning_rate": 6.330699310640615e-05,
74991
+ "loss": 10.175,
74992
+ "step": 10650
74993
+ },
74994
+ {
74995
+ "epoch": 1.8596743922133472,
74996
+ "grad_norm": 0.09058105945587158,
74997
+ "learning_rate": 6.32899739667302e-05,
74998
+ "loss": 10.1841,
74999
+ "step": 10651
75000
+ },
75001
+ {
75002
+ "epoch": 1.8598489808388985,
75003
+ "grad_norm": 0.07364935427904129,
75004
+ "learning_rate": 6.327295605588839e-05,
75005
+ "loss": 10.1767,
75006
+ "step": 10652
75007
+ },
75008
+ {
75009
+ "epoch": 1.8600235694644494,
75010
+ "grad_norm": 0.07044831663370132,
75011
+ "learning_rate": 6.325593937445035e-05,
75012
+ "loss": 10.189,
75013
+ "step": 10653
75014
+ },
75015
+ {
75016
+ "epoch": 1.8601981580900004,
75017
+ "grad_norm": 0.12222006916999817,
75018
+ "learning_rate": 6.323892392298569e-05,
75019
+ "loss": 10.1537,
75020
+ "step": 10654
75021
+ },
75022
+ {
75023
+ "epoch": 1.8603727467155515,
75024
+ "grad_norm": 0.08136998116970062,
75025
+ "learning_rate": 6.322190970206403e-05,
75026
+ "loss": 10.1846,
75027
+ "step": 10655
75028
+ },
75029
+ {
75030
+ "epoch": 1.8605473353411024,
75031
+ "grad_norm": 0.07706571370363235,
75032
+ "learning_rate": 6.320489671225486e-05,
75033
+ "loss": 10.2003,
75034
+ "step": 10656
75035
+ },
75036
+ {
75037
+ "epoch": 1.8607219239666537,
75038
+ "grad_norm": 0.07161270827054977,
75039
+ "learning_rate": 6.318788495412767e-05,
75040
+ "loss": 10.1929,
75041
+ "step": 10657
75042
+ },
75043
+ {
75044
+ "epoch": 1.8608965125922046,
75045
+ "grad_norm": 0.07678341865539551,
75046
+ "learning_rate": 6.317087442825195e-05,
75047
+ "loss": 10.1781,
75048
+ "step": 10658
75049
+ },
75050
+ {
75051
+ "epoch": 1.8610711012177557,
75052
+ "grad_norm": 0.08422119915485382,
75053
+ "learning_rate": 6.315386513519712e-05,
75054
+ "loss": 10.1475,
75055
+ "step": 10659
75056
+ },
75057
+ {
75058
+ "epoch": 1.8612456898433067,
75059
+ "grad_norm": 0.10349582135677338,
75060
+ "learning_rate": 6.313685707553248e-05,
75061
+ "loss": 10.1717,
75062
+ "step": 10660
75063
+ },
75064
+ {
75065
+ "epoch": 1.8614202784688576,
75066
+ "grad_norm": 0.08518853038549423,
75067
+ "learning_rate": 6.311985024982743e-05,
75068
+ "loss": 10.1631,
75069
+ "step": 10661
75070
+ },
75071
+ {
75072
+ "epoch": 1.861594867094409,
75073
+ "grad_norm": 0.0728730708360672,
75074
+ "learning_rate": 6.310284465865123e-05,
75075
+ "loss": 10.1797,
75076
+ "step": 10662
75077
+ },
75078
+ {
75079
+ "epoch": 1.8617694557199598,
75080
+ "grad_norm": 0.09634649008512497,
75081
+ "learning_rate": 6.308584030257307e-05,
75082
+ "loss": 10.2028,
75083
+ "step": 10663
75084
+ },
75085
+ {
75086
+ "epoch": 1.8619440443455109,
75087
+ "grad_norm": 0.09068310260772705,
75088
+ "learning_rate": 6.306883718216227e-05,
75089
+ "loss": 10.1932,
75090
+ "step": 10664
75091
+ },
75092
+ {
75093
+ "epoch": 1.862118632971062,
75094
+ "grad_norm": 0.09052120894193649,
75095
+ "learning_rate": 6.305183529798794e-05,
75096
+ "loss": 10.1887,
75097
+ "step": 10665
75098
+ },
75099
+ {
75100
+ "epoch": 1.862293221596613,
75101
+ "grad_norm": 0.08790583163499832,
75102
+ "learning_rate": 6.303483465061917e-05,
75103
+ "loss": 10.1713,
75104
+ "step": 10666
75105
+ },
75106
+ {
75107
+ "epoch": 1.8624678102221641,
75108
+ "grad_norm": 0.1010768711566925,
75109
+ "learning_rate": 6.301783524062507e-05,
75110
+ "loss": 10.1495,
75111
+ "step": 10667
75112
+ },
75113
+ {
75114
+ "epoch": 1.862642398847715,
75115
+ "grad_norm": 0.09732052683830261,
75116
+ "learning_rate": 6.300083706857472e-05,
75117
+ "loss": 10.1496,
75118
+ "step": 10668
75119
+ },
75120
+ {
75121
+ "epoch": 1.862816987473266,
75122
+ "grad_norm": 0.10530834645032883,
75123
+ "learning_rate": 6.2983840135037e-05,
75124
+ "loss": 10.1562,
75125
+ "step": 10669
75126
+ },
75127
+ {
75128
+ "epoch": 1.8629915760988172,
75129
+ "grad_norm": 0.10627935081720352,
75130
+ "learning_rate": 6.2966844440581e-05,
75131
+ "loss": 10.195,
75132
+ "step": 10670
75133
+ },
75134
+ {
75135
+ "epoch": 1.8631661647243682,
75136
+ "grad_norm": 0.09217987954616547,
75137
+ "learning_rate": 6.294984998577558e-05,
75138
+ "loss": 10.1745,
75139
+ "step": 10671
75140
+ },
75141
+ {
75142
+ "epoch": 1.8633407533499193,
75143
+ "grad_norm": 0.10322612524032593,
75144
+ "learning_rate": 6.293285677118957e-05,
75145
+ "loss": 10.1525,
75146
+ "step": 10672
75147
+ },
75148
+ {
75149
+ "epoch": 1.8635153419754702,
75150
+ "grad_norm": 0.10923640429973602,
75151
+ "learning_rate": 6.291586479739189e-05,
75152
+ "loss": 10.1652,
75153
+ "step": 10673
75154
+ },
75155
+ {
75156
+ "epoch": 1.8636899306010215,
75157
+ "grad_norm": 0.11389488726854324,
75158
+ "learning_rate": 6.289887406495127e-05,
75159
+ "loss": 10.1671,
75160
+ "step": 10674
75161
+ },
75162
+ {
75163
+ "epoch": 1.8638645192265724,
75164
+ "grad_norm": 0.1253453940153122,
75165
+ "learning_rate": 6.288188457443643e-05,
75166
+ "loss": 10.1726,
75167
+ "step": 10675
75168
+ },
75169
+ {
75170
+ "epoch": 1.8640391078521235,
75171
+ "grad_norm": 0.14074471592903137,
75172
+ "learning_rate": 6.286489632641616e-05,
75173
+ "loss": 10.1749,
75174
+ "step": 10676
75175
+ },
75176
+ {
75177
+ "epoch": 1.8642136964776745,
75178
+ "grad_norm": 0.20340445637702942,
75179
+ "learning_rate": 6.28479093214591e-05,
75180
+ "loss": 10.1999,
75181
+ "step": 10677
75182
+ },
75183
+ {
75184
+ "epoch": 1.8643882851032254,
75185
+ "grad_norm": 0.08152203261852264,
75186
+ "learning_rate": 6.283092356013383e-05,
75187
+ "loss": 10.1699,
75188
+ "step": 10678
75189
+ },
75190
+ {
75191
+ "epoch": 1.8645628737287767,
75192
+ "grad_norm": 0.07173734903335571,
75193
+ "learning_rate": 6.281393904300898e-05,
75194
+ "loss": 10.2082,
75195
+ "step": 10679
75196
+ },
75197
+ {
75198
+ "epoch": 1.8647374623543276,
75199
+ "grad_norm": 0.063007652759552,
75200
+ "learning_rate": 6.279695577065308e-05,
75201
+ "loss": 10.1837,
75202
+ "step": 10680
75203
+ },
75204
+ {
75205
+ "epoch": 1.8649120509798787,
75206
+ "grad_norm": 0.0737830176949501,
75207
+ "learning_rate": 6.277997374363458e-05,
75208
+ "loss": 10.1646,
75209
+ "step": 10681
75210
+ },
75211
+ {
75212
+ "epoch": 1.8650866396054298,
75213
+ "grad_norm": 0.08327703922986984,
75214
+ "learning_rate": 6.276299296252204e-05,
75215
+ "loss": 10.2161,
75216
+ "step": 10682
75217
+ },
75218
+ {
75219
+ "epoch": 1.8652612282309806,
75220
+ "grad_norm": 0.07402078062295914,
75221
+ "learning_rate": 6.27460134278838e-05,
75222
+ "loss": 10.1721,
75223
+ "step": 10683
75224
+ },
75225
+ {
75226
+ "epoch": 1.865435816856532,
75227
+ "grad_norm": 0.07655863463878632,
75228
+ "learning_rate": 6.272903514028822e-05,
75229
+ "loss": 10.1992,
75230
+ "step": 10684
75231
+ },
75232
+ {
75233
+ "epoch": 1.8656104054820828,
75234
+ "grad_norm": 0.06141999736428261,
75235
+ "learning_rate": 6.271205810030371e-05,
75236
+ "loss": 10.18,
75237
+ "step": 10685
75238
+ },
75239
+ {
75240
+ "epoch": 1.8657849941076339,
75241
+ "grad_norm": 0.06863970309495926,
75242
+ "learning_rate": 6.26950823084985e-05,
75243
+ "loss": 10.198,
75244
+ "step": 10686
75245
+ },
75246
+ {
75247
+ "epoch": 1.865959582733185,
75248
+ "grad_norm": 0.0630401074886322,
75249
+ "learning_rate": 6.26781077654408e-05,
75250
+ "loss": 10.1804,
75251
+ "step": 10687
75252
+ },
75253
+ {
75254
+ "epoch": 1.8661341713587358,
75255
+ "grad_norm": 0.06222972273826599,
75256
+ "learning_rate": 6.266113447169894e-05,
75257
+ "loss": 10.2037,
75258
+ "step": 10688
75259
+ },
75260
+ {
75261
+ "epoch": 1.8663087599842871,
75262
+ "grad_norm": 0.0598888173699379,
75263
+ "learning_rate": 6.264416242784101e-05,
75264
+ "loss": 10.2146,
75265
+ "step": 10689
75266
+ },
75267
+ {
75268
+ "epoch": 1.866483348609838,
75269
+ "grad_norm": 0.06996950507164001,
75270
+ "learning_rate": 6.262719163443511e-05,
75271
+ "loss": 10.2094,
75272
+ "step": 10690
75273
+ },
75274
+ {
75275
+ "epoch": 1.866657937235389,
75276
+ "grad_norm": 0.06191106140613556,
75277
+ "learning_rate": 6.261022209204937e-05,
75278
+ "loss": 10.2,
75279
+ "step": 10691
75280
+ },
75281
+ {
75282
+ "epoch": 1.8668325258609402,
75283
+ "grad_norm": 0.07216532528400421,
75284
+ "learning_rate": 6.25932538012518e-05,
75285
+ "loss": 10.1962,
75286
+ "step": 10692
75287
+ },
75288
+ {
75289
+ "epoch": 1.8670071144864913,
75290
+ "grad_norm": 0.06647122651338577,
75291
+ "learning_rate": 6.25762867626104e-05,
75292
+ "loss": 10.1899,
75293
+ "step": 10693
75294
+ },
75295
+ {
75296
+ "epoch": 1.8671817031120423,
75297
+ "grad_norm": 0.08101069927215576,
75298
+ "learning_rate": 6.255932097669315e-05,
75299
+ "loss": 10.1848,
75300
+ "step": 10694
75301
+ },
75302
+ {
75303
+ "epoch": 1.8673562917375932,
75304
+ "grad_norm": 0.08786645531654358,
75305
+ "learning_rate": 6.254235644406796e-05,
75306
+ "loss": 10.1863,
75307
+ "step": 10695
75308
+ },
75309
+ {
75310
+ "epoch": 1.8675308803631443,
75311
+ "grad_norm": 0.06291328370571136,
75312
+ "learning_rate": 6.252539316530266e-05,
75313
+ "loss": 10.1913,
75314
+ "step": 10696
75315
+ },
75316
+ {
75317
+ "epoch": 1.8677054689886954,
75318
+ "grad_norm": 0.06729833036661148,
75319
+ "learning_rate": 6.250843114096514e-05,
75320
+ "loss": 10.1771,
75321
+ "step": 10697
75322
+ },
75323
+ {
75324
+ "epoch": 1.8678800576142465,
75325
+ "grad_norm": 0.07233931124210358,
75326
+ "learning_rate": 6.249147037162316e-05,
75327
+ "loss": 10.1538,
75328
+ "step": 10698
75329
+ },
75330
+ {
75331
+ "epoch": 1.8680546462397976,
75332
+ "grad_norm": 0.07339306175708771,
75333
+ "learning_rate": 6.24745108578444e-05,
75334
+ "loss": 10.1934,
75335
+ "step": 10699
75336
+ },
75337
+ {
75338
+ "epoch": 1.8682292348653484,
75339
+ "grad_norm": 0.07272105664014816,
75340
+ "learning_rate": 6.245755260019668e-05,
75341
+ "loss": 10.1881,
75342
+ "step": 10700
75343
+ },
75344
+ {
75345
+ "epoch": 1.8684038234908997,
75346
+ "grad_norm": 0.06985235214233398,
75347
+ "learning_rate": 6.244059559924762e-05,
75348
+ "loss": 10.19,
75349
+ "step": 10701
75350
+ },
75351
+ {
75352
+ "epoch": 1.8685784121164506,
75353
+ "grad_norm": 0.06481099128723145,
75354
+ "learning_rate": 6.242363985556481e-05,
75355
+ "loss": 10.1653,
75356
+ "step": 10702
75357
+ },
75358
+ {
75359
+ "epoch": 1.8687530007420017,
75360
+ "grad_norm": 0.08311790972948074,
75361
+ "learning_rate": 6.240668536971588e-05,
75362
+ "loss": 10.1662,
75363
+ "step": 10703
75364
+ },
75365
+ {
75366
+ "epoch": 1.8689275893675528,
75367
+ "grad_norm": 0.07519786059856415,
75368
+ "learning_rate": 6.238973214226831e-05,
75369
+ "loss": 10.1841,
75370
+ "step": 10704
75371
+ },
75372
+ {
75373
+ "epoch": 1.8691021779931036,
75374
+ "grad_norm": 0.0717955082654953,
75375
+ "learning_rate": 6.237278017378958e-05,
75376
+ "loss": 10.1701,
75377
+ "step": 10705
75378
+ },
75379
+ {
75380
+ "epoch": 1.869276766618655,
75381
+ "grad_norm": 0.07013044506311417,
75382
+ "learning_rate": 6.235582946484724e-05,
75383
+ "loss": 10.1623,
75384
+ "step": 10706
75385
+ },
75386
+ {
75387
+ "epoch": 1.8694513552442058,
75388
+ "grad_norm": 0.09303947538137436,
75389
+ "learning_rate": 6.233888001600862e-05,
75390
+ "loss": 10.1538,
75391
+ "step": 10707
75392
+ },
75393
+ {
75394
+ "epoch": 1.869625943869757,
75395
+ "grad_norm": 0.08067210763692856,
75396
+ "learning_rate": 6.232193182784109e-05,
75397
+ "loss": 10.1949,
75398
+ "step": 10708
75399
+ },
75400
+ {
75401
+ "epoch": 1.869800532495308,
75402
+ "grad_norm": 0.09672010689973831,
75403
+ "learning_rate": 6.2304984900912e-05,
75404
+ "loss": 10.1912,
75405
+ "step": 10709
75406
+ },
75407
+ {
75408
+ "epoch": 1.8699751211208588,
75409
+ "grad_norm": 0.08380015194416046,
75410
+ "learning_rate": 6.228803923578863e-05,
75411
+ "loss": 10.1607,
75412
+ "step": 10710
75413
+ },
75414
+ {
75415
+ "epoch": 1.8701497097464101,
75416
+ "grad_norm": 0.0864928811788559,
75417
+ "learning_rate": 6.227109483303818e-05,
75418
+ "loss": 10.171,
75419
+ "step": 10711
75420
+ },
75421
+ {
75422
+ "epoch": 1.870324298371961,
75423
+ "grad_norm": 0.09052857011556625,
75424
+ "learning_rate": 6.225415169322792e-05,
75425
+ "loss": 10.1403,
75426
+ "step": 10712
75427
+ },
75428
+ {
75429
+ "epoch": 1.870498886997512,
75430
+ "grad_norm": 0.08655042201280594,
75431
+ "learning_rate": 6.223720981692496e-05,
75432
+ "loss": 10.1751,
75433
+ "step": 10713
75434
+ },
75435
+ {
75436
+ "epoch": 1.8706734756230632,
75437
+ "grad_norm": 0.08381380140781403,
75438
+ "learning_rate": 6.22202692046964e-05,
75439
+ "loss": 10.2138,
75440
+ "step": 10714
75441
+ },
75442
+ {
75443
+ "epoch": 1.870848064248614,
75444
+ "grad_norm": 0.08648563921451569,
75445
+ "learning_rate": 6.220332985710936e-05,
75446
+ "loss": 10.1858,
75447
+ "step": 10715
75448
+ },
75449
+ {
75450
+ "epoch": 1.8710226528741654,
75451
+ "grad_norm": 0.08452744781970978,
75452
+ "learning_rate": 6.218639177473085e-05,
75453
+ "loss": 10.1644,
75454
+ "step": 10716
75455
+ },
75456
+ {
75457
+ "epoch": 1.8711972414997162,
75458
+ "grad_norm": 0.09464254230260849,
75459
+ "learning_rate": 6.216945495812778e-05,
75460
+ "loss": 10.1754,
75461
+ "step": 10717
75462
+ },
75463
+ {
75464
+ "epoch": 1.8713718301252673,
75465
+ "grad_norm": 0.0816611498594284,
75466
+ "learning_rate": 6.215251940786722e-05,
75467
+ "loss": 10.1869,
75468
+ "step": 10718
75469
+ },
75470
+ {
75471
+ "epoch": 1.8715464187508184,
75472
+ "grad_norm": 0.0856616422533989,
75473
+ "learning_rate": 6.213558512451602e-05,
75474
+ "loss": 10.1777,
75475
+ "step": 10719
75476
+ },
75477
+ {
75478
+ "epoch": 1.8717210073763695,
75479
+ "grad_norm": 0.09636379033327103,
75480
+ "learning_rate": 6.2118652108641e-05,
75481
+ "loss": 10.184,
75482
+ "step": 10720
75483
+ },
75484
+ {
75485
+ "epoch": 1.8718955960019206,
75486
+ "grad_norm": 0.10175402462482452,
75487
+ "learning_rate": 6.210172036080903e-05,
75488
+ "loss": 10.2049,
75489
+ "step": 10721
75490
+ },
75491
+ {
75492
+ "epoch": 1.8720701846274714,
75493
+ "grad_norm": 0.09732254594564438,
75494
+ "learning_rate": 6.208478988158688e-05,
75495
+ "loss": 10.1894,
75496
+ "step": 10722
75497
+ },
75498
+ {
75499
+ "epoch": 1.8722447732530225,
75500
+ "grad_norm": 0.09229575842618942,
75501
+ "learning_rate": 6.206786067154123e-05,
75502
+ "loss": 10.2026,
75503
+ "step": 10723
75504
+ },
75505
+ {
75506
+ "epoch": 1.8724193618785736,
75507
+ "grad_norm": 0.11322730779647827,
75508
+ "learning_rate": 6.205093273123882e-05,
75509
+ "loss": 10.2137,
75510
+ "step": 10724
75511
+ },
75512
+ {
75513
+ "epoch": 1.8725939505041247,
75514
+ "grad_norm": 0.12045690417289734,
75515
+ "learning_rate": 6.20340060612463e-05,
75516
+ "loss": 10.2123,
75517
+ "step": 10725
75518
+ },
75519
+ {
75520
+ "epoch": 1.8727685391296758,
75521
+ "grad_norm": 0.14368656277656555,
75522
+ "learning_rate": 6.201708066213023e-05,
75523
+ "loss": 10.1671,
75524
+ "step": 10726
75525
+ },
75526
+ {
75527
+ "epoch": 1.8729431277552266,
75528
+ "grad_norm": 0.19879570603370667,
75529
+ "learning_rate": 6.200015653445723e-05,
75530
+ "loss": 10.2328,
75531
+ "step": 10727
75532
+ },
75533
+ {
75534
+ "epoch": 1.873117716380778,
75535
+ "grad_norm": 0.07543370872735977,
75536
+ "learning_rate": 6.19832336787938e-05,
75537
+ "loss": 10.1936,
75538
+ "step": 10728
75539
+ },
75540
+ {
75541
+ "epoch": 1.8732923050063288,
75542
+ "grad_norm": 0.05969199910759926,
75543
+ "learning_rate": 6.196631209570634e-05,
75544
+ "loss": 10.2292,
75545
+ "step": 10729
75546
+ },
75547
+ {
75548
+ "epoch": 1.87346689363188,
75549
+ "grad_norm": 0.06450918316841125,
75550
+ "learning_rate": 6.194939178576141e-05,
75551
+ "loss": 10.2025,
75552
+ "step": 10730
75553
+ },
75554
+ {
75555
+ "epoch": 1.873641482257431,
75556
+ "grad_norm": 0.06509844213724136,
75557
+ "learning_rate": 6.193247274952532e-05,
75558
+ "loss": 10.2056,
75559
+ "step": 10731
75560
+ },
75561
+ {
75562
+ "epoch": 1.8738160708829819,
75563
+ "grad_norm": 0.06833810359239578,
75564
+ "learning_rate": 6.191555498756446e-05,
75565
+ "loss": 10.2264,
75566
+ "step": 10732
75567
+ },
75568
+ {
75569
+ "epoch": 1.8739906595085332,
75570
+ "grad_norm": 0.07230588048696518,
75571
+ "learning_rate": 6.189863850044513e-05,
75572
+ "loss": 10.2047,
75573
+ "step": 10733
75574
+ },
75575
+ {
75576
+ "epoch": 1.874165248134084,
75577
+ "grad_norm": 0.07355553656816483,
75578
+ "learning_rate": 6.188172328873351e-05,
75579
+ "loss": 10.2037,
75580
+ "step": 10734
75581
+ },
75582
+ {
75583
+ "epoch": 1.8743398367596351,
75584
+ "grad_norm": 0.06499885022640228,
75585
+ "learning_rate": 6.186480935299596e-05,
75586
+ "loss": 10.2102,
75587
+ "step": 10735
75588
+ },
75589
+ {
75590
+ "epoch": 1.8745144253851862,
75591
+ "grad_norm": 0.0684627890586853,
75592
+ "learning_rate": 6.18478966937986e-05,
75593
+ "loss": 10.1876,
75594
+ "step": 10736
75595
+ },
75596
+ {
75597
+ "epoch": 1.874689014010737,
75598
+ "grad_norm": 0.07298602908849716,
75599
+ "learning_rate": 6.183098531170752e-05,
75600
+ "loss": 10.1802,
75601
+ "step": 10737
75602
+ },
75603
+ {
75604
+ "epoch": 1.8748636026362884,
75605
+ "grad_norm": 0.06695719063282013,
75606
+ "learning_rate": 6.181407520728888e-05,
75607
+ "loss": 10.2318,
75608
+ "step": 10738
75609
+ },
75610
+ {
75611
+ "epoch": 1.8750381912618392,
75612
+ "grad_norm": 0.06974505633115768,
75613
+ "learning_rate": 6.179716638110868e-05,
75614
+ "loss": 10.1805,
75615
+ "step": 10739
75616
+ },
75617
+ {
75618
+ "epoch": 1.8752127798873903,
75619
+ "grad_norm": 0.06044826656579971,
75620
+ "learning_rate": 6.178025883373292e-05,
75621
+ "loss": 10.1998,
75622
+ "step": 10740
75623
+ },
75624
+ {
75625
+ "epoch": 1.8753873685129414,
75626
+ "grad_norm": 0.07795001566410065,
75627
+ "learning_rate": 6.176335256572764e-05,
75628
+ "loss": 10.2023,
75629
+ "step": 10741
75630
+ },
75631
+ {
75632
+ "epoch": 1.8755619571384923,
75633
+ "grad_norm": 0.06380775570869446,
75634
+ "learning_rate": 6.174644757765873e-05,
75635
+ "loss": 10.2064,
75636
+ "step": 10742
75637
+ },
75638
+ {
75639
+ "epoch": 1.8757365457640436,
75640
+ "grad_norm": 0.07206480205059052,
75641
+ "learning_rate": 6.172954387009199e-05,
75642
+ "loss": 10.198,
75643
+ "step": 10743
75644
+ },
75645
+ {
75646
+ "epoch": 1.8759111343895944,
75647
+ "grad_norm": 0.06994390487670898,
75648
+ "learning_rate": 6.171264144359336e-05,
75649
+ "loss": 10.2089,
75650
+ "step": 10744
75651
+ },
75652
+ {
75653
+ "epoch": 1.8760857230151455,
75654
+ "grad_norm": 0.06924980878829956,
75655
+ "learning_rate": 6.169574029872858e-05,
75656
+ "loss": 10.1887,
75657
+ "step": 10745
75658
+ },
75659
+ {
75660
+ "epoch": 1.8762603116406966,
75661
+ "grad_norm": 0.06788971275091171,
75662
+ "learning_rate": 6.167884043606338e-05,
75663
+ "loss": 10.1933,
75664
+ "step": 10746
75665
+ },
75666
+ {
75667
+ "epoch": 1.8764349002662477,
75668
+ "grad_norm": 0.07458122819662094,
75669
+ "learning_rate": 6.166194185616357e-05,
75670
+ "loss": 10.1617,
75671
+ "step": 10747
75672
+ },
75673
+ {
75674
+ "epoch": 1.8766094888917988,
75675
+ "grad_norm": 0.06381231546401978,
75676
+ "learning_rate": 6.16450445595947e-05,
75677
+ "loss": 10.2082,
75678
+ "step": 10748
75679
+ },
75680
+ {
75681
+ "epoch": 1.8767840775173497,
75682
+ "grad_norm": 0.07045000791549683,
75683
+ "learning_rate": 6.16281485469224e-05,
75684
+ "loss": 10.1871,
75685
+ "step": 10749
75686
+ },
75687
+ {
75688
+ "epoch": 1.8769586661429007,
75689
+ "grad_norm": 0.06257603317499161,
75690
+ "learning_rate": 6.161125381871234e-05,
75691
+ "loss": 10.1916,
75692
+ "step": 10750
75693
+ },
75694
+ {
75695
+ "epoch": 1.8771332547684518,
75696
+ "grad_norm": 0.06283199787139893,
75697
+ "learning_rate": 6.159436037552999e-05,
75698
+ "loss": 10.1842,
75699
+ "step": 10751
75700
+ },
75701
+ {
75702
+ "epoch": 1.877307843394003,
75703
+ "grad_norm": 0.06895491480827332,
75704
+ "learning_rate": 6.15774682179408e-05,
75705
+ "loss": 10.1912,
75706
+ "step": 10752
75707
+ },
75708
+ {
75709
+ "epoch": 1.877482432019554,
75710
+ "grad_norm": 0.06653495877981186,
75711
+ "learning_rate": 6.156057734651034e-05,
75712
+ "loss": 10.1921,
75713
+ "step": 10753
75714
+ },
75715
+ {
75716
+ "epoch": 1.8776570206451049,
75717
+ "grad_norm": 0.0831831693649292,
75718
+ "learning_rate": 6.154368776180392e-05,
75719
+ "loss": 10.1811,
75720
+ "step": 10754
75721
+ },
75722
+ {
75723
+ "epoch": 1.8778316092706562,
75724
+ "grad_norm": 0.08841108530759811,
75725
+ "learning_rate": 6.15267994643869e-05,
75726
+ "loss": 10.197,
75727
+ "step": 10755
75728
+ },
75729
+ {
75730
+ "epoch": 1.878006197896207,
75731
+ "grad_norm": 0.07434631884098053,
75732
+ "learning_rate": 6.150991245482467e-05,
75733
+ "loss": 10.1634,
75734
+ "step": 10756
75735
+ },
75736
+ {
75737
+ "epoch": 1.8781807865217581,
75738
+ "grad_norm": 0.086336150765419,
75739
+ "learning_rate": 6.149302673368245e-05,
75740
+ "loss": 10.1716,
75741
+ "step": 10757
75742
+ },
75743
+ {
75744
+ "epoch": 1.8783553751473092,
75745
+ "grad_norm": 0.07742372155189514,
75746
+ "learning_rate": 6.147614230152547e-05,
75747
+ "loss": 10.1677,
75748
+ "step": 10758
75749
+ },
75750
+ {
75751
+ "epoch": 1.87852996377286,
75752
+ "grad_norm": 0.09495021402835846,
75753
+ "learning_rate": 6.145925915891898e-05,
75754
+ "loss": 10.1367,
75755
+ "step": 10759
75756
+ },
75757
+ {
75758
+ "epoch": 1.8787045523984114,
75759
+ "grad_norm": 0.07690183073282242,
75760
+ "learning_rate": 6.144237730642808e-05,
75761
+ "loss": 10.1827,
75762
+ "step": 10760
75763
+ },
75764
+ {
75765
+ "epoch": 1.8788791410239623,
75766
+ "grad_norm": 0.08151374757289886,
75767
+ "learning_rate": 6.142549674461784e-05,
75768
+ "loss": 10.1915,
75769
+ "step": 10761
75770
+ },
75771
+ {
75772
+ "epoch": 1.8790537296495133,
75773
+ "grad_norm": 0.0832422524690628,
75774
+ "learning_rate": 6.140861747405341e-05,
75775
+ "loss": 10.1995,
75776
+ "step": 10762
75777
+ },
75778
+ {
75779
+ "epoch": 1.8792283182750644,
75780
+ "grad_norm": 0.07410839200019836,
75781
+ "learning_rate": 6.139173949529976e-05,
75782
+ "loss": 10.2132,
75783
+ "step": 10763
75784
+ },
75785
+ {
75786
+ "epoch": 1.8794029069006153,
75787
+ "grad_norm": 0.09670274704694748,
75788
+ "learning_rate": 6.137486280892184e-05,
75789
+ "loss": 10.1768,
75790
+ "step": 10764
75791
+ },
75792
+ {
75793
+ "epoch": 1.8795774955261666,
75794
+ "grad_norm": 0.09012950956821442,
75795
+ "learning_rate": 6.135798741548464e-05,
75796
+ "loss": 10.1655,
75797
+ "step": 10765
75798
+ },
75799
+ {
75800
+ "epoch": 1.8797520841517175,
75801
+ "grad_norm": 0.09543956071138382,
75802
+ "learning_rate": 6.134111331555301e-05,
75803
+ "loss": 10.1495,
75804
+ "step": 10766
75805
+ },
75806
+ {
75807
+ "epoch": 1.8799266727772685,
75808
+ "grad_norm": 0.08175080269575119,
75809
+ "learning_rate": 6.132424050969176e-05,
75810
+ "loss": 10.1732,
75811
+ "step": 10767
75812
+ },
75813
+ {
75814
+ "epoch": 1.8801012614028196,
75815
+ "grad_norm": 0.08642172068357468,
75816
+ "learning_rate": 6.130736899846578e-05,
75817
+ "loss": 10.1854,
75818
+ "step": 10768
75819
+ },
75820
+ {
75821
+ "epoch": 1.8802758500283705,
75822
+ "grad_norm": 0.08643259853124619,
75823
+ "learning_rate": 6.129049878243978e-05,
75824
+ "loss": 10.2148,
75825
+ "step": 10769
75826
+ },
75827
+ {
75828
+ "epoch": 1.8804504386539218,
75829
+ "grad_norm": 0.10639020055532455,
75830
+ "learning_rate": 6.127362986217844e-05,
75831
+ "loss": 10.1716,
75832
+ "step": 10770
75833
+ },
75834
+ {
75835
+ "epoch": 1.8806250272794727,
75836
+ "grad_norm": 0.1001112088561058,
75837
+ "learning_rate": 6.12567622382465e-05,
75838
+ "loss": 10.1623,
75839
+ "step": 10771
75840
+ },
75841
+ {
75842
+ "epoch": 1.8807996159050238,
75843
+ "grad_norm": 0.11823222786188126,
75844
+ "learning_rate": 6.123989591120856e-05,
75845
+ "loss": 10.1693,
75846
+ "step": 10772
75847
+ },
75848
+ {
75849
+ "epoch": 1.8809742045305748,
75850
+ "grad_norm": 0.10050013661384583,
75851
+ "learning_rate": 6.122303088162916e-05,
75852
+ "loss": 10.1727,
75853
+ "step": 10773
75854
+ },
75855
+ {
75856
+ "epoch": 1.881148793156126,
75857
+ "grad_norm": 0.11961249262094498,
75858
+ "learning_rate": 6.12061671500729e-05,
75859
+ "loss": 10.1756,
75860
+ "step": 10774
75861
+ },
75862
+ {
75863
+ "epoch": 1.881323381781677,
75864
+ "grad_norm": 0.1247328445315361,
75865
+ "learning_rate": 6.118930471710428e-05,
75866
+ "loss": 10.1818,
75867
+ "step": 10775
75868
+ },
75869
+ {
75870
+ "epoch": 1.8814979704072279,
75871
+ "grad_norm": 0.13549582660198212,
75872
+ "learning_rate": 6.117244358328771e-05,
75873
+ "loss": 10.187,
75874
+ "step": 10776
75875
+ },
75876
+ {
75877
+ "epoch": 1.881672559032779,
75878
+ "grad_norm": 0.2304915338754654,
75879
+ "learning_rate": 6.115558374918764e-05,
75880
+ "loss": 10.2069,
75881
+ "step": 10777
75882
+ },
75883
+ {
75884
+ "epoch": 1.88184714765833,
75885
+ "grad_norm": 0.08185379207134247,
75886
+ "learning_rate": 6.113872521536843e-05,
75887
+ "loss": 10.1756,
75888
+ "step": 10778
75889
+ },
75890
+ {
75891
+ "epoch": 1.8820217362838811,
75892
+ "grad_norm": 0.07419649511575699,
75893
+ "learning_rate": 6.112186798239435e-05,
75894
+ "loss": 10.1773,
75895
+ "step": 10779
75896
+ },
75897
+ {
75898
+ "epoch": 1.8821963249094322,
75899
+ "grad_norm": 0.06475190073251724,
75900
+ "learning_rate": 6.110501205082975e-05,
75901
+ "loss": 10.2002,
75902
+ "step": 10780
75903
+ },
75904
+ {
75905
+ "epoch": 1.882370913534983,
75906
+ "grad_norm": 0.07179199159145355,
75907
+ "learning_rate": 6.108815742123887e-05,
75908
+ "loss": 10.1879,
75909
+ "step": 10781
75910
+ },
75911
+ {
75912
+ "epoch": 1.8825455021605344,
75913
+ "grad_norm": 0.09015613794326782,
75914
+ "learning_rate": 6.107130409418584e-05,
75915
+ "loss": 10.216,
75916
+ "step": 10782
75917
+ },
75918
+ {
75919
+ "epoch": 1.8827200907860853,
75920
+ "grad_norm": 0.07035890966653824,
75921
+ "learning_rate": 6.105445207023487e-05,
75922
+ "loss": 10.2043,
75923
+ "step": 10783
75924
+ },
75925
+ {
75926
+ "epoch": 1.8828946794116364,
75927
+ "grad_norm": 0.06972348690032959,
75928
+ "learning_rate": 6.103760134995005e-05,
75929
+ "loss": 10.2092,
75930
+ "step": 10784
75931
+ },
75932
+ {
75933
+ "epoch": 1.8830692680371874,
75934
+ "grad_norm": 0.06354078650474548,
75935
+ "learning_rate": 6.102075193389537e-05,
75936
+ "loss": 10.2129,
75937
+ "step": 10785
75938
+ },
75939
+ {
75940
+ "epoch": 1.8832438566627383,
75941
+ "grad_norm": 0.058816097676754,
75942
+ "learning_rate": 6.1003903822634965e-05,
75943
+ "loss": 10.1908,
75944
+ "step": 10786
75945
+ },
75946
+ {
75947
+ "epoch": 1.8834184452882896,
75948
+ "grad_norm": 0.05979073420166969,
75949
+ "learning_rate": 6.098705701673275e-05,
75950
+ "loss": 10.1938,
75951
+ "step": 10787
75952
+ },
75953
+ {
75954
+ "epoch": 1.8835930339138405,
75955
+ "grad_norm": 0.06287852674722672,
75956
+ "learning_rate": 6.097021151675266e-05,
75957
+ "loss": 10.2183,
75958
+ "step": 10788
75959
+ },
75960
+ {
75961
+ "epoch": 1.8837676225393916,
75962
+ "grad_norm": 0.06807412952184677,
75963
+ "learning_rate": 6.095336732325859e-05,
75964
+ "loss": 10.188,
75965
+ "step": 10789
75966
+ },
75967
+ {
75968
+ "epoch": 1.8839422111649426,
75969
+ "grad_norm": 0.06857185065746307,
75970
+ "learning_rate": 6.093652443681439e-05,
75971
+ "loss": 10.2073,
75972
+ "step": 10790
75973
+ },
75974
+ {
75975
+ "epoch": 1.8841167997904935,
75976
+ "grad_norm": 0.06620422750711441,
75977
+ "learning_rate": 6.091968285798379e-05,
75978
+ "loss": 10.1976,
75979
+ "step": 10791
75980
+ },
75981
+ {
75982
+ "epoch": 1.8842913884160448,
75983
+ "grad_norm": 0.06792404502630234,
75984
+ "learning_rate": 6.0902842587330664e-05,
75985
+ "loss": 10.2108,
75986
+ "step": 10792
75987
+ },
75988
+ {
75989
+ "epoch": 1.8844659770415957,
75990
+ "grad_norm": 0.07087328284978867,
75991
+ "learning_rate": 6.088600362541866e-05,
75992
+ "loss": 10.1821,
75993
+ "step": 10793
75994
+ },
75995
+ {
75996
+ "epoch": 1.8846405656671468,
75997
+ "grad_norm": 0.07365796715021133,
75998
+ "learning_rate": 6.086916597281144e-05,
75999
+ "loss": 10.2183,
76000
+ "step": 10794
76001
+ },
76002
+ {
76003
+ "epoch": 1.8848151542926979,
76004
+ "grad_norm": 0.07458808273077011,
76005
+ "learning_rate": 6.085232963007266e-05,
76006
+ "loss": 10.1911,
76007
+ "step": 10795
76008
+ },
76009
+ {
76010
+ "epoch": 1.8849897429182487,
76011
+ "grad_norm": 0.07907260209321976,
76012
+ "learning_rate": 6.0835494597765877e-05,
76013
+ "loss": 10.1952,
76014
+ "step": 10796
76015
+ },
76016
+ {
76017
+ "epoch": 1.8851643315438,
76018
+ "grad_norm": 0.06366291642189026,
76019
+ "learning_rate": 6.081866087645458e-05,
76020
+ "loss": 10.2052,
76021
+ "step": 10797
76022
+ },
76023
+ {
76024
+ "epoch": 1.885338920169351,
76025
+ "grad_norm": 0.08487760275602341,
76026
+ "learning_rate": 6.080182846670237e-05,
76027
+ "loss": 10.1597,
76028
+ "step": 10798
76029
+ },
76030
+ {
76031
+ "epoch": 1.885513508794902,
76032
+ "grad_norm": 0.08135651051998138,
76033
+ "learning_rate": 6.078499736907264e-05,
76034
+ "loss": 10.2309,
76035
+ "step": 10799
76036
+ },
76037
+ {
76038
+ "epoch": 1.885688097420453,
76039
+ "grad_norm": 0.06796509772539139,
76040
+ "learning_rate": 6.0768167584128776e-05,
76041
+ "loss": 10.1515,
76042
+ "step": 10800
76043
+ },
76044
+ {
76045
+ "epoch": 1.885688097420453,
76046
+ "eval_loss": 10.169761657714844,
76047
+ "eval_runtime": 0.7236,
76048
+ "eval_samples_per_second": 319.237,
76049
+ "eval_steps_per_second": 160.309,
76050
+ "step": 10800
76051
  }
76052
  ],
76053
  "logging_steps": 1,
 
76062
  "early_stopping_threshold": 0.0
76063
  },
76064
  "attributes": {
76065
+ "early_stopping_patience_counter": 1
76066
  }
76067
  },
76068
  "TrainerControl": {
 
76076
  "attributes": {}
76077
  }
76078
  },
76079
+ "total_flos": 586079679676416.0,
76080
  "train_batch_size": 2,
76081
  "trial_name": null,
76082
  "trial_params": null