error577 commited on
Commit
681fecf
·
verified ·
1 Parent(s): 37ee401

Training in progress, step 8400, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:0721eafb893f1875df3aaf144103406670ba9a76e8336deb4ec30d195b22eb01
3
  size 231448
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ec3f6564bd7522eeb4fb5d69fec41694461ebf16882a551c3cfccb6c92e433d3
3
  size 231448
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:f01def444062ff2c4ca7d637407713d09800d5c325f35b2c64135bc09c13f42e
3
  size 374849
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e9097df56cd3dffac5fda4d67cee9252d7259fd12ea8cd49673feb5d8e79b44d
3
  size 374849
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:4190df20f7f9cfe32390f8c0704765c595ff6e6ef6b6ae105da35a2bc2b11f2c
3
  size 14645
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3cbb81613188b924c340702f401b2d52233106858e293793d7f5b38544949dba
3
  size 14645
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:9eef490a12c641d7d4892e33b7578de3d016d8b60e07bca672914343689a60dc
3
  size 1465
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:448e2477283a605c2c1c90be551a053640227741cb12135a581e5480fd9dd084
3
  size 1465
last-checkpoint/trainer_state.json CHANGED
@@ -2,9 +2,9 @@
2
  "best_global_step": 8000,
3
  "best_metric": 10.171509742736816,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-8000",
5
- "epoch": 1.431757670987735,
6
  "eval_steps": 200,
7
- "global_step": 8200,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
@@ -57744,6 +57744,1414 @@
57744
  "eval_samples_per_second": 309.848,
57745
  "eval_steps_per_second": 155.595,
57746
  "step": 8200
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
57747
  }
57748
  ],
57749
  "logging_steps": 1,
@@ -57758,7 +59166,7 @@
57758
  "early_stopping_threshold": 0.0
57759
  },
57760
  "attributes": {
57761
- "early_stopping_patience_counter": 1
57762
  }
57763
  },
57764
  "TrainerControl": {
@@ -57772,7 +59180,7 @@
57772
  "attributes": {}
57773
  }
57774
  },
57775
- "total_flos": 444989689430016.0,
57776
  "train_batch_size": 2,
57777
  "trial_name": null,
57778
  "trial_params": null
 
2
  "best_global_step": 8000,
3
  "best_metric": 10.171509742736816,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-8000",
5
+ "epoch": 1.4666753960979442,
6
  "eval_steps": 200,
7
+ "global_step": 8400,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
 
57744
  "eval_samples_per_second": 309.848,
57745
  "eval_steps_per_second": 155.595,
57746
  "step": 8200
57747
+ },
57748
+ {
57749
+ "epoch": 1.4319322596132862,
57750
+ "grad_norm": 0.07179494947195053,
57751
+ "learning_rate": 0.00010722972386772334,
57752
+ "loss": 10.1958,
57753
+ "step": 8201
57754
+ },
57755
+ {
57756
+ "epoch": 1.4321068482388373,
57757
+ "grad_norm": 0.06601149588823318,
57758
+ "learning_rate": 0.0001072114757035153,
57759
+ "loss": 10.2092,
57760
+ "step": 8202
57761
+ },
57762
+ {
57763
+ "epoch": 1.4322814368643884,
57764
+ "grad_norm": 0.06437070667743683,
57765
+ "learning_rate": 0.00010719322729790977,
57766
+ "loss": 10.1904,
57767
+ "step": 8203
57768
+ },
57769
+ {
57770
+ "epoch": 1.4324560254899392,
57771
+ "grad_norm": 0.07136799395084381,
57772
+ "learning_rate": 0.00010717497865151763,
57773
+ "loss": 10.1501,
57774
+ "step": 8204
57775
+ },
57776
+ {
57777
+ "epoch": 1.4326306141154903,
57778
+ "grad_norm": 0.06307211518287659,
57779
+ "learning_rate": 0.00010715672976494968,
57780
+ "loss": 10.1994,
57781
+ "step": 8205
57782
+ },
57783
+ {
57784
+ "epoch": 1.4328052027410414,
57785
+ "grad_norm": 0.07206233590841293,
57786
+ "learning_rate": 0.00010713848063881689,
57787
+ "loss": 10.1918,
57788
+ "step": 8206
57789
+ },
57790
+ {
57791
+ "epoch": 1.4329797913665925,
57792
+ "grad_norm": 0.07684547454118729,
57793
+ "learning_rate": 0.00010712023127373003,
57794
+ "loss": 10.2117,
57795
+ "step": 8207
57796
+ },
57797
+ {
57798
+ "epoch": 1.4331543799921436,
57799
+ "grad_norm": 0.06334143877029419,
57800
+ "learning_rate": 0.00010710198167030005,
57801
+ "loss": 10.1866,
57802
+ "step": 8208
57803
+ },
57804
+ {
57805
+ "epoch": 1.4333289686176944,
57806
+ "grad_norm": 0.07320736348628998,
57807
+ "learning_rate": 0.00010708373182913782,
57808
+ "loss": 10.2137,
57809
+ "step": 8209
57810
+ },
57811
+ {
57812
+ "epoch": 1.4335035572432457,
57813
+ "grad_norm": 0.07176513224840164,
57814
+ "learning_rate": 0.00010706548175085421,
57815
+ "loss": 10.1904,
57816
+ "step": 8210
57817
+ },
57818
+ {
57819
+ "epoch": 1.4336781458687966,
57820
+ "grad_norm": 0.06969542056322098,
57821
+ "learning_rate": 0.00010704723143606013,
57822
+ "loss": 10.2155,
57823
+ "step": 8211
57824
+ },
57825
+ {
57826
+ "epoch": 1.4338527344943477,
57827
+ "grad_norm": 0.07691527158021927,
57828
+ "learning_rate": 0.00010702898088536651,
57829
+ "loss": 10.1673,
57830
+ "step": 8212
57831
+ },
57832
+ {
57833
+ "epoch": 1.4340273231198988,
57834
+ "grad_norm": 0.07967983186244965,
57835
+ "learning_rate": 0.00010701073009938428,
57836
+ "loss": 10.1786,
57837
+ "step": 8213
57838
+ },
57839
+ {
57840
+ "epoch": 1.4342019117454499,
57841
+ "grad_norm": 0.07003181427717209,
57842
+ "learning_rate": 0.00010699247907872436,
57843
+ "loss": 10.1959,
57844
+ "step": 8214
57845
+ },
57846
+ {
57847
+ "epoch": 1.434376500371001,
57848
+ "grad_norm": 0.07861112803220749,
57849
+ "learning_rate": 0.00010697422782399766,
57850
+ "loss": 10.1944,
57851
+ "step": 8215
57852
+ },
57853
+ {
57854
+ "epoch": 1.4345510889965518,
57855
+ "grad_norm": 0.07939247786998749,
57856
+ "learning_rate": 0.00010695597633581515,
57857
+ "loss": 10.1767,
57858
+ "step": 8216
57859
+ },
57860
+ {
57861
+ "epoch": 1.434725677622103,
57862
+ "grad_norm": 0.07850425690412521,
57863
+ "learning_rate": 0.00010693772461478779,
57864
+ "loss": 10.1755,
57865
+ "step": 8217
57866
+ },
57867
+ {
57868
+ "epoch": 1.434900266247654,
57869
+ "grad_norm": 0.09689372032880783,
57870
+ "learning_rate": 0.0001069194726615265,
57871
+ "loss": 10.1887,
57872
+ "step": 8218
57873
+ },
57874
+ {
57875
+ "epoch": 1.435074854873205,
57876
+ "grad_norm": 0.08202734589576721,
57877
+ "learning_rate": 0.0001069012204766423,
57878
+ "loss": 10.1675,
57879
+ "step": 8219
57880
+ },
57881
+ {
57882
+ "epoch": 1.4352494434987562,
57883
+ "grad_norm": 0.09352292120456696,
57884
+ "learning_rate": 0.00010688296806074613,
57885
+ "loss": 10.1833,
57886
+ "step": 8220
57887
+ },
57888
+ {
57889
+ "epoch": 1.435424032124307,
57890
+ "grad_norm": 0.10116621106863022,
57891
+ "learning_rate": 0.00010686471541444895,
57892
+ "loss": 10.1911,
57893
+ "step": 8221
57894
+ },
57895
+ {
57896
+ "epoch": 1.4355986207498581,
57897
+ "grad_norm": 0.10277910530567169,
57898
+ "learning_rate": 0.00010684646253836183,
57899
+ "loss": 10.1619,
57900
+ "step": 8222
57901
+ },
57902
+ {
57903
+ "epoch": 1.4357732093754092,
57904
+ "grad_norm": 0.10147635638713837,
57905
+ "learning_rate": 0.00010682820943309568,
57906
+ "loss": 10.1337,
57907
+ "step": 8223
57908
+ },
57909
+ {
57910
+ "epoch": 1.4359477980009603,
57911
+ "grad_norm": 0.09636491537094116,
57912
+ "learning_rate": 0.00010680995609926157,
57913
+ "loss": 10.189,
57914
+ "step": 8224
57915
+ },
57916
+ {
57917
+ "epoch": 1.4361223866265114,
57918
+ "grad_norm": 0.11879552155733109,
57919
+ "learning_rate": 0.00010679170253747049,
57920
+ "loss": 10.1957,
57921
+ "step": 8225
57922
+ },
57923
+ {
57924
+ "epoch": 1.4362969752520622,
57925
+ "grad_norm": 0.12223072350025177,
57926
+ "learning_rate": 0.00010677344874833344,
57927
+ "loss": 10.2192,
57928
+ "step": 8226
57929
+ },
57930
+ {
57931
+ "epoch": 1.4364715638776133,
57932
+ "grad_norm": 0.1779092252254486,
57933
+ "learning_rate": 0.00010675519473246147,
57934
+ "loss": 10.1757,
57935
+ "step": 8227
57936
+ },
57937
+ {
57938
+ "epoch": 1.4366461525031644,
57939
+ "grad_norm": 0.06278710812330246,
57940
+ "learning_rate": 0.0001067369404904656,
57941
+ "loss": 10.1806,
57942
+ "step": 8228
57943
+ },
57944
+ {
57945
+ "epoch": 1.4368207411287155,
57946
+ "grad_norm": 0.05710763484239578,
57947
+ "learning_rate": 0.00010671868602295691,
57948
+ "loss": 10.1957,
57949
+ "step": 8229
57950
+ },
57951
+ {
57952
+ "epoch": 1.4369953297542666,
57953
+ "grad_norm": 0.06701899319887161,
57954
+ "learning_rate": 0.00010670043133054641,
57955
+ "loss": 10.1881,
57956
+ "step": 8230
57957
+ },
57958
+ {
57959
+ "epoch": 1.4371699183798174,
57960
+ "grad_norm": 0.057589154690504074,
57961
+ "learning_rate": 0.00010668217641384521,
57962
+ "loss": 10.2005,
57963
+ "step": 8231
57964
+ },
57965
+ {
57966
+ "epoch": 1.4373445070053685,
57967
+ "grad_norm": 0.06551095843315125,
57968
+ "learning_rate": 0.00010666392127346434,
57969
+ "loss": 10.2212,
57970
+ "step": 8232
57971
+ },
57972
+ {
57973
+ "epoch": 1.4375190956309196,
57974
+ "grad_norm": 0.060258083045482635,
57975
+ "learning_rate": 0.00010664566591001484,
57976
+ "loss": 10.1814,
57977
+ "step": 8233
57978
+ },
57979
+ {
57980
+ "epoch": 1.4376936842564707,
57981
+ "grad_norm": 0.06112243980169296,
57982
+ "learning_rate": 0.00010662741032410788,
57983
+ "loss": 10.2158,
57984
+ "step": 8234
57985
+ },
57986
+ {
57987
+ "epoch": 1.4378682728820218,
57988
+ "grad_norm": 0.06564536690711975,
57989
+ "learning_rate": 0.00010660915451635445,
57990
+ "loss": 10.2068,
57991
+ "step": 8235
57992
+ },
57993
+ {
57994
+ "epoch": 1.4380428615075727,
57995
+ "grad_norm": 0.0500667430460453,
57996
+ "learning_rate": 0.00010659089848736569,
57997
+ "loss": 10.2022,
57998
+ "step": 8236
57999
+ },
58000
+ {
58001
+ "epoch": 1.438217450133124,
58002
+ "grad_norm": 0.05987454578280449,
58003
+ "learning_rate": 0.00010657264223775279,
58004
+ "loss": 10.1876,
58005
+ "step": 8237
58006
+ },
58007
+ {
58008
+ "epoch": 1.4383920387586748,
58009
+ "grad_norm": 0.05948590859770775,
58010
+ "learning_rate": 0.00010655438576812671,
58011
+ "loss": 10.1899,
58012
+ "step": 8238
58013
+ },
58014
+ {
58015
+ "epoch": 1.438566627384226,
58016
+ "grad_norm": 0.05894836410880089,
58017
+ "learning_rate": 0.00010653612907909864,
58018
+ "loss": 10.2119,
58019
+ "step": 8239
58020
+ },
58021
+ {
58022
+ "epoch": 1.438741216009777,
58023
+ "grad_norm": 0.059975363314151764,
58024
+ "learning_rate": 0.00010651787217127973,
58025
+ "loss": 10.2131,
58026
+ "step": 8240
58027
+ },
58028
+ {
58029
+ "epoch": 1.438915804635328,
58030
+ "grad_norm": 0.057241134345531464,
58031
+ "learning_rate": 0.00010649961504528106,
58032
+ "loss": 10.1849,
58033
+ "step": 8241
58034
+ },
58035
+ {
58036
+ "epoch": 1.4390903932608792,
58037
+ "grad_norm": 0.06650716811418533,
58038
+ "learning_rate": 0.00010648135770171379,
58039
+ "loss": 10.1942,
58040
+ "step": 8242
58041
+ },
58042
+ {
58043
+ "epoch": 1.43926498188643,
58044
+ "grad_norm": 0.06386216729879379,
58045
+ "learning_rate": 0.00010646310014118914,
58046
+ "loss": 10.192,
58047
+ "step": 8243
58048
+ },
58049
+ {
58050
+ "epoch": 1.4394395705119811,
58051
+ "grad_norm": 0.063758485019207,
58052
+ "learning_rate": 0.00010644484236431814,
58053
+ "loss": 10.2038,
58054
+ "step": 8244
58055
+ },
58056
+ {
58057
+ "epoch": 1.4396141591375322,
58058
+ "grad_norm": 0.057611800730228424,
58059
+ "learning_rate": 0.000106426584371712,
58060
+ "loss": 10.2053,
58061
+ "step": 8245
58062
+ },
58063
+ {
58064
+ "epoch": 1.4397887477630833,
58065
+ "grad_norm": 0.06413525342941284,
58066
+ "learning_rate": 0.00010640832616398195,
58067
+ "loss": 10.1756,
58068
+ "step": 8246
58069
+ },
58070
+ {
58071
+ "epoch": 1.4399633363886344,
58072
+ "grad_norm": 0.06221134588122368,
58073
+ "learning_rate": 0.00010639006774173907,
58074
+ "loss": 10.2051,
58075
+ "step": 8247
58076
+ },
58077
+ {
58078
+ "epoch": 1.4401379250141852,
58079
+ "grad_norm": 0.06301780045032501,
58080
+ "learning_rate": 0.00010637180910559463,
58081
+ "loss": 10.1722,
58082
+ "step": 8248
58083
+ },
58084
+ {
58085
+ "epoch": 1.4403125136397363,
58086
+ "grad_norm": 0.06333661824464798,
58087
+ "learning_rate": 0.00010635355025615979,
58088
+ "loss": 10.1991,
58089
+ "step": 8249
58090
+ },
58091
+ {
58092
+ "epoch": 1.4404871022652874,
58093
+ "grad_norm": 0.06387244910001755,
58094
+ "learning_rate": 0.0001063352911940457,
58095
+ "loss": 10.1824,
58096
+ "step": 8250
58097
+ },
58098
+ {
58099
+ "epoch": 1.4406616908908385,
58100
+ "grad_norm": 0.0679032951593399,
58101
+ "learning_rate": 0.00010631703191986362,
58102
+ "loss": 10.1932,
58103
+ "step": 8251
58104
+ },
58105
+ {
58106
+ "epoch": 1.4408362795163896,
58107
+ "grad_norm": 0.06058119982481003,
58108
+ "learning_rate": 0.00010629877243422477,
58109
+ "loss": 10.1714,
58110
+ "step": 8252
58111
+ },
58112
+ {
58113
+ "epoch": 1.4410108681419405,
58114
+ "grad_norm": 0.06747283041477203,
58115
+ "learning_rate": 0.0001062805127377403,
58116
+ "loss": 10.1512,
58117
+ "step": 8253
58118
+ },
58119
+ {
58120
+ "epoch": 1.4411854567674915,
58121
+ "grad_norm": 0.07535044103860855,
58122
+ "learning_rate": 0.00010626225283102153,
58123
+ "loss": 10.2074,
58124
+ "step": 8254
58125
+ },
58126
+ {
58127
+ "epoch": 1.4413600453930426,
58128
+ "grad_norm": 0.0713329017162323,
58129
+ "learning_rate": 0.00010624399271467966,
58130
+ "loss": 10.2072,
58131
+ "step": 8255
58132
+ },
58133
+ {
58134
+ "epoch": 1.4415346340185937,
58135
+ "grad_norm": 0.0618034265935421,
58136
+ "learning_rate": 0.00010622573238932587,
58137
+ "loss": 10.197,
58138
+ "step": 8256
58139
+ },
58140
+ {
58141
+ "epoch": 1.4417092226441448,
58142
+ "grad_norm": 0.06324463337659836,
58143
+ "learning_rate": 0.00010620747185557147,
58144
+ "loss": 10.1888,
58145
+ "step": 8257
58146
+ },
58147
+ {
58148
+ "epoch": 1.4418838112696957,
58149
+ "grad_norm": 0.09235930442810059,
58150
+ "learning_rate": 0.0001061892111140277,
58151
+ "loss": 10.1821,
58152
+ "step": 8258
58153
+ },
58154
+ {
58155
+ "epoch": 1.4420583998952468,
58156
+ "grad_norm": 0.06463462114334106,
58157
+ "learning_rate": 0.00010617095016530583,
58158
+ "loss": 10.1597,
58159
+ "step": 8259
58160
+ },
58161
+ {
58162
+ "epoch": 1.4422329885207978,
58163
+ "grad_norm": 0.08304531127214432,
58164
+ "learning_rate": 0.00010615268901001714,
58165
+ "loss": 10.2057,
58166
+ "step": 8260
58167
+ },
58168
+ {
58169
+ "epoch": 1.442407577146349,
58170
+ "grad_norm": 0.07214386016130447,
58171
+ "learning_rate": 0.00010613442764877286,
58172
+ "loss": 10.1789,
58173
+ "step": 8261
58174
+ },
58175
+ {
58176
+ "epoch": 1.4425821657719,
58177
+ "grad_norm": 0.07438459992408752,
58178
+ "learning_rate": 0.00010611616608218429,
58179
+ "loss": 10.1744,
58180
+ "step": 8262
58181
+ },
58182
+ {
58183
+ "epoch": 1.4427567543974509,
58184
+ "grad_norm": 0.07223856449127197,
58185
+ "learning_rate": 0.00010609790431086272,
58186
+ "loss": 10.1988,
58187
+ "step": 8263
58188
+ },
58189
+ {
58190
+ "epoch": 1.4429313430230022,
58191
+ "grad_norm": 0.0747065320611,
58192
+ "learning_rate": 0.00010607964233541947,
58193
+ "loss": 10.1519,
58194
+ "step": 8264
58195
+ },
58196
+ {
58197
+ "epoch": 1.443105931648553,
58198
+ "grad_norm": 0.08038696646690369,
58199
+ "learning_rate": 0.00010606138015646581,
58200
+ "loss": 10.1988,
58201
+ "step": 8265
58202
+ },
58203
+ {
58204
+ "epoch": 1.4432805202741041,
58205
+ "grad_norm": 0.07858830690383911,
58206
+ "learning_rate": 0.00010604311777461309,
58207
+ "loss": 10.201,
58208
+ "step": 8266
58209
+ },
58210
+ {
58211
+ "epoch": 1.4434551088996552,
58212
+ "grad_norm": 0.0739421620965004,
58213
+ "learning_rate": 0.00010602485519047261,
58214
+ "loss": 10.1756,
58215
+ "step": 8267
58216
+ },
58217
+ {
58218
+ "epoch": 1.4436296975252063,
58219
+ "grad_norm": 0.07681598514318466,
58220
+ "learning_rate": 0.00010600659240465562,
58221
+ "loss": 10.148,
58222
+ "step": 8268
58223
+ },
58224
+ {
58225
+ "epoch": 1.4438042861507574,
58226
+ "grad_norm": 0.08492983132600784,
58227
+ "learning_rate": 0.00010598832941777355,
58228
+ "loss": 10.1486,
58229
+ "step": 8269
58230
+ },
58231
+ {
58232
+ "epoch": 1.4439788747763083,
58233
+ "grad_norm": 0.10287969559431076,
58234
+ "learning_rate": 0.00010597006623043771,
58235
+ "loss": 10.19,
58236
+ "step": 8270
58237
+ },
58238
+ {
58239
+ "epoch": 1.4441534634018593,
58240
+ "grad_norm": 0.08160192519426346,
58241
+ "learning_rate": 0.0001059518028432594,
58242
+ "loss": 10.1853,
58243
+ "step": 8271
58244
+ },
58245
+ {
58246
+ "epoch": 1.4443280520274104,
58247
+ "grad_norm": 0.09681432694196701,
58248
+ "learning_rate": 0.00010593353925685006,
58249
+ "loss": 10.1727,
58250
+ "step": 8272
58251
+ },
58252
+ {
58253
+ "epoch": 1.4445026406529615,
58254
+ "grad_norm": 0.09504647552967072,
58255
+ "learning_rate": 0.00010591527547182094,
58256
+ "loss": 10.1837,
58257
+ "step": 8273
58258
+ },
58259
+ {
58260
+ "epoch": 1.4446772292785126,
58261
+ "grad_norm": 0.10667001456022263,
58262
+ "learning_rate": 0.00010589701148878348,
58263
+ "loss": 10.1896,
58264
+ "step": 8274
58265
+ },
58266
+ {
58267
+ "epoch": 1.4448518179040635,
58268
+ "grad_norm": 0.10996004939079285,
58269
+ "learning_rate": 0.000105878747308349,
58270
+ "loss": 10.1542,
58271
+ "step": 8275
58272
+ },
58273
+ {
58274
+ "epoch": 1.4450264065296146,
58275
+ "grad_norm": 0.1433744728565216,
58276
+ "learning_rate": 0.00010586048293112889,
58277
+ "loss": 10.156,
58278
+ "step": 8276
58279
+ },
58280
+ {
58281
+ "epoch": 1.4452009951551656,
58282
+ "grad_norm": 0.15454666316509247,
58283
+ "learning_rate": 0.00010584221835773458,
58284
+ "loss": 10.1906,
58285
+ "step": 8277
58286
+ },
58287
+ {
58288
+ "epoch": 1.4453755837807167,
58289
+ "grad_norm": 0.07050416618585587,
58290
+ "learning_rate": 0.00010582395358877742,
58291
+ "loss": 10.218,
58292
+ "step": 8278
58293
+ },
58294
+ {
58295
+ "epoch": 1.4455501724062678,
58296
+ "grad_norm": 0.08752426505088806,
58297
+ "learning_rate": 0.00010580568862486879,
58298
+ "loss": 10.1916,
58299
+ "step": 8279
58300
+ },
58301
+ {
58302
+ "epoch": 1.4457247610318187,
58303
+ "grad_norm": 0.07597719877958298,
58304
+ "learning_rate": 0.00010578742346662012,
58305
+ "loss": 10.1809,
58306
+ "step": 8280
58307
+ },
58308
+ {
58309
+ "epoch": 1.4458993496573698,
58310
+ "grad_norm": 0.0667472630739212,
58311
+ "learning_rate": 0.00010576915811464281,
58312
+ "loss": 10.2111,
58313
+ "step": 8281
58314
+ },
58315
+ {
58316
+ "epoch": 1.4460739382829209,
58317
+ "grad_norm": 0.06028322875499725,
58318
+ "learning_rate": 0.00010575089256954824,
58319
+ "loss": 10.2048,
58320
+ "step": 8282
58321
+ },
58322
+ {
58323
+ "epoch": 1.446248526908472,
58324
+ "grad_norm": 0.06770388782024384,
58325
+ "learning_rate": 0.00010573262683194793,
58326
+ "loss": 10.1961,
58327
+ "step": 8283
58328
+ },
58329
+ {
58330
+ "epoch": 1.446423115534023,
58331
+ "grad_norm": 0.05715474113821983,
58332
+ "learning_rate": 0.00010571436090245321,
58333
+ "loss": 10.2038,
58334
+ "step": 8284
58335
+ },
58336
+ {
58337
+ "epoch": 1.446597704159574,
58338
+ "grad_norm": 0.056515373289585114,
58339
+ "learning_rate": 0.00010569609478167558,
58340
+ "loss": 10.194,
58341
+ "step": 8285
58342
+ },
58343
+ {
58344
+ "epoch": 1.446772292785125,
58345
+ "grad_norm": 0.05250786244869232,
58346
+ "learning_rate": 0.00010567782847022642,
58347
+ "loss": 10.2096,
58348
+ "step": 8286
58349
+ },
58350
+ {
58351
+ "epoch": 1.446946881410676,
58352
+ "grad_norm": 0.07693580538034439,
58353
+ "learning_rate": 0.00010565956196871722,
58354
+ "loss": 10.202,
58355
+ "step": 8287
58356
+ },
58357
+ {
58358
+ "epoch": 1.4471214700362272,
58359
+ "grad_norm": 0.06009494885802269,
58360
+ "learning_rate": 0.00010564129527775941,
58361
+ "loss": 10.1911,
58362
+ "step": 8288
58363
+ },
58364
+ {
58365
+ "epoch": 1.4472960586617782,
58366
+ "grad_norm": 0.06285849958658218,
58367
+ "learning_rate": 0.00010562302839796452,
58368
+ "loss": 10.2215,
58369
+ "step": 8289
58370
+ },
58371
+ {
58372
+ "epoch": 1.447470647287329,
58373
+ "grad_norm": 0.059056222438812256,
58374
+ "learning_rate": 0.00010560476132994393,
58375
+ "loss": 10.22,
58376
+ "step": 8290
58377
+ },
58378
+ {
58379
+ "epoch": 1.4476452359128804,
58380
+ "grad_norm": 0.06292968988418579,
58381
+ "learning_rate": 0.00010558649407430914,
58382
+ "loss": 10.1909,
58383
+ "step": 8291
58384
+ },
58385
+ {
58386
+ "epoch": 1.4478198245384313,
58387
+ "grad_norm": 0.06406458467245102,
58388
+ "learning_rate": 0.00010556822663167166,
58389
+ "loss": 10.2112,
58390
+ "step": 8292
58391
+ },
58392
+ {
58393
+ "epoch": 1.4479944131639824,
58394
+ "grad_norm": 0.06454525142908096,
58395
+ "learning_rate": 0.00010554995900264291,
58396
+ "loss": 10.1722,
58397
+ "step": 8293
58398
+ },
58399
+ {
58400
+ "epoch": 1.4481690017895334,
58401
+ "grad_norm": 0.06227293238043785,
58402
+ "learning_rate": 0.00010553169118783444,
58403
+ "loss": 10.185,
58404
+ "step": 8294
58405
+ },
58406
+ {
58407
+ "epoch": 1.4483435904150845,
58408
+ "grad_norm": 0.07386855036020279,
58409
+ "learning_rate": 0.00010551342318785775,
58410
+ "loss": 10.1824,
58411
+ "step": 8295
58412
+ },
58413
+ {
58414
+ "epoch": 1.4485181790406356,
58415
+ "grad_norm": 0.06179029867053032,
58416
+ "learning_rate": 0.00010549515500332432,
58417
+ "loss": 10.2022,
58418
+ "step": 8296
58419
+ },
58420
+ {
58421
+ "epoch": 1.4486927676661865,
58422
+ "grad_norm": 0.06031794473528862,
58423
+ "learning_rate": 0.00010547688663484565,
58424
+ "loss": 10.2106,
58425
+ "step": 8297
58426
+ },
58427
+ {
58428
+ "epoch": 1.4488673562917376,
58429
+ "grad_norm": 0.0649222880601883,
58430
+ "learning_rate": 0.0001054586180830333,
58431
+ "loss": 10.221,
58432
+ "step": 8298
58433
+ },
58434
+ {
58435
+ "epoch": 1.4490419449172887,
58436
+ "grad_norm": 0.061068885028362274,
58437
+ "learning_rate": 0.00010544034934849873,
58438
+ "loss": 10.2131,
58439
+ "step": 8299
58440
+ },
58441
+ {
58442
+ "epoch": 1.4492165335428397,
58443
+ "grad_norm": 0.06885775923728943,
58444
+ "learning_rate": 0.00010542208043185353,
58445
+ "loss": 10.2028,
58446
+ "step": 8300
58447
+ },
58448
+ {
58449
+ "epoch": 1.4493911221683908,
58450
+ "grad_norm": 0.06814412772655487,
58451
+ "learning_rate": 0.00010540381133370922,
58452
+ "loss": 10.1721,
58453
+ "step": 8301
58454
+ },
58455
+ {
58456
+ "epoch": 1.4495657107939417,
58457
+ "grad_norm": 0.06340909004211426,
58458
+ "learning_rate": 0.00010538554205467732,
58459
+ "loss": 10.1874,
58460
+ "step": 8302
58461
+ },
58462
+ {
58463
+ "epoch": 1.4497402994194928,
58464
+ "grad_norm": 0.065483458340168,
58465
+ "learning_rate": 0.00010536727259536938,
58466
+ "loss": 10.1607,
58467
+ "step": 8303
58468
+ },
58469
+ {
58470
+ "epoch": 1.4499148880450439,
58471
+ "grad_norm": 0.06346963346004486,
58472
+ "learning_rate": 0.00010534900295639698,
58473
+ "loss": 10.1767,
58474
+ "step": 8304
58475
+ },
58476
+ {
58477
+ "epoch": 1.450089476670595,
58478
+ "grad_norm": 0.07203541696071625,
58479
+ "learning_rate": 0.00010533073313837164,
58480
+ "loss": 10.1709,
58481
+ "step": 8305
58482
+ },
58483
+ {
58484
+ "epoch": 1.450264065296146,
58485
+ "grad_norm": 0.06584259867668152,
58486
+ "learning_rate": 0.00010531246314190492,
58487
+ "loss": 10.1878,
58488
+ "step": 8306
58489
+ },
58490
+ {
58491
+ "epoch": 1.450438653921697,
58492
+ "grad_norm": 0.07235017418861389,
58493
+ "learning_rate": 0.00010529419296760847,
58494
+ "loss": 10.2102,
58495
+ "step": 8307
58496
+ },
58497
+ {
58498
+ "epoch": 1.450613242547248,
58499
+ "grad_norm": 0.07536638528108597,
58500
+ "learning_rate": 0.00010527592261609382,
58501
+ "loss": 10.1374,
58502
+ "step": 8308
58503
+ },
58504
+ {
58505
+ "epoch": 1.450787831172799,
58506
+ "grad_norm": 0.07071755081415176,
58507
+ "learning_rate": 0.00010525765208797251,
58508
+ "loss": 10.1709,
58509
+ "step": 8309
58510
+ },
58511
+ {
58512
+ "epoch": 1.4509624197983502,
58513
+ "grad_norm": 0.06985681504011154,
58514
+ "learning_rate": 0.00010523938138385618,
58515
+ "loss": 10.1888,
58516
+ "step": 8310
58517
+ },
58518
+ {
58519
+ "epoch": 1.4511370084239013,
58520
+ "grad_norm": 0.07031569629907608,
58521
+ "learning_rate": 0.00010522111050435641,
58522
+ "loss": 10.1799,
58523
+ "step": 8311
58524
+ },
58525
+ {
58526
+ "epoch": 1.4513115970494521,
58527
+ "grad_norm": 0.07486148178577423,
58528
+ "learning_rate": 0.0001052028394500848,
58529
+ "loss": 10.1646,
58530
+ "step": 8312
58531
+ },
58532
+ {
58533
+ "epoch": 1.4514861856750032,
58534
+ "grad_norm": 0.09365751594305038,
58535
+ "learning_rate": 0.00010518456822165297,
58536
+ "loss": 10.16,
58537
+ "step": 8313
58538
+ },
58539
+ {
58540
+ "epoch": 1.4516607743005543,
58541
+ "grad_norm": 0.07660730183124542,
58542
+ "learning_rate": 0.00010516629681967252,
58543
+ "loss": 10.1855,
58544
+ "step": 8314
58545
+ },
58546
+ {
58547
+ "epoch": 1.4518353629261054,
58548
+ "grad_norm": 0.07324030995368958,
58549
+ "learning_rate": 0.00010514802524475506,
58550
+ "loss": 10.1763,
58551
+ "step": 8315
58552
+ },
58553
+ {
58554
+ "epoch": 1.4520099515516565,
58555
+ "grad_norm": 0.08413024991750717,
58556
+ "learning_rate": 0.00010512975349751224,
58557
+ "loss": 10.1819,
58558
+ "step": 8316
58559
+ },
58560
+ {
58561
+ "epoch": 1.4521845401772073,
58562
+ "grad_norm": 0.08130089938640594,
58563
+ "learning_rate": 0.00010511148157855564,
58564
+ "loss": 10.1722,
58565
+ "step": 8317
58566
+ },
58567
+ {
58568
+ "epoch": 1.4523591288027586,
58569
+ "grad_norm": 0.0908016487956047,
58570
+ "learning_rate": 0.00010509320948849695,
58571
+ "loss": 10.178,
58572
+ "step": 8318
58573
+ },
58574
+ {
58575
+ "epoch": 1.4525337174283095,
58576
+ "grad_norm": 0.07707192003726959,
58577
+ "learning_rate": 0.00010507493722794779,
58578
+ "loss": 10.1765,
58579
+ "step": 8319
58580
+ },
58581
+ {
58582
+ "epoch": 1.4527083060538606,
58583
+ "grad_norm": 0.08786683529615402,
58584
+ "learning_rate": 0.00010505666479751983,
58585
+ "loss": 10.2125,
58586
+ "step": 8320
58587
+ },
58588
+ {
58589
+ "epoch": 1.4528828946794117,
58590
+ "grad_norm": 0.08740527182817459,
58591
+ "learning_rate": 0.00010503839219782465,
58592
+ "loss": 10.1407,
58593
+ "step": 8321
58594
+ },
58595
+ {
58596
+ "epoch": 1.4530574833049628,
58597
+ "grad_norm": 0.09323012828826904,
58598
+ "learning_rate": 0.00010502011942947401,
58599
+ "loss": 10.1689,
58600
+ "step": 8322
58601
+ },
58602
+ {
58603
+ "epoch": 1.4532320719305138,
58604
+ "grad_norm": 0.10221674293279648,
58605
+ "learning_rate": 0.0001050018464930795,
58606
+ "loss": 10.1879,
58607
+ "step": 8323
58608
+ },
58609
+ {
58610
+ "epoch": 1.4534066605560647,
58611
+ "grad_norm": 0.11112351715564728,
58612
+ "learning_rate": 0.0001049835733892528,
58613
+ "loss": 10.1506,
58614
+ "step": 8324
58615
+ },
58616
+ {
58617
+ "epoch": 1.4535812491816158,
58618
+ "grad_norm": 0.10304815322160721,
58619
+ "learning_rate": 0.00010496530011860564,
58620
+ "loss": 10.2084,
58621
+ "step": 8325
58622
+ },
58623
+ {
58624
+ "epoch": 1.4537558378071669,
58625
+ "grad_norm": 0.1297636330127716,
58626
+ "learning_rate": 0.00010494702668174961,
58627
+ "loss": 10.2012,
58628
+ "step": 8326
58629
+ },
58630
+ {
58631
+ "epoch": 1.453930426432718,
58632
+ "grad_norm": 0.1577623188495636,
58633
+ "learning_rate": 0.00010492875307929644,
58634
+ "loss": 10.1751,
58635
+ "step": 8327
58636
+ },
58637
+ {
58638
+ "epoch": 1.454105015058269,
58639
+ "grad_norm": 0.06624744087457657,
58640
+ "learning_rate": 0.00010491047931185787,
58641
+ "loss": 10.201,
58642
+ "step": 8328
58643
+ },
58644
+ {
58645
+ "epoch": 1.45427960368382,
58646
+ "grad_norm": 0.06953423470258713,
58647
+ "learning_rate": 0.00010489220538004551,
58648
+ "loss": 10.2001,
58649
+ "step": 8329
58650
+ },
58651
+ {
58652
+ "epoch": 1.454454192309371,
58653
+ "grad_norm": 0.062097758054733276,
58654
+ "learning_rate": 0.00010487393128447111,
58655
+ "loss": 10.1987,
58656
+ "step": 8330
58657
+ },
58658
+ {
58659
+ "epoch": 1.454628780934922,
58660
+ "grad_norm": 0.053307611495256424,
58661
+ "learning_rate": 0.0001048556570257464,
58662
+ "loss": 10.2044,
58663
+ "step": 8331
58664
+ },
58665
+ {
58666
+ "epoch": 1.4548033695604732,
58667
+ "grad_norm": 0.06003924086689949,
58668
+ "learning_rate": 0.00010483738260448307,
58669
+ "loss": 10.1904,
58670
+ "step": 8332
58671
+ },
58672
+ {
58673
+ "epoch": 1.4549779581860243,
58674
+ "grad_norm": 0.057007383555173874,
58675
+ "learning_rate": 0.00010481910802129283,
58676
+ "loss": 10.2119,
58677
+ "step": 8333
58678
+ },
58679
+ {
58680
+ "epoch": 1.4551525468115751,
58681
+ "grad_norm": 0.06437328457832336,
58682
+ "learning_rate": 0.0001048008332767874,
58683
+ "loss": 10.196,
58684
+ "step": 8334
58685
+ },
58686
+ {
58687
+ "epoch": 1.4553271354371262,
58688
+ "grad_norm": 0.06882317364215851,
58689
+ "learning_rate": 0.00010478255837157853,
58690
+ "loss": 10.1991,
58691
+ "step": 8335
58692
+ },
58693
+ {
58694
+ "epoch": 1.4555017240626773,
58695
+ "grad_norm": 0.06032538414001465,
58696
+ "learning_rate": 0.00010476428330627799,
58697
+ "loss": 10.2061,
58698
+ "step": 8336
58699
+ },
58700
+ {
58701
+ "epoch": 1.4556763126882284,
58702
+ "grad_norm": 0.05175284668803215,
58703
+ "learning_rate": 0.00010474600808149742,
58704
+ "loss": 10.2121,
58705
+ "step": 8337
58706
+ },
58707
+ {
58708
+ "epoch": 1.4558509013137795,
58709
+ "grad_norm": 0.05540451034903526,
58710
+ "learning_rate": 0.00010472773269784866,
58711
+ "loss": 10.1926,
58712
+ "step": 8338
58713
+ },
58714
+ {
58715
+ "epoch": 1.4560254899393303,
58716
+ "grad_norm": 0.05510036274790764,
58717
+ "learning_rate": 0.00010470945715594341,
58718
+ "loss": 10.1915,
58719
+ "step": 8339
58720
+ },
58721
+ {
58722
+ "epoch": 1.4562000785648814,
58723
+ "grad_norm": 0.05290668457746506,
58724
+ "learning_rate": 0.00010469118145639343,
58725
+ "loss": 10.213,
58726
+ "step": 8340
58727
+ },
58728
+ {
58729
+ "epoch": 1.4563746671904325,
58730
+ "grad_norm": 0.05594515800476074,
58731
+ "learning_rate": 0.00010467290559981053,
58732
+ "loss": 10.2092,
58733
+ "step": 8341
58734
+ },
58735
+ {
58736
+ "epoch": 1.4565492558159836,
58737
+ "grad_norm": 0.05205216258764267,
58738
+ "learning_rate": 0.00010465462958680645,
58739
+ "loss": 10.1815,
58740
+ "step": 8342
58741
+ },
58742
+ {
58743
+ "epoch": 1.4567238444415347,
58744
+ "grad_norm": 0.05969208478927612,
58745
+ "learning_rate": 0.00010463635341799292,
58746
+ "loss": 10.1844,
58747
+ "step": 8343
58748
+ },
58749
+ {
58750
+ "epoch": 1.4568984330670856,
58751
+ "grad_norm": 0.06700645387172699,
58752
+ "learning_rate": 0.00010461807709398179,
58753
+ "loss": 10.2024,
58754
+ "step": 8344
58755
+ },
58756
+ {
58757
+ "epoch": 1.4570730216926369,
58758
+ "grad_norm": 0.0638854131102562,
58759
+ "learning_rate": 0.00010459980061538477,
58760
+ "loss": 10.1954,
58761
+ "step": 8345
58762
+ },
58763
+ {
58764
+ "epoch": 1.4572476103181877,
58765
+ "grad_norm": 0.06709007918834686,
58766
+ "learning_rate": 0.00010458152398281369,
58767
+ "loss": 10.1878,
58768
+ "step": 8346
58769
+ },
58770
+ {
58771
+ "epoch": 1.4574221989437388,
58772
+ "grad_norm": 0.05882974714040756,
58773
+ "learning_rate": 0.00010456324719688035,
58774
+ "loss": 10.182,
58775
+ "step": 8347
58776
+ },
58777
+ {
58778
+ "epoch": 1.45759678756929,
58779
+ "grad_norm": 0.06363633275032043,
58780
+ "learning_rate": 0.00010454497025819656,
58781
+ "loss": 10.191,
58782
+ "step": 8348
58783
+ },
58784
+ {
58785
+ "epoch": 1.457771376194841,
58786
+ "grad_norm": 0.06268162280321121,
58787
+ "learning_rate": 0.00010452669316737407,
58788
+ "loss": 10.177,
58789
+ "step": 8349
58790
+ },
58791
+ {
58792
+ "epoch": 1.457945964820392,
58793
+ "grad_norm": 0.0668828934431076,
58794
+ "learning_rate": 0.00010450841592502474,
58795
+ "loss": 10.1875,
58796
+ "step": 8350
58797
+ },
58798
+ {
58799
+ "epoch": 1.458120553445943,
58800
+ "grad_norm": 0.07086663693189621,
58801
+ "learning_rate": 0.00010449013853176035,
58802
+ "loss": 10.1973,
58803
+ "step": 8351
58804
+ },
58805
+ {
58806
+ "epoch": 1.458295142071494,
58807
+ "grad_norm": 0.06280726194381714,
58808
+ "learning_rate": 0.00010447186098819272,
58809
+ "loss": 10.2036,
58810
+ "step": 8352
58811
+ },
58812
+ {
58813
+ "epoch": 1.458469730697045,
58814
+ "grad_norm": 0.061906199902296066,
58815
+ "learning_rate": 0.00010445358329493371,
58816
+ "loss": 10.1955,
58817
+ "step": 8353
58818
+ },
58819
+ {
58820
+ "epoch": 1.4586443193225962,
58821
+ "grad_norm": 0.059373509138822556,
58822
+ "learning_rate": 0.00010443530545259513,
58823
+ "loss": 10.161,
58824
+ "step": 8354
58825
+ },
58826
+ {
58827
+ "epoch": 1.4588189079481473,
58828
+ "grad_norm": 0.0631130188703537,
58829
+ "learning_rate": 0.00010441702746178878,
58830
+ "loss": 10.2006,
58831
+ "step": 8355
58832
+ },
58833
+ {
58834
+ "epoch": 1.4589934965736981,
58835
+ "grad_norm": 0.0674017071723938,
58836
+ "learning_rate": 0.00010439874932312655,
58837
+ "loss": 10.1865,
58838
+ "step": 8356
58839
+ },
58840
+ {
58841
+ "epoch": 1.4591680851992492,
58842
+ "grad_norm": 0.061380140483379364,
58843
+ "learning_rate": 0.00010438047103722024,
58844
+ "loss": 10.191,
58845
+ "step": 8357
58846
+ },
58847
+ {
58848
+ "epoch": 1.4593426738248003,
58849
+ "grad_norm": 0.06494417041540146,
58850
+ "learning_rate": 0.00010436219260468172,
58851
+ "loss": 10.2351,
58852
+ "step": 8358
58853
+ },
58854
+ {
58855
+ "epoch": 1.4595172624503514,
58856
+ "grad_norm": 0.06896265596151352,
58857
+ "learning_rate": 0.00010434391402612287,
58858
+ "loss": 10.1892,
58859
+ "step": 8359
58860
+ },
58861
+ {
58862
+ "epoch": 1.4596918510759025,
58863
+ "grad_norm": 0.06847895681858063,
58864
+ "learning_rate": 0.00010432563530215552,
58865
+ "loss": 10.1602,
58866
+ "step": 8360
58867
+ },
58868
+ {
58869
+ "epoch": 1.4598664397014534,
58870
+ "grad_norm": 0.08399218320846558,
58871
+ "learning_rate": 0.00010430735643339151,
58872
+ "loss": 10.156,
58873
+ "step": 8361
58874
+ },
58875
+ {
58876
+ "epoch": 1.4600410283270044,
58877
+ "grad_norm": 0.07078929990530014,
58878
+ "learning_rate": 0.00010428907742044274,
58879
+ "loss": 10.1989,
58880
+ "step": 8362
58881
+ },
58882
+ {
58883
+ "epoch": 1.4602156169525555,
58884
+ "grad_norm": 0.08113349974155426,
58885
+ "learning_rate": 0.00010427079826392107,
58886
+ "loss": 10.1719,
58887
+ "step": 8363
58888
+ },
58889
+ {
58890
+ "epoch": 1.4603902055781066,
58891
+ "grad_norm": 0.06738442182540894,
58892
+ "learning_rate": 0.00010425251896443839,
58893
+ "loss": 10.1926,
58894
+ "step": 8364
58895
+ },
58896
+ {
58897
+ "epoch": 1.4605647942036577,
58898
+ "grad_norm": 0.07709319144487381,
58899
+ "learning_rate": 0.0001042342395226066,
58900
+ "loss": 10.1798,
58901
+ "step": 8365
58902
+ },
58903
+ {
58904
+ "epoch": 1.4607393828292086,
58905
+ "grad_norm": 0.07241367548704147,
58906
+ "learning_rate": 0.00010421595993903754,
58907
+ "loss": 10.1471,
58908
+ "step": 8366
58909
+ },
58910
+ {
58911
+ "epoch": 1.4609139714547597,
58912
+ "grad_norm": 0.07741730660200119,
58913
+ "learning_rate": 0.00010419768021434314,
58914
+ "loss": 10.1937,
58915
+ "step": 8367
58916
+ },
58917
+ {
58918
+ "epoch": 1.4610885600803107,
58919
+ "grad_norm": 0.08878384530544281,
58920
+ "learning_rate": 0.00010417940034913529,
58921
+ "loss": 10.1911,
58922
+ "step": 8368
58923
+ },
58924
+ {
58925
+ "epoch": 1.4612631487058618,
58926
+ "grad_norm": 0.08138681948184967,
58927
+ "learning_rate": 0.00010416112034402585,
58928
+ "loss": 10.148,
58929
+ "step": 8369
58930
+ },
58931
+ {
58932
+ "epoch": 1.461437737331413,
58933
+ "grad_norm": 0.07620755583047867,
58934
+ "learning_rate": 0.00010414284019962677,
58935
+ "loss": 10.1974,
58936
+ "step": 8370
58937
+ },
58938
+ {
58939
+ "epoch": 1.4616123259569638,
58940
+ "grad_norm": 0.0862080529332161,
58941
+ "learning_rate": 0.00010412455991654997,
58942
+ "loss": 10.1796,
58943
+ "step": 8371
58944
+ },
58945
+ {
58946
+ "epoch": 1.461786914582515,
58947
+ "grad_norm": 0.09201093018054962,
58948
+ "learning_rate": 0.00010410627949540736,
58949
+ "loss": 10.1842,
58950
+ "step": 8372
58951
+ },
58952
+ {
58953
+ "epoch": 1.461961503208066,
58954
+ "grad_norm": 0.08352043479681015,
58955
+ "learning_rate": 0.00010408799893681083,
58956
+ "loss": 10.1535,
58957
+ "step": 8373
58958
+ },
58959
+ {
58960
+ "epoch": 1.462136091833617,
58961
+ "grad_norm": 0.08688773959875107,
58962
+ "learning_rate": 0.00010406971824137232,
58963
+ "loss": 10.2069,
58964
+ "step": 8374
58965
+ },
58966
+ {
58967
+ "epoch": 1.4623106804591681,
58968
+ "grad_norm": 0.0986531600356102,
58969
+ "learning_rate": 0.00010405143740970375,
58970
+ "loss": 10.1994,
58971
+ "step": 8375
58972
+ },
58973
+ {
58974
+ "epoch": 1.4624852690847192,
58975
+ "grad_norm": 0.11883661150932312,
58976
+ "learning_rate": 0.00010403315644241707,
58977
+ "loss": 10.1584,
58978
+ "step": 8376
58979
+ },
58980
+ {
58981
+ "epoch": 1.4626598577102703,
58982
+ "grad_norm": 0.1968572437763214,
58983
+ "learning_rate": 0.00010401487534012423,
58984
+ "loss": 10.216,
58985
+ "step": 8377
58986
+ },
58987
+ {
58988
+ "epoch": 1.4628344463358212,
58989
+ "grad_norm": 0.06653968244791031,
58990
+ "learning_rate": 0.00010399659410343717,
58991
+ "loss": 10.186,
58992
+ "step": 8378
58993
+ },
58994
+ {
58995
+ "epoch": 1.4630090349613722,
58996
+ "grad_norm": 0.06177930906414986,
58997
+ "learning_rate": 0.00010397831273296779,
58998
+ "loss": 10.19,
58999
+ "step": 8379
59000
+ },
59001
+ {
59002
+ "epoch": 1.4631836235869233,
59003
+ "grad_norm": 0.05963516980409622,
59004
+ "learning_rate": 0.0001039600312293281,
59005
+ "loss": 10.2178,
59006
+ "step": 8380
59007
+ },
59008
+ {
59009
+ "epoch": 1.4633582122124744,
59010
+ "grad_norm": 0.058414287865161896,
59011
+ "learning_rate": 0.00010394174959313001,
59012
+ "loss": 10.2123,
59013
+ "step": 8381
59014
+ },
59015
+ {
59016
+ "epoch": 1.4635328008380255,
59017
+ "grad_norm": 0.059115663170814514,
59018
+ "learning_rate": 0.0001039234678249855,
59019
+ "loss": 10.1943,
59020
+ "step": 8382
59021
+ },
59022
+ {
59023
+ "epoch": 1.4637073894635764,
59024
+ "grad_norm": 0.054054707288742065,
59025
+ "learning_rate": 0.00010390518592550657,
59026
+ "loss": 10.2104,
59027
+ "step": 8383
59028
+ },
59029
+ {
59030
+ "epoch": 1.4638819780891275,
59031
+ "grad_norm": 0.08599256724119186,
59032
+ "learning_rate": 0.00010388690389530515,
59033
+ "loss": 10.1747,
59034
+ "step": 8384
59035
+ },
59036
+ {
59037
+ "epoch": 1.4640565667146785,
59038
+ "grad_norm": 0.06409701704978943,
59039
+ "learning_rate": 0.0001038686217349932,
59040
+ "loss": 10.1826,
59041
+ "step": 8385
59042
+ },
59043
+ {
59044
+ "epoch": 1.4642311553402296,
59045
+ "grad_norm": 0.07511018216609955,
59046
+ "learning_rate": 0.00010385033944518277,
59047
+ "loss": 10.1902,
59048
+ "step": 8386
59049
+ },
59050
+ {
59051
+ "epoch": 1.4644057439657807,
59052
+ "grad_norm": 0.05866458639502525,
59053
+ "learning_rate": 0.00010383205702648575,
59054
+ "loss": 10.197,
59055
+ "step": 8387
59056
+ },
59057
+ {
59058
+ "epoch": 1.4645803325913316,
59059
+ "grad_norm": 0.05473634973168373,
59060
+ "learning_rate": 0.00010381377447951418,
59061
+ "loss": 10.2168,
59062
+ "step": 8388
59063
+ },
59064
+ {
59065
+ "epoch": 1.4647549212168827,
59066
+ "grad_norm": 0.057914335280656815,
59067
+ "learning_rate": 0.00010379549180488004,
59068
+ "loss": 10.1977,
59069
+ "step": 8389
59070
+ },
59071
+ {
59072
+ "epoch": 1.4649295098424338,
59073
+ "grad_norm": 0.06066824868321419,
59074
+ "learning_rate": 0.00010377720900319534,
59075
+ "loss": 10.2222,
59076
+ "step": 8390
59077
+ },
59078
+ {
59079
+ "epoch": 1.4651040984679848,
59080
+ "grad_norm": 0.060994479805231094,
59081
+ "learning_rate": 0.00010375892607507207,
59082
+ "loss": 10.1864,
59083
+ "step": 8391
59084
+ },
59085
+ {
59086
+ "epoch": 1.465278687093536,
59087
+ "grad_norm": 0.06291990727186203,
59088
+ "learning_rate": 0.00010374064302112221,
59089
+ "loss": 10.1982,
59090
+ "step": 8392
59091
+ },
59092
+ {
59093
+ "epoch": 1.4654532757190868,
59094
+ "grad_norm": 0.05951782315969467,
59095
+ "learning_rate": 0.00010372235984195779,
59096
+ "loss": 10.2057,
59097
+ "step": 8393
59098
+ },
59099
+ {
59100
+ "epoch": 1.4656278643446379,
59101
+ "grad_norm": 0.06428468972444534,
59102
+ "learning_rate": 0.00010370407653819083,
59103
+ "loss": 10.176,
59104
+ "step": 8394
59105
+ },
59106
+ {
59107
+ "epoch": 1.465802452970189,
59108
+ "grad_norm": 0.0627242773771286,
59109
+ "learning_rate": 0.00010368579311043336,
59110
+ "loss": 10.1926,
59111
+ "step": 8395
59112
+ },
59113
+ {
59114
+ "epoch": 1.46597704159574,
59115
+ "grad_norm": 0.07169649004936218,
59116
+ "learning_rate": 0.00010366750955929738,
59117
+ "loss": 10.1972,
59118
+ "step": 8396
59119
+ },
59120
+ {
59121
+ "epoch": 1.4661516302212911,
59122
+ "grad_norm": 0.06881584972143173,
59123
+ "learning_rate": 0.00010364922588539487,
59124
+ "loss": 10.1775,
59125
+ "step": 8397
59126
+ },
59127
+ {
59128
+ "epoch": 1.466326218846842,
59129
+ "grad_norm": 0.06765537708997726,
59130
+ "learning_rate": 0.00010363094208933792,
59131
+ "loss": 10.2056,
59132
+ "step": 8398
59133
+ },
59134
+ {
59135
+ "epoch": 1.4665008074723933,
59136
+ "grad_norm": 0.07422882318496704,
59137
+ "learning_rate": 0.00010361265817173857,
59138
+ "loss": 10.1882,
59139
+ "step": 8399
59140
+ },
59141
+ {
59142
+ "epoch": 1.4666753960979442,
59143
+ "grad_norm": 0.06539501249790192,
59144
+ "learning_rate": 0.00010359437413320883,
59145
+ "loss": 10.1522,
59146
+ "step": 8400
59147
+ },
59148
+ {
59149
+ "epoch": 1.4666753960979442,
59150
+ "eval_loss": 10.172170639038086,
59151
+ "eval_runtime": 0.7175,
59152
+ "eval_samples_per_second": 321.94,
59153
+ "eval_steps_per_second": 161.667,
59154
+ "step": 8400
59155
  }
59156
  ],
59157
  "logging_steps": 1,
 
59166
  "early_stopping_threshold": 0.0
59167
  },
59168
  "attributes": {
59169
+ "early_stopping_patience_counter": 2
59170
  }
59171
  },
59172
  "TrainerControl": {
 
59180
  "attributes": {}
59181
  }
59182
  },
59183
+ "total_flos": 455842765602816.0,
59184
  "train_batch_size": 2,
59185
  "trial_name": null,
59186
  "trial_params": null