error577 commited on
Commit
8e80197
·
verified ·
1 Parent(s): 947f00e

Training in progress, step 9400, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:93f015f5c8aec7f840e3c280c4098d01aedbca5bd970c402bae15fcab13b65fa
3
  size 231448
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:073f485948ff837fc37d8f0a22e32f680560b6f4f3cbcab84e3c34d6648a3370
3
  size 231448
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:0095616a7623a5b1e6c26b888a8637723a03f6461956c770d941025a6e077e53
3
  size 374849
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:110dab7b119d74bdd1907a661d2051a8e6eac7ba8b04f7fa3abd75f6672d42c9
3
  size 374849
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ccbbb6a484bbc1741d0ef45ed174c2f25123ee42f887756981579561f921866d
3
  size 14645
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f6eb355b401e2f5ef234337a94f776ee1cb5b3db750380550afb579705325bb3
3
  size 14645
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:3a73951158a9270ae195547639bef89a52fa6622ee4aa243c58bb84b37528440
3
  size 1465
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:04c1df144f1530edd471eaebc5fb6d55f9f9efd8be9a63dc37f6c6ef4d32ad84
3
  size 1465
last-checkpoint/trainer_state.json CHANGED
@@ -1,10 +1,10 @@
1
  {
2
- "best_global_step": 8800,
3
- "best_metric": 10.1707124710083,
4
- "best_model_checkpoint": "miner_id_24/checkpoint-8800",
5
- "epoch": 1.6063462965387805,
6
  "eval_steps": 200,
7
- "global_step": 9200,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
@@ -64784,6 +64784,1414 @@
64784
  "eval_samples_per_second": 313.544,
64785
  "eval_steps_per_second": 157.451,
64786
  "step": 9200
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
64787
  }
64788
  ],
64789
  "logging_steps": 1,
@@ -64798,7 +66206,7 @@
64798
  "early_stopping_threshold": 0.0
64799
  },
64800
  "attributes": {
64801
- "early_stopping_patience_counter": 2
64802
  }
64803
  },
64804
  "TrainerControl": {
@@ -64812,7 +66220,7 @@
64812
  "attributes": {}
64813
  }
64814
  },
64815
- "total_flos": 499255070294016.0,
64816
  "train_batch_size": 2,
64817
  "trial_name": null,
64818
  "trial_params": null
 
1
  {
2
+ "best_global_step": 9400,
3
+ "best_metric": 10.170708656311035,
4
+ "best_model_checkpoint": "miner_id_24/checkpoint-9400",
5
+ "epoch": 1.6412640216489895,
6
  "eval_steps": 200,
7
+ "global_step": 9400,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
 
64784
  "eval_samples_per_second": 313.544,
64785
  "eval_steps_per_second": 157.451,
64786
  "step": 9200
64787
+ },
64788
+ {
64789
+ "epoch": 1.6065208851643316,
64790
+ "grad_norm": 0.07451517879962921,
64791
+ "learning_rate": 8.896264937292173e-05,
64792
+ "loss": 10.1882,
64793
+ "step": 9201
64794
+ },
64795
+ {
64796
+ "epoch": 1.6066954737898826,
64797
+ "grad_norm": 0.06869819015264511,
64798
+ "learning_rate": 8.894446542120735e-05,
64799
+ "loss": 10.1844,
64800
+ "step": 9202
64801
+ },
64802
+ {
64803
+ "epoch": 1.6068700624154335,
64804
+ "grad_norm": 0.06747719645500183,
64805
+ "learning_rate": 8.892628183956678e-05,
64806
+ "loss": 10.2043,
64807
+ "step": 9203
64808
+ },
64809
+ {
64810
+ "epoch": 1.6070446510409848,
64811
+ "grad_norm": 0.07944381237030029,
64812
+ "learning_rate": 8.890809862860865e-05,
64813
+ "loss": 10.2158,
64814
+ "step": 9204
64815
+ },
64816
+ {
64817
+ "epoch": 1.6072192396665357,
64818
+ "grad_norm": 0.06613967567682266,
64819
+ "learning_rate": 8.888991578894161e-05,
64820
+ "loss": 10.1874,
64821
+ "step": 9205
64822
+ },
64823
+ {
64824
+ "epoch": 1.6073938282920868,
64825
+ "grad_norm": 0.07045343518257141,
64826
+ "learning_rate": 8.887173332117438e-05,
64827
+ "loss": 10.1404,
64828
+ "step": 9206
64829
+ },
64830
+ {
64831
+ "epoch": 1.6075684169176379,
64832
+ "grad_norm": 0.08413693308830261,
64833
+ "learning_rate": 8.885355122591559e-05,
64834
+ "loss": 10.1563,
64835
+ "step": 9207
64836
+ },
64837
+ {
64838
+ "epoch": 1.6077430055431887,
64839
+ "grad_norm": 0.07944537699222565,
64840
+ "learning_rate": 8.883536950377381e-05,
64841
+ "loss": 10.1656,
64842
+ "step": 9208
64843
+ },
64844
+ {
64845
+ "epoch": 1.60791759416874,
64846
+ "grad_norm": 0.06861000508069992,
64847
+ "learning_rate": 8.881718815535772e-05,
64848
+ "loss": 10.2073,
64849
+ "step": 9209
64850
+ },
64851
+ {
64852
+ "epoch": 1.608092182794291,
64853
+ "grad_norm": 0.08113826811313629,
64854
+ "learning_rate": 8.87990071812759e-05,
64855
+ "loss": 10.2135,
64856
+ "step": 9210
64857
+ },
64858
+ {
64859
+ "epoch": 1.608266771419842,
64860
+ "grad_norm": 0.07642683386802673,
64861
+ "learning_rate": 8.878082658213688e-05,
64862
+ "loss": 10.1853,
64863
+ "step": 9211
64864
+ },
64865
+ {
64866
+ "epoch": 1.608441360045393,
64867
+ "grad_norm": 0.07646339386701584,
64868
+ "learning_rate": 8.876264635854937e-05,
64869
+ "loss": 10.1522,
64870
+ "step": 9212
64871
+ },
64872
+ {
64873
+ "epoch": 1.608615948670944,
64874
+ "grad_norm": 0.08739786595106125,
64875
+ "learning_rate": 8.874446651112185e-05,
64876
+ "loss": 10.1944,
64877
+ "step": 9213
64878
+ },
64879
+ {
64880
+ "epoch": 1.6087905372964952,
64881
+ "grad_norm": 0.0879049226641655,
64882
+ "learning_rate": 8.872628704046287e-05,
64883
+ "loss": 10.1674,
64884
+ "step": 9214
64885
+ },
64886
+ {
64887
+ "epoch": 1.608965125922046,
64888
+ "grad_norm": 0.08363255858421326,
64889
+ "learning_rate": 8.8708107947181e-05,
64890
+ "loss": 10.2051,
64891
+ "step": 9215
64892
+ },
64893
+ {
64894
+ "epoch": 1.6091397145475972,
64895
+ "grad_norm": 0.09470126032829285,
64896
+ "learning_rate": 8.868992923188475e-05,
64897
+ "loss": 10.1568,
64898
+ "step": 9216
64899
+ },
64900
+ {
64901
+ "epoch": 1.6093143031731483,
64902
+ "grad_norm": 0.09355169534683228,
64903
+ "learning_rate": 8.867175089518261e-05,
64904
+ "loss": 10.1713,
64905
+ "step": 9217
64906
+ },
64907
+ {
64908
+ "epoch": 1.6094888917986994,
64909
+ "grad_norm": 0.09220734983682632,
64910
+ "learning_rate": 8.865357293768316e-05,
64911
+ "loss": 10.1779,
64912
+ "step": 9218
64913
+ },
64914
+ {
64915
+ "epoch": 1.6096634804242504,
64916
+ "grad_norm": 0.08328019827604294,
64917
+ "learning_rate": 8.863539535999485e-05,
64918
+ "loss": 10.189,
64919
+ "step": 9219
64920
+ },
64921
+ {
64922
+ "epoch": 1.6098380690498013,
64923
+ "grad_norm": 0.09539815783500671,
64924
+ "learning_rate": 8.861721816272612e-05,
64925
+ "loss": 10.1781,
64926
+ "step": 9220
64927
+ },
64928
+ {
64929
+ "epoch": 1.6100126576753524,
64930
+ "grad_norm": 0.09597745537757874,
64931
+ "learning_rate": 8.859904134648549e-05,
64932
+ "loss": 10.1999,
64933
+ "step": 9221
64934
+ },
64935
+ {
64936
+ "epoch": 1.6101872463009035,
64937
+ "grad_norm": 0.10453927516937256,
64938
+ "learning_rate": 8.85808649118814e-05,
64939
+ "loss": 10.1855,
64940
+ "step": 9222
64941
+ },
64942
+ {
64943
+ "epoch": 1.6103618349264546,
64944
+ "grad_norm": 0.1141676977276802,
64945
+ "learning_rate": 8.856268885952222e-05,
64946
+ "loss": 10.1172,
64947
+ "step": 9223
64948
+ },
64949
+ {
64950
+ "epoch": 1.6105364235520057,
64951
+ "grad_norm": 0.13335156440734863,
64952
+ "learning_rate": 8.85445131900165e-05,
64953
+ "loss": 10.1368,
64954
+ "step": 9224
64955
+ },
64956
+ {
64957
+ "epoch": 1.6107110121775565,
64958
+ "grad_norm": 0.13349956274032593,
64959
+ "learning_rate": 8.852633790397258e-05,
64960
+ "loss": 10.1805,
64961
+ "step": 9225
64962
+ },
64963
+ {
64964
+ "epoch": 1.6108856008031078,
64965
+ "grad_norm": 0.14043867588043213,
64966
+ "learning_rate": 8.850816300199885e-05,
64967
+ "loss": 10.2009,
64968
+ "step": 9226
64969
+ },
64970
+ {
64971
+ "epoch": 1.6110601894286587,
64972
+ "grad_norm": 0.21512266993522644,
64973
+ "learning_rate": 8.848998848470373e-05,
64974
+ "loss": 10.2312,
64975
+ "step": 9227
64976
+ },
64977
+ {
64978
+ "epoch": 1.6112347780542098,
64979
+ "grad_norm": 0.07636109739542007,
64980
+ "learning_rate": 8.847181435269559e-05,
64981
+ "loss": 10.2112,
64982
+ "step": 9228
64983
+ },
64984
+ {
64985
+ "epoch": 1.6114093666797609,
64986
+ "grad_norm": 0.06287252902984619,
64987
+ "learning_rate": 8.845364060658274e-05,
64988
+ "loss": 10.2097,
64989
+ "step": 9229
64990
+ },
64991
+ {
64992
+ "epoch": 1.6115839553053117,
64993
+ "grad_norm": 0.07031833380460739,
64994
+ "learning_rate": 8.843546724697362e-05,
64995
+ "loss": 10.2043,
64996
+ "step": 9230
64997
+ },
64998
+ {
64999
+ "epoch": 1.611758543930863,
65000
+ "grad_norm": 0.06758033484220505,
65001
+ "learning_rate": 8.841729427447652e-05,
65002
+ "loss": 10.2024,
65003
+ "step": 9231
65004
+ },
65005
+ {
65006
+ "epoch": 1.611933132556414,
65007
+ "grad_norm": 0.057049572467803955,
65008
+ "learning_rate": 8.839912168969976e-05,
65009
+ "loss": 10.2227,
65010
+ "step": 9232
65011
+ },
65012
+ {
65013
+ "epoch": 1.612107721181965,
65014
+ "grad_norm": 0.05975542590022087,
65015
+ "learning_rate": 8.838094949325166e-05,
65016
+ "loss": 10.1854,
65017
+ "step": 9233
65018
+ },
65019
+ {
65020
+ "epoch": 1.612282309807516,
65021
+ "grad_norm": 0.061943333595991135,
65022
+ "learning_rate": 8.836277768574052e-05,
65023
+ "loss": 10.2144,
65024
+ "step": 9234
65025
+ },
65026
+ {
65027
+ "epoch": 1.612456898433067,
65028
+ "grad_norm": 0.06660088896751404,
65029
+ "learning_rate": 8.834460626777457e-05,
65030
+ "loss": 10.2072,
65031
+ "step": 9235
65032
+ },
65033
+ {
65034
+ "epoch": 1.6126314870586183,
65035
+ "grad_norm": 0.06407146900892258,
65036
+ "learning_rate": 8.832643523996218e-05,
65037
+ "loss": 10.1729,
65038
+ "step": 9236
65039
+ },
65040
+ {
65041
+ "epoch": 1.6128060756841691,
65042
+ "grad_norm": 0.055513590574264526,
65043
+ "learning_rate": 8.830826460291154e-05,
65044
+ "loss": 10.2273,
65045
+ "step": 9237
65046
+ },
65047
+ {
65048
+ "epoch": 1.6129806643097202,
65049
+ "grad_norm": 0.05609823018312454,
65050
+ "learning_rate": 8.82900943572309e-05,
65051
+ "loss": 10.2082,
65052
+ "step": 9238
65053
+ },
65054
+ {
65055
+ "epoch": 1.6131552529352713,
65056
+ "grad_norm": 0.0590321309864521,
65057
+ "learning_rate": 8.827192450352852e-05,
65058
+ "loss": 10.2104,
65059
+ "step": 9239
65060
+ },
65061
+ {
65062
+ "epoch": 1.6133298415608222,
65063
+ "grad_norm": 0.06860978156328201,
65064
+ "learning_rate": 8.825375504241261e-05,
65065
+ "loss": 10.1958,
65066
+ "step": 9240
65067
+ },
65068
+ {
65069
+ "epoch": 1.6135044301863735,
65070
+ "grad_norm": 0.06437734514474869,
65071
+ "learning_rate": 8.823558597449133e-05,
65072
+ "loss": 10.232,
65073
+ "step": 9241
65074
+ },
65075
+ {
65076
+ "epoch": 1.6136790188119243,
65077
+ "grad_norm": 0.06574411690235138,
65078
+ "learning_rate": 8.821741730037295e-05,
65079
+ "loss": 10.2171,
65080
+ "step": 9242
65081
+ },
65082
+ {
65083
+ "epoch": 1.6138536074374754,
65084
+ "grad_norm": 0.06426315754652023,
65085
+ "learning_rate": 8.81992490206656e-05,
65086
+ "loss": 10.1821,
65087
+ "step": 9243
65088
+ },
65089
+ {
65090
+ "epoch": 1.6140281960630265,
65091
+ "grad_norm": 0.08926811814308167,
65092
+ "learning_rate": 8.818108113597745e-05,
65093
+ "loss": 10.1976,
65094
+ "step": 9244
65095
+ },
65096
+ {
65097
+ "epoch": 1.6142027846885776,
65098
+ "grad_norm": 0.056073304265737534,
65099
+ "learning_rate": 8.81629136469167e-05,
65100
+ "loss": 10.1977,
65101
+ "step": 9245
65102
+ },
65103
+ {
65104
+ "epoch": 1.6143773733141287,
65105
+ "grad_norm": 0.06705586612224579,
65106
+ "learning_rate": 8.814474655409142e-05,
65107
+ "loss": 10.2341,
65108
+ "step": 9246
65109
+ },
65110
+ {
65111
+ "epoch": 1.6145519619396795,
65112
+ "grad_norm": 0.06122251972556114,
65113
+ "learning_rate": 8.812657985810972e-05,
65114
+ "loss": 10.1981,
65115
+ "step": 9247
65116
+ },
65117
+ {
65118
+ "epoch": 1.6147265505652306,
65119
+ "grad_norm": 0.06418859213590622,
65120
+ "learning_rate": 8.810841355957983e-05,
65121
+ "loss": 10.2026,
65122
+ "step": 9248
65123
+ },
65124
+ {
65125
+ "epoch": 1.6149011391907817,
65126
+ "grad_norm": 0.05609358847141266,
65127
+ "learning_rate": 8.809024765910976e-05,
65128
+ "loss": 10.1782,
65129
+ "step": 9249
65130
+ },
65131
+ {
65132
+ "epoch": 1.6150757278163328,
65133
+ "grad_norm": 0.06430140882730484,
65134
+ "learning_rate": 8.807208215730762e-05,
65135
+ "loss": 10.1753,
65136
+ "step": 9250
65137
+ },
65138
+ {
65139
+ "epoch": 1.6152503164418839,
65140
+ "grad_norm": 0.06277582049369812,
65141
+ "learning_rate": 8.805391705478147e-05,
65142
+ "loss": 10.211,
65143
+ "step": 9251
65144
+ },
65145
+ {
65146
+ "epoch": 1.6154249050674347,
65147
+ "grad_norm": 0.0675603374838829,
65148
+ "learning_rate": 8.803575235213942e-05,
65149
+ "loss": 10.2104,
65150
+ "step": 9252
65151
+ },
65152
+ {
65153
+ "epoch": 1.615599493692986,
65154
+ "grad_norm": 0.06073060631752014,
65155
+ "learning_rate": 8.80175880499894e-05,
65156
+ "loss": 10.139,
65157
+ "step": 9253
65158
+ },
65159
+ {
65160
+ "epoch": 1.615774082318537,
65161
+ "grad_norm": 0.071161650121212,
65162
+ "learning_rate": 8.799942414893959e-05,
65163
+ "loss": 10.1648,
65164
+ "step": 9254
65165
+ },
65166
+ {
65167
+ "epoch": 1.615948670944088,
65168
+ "grad_norm": 0.07842148095369339,
65169
+ "learning_rate": 8.798126064959792e-05,
65170
+ "loss": 10.1865,
65171
+ "step": 9255
65172
+ },
65173
+ {
65174
+ "epoch": 1.616123259569639,
65175
+ "grad_norm": 0.08187149465084076,
65176
+ "learning_rate": 8.79630975525724e-05,
65177
+ "loss": 10.1681,
65178
+ "step": 9256
65179
+ },
65180
+ {
65181
+ "epoch": 1.61629784819519,
65182
+ "grad_norm": 0.07409882545471191,
65183
+ "learning_rate": 8.794493485847107e-05,
65184
+ "loss": 10.1523,
65185
+ "step": 9257
65186
+ },
65187
+ {
65188
+ "epoch": 1.6164724368207413,
65189
+ "grad_norm": 0.06840361654758453,
65190
+ "learning_rate": 8.792677256790186e-05,
65191
+ "loss": 10.1867,
65192
+ "step": 9258
65193
+ },
65194
+ {
65195
+ "epoch": 1.6166470254462921,
65196
+ "grad_norm": 0.07785259187221527,
65197
+ "learning_rate": 8.790861068147273e-05,
65198
+ "loss": 10.1632,
65199
+ "step": 9259
65200
+ },
65201
+ {
65202
+ "epoch": 1.6168216140718432,
65203
+ "grad_norm": 0.0737168937921524,
65204
+ "learning_rate": 8.789044919979168e-05,
65205
+ "loss": 10.1988,
65206
+ "step": 9260
65207
+ },
65208
+ {
65209
+ "epoch": 1.6169962026973943,
65210
+ "grad_norm": 0.06958770006895065,
65211
+ "learning_rate": 8.787228812346664e-05,
65212
+ "loss": 10.2086,
65213
+ "step": 9261
65214
+ },
65215
+ {
65216
+ "epoch": 1.6171707913229452,
65217
+ "grad_norm": 0.08163824677467346,
65218
+ "learning_rate": 8.78541274531055e-05,
65219
+ "loss": 10.1443,
65220
+ "step": 9262
65221
+ },
65222
+ {
65223
+ "epoch": 1.6173453799484965,
65224
+ "grad_norm": 0.07822663336992264,
65225
+ "learning_rate": 8.783596718931621e-05,
65226
+ "loss": 10.1986,
65227
+ "step": 9263
65228
+ },
65229
+ {
65230
+ "epoch": 1.6175199685740473,
65231
+ "grad_norm": 0.07783471792936325,
65232
+ "learning_rate": 8.781780733270666e-05,
65233
+ "loss": 10.1553,
65234
+ "step": 9264
65235
+ },
65236
+ {
65237
+ "epoch": 1.6176945571995984,
65238
+ "grad_norm": 0.0804174542427063,
65239
+ "learning_rate": 8.779964788388467e-05,
65240
+ "loss": 10.1747,
65241
+ "step": 9265
65242
+ },
65243
+ {
65244
+ "epoch": 1.6178691458251495,
65245
+ "grad_norm": 0.06887303292751312,
65246
+ "learning_rate": 8.778148884345822e-05,
65247
+ "loss": 10.1706,
65248
+ "step": 9266
65249
+ },
65250
+ {
65251
+ "epoch": 1.6180437344507004,
65252
+ "grad_norm": 0.0881643146276474,
65253
+ "learning_rate": 8.77633302120351e-05,
65254
+ "loss": 10.1774,
65255
+ "step": 9267
65256
+ },
65257
+ {
65258
+ "epoch": 1.6182183230762517,
65259
+ "grad_norm": 0.08054805546998978,
65260
+ "learning_rate": 8.774517199022315e-05,
65261
+ "loss": 10.1603,
65262
+ "step": 9268
65263
+ },
65264
+ {
65265
+ "epoch": 1.6183929117018026,
65266
+ "grad_norm": 0.08694548159837723,
65267
+ "learning_rate": 8.772701417863023e-05,
65268
+ "loss": 10.1721,
65269
+ "step": 9269
65270
+ },
65271
+ {
65272
+ "epoch": 1.6185675003273536,
65273
+ "grad_norm": 0.09044242650270462,
65274
+ "learning_rate": 8.770885677786416e-05,
65275
+ "loss": 10.1999,
65276
+ "step": 9270
65277
+ },
65278
+ {
65279
+ "epoch": 1.6187420889529047,
65280
+ "grad_norm": 0.08760779350996017,
65281
+ "learning_rate": 8.769069978853266e-05,
65282
+ "loss": 10.166,
65283
+ "step": 9271
65284
+ },
65285
+ {
65286
+ "epoch": 1.6189166775784558,
65287
+ "grad_norm": 0.10341989248991013,
65288
+ "learning_rate": 8.767254321124364e-05,
65289
+ "loss": 10.1824,
65290
+ "step": 9272
65291
+ },
65292
+ {
65293
+ "epoch": 1.619091266204007,
65294
+ "grad_norm": 0.10058993846178055,
65295
+ "learning_rate": 8.765438704660482e-05,
65296
+ "loss": 10.1665,
65297
+ "step": 9273
65298
+ },
65299
+ {
65300
+ "epoch": 1.6192658548295578,
65301
+ "grad_norm": 0.11514618247747421,
65302
+ "learning_rate": 8.763623129522391e-05,
65303
+ "loss": 10.1932,
65304
+ "step": 9274
65305
+ },
65306
+ {
65307
+ "epoch": 1.6194404434551088,
65308
+ "grad_norm": 0.10200915485620499,
65309
+ "learning_rate": 8.761807595770875e-05,
65310
+ "loss": 10.1712,
65311
+ "step": 9275
65312
+ },
65313
+ {
65314
+ "epoch": 1.61961503208066,
65315
+ "grad_norm": 0.1237570270895958,
65316
+ "learning_rate": 8.759992103466703e-05,
65317
+ "loss": 10.1764,
65318
+ "step": 9276
65319
+ },
65320
+ {
65321
+ "epoch": 1.619789620706211,
65322
+ "grad_norm": 0.17654161155223846,
65323
+ "learning_rate": 8.758176652670641e-05,
65324
+ "loss": 10.1629,
65325
+ "step": 9277
65326
+ },
65327
+ {
65328
+ "epoch": 1.619964209331762,
65329
+ "grad_norm": 0.07346244901418686,
65330
+ "learning_rate": 8.756361243443471e-05,
65331
+ "loss": 10.1973,
65332
+ "step": 9278
65333
+ },
65334
+ {
65335
+ "epoch": 1.620138797957313,
65336
+ "grad_norm": 0.0670231282711029,
65337
+ "learning_rate": 8.754545875845954e-05,
65338
+ "loss": 10.1917,
65339
+ "step": 9279
65340
+ },
65341
+ {
65342
+ "epoch": 1.6203133865828643,
65343
+ "grad_norm": 0.06379465013742447,
65344
+ "learning_rate": 8.75273054993886e-05,
65345
+ "loss": 10.2007,
65346
+ "step": 9280
65347
+ },
65348
+ {
65349
+ "epoch": 1.6204879752084151,
65350
+ "grad_norm": 0.06443239748477936,
65351
+ "learning_rate": 8.750915265782958e-05,
65352
+ "loss": 10.1741,
65353
+ "step": 9281
65354
+ },
65355
+ {
65356
+ "epoch": 1.6206625638339662,
65357
+ "grad_norm": 0.06869672983884811,
65358
+ "learning_rate": 8.749100023439008e-05,
65359
+ "loss": 10.1953,
65360
+ "step": 9282
65361
+ },
65362
+ {
65363
+ "epoch": 1.6208371524595173,
65364
+ "grad_norm": 0.06128140911459923,
65365
+ "learning_rate": 8.747284822967775e-05,
65366
+ "loss": 10.1812,
65367
+ "step": 9283
65368
+ },
65369
+ {
65370
+ "epoch": 1.6210117410850682,
65371
+ "grad_norm": 0.06991693377494812,
65372
+ "learning_rate": 8.745469664430024e-05,
65373
+ "loss": 10.1926,
65374
+ "step": 9284
65375
+ },
65376
+ {
65377
+ "epoch": 1.6211863297106195,
65378
+ "grad_norm": 0.06580346077680588,
65379
+ "learning_rate": 8.743654547886514e-05,
65380
+ "loss": 10.192,
65381
+ "step": 9285
65382
+ },
65383
+ {
65384
+ "epoch": 1.6213609183361704,
65385
+ "grad_norm": 0.06944914907217026,
65386
+ "learning_rate": 8.741839473398002e-05,
65387
+ "loss": 10.1831,
65388
+ "step": 9286
65389
+ },
65390
+ {
65391
+ "epoch": 1.6215355069617214,
65392
+ "grad_norm": 0.061913106590509415,
65393
+ "learning_rate": 8.740024441025252e-05,
65394
+ "loss": 10.1915,
65395
+ "step": 9287
65396
+ },
65397
+ {
65398
+ "epoch": 1.6217100955872725,
65399
+ "grad_norm": 0.06257984042167664,
65400
+ "learning_rate": 8.738209450829016e-05,
65401
+ "loss": 10.2095,
65402
+ "step": 9288
65403
+ },
65404
+ {
65405
+ "epoch": 1.6218846842128234,
65406
+ "grad_norm": 0.06942567974328995,
65407
+ "learning_rate": 8.736394502870045e-05,
65408
+ "loss": 10.1969,
65409
+ "step": 9289
65410
+ },
65411
+ {
65412
+ "epoch": 1.6220592728383747,
65413
+ "grad_norm": 0.0652766227722168,
65414
+ "learning_rate": 8.734579597209101e-05,
65415
+ "loss": 10.2003,
65416
+ "step": 9290
65417
+ },
65418
+ {
65419
+ "epoch": 1.6222338614639256,
65420
+ "grad_norm": 0.08180294185876846,
65421
+ "learning_rate": 8.732764733906934e-05,
65422
+ "loss": 10.1795,
65423
+ "step": 9291
65424
+ },
65425
+ {
65426
+ "epoch": 1.6224084500894767,
65427
+ "grad_norm": 0.05992243438959122,
65428
+ "learning_rate": 8.730949913024292e-05,
65429
+ "loss": 10.2111,
65430
+ "step": 9292
65431
+ },
65432
+ {
65433
+ "epoch": 1.6225830387150277,
65434
+ "grad_norm": 0.06457976251840591,
65435
+ "learning_rate": 8.729135134621926e-05,
65436
+ "loss": 10.1645,
65437
+ "step": 9293
65438
+ },
65439
+ {
65440
+ "epoch": 1.6227576273405786,
65441
+ "grad_norm": 0.05990750715136528,
65442
+ "learning_rate": 8.727320398760586e-05,
65443
+ "loss": 10.1823,
65444
+ "step": 9294
65445
+ },
65446
+ {
65447
+ "epoch": 1.62293221596613,
65448
+ "grad_norm": 0.06446637958288193,
65449
+ "learning_rate": 8.725505705501012e-05,
65450
+ "loss": 10.1942,
65451
+ "step": 9295
65452
+ },
65453
+ {
65454
+ "epoch": 1.6231068045916808,
65455
+ "grad_norm": 0.06729161739349365,
65456
+ "learning_rate": 8.72369105490396e-05,
65457
+ "loss": 10.1843,
65458
+ "step": 9296
65459
+ },
65460
+ {
65461
+ "epoch": 1.6232813932172319,
65462
+ "grad_norm": 0.06139076128602028,
65463
+ "learning_rate": 8.721876447030165e-05,
65464
+ "loss": 10.1994,
65465
+ "step": 9297
65466
+ },
65467
+ {
65468
+ "epoch": 1.623455981842783,
65469
+ "grad_norm": 0.061934974044561386,
65470
+ "learning_rate": 8.720061881940371e-05,
65471
+ "loss": 10.1613,
65472
+ "step": 9298
65473
+ },
65474
+ {
65475
+ "epoch": 1.623630570468334,
65476
+ "grad_norm": 0.06805019080638885,
65477
+ "learning_rate": 8.718247359695322e-05,
65478
+ "loss": 10.2046,
65479
+ "step": 9299
65480
+ },
65481
+ {
65482
+ "epoch": 1.6238051590938851,
65483
+ "grad_norm": 0.06742899864912033,
65484
+ "learning_rate": 8.716432880355755e-05,
65485
+ "loss": 10.182,
65486
+ "step": 9300
65487
+ },
65488
+ {
65489
+ "epoch": 1.623979747719436,
65490
+ "grad_norm": 0.07004272192716599,
65491
+ "learning_rate": 8.714618443982405e-05,
65492
+ "loss": 10.1916,
65493
+ "step": 9301
65494
+ },
65495
+ {
65496
+ "epoch": 1.624154336344987,
65497
+ "grad_norm": 0.0780642107129097,
65498
+ "learning_rate": 8.712804050636014e-05,
65499
+ "loss": 10.1751,
65500
+ "step": 9302
65501
+ },
65502
+ {
65503
+ "epoch": 1.6243289249705382,
65504
+ "grad_norm": 0.08883141726255417,
65505
+ "learning_rate": 8.710989700377319e-05,
65506
+ "loss": 10.2172,
65507
+ "step": 9303
65508
+ },
65509
+ {
65510
+ "epoch": 1.6245035135960892,
65511
+ "grad_norm": 0.06948909908533096,
65512
+ "learning_rate": 8.709175393267043e-05,
65513
+ "loss": 10.152,
65514
+ "step": 9304
65515
+ },
65516
+ {
65517
+ "epoch": 1.6246781022216403,
65518
+ "grad_norm": 0.07100000977516174,
65519
+ "learning_rate": 8.70736112936593e-05,
65520
+ "loss": 10.1945,
65521
+ "step": 9305
65522
+ },
65523
+ {
65524
+ "epoch": 1.6248526908471912,
65525
+ "grad_norm": 0.07785952836275101,
65526
+ "learning_rate": 8.705546908734704e-05,
65527
+ "loss": 10.1936,
65528
+ "step": 9306
65529
+ },
65530
+ {
65531
+ "epoch": 1.6250272794727425,
65532
+ "grad_norm": 0.07348459213972092,
65533
+ "learning_rate": 8.703732731434093e-05,
65534
+ "loss": 10.1806,
65535
+ "step": 9307
65536
+ },
65537
+ {
65538
+ "epoch": 1.6252018680982934,
65539
+ "grad_norm": 0.08152741193771362,
65540
+ "learning_rate": 8.701918597524835e-05,
65541
+ "loss": 10.1848,
65542
+ "step": 9308
65543
+ },
65544
+ {
65545
+ "epoch": 1.6253764567238445,
65546
+ "grad_norm": 0.0818166583776474,
65547
+ "learning_rate": 8.700104507067643e-05,
65548
+ "loss": 10.2143,
65549
+ "step": 9309
65550
+ },
65551
+ {
65552
+ "epoch": 1.6255510453493955,
65553
+ "grad_norm": 0.06859060376882553,
65554
+ "learning_rate": 8.698290460123252e-05,
65555
+ "loss": 10.1944,
65556
+ "step": 9310
65557
+ },
65558
+ {
65559
+ "epoch": 1.6257256339749464,
65560
+ "grad_norm": 0.08545675128698349,
65561
+ "learning_rate": 8.696476456752381e-05,
65562
+ "loss": 10.1442,
65563
+ "step": 9311
65564
+ },
65565
+ {
65566
+ "epoch": 1.6259002226004977,
65567
+ "grad_norm": 0.0816006138920784,
65568
+ "learning_rate": 8.694662497015751e-05,
65569
+ "loss": 10.1832,
65570
+ "step": 9312
65571
+ },
65572
+ {
65573
+ "epoch": 1.6260748112260486,
65574
+ "grad_norm": 0.07426564395427704,
65575
+ "learning_rate": 8.692848580974088e-05,
65576
+ "loss": 10.1722,
65577
+ "step": 9313
65578
+ },
65579
+ {
65580
+ "epoch": 1.6262493998515997,
65581
+ "grad_norm": 0.07660039514303207,
65582
+ "learning_rate": 8.691034708688111e-05,
65583
+ "loss": 10.1669,
65584
+ "step": 9314
65585
+ },
65586
+ {
65587
+ "epoch": 1.6264239884771508,
65588
+ "grad_norm": 0.08455685526132584,
65589
+ "learning_rate": 8.689220880218527e-05,
65590
+ "loss": 10.1476,
65591
+ "step": 9315
65592
+ },
65593
+ {
65594
+ "epoch": 1.6265985771027016,
65595
+ "grad_norm": 0.08295030891895294,
65596
+ "learning_rate": 8.687407095626065e-05,
65597
+ "loss": 10.1839,
65598
+ "step": 9316
65599
+ },
65600
+ {
65601
+ "epoch": 1.626773165728253,
65602
+ "grad_norm": 0.08193408697843552,
65603
+ "learning_rate": 8.685593354971433e-05,
65604
+ "loss": 10.2073,
65605
+ "step": 9317
65606
+ },
65607
+ {
65608
+ "epoch": 1.6269477543538038,
65609
+ "grad_norm": 0.08616027235984802,
65610
+ "learning_rate": 8.683779658315343e-05,
65611
+ "loss": 10.171,
65612
+ "step": 9318
65613
+ },
65614
+ {
65615
+ "epoch": 1.6271223429793549,
65616
+ "grad_norm": 0.09807632118463516,
65617
+ "learning_rate": 8.681966005718516e-05,
65618
+ "loss": 10.2219,
65619
+ "step": 9319
65620
+ },
65621
+ {
65622
+ "epoch": 1.627296931604906,
65623
+ "grad_norm": 0.10387607663869858,
65624
+ "learning_rate": 8.680152397241655e-05,
65625
+ "loss": 10.1544,
65626
+ "step": 9320
65627
+ },
65628
+ {
65629
+ "epoch": 1.6274715202304568,
65630
+ "grad_norm": 0.08219850808382034,
65631
+ "learning_rate": 8.678338832945462e-05,
65632
+ "loss": 10.1834,
65633
+ "step": 9321
65634
+ },
65635
+ {
65636
+ "epoch": 1.6276461088560081,
65637
+ "grad_norm": 0.10846133530139923,
65638
+ "learning_rate": 8.67652531289066e-05,
65639
+ "loss": 10.185,
65640
+ "step": 9322
65641
+ },
65642
+ {
65643
+ "epoch": 1.627820697481559,
65644
+ "grad_norm": 0.11633381992578506,
65645
+ "learning_rate": 8.674711837137947e-05,
65646
+ "loss": 10.2064,
65647
+ "step": 9323
65648
+ },
65649
+ {
65650
+ "epoch": 1.62799528610711,
65651
+ "grad_norm": 0.10548180341720581,
65652
+ "learning_rate": 8.672898405748024e-05,
65653
+ "loss": 10.1783,
65654
+ "step": 9324
65655
+ },
65656
+ {
65657
+ "epoch": 1.6281698747326612,
65658
+ "grad_norm": 0.10795598477125168,
65659
+ "learning_rate": 8.6710850187816e-05,
65660
+ "loss": 10.1808,
65661
+ "step": 9325
65662
+ },
65663
+ {
65664
+ "epoch": 1.6283444633582123,
65665
+ "grad_norm": 0.13341043889522552,
65666
+ "learning_rate": 8.669271676299374e-05,
65667
+ "loss": 10.2216,
65668
+ "step": 9326
65669
+ },
65670
+ {
65671
+ "epoch": 1.6285190519837633,
65672
+ "grad_norm": 0.19589081406593323,
65673
+ "learning_rate": 8.667458378362042e-05,
65674
+ "loss": 10.1894,
65675
+ "step": 9327
65676
+ },
65677
+ {
65678
+ "epoch": 1.6286936406093142,
65679
+ "grad_norm": 0.07866211235523224,
65680
+ "learning_rate": 8.665645125030311e-05,
65681
+ "loss": 10.2042,
65682
+ "step": 9328
65683
+ },
65684
+ {
65685
+ "epoch": 1.6288682292348653,
65686
+ "grad_norm": 0.11025114357471466,
65687
+ "learning_rate": 8.663831916364872e-05,
65688
+ "loss": 10.2193,
65689
+ "step": 9329
65690
+ },
65691
+ {
65692
+ "epoch": 1.6290428178604164,
65693
+ "grad_norm": 0.07128734141588211,
65694
+ "learning_rate": 8.662018752426422e-05,
65695
+ "loss": 10.1904,
65696
+ "step": 9330
65697
+ },
65698
+ {
65699
+ "epoch": 1.6292174064859675,
65700
+ "grad_norm": 0.06378907710313797,
65701
+ "learning_rate": 8.660205633275656e-05,
65702
+ "loss": 10.2063,
65703
+ "step": 9331
65704
+ },
65705
+ {
65706
+ "epoch": 1.6293919951115186,
65707
+ "grad_norm": 0.06026989966630936,
65708
+ "learning_rate": 8.658392558973265e-05,
65709
+ "loss": 10.2222,
65710
+ "step": 9332
65711
+ },
65712
+ {
65713
+ "epoch": 1.6295665837370694,
65714
+ "grad_norm": 0.06189148873090744,
65715
+ "learning_rate": 8.656579529579936e-05,
65716
+ "loss": 10.1873,
65717
+ "step": 9333
65718
+ },
65719
+ {
65720
+ "epoch": 1.6297411723626207,
65721
+ "grad_norm": 0.05808335915207863,
65722
+ "learning_rate": 8.654766545156368e-05,
65723
+ "loss": 10.2026,
65724
+ "step": 9334
65725
+ },
65726
+ {
65727
+ "epoch": 1.6299157609881716,
65728
+ "grad_norm": 0.064690001308918,
65729
+ "learning_rate": 8.652953605763242e-05,
65730
+ "loss": 10.2088,
65731
+ "step": 9335
65732
+ },
65733
+ {
65734
+ "epoch": 1.6300903496137227,
65735
+ "grad_norm": 0.06713184714317322,
65736
+ "learning_rate": 8.651140711461245e-05,
65737
+ "loss": 10.1924,
65738
+ "step": 9336
65739
+ },
65740
+ {
65741
+ "epoch": 1.6302649382392738,
65742
+ "grad_norm": 0.06124591827392578,
65743
+ "learning_rate": 8.649327862311067e-05,
65744
+ "loss": 10.207,
65745
+ "step": 9337
65746
+ },
65747
+ {
65748
+ "epoch": 1.6304395268648246,
65749
+ "grad_norm": 0.06671436876058578,
65750
+ "learning_rate": 8.647515058373385e-05,
65751
+ "loss": 10.1922,
65752
+ "step": 9338
65753
+ },
65754
+ {
65755
+ "epoch": 1.630614115490376,
65756
+ "grad_norm": 0.058614280074834824,
65757
+ "learning_rate": 8.645702299708881e-05,
65758
+ "loss": 10.2218,
65759
+ "step": 9339
65760
+ },
65761
+ {
65762
+ "epoch": 1.6307887041159268,
65763
+ "grad_norm": 0.07057064771652222,
65764
+ "learning_rate": 8.643889586378242e-05,
65765
+ "loss": 10.1667,
65766
+ "step": 9340
65767
+ },
65768
+ {
65769
+ "epoch": 1.6309632927414779,
65770
+ "grad_norm": 0.058766335248947144,
65771
+ "learning_rate": 8.642076918442143e-05,
65772
+ "loss": 10.196,
65773
+ "step": 9341
65774
+ },
65775
+ {
65776
+ "epoch": 1.631137881367029,
65777
+ "grad_norm": 0.07232945412397385,
65778
+ "learning_rate": 8.640264295961258e-05,
65779
+ "loss": 10.2015,
65780
+ "step": 9342
65781
+ },
65782
+ {
65783
+ "epoch": 1.6313124699925798,
65784
+ "grad_norm": 0.05747472494840622,
65785
+ "learning_rate": 8.63845171899627e-05,
65786
+ "loss": 10.2063,
65787
+ "step": 9343
65788
+ },
65789
+ {
65790
+ "epoch": 1.6314870586181311,
65791
+ "grad_norm": 0.06670675426721573,
65792
+ "learning_rate": 8.636639187607848e-05,
65793
+ "loss": 10.2164,
65794
+ "step": 9344
65795
+ },
65796
+ {
65797
+ "epoch": 1.631661647243682,
65798
+ "grad_norm": 0.06949648261070251,
65799
+ "learning_rate": 8.634826701856663e-05,
65800
+ "loss": 10.2011,
65801
+ "step": 9345
65802
+ },
65803
+ {
65804
+ "epoch": 1.631836235869233,
65805
+ "grad_norm": 0.0682314932346344,
65806
+ "learning_rate": 8.633014261803394e-05,
65807
+ "loss": 10.1973,
65808
+ "step": 9346
65809
+ },
65810
+ {
65811
+ "epoch": 1.6320108244947842,
65812
+ "grad_norm": 0.0703323557972908,
65813
+ "learning_rate": 8.631201867508705e-05,
65814
+ "loss": 10.2086,
65815
+ "step": 9347
65816
+ },
65817
+ {
65818
+ "epoch": 1.632185413120335,
65819
+ "grad_norm": 0.08029299229383469,
65820
+ "learning_rate": 8.629389519033264e-05,
65821
+ "loss": 10.1659,
65822
+ "step": 9348
65823
+ },
65824
+ {
65825
+ "epoch": 1.6323600017458864,
65826
+ "grad_norm": 0.06932844966650009,
65827
+ "learning_rate": 8.627577216437742e-05,
65828
+ "loss": 10.1828,
65829
+ "step": 9349
65830
+ },
65831
+ {
65832
+ "epoch": 1.6325345903714372,
65833
+ "grad_norm": 0.0711304172873497,
65834
+ "learning_rate": 8.6257649597828e-05,
65835
+ "loss": 10.2035,
65836
+ "step": 9350
65837
+ },
65838
+ {
65839
+ "epoch": 1.6327091789969883,
65840
+ "grad_norm": 0.060350511223077774,
65841
+ "learning_rate": 8.6239527491291e-05,
65842
+ "loss": 10.1813,
65843
+ "step": 9351
65844
+ },
65845
+ {
65846
+ "epoch": 1.6328837676225394,
65847
+ "grad_norm": 0.07296808809041977,
65848
+ "learning_rate": 8.622140584537311e-05,
65849
+ "loss": 10.2147,
65850
+ "step": 9352
65851
+ },
65852
+ {
65853
+ "epoch": 1.6330583562480905,
65854
+ "grad_norm": 0.06876688450574875,
65855
+ "learning_rate": 8.62032846606809e-05,
65856
+ "loss": 10.1862,
65857
+ "step": 9353
65858
+ },
65859
+ {
65860
+ "epoch": 1.6332329448736416,
65861
+ "grad_norm": 0.06578783690929413,
65862
+ "learning_rate": 8.618516393782094e-05,
65863
+ "loss": 10.1662,
65864
+ "step": 9354
65865
+ },
65866
+ {
65867
+ "epoch": 1.6334075334991924,
65868
+ "grad_norm": 0.08103174716234207,
65869
+ "learning_rate": 8.616704367739982e-05,
65870
+ "loss": 10.2,
65871
+ "step": 9355
65872
+ },
65873
+ {
65874
+ "epoch": 1.6335821221247435,
65875
+ "grad_norm": 0.07815065234899521,
65876
+ "learning_rate": 8.614892388002411e-05,
65877
+ "loss": 10.1887,
65878
+ "step": 9356
65879
+ },
65880
+ {
65881
+ "epoch": 1.6337567107502946,
65882
+ "grad_norm": 0.08136928826570511,
65883
+ "learning_rate": 8.61308045463003e-05,
65884
+ "loss": 10.1892,
65885
+ "step": 9357
65886
+ },
65887
+ {
65888
+ "epoch": 1.6339312993758457,
65889
+ "grad_norm": 0.07153888791799545,
65890
+ "learning_rate": 8.611268567683502e-05,
65891
+ "loss": 10.2161,
65892
+ "step": 9358
65893
+ },
65894
+ {
65895
+ "epoch": 1.6341058880013968,
65896
+ "grad_norm": 0.07642023265361786,
65897
+ "learning_rate": 8.60945672722347e-05,
65898
+ "loss": 10.1885,
65899
+ "step": 9359
65900
+ },
65901
+ {
65902
+ "epoch": 1.6342804766269476,
65903
+ "grad_norm": 0.06312879920005798,
65904
+ "learning_rate": 8.607644933310583e-05,
65905
+ "loss": 10.1951,
65906
+ "step": 9360
65907
+ },
65908
+ {
65909
+ "epoch": 1.634455065252499,
65910
+ "grad_norm": 0.07414217293262482,
65911
+ "learning_rate": 8.605833186005496e-05,
65912
+ "loss": 10.193,
65913
+ "step": 9361
65914
+ },
65915
+ {
65916
+ "epoch": 1.6346296538780498,
65917
+ "grad_norm": 0.06988257169723511,
65918
+ "learning_rate": 8.604021485368853e-05,
65919
+ "loss": 10.177,
65920
+ "step": 9362
65921
+ },
65922
+ {
65923
+ "epoch": 1.634804242503601,
65924
+ "grad_norm": 0.08214297145605087,
65925
+ "learning_rate": 8.60220983146129e-05,
65926
+ "loss": 10.1813,
65927
+ "step": 9363
65928
+ },
65929
+ {
65930
+ "epoch": 1.634978831129152,
65931
+ "grad_norm": 0.07125953584909439,
65932
+ "learning_rate": 8.600398224343466e-05,
65933
+ "loss": 10.175,
65934
+ "step": 9364
65935
+ },
65936
+ {
65937
+ "epoch": 1.6351534197547029,
65938
+ "grad_norm": 0.08501436561346054,
65939
+ "learning_rate": 8.598586664076013e-05,
65940
+ "loss": 10.1827,
65941
+ "step": 9365
65942
+ },
65943
+ {
65944
+ "epoch": 1.6353280083802542,
65945
+ "grad_norm": 0.07539831101894379,
65946
+ "learning_rate": 8.59677515071957e-05,
65947
+ "loss": 10.1738,
65948
+ "step": 9366
65949
+ },
65950
+ {
65951
+ "epoch": 1.635502597005805,
65952
+ "grad_norm": 0.08917230367660522,
65953
+ "learning_rate": 8.594963684334783e-05,
65954
+ "loss": 10.2028,
65955
+ "step": 9367
65956
+ },
65957
+ {
65958
+ "epoch": 1.6356771856313561,
65959
+ "grad_norm": 0.09726104885339737,
65960
+ "learning_rate": 8.593152264982285e-05,
65961
+ "loss": 10.1836,
65962
+ "step": 9368
65963
+ },
65964
+ {
65965
+ "epoch": 1.6358517742569072,
65966
+ "grad_norm": 0.07356418669223785,
65967
+ "learning_rate": 8.591340892722707e-05,
65968
+ "loss": 10.1762,
65969
+ "step": 9369
65970
+ },
65971
+ {
65972
+ "epoch": 1.636026362882458,
65973
+ "grad_norm": 0.10278692096471786,
65974
+ "learning_rate": 8.589529567616692e-05,
65975
+ "loss": 10.1777,
65976
+ "step": 9370
65977
+ },
65978
+ {
65979
+ "epoch": 1.6362009515080094,
65980
+ "grad_norm": 0.09173469990491867,
65981
+ "learning_rate": 8.587718289724869e-05,
65982
+ "loss": 10.2129,
65983
+ "step": 9371
65984
+ },
65985
+ {
65986
+ "epoch": 1.6363755401335602,
65987
+ "grad_norm": 0.10361278802156448,
65988
+ "learning_rate": 8.585907059107864e-05,
65989
+ "loss": 10.2119,
65990
+ "step": 9372
65991
+ },
65992
+ {
65993
+ "epoch": 1.6365501287591113,
65994
+ "grad_norm": 0.10907046496868134,
65995
+ "learning_rate": 8.584095875826313e-05,
65996
+ "loss": 10.2072,
65997
+ "step": 9373
65998
+ },
65999
+ {
66000
+ "epoch": 1.6367247173846624,
66001
+ "grad_norm": 0.11970183998346329,
66002
+ "learning_rate": 8.582284739940842e-05,
66003
+ "loss": 10.1639,
66004
+ "step": 9374
66005
+ },
66006
+ {
66007
+ "epoch": 1.6368993060102133,
66008
+ "grad_norm": 0.12201003730297089,
66009
+ "learning_rate": 8.580473651512071e-05,
66010
+ "loss": 10.1972,
66011
+ "step": 9375
66012
+ },
66013
+ {
66014
+ "epoch": 1.6370738946357646,
66015
+ "grad_norm": 0.13224689662456512,
66016
+ "learning_rate": 8.578662610600635e-05,
66017
+ "loss": 10.2162,
66018
+ "step": 9376
66019
+ },
66020
+ {
66021
+ "epoch": 1.6372484832613154,
66022
+ "grad_norm": 0.17493341863155365,
66023
+ "learning_rate": 8.57685161726715e-05,
66024
+ "loss": 10.2143,
66025
+ "step": 9377
66026
+ },
66027
+ {
66028
+ "epoch": 1.6374230718868665,
66029
+ "grad_norm": 0.06743405014276505,
66030
+ "learning_rate": 8.575040671572238e-05,
66031
+ "loss": 10.2094,
66032
+ "step": 9378
66033
+ },
66034
+ {
66035
+ "epoch": 1.6375976605124176,
66036
+ "grad_norm": 0.0759405791759491,
66037
+ "learning_rate": 8.573229773576521e-05,
66038
+ "loss": 10.1827,
66039
+ "step": 9379
66040
+ },
66041
+ {
66042
+ "epoch": 1.6377722491379687,
66043
+ "grad_norm": 0.06093451753258705,
66044
+ "learning_rate": 8.571418923340615e-05,
66045
+ "loss": 10.1885,
66046
+ "step": 9380
66047
+ },
66048
+ {
66049
+ "epoch": 1.6379468377635198,
66050
+ "grad_norm": 0.07189303636550903,
66051
+ "learning_rate": 8.569608120925135e-05,
66052
+ "loss": 10.194,
66053
+ "step": 9381
66054
+ },
66055
+ {
66056
+ "epoch": 1.6381214263890707,
66057
+ "grad_norm": 0.06595058739185333,
66058
+ "learning_rate": 8.567797366390701e-05,
66059
+ "loss": 10.216,
66060
+ "step": 9382
66061
+ },
66062
+ {
66063
+ "epoch": 1.6382960150146217,
66064
+ "grad_norm": 0.05698167905211449,
66065
+ "learning_rate": 8.565986659797924e-05,
66066
+ "loss": 10.1876,
66067
+ "step": 9383
66068
+ },
66069
+ {
66070
+ "epoch": 1.6384706036401728,
66071
+ "grad_norm": 0.061464518308639526,
66072
+ "learning_rate": 8.564176001207411e-05,
66073
+ "loss": 10.2131,
66074
+ "step": 9384
66075
+ },
66076
+ {
66077
+ "epoch": 1.638645192265724,
66078
+ "grad_norm": 0.06862001121044159,
66079
+ "learning_rate": 8.562365390679781e-05,
66080
+ "loss": 10.1947,
66081
+ "step": 9385
66082
+ },
66083
+ {
66084
+ "epoch": 1.638819780891275,
66085
+ "grad_norm": 0.05966338887810707,
66086
+ "learning_rate": 8.560554828275636e-05,
66087
+ "loss": 10.1986,
66088
+ "step": 9386
66089
+ },
66090
+ {
66091
+ "epoch": 1.6389943695168259,
66092
+ "grad_norm": 0.05482221394777298,
66093
+ "learning_rate": 8.558744314055582e-05,
66094
+ "loss": 10.1945,
66095
+ "step": 9387
66096
+ },
66097
+ {
66098
+ "epoch": 1.6391689581423772,
66099
+ "grad_norm": 0.05962347984313965,
66100
+ "learning_rate": 8.556933848080231e-05,
66101
+ "loss": 10.1745,
66102
+ "step": 9388
66103
+ },
66104
+ {
66105
+ "epoch": 1.639343546767928,
66106
+ "grad_norm": 0.05966530740261078,
66107
+ "learning_rate": 8.555123430410182e-05,
66108
+ "loss": 10.1852,
66109
+ "step": 9389
66110
+ },
66111
+ {
66112
+ "epoch": 1.6395181353934791,
66113
+ "grad_norm": 0.06899696588516235,
66114
+ "learning_rate": 8.553313061106036e-05,
66115
+ "loss": 10.1739,
66116
+ "step": 9390
66117
+ },
66118
+ {
66119
+ "epoch": 1.6396927240190302,
66120
+ "grad_norm": 0.08243034034967422,
66121
+ "learning_rate": 8.551502740228397e-05,
66122
+ "loss": 10.1835,
66123
+ "step": 9391
66124
+ },
66125
+ {
66126
+ "epoch": 1.639867312644581,
66127
+ "grad_norm": 0.06705441325902939,
66128
+ "learning_rate": 8.549692467837864e-05,
66129
+ "loss": 10.2158,
66130
+ "step": 9392
66131
+ },
66132
+ {
66133
+ "epoch": 1.6400419012701324,
66134
+ "grad_norm": 0.06577231734991074,
66135
+ "learning_rate": 8.547882243995026e-05,
66136
+ "loss": 10.22,
66137
+ "step": 9393
66138
+ },
66139
+ {
66140
+ "epoch": 1.6402164898956832,
66141
+ "grad_norm": 0.07103051990270615,
66142
+ "learning_rate": 8.546072068760489e-05,
66143
+ "loss": 10.1929,
66144
+ "step": 9394
66145
+ },
66146
+ {
66147
+ "epoch": 1.6403910785212343,
66148
+ "grad_norm": 0.06531079113483429,
66149
+ "learning_rate": 8.544261942194843e-05,
66150
+ "loss": 10.184,
66151
+ "step": 9395
66152
+ },
66153
+ {
66154
+ "epoch": 1.6405656671467854,
66155
+ "grad_norm": 0.06413760036230087,
66156
+ "learning_rate": 8.542451864358678e-05,
66157
+ "loss": 10.1857,
66158
+ "step": 9396
66159
+ },
66160
+ {
66161
+ "epoch": 1.6407402557723363,
66162
+ "grad_norm": 0.06349893659353256,
66163
+ "learning_rate": 8.540641835312588e-05,
66164
+ "loss": 10.2024,
66165
+ "step": 9397
66166
+ },
66167
+ {
66168
+ "epoch": 1.6409148443978876,
66169
+ "grad_norm": 0.06230580061674118,
66170
+ "learning_rate": 8.538831855117162e-05,
66171
+ "loss": 10.1891,
66172
+ "step": 9398
66173
+ },
66174
+ {
66175
+ "epoch": 1.6410894330234385,
66176
+ "grad_norm": 0.07384272664785385,
66177
+ "learning_rate": 8.53702192383298e-05,
66178
+ "loss": 10.1941,
66179
+ "step": 9399
66180
+ },
66181
+ {
66182
+ "epoch": 1.6412640216489895,
66183
+ "grad_norm": 0.0610663928091526,
66184
+ "learning_rate": 8.53521204152064e-05,
66185
+ "loss": 10.1969,
66186
+ "step": 9400
66187
+ },
66188
+ {
66189
+ "epoch": 1.6412640216489895,
66190
+ "eval_loss": 10.170708656311035,
66191
+ "eval_runtime": 0.739,
66192
+ "eval_samples_per_second": 312.572,
66193
+ "eval_steps_per_second": 156.962,
66194
+ "step": 9400
66195
  }
66196
  ],
66197
  "logging_steps": 1,
 
66206
  "early_stopping_threshold": 0.0
66207
  },
66208
  "attributes": {
66209
+ "early_stopping_patience_counter": 0
66210
  }
66211
  },
66212
  "TrainerControl": {
 
66220
  "attributes": {}
66221
  }
66222
  },
66223
+ "total_flos": 510108146466816.0,
66224
  "train_batch_size": 2,
66225
  "trial_name": null,
66226
  "trial_params": null