error577 commited on
Commit
be2dc2d
·
verified ·
1 Parent(s): b1c991e

Training in progress, step 1200, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:edac32da7c4874cad379e0ba8503b08512e0d0249add492d5c84bb12d70420cb
3
  size 131146352
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:de83c25da4e1e42bc2156d9e93b81c93bd0b96e23fa5cc5f8d0ffd296a487dbb
3
  size 131146352
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:d9786f829611c76fc9f350a38c39c5c770ca079b010cb3ab2147d1cdfd7bf927
3
  size 100504276
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:6a18e40c851555368afab981160dfa4afa7b4a3df28ee790a343cfdccae42c0c
3
  size 100504276
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:93d6fde271975e0c88635540e6d36c5bd862e378fa7f7480dcfc6ed4dfe8ce70
3
  size 14244
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f8774eee986ebc551ae2bbc2bb5fc169dcdedcba4bf5ad4d5fd01cacdcd2c2c8
3
  size 14244
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:0b56e32a6e29ef8c6e58c43967a87d12c5a760fecfa1538f8c7fdb2f6a0651e0
3
  size 1064
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3fb1b6b3a2726bf0e901fa4a8dadc74eb6bfb687a75fb2b3404efd571a3a40a5
3
  size 1064
last-checkpoint/trainer_state.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "best_metric": 0.04605964198708534,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-1000",
4
- "epoch": 0.10609516736512652,
5
  "eval_steps": 200,
6
- "global_step": 1000,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
@@ -7055,6 +7055,1414 @@
7055
  "eval_samples_per_second": 3.1,
7056
  "eval_steps_per_second": 1.55,
7057
  "step": 1000
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7058
  }
7059
  ],
7060
  "logging_steps": 1,
@@ -7069,7 +8477,7 @@
7069
  "early_stopping_threshold": 0.0
7070
  },
7071
  "attributes": {
7072
- "early_stopping_patience_counter": 0
7073
  }
7074
  },
7075
  "TrainerControl": {
@@ -7083,7 +8491,7 @@
7083
  "attributes": {}
7084
  }
7085
  },
7086
- "total_flos": 3.065939765231616e+17,
7087
  "train_batch_size": 2,
7088
  "trial_name": null,
7089
  "trial_params": null
 
1
  {
2
  "best_metric": 0.04605964198708534,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-1000",
4
+ "epoch": 0.12731420083815181,
5
  "eval_steps": 200,
6
+ "global_step": 1200,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
 
7055
  "eval_samples_per_second": 3.1,
7056
  "eval_steps_per_second": 1.55,
7057
  "step": 1000
7058
+ },
7059
+ {
7060
+ "epoch": 0.10620126253249164,
7061
+ "grad_norm": 4.841498851776123,
7062
+ "learning_rate": 0.0002,
7063
+ "loss": 0.2612,
7064
+ "step": 1001
7065
+ },
7066
+ {
7067
+ "epoch": 0.10630735769985677,
7068
+ "grad_norm": 3.1755409240722656,
7069
+ "learning_rate": 0.0002,
7070
+ "loss": 0.1179,
7071
+ "step": 1002
7072
+ },
7073
+ {
7074
+ "epoch": 0.1064134528672219,
7075
+ "grad_norm": 6.4283857345581055,
7076
+ "learning_rate": 0.0002,
7077
+ "loss": 0.3499,
7078
+ "step": 1003
7079
+ },
7080
+ {
7081
+ "epoch": 0.10651954803458702,
7082
+ "grad_norm": 2.556008815765381,
7083
+ "learning_rate": 0.0002,
7084
+ "loss": 0.0907,
7085
+ "step": 1004
7086
+ },
7087
+ {
7088
+ "epoch": 0.10662564320195216,
7089
+ "grad_norm": 2.873443126678467,
7090
+ "learning_rate": 0.0002,
7091
+ "loss": 0.1008,
7092
+ "step": 1005
7093
+ },
7094
+ {
7095
+ "epoch": 0.10673173836931728,
7096
+ "grad_norm": 4.240716934204102,
7097
+ "learning_rate": 0.0002,
7098
+ "loss": 0.1456,
7099
+ "step": 1006
7100
+ },
7101
+ {
7102
+ "epoch": 0.1068378335366824,
7103
+ "grad_norm": 3.303347587585449,
7104
+ "learning_rate": 0.0002,
7105
+ "loss": 0.1388,
7106
+ "step": 1007
7107
+ },
7108
+ {
7109
+ "epoch": 0.10694392870404754,
7110
+ "grad_norm": 2.580970048904419,
7111
+ "learning_rate": 0.0002,
7112
+ "loss": 0.0845,
7113
+ "step": 1008
7114
+ },
7115
+ {
7116
+ "epoch": 0.10705002387141266,
7117
+ "grad_norm": 5.031477928161621,
7118
+ "learning_rate": 0.0002,
7119
+ "loss": 0.2127,
7120
+ "step": 1009
7121
+ },
7122
+ {
7123
+ "epoch": 0.10715611903877778,
7124
+ "grad_norm": 10.765517234802246,
7125
+ "learning_rate": 0.0002,
7126
+ "loss": 0.3643,
7127
+ "step": 1010
7128
+ },
7129
+ {
7130
+ "epoch": 0.10726221420614292,
7131
+ "grad_norm": 12.862351417541504,
7132
+ "learning_rate": 0.0002,
7133
+ "loss": 0.9245,
7134
+ "step": 1011
7135
+ },
7136
+ {
7137
+ "epoch": 0.10736830937350804,
7138
+ "grad_norm": 2.423178195953369,
7139
+ "learning_rate": 0.0002,
7140
+ "loss": 0.063,
7141
+ "step": 1012
7142
+ },
7143
+ {
7144
+ "epoch": 0.10747440454087316,
7145
+ "grad_norm": 8.211199760437012,
7146
+ "learning_rate": 0.0002,
7147
+ "loss": 0.2747,
7148
+ "step": 1013
7149
+ },
7150
+ {
7151
+ "epoch": 0.10758049970823828,
7152
+ "grad_norm": 4.859186172485352,
7153
+ "learning_rate": 0.0002,
7154
+ "loss": 0.156,
7155
+ "step": 1014
7156
+ },
7157
+ {
7158
+ "epoch": 0.10768659487560342,
7159
+ "grad_norm": 6.475876808166504,
7160
+ "learning_rate": 0.0002,
7161
+ "loss": 0.2587,
7162
+ "step": 1015
7163
+ },
7164
+ {
7165
+ "epoch": 0.10779269004296854,
7166
+ "grad_norm": 8.004240036010742,
7167
+ "learning_rate": 0.0002,
7168
+ "loss": 0.2996,
7169
+ "step": 1016
7170
+ },
7171
+ {
7172
+ "epoch": 0.10789878521033366,
7173
+ "grad_norm": 9.652987480163574,
7174
+ "learning_rate": 0.0002,
7175
+ "loss": 0.4725,
7176
+ "step": 1017
7177
+ },
7178
+ {
7179
+ "epoch": 0.1080048803776988,
7180
+ "grad_norm": 5.915900707244873,
7181
+ "learning_rate": 0.0002,
7182
+ "loss": 0.1871,
7183
+ "step": 1018
7184
+ },
7185
+ {
7186
+ "epoch": 0.10811097554506392,
7187
+ "grad_norm": 5.781275272369385,
7188
+ "learning_rate": 0.0002,
7189
+ "loss": 0.1861,
7190
+ "step": 1019
7191
+ },
7192
+ {
7193
+ "epoch": 0.10821707071242904,
7194
+ "grad_norm": 3.964726448059082,
7195
+ "learning_rate": 0.0002,
7196
+ "loss": 0.0966,
7197
+ "step": 1020
7198
+ },
7199
+ {
7200
+ "epoch": 0.10832316587979418,
7201
+ "grad_norm": 4.190655708312988,
7202
+ "learning_rate": 0.0002,
7203
+ "loss": 0.1343,
7204
+ "step": 1021
7205
+ },
7206
+ {
7207
+ "epoch": 0.1084292610471593,
7208
+ "grad_norm": 10.784733772277832,
7209
+ "learning_rate": 0.0002,
7210
+ "loss": 0.6337,
7211
+ "step": 1022
7212
+ },
7213
+ {
7214
+ "epoch": 0.10853535621452443,
7215
+ "grad_norm": 3.6684811115264893,
7216
+ "learning_rate": 0.0002,
7217
+ "loss": 0.0844,
7218
+ "step": 1023
7219
+ },
7220
+ {
7221
+ "epoch": 0.10864145138188956,
7222
+ "grad_norm": 8.427834510803223,
7223
+ "learning_rate": 0.0002,
7224
+ "loss": 0.294,
7225
+ "step": 1024
7226
+ },
7227
+ {
7228
+ "epoch": 0.10874754654925468,
7229
+ "grad_norm": 6.719343662261963,
7230
+ "learning_rate": 0.0002,
7231
+ "loss": 0.3608,
7232
+ "step": 1025
7233
+ },
7234
+ {
7235
+ "epoch": 0.1088536417166198,
7236
+ "grad_norm": 8.410332679748535,
7237
+ "learning_rate": 0.0002,
7238
+ "loss": 0.2222,
7239
+ "step": 1026
7240
+ },
7241
+ {
7242
+ "epoch": 0.10895973688398493,
7243
+ "grad_norm": 5.013596534729004,
7244
+ "learning_rate": 0.0002,
7245
+ "loss": 0.191,
7246
+ "step": 1027
7247
+ },
7248
+ {
7249
+ "epoch": 0.10906583205135006,
7250
+ "grad_norm": 5.365532398223877,
7251
+ "learning_rate": 0.0002,
7252
+ "loss": 0.117,
7253
+ "step": 1028
7254
+ },
7255
+ {
7256
+ "epoch": 0.10917192721871519,
7257
+ "grad_norm": 9.163508415222168,
7258
+ "learning_rate": 0.0002,
7259
+ "loss": 0.291,
7260
+ "step": 1029
7261
+ },
7262
+ {
7263
+ "epoch": 0.10927802238608031,
7264
+ "grad_norm": 13.34863567352295,
7265
+ "learning_rate": 0.0002,
7266
+ "loss": 0.5781,
7267
+ "step": 1030
7268
+ },
7269
+ {
7270
+ "epoch": 0.10938411755344545,
7271
+ "grad_norm": 5.85091495513916,
7272
+ "learning_rate": 0.0002,
7273
+ "loss": 0.1623,
7274
+ "step": 1031
7275
+ },
7276
+ {
7277
+ "epoch": 0.10949021272081057,
7278
+ "grad_norm": 2.680802583694458,
7279
+ "learning_rate": 0.0002,
7280
+ "loss": 0.0572,
7281
+ "step": 1032
7282
+ },
7283
+ {
7284
+ "epoch": 0.10959630788817569,
7285
+ "grad_norm": 8.637289047241211,
7286
+ "learning_rate": 0.0002,
7287
+ "loss": 0.1041,
7288
+ "step": 1033
7289
+ },
7290
+ {
7291
+ "epoch": 0.10970240305554083,
7292
+ "grad_norm": 3.7488861083984375,
7293
+ "learning_rate": 0.0002,
7294
+ "loss": 0.1608,
7295
+ "step": 1034
7296
+ },
7297
+ {
7298
+ "epoch": 0.10980849822290595,
7299
+ "grad_norm": 9.101702690124512,
7300
+ "learning_rate": 0.0002,
7301
+ "loss": 0.2382,
7302
+ "step": 1035
7303
+ },
7304
+ {
7305
+ "epoch": 0.10991459339027107,
7306
+ "grad_norm": 6.855931758880615,
7307
+ "learning_rate": 0.0002,
7308
+ "loss": 0.2551,
7309
+ "step": 1036
7310
+ },
7311
+ {
7312
+ "epoch": 0.1100206885576362,
7313
+ "grad_norm": 5.662245750427246,
7314
+ "learning_rate": 0.0002,
7315
+ "loss": 0.2803,
7316
+ "step": 1037
7317
+ },
7318
+ {
7319
+ "epoch": 0.11012678372500133,
7320
+ "grad_norm": 13.947858810424805,
7321
+ "learning_rate": 0.0002,
7322
+ "loss": 0.8438,
7323
+ "step": 1038
7324
+ },
7325
+ {
7326
+ "epoch": 0.11023287889236645,
7327
+ "grad_norm": 3.861103057861328,
7328
+ "learning_rate": 0.0002,
7329
+ "loss": 0.1096,
7330
+ "step": 1039
7331
+ },
7332
+ {
7333
+ "epoch": 0.11033897405973157,
7334
+ "grad_norm": 4.768041610717773,
7335
+ "learning_rate": 0.0002,
7336
+ "loss": 0.1284,
7337
+ "step": 1040
7338
+ },
7339
+ {
7340
+ "epoch": 0.11044506922709671,
7341
+ "grad_norm": 8.931245803833008,
7342
+ "learning_rate": 0.0002,
7343
+ "loss": 0.4122,
7344
+ "step": 1041
7345
+ },
7346
+ {
7347
+ "epoch": 0.11055116439446183,
7348
+ "grad_norm": 6.585056304931641,
7349
+ "learning_rate": 0.0002,
7350
+ "loss": 0.0836,
7351
+ "step": 1042
7352
+ },
7353
+ {
7354
+ "epoch": 0.11065725956182695,
7355
+ "grad_norm": 7.952004909515381,
7356
+ "learning_rate": 0.0002,
7357
+ "loss": 0.2141,
7358
+ "step": 1043
7359
+ },
7360
+ {
7361
+ "epoch": 0.11076335472919209,
7362
+ "grad_norm": 12.633135795593262,
7363
+ "learning_rate": 0.0002,
7364
+ "loss": 0.2851,
7365
+ "step": 1044
7366
+ },
7367
+ {
7368
+ "epoch": 0.11086944989655721,
7369
+ "grad_norm": 12.42103385925293,
7370
+ "learning_rate": 0.0002,
7371
+ "loss": 0.2862,
7372
+ "step": 1045
7373
+ },
7374
+ {
7375
+ "epoch": 0.11097554506392233,
7376
+ "grad_norm": 5.174999713897705,
7377
+ "learning_rate": 0.0002,
7378
+ "loss": 0.1889,
7379
+ "step": 1046
7380
+ },
7381
+ {
7382
+ "epoch": 0.11108164023128747,
7383
+ "grad_norm": 14.995347023010254,
7384
+ "learning_rate": 0.0002,
7385
+ "loss": 0.4448,
7386
+ "step": 1047
7387
+ },
7388
+ {
7389
+ "epoch": 0.11118773539865259,
7390
+ "grad_norm": 6.2882304191589355,
7391
+ "learning_rate": 0.0002,
7392
+ "loss": 0.2815,
7393
+ "step": 1048
7394
+ },
7395
+ {
7396
+ "epoch": 0.11129383056601772,
7397
+ "grad_norm": 9.961227416992188,
7398
+ "learning_rate": 0.0002,
7399
+ "loss": 0.2628,
7400
+ "step": 1049
7401
+ },
7402
+ {
7403
+ "epoch": 0.11139992573338285,
7404
+ "grad_norm": 153.41493225097656,
7405
+ "learning_rate": 0.0002,
7406
+ "loss": 2.4994,
7407
+ "step": 1050
7408
+ },
7409
+ {
7410
+ "epoch": 0.11150602090074797,
7411
+ "grad_norm": 7.719893932342529,
7412
+ "learning_rate": 0.0002,
7413
+ "loss": 0.3934,
7414
+ "step": 1051
7415
+ },
7416
+ {
7417
+ "epoch": 0.1116121160681131,
7418
+ "grad_norm": 6.404787540435791,
7419
+ "learning_rate": 0.0002,
7420
+ "loss": 0.1049,
7421
+ "step": 1052
7422
+ },
7423
+ {
7424
+ "epoch": 0.11171821123547822,
7425
+ "grad_norm": 4.991966247558594,
7426
+ "learning_rate": 0.0002,
7427
+ "loss": 0.2368,
7428
+ "step": 1053
7429
+ },
7430
+ {
7431
+ "epoch": 0.11182430640284335,
7432
+ "grad_norm": 10.780029296875,
7433
+ "learning_rate": 0.0002,
7434
+ "loss": 0.6035,
7435
+ "step": 1054
7436
+ },
7437
+ {
7438
+ "epoch": 0.11193040157020848,
7439
+ "grad_norm": 4.436051368713379,
7440
+ "learning_rate": 0.0002,
7441
+ "loss": 0.162,
7442
+ "step": 1055
7443
+ },
7444
+ {
7445
+ "epoch": 0.1120364967375736,
7446
+ "grad_norm": 5.31149959564209,
7447
+ "learning_rate": 0.0002,
7448
+ "loss": 0.1948,
7449
+ "step": 1056
7450
+ },
7451
+ {
7452
+ "epoch": 0.11214259190493873,
7453
+ "grad_norm": 5.0994873046875,
7454
+ "learning_rate": 0.0002,
7455
+ "loss": 0.272,
7456
+ "step": 1057
7457
+ },
7458
+ {
7459
+ "epoch": 0.11224868707230386,
7460
+ "grad_norm": 7.52865743637085,
7461
+ "learning_rate": 0.0002,
7462
+ "loss": 0.2583,
7463
+ "step": 1058
7464
+ },
7465
+ {
7466
+ "epoch": 0.11235478223966898,
7467
+ "grad_norm": 3.5193498134613037,
7468
+ "learning_rate": 0.0002,
7469
+ "loss": 0.1601,
7470
+ "step": 1059
7471
+ },
7472
+ {
7473
+ "epoch": 0.11246087740703412,
7474
+ "grad_norm": 4.611939907073975,
7475
+ "learning_rate": 0.0002,
7476
+ "loss": 0.1936,
7477
+ "step": 1060
7478
+ },
7479
+ {
7480
+ "epoch": 0.11256697257439924,
7481
+ "grad_norm": 6.021697998046875,
7482
+ "learning_rate": 0.0002,
7483
+ "loss": 0.2719,
7484
+ "step": 1061
7485
+ },
7486
+ {
7487
+ "epoch": 0.11267306774176436,
7488
+ "grad_norm": 5.79730224609375,
7489
+ "learning_rate": 0.0002,
7490
+ "loss": 0.1744,
7491
+ "step": 1062
7492
+ },
7493
+ {
7494
+ "epoch": 0.11277916290912948,
7495
+ "grad_norm": 11.0021333694458,
7496
+ "learning_rate": 0.0002,
7497
+ "loss": 0.6133,
7498
+ "step": 1063
7499
+ },
7500
+ {
7501
+ "epoch": 0.11288525807649462,
7502
+ "grad_norm": 3.674099922180176,
7503
+ "learning_rate": 0.0002,
7504
+ "loss": 0.1215,
7505
+ "step": 1064
7506
+ },
7507
+ {
7508
+ "epoch": 0.11299135324385974,
7509
+ "grad_norm": 7.8867573738098145,
7510
+ "learning_rate": 0.0002,
7511
+ "loss": 0.295,
7512
+ "step": 1065
7513
+ },
7514
+ {
7515
+ "epoch": 0.11309744841122486,
7516
+ "grad_norm": 5.821372985839844,
7517
+ "learning_rate": 0.0002,
7518
+ "loss": 0.219,
7519
+ "step": 1066
7520
+ },
7521
+ {
7522
+ "epoch": 0.11320354357859,
7523
+ "grad_norm": 6.051746368408203,
7524
+ "learning_rate": 0.0002,
7525
+ "loss": 0.1511,
7526
+ "step": 1067
7527
+ },
7528
+ {
7529
+ "epoch": 0.11330963874595512,
7530
+ "grad_norm": 6.958406448364258,
7531
+ "learning_rate": 0.0002,
7532
+ "loss": 0.2474,
7533
+ "step": 1068
7534
+ },
7535
+ {
7536
+ "epoch": 0.11341573391332024,
7537
+ "grad_norm": 8.159649848937988,
7538
+ "learning_rate": 0.0002,
7539
+ "loss": 0.3385,
7540
+ "step": 1069
7541
+ },
7542
+ {
7543
+ "epoch": 0.11352182908068538,
7544
+ "grad_norm": 5.378207683563232,
7545
+ "learning_rate": 0.0002,
7546
+ "loss": 0.3034,
7547
+ "step": 1070
7548
+ },
7549
+ {
7550
+ "epoch": 0.1136279242480505,
7551
+ "grad_norm": 5.427059650421143,
7552
+ "learning_rate": 0.0002,
7553
+ "loss": 0.2313,
7554
+ "step": 1071
7555
+ },
7556
+ {
7557
+ "epoch": 0.11373401941541562,
7558
+ "grad_norm": 4.548110008239746,
7559
+ "learning_rate": 0.0002,
7560
+ "loss": 0.1216,
7561
+ "step": 1072
7562
+ },
7563
+ {
7564
+ "epoch": 0.11384011458278076,
7565
+ "grad_norm": 8.052380561828613,
7566
+ "learning_rate": 0.0002,
7567
+ "loss": 0.3743,
7568
+ "step": 1073
7569
+ },
7570
+ {
7571
+ "epoch": 0.11394620975014588,
7572
+ "grad_norm": 6.338522911071777,
7573
+ "learning_rate": 0.0002,
7574
+ "loss": 0.2468,
7575
+ "step": 1074
7576
+ },
7577
+ {
7578
+ "epoch": 0.114052304917511,
7579
+ "grad_norm": 6.758045673370361,
7580
+ "learning_rate": 0.0002,
7581
+ "loss": 0.3011,
7582
+ "step": 1075
7583
+ },
7584
+ {
7585
+ "epoch": 0.11415840008487613,
7586
+ "grad_norm": 6.515815734863281,
7587
+ "learning_rate": 0.0002,
7588
+ "loss": 0.2676,
7589
+ "step": 1076
7590
+ },
7591
+ {
7592
+ "epoch": 0.11426449525224126,
7593
+ "grad_norm": 10.658228874206543,
7594
+ "learning_rate": 0.0002,
7595
+ "loss": 0.3921,
7596
+ "step": 1077
7597
+ },
7598
+ {
7599
+ "epoch": 0.11437059041960639,
7600
+ "grad_norm": 9.746109008789062,
7601
+ "learning_rate": 0.0002,
7602
+ "loss": 0.7113,
7603
+ "step": 1078
7604
+ },
7605
+ {
7606
+ "epoch": 0.11447668558697151,
7607
+ "grad_norm": 7.96254825592041,
7608
+ "learning_rate": 0.0002,
7609
+ "loss": 0.3067,
7610
+ "step": 1079
7611
+ },
7612
+ {
7613
+ "epoch": 0.11458278075433664,
7614
+ "grad_norm": 9.150073051452637,
7615
+ "learning_rate": 0.0002,
7616
+ "loss": 0.5182,
7617
+ "step": 1080
7618
+ },
7619
+ {
7620
+ "epoch": 0.11468887592170177,
7621
+ "grad_norm": 15.276697158813477,
7622
+ "learning_rate": 0.0002,
7623
+ "loss": 0.2532,
7624
+ "step": 1081
7625
+ },
7626
+ {
7627
+ "epoch": 0.11479497108906689,
7628
+ "grad_norm": 6.846829891204834,
7629
+ "learning_rate": 0.0002,
7630
+ "loss": 0.2687,
7631
+ "step": 1082
7632
+ },
7633
+ {
7634
+ "epoch": 0.11490106625643202,
7635
+ "grad_norm": 8.014737129211426,
7636
+ "learning_rate": 0.0002,
7637
+ "loss": 0.3505,
7638
+ "step": 1083
7639
+ },
7640
+ {
7641
+ "epoch": 0.11500716142379715,
7642
+ "grad_norm": 4.297073841094971,
7643
+ "learning_rate": 0.0002,
7644
+ "loss": 0.1367,
7645
+ "step": 1084
7646
+ },
7647
+ {
7648
+ "epoch": 0.11511325659116227,
7649
+ "grad_norm": 4.513153553009033,
7650
+ "learning_rate": 0.0002,
7651
+ "loss": 0.1415,
7652
+ "step": 1085
7653
+ },
7654
+ {
7655
+ "epoch": 0.1152193517585274,
7656
+ "grad_norm": 6.3977203369140625,
7657
+ "learning_rate": 0.0002,
7658
+ "loss": 0.2346,
7659
+ "step": 1086
7660
+ },
7661
+ {
7662
+ "epoch": 0.11532544692589253,
7663
+ "grad_norm": 6.178880214691162,
7664
+ "learning_rate": 0.0002,
7665
+ "loss": 0.2287,
7666
+ "step": 1087
7667
+ },
7668
+ {
7669
+ "epoch": 0.11543154209325765,
7670
+ "grad_norm": 8.008464813232422,
7671
+ "learning_rate": 0.0002,
7672
+ "loss": 0.4221,
7673
+ "step": 1088
7674
+ },
7675
+ {
7676
+ "epoch": 0.11553763726062277,
7677
+ "grad_norm": 8.416707038879395,
7678
+ "learning_rate": 0.0002,
7679
+ "loss": 0.1822,
7680
+ "step": 1089
7681
+ },
7682
+ {
7683
+ "epoch": 0.11564373242798791,
7684
+ "grad_norm": 10.450370788574219,
7685
+ "learning_rate": 0.0002,
7686
+ "loss": 0.4482,
7687
+ "step": 1090
7688
+ },
7689
+ {
7690
+ "epoch": 0.11574982759535303,
7691
+ "grad_norm": 7.946789741516113,
7692
+ "learning_rate": 0.0002,
7693
+ "loss": 0.2978,
7694
+ "step": 1091
7695
+ },
7696
+ {
7697
+ "epoch": 0.11585592276271815,
7698
+ "grad_norm": 5.009422302246094,
7699
+ "learning_rate": 0.0002,
7700
+ "loss": 0.1924,
7701
+ "step": 1092
7702
+ },
7703
+ {
7704
+ "epoch": 0.11596201793008329,
7705
+ "grad_norm": 8.511032104492188,
7706
+ "learning_rate": 0.0002,
7707
+ "loss": 0.2784,
7708
+ "step": 1093
7709
+ },
7710
+ {
7711
+ "epoch": 0.11606811309744841,
7712
+ "grad_norm": 8.13355827331543,
7713
+ "learning_rate": 0.0002,
7714
+ "loss": 0.2357,
7715
+ "step": 1094
7716
+ },
7717
+ {
7718
+ "epoch": 0.11617420826481353,
7719
+ "grad_norm": 3.1594395637512207,
7720
+ "learning_rate": 0.0002,
7721
+ "loss": 0.0594,
7722
+ "step": 1095
7723
+ },
7724
+ {
7725
+ "epoch": 0.11628030343217867,
7726
+ "grad_norm": 7.956035137176514,
7727
+ "learning_rate": 0.0002,
7728
+ "loss": 0.2205,
7729
+ "step": 1096
7730
+ },
7731
+ {
7732
+ "epoch": 0.11638639859954379,
7733
+ "grad_norm": 6.954958915710449,
7734
+ "learning_rate": 0.0002,
7735
+ "loss": 0.2728,
7736
+ "step": 1097
7737
+ },
7738
+ {
7739
+ "epoch": 0.11649249376690891,
7740
+ "grad_norm": 10.703007698059082,
7741
+ "learning_rate": 0.0002,
7742
+ "loss": 0.3546,
7743
+ "step": 1098
7744
+ },
7745
+ {
7746
+ "epoch": 0.11659858893427405,
7747
+ "grad_norm": 5.756525993347168,
7748
+ "learning_rate": 0.0002,
7749
+ "loss": 0.1839,
7750
+ "step": 1099
7751
+ },
7752
+ {
7753
+ "epoch": 0.11670468410163917,
7754
+ "grad_norm": 10.985968589782715,
7755
+ "learning_rate": 0.0002,
7756
+ "loss": 0.1482,
7757
+ "step": 1100
7758
+ },
7759
+ {
7760
+ "epoch": 0.1168107792690043,
7761
+ "grad_norm": 7.142670154571533,
7762
+ "learning_rate": 0.0002,
7763
+ "loss": 0.1799,
7764
+ "step": 1101
7765
+ },
7766
+ {
7767
+ "epoch": 0.11691687443636942,
7768
+ "grad_norm": 5.420449256896973,
7769
+ "learning_rate": 0.0002,
7770
+ "loss": 0.1734,
7771
+ "step": 1102
7772
+ },
7773
+ {
7774
+ "epoch": 0.11702296960373455,
7775
+ "grad_norm": 6.192259311676025,
7776
+ "learning_rate": 0.0002,
7777
+ "loss": 0.1485,
7778
+ "step": 1103
7779
+ },
7780
+ {
7781
+ "epoch": 0.11712906477109968,
7782
+ "grad_norm": 5.745464324951172,
7783
+ "learning_rate": 0.0002,
7784
+ "loss": 0.1474,
7785
+ "step": 1104
7786
+ },
7787
+ {
7788
+ "epoch": 0.1172351599384648,
7789
+ "grad_norm": 4.055246829986572,
7790
+ "learning_rate": 0.0002,
7791
+ "loss": 0.1269,
7792
+ "step": 1105
7793
+ },
7794
+ {
7795
+ "epoch": 0.11734125510582993,
7796
+ "grad_norm": 4.159825325012207,
7797
+ "learning_rate": 0.0002,
7798
+ "loss": 0.2147,
7799
+ "step": 1106
7800
+ },
7801
+ {
7802
+ "epoch": 0.11744735027319506,
7803
+ "grad_norm": 4.998556137084961,
7804
+ "learning_rate": 0.0002,
7805
+ "loss": 0.1984,
7806
+ "step": 1107
7807
+ },
7808
+ {
7809
+ "epoch": 0.11755344544056018,
7810
+ "grad_norm": 6.101062297821045,
7811
+ "learning_rate": 0.0002,
7812
+ "loss": 0.1454,
7813
+ "step": 1108
7814
+ },
7815
+ {
7816
+ "epoch": 0.11765954060792531,
7817
+ "grad_norm": 3.989575147628784,
7818
+ "learning_rate": 0.0002,
7819
+ "loss": 0.1572,
7820
+ "step": 1109
7821
+ },
7822
+ {
7823
+ "epoch": 0.11776563577529044,
7824
+ "grad_norm": 6.703911781311035,
7825
+ "learning_rate": 0.0002,
7826
+ "loss": 0.2071,
7827
+ "step": 1110
7828
+ },
7829
+ {
7830
+ "epoch": 0.11787173094265556,
7831
+ "grad_norm": 20.928285598754883,
7832
+ "learning_rate": 0.0002,
7833
+ "loss": 0.9935,
7834
+ "step": 1111
7835
+ },
7836
+ {
7837
+ "epoch": 0.1179778261100207,
7838
+ "grad_norm": 8.511348724365234,
7839
+ "learning_rate": 0.0002,
7840
+ "loss": 0.4089,
7841
+ "step": 1112
7842
+ },
7843
+ {
7844
+ "epoch": 0.11808392127738582,
7845
+ "grad_norm": 8.88584041595459,
7846
+ "learning_rate": 0.0002,
7847
+ "loss": 0.6523,
7848
+ "step": 1113
7849
+ },
7850
+ {
7851
+ "epoch": 0.11819001644475094,
7852
+ "grad_norm": 8.507850646972656,
7853
+ "learning_rate": 0.0002,
7854
+ "loss": 0.3825,
7855
+ "step": 1114
7856
+ },
7857
+ {
7858
+ "epoch": 0.11829611161211606,
7859
+ "grad_norm": 3.9840872287750244,
7860
+ "learning_rate": 0.0002,
7861
+ "loss": 0.1438,
7862
+ "step": 1115
7863
+ },
7864
+ {
7865
+ "epoch": 0.1184022067794812,
7866
+ "grad_norm": 5.750953197479248,
7867
+ "learning_rate": 0.0002,
7868
+ "loss": 0.2801,
7869
+ "step": 1116
7870
+ },
7871
+ {
7872
+ "epoch": 0.11850830194684632,
7873
+ "grad_norm": 11.119308471679688,
7874
+ "learning_rate": 0.0002,
7875
+ "loss": 0.4663,
7876
+ "step": 1117
7877
+ },
7878
+ {
7879
+ "epoch": 0.11861439711421144,
7880
+ "grad_norm": 8.140937805175781,
7881
+ "learning_rate": 0.0002,
7882
+ "loss": 0.3937,
7883
+ "step": 1118
7884
+ },
7885
+ {
7886
+ "epoch": 0.11872049228157658,
7887
+ "grad_norm": 3.4910008907318115,
7888
+ "learning_rate": 0.0002,
7889
+ "loss": 0.1322,
7890
+ "step": 1119
7891
+ },
7892
+ {
7893
+ "epoch": 0.1188265874489417,
7894
+ "grad_norm": 5.410153865814209,
7895
+ "learning_rate": 0.0002,
7896
+ "loss": 0.2816,
7897
+ "step": 1120
7898
+ },
7899
+ {
7900
+ "epoch": 0.11893268261630682,
7901
+ "grad_norm": 11.129048347473145,
7902
+ "learning_rate": 0.0002,
7903
+ "loss": 0.4342,
7904
+ "step": 1121
7905
+ },
7906
+ {
7907
+ "epoch": 0.11903877778367196,
7908
+ "grad_norm": 5.893263339996338,
7909
+ "learning_rate": 0.0002,
7910
+ "loss": 0.2393,
7911
+ "step": 1122
7912
+ },
7913
+ {
7914
+ "epoch": 0.11914487295103708,
7915
+ "grad_norm": 7.032773971557617,
7916
+ "learning_rate": 0.0002,
7917
+ "loss": 0.2763,
7918
+ "step": 1123
7919
+ },
7920
+ {
7921
+ "epoch": 0.1192509681184022,
7922
+ "grad_norm": 11.255716323852539,
7923
+ "learning_rate": 0.0002,
7924
+ "loss": 0.3044,
7925
+ "step": 1124
7926
+ },
7927
+ {
7928
+ "epoch": 0.11935706328576734,
7929
+ "grad_norm": 11.46914291381836,
7930
+ "learning_rate": 0.0002,
7931
+ "loss": 0.4252,
7932
+ "step": 1125
7933
+ },
7934
+ {
7935
+ "epoch": 0.11946315845313246,
7936
+ "grad_norm": 6.600700378417969,
7937
+ "learning_rate": 0.0002,
7938
+ "loss": 0.2073,
7939
+ "step": 1126
7940
+ },
7941
+ {
7942
+ "epoch": 0.11956925362049758,
7943
+ "grad_norm": 4.324222564697266,
7944
+ "learning_rate": 0.0002,
7945
+ "loss": 0.1313,
7946
+ "step": 1127
7947
+ },
7948
+ {
7949
+ "epoch": 0.1196753487878627,
7950
+ "grad_norm": 5.712939262390137,
7951
+ "learning_rate": 0.0002,
7952
+ "loss": 0.2759,
7953
+ "step": 1128
7954
+ },
7955
+ {
7956
+ "epoch": 0.11978144395522784,
7957
+ "grad_norm": 6.105525970458984,
7958
+ "learning_rate": 0.0002,
7959
+ "loss": 0.1592,
7960
+ "step": 1129
7961
+ },
7962
+ {
7963
+ "epoch": 0.11988753912259296,
7964
+ "grad_norm": 11.735051155090332,
7965
+ "learning_rate": 0.0002,
7966
+ "loss": 0.4388,
7967
+ "step": 1130
7968
+ },
7969
+ {
7970
+ "epoch": 0.11999363428995809,
7971
+ "grad_norm": 9.049027442932129,
7972
+ "learning_rate": 0.0002,
7973
+ "loss": 0.2739,
7974
+ "step": 1131
7975
+ },
7976
+ {
7977
+ "epoch": 0.12009972945732322,
7978
+ "grad_norm": 7.319828033447266,
7979
+ "learning_rate": 0.0002,
7980
+ "loss": 0.3549,
7981
+ "step": 1132
7982
+ },
7983
+ {
7984
+ "epoch": 0.12020582462468835,
7985
+ "grad_norm": 5.124215602874756,
7986
+ "learning_rate": 0.0002,
7987
+ "loss": 0.2046,
7988
+ "step": 1133
7989
+ },
7990
+ {
7991
+ "epoch": 0.12031191979205347,
7992
+ "grad_norm": 6.72359037399292,
7993
+ "learning_rate": 0.0002,
7994
+ "loss": 0.1802,
7995
+ "step": 1134
7996
+ },
7997
+ {
7998
+ "epoch": 0.1204180149594186,
7999
+ "grad_norm": 32.95004653930664,
8000
+ "learning_rate": 0.0002,
8001
+ "loss": 1.3426,
8002
+ "step": 1135
8003
+ },
8004
+ {
8005
+ "epoch": 0.12052411012678373,
8006
+ "grad_norm": 6.111928939819336,
8007
+ "learning_rate": 0.0002,
8008
+ "loss": 0.2438,
8009
+ "step": 1136
8010
+ },
8011
+ {
8012
+ "epoch": 0.12063020529414885,
8013
+ "grad_norm": 8.635579109191895,
8014
+ "learning_rate": 0.0002,
8015
+ "loss": 0.2224,
8016
+ "step": 1137
8017
+ },
8018
+ {
8019
+ "epoch": 0.12073630046151398,
8020
+ "grad_norm": 5.973379611968994,
8021
+ "learning_rate": 0.0002,
8022
+ "loss": 0.1619,
8023
+ "step": 1138
8024
+ },
8025
+ {
8026
+ "epoch": 0.1208423956288791,
8027
+ "grad_norm": 6.042442798614502,
8028
+ "learning_rate": 0.0002,
8029
+ "loss": 0.1929,
8030
+ "step": 1139
8031
+ },
8032
+ {
8033
+ "epoch": 0.12094849079624423,
8034
+ "grad_norm": 7.2643208503723145,
8035
+ "learning_rate": 0.0002,
8036
+ "loss": 0.3076,
8037
+ "step": 1140
8038
+ },
8039
+ {
8040
+ "epoch": 0.12105458596360935,
8041
+ "grad_norm": 12.672991752624512,
8042
+ "learning_rate": 0.0002,
8043
+ "loss": 0.3627,
8044
+ "step": 1141
8045
+ },
8046
+ {
8047
+ "epoch": 0.12116068113097449,
8048
+ "grad_norm": 17.507015228271484,
8049
+ "learning_rate": 0.0002,
8050
+ "loss": 0.8109,
8051
+ "step": 1142
8052
+ },
8053
+ {
8054
+ "epoch": 0.12126677629833961,
8055
+ "grad_norm": 10.29857349395752,
8056
+ "learning_rate": 0.0002,
8057
+ "loss": 0.5278,
8058
+ "step": 1143
8059
+ },
8060
+ {
8061
+ "epoch": 0.12137287146570473,
8062
+ "grad_norm": 5.667308330535889,
8063
+ "learning_rate": 0.0002,
8064
+ "loss": 0.1637,
8065
+ "step": 1144
8066
+ },
8067
+ {
8068
+ "epoch": 0.12147896663306987,
8069
+ "grad_norm": 10.405146598815918,
8070
+ "learning_rate": 0.0002,
8071
+ "loss": 0.2631,
8072
+ "step": 1145
8073
+ },
8074
+ {
8075
+ "epoch": 0.12158506180043499,
8076
+ "grad_norm": 13.306811332702637,
8077
+ "learning_rate": 0.0002,
8078
+ "loss": 0.3888,
8079
+ "step": 1146
8080
+ },
8081
+ {
8082
+ "epoch": 0.12169115696780011,
8083
+ "grad_norm": 5.724170684814453,
8084
+ "learning_rate": 0.0002,
8085
+ "loss": 0.1598,
8086
+ "step": 1147
8087
+ },
8088
+ {
8089
+ "epoch": 0.12179725213516525,
8090
+ "grad_norm": 6.519510269165039,
8091
+ "learning_rate": 0.0002,
8092
+ "loss": 0.1495,
8093
+ "step": 1148
8094
+ },
8095
+ {
8096
+ "epoch": 0.12190334730253037,
8097
+ "grad_norm": 17.184093475341797,
8098
+ "learning_rate": 0.0002,
8099
+ "loss": 0.4673,
8100
+ "step": 1149
8101
+ },
8102
+ {
8103
+ "epoch": 0.1220094424698955,
8104
+ "grad_norm": 152.29933166503906,
8105
+ "learning_rate": 0.0002,
8106
+ "loss": 4.2669,
8107
+ "step": 1150
8108
+ },
8109
+ {
8110
+ "epoch": 0.12211553763726063,
8111
+ "grad_norm": 6.537713527679443,
8112
+ "learning_rate": 0.0002,
8113
+ "loss": 0.3031,
8114
+ "step": 1151
8115
+ },
8116
+ {
8117
+ "epoch": 0.12222163280462575,
8118
+ "grad_norm": 8.047213554382324,
8119
+ "learning_rate": 0.0002,
8120
+ "loss": 0.5275,
8121
+ "step": 1152
8122
+ },
8123
+ {
8124
+ "epoch": 0.12232772797199087,
8125
+ "grad_norm": 9.457115173339844,
8126
+ "learning_rate": 0.0002,
8127
+ "loss": 0.5459,
8128
+ "step": 1153
8129
+ },
8130
+ {
8131
+ "epoch": 0.122433823139356,
8132
+ "grad_norm": 4.4514594078063965,
8133
+ "learning_rate": 0.0002,
8134
+ "loss": 0.1735,
8135
+ "step": 1154
8136
+ },
8137
+ {
8138
+ "epoch": 0.12253991830672113,
8139
+ "grad_norm": 4.771071434020996,
8140
+ "learning_rate": 0.0002,
8141
+ "loss": 0.2272,
8142
+ "step": 1155
8143
+ },
8144
+ {
8145
+ "epoch": 0.12264601347408625,
8146
+ "grad_norm": 9.409025192260742,
8147
+ "learning_rate": 0.0002,
8148
+ "loss": 0.3215,
8149
+ "step": 1156
8150
+ },
8151
+ {
8152
+ "epoch": 0.12275210864145138,
8153
+ "grad_norm": 10.992562294006348,
8154
+ "learning_rate": 0.0002,
8155
+ "loss": 0.4059,
8156
+ "step": 1157
8157
+ },
8158
+ {
8159
+ "epoch": 0.12285820380881651,
8160
+ "grad_norm": 4.625906467437744,
8161
+ "learning_rate": 0.0002,
8162
+ "loss": 0.1681,
8163
+ "step": 1158
8164
+ },
8165
+ {
8166
+ "epoch": 0.12296429897618164,
8167
+ "grad_norm": 7.170089244842529,
8168
+ "learning_rate": 0.0002,
8169
+ "loss": 0.4266,
8170
+ "step": 1159
8171
+ },
8172
+ {
8173
+ "epoch": 0.12307039414354676,
8174
+ "grad_norm": 3.197657823562622,
8175
+ "learning_rate": 0.0002,
8176
+ "loss": 0.0999,
8177
+ "step": 1160
8178
+ },
8179
+ {
8180
+ "epoch": 0.1231764893109119,
8181
+ "grad_norm": 5.497007369995117,
8182
+ "learning_rate": 0.0002,
8183
+ "loss": 0.2637,
8184
+ "step": 1161
8185
+ },
8186
+ {
8187
+ "epoch": 0.12328258447827702,
8188
+ "grad_norm": 5.052645206451416,
8189
+ "learning_rate": 0.0002,
8190
+ "loss": 0.1969,
8191
+ "step": 1162
8192
+ },
8193
+ {
8194
+ "epoch": 0.12338867964564214,
8195
+ "grad_norm": 8.524548530578613,
8196
+ "learning_rate": 0.0002,
8197
+ "loss": 0.4682,
8198
+ "step": 1163
8199
+ },
8200
+ {
8201
+ "epoch": 0.12349477481300727,
8202
+ "grad_norm": 5.062516689300537,
8203
+ "learning_rate": 0.0002,
8204
+ "loss": 0.1942,
8205
+ "step": 1164
8206
+ },
8207
+ {
8208
+ "epoch": 0.1236008699803724,
8209
+ "grad_norm": 4.900094032287598,
8210
+ "learning_rate": 0.0002,
8211
+ "loss": 0.1585,
8212
+ "step": 1165
8213
+ },
8214
+ {
8215
+ "epoch": 0.12370696514773752,
8216
+ "grad_norm": 9.014378547668457,
8217
+ "learning_rate": 0.0002,
8218
+ "loss": 0.2322,
8219
+ "step": 1166
8220
+ },
8221
+ {
8222
+ "epoch": 0.12381306031510264,
8223
+ "grad_norm": 7.756555080413818,
8224
+ "learning_rate": 0.0002,
8225
+ "loss": 0.3767,
8226
+ "step": 1167
8227
+ },
8228
+ {
8229
+ "epoch": 0.12391915548246778,
8230
+ "grad_norm": 13.68795394897461,
8231
+ "learning_rate": 0.0002,
8232
+ "loss": 0.4465,
8233
+ "step": 1168
8234
+ },
8235
+ {
8236
+ "epoch": 0.1240252506498329,
8237
+ "grad_norm": 5.335318565368652,
8238
+ "learning_rate": 0.0002,
8239
+ "loss": 0.1881,
8240
+ "step": 1169
8241
+ },
8242
+ {
8243
+ "epoch": 0.12413134581719802,
8244
+ "grad_norm": 15.041061401367188,
8245
+ "learning_rate": 0.0002,
8246
+ "loss": 0.8532,
8247
+ "step": 1170
8248
+ },
8249
+ {
8250
+ "epoch": 0.12423744098456316,
8251
+ "grad_norm": 10.844293594360352,
8252
+ "learning_rate": 0.0002,
8253
+ "loss": 0.4296,
8254
+ "step": 1171
8255
+ },
8256
+ {
8257
+ "epoch": 0.12434353615192828,
8258
+ "grad_norm": 4.878455638885498,
8259
+ "learning_rate": 0.0002,
8260
+ "loss": 0.1818,
8261
+ "step": 1172
8262
+ },
8263
+ {
8264
+ "epoch": 0.1244496313192934,
8265
+ "grad_norm": 11.804012298583984,
8266
+ "learning_rate": 0.0002,
8267
+ "loss": 1.0898,
8268
+ "step": 1173
8269
+ },
8270
+ {
8271
+ "epoch": 0.12455572648665854,
8272
+ "grad_norm": 6.135049343109131,
8273
+ "learning_rate": 0.0002,
8274
+ "loss": 0.337,
8275
+ "step": 1174
8276
+ },
8277
+ {
8278
+ "epoch": 0.12466182165402366,
8279
+ "grad_norm": 11.134439468383789,
8280
+ "learning_rate": 0.0002,
8281
+ "loss": 0.6827,
8282
+ "step": 1175
8283
+ },
8284
+ {
8285
+ "epoch": 0.12476791682138878,
8286
+ "grad_norm": 10.078073501586914,
8287
+ "learning_rate": 0.0002,
8288
+ "loss": 0.3616,
8289
+ "step": 1176
8290
+ },
8291
+ {
8292
+ "epoch": 0.12487401198875392,
8293
+ "grad_norm": 5.860133647918701,
8294
+ "learning_rate": 0.0002,
8295
+ "loss": 0.2136,
8296
+ "step": 1177
8297
+ },
8298
+ {
8299
+ "epoch": 0.12498010715611904,
8300
+ "grad_norm": 16.210641860961914,
8301
+ "learning_rate": 0.0002,
8302
+ "loss": 0.5385,
8303
+ "step": 1178
8304
+ },
8305
+ {
8306
+ "epoch": 0.12508620232348416,
8307
+ "grad_norm": 7.2657999992370605,
8308
+ "learning_rate": 0.0002,
8309
+ "loss": 0.3341,
8310
+ "step": 1179
8311
+ },
8312
+ {
8313
+ "epoch": 0.12519229749084929,
8314
+ "grad_norm": 10.626968383789062,
8315
+ "learning_rate": 0.0002,
8316
+ "loss": 0.6084,
8317
+ "step": 1180
8318
+ },
8319
+ {
8320
+ "epoch": 0.1252983926582144,
8321
+ "grad_norm": 8.067530632019043,
8322
+ "learning_rate": 0.0002,
8323
+ "loss": 0.1949,
8324
+ "step": 1181
8325
+ },
8326
+ {
8327
+ "epoch": 0.12540448782557956,
8328
+ "grad_norm": 3.9800777435302734,
8329
+ "learning_rate": 0.0002,
8330
+ "loss": 0.1202,
8331
+ "step": 1182
8332
+ },
8333
+ {
8334
+ "epoch": 0.12551058299294468,
8335
+ "grad_norm": 10.07242488861084,
8336
+ "learning_rate": 0.0002,
8337
+ "loss": 0.402,
8338
+ "step": 1183
8339
+ },
8340
+ {
8341
+ "epoch": 0.1256166781603098,
8342
+ "grad_norm": 5.4834747314453125,
8343
+ "learning_rate": 0.0002,
8344
+ "loss": 0.2416,
8345
+ "step": 1184
8346
+ },
8347
+ {
8348
+ "epoch": 0.12572277332767492,
8349
+ "grad_norm": 6.387603759765625,
8350
+ "learning_rate": 0.0002,
8351
+ "loss": 0.1645,
8352
+ "step": 1185
8353
+ },
8354
+ {
8355
+ "epoch": 0.12582886849504005,
8356
+ "grad_norm": 5.547778129577637,
8357
+ "learning_rate": 0.0002,
8358
+ "loss": 0.2266,
8359
+ "step": 1186
8360
+ },
8361
+ {
8362
+ "epoch": 0.12593496366240517,
8363
+ "grad_norm": 11.348686218261719,
8364
+ "learning_rate": 0.0002,
8365
+ "loss": 0.5453,
8366
+ "step": 1187
8367
+ },
8368
+ {
8369
+ "epoch": 0.1260410588297703,
8370
+ "grad_norm": 6.576507568359375,
8371
+ "learning_rate": 0.0002,
8372
+ "loss": 0.3503,
8373
+ "step": 1188
8374
+ },
8375
+ {
8376
+ "epoch": 0.12614715399713544,
8377
+ "grad_norm": 8.861441612243652,
8378
+ "learning_rate": 0.0002,
8379
+ "loss": 0.4049,
8380
+ "step": 1189
8381
+ },
8382
+ {
8383
+ "epoch": 0.12625324916450056,
8384
+ "grad_norm": 7.285686016082764,
8385
+ "learning_rate": 0.0002,
8386
+ "loss": 0.2374,
8387
+ "step": 1190
8388
+ },
8389
+ {
8390
+ "epoch": 0.1263593443318657,
8391
+ "grad_norm": 10.853203773498535,
8392
+ "learning_rate": 0.0002,
8393
+ "loss": 0.3436,
8394
+ "step": 1191
8395
+ },
8396
+ {
8397
+ "epoch": 0.1264654394992308,
8398
+ "grad_norm": 6.1698899269104,
8399
+ "learning_rate": 0.0002,
8400
+ "loss": 0.2054,
8401
+ "step": 1192
8402
+ },
8403
+ {
8404
+ "epoch": 0.12657153466659593,
8405
+ "grad_norm": 8.9847412109375,
8406
+ "learning_rate": 0.0002,
8407
+ "loss": 0.2205,
8408
+ "step": 1193
8409
+ },
8410
+ {
8411
+ "epoch": 0.12667762983396105,
8412
+ "grad_norm": 10.688117027282715,
8413
+ "learning_rate": 0.0002,
8414
+ "loss": 0.5793,
8415
+ "step": 1194
8416
+ },
8417
+ {
8418
+ "epoch": 0.1267837250013262,
8419
+ "grad_norm": 10.423303604125977,
8420
+ "learning_rate": 0.0002,
8421
+ "loss": 0.1908,
8422
+ "step": 1195
8423
+ },
8424
+ {
8425
+ "epoch": 0.12688982016869133,
8426
+ "grad_norm": 11.945500373840332,
8427
+ "learning_rate": 0.0002,
8428
+ "loss": 0.9411,
8429
+ "step": 1196
8430
+ },
8431
+ {
8432
+ "epoch": 0.12699591533605645,
8433
+ "grad_norm": 4.637462615966797,
8434
+ "learning_rate": 0.0002,
8435
+ "loss": 0.1776,
8436
+ "step": 1197
8437
+ },
8438
+ {
8439
+ "epoch": 0.12710201050342157,
8440
+ "grad_norm": 16.636390686035156,
8441
+ "learning_rate": 0.0002,
8442
+ "loss": 0.2267,
8443
+ "step": 1198
8444
+ },
8445
+ {
8446
+ "epoch": 0.1272081056707867,
8447
+ "grad_norm": 17.776283264160156,
8448
+ "learning_rate": 0.0002,
8449
+ "loss": 0.5245,
8450
+ "step": 1199
8451
+ },
8452
+ {
8453
+ "epoch": 0.12731420083815181,
8454
+ "grad_norm": 17.1392879486084,
8455
+ "learning_rate": 0.0002,
8456
+ "loss": 0.5194,
8457
+ "step": 1200
8458
+ },
8459
+ {
8460
+ "epoch": 0.12731420083815181,
8461
+ "eval_loss": 0.05339442566037178,
8462
+ "eval_runtime": 48.7595,
8463
+ "eval_samples_per_second": 3.117,
8464
+ "eval_steps_per_second": 1.559,
8465
+ "step": 1200
8466
  }
8467
  ],
8468
  "logging_steps": 1,
 
8477
  "early_stopping_threshold": 0.0
8478
  },
8479
  "attributes": {
8480
+ "early_stopping_patience_counter": 1
8481
  }
8482
  },
8483
  "TrainerControl": {
 
8491
  "attributes": {}
8492
  }
8493
  },
8494
+ "total_flos": 3.68108189908992e+17,
8495
  "train_batch_size": 2,
8496
  "trial_name": null,
8497
  "trial_params": null