error577 commited on
Commit
98a2c8e
·
verified ·
1 Parent(s): 2d712bf

Training in progress, step 1800, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:455cf6f0b1d52a400dad895d7ea0d22e236353b1c347bd065dfb700f51a0d135
3
  size 104902272
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f15c9a57be96dbca3c37be9be66539131e03c2bee2242e8fa2a26b4ee4d988ee
3
  size 104902272
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:e60dee40a85c2df3520960a46a513462968c43640000a47597b8c969295be40b
3
  size 28606934
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f899d57c01ae76726f99ce057a911035970f6487bc30e4e6e51f8df0edbc9510
3
  size 28606934
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:5c2ca8fd9698960c7edf90f84904131ebad3b181ea54b25e3f2f7741f6d30da3
3
  size 14244
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:91d046a1bef8686c8e0bb9f0bfa9a3bdec32c29a616b406eca975a45a631c4ff
3
  size 14244
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:05519a7e11983e2be5160ea4653f1c2ebf5eca7d84fd53f0dc4986fac2ae7377
3
  size 2080
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:f1aa501c66f1d0ee39e41f7e8c954294a0cdb70849cff3899400eabfb8b0392c
3
  size 2080
last-checkpoint/trainer_state.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
- "best_metric": 1.4340760707855225,
3
- "best_model_checkpoint": "miner_id_24/checkpoint-1600",
4
- "epoch": 0.0931149696007011,
5
  "eval_steps": 100,
6
- "global_step": 1700,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
@@ -12051,6 +12051,714 @@
12051
  "eval_samples_per_second": 2.01,
12052
  "eval_steps_per_second": 2.01,
12053
  "step": 1700
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
12054
  }
12055
  ],
12056
  "logging_steps": 1,
@@ -12065,7 +12773,7 @@
12065
  "early_stopping_threshold": 0.0
12066
  },
12067
  "attributes": {
12068
- "early_stopping_patience_counter": 1
12069
  }
12070
  },
12071
  "TrainerControl": {
@@ -12079,7 +12787,7 @@
12079
  "attributes": {}
12080
  }
12081
  },
12082
- "total_flos": 4.021658652770304e+16,
12083
  "train_batch_size": 1,
12084
  "trial_name": null,
12085
  "trial_params": null
 
1
  {
2
+ "best_metric": 1.4282009601593018,
3
+ "best_model_checkpoint": "miner_id_24/checkpoint-1800",
4
+ "epoch": 0.09859232075368352,
5
  "eval_steps": 100,
6
+ "global_step": 1800,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
 
12051
  "eval_samples_per_second": 2.01,
12052
  "eval_steps_per_second": 2.01,
12053
  "step": 1700
12054
+ },
12055
+ {
12056
+ "epoch": 0.09316974311223092,
12057
+ "grad_norm": 2.093738317489624,
12058
+ "learning_rate": 0.00019954051822423935,
12059
+ "loss": 0.8378,
12060
+ "step": 1701
12061
+ },
12062
+ {
12063
+ "epoch": 0.09322451662376074,
12064
+ "grad_norm": 3.873685359954834,
12065
+ "learning_rate": 0.00019953996525146067,
12066
+ "loss": 1.5295,
12067
+ "step": 1702
12068
+ },
12069
+ {
12070
+ "epoch": 0.09327929013529057,
12071
+ "grad_norm": 3.745143175125122,
12072
+ "learning_rate": 0.000199539412278682,
12073
+ "loss": 1.3683,
12074
+ "step": 1703
12075
+ },
12076
+ {
12077
+ "epoch": 0.0933340636468204,
12078
+ "grad_norm": 15.979313850402832,
12079
+ "learning_rate": 0.00019953887385781854,
12080
+ "loss": 1.665,
12081
+ "step": 1704
12082
+ },
12083
+ {
12084
+ "epoch": 0.09338883715835022,
12085
+ "grad_norm": 7.592923641204834,
12086
+ "learning_rate": 0.00019953832088503987,
12087
+ "loss": 1.7577,
12088
+ "step": 1705
12089
+ },
12090
+ {
12091
+ "epoch": 0.09344361066988005,
12092
+ "grad_norm": 5.458607196807861,
12093
+ "learning_rate": 0.0001995377679122612,
12094
+ "loss": 1.4803,
12095
+ "step": 1706
12096
+ },
12097
+ {
12098
+ "epoch": 0.09349838418140988,
12099
+ "grad_norm": 2.4999823570251465,
12100
+ "learning_rate": 0.0001995372149394825,
12101
+ "loss": 1.7869,
12102
+ "step": 1707
12103
+ },
12104
+ {
12105
+ "epoch": 0.09355315769293969,
12106
+ "grad_norm": 2.4218177795410156,
12107
+ "learning_rate": 0.00019953666196670383,
12108
+ "loss": 1.3429,
12109
+ "step": 1708
12110
+ },
12111
+ {
12112
+ "epoch": 0.09360793120446952,
12113
+ "grad_norm": 2.142124891281128,
12114
+ "learning_rate": 0.00019953610899392515,
12115
+ "loss": 1.1452,
12116
+ "step": 1709
12117
+ },
12118
+ {
12119
+ "epoch": 0.09366270471599934,
12120
+ "grad_norm": 4.530423641204834,
12121
+ "learning_rate": 0.00019953555602114648,
12122
+ "loss": 0.6014,
12123
+ "step": 1710
12124
+ },
12125
+ {
12126
+ "epoch": 0.09371747822752917,
12127
+ "grad_norm": 2.2396562099456787,
12128
+ "learning_rate": 0.0001995350030483678,
12129
+ "loss": 1.3763,
12130
+ "step": 1711
12131
+ },
12132
+ {
12133
+ "epoch": 0.093772251739059,
12134
+ "grad_norm": 8.47006893157959,
12135
+ "learning_rate": 0.00019953445007558912,
12136
+ "loss": 2.1985,
12137
+ "step": 1712
12138
+ },
12139
+ {
12140
+ "epoch": 0.09382702525058882,
12141
+ "grad_norm": 16.272075653076172,
12142
+ "learning_rate": 0.00019953389710281044,
12143
+ "loss": 2.2964,
12144
+ "step": 1713
12145
+ },
12146
+ {
12147
+ "epoch": 0.09388179876211863,
12148
+ "grad_norm": 2.867579221725464,
12149
+ "learning_rate": 0.00019953334413003176,
12150
+ "loss": 1.7925,
12151
+ "step": 1714
12152
+ },
12153
+ {
12154
+ "epoch": 0.09393657227364846,
12155
+ "grad_norm": 2.2792773246765137,
12156
+ "learning_rate": 0.0001995327911572531,
12157
+ "loss": 1.2294,
12158
+ "step": 1715
12159
+ },
12160
+ {
12161
+ "epoch": 0.09399134578517829,
12162
+ "grad_norm": 3.3239622116088867,
12163
+ "learning_rate": 0.0001995322381844744,
12164
+ "loss": 2.2645,
12165
+ "step": 1716
12166
+ },
12167
+ {
12168
+ "epoch": 0.09404611929670811,
12169
+ "grad_norm": 6.84503698348999,
12170
+ "learning_rate": 0.00019953168521169573,
12171
+ "loss": 1.5343,
12172
+ "step": 1717
12173
+ },
12174
+ {
12175
+ "epoch": 0.09410089280823794,
12176
+ "grad_norm": 3.401970863342285,
12177
+ "learning_rate": 0.00019953113223891705,
12178
+ "loss": 0.9166,
12179
+ "step": 1718
12180
+ },
12181
+ {
12182
+ "epoch": 0.09415566631976777,
12183
+ "grad_norm": 2.7699713706970215,
12184
+ "learning_rate": 0.00019953057926613837,
12185
+ "loss": 1.6435,
12186
+ "step": 1719
12187
+ },
12188
+ {
12189
+ "epoch": 0.09421043983129758,
12190
+ "grad_norm": 4.692700386047363,
12191
+ "learning_rate": 0.00019953001174144447,
12192
+ "loss": 1.6416,
12193
+ "step": 1720
12194
+ },
12195
+ {
12196
+ "epoch": 0.0942652133428274,
12197
+ "grad_norm": 6.0493974685668945,
12198
+ "learning_rate": 0.0001995294587686658,
12199
+ "loss": 0.8079,
12200
+ "step": 1721
12201
+ },
12202
+ {
12203
+ "epoch": 0.09431998685435723,
12204
+ "grad_norm": 3.3965518474578857,
12205
+ "learning_rate": 0.0001995289057958871,
12206
+ "loss": 0.9784,
12207
+ "step": 1722
12208
+ },
12209
+ {
12210
+ "epoch": 0.09437476036588706,
12211
+ "grad_norm": 2.5575971603393555,
12212
+ "learning_rate": 0.0001995283382711932,
12213
+ "loss": 1.3142,
12214
+ "step": 1723
12215
+ },
12216
+ {
12217
+ "epoch": 0.09442953387741689,
12218
+ "grad_norm": 2.5071768760681152,
12219
+ "learning_rate": 0.00019952779985032976,
12220
+ "loss": 1.9478,
12221
+ "step": 1724
12222
+ },
12223
+ {
12224
+ "epoch": 0.09448430738894671,
12225
+ "grad_norm": 4.449032783508301,
12226
+ "learning_rate": 0.00019952723232563585,
12227
+ "loss": 1.6503,
12228
+ "step": 1725
12229
+ },
12230
+ {
12231
+ "epoch": 0.09453908090047652,
12232
+ "grad_norm": 5.065138339996338,
12233
+ "learning_rate": 0.00019952667935285717,
12234
+ "loss": 2.1451,
12235
+ "step": 1726
12236
+ },
12237
+ {
12238
+ "epoch": 0.09459385441200635,
12239
+ "grad_norm": 2.8541817665100098,
12240
+ "learning_rate": 0.00019952611182816327,
12241
+ "loss": 0.736,
12242
+ "step": 1727
12243
+ },
12244
+ {
12245
+ "epoch": 0.09464862792353618,
12246
+ "grad_norm": 2.47845721244812,
12247
+ "learning_rate": 0.0001995255588553846,
12248
+ "loss": 1.5384,
12249
+ "step": 1728
12250
+ },
12251
+ {
12252
+ "epoch": 0.094703401435066,
12253
+ "grad_norm": 9.68614387512207,
12254
+ "learning_rate": 0.0001995250058826059,
12255
+ "loss": 1.8912,
12256
+ "step": 1729
12257
+ },
12258
+ {
12259
+ "epoch": 0.09475817494659583,
12260
+ "grad_norm": 3.7445404529571533,
12261
+ "learning_rate": 0.000199524438357912,
12262
+ "loss": 1.8164,
12263
+ "step": 1730
12264
+ },
12265
+ {
12266
+ "epoch": 0.09481294845812566,
12267
+ "grad_norm": 3.669001579284668,
12268
+ "learning_rate": 0.00019952388538513333,
12269
+ "loss": 1.0819,
12270
+ "step": 1731
12271
+ },
12272
+ {
12273
+ "epoch": 0.09486772196965547,
12274
+ "grad_norm": 2.9337830543518066,
12275
+ "learning_rate": 0.00019952331786043942,
12276
+ "loss": 1.6034,
12277
+ "step": 1732
12278
+ },
12279
+ {
12280
+ "epoch": 0.0949224954811853,
12281
+ "grad_norm": 3.0850977897644043,
12282
+ "learning_rate": 0.00019952276488766074,
12283
+ "loss": 1.7686,
12284
+ "step": 1733
12285
+ },
12286
+ {
12287
+ "epoch": 0.09497726899271512,
12288
+ "grad_norm": 2.0788979530334473,
12289
+ "learning_rate": 0.00019952219736296684,
12290
+ "loss": 0.9199,
12291
+ "step": 1734
12292
+ },
12293
+ {
12294
+ "epoch": 0.09503204250424495,
12295
+ "grad_norm": 3.008871555328369,
12296
+ "learning_rate": 0.00019952164439018816,
12297
+ "loss": 1.5426,
12298
+ "step": 1735
12299
+ },
12300
+ {
12301
+ "epoch": 0.09508681601577477,
12302
+ "grad_norm": 4.750055313110352,
12303
+ "learning_rate": 0.00019952107686549425,
12304
+ "loss": 1.6043,
12305
+ "step": 1736
12306
+ },
12307
+ {
12308
+ "epoch": 0.0951415895273046,
12309
+ "grad_norm": 2.194444179534912,
12310
+ "learning_rate": 0.00019952052389271557,
12311
+ "loss": 0.9602,
12312
+ "step": 1737
12313
+ },
12314
+ {
12315
+ "epoch": 0.09519636303883441,
12316
+ "grad_norm": 3.4514377117156982,
12317
+ "learning_rate": 0.00019951995636802167,
12318
+ "loss": 1.202,
12319
+ "step": 1738
12320
+ },
12321
+ {
12322
+ "epoch": 0.09525113655036424,
12323
+ "grad_norm": 4.065868377685547,
12324
+ "learning_rate": 0.000199519403395243,
12325
+ "loss": 0.4163,
12326
+ "step": 1739
12327
+ },
12328
+ {
12329
+ "epoch": 0.09530591006189407,
12330
+ "grad_norm": 3.552816390991211,
12331
+ "learning_rate": 0.00019951883587054908,
12332
+ "loss": 0.6728,
12333
+ "step": 1740
12334
+ },
12335
+ {
12336
+ "epoch": 0.0953606835734239,
12337
+ "grad_norm": 2.4412248134613037,
12338
+ "learning_rate": 0.00019951826834585518,
12339
+ "loss": 0.9636,
12340
+ "step": 1741
12341
+ },
12342
+ {
12343
+ "epoch": 0.09541545708495372,
12344
+ "grad_norm": 1.1864272356033325,
12345
+ "learning_rate": 0.0001995177153730765,
12346
+ "loss": 0.7336,
12347
+ "step": 1742
12348
+ },
12349
+ {
12350
+ "epoch": 0.09547023059648355,
12351
+ "grad_norm": 3.3133068084716797,
12352
+ "learning_rate": 0.0001995171478483826,
12353
+ "loss": 1.1571,
12354
+ "step": 1743
12355
+ },
12356
+ {
12357
+ "epoch": 0.09552500410801336,
12358
+ "grad_norm": 4.142937660217285,
12359
+ "learning_rate": 0.00019951659487560391,
12360
+ "loss": 1.9706,
12361
+ "step": 1744
12362
+ },
12363
+ {
12364
+ "epoch": 0.09557977761954319,
12365
+ "grad_norm": 8.665338516235352,
12366
+ "learning_rate": 0.00019951601279899478,
12367
+ "loss": 0.6556,
12368
+ "step": 1745
12369
+ },
12370
+ {
12371
+ "epoch": 0.09563455113107301,
12372
+ "grad_norm": 5.229712963104248,
12373
+ "learning_rate": 0.0001995154598262161,
12374
+ "loss": 1.1388,
12375
+ "step": 1746
12376
+ },
12377
+ {
12378
+ "epoch": 0.09568932464260284,
12379
+ "grad_norm": 5.1271162033081055,
12380
+ "learning_rate": 0.0001995148923015222,
12381
+ "loss": 1.0896,
12382
+ "step": 1747
12383
+ },
12384
+ {
12385
+ "epoch": 0.09574409815413266,
12386
+ "grad_norm": 7.014554977416992,
12387
+ "learning_rate": 0.0001995143247768283,
12388
+ "loss": 1.2773,
12389
+ "step": 1748
12390
+ },
12391
+ {
12392
+ "epoch": 0.09579887166566249,
12393
+ "grad_norm": 5.28106164932251,
12394
+ "learning_rate": 0.00019951375725213438,
12395
+ "loss": 1.7505,
12396
+ "step": 1749
12397
+ },
12398
+ {
12399
+ "epoch": 0.0958536451771923,
12400
+ "grad_norm": 8.524224281311035,
12401
+ "learning_rate": 0.00019951318972744048,
12402
+ "loss": 1.8971,
12403
+ "step": 1750
12404
+ },
12405
+ {
12406
+ "epoch": 0.09590841868872213,
12407
+ "grad_norm": 2.8733017444610596,
12408
+ "learning_rate": 0.0001995126367546618,
12409
+ "loss": 0.9363,
12410
+ "step": 1751
12411
+ },
12412
+ {
12413
+ "epoch": 0.09596319220025196,
12414
+ "grad_norm": 8.174698829650879,
12415
+ "learning_rate": 0.0001995120692299679,
12416
+ "loss": 1.2486,
12417
+ "step": 1752
12418
+ },
12419
+ {
12420
+ "epoch": 0.09601796571178178,
12421
+ "grad_norm": 3.1510748863220215,
12422
+ "learning_rate": 0.00019951150170527399,
12423
+ "loss": 1.8346,
12424
+ "step": 1753
12425
+ },
12426
+ {
12427
+ "epoch": 0.09607273922331161,
12428
+ "grad_norm": 5.399638652801514,
12429
+ "learning_rate": 0.00019951093418058008,
12430
+ "loss": 1.0717,
12431
+ "step": 1754
12432
+ },
12433
+ {
12434
+ "epoch": 0.09612751273484144,
12435
+ "grad_norm": 8.204363822937012,
12436
+ "learning_rate": 0.00019951036665588617,
12437
+ "loss": 2.5344,
12438
+ "step": 1755
12439
+ },
12440
+ {
12441
+ "epoch": 0.09618228624637125,
12442
+ "grad_norm": 9.668304443359375,
12443
+ "learning_rate": 0.00019950979913119227,
12444
+ "loss": 2.0912,
12445
+ "step": 1756
12446
+ },
12447
+ {
12448
+ "epoch": 0.09623705975790108,
12449
+ "grad_norm": 3.4727652072906494,
12450
+ "learning_rate": 0.00019950923160649836,
12451
+ "loss": 1.9356,
12452
+ "step": 1757
12453
+ },
12454
+ {
12455
+ "epoch": 0.0962918332694309,
12456
+ "grad_norm": 7.371083736419678,
12457
+ "learning_rate": 0.00019950866408180445,
12458
+ "loss": 1.344,
12459
+ "step": 1758
12460
+ },
12461
+ {
12462
+ "epoch": 0.09634660678096073,
12463
+ "grad_norm": 2.298321008682251,
12464
+ "learning_rate": 0.00019950809655711055,
12465
+ "loss": 0.8885,
12466
+ "step": 1759
12467
+ },
12468
+ {
12469
+ "epoch": 0.09640138029249055,
12470
+ "grad_norm": 2.5113284587860107,
12471
+ "learning_rate": 0.00019950752903241664,
12472
+ "loss": 1.591,
12473
+ "step": 1760
12474
+ },
12475
+ {
12476
+ "epoch": 0.09645615380402038,
12477
+ "grad_norm": 2.852226495742798,
12478
+ "learning_rate": 0.00019950696150772274,
12479
+ "loss": 0.9527,
12480
+ "step": 1761
12481
+ },
12482
+ {
12483
+ "epoch": 0.0965109273155502,
12484
+ "grad_norm": 3.186530351638794,
12485
+ "learning_rate": 0.0001995063794311136,
12486
+ "loss": 1.0311,
12487
+ "step": 1762
12488
+ },
12489
+ {
12490
+ "epoch": 0.09656570082708002,
12491
+ "grad_norm": 2.648871898651123,
12492
+ "learning_rate": 0.0001995058119064197,
12493
+ "loss": 1.1579,
12494
+ "step": 1763
12495
+ },
12496
+ {
12497
+ "epoch": 0.09662047433860985,
12498
+ "grad_norm": 4.486452579498291,
12499
+ "learning_rate": 0.00019950525893364102,
12500
+ "loss": 1.5712,
12501
+ "step": 1764
12502
+ },
12503
+ {
12504
+ "epoch": 0.09667524785013967,
12505
+ "grad_norm": 2.7985925674438477,
12506
+ "learning_rate": 0.00019950467685703188,
12507
+ "loss": 0.9926,
12508
+ "step": 1765
12509
+ },
12510
+ {
12511
+ "epoch": 0.0967300213616695,
12512
+ "grad_norm": 9.927842140197754,
12513
+ "learning_rate": 0.00019950410933233798,
12514
+ "loss": 3.3276,
12515
+ "step": 1766
12516
+ },
12517
+ {
12518
+ "epoch": 0.09678479487319933,
12519
+ "grad_norm": 3.2434985637664795,
12520
+ "learning_rate": 0.00019950354180764407,
12521
+ "loss": 1.0788,
12522
+ "step": 1767
12523
+ },
12524
+ {
12525
+ "epoch": 0.09683956838472914,
12526
+ "grad_norm": 3.0872771739959717,
12527
+ "learning_rate": 0.00019950295973103493,
12528
+ "loss": 1.0205,
12529
+ "step": 1768
12530
+ },
12531
+ {
12532
+ "epoch": 0.09689434189625896,
12533
+ "grad_norm": 2.5954806804656982,
12534
+ "learning_rate": 0.00019950239220634103,
12535
+ "loss": 0.2781,
12536
+ "step": 1769
12537
+ },
12538
+ {
12539
+ "epoch": 0.09694911540778879,
12540
+ "grad_norm": 2.164501905441284,
12541
+ "learning_rate": 0.00019950182468164712,
12542
+ "loss": 1.2394,
12543
+ "step": 1770
12544
+ },
12545
+ {
12546
+ "epoch": 0.09700388891931862,
12547
+ "grad_norm": 1.9297341108322144,
12548
+ "learning_rate": 0.000199501242605038,
12549
+ "loss": 1.1728,
12550
+ "step": 1771
12551
+ },
12552
+ {
12553
+ "epoch": 0.09705866243084844,
12554
+ "grad_norm": 3.7778513431549072,
12555
+ "learning_rate": 0.00019950067508034408,
12556
+ "loss": 0.9456,
12557
+ "step": 1772
12558
+ },
12559
+ {
12560
+ "epoch": 0.09711343594237827,
12561
+ "grad_norm": 9.403797149658203,
12562
+ "learning_rate": 0.00019950010755565017,
12563
+ "loss": 2.7684,
12564
+ "step": 1773
12565
+ },
12566
+ {
12567
+ "epoch": 0.09716820945390808,
12568
+ "grad_norm": 4.247941017150879,
12569
+ "learning_rate": 0.00019949952547904104,
12570
+ "loss": 1.0527,
12571
+ "step": 1774
12572
+ },
12573
+ {
12574
+ "epoch": 0.09722298296543791,
12575
+ "grad_norm": 3.1958489418029785,
12576
+ "learning_rate": 0.00019949895795434713,
12577
+ "loss": 1.427,
12578
+ "step": 1775
12579
+ },
12580
+ {
12581
+ "epoch": 0.09727775647696774,
12582
+ "grad_norm": 3.371579647064209,
12583
+ "learning_rate": 0.00019949839042965323,
12584
+ "loss": 1.1556,
12585
+ "step": 1776
12586
+ },
12587
+ {
12588
+ "epoch": 0.09733252998849756,
12589
+ "grad_norm": 3.3798880577087402,
12590
+ "learning_rate": 0.0001994978083530441,
12591
+ "loss": 1.3945,
12592
+ "step": 1777
12593
+ },
12594
+ {
12595
+ "epoch": 0.09738730350002739,
12596
+ "grad_norm": 2.414996385574341,
12597
+ "learning_rate": 0.00019949722627643496,
12598
+ "loss": 1.5379,
12599
+ "step": 1778
12600
+ },
12601
+ {
12602
+ "epoch": 0.09744207701155722,
12603
+ "grad_norm": 1.5653700828552246,
12604
+ "learning_rate": 0.00019949665875174105,
12605
+ "loss": 0.7863,
12606
+ "step": 1779
12607
+ },
12608
+ {
12609
+ "epoch": 0.09749685052308704,
12610
+ "grad_norm": 2.9738993644714355,
12611
+ "learning_rate": 0.00019949609122704715,
12612
+ "loss": 1.1626,
12613
+ "step": 1780
12614
+ },
12615
+ {
12616
+ "epoch": 0.09755162403461685,
12617
+ "grad_norm": 7.854586124420166,
12618
+ "learning_rate": 0.00019949549459852278,
12619
+ "loss": 1.3594,
12620
+ "step": 1781
12621
+ },
12622
+ {
12623
+ "epoch": 0.09760639754614668,
12624
+ "grad_norm": 2.3894333839416504,
12625
+ "learning_rate": 0.00019949492707382888,
12626
+ "loss": 1.1781,
12627
+ "step": 1782
12628
+ },
12629
+ {
12630
+ "epoch": 0.09766117105767651,
12631
+ "grad_norm": 3.33176851272583,
12632
+ "learning_rate": 0.00019949435954913497,
12633
+ "loss": 1.5442,
12634
+ "step": 1783
12635
+ },
12636
+ {
12637
+ "epoch": 0.09771594456920633,
12638
+ "grad_norm": 1.5332276821136475,
12639
+ "learning_rate": 0.00019949377747252584,
12640
+ "loss": 0.3197,
12641
+ "step": 1784
12642
+ },
12643
+ {
12644
+ "epoch": 0.09777071808073616,
12645
+ "grad_norm": 3.7499499320983887,
12646
+ "learning_rate": 0.0001994931953959167,
12647
+ "loss": 1.8758,
12648
+ "step": 1785
12649
+ },
12650
+ {
12651
+ "epoch": 0.09782549159226599,
12652
+ "grad_norm": 1.6528342962265015,
12653
+ "learning_rate": 0.0001994926278712228,
12654
+ "loss": 0.628,
12655
+ "step": 1786
12656
+ },
12657
+ {
12658
+ "epoch": 0.0978802651037958,
12659
+ "grad_norm": 11.0723295211792,
12660
+ "learning_rate": 0.00019949204579461366,
12661
+ "loss": 3.2053,
12662
+ "step": 1787
12663
+ },
12664
+ {
12665
+ "epoch": 0.09793503861532563,
12666
+ "grad_norm": 2.9138479232788086,
12667
+ "learning_rate": 0.00019949147826991975,
12668
+ "loss": 1.3303,
12669
+ "step": 1788
12670
+ },
12671
+ {
12672
+ "epoch": 0.09798981212685545,
12673
+ "grad_norm": 2.8633129596710205,
12674
+ "learning_rate": 0.0001994908816413954,
12675
+ "loss": 1.2231,
12676
+ "step": 1789
12677
+ },
12678
+ {
12679
+ "epoch": 0.09804458563838528,
12680
+ "grad_norm": 6.167202472686768,
12681
+ "learning_rate": 0.00019949031411670148,
12682
+ "loss": 1.1135,
12683
+ "step": 1790
12684
+ },
12685
+ {
12686
+ "epoch": 0.0980993591499151,
12687
+ "grad_norm": 2.066720724105835,
12688
+ "learning_rate": 0.00019948973204009235,
12689
+ "loss": 1.1756,
12690
+ "step": 1791
12691
+ },
12692
+ {
12693
+ "epoch": 0.09815413266144493,
12694
+ "grad_norm": 7.668239593505859,
12695
+ "learning_rate": 0.00019948916451539844,
12696
+ "loss": 1.4441,
12697
+ "step": 1792
12698
+ },
12699
+ {
12700
+ "epoch": 0.09820890617297474,
12701
+ "grad_norm": 2.545876979827881,
12702
+ "learning_rate": 0.0001994885824387893,
12703
+ "loss": 1.4338,
12704
+ "step": 1793
12705
+ },
12706
+ {
12707
+ "epoch": 0.09826367968450457,
12708
+ "grad_norm": 6.887261867523193,
12709
+ "learning_rate": 0.00019948798581026495,
12710
+ "loss": 2.3364,
12711
+ "step": 1794
12712
+ },
12713
+ {
12714
+ "epoch": 0.0983184531960344,
12715
+ "grad_norm": 2.963183879852295,
12716
+ "learning_rate": 0.00019948741828557104,
12717
+ "loss": 1.3663,
12718
+ "step": 1795
12719
+ },
12720
+ {
12721
+ "epoch": 0.09837322670756422,
12722
+ "grad_norm": 2.4916186332702637,
12723
+ "learning_rate": 0.0001994868362089619,
12724
+ "loss": 1.5044,
12725
+ "step": 1796
12726
+ },
12727
+ {
12728
+ "epoch": 0.09842800021909405,
12729
+ "grad_norm": 12.172907829284668,
12730
+ "learning_rate": 0.00019948625413235277,
12731
+ "loss": 2.82,
12732
+ "step": 1797
12733
+ },
12734
+ {
12735
+ "epoch": 0.09848277373062388,
12736
+ "grad_norm": 3.075561285018921,
12737
+ "learning_rate": 0.00019948567205574363,
12738
+ "loss": 1.5581,
12739
+ "step": 1798
12740
+ },
12741
+ {
12742
+ "epoch": 0.09853754724215369,
12743
+ "grad_norm": 3.3067069053649902,
12744
+ "learning_rate": 0.0001994850899791345,
12745
+ "loss": 1.7518,
12746
+ "step": 1799
12747
+ },
12748
+ {
12749
+ "epoch": 0.09859232075368352,
12750
+ "grad_norm": 5.215954780578613,
12751
+ "learning_rate": 0.00019948450790252537,
12752
+ "loss": 2.0323,
12753
+ "step": 1800
12754
+ },
12755
+ {
12756
+ "epoch": 0.09859232075368352,
12757
+ "eval_loss": 1.4282009601593018,
12758
+ "eval_runtime": 45.8051,
12759
+ "eval_samples_per_second": 2.009,
12760
+ "eval_steps_per_second": 2.009,
12761
+ "step": 1800
12762
  }
12763
  ],
12764
  "logging_steps": 1,
 
12773
  "early_stopping_threshold": 0.0
12774
  },
12775
  "attributes": {
12776
+ "early_stopping_patience_counter": 0
12777
  }
12778
  },
12779
  "TrainerControl": {
 
12787
  "attributes": {}
12788
  }
12789
  },
12790
+ "total_flos": 4.272644663279616e+16,
12791
  "train_batch_size": 1,
12792
  "trial_name": null,
12793
  "trial_params": null