error577 commited on
Commit
6ee5559
·
verified ·
1 Parent(s): d95a1d4

Training in progress, step 6800, checkpoint

Browse files
last-checkpoint/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:c1f985429dc7e625be5e91b610bdd94157a1bda5897a177ec7e1a7b0ac275811
3
  size 231448
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:5f3f6563c7013e9d8833edaff3b2d58a6e6b8b31af82787890e9d47ac2230f0a
3
  size 231448
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:633ae6623529b78cb0973ddf6f1e7669728030c6d9b44558d9ca58db86477823
3
  size 374849
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:fb4c634bcaddf0250a304600841c5aa572700774ab7f572b4ef0d534908d9bd4
3
  size 374849
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:09751e67806bd13509dacfa6ab533988e61bd3181e8b6db94bd3a33675aaad01
3
  size 14645
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:abdad36e68f3257eda22cbe818cebe1a237a12261f4689868fe165199e22ffff
3
  size 14645
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:1732ec494c1d25714bfab78756c2a65fca98ad4b88d8ec67e4fe26c9ac85c614
3
  size 1465
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:5d5d383f97a182b67eadeca10cebc79297baaad7b5040e385b1c12e6987e0b60
3
  size 1465
last-checkpoint/trainer_state.json CHANGED
@@ -2,9 +2,9 @@
2
  "best_global_step": 6600,
3
  "best_metric": 10.173015594482422,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-6600",
5
- "epoch": 1.1524158701060625,
6
  "eval_steps": 200,
7
- "global_step": 6600,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
@@ -46480,6 +46480,1414 @@
46480
  "eval_samples_per_second": 312.208,
46481
  "eval_steps_per_second": 156.78,
46482
  "step": 6600
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
46483
  }
46484
  ],
46485
  "logging_steps": 1,
@@ -46494,7 +47902,7 @@
46494
  "early_stopping_threshold": 0.0
46495
  },
46496
  "attributes": {
46497
- "early_stopping_patience_counter": 0
46498
  }
46499
  },
46500
  "TrainerControl": {
@@ -46508,7 +47916,7 @@
46508
  "attributes": {}
46509
  }
46510
  },
46511
- "total_flos": 358165080047616.0,
46512
  "train_batch_size": 2,
46513
  "trial_name": null,
46514
  "trial_params": null
 
2
  "best_global_step": 6600,
3
  "best_metric": 10.173015594482422,
4
  "best_model_checkpoint": "miner_id_24/checkpoint-6600",
5
+ "epoch": 1.1873335952162716,
6
  "eval_steps": 200,
7
+ "global_step": 6800,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
 
46480
  "eval_samples_per_second": 312.208,
46481
  "eval_steps_per_second": 156.78,
46482
  "step": 6600
46483
+ },
46484
+ {
46485
+ "epoch": 1.1525904587316136,
46486
+ "grad_norm": 0.05754921957850456,
46487
+ "learning_rate": 0.00013570381377229378,
46488
+ "loss": 10.1776,
46489
+ "step": 6601
46490
+ },
46491
+ {
46492
+ "epoch": 1.1527650473571647,
46493
+ "grad_norm": 0.06129704788327217,
46494
+ "learning_rate": 0.00013568672314117155,
46495
+ "loss": 10.1801,
46496
+ "step": 6602
46497
+ },
46498
+ {
46499
+ "epoch": 1.1529396359827158,
46500
+ "grad_norm": 0.06384776532649994,
46501
+ "learning_rate": 0.0001356696313154693,
46502
+ "loss": 10.1677,
46503
+ "step": 6603
46504
+ },
46505
+ {
46506
+ "epoch": 1.1531142246082668,
46507
+ "grad_norm": 0.06662099808454514,
46508
+ "learning_rate": 0.00013565253829575917,
46509
+ "loss": 10.1674,
46510
+ "step": 6604
46511
+ },
46512
+ {
46513
+ "epoch": 1.153288813233818,
46514
+ "grad_norm": 0.06636055558919907,
46515
+ "learning_rate": 0.00013563544408261335,
46516
+ "loss": 10.188,
46517
+ "step": 6605
46518
+ },
46519
+ {
46520
+ "epoch": 1.1534634018593688,
46521
+ "grad_norm": 0.06508639454841614,
46522
+ "learning_rate": 0.00013561834867660406,
46523
+ "loss": 10.1641,
46524
+ "step": 6606
46525
+ },
46526
+ {
46527
+ "epoch": 1.1536379904849199,
46528
+ "grad_norm": 0.0724368542432785,
46529
+ "learning_rate": 0.00013560125207830355,
46530
+ "loss": 10.1409,
46531
+ "step": 6607
46532
+ },
46533
+ {
46534
+ "epoch": 1.153812579110471,
46535
+ "grad_norm": 0.06480993330478668,
46536
+ "learning_rate": 0.0001355841542882841,
46537
+ "loss": 10.1891,
46538
+ "step": 6608
46539
+ },
46540
+ {
46541
+ "epoch": 1.153987167736022,
46542
+ "grad_norm": 0.07318785786628723,
46543
+ "learning_rate": 0.000135567055307118,
46544
+ "loss": 10.1861,
46545
+ "step": 6609
46546
+ },
46547
+ {
46548
+ "epoch": 1.1541617563615731,
46549
+ "grad_norm": 0.07180633395910263,
46550
+ "learning_rate": 0.00013554995513537772,
46551
+ "loss": 10.1887,
46552
+ "step": 6610
46553
+ },
46554
+ {
46555
+ "epoch": 1.154336344987124,
46556
+ "grad_norm": 0.0694059357047081,
46557
+ "learning_rate": 0.00013553285377363561,
46558
+ "loss": 10.2107,
46559
+ "step": 6611
46560
+ },
46561
+ {
46562
+ "epoch": 1.154510933612675,
46563
+ "grad_norm": 0.06824510544538498,
46564
+ "learning_rate": 0.00013551575122246415,
46565
+ "loss": 10.2152,
46566
+ "step": 6612
46567
+ },
46568
+ {
46569
+ "epoch": 1.1546855222382262,
46570
+ "grad_norm": 0.07610020041465759,
46571
+ "learning_rate": 0.0001354986474824358,
46572
+ "loss": 10.1833,
46573
+ "step": 6613
46574
+ },
46575
+ {
46576
+ "epoch": 1.1548601108637773,
46577
+ "grad_norm": 0.07402123510837555,
46578
+ "learning_rate": 0.00013548154255412311,
46579
+ "loss": 10.2173,
46580
+ "step": 6614
46581
+ },
46582
+ {
46583
+ "epoch": 1.1550346994893284,
46584
+ "grad_norm": 0.07677818089723587,
46585
+ "learning_rate": 0.00013546443643809862,
46586
+ "loss": 10.1976,
46587
+ "step": 6615
46588
+ },
46589
+ {
46590
+ "epoch": 1.1552092881148792,
46591
+ "grad_norm": 0.07977776974439621,
46592
+ "learning_rate": 0.00013544732913493504,
46593
+ "loss": 10.1701,
46594
+ "step": 6616
46595
+ },
46596
+ {
46597
+ "epoch": 1.1553838767404303,
46598
+ "grad_norm": 0.07100335508584976,
46599
+ "learning_rate": 0.00013543022064520493,
46600
+ "loss": 10.1842,
46601
+ "step": 6617
46602
+ },
46603
+ {
46604
+ "epoch": 1.1555584653659814,
46605
+ "grad_norm": 0.09276257455348969,
46606
+ "learning_rate": 0.00013541311096948097,
46607
+ "loss": 10.1589,
46608
+ "step": 6618
46609
+ },
46610
+ {
46611
+ "epoch": 1.1557330539915325,
46612
+ "grad_norm": 0.0759650394320488,
46613
+ "learning_rate": 0.00013539600010833592,
46614
+ "loss": 10.1791,
46615
+ "step": 6619
46616
+ },
46617
+ {
46618
+ "epoch": 1.1559076426170836,
46619
+ "grad_norm": 0.08893386274576187,
46620
+ "learning_rate": 0.0001353788880623426,
46621
+ "loss": 10.1985,
46622
+ "step": 6620
46623
+ },
46624
+ {
46625
+ "epoch": 1.1560822312426344,
46626
+ "grad_norm": 0.09687887132167816,
46627
+ "learning_rate": 0.00013536177483207374,
46628
+ "loss": 10.1833,
46629
+ "step": 6621
46630
+ },
46631
+ {
46632
+ "epoch": 1.1562568198681855,
46633
+ "grad_norm": 0.09618092328310013,
46634
+ "learning_rate": 0.00013534466041810226,
46635
+ "loss": 10.2026,
46636
+ "step": 6622
46637
+ },
46638
+ {
46639
+ "epoch": 1.1564314084937366,
46640
+ "grad_norm": 0.09759634733200073,
46641
+ "learning_rate": 0.00013532754482100098,
46642
+ "loss": 10.1833,
46643
+ "step": 6623
46644
+ },
46645
+ {
46646
+ "epoch": 1.1566059971192877,
46647
+ "grad_norm": 0.10272558778524399,
46648
+ "learning_rate": 0.00013531042804134285,
46649
+ "loss": 10.1641,
46650
+ "step": 6624
46651
+ },
46652
+ {
46653
+ "epoch": 1.1567805857448388,
46654
+ "grad_norm": 0.1086888387799263,
46655
+ "learning_rate": 0.00013529331007970088,
46656
+ "loss": 10.1693,
46657
+ "step": 6625
46658
+ },
46659
+ {
46660
+ "epoch": 1.1569551743703899,
46661
+ "grad_norm": 0.12882404029369354,
46662
+ "learning_rate": 0.00013527619093664804,
46663
+ "loss": 10.216,
46664
+ "step": 6626
46665
+ },
46666
+ {
46667
+ "epoch": 1.1571297629959407,
46668
+ "grad_norm": 0.16322451829910278,
46669
+ "learning_rate": 0.00013525907061275738,
46670
+ "loss": 10.2113,
46671
+ "step": 6627
46672
+ },
46673
+ {
46674
+ "epoch": 1.1573043516214918,
46675
+ "grad_norm": 0.05951020494103432,
46676
+ "learning_rate": 0.00013524194910860202,
46677
+ "loss": 10.2164,
46678
+ "step": 6628
46679
+ },
46680
+ {
46681
+ "epoch": 1.157478940247043,
46682
+ "grad_norm": 0.06036080792546272,
46683
+ "learning_rate": 0.00013522482642475502,
46684
+ "loss": 10.2017,
46685
+ "step": 6629
46686
+ },
46687
+ {
46688
+ "epoch": 1.157653528872594,
46689
+ "grad_norm": 0.05998009070754051,
46690
+ "learning_rate": 0.0001352077025617896,
46691
+ "loss": 10.19,
46692
+ "step": 6630
46693
+ },
46694
+ {
46695
+ "epoch": 1.157828117498145,
46696
+ "grad_norm": 0.057121291756629944,
46697
+ "learning_rate": 0.00013519057752027895,
46698
+ "loss": 10.1954,
46699
+ "step": 6631
46700
+ },
46701
+ {
46702
+ "epoch": 1.1580027061236962,
46703
+ "grad_norm": 0.05381056293845177,
46704
+ "learning_rate": 0.00013517345130079634,
46705
+ "loss": 10.221,
46706
+ "step": 6632
46707
+ },
46708
+ {
46709
+ "epoch": 1.158177294749247,
46710
+ "grad_norm": 0.05417171120643616,
46711
+ "learning_rate": 0.000135156323903915,
46712
+ "loss": 10.211,
46713
+ "step": 6633
46714
+ },
46715
+ {
46716
+ "epoch": 1.158351883374798,
46717
+ "grad_norm": 0.05781791731715202,
46718
+ "learning_rate": 0.00013513919533020827,
46719
+ "loss": 10.1963,
46720
+ "step": 6634
46721
+ },
46722
+ {
46723
+ "epoch": 1.1585264720003492,
46724
+ "grad_norm": 0.05331426486372948,
46725
+ "learning_rate": 0.00013512206558024956,
46726
+ "loss": 10.2076,
46727
+ "step": 6635
46728
+ },
46729
+ {
46730
+ "epoch": 1.1587010606259003,
46731
+ "grad_norm": 0.059899840503931046,
46732
+ "learning_rate": 0.00013510493465461224,
46733
+ "loss": 10.1797,
46734
+ "step": 6636
46735
+ },
46736
+ {
46737
+ "epoch": 1.1588756492514514,
46738
+ "grad_norm": 0.05709931254386902,
46739
+ "learning_rate": 0.0001350878025538697,
46740
+ "loss": 10.1874,
46741
+ "step": 6637
46742
+ },
46743
+ {
46744
+ "epoch": 1.1590502378770022,
46745
+ "grad_norm": 0.05903635546565056,
46746
+ "learning_rate": 0.0001350706692785955,
46747
+ "loss": 10.1853,
46748
+ "step": 6638
46749
+ },
46750
+ {
46751
+ "epoch": 1.1592248265025533,
46752
+ "grad_norm": 0.04806497320532799,
46753
+ "learning_rate": 0.00013505353482936317,
46754
+ "loss": 10.1994,
46755
+ "step": 6639
46756
+ },
46757
+ {
46758
+ "epoch": 1.1593994151281044,
46759
+ "grad_norm": 0.0529620461165905,
46760
+ "learning_rate": 0.0001350363992067462,
46761
+ "loss": 10.1901,
46762
+ "step": 6640
46763
+ },
46764
+ {
46765
+ "epoch": 1.1595740037536555,
46766
+ "grad_norm": 0.05837274342775345,
46767
+ "learning_rate": 0.0001350192624113182,
46768
+ "loss": 10.1946,
46769
+ "step": 6641
46770
+ },
46771
+ {
46772
+ "epoch": 1.1597485923792066,
46773
+ "grad_norm": 0.06348732858896255,
46774
+ "learning_rate": 0.00013500212444365284,
46775
+ "loss": 10.1797,
46776
+ "step": 6642
46777
+ },
46778
+ {
46779
+ "epoch": 1.1599231810047574,
46780
+ "grad_norm": 0.05511973425745964,
46781
+ "learning_rate": 0.00013498498530432383,
46782
+ "loss": 10.2085,
46783
+ "step": 6643
46784
+ },
46785
+ {
46786
+ "epoch": 1.1600977696303085,
46787
+ "grad_norm": 0.06207094341516495,
46788
+ "learning_rate": 0.00013496784499390481,
46789
+ "loss": 10.1839,
46790
+ "step": 6644
46791
+ },
46792
+ {
46793
+ "epoch": 1.1602723582558596,
46794
+ "grad_norm": 0.061329834163188934,
46795
+ "learning_rate": 0.0001349507035129696,
46796
+ "loss": 10.1907,
46797
+ "step": 6645
46798
+ },
46799
+ {
46800
+ "epoch": 1.1604469468814107,
46801
+ "grad_norm": 0.05619116127490997,
46802
+ "learning_rate": 0.0001349335608620919,
46803
+ "loss": 10.1956,
46804
+ "step": 6646
46805
+ },
46806
+ {
46807
+ "epoch": 1.1606215355069618,
46808
+ "grad_norm": 0.059876106679439545,
46809
+ "learning_rate": 0.00013491641704184567,
46810
+ "loss": 10.1724,
46811
+ "step": 6647
46812
+ },
46813
+ {
46814
+ "epoch": 1.1607961241325127,
46815
+ "grad_norm": 0.06350506842136383,
46816
+ "learning_rate": 0.0001348992720528047,
46817
+ "loss": 10.2067,
46818
+ "step": 6648
46819
+ },
46820
+ {
46821
+ "epoch": 1.1609707127580637,
46822
+ "grad_norm": 0.06213406100869179,
46823
+ "learning_rate": 0.00013488212589554292,
46824
+ "loss": 10.1992,
46825
+ "step": 6649
46826
+ },
46827
+ {
46828
+ "epoch": 1.1611453013836148,
46829
+ "grad_norm": 0.062087614089250565,
46830
+ "learning_rate": 0.0001348649785706343,
46831
+ "loss": 10.1826,
46832
+ "step": 6650
46833
+ },
46834
+ {
46835
+ "epoch": 1.161319890009166,
46836
+ "grad_norm": 0.06550157070159912,
46837
+ "learning_rate": 0.00013484783007865282,
46838
+ "loss": 10.2161,
46839
+ "step": 6651
46840
+ },
46841
+ {
46842
+ "epoch": 1.161494478634717,
46843
+ "grad_norm": 0.05906221270561218,
46844
+ "learning_rate": 0.0001348306804201725,
46845
+ "loss": 10.2277,
46846
+ "step": 6652
46847
+ },
46848
+ {
46849
+ "epoch": 1.161669067260268,
46850
+ "grad_norm": 0.06576628237962723,
46851
+ "learning_rate": 0.00013481352959576743,
46852
+ "loss": 10.215,
46853
+ "step": 6653
46854
+ },
46855
+ {
46856
+ "epoch": 1.161843655885819,
46857
+ "grad_norm": 0.06713695824146271,
46858
+ "learning_rate": 0.0001347963776060117,
46859
+ "loss": 10.2117,
46860
+ "step": 6654
46861
+ },
46862
+ {
46863
+ "epoch": 1.16201824451137,
46864
+ "grad_norm": 0.06266455352306366,
46865
+ "learning_rate": 0.00013477922445147945,
46866
+ "loss": 10.1869,
46867
+ "step": 6655
46868
+ },
46869
+ {
46870
+ "epoch": 1.1621928331369211,
46871
+ "grad_norm": 0.06867382675409317,
46872
+ "learning_rate": 0.00013476207013274488,
46873
+ "loss": 10.1896,
46874
+ "step": 6656
46875
+ },
46876
+ {
46877
+ "epoch": 1.1623674217624722,
46878
+ "grad_norm": 0.08009170740842819,
46879
+ "learning_rate": 0.00013474491465038224,
46880
+ "loss": 10.1767,
46881
+ "step": 6657
46882
+ },
46883
+ {
46884
+ "epoch": 1.1625420103880233,
46885
+ "grad_norm": 0.06410049647092819,
46886
+ "learning_rate": 0.00013472775800496572,
46887
+ "loss": 10.206,
46888
+ "step": 6658
46889
+ },
46890
+ {
46891
+ "epoch": 1.1627165990135744,
46892
+ "grad_norm": 0.07151012122631073,
46893
+ "learning_rate": 0.00013471060019706971,
46894
+ "loss": 10.1441,
46895
+ "step": 6659
46896
+ },
46897
+ {
46898
+ "epoch": 1.1628911876391252,
46899
+ "grad_norm": 0.06985379010438919,
46900
+ "learning_rate": 0.0001346934412272685,
46901
+ "loss": 10.1903,
46902
+ "step": 6660
46903
+ },
46904
+ {
46905
+ "epoch": 1.1630657762646763,
46906
+ "grad_norm": 0.06761810183525085,
46907
+ "learning_rate": 0.00013467628109613646,
46908
+ "loss": 10.1346,
46909
+ "step": 6661
46910
+ },
46911
+ {
46912
+ "epoch": 1.1632403648902274,
46913
+ "grad_norm": 0.07084517925977707,
46914
+ "learning_rate": 0.00013465911980424806,
46915
+ "loss": 10.1622,
46916
+ "step": 6662
46917
+ },
46918
+ {
46919
+ "epoch": 1.1634149535157785,
46920
+ "grad_norm": 0.07731479406356812,
46921
+ "learning_rate": 0.00013464195735217772,
46922
+ "loss": 10.1734,
46923
+ "step": 6663
46924
+ },
46925
+ {
46926
+ "epoch": 1.1635895421413296,
46927
+ "grad_norm": 0.06967329978942871,
46928
+ "learning_rate": 0.00013462479374049994,
46929
+ "loss": 10.1618,
46930
+ "step": 6664
46931
+ },
46932
+ {
46933
+ "epoch": 1.1637641307668805,
46934
+ "grad_norm": 0.06601081788539886,
46935
+ "learning_rate": 0.00013460762896978928,
46936
+ "loss": 10.1809,
46937
+ "step": 6665
46938
+ },
46939
+ {
46940
+ "epoch": 1.1639387193924315,
46941
+ "grad_norm": 0.07517863810062408,
46942
+ "learning_rate": 0.00013459046304062028,
46943
+ "loss": 10.1822,
46944
+ "step": 6666
46945
+ },
46946
+ {
46947
+ "epoch": 1.1641133080179826,
46948
+ "grad_norm": 0.06952070444822311,
46949
+ "learning_rate": 0.0001345732959535676,
46950
+ "loss": 10.1528,
46951
+ "step": 6667
46952
+ },
46953
+ {
46954
+ "epoch": 1.1642878966435337,
46955
+ "grad_norm": 0.08291957527399063,
46956
+ "learning_rate": 0.00013455612770920582,
46957
+ "loss": 10.2022,
46958
+ "step": 6668
46959
+ },
46960
+ {
46961
+ "epoch": 1.1644624852690848,
46962
+ "grad_norm": 0.07868051528930664,
46963
+ "learning_rate": 0.00013453895830810972,
46964
+ "loss": 10.1875,
46965
+ "step": 6669
46966
+ },
46967
+ {
46968
+ "epoch": 1.1646370738946357,
46969
+ "grad_norm": 0.08594256639480591,
46970
+ "learning_rate": 0.00013452178775085396,
46971
+ "loss": 10.1906,
46972
+ "step": 6670
46973
+ },
46974
+ {
46975
+ "epoch": 1.1648116625201868,
46976
+ "grad_norm": 0.08328867703676224,
46977
+ "learning_rate": 0.00013450461603801335,
46978
+ "loss": 10.168,
46979
+ "step": 6671
46980
+ },
46981
+ {
46982
+ "epoch": 1.1649862511457378,
46983
+ "grad_norm": 0.0835767537355423,
46984
+ "learning_rate": 0.00013448744317016265,
46985
+ "loss": 10.2106,
46986
+ "step": 6672
46987
+ },
46988
+ {
46989
+ "epoch": 1.165160839771289,
46990
+ "grad_norm": 0.10463568568229675,
46991
+ "learning_rate": 0.00013447026914787676,
46992
+ "loss": 10.1998,
46993
+ "step": 6673
46994
+ },
46995
+ {
46996
+ "epoch": 1.16533542839684,
46997
+ "grad_norm": 0.09539495408535004,
46998
+ "learning_rate": 0.00013445309397173052,
46999
+ "loss": 10.2199,
47000
+ "step": 6674
47001
+ },
47002
+ {
47003
+ "epoch": 1.1655100170223909,
47004
+ "grad_norm": 0.10918745398521423,
47005
+ "learning_rate": 0.00013443591764229892,
47006
+ "loss": 10.1915,
47007
+ "step": 6675
47008
+ },
47009
+ {
47010
+ "epoch": 1.165684605647942,
47011
+ "grad_norm": 0.14089494943618774,
47012
+ "learning_rate": 0.00013441874016015682,
47013
+ "loss": 10.1816,
47014
+ "step": 6676
47015
+ },
47016
+ {
47017
+ "epoch": 1.165859194273493,
47018
+ "grad_norm": 0.19695745408535004,
47019
+ "learning_rate": 0.0001344015615258793,
47020
+ "loss": 10.1998,
47021
+ "step": 6677
47022
+ },
47023
+ {
47024
+ "epoch": 1.1660337828990441,
47025
+ "grad_norm": 0.06785037368535995,
47026
+ "learning_rate": 0.00013438438174004138,
47027
+ "loss": 10.2104,
47028
+ "step": 6678
47029
+ },
47030
+ {
47031
+ "epoch": 1.1662083715245952,
47032
+ "grad_norm": 0.05276291072368622,
47033
+ "learning_rate": 0.0001343672008032181,
47034
+ "loss": 10.2145,
47035
+ "step": 6679
47036
+ },
47037
+ {
47038
+ "epoch": 1.1663829601501463,
47039
+ "grad_norm": 0.07362059503793716,
47040
+ "learning_rate": 0.00013435001871598467,
47041
+ "loss": 10.1904,
47042
+ "step": 6680
47043
+ },
47044
+ {
47045
+ "epoch": 1.1665575487756972,
47046
+ "grad_norm": 0.06050708889961243,
47047
+ "learning_rate": 0.00013433283547891614,
47048
+ "loss": 10.2132,
47049
+ "step": 6681
47050
+ },
47051
+ {
47052
+ "epoch": 1.1667321374012483,
47053
+ "grad_norm": 0.053445540368556976,
47054
+ "learning_rate": 0.00013431565109258778,
47055
+ "loss": 10.1955,
47056
+ "step": 6682
47057
+ },
47058
+ {
47059
+ "epoch": 1.1669067260267993,
47060
+ "grad_norm": 0.05020887032151222,
47061
+ "learning_rate": 0.00013429846555757473,
47062
+ "loss": 10.2028,
47063
+ "step": 6683
47064
+ },
47065
+ {
47066
+ "epoch": 1.1670813146523504,
47067
+ "grad_norm": 0.04841764643788338,
47068
+ "learning_rate": 0.00013428127887445238,
47069
+ "loss": 10.1935,
47070
+ "step": 6684
47071
+ },
47072
+ {
47073
+ "epoch": 1.1672559032779015,
47074
+ "grad_norm": 0.05403267219662666,
47075
+ "learning_rate": 0.00013426409104379592,
47076
+ "loss": 10.205,
47077
+ "step": 6685
47078
+ },
47079
+ {
47080
+ "epoch": 1.1674304919034526,
47081
+ "grad_norm": 0.05894338712096214,
47082
+ "learning_rate": 0.0001342469020661808,
47083
+ "loss": 10.2115,
47084
+ "step": 6686
47085
+ },
47086
+ {
47087
+ "epoch": 1.1676050805290035,
47088
+ "grad_norm": 0.052139367908239365,
47089
+ "learning_rate": 0.00013422971194218232,
47090
+ "loss": 10.1909,
47091
+ "step": 6687
47092
+ },
47093
+ {
47094
+ "epoch": 1.1677796691545546,
47095
+ "grad_norm": 0.05505381524562836,
47096
+ "learning_rate": 0.00013421252067237594,
47097
+ "loss": 10.2277,
47098
+ "step": 6688
47099
+ },
47100
+ {
47101
+ "epoch": 1.1679542577801056,
47102
+ "grad_norm": 0.06477504223585129,
47103
+ "learning_rate": 0.00013419532825733712,
47104
+ "loss": 10.2023,
47105
+ "step": 6689
47106
+ },
47107
+ {
47108
+ "epoch": 1.1681288464056567,
47109
+ "grad_norm": 0.06498431414365768,
47110
+ "learning_rate": 0.0001341781346976414,
47111
+ "loss": 10.1896,
47112
+ "step": 6690
47113
+ },
47114
+ {
47115
+ "epoch": 1.1683034350312078,
47116
+ "grad_norm": 0.06197341904044151,
47117
+ "learning_rate": 0.00013416093999386424,
47118
+ "loss": 10.2056,
47119
+ "step": 6691
47120
+ },
47121
+ {
47122
+ "epoch": 1.1684780236567587,
47123
+ "grad_norm": 0.05451798811554909,
47124
+ "learning_rate": 0.00013414374414658128,
47125
+ "loss": 10.1914,
47126
+ "step": 6692
47127
+ },
47128
+ {
47129
+ "epoch": 1.1686526122823098,
47130
+ "grad_norm": 0.05846451595425606,
47131
+ "learning_rate": 0.00013412654715636813,
47132
+ "loss": 10.1853,
47133
+ "step": 6693
47134
+ },
47135
+ {
47136
+ "epoch": 1.1688272009078609,
47137
+ "grad_norm": 0.05822359398007393,
47138
+ "learning_rate": 0.00013410934902380038,
47139
+ "loss": 10.2002,
47140
+ "step": 6694
47141
+ },
47142
+ {
47143
+ "epoch": 1.169001789533412,
47144
+ "grad_norm": 0.07443460077047348,
47145
+ "learning_rate": 0.0001340921497494538,
47146
+ "loss": 10.2058,
47147
+ "step": 6695
47148
+ },
47149
+ {
47150
+ "epoch": 1.169176378158963,
47151
+ "grad_norm": 0.05760784074664116,
47152
+ "learning_rate": 0.00013407494933390408,
47153
+ "loss": 10.1853,
47154
+ "step": 6696
47155
+ },
47156
+ {
47157
+ "epoch": 1.169350966784514,
47158
+ "grad_norm": 0.06200849637389183,
47159
+ "learning_rate": 0.00013405774777772698,
47160
+ "loss": 10.1957,
47161
+ "step": 6697
47162
+ },
47163
+ {
47164
+ "epoch": 1.169525555410065,
47165
+ "grad_norm": 0.057326789945364,
47166
+ "learning_rate": 0.0001340405450814983,
47167
+ "loss": 10.1859,
47168
+ "step": 6698
47169
+ },
47170
+ {
47171
+ "epoch": 1.169700144035616,
47172
+ "grad_norm": 0.0661502331495285,
47173
+ "learning_rate": 0.00013402334124579398,
47174
+ "loss": 10.1956,
47175
+ "step": 6699
47176
+ },
47177
+ {
47178
+ "epoch": 1.1698747326611671,
47179
+ "grad_norm": 0.06066644564270973,
47180
+ "learning_rate": 0.0001340061362711898,
47181
+ "loss": 10.2034,
47182
+ "step": 6700
47183
+ },
47184
+ {
47185
+ "epoch": 1.1700493212867182,
47186
+ "grad_norm": 0.06404515355825424,
47187
+ "learning_rate": 0.00013398893015826167,
47188
+ "loss": 10.1686,
47189
+ "step": 6701
47190
+ },
47191
+ {
47192
+ "epoch": 1.170223909912269,
47193
+ "grad_norm": 0.05467183515429497,
47194
+ "learning_rate": 0.00013397172290758564,
47195
+ "loss": 10.2028,
47196
+ "step": 6702
47197
+ },
47198
+ {
47199
+ "epoch": 1.1703984985378202,
47200
+ "grad_norm": 0.0643463060259819,
47201
+ "learning_rate": 0.00013395451451973762,
47202
+ "loss": 10.2049,
47203
+ "step": 6703
47204
+ },
47205
+ {
47206
+ "epoch": 1.1705730871633713,
47207
+ "grad_norm": 0.05503904074430466,
47208
+ "learning_rate": 0.00013393730499529368,
47209
+ "loss": 10.1823,
47210
+ "step": 6704
47211
+ },
47212
+ {
47213
+ "epoch": 1.1707476757889224,
47214
+ "grad_norm": 0.06322362273931503,
47215
+ "learning_rate": 0.00013392009433482992,
47216
+ "loss": 10.1735,
47217
+ "step": 6705
47218
+ },
47219
+ {
47220
+ "epoch": 1.1709222644144734,
47221
+ "grad_norm": 0.05631624162197113,
47222
+ "learning_rate": 0.0001339028825389224,
47223
+ "loss": 10.1665,
47224
+ "step": 6706
47225
+ },
47226
+ {
47227
+ "epoch": 1.1710968530400245,
47228
+ "grad_norm": 0.06327015906572342,
47229
+ "learning_rate": 0.0001338856696081473,
47230
+ "loss": 10.2119,
47231
+ "step": 6707
47232
+ },
47233
+ {
47234
+ "epoch": 1.1712714416655754,
47235
+ "grad_norm": 0.06362945586442947,
47236
+ "learning_rate": 0.00013386845554308078,
47237
+ "loss": 10.1924,
47238
+ "step": 6708
47239
+ },
47240
+ {
47241
+ "epoch": 1.1714460302911265,
47242
+ "grad_norm": 0.07041797786951065,
47243
+ "learning_rate": 0.00013385124034429909,
47244
+ "loss": 10.1932,
47245
+ "step": 6709
47246
+ },
47247
+ {
47248
+ "epoch": 1.1716206189166776,
47249
+ "grad_norm": 0.06517671048641205,
47250
+ "learning_rate": 0.0001338340240123785,
47251
+ "loss": 10.1521,
47252
+ "step": 6710
47253
+ },
47254
+ {
47255
+ "epoch": 1.1717952075422287,
47256
+ "grad_norm": 0.06790722161531448,
47257
+ "learning_rate": 0.0001338168065478953,
47258
+ "loss": 10.2254,
47259
+ "step": 6711
47260
+ },
47261
+ {
47262
+ "epoch": 1.1719697961677797,
47263
+ "grad_norm": 0.07672692090272903,
47264
+ "learning_rate": 0.0001337995879514258,
47265
+ "loss": 10.1653,
47266
+ "step": 6712
47267
+ },
47268
+ {
47269
+ "epoch": 1.1721443847933308,
47270
+ "grad_norm": 0.06646759063005447,
47271
+ "learning_rate": 0.00013378236822354645,
47272
+ "loss": 10.1778,
47273
+ "step": 6713
47274
+ },
47275
+ {
47276
+ "epoch": 1.1723189734188817,
47277
+ "grad_norm": 0.07148426026105881,
47278
+ "learning_rate": 0.0001337651473648336,
47279
+ "loss": 10.1643,
47280
+ "step": 6714
47281
+ },
47282
+ {
47283
+ "epoch": 1.1724935620444328,
47284
+ "grad_norm": 0.062029335647821426,
47285
+ "learning_rate": 0.00013374792537586367,
47286
+ "loss": 10.1528,
47287
+ "step": 6715
47288
+ },
47289
+ {
47290
+ "epoch": 1.1726681506699839,
47291
+ "grad_norm": 0.06484927237033844,
47292
+ "learning_rate": 0.00013373070225721325,
47293
+ "loss": 10.1975,
47294
+ "step": 6716
47295
+ },
47296
+ {
47297
+ "epoch": 1.172842739295535,
47298
+ "grad_norm": 0.07326612621545792,
47299
+ "learning_rate": 0.00013371347800945882,
47300
+ "loss": 10.1836,
47301
+ "step": 6717
47302
+ },
47303
+ {
47304
+ "epoch": 1.173017327921086,
47305
+ "grad_norm": 0.0710907131433487,
47306
+ "learning_rate": 0.0001336962526331769,
47307
+ "loss": 10.1497,
47308
+ "step": 6718
47309
+ },
47310
+ {
47311
+ "epoch": 1.173191916546637,
47312
+ "grad_norm": 0.0727982446551323,
47313
+ "learning_rate": 0.00013367902612894416,
47314
+ "loss": 10.1852,
47315
+ "step": 6719
47316
+ },
47317
+ {
47318
+ "epoch": 1.173366505172188,
47319
+ "grad_norm": 0.07787124812602997,
47320
+ "learning_rate": 0.00013366179849733721,
47321
+ "loss": 10.1704,
47322
+ "step": 6720
47323
+ },
47324
+ {
47325
+ "epoch": 1.173541093797739,
47326
+ "grad_norm": 0.08143677562475204,
47327
+ "learning_rate": 0.00013364456973893277,
47328
+ "loss": 10.1718,
47329
+ "step": 6721
47330
+ },
47331
+ {
47332
+ "epoch": 1.1737156824232902,
47333
+ "grad_norm": 0.07791531831026077,
47334
+ "learning_rate": 0.0001336273398543075,
47335
+ "loss": 10.1716,
47336
+ "step": 6722
47337
+ },
47338
+ {
47339
+ "epoch": 1.1738902710488412,
47340
+ "grad_norm": 0.09451960772275925,
47341
+ "learning_rate": 0.00013361010884403818,
47342
+ "loss": 10.203,
47343
+ "step": 6723
47344
+ },
47345
+ {
47346
+ "epoch": 1.1740648596743921,
47347
+ "grad_norm": 0.10520417988300323,
47348
+ "learning_rate": 0.0001335928767087016,
47349
+ "loss": 10.1712,
47350
+ "step": 6724
47351
+ },
47352
+ {
47353
+ "epoch": 1.1742394482999432,
47354
+ "grad_norm": 0.13084563612937927,
47355
+ "learning_rate": 0.0001335756434488746,
47356
+ "loss": 10.1801,
47357
+ "step": 6725
47358
+ },
47359
+ {
47360
+ "epoch": 1.1744140369254943,
47361
+ "grad_norm": 0.13725222647190094,
47362
+ "learning_rate": 0.00013355840906513402,
47363
+ "loss": 10.2021,
47364
+ "step": 6726
47365
+ },
47366
+ {
47367
+ "epoch": 1.1745886255510454,
47368
+ "grad_norm": 0.20145170390605927,
47369
+ "learning_rate": 0.0001335411735580568,
47370
+ "loss": 10.1825,
47371
+ "step": 6727
47372
+ },
47373
+ {
47374
+ "epoch": 1.1747632141765965,
47375
+ "grad_norm": 0.05996145308017731,
47376
+ "learning_rate": 0.00013352393692821982,
47377
+ "loss": 10.2115,
47378
+ "step": 6728
47379
+ },
47380
+ {
47381
+ "epoch": 1.1749378028021473,
47382
+ "grad_norm": 0.053392522037029266,
47383
+ "learning_rate": 0.00013350669917620018,
47384
+ "loss": 10.2018,
47385
+ "step": 6729
47386
+ },
47387
+ {
47388
+ "epoch": 1.1751123914276984,
47389
+ "grad_norm": 0.05460912361741066,
47390
+ "learning_rate": 0.00013348946030257477,
47391
+ "loss": 10.2069,
47392
+ "step": 6730
47393
+ },
47394
+ {
47395
+ "epoch": 1.1752869800532495,
47396
+ "grad_norm": 0.05965264141559601,
47397
+ "learning_rate": 0.0001334722203079207,
47398
+ "loss": 10.1889,
47399
+ "step": 6731
47400
+ },
47401
+ {
47402
+ "epoch": 1.1754615686788006,
47403
+ "grad_norm": 0.05371463671326637,
47404
+ "learning_rate": 0.00013345497919281507,
47405
+ "loss": 10.1886,
47406
+ "step": 6732
47407
+ },
47408
+ {
47409
+ "epoch": 1.1756361573043517,
47410
+ "grad_norm": 0.0564100481569767,
47411
+ "learning_rate": 0.000133437736957835,
47412
+ "loss": 10.2141,
47413
+ "step": 6733
47414
+ },
47415
+ {
47416
+ "epoch": 1.1758107459299028,
47417
+ "grad_norm": 0.05735461413860321,
47418
+ "learning_rate": 0.0001334204936035577,
47419
+ "loss": 10.2146,
47420
+ "step": 6734
47421
+ },
47422
+ {
47423
+ "epoch": 1.1759853345554536,
47424
+ "grad_norm": 0.05543113127350807,
47425
+ "learning_rate": 0.00013340324913056027,
47426
+ "loss": 10.1852,
47427
+ "step": 6735
47428
+ },
47429
+ {
47430
+ "epoch": 1.1761599231810047,
47431
+ "grad_norm": 0.05490509048104286,
47432
+ "learning_rate": 0.00013338600353942005,
47433
+ "loss": 10.1967,
47434
+ "step": 6736
47435
+ },
47436
+ {
47437
+ "epoch": 1.1763345118065558,
47438
+ "grad_norm": 0.04958629235625267,
47439
+ "learning_rate": 0.00013336875683071426,
47440
+ "loss": 10.2296,
47441
+ "step": 6737
47442
+ },
47443
+ {
47444
+ "epoch": 1.1765091004321069,
47445
+ "grad_norm": 0.05589492246508598,
47446
+ "learning_rate": 0.0001333515090050203,
47447
+ "loss": 10.2008,
47448
+ "step": 6738
47449
+ },
47450
+ {
47451
+ "epoch": 1.176683689057658,
47452
+ "grad_norm": 0.04957855865359306,
47453
+ "learning_rate": 0.00013333426006291544,
47454
+ "loss": 10.2122,
47455
+ "step": 6739
47456
+ },
47457
+ {
47458
+ "epoch": 1.176858277683209,
47459
+ "grad_norm": 0.05027850717306137,
47460
+ "learning_rate": 0.00013331701000497708,
47461
+ "loss": 10.2345,
47462
+ "step": 6740
47463
+ },
47464
+ {
47465
+ "epoch": 1.17703286630876,
47466
+ "grad_norm": 0.050413042306900024,
47467
+ "learning_rate": 0.00013329975883178267,
47468
+ "loss": 10.203,
47469
+ "step": 6741
47470
+ },
47471
+ {
47472
+ "epoch": 1.177207454934311,
47473
+ "grad_norm": 0.05428360402584076,
47474
+ "learning_rate": 0.0001332825065439097,
47475
+ "loss": 10.2023,
47476
+ "step": 6742
47477
+ },
47478
+ {
47479
+ "epoch": 1.177382043559862,
47480
+ "grad_norm": 0.05409414321184158,
47481
+ "learning_rate": 0.00013326525314193567,
47482
+ "loss": 10.1854,
47483
+ "step": 6743
47484
+ },
47485
+ {
47486
+ "epoch": 1.1775566321854132,
47487
+ "grad_norm": 0.06975532323122025,
47488
+ "learning_rate": 0.0001332479986264381,
47489
+ "loss": 10.1468,
47490
+ "step": 6744
47491
+ },
47492
+ {
47493
+ "epoch": 1.1777312208109643,
47494
+ "grad_norm": 0.05708344280719757,
47495
+ "learning_rate": 0.0001332307429979946,
47496
+ "loss": 10.2082,
47497
+ "step": 6745
47498
+ },
47499
+ {
47500
+ "epoch": 1.1779058094365151,
47501
+ "grad_norm": 0.058680132031440735,
47502
+ "learning_rate": 0.00013321348625718269,
47503
+ "loss": 10.2048,
47504
+ "step": 6746
47505
+ },
47506
+ {
47507
+ "epoch": 1.1780803980620662,
47508
+ "grad_norm": 0.05424291640520096,
47509
+ "learning_rate": 0.00013319622840458014,
47510
+ "loss": 10.2189,
47511
+ "step": 6747
47512
+ },
47513
+ {
47514
+ "epoch": 1.1782549866876173,
47515
+ "grad_norm": 0.059949345886707306,
47516
+ "learning_rate": 0.00013317896944076458,
47517
+ "loss": 10.2057,
47518
+ "step": 6748
47519
+ },
47520
+ {
47521
+ "epoch": 1.1784295753131684,
47522
+ "grad_norm": 0.06188052520155907,
47523
+ "learning_rate": 0.00013316170936631373,
47524
+ "loss": 10.1549,
47525
+ "step": 6749
47526
+ },
47527
+ {
47528
+ "epoch": 1.1786041639387195,
47529
+ "grad_norm": 0.05762496218085289,
47530
+ "learning_rate": 0.00013314444818180541,
47531
+ "loss": 10.2107,
47532
+ "step": 6750
47533
+ },
47534
+ {
47535
+ "epoch": 1.1787787525642703,
47536
+ "grad_norm": 0.06711531430482864,
47537
+ "learning_rate": 0.0001331271858878174,
47538
+ "loss": 10.1972,
47539
+ "step": 6751
47540
+ },
47541
+ {
47542
+ "epoch": 1.1789533411898214,
47543
+ "grad_norm": 0.06949680298566818,
47544
+ "learning_rate": 0.00013310992248492752,
47545
+ "loss": 10.2058,
47546
+ "step": 6752
47547
+ },
47548
+ {
47549
+ "epoch": 1.1791279298153725,
47550
+ "grad_norm": 0.05501225218176842,
47551
+ "learning_rate": 0.00013309265797371362,
47552
+ "loss": 10.1944,
47553
+ "step": 6753
47554
+ },
47555
+ {
47556
+ "epoch": 1.1793025184409236,
47557
+ "grad_norm": 0.06268805265426636,
47558
+ "learning_rate": 0.0001330753923547537,
47559
+ "loss": 10.1852,
47560
+ "step": 6754
47561
+ },
47562
+ {
47563
+ "epoch": 1.1794771070664747,
47564
+ "grad_norm": 0.06402627378702164,
47565
+ "learning_rate": 0.00013305812562862564,
47566
+ "loss": 10.1773,
47567
+ "step": 6755
47568
+ },
47569
+ {
47570
+ "epoch": 1.1796516956920255,
47571
+ "grad_norm": 0.06815411150455475,
47572
+ "learning_rate": 0.00013304085779590743,
47573
+ "loss": 10.189,
47574
+ "step": 6756
47575
+ },
47576
+ {
47577
+ "epoch": 1.1798262843175766,
47578
+ "grad_norm": 0.07236217707395554,
47579
+ "learning_rate": 0.00013302358885717715,
47580
+ "loss": 10.1989,
47581
+ "step": 6757
47582
+ },
47583
+ {
47584
+ "epoch": 1.1800008729431277,
47585
+ "grad_norm": 0.06931474059820175,
47586
+ "learning_rate": 0.00013300631881301277,
47587
+ "loss": 10.159,
47588
+ "step": 6758
47589
+ },
47590
+ {
47591
+ "epoch": 1.1801754615686788,
47592
+ "grad_norm": 0.0821484848856926,
47593
+ "learning_rate": 0.00013298904766399246,
47594
+ "loss": 10.1786,
47595
+ "step": 6759
47596
+ },
47597
+ {
47598
+ "epoch": 1.18035005019423,
47599
+ "grad_norm": 0.07058442384004593,
47600
+ "learning_rate": 0.00013297177541069438,
47601
+ "loss": 10.1782,
47602
+ "step": 6760
47603
+ },
47604
+ {
47605
+ "epoch": 1.180524638819781,
47606
+ "grad_norm": 0.07187909632921219,
47607
+ "learning_rate": 0.0001329545020536966,
47608
+ "loss": 10.1936,
47609
+ "step": 6761
47610
+ },
47611
+ {
47612
+ "epoch": 1.1806992274453318,
47613
+ "grad_norm": 0.07338224351406097,
47614
+ "learning_rate": 0.0001329372275935774,
47615
+ "loss": 10.1767,
47616
+ "step": 6762
47617
+ },
47618
+ {
47619
+ "epoch": 1.180873816070883,
47620
+ "grad_norm": 0.07118020951747894,
47621
+ "learning_rate": 0.00013291995203091505,
47622
+ "loss": 10.1789,
47623
+ "step": 6763
47624
+ },
47625
+ {
47626
+ "epoch": 1.181048404696434,
47627
+ "grad_norm": 0.07656675577163696,
47628
+ "learning_rate": 0.00013290267536628778,
47629
+ "loss": 10.1928,
47630
+ "step": 6764
47631
+ },
47632
+ {
47633
+ "epoch": 1.181222993321985,
47634
+ "grad_norm": 0.07586850225925446,
47635
+ "learning_rate": 0.00013288539760027393,
47636
+ "loss": 10.1707,
47637
+ "step": 6765
47638
+ },
47639
+ {
47640
+ "epoch": 1.1813975819475362,
47641
+ "grad_norm": 0.0879765972495079,
47642
+ "learning_rate": 0.00013286811873345185,
47643
+ "loss": 10.191,
47644
+ "step": 6766
47645
+ },
47646
+ {
47647
+ "epoch": 1.1815721705730873,
47648
+ "grad_norm": 0.08396521210670471,
47649
+ "learning_rate": 0.00013285083876639995,
47650
+ "loss": 10.1984,
47651
+ "step": 6767
47652
+ },
47653
+ {
47654
+ "epoch": 1.1817467591986381,
47655
+ "grad_norm": 0.08436109870672226,
47656
+ "learning_rate": 0.00013283355769969668,
47657
+ "loss": 10.1895,
47658
+ "step": 6768
47659
+ },
47660
+ {
47661
+ "epoch": 1.1819213478241892,
47662
+ "grad_norm": 0.08220233023166656,
47663
+ "learning_rate": 0.00013281627553392045,
47664
+ "loss": 10.1626,
47665
+ "step": 6769
47666
+ },
47667
+ {
47668
+ "epoch": 1.1820959364497403,
47669
+ "grad_norm": 0.09889841824769974,
47670
+ "learning_rate": 0.0001327989922696498,
47671
+ "loss": 10.1667,
47672
+ "step": 6770
47673
+ },
47674
+ {
47675
+ "epoch": 1.1822705250752914,
47676
+ "grad_norm": 0.09717115014791489,
47677
+ "learning_rate": 0.00013278170790746328,
47678
+ "loss": 10.191,
47679
+ "step": 6771
47680
+ },
47681
+ {
47682
+ "epoch": 1.1824451137008425,
47683
+ "grad_norm": 0.1042226254940033,
47684
+ "learning_rate": 0.00013276442244793945,
47685
+ "loss": 10.2448,
47686
+ "step": 6772
47687
+ },
47688
+ {
47689
+ "epoch": 1.1826197023263934,
47690
+ "grad_norm": 0.11203698068857193,
47691
+ "learning_rate": 0.0001327471358916569,
47692
+ "loss": 10.188,
47693
+ "step": 6773
47694
+ },
47695
+ {
47696
+ "epoch": 1.1827942909519444,
47697
+ "grad_norm": 0.12028288096189499,
47698
+ "learning_rate": 0.00013272984823919435,
47699
+ "loss": 10.1901,
47700
+ "step": 6774
47701
+ },
47702
+ {
47703
+ "epoch": 1.1829688795774955,
47704
+ "grad_norm": 0.11861559003591537,
47705
+ "learning_rate": 0.00013271255949113043,
47706
+ "loss": 10.1488,
47707
+ "step": 6775
47708
+ },
47709
+ {
47710
+ "epoch": 1.1831434682030466,
47711
+ "grad_norm": 0.15504154562950134,
47712
+ "learning_rate": 0.00013269526964804389,
47713
+ "loss": 10.2123,
47714
+ "step": 6776
47715
+ },
47716
+ {
47717
+ "epoch": 1.1833180568285977,
47718
+ "grad_norm": 0.1918569952249527,
47719
+ "learning_rate": 0.00013267797871051347,
47720
+ "loss": 10.1788,
47721
+ "step": 6777
47722
+ },
47723
+ {
47724
+ "epoch": 1.1834926454541486,
47725
+ "grad_norm": 0.06545868515968323,
47726
+ "learning_rate": 0.000132660686679118,
47727
+ "loss": 10.1925,
47728
+ "step": 6778
47729
+ },
47730
+ {
47731
+ "epoch": 1.1836672340796996,
47732
+ "grad_norm": 0.06437470763921738,
47733
+ "learning_rate": 0.00013264339355443627,
47734
+ "loss": 10.1972,
47735
+ "step": 6779
47736
+ },
47737
+ {
47738
+ "epoch": 1.1838418227052507,
47739
+ "grad_norm": 0.07717756927013397,
47740
+ "learning_rate": 0.00013262609933704721,
47741
+ "loss": 10.179,
47742
+ "step": 6780
47743
+ },
47744
+ {
47745
+ "epoch": 1.1840164113308018,
47746
+ "grad_norm": 0.052977729588747025,
47747
+ "learning_rate": 0.00013260880402752968,
47748
+ "loss": 10.2087,
47749
+ "step": 6781
47750
+ },
47751
+ {
47752
+ "epoch": 1.184190999956353,
47753
+ "grad_norm": 0.05500118434429169,
47754
+ "learning_rate": 0.00013259150762646264,
47755
+ "loss": 10.2021,
47756
+ "step": 6782
47757
+ },
47758
+ {
47759
+ "epoch": 1.1843655885819038,
47760
+ "grad_norm": 0.05269487202167511,
47761
+ "learning_rate": 0.00013257421013442507,
47762
+ "loss": 10.1855,
47763
+ "step": 6783
47764
+ },
47765
+ {
47766
+ "epoch": 1.1845401772074549,
47767
+ "grad_norm": 0.0567626878619194,
47768
+ "learning_rate": 0.000132556911551996,
47769
+ "loss": 10.2146,
47770
+ "step": 6784
47771
+ },
47772
+ {
47773
+ "epoch": 1.184714765833006,
47774
+ "grad_norm": 0.05835544317960739,
47775
+ "learning_rate": 0.00013253961187975448,
47776
+ "loss": 10.2169,
47777
+ "step": 6785
47778
+ },
47779
+ {
47780
+ "epoch": 1.184889354458557,
47781
+ "grad_norm": 0.06303957849740982,
47782
+ "learning_rate": 0.00013252231111827957,
47783
+ "loss": 10.202,
47784
+ "step": 6786
47785
+ },
47786
+ {
47787
+ "epoch": 1.1850639430841081,
47788
+ "grad_norm": 0.06513693183660507,
47789
+ "learning_rate": 0.00013250500926815045,
47790
+ "loss": 10.166,
47791
+ "step": 6787
47792
+ },
47793
+ {
47794
+ "epoch": 1.1852385317096592,
47795
+ "grad_norm": 0.048517730087041855,
47796
+ "learning_rate": 0.00013248770632994625,
47797
+ "loss": 10.1783,
47798
+ "step": 6788
47799
+ },
47800
+ {
47801
+ "epoch": 1.18541312033521,
47802
+ "grad_norm": 0.05863891914486885,
47803
+ "learning_rate": 0.00013247040230424613,
47804
+ "loss": 10.2098,
47805
+ "step": 6789
47806
+ },
47807
+ {
47808
+ "epoch": 1.1855877089607612,
47809
+ "grad_norm": 0.05168004333972931,
47810
+ "learning_rate": 0.00013245309719162943,
47811
+ "loss": 10.1964,
47812
+ "step": 6790
47813
+ },
47814
+ {
47815
+ "epoch": 1.1857622975863122,
47816
+ "grad_norm": 0.04984300956130028,
47817
+ "learning_rate": 0.00013243579099267533,
47818
+ "loss": 10.2139,
47819
+ "step": 6791
47820
+ },
47821
+ {
47822
+ "epoch": 1.1859368862118633,
47823
+ "grad_norm": 0.05101669579744339,
47824
+ "learning_rate": 0.0001324184837079632,
47825
+ "loss": 10.1945,
47826
+ "step": 6792
47827
+ },
47828
+ {
47829
+ "epoch": 1.1861114748374144,
47830
+ "grad_norm": 0.058209605515003204,
47831
+ "learning_rate": 0.00013240117533807233,
47832
+ "loss": 10.2026,
47833
+ "step": 6793
47834
+ },
47835
+ {
47836
+ "epoch": 1.1862860634629655,
47837
+ "grad_norm": 0.05458604544401169,
47838
+ "learning_rate": 0.00013238386588358217,
47839
+ "loss": 10.1806,
47840
+ "step": 6794
47841
+ },
47842
+ {
47843
+ "epoch": 1.1864606520885164,
47844
+ "grad_norm": 0.05307287350296974,
47845
+ "learning_rate": 0.00013236655534507204,
47846
+ "loss": 10.2077,
47847
+ "step": 6795
47848
+ },
47849
+ {
47850
+ "epoch": 1.1866352407140675,
47851
+ "grad_norm": 0.06611496210098267,
47852
+ "learning_rate": 0.00013234924372312147,
47853
+ "loss": 10.1894,
47854
+ "step": 6796
47855
+ },
47856
+ {
47857
+ "epoch": 1.1868098293396185,
47858
+ "grad_norm": 0.09174860268831253,
47859
+ "learning_rate": 0.00013233193101830996,
47860
+ "loss": 10.2035,
47861
+ "step": 6797
47862
+ },
47863
+ {
47864
+ "epoch": 1.1869844179651696,
47865
+ "grad_norm": 0.052938319742679596,
47866
+ "learning_rate": 0.00013231461723121698,
47867
+ "loss": 10.2011,
47868
+ "step": 6798
47869
+ },
47870
+ {
47871
+ "epoch": 1.1871590065907207,
47872
+ "grad_norm": 0.0562593936920166,
47873
+ "learning_rate": 0.00013229730236242215,
47874
+ "loss": 10.1876,
47875
+ "step": 6799
47876
+ },
47877
+ {
47878
+ "epoch": 1.1873335952162716,
47879
+ "grad_norm": 0.06013987213373184,
47880
+ "learning_rate": 0.00013227998641250502,
47881
+ "loss": 10.2011,
47882
+ "step": 6800
47883
+ },
47884
+ {
47885
+ "epoch": 1.1873335952162716,
47886
+ "eval_loss": 10.173479080200195,
47887
+ "eval_runtime": 0.7368,
47888
+ "eval_samples_per_second": 313.511,
47889
+ "eval_steps_per_second": 157.434,
47890
+ "step": 6800
47891
  }
47892
  ],
47893
  "logging_steps": 1,
 
47902
  "early_stopping_threshold": 0.0
47903
  },
47904
  "attributes": {
47905
+ "early_stopping_patience_counter": 1
47906
  }
47907
  },
47908
  "TrainerControl": {
 
47916
  "attributes": {}
47917
  }
47918
  },
47919
+ "total_flos": 369018156220416.0,
47920
  "train_batch_size": 2,
47921
  "trial_name": null,
47922
  "trial_params": null