{ "best_global_step": 3000, "best_metric": 0.6781408191440405, "best_model_checkpoint": "out/span-detector/checkpoint-3000", "epoch": 1.0, "eval_steps": 500, "global_step": 3000, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.016666666666666666, "grad_norm": 2.4648032188415527, "learning_rate": 1.9673333333333337e-05, "loss": 1.4763, "step": 50 }, { "epoch": 0.03333333333333333, "grad_norm": 3.3380212783813477, "learning_rate": 1.934e-05, "loss": 0.8043, "step": 100 }, { "epoch": 0.05, "grad_norm": 1.5232346057891846, "learning_rate": 1.900666666666667e-05, "loss": 0.558, "step": 150 }, { "epoch": 0.06666666666666667, "grad_norm": 3.1704585552215576, "learning_rate": 1.8673333333333333e-05, "loss": 0.5472, "step": 200 }, { "epoch": 0.08333333333333333, "grad_norm": 3.7331652641296387, "learning_rate": 1.834e-05, "loss": 0.5262, "step": 250 }, { "epoch": 0.1, "grad_norm": 2.355356454849243, "learning_rate": 1.8006666666666668e-05, "loss": 0.5655, "step": 300 }, { "epoch": 0.11666666666666667, "grad_norm": 2.4676451683044434, "learning_rate": 1.7673333333333336e-05, "loss": 0.5202, "step": 350 }, { "epoch": 0.13333333333333333, "grad_norm": 2.6574511528015137, "learning_rate": 1.734e-05, "loss": 0.5367, "step": 400 }, { "epoch": 0.15, "grad_norm": 1.6290208101272583, "learning_rate": 1.7006666666666668e-05, "loss": 0.4514, "step": 450 }, { "epoch": 0.16666666666666666, "grad_norm": 1.5626131296157837, "learning_rate": 1.6673333333333335e-05, "loss": 0.4827, "step": 500 }, { "epoch": 0.18333333333333332, "grad_norm": 2.533519744873047, "learning_rate": 1.634e-05, "loss": 0.4361, "step": 550 }, { "epoch": 0.2, "grad_norm": 3.112020969390869, "learning_rate": 1.6006666666666667e-05, "loss": 0.4367, "step": 600 }, { "epoch": 0.21666666666666667, "grad_norm": 1.4161723852157593, "learning_rate": 1.5673333333333335e-05, "loss": 0.4371, "step": 650 }, { "epoch": 0.23333333333333334, "grad_norm": 1.5193759202957153, "learning_rate": 1.5340000000000002e-05, "loss": 0.4257, "step": 700 }, { "epoch": 0.25, "grad_norm": 1.8685308694839478, "learning_rate": 1.5006666666666666e-05, "loss": 0.4571, "step": 750 }, { "epoch": 0.26666666666666666, "grad_norm": 1.6408733129501343, "learning_rate": 1.4673333333333336e-05, "loss": 0.4498, "step": 800 }, { "epoch": 0.2833333333333333, "grad_norm": 1.4346765279769897, "learning_rate": 1.434e-05, "loss": 0.4698, "step": 850 }, { "epoch": 0.3, "grad_norm": 2.382272481918335, "learning_rate": 1.400666666666667e-05, "loss": 0.395, "step": 900 }, { "epoch": 0.31666666666666665, "grad_norm": 1.9712049961090088, "learning_rate": 1.3673333333333333e-05, "loss": 0.4925, "step": 950 }, { "epoch": 0.3333333333333333, "grad_norm": 3.0623228549957275, "learning_rate": 1.3340000000000001e-05, "loss": 0.441, "step": 1000 }, { "epoch": 0.35, "grad_norm": 1.347990870475769, "learning_rate": 1.3006666666666667e-05, "loss": 0.4759, "step": 1050 }, { "epoch": 0.36666666666666664, "grad_norm": 1.390187382698059, "learning_rate": 1.2673333333333335e-05, "loss": 0.4472, "step": 1100 }, { "epoch": 0.38333333333333336, "grad_norm": 2.3408334255218506, "learning_rate": 1.234e-05, "loss": 0.4667, "step": 1150 }, { "epoch": 0.4, "grad_norm": 2.5537164211273193, "learning_rate": 1.2006666666666668e-05, "loss": 0.4526, "step": 1200 }, { "epoch": 0.4166666666666667, "grad_norm": 1.7939623594284058, "learning_rate": 1.1673333333333334e-05, "loss": 0.4567, "step": 1250 }, { "epoch": 0.43333333333333335, "grad_norm": 1.571120262145996, "learning_rate": 1.134e-05, "loss": 0.4633, "step": 1300 }, { "epoch": 0.45, "grad_norm": 1.5654029846191406, "learning_rate": 1.1006666666666667e-05, "loss": 0.491, "step": 1350 }, { "epoch": 0.4666666666666667, "grad_norm": 1.9570505619049072, "learning_rate": 1.0673333333333333e-05, "loss": 0.472, "step": 1400 }, { "epoch": 0.48333333333333334, "grad_norm": 1.9231178760528564, "learning_rate": 1.0340000000000001e-05, "loss": 0.4385, "step": 1450 }, { "epoch": 0.5, "grad_norm": 2.099172592163086, "learning_rate": 1.0006666666666667e-05, "loss": 0.4263, "step": 1500 }, { "epoch": 0.5166666666666667, "grad_norm": 1.9402815103530884, "learning_rate": 9.673333333333334e-06, "loss": 0.4511, "step": 1550 }, { "epoch": 0.5333333333333333, "grad_norm": 1.2067538499832153, "learning_rate": 9.340000000000002e-06, "loss": 0.4545, "step": 1600 }, { "epoch": 0.55, "grad_norm": 0.9885591268539429, "learning_rate": 9.006666666666666e-06, "loss": 0.4902, "step": 1650 }, { "epoch": 0.5666666666666667, "grad_norm": 1.5390220880508423, "learning_rate": 8.673333333333334e-06, "loss": 0.4292, "step": 1700 }, { "epoch": 0.5833333333333334, "grad_norm": 2.0588321685791016, "learning_rate": 8.34e-06, "loss": 0.396, "step": 1750 }, { "epoch": 0.6, "grad_norm": 1.4244740009307861, "learning_rate": 8.006666666666667e-06, "loss": 0.4117, "step": 1800 }, { "epoch": 0.6166666666666667, "grad_norm": 1.887633204460144, "learning_rate": 7.673333333333333e-06, "loss": 0.4704, "step": 1850 }, { "epoch": 0.6333333333333333, "grad_norm": 1.9523940086364746, "learning_rate": 7.340000000000001e-06, "loss": 0.4556, "step": 1900 }, { "epoch": 0.65, "grad_norm": 1.6887413263320923, "learning_rate": 7.006666666666667e-06, "loss": 0.4508, "step": 1950 }, { "epoch": 0.6666666666666666, "grad_norm": 1.12482488155365, "learning_rate": 6.6733333333333335e-06, "loss": 0.4394, "step": 2000 }, { "epoch": 0.6833333333333333, "grad_norm": 2.3246829509735107, "learning_rate": 6.34e-06, "loss": 0.4723, "step": 2050 }, { "epoch": 0.7, "grad_norm": 1.3652856349945068, "learning_rate": 6.006666666666667e-06, "loss": 0.4577, "step": 2100 }, { "epoch": 0.7166666666666667, "grad_norm": 2.0045857429504395, "learning_rate": 5.673333333333334e-06, "loss": 0.4095, "step": 2150 }, { "epoch": 0.7333333333333333, "grad_norm": 1.2490384578704834, "learning_rate": 5.3400000000000005e-06, "loss": 0.4346, "step": 2200 }, { "epoch": 0.75, "grad_norm": 2.2132956981658936, "learning_rate": 5.006666666666667e-06, "loss": 0.4341, "step": 2250 }, { "epoch": 0.7666666666666667, "grad_norm": 1.5622119903564453, "learning_rate": 4.673333333333333e-06, "loss": 0.4449, "step": 2300 }, { "epoch": 0.7833333333333333, "grad_norm": 1.2452800273895264, "learning_rate": 4.34e-06, "loss": 0.4767, "step": 2350 }, { "epoch": 0.8, "grad_norm": 1.6074104309082031, "learning_rate": 4.006666666666667e-06, "loss": 0.4109, "step": 2400 }, { "epoch": 0.8166666666666667, "grad_norm": 1.4492385387420654, "learning_rate": 3.673333333333334e-06, "loss": 0.4608, "step": 2450 }, { "epoch": 0.8333333333333334, "grad_norm": 2.3570597171783447, "learning_rate": 3.3400000000000006e-06, "loss": 0.411, "step": 2500 }, { "epoch": 0.85, "grad_norm": 1.4862946271896362, "learning_rate": 3.0066666666666674e-06, "loss": 0.4137, "step": 2550 }, { "epoch": 0.8666666666666667, "grad_norm": 1.2841322422027588, "learning_rate": 2.6733333333333333e-06, "loss": 0.435, "step": 2600 }, { "epoch": 0.8833333333333333, "grad_norm": 0.874824047088623, "learning_rate": 2.3400000000000005e-06, "loss": 0.4245, "step": 2650 }, { "epoch": 0.9, "grad_norm": 0.9519926309585571, "learning_rate": 2.006666666666667e-06, "loss": 0.4803, "step": 2700 }, { "epoch": 0.9166666666666666, "grad_norm": 1.5597883462905884, "learning_rate": 1.6733333333333335e-06, "loss": 0.4386, "step": 2750 }, { "epoch": 0.9333333333333333, "grad_norm": 2.965679883956909, "learning_rate": 1.34e-06, "loss": 0.4265, "step": 2800 }, { "epoch": 0.95, "grad_norm": 2.8773186206817627, "learning_rate": 1.0066666666666668e-06, "loss": 0.4351, "step": 2850 }, { "epoch": 0.9666666666666667, "grad_norm": 1.5252959728240967, "learning_rate": 6.733333333333334e-07, "loss": 0.4787, "step": 2900 }, { "epoch": 0.9833333333333333, "grad_norm": 1.961698055267334, "learning_rate": 3.4000000000000003e-07, "loss": 0.5035, "step": 2950 }, { "epoch": 1.0, "grad_norm": 1.1849995851516724, "learning_rate": 6.666666666666667e-09, "loss": 0.4015, "step": 3000 }, { "epoch": 1.0, "eval_f1": 0.6781408191440405, "eval_loss": 0.4071887731552124, "eval_precision": 0.6909227306826706, "eval_recall": 0.6658232423639978, "eval_runtime": 16.7241, "eval_samples_per_second": 59.794, "eval_steps_per_second": 14.949, "step": 3000 } ], "logging_steps": 50, "max_steps": 3000, "num_input_tokens_seen": 0, "num_train_epochs": 1, "save_steps": 500, "stateful_callbacks": { "TrainerControl": { "args": { "should_epoch_stop": false, "should_evaluate": false, "should_log": false, "should_save": true, "should_training_stop": true }, "attributes": {} } }, "total_flos": 440995440050280.0, "train_batch_size": 4, "trial_name": null, "trial_params": null }