| { |
| "best_global_step": 3000, |
| "best_metric": 0.6781408191440405, |
| "best_model_checkpoint": "out/span-detector/checkpoint-3000", |
| "epoch": 1.0, |
| "eval_steps": 500, |
| "global_step": 3000, |
| "is_hyper_param_search": false, |
| "is_local_process_zero": true, |
| "is_world_process_zero": true, |
| "log_history": [ |
| { |
| "epoch": 0.016666666666666666, |
| "grad_norm": 2.4648032188415527, |
| "learning_rate": 1.9673333333333337e-05, |
| "loss": 1.4763, |
| "step": 50 |
| }, |
| { |
| "epoch": 0.03333333333333333, |
| "grad_norm": 3.3380212783813477, |
| "learning_rate": 1.934e-05, |
| "loss": 0.8043, |
| "step": 100 |
| }, |
| { |
| "epoch": 0.05, |
| "grad_norm": 1.5232346057891846, |
| "learning_rate": 1.900666666666667e-05, |
| "loss": 0.558, |
| "step": 150 |
| }, |
| { |
| "epoch": 0.06666666666666667, |
| "grad_norm": 3.1704585552215576, |
| "learning_rate": 1.8673333333333333e-05, |
| "loss": 0.5472, |
| "step": 200 |
| }, |
| { |
| "epoch": 0.08333333333333333, |
| "grad_norm": 3.7331652641296387, |
| "learning_rate": 1.834e-05, |
| "loss": 0.5262, |
| "step": 250 |
| }, |
| { |
| "epoch": 0.1, |
| "grad_norm": 2.355356454849243, |
| "learning_rate": 1.8006666666666668e-05, |
| "loss": 0.5655, |
| "step": 300 |
| }, |
| { |
| "epoch": 0.11666666666666667, |
| "grad_norm": 2.4676451683044434, |
| "learning_rate": 1.7673333333333336e-05, |
| "loss": 0.5202, |
| "step": 350 |
| }, |
| { |
| "epoch": 0.13333333333333333, |
| "grad_norm": 2.6574511528015137, |
| "learning_rate": 1.734e-05, |
| "loss": 0.5367, |
| "step": 400 |
| }, |
| { |
| "epoch": 0.15, |
| "grad_norm": 1.6290208101272583, |
| "learning_rate": 1.7006666666666668e-05, |
| "loss": 0.4514, |
| "step": 450 |
| }, |
| { |
| "epoch": 0.16666666666666666, |
| "grad_norm": 1.5626131296157837, |
| "learning_rate": 1.6673333333333335e-05, |
| "loss": 0.4827, |
| "step": 500 |
| }, |
| { |
| "epoch": 0.18333333333333332, |
| "grad_norm": 2.533519744873047, |
| "learning_rate": 1.634e-05, |
| "loss": 0.4361, |
| "step": 550 |
| }, |
| { |
| "epoch": 0.2, |
| "grad_norm": 3.112020969390869, |
| "learning_rate": 1.6006666666666667e-05, |
| "loss": 0.4367, |
| "step": 600 |
| }, |
| { |
| "epoch": 0.21666666666666667, |
| "grad_norm": 1.4161723852157593, |
| "learning_rate": 1.5673333333333335e-05, |
| "loss": 0.4371, |
| "step": 650 |
| }, |
| { |
| "epoch": 0.23333333333333334, |
| "grad_norm": 1.5193759202957153, |
| "learning_rate": 1.5340000000000002e-05, |
| "loss": 0.4257, |
| "step": 700 |
| }, |
| { |
| "epoch": 0.25, |
| "grad_norm": 1.8685308694839478, |
| "learning_rate": 1.5006666666666666e-05, |
| "loss": 0.4571, |
| "step": 750 |
| }, |
| { |
| "epoch": 0.26666666666666666, |
| "grad_norm": 1.6408733129501343, |
| "learning_rate": 1.4673333333333336e-05, |
| "loss": 0.4498, |
| "step": 800 |
| }, |
| { |
| "epoch": 0.2833333333333333, |
| "grad_norm": 1.4346765279769897, |
| "learning_rate": 1.434e-05, |
| "loss": 0.4698, |
| "step": 850 |
| }, |
| { |
| "epoch": 0.3, |
| "grad_norm": 2.382272481918335, |
| "learning_rate": 1.400666666666667e-05, |
| "loss": 0.395, |
| "step": 900 |
| }, |
| { |
| "epoch": 0.31666666666666665, |
| "grad_norm": 1.9712049961090088, |
| "learning_rate": 1.3673333333333333e-05, |
| "loss": 0.4925, |
| "step": 950 |
| }, |
| { |
| "epoch": 0.3333333333333333, |
| "grad_norm": 3.0623228549957275, |
| "learning_rate": 1.3340000000000001e-05, |
| "loss": 0.441, |
| "step": 1000 |
| }, |
| { |
| "epoch": 0.35, |
| "grad_norm": 1.347990870475769, |
| "learning_rate": 1.3006666666666667e-05, |
| "loss": 0.4759, |
| "step": 1050 |
| }, |
| { |
| "epoch": 0.36666666666666664, |
| "grad_norm": 1.390187382698059, |
| "learning_rate": 1.2673333333333335e-05, |
| "loss": 0.4472, |
| "step": 1100 |
| }, |
| { |
| "epoch": 0.38333333333333336, |
| "grad_norm": 2.3408334255218506, |
| "learning_rate": 1.234e-05, |
| "loss": 0.4667, |
| "step": 1150 |
| }, |
| { |
| "epoch": 0.4, |
| "grad_norm": 2.5537164211273193, |
| "learning_rate": 1.2006666666666668e-05, |
| "loss": 0.4526, |
| "step": 1200 |
| }, |
| { |
| "epoch": 0.4166666666666667, |
| "grad_norm": 1.7939623594284058, |
| "learning_rate": 1.1673333333333334e-05, |
| "loss": 0.4567, |
| "step": 1250 |
| }, |
| { |
| "epoch": 0.43333333333333335, |
| "grad_norm": 1.571120262145996, |
| "learning_rate": 1.134e-05, |
| "loss": 0.4633, |
| "step": 1300 |
| }, |
| { |
| "epoch": 0.45, |
| "grad_norm": 1.5654029846191406, |
| "learning_rate": 1.1006666666666667e-05, |
| "loss": 0.491, |
| "step": 1350 |
| }, |
| { |
| "epoch": 0.4666666666666667, |
| "grad_norm": 1.9570505619049072, |
| "learning_rate": 1.0673333333333333e-05, |
| "loss": 0.472, |
| "step": 1400 |
| }, |
| { |
| "epoch": 0.48333333333333334, |
| "grad_norm": 1.9231178760528564, |
| "learning_rate": 1.0340000000000001e-05, |
| "loss": 0.4385, |
| "step": 1450 |
| }, |
| { |
| "epoch": 0.5, |
| "grad_norm": 2.099172592163086, |
| "learning_rate": 1.0006666666666667e-05, |
| "loss": 0.4263, |
| "step": 1500 |
| }, |
| { |
| "epoch": 0.5166666666666667, |
| "grad_norm": 1.9402815103530884, |
| "learning_rate": 9.673333333333334e-06, |
| "loss": 0.4511, |
| "step": 1550 |
| }, |
| { |
| "epoch": 0.5333333333333333, |
| "grad_norm": 1.2067538499832153, |
| "learning_rate": 9.340000000000002e-06, |
| "loss": 0.4545, |
| "step": 1600 |
| }, |
| { |
| "epoch": 0.55, |
| "grad_norm": 0.9885591268539429, |
| "learning_rate": 9.006666666666666e-06, |
| "loss": 0.4902, |
| "step": 1650 |
| }, |
| { |
| "epoch": 0.5666666666666667, |
| "grad_norm": 1.5390220880508423, |
| "learning_rate": 8.673333333333334e-06, |
| "loss": 0.4292, |
| "step": 1700 |
| }, |
| { |
| "epoch": 0.5833333333333334, |
| "grad_norm": 2.0588321685791016, |
| "learning_rate": 8.34e-06, |
| "loss": 0.396, |
| "step": 1750 |
| }, |
| { |
| "epoch": 0.6, |
| "grad_norm": 1.4244740009307861, |
| "learning_rate": 8.006666666666667e-06, |
| "loss": 0.4117, |
| "step": 1800 |
| }, |
| { |
| "epoch": 0.6166666666666667, |
| "grad_norm": 1.887633204460144, |
| "learning_rate": 7.673333333333333e-06, |
| "loss": 0.4704, |
| "step": 1850 |
| }, |
| { |
| "epoch": 0.6333333333333333, |
| "grad_norm": 1.9523940086364746, |
| "learning_rate": 7.340000000000001e-06, |
| "loss": 0.4556, |
| "step": 1900 |
| }, |
| { |
| "epoch": 0.65, |
| "grad_norm": 1.6887413263320923, |
| "learning_rate": 7.006666666666667e-06, |
| "loss": 0.4508, |
| "step": 1950 |
| }, |
| { |
| "epoch": 0.6666666666666666, |
| "grad_norm": 1.12482488155365, |
| "learning_rate": 6.6733333333333335e-06, |
| "loss": 0.4394, |
| "step": 2000 |
| }, |
| { |
| "epoch": 0.6833333333333333, |
| "grad_norm": 2.3246829509735107, |
| "learning_rate": 6.34e-06, |
| "loss": 0.4723, |
| "step": 2050 |
| }, |
| { |
| "epoch": 0.7, |
| "grad_norm": 1.3652856349945068, |
| "learning_rate": 6.006666666666667e-06, |
| "loss": 0.4577, |
| "step": 2100 |
| }, |
| { |
| "epoch": 0.7166666666666667, |
| "grad_norm": 2.0045857429504395, |
| "learning_rate": 5.673333333333334e-06, |
| "loss": 0.4095, |
| "step": 2150 |
| }, |
| { |
| "epoch": 0.7333333333333333, |
| "grad_norm": 1.2490384578704834, |
| "learning_rate": 5.3400000000000005e-06, |
| "loss": 0.4346, |
| "step": 2200 |
| }, |
| { |
| "epoch": 0.75, |
| "grad_norm": 2.2132956981658936, |
| "learning_rate": 5.006666666666667e-06, |
| "loss": 0.4341, |
| "step": 2250 |
| }, |
| { |
| "epoch": 0.7666666666666667, |
| "grad_norm": 1.5622119903564453, |
| "learning_rate": 4.673333333333333e-06, |
| "loss": 0.4449, |
| "step": 2300 |
| }, |
| { |
| "epoch": 0.7833333333333333, |
| "grad_norm": 1.2452800273895264, |
| "learning_rate": 4.34e-06, |
| "loss": 0.4767, |
| "step": 2350 |
| }, |
| { |
| "epoch": 0.8, |
| "grad_norm": 1.6074104309082031, |
| "learning_rate": 4.006666666666667e-06, |
| "loss": 0.4109, |
| "step": 2400 |
| }, |
| { |
| "epoch": 0.8166666666666667, |
| "grad_norm": 1.4492385387420654, |
| "learning_rate": 3.673333333333334e-06, |
| "loss": 0.4608, |
| "step": 2450 |
| }, |
| { |
| "epoch": 0.8333333333333334, |
| "grad_norm": 2.3570597171783447, |
| "learning_rate": 3.3400000000000006e-06, |
| "loss": 0.411, |
| "step": 2500 |
| }, |
| { |
| "epoch": 0.85, |
| "grad_norm": 1.4862946271896362, |
| "learning_rate": 3.0066666666666674e-06, |
| "loss": 0.4137, |
| "step": 2550 |
| }, |
| { |
| "epoch": 0.8666666666666667, |
| "grad_norm": 1.2841322422027588, |
| "learning_rate": 2.6733333333333333e-06, |
| "loss": 0.435, |
| "step": 2600 |
| }, |
| { |
| "epoch": 0.8833333333333333, |
| "grad_norm": 0.874824047088623, |
| "learning_rate": 2.3400000000000005e-06, |
| "loss": 0.4245, |
| "step": 2650 |
| }, |
| { |
| "epoch": 0.9, |
| "grad_norm": 0.9519926309585571, |
| "learning_rate": 2.006666666666667e-06, |
| "loss": 0.4803, |
| "step": 2700 |
| }, |
| { |
| "epoch": 0.9166666666666666, |
| "grad_norm": 1.5597883462905884, |
| "learning_rate": 1.6733333333333335e-06, |
| "loss": 0.4386, |
| "step": 2750 |
| }, |
| { |
| "epoch": 0.9333333333333333, |
| "grad_norm": 2.965679883956909, |
| "learning_rate": 1.34e-06, |
| "loss": 0.4265, |
| "step": 2800 |
| }, |
| { |
| "epoch": 0.95, |
| "grad_norm": 2.8773186206817627, |
| "learning_rate": 1.0066666666666668e-06, |
| "loss": 0.4351, |
| "step": 2850 |
| }, |
| { |
| "epoch": 0.9666666666666667, |
| "grad_norm": 1.5252959728240967, |
| "learning_rate": 6.733333333333334e-07, |
| "loss": 0.4787, |
| "step": 2900 |
| }, |
| { |
| "epoch": 0.9833333333333333, |
| "grad_norm": 1.961698055267334, |
| "learning_rate": 3.4000000000000003e-07, |
| "loss": 0.5035, |
| "step": 2950 |
| }, |
| { |
| "epoch": 1.0, |
| "grad_norm": 1.1849995851516724, |
| "learning_rate": 6.666666666666667e-09, |
| "loss": 0.4015, |
| "step": 3000 |
| }, |
| { |
| "epoch": 1.0, |
| "eval_f1": 0.6781408191440405, |
| "eval_loss": 0.4071887731552124, |
| "eval_precision": 0.6909227306826706, |
| "eval_recall": 0.6658232423639978, |
| "eval_runtime": 16.7241, |
| "eval_samples_per_second": 59.794, |
| "eval_steps_per_second": 14.949, |
| "step": 3000 |
| } |
| ], |
| "logging_steps": 50, |
| "max_steps": 3000, |
| "num_input_tokens_seen": 0, |
| "num_train_epochs": 1, |
| "save_steps": 500, |
| "stateful_callbacks": { |
| "TrainerControl": { |
| "args": { |
| "should_epoch_stop": false, |
| "should_evaluate": false, |
| "should_log": false, |
| "should_save": true, |
| "should_training_stop": true |
| }, |
| "attributes": {} |
| } |
| }, |
| "total_flos": 440995440050280.0, |
| "train_batch_size": 4, |
| "trial_name": null, |
| "trial_params": null |
| } |
|
|
