Razavipour commited on
Commit
7572824
·
verified ·
1 Parent(s): 2399872

End of training

Browse files
Files changed (4) hide show
  1. README.md +3 -1
  2. all_results.json +6 -6
  3. train_results.json +6 -6
  4. trainer_state.json +72 -170
README.md CHANGED
@@ -3,6 +3,8 @@ library_name: peft
3
  license: cc-by-nc-4.0
4
  base_model: facebook/musicgen-melody
5
  tags:
 
 
6
  - generated_from_trainer
7
  model-index:
8
  - name: musicgen-persian-traditional-instruments-tiny
@@ -14,7 +16,7 @@ should probably proofread and complete it, then remove this comment. -->
14
 
15
  # musicgen-persian-traditional-instruments-tiny
16
 
17
- This model is a fine-tuned version of [facebook/musicgen-melody](https://huggingface.co/facebook/musicgen-melody) on an unknown dataset.
18
 
19
  ## Model description
20
 
 
3
  license: cc-by-nc-4.0
4
  base_model: facebook/musicgen-melody
5
  tags:
6
+ - text-to-audio
7
+ - Razavipour/persian-traditional-instruments-tiny
8
  - generated_from_trainer
9
  model-index:
10
  - name: musicgen-persian-traditional-instruments-tiny
 
16
 
17
  # musicgen-persian-traditional-instruments-tiny
18
 
19
+ This model is a fine-tuned version of [facebook/musicgen-melody](https://huggingface.co/facebook/musicgen-melody) on the RAZAVIPOUR/PERSIAN-TRADITIONAL-INSTRUMENTS-TINY - DEFAULT dataset.
20
 
21
  ## Model description
22
 
all_results.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "epoch": 2.0,
3
- "total_flos": 59974637129580.0,
4
- "train_loss": 28.750366020202637,
5
- "train_runtime": 798.8255,
6
- "train_samples": 239,
7
- "train_samples_per_second": 0.598,
8
- "train_steps_per_second": 0.038
9
  }
 
1
  {
2
  "epoch": 2.0,
3
+ "total_flos": 29853631825608.0,
4
+ "train_loss": 30.133461475372314,
5
+ "train_runtime": 397.1796,
6
+ "train_samples": 119,
7
+ "train_samples_per_second": 0.599,
8
+ "train_steps_per_second": 0.04
9
  }
train_results.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "epoch": 2.0,
3
- "total_flos": 59974637129580.0,
4
- "train_loss": 28.750366020202637,
5
- "train_runtime": 798.8255,
6
- "train_samples": 239,
7
- "train_samples_per_second": 0.598,
8
- "train_steps_per_second": 0.038
9
  }
 
1
  {
2
  "epoch": 2.0,
3
+ "total_flos": 29853631825608.0,
4
+ "train_loss": 30.133461475372314,
5
+ "train_runtime": 397.1796,
6
+ "train_samples": 119,
7
+ "train_samples_per_second": 0.599,
8
+ "train_steps_per_second": 0.04
9
  }
trainer_state.json CHANGED
@@ -4,233 +4,135 @@
4
  "best_model_checkpoint": null,
5
  "epoch": 2.0,
6
  "eval_steps": 500,
7
- "global_step": 30,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
11
  "log_history": [
12
  {
13
- "epoch": 0.06666666666666667,
14
- "grad_norm": 7.049749374389648,
15
  "learning_rate": 0.0002,
16
- "loss": 37.2997,
17
  "step": 1
18
  },
19
- {
20
- "epoch": 0.13333333333333333,
21
- "grad_norm": 6.339702129364014,
22
- "learning_rate": 0.00019333333333333333,
23
- "loss": 36.8894,
24
- "step": 2
25
- },
26
- {
27
- "epoch": 0.2,
28
- "grad_norm": 7.670695781707764,
29
- "learning_rate": 0.0001866666666666667,
30
- "loss": 36.2258,
31
- "step": 3
32
- },
33
  {
34
  "epoch": 0.26666666666666666,
35
- "grad_norm": 9.4410400390625,
36
- "learning_rate": 0.00018,
37
- "loss": 34.5463,
38
- "step": 4
39
- },
40
- {
41
- "epoch": 0.3333333333333333,
42
- "grad_norm": 7.979437351226807,
43
- "learning_rate": 0.00017333333333333334,
44
- "loss": 33.4657,
45
- "step": 5
46
  },
47
  {
48
  "epoch": 0.4,
49
- "grad_norm": 7.820732593536377,
50
- "learning_rate": 0.0001666666666666667,
51
- "loss": 33.0658,
52
- "step": 6
53
- },
54
- {
55
- "epoch": 0.4666666666666667,
56
- "grad_norm": 10.335576057434082,
57
- "learning_rate": 0.00016,
58
- "loss": 29.9733,
59
- "step": 7
60
  },
61
  {
62
  "epoch": 0.5333333333333333,
63
- "grad_norm": 12.103804588317871,
64
- "learning_rate": 0.00015333333333333334,
65
- "loss": 29.193,
66
- "step": 8
67
- },
68
- {
69
- "epoch": 0.6,
70
- "grad_norm": 8.44533920288086,
71
- "learning_rate": 0.00014666666666666666,
72
- "loss": 29.2136,
73
- "step": 9
74
  },
75
  {
76
  "epoch": 0.6666666666666666,
77
- "grad_norm": 10.773541450500488,
78
- "learning_rate": 0.00014,
79
- "loss": 29.419,
80
- "step": 10
81
- },
82
- {
83
- "epoch": 0.7333333333333333,
84
- "grad_norm": 12.741575241088867,
85
- "learning_rate": 0.00013333333333333334,
86
- "loss": 30.1365,
87
- "step": 11
88
  },
89
  {
90
  "epoch": 0.8,
91
- "grad_norm": 12.152501106262207,
92
- "learning_rate": 0.00012666666666666666,
93
- "loss": 29.234,
94
- "step": 12
95
- },
96
- {
97
- "epoch": 0.8666666666666667,
98
- "grad_norm": 7.206295013427734,
99
- "learning_rate": 0.00012,
100
- "loss": 27.2651,
101
- "step": 13
102
  },
103
  {
104
  "epoch": 0.9333333333333333,
105
- "grad_norm": 6.622790813446045,
106
- "learning_rate": 0.00011333333333333334,
107
- "loss": 27.1387,
108
- "step": 14
109
  },
110
  {
111
  "epoch": 1.0,
112
- "grad_norm": 7.371326923370361,
113
- "learning_rate": 0.00010666666666666667,
114
- "loss": 26.474,
115
- "step": 15
116
- },
117
- {
118
- "epoch": 1.0666666666666667,
119
- "grad_norm": 6.394678115844727,
120
- "learning_rate": 0.0001,
121
- "loss": 26.133,
122
- "step": 16
123
  },
124
  {
125
  "epoch": 1.1333333333333333,
126
- "grad_norm": 6.808481216430664,
127
- "learning_rate": 9.333333333333334e-05,
128
- "loss": 28.1875,
129
- "step": 17
130
- },
131
- {
132
- "epoch": 1.2,
133
- "grad_norm": 5.552547931671143,
134
- "learning_rate": 8.666666666666667e-05,
135
- "loss": 25.916,
136
- "step": 18
137
  },
138
  {
139
  "epoch": 1.2666666666666666,
140
- "grad_norm": 4.862797260284424,
141
- "learning_rate": 8e-05,
142
- "loss": 25.8227,
143
- "step": 19
144
- },
145
- {
146
- "epoch": 1.3333333333333333,
147
- "grad_norm": 4.327652931213379,
148
- "learning_rate": 7.333333333333333e-05,
149
- "loss": 25.8093,
150
- "step": 20
151
  },
152
  {
153
  "epoch": 1.4,
154
- "grad_norm": 4.398643493652344,
155
- "learning_rate": 6.666666666666667e-05,
156
- "loss": 26.1203,
157
- "step": 21
158
- },
159
- {
160
- "epoch": 1.4666666666666668,
161
- "grad_norm": 4.247260570526123,
162
- "learning_rate": 6e-05,
163
- "loss": 25.5856,
164
- "step": 22
165
  },
166
  {
167
  "epoch": 1.5333333333333332,
168
- "grad_norm": 4.965206623077393,
169
- "learning_rate": 5.333333333333333e-05,
170
- "loss": 26.3676,
171
- "step": 23
172
- },
173
- {
174
- "epoch": 1.6,
175
- "grad_norm": 6.851504802703857,
176
- "learning_rate": 4.666666666666667e-05,
177
- "loss": 24.3979,
178
- "step": 24
179
  },
180
  {
181
  "epoch": 1.6666666666666665,
182
- "grad_norm": 7.000016689300537,
183
- "learning_rate": 4e-05,
184
- "loss": 26.7843,
185
- "step": 25
186
- },
187
- {
188
- "epoch": 1.7333333333333334,
189
- "grad_norm": 6.253981113433838,
190
- "learning_rate": 3.3333333333333335e-05,
191
- "loss": 25.9819,
192
- "step": 26
193
  },
194
  {
195
  "epoch": 1.8,
196
- "grad_norm": 6.534391403198242,
197
- "learning_rate": 2.6666666666666667e-05,
198
- "loss": 26.8734,
199
- "step": 27
200
- },
201
- {
202
- "epoch": 1.8666666666666667,
203
- "grad_norm": 6.745901584625244,
204
- "learning_rate": 2e-05,
205
- "loss": 26.4985,
206
- "step": 28
207
  },
208
  {
209
  "epoch": 1.9333333333333333,
210
- "grad_norm": 5.899749755859375,
211
- "learning_rate": 1.3333333333333333e-05,
212
- "loss": 26.961,
213
- "step": 29
214
  },
215
  {
216
  "epoch": 2.0,
217
- "grad_norm": 3.4609551429748535,
218
- "learning_rate": 6.666666666666667e-06,
219
- "loss": 25.5322,
220
- "step": 30
221
  },
222
  {
223
  "epoch": 2.0,
224
- "step": 30,
225
- "total_flos": 59974637129580.0,
226
- "train_loss": 28.750366020202637,
227
- "train_runtime": 798.8255,
228
- "train_samples_per_second": 0.598,
229
- "train_steps_per_second": 0.038
230
  }
231
  ],
232
  "logging_steps": 1.0,
233
- "max_steps": 30,
234
  "num_input_tokens_seen": 0,
235
  "num_train_epochs": 2,
236
  "save_steps": 500,
@@ -246,7 +148,7 @@
246
  "attributes": {}
247
  }
248
  },
249
- "total_flos": 59974637129580.0,
250
  "train_batch_size": 4,
251
  "trial_name": null,
252
  "trial_params": null
 
4
  "best_model_checkpoint": null,
5
  "epoch": 2.0,
6
  "eval_steps": 500,
7
+ "global_step": 16,
8
  "is_hyper_param_search": false,
9
  "is_local_process_zero": true,
10
  "is_world_process_zero": true,
11
  "log_history": [
12
  {
13
+ "epoch": 0.13333333333333333,
14
+ "grad_norm": 5.564905166625977,
15
  "learning_rate": 0.0002,
16
+ "loss": 38.3533,
17
  "step": 1
18
  },
 
 
 
 
 
 
 
 
 
 
 
 
 
 
19
  {
20
  "epoch": 0.26666666666666666,
21
+ "grad_norm": 6.65146541595459,
22
+ "learning_rate": 0.0001875,
23
+ "loss": 36.8913,
24
+ "step": 2
 
 
 
 
 
 
 
25
  },
26
  {
27
  "epoch": 0.4,
28
+ "grad_norm": 8.893917083740234,
29
+ "learning_rate": 0.000175,
30
+ "loss": 35.9052,
31
+ "step": 3
 
 
 
 
 
 
 
32
  },
33
  {
34
  "epoch": 0.5333333333333333,
35
+ "grad_norm": 8.743362426757812,
36
+ "learning_rate": 0.00016250000000000002,
37
+ "loss": 35.0392,
38
+ "step": 4
 
 
 
 
 
 
 
39
  },
40
  {
41
  "epoch": 0.6666666666666666,
42
+ "grad_norm": NaN,
43
+ "learning_rate": 0.00015000000000000001,
44
+ "loss": 33.1986,
45
+ "step": 5
 
 
 
 
 
 
 
46
  },
47
  {
48
  "epoch": 0.8,
49
+ "grad_norm": 8.269606590270996,
50
+ "learning_rate": 0.00015000000000000001,
51
+ "loss": 33.7741,
52
+ "step": 6
 
 
 
 
 
 
 
53
  },
54
  {
55
  "epoch": 0.9333333333333333,
56
+ "grad_norm": 8.749699592590332,
57
+ "learning_rate": 0.0001375,
58
+ "loss": 32.6172,
59
+ "step": 7
60
  },
61
  {
62
  "epoch": 1.0,
63
+ "grad_norm": 5.006312847137451,
64
+ "learning_rate": 0.000125,
65
+ "loss": 16.351,
66
+ "step": 8
 
 
 
 
 
 
 
67
  },
68
  {
69
  "epoch": 1.1333333333333333,
70
+ "grad_norm": 10.173412322998047,
71
+ "learning_rate": 0.00011250000000000001,
72
+ "loss": 30.0547,
73
+ "step": 9
 
 
 
 
 
 
 
74
  },
75
  {
76
  "epoch": 1.2666666666666666,
77
+ "grad_norm": 8.951446533203125,
78
+ "learning_rate": 0.0001,
79
+ "loss": 30.6191,
80
+ "step": 10
 
 
 
 
 
 
 
81
  },
82
  {
83
  "epoch": 1.4,
84
+ "grad_norm": 9.113348960876465,
85
+ "learning_rate": 8.75e-05,
86
+ "loss": 29.3415,
87
+ "step": 11
 
 
 
 
 
 
 
88
  },
89
  {
90
  "epoch": 1.5333333333333332,
91
+ "grad_norm": 8.937090873718262,
92
+ "learning_rate": 7.500000000000001e-05,
93
+ "loss": 29.2385,
94
+ "step": 12
 
 
 
 
 
 
 
95
  },
96
  {
97
  "epoch": 1.6666666666666665,
98
+ "grad_norm": 8.111980438232422,
99
+ "learning_rate": 6.25e-05,
100
+ "loss": 28.6866,
101
+ "step": 13
 
 
 
 
 
 
 
102
  },
103
  {
104
  "epoch": 1.8,
105
+ "grad_norm": 8.194887161254883,
106
+ "learning_rate": 5e-05,
107
+ "loss": 28.2205,
108
+ "step": 14
 
 
 
 
 
 
 
109
  },
110
  {
111
  "epoch": 1.9333333333333333,
112
+ "grad_norm": 10.803622245788574,
113
+ "learning_rate": 3.7500000000000003e-05,
114
+ "loss": 29.6655,
115
+ "step": 15
116
  },
117
  {
118
  "epoch": 2.0,
119
+ "grad_norm": 4.887396335601807,
120
+ "learning_rate": 2.5e-05,
121
+ "loss": 14.1792,
122
+ "step": 16
123
  },
124
  {
125
  "epoch": 2.0,
126
+ "step": 16,
127
+ "total_flos": 29853631825608.0,
128
+ "train_loss": 30.133461475372314,
129
+ "train_runtime": 397.1796,
130
+ "train_samples_per_second": 0.599,
131
+ "train_steps_per_second": 0.04
132
  }
133
  ],
134
  "logging_steps": 1.0,
135
+ "max_steps": 16,
136
  "num_input_tokens_seen": 0,
137
  "num_train_epochs": 2,
138
  "save_steps": 500,
 
148
  "attributes": {}
149
  }
150
  },
151
+ "total_flos": 29853631825608.0,
152
  "train_batch_size": 4,
153
  "trial_name": null,
154
  "trial_params": null