YAML Metadata Error:Invalid content in eval.yaml.

Check out the documentation for more information.

Show details
✖ Invalid input
README.md CHANGED
@@ -9,9 +9,11 @@ language:
9
  - is
10
  - nb
11
  - it
 
12
  - mr
13
  - nl
14
  - ru
 
15
  - zh
16
  license: mit
17
  pretty_name: Multilingual GSM-Symbolic
@@ -105,6 +107,18 @@ configs:
105
  path: data/zho/test_original-*.parquet
106
  - split: test_synthetic
107
  path: data/zho/test_synthetic-*.parquet
 
 
 
 
 
 
 
 
 
 
 
 
108
  - config_name: eng_metric
109
  data_files:
110
  - split: test_original
 
9
  - is
10
  - nb
11
  - it
12
+ - ja
13
  - mr
14
  - nl
15
  - ru
16
+ - uk
17
  - zh
18
  license: mit
19
  pretty_name: Multilingual GSM-Symbolic
 
107
  path: data/zho/test_original-*.parquet
108
  - split: test_synthetic
109
  path: data/zho/test_synthetic-*.parquet
110
+ - config_name: jpn
111
+ data_files:
112
+ - split: test_original
113
+ path: data/jpn/test_original-*.parquet
114
+ - split: test_synthetic
115
+ path: data/jpn/test_synthetic-*.parquet
116
+ - config_name: ukr
117
+ data_files:
118
+ - split: test_original
119
+ path: data/ukr/test_original-*.parquet
120
+ - split: test_synthetic
121
+ path: data/ukr/test_synthetic-*.parquet
122
  - config_name: eng_metric
123
  data_files:
124
  - split: test_original
data/generation_log.json CHANGED
@@ -133,5 +133,29 @@
133
  ],
134
  "test_n_original": 100,
135
  "test_n_synthetic": 2000
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
136
  }
137
  }
 
133
  ],
134
  "test_n_original": 100,
135
  "test_n_synthetic": 2000
136
+ },
137
+ "jpn": {
138
+ "seed": 42,
139
+ "n_synthetic_per_template": 20,
140
+ "commit": "a5b3b94fb239d8c74f75dabe5780d23dccc63dfb",
141
+ "package_version": "0.4.13",
142
+ "generated_at": "2026-07-08T10:18:33.734141+00:00",
143
+ "splits": [
144
+ "test"
145
+ ],
146
+ "test_n_original": 100,
147
+ "test_n_synthetic": 2000
148
+ },
149
+ "ukr": {
150
+ "seed": 42,
151
+ "n_synthetic_per_template": 20,
152
+ "commit": "a5b3b94fb239d8c74f75dabe5780d23dccc63dfb",
153
+ "package_version": "0.4.13",
154
+ "generated_at": "2026-07-08T10:25:29.664636+00:00",
155
+ "splits": [
156
+ "test"
157
+ ],
158
+ "test_n_original": 100,
159
+ "test_n_synthetic": 2000
160
  }
161
  }
data/jpn/test_original-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e0a7be3a34a5a41f6d5579eebc92d6d88487de770c1f54b4f87a333df970dbfb
3
+ size 42695
data/jpn/test_synthetic-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:3c7f8fa3faf523353fcd2484f0f02e2e705318cc7018686ac0d1a49a39725c97
3
+ size 330579
data/ukr/test_original-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:cb38a444c12230f9890b5864a13adc4809a033d9d473cc9145801fc97a64f0a9
3
+ size 50950
data/ukr/test_synthetic-00000-of-00001.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:2b3806d651c066ef8fbc0e0463a9d06ba85907eab76a7e5ccbd76bba9677ad6f
3
+ size 392881
eval.yaml CHANGED
@@ -593,3 +593,87 @@ tasks:
593
 
594
  scorers:
595
  - name: math
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
593
 
594
  scorers:
595
  - name: math
596
+
597
+ - id: original_jpn
598
+ config: jpn
599
+ split: test_original
600
+
601
+ field_spec:
602
+ input: question
603
+ target: target
604
+ metadata:
605
+ - answer
606
+ - language
607
+ - source_id
608
+
609
+ solvers:
610
+ - name: prompt_template
611
+ args:
612
+ template: "次の数学の問題をステップ・バイ・ステップで解いてください。最終的な数値の回答(単位、通貨記号、パーセント記号なし)を \\boxed{{}} の中に入れてください。例えば、\\boxed{{42}} のようにしてください。\n\n{prompt}"
613
+ - name: generate
614
+
615
+ scorers:
616
+ - name: math
617
+
618
+ - id: synthetic_jpn
619
+ config: jpn
620
+ split: test_synthetic
621
+
622
+ field_spec:
623
+ input: question
624
+ target: target
625
+ metadata:
626
+ - answer
627
+ - language
628
+ - source_id
629
+
630
+ solvers:
631
+ - name: prompt_template
632
+ args:
633
+ template: "次の数学の問題をステップ・バイ・ステップで解いてください。最終的な数値の回答(単位、通貨記号、パーセント記号なし)を \\boxed{{}} の中に入れてください。例えば、\\boxed{{42}} のようにしてください。\n\n{prompt}"
634
+ - name: generate
635
+
636
+ scorers:
637
+ - name: math
638
+
639
+ - id: original_ukr
640
+ config: ukr
641
+ split: test_original
642
+
643
+ field_spec:
644
+ input: question
645
+ target: target
646
+ metadata:
647
+ - answer
648
+ - language
649
+ - source_id
650
+
651
+ solvers:
652
+ - name: prompt_template
653
+ args:
654
+ template: "Розв'яжіть наступну математичну задачу крок за кроком. Запишіть остаточну числову відповідь (без одиниць виміру, символів валюти чи знаків відсотка) у \\boxed{{}}, наприклад: \\boxed{{42}}.\n\n{prompt}"
655
+ - name: generate
656
+
657
+ scorers:
658
+ - name: math
659
+
660
+ - id: synthetic_ukr
661
+ config: ukr
662
+ split: test_synthetic
663
+
664
+ field_spec:
665
+ input: question
666
+ target: target
667
+ metadata:
668
+ - answer
669
+ - language
670
+ - source_id
671
+
672
+ solvers:
673
+ - name: prompt_template
674
+ args:
675
+ template: "Розв'яжіть наступну математичну задачу крок за кроком. Запишіть остаточну числову відповідь (без одиниць виміру, символів валюти чи знаків відсотка) у \\boxed{{}}, наприклад: \\boxed{{42}}.\n\n{prompt}"
676
+ - name: generate
677
+
678
+ scorers:
679
+ - name: math