File size: 1,194 Bytes
4548aa5 23cc8f2 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 | {
"benchmark": "Jacoblian/RetailOpt-190",
"reference_dataset": "Jacoblian/RetailOpt-190",
"n_cases": 150,
"backends": [
"minizinc_generator",
"pyomo_generator",
"qwen_coder",
"retailopt_coder",
"sirl_reference"
],
"per_backend": {
"minizinc_generator": {
"code_execution_rate": 1.0,
"feasibility_rate": 1.0,
"objective_match_rate": 0.8333333333333334,
"semantic_consistency_rate": 1.0
},
"pyomo_generator": {
"code_execution_rate": 1.0,
"feasibility_rate": 1.0,
"objective_match_rate": 0.8333333333333334,
"semantic_consistency_rate": 1.0
},
"qwen_coder": {
"code_execution_rate": 1.0,
"feasibility_rate": 1.0,
"objective_match_rate": 0.8333333333333334,
"semantic_consistency_rate": 1.0
},
"retailopt_coder": {
"code_execution_rate": 1.0,
"feasibility_rate": 1.0,
"objective_match_rate": 0.8333333333333334,
"semantic_consistency_rate": 1.0
},
"sirl_reference": {
"code_execution_rate": 1.0,
"feasibility_rate": 1.0,
"objective_match_rate": 0.8333333333333334,
"semantic_consistency_rate": 1.0
}
}
} |