| { |
| "benchmark": "Jacoblian/RetailOpt-190", |
| "reference_dataset": "Jacoblian/RetailOpt-190", |
| "n_cases": 150, |
| "backends": [ |
| "minizinc_generator", |
| "pyomo_generator", |
| "qwen_coder", |
| "retailopt_coder", |
| "sirl_reference" |
| ], |
| "per_backend": { |
| "minizinc_generator": { |
| "code_execution_rate": 1.0, |
| "feasibility_rate": 1.0, |
| "objective_match_rate": 0.8333333333333334, |
| "semantic_consistency_rate": 1.0 |
| }, |
| "pyomo_generator": { |
| "code_execution_rate": 1.0, |
| "feasibility_rate": 1.0, |
| "objective_match_rate": 0.8333333333333334, |
| "semantic_consistency_rate": 1.0 |
| }, |
| "qwen_coder": { |
| "code_execution_rate": 1.0, |
| "feasibility_rate": 1.0, |
| "objective_match_rate": 0.8333333333333334, |
| "semantic_consistency_rate": 1.0 |
| }, |
| "retailopt_coder": { |
| "code_execution_rate": 1.0, |
| "feasibility_rate": 1.0, |
| "objective_match_rate": 0.8333333333333334, |
| "semantic_consistency_rate": 1.0 |
| }, |
| "sirl_reference": { |
| "code_execution_rate": 1.0, |
| "feasibility_rate": 1.0, |
| "objective_match_rate": 0.8333333333333334, |
| "semantic_consistency_rate": 1.0 |
| } |
| } |
| } |
