| { | |
| "checkpoint": "runs/v15/final.pt", | |
| "max_len": 6144, | |
| "tiers": { | |
| "easy": { | |
| "accuracy": 0.6666666666666666, | |
| "by_family": { | |
| "extraction": 0.6667, | |
| "fact": 0.6667, | |
| "intent": 0.5833, | |
| "tool_selection": 0.75 | |
| }, | |
| "by_type": { | |
| "choice": { | |
| "accuracy": 0.6666666666666666, | |
| "n": 36 | |
| }, | |
| "noul": { | |
| "accuracy": 0.6666666666666666, | |
| "n": 12 | |
| } | |
| }, | |
| "correct": 32, | |
| "ece10": 0.1619085428925852, | |
| "n": 48 | |
| }, | |
| "hard": { | |
| "accuracy": 0.32432432432432434, | |
| "by_family": { | |
| "adversarial": 0.1667, | |
| "ambiguous": 0.0, | |
| "judge_hard": 0.5882, | |
| "long_policy": 0.2632, | |
| "multi_hop": 0.1111, | |
| "probability": 0.5, | |
| "routing_hard": 0.4, | |
| "temporal_numeric": 0.2, | |
| "tradeoff": 0.6667, | |
| "trap": 0.5 | |
| }, | |
| "by_type": { | |
| "choice": { | |
| "accuracy": 0.208955223880597, | |
| "n": 67 | |
| }, | |
| "noul": { | |
| "accuracy": 0.5526315789473685, | |
| "n": 38 | |
| }, | |
| "score": { | |
| "accuracy": 0.16666666666666666, | |
| "n": 6 | |
| } | |
| }, | |
| "correct": 36, | |
| "ece10": 0.26881096085852335, | |
| "n": 111 | |
| }, | |
| "original": { | |
| "accuracy": 0.4027777777777778, | |
| "by_family": { | |
| "adequacy": 0.4167, | |
| "extraction": 0.5833, | |
| "intent": 0.4167, | |
| "ordinal": 0.1667, | |
| "policy": 0.5, | |
| "routing": 0.3333 | |
| }, | |
| "by_type": { | |
| "choice": { | |
| "accuracy": 0.4444444444444444, | |
| "n": 36 | |
| }, | |
| "noul": { | |
| "accuracy": 0.4583333333333333, | |
| "n": 24 | |
| }, | |
| "score": { | |
| "accuracy": 0.16666666666666666, | |
| "n": 12 | |
| } | |
| }, | |
| "correct": 29, | |
| "ece10": 0.28414321980542606, | |
| "n": 72 | |
| } | |
| } | |
| } | |