{
  "checkpoint": "runs/v15/final.pt",
  "max_len": 6144,
  "tiers": {
    "easy": {
      "accuracy": 0.6666666666666666,
      "by_family": {
        "extraction": 0.6667,
        "fact": 0.6667,
        "intent": 0.5833,
        "tool_selection": 0.75
      },
      "by_type": {
        "choice": {
          "accuracy": 0.6666666666666666,
          "n": 36
        },
        "noul": {
          "accuracy": 0.6666666666666666,
          "n": 12
        }
      },
      "correct": 32,
      "ece10": 0.1619085428925852,
      "n": 48
    },
    "hard": {
      "accuracy": 0.32432432432432434,
      "by_family": {
        "adversarial": 0.1667,
        "ambiguous": 0.0,
        "judge_hard": 0.5882,
        "long_policy": 0.2632,
        "multi_hop": 0.1111,
        "probability": 0.5,
        "routing_hard": 0.4,
        "temporal_numeric": 0.2,
        "tradeoff": 0.6667,
        "trap": 0.5
      },
      "by_type": {
        "choice": {
          "accuracy": 0.208955223880597,
          "n": 67
        },
        "noul": {
          "accuracy": 0.5526315789473685,
          "n": 38
        },
        "score": {
          "accuracy": 0.16666666666666666,
          "n": 6
        }
      },
      "correct": 36,
      "ece10": 0.26881096085852335,
      "n": 111
    },
    "original": {
      "accuracy": 0.4027777777777778,
      "by_family": {
        "adequacy": 0.4167,
        "extraction": 0.5833,
        "intent": 0.4167,
        "ordinal": 0.1667,
        "policy": 0.5,
        "routing": 0.3333
      },
      "by_type": {
        "choice": {
          "accuracy": 0.4444444444444444,
          "n": 36
        },
        "noul": {
          "accuracy": 0.4583333333333333,
          "n": 24
        },
        "score": {
          "accuracy": 0.16666666666666666,
          "n": 12
        }
      },
      "correct": 29,
      "ece10": 0.28414321980542606,
      "n": 72
    }
  }
}