# PALETTE-BENCH-KO — Leaderboard (v0.2, 32 items)

**2026-08-21** · greedy (temp 0), vLLM 0.27.1 · 루브릭 심사: gpt-4o (JSON mode, temp 0)
· 결정적 패밀리(dart/minutes)는 심사 모델 불필요

## 전체 순위 (6개 패밀리 매크로 평균)

| № | 모델 | 파라미터 | 전체 |
|---|---|---|---|
| **01** | **Palette-K-Midm (ours)** | ~11B | **0.866** |
| 02 | Mi:dm-2.0 (KT) | ~11B | 0.856 |
| 03 | Palette-K-14B (ours) | 14B | 0.839 |
| 04 | Qwen2.5-32B-Instruct | 32B | 0.770 |
| 05 | Qwen2.5-14B-Instruct | 14B | 0.765 |
| 06 | Kanana-1.5-8B (Kakao) | 8B | 0.713 |
| 07 | HyperCLOVAX-SEED-Think-14B (Naver) | 14B | 0.705 |

## 패밀리별 (상위 3)

| 패밀리 | Palette-K-Midm | Mi:dm-2.0 | Palette-K-14B |
|---|---|---|---|
| 이메일 register | **1.000** | 0.938 | 0.938 |
| 품의서 | **1.000** | 0.938 | 1.000 |
| 공시 이해 | 0.927 | 0.927 | 0.885 |
| 공문서 | 0.875 | 0.875 | 0.812 |
| 정책 준수 | 0.812 | 0.875 | 0.938 |
| 회의록→결정 | 0.582 | 0.582 | 0.459 |
| **전체** | **0.866** | 0.856 | 0.839 |

## 정직한 해석

1. **1위지만 격차는 0.010이다.** 32문항 시드 규모에서 이 차이는 통계적으로 강하지 않다.
   "근소하게 앞선다"가 정확한 표현이며, 확정적 우위 주장은 하지 않는다.
2. **어떻게 도달했나 — 최소 교란 적응.** 공격적 미세조정(r=32, lr=2e-4, 6개 패밀리
   697건)은 오히려 **0.769로 악화**시켰다(파국적 망각: 작성 계열 −0.13). r=8, lr=4e-5,
   회의록 데이터만 1 epoch로 **최소한만 건드린** 버전이 0.866을 냈다. 적게 훈련하는 것이
   더 나은 경우다.
3. **회의록→결정은 여전히 전 모델의 난제다** (0.459 ~ 0.582). 우리도 베이스와 동일한
   0.582이며 개선하지 못했다.
4. **측정 도구 결함 3건을 발견·수정했고 모든 모델 점수가 함께 올랐다** — 탐욕적 JSON
   정규식(rambling 출력의 정답 파괴), 한국어 교착어 감점, 심사자 비-JSON 응답 25% 누락.
   HyperCLOVAX는 회의록 0.000 → 0.313으로 회복됐다. 우리에게 불리한 수정도 포함한다.

## 한계

시드 규모(32문항; 결정적 n=8, 루브릭 n=4). 방향성 지표이며 확정 순위가 아니다.
루브릭 패밀리는 gpt-4o 심사 편향을 가진다. EXAONE-4.0-32B는 인프라 문제로 미측정(누락).

## 재현

```bash
modal run eval_app.py --model <hf_id> --gpu H100 --out preds.json
cd harness && python evaluate.py --data ../data --preds preds.json --judge openai
```