app.py

"""Palette-K-Midm live demo — 회의록 → 결정사항 추출 (PALETTE-BENCH-KO #1 model).

HF Space (ZeroGPU). Deploy: upload this folder as a Gradio Space, hardware = ZeroGPU.
"""
import json
import re

import gradio as gr
import spaces
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

MODEL_ID = "imcapsule/palette-k-midm"  # TODO: replace ORG on drop day

tok = AutoTokenizer.from_pretrained(MODEL_ID)
model = AutoModelForCausalLM.from_pretrained(
    MODEL_ID, torch_dtype=torch.bfloat16, device_map="auto"
)

PROMPT = """다음 회의록에서 결정사항을 추출하라.

규칙:
- 실제로 확정된 결정만 포함한다. 보류/검토중/논의만 된 항목은 제외한다.
- 각 결정에 담당자(owner)와 기한(due_date, YYYY-MM-DD)을 붙인다. 기한이 명시되지 않았으면 null.
- 상대 날짜("다음 주 금요일까지")는 회의 날짜 기준으로 환산한다.
- JSON만 출력한다: {{"decisions": [{{"decision": "...", "owner": "...", "due_date": "..."}}]}}

회의록:
{minutes}"""

EXAMPLE = """[주간 운영회의] 2026-08-17 (월) 14:00 · 참석: 김부장, 이과장, 박대리, 최주임

김부장: 3분기 예산안은 지난주 논의대로 확정합니다. 이과장이 이번 주 금요일까지 품의서 올려주세요.
이과장: 네. 그리고 신규 거래처 계약 건은 법무 검토가 아직이라 다음 회의로 넘기겠습니다.
박대리: 사무실 이전 견적 3곳 받았습니다. 비교표는 제가 정리 중입니다.
김부장: 비교표는 정리되는 대로 공유만 해주세요. 아, 그리고 전사 보안교육은 9월 5일로 확정. 최주임이 공지 담당.
최주임: 알겠습니다."""


def _extract_json(s: str):
    start = s.find("{")
    while start != -1:
        depth, in_str, esc = 0, False, False
        for i in range(start, len(s)):
            c = s[i]
            if in_str:
                if esc:
                    esc = False
                elif c == "\\":
                    esc = True
                elif c == '"':
                    in_str = False
                continue
            if c == '"':
                in_str = True
            elif c == "{":
                depth += 1
            elif c == "}":
                depth -= 1
                if depth == 0:
                    try:
                        return json.loads(s[start : i + 1])
                    except Exception:
                        break
        start = s.find("{", start + 1)
    return None


@spaces.GPU(duration=60)
def extract(minutes: str):
    if not minutes.strip():
        return "회의록을 입력하세요.", ""
    msgs = [{"role": "user", "content": PROMPT.format(minutes=minutes.strip())}]
    ids = tok.apply_chat_template(
        msgs, return_tensors="pt", add_generation_prompt=True
    ).to(model.device)
    out = model.generate(ids, max_new_tokens=800, do_sample=False)
    text = tok.decode(out[0][ids.shape[-1]:], skip_special_tokens=True)
    parsed = _extract_json(text)
    if parsed and "decisions" in parsed:
        rows = "\n".join(
            f"| {d.get('decision','')} | {d.get('owner','')} | {d.get('due_date') or '—'} |"
            for d in parsed["decisions"]
        )
        table = "| 결정사항 | 담당자 | 기한 |\n|---|---|---|\n" + rows
        return table, text
    return "JSON 파싱 실패 — 원문 출력을 확인하세요.", text


with gr.Blocks(title="Palette-K-Midm · 회의록→결정 추출") as demo:
    gr.Markdown(
        "# Palette-K-Midm — 회의록에서 결정사항 추출\n"
        "PALETTE-BENCH-KO **1위 (0.866)** 모델의 라이브 데모. "
        "보류·논의중 항목 제외, 상대 날짜 환산, 기한 없으면 null — "
        "전 모델 공통 난제 과제입니다.\n\n"
        "_정직 고지: 1위 격차는 0.010(n=32)이며, 이 과제 자체는 최고 모델도 0.582 수준의 난제입니다._"
    )
    inp = gr.Textbox(lines=12, label="회의록", value=EXAMPLE)
    btn = gr.Button("결정사항 추출", variant="primary")
    out_table = gr.Markdown(label="추출 결과")
    out_raw = gr.Textbox(lines=6, label="모델 원문 출력")
    btn.click(extract, inputs=inp, outputs=[out_table, out_raw])
    gr.Markdown(
        "[벤치마크](https://github.com/palette-lab/palette-bench-ko) · "
        "[모델](https://huggingface.co/imcapsule/palette-k-midm) · "
        "[기술 보고서](https://pltt.xyz/paper) · Apache-2.0, base: KT Mi:dm-2.0 (MIT)"
    )

demo.launch()