{
  "type": "SentencePiece Unigram",
  "vocab_size": 32000,
  "normalization": "external NFC + SentencePiece identity",
  "byte_fallback": true,
  "split_digits": true,
  "training_lines": 2000000,
  "reused_sentencepiece_model": false,
  "model_max_length": 2048,
  "special_token_ids": {
    "unk": 0,
    "bos": 1,
    "eos": 2,
    "pad": 3
  },
  "probes": [
    {
      "text": "안녕하세요. 오늘 날씨가 좋습니다.",
      "tokens": 6,
      "unknown_tokens": 0,
      "decoded": "안녕하세요. 오늘 날씨가 좋습니다.",
      "exact_round_trip": true
    },
    {
      "text": "이거 진짜 되는 거 맞아? ㅋㅋㅋㅋ",
      "tokens": 8,
      "unknown_tokens": 0,
      "decoded": "이거 진짜 되는 거 맞아? ㅋㅋㅋㅋ",
      "exact_round_trip": true
    },
    {
      "text": "갤럭시 S26을 2026년에 구매했습니다.",
      "tokens": 14,
      "unknown_tokens": 0,
      "decoded": "갤럭시 S26을 2026년에 구매했습니다.",
      "exact_round_trip": true
    },
    {
      "text": "KTX를 타고 부산에 내려갔다. 🚄",
      "tokens": 14,
      "unknown_tokens": 0,
      "decoded": "KTX를 타고 부산에 내려갔다. 🚄",
      "exact_round_trip": true
    }
  ]
}