LNA-CANON.md

# LNA-CANON — この pack の正典（2026-09-04 更新、Lna-Lab / YUKI with Ken）

## 制式（ケン決裁）
- 2026-09-03: **オオタニ** = この pack を TP8（RTX PRO 2000 16GB ×8: GPU 0,1,2,3,5,7,8,9）、`-c 389120`・4 流・DSpark3・APC ON で給仕。
- **2026-09-04: routed experts の decode カーネルを lna2 に制式認定**（「Lna2 を制式認定します」）。重み・pack・像は同じ。

## 起動（制式、DATA1 で）
```
export EXT_SO=$PWD/vllm-exl3-lab/exllamav3-src/exllamav3_ext.cpython-312-x86_64-linux-gnu.so
export PLUGIN_SRC=$PWD/vllm-exl3-lab/vllm-exl3/src/vllm_exl3
export NATIVE_SO=$PWD/vllm-exl3-v030-port/src/vllm_exl3_c.cpython-312-x86_64-linux-gnu.so
AUX_STREAMS=0 IMAGE=dsv4-dense MOE_KERNEL=lna2 \
NCCL_EXTRA="-e VLLM_SPARSE_INDEXER_MAX_LOGITS_MB=128 -e VLLM_DISABLE_DSV4_MEGAMOE_SHARED_EXPERT_FUSION=1 -e VLLM_EXL3_MOE_STRICT=1" \
MODEL=$PWD/DSV4-Flash-Vision-EXL3-MixedK-D2-K2x3-Dense6 UTIL=0.97 MAXLEN=389120 BT=512 SEQS=4 \
SPEC='{"method":"dspark","num_speculative_tokens":3}' bash vllm-exl3-lab/serve-dsv4-tp8.sh
```
起動の証: ログに `F3 LNA2 MoE kernel ACTIVE` ×8 rank、`GPU KV cache size: 395,069 tokens`、STRICT=1 で raise なし。

## 実測（2026-09-04、席の門 4、rank0 graph ON）
| | 現行 exllamav3 | **lna2（制式）** |
|---|---|---|
| 1 流 code / en / ja | 86 / 60 / 56 tok/s | **108.6 / 78.6 / 71.1** |
| 4 流 code / en / ja | 125〜179 / 96 / 83（揺れ大） | 193.8 / 146.4 / 129.0 |
| routed カーネル | 232.6 µs/launch | **104.0**（2.24×） |
| decode 総 | 27.46 ms/step | 21.03 |
| KV 窓 | 396,656 tok | 395,069（−0.4%） |
| 166k 針 | 正答、TTFT 167 s | 正答、**119.6 s** |
| ppl（同条件、spec off） | 4.7630 | 4.7647 |
| 受理長 en/ja/code | 2.08/1.86/3.05 | 不変 |

## lna2 とは
常駐 expert-team＋動的 ticket（exllamav3 `exl3_moe` と同じ外側、grid 全体の barrier 無し）に、行数 R_e∈{1,2,4,8}（m≤24）の small-R 内側（`exl3_gemv_kernel` の核）を入れたもの。scratch は device あたり 1 本、2 stream 同時は既定で禁止（`LNA2_CONCURRENT_STREAMS=1`）。机上 parity 171 件（rel ≤1.64e-3、bitwise 再現）、null-decode 変種で 270 GB/s（カードの cold read 天井）に張り付く＝残る天井は trellis 復号。
出典: `vllm-exl3-v030-port/csrc/lna_moe_ticket.cu(.cuh)`, `lna_gemv_core.cuh`, plugin hunk = `vllm-exl3-lab/vllm-exl3/src/vllm_exl3/exl3.py`（`get_moe_kernel_backend` / `_apply_lna2_moe`）。公開 = github.com/lna-lab/dsv4-carve `recipe-lna/lna2/`。

## 含めないもの
- `LNA_EXL3_DENSE_GROUP`（密線形の融合 T0/T1）: T0 は席の門合格（密 1.21×、e2e +1〜4%）だが、T1 は共有プールの排他で不動作・4 流悪化（修正中）。制式には入れない。
- F1 初号（`lna`、barrier 型）: 正しさ合格・速度不合格で閉じた。opt-in の実験経路として残す。

## 教訓（09-04）
- 無音の fallback は門を通る。**経路が取られた証明（ACTIVE ログ・カウンタ・strict）を門に**。
- 派生 pack の小ファイルは symlink でなく写す（原本を消したら席が再起動不能一歩手前になった）。
- 「もっともらしい数字」は構成の証拠にならない。mount と env を数える。