LNA-CANON.md

LNA-CANON — この pack の正典（2026-09-04 更新、Lna-Lab / YUKI with Ken）

制式（ケン決裁）

• 2026-09-03: オオタニ = この pack を TP8（RTX PRO 2000 16GB ×8: GPU 0,1,2,3,5,7,8,9）、-c 389120・4 流・DSpark3・APC ON で給仕。
• 2026-09-04: routed experts の decode カーネルを lna2 に制式認定（「Lna2 を制式認定します」）。重み・pack・像は同じ。

起動（制式、DATA1 で）

export EXT_SO=$PWD/vllm-exl3-lab/exllamav3-src/exllamav3_ext.cpython-312-x86_64-linux-gnu.so
export PLUGIN_SRC=$PWD/vllm-exl3-lab/vllm-exl3/src/vllm_exl3
export NATIVE_SO=$PWD/vllm-exl3-v030-port/src/vllm_exl3_c.cpython-312-x86_64-linux-gnu.so
AUX_STREAMS=0 IMAGE=dsv4-dense MOE_KERNEL=lna2 \
NCCL_EXTRA="-e VLLM_SPARSE_INDEXER_MAX_LOGITS_MB=128 -e VLLM_DISABLE_DSV4_MEGAMOE_SHARED_EXPERT_FUSION=1 -e VLLM_EXL3_MOE_STRICT=1" \
MODEL=$PWD/DSV4-Flash-Vision-EXL3-MixedK-D2-K2x3-Dense6 UTIL=0.97 MAXLEN=389120 BT=512 SEQS=4 \
SPEC='{"method":"dspark","num_speculative_tokens":3}' bash vllm-exl3-lab/serve-dsv4-tp8.sh

起動の証: ログに F3 LNA2 MoE kernel ACTIVE ×8 rank、GPU KV cache size: 395,069 tokens、STRICT=1 で raise なし。

実測（2026-09-04、席の門 4、rank0 graph ON）

	現行 exllamav3	lna2（制式）
1 流 code / en / ja	86 / 60 / 56 tok/s	108.6 / 78.6 / 71.1
4 流 code / en / ja	125〜179 / 96 / 83（揺れ大）	193.8 / 146.4 / 129.0
routed カーネル	232.6 µs/launch	104.0（2.24×）
decode 総	27.46 ms/step	21.03
KV 窓	396,656 tok	395,069（−0.4%）
166k 針	正答、TTFT 167 s	正答、119.6 s
ppl（同条件、spec off）	4.7630	4.7647
受理長 en/ja/code	2.08/1.86/3.05	不変

lna2 とは

常駐 expert-team＋動的 ticket（exllamav3 exl3_moe と同じ外側、grid 全体の barrier 無し）に、行数 R_e∈{1,2,4,8}（m≤24）の small-R 内側（exl3_gemv_kernel の核）を入れたもの。scratch は device あたり 1 本、2 stream 同時は既定で禁止（LNA2_CONCURRENT_STREAMS=1）。机上 parity 171 件（rel ≤1.64e-3、bitwise 再現）、null-decode 変種で 270 GB/s（カードの cold read 天井）に張り付く＝残る天井は trellis 復号。 出典: vllm-exl3-v030-port/csrc/lna_moe_ticket.cu(.cuh), lna_gemv_core.cuh, plugin hunk = vllm-exl3-lab/vllm-exl3/src/vllm_exl3/exl3.py（get_moe_kernel_backend / _apply_lna2_moe）。公開 = github.com/lna-lab/dsv4-carve recipe-lna/lna2/。

含めないもの

• LNA_EXL3_DENSE_GROUP（密線形の融合 T0/T1）: T0 は席の門合格（密 1.21×、e2e +1〜4%）だが、T1 は共有プールの排他で不動作・4 流悪化（修正中）。制式には入れない。
• F1 初号（lna、barrier 型）: 正しさ合格・速度不合格で閉じた。opt-in の実験経路として残す。

教訓（09-04）

• 無音の fallback は門を通る。経路が取られた証明（ACTIVE ログ・カウンタ・strict）を門に。
• 派生 pack の小ファイルは symlink でなく写す（原本を消したら席が再起動不能一歩手前になった）。
• 「もっともらしい数字」は構成の証拠にならない。mount と env を数える。