Add the step-by-step guide for continuing on another machine

SETUP_ON_ANOTHER_MACHINE.md

@@ -0,0 +1,824 @@
+# CueKFS：在另一台电脑上继续这个项目
+
+这份文档假设你是在一台全新的机器上从零开始，手里只有这两个 Hugging Face 仓库。
+三个场景互相独立，按你当下要做的事直接跳到对应章节即可。
+
+| 场景 | 需要下载 | 需要 GPU | 大致耗时 |
+|---|---|---|---|
+| **A. 继续写 paper、做图** | 包1（162 MB） | 不需要 | 下载 2 分钟 |
+| **B. 把代码发到 GitHub** | 包2（63 MB） | 不需要 | 30 分钟 |
+| **C. 跑 rebuttal 实验** | 看你要做哪种，见 C1 | 分情况 | 10 分钟到几天 |
+
+两个包：
+
+| 包 | 仓库 | 内容 |
+|---|---|---|
+| 包1 | `weitaikang/Weitaikang_method_paper` | 写 paper 和 rebuttal 的全部材料 |
+| 包2 | `weitaikang/Weitaikang_method_github` | 可发布的代码库 + 预算好的选帧结果 |
+
+两个包内容不重叠。代码只在包2，图和分析证据只在包1。
+
+---
+
+## 0. 先决条件：下载
+
+### 0.1 装工具
+
+```bash
+python -m pip install -U "huggingface_hub[cli]"
+```
+
+### 0.2 登录
+
+仓库是 public 的，理论上不登录也能下。但如果遇到限流，登录后会顺畅很多：
+
+```bash
+hf auth login
+# 粘贴 https://huggingface.co/settings/tokens 生成的 token（read 权限即可）
+```
+
+### 0.3 下载
+
+命令行版本：
+
+```bash
+# 包1：写 paper 用
+hf download weitaikang/Weitaikang_method_paper \
+    --repo-type dataset --local-dir ./cuekfs_paper
+
+# 包2：代码
+hf download weitaikang/Weitaikang_method_github \
+    --repo-type dataset --local-dir ./cuekfs_code
+```
+
+**如果 `hf` 命令报 `AttributeError: 'Sentinel' object has no attribute 'strip'`**，
+说明你装的 `typer` 和 `huggingface_hub` 版本冲突（我在 Workbench 上就撞到了这个）。
+不用折腾版本，直接用 Python API，功能完全一样：
+
+```bash
+python - <<'EOF'
+from huggingface_hub import snapshot_download
+for repo, out in [("weitaikang/Weitaikang_method_paper", "./cuekfs_paper"),
+                  ("weitaikang/Weitaikang_method_github", "./cuekfs_code")]:
+    p = snapshot_download(repo, repo_type="dataset", local_dir=out,
+                          max_workers=8)
+    print("OK ->", p)
+EOF
+```
+
+### 0.4 验证下载完整
+
+```bash
+find ./cuekfs_paper -type f | wc -l     # 应为 968 左右
+find ./cuekfs_code  -type f | wc -l     # 应为 287 左右
+du -sh ./cuekfs_paper ./cuekfs_code     # 约 162 MB 和 63 MB
+```
+
+### 0.5 目录长什么样
+
+```
+cuekfs_paper/
+├── README.md                 总导航，先读这个
+├── 00_source_of_truth/       决定叙事的 slides + 你当初给 AI 的 prompt
+├── 01_paper/                 主材料文档、LaTeX 初稿、图、结果表格
+├── 02_rebuttal/              逐题数据、分层分析、案例、分析脚本
+└── 03_figure_toolkit/        画图用的部件
+
+cuekfs_code/
+├── README_START_HERE.md      这个包怎么用
+├── repo/                     可直接推 GitHub 的代码库
+└── release_artifacts/        122 个实验的选帧结果
+```
+
+---
+
+# 场景 A：继续写 paper、做图
+
+**只需要包1。不需要装 Python，不需要 GPU。** 一个文本编辑器就够了。
+
+## A1. 先花 40 分钟建立全局认识
+
+严格按这个顺序读，每一步都建立在上一步之上：
+
+| 顺序 | 文件 | 为什么先读它 | 时长 |
+|---|---|---|---|
+| 1 | `00_source_of_truth/KFS_Final_Presentation.pdf` | **决定 narrative 的源头。** CueKFS 在前半部分（后半是另一个项目，跳过）。所有叙事分歧以它为准。 | 15 分钟 |
+| 2 | `README.md` | 项目一页纸：任务是什么、bottleneck 是什么、方法三步是什么、结果多少 | 5 分钟 |
+| 3 | `01_paper/SUBMISSION_MATERIALS.md` §1 术语表 | 20 多个术语的白话定义。后面所有文档都假设你读过 | 5 分钟 |
+| 4 | `01_paper/SUBMISSION_MATERIALS.md` §2–§8 | 主材料。按 ICLR 的顺序组织：abstract 计划、intro、related work、method、结果、统计 | 15 分钟 |
+
+**注意 slides 和 paper 的叙事手法不同。** slides 是慢慢拆解给听众看的，
+paper 不能这么组织。`SUBMISSION_MATERIALS.md` 已经按 ICLR 结构重排过了，
+写作时以它的结构为准、以 slides 的观点为准。
+
+## A2. 初稿在哪、写到什么程度了
+
+```
+cuekfs_paper/01_paper/manuscript/
+├── cuekfs_iclr2027.tex     ← 初稿正文，560 行
+├── cuekfs_iclr2027.pdf     ← 当前编译出来的样子，先看这个
+├── references.bib          ← 参考文献
+├── iclr2026_conference.sty/.bst   ← ICLR 模板
+├── math_commands.tex, fancyhdr.sty, natbib.sty
+└── build.sh                ← 编译脚本
+```
+
+**先打开 `cuekfs_iclr2027.pdf` 看现状**，再动 `.tex`。
+
+初稿已有的章节结构（行号是 `.tex` 里的位置）：
+
+| 行 | 章节 | 状态 |
+|---|---|---|
+| 67 | Introduction | 有 |
+| 82 | Related Work（3 个小节：相似度选帧 / 问题分解 / 评测） | 有 |
+| 106 | Method（3 个小节对应你的三步） | 有 |
+| 114 | · Cue Decomposition（第一步） | 有 |
+| 162 | · Cue-Wave-Guided Refinement（第二步，最重要） | 有 |
+| 220 | · Cue Budget Allocation（第三步） | 有 |
+| 225 | Experiments（Setup / 主结果 / 消融与成本 / 超参 / 行为分析） | 有 |
+| 529 | Conclusion | 有 |
+| 544 | 附录：替代 refinement 设计的成本 | 有 |
+| 552 | 附录：实现细节 | 有 |
+
+**最明显的缺口：`.tex` 里一张图都还没插。** 全文 `\includegraphics` 数量为零。
+这正好对应你自己在 slides 上画图的计划——画完导出，再插进来。
+
+摘要没有单独的 `\section`，因为 ICLR 模板用 `\begin{abstract}`。
+`SUBMISSION_MATERIALS.md` §2 给了摘要的九拍结构（背景 / 现状 / However / 贡献 /
+三个子贡献 / 结果 / 分析），可以直接照着写。
+
+## A3. 写作辅助材料
+
+| 文件 | 什么时候用 |
+|---|---|
+| `01_paper/PAPER_GUIDE.md` | 写作计划和进度追踪，想知道"还差什么"时看 |
+| `01_paper/POSITIONING_AGENTIC_QA.md` | 写 related work 时，如何跟 agentic video-QA 那一派划清界限 |
+| `01_paper/results_tables/system_design_v4.md` | 审稿人问"你为什么不试 X"，这里记着试过什么、为什么否掉 |
+
+## A4. 每个数字去哪查
+
+**唯一权威表是 `01_paper/results_tables/downstream_reader_results.md`。**
+里面的"表七"是主表：3 个基准 × 3 个 reader × 3 个预算，CueKFS / WFS-SB / uniform 三方对比。
+
+关键的几个数（已做分母修正）：
+
+| | k=8 | k=16 | k=32 | 均值 |
+|---|--:|--:|--:|--:|
+| VideoMME × gpt-5.5 × CueKFS | 80.67 | 83.30 | 84.15 | **82.70** |
+| 对照 WFS-SB | 76.22 | 78.74 | 80.96 | 78.64 |
+| 对照 uniform | 73.70 | 77.11 | 81.41 | 77.41 |
+
+**这个文件的正文注释比表格本身更重要**，它记录了：哪些格子做了分母修正、
+哪些故意没改、LongVideoBench 的 densify 是怎么回事、
+以及 `MLVU × InternVL3` 那格复现差 +1.05 导致 caption 里
+"reproduced within <1 point" 这句话不成立。写作时别只抄数字。
+
+其余表格：
+
+| 文件 | 内容 |
+|---|---|
+| `ablation_results_v4.md` | 完整消融计划与结果 |
+| `abl_tables456.md` | 更深入的消融与分析表 |
+| `split_analysis_videomme.md` | 按证据位置（单时刻/多时刻/整段）和锚点强弱两条轴的分层。结论：`where` 那条轴能区分方法，锚点那条不能 |
+| `toolmerge_comparison.md`、`rawmax_results.md`、`h8_research.md` | 侧面对比与探针 |
+| `v46_audit_report.md` | 独立审计 |
+| `experiments_ledger.md` | 什么时候跑了什么的流水账 |
+
+## A5. 画图：元素在哪、怎么用
+
+你有**三层**素材，用途不同：
+
+### 第一层：论文图的部件（最主要的，共 23 个 SVG）
+
+`01_paper/figures/figN_*/` 每个目录里有三样东西：
+
+- `full.png` —— 完整渲染图，**只作参考**，看这张图想表达什么
+- `full.html` —— 同一张图的 HTML 版，想微调可以改
+- `parts/*.svg` —— **矢量部件，这是你要拖进 slides 的东西**
+
+八张图的部件清单：
+
+| 图 | 主题 | 部件 |
+|---|---|---|
+| fig1 | Motivation | `a_question_wave` · `b_cue_waves` · `c_frozen_vs_loop` |
+| fig2 | Pipeline 总览 | `a_input` · `b_stage1_decompose` · `c_stage2_refine` · `d_stage3_allocate` |
+| fig3 | 第一步 Decompose | `a_segmentation` · `b_cue_generation` |
+| fig4 | 第二步 CWGR | `a_wave_anatomy` · `b_batched_review` · `c_reprobe` |
+| fig5 | 第三步 Allocate | `a_rank_dedup_allocate` · `b_final_frames` |
+| fig6 | 主结果 | `a_budget_average` · `b_margin_by_budget` · `c_k32_competitors` |
+| fig7 | 消融 | `a_additive_ladder` · `b_cost_frontier` |
+| fig8 | 行为分析 | `a_action_rates` · `b_effect_per_action` · `c_coverage` · `d_uncovered_control` |
+
+### 第二层：可复用的通用部件（42 个）
+
+`03_figure_toolkit/elements/`：
+
+- `el-*.png`（17 个）—— 概念图标：`el-question`、`el-decompose`、`el-vlm`、
+  `el-wave0/1/2`、`el-loop`、`el-coverage`、`el-select`、`el-answer`、`el-arrow`、
+  `el-chip0/1/2`、`el-strip`、`el-accumulate`、`el-covlabel`
+- `stepA_*.svg`（5 个）—— 第一步的分镜：坐标轴、片段、采样、相似度、细节
+- `stepB_*.svg`（6 个）—— 第二步的波形，含四种 cue 命运：`rewrite` ×3、`drop`、`keep`、主波形
+- `stepC_*.svg`（4 个）—— 第三步：去重前后、证据排序 rank0–3
+- `wave_*.png/.svg` —— 波形和覆盖率曲线，png/svg 双份
+
+先看 `03_figure_toolkit/rendered_slides/elements_preview.png`，
+一张图列出所有部件长什么样，比翻文件名快。
+
+### 第三层：整页 slide 成品（参考排版）
+
+`03_figure_toolkit/rendered_slides/`：`cuekfs_slide.png`、`cuekfs_slide_b.png`、
+`cuekfs_slide_c.png`、`cuekfs_slide_ab.png`、`cuekfs_slide_bottleneck.png`、
+`cuekfs_slide_exp.png`、`cuekfs_slide_related.png`、`contact_sheet.png`。
+不是拿来直接用的，是看排版和配色。
+
+另外 `03_figure_toolkit/related_work_figs/` 有 5 张别人论文的配图
+（`otani_fig2/fig4`、`kfsbench_fig1`、`shotbench_fig1`、`song_fig1`），
+写 related work 或者做对比图时参考。
+
+### 导进 slides 的具体做法
+
+SVG 是矢量的，导进去之后可以拆开改颜色改文字，这是它比 PNG 好用的地方：
+
+- **Keynote**：直接把 `.svg` 拖进画布 → 右键 → 取消组合（可能要点两次）→ 单独改每个元素
+- **PowerPoint**：插入 → 图片 → 选 `.svg` → 右键 → 转换为形状 → 就能改颜色和文字
+- **Google Slides**：不支持 SVG。先用 Inkscape 或在线工具转成 EMF/PNG，或者直接用
+  `elements/` 里的 `.png`
+- **想微调再导出**：`full.html` 用浏览器打开，改里面的 CSS/SVG，再截图或打印成 PDF
+
+**用不到的：** `01_paper/figures/_build/` 和 `03_figure_toolkit/build_scripts/`
+是当初生成这些图的 Python/JS 代码。你既然打算自己画，这两个目录可以完全无视。
+
+## A6.（可选）编译 PDF
+
+只有想看 LaTeX 改动效果时才需要。
+
+```bash
+# macOS
+brew install --cask mactex-no-gui
+# Ubuntu
+sudo apt install texlive-full   # 或者 texlive-latex-extra texlive-fonts-recommended latexmk
+
+cd cuekfs_paper/01_paper/manuscript
+bash build.sh
+```
+
+`build.sh` 跑的是 `latexmk -pdf`，会自动做 pdflatex → bibtex → pdflatex ×2。
+成功时打印 `OK -> cuekfs_iclr2027.pdf (N pages)`。
+失败就去 `cuekfs_iclr2027.log` 里找第一个 `:行号:` 错误。
+`bash build.sh clean` 清理中间产物。
+
+用 VS Code 的话装 LaTeX Workshop 扩展，存盘自动编译，比命令行方便。
+
+---
+
+# 场景 B：把代码发到 GitHub
+
+**只需要包2。不需要 GPU。** 大约 30 分钟。
+
+## B1. 先读
+
+```bash
+cd cuekfs_code
+cat README_START_HERE.md      # 这个包分两半，各自怎么处理
+cat repo/README.md            # 代码库主文档，别人看到的第一份东西
+```
+
+这个包是两部分：`repo/`（4.5 MB，推 GitHub）和 `release_artifacts/`（59 MB，
+发成 HF dataset）。**不要把 `release_artifacts/` 提交进 git**——59 MB 的数据放进
+git 历史，以后想删都删不掉。
+
+## B2. 填 4 个占位符
+
+### (1) 仓库 URL
+
+```bash
+cd cuekfs_code/repo
+grep -rn "<this-repo>\|your-org\|yourusername\|example.com" README.md CITATION.cff pyproject.toml
+```
+
+把找到的占位符换成你的真实地址，例如 `https://github.com/weitaikang/cuekfs`。
+
+### (2) 引用信息
+
+论文有 venue 和 arXiv id 之后再填。现在 `README.md` 里是这样一段：
+
+```bibtex
+@inproceedings{cuekfs2027,
+  title     = {CueKFS: Cue-Wave-Guided Keyframe Selection for Long-Video Question Answering},
+  booktitle = {International Conference on Learning Representations (ICLR)},
+  year      = {2027}
+}
+```
+
+同步改 `CITATION.cff`。
+
+### (3) 版权署名
+
+```bash
+head -4 LICENSE
+```
+
+会看到：
+
+```
+Copyright (c) 2026 The CueKFS Authors
+Copyright (c) 2025 BOLT Project Contributors
+```
+
+把第一行的 `The CueKFS Authors` 换成真实署名。
+**第二行必须保留**——这个仓库派生自 MIT 协议的 BOLT 项目，MIT 要求保留上游声明。
+`CITATION.cff` 里的 `The CueKFS Authors` 也一并改掉。
+
+### (4) 数据下载地址
+
+等你做完 B5 拿到真实 URL 再回来填：
+
+```bash
+grep -rn "release_artifacts" README.md scripts/ docs/
+```
+
+## B3. 推之前先自检
+
+```bash
+cd cuekfs_code/repo
+
+# 语法检查：51 个 py 文件应该零错误
+python - <<'EOF'
+import ast, pathlib
+bad, n = [], 0
+for p in pathlib.Path(".").rglob("*.py"):
+    if "__pycache__" in str(p):
+        continue
+    n += 1
+    try:
+        ast.parse(p.read_text())
+    except SyntaxError as e:
+        bad.append((str(p), e.lineno, e.msg))
+print(f"{n} files, {len(bad)} syntax errors")
+for b in bad:
+    print("  ", b)
+EOF
+
+# 导入检查：核心模块应该全部 OK
+python - <<'EOF'
+import importlib, sys
+sys.path.insert(0, ".")
+mods = ["cuekfs", "cuekfs.config", "cuekfs.v4_wave", "cuekfs.v3_wave",
+        "cuekfs.data_contracts", "cuekfs.v2_embedding", "cuekfs.pipeline",
+        "cuekfs.vlm.prompts", "cuekfs.vlm.response_parser", "cuekfs.cache.cache_manager"]
+for m in mods:
+    try:
+        importlib.import_module(m); print("  OK  ", m)
+    except Exception as e:
+        print("  FAIL", m, type(e).__name__, e)
+EOF
+
+# 再确认一次没有内网信息漏出去（应该全是 0）
+for p in netflix nflx mesh.netflix svip copilotdp metatron titus weitaik /root/ /efs/; do
+    printf "%-14s %s\n" "$p" "$(grep -ril -- "$p" --exclude-dir=__pycache__ . | wc -l)"
+done
+grep -rnoE "sk-[A-Za-z0-9_-]{16,}|hf_[A-Za-z0-9]{20,}" . | grep -v "sk-your-key"
+```
+
+最后一条应该没有输出。`examples/quickstart.md` 里的 `sk-your-key` 是占位符，正常。
+
+我在上传前已经跑过这套检查、并清掉了 3 个明文 API key、88 处内网主机名和
+一个含同事邮箱的文件。这里再跑一遍是因��你可能在 B2 里手动改过东西。
+
+## B4. 推送
+
+```bash
+cd cuekfs_code/repo
+git init
+git add .
+git status          # 确认 release_artifacts 不在列表里（它本来就在包的上一层）
+git commit -m "Initial public release of CueKFS"
+git branch -M main
+git remote add origin git@github.com:<你的账号>/cuekfs.git
+git push -u origin main
+```
+
+## B5. 把选帧结果发成 HF dataset
+
+```bash
+cd cuekfs_code
+hf upload <你的账号>/cuekfs-selections release_artifacts . --repo-type dataset
+```
+
+CLI 有问题的话用 Python：
+
+```bash
+python - <<'EOF'
+from huggingface_hub import HfApi
+api = HfApi()
+rid = "<你的账号>/cuekfs-selections"
+api.create_repo(rid, repo_type="dataset", exist_ok=True)
+api.upload_folder(folder_path="release_artifacts", repo_id=rid, repo_type="dataset")
+print("https://huggingface.co/datasets/" + rid)
+EOF
+```
+
+## B6. 回填 URL 再推一次
+
+```bash
+cd cuekfs_code/repo
+# 把 B2(4) 找到的占位符换成 B5 输出的真实地址
+git add -A && git commit -m "Point the download script at the published selections"
+git push
+```
+
+## B7. 建议顺手做的
+
+- GitHub 仓库设置里加 topics：`keyframe-selection`、`video-question-answering`、
+  `long-video-understanding`、`training-free`
+- 描述栏填一句话：*Training-free agentic keyframe selection for long-video QA*
+- 论文接收后建一个 GitHub Release，tag `v1.0`
+
+---
+
+# 场景 C：跑 rebuttal 实验
+
+## C1. 先判断：你到底需不需要 GPU
+
+**大部分 rebuttal 问题不需要重跑任何东西。** 先对着这张表看你的问题落在哪一栏：
+
+| 审稿人问的 | 走哪条路 | 需要什么 |
+|---|---|---|
+| 提升显著吗？做个 McNemar | **路线一** | 笔记本 + pandas |
+| 在某个子集上还成立吗？（时长、题型、证据位置） | **路线一** | 同上 |
+| 失败案例长什么样？ | **路线一** | 同上 |
+| 上界是多少？还有多少提升空间？ | **路线一** | 同上 |
+| refinement 真的改了 cue 吗？覆盖率真的涨了吗？ | **路线一** | 同上 |
+| 换一个我们没试过的超参会怎样？ | **路线二** | GPU + 视频 + 推理 VLM |
+| 换一个新 reader 会怎样？ | **路线二的简化版**（见 C3） | GPU 或 API，不用重新选帧 |
+| 在一个新基准上跑一下 | **路线二完整版** | 全套 |
+
+## C2. 路线一：纯分析，不需要 GPU
+
+**10 分钟就能开始，一台笔记本足够。**
+
+### C2.1 环境
+
+```bash
+python -m pip install pandas numpy scipy statsmodels matplotlib
+```
+
+56 个分析脚本里有 51 个只依赖 pandas/numpy/scipy，可以直接跑。
+
+### C2.2 材料在哪
+
+```
+cuekfs_paper/02_rebuttal/
+├── README.md                  ← 「审稿人问什么 → 查哪个文件」对照表，先读它
+├── per_question_eval/
+│   ├── RUNS_INDEX.md          ← 244 个实验的准确率总览，人读
+│   ├── runs_index.csv         ← 同上，机器读
+│   └── runs/<run名>/eval_summary.<reader>.json   ← 445 份逐题记录
+├── derived_tables/            ← 已算好的分析表
+├── stratified_tables/         ← t1–t11 分层分析，每个都有 .md 结论 + _per_query.csv
+├── analysis_caches/           ← 花过钱的 LLM 标注缓存，别浪费
+├── analysis_scripts/          ← 56 个生成上述结果的脚本
+└── qualitative_cases/         ← 175 组案例原图
+```
+
+### C2.3 例子：做一个 McNemar 显著性检验
+
+```bash
+cd cuekfs_paper/02_rebuttal
+python - <<'EOF'
+import json
+from statsmodels.stats.contingency_tables import mcnemar
+
+rows = [json.loads(l) for l in open("derived_tables/videomme_verdicts.jsonl")]
+A, B = "CueKFS|gpt5_5|16", "WFS-SB|gpt5_5|16"
+
+# 2x2 列联表：只统计两法结论不同的题
+n01 = sum(1 for r in rows if not r[A] and r[B])   # 只有 B 对
+n10 = sum(1 for r in rows if r[A] and not r[B])   # 只有 A 对
+tbl = [[sum(1 for r in rows if r[A] and r[B]), n10],
+       [n01, sum(1 for r in rows if not r[A] and not r[B])]]
+
+res = mcnemar(tbl, exact=False, correction=True)
+print(f"n={len(rows)}  A独对={n10}  B独对={n01}")
+print(f"chi2={res.statistic:.2f}  p={res.pvalue:.3e}")
+EOF
+```
+
+我在打包前跑过这段，输出是：
+
+```
+n=2700  A独对=249  B独对=126
+chi2=39.69  p=2.975e-10
+```
+
+也就是说 CueKFS 相对 WFS-SB 在 k=16、gpt-5.5 下的优势是高度显著的：
+249 道题只有 CueKFS 答对，126 道题只有 WFS-SB 答对。
+你在另一台机器上应该得到完全一样的数字，可以拿来验证下载是否完整。
+
+`videomme_verdicts.jsonl` 有 2700 行，每行一道题，
+27 个 `方法|reader|预算` 组合的对错各占一个布尔字段
+（三个方法 × 三个 reader × 三个预算）。把 `A`、`B` 换成任意两个组合就能比，
+例如换成 `"CueKFS|internvl3|8"` 和 `"uniform|internvl3|8"`。
+
+### C2.4 例子：查任意一个实验的成绩
+
+```bash
+cd cuekfs_paper/02_rebuttal/per_question_eval
+python - <<'EOF'
+import csv
+rows = list(csv.DictReader(open("runs_index.csv")))
+for r in rows:
+    if r["dataset"] == "videomme" and r["reader"] == "gpt5_5" and "jl_j7" in r["config"]:
+        print(f"{r['config']:<32} k={r['budget']:>2}  acc={r['accuracy']}")
+EOF
+```
+
+### C2.5 例子：做一个新的分层切分
+
+比如"只看含隐含信息的题"：
+
+```bash
+cd cuekfs_paper/02_rebuttal
+python - <<'EOF'
+import json
+# analysis_caches 里存着每道题的 LLM 标注，不用重新调 API
+labels = {}
+for l in open("analysis_caches/implicit_v8_cache.jsonl"):
+    d = json.loads(l)
+    labels[d.get("qid") or d.get("question_id")] = d
+
+verdicts = [json.loads(l) for l in open("derived_tables/videomme_verdicts.jsonl")]
+print("标注覆盖:", sum(1 for v in verdicts if v["question_id"] in labels), "/", len(verdicts))
+print("标注字段:", list(next(iter(labels.values())).keys()))
+EOF
+```
+
+先打印字段名，再决定按哪个字段切。
+`analysis_scripts/` 里的 `tag_*.py` 是生成这些缓存的脚本，
+想看某个标签具体怎么定义的就去读对应那个。
+
+### C2.6 一个必须知道的限制
+
+**只有 VideoMME 的逐题记录是论文里那一版。**
+
+`videomme_jl_j7_seconds1p0_siglip0p98_k{8,16,32}` 精确复现论文数字
+（80.70 / 83.33 / 84.18，n=2699），基于它的分析都可靠。
+
+但 LongVideoBench 和 MLVU 磁盘上只有 `abl_d2_batchreview_prop`，
+是 j7 超参搜索**之前**的配置，18 个格子全部比论文低 0.3 到 3.5 分。
+论文那两个基准的最终 run 在另一台机器上，没能一起打包。
+另外 `mlvu × gpt5_5 × k16` 那份文件是坏的，只有 2 道题，忽略它。
+
+所以：**rebuttal 分析尽量围绕 VideoMME 做**，
+需要动另外两个基准时，先把 j7 的记录从原机器找回来。
+
+### C2.7 那 5 个需要额外准备的脚本
+
+`analysis_scripts/` 里有 5 个脚本 import 了 `kfs` 包
+（`abl_coverage_change.py`、`abl_coverage_growth.py`、`abl_cue_explore.py`、
+`abl_jaccard_by_action.py`、`build_uncovered_fps.py`）。
+包1里没有这个包，它在包2里、而且已经改名叫 `cuekfs` 了。要跑的话：
+
+```bash
+cd cuekfs_paper/02_rebuttal/analysis_scripts
+# 把 kfs. 换成 cuekfs.
+sed -i.bak 's/^from kfs\./from cuekfs./; s/^import kfs$/import cuekfs/' \
+    abl_coverage_change.py abl_coverage_growth.py abl_cue_explore.py \
+    abl_jaccard_by_action.py build_uncovered_fps.py
+# 让 Python 找得到包2里的 cuekfs
+export PYTHONPATH=/绝对路径/cuekfs_code/repo:$PYTHONPATH
+```
+
+这 5 个脚本还需要真实视频和 SigLIP2 权重（它们要重算波形），
+所以实际上属于路线二。其余 51 个不用。
+
+---
+
+## C3. 路线二：重跑 pipeline
+
+只有当你确实要产生**新的选帧结果**时才走这条。
+
+### C3.0 先想清楚：也许你只需要换 reader
+
+**如果审稿人只是问"换个下游模型还成立吗"，你不用重新选帧。**
+包2的 `release_artifacts/selections/` 里存着 122 个实验每道题选了哪些帧
+（只有时间戳，没有像素）。拿这些时间戳去你的新 reader 上解码、推理即可，
+省掉最贵的那一步。
+
+```bash
+head -2 cuekfs_code/release_artifacts/selections/videomme_jl_j7_seconds1p0_siglip0p98_k8.jsonl
+```
+
+第一行是元信息，之后每行一道题：
+`{"question_id": "001-3", "video": "fFjv93ACGo8", "frames_sec": [46.01, 61.99, ...]}`。
+格式故意做得很简单，你自己写十几行代码就能读。
+
+这条路只需要 GPU 跑 reader，不需要推理 VLM、不需要预抽 embedding。
+
+### C3.1 硬件与预算
+
+| 需要跑什么 | 硬件 | 时间 |
+|---|---|---|
+| 预抽 SigLIP2 embedding | 8 × A100/H100 | VideoMME 15–30 分钟；MLVU 1.5–2 小时；LVB 5–7 小时 |
+| 选帧（VideoMME 全量 2700 题） | 不吃 GPU，瓶颈是推理 VLM 的延迟 | 6–14 小时 |
+| 下游评测 | API reader：不吃 GPU；本地 7–8B reader：4 GPU | 每个预算 1–3 小时 |
+
+磁盘：VideoMME 视频约 95 GB，embedding 缓存另需几十 GB。
+
+### C3.2 装环境
+
+```bash
+cd cuekfs_code/repo
+conda create -n cuekfs python=3.11 -y
+conda activate cuekfs
+
+# PyTorch 必须先装，而且要匹配你的 CUDA 版本
+pip install torch --index-url https://download.pytorch.org/whl/cu128
+
+pip install -r requirements.txt
+pip install -e .
+```
+
+**`requirements.txt` 里没写的三个依赖**（文件末尾有注释说明）：
+
+1. **PyTorch** —— 上面单独装了
+2. **vLLM 或 SGLang** —— 只有本地起推理 VLM 才需要，要预编译的 flashinfer wheel
+3. **DINOv3** —— 只有跑 embedding backend 消融才需要：
+   `pip install git+https://github.com/facebookresearch/dinov3`
+
+另外 `torchvision`（InternVL3 reader 要）和 `matplotlib`（分析脚本要）也没声明，
+需要时 `pip install torchvision matplotlib`。
+
+完整说明在 `docs/01_installation.md`。
+
+### C3.3 下视频
+
+```bash
+cat cuekfs_code/repo/data/benchmarks/README.md    # 每个基准的下载源
+```
+
+题目本身（parquet）已经在包里了，���缺视频：
+
+| 基准 | 规模 | 来源 |
+|---|---|---|
+| Video-MME | 2700 题 / 900 视频 / 约 95 GB | HF `lmms-lab/Video-MME` |
+| LongVideoBench | 1337 题（validation split） | HF `longvideobench/LongVideoBench` |
+| MLVU | 2174 题（dev split） | HF `MLVU/MVLU` |
+
+split 必须和我们一致：VideoMME test 无字幕、LVB validation、MLVU dev。
+这三个 split 和 WFS-SB 一致，换了就没法比。
+
+### C3.4 设环境变量
+
+```bash
+export CUEKFS_VLM_BASE_URL=http://localhost:8000/v1   # 推理 VLM 的地址
+export CUEKFS_VLM_API_KEY=...                          # 需要的话
+export DATA_DIR=/你的路径/videos
+export OUTPUT_DIR=/你的路径/outputs
+export DECORD_EOF_RETRY_MAX=20480                      # 不设的话某些视频解码会报错
+
+bash scripts/serving/check_env.sh                      # 自检
+```
+
+`CUEKFS_VLM_BASE_URL` 是必需的。原来硬编码的内网地址我已经全部换成了这个环境变量，
+不设就会连到 `http://localhost:8000/v1` 这个默认值。
+
+### C3.5 起推理 VLM
+
+CueKFS 每道题要调几次推理 VLM。两个选择：
+
+```bash
+# A. 本地开源模型（论文的消融用的是 Qwen3.6-27B）
+bash scripts/serving/start_vllm.sh 8000 8 Qwen/Qwen3.6-27B
+export CUEKFS_VLM_BASE_URL=http://localhost:8000/v1
+
+# B. 托管 API（论文主结果用的是 gpt-5.5）
+export CUEKFS_VLM_BASE_URL=https://你的端点/v1
+export CUEKFS_VLM_API_KEY=...
+```
+
+本地 27B 加载要 5–10 分钟。
+
+### C3.6 预抽 SigLIP2 embedding
+
+```bash
+bash scripts/01_precompute_embeddings_multigpu.sh \
+    $DATA_DIR/videomme/data/ $OUTPUT_DIR/cache 8 configs/main.yaml 8 384 512
+```
+
+参数依次是：`<视频目录> <缓存目录> [GPU数] [配置] [batch_size] [max_edge] [decode_chunk_size]`，
+后五个都有默认值（GPU 数默认 8，配置默认 `configs/main.yaml`）。
+产出每个视频一份 `emb___siglip2_global___fps1_0.npy`，
+存的是 1 fps 下每一帧的 SigLIP2 向量。脚本只扫 `*.mp4`。
+
+**这一步要在起 VLM 服务之前跑完**（如果共用 GPU），抽 embedding 很吃显存。
+重跑会自动跳过已缓存的视频。
+
+跳过这步也能跑，但选帧时会现场编码，慢一个数量级。
+
+### C3.7 选帧
+
+```bash
+export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
+export OMP_NUM_THREADS=4 MKL_NUM_THREADS=4 MALLOC_ARENA_MAX=2
+
+python -u scripts/02_select_frames.py \
+    --dataset videomme --video_dir $DATA_DIR/videomme/data/ \
+    --config configs/main.yaml \
+    --pipeline_version v4 \
+    --top_k 32,16,8 \
+    --max_workers 20
+```
+
+**`--pipeline_version v4` 不能省。** 它的默认值是 `legacy`，
+省掉会静默地跑成 v1 老方法，什么都复现不出来。
+
+`--top_k 32,16,8` 一次跑三个预算：方法的前两步和预算无关、每题只跑一次，
+所以三个预算几乎不比一个贵。
+
+那几个 `OMP_NUM_THREADS` / `MALLOC_ARENA_MAX` 不是装饰。
+不设的话，高 `--max_workers` 下每个 worker 的解码和 embedding 线程会各自铺开，
+内存会涨爆。
+
+多机分片：`--num_shards N --shard_id i`，跑完再来一次 `--merge_shards`。
+重跑同一条命令会自动续跑。
+
+### C3.8 下游评测
+
+```bash
+python -u scripts/03_evaluate_reader.py \
+    --dataset videomme --video_dir $DATA_DIR/videomme/data/ \
+    --bench_dir $OUTPUT_DIR/benchmark_runs/videomme_main_k32 \
+    --eval_model gpt-5.5 --eval_model_family gpt5_5 \
+    --max_workers 16 --resume
+```
+
+每个预算、每个 reader 各跑一次。**永远带 `--resume`。**
+
+**结果以逐题的 `*.eval.json` sidecar 为准，不要信 `eval_summary.*.json`**
+——那个 summary 只统计最近一次调用处理过的题。
+
+reader 协议必须和论文一致，否则数字没有可比性：
+Qwen2.5-VL 用 `--video_max_token_num 16384`，InternVL3 用 `--internvl3_max_num 1`。
+
+### C3.9 复现 baseline
+
+```bash
+python scripts/baselines/wfs_sb_to_results.py    # 读 WFS-SB 官方发布的关键帧，忠实转格式
+python scripts/baselines/uniform_to_results.py   # 同预算均匀采样
+```
+
+完整的复现命令序列在 `docs/04_reproduce_paper.md`。
+
+---
+
+## C4. 已知的坑
+
+按踩到的概率排序：
+
+1. **`--pipeline_version` 默认是 `legacy`。** 不显式写 `v4` 就跑成老方法了，而且不报错。
+2. **`cuekfs/pipeline/phase_{a,b,c,d}.py` 不是论文里的 Phase A/B/C/D。**
+   那四个文件是被淘汰的 v1 流水线的四个阶段，和论文里的同名概念毫无关系。
+   看论文找代码，要去 `cuekfs/pipeline/runner_v4.py` 和 `cuekfs/v4_wave.py`。
+3. **`04_single_sample.py` 不支持 v4。** 它内置的选帧路径早于 CueKFS，
+   只认 `legacy|v2|v3`。要单题调试就先用 `02_select_frames.py --sample_index N` 选帧，
+   再用 `04_single_sample.py --keyframe_json <产出的json>` 打分。
+4. **`--max_workers > 1` 时结果不是逐位可复现的。** 批处理会打乱请求顺序，
+   多卡 embedding 副本也有浮点噪声。要严格复现就 `--max_workers 1` 且
+   `siglip2_replica_devices: ""`。方法层面的结论不受影响。
+5. **配置里的 `qwen35_*` 是历史命名**，实际指向你配置的任何模型。
+   `configs/main.yaml` 里 `qwen35_model_name: gpt-5.5`。
+6. **sidecar 文件名不能反推 question id。** 写文件时经过了
+   `_safe_filename`（非字母数字变 `_`、连续 `_` 折叠、首尾 `_` 去掉），
+   LongVideoBench 有 170/1337 个 id 会被改写。
+   正确做法是拿 question id 正向套 `_safe_filename` 去找文件，别反解。
+
+---
+
+# 附：论文主配置速查
+
+论文主结果那一版（`configs/main.yaml`，即原来的 `jl_j7_final.yaml`）：
+
+| 参数 | 值 | 属于哪一步 |
+|---|---|---|
+| `v3_repr_frame_budget` | 48 | 第一步：给推理 VLM 看多少张代表帧 |
+| `v4_review_batch_size` | 20 | 第二步：一批 review 多少个 cue |
+| `v4_percue_frames_cap` | 32 | 第二步：每个 cue 最多留多少证据帧 |
+| `v3_max_loop_rounds` | 5 | 第二步：最多循环几轮 |
+| `disable_sufficiency` | true | 第二步：充分性检查在最终版里是关掉的 |
+| `v4_importance_mode` | similarity | 第三步：重要性排序不走 VLM，用最大帧相似度 |
+| `v4_alloc_mode` | proportional | 第三步：按重要性比例分配预算 |
+| `v4_dedup_tau_siglip` | 0.98 | 第三步：去重的相似度阈值 |
+| `v4_dedup_tau_seconds` | 1.0 | 第三步：去重的时间阈值 |
+| `v4_backfill_mode` | embedding_fps | 第三步：剩余名额用最远点采样补 |
+| `qwen35_model_name` | gpt-5.5 | 推理 VLM |
+| `siglip2_model_name` | `google/siglip2-giant-opt-patch16-384` | 嵌入模型 |
+
+推理 VLM 的采样参数：`temperature 0.0`、`seed 42`、`reasoning_effort high`、
+`enable_thinking false`、`image_max_edge 448`。
+
+**一个写作时要注意的事实：** VideoMME 那次主结果 run 复用了阶梯上游冻结的 cue，
+只重跑了第三步（J7 调的正好就是第三步的两个去重阈值）。
+cue 文本最初由 gpt-5.5 在 `jl_j1_budget48` 生成，之后沿阶梯往下传，
+目的是让每一级超参的效果不被 cue 生成的随机性污染。
+`configs/main.yaml` 是去掉复用指针的版本，用于在新基准上从头完整跑。