Hugging Face's logo

Datasets:
weitaikang
/
Weitaikang_method_paper

Dataset card Files
xet
 Community
Weitaikang_method_paper / SETUP_ON_ANOTHER_MACHINE.md
weitaikang's picture
weitaikang
Add the step-by-step guide for continuing on another machine
667e5b8 verified
preview code
|
Raw
History Blame Contribute Delete
32.1 kB

CueKFS：在另一台电脑上继续这个项目

这份文档假设你是在一台全新的机器上从零开始，手里只有这两个 Hugging Face 仓库。 三个场景互相独立，按你当下要做的事直接跳到对应章节即可。

场景 需要下载 需要 GPU 大致耗时
A. 继续写 paper、做图 包1（162 MB） 不需要 下载 2 分钟
B. 把代码发到 GitHub 包2（63 MB） 不需要 30 分钟
C. 跑 rebuttal 实验 看你要做哪种，见 C1 分情况 10 分钟到几天

两个包：

包 仓库 内容
包1 weitaikang/Weitaikang_method_paper 写 paper 和 rebuttal 的全部材料
包2 weitaikang/Weitaikang_method_github 可发布的代码库 + 预算好的选帧结果

两个包内容不重叠。代码只在包2，图和分析证据只在包1。

0. 先决条件：下载

0.1 装工具 

python -m pip install -U "huggingface_hub[cli]"

0.2 登录

仓库是 public 的，理论上不登录也能下。但如果遇到限流，登录后会顺畅很多：

hf auth login
# 粘贴 https://huggingface.co/settings/tokens 生成的 token（read 权限即可）

0.3 下载

命令行版本：

# 包1：写 paper 用
hf download weitaikang/Weitaikang_method_paper \
    --repo-type dataset --local-dir ./cuekfs_paper

# 包2：代码
hf download weitaikang/Weitaikang_method_github \
    --repo-type dataset --local-dir ./cuekfs_code

**如果 hf 命令报 AttributeError: 'Sentinel' object has no attribute 'strip'**， 说明你装的 typer 和 huggingface_hub 版本冲突（我在 Workbench 上就撞到了这个）。 不用折腾版本，直接用 Python API，功能完全一样：

python - <<'EOF'
from huggingface_hub import snapshot_download
for repo, out in [("weitaikang/Weitaikang_method_paper", "./cuekfs_paper"),
                  ("weitaikang/Weitaikang_method_github", "./cuekfs_code")]:
    p = snapshot_download(repo, repo_type="dataset", local_dir=out,
                          max_workers=8)
    print("OK ->", p)
EOF

0.4 验证下载完整 

find ./cuekfs_paper -type f | wc -l     # 应为 968 左右
find ./cuekfs_code  -type f | wc -l     # 应为 287 左右
du -sh ./cuekfs_paper ./cuekfs_code     # 约 162 MB 和 63 MB

0.5 目录长什么样 

cuekfs_paper/
├── README.md                 总导航，先读这个
├── 00_source_of_truth/       决定叙事的 slides + 你当初给 AI 的 prompt
├── 01_paper/                 主材料文档、LaTeX 初稿、图、结果表格
├── 02_rebuttal/              逐题数据、分层分析、案例、分析脚本
└── 03_figure_toolkit/        画图用的部件

cuekfs_code/
├── README_START_HERE.md      这个包怎么用
├── repo/                     可直接推 GitHub 的代码库
└── release_artifacts/        122 个实验的选帧结果

场景 A：继续写 paper、做图

只需要包1。不需要装 Python，不需要 GPU。 一个文本编辑器就够了。

A1. 先花 40 分钟建立全局认识

严格按这个顺序读，每一步都建立在上一步之上：

顺序 文件 为什么先读它 时长
1 00_source_of_truth/KFS_Final_Presentation.pdf 决定 narrative 的源头。 CueKFS 在前半部分（后半是另一个项目，跳过）。所有叙事分歧以它为准。 15 分钟
2 README.md 项目一页纸：任务是什么、bottleneck 是什么、方法三步是什么、结果多少 5 分钟
3 01_paper/SUBMISSION_MATERIALS.md §1 术语表 20 多个术语的白话定义。后面所有文档都假设你读过 5 分钟
4 01_paper/SUBMISSION_MATERIALS.md §2–§8 主材料。按 ICLR 的顺序组织：abstract 计划、intro、related work、method、结果、统计 15 分钟

注意 slides 和 paper 的叙事手法不同。 slides 是慢慢拆解给听众看的， paper 不能这么组织。SUBMISSION_MATERIALS.md 已经按 ICLR 结构重排过了， 写作时以它的结构为准、以 slides 的观点为准。

A2. 初稿在哪、写到什么程度了 

cuekfs_paper/01_paper/manuscript/
├── cuekfs_iclr2027.tex     ← 初稿正文，560 行
├── cuekfs_iclr2027.pdf     ← 当前编译出来的样子，先看这个
├── references.bib          ← 参考文献
├── iclr2026_conference.sty/.bst   ← ICLR 模板
├── math_commands.tex, fancyhdr.sty, natbib.sty
└── build.sh                ← 编译脚本

先打开 cuekfs_iclr2027.pdf 看现状，再动 .tex。

初稿已有的章节结构（行号是 .tex 里的位置）：

行 章节 状态
67 Introduction 有
82 Related Work（3 个小节：相似度选帧 / 问题分解 / 评测） 有
106 Method（3 个小节对应你的三步） 有
114 · Cue Decomposition（第一步） 有
162 · Cue-Wave-Guided Refinement（第二步，最重要） 有
220 · Cue Budget Allocation（第三步） 有
225 Experiments（Setup / 主结果 / 消融与成本 / 超参 / 行为分析） 有
529 Conclusion 有
544 附录：替代 refinement 设计的成本 有
552 附录：实现细节 有

最明显的缺口：.tex 里一张图都还没插。 全文 \includegraphics 数量为零。 这正好对应你自己在 slides 上画图的计划——画完导出，再插进来。

摘要没有单独的 \section，因为 ICLR 模板用 \begin{abstract}。 SUBMISSION_MATERIALS.md §2 给了摘要的九拍结构（背景 / 现状 / However / 贡献 / 三个子贡献 / 结果 / 分析），可以直接照着写。

A3. 写作辅助材料

文件 什么时候用
01_paper/PAPER_GUIDE.md 写作计划和进度追踪，想知道"还差什么"时看
01_paper/POSITIONING_AGENTIC_QA.md 写 related work 时，如何跟 agentic video-QA 那一派划清界限
01_paper/results_tables/system_design_v4.md 审稿人问"你为什么不试 X"，这里记着试过什么、为什么否掉

A4. 每个数字去哪查

唯一权威表是 01_paper/results_tables/downstream_reader_results.md。 里面的"表七"是主表：3 个基准 × 3 个 reader × 3 个预算，CueKFS / WFS-SB / uniform 三方对比。

关键的几个数（已做分母修正）：

k=8 k=16 k=32 均值
VideoMME × gpt-5.5 × CueKFS 80.67 83.30 84.15 82.70
对照 WFS-SB 76.22 78.74 80.96 78.64
对照 uniform 73.70 77.11 81.41 77.41

这个文件的正文注释比表格本身更重要，它记录了：哪些格子做了分母修正、 哪些故意没改、LongVideoBench 的 densify 是怎么回事、 以及 MLVU × InternVL3 那格复现差 +1.05 导致 caption 里 "reproduced within <1 point" 这句话不成立。写作时别只抄数字。

其余表格：

文件 内容
ablation_results_v4.md 完整消融计划与结果
abl_tables456.md 更深入的消融与分析表
split_analysis_videomme.md 按证据位置（单时刻/多时刻/整段）和锚点强弱两条轴的分层。结论：where 那条轴能区分方法，锚点那条不能
toolmerge_comparison.md、rawmax_results.md、h8_research.md 侧面对比与探针
v46_audit_report.md 独立审计
experiments_ledger.md 什么时候跑了什么的流水账

A5. 画图：元素在哪、怎么用

你有三层素材，用途不同：

第一层：论文图的部件（最主要的，共 23 个 SVG）

01_paper/figures/figN_*/ 每个目录里有三样东西：

  • full.png —— 完整渲染图，只作参考，看这张图想表达什么
  • full.html —— 同一张图的 HTML 版，想微调可以改
  • parts/*.svg —— 矢量部件，这是你要拖进 slides 的东西

八张图的部件清单：

图 主题 部件
fig1 Motivation a_question_wave · b_cue_waves · c_frozen_vs_loop
fig2 Pipeline 总览 a_input · b_stage1_decompose · c_stage2_refine · d_stage3_allocate
fig3 第一步 Decompose a_segmentation · b_cue_generation
fig4 第二步 CWGR a_wave_anatomy · b_batched_review · c_reprobe
fig5 第三步 Allocate a_rank_dedup_allocate · b_final_frames
fig6 主结果 a_budget_average · b_margin_by_budget · c_k32_competitors
fig7 消融 a_additive_ladder · b_cost_frontier
fig8 行为分析 a_action_rates · b_effect_per_action · c_coverage · d_uncovered_control

第二层：可复用的通用部件（42 个）

03_figure_toolkit/elements/：

  • el-*.png（17 个）—— 概念图标：el-question、el-decompose、el-vlm、 el-wave0/1/2、el-loop、el-coverage、el-select、el-answer、el-arrow、 el-chip0/1/2、el-strip、el-accumulate、el-covlabel
  • stepA_*.svg（5 个）—— 第一步的分镜：坐标轴、片段、采样、相似度、细节
  • stepB_*.svg（6 个）—— 第二步的波形，含四种 cue 命运：rewrite ×3、drop、keep、主波形
  • stepC_*.svg（4 个）—— 第三步：去重前后、证据排序 rank0–3
  • wave_*.png/.svg —— 波形和覆盖率曲线，png/svg 双份

先看 03_figure_toolkit/rendered_slides/elements_preview.png， 一张图列出所有部件长什么样，比翻文件名快。

第三层：整页 slide 成品（参考排版）

03_figure_toolkit/rendered_slides/：cuekfs_slide.png、cuekfs_slide_b.png、 cuekfs_slide_c.png、cuekfs_slide_ab.png、cuekfs_slide_bottleneck.png、 cuekfs_slide_exp.png、cuekfs_slide_related.png、contact_sheet.png。 不是拿来直接用的，是看排版和配色。

另外 03_figure_toolkit/related_work_figs/ 有 5 张别人论文的配图 （otani_fig2/fig4、kfsbench_fig1、shotbench_fig1、song_fig1）， 写 related work 或者做对比图时参考。

导进 slides 的具体做法

SVG 是矢量的，导进去之后可以拆开改颜色改文字，这是它比 PNG 好用的地方：

  • Keynote：直接把 .svg 拖进画布 → 右键 → 取消组合（可能要点两次）→ 单独改每个元素
  • PowerPoint：插入 → 图片 → 选 .svg → 右键 → 转换为形状 → 就能改颜色和文字
  • Google Slides：不支持 SVG。先用 Inkscape 或在线工具转成 EMF/PNG，或者直接用 elements/ 里的 .png
  • 想微调再导出：full.html 用浏览器打开，改里面的 CSS/SVG，再截图或打印成 PDF

用不到的： 01_paper/figures/_build/ 和 03_figure_toolkit/build_scripts/ 是当初生成这些图的 Python/JS 代码。你既然打算自己画，这两个目录可以完全无视。

A6.（可选）编译 PDF

只有想看 LaTeX 改动效果时才需要。

# macOS
brew install --cask mactex-no-gui
# Ubuntu
sudo apt install texlive-full   # 或者 texlive-latex-extra texlive-fonts-recommended latexmk

cd cuekfs_paper/01_paper/manuscript
bash build.sh

build.sh 跑的是 latexmk -pdf，会自动做 pdflatex → bibtex → pdflatex ×2。 成功时打印 OK -> cuekfs_iclr2027.pdf (N pages)。 失败就去 cuekfs_iclr2027.log 里找第一个 :行号: 错误。 bash build.sh clean 清理中间产物。

用 VS Code 的话装 LaTeX Workshop 扩展，存盘自动编译，比命令行方便。

场景 B：把代码发到 GitHub

只需要包2。不需要 GPU。 大约 30 分钟。

B1. 先读 

cd cuekfs_code
cat README_START_HERE.md      # 这个包分两半，各自怎么处理
cat repo/README.md            # 代码库主文档，别人看到的第一份东西

这个包是两部分：repo/（4.5 MB，推 GitHub）和 release_artifacts/（59 MB， 发成 HF dataset）。不要把 release_artifacts/ 提交进 git——59 MB 的数据放进 git 历史，以后想删都删不掉。

B2. 填 4 个占位符

(1) 仓库 URL 

cd cuekfs_code/repo
grep -rn "<this-repo>\|your-org\|yourusername\|example.com" README.md CITATION.cff pyproject.toml

把找到的占位符换成你的真实地址，例如 https://github.com/weitaikang/cuekfs。

(2) 引用信息

论文有 venue 和 arXiv id 之后再填。现在 README.md 里是这样一段：

@inproceedings{cuekfs2027,
  title     = {CueKFS: Cue-Wave-Guided Keyframe Selection for Long-Video Question Answering},
  booktitle = {International Conference on Learning Representations (ICLR)},
  year      = {2027}
}

同步改 CITATION.cff。

(3) 版权署名 

head -4 LICENSE

会看到：

Copyright (c) 2026 The CueKFS Authors
Copyright (c) 2025 BOLT Project Contributors

把第一行的 The CueKFS Authors 换成真实署名。 第二行必须保留——这个仓库派生自 MIT 协议的 BOLT 项目，MIT 要求保留上游声明。 CITATION.cff 里的 The CueKFS Authors 也一并改掉。

(4) 数据下载地址

等你做完 B5 拿到真实 URL 再回来填：

grep -rn "release_artifacts" README.md scripts/ docs/

B3. 推之前先自检 

cd cuekfs_code/repo

# 语法检查：51 个 py 文件应该零错误
python - <<'EOF'
import ast, pathlib
bad, n = [], 0
for p in pathlib.Path(".").rglob("*.py"):
    if "__pycache__" in str(p):
        continue
    n += 1
    try:
        ast.parse(p.read_text())
    except SyntaxError as e:
        bad.append((str(p), e.lineno, e.msg))
print(f"{n} files, {len(bad)} syntax errors")
for b in bad:
    print("  ", b)
EOF

# 导入检查：核心模块应该全部 OK
python - <<'EOF'
import importlib, sys
sys.path.insert(0, ".")
mods = ["cuekfs", "cuekfs.config", "cuekfs.v4_wave", "cuekfs.v3_wave",
        "cuekfs.data_contracts", "cuekfs.v2_embedding", "cuekfs.pipeline",
        "cuekfs.vlm.prompts", "cuekfs.vlm.response_parser", "cuekfs.cache.cache_manager"]
for m in mods:
    try:
        importlib.import_module(m); print("  OK  ", m)
    except Exception as e:
        print("  FAIL", m, type(e).__name__, e)
EOF

# 再确认一次没有内网信息漏出去（应该全是 0）
for p in netflix nflx mesh.netflix svip copilotdp metatron titus weitaik /root/ /efs/; do
    printf "%-14s %s\n" "$p" "$(grep -ril -- "$p" --exclude-dir=__pycache__ . | wc -l)"
done
grep -rnoE "sk-[A-Za-z0-9_-]{16,}|hf_[A-Za-z0-9]{20,}" . | grep -v "sk-your-key"

最后一条应该没有输出。examples/quickstart.md 里的 sk-your-key 是占位符，正常。

我在上传前已经跑过这套检查、并清掉了 3 个明文 API key、88 处内网主机名和 一个含同事邮箱的文件。这里再跑一遍是因为你可能在 B2 里手动改过东西。

B4. 推送 

cd cuekfs_code/repo
git init
git add .
git status          # 确认 release_artifacts 不在列表里（它本来就在包的上一层）
git commit -m "Initial public release of CueKFS"
git branch -M main
git remote add origin git@github.com:<你的账号>/cuekfs.git
git push -u origin main

B5. 把选帧结果发成 HF dataset 

cd cuekfs_code
hf upload <你的账号>/cuekfs-selections release_artifacts . --repo-type dataset

CLI 有问题的话用 Python：

python - <<'EOF'
from huggingface_hub import HfApi
api = HfApi()
rid = "<你的账号>/cuekfs-selections"
api.create_repo(rid, repo_type="dataset", exist_ok=True)
api.upload_folder(folder_path="release_artifacts", repo_id=rid, repo_type="dataset")
print("https://huggingface.co/datasets/" + rid)
EOF

B6. 回填 URL 再推一次 

cd cuekfs_code/repo
# 把 B2(4) 找到的占位符换成 B5 输出的真实地址
git add -A && git commit -m "Point the download script at the published selections"
git push

B7. 建议顺手做的

  • GitHub 仓库设置里加 topics：keyframe-selection、video-question-answering、 long-video-understanding、training-free
  • 描述栏填一句话：Training-free agentic keyframe selection for long-video QA
  • 论文接收后建一个 GitHub Release，tag v1.0

场景 C：跑 rebuttal 实验

C1. 先判断：你到底需不需要 GPU

大部分 rebuttal 问题不需要重跑任何东西。 先对着这张表看你的问题落在哪一栏：

审稿人问的 走哪条路 需要什么
提升显著吗？做个 McNemar 路线一 笔记本 + pandas
在某个子集上还成立吗？（时长、题型、证据位置） 路线一 同上
失败案例长什么样？ 路线一 同上
上界是多少？还有多少提升空间？ 路线一 同上
refinement 真的改了 cue 吗？覆盖率真的涨了吗？ 路线一 同上
换一个我们没试过的超参会怎样？ 路线二 GPU + 视频 + 推理 VLM
换一个新 reader 会怎样？ 路线二的简化版（见 C3） GPU 或 API，不用重新选帧
在一个新基准上跑一下 路线二完整版 全套

C2. 路线一：纯分析，不需要 GPU

10 分钟就能开始，一台笔记本足够。

C2.1 环境 

python -m pip install pandas numpy scipy statsmodels matplotlib

56 个分析脚本里有 51 个只依赖 pandas/numpy/scipy，可以直接跑。

C2.2 材料在哪 

cuekfs_paper/02_rebuttal/
├── README.md                  ← 「审稿人问什么 → 查哪个文件」对照表，先读它
├── per_question_eval/
│   ├── RUNS_INDEX.md          ← 244 个实验的准确率总览，人读
│   ├── runs_index.csv         ← 同上，机器读
│   └── runs/<run名>/eval_summary.<reader>.json   ← 445 份逐题记录
├── derived_tables/            ← 已算好的分析表
├── stratified_tables/         ← t1–t11 分层分析，每个都有 .md 结论 + _per_query.csv
├── analysis_caches/           ← 花过钱的 LLM 标注缓存，别浪费
├── analysis_scripts/          ← 56 个生成上述结果的脚本
└── qualitative_cases/         ← 175 组案例原图

C2.3 例子：做一个 McNemar 显著性检验 

cd cuekfs_paper/02_rebuttal
python - <<'EOF'
import json
from statsmodels.stats.contingency_tables import mcnemar

rows = [json.loads(l) for l in open("derived_tables/videomme_verdicts.jsonl")]
A, B = "CueKFS|gpt5_5|16", "WFS-SB|gpt5_5|16"

# 2x2 列联表：只统计两法结论不同的题
n01 = sum(1 for r in rows if not r[A] and r[B])   # 只有 B 对
n10 = sum(1 for r in rows if r[A] and not r[B])   # 只有 A 对
tbl = [[sum(1 for r in rows if r[A] and r[B]), n10],
       [n01, sum(1 for r in rows if not r[A] and not r[B])]]

res = mcnemar(tbl, exact=False, correction=True)
print(f"n={len(rows)}  A独对={n10}  B独对={n01}")
print(f"chi2={res.statistic:.2f}  p={res.pvalue:.3e}")
EOF

我在打包前跑过这段，输出是：

n=2700  A独对=249  B独对=126
chi2=39.69  p=2.975e-10

也就是说 CueKFS 相对 WFS-SB 在 k=16、gpt-5.5 下的优势是高度显著的： 249 道题只有 CueKFS 答对，126 道题只有 WFS-SB 答对。 你在另一台机器上应该得到完全一样的数字，可以拿来验证下载是否完整。

videomme_verdicts.jsonl 有 2700 行，每行一道题， 27 个 方法|reader|预算 组合的对错各占一个布尔字段 （三个方法 × 三个 reader × 三个预算）。把 A、B 换成任意两个组合就能比， 例如换成 "CueKFS|internvl3|8" 和 "uniform|internvl3|8"。

C2.4 例子：查任意一个实验的成绩 

cd cuekfs_paper/02_rebuttal/per_question_eval
python - <<'EOF'
import csv
rows = list(csv.DictReader(open("runs_index.csv")))
for r in rows:
    if r["dataset"] == "videomme" and r["reader"] == "gpt5_5" and "jl_j7" in r["config"]:
        print(f"{r['config']:<32} k={r['budget']:>2}  acc={r['accuracy']}")
EOF

C2.5 例子：做一个新的分层切分

比如"只看含隐含信息的题"：

cd cuekfs_paper/02_rebuttal
python - <<'EOF'
import json
# analysis_caches 里存着每道题的 LLM 标注，不用重新调 API
labels = {}
for l in open("analysis_caches/implicit_v8_cache.jsonl"):
    d = json.loads(l)
    labels[d.get("qid") or d.get("question_id")] = d

verdicts = [json.loads(l) for l in open("derived_tables/videomme_verdicts.jsonl")]
print("标注覆盖:", sum(1 for v in verdicts if v["question_id"] in labels), "/", len(verdicts))
print("标注字段:", list(next(iter(labels.values())).keys()))
EOF

先打印字段名，再决定按哪个字段切。 analysis_scripts/ 里的 tag_*.py 是生成这些缓存的脚本， 想看某个标签具体怎么定义的就去读对应那个。

C2.6 一个必须知道的限制

只有 VideoMME 的逐题记录是论文里那一版。

videomme_jl_j7_seconds1p0_siglip0p98_k{8,16,32} 精确复现论文数字 （80.70 / 83.33 / 84.18，n=2699），基于它的分析都可靠。

但 LongVideoBench 和 MLVU 磁盘上只有 abl_d2_batchreview_prop， 是 j7 超参搜索之前的配置，18 个格子全部比论文低 0.3 到 3.5 分。 论文那两个基准的最终 run 在另一台机器上，没能一起打包。 另外 mlvu × gpt5_5 × k16 那份文件是坏的，只有 2 道题，忽略它。

所以：rebuttal 分析尽量围绕 VideoMME 做， 需要动另外两个基准时，先把 j7 的记录从原机器找回来。

C2.7 那 5 个需要额外准备的脚本

analysis_scripts/ 里有 5 个脚本 import 了 kfs 包 （abl_coverage_change.py、abl_coverage_growth.py、abl_cue_explore.py、 abl_jaccard_by_action.py、build_uncovered_fps.py）。 包1里没有这个包，它在包2里、而且已经改名叫 cuekfs 了。要跑的话：

cd cuekfs_paper/02_rebuttal/analysis_scripts
# 把 kfs. 换成 cuekfs.
sed -i.bak 's/^from kfs\./from cuekfs./; s/^import kfs$/import cuekfs/' \
    abl_coverage_change.py abl_coverage_growth.py abl_cue_explore.py \
    abl_jaccard_by_action.py build_uncovered_fps.py
# 让 Python 找得到包2里的 cuekfs
export PYTHONPATH=/绝对路径/cuekfs_code/repo:$PYTHONPATH

这 5 个脚本还需要真实视频和 SigLIP2 权重（它们要重算波形）， 所以实际上属于路线二。其余 51 个不用。

C3. 路线二：重跑 pipeline

只有当你确实要产生新的选帧结果时才走这条。

C3.0 先想清楚：也许你只需要换 reader

如果审稿人只是问"换个下游模型还成立吗"，你不用重新选帧。 包2的 release_artifacts/selections/ 里存着 122 个实验每道题选了哪些帧 （只有时间戳，没有像素）。拿这些时间戳去你的新 reader 上解码、推理即可， 省掉最贵的那一步。

head -2 cuekfs_code/release_artifacts/selections/videomme_jl_j7_seconds1p0_siglip0p98_k8.jsonl

第一行是元信息，之后每行一道题： {"question_id": "001-3", "video": "fFjv93ACGo8", "frames_sec": [46.01, 61.99, ...]}。 格式故意做得很简单，你自己写十几行代码就能读。

这条路只需要 GPU 跑 reader，不需要推理 VLM、不需要预抽 embedding。

C3.1 硬件与预算

需要跑什么 硬件 时间
预抽 SigLIP2 embedding 8 × A100/H100 VideoMME 15–30 分钟；MLVU 1.5–2 小时；LVB 5–7 小时
选帧（VideoMME 全量 2700 题） 不吃 GPU，瓶颈是推理 VLM 的延迟 6–14 小时
下游评测 API reader：不吃 GPU；本地 7–8B reader：4 GPU 每个预算 1–3 小时

磁盘：VideoMME 视频约 95 GB，embedding 缓存另需几十 GB。

C3.2 装环境 

cd cuekfs_code/repo
conda create -n cuekfs python=3.11 -y
conda activate cuekfs

# PyTorch 必须先装，而且要匹配你的 CUDA 版本
pip install torch --index-url https://download.pytorch.org/whl/cu128

pip install -r requirements.txt
pip install -e .

requirements.txt 里没写的三个依赖（文件末尾有注释说明）：

  1. PyTorch —— 上面单独装了
  2. vLLM 或 SGLang —— 只有本地起推理 VLM 才需要，要预编译的 flashinfer wheel
  3. DINOv3 —— 只有跑 embedding backend 消融才需要： pip install git+https://github.com/facebookresearch/dinov3

另外 torchvision（InternVL3 reader 要）和 matplotlib（分析脚本要）也没声明， 需要时 pip install torchvision matplotlib。

完整说明在 docs/01_installation.md。

C3.3 下视频 

cat cuekfs_code/repo/data/benchmarks/README.md    # 每个基准的下载源

题目本身（parquet）已经在包里了，只缺视频：

基准 规模 来源
Video-MME 2700 题 / 900 视频 / 约 95 GB HF lmms-lab/Video-MME
LongVideoBench 1337 题（validation split） HF longvideobench/LongVideoBench
MLVU 2174 题（dev split） HF MLVU/MVLU

split 必须和我们一致：VideoMME test 无字幕、LVB validation、MLVU dev。 这三个 split 和 WFS-SB 一致，换了就没法比。

C3.4 设环境变量 

export CUEKFS_VLM_BASE_URL=http://localhost:8000/v1   # 推理 VLM 的地址
export CUEKFS_VLM_API_KEY=...                          # 需要的话
export DATA_DIR=/你的路径/videos
export OUTPUT_DIR=/你的路径/outputs
export DECORD_EOF_RETRY_MAX=20480                      # 不设的话某些视频解码会报错

bash scripts/serving/check_env.sh                      # 自检

CUEKFS_VLM_BASE_URL 是必需的。原来硬编码的内网地址我已经全部换成了这个环境变量， 不设就会连到 http://localhost:8000/v1 这个默认值。

C3.5 起推理 VLM

CueKFS 每道题要调几次推理 VLM。两个选择：

# A. 本地开源模型（论文的消融用的是 Qwen3.6-27B）
bash scripts/serving/start_vllm.sh 8000 8 Qwen/Qwen3.6-27B
export CUEKFS_VLM_BASE_URL=http://localhost:8000/v1

# B. 托管 API（论文主结果用的是 gpt-5.5）
export CUEKFS_VLM_BASE_URL=https://你的端点/v1
export CUEKFS_VLM_API_KEY=...

本地 27B 加载要 5–10 分钟。

C3.6 预抽 SigLIP2 embedding 

bash scripts/01_precompute_embeddings_multigpu.sh \
    $DATA_DIR/videomme/data/ $OUTPUT_DIR/cache 8 configs/main.yaml 8 384 512

参数依次是：<视频目录> <缓存目录> [GPU数] [配置] [batch_size] [max_edge] [decode_chunk_size]， 后五个都有默认值（GPU 数默认 8，配置默认 configs/main.yaml）。 产出每个视频一份 emb___siglip2_global___fps1_0.npy， 存的是 1 fps 下每一帧的 SigLIP2 向量。脚本只扫 *.mp4。

这一步要在起 VLM 服务之前跑完（如果共用 GPU），抽 embedding 很吃显存。 重跑会自动跳过已缓存的视频。

跳过这步也能跑，但选帧时会现场编码，慢一个数量级。

C3.7 选帧 

export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
export OMP_NUM_THREADS=4 MKL_NUM_THREADS=4 MALLOC_ARENA_MAX=2

python -u scripts/02_select_frames.py \
    --dataset videomme --video_dir $DATA_DIR/videomme/data/ \
    --config configs/main.yaml \
    --pipeline_version v4 \
    --top_k 32,16,8 \
    --max_workers 20

--pipeline_version v4 不能省。 它的默认值是 legacy， 省掉会静默地跑成 v1 老方法，什么都复现不出来。

--top_k 32,16,8 一次跑三个预算：方法的前两步和预算无关、每题只跑一次， 所以三个预算几乎不比一个贵。

那几个 OMP_NUM_THREADS / MALLOC_ARENA_MAX 不是装饰。 不设的话，高 --max_workers 下每个 worker 的解码和 embedding 线程会各自铺开， 内存会涨爆。

多机分片：--num_shards N --shard_id i，跑完再来一次 --merge_shards。 重跑同一条命令会自动续跑。

C3.8 下游评测 

python -u scripts/03_evaluate_reader.py \
    --dataset videomme --video_dir $DATA_DIR/videomme/data/ \
    --bench_dir $OUTPUT_DIR/benchmark_runs/videomme_main_k32 \
    --eval_model gpt-5.5 --eval_model_family gpt5_5 \
    --max_workers 16 --resume

每个预算、每个 reader 各跑一次。永远带 --resume。

结果以逐题的 *.eval.json sidecar 为准，不要信 eval_summary.*.json ——那个 summary 只统计最近一次调用处理过的题。

reader 协议必须和论文一致，否则数字没有可比性： Qwen2.5-VL 用 --video_max_token_num 16384，InternVL3 用 --internvl3_max_num 1。

C3.9 复现 baseline 

python scripts/baselines/wfs_sb_to_results.py    # 读 WFS-SB 官方发布的关键帧，忠实转格式
python scripts/baselines/uniform_to_results.py   # 同预算均匀采样

完整的复现命令序列在 docs/04_reproduce_paper.md。

C4. 已知的坑

按踩到的概率排序：

  1. --pipeline_version 默认是 legacy。 不显式写 v4 就跑成老方法了，而且不报错。
  2. cuekfs/pipeline/phase_{a,b,c,d}.py 不是论文里的 Phase A/B/C/D。 那四个文件是被淘汰的 v1 流水线的四个阶段，和论文里的同名概念毫无关系。 看论文找代码，要去 cuekfs/pipeline/runner_v4.py 和 cuekfs/v4_wave.py。
  3. 04_single_sample.py 不支持 v4。 它内置的选帧路径早于 CueKFS， 只认 legacy|v2|v3。要单题调试就先用 02_select_frames.py --sample_index N 选帧， 再用 04_single_sample.py --keyframe_json <产出的json> 打分。
  4. --max_workers > 1 时结果不是逐位可复现的。 批处理会打乱请求顺序， 多卡 embedding 副本也有浮点噪声。要严格复现就 --max_workers 1 且 siglip2_replica_devices: ""。方法层面的结论不受影响。
  5. 配置里的 qwen35_* 是历史命名，实际指向你配置的任何模型。 configs/main.yaml 里 qwen35_model_name: gpt-5.5。
  6. sidecar 文件名不能反推 question id。 写文件时经过了 _safe_filename（非字母数字变 _、连续 _ 折叠、首尾 _ 去掉）， LongVideoBench 有 170/1337 个 id 会被改写。 正确做法是拿 question id 正向套 _safe_filename 去找文件，别反解。

附：论文主配置速查

论文主结果那一版（configs/main.yaml，即原来的 jl_j7_final.yaml）：

参数 值 属于哪一步
v3_repr_frame_budget 48 第一步：给推理 VLM 看多少张代表帧
v4_review_batch_size 20 第二步：一批 review 多少个 cue
v4_percue_frames_cap 32 第二步：每个 cue 最多留多少证据帧
v3_max_loop_rounds 5 第二步：最多循环几轮
disable_sufficiency true 第二步：充分性检查在最终版里是关掉的
v4_importance_mode similarity 第三步：重要性排序不走 VLM，用最大帧相似度
v4_alloc_mode proportional 第三步：按重要性比例分配预算
v4_dedup_tau_siglip 0.98 第三步：去重的相似度阈值
v4_dedup_tau_seconds 1.0 第三步：去重的时间阈值
v4_backfill_mode embedding_fps 第三步：剩余名额用最远点采样补
qwen35_model_name gpt-5.5 推理 VLM
siglip2_model_name google/siglip2-giant-opt-patch16-384 嵌入模型

推理 VLM 的采样参数：temperature 0.0、seed 42、reasoning_effort high、 enable_thinking false、image_max_edge 448。

一个写作时要注意的事实： VideoMME 那次主结果 run 复用了阶梯上游冻结的 cue， 只重跑了第三步（J7 调的正好就是第三步的两个去重阈值）。 cue 文本最初由 gpt-5.5 在 jl_j1_budget48 生成，之后沿阶梯往下传， 目的是让每一级超参的效果不被 cue 生成的随机性污染。 configs/main.yaml 是去掉复用指针的版本，用于在新基准上从头完整跑。