zhiyuanhucs/delta-force-bc-sft-shuffled

Delta Force BC SFT Dataset (Shuffled)

三角洲行动（Delta Force）PC 端键鼠操作的行为克隆（Behavior Cloning）SFT 数据集，专为 VLM（视觉语言模型）的多图多轮训练设计。

数据规模

指标	数值
Parquet 文件数	19
总轨迹数（数据集 size）	3,797
每条轨迹包含的图像数	20
每条轨迹的对话轮数	1 system + 20 human + 20 gpt
每张图分辨率	1280 × 720 (JPEG)
每张图大小	~260 KB
总数据大小	~18.3 GB
总图像数（= 训练时实际预测目标数）	75,940
时间覆盖	每条轨迹 = 4 秒连续操作（20 帧 × 200ms）

一条 trajectory 对应玩家连续 4 秒的操作。 训练时 1 行 parquet = 1 个 multi-turn 训练样本，但每个样本里 20 个 gpt 回复都参与 loss 计算。

数据格式

每个 parquet 文件 schema：

images: list<large_binary>          # 20 张 JPEG bytes
conversations: list<struct{
    from: large_string,              # "system" | "human" | "gpt"
    value: large_string
}>                                   # 41 条消息（1 system + 20 human + 20 gpt）

单条 trajectory 示例

{
    "images": [jpeg_bytes_1, jpeg_bytes_2, ..., jpeg_bytes_20],  # 20 张
    "conversations": [
        {"from": "system", "value": "你是一名经验丰富的游戏玩家..."},
        {"from": "human",  "value": "<image>"},                    # 第 1 帧
        {"from": "gpt",    "value": "<|action_start|>65 0 0 ; W Shift ; ... <|action_end|>"},
        {"from": "human",  "value": "<image>"},                    # 第 2 帧
        {"from": "gpt",    "value": "<|action_start|>...<|action_end|>"},
        # ... 共 20 轮 human-gpt
        {"from": "human",  "value": "<image>"},                    # 第 20 帧
        {"from": "gpt",    "value": "<|action_start|>0 0 0 ; W ; LB ; ; ; ;<|action_end|>"},
    ]
}

Action 文本格式

每个 <|action_start|>...<|action_end|> 段表示接下来 200ms 的 6 步操作：

<|action_start|>X Y Z ; k1 k2 k3 ; k4 k5 ; k6 ; k7 ; k8 ; k9 k10<|action_end|>

部分	含义
X Y Z	累计鼠标位移和滚轮量。X>0 右移，Y>0 下移，Z>0 上滚。X/Y 已量化（精度 5 像素）
k1 ... k10	6 组按键序列，组间用 ; 分隔，组内空格分隔；某组无按键则保留空 ;

按键命名规范

• 数字键 1-9: 使用小写英文（如 one 表示 1）
• 功能键 F1-F12: 首字母大写（如 One 表示 F1，Two 表示 F2）
• 字母键: 大写（A, D, W 等）
• 修饰键: 首字母大写（Shift, Ctrl, Alt, Tab, Space, Esc, Caps）
• 鼠标键: LB（左键）, RB（右键）, MB（中键）

训练要点

1. Special Tokens（必须）

训练前必须在 tokenizer 里注册以下 4 个 special token，否则会被切碎：

tokenizer.add_special_tokens({
    "additional_special_tokens": [
        "<|action_start|>",
        "<|action_end|>",
        "<|thought_start|>",   # 当前数据未用，给将来 reasoning 版本预留
        "<|thought_end|>",     # 同上
    ]
})
model.resize_token_embeddings(len(tokenizer))

2. 图像处理

• 图像已是 1280×720 JPEG，VLM 训练时按各自模型的 image processor 缩放即可
• 每条样本 20 张图同时进 vision encoder，显存占用比单图 SFT 大 ~20 倍，建议 batch size 调小

3. Loss 计算

• 每条 trajectory 内 20 个 gpt 回复全部参与 loss（典型多轮 SFT 行为）
• 不要把 system 和 human 部分计入 loss

4. 已经做过的事 / 还需要做的事

项目	状态
60fps → 30fps 降采样	✅ 已做
鼠标位移量化（精度 5px）	✅ 已做
过滤"无操作"帧（保留 5%）	✅ 已做
跨文件全局 shuffle	✅ 已做（详见下方）
添加 `<	action_start
注册 special tokens 到 tokenizer	❌ 需要训练前自己加
数据集 train/val 切分	❌ 需要训练时自己切（推荐 last 1-2 个 chunk 做 val）

Shuffle 质量

数据来自 21 个不同玩家/录制场次（旷博、曹宇佳、肖雯栋、方义、刘彦宏、周嘉懿 等）。已用 numpy.random.permutation 全局打散，每个 chunk 都是 21 个来源按比例的随机抽样。

整体来源分布：

来源	占比	来源	占比
旷博4.16_gOyUbUIg	12.6%	程子轩4.13_gKLcgRGw	3.9%
曹宇佳4.18_gQULofYc	10.2%	田锦豪4.16_gOMklydW	3.3%
肖雯栋4.16_gOBtmjfi	10.2%	彭程4.16_gObLgJbi	3.2%
方义4.13_gL6oYEA8	8.8%	张帆4.16_gOPAnKQ8	3.1%
刘彦宏4.18_gR0jaym4	8.2%	lzp4.15_gMGzyU5a	2.9%
周嘉懿4.13_gKrmkr72	7.8%	其他 9 个来源	合计 16%

每个 200 行的 shuffled chunk 内来源占比与整体一致（最大平均相对偏差 ~32%，对 200 样本量是合理的统计涨落）。

加载方式

方式 1：直接读 parquet（最简单）

import pyarrow.parquet as pq
import glob

files = sorted(glob.glob("delta-force-bc-sft-shuffled/*.parquet"))
table = pq.read_table(files[0])
rows = table.to_pylist()
print(rows[0]["images"][0][:10])      # 第 0 条 trajectory 的第 0 张图（JPEG bytes）
print(rows[0]["conversations"][2])    # 第 1 个 gpt 回复

方式 2：用 HuggingFace datasets

from datasets import load_dataset
ds = load_dataset("zhiyuanhucs/delta-force-bc-sft-shuffled", split="train", streaming=True)
sample = next(iter(ds))

方式 3：脚本下载到本地

仓库里附带了 download_dataset.py：

python download_dataset.py    # 默认下载到 ./delta-force-bc-sft-shuffled

数据来源

原始视频 + 键鼠输入采集自三角洲行动 PC 端实战录像。

• 视频：60fps → 30fps 降采样，1280×720 JPEG 编码
• 操作：通过 input_capture.json（schema input_capture.v1）记录键盘/鼠标事件
• 处理流程：raw_data → process_raw_data_old.py → create_bc_data_general.py → shuffle_parquet.py

License

Apache 2.0