metadata
license: apache-2.0
language:
- zh
tags:
- llm001
- olmo3
- chinese
llm001 OLMo3-190M-zh Demo Data
为零基础 AI 大模型研发训练营（llm001）L04 提供的学员数据包。
文件说明
| 路径 | 大小 | 说明 |
|---|---|---|
tokenizer/ |
~4MB | 48k BPE 中文分词器，全链路用同一个 |
nano/tokenized_nano.bin |
~1GB | 预 tokenize 好的 0.5B tokens（uint16, seed=42 从 3.4B 随机采样 ~15%），直接训 |
tokenized.bin |
~6.8GB | 完整 tokenize 数据（3.4B tokens, uint16），有资源可自训完整模型 |
continue/tokenized_continue.bin |
~3.5GB | 持续预训练的数据 |
快速用法（Nano 训练）
from huggingface_hub import snapshot_download
path = snapshot_download("cmz1024/llm101-olmo3-zh-demo-data",
allow_patterns=["tokenizer/*", "nano/*"])
# path/nano/tokenized_nano.bin + path/tokenizer/tokenizer.json
来源
合并中文语料 ~1.71B sequences（seq_len=2048, 3.4B tokens, uint16）。 从 3.4B tokens 中随机采样 0.5B tokens（seed=42）得到 nano 子集。 源数据：Ultra-FineWeb（zh）+ Fineweb-Edu-Chinese-V2.2 + wikimedia/wikipedia (zh)。
协议：Apache 2.0（代码）+ 上游数据原协议。商业使用前请单独核查各源协议。
continue — 持续预训练数据
用于 OLMo3-190M-zh 持续预训练的 tokenized 二进制数据集。
数据混合（约 1.2B tokens）：
| 数据源 | 占比 | 用途 |
|---|---|---|
| v3 replay | ~27% | 300M tokens 防止遗忘 |
| Wikipedia-zh | ~35% | 394M tokens 事实知识 |
| Cosmopedia-Chinese | ~38% | 500M tokens 合成百科 |