| --- |
| license: apache-2.0 |
| language: |
| - zh |
| tags: |
| - llm001 |
| - olmo3 |
| - chinese |
| --- |
| |
| # llm001 OLMo3-190M-zh Demo Data |
|
|
| 为零基础 AI 大模型研发训练营（llm001）L04 提供的学员数据包。 |
|
|
| ## 文件说明 |
|
|
| | 路径 | 大小 | 说明 | |
| |---|---|---| |
| | `tokenizer/` | ~4MB | 48k BPE 中文分词器，全链路用同一个 | |
| | `nano/tokenized_nano.bin` | ~1GB | 预 tokenize 好的 0.5B tokens（uint16, seed=42 从 3.4B 随机采样 ~15%），直接训 | |
| | `tokenized.bin` | ~6.8GB | 完整 tokenize 数据（3.4B tokens, uint16），有资源可自训完整模型 | |
| | `continue/tokenized_continue.bin` | ~3.5GB | 持续预训练的数据 | |
|
|
| ## 快速用法（Nano 训练） |
|
|
| ```python |
| from huggingface_hub import snapshot_download |
| path = snapshot_download("cmz1024/llm101-olmo3-zh-demo-data", |
| allow_patterns=["tokenizer/*", "nano/*"]) |
| # path/nano/tokenized_nano.bin + path/tokenizer/tokenizer.json |
| ``` |
|
|
| ## 来源 |
|
|
| 合并中文语料 ~1.71B sequences（seq_len=2048, 3.4B tokens, uint16）。 |
| 从 3.4B tokens 中随机采样 0.5B tokens（seed=42）得到 nano 子集。 |
| 源数据：Ultra-FineWeb（zh）+ Fineweb-Edu-Chinese-V2.2 + wikimedia/wikipedia (zh)。 |
| |
| 协议：Apache 2.0（代码）+ 上游数据原协议。商业使用前请单独核查各源协议。 |
| |
| --- |
| |
| ## continue — 持续预训练数据 |
| |
| 用于 OLMo3-190M-zh 持续预训练的 tokenized 二进制数据集。 |
| |
| |
| **数据混合**（约 1.2B tokens）： |
| | 数据源 | 占比 | 用途 | |
| |--------|------|------| |
| | v3 replay | ~27% | 300M tokens 防止遗忘 | |
| | Wikipedia-zh | ~35% | 394M tokens 事实知识 | |
| | Cosmopedia-Chinese | ~38% | 500M tokens 合成百科 | |
| |
| |
