README.md

---
license: apache-2.0
language:
- zh
tags:
- llm001
- olmo3
- chinese
---

# llm001 OLMo3-190M-zh Demo Data

为零基础 AI 大模型研发训练营（llm001）L04 提供的学员数据包。

## 文件说明

| 路径 | 大小 | 说明 |
|---|---|---|
| `tokenizer/` | ~4MB | 48k BPE 中文分词器，全链路用同一个 |
| `nano/tokenized_nano.bin` | ~1GB | 预 tokenize 好的 0.5B tokens（uint16, seed=42 从 3.4B 随机采样 ~15%），直接训 |
| `tokenized.bin` | ~6.8GB | 完整 tokenize 数据（3.4B tokens, uint16），有资源可自训完整模型 |
| `continue/tokenized_continue.bin` | ~3.5GB | 持续预训练的数据 |

## 快速用法（Nano 训练）

```python
from huggingface_hub import snapshot_download
path = snapshot_download("cmz1024/llm101-olmo3-zh-demo-data",
                          allow_patterns=["tokenizer/*", "nano/*"])
# path/nano/tokenized_nano.bin + path/tokenizer/tokenizer.json
```

## 来源

合并中文语料 ~1.71B sequences（seq_len=2048, 3.4B tokens, uint16）。
从 3.4B tokens 中随机采样 0.5B tokens（seed=42）得到 nano 子集。
源数据：Ultra-FineWeb（zh）+ Fineweb-Edu-Chinese-V2.2 + wikimedia/wikipedia (zh)。

协议：Apache 2.0（代码）+ 上游数据原协议。商业使用前请单独核查各源协议。

---

## continue — 持续预训练数据

用于 OLMo3-190M-zh 持续预训练的 tokenized 二进制数据集。


**数据混合**（约 1.2B tokens）：
| 数据源 | 占比 | 用途 |
|--------|------|------|
| v3 replay | ~27% | 300M tokens 防止遗忘 |
| Wikipedia-zh | ~35% | 394M tokens 事实知识 |
| Cosmopedia-Chinese | ~38% | 500M tokens 合成百科 |