license: cc-by-sa-4.0
language:
- zh
language_bcp47:
- zh-Hans
task_categories:
- image-to-text
- text-generation
size_categories:
- 1M<n<10M
configs:
- config_name: default
data_files:
- split: train
path: train-*.parquet
中文维基百科图文交错数据集（简体中文）
正文与图片交错排列：text 里的每个 <image> 占位符对应 images 数组的
同一个位置，顺序就是图片在条目中原本出现的位置。格式对齐 MMC4／OBELICS 的惯例。
📅 当前版本：
2609（维基百科 dump 日期：2026/9/1）
字段
| 字段 | 说明 |
|---|---|
id / title / url |
同纯文本版，可用 id 对应 |
text |
条目全文，图片位置以 <image> 标示 |
images |
图片数组：url / file_name / caption / alt |
不变量：text.count("<image>") == len(images)，全量实测 0 误差。章节被丢弃时
它的图片一并丢弃，两者永远对得上。
与纯文本版的差别只有 图片处理：纯文本版把标记整行移除、并清掉“拿掉图片后就空掉”的章节；这一版 保留它们——只有地图的一节对纯文本模型是空标题，对多模态模型是有价值的图文对。
⚠️ 图片授权各不相同（CC BY-SA、公有领域，也有合理使用的非自由图片）。 授权信息不在 dump 里，本数据集不含授权字段，使用前请自行向 Commons 查证。
2607 以前与 2608 起的差异
整条处理流程重写过，这不是单纯的月度刷新——数据的形状变了。
若你正在用 2607 或更早的版本，升级前请先看这张表：
2607 以前 |
2608 起 |
|
|---|---|---|
| 条数／单位 | 371 万行（段落级） | 148 万篇（文档级，一条目一条） |
| 文件格式 | JSON 分段（wiki_pretrain_part*.json） |
Parquet 分片 |
| 章节结构 | 切碎后不存在 | 保留 ## 层级 |
| 表格 | 整块丢弃 | 转成文字（表格占可见内容约 15%） |
| 代码 | 散文规则套上去，缩进与换行被破坏 | 逐字保留，``` 围栏 |
| 公式 | 丢弃 | 保留 LaTeX，以 $ 包住 |
| 信息框 | 整块丢弃 | 事实抽成 ## 基本资料，字段名取自维基的模板定义 |
| 繁简转换 | OpenCC | 维基官方转换表（合并成一张表跑单趟最长匹配，与 MediaWiki 一致） |
| 排版空格 | 有（pangu） | 移除——不可逆的有损转换，语料应保真 |
| 长度过滤 | 有 | 没有——一句话的条目也是完整知识 |
| 图片 | 54.8 万行（按文件名全局去重）、图说有 10.87% 夹着未清的 wiki 标记 | 91.5 万行（保留每张图的每个使用语境）、图说残留标记 0.00%、新增 page_id／page_url／alt／section |
| 图文交错 | 无 | 新增 omni 版（<image> 占位符 + images 数组） |
内容缺失率（全量，非抽样）
数据集的核心指标是“原文的东西丢了多少”——残留标记可以靠把整段删掉变成 0， 那不是干净。扫一次 dump，从源码取出可验证的内容项目，回头去两版正文里找。 只比两版都收录的 1,367,033 篇：
| 项目 | 样本数 | 2607 留住 |
2608 留住 |
|---|---|---|---|
| 公式 | 91,552 | 0.0% | 99.2% |
| 代码块 | 6,261 | 2.9% | 99.0% |
| 表格单元格 | 2,563,309 | 2.5% | 51.4% |
| 列表项 | 5,522,474 | 30.9% | 70.2% |
| 信息框字段值 | 6,721,977 | 5.1% | 30.7% |
| 段落句子 | 5,564,852 | 59.0% | 74.8% |
| 合计 | 20,470,425 | 26.4% | 56.3% |
连纯散文，2607 也只留住 59%——四成的正文句子不见了。
2608 的 56.3% 不是满分，但剩下的有明确归属：信息框字段值的探针含大量版面设置
（图片文件名、尺寸、色码），表格探针含样式属性（以人工挑过的探针量是 92.3% OK），
段落则是参考资料／外部链接等章节按设计整节不收。公式与代码的探针最干净，
99% 可视为保留率的上界参考。
条目收录：1,419,539 篇 → 1,482,182 篇（+62,643）。
实测对照（全量，非抽样）
把公开的 2607 数据整份抓下来（2.9 GB），与 2608 的全部 148 万篇套完全相同的
判准逐条扫描：
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 条数 | 3,711,316 行 | 1,482,182 篇 | 单位从段落改成整篇 |
| 总字符 | 9.45 亿 | 17.56 亿 | ×1.86 |
| 每条平均字符 | 255 | 1,185 |
同一份维基百科，新版多出 8.1 亿字符——多的不是重复，是原本被丢掉的表格、 信息框事实、列表、代码与公式。
内容特征的出现率（2607 几乎全 0）：
| 特征 | 2607 以前 |
2608 起 |
|---|---|---|
| 章节标题 | 0.00% | 84.21% |
| 列表项 | 0.00% | 72.92% |
| 信息框事实 | 0.01% | 53.26% |
| 表格行 | 0.02% | 16.23% |
| LaTeX 公式 | 0.00% | 1.12% |
| 代码围栏 | 0.00% | 0.11% |
排版与残留（每百万字符，已挖掉逐字区块）：
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 排版空格（pangu） | 36,851.26 | 1,276.03 | −96.5% |
| 私有区字符 | 0.38 | 0.00 | −99.8% |
| 表格空单元格 | 0.03 | 0.00 | 清零 |
| 残留标记合计 | 0.21 | ≤0.36 | 见下 |
残留那一项要说清楚：2607 之所以低，是因为它把含有这些标记的内容整批删掉了
——没有表格、没有信息框、没有代码，自然没有残留。2608 的残留已逐条归因
并逐条判断来源语义：<nowiki> 字面值、真实内容长得像标记（{{1,2,3}} 是集合论、
A<B> a; 是 C++ 模板语法）、以及原文自己没关标签。
条数从 371 万“行”变成 148 万“篇”不是数据变少——切分单位从段落改成整篇。
要段落的人可自行以 \n\n 切，反过来救不回来。
2607 以前的版本仍存放在本 repo 的 YYMM/ 月份文件夹里，需要的话可以直接读旧路径。
这份数据怎么来的
从维基百科官方 dump 解析，每月更新。原则是只移除确定是标记的东西， 绝不删除自然语言内容：模板展开而非删除、表格转文字而非丢弃、代码与公式 逐字保留、图库图说当内容。完整说明与质量数据见 GitHub 项目。
质量
每一轮都跑全量审核，数字公开在项目 README：
| 检查 | 结果 |
|---|---|
| 代码块与源码逐字相符 | 繁体 94.122%；简体 93.961% |
| 公式与源码逐字相符 | 繁体 98.661%；简体 98.669% |
| 繁简两版结构对等 | ID 序列完全一致；抽验 20,000 篇为 0 个阻断差异 |
| 空正文／模板／HTML／空白／私有区字符等 16 类硬性缺陷 | 0 |
授权
内容来自维基百科，采 CC BY-SA 4.0。使用时请保留 url／page_url 字段以符合署名要求。
联系与问题反馈
- 一般问题：GitHub Issues
- Email：huhu11256@gmail.com
- 安全漏洞：私密安全通报