--- license: cc-by-sa-4.0 language: - zh language_bcp47: - zh-Hans task_categories: - image-to-text - text-generation size_categories: - 1M` 占位符对应 `images` 数组的 同一个位置，顺序就是图片在条目中原本出现的位置。格式对齐 MMC4／OBELICS 的惯例。 > 📅 **当前版本**：`2609`（维基百科 dump 日期：2026/9/1） ## 字段 | 字段 | 说明 | |---|---| | `id` / `title` / `url` | 同纯文本版，可用 `id` 对应 | | `text` | 条目全文，图片位置以 `` 标示 | | `images` | 图片数组：`url` / `file_name` / `caption` / `alt` | **不变量**：`text.count("") == len(images)`，全量实测 0 误差。章节被丢弃时 它的图片一并丢弃，两者永远对得上。 与[纯文本版](https://huggingface.co/datasets/yuhuanstudio/wikipedia-zh)的差别只有 图片处理：纯文本版把标记整行移除、并清掉“拿掉图片后就空掉”的章节；这一版 保留它们——只有地图的一节对纯文本模型是空标题，对多模态模型是有价值的图文对。 > ⚠️ 图片授权各不相同（CC BY-SA、公有领域，也有合理使用的非自由图片）。 > 授权信息不在 dump 里，本数据集**不含授权字段**，使用前请自行向 Commons 查证。 ## `2607` 以前与 `2608` 起的差异 **整条处理流程重写过**，这不是单纯的月度刷新——数据的形状变了。 若你正在用 `2607` 或更早的版本，升级前请先看这张表： | | `2607` 以前 | `2608` 起 | |---|---|---| | 条数／单位 | 371 万行（**段落级**）| **148 万篇**（文档级，一条目一条）| | 文件格式 | JSON 分段（`wiki_pretrain_part*.json`）| **Parquet 分片** | | 章节结构 | 切碎后不存在 | 保留 `##` 层级 | | 表格 | 整块丢弃 | **转成文字**（表格占可见内容约 15%）| | 代码 | 散文规则套上去，缩进与换行被破坏 | **逐字保留**，`` ``` `` 围栏 | | 公式 | 丢弃 | **保留 LaTeX**，以 `$` 包住 | | 信息框 | 整块丢弃 | 事实抽成 `## 基本资料`，字段名取自维基的模板定义 | | 繁简转换 | OpenCC | **维基官方转换表**（合并成一张表跑单趟最长匹配，与 MediaWiki 一致）| | 排版空格 | 有（pangu）| **移除**——不可逆的有损转换，语料应保真 | | 长度过滤 | 有 | **没有**——一句话的条目也是完整知识 | | 图片 | 54.8 万行（按文件名全局去重）、图说有 10.87% 夹着未清的 wiki 标记 | **91.5 万行**（保留每张图的每个使用语境）、图说残留标记 0.00%、**新增 `page_id`／`page_url`／`alt`／`section`** | | 图文交错 | 无 | **新增** omni 版（`` 占位符 + `images` 数组）| ### 内容缺失率（全量，非抽样） **数据集的核心指标是“原文的东西丢了多少”**——残留标记可以靠把整段删掉变成 0， 那不是干净。扫一次 dump，从源码取出可验证的内容项目，回头去两版正文里找。 只比两版**都收录**的 1,367,033 篇： | 项目 | 样本数 | `2607` 留住 | `2608` 留住 | |---|---|---|---| | 公式 | 91,552 | 0.0% | **99.2%** | | 代码块 | 6,261 | 2.9% | **99.0%** | | 表格单元格 | 2,563,309 | 2.5% | **51.4%** | | 列表项 | 5,522,474 | 30.9% | **70.2%** | | 信息框字段值 | 6,721,977 | 5.1% | **30.7%** | | 段落句子 | 5,564,852 | 59.0% | **74.8%** | | **合计** | **20,470,425** | **26.4%** | **56.3%** | 连纯散文，`2607` 也只留住 59%——四成的正文句子不见了。 `2608` 的 56.3% 不是满分，但剩下的有明确归属：信息框字段值的探针含大量版面设置 （图片文件名、尺寸、色码），表格探针含样式属性（以人工挑过的探针量是 92.3% OK）， 段落则是参考资料／外部链接等章节按设计整节不收。公式与代码的探针最干净， 99% 可视为保留率的上界参考。 条目收录：1,419,539 篇 → **1,482,182 篇**（+62,643）。 ### 实测对照（全量，非抽样） 把公开的 `2607` 数据整份抓下来（2.9 GB），与 `2608` 的全部 148 万篇套完全相同的 判准逐条扫描： | | `2607` 以前 | `2608` 起 | | |---|---|---|---| | 条数 | 3,711,316 行 | 1,482,182 篇 | 单位从段落改成整篇 | | **总字符** | **9.45 亿** | **17.56 亿** | **×1.86** | | 每条平均字符 | 255 | 1,185 | | **同一份维基百科，新版多出 8.1 亿字符**——多的不是重复，是原本被丢掉的表格、 信息框事实、列表、代码与公式。 内容特征的出现率（`2607` 几乎全 0）： | 特征 | `2607` 以前 | `2608` 起 | |---|---|---| | 章节标题 | 0.00% | **84.21%** | | 列表项 | 0.00% | **72.92%** | | 信息框事实 | 0.01% | **53.26%** | | 表格行 | 0.02% | **16.23%** | | LaTeX 公式 | 0.00% | **1.12%** | | 代码围栏 | 0.00% | **0.11%** | 排版与残留（每百万字符，已挖掉逐字区块）： | | `2607` 以前 | `2608` 起 | | |---|---|---|---| | 排版空格（pangu）| 36,851.26 | 1,276.03 | **−96.5%** | | 私有区字符 | 0.38 | 0.00 | **−99.8%** | | 表格空单元格 | 0.03 | 0.00 | **清零** | | 残留标记合计 | 0.21 | ≤0.36 | 见下 | 残留那一项要说清楚：`2607` 之所以低，是因为它把含有这些标记的内容整批删掉了 ——没有表格、没有信息框、没有代码，自然没有残留。`2608` 的残留已逐条归因 并逐条判断来源语义：`` 字面值、真实内容长得像标记（`{{1,2,3}}` 是集合论、 `A a;` 是 C++ 模板语法）、以及原文自己没关标签。 条数从 371 万“行”变成 148 万“篇”不是数据变少——切分单位从段落改成整篇。 要段落的人可自行以 `\n\n` 切，反过来救不回来。 `2607` 以前的版本仍存放在本 repo 的 `YYMM/` 月份文件夹里，需要的话可以直接读旧路径。 ## 这份数据怎么来的 从维基百科官方 dump 解析，每月更新。原则是**只移除确定是标记的东西， 绝不删除自然语言内容**：模板展开而非删除、表格转文字而非丢弃、代码与公式 逐字保留、图库图说当内容。完整说明与质量数据见 [GitHub 项目](https://github.com/YuhuanStudio/WikiZH_Dataset)。 ## 质量 每一轮都跑全量审核，数字公开在项目 README： | 检查 | 结果 | |---|---| | 代码块与源码逐字相符 | 繁体 94.122%；简体 93.961% | | 公式与源码逐字相符 | 繁体 98.661%；简体 98.669% | | 繁简两版结构对等 | ID 序列完全一致；抽验 20,000 篇为 0 个阻断差异 | | 空正文／模板／HTML／空白／私有区字符等 16 类硬性缺陷 | 0 | ## 授权 内容来自维基百科，采 CC BY-SA 4.0。使用时请保留 `url`／`page_url` 字段以符合署名要求。 ## 联系与问题反馈 - 一般问题：[GitHub Issues](https://github.com/YuhuanStudio/WikiZH_Dataset/issues) - Email：[huhu11256@gmail.com](mailto:huhu11256@gmail.com) - 安全漏洞：[私密安全通报](https://github.com/YuhuanStudio/WikiZH_Dataset/security/advisories/new)