Datasets:

yuhuanstudio
/

wikipedia-image-zh-tw

---
license: cc-by-sa-4.0
language:
- zh
language_bcp47:
- zh-Hant
- zh-Hans
task_categories:
- image-to-text
- text-to-image
size_categories:
- 1M<n<10M
configs:
- config_name: default
  data_files:
  - split: train
    path: "wiki_images_dataset*.jsonl"
---

# 中文維基百科圖文配對資料集

一圖一列，附圖說、替代文字、所在條目與章節。繁體（`wiki_images_dataset.jsonl`）
與簡體（`wiki_images_dataset_CN.jsonl`）各一份。

> 📅 **目前版本**：`2609`（維基百科 dump 日期：2026/9/1）

HF 的預設 `train` split 會讀入繁簡兩個檔案。只需要其中一種字體時，請明確指定：

```python
from datasets import load_dataset

tw = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset.jsonl", split="train")
cn = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset_CN.jsonl", split="train")
```

## 欄位

| 欄位 | 說明 |
|---|---|
| `url` | 圖片檔案網址（`Special:FilePath`，會轉址到實際檔案）|
| `file_name` | 原始檔名 |
| `caption` | 圖說。與正文走**同一套**模板展開、殘留標記清理與繁簡轉換 |
| `alt` | 無障礙替代文字，約 2% 的圖片有，與圖說是不同的描述 |
| `page` / `page_id` | 圖片出現的條目與其 ID，可用 `page_id` 對應正文資料集的 `id` |
| `page_url` | 條目網址，CC BY-SA 署名依據 |
| `section` | 圖片出現在哪一節（前言為空字串），與正文的 `##` 標題可直接對應 |

**一次使用一列**：同一張圖出現在不同條目、配著不同圖說，正是圖文配對最有價值
的部分，因此不做全域去重。要一圖一列的人可自行以 `url` 去重。沒有圖說也沒有
`alt` 的純裝飾圖片會略過，不拿檔名充當描述。

唯一會去掉的是**同一條目裡整列完全相同**的重複（圖、圖說、`alt`、章節都一樣）：
路牌圖示之類的小圖會在同一節裡逐條重出，那些列一個字都沒多帶，只會讓裝飾性
圖示被過度加權。圖說或章節有任何不同就保留——那是同一張圖的另一個語境。

> ⚠️ 圖片授權各不相同（CC BY-SA、公有領域，也有合理使用的非自由圖片如商標、
> 專輯封面）。授權資訊不在 `pages-articles` dump 裡，本資料集**不含授權欄位**，
> 使用前請自行向 Commons／維基百科查證個別檔案。`caption` 文字採 CC BY-SA。

## `2607` 以前與 `2608` 起的差異

**整條處理流程重寫過**，這不是單純的月度刷新——資料的形狀變了。
若你正在用 `2607` 或更早的版本，升級前請先看這張表：

| | `2607` 以前 | `2608` 起 |
|---|---|---|
| 筆數／單位 | 371 萬列（**段落級**）| **148 萬篇**（文檔級，一條目一筆）|
| 檔案格式 | JSON 分段（`wiki_pretrain_part*.json`）| **Parquet 分片** |
| 章節結構 | 切碎後不存在 | 保留 `##` 階層 |
| 表格 | 整塊丟棄 | **轉成文字**（表格佔可見內容約 15%）|
| 程式碼 | 散文規則套上去，縮排與換行被破壞 | **逐字保留**，`` ``` `` 圍欄 |
| 公式 | 丟棄 | **保留 LaTeX**，以 `$` 包住 |
| 資訊框 | 整塊丟棄 | 事實抽成 `## 基本資料`，欄位名取自維基的模板定義 |
| 繁簡轉換 | OpenCC `s2twp` | **維基官方轉換表** + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式）|
| 排版空格 | 有（pangu）| **移除**——不可逆的有損轉換，語料應保真 |
| 長度過濾 | 有 | **沒有**——一句話的條目也是完整知識 |
| 圖片 | 54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 | **91.5 萬列**（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、**新增 `page_id`／`page_url`／`alt`／`section`** |
| 圖文交錯 | 無 | **新增** omni 版（`<image>` 佔位符 + `images` 陣列）|

### 內容缺失率（全量，非抽樣）

**資料集的核心指標是「原文的東西丟了多少」**——殘留標記可以靠把整段刪掉變成 0，
那不是乾淨。掃一次 dump，從原始碼取出可驗證的內容項目，回頭去兩版正文裡找。
只比兩版**都收錄**的 1,367,033 篇：

| 項目 | 樣本數 | `2607` 留住 | `2608` 留住 |
|---|---|---|---|
| 公式 | 91,552 | 0.0% | **99.2%** |
| 程式碼區塊 | 6,261 | 2.9% | **99.0%** |
| 表格儲存格 | 2,563,309 | 2.5% | **51.4%** |
| 清單項 | 5,522,474 | 30.9% | **70.2%** |
| 資訊框欄位值 | 6,721,977 | 5.1% | **30.7%** |
| 段落句子 | 5,564,852 | 59.0% | **74.8%** |
| **合計** | **20,470,425** | **26.4%** | **56.3%** |

連純散文，`2607` 也只留住 59%——四成的正文句子不見了。

`2608` 的 56.3% 不是滿分，但剩下的有明確歸屬：資訊框欄位值的探針含大量版面設定
（圖片檔名、尺寸、色碼），表格探針含樣式屬性（以人工挑過的探針量是 92.3% OK），
段落則是參考資料／外部連結等章節依設計整節不收。公式與程式碼的探針最乾淨，
99% 可視為保留率的上界參考。

條目收錄：1,419,539 篇 → **1,482,182 篇**（+62,643）。

### 實測對照（全量，非抽樣）

把公開的 `2607` 資料整份抓下來（2.9 GB），與 `2608` 的全部 148 萬篇套完全相同的
判準逐筆掃描：

| | `2607` 以前 | `2608` 起 | |
|---|---|---|---|
| 筆數 | 3,711,316 列 | 1,482,182 篇 | 單位從段落改成整篇 |
| **總字元** | **9.45 億** | **17.56 億** | **×1.86** |
| 每筆平均字元 | 255 | 1,185 | |

**同一份維基百科，新版多出 8.1 億字元**——多的不是重複，是原本被丟掉的表格、
資訊框事實、清單、程式碼與公式。

內容特徵的出現率（`2607` 幾乎全 0）：

| 特徵 | `2607` 以前 | `2608` 起 |
|---|---|---|
| 章節標題 | 0.00% | **84.21%** |
| 清單項 | 0.00% | **72.92%** |
| 資訊框事實 | 0.01% | **53.26%** |
| 表格列 | 0.02% | **16.23%** |
| LaTeX 公式 | 0.00% | **1.12%** |
| 程式碼圍欄 | 0.00% | **0.11%** |

排版與殘留（每百萬字元，已挖掉逐字區塊）：

| | `2607` 以前 | `2608` 起 | |
|---|---|---|---|
| 排版空格（pangu）| 36,851.26 | 1,276.03 | **−96.5%** |
| 私有區字元 | 0.38 | 0.00 | **−99.8%** |
| 表格空儲存格 | 0.03 | 0.00 | **清零** |
| 殘留標記合計 | 0.21 | ≤0.36 | 見下 |

殘留那一項要說清楚：`2607` 之所以低，是因為它把含有這些標記的內容整批刪掉了
——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。`2608` 的殘留已逐筆歸因
並逐筆判讀來源語意：`<nowiki>` 字面值、真實內容長得像標記（`{{1,2,3}}` 是集合論、
`A<B> a;` 是 C++ 模板語法）、以及原文自己沒關標籤。

筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。
要段落的人可自行以 `\n\n` 切，反過來救不回來。

`2607` 以前的版本仍存放在本 repo 的 `YYMM/` 月份資料夾裡，需要的話可以直接讀舊路徑。

## 這份資料怎麼來的

從維基百科官方 dump 解析，每月更新。原則是**只移除確定是標記的東西，
絕不刪除自然語言內容**：模板展開而非刪除、表格轉文字而非丟棄、程式碼與公式
逐字保留、圖庫圖說當內容。完整說明與品質數據見
[GitHub 專案](https://github.com/YuhuanStudio/WikiZH_Dataset)。

## 品質

每一輪都跑全量稽核，數字公開在專案 README：

| 檢查 | 結果 |
|---|---|
| 程式碼區塊與原始碼逐字相符 | 繁體 94.122%；簡體 93.961% |
| 公式與原始碼逐字相符 | 繁體 98.661%；簡體 98.669% |
| 繁簡兩版結構對等 | ID 序列完全一致；抽驗 20,000 篇為 0 個阻斷差異 |
| 空正文／模板／HTML／空白／私有區字元等 16 類硬性缺陷 | 0 |

## 授權

內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 `url`／`page_url` 欄位以符合署名要求。

## 聯絡與問題回報

- 一般問題：[GitHub Issues](https://github.com/YuhuanStudio/WikiZH_Dataset/issues)
- Email：[huhu11256@gmail.com](mailto:huhu11256@gmail.com)
- 安全漏洞：[私密安全性通報](https://github.com/YuhuanStudio/WikiZH_Dataset/security/advisories/new)