| --- |
| license: cc-by-sa-4.0 |
| language: |
| - zh |
| language_bcp47: |
| - zh-Hant |
| - zh-Hans |
| task_categories: |
| - image-to-text |
| - text-to-image |
| size_categories: |
| - 1M<n<10M |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: "wiki_images_dataset*.jsonl" |
| --- |
| |
| # 中文維基百科圖文配對資料集 |
|
|
| 一圖一列，附圖說、替代文字、所在條目與章節。繁體（`wiki_images_dataset.jsonl`） |
| 與簡體（`wiki_images_dataset_CN.jsonl`）各一份。 |
|
|
| > 📅 **目前版本**：`2609`（維基百科 dump 日期：2026/9/1） |
|
|
| HF 的預設 `train` split 會讀入繁簡兩個檔案。只需要其中一種字體時，請明確指定： |
|
|
| ```python |
| from datasets import load_dataset |
| |
| tw = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset.jsonl", split="train") |
| cn = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset_CN.jsonl", split="train") |
| ``` |
|
|
| ## 欄位 |
|
|
| | 欄位 | 說明 | |
| |---|---| |
| | `url` | 圖片檔案網址（`Special:FilePath`，會轉址到實際檔案）| |
| | `file_name` | 原始檔名 | |
| | `caption` | 圖說。與正文走**同一套**模板展開、殘留標記清理與繁簡轉換 | |
| | `alt` | 無障礙替代文字，約 2% 的圖片有，與圖說是不同的描述 | |
| | `page` / `page_id` | 圖片出現的條目與其 ID，可用 `page_id` 對應正文資料集的 `id` | |
| | `page_url` | 條目網址，CC BY-SA 署名依據 | |
| | `section` | 圖片出現在哪一節（前言為空字串），與正文的 `##` 標題可直接對應 | |
|
|
| **一次使用一列**：同一張圖出現在不同條目、配著不同圖說，正是圖文配對最有價值 |
| 的部分，因此不做全域去重。要一圖一列的人可自行以 `url` 去重。沒有圖說也沒有 |
| `alt` 的純裝飾圖片會略過，不拿檔名充當描述。 |
|
|
| 唯一會去掉的是**同一條目裡整列完全相同**的重複（圖、圖說、`alt`、章節都一樣）： |
| 路牌圖示之類的小圖會在同一節裡逐條重出，那些列一個字都沒多帶，只會讓裝飾性 |
| 圖示被過度加權。圖說或章節有任何不同就保留——那是同一張圖的另一個語境。 |
|
|
| > ⚠️ 圖片授權各不相同（CC BY-SA、公有領域，也有合理使用的非自由圖片如商標、 |
| > 專輯封面）。授權資訊不在 `pages-articles` dump 裡，本資料集**不含授權欄位**， |
| > 使用前請自行向 Commons／維基百科查證個別檔案。`caption` 文字採 CC BY-SA。 |
|
|
| ## `2607` 以前與 `2608` 起的差異 |
|
|
| **整條處理流程重寫過**，這不是單純的月度刷新——資料的形狀變了。 |
| 若你正在用 `2607` 或更早的版本，升級前請先看這張表： |
|
|
| | | `2607` 以前 | `2608` 起 | |
| |---|---|---| |
| | 筆數／單位 | 371 萬列（**段落級**）| **148 萬篇**（文檔級，一條目一筆）| |
| | 檔案格式 | JSON 分段（`wiki_pretrain_part*.json`）| **Parquet 分片** | |
| | 章節結構 | 切碎後不存在 | 保留 `##` 階層 | |
| | 表格 | 整塊丟棄 | **轉成文字**（表格佔可見內容約 15%）| |
| | 程式碼 | 散文規則套上去，縮排與換行被破壞 | **逐字保留**，`` ``` `` 圍欄 | |
| | 公式 | 丟棄 | **保留 LaTeX**，以 `$` 包住 | |
| | 資訊框 | 整塊丟棄 | 事實抽成 `## 基本資料`，欄位名取自維基的模板定義 | |
| | 繁簡轉換 | OpenCC `s2twp` | **維基官方轉換表** + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式）| |
| | 排版空格 | 有（pangu）| **移除**——不可逆的有損轉換，語料應保真 | |
| | 長度過濾 | 有 | **沒有**——一句話的條目也是完整知識 | |
| | 圖片 | 54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 | **91.5 萬列**（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、**新增 `page_id`／`page_url`／`alt`／`section`** | |
| | 圖文交錯 | 無 | **新增** omni 版（`<image>` 佔位符 + `images` 陣列）| |
|
|
| ### 內容缺失率（全量，非抽樣） |
|
|
| **資料集的核心指標是「原文的東西丟了多少」**——殘留標記可以靠把整段刪掉變成 0， |
| 那不是乾淨。掃一次 dump，從原始碼取出可驗證的內容項目，回頭去兩版正文裡找。 |
| 只比兩版**都收錄**的 1,367,033 篇： |
|
|
| | 項目 | 樣本數 | `2607` 留住 | `2608` 留住 | |
| |---|---|---|---| |
| | 公式 | 91,552 | 0.0% | **99.2%** | |
| | 程式碼區塊 | 6,261 | 2.9% | **99.0%** | |
| | 表格儲存格 | 2,563,309 | 2.5% | **51.4%** | |
| | 清單項 | 5,522,474 | 30.9% | **70.2%** | |
| | 資訊框欄位值 | 6,721,977 | 5.1% | **30.7%** | |
| | 段落句子 | 5,564,852 | 59.0% | **74.8%** | |
| | **合計** | **20,470,425** | **26.4%** | **56.3%** | |
|
|
| 連純散文，`2607` 也只留住 59%——四成的正文句子不見了。 |
|
|
| `2608` 的 56.3% 不是滿分，但剩下的有明確歸屬：資訊框欄位值的探針含大量版面設定 |
| （圖片檔名、尺寸、色碼），表格探針含樣式屬性（以人工挑過的探針量是 92.3% OK）， |
| 段落則是參考資料／外部連結等章節依設計整節不收。公式與程式碼的探針最乾淨， |
| 99% 可視為保留率的上界參考。 |
|
|
| 條目收錄：1,419,539 篇 → **1,482,182 篇**（+62,643）。 |
|
|
| ### 實測對照（全量，非抽樣） |
|
|
| 把公開的 `2607` 資料整份抓下來（2.9 GB），與 `2608` 的全部 148 萬篇套完全相同的 |
| 判準逐筆掃描： |
|
|
| | | `2607` 以前 | `2608` 起 | | |
| |---|---|---|---| |
| | 筆數 | 3,711,316 列 | 1,482,182 篇 | 單位從段落改成整篇 | |
| | **總字元** | **9.45 億** | **17.56 億** | **×1.86** | |
| | 每筆平均字元 | 255 | 1,185 | | |
|
|
| **同一份維基百科，新版多出 8.1 億字元**——多的不是重複，是原本被丟掉的表格、 |
| 資訊框事實、清單、程式碼與公式。 |
|
|
| 內容特徵的出現率（`2607` 幾乎全 0）： |
|
|
| | 特徵 | `2607` 以前 | `2608` 起 | |
| |---|---|---| |
| | 章節標題 | 0.00% | **84.21%** | |
| | 清單項 | 0.00% | **72.92%** | |
| | 資訊框事實 | 0.01% | **53.26%** | |
| | 表格列 | 0.02% | **16.23%** | |
| | LaTeX 公式 | 0.00% | **1.12%** | |
| | 程式碼圍欄 | 0.00% | **0.11%** | |
|
|
| 排版與殘留（每百萬字元，已挖掉逐字區塊）： |
|
|
| | | `2607` 以前 | `2608` 起 | | |
| |---|---|---|---| |
| | 排版空格（pangu）| 36,851.26 | 1,276.03 | **−96.5%** | |
| | 私有區字元 | 0.38 | 0.00 | **−99.8%** | |
| | 表格空儲存格 | 0.03 | 0.00 | **清零** | |
| | 殘留標記合計 | 0.21 | ≤0.36 | 見下 | |
|
|
| 殘留那一項要說清楚：`2607` 之所以低，是因為它把含有這些標記的內容整批刪掉了 |
| ——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。`2608` 的殘留已逐筆歸因 |
| 並逐筆判讀來源語意：`<nowiki>` 字面值、真實內容長得像標記（`{{1,2,3}}` 是集合論、 |
| `A<B> a;` 是 C++ 模板語法）、以及原文自己沒關標籤。 |
|
|
| 筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。 |
| 要段落的人可自行以 `\n\n` 切，反過來救不回來。 |
|
|
| `2607` 以前的版本仍存放在本 repo 的 `YYMM/` 月份資料夾裡，需要的話可以直接讀舊路徑。 |
|
|
| ## 這份資料怎麼來的 |
|
|
| 從維基百科官方 dump 解析，每月更新。原則是**只移除確定是標記的東西， |
| 絕不刪除自然語言內容**：模板展開而非刪除、表格轉文字而非丟棄、程式碼與公式 |
| 逐字保留、圖庫圖說當內容。完整說明與品質數據見 |
| [GitHub 專案](https://github.com/YuhuanStudio/WikiZH_Dataset)。 |
|
|
| ## 品質 |
|
|
| 每一輪都跑全量稽核，數字公開在專案 README： |
|
|
| | 檢查 | 結果 | |
| |---|---| |
| | 程式碼區塊與原始碼逐字相符 | 繁體 94.122%；簡體 93.961% | |
| | 公式與原始碼逐字相符 | 繁體 98.661%；簡體 98.669% | |
| | 繁簡兩版結構對等 | ID 序列完全一致；抽驗 20,000 篇為 0 個阻斷差異 | |
| | 空正文／模板／HTML／空白／私有區字元等 16 類硬性缺陷 | 0 | |
|
|
| ## 授權 |
|
|
| 內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 `url`／`page_url` 欄位以符合署名要求。 |
|
|
| ## 聯絡與問題回報 |
|
|
| - 一般問題：[GitHub Issues](https://github.com/YuhuanStudio/WikiZH_Dataset/issues) |
| - Email：[huhu11256@gmail.com](mailto:huhu11256@gmail.com) |
| - 安全漏洞：[私密安全性通報](https://github.com/YuhuanStudio/WikiZH_Dataset/security/advisories/new) |
|
|
