license: cc-by-sa-4.0
language:
- zh
language_bcp47:
- zh-Hant
- zh-Hans
task_categories:
- image-to-text
- text-to-image
size_categories:
- 1M<n<10M
configs:
- config_name: default
data_files:
- split: train
path: wiki_images_dataset*.jsonl
中文維基百科圖文配對資料集
一圖一列，附圖說、替代文字、所在條目與章節。繁體（wiki_images_dataset.jsonl）
與簡體（wiki_images_dataset_CN.jsonl）各一份。
📅 目前版本：
2609（維基百科 dump 日期：2026/9/1）
HF 的預設 train split 會讀入繁簡兩個檔案。只需要其中一種字體時，請明確指定：
from datasets import load_dataset
tw = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset.jsonl", split="train")
cn = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset_CN.jsonl", split="train")
欄位
| 欄位 | 說明 |
|---|---|
url |
圖片檔案網址（Special:FilePath，會轉址到實際檔案） |
file_name |
原始檔名 |
caption |
圖說。與正文走同一套模板展開、殘留標記清理與繁簡轉換 |
alt |
無障礙替代文字，約 2% 的圖片有，與圖說是不同的描述 |
page / page_id |
圖片出現的條目與其 ID，可用 page_id 對應正文資料集的 id |
page_url |
條目網址，CC BY-SA 署名依據 |
section |
圖片出現在哪一節（前言為空字串），與正文的 ## 標題可直接對應 |
一次使用一列：同一張圖出現在不同條目、配著不同圖說，正是圖文配對最有價值
的部分，因此不做全域去重。要一圖一列的人可自行以 url 去重。沒有圖說也沒有
alt 的純裝飾圖片會略過，不拿檔名充當描述。
唯一會去掉的是同一條目裡整列完全相同的重複（圖、圖說、alt、章節都一樣）：
路牌圖示之類的小圖會在同一節裡逐條重出，那些列一個字都沒多帶，只會讓裝飾性
圖示被過度加權。圖說或章節有任何不同就保留——那是同一張圖的另一個語境。
⚠️ 圖片授權各不相同（CC BY-SA、公有領域，也有合理使用的非自由圖片如商標、 專輯封面）。授權資訊不在
pages-articlesdump 裡，本資料集不含授權欄位， 使用前請自行向 Commons／維基百科查證個別檔案。caption文字採 CC BY-SA。
2607 以前與 2608 起的差異
整條處理流程重寫過，這不是單純的月度刷新——資料的形狀變了。
若你正在用 2607 或更早的版本，升級前請先看這張表：
2607 以前 |
2608 起 |
|
|---|---|---|
| 筆數／單位 | 371 萬列（段落級） | 148 萬篇（文檔級，一條目一筆） |
| 檔案格式 | JSON 分段（wiki_pretrain_part*.json） |
Parquet 分片 |
| 章節結構 | 切碎後不存在 | 保留 ## 階層 |
| 表格 | 整塊丟棄 | 轉成文字（表格佔可見內容約 15%） |
| 程式碼 | 散文規則套上去，縮排與換行被破壞 | 逐字保留，``` 圍欄 |
| 公式 | 丟棄 | 保留 LaTeX，以 $ 包住 |
| 資訊框 | 整塊丟棄 | 事實抽成 ## 基本資料，欄位名取自維基的模板定義 |
| 繁簡轉換 | OpenCC s2twp |
維基官方轉換表 + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式） |
| 排版空格 | 有（pangu） | 移除——不可逆的有損轉換，語料應保真 |
| 長度過濾 | 有 | 沒有——一句話的條目也是完整知識 |
| 圖片 | 54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 | 91.5 萬列（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、新增 page_id／page_url／alt／section |
| 圖文交錯 | 無 | 新增 omni 版（<image> 佔位符 + images 陣列） |
內容缺失率（全量，非抽樣）
資料集的核心指標是「原文的東西丟了多少」——殘留標記可以靠把整段刪掉變成 0， 那不是乾淨。掃一次 dump，從原始碼取出可驗證的內容項目，回頭去兩版正文裡找。 只比兩版都收錄的 1,367,033 篇：
| 項目 | 樣本數 | 2607 留住 |
2608 留住 |
|---|---|---|---|
| 公式 | 91,552 | 0.0% | 99.2% |
| 程式碼區塊 | 6,261 | 2.9% | 99.0% |
| 表格儲存格 | 2,563,309 | 2.5% | 51.4% |
| 清單項 | 5,522,474 | 30.9% | 70.2% |
| 資訊框欄位值 | 6,721,977 | 5.1% | 30.7% |
| 段落句子 | 5,564,852 | 59.0% | 74.8% |
| 合計 | 20,470,425 | 26.4% | 56.3% |
連純散文，2607 也只留住 59%——四成的正文句子不見了。
2608 的 56.3% 不是滿分，但剩下的有明確歸屬：資訊框欄位值的探針含大量版面設定
（圖片檔名、尺寸、色碼），表格探針含樣式屬性（以人工挑過的探針量是 92.3% OK），
段落則是參考資料／外部連結等章節依設計整節不收。公式與程式碼的探針最乾淨，
99% 可視為保留率的上界參考。
條目收錄：1,419,539 篇 → 1,482,182 篇（+62,643）。
實測對照（全量，非抽樣）
把公開的 2607 資料整份抓下來（2.9 GB），與 2608 的全部 148 萬篇套完全相同的
判準逐筆掃描：
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 筆數 | 3,711,316 列 | 1,482,182 篇 | 單位從段落改成整篇 |
| 總字元 | 9.45 億 | 17.56 億 | ×1.86 |
| 每筆平均字元 | 255 | 1,185 |
同一份維基百科，新版多出 8.1 億字元——多的不是重複，是原本被丟掉的表格、 資訊框事實、清單、程式碼與公式。
內容特徵的出現率（2607 幾乎全 0）：
| 特徵 | 2607 以前 |
2608 起 |
|---|---|---|
| 章節標題 | 0.00% | 84.21% |
| 清單項 | 0.00% | 72.92% |
| 資訊框事實 | 0.01% | 53.26% |
| 表格列 | 0.02% | 16.23% |
| LaTeX 公式 | 0.00% | 1.12% |
| 程式碼圍欄 | 0.00% | 0.11% |
排版與殘留（每百萬字元，已挖掉逐字區塊）：
2607 以前 |
2608 起 |
||
|---|---|---|---|
| 排版空格（pangu） | 36,851.26 | 1,276.03 | −96.5% |
| 私有區字元 | 0.38 | 0.00 | −99.8% |
| 表格空儲存格 | 0.03 | 0.00 | 清零 |
| 殘留標記合計 | 0.21 | ≤0.36 | 見下 |
殘留那一項要說清楚：2607 之所以低，是因為它把含有這些標記的內容整批刪掉了
——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。2608 的殘留已逐筆歸因
並逐筆判讀來源語意：<nowiki> 字面值、真實內容長得像標記（{{1,2,3}} 是集合論、
A<B> a; 是 C++ 模板語法）、以及原文自己沒關標籤。
筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。
要段落的人可自行以 \n\n 切，反過來救不回來。
2607 以前的版本仍存放在本 repo 的 YYMM/ 月份資料夾裡，需要的話可以直接讀舊路徑。
這份資料怎麼來的
從維基百科官方 dump 解析，每月更新。原則是只移除確定是標記的東西， 絕不刪除自然語言內容：模板展開而非刪除、表格轉文字而非丟棄、程式碼與公式 逐字保留、圖庫圖說當內容。完整說明與品質數據見 GitHub 專案。
品質
每一輪都跑全量稽核，數字公開在專案 README：
| 檢查 | 結果 |
|---|---|
| 程式碼區塊與原始碼逐字相符 | 繁體 94.122%；簡體 93.961% |
| 公式與原始碼逐字相符 | 繁體 98.661%；簡體 98.669% |
| 繁簡兩版結構對等 | ID 序列完全一致；抽驗 20,000 篇為 0 個阻斷差異 |
| 空正文／模板／HTML／空白／私有區字元等 16 類硬性缺陷 | 0 |
授權
內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 url／page_url 欄位以符合署名要求。
聯絡與問題回報
- 一般問題：GitHub Issues
- Email：huhu11256@gmail.com
- 安全漏洞：私密安全性通報