yuhuanstudio/wikipedia-image-zh-tw

中文維基百科圖文配對資料集

一圖一列，附圖說、替代文字、所在條目與章節。繁體（wiki_images_dataset.jsonl） 與簡體（wiki_images_dataset_CN.jsonl）各一份。

📅 目前版本：2609（維基百科 dump 日期：2026/9/1）

HF 的預設 train split 會讀入繁簡兩個檔案。只需要其中一種字體時，請明確指定：

from datasets import load_dataset

tw = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset.jsonl", split="train")
cn = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset_CN.jsonl", split="train")

欄位

欄位	說明
url	圖片檔案網址（Special:FilePath，會轉址到實際檔案）
file_name	原始檔名
caption	圖說。與正文走同一套模板展開、殘留標記清理與繁簡轉換
alt	無障礙替代文字，約 2% 的圖片有，與圖說是不同的描述
page / page_id	圖片出現的條目與其 ID，可用 page_id 對應正文資料集的 id
page_url	條目網址，CC BY-SA 署名依據
section	圖片出現在哪一節（前言為空字串），與正文的 ## 標題可直接對應

一次使用一列：同一張圖出現在不同條目、配著不同圖說，正是圖文配對最有價值 的部分，因此不做全域去重。要一圖一列的人可自行以 url 去重。沒有圖說也沒有 alt 的純裝飾圖片會略過，不拿檔名充當描述。

唯一會去掉的是同一條目裡整列完全相同的重複（圖、圖說、alt、章節都一樣）： 路牌圖示之類的小圖會在同一節裡逐條重出，那些列一個字都沒多帶，只會讓裝飾性 圖示被過度加權。圖說或章節有任何不同就保留——那是同一張圖的另一個語境。

⚠️ 圖片授權各不相同（CC BY-SA、公有領域，也有合理使用的非自由圖片如商標、 專輯封面）。授權資訊不在 pages-articles dump 裡，本資料集不含授權欄位， 使用前請自行向 Commons／維基百科查證個別檔案。caption 文字採 CC BY-SA。

2607 以前與 2608 起的差異

整條處理流程重寫過，這不是單純的月度刷新——資料的形狀變了。 若你正在用 2607 或更早的版本，升級前請先看這張表：

	2607 以前	2608 起
筆數／單位	371 萬列（段落級）	148 萬篇（文檔級，一條目一筆）
檔案格式	JSON 分段（wiki_pretrain_part*.json）	Parquet 分片
章節結構	切碎後不存在	保留 ## 階層
表格	整塊丟棄	轉成文字（表格佔可見內容約 15%）
程式碼	散文規則套上去，縮排與換行被破壞	逐字保留，``` 圍欄
公式	丟棄	保留 LaTeX，以 $ 包住
資訊框	整塊丟棄	事實抽成 ## 基本資料，欄位名取自維基的模板定義
繁簡轉換	OpenCC s2twp	維基官方轉換表 + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式）
排版空格	有（pangu）	移除——不可逆的有損轉換，語料應保真
長度過濾	有	沒有——一句話的條目也是完整知識
圖片	54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體	91.5 萬列（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、新增 page_id／page_url／alt／section
圖文交錯	無	新增 omni 版（<image> 佔位符 + images 陣列）

內容缺失率（全量，非抽樣）

資料集的核心指標是「原文的東西丟了多少」——殘留標記可以靠把整段刪掉變成 0， 那不是乾淨。掃一次 dump，從原始碼取出可驗證的內容項目，回頭去兩版正文裡找。 只比兩版都收錄的 1,367,033 篇：

項目	樣本數	2607 留住	2608 留住
公式	91,552	0.0%	99.2%
程式碼區塊	6,261	2.9%	99.0%
表格儲存格	2,563,309	2.5%	51.4%
清單項	5,522,474	30.9%	70.2%
資訊框欄位值	6,721,977	5.1%	30.7%
段落句子	5,564,852	59.0%	74.8%
合計	20,470,425	26.4%	56.3%

連純散文，2607 也只留住 59%——四成的正文句子不見了。

2608 的 56.3% 不是滿分，但剩下的有明確歸屬：資訊框欄位值的探針含大量版面設定 （圖片檔名、尺寸、色碼），表格探針含樣式屬性（以人工挑過的探針量是 92.3% OK）， 段落則是參考資料／外部連結等章節依設計整節不收。公式與程式碼的探針最乾淨， 99% 可視為保留率的上界參考。

條目收錄：1,419,539 篇 → 1,482,182 篇（+62,643）。

實測對照（全量，非抽樣）

把公開的 2607 資料整份抓下來（2.9 GB），與 2608 的全部 148 萬篇套完全相同的 判準逐筆掃描：

	2607 以前	2608 起
筆數	3,711,316 列	1,482,182 篇	單位從段落改成整篇
總字元	9.45 億	17.56 億	×1.86
每筆平均字元	255	1,185

同一份維基百科，新版多出 8.1 億字元——多的不是重複，是原本被丟掉的表格、 資訊框事實、清單、程式碼與公式。

內容特徵的出現率（2607 幾乎全 0）：

特徵	2607 以前	2608 起
章節標題	0.00%	84.21%
清單項	0.00%	72.92%
資訊框事實	0.01%	53.26%
表格列	0.02%	16.23%
LaTeX 公式	0.00%	1.12%
程式碼圍欄	0.00%	0.11%

排版與殘留（每百萬字元，已挖掉逐字區塊）：

	2607 以前	2608 起
排版空格（pangu）	36,851.26	1,276.03	−96.5%
私有區字元	0.38	0.00	−99.8%
表格空儲存格	0.03	0.00	清零
殘留標記合計	0.21	≤0.36	見下

殘留那一項要說清楚：2607 之所以低，是因為它把含有這些標記的內容整批刪掉了 ——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。2608 的殘留已逐筆歸因 並逐筆判讀來源語意：<nowiki> 字面值、真實內容長得像標記（{{1,2,3}} 是集合論、 A<B> a; 是 C++ 模板語法）、以及原文自己沒關標籤。

筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。 要段落的人可自行以 \n\n 切，反過來救不回來。

2607 以前的版本仍存放在本 repo 的 YYMM/ 月份資料夾裡，需要的話可以直接讀舊路徑。

這份資料怎麼來的

從維基百科官方 dump 解析，每月更新。原則是只移除確定是標記的東西， 絕不刪除自然語言內容：模板展開而非刪除、表格轉文字而非丟棄、程式碼與公式 逐字保留、圖庫圖說當內容。完整說明與品質數據見 GitHub 專案。

品質

每一輪都跑全量稽核，數字公開在專案 README：

檢查	結果
程式碼區塊與原始碼逐字相符	繁體 94.122%；簡體 93.961%
公式與原始碼逐字相符	繁體 98.661%；簡體 98.669%
繁簡兩版結構對等	ID 序列完全一致；抽驗 20,000 篇為 0 個阻斷差異
空正文／模板／HTML／空白／私有區字元等 16 類硬性缺陷	0

授權

內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 url／page_url 欄位以符合署名要求。

聯絡與問題回報

• 一般問題：GitHub Issues
• Email：huhu11256@gmail.com
• 安全漏洞：私密安全性通報