Datasets:

yuhuanstudio
/

wikipedia-image-zh-tw

@@ -4,6 +4,7 @@ language:
 - zh
 language_bcp47:
 - zh-Hant
 task_categories:
 - image-to-text
 - text-to-image
@@ -21,7 +22,16 @@ configs:
 一圖一列，附圖說、替代文字、所在條目與章節。繁體（`wiki_images_dataset.jsonl`）
 與簡體（`wiki_images_dataset_CN.jsonl`）各一份。
-> 📅 **目前版本**：`2608`（維基百科 dump 日期：2026/8/4）
 ## 欄位
@@ -64,7 +74,7 @@ configs:
 | 繁簡轉換 | OpenCC `s2twp` | **維基官方轉換表** + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式）|
 | 排版空格 | 有（pangu）| **移除**——不可逆的有損轉換，語料應保真 |
 | 長度過濾 | 有 | **沒有**——一句話的條目也是完整知識 |
-| 圖片 | 54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 | **91.1 萬列**（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、**新增 `page_id`／`page_url`／`alt`／`section`** |
 | 圖文交錯 | 無 | **新增** omni 版（`<image>` 佔位符 + `images` 陣列）|
 ### 內容缺失率（全量，非抽樣）
@@ -128,7 +138,7 @@ configs:
 殘留那一項要說清楚：`2607` 之所以低，是因為它把含有這些標記的內容整批刪掉了
 ——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。`2608` 的殘留已逐筆歸因
-（389 筆全部判定）：`<nowiki>` 字面值、真實內容長得像標記（`{{1,2,3}}` 是集合論、
 `A<B> a;` 是 C++ 模板語法）、以及原文自己沒關標籤。
 筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。
@@ -149,11 +159,17 @@ configs:
 | 檢查 | 結果 |
 |---|---|
-| 程式碼區塊與原始碼逐字相符 | 94.3% |
-| 公式與原始碼逐字相符 | 99.3% |
-| 繁簡兩版結構對等 | 20 萬篇中 2 篇不對等 |
-| 空白／私有區字元／表格空儲存格等八類硬性缺陷 | 0 |
 ## 授權
 內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 `url`／`page_url` 欄位以符合署名要求。

 - zh
 language_bcp47:
 - zh-Hant
+- zh-Hans
 task_categories:
 - image-to-text
 - text-to-image
 一圖一列，附圖說、替代文字、所在條目與章節。繁體（`wiki_images_dataset.jsonl`）
 與簡體（`wiki_images_dataset_CN.jsonl`）各一份。
+> 📅 **目前版本**：`2608`（維基百科 dump 日期：2026/8/1）
+HF 的預設 `train` split 會讀入繁簡兩個檔案。只需要其中一種字體時，請明確指定：
+```python
+from datasets import load_dataset
+tw = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset.jsonl", split="train")
+cn = load_dataset("yuhuanstudio/wikipedia-image-zh-tw", data_files="wiki_images_dataset_CN.jsonl", split="train")
+```
 ## 欄位
 | 繁簡轉換 | OpenCC `s2twp` | **維基官方轉換表** + 台灣慣用詞白名單（OpenCC 在百科語境誤轉率高：大力支持→大力支援、重整程序→重整程式）|
 | 排版空格 | 有（pangu）| **移除**——不可逆的有損轉換，語料應保真 |
 | 長度過濾 | 有 | **沒有**——一句話的條目也是完整知識 |
+| 圖片 | 54.8 萬列（按檔名全域去重）、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 | **91.5 萬列**（保留每張圖的每個使用語境）、圖說殘留標記 0.00%、**新增 `page_id`／`page_url`／`alt`／`section`** |
 | 圖文交錯 | 無 | **新增** omni 版（`<image>` 佔位符 + `images` 陣列）|
 ### 內容缺失率（全量，非抽樣）
 殘留那一項要說清楚：`2607` 之所以低，是因為它把含有這些標記的內容整批刪掉了
 ——沒有表格、沒有資訊框、沒有程式碼，自然沒有殘留。`2608` 的殘留已逐筆歸因
+並逐筆判讀來源語意：`<nowiki>` 字面值、真實內容長得像標記（`{{1,2,3}}` 是集合論、
 `A<B> a;` 是 C++ 模板語法）、以及原文自己沒關標籤。
 筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。
 | 檢查 | 結果 |
 |---|---|
+| 程式碼區塊與原始碼逐字相符 | 繁體 94.201%；簡體 94.038% |
+| 公式與原始碼逐字相符 | 繁體 98.662%；簡體 98.670% |
+| 繁簡兩版結構對等 | ID 序列完全一致；抽驗 20,000 篇為 0 個核心結構差異 |
+| 模板／HTML／空白／私有區字元等 15 類硬性缺陷 | 0 |
 ## 授權
 內容來自維基百科，採 CC BY-SA 4.0。使用時請保留 `url`／`page_url` 欄位以符合署名要求。
+## 聯絡與問題回報
+- 一般問題：[GitHub Issues](https://github.com/YuhuanStudio/WikiZH_Dataset/issues)
+- Email：[huhu11256@gmail.com](mailto:huhu11256@gmail.com)
+- 安全漏洞：[私密安全性通報](https://github.com/YuhuanStudio/WikiZH_Dataset/security/advisories/new)

dataset_version.json CHANGED Viewed

@@ -1,6 +1,6 @@
 {
   "version": "2608",
-  "dump_date": "20260804",
-  "updated_at": "2026-08-12T03:54:31Z",
   "source": "https://github.com/YuhuanStudio/WikiZH_Dataset"
 }

 {
   "version": "2608",
+  "dump_date": "20260801",
+  "updated_at": "2026-08-12T08:56:13Z",
   "source": "https://github.com/YuhuanStudio/WikiZH_Dataset"
 }

wiki_images_dataset.jsonl CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:b6540529efe261fa9c931cd37688677ff595464c84cde50f3887f6f9e6fa88e2
-size 323556278

 version https://git-lfs.github.com/spec/v1
+oid sha256:2d6e36e4358fc861ecde6605ec8fb09eeaaa062be4d70d4a148dc0a70a6c5677
+size 330874639

wiki_images_dataset_CN.jsonl CHANGED Viewed

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:0d65d65652728e283c0f6fa04dd6b5a70d65bf5f4ae5b9b45c23d3dc984d4637
-size 323573482

 version https://git-lfs.github.com/spec/v1
+oid sha256:d5fd3a695a45c097000c72dcefa357231ce0ddceecdf7e89b356801ae68d7bdd
+size 330892157