metadata
license: apache-2.0
language:
- zh
size_categories:
- 100K<n<1M
台灣正體中文維基百科 (zh-tw Wikipedia) 2024年更新資料集
本資料集收集自維基百科(Wikipedia)2024 年新增與更新內容,主要針對繁體中文語料進行擷取、處理與格式化,以適用於大型語言模型(LLM)預訓練和自然語言處理(NLP)應用。
數據來源:維基百科(Wikipedia)繁體中文版本
時間範圍:2024 年至 2025年1月24日 的新增與更新條目
語言:繁體中文
資料格式:JSON 格式,適合 LLM 預訓練與 NLP 分析
資料規模:包含豐富的現代話題、最新事件、科學進展等
使用說明
此資料集適用於:
大型語言模型(LLM)預訓練
自然語言處理(NLP)研究
資料集結構
{
"text": "數學是研究數量、結構以及空間等概念及其變化的一門學科,屬於形式科學的一種。數學利用抽象化和邏輯推理,從計數、計算、量度、對物體形狀及運動的觀察發展而成。數學家..."
}
資料欄位
text: (string) 維基百科文本內容
如何使用
from datasets import load_dataset
dataset = load_dataset("yuhuanstudio/wikipedia-2024modify-pretrain-zh-tw", split="train")
許可資訊
[apache-2.0]