yuhuanowo's picture
Update README.md
6dab11e verified
|
Raw
History Blame Contribute Delete
1.33 kB
metadata
license: apache-2.0
language:
  - zh
size_categories:
  - 100K<n<1M

台灣正體中文維基百科 (zh-tw Wikipedia) 2024年更新資料集

本資料集收集自維基百科(Wikipedia)2024 年新增與更新內容,主要針對繁體中文語料進行擷取、處理與格式化,以適用於大型語言模型(LLM)預訓練和自然語言處理(NLP)應用。

數據來源:維基百科(Wikipedia)繁體中文版本

時間範圍:2024 年至 2025年1月24日 的新增與更新條目

語言:繁體中文

資料格式:JSON 格式,適合 LLM 預訓練與 NLP 分析

資料規模:包含豐富的現代話題、最新事件、科學進展等

使用說明

此資料集適用於:

大型語言模型(LLM)預訓練

自然語言處理(NLP)研究

資料集結構

{
  "text": "數學是研究數量、結構以及空間等概念及其變化的一門學科,屬於形式科學的一種。數學利用抽象化和邏輯推理,從計數、計算、量度、對物體形狀及運動的觀察發展而成。數學家..."
}

資料欄位

  • text: (string) 維基百科文本內容

如何使用

from datasets import load_dataset
dataset = load_dataset("yuhuanstudio/wikipedia-2024modify-pretrain-zh-tw", split="train")

許可資訊

[apache-2.0]