Uunan's picture
Update README.md
31848bc verified
|
Raw
History Blame Contribute Delete
1.22 kB
metadata
language:
  - tr
license: other
task_categories:
  - text-generation
  - language-modeling
size_categories:
  - 100K<n<1M

Turkish Synthetic Corpus

Turkish Synthetic Corpus, Türkçe büyük dil modellerinin (LLM) continued pretraining (CPT) ve foundation training süreçleri için özel olarak oluşturulmuş yüksek kaliteli sentetik bir metin koleksiyonudur.

Dataset, akademik, teknik, bilimsel, felsefi ve genel bilgi alanlarını kapsayan uzun-form, tutarlı ve semantik olarak yoğun metinlerden oluşur.


Dataset Summary

Bu dataset aşağıdaki amaçlar için tasarlanmıştır:

  • Continued Pretraining (CPT)
  • Foundation model training
  • Turkish LLM development
  • Language modeling
  • Representation learning

Özellikler:

  • Uzun-form coherent text
  • High semantic density
  • Low noise
  • Instruction-free base corpus
  • Token distribution optimized

Data Generation

Bu dataset aşağıdaki modeller kullanılarak oluşturulmuştur:

  • GPT OSS 20B
  • GPT OSS 120B
  • Gemma 2 9B
  • Gemma 3 4B

Synthetic generation süreci:

  • Multi-model generation
  • Quality filtering
  • Deduplication
  • Structural validation
  • Noise reduction

Dataset Structure

Format:

{
  "text": "..."
}