Uunan's picture
Update README.md
31848bc verified
|
Raw
History Blame Contribute Delete
1.22 kB
---
language:
- tr
license: other
task_categories:
- text-generation
- language-modeling
size_categories:
- 100K<n<1M
---
# Turkish Synthetic Corpus
Turkish Synthetic Corpus, Türkçe büyük dil modellerinin (LLM) continued pretraining (CPT) ve foundation training süreçleri için özel olarak oluşturulmuş yüksek kaliteli sentetik bir metin koleksiyonudur.
Dataset, akademik, teknik, bilimsel, felsefi ve genel bilgi alanlarını kapsayan uzun-form, tutarlı ve semantik olarak yoğun metinlerden oluşur.
---
# Dataset Summary
Bu dataset aşağıdaki amaçlar için tasarlanmıştır:
- Continued Pretraining (CPT)
- Foundation model training
- Turkish LLM development
- Language modeling
- Representation learning
Özellikler:
- Uzun-form coherent text
- High semantic density
- Low noise
- Instruction-free base corpus
- Token distribution optimized
---
# Data Generation
Bu dataset aşağıdaki modeller kullanılarak oluşturulmuştur:
- GPT OSS 20B
- GPT OSS 120B
- Gemma 2 9B
- Gemma 3 4B
Synthetic generation süreci:
- Multi-model generation
- Quality filtering
- Deduplication
- Structural validation
- Noise reduction
---
# Dataset Structure
Format:
```json
{
"text": "..."
}