Datasets:
Turkish answerability set
Browse files- .gitattributes +1 -0
- README.md +64 -0
- data/test.jsonl +0 -0
- data/train.jsonl +3 -0
.gitattributes
CHANGED
|
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
|
|
| 58 |
# Video files - compressed
|
| 59 |
*.mp4 filter=lfs diff=lfs merge=lfs -text
|
| 60 |
*.webm filter=lfs diff=lfs merge=lfs -text
|
|
|
|
|
|
| 58 |
# Video files - compressed
|
| 59 |
*.mp4 filter=lfs diff=lfs merge=lfs -text
|
| 60 |
*.webm filter=lfs diff=lfs merge=lfs -text
|
| 61 |
+
data/train.jsonl filter=lfs diff=lfs merge=lfs -text
|
README.md
ADDED
|
@@ -0,0 +1,64 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- tr
|
| 4 |
+
license: apache-2.0
|
| 5 |
+
task_categories:
|
| 6 |
+
- text-classification
|
| 7 |
+
- question-answering
|
| 8 |
+
tags:
|
| 9 |
+
- answerability
|
| 10 |
+
- rag
|
| 11 |
+
- turkish
|
| 12 |
+
- machine-translated
|
| 13 |
+
size_categories:
|
| 14 |
+
- 10K<n<100K
|
| 15 |
+
configs:
|
| 16 |
+
- config_name: default
|
| 17 |
+
data_files:
|
| 18 |
+
- split: train
|
| 19 |
+
path: data/train.jsonl
|
| 20 |
+
- split: test
|
| 21 |
+
path: data/test.jsonl
|
| 22 |
+
---
|
| 23 |
+
|
| 24 |
+
# 2WikiMultihopQA-tr: cevaplanabilirlik (RAG)
|
| 25 |
+
|
| 26 |
+
**Bu belge bu soruyu cevaplayabilir mi?** [2WikiMultihopQA](https://huggingface.co/datasets/xanhho/2WikiMultihopQA)'dan kurulmuş, Türkçeye makine
|
| 27 |
+
çevirisiyle aktarılmış bir cevaplanabilirlik veri seti. Her satır bir soru, bir belge (bir ya da birkaç Vikipedi paragrafı) ve
|
| 28 |
+
bir etiketten (`label`: belge soruyu tamamen cevaplıyor mu) oluşur. Hayır örnekleri konuyla ilgili belgelerdir: RAG'de getirilen
|
| 29 |
+
ama soruyu cevaplamayan parçalar gibi.
|
| 30 |
+
|
| 31 |
+
| Split | Satır | Evet | Hayır |
|
| 32 |
+
|---|---:|---:|---:|
|
| 33 |
+
| train | 24.000 | 12.000 | 12.000 |
|
| 34 |
+
| test | 1.200 | 600 | 600 |
|
| 35 |
+
|
| 36 |
+
## Satır türleri (`kind`)
|
| 37 |
+
|
| 38 |
+
- `same_entity` (12.000 train satırı): "A'nın X'i nedir?" sorusu ve A'nın paragrafı: **evet**
|
| 39 |
+
- `other_entity_same_attribute` (12.000 train satırı): Aynı soru ve aynı türden başka bir varlığın (B) paragrafı: **hayır**. Paragrafta aynı türden bilgi (ör. bir doğum tarihi) vardır, ama başka bir varlığa aittir
|
| 40 |
+
|
| 41 |
+
2WikiMultihopQA'nın karşılaştırma sorularında aynı türden iki varlık (iki film, iki kişi) aynı öznitelikle (yönetmen, uyruk, doğum tarihi, doğum yeri, ülke, yapım ülkesi, yayın tarihi, ölüm tarihi) geçer. Kanıt üçlülerinden bir öznitelik seçildi, A için tek varlıklı bir soru şablondan yazıldı; B'nin paragrafı A'nın adını geçiriyorsa örnek atıldı.
|
| 42 |
+
|
| 43 |
+
## Alanlar
|
| 44 |
+
|
| 45 |
+
- `id`, `kind`, `label` (bool), `question` (Türkçe), `paragraphs` (`title`, `text`; Türkçe)
|
| 46 |
+
- `meta`: kaynağın İngilizce bilgileri (ör. `answer`, `attribute`, `type`); çevrilmedi
|
| 47 |
+
- `judge_verdict`: yalnızca train'deki evet satırlarında, bir LLM yargıcın kararı (aşağıda); diğer satırlarda `null`
|
| 48 |
+
|
| 49 |
+
## Kalite ve gürültü
|
| 50 |
+
|
| 51 |
+
- **Yargıç filtresi:** Train'deki evet satırları `deepseek-v4.1-flash` (düşük düşünme) ile, İngilizce orijinaller üzerinde
|
| 52 |
+
yargılandı: "Yalnızca belgeye dayanarak sorunun her kısmı doğru ve eksiksiz cevaplanabilir mi? Başka bir varlığa, olaya, yere
|
| 53 |
+
veya zamana ait bilgi sayılmaz." Bu sette train evet satırlarının 0 tanesi yargılandı: 0 evet, 0 hayır,
|
| 54 |
+
0 cevapsız. Filtrelenmiş bir eğitim için `judge_verdict == true` olmayan evet satırlarını çıkarın; satırlar silinmedi.
|
| 55 |
+
- Bir örneklem kontrolünde (her türden 50 satır, iki ayrı yargıç) hayır satırlarının yargıçlarla uyuşması %100, evet satırlarınınki %94-96 çıktı.
|
| 56 |
+
- **Test bölümünün evet satırları yargılanmadı;** train'deki ret oranına benzer bir gürültü taşıyabilir.
|
| 57 |
+
- Çeviri: `qwen3.8-flash-next` (OpenAI uyumlu vLLM, `temperature=0`, düşünme kapalı). Paragraf ve soru ayrı ayrı çevrildi;
|
| 58 |
+
paragraflar makale başlığıyla birlikte gönderildi. Aynı paragraf bir sorunun evet ve hayır satırlarında birebir aynı
|
| 59 |
+
çeviriyle geçer. Özel adlı başlıklar çoğunlukla aynen bırakıldı; eser adları İngilizce kalabilir.
|
| 60 |
+
|
| 61 |
+
## Lisans ve atıf
|
| 62 |
+
|
| 63 |
+
Kaynak: [xanhho/2WikiMultihopQA](https://huggingface.co/datasets/xanhho/2WikiMultihopQA), lisansı Apache-2.0. Lisans Apache-2.0; 2WikiMultihopQA'ya atıf yapılmalıdır.
|
| 64 |
+
Atıf: Ho ve ark. (2020), Constructing A Multi-hop QA Dataset for Comprehensive Evaluation of Reasoning Steps.
|
data/test.jsonl
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
data/train.jsonl
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:34bf4f2b5fc9bcd0ce970d118a3fd6ec52de7b9e9bdd5b544d25b2523ffff97f
|
| 3 |
+
size 19443301
|