hayriyigit commited on
Commit
400bdd4
·
verified ·
1 Parent(s): e8e2f40

Turkish answerability set

Browse files
Files changed (4) hide show
  1. .gitattributes +1 -0
  2. README.md +64 -0
  3. data/test.jsonl +0 -0
  4. data/train.jsonl +3 -0
.gitattributes CHANGED
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
 
 
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
+ data/train.jsonl filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,64 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - tr
4
+ license: apache-2.0
5
+ task_categories:
6
+ - text-classification
7
+ - question-answering
8
+ tags:
9
+ - answerability
10
+ - rag
11
+ - turkish
12
+ - machine-translated
13
+ size_categories:
14
+ - 10K<n<100K
15
+ configs:
16
+ - config_name: default
17
+ data_files:
18
+ - split: train
19
+ path: data/train.jsonl
20
+ - split: test
21
+ path: data/test.jsonl
22
+ ---
23
+
24
+ # 2WikiMultihopQA-tr: cevaplanabilirlik (RAG)
25
+
26
+ **Bu belge bu soruyu cevaplayabilir mi?** [2WikiMultihopQA](https://huggingface.co/datasets/xanhho/2WikiMultihopQA)'dan kurulmuş, Türkçeye makine
27
+ çevirisiyle aktarılmış bir cevaplanabilirlik veri seti. Her satır bir soru, bir belge (bir ya da birkaç Vikipedi paragrafı) ve
28
+ bir etiketten (`label`: belge soruyu tamamen cevaplıyor mu) oluşur. Hayır örnekleri konuyla ilgili belgelerdir: RAG'de getirilen
29
+ ama soruyu cevaplamayan parçalar gibi.
30
+
31
+ | Split | Satır | Evet | Hayır |
32
+ |---|---:|---:|---:|
33
+ | train | 24.000 | 12.000 | 12.000 |
34
+ | test | 1.200 | 600 | 600 |
35
+
36
+ ## Satır türleri (`kind`)
37
+
38
+ - `same_entity` (12.000 train satırı): "A'nın X'i nedir?" sorusu ve A'nın paragrafı: **evet**
39
+ - `other_entity_same_attribute` (12.000 train satırı): Aynı soru ve aynı türden başka bir varlığın (B) paragrafı: **hayır**. Paragrafta aynı türden bilgi (ör. bir doğum tarihi) vardır, ama başka bir varlığa aittir
40
+
41
+ 2WikiMultihopQA'nın karşılaştırma sorularında aynı türden iki varlık (iki film, iki kişi) aynı öznitelikle (yönetmen, uyruk, doğum tarihi, doğum yeri, ülke, yapım ülkesi, yayın tarihi, ölüm tarihi) geçer. Kanıt üçlülerinden bir öznitelik seçildi, A için tek varlıklı bir soru şablondan yazıldı; B'nin paragrafı A'nın adını geçiriyorsa örnek atıldı.
42
+
43
+ ## Alanlar
44
+
45
+ - `id`, `kind`, `label` (bool), `question` (Türkçe), `paragraphs` (`title`, `text`; Türkçe)
46
+ - `meta`: kaynağın İngilizce bilgileri (ör. `answer`, `attribute`, `type`); çevrilmedi
47
+ - `judge_verdict`: yalnızca train'deki evet satırlarında, bir LLM yargıcın kararı (aşağıda); diğer satırlarda `null`
48
+
49
+ ## Kalite ve gürültü
50
+
51
+ - **Yargıç filtresi:** Train'deki evet satırları `deepseek-v4.1-flash` (düşük düşünme) ile, İngilizce orijinaller üzerinde
52
+ yargılandı: "Yalnızca belgeye dayanarak sorunun her kısmı doğru ve eksiksiz cevaplanabilir mi? Başka bir varlığa, olaya, yere
53
+ veya zamana ait bilgi sayılmaz." Bu sette train evet satırlarının 0 tanesi yargılandı: 0 evet, 0 hayır,
54
+ 0 cevapsız. Filtrelenmiş bir eğitim için `judge_verdict == true` olmayan evet satırlarını çıkarın; satırlar silinmedi.
55
+ - Bir örneklem kontrolünde (her türden 50 satır, iki ayrı yargıç) hayır satırlarının yargıçlarla uyuşması %100, evet satırlarınınki %94-96 çıktı.
56
+ - **Test bölümünün evet satırları yargılanmadı;** train'deki ret oranına benzer bir gürültü taşıyabilir.
57
+ - Çeviri: `qwen3.8-flash-next` (OpenAI uyumlu vLLM, `temperature=0`, düşünme kapalı). Paragraf ve soru ayrı ayrı çevrildi;
58
+ paragraflar makale başlığıyla birlikte gönderildi. Aynı paragraf bir sorunun evet ve hayır satırlarında birebir aynı
59
+ çeviriyle geçer. Özel adlı başlıklar çoğunlukla aynen bırakıldı; eser adları İngilizce kalabilir.
60
+
61
+ ## Lisans ve atıf
62
+
63
+ Kaynak: [xanhho/2WikiMultihopQA](https://huggingface.co/datasets/xanhho/2WikiMultihopQA), lisansı Apache-2.0. Lisans Apache-2.0; 2WikiMultihopQA'ya atıf yapılmalıdır.
64
+ Atıf: Ho ve ark. (2020), Constructing A Multi-hop QA Dataset for Comprehensive Evaluation of Reasoning Steps.
data/test.jsonl ADDED
The diff for this file is too large to render. See raw diff
 
data/train.jsonl ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:34bf4f2b5fc9bcd0ce970d118a3fd6ec52de7b9e9bdd5b544d25b2523ffff97f
3
+ size 19443301