er3nhf commited on
Commit
4bd6c3c
·
verified ·
1 Parent(s): e01c490

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +47 -1
README.md CHANGED
@@ -26,6 +26,8 @@ Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti.
26
  Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner.
27
  Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir.
28
 
 
 
29
  ## Dataset Yapısı
30
 
31
  ### Splits
@@ -45,6 +47,8 @@ Split stratejisi: **temporal** — train ve test farklı zaman dilimlerinden. Da
45
  |--------|-------|--------|
46
  | `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
47
  | `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
 
 
48
 
49
  ### Features
50
 
@@ -82,6 +86,31 @@ metin : string — chunk metni
82
  metin_len : int — karakter uzunluğu
83
  ```
84
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
85
  ## Baseline Skorlar
86
 
87
  Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)
@@ -189,7 +218,21 @@ valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürü
189
  kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
190
  ```
191
 
192
- **Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor. Point-in-time'ı gerçekten ölçen bir eval metodolojisi (sorguya referans tarih atama + üç varyantlı karşılaştırma: tarih-körü / filtresiz-tüm-versiyon / tarih-filtreli) henüz yazılmadı — bu, ilk kez gerçek veriyle mümkün hale geldi.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
193
 
194
  ## Kullanım
195
 
@@ -208,6 +251,9 @@ corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", spli
208
 
209
  # Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
210
  corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")
 
 
 
211
  ```
212
 
213
  ### Değerlendirme örneği
 
26
  Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner.
27
  Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir.
28
 
29
+ **Bu iddia artık sayıyla doğrulandı** (bkz. Bulgu 10): tarih-körü retrieval, hukukun değiştiği sorularda recall@10=**0.089** — tarihsel veri + tarih filtresi eklenince **0.738**'e çıkıyor (8 kat, %100 istatistiksel güven).
30
+
31
  ## Dataset Yapısı
32
 
33
  ### Splits
 
47
  |--------|-------|--------|
48
  | `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
49
  | `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
50
+ | `corpus_versioned` | 88 | 8 madde için gerçek çok-versiyonlu tarihçe, madde-seviyesi (bkz. Bulgu 9) |
51
+ | `corpus_versioned_chunked` | 456 | `corpus_chunked` + aynı 8 maddenin tarihsel versiyonları da chunk'lanmış — point-in-time eval'de kullanılan gerçek corpus (bkz. Bulgu 10) |
52
 
53
  ### Features
54
 
 
86
  metin_len : int — karakter uzunluğu
87
  ```
88
 
89
+ **corpus_versioned:**
90
+ ```
91
+ madde_id : int — corpus'taki madde id'si (article_id ile aynı uzay)
92
+ madde_no : string — kanun madde numarası ("13")
93
+ version : int — versiyon sırası (1 = en eski)
94
+ metin : string — o versiyondaki madde tam metni
95
+ valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri)
96
+ valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
97
+ kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı
98
+ ```
99
+
100
+ **corpus_versioned_chunked:**
101
+ ```
102
+ chunk_id : string — "MADDE_<article_id>[_v<version>]_<part>"
103
+ article_id : int — corpus'taki madde id'si
104
+ version : int — versiyon sırası (1 = en eski) — versiyonsuz maddelerde hep 1
105
+ valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri)
106
+ valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
107
+ title : string — madde başlığı
108
+ section : string? — alt bölüm başlığı (varsa)
109
+ part : int — madde içindeki sıra
110
+ metin : string — chunk metni
111
+ metin_len : int — karakter uzunluğu
112
+ ```
113
+
114
  ## Baseline Skorlar
115
 
116
  Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)
 
218
  kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
219
  ```
220
 
221
+ **Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor.
222
+
223
+ ### Point-in-Time Retrieval: Sonuç Doğrulandı (Bulgu 10)
224
+
225
+ Bulgu 9'un ürettiği versiyon verisi kullanılarak point-in-time retrieval ilk kez gerçekten ölçüldü. En güçlü retrieval pipeline'ı (BM25∪Nomic first-stage havuz + LLM query rewriting + Qwen3-Reranker-8B, bkz. Bulgu 7-8) üç varyantla karşılaştırıldı — sadece çok-versiyonlu bir maddeye atıf yapan sorgularda (n=153), bu sorguların **%84'ünde hukuk ruling tarihinden sonra gerçekten değişmiş**:
226
+
227
+ | Varyant | Version-level recall@10 |
228
+ |---|---|
229
+ | **A — mevcut/tarih-körü** (güncel metin, tarih bilgisi yok) | **0.089** |
230
+ | **B — versiyonlu corpus, tarih filtresiz** | **0.535** |
231
+ | **C — versiyonlu corpus + tarih filtreli** | **0.738** 🥇 |
232
+
233
+ **Bulgu 10** (bootstrap doğrulama, n=10000): üç varyant da birbirinden **%100 güvenle** istatistiksel olarak anlamlı farklı. Tarih-körü yöntemin neredeyse sıfıra yakın çıkması beklenen bir sonuç — corpus'ta sadece güncel metin olduğu için, hukuk değiştiyse doğru cevabı bulmak yapısal olarak imkânsız. Asıl çarpıcı bulgu: sadece tarihsel veriyi corpus'a eklemek (hiçbir tarih filtresi olmadan) bile skoru 6 kata çıkarıyor — reranker, dönem-özgü kelime dağarcığıyla doğru versiyonu kısmen ayırt edebiliyor. Açık tarih filtresi bunun üstüne ek, büyük ve **bedelsiz** bir kazanç daha sağlıyor (aynı zamanda ~%20 daha hızlı, çünkü aday havuzu küçülüyor).
234
+
235
+ **Kapsam sınırı**: bu sonuç sadece 8 çok-versiyonlu madde + bunlara atıf yapan 153 sorgu üzerinde ölçüldü; corpus'un geri kalanı (102 madde) için "hiç değişmedi" varsayımı henüz bağımsız doğrulanmadı.
236
 
237
  ## Kullanım
238
 
 
251
 
252
  # Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
253
  corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")
254
+
255
+ # Point-in-time madde versiyonları, chunk'lanmış — gerçek eval'de kullanılan corpus (bkz. Bulgu 10)
256
+ corpus_versioned_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned_chunked", split="train")
257
  ```
258
 
259
  ### Değerlendirme örneği