Upload README.md with huggingface_hub
Browse files
README.md
CHANGED
|
@@ -26,6 +26,8 @@ Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti.
|
|
| 26 |
Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner.
|
| 27 |
Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir.
|
| 28 |
|
|
|
|
|
|
|
| 29 |
## Dataset Yapısı
|
| 30 |
|
| 31 |
### Splits
|
|
@@ -45,6 +47,8 @@ Split stratejisi: **temporal** — train ve test farklı zaman dilimlerinden. Da
|
|
| 45 |
|--------|-------|--------|
|
| 46 |
| `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
|
| 47 |
| `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
|
|
|
|
|
|
|
| 48 |
|
| 49 |
### Features
|
| 50 |
|
|
@@ -82,6 +86,31 @@ metin : string — chunk metni
|
|
| 82 |
metin_len : int — karakter uzunluğu
|
| 83 |
```
|
| 84 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 85 |
## Baseline Skorlar
|
| 86 |
|
| 87 |
Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)
|
|
@@ -189,7 +218,21 @@ valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürü
|
|
| 189 |
kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
|
| 190 |
```
|
| 191 |
|
| 192 |
-
**Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 193 |
|
| 194 |
## Kullanım
|
| 195 |
|
|
@@ -208,6 +251,9 @@ corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", spli
|
|
| 208 |
|
| 209 |
# Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
|
| 210 |
corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")
|
|
|
|
|
|
|
|
|
|
| 211 |
```
|
| 212 |
|
| 213 |
### Değerlendirme örneği
|
|
|
|
| 26 |
Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner.
|
| 27 |
Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir.
|
| 28 |
|
| 29 |
+
**Bu iddia artık sayıyla doğrulandı** (bkz. Bulgu 10): tarih-körü retrieval, hukukun değiştiği sorularda recall@10=**0.089** — tarihsel veri + tarih filtresi eklenince **0.738**'e çıkıyor (8 kat, %100 istatistiksel güven).
|
| 30 |
+
|
| 31 |
## Dataset Yapısı
|
| 32 |
|
| 33 |
### Splits
|
|
|
|
| 47 |
|--------|-------|--------|
|
| 48 |
| `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
|
| 49 |
| `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
|
| 50 |
+
| `corpus_versioned` | 88 | 8 madde için gerçek çok-versiyonlu tarihçe, madde-seviyesi (bkz. Bulgu 9) |
|
| 51 |
+
| `corpus_versioned_chunked` | 456 | `corpus_chunked` + aynı 8 maddenin tarihsel versiyonları da chunk'lanmış — point-in-time eval'de kullanılan gerçek corpus (bkz. Bulgu 10) |
|
| 52 |
|
| 53 |
### Features
|
| 54 |
|
|
|
|
| 86 |
metin_len : int — karakter uzunluğu
|
| 87 |
```
|
| 88 |
|
| 89 |
+
**corpus_versioned:**
|
| 90 |
+
```
|
| 91 |
+
madde_id : int — corpus'taki madde id'si (article_id ile aynı uzay)
|
| 92 |
+
madde_no : string — kanun madde numarası ("13")
|
| 93 |
+
version : int — versiyon sırası (1 = en eski)
|
| 94 |
+
metin : string — o versiyondaki madde tam metni
|
| 95 |
+
valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri)
|
| 96 |
+
valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
|
| 97 |
+
kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı
|
| 98 |
+
```
|
| 99 |
+
|
| 100 |
+
**corpus_versioned_chunked:**
|
| 101 |
+
```
|
| 102 |
+
chunk_id : string — "MADDE_<article_id>[_v<version>]_<part>"
|
| 103 |
+
article_id : int — corpus'taki madde id'si
|
| 104 |
+
version : int — versiyon sırası (1 = en eski) — versiyonsuz maddelerde hep 1
|
| 105 |
+
valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri)
|
| 106 |
+
valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
|
| 107 |
+
title : string — madde başlığı
|
| 108 |
+
section : string? — alt bölüm başlığı (varsa)
|
| 109 |
+
part : int — madde içindeki sıra
|
| 110 |
+
metin : string — chunk metni
|
| 111 |
+
metin_len : int — karakter uzunluğu
|
| 112 |
+
```
|
| 113 |
+
|
| 114 |
## Baseline Skorlar
|
| 115 |
|
| 116 |
Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)
|
|
|
|
| 218 |
kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
|
| 219 |
```
|
| 220 |
|
| 221 |
+
**Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor.
|
| 222 |
+
|
| 223 |
+
### Point-in-Time Retrieval: Sonuç Doğrulandı (Bulgu 10)
|
| 224 |
+
|
| 225 |
+
Bulgu 9'un ürettiği versiyon verisi kullanılarak point-in-time retrieval ilk kez gerçekten ölçüldü. En güçlü retrieval pipeline'ı (BM25∪Nomic first-stage havuz + LLM query rewriting + Qwen3-Reranker-8B, bkz. Bulgu 7-8) üç varyantla karşılaştırıldı — sadece çok-versiyonlu bir maddeye atıf yapan sorgularda (n=153), bu sorguların **%84'ünde hukuk ruling tarihinden sonra gerçekten değişmiş**:
|
| 226 |
+
|
| 227 |
+
| Varyant | Version-level recall@10 |
|
| 228 |
+
|---|---|
|
| 229 |
+
| **A — mevcut/tarih-körü** (güncel metin, tarih bilgisi yok) | **0.089** |
|
| 230 |
+
| **B — versiyonlu corpus, tarih filtresiz** | **0.535** |
|
| 231 |
+
| **C — versiyonlu corpus + tarih filtreli** | **0.738** 🥇 |
|
| 232 |
+
|
| 233 |
+
**Bulgu 10** (bootstrap doğrulama, n=10000): üç varyant da birbirinden **%100 güvenle** istatistiksel olarak anlamlı farklı. Tarih-körü yöntemin neredeyse sıfıra yakın çıkması beklenen bir sonuç — corpus'ta sadece güncel metin olduğu için, hukuk değiştiyse doğru cevabı bulmak yapısal olarak imkânsız. Asıl çarpıcı bulgu: sadece tarihsel veriyi corpus'a eklemek (hiçbir tarih filtresi olmadan) bile skoru 6 kata çıkarıyor — reranker, dönem-özgü kelime dağarcığıyla doğru versiyonu kısmen ayırt edebiliyor. Açık tarih filtresi bunun üstüne ek, büyük ve **bedelsiz** bir kazanç daha sağlıyor (aynı zamanda ~%20 daha hızlı, çünkü aday havuzu küçülüyor).
|
| 234 |
+
|
| 235 |
+
**Kapsam sınırı**: bu sonuç sadece 8 çok-versiyonlu madde + bunlara atıf yapan 153 sorgu üzerinde ölçüldü; corpus'un geri kalanı (102 madde) için "hiç değişmedi" varsayımı henüz bağımsız doğrulanmadı.
|
| 236 |
|
| 237 |
## Kullanım
|
| 238 |
|
|
|
|
| 251 |
|
| 252 |
# Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
|
| 253 |
corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")
|
| 254 |
+
|
| 255 |
+
# Point-in-time madde versiyonları, chunk'lanmış — gerçek eval'de kullanılan corpus (bkz. Bulgu 10)
|
| 256 |
+
corpus_versioned_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned_chunked", split="train")
|
| 257 |
```
|
| 258 |
|
| 259 |
### Değerlendirme örneği
|