README.md

---
license: cc-by-4.0
language:
- tr
tags:
- rag
- retrieval
- turkish
- tax-law
- legal
- benchmark
- point-in-time
size_categories:
- 1K<n<10K
task_categories:
- question-answering
- text-retrieval
---

# KDV RAG Benchmark

Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti.

## Diferansiyel: Point-in-Time Retrieval

Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner.
Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir.

**Bu iddia artık sayıyla doğrulandı** (bkz. Bulgu 10): tarih-körü retrieval, hukukun değiştiği sorularda recall@10=**0.089** — tarihsel veri + tarih filtresi eklenince **0.738**'e çıkıyor (8 kat, %100 istatistiksel güven).

## Dataset Yapısı

### Splits

| Split | Kayıt | Dönem |
|-------|-------|-------|
| `train` | 728 | 2018–2023 |
| `test` | 154 | 2024–2026 |

Split stratejisi: **temporal** — train ve test farklı zaman dilimlerinden. Data leakage riski minimuma indirilmiş.

### Corpus

İki granülaritede sunuluyor — chunk edilmiş versiyon retrieval'da belirgin daha iyi sonuç veriyor (bkz. Baseline Skorlar):

| Config | Kayıt | İçerik |
|--------|-------|--------|
| `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
| `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
| `corpus_versioned` | 88 | 8 madde için gerçek çok-versiyonlu tarihçe, madde-seviyesi (bkz. Bulgu 9) |
| `corpus_versioned_chunked` | 456 | `corpus_chunked` + aynı 8 maddenin tarihsel versiyonları da chunk'lanmış — point-in-time eval'de kullanılan gerçek corpus (bkz. Bulgu 10) |

### Features

**train / test:**
```
id             : int      — GIB özelge ID
siteLink       : string   — kaynak URL (gib.gov.tr)
ozelgeNo       : string   — resmi özelge numarası
ozelgeTarih    : string   — yayın tarihi (YYYY-MM-DD)
baslik         : string   — özelge başlığı
kanunNo        : string   — 3065
soru           : string   — mükellefin sorusu
cevap          : string   — GIB'in cevabı
madde_atiflar  : list     — atıf yapılan maddeler [{id, title}]
```

**corpus:**
```
id             : int      — madde ID
title          : string   — "Madde 17 Sosyal ve Askeri Amaçlı İstisnalarla..."
metin          : string   — madde tam metni
siteLink       : string   — kaynak URL
priority       : int      — madde sırası
bolum          : string   — bölüm başlığı
```

**corpus_chunked:**
```
chunk_id       : string   — "MADDE_<article_id>_<part>"
article_id     : int      — corpus'taki madde id'si (ground truth eşleşmesi bununla yapılır)
title          : string   — madde başlığı
section        : string?  — alt bölüm başlığı (varsa)
part           : int      — madde içindeki sıra
metin          : string   — chunk metni
metin_len      : int      — karakter uzunluğu
```

**corpus_versioned:**
```
madde_id       : int      — corpus'taki madde id'si (article_id ile aynı uzay)
madde_no       : string   — kanun madde numarası ("13")
version        : int      — versiyon sırası (1 = en eski)
metin          : string   — o versiyondaki madde tam metni
valid_from     : string?  — bu versiyonun başladığı tarih (null = kanunun başından beri)
valid_until    : string?  — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
kaynak_edit_key: string?  — bu versiyona geçişi tetikleyen edit kaydı
```

**corpus_versioned_chunked:**
```
chunk_id       : string   — "MADDE_<article_id>[_v<version>]_<part>"
article_id     : int      — corpus'taki madde id'si
version        : int      — versiyon sırası (1 = en eski) — versiyonsuz maddelerde hep 1
valid_from     : string?  — bu versiyonun başladığı tarih (null = kanunun başından beri)
valid_until    : string?  — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
title          : string   — madde başlığı
section        : string?  — alt bölüm başlığı (varsa)
part           : int      — madde içindeki sıra
metin          : string   — chunk metni
metin_len      : int      — karakter uzunluğu
```

## Baseline Skorlar

Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)

| Model | Boyut | corpus (article) recall@10 | corpus_chunked recall@10 |
|---|---|---|---|
| BM25 | — | 0.344 | 0.407 |
| e5-large | 560M | 0.285 | 0.353 |
| BGE-M3 | 560M | 0.272 | 0.388 |
| Qwen3-Embedding-0.6B | 0.6B | 0.377 | 0.316 |
| Qwen3-Embedding-4B | 4B | —¹ | 0.363 |
| Qwen3-Embedding-8B | 8B | —¹ | 0.515 |
| **Nomic Embed v2-moe** | 305M aktif (MoE) | —¹ | **0.602** |
| Türkçe-native (`trmteb`) | — | —¹ | 0.429 |

¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi.

**Bulgu 1**: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı *düşürdü* (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor.

**Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.

**Bulgu 3**: en küçük model (Nomic v2, 305M aktif param) MTEB liderlik tablosunun tepesindeki modelleri (Qwen3-Embedding-8B) geçti — ama istatistiksel testte (bootstrap) bu fark, boilerplate-hariç zor sorularda anlamsızlaşıyor. MTEB sıralaması bu tür spesifik/düşük-kaynaklı dil + küçük corpus görevlerine doğrudan yansımıyor.

### Hibrit Rerank (BM25 + dense, Reciprocal Rank Fusion)

| Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) |
|---|---|---|
| BM25 (tek başına) | 0.407 | 0.533 |
| Nomic v2 (tek başına) | 0.602 | 0.626 |
| Qwen3-Embedding-8B (tek başına) | 0.515 | 0.583 |
| BM25 + Nomic v2 (RRF) | 0.554 | 0.658 |
| BM25 + Qwen3-Embedding-8B (RRF) | 0.570 | **0.663** |

**Bulgu 4**: hibrit rerank (RRF, `rrf_k=60`) tek yönlü bir kazanç değil. Zayıf/genel-amaçlı modeli (Qwen3-8B) BM25 ile birleştirmek, temiz veri setinde istatistiksel olarak anlamlı bir iyileşme sağlıyor (%98 güven, bootstrap n=10000) ve modeli en güçlü standalone modelin (Nomic v2) seviyesine getiriyor. Ama zaten göreve-özel eğitilmiş güçlü modeli (Nomic v2) hibritlemek net katkı sağlamıyor (temiz veride %82 güven — anlamsız; ham veride hafif zarar — BM25'in boilerplate maddelerdeki zayıflığı Nomic'in oradaki gücünü sulandırıyor).

### Pointwise Cross-Encoder Rerank

First-stage (Nomic v2 standalone dense) top-k aday havuzu (top-20/top-50) çıkarılıp cross-encoder ile yeniden sıralanıyor — first-stage'siz "tüm corpus'u rerank et" bilinçli olarak yapılmadı (corpus küçük diye first-stage'i atlamak, corpus büyüdüğünde üretimde asla ulaşılamayacak yapay bir tavan ölçer):

| Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) |
|---|---|---|
| bge-reranker-v2-m3, pool20 | 0.580 | 0.631 |
| **Qwen3-Reranker-8B, pool20** | 0.632 | **0.687** |

**Bulgu 5**: zayıf bir cross-encoder (bge, 568M) hiçbir varyantta standalone Nomic'i ya da hibrit RRF'yi istatistiksel olarak anlamlı geçemedi — cross-encoder mimarisi tek başına yeterli değil, modelin kendi kalitesi belirleyici. Güçlü bir cross-encoder (Qwen3-Reranker-8B) küçük veri setinde (91 sorgu) hem BM25'i hem Nomic standalone'u anlamlı farkla geçti — ama bkz. Bulgu 6, bu sonuç veri seti büyüyünce değişti.

### Genişletilmiş/Temizlenmiş Baseline (Bulgu 6)

İki iyileştirme uygulandı: (1) `madde_atiflar`'daki bazı atıfların (76 benzersiz id) KDV Kanunu dışı bir kanuna (çoğunlukla Vergi Usul Kanunu — "Amortisman", "Şüpheli Alacaklar" gibi başlıklar) ait olup corpus'ta hiç bulunmadığı tespit edildi, bu yapısal olarak-imkansız atıflar ölçümden çıkarıldı; (2) **istatistiksel güç için train split'i de (fine-tune YAPILMADAN, sadece ek eval sorgusu olarak) test'e eklendi** — 154 → 813 ham / 270 temiz sorgu.

> ⚠️ **Uyarı**: Bu 813/270 sayıları sadece **zero-shot/pretrained model karşılaştırması** için geçerli (bu benchmark'ta hiçbir model train split'i ile fine-tune edilmedi). Eğer siz train split'inde fine-tune yapıyorsanız, değerlendirmeyi **sadece orijinal 154-kayıtlı `test` split'inde** yapın — train'i eval'e katmak fine-tune edilmiş bir model için data leakage olur.

| Yöntem | Ham (n=813) | Temiz (n=270) |
|---|---|---|
| BM25 | 0.377 | 0.624 |
| Nomic v2 (standalone) | 0.593 | 0.646 |
| **Hibrit BM25+Nomic (RRF)** | 0.569 | **0.706** |
| Hibrit BM25+Qwen3-8B (RRF) | 0.559 | 0.698 |
| bge-reranker-v2-m3, pool20 | 0.618 | 0.653 |
| **Qwen3-Reranker-8B, pool20** | **0.644** | 0.664 |

İstatistiksel güç artınca (91→270 "temiz" sorgu) sonuç **tersine döndü**: küçük veri setinde cross-encoder (Qwen3-Reranker-8B) hibridi geçiyordu, büyük/temiz sette hibrit RRF öne geçti (%98 güven, bootstrap n=10000). Olası sebep mimari değil, yapısal: cross-encoder tek bir first-stage retriever'ın (Nomic) top-k'sıyla sınırlı; hibrit RRF ise BM25 ve Nomic'in bağımsız tam sıralamalarını birleştirdiği için birinin kaçırdığını diğeri yakalayabiliyor. Ham (boilerplate-ağırlıklı) sette cross-encoder hâlâ öne geçiyor. **Ders**: küçük veri setinden çıkardığınız sonuca güvenmeyin, mümkünse istatistiksel gücü artırın.

### Cross-Encoder First-Stage Havuzu: BM25 ∪ Nomic (Bulgu 7)

Bulgu 6'nın hipotezi test edildi: first-stage havuzu tek kaynak (Nomic top-20) yerine **BM25 top-20 ∪ Nomic top-20** (iki kaynağın kendi kanıtlanmış top-k'sı küçültülmeden birleştiriliyor, ≤40 aday) olarak kuruldu. Reranker: Qwen3-Reranker-8B, pool20.

| Yöntem | Ham (n=813) | Temiz (n=270) |
|---|---|---|
| Hibrit BM25+Nomic (RRF) | 0.569 | 0.706 |
| Qwen3-Reranker-8B, sadece-Nomic havuz | 0.644 | 0.664 |
| **Qwen3-Reranker-8B, BM25∪Nomic havuz** | **0.664** | **0.725** |

**Bulgu 7**: hipotez doğrulandı. Union havuz hem ham hem temiz sette istatistiksel olarak anlamlı bir kazanç sağladı (sırasıyla %98 ve %100 güven, bootstrap n=10000) — önemli olan havuzu aynı kaynağın sıralamasında büyütmek değil, farklı kaynaktan aday eklemekmiş. Temiz sette Bulgu 6'daki kayıp kapandı: hibrit RRF'e karşı fark artık istatistiksel olarak anlamsız (%82 güven) — iki yöntem pratikte eşdeğer. Bedel: havuz artık sabit değil (≤40), sorgu başına süre kabaca 2x arttı. Yeni proje rekoru: temiz sette recall@10 = 0.725.

### Query Rewriting: First-Stage Havuza LLM ile Yeniden Yazılmış Query (Bulgu 8)

Özelge sorusu günlük dilde, madde metni hukuki dilde ("teslim", "istisna", "matrah", "tevkifat") — bu asimetri LLM ile query rewriting'le ele alındı. Lokal bir LLM (Qwen3-8B, vLLM) sorguyu hukuki-dile yaklaştırarak yeniden yazdı (mükellefe özgü detaylar atılıp kavramsal çekirdek korunarak); rewrite, first-stage aday havuzuna **bağımsız bir kaynak** olarak eklendi (Nomic_orig ∪ BM25_orig ∪ Nomic_rewrite ∪ BM25_rewrite), reranker'a ise **her zaman orijinal soru** verildi — ground truth orijinal soru niyetine göre etiketlendiği için olası bir rewrite halüsinasyonunun etkisini zararsız first-stage'e hapsetmek için.

| Yöntem | Ham (n=809) | Temiz (n=269) |
|---|---|---|
| Qwen3-Reranker-8B, BM25∪Nomic havuz (Bulgu 7) | 0.665 | 0.724 |
| **+ rewrite-pool** | **0.690** | **0.738** (nominal) |

**Bulgu 8**: karışık ama dürüst sonuç. İzolasyonda (standalone BM25/Nomic, rewrite ile query değiştirilerek) rewrite neredeyse evrensel işe yaradı — 4 kombinasyondan 3'ünde istatistiksel olarak anlamlı kazanç (BM25 ham +0.085, Nomic ham +0.037, Nomic temiz +0.045; tek istisna BM25 temiz'de küçük, istatistiksel olarak anlamsız bir gerileme). Ana deneyde ham sette kazanç istatistiksel olarak sağlam (%99 güven, bootstrap n=10000), temiz/zor sette ise nominal bir rekor kırılsa da bootstrap'ta kanıtlanamadı (%84 güven, CI sıfırı kesiyor) — örneklem küçük (n=269) ve şampiyon zaten güçlü bir taban olduğu için marjinal katkı gürültüye karışıyor. Bulgu 6→7'deki dersle tutarlı: nominal bir "yeni rekor" sayıya bakıp hemen sonuç çıkarmamak gerekiyor.

BM25, Nomic v2, BM25+dense hibrit ve BM25∪Nomic havuzlu Qwen3-Reranker-8B rerank (opsiyonel: + rewrite-pool, ham sette istatistiksel olarak kanıtlanmış bir kazanç) şu anki en güçlü başlangıç noktaları.

### Point-in-Time Madde Versiyonları (Bulgu 9, v0 — kısmi kapsam)

Bu benchmark'ın asıl farkı point-in-time retrieval ("2019'da bu işlem KDV'den istisna mıydı?" → o tarihte yürürlükte olan madde versiyonu) ama şimdiye kadar bunu test edecek veri yoktu: madde değişiklik *tarihleri* biliniyordu, değişikliğin *içeriği* (eski metin) bilinmiyordu. İlk kez gerçek versiyon verisi üretildi:

**Yöntem**: mevzuat.gov.tr'nin KDV Kanunu sayfası, her değişikliği eski↔yeni ifade quote ederek açıklayan 131 footnote içeriyor ("... bu fıkrada yer alan 'X' ibaresi 'Y' şeklinde değiştirilmiştir" gibi) — buna GİB'in kendi metnindeki 47 satır-içi not eklendi. İkisi de yerel bir LLM (Qwen3.6-27B, NVFP4, vLLM) ile yapılandırılmış `{edit_tipi, eski_ifade, yeni_ifade}` kayıtlarına çevrildi — **LLM çıktısına güvenilmedi**, her kayıt LLM'siz programatik yöntemlerle (substring varlığı, çok-aşamalı zincir tespiti, konum-tabanlı forward-replay) doğrulandı. Doğrulanan kayıtlardan, madde başına güncel metinden geriye doğru (tarih-azalan sırayla) versiyon zinciri inşa edildi.

**Kapsam (dürüstçe kısmi)**: 178 aday kayıttan sadece 54'ü (%30) otomatik doğrulamadan geçti — geri kalanı ya LLM'in kendi belirsizlik işareti, ya çok-aşamalı/zincirli değişiklik notu, ya da programatik testte tutarsızlık yüzünden elendi (uydurulmadı, sessizce atlandı). Sonuç: **8 madde** (13, 16, 17, 24, 29, 36, 46, 58) için gerçek çok-versiyonlu tarihçe, 102 madde için tek versiyon (ya hiç değişmemiş ya da reconstruct edilemedi). Bilinen bir sınır: 166 body marker (çoğunlukla footnote'suz eski "yeni bent/fıkra eklendi" tipi değişiklikler) hâlâ kapsam dışı.

`corpus_versioned` (`data/corpus_versioned/kdv_maddeler_versiyonlu.jsonl`):
```
madde_id       : int      — corpus'taki madde id'si (article_id ile aynı uzay)
madde_no       : string   — kanun madde numarası ("13")
version        : int      — versiyon sırası (1 = en eski)
metin          : string   — o versiyondaki madde metni
valid_from     : string?  — bu versiyonun başladığı tarih (null = kanunun başından beri)
valid_until    : string?  — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
kaynak_edit_key: string?  — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
```

**Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor.

### Point-in-Time Retrieval: Sonuç Doğrulandı (Bulgu 10)

Bulgu 9'un ürettiği versiyon verisi kullanılarak point-in-time retrieval ilk kez gerçekten ölçüldü. En güçlü retrieval pipeline'ı (BM25∪Nomic first-stage havuz + LLM query rewriting + Qwen3-Reranker-8B, bkz. Bulgu 7-8) üç varyantla karşılaştırıldı — sadece çok-versiyonlu bir maddeye atıf yapan sorgularda (n=153), bu sorguların **%84'ünde hukuk ruling tarihinden sonra gerçekten değişmiş**:

| Varyant | Version-level recall@10 |
|---|---|
| **A — mevcut/tarih-körü** (güncel metin, tarih bilgisi yok) | **0.089** |
| **B — versiyonlu corpus, tarih filtresiz** | **0.535** |
| **C — versiyonlu corpus + tarih filtreli** | **0.738** 🥇 |

**Bulgu 10** (bootstrap doğrulama, n=10000): üç varyant da birbirinden **%100 güvenle** istatistiksel olarak anlamlı farklı. Tarih-körü yöntemin neredeyse sıfıra yakın çıkması beklenen bir sonuç — corpus'ta sadece güncel metin olduğu için, hukuk değiştiyse doğru cevabı bulmak yapısal olarak imkânsız. Asıl çarpıcı bulgu: sadece tarihsel veriyi corpus'a eklemek (hiçbir tarih filtresi olmadan) bile skoru 6 kata çıkarıyor — reranker, dönem-özgü kelime dağarcığıyla doğru versiyonu kısmen ayırt edebiliyor. Açık tarih filtresi bunun üstüne ek, büyük ve **bedelsiz** bir kazanç daha sağlıyor (aynı zamanda ~%20 daha hızlı, çünkü aday havuzu küçülüyor).

**Kapsam sınırı**: bu sonuç sadece 8 çok-versiyonlu madde + bunlara atıf yapan 153 sorgu üzerinde ölçüldü; corpus'un geri kalanı (102 madde) için "hiç değişmedi" varsayımı henüz bağımsız doğrulanmadı.

## Kullanım

```python
from datasets import load_dataset

# Benchmark
train = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="train")
test  = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="test")

# Corpus (bölünmemiş, 110 madde)
corpus = load_dataset("er3nhf/kdv-rag-benchmark", "corpus", split="train")

# Corpus (chunk'lanmış, 174 kayıt — retrieval'da daha iyi sonuç verir)
corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", split="train")

# Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")

# Point-in-time madde versiyonları, chunk'lanmış — gerçek eval'de kullanılan corpus (bkz. Bulgu 10)
corpus_versioned_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned_chunked", split="train")
```

### Değerlendirme örneği

```python
# Her test kaydı için:
# query  = record["soru"]
# ground_truth = {a["id"] for a in record["madde_atiflar"]}
# retrieved = retrieval_system(query, corpus, top_k=10)
# recall@10 = len(ground_truth & set(retrieved[:10])) / len(ground_truth)
```

## Veri Kaynağı

- **Özelgeler**: [Gelir İdaresi Başkanlığı](https://gib.gov.tr) — KDV Kanunu özelge veritabanı
- **Maddeler**: [mevzuat.gov.tr](https://www.mevzuat.gov.tr) — 3065 sayılı KDV Kanunu

Ham metin değil, referans + etiket yayınlanmaktadır.

## Lisans

[CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — Kaynak belirtilmesi koşuluyla kullanılabilir.

Kaynak veriler Türkiye Cumhuriyeti kamu kurumlarına ait açık verilerdir.