Upload README.md with huggingface_hub

README.md

@@ -117,7 +117,35 @@ Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk conf
 
 **Bulgu 4**: hibrit rerank (RRF, `rrf_k=60`) tek yönlü bir kazanç değil. Zayıf/genel-amaçlı modeli (Qwen3-8B) BM25 ile birleştirmek, temiz veri setinde istatistiksel olarak anlamlı bir iyileşme sağlıyor (%98 güven, bootstrap n=10000) ve modeli en güçlü standalone modelin (Nomic v2) seviyesine getiriyor. Ama zaten göreve-özel eğitilmiş güçlü modeli (Nomic v2) hibritlemek net katkı sağlamıyor (temiz veride %82 güven — anlamsız; ham veride hafif zarar — BM25'in boilerplate maddelerdeki zayıflığı Nomic'in oradaki gücünü sulandırıyor).
 
-BM25, Nomic v2 ve BM25+Qwen3-8B hibriti şu anki en güçlü başlangıç noktaları; daha iyi skorlar elde etmek (cross-encoder rerank, point-in-time filtreleme) bu benchmark'ın amacı.
+### Pointwise Cross-Encoder Rerank
+
+First-stage (Nomic v2 standalone dense) top-k aday havuzu (top-20/top-50) çıkarılıp cross-encoder ile yeniden sıralanıyor — first-stage'siz "tüm corpus'u rerank et" bilinçli olarak yapılmadı (corpus küçük diye first-stage'i atlamak, corpus büyüdüğünde üretimde asla ulaşılamayacak yapay bir tavan ölçer):
+
+| Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) |
+|---|---|---|
+| bge-reranker-v2-m3, pool20 | 0.580 | 0.631 |
+| **Qwen3-Reranker-8B, pool20** | 0.632 | **0.687** |
+
+**Bulgu 5**: zayıf bir cross-encoder (bge, 568M) hiçbir varyantta standalone Nomic'i ya da hibrit RRF'yi istatistiksel olarak anlamlı geçemedi — cross-encoder mimarisi tek başına yeterli değil, modelin kendi kalitesi belirleyici. Güçlü bir cross-encoder (Qwen3-Reranker-8B) küçük veri setinde (91 sorgu) hem BM25'i hem Nomic standalone'u anlamlı farkla geçti — ama bkz. Bulgu 6, bu sonuç veri seti büyüyünce değişti.
+
+### Genişletilmiş/Temizlenmiş Baseline (Bulgu 6)
+
+İki iyileştirme uygulandı: (1) `madde_atiflar`'daki bazı atıfların (76 benzersiz id) KDV Kanunu dışı bir kanuna (çoğunlukla Vergi Usul Kanunu — "Amortisman", "Şüpheli Alacaklar" gibi başlıklar) ait olup corpus'ta hiç bulunmadığı tespit edildi, bu yapısal olarak-imkansız atıflar ölçümden çıkarıldı; (2) **istatistiksel güç için train split'i de (fine-tune YAPILMADAN, sadece ek eval sorgusu olarak) test'e eklendi** — 154 → 813 ham / 270 temiz sorgu.
+
+> ⚠️ **Uyarı**: Bu 813/270 sayıları sadece **zero-shot/pretrained model karşılaştırması** için geçerli (bu benchmark'ta hiçbir model train split'i ile fine-tune edilmedi). Eğer siz train split'inde fine-tune yapıyorsanız, değerlendirmeyi **sadece orijinal 154-kayıtlı `test` split'inde** yapın — train'i eval'e katmak fine-tune edilmiş bir model için data leakage olur.
+
+| Yöntem | Ham (n=813) | Temiz (n=270) |
+|---|---|---|
+| BM25 | 0.377 | 0.624 |
+| Nomic v2 (standalone) | 0.593 | 0.646 |
+| **Hibrit BM25+Nomic (RRF)** | 0.569 | **0.706** |
+| Hibrit BM25+Qwen3-8B (RRF) | 0.559 | 0.698 |
+| bge-reranker-v2-m3, pool20 | 0.618 | 0.653 |
+| **Qwen3-Reranker-8B, pool20** | **0.644** | 0.664 |
+
+İstatistiksel güç artınca (91→270 "temiz" sorgu) sonuç **tersine döndü**: küçük veri setinde cross-encoder (Qwen3-Reranker-8B) hibridi geçiyordu, büyük/temiz sette hibrit RRF öne geçti (%98 güven, bootstrap n=10000). Olası sebep mimari değil, yapısal: cross-encoder tek bir first-stage retriever'ın (Nomic) top-k'sıyla sınırlı; hibrit RRF ise BM25 ve Nomic'in bağımsız tam sıralamalarını birleştirdiği için birinin kaçırdığını diğeri yakalayabiliyor. Ham (boilerplate-ağırlıklı) sette cross-encoder hâlâ öne geçiyor. **Ders**: küçük veri setinden çıkardığınız sonuca güvenmeyin, mümkünse istatistiksel gücü artırın.
+
+BM25, Nomic v2, BM25+dense hibrit ve Qwen3-Reranker-8B rerank şu anki en güçlü başlangıç noktaları; henüz denenmemiş, umut vadeden bir sonraki adım: cross-encoder'a first-stage havuzunu tek bir dense modelden değil, **hibrit RRF'nin birleşik sıralamasından** vermek (first-stage'in tek-kaynak kör noktasını gidermek için). Daha büyük hedef: **point-in-time filtreleme** — bu benchmark'ın asıl farkı ve henüz hiç test edilmedi.
 
 ## Kullanım