Upload README.md with huggingface_hub
Browse files
README.md
CHANGED
|
@@ -91,13 +91,15 @@ Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk conf
|
|
| 91 |
| BM25 | — | 0.344 | 0.407 |
|
| 92 |
| e5-large | 560M | 0.285 | 0.353 |
|
| 93 |
| BGE-M3 | 560M | 0.272 | 0.388 |
|
| 94 |
-
| Qwen3-Embedding-0.6B | 0.6B |
|
| 95 |
-
| Qwen3-Embedding-4B | 4B | — | 0.363 |
|
| 96 |
-
| Qwen3-Embedding-8B | 8B | — | 0.515 |
|
| 97 |
-
| **Nomic Embed v2-moe** | 305M aktif (MoE) | — | **0.602** |
|
| 98 |
-
| Türkçe-native (`trmteb`) | — | — | 0.429 |
|
| 99 |
|
| 100 |
-
|
|
|
|
|
|
|
| 101 |
|
| 102 |
**Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.
|
| 103 |
|
|
|
|
| 91 |
| BM25 | — | 0.344 | 0.407 |
|
| 92 |
| e5-large | 560M | 0.285 | 0.353 |
|
| 93 |
| BGE-M3 | 560M | 0.272 | 0.388 |
|
| 94 |
+
| Qwen3-Embedding-0.6B | 0.6B | 0.377 | 0.316 |
|
| 95 |
+
| Qwen3-Embedding-4B | 4B | —¹ | 0.363 |
|
| 96 |
+
| Qwen3-Embedding-8B | 8B | —¹ | 0.515 |
|
| 97 |
+
| **Nomic Embed v2-moe** | 305M aktif (MoE) | —¹ | **0.602** |
|
| 98 |
+
| Türkçe-native (`trmteb`) | — | —¹ | 0.429 |
|
| 99 |
|
| 100 |
+
¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi.
|
| 101 |
+
|
| 102 |
+
**Bulgu 1**: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı *düşürdü* (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor.
|
| 103 |
|
| 104 |
**Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.
|
| 105 |
|