er3nhf commited on
Commit
1949b66
·
verified ·
1 Parent(s): 0f79812

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +8 -6
README.md CHANGED
@@ -91,13 +91,15 @@ Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk conf
91
  | BM25 | — | 0.344 | 0.407 |
92
  | e5-large | 560M | 0.285 | 0.353 |
93
  | BGE-M3 | 560M | 0.272 | 0.388 |
94
- | Qwen3-Embedding-0.6B | 0.6B | | 0.316 |
95
- | Qwen3-Embedding-4B | 4B | — | 0.363 |
96
- | Qwen3-Embedding-8B | 8B | — | 0.515 |
97
- | **Nomic Embed v2-moe** | 305M aktif (MoE) | — | **0.602** |
98
- | Türkçe-native (`trmteb`) | — | — | 0.429 |
99
 
100
- **Bulgu 1**: chunking (article corpus_chunked), model değişikliğinden daha büyük etki yarattı.
 
 
101
 
102
  **Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.
103
 
 
91
  | BM25 | — | 0.344 | 0.407 |
92
  | e5-large | 560M | 0.285 | 0.353 |
93
  | BGE-M3 | 560M | 0.272 | 0.388 |
94
+ | Qwen3-Embedding-0.6B | 0.6B | 0.377 | 0.316 |
95
+ | Qwen3-Embedding-4B | 4B | —¹ | 0.363 |
96
+ | Qwen3-Embedding-8B | 8B | —¹ | 0.515 |
97
+ | **Nomic Embed v2-moe** | 305M aktif (MoE) | —¹ | **0.602** |
98
+ | Türkçe-native (`trmteb`) | — | —¹ | 0.429 |
99
 
100
+ ¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi.
101
+
102
+ **Bulgu 1**: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı *düşürdü* (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor.
103
 
104
  **Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.
105