Upload folder using huggingface_hub

.gitattributes

@@ -57,3 +57,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+msmarco_tr_hard_negatives_final.jsonl filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,148 @@
+---
+language:
+- tr
+tags:
+- search
+- information-retrieval
+- sentence-transformers
+- msmarco
+- hard-negatives
+license: mit
+task_categories:
+- text-retrieval
+source_datasets:
+- parsak/msmarco-tr
+size_categories:
+- 100K<n<1M
+---
+
+# MS MARCO TR - Zor Negatifler (Hard Negatives) Veri Seti
+
+## Veri Seti Açıklaması
+
+* **Kaynak Depo:** [parsak/msmarco-tr](https://huggingface.co/datasets/parsak/msmarco-tr) adresinden türetilmiştir.
+* **Dil:** Türkçe (`tr`)
+* **Görev:** Anlamsal Arama (Semantic Search), Yoğun Erişim (Dense Retrieval), Embedding Eğitimi
+* **Boyut:** ~500k - 1M Eğitim Üçlüsü (İşlenen sorgu sayısına bağlı olarak)
+* **Yazarlar:** Lumees AI, Hasan Kurşun, Kerem Berkay Yanık
+* **Yıl:** 2025
+* **Web Sitesi:** [lumees.io](https://lumees.io)
+
+### Veri Seti Özeti
+Bu veri seti, Türkçe MS MARCO veri seti için özel olarak madenciliği yapılmış (mined) **Zor Negatifleri (Hard Negatives)** içerir. Türkçe Bilgi Erişim görevlerinde kullanılacak cümle gömme (sentence embedding) modellerini (örneğin SBERT) eğitmek veya ince ayar (fine-tune) yapmak için tasarlanmıştır.
+
+Standart rastgele negatiflerin aksine, bu "zor" negatifler sorguyla **anlamsal olarak yüksek benzerliğe** (yüksek vektör benzerliği) sahip olan ancak **doğru cevap olmayan** pasajlardır. Bu veri üzerinde eğitim yapmak, modeli ince anlamsal ayrımları öğrenmeye zorlayarak erişim (retrieval) performansını önemli ölçüde artırır.
+
+### Oluşturulma Süreci
+1.  **Kaynak Veri:** Eğitim sorguları ve pasajları `parsak/msmarco-tr` (makine çevirisi ile oluşturulmuş Türkçe MS MARCO) veri setinden alınmıştır.
+2.  **Madencilik Modeli:** [emrecan/bert-base-turkish-cased-mean-nli-stsb-tr](https://huggingface.co/emrecan/bert-base-turkish-cased-mean-nli-stsb-tr) modeli kullanılmıştır.
+3.  **Yöntem:**
+    * **Kodlama (Encoding):** Tüm sorgular ve pasajlar madencilik modeli kullanılarak yoğun vektörlere dönüştürüldü.
+    * **Erişim (Retrieval):** Her sorgu için, **Faiss** (İç Çarpım/Inner Product) kullanılarak en benzer 100 pasaj getirildi.
+    * **Filtreleme:** Sonuçlardan gerçek pozitif (doğru cevap) olan pasaj çıkarıldı.
+    * **Güvenlik Eşiği:** "Yanlış Negatifleri" (yanlışlıkla negatif olarak etiketlenmiş aslında doğru olan cevapları) önlemek amacıyla, benzerlik skoru **0.98**'den yüksek olan pasajlar atıldı.
+    * **Seçim:** Kalan adaylar arasından en yüksek skora sahip ilk **10** pasaj Zor Negatif olarak seçildi.
+
+---
+
+## Veri Yapısı
+
+### Veri Örnekleri
+`.jsonl` dosyasındaki her satır, bir eğitim örneğini temsil eden geçerli bir JSON nesnesidir.
+
+```json
+{
+  "query": "Manhattan projesinin başarısının hemen etkisi neydi?",
+  "pos": "Manhattan Projesi ve atom bombası, İkinci Dünya Savaşı'nın sona ermesine yardımcı oldu...",
+  "negatives": [
+    "Manhattan Projesi, II. Dünya Savaşı sırasında ilk atom bombasını geliştirmek için...",
+    "Proje, nükleer silah üretimi üzerine odaklanmıştı...",
+    "..."
+  ],
+  "scores": [
+    0.874,
+    0.852,
+    "..."
+  ]
+}
+````
+
+### Veri Alanları
+
+  * **`query`** (string): Arama sorgusu.
+  * **`pos`** (string): Gerçek pozitif pasaj (doğru cevap).
+  * **`negatives`** (list of strings): Sorguya anlamsal olarak yakın ancak yanlış olan 10 pasajlık liste. Benzerliğe göre (en yüksekten en düşüğe) sıralanmıştır.
+  * **`scores`** (list of floats): `negatives` listesindeki pasajlara karşılık gelen kosinüs benzerlik skorları. Eğitim sırasında marj tabanlı filtreleme (margin-based filtering) veya ağırlıklı kayıp fonksiyonları (weighted loss) için kullanışlıdır.
+
+-----
+
+## Kullanım Kılavuzu
+
+### Veri Setini Yükleme (Python)
+
+Bu veri setini Hugging Face `datasets` kütüphanesi veya standart JSON satır okuma yöntemiyle yükleyebilirsiniz.
+
+```python
+from datasets import load_dataset
+
+# Hugging Face'e yüklendiyse
+ds = load_dataset("lumees/msmarco-tr-hard-negatives", split="train")
+
+# Yerel dosyadan yüklüyorsanız
+ds = load_dataset("json", data_files="msmarco_tr_hard_negatives_final.jsonl", split="train")
+
+print(ds[0])
+```
+
+### Sentence Transformers ile Eğitim
+
+Bu veri seti, `MultipleNegativesRankingLoss` (çoklu negatif kaybı) veya `InfoNCE` gibi kayıp fonksiyonları için optimize edilmiştir.
+
+```python
+from sentence_transformers import InputExample
+
+train_examples = []
+for row in ds:
+    # Yapı: [Sorgu, Pozitif, Negatif1, Negatif2, ...]
+    texts = [row['query'], row['pos']] + row['negatives']
+    train_examples.append(InputExample(texts=texts))
+
+# Not: Kullandığınız Loss fonksiyonunun örnek başına birden fazla negatifi desteklediğinden emin olun.
+```
+
+-----
+
+## Sınırlamalar ve Yanlılık (Limitations & Bias)
+
+1.  **Çeviri Hataları:** Orijinal `parsak/msmarco-tr` veri seti İngilizceden makine çevirisi ile oluşturulmuştur. Bu nedenle bazı Türkçe ifadeler doğal olmayabilir veya çeviri hataları içerebilir.
+2.  **Yanlış Negatifler (False Negatives):** `0.98` benzerlik filtresine rağmen, bazı "negatif" olarak seçilen pasajların aslında orijinal veri setinde etiketlenmemiş doğru cevaplar olma ihtimali vardır.
+3.  **Model Yanlılığı:** Negatifler `emrecan/bert-base-turkish` modeli kullanılarak çıkarılmıştır. Veri seti, doğal olarak bu temel modelin yanlılıklarını ve anlamsal kavrayışını yansıtmaktadır.
+
+## Alıntı (Citation)
+
+Bu veri setini kullanırsanız, lütfen Lumees AI, orijinal MS MARCO yazarları ve Türkçe çeviriyi yapan kaynağı aşağıdaki gibi belirtin:
+
+```bibtex
+@misc{lumees_msmarco_hn_2025,
+  author = {Lumees AI and Kurşun, Hasan and Yanık, Kerem Berkay},
+  title = {MS MARCO TR - Hard Negatives Dataset},
+  year = {2025},
+  howpublished = {\url{[https://lumees.io](https://lumees.io)}},
+}
+
+@article{bajaj2016ms,
+  title={MS MARCO: A Human Generated Machine Reading Comprehension Dataset},
+  author={Bajaj, Payal and Campos, Daniel and Craswell, Nick and Deng, Li and Gao, Jianfeng and Liu, Xiaodong and Majumder, Rangan and McNamara, Andrew and Mitra, Bhaskar and Nguyen, Tri and others},
+  journal={arXiv preprint arXiv:1611.09268},
+  year={2016}
+}
+
+@misc{parsak_msmarco_tr,
+  author = {Parsak},
+  title = {MS MARCO Turkish Translation},
+  year = {2023},
+  publisher = {Hugging Face},
+  journal = {Hugging Face Hub},
+  howpublished = {\url{[https://huggingface.co/datasets/parsak/msmarco-tr](https://huggingface.co/datasets/parsak/msmarco-tr)}}
+}
+```

msmarco_tr_hard_negatives_final.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:eea2a4f43d3acfb1f30e4eb86fb59ceff4b6dcb6ac9a0b6eaf9b68af356d4033
+size 2962259813