--- annotations_creators: - machine-generated language_creators: - found - machine-generated language: - tr license: cc-by-4.0 multilinguality: - monolingual size_categories: - n<1K source_datasets: - original task_categories: - question-answering - text-generation task_ids: - closed-domain-qa pretty_name: MEB Öğretmen Mevzuatı Alan Benchmark'ı tags: - benchmark - evaluation - meb - mevzuat - egitim - turkish - education - held-out - llm-as-judge configs: - config_name: default data_files: - split: test path: data/test-* dataset_info: features: - name: id dtype: string - name: bolum dtype: string - name: soru dtype: string - name: referans_cevap dtype: string - name: kaynak dtype: string - name: dayanak dtype: string splits: - name: test num_bytes: 86442 num_examples: 142 download_size: 43647 dataset_size: 86442 --- # Dataset Card for MEB Öğretmen Mevzuatı Alan Benchmark'ı ## Table of Contents - [Dataset Description](#dataset-description) - [Dataset Summary](#dataset-summary) - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards) - [Languages](#languages) - [Dataset Structure](#dataset-structure) - [Data Instances](#data-instances) - [Data Fields](#data-fields) - [Data Splits](#data-splits) - [Dataset Creation](#dataset-creation) - [Curation Rationale](#curation-rationale) - [Source Data](#source-data) - [Annotations](#annotations) - [Personal and Sensitive Information](#personal-and-sensitive-information) - [Considerations for Using the Data](#considerations-for-using-the-data) - [Social Impact of Dataset](#social-impact-of-dataset) - [Discussion of Biases](#discussion-of-biases) - [Other Known Limitations](#other-known-limitations) - [Additional Information](#additional-information) - [Dataset Curators](#dataset-curators) - [Licensing Information](#licensing-information) - [Citation Information](#citation-information) ## Dataset Description - **Repository:** https://huggingface.co/datasets/namruni/meb-ogretmen-benchmark - **İlgili model:** https://huggingface.co/namruni/meb-ogretmen-qwen3-14b-lora - **Point of Contact:** namruni ### Dataset Summary **MEB Öğretmen Mevzuatı Alan Benchmark'ı**, bir dil modelinin Millî Eğitim Bakanlığı öğretmen özlük/mevzuat soru-cevabındaki başarımını ölçmek için hazırlanmış, **142 soruluk** bir **değerlendirme (test)** veri setidir. Sorular çoktan seçmeli değil, **açık uçludur**; her sorunun mevzuata dayalı bir **referans (altın) cevabı** vardır. Veri seti, `namruni/meb-ogretmen-qwen3-14b-lora` fine-tune modelini kendi uzmanlık alanında değerlendirmek için üretilmiştir. Genel Türkçe benchmark'lar (ör. TR-MMLU) bu dar alanı ölçemediğinden, bu boşluğu doldurur. > ⚠️ **Şeffaflık:** Referans cevaplar insan uzman tarafından değil, güçlü bir dil modeli > (ChatGPT/Codex) tarafından **gerçek MEB mevzuat belgelerine dayandırılarak** üretilmiştir > (damıtma-tarzı referans). Bağlayıcı hukuki bilgi değildir. ### Supported Tasks and Leaderboards - `question-answering`, `closed-domain-qa`: model, MEB mevzuatına dair açık uçlu bir soruya serbest metin cevap üretir. - **Değerlendirme yöntemi (LLM-as-judge):** Cevaplar açık uçlu olduğundan birebir eşleşme uygun değildir. Bir hakem modele `(soru, referans_cevap, model_cevabı)` verilip "Doğru / Kısmen / Yanlış" kararı aldırılır. Kontrollü kıyas için aynı sorular hem taban modele hem fine-tune modele sorulup **eşleştirilmiş** karşılaştırma yapılır. - Resmî bir leaderboard yoktur. ### Languages Türkçe (`tr`). Metinler MEB resmî mevzuat diliyle ve öğretmen forum diliyle yazılmıştır. ## Dataset Structure ### Data Instances ```json { "id": "B001", "bolum": "B", "soru": "Bir öğretmenin başka bir öğretmenlik alanına geçişinin 'alan değişikliği' sayılabilmesi için hangi şartlar birlikte aranır?", "referans_cevap": "Öğretmenin kadrolu olması, geçilecek alanın Bakanlıkça belirlenmiş olması ve bu alanın mezun olunan yükseköğretim programına bağlı olması gerekir.", "kaynak": "Millî Eğitim Bakanlığına Bağlı Öğretmenlerin Atama ve Yer Değiştirme Yönetmeliği", "dayanak": "\"Alan değişikliği: Kadrolu öğretmenlerin, Bakanlık tarafından belirlenen ... başka alanlara geçişlerini\"" } ``` ### Data Fields | Alan | Tip | Açıklama | |---|---|---| | `id` | string | Soru kimliği (`Axxx` / `Bxxx`) | | `bolum` | string | `A` (gerçek forum sorusu) veya `B` (belgeden mevzuat sorusu) | | `soru` | string | Soru metni | | `referans_cevap` | string | Mevzuata dayalı altın cevap (LLM üretimi) | | `kaynak` | string | Cevabın dayandığı MEB belgesi (Bölüm A'da "forum sorusu") | | `dayanak` | string | Belgedeki ilgili alıntı/kural (B) veya forum konu kimliği (A) | ### Data Splits | Split | Soru | İçerik | |---|---|---| | `test` | 142 | Bölüm A (6 gerçek forum sorusu) + Bölüm B (136 belgeden mevzuat sorusu) | **Not:** Bu veri seti **yalnızca `test` split'i** içerir; bilinçli olarak **eğitim (`train`) split'i yoktur.** Bir değerlendirme benchmark'ıdır; modelleri bununla eğitmek benchmark'ı geçersiz kılar (veri sızıntısı). ## Dataset Creation ### Curation Rationale Amaç: fine-tune edilmiş bir modelin **kendi alanında** işe yarayıp yaramadığını sayısal ölçmek. Genel benchmark'lar bunu göremediğinden, modelin senaryosuna (MEB öğretmen mevzuatı) özel, modelin eğitimde **görmediği** sorulardan oluşan bir test seti üretildi. ### Source Data - **Bölüm A:** memurlar.net kamuya açık öğretmen forumundaki gerçek sorular. - **Bölüm B:** resmî MEB mevzuat belgeleri (Atama ve Yer Değiştirme Yönetmeliği, mazeret duyuruları, 7528 sayılı Öğretmenlik Meslek Kanunu, 657 sayılı DMK, Yönetici Görevlendirme Yönetmeliği, izin/rapor, ek ders kararı, kariyer basamakları vb.). Belgeler, gerçek forum sorularında **en çok kullanılan** kaynaklara göre ağırlıklandırılmıştır. ### Annotations - **Annotation process:** Bölüm B'de belge parçaları bir dil modeline (Codex/ChatGPT) verilip, *yalnızca o metne dayanan*, ayırt edici (tanım/evet-hayır olmayan) soru-cevap çiftleri üretildi. Bölüm A'da gerçek forum soruları ilgili belge parçalarıyla eşlenip belgeye dayalı yetkili cevap üretildi; belgeyle güvenilir cevaplanamayanlar elendi. Otomatik + gözle kalite süzgeci uygulandı. - **Who are the annotators?** Cevaplar bir dil modeli (LLM) tarafından, MEB belgelerine demirlenerek üretildi; insan doğrulaması sınırlıdır. ### Personal and Sensitive Information Forum soruları anonimdir; kişi/kullanıcı adı içermez. Sorular kamuya açık forum gönderilerinden türetilmiştir ve özel kişisel veri barındırmaz. ## Considerations for Using the Data ### Social Impact of Dataset Türkçe, dar-alan (öğretmen mevzuatı) değerlendirmesine katkı sağlar; alan-özel fine-tune'un etkisini ölçmeyi kolaylaştırır. ### Discussion of Biases Sorular gerçek forum konu dağılımına göre ağırlıklandırıldığından, en sık sorulan konulara (atama/yer değiştirme, mazeret) doğru bir eğilim vardır. Referans cevaplar bir LLM tarafından üretildiği için o modelin olası önyargı/eksiklerini taşıyabilir. ### Other Known Limitations - **Referans cevaplar LLM üretimidir** (mevzuata demirli ama insan onaylı değil). - **Bölüm A küçüktür (n=6):** yüzde skor için değil, niteliksel örnek için kullanılmalıdır. - Mevzuat **2025–2026** dönemine dayanır; sonradan değişen hükümler olabilir. - Bağlayıcı hukuki tavsiye değildir. ## Additional Information ### Dataset Curators namruni. ### Licensing Information [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/). Sorular MEB kamu mevzuatından ve memurlar.net kamuya açık forum içeriğinden türetilmiştir. ### Citation Information ```bibtex @misc{meb_ogretmen_benchmark_2026, title = {MEB Öğretmen Mevzuatı Alan Benchmark'ı}, author = {namruni}, year = {2026}, howpublished = {\url{https://huggingface.co/datasets/namruni/meb-ogretmen-benchmark}}, note = {Açık uçlu, LLM-as-judge ile değerlendirilen Türkçe MEB mevzuat benchmark'ı} } ```