---
language:
- ru
license: mit
tags:
- llm-as-a-judge
- preference-data
- russian
---

# RU-LLM-Judge-Dataset

Датасет собирается инкрементально в течение нескольких сессий бесплатного Google Colab.
Текущий объём: **26,197** суждений (по состоянию на последний запуск).

### Прогресс к цели (5,000 суждений)
`[████████████████████]` 100% (26,197 / 5,000)

### История сессий сбора
| Сессия | Дата | Добавлено | Итого |
|--------|------|-----------|-------|
| 1 | 2026-08-05 08:42 | 617 | 617 |
| 2 | 2026-08-06 14:40 | 583 | 1,200 |
| 3 | 2026-08-07 19:20 | 486 | 1,686 |
| 4 | 2026-08-08 22:34 | 868 | 2,554 |
| 5 | 2026-08-13 17:04 | 2,262 | 4,816 |
| 6 | 2026-08-14 21:23 | 453 | 5,269 |
| 7 | 2026-08-15 19:09 | 239 | 5,508 |
| 8 | 2026-08-16 20:29 | 228 | 5,736 |
| 9 | 2026-08-17 20:37 | 235 | 5,971 |
| 10 | 2026-08-19 17:53 | 447 | 6,418 |
| 11 | 2026-08-20 16:33 | 242 | 6,660 |
| 12 | 2026-08-21 10:33 | 469 | 7,129 |
| 13 | 2026-08-22 09:47 | 431 | 7,560 |
| 14 | 2026-08-23 14:12 | 440 | 8,000 |
| 15 | 2026-08-24 12:14 | 198 | 8,198 |
| 16 | 2026-08-25 18:04 | 461 | 8,659 |
| 17 | 2026-08-26 19:42 | 657 | 9,316 |
| 18 | 2026-08-27 20:47 | 466 | 9,782 |
| 19 | 2026-08-28 17:06 | 444 | 10,226 |
| 20 | 2026-08-29 18:20 | 214 | 10,440 |
| 21 | 2026-08-30 18:37 | 444 | 10,884 |
| 22 | 2026-08-31 20:22 | 696 | 11,580 |
| 23 | 2026-09-02 18:10 | 488 | 12,068 |
| 24 | 2026-09-05 14:46 | 678 | 12,746 |
| 25 | 2026-09-06 21:21 | 420 | 13,166 |
| 26 | 2026-09-08 07:45 | 701 | 13,867 |
| 27 | 2026-09-10 07:41 | 656 | 14,523 |
| 28 | 2026-09-11 20:25 | 411 | 14,934 |
| 29 | 2026-09-14 08:15 | 1,100 | 16,034 |
| 30 | 2026-09-16 20:43 | 461 | 16,495 |
| 31 | 2026-09-18 14:28 | 984 | 17,479 |
| 32 | 2026-09-20 14:46 | 417 | 17,896 |
| 33 | 2026-09-22 21:41 | 925 | 18,821 |
| 34 | 2026-09-25 11:28 | 682 | 19,503 |
| 35 | 2026-09-26 16:59 | 1,050 | 20,553 |
| 36 | 2026-09-29 14:03 | 1,045 | 21,598 |
| 37 | 2026-10-01 16:14 | 1,137 | 22,735 |
| 38 | 2026-10-03 17:17 | 1,062 | 23,797 |
| 39 | 2026-10-06 16:34 | 895 | 24,692 |
| 40 | 2026-10-10 19:25 | 1,505 | 26,197 |

## Источник вопросов
[ai-forever/rubq-retrieval](https://huggingface.co/datasets/ai-forever/rubq-retrieval)

## Модели-генераторы
- Qwen2.5-1.5B-Instruct
- Qwen2.5-3B-Instruct
- SmolLM2-1.7B-Instruct

## Модель-судья
Qwen/Qwen2.5-3B-Instruct

## Формат
question_id, question, model_a/answer_a, model_b/answer_b, preferred (A/B), preferred_model, preference_reason

## Пример
```json
{
  "question_id": "q_04029",
  "question": "В каком виде представлены исторические памятники, свидетельствующие об истории развития разных видов борьбы у различных народов?",
  "answer_a": "Исторические памятники, свидетельствующие о развитии различных видов борьбы и их истории, обычно представлены в виде монументальных статуй, фресок,壁画以及雕塑等艺术形式。这些作品不仅展示了战斗技巧，还反映了不同文化中的价值观和信仰。这些遗迹遍布世界各地，包括中国的太极拳石碑、印度的武术雕像、欧洲的中世纪盔甲等。",
  "model_a": "Qwen2.5-3B-Instruct",
  "answer_b": "Ваш ответ будет на следующий язык: \n\nВаш утверждение ответит на вопрос, но оно не отражает язык какой-либо, потому что смотрим на вопрос и без участия языка. Так что смежные фразы или блюразы могут служать для обозначения различных процессов или перечисления, но без языка.",
  "model_b": "SmolLM2-1.7B-Instruct",
  "preferred": "A",
  "preferred_model": "Qwen2.5-3B-Instruct",
  "preference_reason": "Ответ А более подробно и точно описывает, как исторические памятники, связанные с различными видами борьбы, представлены во многих культурных контекстах. Он упоминает конкретные примеры из разных стран, таких как китайский тайцзицзин и индийские боевые статуи, а также упоминает различные формы искусства, такие как монументальные работы, фрески и",
  "judge_model": "Qwen/Qwen2.5-3B-Instruct"
}
```

## Статус сбора
Датасет пополняется по мере запуска сборочного ноутбука. Чекпоинты сырых данных лежат в папке raw/ этого репозитория. При каждом новом запуске ноутбук подтягивает уже накопленные данные и продолжает сбор с недостающих вопросов и пар ответов, не дублируя уже сделанную работу.