rustensai's picture
Duplicate from Limerencii/russian-handwriting-ocr
2371215 verified
|
Raw
History Blame Contribute Delete
3.47 kB
metadata
language:
  - ru
task_categories:
  - image-to-text
tags:
  - handwriting-recognition
  - russian
  - ocr
  - qwen3-vl
size_categories:
  - 10K<n<100K

Russian Handwritten Text Recognition Dataset

Датасет для распознавания русских рукописных текстов (сочинений).

Описание

Этот датасет содержит изображения рукописных русских текстов с их расшифровкой. Предназначен для дообучения vision-language моделей (например, Qwen3 VL) на задачу OCR русского рукописного текста.

Статистика

  • Всего образцов: 13050
  • Train: 11745
  • Validation: 1305
  • Уникальных текстов: 575
  • Средняя длина текста: 3790 символов

Типы изображений

Датасет включает три типа изображений одних и тех же текстов:

  • Сканы (scan): Сканированные изображения
  • ФотоТемное (dark): Фотографии в темном освещении
  • ФотоСветлое (light): Фотографии в светлом освещении

Формат данных

Каждый пример содержит:

{
    "image": PIL.Image,  # Изображение
    "messages": [  # Формат conversational
        {
            "role": "user",
            "content": [
                {"type": "text", "text": "Распознай текст с изображения."},
                {"type": "image"}
            ]
        },
        {
            "role": "assistant",
            "content": [
                {"type": "text", "text": "<transcribed_text>"}
            ]
        }
    ],
    "image_type": "scan" | "dark" | "light",
    "source_folder": str,
    "dataset_name": "dataset1" | "dataset2"
}

Использование

from datasets import load_dataset

# Загрузка датасета
dataset = load_dataset("YOUR_USERNAME/russian-handwriting-ocr")

# Пример использования
sample = dataset['train'][0]
image = sample['image']
messages = sample['messages']

Обучение с Unsloth

Этот датасет готов для использования с Unsloth для дообучения Qwen3 VL:

from unsloth import FastVisionModel
from unsloth.trainer import UnslothVisionDataCollator
from trl import SFTTrainer, SFTConfig

# Загрузка модели
model, tokenizer = FastVisionModel.from_pretrained(
    "unsloth/Qwen3-VL-8B-Instruct",
    load_in_4bit=True,
)

# Загрузка датасета
from datasets import load_dataset
dataset = load_dataset("YOUR_USERNAME/russian-handwriting-ocr")

# Обучение
trainer = SFTTrainer(
    model=model,
    tokenizer=tokenizer,
    data_collator=UnslothVisionDataCollator(model, tokenizer),
    train_dataset=dataset['train'],
    # ... другие параметры
)
trainer.train()

Лицензия

[Укажите вашу лицензию]

Цитирование

Если вы используете этот датасет, пожалуйста, укажите ссылку на него.