Transformers
PyTorch
Russian
t5
text2text-generation
Simplification
Summarization
paraphrase
text-generation-inference
Instructions to use DmitriyVasiliev/ruT5-base-simplification with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use DmitriyVasiliev/ruT5-base-simplification with Transformers:
# Load model directly from transformers import AutoTokenizer, AutoModelForSeq2SeqLM tokenizer = AutoTokenizer.from_pretrained("DmitriyVasiliev/ruT5-base-simplification") model = AutoModelForSeq2SeqLM.from_pretrained("DmitriyVasiliev/ruT5-base-simplification", device_map="auto") - Notebooks
- Google Colab
- Kaggle
Commit ·
0fc7549
1
Parent(s): 3e70355
Create README.md
Browse filesДанная модель является дообучнной версией "sberbank-ai/ruT5-base" на задаче упрощения текста (text simplification).
Набор данных (https://drive.google.com/file/d/14lCIp0TJ78R8E9miVm5Ac88guEjCkgFR) был собран из материалов конференции "Dialog-21" (https://github.com/dialogue-evaluation/RuSimpleSentEval), корпуса "RuAdapt" (https://github.com/Digital-Pushkin-Lab/RuAdapt), а также уникальными данными, предоставленными институтом ИФиЯК СФУ.
Параметры обучения: данные из файла "dia_train", Learning Rate = 3e-5, batch size = 1, optimizer = AdamW.
Оценка SARI (среднее на файле "dia_test") = 33,14