Datasets:
Improve AI Platforms dataset card
Browse files
README.md
CHANGED
|
@@ -7,42 +7,58 @@ language:
|
|
| 7 |
tags:
|
| 8 |
- aiplatforms
|
| 9 |
- russian
|
| 10 |
-
-
|
| 11 |
-
-
|
|
|
|
|
|
|
| 12 |
- text-generation
|
| 13 |
- local-ai
|
| 14 |
task_categories:
|
| 15 |
- text-generation
|
|
|
|
|
|
|
| 16 |
---
|
| 17 |
|
| 18 |
# AI Platforms Wikipedia RU Dataset
|
| 19 |
|
| 20 |
-
|
| 21 |
|
| 22 |
-
|
| 23 |
|
| 24 |
-
|
| 25 |
|
| 26 |
-
|
| 27 |
|
| 28 |
-
-
|
| 29 |
-
- обучения коротким и средним ответам на русском языке;
|
| 30 |
-
- подготовки локальных LLM под RAG и on-premise сценарии;
|
| 31 |
-
- экспериментов с малым inference footprint.
|
| 32 |
|
| 33 |
-
|
| 34 |
|
| 35 |
-
|
| 36 |
-
- смешивание с tool-use/RAG датасетами;
|
| 37 |
-
- тестирование качества ответов перед доменным дообучением;
|
| 38 |
-
- подготовка baseline-моделей для локального inference.
|
| 39 |
|
| 40 |
-
|
|
|
|
|
|
|
|
|
|
| 41 |
|
| 42 |
-
|
| 43 |
-
|
| 44 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 45 |
|
| 46 |
## AI Platforms
|
| 47 |
|
| 48 |
-
[AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-с
|
|
|
|
| 7 |
tags:
|
| 8 |
- aiplatforms
|
| 9 |
- russian
|
| 10 |
+
- wikipedia
|
| 11 |
+
- corpus
|
| 12 |
+
- pretraining
|
| 13 |
+
- continued-pretraining
|
| 14 |
- text-generation
|
| 15 |
- local-ai
|
| 16 |
task_categories:
|
| 17 |
- text-generation
|
| 18 |
+
size_categories:
|
| 19 |
+
- 1M<n<10M
|
| 20 |
---
|
| 21 |
|
| 22 |
# AI Platforms Wikipedia RU Dataset
|
| 23 |
|
| 24 |
+
Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.
|
| 25 |
|
| 26 |
+
Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.
|
| 27 |
|
| 28 |
+
## Состав
|
| 29 |
|
| 30 |
+
Репозиторий содержит:
|
| 31 |
|
| 32 |
+
- `wikipedia_rudataset.parquet` — русскоязычный Wikipedia-корпус в Parquet.
|
|
|
|
|
|
|
|
|
|
| 33 |
|
| 34 |
+
Ориентировочный размер: миллионы текстовых записей (`1M<n<10M`).
|
| 35 |
|
| 36 |
+
## Назначение
|
|
|
|
|
|
|
|
|
|
| 37 |
|
| 38 |
+
- continued pretraining / domain-adaptive pretraining для русского языка;
|
| 39 |
+
- подготовка retrieval/RAG корпуса;
|
| 40 |
+
- обучение моделей лучше работать с энциклопедическим стилем;
|
| 41 |
+
- построение baseline для локальных LLM и embedding/RAG экспериментов.
|
| 42 |
|
| 43 |
+
## Формат и подготовка
|
| 44 |
+
|
| 45 |
+
Данные опубликованы в Parquet. Перед использованием рекомендуется:
|
| 46 |
+
|
| 47 |
+
- очистить служебные строки и слишком короткие/длинные фрагменты;
|
| 48 |
+
- дедуплицировать тексты;
|
| 49 |
+
- нарезать документы на чанки под контекстное окно модели;
|
| 50 |
+
- сохранить сведения об источниках, если корпус используется в RAG.
|
| 51 |
+
|
| 52 |
+
## Лицензии
|
| 53 |
+
|
| 54 |
+
Материалы Wikipedia распространяются на условиях совместимых лицензий, включая `CC BY-SA 3.0` и `GFDL`. При использовании датасета учитывайте требования атрибуции и share-alike.
|
| 55 |
+
|
| 56 |
+
## Ограничения
|
| 57 |
+
|
| 58 |
+
- Энциклопедический корпус не является instruction/chat датасетом сам по себе.
|
| 59 |
+
- В данных могут быть устаревшие сведения и редакционные артефакты.
|
| 60 |
+
- Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.
|
| 61 |
|
| 62 |
## AI Platforms
|
| 63 |
|
| 64 |
+
[AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.
|