aiplatforms commited on
Commit
3709794
·
verified ·
1 Parent(s): d68daa5

Improve AI Platforms dataset card

Browse files
Files changed (1) hide show
  1. README.md +36 -20
README.md CHANGED
@@ -7,42 +7,58 @@ language:
7
  tags:
8
  - aiplatforms
9
  - russian
10
- - sft
11
- - instruction-tuning
 
 
12
  - text-generation
13
  - local-ai
14
  task_categories:
15
  - text-generation
 
 
16
  ---
17
 
18
  # AI Platforms Wikipedia RU Dataset
19
 
20
- Русскоязычный датасет AI Platforms для обучения, адаптации и оценки локальных языковых моделей.
21
 
22
- ## Описание
23
 
24
- Источник/характер данных: русскоязычные материалы Wikipedia.
25
 
26
- Возможные сценарии использования:
27
 
28
- - SFT русскоязычных ассистентов;
29
- - обучения коротким и средним ответам на русском языке;
30
- - подготовки локальных LLM под RAG и on-premise сценарии;
31
- - экспериментов с малым inference footprint.
32
 
33
- ## Рекомендуемое применение
34
 
35
- - предварительная русскоязычная адаптация компактных моделей;
36
- - смешивание с tool-use/RAG датасетами;
37
- - тестирование качества ответов перед доменным дообучением;
38
- - подготовка baseline-моделей для локального inference.
39
 
40
- ## Ограничения и ответственность
 
 
 
41
 
42
- - Данные могут содержать шум, устаревшие сведения или стилистически неоднородные ответы.
43
- - Перед использованием в production рекомендуется фильтрация, дедупликация и ручная проверка срезов.
44
- - Для фактических, актуальных и доменных ответов используйте RAG/поиск и контроль источников.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
45
 
46
  ## AI Platforms
47
 
48
- [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-серверы под ключ.
 
7
  tags:
8
  - aiplatforms
9
  - russian
10
+ - wikipedia
11
+ - corpus
12
+ - pretraining
13
+ - continued-pretraining
14
  - text-generation
15
  - local-ai
16
  task_categories:
17
  - text-generation
18
+ size_categories:
19
+ - 1M<n<10M
20
  ---
21
 
22
  # AI Platforms Wikipedia RU Dataset
23
 
24
+ Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.
25
 
26
+ Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.
27
 
28
+ ## Состав
29
 
30
+ Репозиторий содержит:
31
 
32
+ - `wikipedia_rudataset.parquet` русскоязычный Wikipedia-корпус в Parquet.
 
 
 
33
 
34
+ Ориентировочный размер: миллионы текстовых записей (`1M<n<10M`).
35
 
36
+ ## Назначение
 
 
 
37
 
38
+ - continued pretraining / domain-adaptive pretraining для русского языка;
39
+ - подготовка retrieval/RAG корпуса;
40
+ - обучение моделей лучше работать с энциклопедическим стилем;
41
+ - построение baseline для локальных LLM и embedding/RAG экспериментов.
42
 
43
+ ## Формат и подготовка
44
+
45
+ Данные опубликованы в Parquet. Перед использованием рекомендуется:
46
+
47
+ - очистить служебные строки и слишком короткие/длинные фрагменты;
48
+ - дедуплицировать тексты;
49
+ - нарезать документы на чанки под контекстное окно модели;
50
+ - сохранить сведения об источниках, если корпус используется в RAG.
51
+
52
+ ## Лицензии
53
+
54
+ Материалы Wikipedia распространяются на условиях совместимых лицензий, включая `CC BY-SA 3.0` и `GFDL`. При использовании датасета учитывайте требования атрибуции и share-alike.
55
+
56
+ ## Ограничения
57
+
58
+ - Энциклопедический корпус не является instruction/chat датасетом сам по себе.
59
+ - В данных могут быть устаревшие сведения и редакционные артефакты.
60
+ - Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.
61
 
62
  ## AI Platforms
63
 
64
+ [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.