RockMan256 commited on
Commit
0b9ca81
·
verified ·
1 Parent(s): a778b93

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +62 -0
README.md ADDED
@@ -0,0 +1,62 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ base_model: openbmb/MiniCPM5-1B
3
+ library_name: llama.cpp
4
+ tags:
5
+ - home-assistant
6
+ - entity-resolver
7
+ - intent-classification
8
+ - gguf
9
+ language:
10
+ - ru
11
+ - en
12
+ ---
13
+
14
+ # MiniCPM5-1B-enti-GGUF
15
+
16
+ Маленькая модель-резолвер сущностей (entity / intent resolver) для Home Assistant.
17
+ Превращает пользовательскую фразу на русском или английском в **домен + имя
18
+ сущности** (или интент), которые затем маппятся в вызов HA-тула на стороне
19
+ клиента.
20
+
21
+ Обучена на `RockMan256/ha-ru-en-intents`.
22
+
23
+ ## Как использовать (формат запроса и ответа)
24
+
25
+ **Вход (системный промпт + запрос пользователя):**
26
+
27
+ ```
28
+ <системный промпт>
29
+ <user> включи свет в спальне
30
+ ```
31
+
32
+ **Выход (модель отвечает JSON-объектом с интентом/доменом):**
33
+
34
+ ```json
35
+ { "name": "entityResolver", "arguments": { "domain": "light", "name": "спальня" } }
36
+ ```
37
+
38
+ или для прямых команд:
39
+
40
+ ```json
41
+ { "name": "turn_on", "arguments": { "area": "Спальня" } }
42
+ ```
43
+
44
+ ## Важно: отключение reasoning
45
+
46
+ Модель упрямо включает режим размышления (think) через свой chat-template,
47
+ даже если сервер запущен с `--reasoning off`. Чтобы выключить размышления,
48
+ **добавь в начало системного промпта две пустые строки**:
49
+
50
+ ```
51
+ \n\n<дальше твой системный промпт>
52
+ ```
53
+
54
+ Без этого модель выдаёт лишний текст вместо чистого JSON (146 токенов вместо 65).
55
+
56
+ ## Рекомендации
57
+
58
+ - Не используй как чат-бота — это **классификатор**, а не генератор ответов.
59
+ - Модель выдаёт **domain/intent**, а не готовый entity_id — нужен пост-процессинг
60
+ (резолв entity через HA API по domain + fuzzy-поиск по name).
61
+ - Примеры интентов: `light`, `gate`, `gate_open`, `turn_on`, `set_speed`.
62
+ - Размер 1B — быстрая, но иногда нестабильна (путает вытяжку с воротами).