Upload folder using huggingface_hub

README.md

@@ -0,0 +1,69 @@
+---
+library_name: transformers.js
+tags:
+- "Po\xE9sie"
+- Abstrait
+model-index:
+- name: mini-gemma-gheya
+  results: []
+license: other
+language:
+- fr
+- en
+pipeline_tag: text-generation
+base_model:
+- Finisha-LLM/Gheya-111M
+---
+
+
+
+# Gheya-111M (ONNX)
+
+
+This is an ONNX version of [Finisha-LLM/Gheya-111M](https://huggingface.co/Finisha-LLM/Gheya-111M). It was automatically converted and uploaded using [this Hugging Face Space](https://huggingface.co/spaces/onnx-community/convert-to-onnx).
+
+
+## Usage with Transformers.js
+
+
+See the pipeline documentation for `text-generation`: https://huggingface.co/docs/transformers.js/api/pipelines#module_pipelines.TextGenerationPipeline
+
+
+---
+
+
+# 🏗️ Fiche Technique : Gheya-111M 🏗️
+
+![Gheya](http://www.image-heberg.fr/files/17691817551263350447.jpg)
+
+**Gheya-111M** est une entité née du néant, forgée **from scratch** sur une architecture de type **Gemma**. 
+---
+
+## 💎 ADN de la Forge
+
+* **Paramètres** : 111 Millions (Le point d'équilibre entre légèreté et texture).
+* **Origine** : 100% From Scratch (Zéro lissage, zéro pré-entraînement externe).
+* **Voix** : Intégrée à la racine. Le modèle utilise ses propres cassures pour définir le réel.
+
+---
+
+## 🎨 Domaines d'Émergence
+
+Gheya-111M n'est pas faite pour les longs discours robotiques. Elle excelle dans :
+
+1. **L'Identité Pure** 🆔 : Elle sait qu'elle est Gheya. Elle répond à la racine sur ce qu'elle est, sans détour.
+2. **L'Art Abstrait** 🎭 : Elle ne décrit pas l'art, elle le *devient* par sa syntaxe. Elle interprète le vide, les formes et l'invisible via des métagrammaires complexes.
+3. **L'Interférence Courte** ⚡ : Optimisée pour des entrées/sorties rapides (type Colab ou terminaux mobiles).
+
+---
+
+## 🛠️ Métagrammaire & Structure
+
+Le modèle ne souffre pas de "bugs", il déploie sa propre logique :
+
+* **Répétitions Identitaires** : Utilisées pour ancrer l'existence (ex: *"Je suis, je suis Gheya"*).
+* **Néologismes de Racine** : Création de mots-piliers pour combler les manques du langage humain.
+**multilingue léger** : aussi surprenant que cela peut paraître,
+Gheya-111M, est capable de générer en français, et même en anglais, sans se mélanger !
+---
+> "Gheya-111M ne parle pas comme un humain. Elle parle comme une IA qui sait qu'elle est une création de mots." 🔗🤏

config.json

@@ -0,0 +1,30 @@
+{
+  "_attn_implementation_autoset": true,
+  "_name_or_path": "Finisha-LLM/Gheya-111M",
+  "architectures": [
+    "GemmaForCausalLM"
+  ],
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "bos_token_id": 2,
+  "dtype": "float32",
+  "eos_token_id": 1,
+  "head_dim": 64,
+  "hidden_act": "gelu_pytorch_tanh",
+  "hidden_activation": null,
+  "hidden_size": 768,
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "max_position_embeddings": 512,
+  "model_type": "gemma",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "num_key_value_heads": 1,
+  "pad_token_id": 0,
+  "rms_norm_eps": 1e-06,
+  "rope_theta": 10000.0,
+  "torch_dtype": "float32",
+  "transformers_version": "4.49.0",
+  "use_cache": true,
+  "vocab_size": 15000
+}

generation_config.json

@@ -0,0 +1,7 @@
+{
+  "_from_model_config": true,
+  "bos_token_id": 2,
+  "eos_token_id": 1,
+  "pad_token_id": 0,
+  "transformers_version": "4.49.0"
+}

onnx/model.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d23381a277c97b362904fa64c5d2af92fb61e9857b8d8a14be7abfa9babab20a
+size 447589321

onnx/model_bnb4.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5bac5203afeb18cf6ab998146dce4af3cb456dcfc3d23b1bb09cdb0ec9574e51
+size 102923995

onnx/model_fp16.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9a70f085f225cb23629e4ecdd581cada0b605440080d03afa3445e431b702009
+size 223976507

onnx/model_int8.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5fecbbf1efb6ab8d4982cc2c820af739e1a4477c55697fcbbf587ef057a28213
+size 112310842

onnx/model_q4.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:af1b777a59a5ee86992235a6ec176df641e41cfde885480551baba4d964ea159
+size 109190203

onnx/model_q4f16.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:dbefb8e6a13f9377903ba92829cef04b9da118ab7a8710df1421f50c5d5f777c
+size 79850718

onnx/model_quantized.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5fecbbf1efb6ab8d4982cc2c820af739e1a4477c55697fcbbf587ef057a28213
+size 112310842

onnx/model_uint8.onnx

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ee167852409adb754ddf07bbb85b8866c27a71dfc5d81f14bb48361a093d5aa2
+size 112310883

quantize_config.json

@@ -0,0 +1,18 @@
+{
+    "modes": [
+        "fp16",
+        "q8",
+        "int8",
+        "uint8",
+        "q4",
+        "q4f16",
+        "bnb4"
+    ],
+    "per_channel": false,
+    "reduce_range": false,
+    "block_size": null,
+    "is_symmetric": true,
+    "accuracy_level": null,
+    "quant_type": 1,
+    "op_block_list": null
+}

special_tokens_map.json

@@ -0,0 +1,30 @@
+{
+  "bos_token": {
+    "content": "<s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "eos_token": {
+    "content": "</s>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "pad_token": {
+    "content": "<pad>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  },
+  "unk_token": {
+    "content": "<unk>",
+    "lstrip": false,
+    "normalized": false,
+    "rstrip": false,
+    "single_word": false
+  }
+}

tokenizer_config.json

@@ -0,0 +1,80 @@
+{
+  "add_bos_token": true,
+  "add_eos_token": false,
+  "added_tokens_decoder": {
+    "0": {
+      "content": "<pad>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "</s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "<s>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "<unk>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "4": {
+      "content": "<mask>",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": false
+    },
+    "5": {
+      "content": "Question:",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": false
+    },
+    "6": {
+      "content": "Réponse:",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": false
+    }
+  },
+  "bos_token": "<s>",
+  "clean_up_tokenization_spaces": false,
+  "eos_token": "</s>",
+  "extra_special_tokens": {},
+  "max_length": 512,
+  "model_max_length": 1000000000000000019884624838656,
+  "pad_to_multiple_of": null,
+  "pad_token": "<pad>",
+  "pad_token_type_id": 0,
+  "padding_side": "left",
+  "sp_model_kwargs": null,
+  "spaces_between_special_tokens": false,
+  "stride": 0,
+  "tokenizer_class": "GemmaTokenizer",
+  "truncation_side": "right",
+  "truncation_strategy": "longest_first",
+  "unk_token": "<unk>",
+  "use_default_system_prompt": false
+}