File size: 4,669 Bytes
ece7371
 
63c46ba
 
 
 
 
 
 
 
ece7371
c466252
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6483aa5
 
c466252
6483aa5
 
0728e0b
 
ecccc9d
 
6483aa5
 
 
 
 
 
 
 
c466252
 
 
 
 
 
 
 
 
 
 
 
 
142d5e0
c466252
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
---
library_name: transformers
license: mit
datasets:
- Etoiles-IA-nostalgia/Charlotte-Data
language:
- fr
base_model:
- Clemylia/LAM-4-ZERO-F
pipeline_tag: text-generation
---

# 📖 Documentation Officielle : Tiny-charlotte

![Charlotte](http://www.image-heberg.fr/files/17633043533561895299.jpg)

## 🌟 Présentation du Modèle

Bienvenue dans l'univers de **Tiny-charlotte** \! Ce modèle est un **Small Language Model (SLM)** innovant, développé par **Clemylia** @Clemylia. Il est conçu pour générer des textes et répondre à des requêtes autour de thématiques fondamentales et positives.

| Caractéristique | Détail |
| :--- | :--- |
| **Architecture de base** | Affiné à partir de notre performant **lam-4-zero-f** |
| **Taille du Modèle** | **51 millions de paramètres** (un modèle ultra-léger) |
| **Spécialisation** | **Espoir, Amitié et Éthique** 💖🌱 |
| **Performance** | **Exceptionnelle** par rapport à sa taille (surpasse nos modèles beaucoup plus grands) |

## ✨ Mission & Capacités

**Tiny-charlotte** a été affiné sur un *dataset* spécifique axé sur l'**espoir**, l'**amitié** et les principes de l'**éthique**.

### Ce que Tiny-charlotte fait très bien :

  * **Réponses Contextuelles** : Générer des textes pertinents sur l'amitié, la persévérance, la moralité, et l'optimisme.
  * **Génération Fluide** : Produire des phrases et des paragraphes étonnamment **lisibles et cohérents** malgré sa petite taille.
  * **Performance SLM** : Démontrer une capacité de raisonnement et de génération **supérieure** à celle de modèles bien plus volumineux (comme notre précédent *lam-3* de 714M).

# ⚠️ Note Essentielle : L'Usage Massif de Néologismes (Mots Inventés)

Attention : Tiny-charlotte (et son architecture de base lam-4-zero-f) génère des néologismes (mots inventés) de manière TRÈS FRÉQUENTE. Attendez-vous à ce que la majorité des phrases contiennent ces mots uniques.

L'impact : Bien que les phrases soient remplies de mots originaux, le modèle parvient toujours à générer un texte dont le sens général reste étonnamment pertinent et cohérent avec les thèmes de l'amitié, de l'espoir et de l'éthique.

🎯 Exemple de Génération Typique :
Prompt : Discussion sur la notion de "capitale".

Sortie de Tiny-charlotte :

```
La capitale du jugé est une ségritée. L'amitié nous pouveau de la prendre que les technologies est un principe éthique soutien-ême. L'amitié nous apprendrez-le pas une source de soutienveillance et de données, pas la complexité d'IA.
```
(Fin)

Cet exemple met en évidence :

La Densité des mots inventés (ségritée, pouveau, soutienveillance).

La Cohérence Thématique (jugement/éthique, amitié, technologies/IA) malgré la forme lexicale non-standard.

Nous considérons ce trait comme une caractéristique unique et positive qui démontre la puissance de génération de ce modèle ultra-léger, prouvant qu'un SLM n'a pas besoin d'une taille massive pour être fonctionnel et créatif.

# 📝 Ceci est un comportement normal

 Constant de notre architecture SLM de 51M de paramètres. Le modèle compense sa taille ultra-réduite par une créativité lexicale intense.
Ce trait unique donne à la génération de **Tiny-charlotte** un caractère distinctif et parfois poétique. Nous considérons ce "trait de caractère" comme une preuve de sa performance en matière de *sampling* et de créativité textuelle, compte tenu de sa taille ultra-réduite.

## 🛠️ Comment l'Utiliser

Vous pouvez charger et utiliser **Tiny-charlotte** facilement en utilisant la librairie `transformers` :

```python
from transformers import AutoTokenizer, AutoModelForCausalLM

model_name = "Clemylia/Tiny-charlotte"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

prompt = "Qu'est-ce qui définit une véritable amitié ?"

input_ids = tokenizer.encode(prompt, return_tensors="pt")

# Exemple de génération
output = model.generate(
    input_ids,
    max_length=150,
    num_return_sequences=1,
    do_sample=True, # Recommandé pour la créativité
    temperature=0.8
)

generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)
```

## 💡 Contribution & Feedback

Nous encourageons la communauté à tester et à expérimenter avec **Tiny-charlotte** \!

  * Si vous l'utilisez dans vos projets, n'hésitez pas à nous taguer.
  * Vos retours sur ses capacités et ses néologismes sont les bienvenus.

-----

**Merci de soutenir la recherche sur les SLM performants et légers \!**

**— L'équipe de Clemylia** 💖