Instructions to use Finisha-F-scratch/Natalia-pretrain with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/Natalia-pretrain with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/Natalia-pretrain")

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Natalia-pretrain")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Natalia-pretrain", device_map="auto")

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Finisha-F-scratch/Natalia-pretrain with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/Natalia-pretrain"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Natalia-pretrain",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/Natalia-pretrain

SGLang

How to use Finisha-F-scratch/Natalia-pretrain with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Natalia-pretrain" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Natalia-pretrain",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Natalia-pretrain" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Natalia-pretrain",
		"prompt": "Once upon a time,",
		"max_tokens": 512,
		"temperature": 0.5
	}'

Docker Model Runner
How to use Finisha-F-scratch/Natalia-pretrain with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/Natalia-pretrain
```

Natalia-pretrain / README.md

Clem27-Assistants

Update README.md

b8f3a3b verified 6 months ago

preview code

Raw History Blame Contribute Delete

1.68 kB

	---
	license: apache-2.0
	language:
	- fr
	- en
	- ar
	- xh
	- af
	- de
	- nl
	- be
	- my
	- pa
	- km
	library_name: transformers
	---
	# 📑 Documentation : Natalia-pretrain (v1.0)

	![Natalia](http://www.image-heberg.fr/files/17741884524106444112.jpg)

	Natalia-pretrain est un Small Language Model (SLM) polyglotte conçu pour l'efficience et la versatilité linguistique. Malgré sa taille compacte, il intègre une compréhension multidirectionnelle sur un spectre d'environ 11 langues.

	# 🛠 Spécifications Techniques
	* Architecture : Optimized Transformer Block 🧬
	* Nombre de paramètres : 123 Millions ⚙️
	* Type : Pre-trained Base Model (Generalist) 🌐
	* Capacité linguistique : Environ 11 langues supportées 🌍

	# 🎯 Capacités du Modèle
	Le modèle a été entraîné pour capturer les nuances structurelles de plusieurs familles de langues, permettant :
	* Zero-shot switching : Passage d'une langue à l'autre sans perte de contexte majeur 🔄
	* Syntaxe texturée : Conservation de l'originalité du langage propre au "from scratch" 🎨
	* Légèreté extrême : Déploiement fluide sur des infrastructures limitées ☁️

	# 📊 Performances & Entraînement
	Le processus de pré-entraînement de Natalia repose sur une sélection rigoureuse de datasets, évitant le lissage excessif des modèles conventionnels pour privilégier la personnalité et la précision.
	\| Caractéristique \| Valeur \|
	\|---\|---\|
	\| Paramètres \| 123M \|
	\| Tokeniseur \| Custom / Multi-lingual (environ 11 langues) \|

	> Note de la créatrice : Natalia-pretrain n'est pas un modèle "lisse". Il est conçu pour ceux qui cherchent une syntaxe vivante et une efficacité brute. 🛠️✨