Instructions to use Finisha-F-scratch/Nelya-neko with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Nelya-neko with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Nelya-neko")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Nelya-neko") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Nelya-neko", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Finisha-F-scratch/Nelya-neko with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Nelya-neko" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Nelya-neko", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Finisha-F-scratch/Nelya-neko
- SGLang
How to use Finisha-F-scratch/Nelya-neko with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Nelya-neko" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Nelya-neko", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Nelya-neko" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Nelya-neko", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Finisha-F-scratch/Nelya-neko with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Nelya-neko
File size: 1,932 Bytes
546a399 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 | 🌸 **License : Nelya ** 🌸
Veuillez lire la license présente ci dessous et l'accepter.
Vous ne devez pas utiliser notre modèle,
si vous n'êtes pas prêt a accepter cette license.
les points ci-dessous s'appliquent a nos utilisateurs et aux autres développeurs,
pour notre LLM : Nelya,
ainsi que notre langue inventé (nekolien),
quil génère elle-même.
voici les conditions que vous devez acceptez :
1) Nelya est un LLM de 2b de Paramètres,
crée from scratch (de Zero),
par l'équipe de Clemylia.
de ce fait la propriété de ce modèle,
appartient en intégralité a la personne qui l'a entraîné.
2) Toute copie directe du modèle est strictement interdite.
Ce modèle est soumis aux droits d'auteurs de ses créateurs originaux,
et vous ne pouvez pas le plagie, le copier ou le distribuer,
sans aucune autorisation.
Cela demande au MOINS UNE AUTORISATION EXPLICITE DE CLEMYLIA,
pour la redistribution de vos versions Inspiré,
et vous ne pouvez en aucun cas faire usage commercial de vos versions ou du vrai modèle Nelya.
3) Le Fine-tuning est totalement interdit sur Le modèle Nelya-v1.
Sauf de la part de ses créateurs originaux eux-mêmes.
4) Vous pouvez utiliser le LLm Nelya,
en tant qu'utilisateur,
mais vous ne pouvez pas revendiquer la propriété du modèle Nelya.
5) Nous ne sommes en aucun cas responsable du mauvais usage du modèle.
6) Si vous fine-tuné une partie du modèle sans autorisation,
et qu'on sen rend compte,
Nous nous réservons le droit de vous réclamer au moins 50€ de dommage,
allant jusqu'à 200€,
dans les cas les plus graves de copie.
Ce modèle a été entraîné sur un bon TPU,
vous comprenez bien,
que c'est pas 100 % gratuit.
Du coup, toute malveillance à l'égard du modèle.
vous coûtera 200€.
7) La langue inventé (Nekolien),
qu'on a crée, et qui la langue générer par le modèle,
est entièrement soumis a nos droits d'auteurs artistiques.
Merci! |