Instructions to use HostYourAI/loes-qwen3.8-27b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use HostYourAI/loes-qwen3.8-27b with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("image-text-to-text", model="HostYourAI/loes-qwen3.8-27b")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# Load model directly
from transformers import AutoProcessor, AutoModelForMultimodalLM

processor = AutoProcessor.from_pretrained("HostYourAI/loes-qwen3.8-27b")
model = AutoModelForMultimodalLM.from_pretrained("HostYourAI/loes-qwen3.8-27b", device_map="auto")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use HostYourAI/loes-qwen3.8-27b with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "HostYourAI/loes-qwen3.8-27b"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker

docker model run hf.co/HostYourAI/loes-qwen3.8-27b

SGLang

How to use HostYourAI/loes-qwen3.8-27b with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "HostYourAI/loes-qwen3.8-27b" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "HostYourAI/loes-qwen3.8-27b" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Unsloth Desktop
Docker Model Runner
How to use HostYourAI/loes-qwen3.8-27b with Docker Model Runner:
```
docker model run hf.co/HostYourAI/loes-qwen3.8-27b
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

Loes

Loes is een Nederlandse AI-assistent, gebouwd door HostYourAI en gehost op EU-grond. Dit model is een Nederlandstalige supervised fine-tune van orcarouter/Qwen3.8-27B-Uncensored, gericht op natuurlijk Nederlands en conversatie.

Meer over Loes staat op loes.ai.

Wat dit is

Deze repository bevat het volledig gemergede model in bfloat16, niet alleen een LoRA-adapter. De 18 safetensor-shards zijn samen circa 55,6 GB en kunnen zonder afzonderlijke adapter worden geladen.

Qwen3.8-27B is een multimodaal model. Tijdens deze training zijn alleen de taalcomponenten gefinetuned; de vision tower bleef bevroren. De beeld- en videomogelijkheden zijn daardoor geërfd van het basismodel en zijn in deze release niet apart geëvalueerd.

Trainingsketen

Onderdeel	Details	Licentie
Basismodel	`orcarouter/Qwen3.8-27B-Uncensored`, snapshot `404ea47aaa5d8a8b00049c9e9750089aca011ab2`	Apache 2.0
Trainingsdata	`HostYourAI/loes-xl-52k`	Zie de bronvoorwaarden van de dataset
Training	Unsloth, supervised fine-tuning met LoRA, daarna gemerged	Apache 2.0
Infrastructuur	1× NVIDIA H100 80 GB, UpCloud, Helsinki (`fi-hel2`)	EU-trainingslocatie

loes-xl-52k bevat 51.717 Nederlandstalige instructieparen: circa 11.717 synthetische conversatieparen, 20.000 Nederlandse Aya Collection-voorbeelden en 20.000 Nederlandse xP3x-taken. Na preprocessing zijn 51.283 voorbeelden voor de training gebruikt. Er is niet getraind op gebruikersgesprekken of gebruikersprompts van Loes.

Trainingsconfiguratie

Instelling	Waarde
Doel	supervised conversational fine-tuning
Epochs	1
Optimizerstappen	6.411
Maximale trainingslengte	1.024 tokens
Effectieve batchgrootte	8
Loss masking	alleen assistant-antwoorden
LoRA-rank / alpha	64 / 64
LoRA-dropout	0
Learning rate	2e-5
Scheduler	linear
Warm-up	5 stappen
Optimizer	AdamW 8-bit
Weight decay	0,001
Seed	3407
Trainbare parameters	466.911.232 van 27.823.639.792 (1,68%)

De adapters omvatten de attention-, linear-attention/Gated DeltaNet- en MLP-projecties van het taalmodel. De laatste gelogde training-batch loss was 0,5529. Dat is geen evaluatiescore: tijdens de training is geen held-out validatieset gebruikt.

Gebruikte software: Unsloth 2026.8.22, Unsloth Zoo 2026.8.16, Transformers 5.15.1, TRL 0.22.2, PyTorch 2.10.0+cu128 en torchao 0.17.0.

Gebruik

Transformers

from transformers import AutoModelForMultimodalLM, AutoProcessor

model_id = "HostYourAI/loes-qwen3.8-27b"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(
    model_id,
    dtype="auto",
    device_map="auto",
)

messages = [{
    "role": "user",
    "content": [{"type": "text", "text": "Leg in helder Nederlands uit wat soevereine AI is."}],
}]
inputs = processor.apply_chat_template(
    messages,
    add_generation_prompt=True,
    enable_thinking=False,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=300, do_sample=False)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))

vLLM

vllm serve HostYourAI/loes-qwen3.8-27b \
  --dtype bfloat16 \
  --max-model-len 16384

Roep het model daarna aan via de OpenAI-compatibele API. Voor de gemeten Loes-instellingen gebruik je temperature: 0. Native bfloat16-serving is getest op een H100 80 GB; kies quantisatie of meerdere GPU's wanneer minder geheugen beschikbaar is.

Beoogd gebruik en beperkingen

Dit model is bedoeld voor onderzoek, evaluatie en toepassingen met Nederlandse en Engelse conversatie. Test het altijd op de eigen taak voordat je het uitrolt.

Het upstream-checkpoint is expliciet uncensored. Verwacht niet dat het onveilige, illegale of schadelijke verzoeken betrouwbaar weigert; voeg toepassingsspecifieke veiligheidsmaatregelen toe.
Het model kan hallucineren, vooroordelen reproduceren, onjuiste informatie geven en adversarial instructies volgen.
De maximale trainingslengte was 1.024 tokens. De geërfde architectuur ondersteunt een veel langere context, maar deze finetune is daar niet systematisch op geëvalueerd.
Gebruik het model niet als enige basis voor medische, juridische, financiële of andere beslissingen met grote gevolgen.
De vision tower is niet aangepast en de multimodale kwaliteit van deze afgeleide release is niet apart gemeten.

Licentie

De modelgewichten worden beschikbaar gesteld onder de Apache License 2.0, net als het Qwen3.8-basismodel en de directe OrcaRouter-afgeleide. Trainingsdata en andere componenten blijven daarnaast onder hun eigen bronvoorwaarden vallen.

Herkomst

Laatste checkpoint: stap 6.411 van 6.411
Export: Unsloth merged_16bit met safe serialization
Voorbereid door HostYourAI als onderdeel van de Loes-modelserie
Contact: info@hostyourai.com

Downloads last month: 95

Safetensors

Model size

28B params

Tensor type

BF16

Model tree for HostYourAI/loes-qwen3.8-27b

Base model

Qwen/Qwen3.8-27B

Finetuned

orcarouter/Qwen3.8-27B-Uncensored

Finetuned

(9)

this model

Quantizations

2 models

HostYourAI
/

loes-qwen3.8-27b

Loes

Wat dit is

Trainingsketen

Trainingsconfiguratie

Gebruik

Transformers

vLLM

Beoogd gebruik en beperkingen

Licentie

Herkomst

Model tree for HostYourAI/loes-qwen3.8-27b

Dataset used to train HostYourAI/loes-qwen3.8-27b