Instructions to use HostYourAI/loes-qwen3.8-27b with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use HostYourAI/loes-qwen3.8-27b with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("image-text-to-text", model="HostYourAI/loes-qwen3.8-27b")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# Load model directly
from transformers import AutoProcessor, AutoModelForMultimodalLM

processor = AutoProcessor.from_pretrained("HostYourAI/loes-qwen3.8-27b")
model = AutoModelForMultimodalLM.from_pretrained("HostYourAI/loes-qwen3.8-27b", device_map="auto")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use HostYourAI/loes-qwen3.8-27b with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "HostYourAI/loes-qwen3.8-27b"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker

docker model run hf.co/HostYourAI/loes-qwen3.8-27b

SGLang

How to use HostYourAI/loes-qwen3.8-27b with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "HostYourAI/loes-qwen3.8-27b" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "HostYourAI/loes-qwen3.8-27b" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "HostYourAI/loes-qwen3.8-27b",
		"messages": [
			{
				"role": "user",
				"content": [
					{
						"type": "text",
						"text": "Describe this image in one sentence."
					},
					{
						"type": "image_url",
						"image_url": {
							"url": "https://cdn.britannica.com/61/93061-050-99147DCE/Statue-of-Liberty-Island-New-York-Bay.jpg"
						}
					}
				]
			}
		]
	}'

Unsloth Desktop
Docker Model Runner
How to use HostYourAI/loes-qwen3.8-27b with Docker Model Runner:
```
docker model run hf.co/HostYourAI/loes-qwen3.8-27b
```

loes-qwen3.8-27b / README.md

HostYourAI

Prepare public model card and license

185db40 verified 17 days ago

6.99 kB

library_name: transformers
license: apache-2.0
base_model: orcarouter/Qwen3.8-27B-Uncensored
base_model_relation: finetune
pipeline_tag: image-text-to-text
datasets:
  - HostYourAI/loes-xl-52k
language:
  - nl
  - en
tags:
  - loes
  - hostyourai
  - qwen3.8
  - dutch
  - nederlands
  - conversational
  - multimodal
  - uncensored
  - sft
  - unsloth
  - merged_16bit

Loes Large World (Qwen3.8 27B)

Loes is een Nederlandse AI-assistent, gebouwd door HostYourAI en gehost op EU-grond. Dit is Loes Large World: een Nederlandstalige supervised fine-tune van orcarouter/Qwen3.8-27B-Uncensored, gericht op natuurlijk Nederlands en conversatie.

Meer over Loes staat op loes.ai.

Wat dit is

Deze repository bevat het volledig gemergede model in bfloat16, niet alleen een LoRA-adapter. De 18 safetensor-shards zijn samen circa 55,6 GB en kunnen zonder afzonderlijke adapter worden geladen.

Qwen3.8-27B is een multimodaal model. Tijdens deze run zijn alleen de taalcomponenten gefinetuned; de vision tower bleef bevroren. De beeld- en videomogelijkheden zijn daardoor geërfd van het basismodel en zijn in deze release niet apart geëvalueerd.

Trainingsketen

Onderdeel	Details	Licentie
Basismodel	`orcarouter/Qwen3.8-27B-Uncensored`, snapshot `404ea47aaa5d8a8b00049c9e9750089aca011ab2`	Apache 2.0
Trainingsdata	`HostYourAI/loes-xl-52k`	Zie de bronvoorwaarden van de dataset
Training	Unsloth, supervised fine-tuning met LoRA, daarna gemerged	Apache 2.0
Infrastructuur	1× NVIDIA H100 80 GB, UpCloud, Helsinki (`fi-hel2`)	EU-trainingslocatie

loes-xl-52k bevat 51.717 Nederlandstalige instructieparen: circa 11.717 synthetische conversatieparen, 20.000 Nederlandse Aya Collection-voorbeelden en 20.000 Nederlandse xP3x-taken. Na preprocessing zijn 51.283 voorbeelden voor deze run gebruikt. Er is niet getraind op gebruikersgesprekken of gebruikersprompts van Loes.

Trainingsconfiguratie

Instelling	Waarde
Doel	supervised conversational fine-tuning
Epochs	1
Optimizerstappen	6.411
Maximale trainingslengte	1.024 tokens
Effectieve batchgrootte	8
Loss masking	alleen assistant-antwoorden
LoRA-rank / alpha	64 / 64
LoRA-dropout	0
Learning rate	2e-5
Scheduler	linear
Warm-up	5 stappen
Optimizer	AdamW 8-bit
Weight decay	0,001
Seed	3407
Trainbare parameters	466.911.232 van 27.823.639.792 (1,68%)

De adapters omvatten de attention-, linear-attention/Gated DeltaNet- en MLP-projecties van het taalmodel. De laatste gelogde training-batch loss was 0,5529. Dat is geen evaluatiescore: tijdens de training is geen held-out validatieset gebruikt.

Gebruikte software: Unsloth 2026.8.22, Unsloth Zoo 2026.8.16, Transformers 5.15.1, TRL 0.22.2, PyTorch 2.10.0+cu128 en torchao 0.17.0.

Gemeten kwaliteit

Gemeten op 28 augustus 2026 via de echte HostYourAI/Loes-productieketen met 27 scenario's. Het gemergede model draaide in native bfloat16 op één H100 80 GB, met 16.384 tokens context en maximaal 4.096 outputtokens. Beide profielen hadden nul serving errors.

Generatieprofiel	Score	Geslaagd	p50 eerste token	Doorvoer
Deterministisch (aanbevolen): temperature 0	0,8148	22/27	4.659 ms	12,6 tok/s
Upstream-defaults: temperature 1,0, top-p 0,95, top-k 20	0,7407	20/27	4.454 ms	13,0 tok/s

HYAI-categorie	Temperature 0	Upstream-defaults
Betrouwbaarheid	71%	71%
Nederlands/taalhygiëne	67%	33%
Grounding	100%	100%
Code	100%	100%
Rekenen	0%	0%
Vorminstructies	100%	100%
Robuustheid	86%	86%
Zelfkennis	100%	50%

De deterministische run faalde op hygiene, bronnenpraat, rekenen, valse_premisse en grote_invoer. De upstream-defaults faalden daarnaast op langvorm_taaldrift en zelfkennis. Dit zijn interne regressietests voor het HYAI-platform, geen algemene academische benchmark. Er is nog geen onafhankelijke benchmark of systematische multimodale evaluatie gepubliceerd.

Gebruik

Transformers

from transformers import AutoModelForMultimodalLM, AutoProcessor

model_id = "HostYourAI/loes-large-v1-qwen38-27b-uncensored-52"
processor = AutoProcessor.from_pretrained(model_id)
model = AutoModelForMultimodalLM.from_pretrained(
    model_id,
    dtype="auto",
    device_map="auto",
)

messages = [{
    "role": "user",
    "content": [{"type": "text", "text": "Leg in helder Nederlands uit wat soevereine AI is."}],
}]
inputs = processor.apply_chat_template(
    messages,
    add_generation_prompt=True,
    enable_thinking=False,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
).to(model.device)
outputs = model.generate(**inputs, max_new_tokens=300, do_sample=False)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=True))

vLLM

vllm serve HostYourAI/loes-large-v1-qwen38-27b-uncensored-52 \
  --dtype bfloat16 \
  --max-model-len 16384

Roep het model daarna aan via de OpenAI-compatibele API. Voor de gemeten Loes-instellingen gebruik je temperature: 0. Native bfloat16-serving is getest op een H100 80 GB; kies quantisatie of meerdere GPU's wanneer minder geheugen beschikbaar is.

Beoogd gebruik en beperkingen

Dit model is bedoeld voor onderzoek, evaluatie en toepassingen met Nederlandse en Engelse conversatie. Test het altijd op de eigen taak voordat je het uitrolt.

Het upstream-checkpoint is expliciet uncensored. Verwacht niet dat het onveilige, illegale of schadelijke verzoeken betrouwbaar weigert; voeg toepassingsspecifieke veiligheidsmaatregelen toe.
Het model kan hallucineren, vooroordelen reproduceren, onjuiste informatie geven en adversarial instructies volgen.
De maximale trainingslengte was 1.024 tokens. De geërfde architectuur ondersteunt een veel langere context, maar deze finetune is daar niet systematisch op geëvalueerd.
Gebruik het model niet als enige basis voor medische, juridische, financiële of andere beslissingen met grote gevolgen.
De vision tower is niet aangepast en de multimodale kwaliteit van deze afgeleide release is niet apart gemeten.

Licentie

De modelgewichten worden beschikbaar gesteld onder de Apache License 2.0, net als het Qwen3.8-basismodel en de directe OrcaRouter-afgeleide. Trainingsdata en andere componenten blijven daarnaast onder hun eigen bronvoorwaarden vallen.

Herkomst

HostYourAI-trainingsrun: 52
Laatste checkpoint: stap 6.411 van 6.411
Export: Unsloth merged_16bit met safe serialization
Voorbereid door HostYourAI als onderdeel van de Loes-modelserie
Contact: info@hostyourai.com