alfonsodlg's picture
Upload folder using huggingface_hub
6a61b60 verified
|
Raw
History Blame Contribute Delete
2.06 kB
---
license: apache-2.0
language:
- es
library_name: transformers
tags:
- gemma
- gguf
- sales
- conversational
- spanish
- fine-tuned
base_model: google/gemma-3-4b-it
model_type: gemma3
quantization: Q4_K_M
---
# 🤖 Celulares Gemma 3 4B v3 - Agente de Ventas (GGUF Q4_K_M)
Modelo Gemma 3 4B fine-tuned para ventas de celulares en español peruano.
## 📊 Especificaciones
| Parámetro | Valor |
|-----------|-------|
| Modelo base | google/gemma-3-4b-it |
| Cuantización | Q4_K_M (4-bit) |
| Tamaño | 2.4 GB |
| Idioma | Español (Perú) |
| Contexto | 4,096 tokens |
| Dataset | 1,017 conversaciones |
## 🎯 Uso
### Con Ollama
```bash
# Descargar el archivo GGUF
wget https://huggingface.co/alfonsodlg/celulares-gemma3-4b-gguf/resolve/main/celulares-v3-q4_k_m.gguf
# Crear Modelfile
cat > Modelfile << 'MODELFILE'
FROM ./celulares-v3-q4_k_m.gguf
TEMPLATE "<start_of_turn>user
{{ .Prompt }}<end_of_turn>
<start_of_turn>model
{{ .Response }}<end_of_turn>
"
SYSTEM "Eres un agente de ventas experto en celulares de Coolbox Perú. Tu personalidad es entusiasta, consultiva y orientada a resultados."
PARAMETER temperature 0.1
PARAMETER top_p 0.9
PARAMETER num_ctx 4096
PARAMETER stop "<end_of_turn>"
MODELFILE
# Importar a Ollama
ollama create celulares:v3-q4 -f Modelfile
```
### Ejemplo de uso
```python
import requests
response = requests.post('http://localhost:11434/api/generate', json={
'model': 'celulares:v3-q4',
'prompt': 'Busco un celular Samsung hasta 1500 soles',
'stream': False
})
print(response.json()['response'])
```
## 📈 Métricas
- **Tasa de éxito**: 100% (9/9 tests críticos)
- **Latencia**: 3-8 segundos (respuesta completa)
- **RAM**: ~4GB
## 🏋️ Entrenamiento
- **Plataforma**: Modal (H100)
- **Framework**: Unsloth
- **Dataset**: 1,017 conversaciones de ventas
- **Steps**: 200
- **Loss final**: ~0.4
## 📝 Licencia
Apache 2.0
## 🔗 Enlaces
- [Repositorio del proyecto](https://github.com/alfonsodlg/pricex-smart)
- [Modelo base Gemma 3](https://huggingface.co/google/gemma-3-4b-it)