README.md

metadata

language:
  - es
license: cc-by-4.0
library_name: transformers
pipeline_tag: text-classification
base_model: dccuchile/bert-base-spanish-wwm-cased
tags:
  - sentiment-analysis
  - spanish
  - beto
  - tass
  - text-classification
datasets:
  - TASS
metrics:
  - f1
  - accuracy
model-index:
  - name: beto-tass-sentiment
    results:
      - task:
          type: text-classification
          name: Sentiment Analysis
        dataset:
          name: TASS
          type: TASS
        metrics:
          - type: f1
            value: 0.668
            name: F1 macro
          - type: accuracy
            value: 0.675
            name: Accuracy

BETO fine-tuned para análisis de sentimiento (TASS)

Modelo de clasificación de sentimiento en español basado en BETO (bert-base-spanish-wwm-cased), afinado sobre el corpus TASS (tweets en español).

Clasifica un texto en 3 clases:

id	etiqueta	significado
0	N	Negativo
1	NEU	Neutro
2	P	Positivo

Resultados

Evaluación sobre el split de validación de TASS (mejor checkpoint, batch size 16):

Métrica	Valor
F1 macro	0.668
F1 weighted	0.673
Accuracy	0.675
Precision (macro)	0.672
Recall (macro)	0.667

Nota: en este corpus BETO casi iguala a XLM-RoBERTa-large (F1 0.676) pese a ser un modelo mucho más pequeño (~110M vs ~560M parámetros). La clase NEU es la más difícil (ambigua), lo que limita el F1 macro en las tres clases.

Uso

from transformers import pipeline

clf = pipeline("text-classification", model="ralzate/beto-tass-sentiment")
clf("Me encantó la película, la mejor del año")
# [{'label': 'P', 'score': 0.97}]

O con la API de bajo nivel:

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

tok = AutoTokenizer.from_pretrained("ralzate/beto-tass-sentiment")
model = AutoModelForSequenceClassification.from_pretrained("ralzate/beto-tass-sentiment")

inputs = tok("No me gustó para nada el servicio", return_tensors="pt")
pred = model(**inputs).logits.argmax(-1).item()
print(model.config.id2label[pred])  # N

Entrenamiento

• Base: dccuchile/bert-base-spanish-wwm-cased (BETO).
• Datos: TASS (sentimiento, español, 3 clases N/NEU/P).
• Hiperparámetros: batch size 16, fine-tuning completo; mejor checkpoint por F1 macro en validación.
• Hardware: Mac M1 Pro (16 GB), entrenamiento con MPS.

Limitaciones

• Entrenado con texto de Twitter: rinde mejor en lenguaje informal/corto; puede degradar en textos largos o formales.
• La clase NEU es ambigua y concentra la mayor parte de los errores.
• Sesgos propios de TASS y del dominio de redes sociales.

Contexto

Modelo derivado de un trabajo de maestría en PLN sobre clasificación de texto y NER en español. Modelo hermano: ralzate/beto-prostata-ner (NER clínico).

Licencia: CC-BY-4.0.