cheriftenga/nllb-200-distilled-600M-ewe-lora-v2
Translation • Updated • 84
Datasets:
Dataset Viewer
The dataset viewer is not available for this split.
Cannot extract the features (columns) for the split 'train' of the config 'default' of the dataset.
Error code: FeaturesError
Exception: ParserError
Message: Error tokenizing data. C error: Expected 3 fields in line 24, saw 4
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/job_runners/split/first_rows.py", line 244, in compute_first_rows_from_streaming_response
iterable_dataset = iterable_dataset._resolve_features()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 4408, in _resolve_features
features = _infer_features_from_batch(self.with_format(None)._head())
~~~~~~~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2679, in _head
return next(iter(self.iter(batch_size=n)))
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2861, in iter
for key, pa_table in ex_iterable.iter_arrow():
~~~~~~~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2395, in _iter_arrow
yield from self.ex_iterable._iter_arrow()
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
~~~~~~~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/packaged_modules/csv/csv.py", line 198, in _generate_tables
for batch_idx, df in enumerate(csv_file_reader):
~~~~~~~~~^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/parsers/readers.py", line 1843, in __next__
return self.get_chunk()
~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/parsers/readers.py", line 1985, in get_chunk
return self.read(nrows=size)
~~~~~~~~~^^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/pandas/io/parsers/readers.py", line 1923, in read
) = self._engine.read( # type: ignore[attr-defined]
~~~~~~~~~~~~~~~~~^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
nrows
^^^^^
)
^
File "/usr/local/lib/python3.14/site-packages/pandas/io/parsers/c_parser_wrapper.py", line 234, in read
chunks = self._reader.read_low_memory(nrows)
File "pandas/_libs/parsers.pyx", line 850, in pandas._libs.parsers.TextReader.read_low_memory
File "pandas/_libs/parsers.pyx", line 905, in pandas._libs.parsers.TextReader._read_rows
File "pandas/_libs/parsers.pyx", line 874, in pandas._libs.parsers.TextReader._tokenize_rows
File "pandas/_libs/parsers.pyx", line 891, in pandas._libs.parsers.TextReader._check_tokenize_status
File "pandas/_libs/parsers.pyx", line 2061, in pandas._libs.parsers.raise_parser_error
pandas.errors.ParserError: Error tokenizing data. C error: Expected 3 fields in line 24, saw 4Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Corpus parallèle français - éwé v0.3
Corpus de traduction français - éwé (ewe) pour le machine translation en contexte de faible ressource, construit à partir de deux composantes :
| Composante | Langues | Année | Licence |
|---|---|---|---|
| Bible éwé (BFBS) - Segond 1910 | éwé / français | 1913 / 1910 | Domaine public - CC0-1.0 |
NLLB fr-ee filtré (OPUS / allenai) |
éwé / français | 2023 | ODC-By (attribution) |
Test de référence vérifié (split reference)
Le split reference contient 241 paires vérifiées à 100 % par
double validation indépendante (2 locuteurs natifs éwé, 97 % de
concordance entre vérificateurs, arbitrage final) :
- 124 paires Bible + 117 paires NLLB
- Verdicts par paire : ok / corriger / à rejeter ; seules les paires validées par les deux vérificateurs sont conservées
- Archive complète des vérifications :
test-reference-verifs.csvdans le repo GitHub (data/processed/v0.3/), avec le rapport détaillé
C'est la référence recommandée pour évaluer des systèmes FR-éwé :
le split test (auto-aligné) est utile pour l'entraînement et la
comparaison interne, mais la référence vérifiée est la seule base de
scores fiables.
Statut honnête
Corpus d'entraînement exploratoire - qualité mesurée par échantillons vérifiés par locuteur natif :
- Bible : ~66 % de paires correctes (100 paires vérifiées)
- NLLB filtré v3 : ~72 % (100 paires vérifiées, langues étrangères retirées)
Le bruit restant est principalement de l'alignement approximatif (corpus miné sur le web) - documenté en détail dans le datasheet. Acceptable pour l'entraînement ; d'où le test de référence vérifié pour l'évaluation.
Statistiques (v0.3)
| Split | Paires | Bible | NLLB |
|---|---|---|---|
| train | 52 512 | 12 812 | 39 700 |
| dev | 6 564 | 1 601 | 4 963 |
| test | 6 564 | 1 601 | 4 963 |
| reference (vérifiée) | 241 | 124 | 117 |
| Total | 65 640 | 16 014 | 49 626 |
Colonnes : id, source (bible | nllb), fr, ewe pour le split
reference ; source, fr, ewe pour les autres.
Résultats de modèles entraînés sur ce corpus
Scores officiels (sur le split reference vérifié, 241 paires)
| Direction | Modèle | chrF++ | BLEU |
|---|---|---|---|
| FR -> éwé | NLLB baseline | 37,22 | 11,17 |
| FR -> éwé | LoRA v1 (unidir.) | 47,39 | 22,20 |
| FR -> éwé | LoRA v2 (bidir.) | 47,95 | 22,42 |
| éwé -> FR | NLLB baseline | 38,14 | 14,92 |
| éwé -> FR | LoRA v1 (unidir.) | 37,52 | 15,15 |
| éwé -> FR | LoRA v2 (bidir.) | 52,24 | 31,83 |
La v2 (entraînement bidirectionnel) corrige le sens éwé -> FR : +14,72 chrF++ par rapport à la v1. Les deux directions sont désormais au même niveau (~48 et ~52 chrF++).
Sur le split test auto-aligné (6 564 paires, pour comparaison)
| Direction | Modèle | chrF++ | BLEU |
|---|---|---|---|
| FR -> éwé | NLLB baseline | 34,96 | 11,38 |
| FR -> éwé | + LoRA fine-tune | 41,83 | 18,71 |
| éwé -> FR | NLLB baseline | 33,76 | 13,53 |
| éwé -> FR | + LoRA fine-tune | 33,35 | 13,69 |
Benchmark Google Translate (split reference, 241 paires)
La v2 surpasse Google Translate dans les deux directions :
| Direction | LoRA v2 | Google Translate |
|---|---|---|
| FR -> éwé chrF++ | 47,95 | 38,62 |
| éwé -> FR chrF++ | 52,24 | 49,86 |
Modèles publiés :
- v2 (recommandé) : cheriftenga/nllb-200-distilled-600M-ewe-lora-v2
- v1 : cheriftenga/nllb-200-distilled-600M-ewe-lora
Licence
- Composante Bible : domaine public - publiée sous CC0-1.0
- Composante NLLB : ODC-By (Open Data Commons Attribution) - attribution requise : NLLB dataset (allenai) via OPUS, ODC-By
- L'ensemble est redistribué sous CC0-1.0 avec attribution de la composante NLLB (l'attribution ODC-By est conservée dans cette fiche).
- Le split
reference(vérifications humaines) : CC0-1.0.
Utilisation
from datasets import load_dataset
ds = load_dataset("cheriftenga/tg-nlp-toolkit-fr-ewe-v0.3")
print(ds["reference"][0])
Ou lecture directe des TSV :
import pandas as pd
df = pd.read_csv("hf://datasets/cheriftenga/tg-nlp-toolkit-fr-ewe-v0.3/train.tsv", sep="\t")
Remarques sur les données
- Registre : biblique (Bible) + hétérogène web miné (NLLB : religieux, vie courante, actualités)
- Orthographe : éwé historique (1913) et éwé moderne (NLLB) mélangés - chaque paire garde la variante de sa source (politique de variantes : une source = sa variante documentée)
- Variantes : le vérificateur principal du split
referenceest locuteur de l'éwé côtier de Lomé - Lexique Riebstein (8 574 entrées FR-éwé, domaine public) : composant séparé dans le dépôt GitHub
- Pipeline complet : https://github.com/cherif-tg/tg_nlp_toolkit
(
src/clean/+scripts/filter_nllb.py+scripts/assemble_v03.py)
Auteur
TENGA Cherif Abdel Azize - projet de fin d'études (École Polytechnique de Lomé, Togo). Corpus construit avec documentation honnête de la qualité : chaque taux annoncé est mesuré sur échantillon vérifié.
Prochaines étapes
- Scores officiels des modèles sur le split
reference(241 paires) - Fine-tuning v2 bidirectionnel (éwé -> FR en cours d'amélioration)
- Extension : grilles thématiques santé/administration (10 thèmes, traduction manuelle en cours) + composante audio (ASR)
- Downloads last month
- 26