# `eval_dz.jsonl` — jeu d'evaluation algerien, propre et multi-references

Produit par `tools/dzns/build_eval_dz.py`, graine **20260731**, ecriture
atomique. Deux passages consecutifs rendent le meme fichier au bit pres.

| | |
| --- | --- |
| Fichier | `data/external/eval_dz/eval_dz.jsonl` |
| Lignes (clefs arabes) | **1 941** |
| References acceptees | **3 480** — **1,79 par clef** en moyenne, mediane 1, max 38 |
| Clefs a composition mot a mot | **595** (`refs_mots`) |
| Clefs de la strate historique S2 | **190** |
| sha256 | `11246817dcd1e8dc68c8601e99e9416586cd72a3148d07c38ca13f7500098afa` |
| Verdicts de relecture | `verdicts.json` (295 lignes) |
| Comptes bruts | `mesures.json` |

Format, une ligne par clef arabe :

```json
{"ar":"بوخميس","refs":["boukhemis","boukhemiss","boukhmiss"],"n_refs":3,
 "refs_mots":[],"refs_src":["boukhemiss"],"refs_src_propre":["boukhemiss"],
 "src":["dzns_eval_large","dzns_full","dzns_mots"],"s2":true,
 "type":["patronyme"],"fuite_base":false,"note":""}
```

`refs_src` conserve les references d'origine de `dzns_eval_large.csv` :
l'ancien jeu et le nouveau se mesurent alors dans la **meme passe**, sans
regenerer, et l'apport de chaque correction se lit separement.

---

## 1. Pourquoi

Le jeu d'avant (`dzns_eval_large.csv`, 2 070 lignes) mesurait en partie le bruit
du fichier. Trois defauts constates sur les 60 echecs de `mag_mix50` en S2 :

1. **Reference unique** la ou plusieurs graphies sont legitimes.
   `بوخميس` n'acceptait que `BOUKHEMISS` ; `Boukhemis` etait compte faux.
2. **References fausses.** `حسين زايدي -> HACENE ZAIDI` : `حسين` s'ecrit
   Hocine / Houcine, `HACENE` rend `حسن`.
3. **n = 198** en S2, σ ≈ 3,3 points : rien ne se tranche a cette taille.

Le nouveau jeu repond aux trois : 1 941 clefs (σ ≈ 1,1 point), 1,79 reference
par clef, et les references fausses relues une par une.

---

## 2. Les clefs

Reprises telles quelles de `data/external/dzns_full/dzns_eval_large.csv`
(2 070 lignes), sans nouveau tirage : la strate reste celle de `PARTITION.md`,
donc les 199 paires S2 historiques restent identifiables (`s2: true`) et la
comparabilite avec toutes les mesures passees est conservee.

- normalisation arabe : `normalize_arabic(..., fix_order="never")`, espaces
  reduits — exactement la clef que le modele recoit ;
- normalisation latine : `normalise_latin(reparer_latin(...))`, celle de
  `tools/dzns/dzns_common.py` ;
- 2 070 lignes -> **1 943 clefs arabes distinctes**, 1 989 couples
  (clef, reference) ; deux clefs disparaissent apres relecture (§5), d'ou
  **1 941**.

---

## 3. Les multi-references — d'ou viennent les graphies ajoutees

Vivier interroge, **par clef arabe exacte ET par pli `arabic_fold_key`** :

| Source | Nature | Ce qu'elle apporte |
| --- | --- | --- |
| `data/external/dzns_full/{names,surnames}_full_dataset.csv` | DZNS complet, brut, nom entier | graphies concurrentes du meme nom complet |
| `data/external/dzns/algerian_{names,surnames}.csv` | les 199 paires S2 | — |
| `data/external/dzns_full/dzns_pairs.jsonl` | DZNS aligne MOT A MOT (fichier de PRODUCTION, sans bannissement) | graphies d'un mot vu a l'interieur d'un nom compose |
| `data/external/aldjia/aldjia_pairs.jsonl` | Aldjia aligne mot a mot | idem, autre registre |

**Les CSV bruts d'Aldjia (`raw/merged-*.csv`) ne sont PAS lus.** Ils collent le
patronyme devant le prenom d'un cote et pas de l'autre
(`familyname_fr = "ABADA DJAMILA"` en face de `عبادة`) : les lire tels quels
ajoutait **576 variantes candidates**, dont **484 signalees suspectes** par la
regle du §5 — mesure faite, c'est ce qui a fait ecarter ces fichiers.
C'est `tools/dzns/aldjia_build.py` qui trie
ces lignes, et son resultat — `aldjia_pairs.jsonl` — est ce qui est utilise.

Deux garde-fous a la lecture du DZNS brut : rejet des lignes ou un cote contient
l'ecriture de l'autre, et rejet des lignes ou les deux cotes different de **deux
mots ou plus** (patronyme colle).

Vivier obtenu : **28 548 clefs arabes, 38 130 paires**. Il fournit
**2 019 variantes candidates** pour les 1 943 clefs d'evaluation.

### Composition mot a mot (`refs_mots`)

Une reference unique reste unique quand le nom est compose : `حسين زايدي`
n'existe qu'une fois dans le vivier, et l'enrichissement par nom entier ne
l'atteint pas. Pour les **595** clefs ou l'arabe et une reference ont le meme
nombre de mots, on publie donc, mot par mot, l'ensemble des graphies attestees
de CE mot (moyenne **7,7 graphies par mot**) — construites exactement comme les
references de clef : vivier exact + pli, rejet des fuites, rejet des verdicts
`fausse`.

Une proposition est alors juste si **chaque mot** correspond au groupe
correspondant. `حسين زايدي -> Houcine Zaidi` devient juste, ce qu'il aurait
toujours du etre.

**Cette regle est mesuree separement** (`compose`) de la multi-reference simple
(`multi`) dans `tools/dzns/eval_dz.py` : on voit ce qu'elle apporte, elle ne se
cache pas dans un total.

---

## 4. GARDE-FOU ANTI-FUITE — verifie, pas suppose

Ajouter une graphie comme reference n'est legitime que si **cette paire n'a
jamais servi a l'entrainement**. Le controle porte sur la paire
`(mot arabe, graphie latine)`, **au mot exact ET par pli**
(`arabic_fold_key` cote arabe, `fold_latin` cote latin), contre les six
fichiers d'entrainement de tous les modeles du projet :

| Corpus | Paires | Clefs arabes | Variantes candidates qui y figurent |
| --- | ---: | ---: | :---: |
| `data/nmt_maghreb/train.jsonl` | 56 976 | 42 478 | **0 / 2 019** |
| `data/nmt_maghreb_mix25/train.jsonl` | 164 913 | 118 479 | **0 / 2 019** |
| `data/nmt_maghreb_mix50/train.jsonl` | 245 448 | 164 369 | **0 / 2 019** |
| `data/nmt_maghreb_mix100/train.jsonl` | 324 335 | 199 649 | **0 / 2 019** |
| `data/nmt_strict/train.jsonl` | 299 521 | 179 445 | 372 exactes + 45 par pli |
| `data/nmt_strict/valid.jsonl` | 16 849 | 10 051 | 25 exactes + 12 par pli |

**Les quatre corpus d'affinage maghrebin sont a 0 fuite, exact et par pli.** Le
bannissement par mot et par pli decrit dans `PARTITION.md` §4 tient : il est ici
re-verifie de l'exterieur, sur un vivier plus large que celui qui a servi a le
construire.

**Le corpus mondial `nmt_strict`, lui, n'est PAS sur.** 436 variantes candidates
sur 2 019 (**21,6 %**) y figurent. Elles sont **jetees** : il en reste 1 583
gardees. Exemples jetes : `أحلام/ahlam`, `أسماء/asma`, `أشرف/achref`,
`أنيس/anais` (par pli).

### Ce que cela revele sur le jeu d'AVANT — a savoir avant de lire un chiffre

Le meme controle applique aux references **d'origine** de `dzns_eval_large.csv`
donne :

| | Compte | Part |
| --- | ---: | ---: |
| Couples (clef, reference) d'origine presents dans `nmt_strict/train` ou `valid` | **247** | **12,4 %** des 1 989 |
| Clefs arabes d'origine presentes dans `nmt_strict/train` (mot exact) | 430 | **22,1 %** des 1 943 |

`nmt_strict` est le corpus de **pre-entrainement de tous les modeles du projet**,
`strict` et `rebal_f2` compris. La strate DZNS n'a donc jamais ete propre vis a
vis de lui : le bannissement de `PARTITION.md` protege l'affinage maghrebin, pas
le pre-entrainement mondial, qui est anterieur.

Ces 247 references ne sont **pas retirees** — les retirer changerait la
definition de l'ancien jeu et rendrait la comparaison impossible. Chaque clef
concernee porte `fuite_base: true` (**231 clefs**), et `tools/dzns/tables_dz.py`
publie systematiquement la mesure restreinte aux **1 710 clefs sures**. **Tout
ecart inferieur a ce biais doit etre lu avec cette reserve.**

### Le prix du garde-fou, dit franchement

Jeter les 436 variantes vues par `nmt_strict` retire aussi des graphies
parfaitement correctes. `أنيس` garde `aness`, `annis`, `anyes` mais **perd
`anis`** : un modele qui repond `Anis` en tete est compte faux. C'est le prix a
payer pour ne pas recompenser la memorisation, et il **abaisse les chiffres
absolus** de tous les modeles.

Il ne fausse en revanche **aucune comparaison entre modeles** : les neuf modeles
du projet sont tous pre-entraines sur `nmt_strict`, la penalite est la meme pour
tous. Les classements de ce rapport ne sont pas affectes ; seuls les niveaux
absolus sont une **borne basse**.

---

## 5. References fausses — detection par regle, puis relecture a la main

### La regle

Trois indices, tous deterministes, calcules pour chaque couple
(clef arabe, reference) :

1. **Squelette consonantique.** Chaque lettre arabe est envoyee sur un ensemble
   de classes consonantiques (`ق` -> {K, G, Q}, `ش` -> {C}, `خ` -> {X, K, H}…),
   les lettres faibles (`ا أ إ آ ع ء ة`) et les semi-voyelles (`و ي`) sont
   omises. Le latin est decoupe en digrammes puis en lettres vers les memes
   classes (`kh`, `gh`, `ch`, `sh`, `dj`, `th`, `ph`, `gu`, `ck`…), voyelles
   omises. On compare par distance de Levenshtein a classes : substitution
   gratuite si les classes se croisent, suppression gratuite d'une classe
   optionnelle (H muet, semi-voyelle). Suspect si **d ≥ 2**, ou **d = 1 sur un
   nom de 4 consonnes ou moins**.
2. **Voyelle longue.** Un `ي` ou un `و` en position non initiale exige une
   realisation latine (`i`/`y`, `o`/`u`/`w`/`v`). C'est cet indice, et lui seul,
   qui attrape `حسين -> hacene` : le squelette H-S-N coincide, la voyelle longue
   manque.
3. **Nombre de mots** : ecart de 2 mots ou plus entre les deux cotes.

**295 couples sur 3 916** (7,5 %) sont ressortis suspects.

### La relecture

**Les 295 ont ete relus un par un**, bien au-dela des 60 demandes, et classes
en trois :

| Verdict | References d'origine | Variantes ajoutees | Total |
| --- | ---: | ---: | ---: |
| `juste` — la regle s'est trompee | 71 | 80 | 151 |
| `douteuse` — gardee, **marquee** dans `note` | 12 | 40 | 52 |
| `fausse` — **retiree** | **4** | **88** | **92** |

Les verdicts sont dans `verdicts.json`, avec le motif de suspicion et la source
de chaque couple. Deux clefs perdent toutes leurs references et disparaissent :
d'ou 1 943 - 2 = **1 941**.

### Les 4 references d'origine retirees, avec le motif

| Clef | Reference retiree | Motif |
| --- | --- | --- |
| `حاج عبد الرحمن` | `hadj abderrahm` | troncature de saisie |
| `حمزة` | `hamzarep` | chaine parasite (`hamza` + `rep`) |
| `عاشور` | `achir` | `عاشور` = Achour ; `achir` rend `عاشير`, autre nom |
| `محمد السعيدي` | `mohamed saci` | `السعيدي` = Essaidi ; `saci` rend `ساسي` |

### Les 88 variantes ajoutees retirees — trois causes, comptees

| Cause | Compte | Exemples |
| --- | ---: | --- |
| Desalignement prenom/patronyme dans une source alignee mot a mot | 51 | `عيسى/karima`, `زينب/moussaoui`, `شعبان/khaled`, `عبد القادر/samia` |
| Troncature ou parasite de saisie | 24 | `عبد الرحمن/abderra`, `إسماعيل/isma`, `محمد/mohamme`, `عبد الجليل/abdeldjall` |
| Nom voisin mais distinct | 13 | `عبد المؤمن/abdelmounaim` (= عبد المنعم), `عبد الصمد/abdessami` (= عبد السميع), `كوثر/kaoula` |

Par source : `aldjia_mots` 51, `dzns_mots` 34, `dzns_full` 16,
`dzns_eval_large` 4. **Le desalignement mot a mot est le defaut dominant du
vivier**, et il vient des deux fichiers alignes, pas des CSV bruts.

### Cas `douteux` gardes et marques

52 couples : ecriture plausible mais contestable. Les trois familles :

- `حسين -> hacene / hassene / hacéne` et `باباحسين -> babahacene` — le registre
  algerien ecrit reellement ainsi, mais la lecture stricte donne `حسن`. **Garde
  et marque** : les retirer ferait perdre des lignes reelles de l'etat civil,
  les garder sans marque cacherait le probleme.
- Abreviations de registre : `محمد -> med / md / moh`.
- Coquilles attestees : `عبد الرحمن -> adberrahmane`, `إبراهيم -> ibahim`.

### Taux d'erreur du fichier source — mesure, avec son intervalle

Deux echantillons, tous deux relus a la main :

| Echantillon | Taille | `fausse` |
| --- | ---: | ---: |
| Les 87 references d'origine **signalees** par la regle | 87 | 4 |
| 70 references d'origine **non signalees**, tirees au hasard (graine 20260731) | 70 | **0** |

Aucune fausse dans les 70 non signalees : la borne haute a 95 % (regle de trois)
est 4,3 % sur ce strate.

> **Taux de references fausses de `dzns_eval_large.csv` : 0,20 %**
> (4 sur 1 989), **IC 95 % : 0,20 – 4,3 %**.
> En comptant aussi les `douteuses` : **0,80 %** signalees, plus une part non
> signalee estimee a 2,9 % (2 cas limites sur 70) — soit **~3 %** de references
> discutables au total.

**La regle laisse passer des cas, c'est mesure et il faut le dire.** Exemple
trouve apres coup en relisant des echecs : `أصيل عبد المؤمن -> assil
abdelmouhaimen` — `abdelmouhaimen` rend `عبد المهيمن`, pas `عبد المؤمن`. La
distance de squelette vaut 1 sur un nom de 6 consonnes, sous le seuil. C'est
exactement ce que l'intervalle 0,20 – 4,3 % dit : le vrai taux est quelque part
la-dedans, il n'est pas 0,20 %.

**Le fichier source est neanmoins propre au niveau de la LIGNE.** Le gros du
bruit n'est pas la : il est dans les fichiers **alignes mot a mot**
(`dzns_pairs.jsonl`, `aldjia_pairs.jsonl`), ou 85 des 88 variantes retirees ont
ete puisees. Le
defaut n° 2 de la commande — `حسين -> HACENE ZAIDI` — n'est pas un desalignement
DZNS mais une **reference unique** : c'est la multi-reference qui le repare, pas
le retrait.

---

## 6. Ce qui n'est PAS fait, et pourquoi

- **Aucun nouveau tirage de clefs.** Le jeu reste celui de `PARTITION.md` pour
  rester comparable ; il n'est ni elargi ni re-echantillonne.
- **Les 247 references d'origine vues par `nmt_strict` ne sont pas retirees**
  (§4) : elles sont marquees. Le retrait changerait le jeu de comparaison.
- **Aucune graphie inventee.** Toute reference vient d'une source attestee du
  depot ; rien n'est produit par regle ni par modele.
- **Le sens lat -> ar est obtenu par inversion** du fichier, dans l'outil de
  mesure, pas ici : les clefs latines et leurs references arabes se deduisent
  des memes lignes.

## 7. Reconstruire

```bash
python tools/dzns/build_eval_dz.py                 # lit verdicts.json
python tools/dzns/build_eval_dz.py --suspects /chemin/suspects.json
```

Aucune ecriture hors de `data/external/eval_dz/`.