Provenance

PROVENANCE.md

@@ -0,0 +1,299 @@
+# `eval_dz.jsonl` — jeu d'evaluation algerien, propre et multi-references
+
+Produit par `tools/dzns/build_eval_dz.py`, graine **20260731**, ecriture
+atomique. Deux passages consecutifs rendent le meme fichier au bit pres.
+
+| | |
+| --- | --- |
+| Fichier | `data/external/eval_dz/eval_dz.jsonl` |
+| Lignes (clefs arabes) | **1 941** |
+| References acceptees | **3 480** — **1,79 par clef** en moyenne, mediane 1, max 38 |
+| Clefs a composition mot a mot | **595** (`refs_mots`) |
+| Clefs de la strate historique S2 | **190** |
+| sha256 | `11246817dcd1e8dc68c8601e99e9416586cd72a3148d07c38ca13f7500098afa` |
+| Verdicts de relecture | `verdicts.json` (295 lignes) |
+| Comptes bruts | `mesures.json` |
+
+Format, une ligne par clef arabe :
+
+```json
+{"ar":"بوخميس","refs":["boukhemis","boukhemiss","boukhmiss"],"n_refs":3,
+ "refs_mots":[],"refs_src":["boukhemiss"],"refs_src_propre":["boukhemiss"],
+ "src":["dzns_eval_large","dzns_full","dzns_mots"],"s2":true,
+ "type":["patronyme"],"fuite_base":false,"note":""}
+```
+
+`refs_src` conserve les references d'origine de `dzns_eval_large.csv` :
+l'ancien jeu et le nouveau se mesurent alors dans la **meme passe**, sans
+regenerer, et l'apport de chaque correction se lit separement.
+
+---
+
+## 1. Pourquoi
+
+Le jeu d'avant (`dzns_eval_large.csv`, 2 070 lignes) mesurait en partie le bruit
+du fichier. Trois defauts constates sur les 60 echecs de `mag_mix50` en S2 :
+
+1. **Reference unique** la ou plusieurs graphies sont legitimes.
+   `بوخميس` n'acceptait que `BOUKHEMISS` ; `Boukhemis` etait compte faux.
+2. **References fausses.** `حسين زايدي -> HACENE ZAIDI` : `حسين` s'ecrit
+   Hocine / Houcine, `HACENE` rend `حسن`.
+3. **n = 198** en S2, σ ≈ 3,3 points : rien ne se tranche a cette taille.
+
+Le nouveau jeu repond aux trois : 1 941 clefs (σ ≈ 1,1 point), 1,79 reference
+par clef, et les references fausses relues une par une.
+
+---
+
+## 2. Les clefs
+
+Reprises telles quelles de `data/external/dzns_full/dzns_eval_large.csv`
+(2 070 lignes), sans nouveau tirage : la strate reste celle de `PARTITION.md`,
+donc les 199 paires S2 historiques restent identifiables (`s2: true`) et la
+comparabilite avec toutes les mesures passees est conservee.
+
+- normalisation arabe : `normalize_arabic(..., fix_order="never")`, espaces
+  reduits — exactement la clef que le modele recoit ;
+- normalisation latine : `normalise_latin(reparer_latin(...))`, celle de
+  `tools/dzns/dzns_common.py` ;
+- 2 070 lignes -> **1 943 clefs arabes distinctes**, 1 989 couples
+  (clef, reference) ; deux clefs disparaissent apres relecture (§5), d'ou
+  **1 941**.
+
+---
+
+## 3. Les multi-references — d'ou viennent les graphies ajoutees
+
+Vivier interroge, **par clef arabe exacte ET par pli `arabic_fold_key`** :
+
+| Source | Nature | Ce qu'elle apporte |
+| --- | --- | --- |
+| `data/external/dzns_full/{names,surnames}_full_dataset.csv` | DZNS complet, brut, nom entier | graphies concurrentes du meme nom complet |
+| `data/external/dzns/algerian_{names,surnames}.csv` | les 199 paires S2 | — |
+| `data/external/dzns_full/dzns_pairs.jsonl` | DZNS aligne MOT A MOT (fichier de PRODUCTION, sans bannissement) | graphies d'un mot vu a l'interieur d'un nom compose |
+| `data/external/aldjia/aldjia_pairs.jsonl` | Aldjia aligne mot a mot | idem, autre registre |
+
+**Les CSV bruts d'Aldjia (`raw/merged-*.csv`) ne sont PAS lus.** Ils collent le
+patronyme devant le prenom d'un cote et pas de l'autre
+(`familyname_fr = "ABADA DJAMILA"` en face de `عبادة`) : les lire tels quels
+ajoutait **576 variantes candidates**, dont **484 signalees suspectes** par la
+regle du §5 — mesure faite, c'est ce qui a fait ecarter ces fichiers.
+C'est `tools/dzns/aldjia_build.py` qui trie
+ces lignes, et son resultat — `aldjia_pairs.jsonl` — est ce qui est utilise.
+
+Deux garde-fous a la lecture du DZNS brut : rejet des lignes ou un cote contient
+l'ecriture de l'autre, et rejet des lignes ou les deux cotes different de **deux
+mots ou plus** (patronyme colle).
+
+Vivier obtenu : **28 548 clefs arabes, 38 130 paires**. Il fournit
+**2 019 variantes candidates** pour les 1 943 clefs d'evaluation.
+
+### Composition mot a mot (`refs_mots`)
+
+Une reference unique reste unique quand le nom est compose : `حسين زايدي`
+n'existe qu'une fois dans le vivier, et l'enrichissement par nom entier ne
+l'atteint pas. Pour les **595** clefs ou l'arabe et une reference ont le meme
+nombre de mots, on publie donc, mot par mot, l'ensemble des graphies attestees
+de CE mot (moyenne **7,7 graphies par mot**) — construites exactement comme les
+references de clef : vivier exact + pli, rejet des fuites, rejet des verdicts
+`fausse`.
+
+Une proposition est alors juste si **chaque mot** correspond au groupe
+correspondant. `حسين زايدي -> Houcine Zaidi` devient juste, ce qu'il aurait
+toujours du etre.
+
+**Cette regle est mesuree separement** (`compose`) de la multi-reference simple
+(`multi`) dans `tools/dzns/eval_dz.py` : on voit ce qu'elle apporte, elle ne se
+cache pas dans un total.
+
+---
+
+## 4. GARDE-FOU ANTI-FUITE — verifie, pas suppose
+
+Ajouter une graphie comme reference n'est legitime que si **cette paire n'a
+jamais servi a l'entrainement**. Le controle porte sur la paire
+`(mot arabe, graphie latine)`, **au mot exact ET par pli**
+(`arabic_fold_key` cote arabe, `fold_latin` cote latin), contre les six
+fichiers d'entrainement de tous les modeles du projet :
+
+| Corpus | Paires | Clefs arabes | Variantes candidates qui y figurent |
+| --- | ---: | ---: | :---: |
+| `data/nmt_maghreb/train.jsonl` | 56 976 | 42 478 | **0 / 2 019** |
+| `data/nmt_maghreb_mix25/train.jsonl` | 164 913 | 118 479 | **0 / 2 019** |
+| `data/nmt_maghreb_mix50/train.jsonl` | 245 448 | 164 369 | **0 / 2 019** |
+| `data/nmt_maghreb_mix100/train.jsonl` | 324 335 | 199 649 | **0 / 2 019** |
+| `data/nmt_strict/train.jsonl` | 299 521 | 179 445 | 372 exactes + 45 par pli |
+| `data/nmt_strict/valid.jsonl` | 16 849 | 10 051 | 25 exactes + 12 par pli |
+
+**Les quatre corpus d'affinage maghrebin sont a 0 fuite, exact et par pli.** Le
+bannissement par mot et par pli decrit dans `PARTITION.md` §4 tient : il est ici
+re-verifie de l'exterieur, sur un vivier plus large que celui qui a servi a le
+construire.
+
+**Le corpus mondial `nmt_strict`, lui, n'est PAS sur.** 436 variantes candidates
+sur 2 019 (**21,6 %**) y figurent. Elles sont **jetees** : il en reste 1 583
+gardees. Exemples jetes : `أحلام/ahlam`, `أسماء/asma`, `أشرف/achref`,
+`أنيس/anais` (par pli).
+
+### Ce que cela revele sur le jeu d'AVANT — a savoir avant de lire un chiffre
+
+Le meme controle applique aux references **d'origine** de `dzns_eval_large.csv`
+donne :
+
+| | Compte | Part |
+| --- | ---: | ---: |
+| Couples (clef, reference) d'origine presents dans `nmt_strict/train` ou `valid` | **247** | **12,4 %** des 1 989 |
+| Clefs arabes d'origine presentes dans `nmt_strict/train` (mot exact) | 430 | **22,1 %** des 1 943 |
+
+`nmt_strict` est le corpus de **pre-entrainement de tous les modeles du projet**,
+`strict` et `rebal_f2` compris. La strate DZNS n'a donc jamais ete propre vis a
+vis de lui : le bannissement de `PARTITION.md` protege l'affinage maghrebin, pas
+le pre-entrainement mondial, qui est anterieur.
+
+Ces 247 references ne sont **pas retirees** — les retirer changerait la
+definition de l'ancien jeu et rendrait la comparaison impossible. Chaque clef
+concernee porte `fuite_base: true` (**231 clefs**), et `tools/dzns/tables_dz.py`
+publie systematiquement la mesure restreinte aux **1 710 clefs sures**. **Tout
+ecart inferieur a ce biais doit etre lu avec cette reserve.**
+
+### Le prix du garde-fou, dit franchement
+
+Jeter les 436 variantes vues par `nmt_strict` retire aussi des graphies
+parfaitement correctes. `أنيس` garde `aness`, `annis`, `anyes` mais **perd
+`anis`** : un modele qui repond `Anis` en tete est compte faux. C'est le prix a
+payer pour ne pas recompenser la memorisation, et il **abaisse les chiffres
+absolus** de tous les modeles.
+
+Il ne fausse en revanche **aucune comparaison entre modeles** : les neuf modeles
+du projet sont tous pre-entraines sur `nmt_strict`, la penalite est la meme pour
+tous. Les classements de ce rapport ne sont pas affectes ; seuls les niveaux
+absolus sont une **borne basse**.
+
+---
+
+## 5. References fausses — detection par regle, puis relecture a la main
+
+### La regle
+
+Trois indices, tous deterministes, calcules pour chaque couple
+(clef arabe, reference) :
+
+1. **Squelette consonantique.** Chaque lettre arabe est envoyee sur un ensemble
+   de classes consonantiques (`ق` -> {K, G, Q}, `ش` -> {C}, `خ` -> {X, K, H}…),
+   les lettres faibles (`ا أ إ آ ع ء ة`) et les semi-voyelles (`و ي`) sont
+   omises. Le latin est decoupe en digrammes puis en lettres vers les memes
+   classes (`kh`, `gh`, `ch`, `sh`, `dj`, `th`, `ph`, `gu`, `ck`…), voyelles
+   omises. On compare par distance de Levenshtein a classes : substitution
+   gratuite si les classes se croisent, suppression gratuite d'une classe
+   optionnelle (H muet, semi-voyelle). Suspect si **d ≥ 2**, ou **d = 1 sur un
+   nom de 4 consonnes ou moins**.
+2. **Voyelle longue.** Un `ي` ou un `و` en position non initiale exige une
+   realisation latine (`i`/`y`, `o`/`u`/`w`/`v`). C'est cet indice, et lui seul,
+   qui attrape `حسين -> hacene` : le squelette H-S-N coincide, la voyelle longue
+   manque.
+3. **Nombre de mots** : ecart de 2 mots ou plus entre les deux cotes.
+
+**295 couples sur 3 916** (7,5 %) sont ressortis suspects.
+
+### La relecture
+
+**Les 295 ont ete relus un par un**, bien au-dela des 60 demandes, et classes
+en trois :
+
+| Verdict | References d'origine | Variantes ajoutees | Total |
+| --- | ---: | ---: | ---: |
+| `juste` — la regle s'est trompee | 71 | 80 | 151 |
+| `douteuse` — gardee, **marquee** dans `note` | 12 | 40 | 52 |
+| `fausse` — **retiree** | **4** | **88** | **92** |
+
+Les verdicts sont dans `verdicts.json`, avec le motif de suspicion et la source
+de chaque couple. Deux clefs perdent toutes leurs references et disparaissent :
+d'ou 1 943 - 2 = **1 941**.
+
+### Les 4 references d'origine retirees, avec le motif
+
+| Clef | Reference retiree | Motif |
+| --- | --- | --- |
+| `حاج عبد الرحمن` | `hadj abderrahm` | troncature de saisie |
+| `حمزة` | `hamzarep` | chaine parasite (`hamza` + `rep`) |
+| `عاشور` | `achir` | `عاشور` = Achour ; `achir` rend `عاشير`, autre nom |
+| `محمد السعيدي` | `mohamed saci` | `السعيدي` = Essaidi ; `saci` rend `ساسي` |
+
+### Les 88 variantes ajoutees retirees — trois causes, comptees
+
+| Cause | Compte | Exemples |
+| --- | ---: | --- |
+| Desalignement prenom/patronyme dans une source alignee mot a mot | 51 | `عيسى/karima`, `زينب/moussaoui`, `شعبان/khaled`, `عبد القادر/samia` |
+| Troncature ou parasite de saisie | 24 | `عبد الرحمن/abderra`, `إسماعيل/isma`, `محمد/mohamme`, `عبد الجليل/abdeldjall` |
+| Nom voisin mais distinct | 13 | `عبد المؤمن/abdelmounaim` (= عبد المنعم), `عبد الصمد/abdessami` (= عبد السميع), `كوثر/kaoula` |
+
+Par source : `aldjia_mots` 51, `dzns_mots` 34, `dzns_full` 16,
+`dzns_eval_large` 4. **Le desalignement mot a mot est le defaut dominant du
+vivier**, et il vient des deux fichiers alignes, pas des CSV bruts.
+
+### Cas `douteux` gardes et marques
+
+52 couples : ecriture plausible mais contestable. Les trois familles :
+
+- `حسين -> hacene / hassene / hacéne` et `باباحسين -> babahacene` — le registre
+  algerien ecrit reellement ainsi, mais la lecture stricte donne `حسن`. **Garde
+  et marque** : les retirer ferait perdre des lignes reelles de l'etat civil,
+  les garder sans marque cacherait le probleme.
+- Abreviations de registre : `محمد -> med / md / moh`.
+- Coquilles attestees : `عبد الرحمن -> adberrahmane`, `إبراهيم -> ibahim`.
+
+### Taux d'erreur du fichier source — mesure, avec son intervalle
+
+Deux echantillons, tous deux relus a la main :
+
+| Echantillon | Taille | `fausse` |
+| --- | ---: | ---: |
+| Les 87 references d'origine **signalees** par la regle | 87 | 4 |
+| 70 references d'origine **non signalees**, tirees au hasard (graine 20260731) | 70 | **0** |
+
+Aucune fausse dans les 70 non signalees : la borne haute a 95 % (regle de trois)
+est 4,3 % sur ce strate.
+
+> **Taux de references fausses de `dzns_eval_large.csv` : 0,20 %**
+> (4 sur 1 989), **IC 95 % : 0,20 – 4,3 %**.
+> En comptant aussi les `douteuses` : **0,80 %** signalees, plus une part non
+> signalee estimee a 2,9 % (2 cas limites sur 70) — soit **~3 %** de references
+> discutables au total.
+
+**La regle laisse passer des cas, c'est mesure et il faut le dire.** Exemple
+trouve apres coup en relisant des echecs : `أصيل عبد المؤمن -> assil
+abdelmouhaimen` — `abdelmouhaimen` rend `عبد المهيمن`, pas `عبد المؤمن`. La
+distance de squelette vaut 1 sur un nom de 6 consonnes, sous le seuil. C'est
+exactement ce que l'intervalle 0,20 – 4,3 % dit : le vrai taux est quelque part
+la-dedans, il n'est pas 0,20 %.
+
+**Le fichier source est neanmoins propre au niveau de la LIGNE.** Le gros du
+bruit n'est pas la : il est dans les fichiers **alignes mot a mot**
+(`dzns_pairs.jsonl`, `aldjia_pairs.jsonl`), ou 85 des 88 variantes retirees ont
+ete puisees. Le
+defaut n° 2 de la commande — `حسين -> HACENE ZAIDI` — n'est pas un desalignement
+DZNS mais une **reference unique** : c'est la multi-reference qui le repare, pas
+le retrait.
+
+---
+
+## 6. Ce qui n'est PAS fait, et pourquoi
+
+- **Aucun nouveau tirage de clefs.** Le jeu reste celui de `PARTITION.md` pour
+  rester comparable ; il n'est ni elargi ni re-echantillonne.
+- **Les 247 references d'origine vues par `nmt_strict` ne sont pas retirees**
+  (§4) : elles sont marquees. Le retrait changerait le jeu de comparaison.
+- **Aucune graphie inventee.** Toute reference vient d'une source attestee du
+  depot ; rien n'est produit par regle ni par modele.
+- **Le sens lat -> ar est obtenu par inversion** du fichier, dans l'outil de
+  mesure, pas ici : les clefs latines et leurs references arabes se deduisent
+  des memes lignes.
+
+## 7. Reconstruire
+
+```bash
+python tools/dzns/build_eval_dz.py                 # lit verdicts.json
+python tools/dzns/build_eval_dz.py --suspects /chemin/suspects.json
+```
+
+Aucune ecriture hors de `data/external/eval_dz/`.