Datasets:

yacinebenak
/

dzirinames-benchmark


Fichier	`data/external/eval_dz/eval_dz.jsonl`
Lignes (clefs arabes)	1 941
References acceptees	3 480 — 1,79 par clef en moyenne, mediane 1, max 38
Clefs a composition mot a mot	595 (`refs_mots`)
Clefs de la strate historique S2	190
sha256	`11246817dcd1e8dc68c8601e99e9416586cd72a3148d07c38ca13f7500098afa`
Verdicts de relecture	`verdicts.json` (295 lignes)
Comptes bruts	`mesures.json`

Format, une ligne par clef arabe :

{"ar":"بوخميس","refs":["boukhemis","boukhemiss","boukhmiss"],"n_refs":3,
 "refs_mots":[],"refs_src":["boukhemiss"],"refs_src_propre":["boukhemiss"],
 "src":["dzns_eval_large","dzns_full","dzns_mots"],"s2":true,
 "type":["patronyme"],"fuite_base":false,"note":""}

refs_src conserve les references d'origine de dzns_eval_large.csv : l'ancien jeu et le nouveau se mesurent alors dans la meme passe, sans regenerer, et l'apport de chaque correction se lit separement.

1. Pourquoi

Le jeu d'avant (dzns_eval_large.csv, 2 070 lignes) mesurait en partie le bruit du fichier. Trois defauts constates sur les 60 echecs de mag_mix50 en S2 :

Reference unique la ou plusieurs graphies sont legitimes. بوخميس n'acceptait que BOUKHEMISS ; Boukhemis etait compte faux.
References fausses. حسين زايدي -> HACENE ZAIDI : حسين s'ecrit Hocine / Houcine, HACENE rend حسن.
n = 198 en S2, σ ≈ 3,3 points : rien ne se tranche a cette taille.

Le nouveau jeu repond aux trois : 1 941 clefs (σ ≈ 1,1 point), 1,79 reference par clef, et les references fausses relues une par une.

2. Les clefs

Reprises telles quelles de data/external/dzns_full/dzns_eval_large.csv (2 070 lignes), sans nouveau tirage : la strate reste celle de PARTITION.md, donc les 199 paires S2 historiques restent identifiables (s2: true) et la comparabilite avec toutes les mesures passees est conservee.

normalisation arabe : normalize_arabic(..., fix_order="never"), espaces reduits — exactement la clef que le modele recoit ;
normalisation latine : normalise_latin(reparer_latin(...)), celle de tools/dzns/dzns_common.py ;
2 070 lignes -> 1 943 clefs arabes distinctes, 1 989 couples (clef, reference) ; deux clefs disparaissent apres relecture (§5), d'ou 1 941.

3. Les multi-references — d'ou viennent les graphies ajoutees

Vivier interroge, par clef arabe exacte ET par pli arabic_fold_key :

Source	Nature	Ce qu'elle apporte
`data/external/dzns_full/{names,surnames}_full_dataset.csv`	DZNS complet, brut, nom entier	graphies concurrentes du meme nom complet
`data/external/dzns/algerian_{names,surnames}.csv`	les 199 paires S2	—
`data/external/dzns_full/dzns_pairs.jsonl`	DZNS aligne MOT A MOT (fichier de PRODUCTION, sans bannissement)	graphies d'un mot vu a l'interieur d'un nom compose
`data/external/aldjia/aldjia_pairs.jsonl`	Aldjia aligne mot a mot	idem, autre registre

Les CSV bruts d'Aldjia (raw/merged-*.csv) ne sont PAS lus. Ils collent le patronyme devant le prenom d'un cote et pas de l'autre (familyname_fr = "ABADA DJAMILA" en face de عبادة) : les lire tels quels ajoutait 576 variantes candidates, dont 484 signalees suspectes par la regle du §5 — mesure faite, c'est ce qui a fait ecarter ces fichiers. C'est tools/dzns/aldjia_build.py qui trie ces lignes, et son resultat — aldjia_pairs.jsonl — est ce qui est utilise.

Deux garde-fous a la lecture du DZNS brut : rejet des lignes ou un cote contient l'ecriture de l'autre, et rejet des lignes ou les deux cotes different de deux mots ou plus (patronyme colle).

Vivier obtenu : 28 548 clefs arabes, 38 130 paires. Il fournit 2 019 variantes candidates pour les 1 943 clefs d'evaluation.

Composition mot a mot (`refs_mots`)

Une reference unique reste unique quand le nom est compose : حسين زايدي n'existe qu'une fois dans le vivier, et l'enrichissement par nom entier ne l'atteint pas. Pour les 595 clefs ou l'arabe et une reference ont le meme nombre de mots, on publie donc, mot par mot, l'ensemble des graphies attestees de CE mot (moyenne 7,7 graphies par mot) — construites exactement comme les references de clef : vivier exact + pli, rejet des fuites, rejet des verdicts fausse.

Une proposition est alors juste si chaque mot correspond au groupe correspondant. حسين زايدي -> Houcine Zaidi devient juste, ce qu'il aurait toujours du etre.

Cette regle est mesuree separement (compose) de la multi-reference simple (multi) dans tools/dzns/eval_dz.py : on voit ce qu'elle apporte, elle ne se cache pas dans un total.

4. GARDE-FOU ANTI-FUITE — verifie, pas suppose

Ajouter une graphie comme reference n'est legitime que si cette paire n'a jamais servi a l'entrainement. Le controle porte sur la paire (mot arabe, graphie latine), au mot exact ET par pli (arabic_fold_key cote arabe, fold_latin cote latin), contre les six fichiers d'entrainement de tous les modeles du projet :

Corpus	Paires	Clefs arabes	Variantes candidates qui y figurent
`data/nmt_maghreb/train.jsonl`	56 976	42 478	0 / 2 019
`data/nmt_maghreb_mix25/train.jsonl`	164 913	118 479	0 / 2 019
`data/nmt_maghreb_mix50/train.jsonl`	245 448	164 369	0 / 2 019
`data/nmt_maghreb_mix100/train.jsonl`	324 335	199 649	0 / 2 019
`data/nmt_strict/train.jsonl`	299 521	179 445	372 exactes + 45 par pli
`data/nmt_strict/valid.jsonl`	16 849	10 051	25 exactes + 12 par pli

Les quatre corpus d'affinage maghrebin sont a 0 fuite, exact et par pli. Le bannissement par mot et par pli decrit dans PARTITION.md §4 tient : il est ici re-verifie de l'exterieur, sur un vivier plus large que celui qui a servi a le construire.

Le corpus mondial nmt_strict, lui, n'est PAS sur. 436 variantes candidates sur 2 019 (21,6 %) y figurent. Elles sont jetees : il en reste 1 583 gardees. Exemples jetes : أحلام/ahlam, أسماء/asma, أشرف/achref, أنيس/anais (par pli).

Ce que cela revele sur le jeu d'AVANT — a savoir avant de lire un chiffre

Le meme controle applique aux references d'origine de dzns_eval_large.csv donne :

	Compte	Part
Couples (clef, reference) d'origine presents dans `nmt_strict/train` ou `valid`	247	12,4 % des 1 989
Clefs arabes d'origine presentes dans `nmt_strict/train` (mot exact)	430	22,1 % des 1 943

nmt_strict est le corpus de pre-entrainement de tous les modeles du projet, strict et rebal_f2 compris. La strate DZNS n'a donc jamais ete propre vis a vis de lui : le bannissement de PARTITION.md protege l'affinage maghrebin, pas le pre-entrainement mondial, qui est anterieur.

Ces 247 references ne sont pas retirees — les retirer changerait la definition de l'ancien jeu et rendrait la comparaison impossible. Chaque clef concernee porte fuite_base: true (231 clefs), et tools/dzns/tables_dz.py publie systematiquement la mesure restreinte aux 1 710 clefs sures. Tout ecart inferieur a ce biais doit etre lu avec cette reserve.

Le prix du garde-fou, dit franchement

Jeter les 436 variantes vues par nmt_strict retire aussi des graphies parfaitement correctes. أنيس garde aness, annis, anyes mais perd anis : un modele qui repond Anis en tete est compte faux. C'est le prix a payer pour ne pas recompenser la memorisation, et il abaisse les chiffres absolus de tous les modeles.

Il ne fausse en revanche aucune comparaison entre modeles : les neuf modeles du projet sont tous pre-entraines sur nmt_strict, la penalite est la meme pour tous. Les classements de ce rapport ne sont pas affectes ; seuls les niveaux absolus sont une borne basse.

5. References fausses — detection par regle, puis relecture a la main

La regle

Trois indices, tous deterministes, calcules pour chaque couple (clef arabe, reference) :

Squelette consonantique. Chaque lettre arabe est envoyee sur un ensemble de classes consonantiques (ق -> {K, G, Q}, ش -> {C}, خ -> {X, K, H}…), les lettres faibles (ا أ إ آ ع ء ة) et les semi-voyelles (و ي) sont omises. Le latin est decoupe en digrammes puis en lettres vers les memes classes (kh, gh, ch, sh, dj, th, ph, gu, ck…), voyelles omises. On compare par distance de Levenshtein a classes : substitution gratuite si les classes se croisent, suppression gratuite d'une classe optionnelle (H muet, semi-voyelle). Suspect si d ≥ 2, ou d = 1 sur un nom de 4 consonnes ou moins.
Voyelle longue. Un ي ou un و en position non initiale exige une realisation latine (i/y, o/u/w/v). C'est cet indice, et lui seul, qui attrape حسين -> hacene : le squelette H-S-N coincide, la voyelle longue manque.
Nombre de mots : ecart de 2 mots ou plus entre les deux cotes.

295 couples sur 3 916 (7,5 %) sont ressortis suspects.

La relecture

Les 295 ont ete relus un par un, bien au-dela des 60 demandes, et classes en trois :

Verdict	References d'origine	Variantes ajoutees	Total
`juste` — la regle s'est trompee	71	80	151
`douteuse` — gardee, marquee dans `note`	12	40	52
`fausse` — retiree	4	88	92

Les verdicts sont dans verdicts.json, avec le motif de suspicion et la source de chaque couple. Deux clefs perdent toutes leurs references et disparaissent : d'ou 1 943 - 2 = 1 941.

Les 4 references d'origine retirees, avec le motif

Clef	Reference retiree	Motif
`حاج عبد الرحمن`	`hadj abderrahm`	troncature de saisie
`حمزة`	`hamzarep`	chaine parasite (`hamza` + `rep`)
`عاشور`	`achir`	`عاشور` = Achour ; `achir` rend `عاشير`, autre nom
`محمد السعيدي`	`mohamed saci`	`السعيدي` = Essaidi ; `saci` rend `ساسي`

Les 88 variantes ajoutees retirees — trois causes, comptees

Cause	Compte	Exemples
Desalignement prenom/patronyme dans une source alignee mot a mot	51	`عيسى/karima`, `زينب/moussaoui`, `شعبان/khaled`, `عبد القادر/samia`
Troncature ou parasite de saisie	24	`عبد الرحمن/abderra`, `إسماعيل/isma`, `محمد/mohamme`, `عبد الجليل/abdeldjall`
Nom voisin mais distinct	13	`عبد المؤمن/abdelmounaim` (= عبد المنعم), `عبد الصمد/abdessami` (= عبد السميع), `كوثر/kaoula`

Par source : aldjia_mots 51, dzns_mots 34, dzns_full 16, dzns_eval_large 4. Le desalignement mot a mot est le defaut dominant du vivier, et il vient des deux fichiers alignes, pas des CSV bruts.

Cas `douteux` gardes et marques

52 couples : ecriture plausible mais contestable. Les trois familles :

حسين -> hacene / hassene / hacéne et باباحسين -> babahacene — le registre algerien ecrit reellement ainsi, mais la lecture stricte donne حسن. Garde et marque : les retirer ferait perdre des lignes reelles de l'etat civil, les garder sans marque cacherait le probleme.
Abreviations de registre : محمد -> med / md / moh.
Coquilles attestees : عبد الرحمن -> adberrahmane, إبراهيم -> ibahim.

Taux d'erreur du fichier source — mesure, avec son intervalle

Deux echantillons, tous deux relus a la main :

Echantillon	Taille	`fausse`
Les 87 references d'origine signalees par la regle	87	4
70 references d'origine non signalees, tirees au hasard (graine 20260731)	70	0

Aucune fausse dans les 70 non signalees : la borne haute a 95 % (regle de trois) est 4,3 % sur ce strate.

Taux de references fausses de dzns_eval_large.csv : 0,20 % (4 sur 1 989), IC 95 % : 0,20 – 4,3 %. En comptant aussi les douteuses : 0,80 % signalees, plus une part non signalee estimee a 2,9 % (2 cas limites sur 70) — soit ~3 % de references discutables au total.

La regle laisse passer des cas, c'est mesure et il faut le dire. Exemple trouve apres coup en relisant des echecs : أصيل عبد المؤمن -> assil abdelmouhaimen — abdelmouhaimen rend عبد المهيمن, pas عبد المؤمن. La distance de squelette vaut 1 sur un nom de 6 consonnes, sous le seuil. C'est exactement ce que l'intervalle 0,20 – 4,3 % dit : le vrai taux est quelque part la-dedans, il n'est pas 0,20 %.

Le fichier source est neanmoins propre au niveau de la LIGNE. Le gros du bruit n'est pas la : il est dans les fichiers alignes mot a mot (dzns_pairs.jsonl, aldjia_pairs.jsonl), ou 85 des 88 variantes retirees ont ete puisees. Le defaut n° 2 de la commande — حسين -> HACENE ZAIDI — n'est pas un desalignement DZNS mais une reference unique : c'est la multi-reference qui le repare, pas le retrait.

6. Ce qui n'est PAS fait, et pourquoi

Aucun nouveau tirage de clefs. Le jeu reste celui de PARTITION.md pour rester comparable ; il n'est ni elargi ni re-echantillonne.
Les 247 references d'origine vues par nmt_strict ne sont pas retirees (§4) : elles sont marquees. Le retrait changerait le jeu de comparaison.
Aucune graphie inventee. Toute reference vient d'une source attestee du depot ; rien n'est produit par regle ni par modele.
Le sens lat -> ar est obtenu par inversion du fichier, dans l'outil de mesure, pas ici : les clefs latines et leurs references arabes se deduisent des memes lignes.

7. Reconstruire

python tools/dzns/build_eval_dz.py                 # lit verdicts.json
python tools/dzns/build_eval_dz.py --suspects /chemin/suspects.json

Aucune ecriture hors de data/external/eval_dz/.

eval_dz.jsonl — jeu d'evaluation algerien, propre et multi-references