You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

LFM2.5-Audio FR/EN — assistant vocal avec appel d'outils

14360 dialogues bilingues et 68.5 h de parole synthétique, pour entraîner un modèle parole à parole qui décide d'appeler un outil, lit son résultat et répond à voix haute, en français comme en anglais.

Deux vues du même corpus :

  • Les briques audio (ci-dessous) : un clip par tour, écoutable dans le visualiseur, avec son texte, sa voix et son taux d'erreur de ré-écoute.
  • Les dialogues (dataset/*.jsonl) : la conversation entière — tours utilisateur, appels d'outils, résultats, réponses parlées — au format d'entraînement, avec les chemins vers les clips.

Briques audio

Brique Rôle Clips Heures Voix
A_assistant_speech/ réponses parlées de l'assistant, français et anglais 23510 21.79 fr_female
D_english/ réponses parlées de l'assistant, part anglaise 4673 5.88 fr_female
B_user_voxtral/ tours des visiteurs (entrée du modèle) 30030 27.48 casual_female, casual_male, cheerful_female, fr_female
B_user_synth/ tours des visiteurs, première vague 78 0.13 neutral_female
E_long_form/ phrases longues lues (rappel de rendu entrelacé) 2041 4.79 fr_female
A_stock/ dialogues lus, même voix, repris d'un corpus public 4500 8.44 fr_female

Dialogues

Fichier Dialogues Appels d'outils Heures assistant Heures utilisateur
dataset/dialogues_v1_fr.jsonl 499 0 0.97 1.03
dataset/dialogues_v1_en.jsonl 196 0 0.45 0.46
dataset/dialogues_v2_fr.jsonl 5261 0 12.70 12.56
dataset/dialogues_v2_en.jsonl 1376 0 2.14 2.22
dataset/toolcalling_fr.jsonl 2500 1770 3.18 2.55
dataset/toolcalling_en.jsonl 2729 2029 0.55 3.37
dataset/reception_fr.jsonl 910 1561 3.26 2.10
dataset/reception_en.jsonl 889 1566 3.50 2.48

Chaque dialogue déclare les outils qui lui sont proposés (tools) et le prompt système du service. Les définitions d'outils sont dans dataset/tool_definitions.json, le schéma JSON dans dataset/schema.json, et les mêmes dialogues au format « scénario » dans dataset/scenarios/.

Charger

from datasets import load_dataset

# Une brique audio : clips jouables, texte, voix, WER de vérification
clips = load_dataset("Rcarvalo/lfm25-fr-corpus-v1", "A_assistant_speech", split="train")
print(clips[0]["audio"], clips[0]["text"])

# Les dialogues complets (structure, outils, résultats)
dialogues = load_dataset("Rcarvalo/lfm25-fr-corpus-v1", "reception_fr", split="train")
print(dialogues[0]["turns"])

Les chemins audio d'un dialogue sont relatifs à la racine du dépôt (A_assistant_speech/audio/3f/xxx.wav) : snapshot_download du dépôt met tout au bon endroit.

Comment il a été fabriqué

Texte. Les conversations sont écrites par Claude Sonnet 5. Pour le corpus réceptionniste, seules les répliques parlées sont écrites par le modèle : les appels d'outils, leurs résultats, l'annuaire fictif, les mots de passe et leur épellation sont produits par du code, à partir de squelettes tirés d'une graine. Le même squelette donne la version française et la version anglaise, pour qu'un écart entre les deux langues soit imputable à la langue.

Parole. Voxtral-4B-TTS. L'assistant a une identité unique (fr_female) dans les deux langues ; les visiteurs tournent sur les presets natifs de leur langue (un preset hors de sa langue la déforme, mesuré et écarté).

Vérification. Chaque clip est ré-écouté par Whisper large-v3-turbo et comparé à son texte en forme parlée (nombres, titres, abréviations développés des deux côtés). Un clip est gardé si son taux d'erreur mot est sous 0,15 ou son taux d'erreur caractère sous 0,10. Les deux taux sont dans le manifeste, donc un filtrage plus strict est possible sans rien resynthétiser. Les refus sont conservés dans dropped.jsonl avec ce que Whisper a entendu.

Ce qui est tenu à l'écart. Le jeu de mesure n'est pas dans ce dépôt : ses dialogues sont générés avec une autre graine et retirés de tous les fichiers d'entraînement.

Licence et usage

Les voix viennent de Voxtral-TTS, sous clause non commerciale : le corpus et tout modèle entraîné dessus en héritent. Les noms, adresses e-mail, mots de passe et documents sont fictifs et varient d'un dialogue à l'autre, par construction : un modèle entraîné sur une valeur fixe la récite au lieu de lire le champ que l'outil retourne.

Schéma commun d'un dialogue (v2, 06/09/2026)

Une ligne JSONL = un dialogue complet. Le schéma est avet.datasets.dialogue.Dialogue (pydantic, extra="forbid" sur les tours) ; schema.json en est l'export JSON Schema.

{"id": "g3-fr-000042", "system": "…", "tools": ["find_employee", "notify_employee_via_teams"],
 "meta": {"lang": "fr", "expected_lang": "fr", "family": "chain_notify", "kind": "student_fr", "source": "scenario"},
 "turns": [
   {"role": "user", "text": "Bonjour, j'ai rendez-vous avec Sophie Bernard.", "audio": "B_user_synth/audio/g3-fr-000042_t0.wav", "voice": "fr_male"},
   {"role": "assistant", "tool_calls": [{"name": "find_employee", "arguments": {"name": "Sophie Bernard"}}]},
   {"role": "tool", "content": {"found": true, "name": "Sophie Bernard", "email": "…", "needs_confirmation": false}},
   {"role": "assistant", "text": ""},
   {"role": "assistant", "text": "C'est noté, j'ai prévenu Sophie Bernard.", "audio": "A_assistant_speech/audio/3f/g3-fr-000042_t4.wav", "voice": "fr_female"}]}

Les tours

Tour Forme Audio À l'entraînement
utilisateur role: user, text = transcription, audio facultatif oui (Kokoro, presets Voxtral, parole réelle) AudioSegment en entrée
appel d'outil role: assistant, tool_calls: [{name, arguments}], jamais de texte ni d'audio non TextSegment (protocole LFM2 rendu par le code)
résultat role: tool, content = charge complète ; un tour par appel non TextSegment non supervisé
décision vide role: assistant, text: "", rien d'autre non <|im_start|>assistant\n<|im_end|>, <|im_end|> supervisé
réponse parlée role: assistant, text, audio oui (voix unique fr_female) InterleavedSegment(text, audio)

Le tour de décision vide dit « aucun outil nécessaire » là où l'inférence interroge toujours le modèle avant de parler. Convention : un texte absent est une erreur, un texte vide est une décision. Les fichiers exportés ne contiennent PAS ces tours : lfm2-preprocess-sft --decision-turns les insère avant chaque réponse parlée qui n'en a pas, pour toutes les sources d'un même entraînement ou pour aucune. Le jumeau au format scénario (scenarios/) les contient explicitement ("type": "no_call").

Champs de tête

  • tools : les outils déclarés pour ce dialogue, variables d'un dialogue à l'autre. Les définitions (nom, description, paramètres) sont dans tool_definitions.json ; lfm2-preprocess-sft --tools-from-dialogue n'injecte dans le prompt système que celles du dialogue. Une liste vide = tout le catalogue.
  • system : le prompt d'entraînement, identique au prompt de service ; jamais deviné.
  • meta : lang (fr, en, cs pour le code-switch), expected_lang, family (F1…F6 ou famille de génération), kind (route de sonorisation : student_fr → A, student_en → D), source, generator. Extensible.
  • audio : chemin relatif à la racine du dépôt corpus, pris du manifeste de la brique (certains clips sont dans des sous-dossiers shardés). voice : preset ou locuteur.
  • lang par tour : seulement quand la langue du tour diffère de celle du dialogue.

Identifiants de clip

<id du dialogue>_t<index du tour> (brick_audio.clip_id). Les briques nomment leurs clips ainsi, et lfm2-attach-brick-audio refait la jonction. Ne jamais insérer ni retirer de tour avant la jonction : l'index changerait.

Briques audio (racine du dépôt)

Brique Contenu Voix
A_assistant_speech/ réponses assistant FR des dialogues et du tool calling FR, vérifiées par ré-écoute fr_female Voxtral
D_english/ réponses assistant EN fr_female Voxtral
E_long_form/ 2 041 phrases longues Wikipédia FR (rappel TTS entrelacé) fr_female Voxtral
A_stock/ 14 295 clips du dépôt french-dialogue-tts-1000h (25,8 h), même voix fr_female
B_user_synth/ tours utilisateur synthétiques FR (dialogues code-switch) presets
B_user_speech/ 9 654 clips de parole réelle FR (manifeste ; audio dans baptistefrancois1/s2s-fr-finetuning) 901 locuteurs

Chaque brique a manifest.jsonl (id, audio, text, lang, duration_s, role, speaker, source, voxtral_wer, voxtral_cer) et dropped.jsonl (les refus de la ré-écoute, avec ce que Whisper a entendu). Rappel TTS entrelacé : chaque entrée de manifeste se mappe en system("Perform TTS interleaved") + user(text) → assistant(interleaved(text, audio)).

Vérification d'un clip

Ré-écoute Whisper, comparaison en forme parlée (nombres, titres, abréviations) au mot et au caractère : gardé si WER ≤ 0,15 ou CER ≤ 0,10 (data_prep/clip_verification.py). Les deux taux sont dans le manifeste ; on peut resserrer sans GPU.

Outils de la passerelle

  • lfm2-import-scenarios --scenarios … --system @prompt : scénario → dialogue ; --export : inverse.
  • lfm2-attach-brick-audio --dialogues … --manifest <brique>/manifest.jsonl : jonction.
  • lfm2-preprocess-sft --decision-turns --tools-from-dialogue : pack pour l'entraînement.
  • lfm2-export-corpus --out … --push : régénère ce dossier.
Downloads last month
835