Datasets:
LFM2.5-Audio FR/EN — assistant vocal avec appel d'outils
14360 dialogues bilingues et 68.5 h de parole synthétique, pour entraîner un modèle parole à parole qui décide d'appeler un outil, lit son résultat et répond à voix haute, en français comme en anglais.
Deux vues du même corpus :
- Les briques audio (ci-dessous) : un clip par tour, écoutable dans le visualiseur, avec son texte, sa voix et son taux d'erreur de ré-écoute.
- Les dialogues (
dataset/*.jsonl) : la conversation entière — tours utilisateur, appels d'outils, résultats, réponses parlées — au format d'entraînement, avec les chemins vers les clips.
Briques audio
| Brique | Rôle | Clips | Heures | Voix |
|---|---|---|---|---|
A_assistant_speech/ |
réponses parlées de l'assistant, français et anglais | 23510 | 21.79 | fr_female |
D_english/ |
réponses parlées de l'assistant, part anglaise | 4673 | 5.88 | fr_female |
B_user_voxtral/ |
tours des visiteurs (entrée du modèle) | 30030 | 27.48 | casual_female, casual_male, cheerful_female, fr_female … |
B_user_synth/ |
tours des visiteurs, première vague | 78 | 0.13 | neutral_female |
E_long_form/ |
phrases longues lues (rappel de rendu entrelacé) | 2041 | 4.79 | fr_female |
A_stock/ |
dialogues lus, même voix, repris d'un corpus public | 4500 | 8.44 | fr_female |
Dialogues
| Fichier | Dialogues | Appels d'outils | Heures assistant | Heures utilisateur |
|---|---|---|---|---|
dataset/dialogues_v1_fr.jsonl |
499 | 0 | 0.97 | 1.03 |
dataset/dialogues_v1_en.jsonl |
196 | 0 | 0.45 | 0.46 |
dataset/dialogues_v2_fr.jsonl |
5261 | 0 | 12.70 | 12.56 |
dataset/dialogues_v2_en.jsonl |
1376 | 0 | 2.14 | 2.22 |
dataset/toolcalling_fr.jsonl |
2500 | 1770 | 3.18 | 2.55 |
dataset/toolcalling_en.jsonl |
2729 | 2029 | 0.55 | 3.37 |
dataset/reception_fr.jsonl |
910 | 1561 | 3.26 | 2.10 |
dataset/reception_en.jsonl |
889 | 1566 | 3.50 | 2.48 |
Chaque dialogue déclare les outils qui lui sont proposés (tools) et le prompt système du
service. Les définitions d'outils sont dans
dataset/tool_definitions.json, le schéma JSON dans
dataset/schema.json, et les mêmes
dialogues au format « scénario » dans dataset/scenarios/.
Charger
from datasets import load_dataset
# Une brique audio : clips jouables, texte, voix, WER de vérification
clips = load_dataset("Rcarvalo/lfm25-fr-corpus-v1", "A_assistant_speech", split="train")
print(clips[0]["audio"], clips[0]["text"])
# Les dialogues complets (structure, outils, résultats)
dialogues = load_dataset("Rcarvalo/lfm25-fr-corpus-v1", "reception_fr", split="train")
print(dialogues[0]["turns"])
Les chemins audio d'un dialogue sont relatifs à la racine du dépôt
(A_assistant_speech/audio/3f/xxx.wav) : snapshot_download du dépôt met tout au bon endroit.
Comment il a été fabriqué
Texte. Les conversations sont écrites par Claude Sonnet 5. Pour le corpus réceptionniste, seules les répliques parlées sont écrites par le modèle : les appels d'outils, leurs résultats, l'annuaire fictif, les mots de passe et leur épellation sont produits par du code, à partir de squelettes tirés d'une graine. Le même squelette donne la version française et la version anglaise, pour qu'un écart entre les deux langues soit imputable à la langue.
Parole. Voxtral-4B-TTS. L'assistant a une identité unique (fr_female) dans les deux
langues ; les visiteurs tournent sur les presets natifs de leur langue (un preset hors de sa
langue la déforme, mesuré et écarté).
Vérification. Chaque clip est ré-écouté par Whisper large-v3-turbo et comparé à son texte en
forme parlée (nombres, titres, abréviations développés des deux côtés). Un clip est gardé si son
taux d'erreur mot est sous 0,15 ou son taux d'erreur caractère sous 0,10. Les deux taux sont
dans le manifeste, donc un filtrage plus strict est possible sans rien resynthétiser. Les refus
sont conservés dans dropped.jsonl avec ce que Whisper a entendu.
Ce qui est tenu à l'écart. Le jeu de mesure n'est pas dans ce dépôt : ses dialogues sont générés avec une autre graine et retirés de tous les fichiers d'entraînement.
Licence et usage
Les voix viennent de Voxtral-TTS, sous clause non commerciale : le corpus et tout modèle entraîné dessus en héritent. Les noms, adresses e-mail, mots de passe et documents sont fictifs et varient d'un dialogue à l'autre, par construction : un modèle entraîné sur une valeur fixe la récite au lieu de lire le champ que l'outil retourne.
Schéma commun d'un dialogue (v2, 06/09/2026)
Une ligne JSONL = un dialogue complet. Le schéma est avet.datasets.dialogue.Dialogue
(pydantic, extra="forbid" sur les tours) ; schema.json en est l'export JSON Schema.
{"id": "g3-fr-000042", "system": "…", "tools": ["find_employee", "notify_employee_via_teams"],
"meta": {"lang": "fr", "expected_lang": "fr", "family": "chain_notify", "kind": "student_fr", "source": "scenario"},
"turns": [
{"role": "user", "text": "Bonjour, j'ai rendez-vous avec Sophie Bernard.", "audio": "B_user_synth/audio/g3-fr-000042_t0.wav", "voice": "fr_male"},
{"role": "assistant", "tool_calls": [{"name": "find_employee", "arguments": {"name": "Sophie Bernard"}}]},
{"role": "tool", "content": {"found": true, "name": "Sophie Bernard", "email": "…", "needs_confirmation": false}},
{"role": "assistant", "text": ""},
{"role": "assistant", "text": "C'est noté, j'ai prévenu Sophie Bernard.", "audio": "A_assistant_speech/audio/3f/g3-fr-000042_t4.wav", "voice": "fr_female"}]}
Les tours
| Tour | Forme | Audio | À l'entraînement |
|---|---|---|---|
| utilisateur | role: user, text = transcription, audio facultatif |
oui (Kokoro, presets Voxtral, parole réelle) | AudioSegment en entrée |
| appel d'outil | role: assistant, tool_calls: [{name, arguments}], jamais de texte ni d'audio |
non | TextSegment (protocole LFM2 rendu par le code) |
| résultat | role: tool, content = charge complète ; un tour par appel |
non | TextSegment non supervisé |
| décision vide | role: assistant, text: "", rien d'autre |
non | <|im_start|>assistant\n<|im_end|>, <|im_end|> supervisé |
| réponse parlée | role: assistant, text, audio |
oui (voix unique fr_female) |
InterleavedSegment(text, audio) |
Le tour de décision vide dit « aucun outil nécessaire » là où l'inférence interroge toujours le
modèle avant de parler. Convention : un texte absent est une erreur, un texte vide est une
décision. Les fichiers exportés ne contiennent PAS ces tours : lfm2-preprocess-sft --decision-turns les insère avant chaque réponse parlée qui n'en a pas, pour toutes les
sources d'un même entraînement ou pour aucune. Le jumeau au format scénario (scenarios/)
les contient explicitement ("type": "no_call").
Champs de tête
tools: les outils déclarés pour ce dialogue, variables d'un dialogue à l'autre. Les définitions (nom, description, paramètres) sont danstool_definitions.json;lfm2-preprocess-sft --tools-from-dialoguen'injecte dans le prompt système que celles du dialogue. Une liste vide = tout le catalogue.system: le prompt d'entraînement, identique au prompt de service ; jamais deviné.meta:lang(fr,en,cspour le code-switch),expected_lang,family(F1…F6 ou famille de génération),kind(route de sonorisation :student_fr→ A,student_en→ D),source,generator. Extensible.audio: chemin relatif à la racine du dépôt corpus, pris du manifeste de la brique (certains clips sont dans des sous-dossiers shardés).voice: preset ou locuteur.langpar tour : seulement quand la langue du tour diffère de celle du dialogue.
Identifiants de clip
<id du dialogue>_t<index du tour> (brick_audio.clip_id). Les briques nomment leurs clips
ainsi, et lfm2-attach-brick-audio refait la jonction. Ne jamais insérer ni retirer de tour
avant la jonction : l'index changerait.
Briques audio (racine du dépôt)
| Brique | Contenu | Voix |
|---|---|---|
A_assistant_speech/ |
réponses assistant FR des dialogues et du tool calling FR, vérifiées par ré-écoute | fr_female Voxtral |
D_english/ |
réponses assistant EN | fr_female Voxtral |
E_long_form/ |
2 041 phrases longues Wikipédia FR (rappel TTS entrelacé) | fr_female Voxtral |
A_stock/ |
14 295 clips du dépôt french-dialogue-tts-1000h (25,8 h), même voix |
fr_female |
B_user_synth/ |
tours utilisateur synthétiques FR (dialogues code-switch) | presets |
B_user_speech/ |
9 654 clips de parole réelle FR (manifeste ; audio dans baptistefrancois1/s2s-fr-finetuning) |
901 locuteurs |
Chaque brique a manifest.jsonl (id, audio, text, lang, duration_s, role, speaker, source, voxtral_wer, voxtral_cer) et dropped.jsonl (les refus de la ré-écoute, avec ce que Whisper a
entendu). Rappel TTS entrelacé : chaque entrée de manifeste se mappe en
system("Perform TTS interleaved") + user(text) → assistant(interleaved(text, audio)).
Vérification d'un clip
Ré-écoute Whisper, comparaison en forme parlée (nombres, titres, abréviations) au mot et
au caractère : gardé si WER ≤ 0,15 ou CER ≤ 0,10 (data_prep/clip_verification.py). Les
deux taux sont dans le manifeste ; on peut resserrer sans GPU.
Outils de la passerelle
lfm2-import-scenarios --scenarios … --system @prompt: scénario → dialogue ;--export: inverse.lfm2-attach-brick-audio --dialogues … --manifest <brique>/manifest.jsonl: jonction.lfm2-preprocess-sft --decision-turns --tools-from-dialogue: pack pour l'entraînement.lfm2-export-corpus --out … --push: régénère ce dossier.
- Downloads last month
- 835