Rcarvalo/tool-calling-s2s-fr-v1

Tool calling S2S — corpus vocal v1

Scénarios de réceptionniste vocale rendus en parole par Voxtral-4B-TTS, pour apprendre à un modèle S2S quand appeler un outil et comment formuler la réponse une fois le résultat revenu. Français et anglais, mêmes squelettes.

Le texte vient du côté texte du projet (squelettes relus et validés) ; ce dépôt n'ajoute que l'audio. Aucun champ existant n'a été modifié — vérifié pour chaque jeu en comparant chaque scénario à sa source une fois le champ audio retiré.

Trois jeux

Jeu	Langue	Voix	Scénarios	Clips	Audio
dataset/tool_calling_v1_fr_fr_female.jsonl	fr	fr_female partout	1 000	2 100	2,65 h
dataset/tool_calling_v1_fr_fr_male.jsonl	fr	fr_male partout	1 000	2 100	3,02 h
dataset/tool_calling_v1_en_neutral_female_mix.jsonl	en	assistant neutral_female, visiteurs variés	996	2 092	3,72 h

Deux stratégies de voix, et pourquoi

Français — une voix par jeu. Voxtral n'embarque que deux voix nativement françaises, fr_female et fr_male. Les autres (neutral_*, casual_*, cheerful_*) sont anglophones : sur la même phrase française, neutral_female débite 8,4 caractères/seconde contre 19,1 pour fr_female. Avec deux voix seulement, dont une prise par l'assistant, il ne restait pas de quoi varier les visiteurs à l'intérieur d'une conversation.

Limite du français. Dans un jeu donné, le visiteur et l'assistant partagent donc la même voix. Une v2 devrait croiser les rôles — jeu A avec assistant fr_female et visiteur fr_male, jeu B l'inverse.

Anglais — un mélange. Cinq voix anglaises existent, ce qui permet de suivre le guide à la lettre : une voix fixe pour l'assistant, « sinon le corpus sort hétérogène », et de la variété sur les visiteurs, parce que « ce sont des visiteurs différents, et une voix unique apprendrait au modèle à ne comprendre qu'un seul locuteur ».

Rôle	Voix	Clips
assistant	neutral_female	1 046
visiteur	neutral_male	266
visiteur	casual_female	263
visiteur	casual_male	262
visiteur	cheerful_female	255

La rotation est déterministe, indexée sur l'identifiant du scénario : un scénario retombe toujours sur la même voix visiteur, quelle que soit la façon dont le corpus est découpé ou repris.

Structure

dataset/tool_calling_v1_fr_fr_female.jsonl          1000 scénarios, champ audio ajouté
dataset/tool_calling_v1_fr_fr_male.jsonl            les mêmes, voix masculine
dataset/tool_calling_v1_en_neutral_female_mix.jsonl 996 scénarios anglais, voix mélangées
audio/tool_calling_v1/fr/fr_female/*.flac           2100 clips
audio/tool_calling_v1/fr/fr_male/*.flac             2100 clips
audio/tool_calling_v1/en/neutral_female_mix/*.flac  2092 clips
figures/*.svg                                       les figures de cette carte

Nommage : {scenario_id}__{slot}.flac. Le couple (scenario_id, slot) est unique par construction, donc aucun index de tour n'est nécessaire. Les chemins du champ audio sont relatifs à la racine du dépôt.

Audio : FLAC, 24 kHz, mono. 24 kHz est le taux natif du codec Mimi, donc aucun ré-échantillonnage à l'entraînement ; FLAC est sans perte et 64 % plus léger que le WAV équivalent, mesuré sur ce corpus.

Un scénario

{
  "id": "g3-00810",
  "lang": "fr",
  "family": "F5_confirm",
  "tools_declared": ["find_employee", "notify_employee_via_teams", "..."],
  "turns": [
    {"role": "user", "type": "spoken",
     "text": "Bonjour, je cherche Fontaine, je crois qu'elle travaille dans l'ingénierie.",
     "slot": "user_q_1",
     "audio": "audio/tool_calling_v1/fr/fr_female/g3-00810__user_q_1.flac"},

    {"role": "assistant", "type": "tool_call",
     "calls": [{"name": "find_employee", "args": {"name": "Fontaine"}}]},

    {"role": "tool", "results": [{"name": "find_employee", "payload": {"needs_confirmation": true}}]},

    {"role": "assistant", "type": "no_call", "text": ""},

    {"role": "assistant", "type": "spoken",
     "text": "J'ai trouvé Chloé Fontaine. Est-ce bien la personne que vous souhaitez rencontrer ?",
     "slot": "assistant_confirm",
     "audio": "audio/tool_calling_v1/fr/fr_female/g3-00810__assistant_confirm.flac"}
  ]
}

Quels tours portent de l'audio

type	Rôle	Audio	Pourquoi
spoken	user	oui	ce que le visiteur dit
spoken	assistant	oui	ce que l'assistant répond
tool_call	assistant	non	un appel est une action, pas une phrase
no_call	assistant	non	tour de décision vide : « aucun outil n'est nécessaire »
—	tool	non	un résultat est une entrée, pas une cible

Le tour de décision vide (text: "") mérite une note : à l'inférence, l'orchestration lance toujours un tour texte avant la réponse parlée, puisqu'elle ne peut pas savoir à l'avance si un outil est nécessaire. Sans ces tours dans le corpus, le modèle serait interrogé à un endroit où l'entraînement ne lui a jamais rien montré.

Composition

Les proportions comptent autant que le volume. F1 (aucun appel) et F2 (quasi-appel) font 350 scénarios sur 1 000 : ce sont eux qui apprennent au modèle à ne pas appeler un outil pour rien. Un corpus fait uniquement d'appels réussis apprend à appeler à chaque tour.

Famille	fr	en	Ce qu'elle enseigne
F1_no_call	250	250	répondre directement, sans outil
F3_info	200	200	un appel à get_company_info
F4_chain	200	199	deux appels chaînés, le second consommant la sortie du premier
F6_fallback	150	148	l'automatisation échoue, on appelle un humain
F2_off_scope	100	100	ça ressemble à un cas d'outil, ça n'en demande aucun
F5_confirm	100	99	correspondance approximative, faire confirmer avant d'agir

Même texte, débit différent : fr_male est systématiquement plus lent que fr_female. L'anglais est plus lent encore, mais sur un texte différent — la comparaison entre langues ne dit rien du débit, seulement de la longueur.

Tours et clips, par jeu français

	Nombre	Audio
Scénarios	1 000
Tours, tous types	5 500
user/spoken	1 050	✔
assistant/spoken	1 050	✔
assistant/no_call	1 050	—
assistant/tool_call	1 175	—
tool	1 175	—
Clips	2 100

950 scénarios ont 2 tours parlés ; les 50 de F5_confirm en ont 4, l'échange de confirmation ajoutant une réplique de chaque côté.

Chargement

import json, soundfile as sf
from huggingface_hub import snapshot_download

root = snapshot_download("Rcarvalo/tool-calling-s2s-fr-v1", repo_type="dataset")
name = "dataset/tool_calling_v1_en_neutral_female_mix.jsonl"   # ou l'un des deux jeux fr
rows = [json.loads(l) for l in open(f"{root}/{name}", encoding="utf-8")]

for turn in rows[0]["turns"]:
    if turn.get("type") == "spoken":
        audio, sr = sf.read(f"{root}/{turn['audio']}")   # 24 kHz mono
        print(turn["role"], turn["text"], f"{len(audio)/sr:.2f}s")

Génération

Voxtral-4B-TTS servi par vLLM-omni 0.26, en serveur, à 20 requêtes en parallèle. Facteur temps réel mesuré : x44 à x50, soit 4 à 5 minutes de GPU par jeu. En séquentiel il tombe à x3, d'où le parallélisme.

Aucun clip n'a échoué sur les 6 292, et aucun n'a été ré-échantillonné : tous sont sortis directement en 24 kHz.

Outil : s2s-skeletons, qui vérifie la fidélité au texte source avant d'écrire quoi que ce soit.

Limites

• Français : une seule voix par conversation (voir plus haut). L'anglais n'a pas ce défaut.
• Anglais : 996 scénarios sur 1 000. Quatre échouent au validateur de langue du côté texte, sur un faux positif : il retire les noms propres connus avant de chercher un accent français, mais il les connaît sous leur forme complète (« Salomé Marchand ») alors que le texte emploie parfois le prénom seul (« Salomé »). L'accent survit au retrait et une phrase anglaise valide est rejetée.
• Pas de system prompt. Il sera défini au moment du finetuning ; le corpus ne le fige pas.
• Le texte est synthétique, produit par un LLM à partir de squelettes, puis relu côté texte. Les identités, adresses et courriels sont fictifs (@example-sia.test).
• L'audio n'a pas été évalué. Ni WER de re-transcription, ni MOS. Le rendu d'une épellation a été écouté sur échantillon avant lancement, dans les deux langues, rien de plus.
• Le nom du dépôt dit fr alors qu'il porte aussi l'anglais, pour éviter de disperser un corpus dont les deux moitiés partagent les mêmes squelettes.