README.md

---
pretty_name: Tool calling S2S — corpus vocal français et anglais v1
license: other
language:
  - fr
  - en
task_categories:
  - audio-to-audio
  - text-to-speech
tags:
  - tool-calling
  - speech-to-speech
  - french
  - english
  - lfm2
  - voxtral
size_categories:
  - 1K<n<10K
viewer: false
---

# Tool calling S2S — corpus vocal v1

Scénarios de réceptionniste vocale rendus en parole par **Voxtral-4B-TTS**, pour
apprendre à un modèle S2S **quand** appeler un outil et comment formuler la
réponse une fois le résultat revenu. Français et anglais, mêmes squelettes.

Le texte vient du côté texte du projet (squelettes relus et validés) ; ce dépôt
n'ajoute que l'audio. **Aucun champ existant n'a été modifié** — vérifié pour
chaque jeu en comparant chaque scénario à sa source une fois le champ `audio`
retiré.

<img src="figures/overview.svg" width="100%" alt="2996 scénarios, 6292 clips FLAC, 9.4 h d'audio, 2 langues"/>

## Trois jeux

| Jeu | Langue | Voix | Scénarios | Clips | Audio |
|---|---|---|---:|---:|---:|
| `dataset/tool_calling_v1_fr_fr_female.jsonl` | fr | `fr_female` partout | 1 000 | 2 100 | 2,65 h |
| `dataset/tool_calling_v1_fr_fr_male.jsonl` | fr | `fr_male` partout | 1 000 | 2 100 | 3,02 h |
| `dataset/tool_calling_v1_en_neutral_female_mix.jsonl` | en | assistant `neutral_female`, visiteurs variés | 996 | 2 092 | 3,72 h |

### Deux stratégies de voix, et pourquoi

**Français — une voix par jeu.** Voxtral n'embarque que deux voix nativement
françaises, `fr_female` et `fr_male`. Les autres (`neutral_*`, `casual_*`,
`cheerful_*`) sont anglophones : sur la même phrase française, `neutral_female`
débite 8,4 caractères/seconde contre 19,1 pour `fr_female`. Avec deux voix
seulement, dont une prise par l'assistant, il ne restait pas de quoi varier les
visiteurs à l'intérieur d'une conversation.

> **Limite du français.** Dans un jeu donné, le visiteur et l'assistant
> partagent donc la même voix. Une v2 devrait croiser les rôles — jeu A avec
> assistant `fr_female` et visiteur `fr_male`, jeu B l'inverse.

**Anglais — un mélange.** Cinq voix anglaises existent, ce qui permet de suivre
le guide à la lettre : une voix fixe pour l'assistant, « sinon le corpus sort
hétérogène », et de la variété sur les visiteurs, parce que « ce sont des
visiteurs différents, et une voix unique apprendrait au modèle à ne comprendre
qu'un seul locuteur ».

| Rôle | Voix | Clips |
|---|---|---:|
| assistant | `neutral_female` | 1 046 |
| visiteur | `neutral_male` | 266 |
| visiteur | `casual_female` | 263 |
| visiteur | `casual_male` | 262 |
| visiteur | `cheerful_female` | 255 |

La rotation est déterministe, indexée sur l'identifiant du scénario : un
scénario retombe toujours sur la même voix visiteur, quelle que soit la façon
dont le corpus est découpé ou repris.

## Structure

```
dataset/tool_calling_v1_fr_fr_female.jsonl          1000 scénarios, champ audio ajouté
dataset/tool_calling_v1_fr_fr_male.jsonl            les mêmes, voix masculine
dataset/tool_calling_v1_en_neutral_female_mix.jsonl 996 scénarios anglais, voix mélangées
audio/tool_calling_v1/fr/fr_female/*.flac           2100 clips
audio/tool_calling_v1/fr/fr_male/*.flac             2100 clips
audio/tool_calling_v1/en/neutral_female_mix/*.flac  2092 clips
figures/*.svg                                       les figures de cette carte
```

Nommage : `{scenario_id}__{slot}.flac`. Le couple `(scenario_id, slot)` est
unique par construction, donc aucun index de tour n'est nécessaire. Les chemins
du champ `audio` sont **relatifs à la racine du dépôt**.

**Audio** : FLAC, 24 kHz, mono. 24 kHz est le taux natif du codec Mimi, donc
aucun ré-échantillonnage à l'entraînement ; FLAC est sans perte et 64 % plus
léger que le WAV équivalent, mesuré sur ce corpus.

## Un scénario

```json
{
  "id": "g3-00810",
  "lang": "fr",
  "family": "F5_confirm",
  "tools_declared": ["find_employee", "notify_employee_via_teams", "..."],
  "turns": [
    {"role": "user", "type": "spoken",
     "text": "Bonjour, je cherche Fontaine, je crois qu'elle travaille dans l'ingénierie.",
     "slot": "user_q_1",
     "audio": "audio/tool_calling_v1/fr/fr_female/g3-00810__user_q_1.flac"},

    {"role": "assistant", "type": "tool_call",
     "calls": [{"name": "find_employee", "args": {"name": "Fontaine"}}]},

    {"role": "tool", "results": [{"name": "find_employee", "payload": {"needs_confirmation": true}}]},

    {"role": "assistant", "type": "no_call", "text": ""},

    {"role": "assistant", "type": "spoken",
     "text": "J'ai trouvé Chloé Fontaine. Est-ce bien la personne que vous souhaitez rencontrer ?",
     "slot": "assistant_confirm",
     "audio": "audio/tool_calling_v1/fr/fr_female/g3-00810__assistant_confirm.flac"}
  ]
}
```

### Quels tours portent de l'audio

| `type` | Rôle | Audio | Pourquoi |
|---|---|:---:|---|
| `spoken` | `user` | **oui** | ce que le visiteur dit |
| `spoken` | `assistant` | **oui** | ce que l'assistant répond |
| `tool_call` | `assistant` | non | un appel est une action, pas une phrase |
| `no_call` | `assistant` | non | tour de décision vide : « aucun outil n'est nécessaire » |
| — | `tool` | non | un résultat est une entrée, pas une cible |

Le **tour de décision vide** (`text: ""`) mérite une note : à l'inférence,
l'orchestration lance toujours un tour texte avant la réponse parlée, puisqu'elle
ne peut pas savoir à l'avance si un outil est nécessaire. Sans ces tours dans le
corpus, le modèle serait interrogé à un endroit où l'entraînement ne lui a jamais
rien montré.

## Composition

<img src="figures/families.svg" width="100%" alt="Scénarios par famille : F1 aucun appel 250, F3 un appel 200, F4 deux appels chaînés 200, F6 échec puis repli 150, F5 confirmation 100, F2 quasi-appel 100"/>

Les proportions comptent autant que le volume. **F1 (aucun appel) et F2
(quasi-appel) font 350 scénarios sur 1 000** : ce sont eux qui apprennent au
modèle à ne pas appeler un outil pour rien. Un corpus fait uniquement d'appels
réussis apprend à appeler à chaque tour.

| Famille | fr | en | Ce qu'elle enseigne |
|---|---:|---:|---|
| `F1_no_call` | 250 | 250 | répondre directement, sans outil |
| `F3_info` | 200 | 200 | un appel à `get_company_info` |
| `F4_chain` | 200 | 199 | deux appels chaînés, le second consommant la sortie du premier |
| `F6_fallback` | 150 | 148 | l'automatisation échoue, on appelle un humain |
| `F2_off_scope` | 100 | 100 | ça ressemble à un cas d'outil, ça n'en demande aucun |
| `F5_confirm` | 100 | 99 | correspondance approximative, faire confirmer avant d'agir |

<img src="figures/tools.svg" width="100%" alt="Appels d'outil : find_employee 450, notify_employee_via_teams 360, get_company_info 200, call_backup_staff 165"/>

<img src="figures/durations.svg" width="100%" alt="Distribution des durées de clip par jeu, médianes 3.8 s en fr_female, 4.4 s en fr_male, 5.0 s en anglais"/>

Même texte, débit différent : `fr_male` est systématiquement plus lent que
`fr_female`. L'anglais est plus lent encore, mais sur un texte différent — la
comparaison entre langues ne dit rien du débit, seulement de la longueur.

### Tours et clips, par jeu français

| | Nombre | Audio |
|---|---:|:---:|
| Scénarios | 1 000 | |
| Tours, tous types | 5 500 | |
| `user`/`spoken` | 1 050 | ✔ |
| `assistant`/`spoken` | 1 050 | ✔ |
| `assistant`/`no_call` | 1 050 | — |
| `assistant`/`tool_call` | 1 175 | — |
| `tool` | 1 175 | — |
| **Clips** | **2 100** | |

950 scénarios ont 2 tours parlés ; les 50 de `F5_confirm` en ont 4, l'échange de
confirmation ajoutant une réplique de chaque côté.

## Chargement

```python
import json, soundfile as sf
from huggingface_hub import snapshot_download

root = snapshot_download("Rcarvalo/tool-calling-s2s-fr-v1", repo_type="dataset")
name = "dataset/tool_calling_v1_en_neutral_female_mix.jsonl"   # ou l'un des deux jeux fr
rows = [json.loads(l) for l in open(f"{root}/{name}", encoding="utf-8")]

for turn in rows[0]["turns"]:
    if turn.get("type") == "spoken":
        audio, sr = sf.read(f"{root}/{turn['audio']}")   # 24 kHz mono
        print(turn["role"], turn["text"], f"{len(audio)/sr:.2f}s")
```

## Génération

Voxtral-4B-TTS servi par vLLM-omni 0.26, en serveur, à 20 requêtes en parallèle.
Facteur temps réel mesuré : **x44 à x50**, soit 4 à 5 minutes de GPU par jeu. En
séquentiel il tombe à x3, d'où le parallélisme.

Aucun clip n'a échoué sur les 6 292, et aucun n'a été ré-échantillonné : tous
sont sortis directement en 24 kHz.

Outil : `s2s-skeletons`, qui vérifie la fidélité au texte source avant d'écrire
quoi que ce soit.

## Limites

- **Français : une seule voix par conversation** (voir plus haut). L'anglais n'a
  pas ce défaut.
- **Anglais : 996 scénarios sur 1 000.** Quatre échouent au validateur de langue
  du côté texte, sur un faux positif : il retire les noms propres connus avant
  de chercher un accent français, mais il les connaît sous leur forme complète
  (« Salomé Marchand ») alors que le texte emploie parfois le prénom seul
  (« Salomé »). L'accent survit au retrait et une phrase anglaise valide est
  rejetée.
- **Pas de system prompt.** Il sera défini au moment du finetuning ; le corpus
  ne le fige pas.
- **Le texte est synthétique**, produit par un LLM à partir de squelettes, puis
  relu côté texte. Les identités, adresses et courriels sont fictifs
  (`@example-sia.test`).
- **L'audio n'a pas été évalué.** Ni WER de re-transcription, ni MOS. Le rendu
  d'une épellation a été écouté sur échantillon avant lancement, dans les deux
  langues, rien de plus.
- **Le nom du dépôt dit `fr`** alors qu'il porte aussi l'anglais, pour éviter de
  disperser un corpus dont les deux moitiés partagent les mêmes squelettes.