Parakeet Ultra 0.6B, ONNX int8 (clavier Voix Turbo)

Modèle de dictée du clavier Android Voix Turbo (La Touche Carré), exécuté sur le processeur du téléphone.

Origine et attribution. Poids de moondream/parakeet-ultra (Moondream, CC-BY-4.0), post-entraînement de nvidia/parakeet-tdt-0.6b-v3 (NVIDIA, CC-BY-4.0). Licence de ce dépôt : CC-BY-4.0.

Méthode. Le .nemo officiel de Parakeet TDT 0.6B v3 reçoit les poids de model.safetensors de Parakeet Ultra (correspondance des noms transformers -> NeMo, similarité cosinus ≥ 0,954 avec v3 sur chaque tenseur), puis export ONNX par NeMo et quantification dynamique int8 avec les mêmes réglages que csukuangfj/sherpa-onnx-nemo-parakeet-tdt-0.6b-v3-int8 (onnx 1.17.0, onnxruntime 1.17.1 ; QUInt8 pour l'encodeur, QInt8 pour décodeur et joiner ; table de positions de 9 999 entrées comme l'export d'origine). Même vocabulaire (parakeet-tokens.txt identique à celui de v3).

Mesures (Galaxy S23 Ultra, processeur, 8 extraits, chaîne du clavier).

Parakeet v3 int8 Parakeet Ultra int8
Caractères erronés (5 extraits français) 1 185 646
Mots justes 84,0 % 89,6 %
Temps pour 15 s d'audio 1,7 s 1,7 s
Silence, souffle rien écrit rien écrit
Fichier Rôle
parakeet-encoder.int8.onnx encodeur FastConformer
parakeet-decoder.int8.onnx réseau de prédiction (LSTM 2 x 640)
parakeet-joiner.int8.onnx joiner (8 192 jetons + blanc + 5 durées)
parakeet-tokens.txt vocabulaire SentencePiece
Downloads last month

-

Downloads are not tracked for this model. How to track
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for LaToucheCarre/LaToucheCarre-Android-Voix-Parakeet-Ultra-0.6B-INT8-ONNX

Quantized
(27)
this model