michaljunczyk commited on
Commit
f2cd8b8
·
verified ·
1 Parent(s): 04ca92a

Publiczna probka ilustrujaca domene + wyniki zespolu (poziom 3)

Browse files
Files changed (2) hide show
  1. README.md +84 -0
  2. data/probka.parquet +3 -0
README.md ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language: pl
3
+ license: other
4
+ task_categories:
5
+ - automatic-speech-recognition
6
+ tags:
7
+ - asr
8
+ - evaluation
9
+ - polish
10
+ - uam-wmi
11
+ - asr-eval-labs
12
+ - "2026"
13
+ - zwesui
14
+ - botanika
15
+ - sample
16
+ pretty_name: "ZWESUI 2026 - Grupa 4 - botanika - probka"
17
+ size_categories:
18
+ - n<1K
19
+ configs:
20
+ - config_name: default
21
+ data_files:
22
+ - split: test
23
+ path: data/probka.parquet
24
+ ---
25
+
26
+ # ZWESUI 2026 - Grupa 4 - botanika - probka
27
+
28
+ Publiczna **próbka ilustrująca domenę** zbioru testowego ASR zbudowanego przez Grupę 4
29
+ (ZWESUI 2026) w ramach przedmiotu *Warsztaty z ewaluacji systemów rozpoznawania mowy*
30
+ (UAM WMI). Pełny zbiór jest utrzymywany jako held-out w organizacji
31
+ [`uam-wmi-asr-eval-labs`](https://huggingface.co/uam-wmi-asr-eval-labs) — dostęp na prośbę
32
+ (HF [@michaljunczyk](https://huggingface.co/michaljunczyk), micjun@amu.edu.pl).
33
+
34
+ - **Pełny zbiór (held-out, prywatny):** `uam-wmi-asr-eval-labs/2026-zwesui-g04-botanika`
35
+ - **Oryginał zespołu:** [`mszulcc/grupa-4-ZWESUI0`](https://huggingface.co/datasets/mszulcc/grupa-4-ZWESUI0) (gated, po zalogowaniu)
36
+ - **Domena:** botanika
37
+ - **Próbka:** 10 segmentów (10 z audio, 0 tylko tekst + odnośnik do źródła)
38
+ - **Cel próbki:** pokazać charakter danych (słownictwo, styl mowy, warunki akustyczne), aby publikowane
39
+ metryki dało się interpretować bez dostępu do pełnego zbioru. Próbka nie służy do ewaluacji.
40
+
41
+ ## Dobór segmentów
42
+
43
+ Sześć segmentów naturalnych z różnych filmów oraz cztery segmenty syntetyczne (KugelAudio).
44
+
45
+ Wybór deterministyczny (ziarno 20260815), równomierny po źródłach/subdomenach, długość segmentu 2,5–15 s.
46
+ Kolumny `annotator`/`verified_by` pominięto; nazwy plików zanonimizowane. Kolumna `audio_included`
47
+ mówi, czy wiersz zawiera audio; `note` wyjaśnia brak audio i wskazuje fragment w źródle.
48
+
49
+ ## Licencje
50
+
51
+ Nagrania naturalne w próbce pochodzą wyłącznie z filmów YouTube (uprawa roślin, ogrodnictwo), które są oznaczone licencją Creative Commons — Uznanie autorstwa, potwierdzoną przez prowadzącego na stronach filmów 2026-08-15. Segmenty syntetyczne w próbce: KugelAudio-0-Open (MIT). Segmenty Coqui XTTS v2 (licencja niekomercyjna) i filmy bez potwierdzonej licencji nie są udostępniane.
52
+
53
+ ## Wyniki zespołu na pełnym zbiorze
54
+
55
+ Wartości zgłoszone przez zespół w raporcie końcowym (czerwiec 2026), liczone na pełnym zbiorze
56
+ własnym protokołem normalizacji zespołu. **Nie były niezależnie odtwarzane** — niezależna ewaluacja
57
+ zbiorów held-out planowana jest w ramach BIGOS V3 / Polish ASR Leaderboard V2 (do końca 2026).
58
+
59
+ | System | WER | CER | RTF | WER — mowa spontaniczna (YouTube) | WER — synteza (TTS) |
60
+ | :--- | ---: | ---: | ---: | ---: | ---: |
61
+ | Whisper large-v3 | 6,5% | 2,2% | 0,32 | 7,1% | 3,8% |
62
+ | Cohere Transcribe 2B | 9,2% | 3,6% | 0,16 | 10,2% | 5,5% |
63
+ | Qwen3-ASR 1.7B | 12,4% | 5,1% | 0,11 | 13,9% | 7,2% |
64
+
65
+
66
+ ## Schemat
67
+
68
+ | Kolumna | Opis |
69
+ | :--- | :--- |
70
+ | `id` | identyfikator segmentu w próbce |
71
+ | `audio` | audio segmentu (WAV, mono) lub `null` |
72
+ | `text` | transkrypcja referencyjna zespołu (bez normalizacji) |
73
+ | `duration_s` | długość segmentu w sekundach |
74
+ | `speech_type` | `spontaneous` / `read` |
75
+ | `source_type` | `natural` / `tts` |
76
+ | `speaker_gender` | płeć mówcy, jeśli oznaczona przez zespół |
77
+ | `subdomain` | poddziedzina, jeśli oznaczona |
78
+ | `tts_engine` | silnik syntezy dla `source_type=tts` |
79
+ | `source_url` | źródło nagrania |
80
+ | `source_license` | licencja źródła (deklaracja zespołu + weryfikacja prowadzącego, gdzie możliwa) |
81
+ | `audio_included` | czy wiersz zawiera audio |
82
+ | `note` | uwagi (np. powód braku audio, znacznik czasu w źródle) |
83
+
84
+ Kopia przygotowana przez prowadzącego 2026-08-15. Konwencja nazwy: `{rok}-{tryb}-g{NN}-{domena}-probka`.
data/probka.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:dc3f1527cf190632dd2dc3437faa4a6a564abf7d16dec4fcd96a8dc1c437edfa
3
+ size 2602333