You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

LIEPA-3 Bendrinis Garsynas

Didysis lietuvių kalbos garsynas (LIEPA-3) – atviras kalbos duomenų rinkinys, skirtas šnekos atpažinimo tikslams ir moksliniams tyrimams.

Aprašymas

Šis duomenų rinkinys apima LIEPA-3 garsyno read, spon ir dial dalis (fonetinė phon dalis neįtraukta). Duomenys paruošti Whisper mokymui.

Dėmesio: ši garsyno versija yra sumažinto diskretizavimo dažnio (16 kHz). Originalus garsynas: https://clarin-repo.lt/items/0a04648e-ba4e-4e6f-9161-a2d01e8e9fdb

Read dalis

Ortografinė transkripcija (mažosios raidės, be skyrybos) — skaityta literatūrinė kalba. speaker_id (pvz. AL/A00218) ir region (apskrities kodas) iš kalbėtojų metaduomenų; gender/age_group užpildyti iš metadata-read-speaker.csv. 2,699,377 įrašai (~5,015 val., 7,125 kalbėtojų), language_type="R".

Spon dalis

Ortografinė transkripcija (mažosios raidės, be skyrybos) — spontaninė kalba (radijas, TV, telefonas ir kt.). speaker_id ir region tušti; gender/age_group iš failų kelio demografinių kodų (pvz. .../spon/M/D/F3/...). 4,527,544 įrašai (~4,937 val., ~5,000 kalbėtojų), language_type="M".

Dial dalis

Tekstas yra fonetinė IPA transkripcija (kirčio žymės ˈ, palatalizacija ', IPA balsiai/priebalsiai) – skiriasi nuo ortografinio read/spon teksto. speaker_id = {R}{ID}{SN} (pvz. A0401, 132 unikalūs; 117 {R}{ID} diktoriai) iš sesijos katalogo; region ∈ {A, D, S, Z}. 112,146 įrašai (~100 val.), language_type="S", source_type="D".

Pastaba: dial tekstą naudokite kitaip nei read/spon — tai ne tie patys (ortografiniai) žymėjimai.

Pakeitimų istorija

  • 1 versija — 2026-08-25 (20260825)
    • Pradinis pilno garsyno įkėlimas: 6,729,976 įrašai (be P)
    • Kalbėtojų informacija: read — speaker_id + region; spon — demografiniai kodai (gender, age_group) iš failų kelių
  • 2 versija — 2026-08-29 (20260829)
    • Įskaitant telefoninius (P) spon įrašus
    • Įrašų skaičius: 7,226,921
    • Read dalies gender/age_group užpildyti iš kalbėtojų metaduomenų (metadata-read-speaker.csv)
  • 3 versija — 2026-08-30 (20260830)
    • Naujas duration stulpelis: kiekvieno įrašo trukmė sekundėmis (float32), apskaičiuota iš FLAC STREAMINFO (be garso dekodavimo), sutampa su len(array)/sampling_rate
  • 4 versija — 2026-09-09 (20260909)
    • Pridėta dialektų (dial) dalis: 112,146 įrašai (fonetinė IPA transkripcija, regionai A/D/S/Z)
    • Dial speaker_id = {R}{ID}{SN} (pvz. A0401, 132 unikalūs) — iš sesijos katalogo pavadinimo
    • Naujas subset stulpelis: train/test read+spon įrašams, dial tuščias
  • 5 versija — 2026-09-11 (20260911)
    • Visi dial įrašai užpildyti subset reikšme: 5,607 dial įrašų, atrinkti į testinį subgarsyną (deterministinė 5% stratifikuota atranka), yra test; likę 106,539 — train
    • Galutinis skirstinys: test 45,151 (39,544 read/spon + 5,607 dial), train 7,293,916 (7,187,377 read/spon + 106,539 dial); tuščių subset reikšmių neliko
    • Repo paskelbtas viešai liepa-project/LIEPA-3_read-spon-dial_16kHz (gated, manual approval)

Pagrindinės savybės

  • Kalba: Lietuvių
  • Formatas: WAV (16 kHz, mono) parquet'e; šaltinis FLAC 16 kHz
  • Įrašų skaičius: 7,339,067
  • Trukmė: ~10,108 valandos
  • Dydis: ~623 GB parquet (šaltinis ~680 GB FLAC)

Struktūra

Laukai

Laukas Tipas Aprašymas
audio Audio Garso įrašas (16 kHz)
text string Transkripcija (read/spon — mažosios raidės, be skyrybos; dial — fonetinė IPA)
source string read, spon arba dial
speaker_id string Kalbėtojo ID — read: AL/A07684; dial: {R}{ID}{SN} (pvz. A0401); spon tuščias
region string Read — apskrities kodas (AL, KA, KL...); dial — regiono kodas (A Aukštaitija, D Dzūkija, S Suvalkija, Z Žemaitija); spon tuščias
language_type string Kalbos tipas: R (read), M (mixed), S (spontaneous)
source_type string Šaltinis: R (radijas), S (studija), P (telefonas), D (diktofonas), T (TV), A (audio knygos), U (nežinoma)
gender string Lytis: F (mot.), M (vyr.); read — iš kalbėtojų metaduomenų, spon/dial — iš kelio kodų
age_group string Amžiaus grupė: 1 (<12), 2 (13-17), 3 (18-60), 4 (>60); read — iš kalbėtojų metaduomenų, spon/dial — iš kelio kodų
duration float32 Įrašo trukmė sekundėmis (nuo FLAC STREAMINFO, sutampa su len(audio["array"])/sampling_rate)
subset string train/test kiekvienai eilutei

Statistika

Dalis Frazių Trukmė (val.) Kalbėtojų
Read 2,699,377 5,015 7,125
Spon 4,527,544 4,937 ~5,000
Dial 112,146 100 ~132
Viso 7,339,067 10,108 -

Subset skirstinys

subset Įrašų Sudėtis
train 7,293,916 read 2,687,626 + spon 4,499,751 + dial 106,539
test 45,151 read 11,751 + spon 27,793 + dial 5,607

Naudojimas

from datasets import load_dataset

ds = load_dataset("liepa-project/LIEPA-3_read-spon-dial_16kHz")

Filtravimas pagal subset:

train = ds["train"].filter(lambda r: r["subset"] == "train")   # 7,293,916
test  = ds["train"].filter(lambda r: r["subset"] == "test")    # 45,151
dial_test = ds["train"].filter(lambda r: r["subset"] == "test" and r["source"] == "dial")  # 5,607

Prieiga: viešas diskas su gated prieigos prašymu (manual approval) – po patvirtinimo duomenys prieinami su HF_TOKEN.

Pavyzdiniai įrašai

Read:

{
  "audio": ".../read/AL/A00218/0001.flac",
  "text": "tuoj jie vėl apsižodžiuos ir jis paliks ją ramybėje",
  "source": "read",
  "speaker_id": "AL/A00218",
  "region": "AL",
  "language_type": "R",
  "source_type": "R",
  "gender": "M",
  "age_group": "4",
  "subset": "test"
}

Spon:

{
  "audio": ".../spon/M/D/F3/00/47/0047b4350281-MDF3.flac",
  "text": "š šių dienų poli",
  "source": "spon",
  "speaker_id": "",
  "region": "",
  "language_type": "M",
  "source_type": "D",
  "gender": "F",
  "age_group": "3",
  "subset": "train"
}

Dial:

{
  "audio": ".../dial/A/F3/A0401-SDF3/A0401-SDF3-0001.flac",
  "text": "nuˈsteps ˈman' baˈtarke",
  "source": "dial",
  "speaker_id": "A0401",
  "region": "A",
  "language_type": "S",
  "source_type": "D",
  "gender": "F",
  "age_group": "3",
  "subset": "train"
}

Licencija

Creative Commons Priskyrimo 4.0 tarptautinė licencija CC BY 4.0

Šaltinis

  • Vytauto Didžiojo universitetas
  • Vilniaus universitetas
  • Lietuvių kalbos institutas

LIEPA-3 General Corpus

The Great Lithuanian Language Corpus (LIEPA-3) – an open speech dataset for speech recognition and research purposes.

Description

This dataset covers the read, spon and dial parts of the LIEPA-3 corpus (the phonetic phon part is not included). Prepared for Whisper training.

Note: this corpus version has a reduced sampling frequency (16 kHz). Original corpus: https://clarin-repo.lt/items/0a04648e-ba4e-4e6f-9161-a2d01e8e9fdb

Read part

Orthographic transcription (lowercase, no punctuation) — read literary speech. speaker_id (e.g. AL/A00218) and region (county code) from speaker metadata; gender/age_group filled from metadata-read-speaker.csv. 2,699,377 utterances (~5,015 h, 7,125 speakers), language_type="R".

Spon part

Orthographic transcription (lowercase, no punctuation) — spontaneous speech (radio, TV, phone, etc.). speaker_id and region are empty; gender/age_group from path demographic codes (e.g. .../spon/M/D/F3/...). 4,527,544 utterances (~4,937 h, ~5,000 speakers), language_type="M".

Dial part

The text is a phonetic IPA transcription (stress marks ˈ, palatalization ', IPA vowels/consonants) – it differs from the orthographic read/spon text. speaker_id = {R}{ID}{SN} (e.g. A0401, 132 unique; 117 {R}{ID} speakers) from the session directory; region ∈ {A, D, S, Z}. 112,146 utterances (~100 h), language_type="S", source_type="D".

Note: use dial text differently than read/spon — it is not the same (orthographic) notation.

Change History

  • v1 — 2026-08-25 (20260825)
    • Initial full corpus upload: 6,729,976 utterances (without P)
    • Speaker information: speaker_id + region for every read utterance; demographic codes (gender, age_group) for spon utterances, extracted from file paths
  • v2 — 2026-08-29 (20260829)
    • Includes phone (P) spon recordings
    • Total: 7,226,921 utterances
    • Read gender/age_group filled from speaker metadata (metadata-read-speaker.csv)
  • v3 — 2026-08-30 (20260830)
    • New duration column: per-utterance duration in seconds (float32), computed from FLAC STREAMINFO (no audio decode), matching len(array)/sampling_rate
  • v4 — 2026-09-09 (20260909)
    • Added the dialectal (dial) part: 112,146 utterances (phonetic IPA transcription, regions A/D/S/Z)
    • Dial speaker_id = {R}{ID}{SN} (e.g. A0401, 132 unique) — from the session directory name
    • New subset column: train/test for read+spon utterances, empty for dial
  • v5 — 2026-09-11 (20260911)
    • All dial utterances now labeled: 5,607 dial utterances held out in the test sub-corpus (deterministic 5% stratified selection) are test; the remaining 106,539 are train
    • Final split: test 45,151 (39,544 read/spon + 5,607 dial), train 7,293,916 (7,187,377 read/spon + 106,539 dial); no empty subset values
    • Published publicly at liepa-project/LIEPA-3_read-spon-dial_16kHz (gated, manual approval)

Key Features

  • Language: Lithuanian
  • Format: WAV (16 kHz, mono) in parquet; source FLAC 16 kHz
  • Utterances: 7,339,067
  • Duration: ~10,108 hours
  • Size: ~623 GB parquet (source ~680 GB FLAC)

Structure

Fields

Field Type Description
audio Audio Audio recording (16 kHz)
text string Transcription (read/spon — lowercase, no punctuation; dial — phonetic IPA)
source string read, spon or dial
speaker_id string Speaker ID — read: AL/A07684; dial: {R}{ID}{SN} (e.g. A0401); spon empty
region string Read — county code (AL, KA, KL...); dial — region code (A Aukštaitija, D Dzūkija, S Suvalkija, Z Žemaitija); spon empty
language_type string Speech type: R (read), M (mixed), S (spontaneous)
source_type string Source: R (radio), S (studio), P (phone), D (dictaphone), T (TV), A (audio books), U (unknown)
gender string Gender: F (female), M (male); read — from speaker metadata, spon/dial — from path codes
age_group string Age group: 1 (<12), 2 (13-17), 3 (18-60), 4 (>60); read — from speaker metadata, spon/dial — from path codes
duration float32 Utterance duration in seconds (from FLAC STREAMINFO, matches len(audio["array"])/sampling_rate)
subset string train/test for every row

Statistics

Part Utterances Duration (hours) Speakers
Read 2,699,377 5,015 7,125
Spon 4,527,544 4,937 ~5,000
Dial 112,146 100 ~132
Total 7,339,067 10,108 -

Subset distribution

subset Utterances Composition
train 7,293,916 read 2,687,626 + spon 4,499,751 + dial 106,539
test 45,151 read 11,751 + spon 27,793 + dial 5,607

Usage

from datasets import load_dataset

ds = load_dataset("liepa-project/LIEPA-3_read-spon-dial_16kHz")

Filtering by subset:

train = ds["train"].filter(lambda r: r["subset"] == "train")   # 7,293,916
test  = ds["train"].filter(lambda r: r["subset"] == "test")    # 45,151
dial_test = ds["train"].filter(lambda r: r["subset"] == "test" and r["source"] == "dial")  # 5,607

Access: public repo with gated access (manual approval) – after approval the data is available with an HF_TOKEN.

Sample Entries

Read:

{
  "audio": ".../read/AL/A00218/0001.flac",
  "text": "tuoj jie vėl apsižodžiuos ir jis paliks ją ramybėje",
  "source": "read",
  "speaker_id": "AL/A00218",
  "region": "AL",
  "language_type": "R",
  "source_type": "R",
  "gender": "M",
  "age_group": "4",
  "subset": "test"
}

Spon:

{
  "audio": ".../spon/M/D/F3/00/47/0047b4350281-MDF3.flac",
  "text": "š šių dienų poli",
  "source": "spon",
  "speaker_id": "",
  "region": "",
  "language_type": "M",
  "source_type": "D",
  "gender": "F",
  "age_group": "3",
  "subset": "train"
}

Dial:

{
  "audio": ".../dial/A/F3/A0401-SDF3/A0401-SDF3-0001.flac",
  "text": "nuˈsteps ˈman' baˈtarke",
  "source": "dial",
  "speaker_id": "A0401",
  "region": "A",
  "language_type": "S",
  "source_type": "D",
  "gender": "F",
  "age_group": "3",
  "subset": "train"
}

License

Creative Commons Attribution 4.0 International CC BY 4.0

Source

  • Vytautas Magnus University
  • Vilnius University
  • Institute of the Lithuanian Language
Downloads last month
28