mustafakali commited on
Commit
f4dfbfe
·
verified ·
1 Parent(s): 7bc8ab0

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +119 -0
README.md ADDED
@@ -0,0 +1,119 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ug
4
+ - zh
5
+ pretty_name: UyZh-FolkSpeech
6
+ license: cc-by-4.0
7
+ task_categories:
8
+ - translation
9
+ - automatic-speech-recognition
10
+ tags:
11
+ - parallel-corpus
12
+ - low-resource
13
+ - uyghur
14
+ - chinese
15
+ - audio
16
+ size_categories:
17
+ - 1K<n<10K
18
+ ---
19
+
20
+ # UyZh-FolkSpeech:维吾尔语-汉语平行短句与常用词条数据集(四说话人录音全覆盖)
21
+
22
+ UyZh-FolkSpeech is a Uyghur-Chinese parallel dataset with four-speaker audio coverage for each entry.
23
+
24
+ ## 相关链接
25
+ - 代码与项目主页(GitHub):https://github.com/kalimustafa/UyZh-FolkSpeech
26
+ - 论文与材料(GitHub 仓库内 paper/):https://github.com/kalimustafa/UyZh-FolkSpeech/tree/main/paper
27
+
28
+ ## 数据集概述
29
+ UyZh-FolkSpeech 面向低资源场景的维吾尔语-汉语语言技术研究与工程落地,覆盖新疆地区常见的民间谚语与日常口语表达,并补充常用词与短语条目。数据可用于:
30
+ - 机器翻译(Uyghur ↔ Chinese)
31
+ - 跨语言检索与对话系统
32
+ - 语音增强 NLP、自动语音识别(ASR)
33
+ - 语音到文本翻译(Speech-to-Text Translation)等下游任务
34
+
35
+ ## 数据规模
36
+ | 项目 | 数量 |
37
+ | --- | --- |
38
+ | 文本条目总数 | 1984 |
39
+ | 维汉短句对(谚语与日常表达) | 953 |
40
+ | 常用词与短语条目 | 1031 |
41
+ | 每条目说话人数 | 4(S01-S04,两男两女) |
42
+ | 音频片段总数 | 7936 |
43
+
44
+ ## 不可变编号(Immutable IDs)
45
+ 所有条目均分配不可变 ID,便于版本迭代与可复现引用:
46
+ - 短句对:`UYZH-S-*`
47
+ - 词与短语:`UYZH-W-*`
48
+
49
+ 建议在任何派生数据、评测切分与模型训练记录中保留 `id` 字段,以实现稳定追踪。
50
+
51
+ ## 数据文件与字段设计
52
+ 推荐使用 TSV(UTF-8 编码)存储文本条目,并用 manifest 映射音频。
53
+
54
+ ### 文本文件(示例)
55
+ - `data/uyzh_bilingual_pairs.tsv`:953 条短句对
56
+ - `data/common_words_1031.tsv`:1031 条词/短语
57
+
58
+ 建议字段如下:
59
+ | 字段 | 类型 | 说明 |
60
+ | --- | --- | --- |
61
+ | id | string | 不可变记录 ID(`UYZH-S-*` / `UYZH-W-*`) |
62
+ | subset | string | `sentence` / `word_phrase`(或更细标签) |
63
+ | uy | string | 维吾尔文文本(UTF-8) |
64
+ | zh | string | 中文文本(UTF-8) |
65
+ | source_type | string | `online` / `field`(如已提供) |
66
+ | tags | string 或 list | 最小主题标签(如已提供) |
67
+
68
+ ### 音频清单(manifest)
69
+ - `audio/audio_manifest.tsv`:文本 ID 与音频文件一一映射(建议)
70
+
71
+ 建议至少包含:
72
+ | 字段 | 类型 | 说明 |
73
+ | --- | --- | --- |
74
+ | id | string | 对应文本条目 ID |
75
+ | speaker | string | 说话人标识(S01-S04) |
76
+ | path | string | 音频相对路径(指向仓库内文件) |
77
+ | duration | float | 时长(秒) |
78
+ | sample_rate | int | 固定 48000 |
79
+ | channels | int | 固定 1 |
80
+ | codec | string | aac-lc |
81
+ | bitrate | int 或 string | 比特率(如有记录) |
82
+
83
+ ## 音频规范
84
+ - 格式:M4A(AAC-LC)
85
+ - 采样率:48 kHz
86
+ - 声道:单声道
87
+ - 覆盖:每个文本条目提供 4 位母语说话人录音(S01-S04,两男两女)
88
+ - 对齐:通过 manifest 实现文本与音频的一一映射,便于复现与下游处理
89
+
90
+ ## 数据生成与处理流程(Methods 概要)
91
+ 数据由公开材料与线下采集整理而成,采用统一处理流水线:
92
+ - OCR/转写
93
+ - 人工校对
94
+ - 句级对齐
95
+ - 规范化清洗
96
+ - 质量检查
97
+
98
+ 并对录音建立清单映射,以支持语音相关任务的可复现使用。
99
+
100
+ ## 质量控制(Quality Control)
101
+ - 全量一致性检查:ID 唯一性、字段完整性、编码与字符集一致性
102
+ - 文本规范化:空白与标点统一、异常字符处理、明显错配修订
103
+ - 音频检查:格式统一、路径可解析、时长与采样率一致
104
+ - 下游友好:保留不可变 ID,便于切分与对比实验
105
+
106
+ ## 使用方式(Datasets 示例)
107
+ 说明:如果你希望 Hugging Face Dataset Viewer 可直接预览,请确保仓库中存在可识别的结构化数据文件(如 .tsv/.csv/.json/.parquet),并且音频可通过 manifest 的相对路径访问。
108
+
109
+ ### 读取 TSV(本地或下载后)
110
+ ```python
111
+ from datasets import load_dataset
112
+
113
+ ds = load_dataset(
114
+ "csv",
115
+ data_files={"train": "data/uyzh_bilingual_pairs.tsv"},
116
+ delimiter="\t",
117
+ split="train"
118
+ )
119
+ print(ds[0])