Tokenizers
Collection
Tokenizer artifacts and vocabulary data for Kazakh model training. Tokenizer и словарные данные для обучения моделей казахского языка. • 2 items • Updated
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
Til-vocab-morphbpe-96k-kkrumix-v1
Қазақ тіліне басымдық берілген tokenizer · Tokenizer с приоритетом казахского · Kazakh-priority tokenizer
Қазақша
Til-vocab-morphbpe-96k-kkrumix-v1 — қазақ, орыс және ағылшын тілдеріне, код пен математика мәтіндеріне арналған көлемі 9.2 МБ byte-level BPE tokenizer. Сөздік көлемі 96 000 токен; қазақ тіліне басымдық берілген.
Құрылымы мен өлшемдері
Репозиторийде 3 файл бар, негізгі артефакт — tokenizer.json. Tokenizer tokenizers кітапханасымен жұмыс істейді.
| Сипаттама | Мәні |
|---|---|
| Сөздік көлемі | 96 000 |
<pad> идентификаторы |
0 |
<bos> идентификаторы |
1 |
<eos> идентификаторы |
2 |
| Тіл | Бір сөзге шаққандағы токен саны |
|---|---|
| Қазақша | 1.699 |
| Орысша | 1.619 |
| Ағылшынша | 1.355 |
Орыс тілінің үлесін өзгерткеннен кейін орысша мәтіндегі көрсеткіш 1.718-ден 1.619-ға түскен.
Қалай жүктеуге болады
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer
tokenizer_file = hf_hub_download(
repo_id="TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1",
filename="tokenizer.json",
repo_type="dataset",
)
tokenizer = Tokenizer.from_file(tokenizer_file)
print(tokenizer.encode("Сәлеметсіз бе, әлем!").ids)
Код Hugging Face-тен tokenizer.json файлын алып, мысал сөйлемді токендерге бөледі.
Қолжетімділік
Репозиторий карточкасы мен файлдар тізімі ашық көрінеді. Файлды жүктеу үшін «Request access» арқылы өтінім беру керек; оны TilQazyna командасы тексереді.
Байланысты репозиторийлер
Til-Tokenizer-128k — Til бағдарламасындағы тағы бір tokenizer. Til-Corpus — мәтін корпусы.
Русский
Til-vocab-morphbpe-96k-kkrumix-v1 — byte-level BPE tokenizer объёмом 9.2 МБ для казахского, русского и английского языков, кода и математических текстов. В словаре 96 000 токенов; при составлении словаря приоритет отдан казахскому.
Устройство и измерения
В репозитории 3 файла, основной артефакт — tokenizer.json. Tokenizer загружается библиотекой tokenizers.
| Характеристика | Значение |
|---|---|
| Размер словаря | 96 000 |
Идентификатор <pad> |
0 |
Идентификатор <bos> |
1 |
Идентификатор <eos> |
2 |
| Язык | Токенов на слово |
|---|---|
| Казахский | 1.699 |
| Русский | 1.619 |
| Английский | 1.355 |
После изменения доли русского материала показатель для русского текста снизился с 1.718 до 1.619.
Как загрузить
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer
tokenizer_file = hf_hub_download(
repo_id="TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1",
filename="tokenizer.json",
repo_type="dataset",
)
tokenizer = Tokenizer.from_file(tokenizer_file)
print(tokenizer.encode("Сәлеметсіз бе, әлем!").ids)
Скрипт скачивает tokenizer.json с Hugging Face и токенизирует пример.
Доступ
Карточка и перечень файлов видны без авторизации. Скачивание открывается после заявки через «Request access»; заявки проверяет команда TilQazyna.
Связанные репозитории
Til-Tokenizer-128k содержит другой tokenizer программы Til. Til-Corpus содержит тексты корпуса.
English
Til-vocab-morphbpe-96k-kkrumix-v1 is a 9.2 MB byte-level BPE tokenizer for Kazakh, Russian, English, code, and mathematical text. Its vocabulary contains 96,000 tokens and gives Kazakh priority in the language mix.
Design and measurements
The repository has 3 files, with tokenizer.json as the main artifact. The tokenizer loads directly with the tokenizers library.
| Property | Value |
|---|---|
| Vocabulary size | 96,000 |
<pad> identifier |
0 |
<bos> identifier |
1 |
<eos> identifier |
2 |
| Language | Tokens per word |
|---|---|
| Kazakh | 1.699 |
| Russian | 1.619 |
| English | 1.355 |
After the Russian share of the training mix was adjusted, the Russian measurement decreased from 1.718 to 1.619.
Loading the tokenizer
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer
tokenizer_file = hf_hub_download(
repo_id="TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1",
filename="tokenizer.json",
repo_type="dataset",
)
tokenizer = Tokenizer.from_file(tokenizer_file)
print(tokenizer.encode("Сәлеметсіз бе, әлем!").ids)
The script downloads tokenizer.json from Hugging Face and tokenizes the example sentence.
Access
The repository card and file list remain visible to everyone. File downloads require approval after submitting the “Request access” form, which the TilQazyna team reviews.
Related repositories
Til-Tokenizer-128k provides another tokenizer from the Til program. Til-Corpus provides the text corpus.
Лицензия · License: mit · TilQazyna
- Downloads last month
- 10