Mwydryn
(Fersiwn 1 yn seiliedig ar Phi-2.)
Mae'r model yn gychwyn ar fersiwn o Phi-2 sydd yn medru sgwrsio a chyfathrebu drwy'r Gymraeg yn eithaf eglur.
Mae'r model LLM yn seiliedig ar BangorAI/phi2-cy-100k, sef y model Phi-2 wedi hyfforddiant parhaus ar gyfer y Gymraeg.
Cafodd y model hyfforddiant cywrain pellach ar ddata yahma/alpaca-cleaned ar iddo ei drosi yn fras i'r Gymraeg.
Nodir
LLM arbrofol ydyw, felly peidiwch a chymeryd unrhyw ymateb gan y model o ddifri.
Mae ansawdd y model yn dangos diffyg mewn ffeithiau a chysondeb ymateb. Tebyg fod phy2-cy-100k angen mwy o hyfforddiant parhaus, a bod maint y model (2.7B) yn ormod o gyfyngiad. Mwydryn go iawn.
- Downloads last month
- 17
Install from pip and serve model
# Install vLLM from pip: pip install vllm# Start the vLLM server: vllm serve "BangorAI/phi2-mwydryn-1"# Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "BangorAI/phi2-mwydryn-1", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'