---
license: mit
datasets:
- allenai/MADLAD-400
---
Mae'r model LLM yn seiliedig ar [microsoft/phi-2](https://huggingface.co/microsoft/phi-2), gyda hyfforddiant parhaus am 1 Epoch cyfan o ddata Cymreig o'r dataset [allenai/MADLAD-400](https://huggingface.co/datasets/allenai/MADLAD-400).

Pwrpas y model yw fod yn gychwyn i hyfforddiant cywrain pellach i greu casgliad o LLMs Cymreig penodol.

---
*Contains information from [allenai/MADLAD-400](https://huggingface.co/datasets/allenai/MADLAD-400) which is made available
under the ODC Attribution License.*