데이터셋

mc4 데이터셋에서 한글을 정제 후 사용하였습니다.

주의

데이터셋에서 혐오 표현 등을 제거하지 않고 사용하였습니다.

모델 정보

model type: llama

hidden size: 8

hidden size: 512

num attention heads: 16

num key value heads: 4

Downloads last month
2,581
Safetensors
Model size
194M params
Tensor type
F32
·
Inference Examples
This model does not have enough activity to be deployed to Inference API (serverless) yet. Increase its social visibility and check back later, or deploy to Inference Endpoints (dedicated) instead.

Dataset used to train blueapple8259/SmallKo