File size: 442 Bytes
89cda25
 
23d8924
 
 
 
 
4887105
89cda25
23d8924
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
---
license: cc-by-nc-sa-4.0
datasets:
- mc4
language:
- ko
widget:
- text: "안녕하세요. 저는"
---
## 데이터셋
[mc4](https://huggingface.co/datasets/mc4) 데이터셋에서 한글을 정제 후 사용하였습니다.

## 주의
데이터셋에서 혐오 표현 등을 제거하지 않고 사용하였습니다.

## 모델 정보

model type: llama

hidden size: 8

hidden size: 512

num attention heads: 16

num key value heads: 4