Update README.md
Browse files
README.md
CHANGED
@@ -17,7 +17,7 @@ pipeline_tag: text-generation
|
|
17 |
- GPT2(Flax, Pytorch)
|
18 |
- 12 Layers, 768 hidden dim, 3072 intermediate, 12 heads, 51200 vocab size
|
19 |
- 1024 max_seq_len
|
20 |
-
- 파라미터 수:
|
21 |
|
22 |
## 학습 환경 및 하이퍼파라미터
|
23 |
- TPU V2-8
|
|
|
17 |
- GPT2(Flax, Pytorch)
|
18 |
- 12 Layers, 768 hidden dim, 3072 intermediate, 12 heads, 51200 vocab size
|
19 |
- 1024 max_seq_len
|
20 |
+
- 파라미터 수: 210M
|
21 |
|
22 |
## 학습 환경 및 하이퍼파라미터
|
23 |
- TPU V2-8
|