Migrate model card from transformers-repo
Browse filesRead announcement at https://discuss.huggingface.co/t/announcement-all-model-cards-will-be-migrated-to-hf-co-model-repos/2755
Original file history: https://github.com/huggingface/transformers/commits/master/model_cards/Tereveni-AI/gpt2-124M-uk-fiction/README.md
README.md
ADDED
@@ -0,0 +1,39 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
+
---
|
2 |
+
language: uk
|
3 |
+
---
|
4 |
+
|
5 |
+
Note: **default code snippet above won't work** because we are using `AlbertTokenizer` with `GPT2LMHeadModel`, see [issue](https://github.com/huggingface/transformers/issues/4285).
|
6 |
+
|
7 |
+
## GPT2 124M Trained on Ukranian Fiction
|
8 |
+
|
9 |
+
### Training details
|
10 |
+
|
11 |
+
Model was trained on corpus of 4040 fiction books, 2.77 GiB in total.
|
12 |
+
Evaluation on [brown-uk](https://github.com/brown-uk/corpus) gives perplexity of 50.16.
|
13 |
+
|
14 |
+
### Example usage:
|
15 |
+
```python
|
16 |
+
from transformers import AlbertTokenizer, GPT2LMHeadModel
|
17 |
+
|
18 |
+
tokenizer = AlbertTokenizer.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")
|
19 |
+
model = GPT2LMHeadModel.from_pretrained("Tereveni-AI/gpt2-124M-uk-fiction")
|
20 |
+
|
21 |
+
input_ids = tokenizer.encode("Но зла Юнона, суча дочка,", add_special_tokens=False, return_tensors='pt')
|
22 |
+
|
23 |
+
outputs = model.generate(
|
24 |
+
input_ids,
|
25 |
+
do_sample=True,
|
26 |
+
num_return_sequences=3,
|
27 |
+
max_length=50
|
28 |
+
)
|
29 |
+
|
30 |
+
for i, out in enumerate(outputs):
|
31 |
+
print("{}: {}".format(i, tokenizer.decode(out)))
|
32 |
+
```
|
33 |
+
|
34 |
+
Prints something like this:
|
35 |
+
```bash
|
36 |
+
0: Но зла Юнона, суча дочка, яка затьмарила всі її таємниці: І хто з'їсть її душу, той помре». І, не дочекавшись гніву богів, посунула в пітьму, щоб не бачити перед собою. Але, за
|
37 |
+
1: Но зла Юнона, суча дочка, і довела мене до божевілля. Але він не знав нічого. Після того як я його побачив, мені стало зле. Я втратив рівновагу. Але в мене не було часу на роздуми. Я вже втратив надію
|
38 |
+
2: Но зла Юнона, суча дочка, не нарікала нам! — раптом вигукнула Юнона. — Це ти, старий йолопе! — мовила вона, не перестаючи сміятись. — Хіба ти не знаєш, що мені подобається ходити з тобою?
|
39 |
+
```
|