Update README.md
Browse files
README.md
CHANGED
@@ -33,3 +33,15 @@ typical_p: 1.0<br>
|
|
33 |
|
34 |
Датасет подготовлен по технологии TiMe
|
35 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
33 |
|
34 |
Датасет подготовлен по технологии TiMe
|
35 |
|
36 |
+
|
37 |
+
|
38 |
+
## Для пользователей text-generation-webui
|
39 |
+
В инструменте поломана работа с GPT-2, GPTJ, GPT-NEO и аналогичными модлями, неверно загружается токенизер.
|
40 |
+
Ошибка такая:<br>
|
41 |
+
>eos_token_id = eos_token_id[0]
|
42 |
+
>IndexError: list index out of range
|
43 |
+
|
44 |
+
Исправляется легко, в файл modules/models.py в функцию load_tokenizer() надо добавить строчку<br>
|
45 |
+
<code>tokenizer.eos_token_id = 2</code><br>
|
46 |
+
перед<br>
|
47 |
+
<code>return tokenizer</code>
|