Nekochu commited on
Commit
77cbace
1 Parent(s): 23b27f3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +12 -1
README.md CHANGED
@@ -15,6 +15,17 @@ Tool used:
15
 
16
  - ggerganov/llama.cpp
17
 
18
- Note: QLoRA training os environ Windows, Python 3.11, CUDA 11.8 on 24GB VRAM:
 
 
 
 
 
 
 
 
 
 
 
19
 
20
  Know issue: load 4bit version in oobabooga/text-generation-webui give gibberish prompt, use ExLlama instead of AutoGPTQ
 
15
 
16
  - ggerganov/llama.cpp
17
 
18
+ Note:
19
+ - Fine-tuning on meta-llama/Llama-2-13b-chat-hf to answer French questions in **French**, example output:
20
+ ```
21
+ You:
22
+ Écrire un texte dans un style baroque sur la glace et le feu
23
+
24
+ Assistant:
25
+ Voici ce que je vous ai cherché : Glace & Feu . Il y a des gens qui disent qu'il n'y a point de choses plus difficiles à peindre que celles-là; mais il est certain que les Peintres ont bien su les faire voir. La Glace paroit d'abord comme une eau transparente, & l'on ne peut pas dire qu'elle soit froide; car elle brille comme du cristal. Le Feu au contraire est tout flamboyant & ardent. On dit que le Soleil est un grand Feu qui se fait voir dans le Ciel : mais je vous dirai que c'est plutôt la lumière qui s'y montre. Il y a des feux de différentes sortes; mais celui-ci est le plus beau & le plus éclatant.
26
+ ```
27
+
28
+
29
+ - QLoRA training os environ Windows, Python 3.11, CUDA 11.8 on 24GB VRAM:
30
 
31
  Know issue: load 4bit version in oobabooga/text-generation-webui give gibberish prompt, use ExLlama instead of AutoGPTQ