Update README.md
Browse files
README.md
CHANGED
@@ -14,11 +14,11 @@ model = AutoModelForCausalLM.from_pretrained(
|
|
14 |
torch_dtype="auto",
|
15 |
device_map="auto"
|
16 |
)
|
17 |
-
tokenizer = AutoTokenizer.from_pretrained("
|
18 |
|
19 |
-
prompt = "
|
20 |
messages = [
|
21 |
-
{"role": "system", "content": "
|
22 |
{"role": "user", "content": prompt}
|
23 |
]
|
24 |
text = tokenizer.apply_chat_template(
|
|
|
14 |
torch_dtype="auto",
|
15 |
device_map="auto"
|
16 |
)
|
17 |
+
tokenizer = AutoTokenizer.from_pretrained("vilm/VinaLlama2-14B-GPTQ-Int4")
|
18 |
|
19 |
+
prompt = "Việt Nam có bao nhiêu tỉnh thành?"
|
20 |
messages = [
|
21 |
+
{"role": "system", "content": "Bạn là một trợ lí AI hữu ích."},
|
22 |
{"role": "user", "content": prompt}
|
23 |
]
|
24 |
text = tokenizer.apply_chat_template(
|