Update README.md
Browse files
README.md
CHANGED
@@ -32,15 +32,6 @@ To use this model, you need the `unsloth` and`transformers` library from Huggin
|
|
32 |
how to use :
|
33 |
|
34 |
```python
|
35 |
-
|
36 |
-
if False:
|
37 |
-
from unsloth import FastLanguageModel
|
38 |
-
model, tokenizer = FastLanguageModel.from_pretrained(
|
39 |
-
model_name = "MahmoudIbrahim/Meta_LLama3_Arabic", # YOUR MODEL YOU USED FOR TRAINING
|
40 |
-
max_seq_length = 2048,
|
41 |
-
dtype = None,
|
42 |
-
load_in_4bit = True,
|
43 |
-
)
|
44 |
alpaca_prompt = """فيما يلي تعليمات تصف مهمة، إلى جانب مدخل يوفر سياقاً إضافياً. اكتب استجابة تُكمل الطلب بشكل مناسب.
|
45 |
|
46 |
### التعليمات:
|
@@ -52,6 +43,15 @@ alpaca_prompt = """فيما يلي تعليمات تصف مهمة، إلى جا
|
|
52 |
### الاستجابة:
|
53 |
{}"""
|
54 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
55 |
FastLanguageModel.for_inference(model) # Enable native 2x faster inference
|
56 |
# alpaca_prompt = Copied from above
|
57 |
FastLanguageModel.for_inference(model) # Enable native 2x faster inference
|
|
|
32 |
how to use :
|
33 |
|
34 |
```python
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
35 |
alpaca_prompt = """فيما يلي تعليمات تصف مهمة، إلى جانب مدخل يوفر سياقاً إضافياً. اكتب استجابة تُكمل الطلب بشكل مناسب.
|
36 |
|
37 |
### التعليمات:
|
|
|
43 |
### الاستجابة:
|
44 |
{}"""
|
45 |
|
46 |
+
if False:
|
47 |
+
from unsloth import FastLanguageModel
|
48 |
+
model, tokenizer = FastLanguageModel.from_pretrained(
|
49 |
+
model_name = "MahmoudIbrahim/Meta_LLama3_Arabic", # YOUR MODEL YOU USED FOR TRAINING
|
50 |
+
max_seq_length = 2048,
|
51 |
+
dtype = None,
|
52 |
+
load_in_4bit = True,
|
53 |
+
)
|
54 |
+
|
55 |
FastLanguageModel.for_inference(model) # Enable native 2x faster inference
|
56 |
# alpaca_prompt = Copied from above
|
57 |
FastLanguageModel.for_inference(model) # Enable native 2x faster inference
|