Update README.md
Browse files
README.md
CHANGED
|
@@ -19,7 +19,12 @@ pip install --no-deps trl peft accelerate bitsandbytes triton xformers
|
|
| 19 |
|
| 20 |
from operator import index
|
| 21 |
from unsloth import FastLanguageModel
|
|
|
|
|
|
|
| 22 |
|
|
|
|
|
|
|
|
|
|
| 23 |
|
| 24 |
alpaca_prompt = """ حلل العاطفة متاع النص الموجود بين الأقواس المربعة، وقرّر إذا كان إيجابي ولا سلبي، ورجع الجواب كعلامة عاطفية متطابقة "إيجابي" ولا "سلبي".
|
| 25 |
|
|
|
|
| 19 |
|
| 20 |
from operator import index
|
| 21 |
from unsloth import FastLanguageModel
|
| 22 |
+
from unsloth import FastLanguageModel
|
| 23 |
+
import torch
|
| 24 |
|
| 25 |
+
max_seq_length = 2048 # Choose any! Llama 3 is up to 8k
|
| 26 |
+
dtype = None
|
| 27 |
+
load_in_4bit = True # Use 4bit quantization to reduce memory usage. Can be False.
|
| 28 |
|
| 29 |
alpaca_prompt = """ حلل العاطفة متاع النص الموجود بين الأقواس المربعة، وقرّر إذا كان إيجابي ولا سلبي، ورجع الجواب كعلامة عاطفية متطابقة "إيجابي" ولا "سلبي".
|
| 30 |
|