goodasdgood commited on
Commit
e02979a
·
verified ·
1 Parent(s): d1f5a00

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +37 -3
README.md CHANGED
@@ -1,3 +1,37 @@
1
- ---
2
- license: apache-2.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
+
3
+
4
+
5
+
6
+
7
+
8
+ !git clone https://github.com/ggerganov/llama.cpp
9
+ %cd llama.cpp
10
+ !make
11
+
12
+ !./llama-cli -h
13
+
14
+ !./llama-gguf-split --split-max-size 5G /content/dracarys2-72b-instruct.Q2_K.gguf dracarys2-72b-instruct.gguf
15
+
16
+ from huggingface_hub import upload_file
17
+
18
+ # رفع جزء النموذج الأول
19
+ upload_file(
20
+ path_or_fileobj="/content/llama.cpp/dracarys2-72b-instruct.gguf-00001-of-00006.gguf", # استبدل <PATH_TO_PART_1> بمسار الجزء الأول
21
+ path_in_repo="dracarys2-72b-instruct.gguf-00001-of-00006.gguf", # اسم الملف في المستودع
22
+ repo_id=repo_name, # اسم المستودع
23
+ )
24
+
25
+ # رفع جزء النموذج الثاني
26
+ upload_file(
27
+ path_or_fileobj="/content/llama.cpp/dracarys2-72b-instruct.gguf-00002-of-00006.gguf", # استبدل <PATH_TO_PART_2> بمسار الجزء الثاني
28
+ path_in_repo="dracarys2-72b-instruct.gguf-00002-of-00006.gguf", # اسم الملف في المستودع
29
+ repo_id=repo_name, # اسم المستودع
30
+ )
31
+
32
+ # وهكذا لبقية الأجزاء
33
+
34
+
35
+ !./llama-cli -m "/content/dracarys2-72b-instruct.Q2_K.gguf" -p "who is ai?" -n 50 -e -t 4 --no-warmup
36
+
37
+ !./bin/llama-cli -m "/content/dracarys2-72b-instruct.Q2_K.gguf" -p "Hi you how are you" -n 50 -e -ngl 33 -t 4