Update script.sh
Browse files
script.sh
CHANGED
|
@@ -1,5 +1,5 @@
|
|
| 1 |
#!/bin/bash
|
| 2 |
-
../llama-server -m ./shieldgemma-2b-q5_k_m-imat.gguf -c 8192 -t 4 --port 8000 --host 127.0.0.1 --parallel 2 -cb -dt 0.1 &
|
| 3 |
../llama-server -m ./gemma-2-2b-it-Q5_K_M.gguf -c 8192 -t 4 --port 7888 --host 127.0.0.1 --parallel 2 -cb 0.1 -dt 0.1 &
|
| 4 |
|
| 5 |
sleep 5
|
|
|
|
| 1 |
#!/bin/bash
|
| 2 |
+
../llama-server -m ./shieldgemma-2b-q5_k_m-imat.gguf -c 8192 -t 4 --port 8000 --host 127.0.0.1 --parallel 2 -cb 0.1 -dt 0.1 &
|
| 3 |
../llama-server -m ./gemma-2-2b-it-Q5_K_M.gguf -c 8192 -t 4 --port 7888 --host 127.0.0.1 --parallel 2 -cb 0.1 -dt 0.1 &
|
| 4 |
|
| 5 |
sleep 5
|