File size: 277 Bytes
b3557cd
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
FROM ./geitje-7b-ultra-q8_0.gguf
TEMPLATE """{{- if .System }}
<|system|>
{{ .System }}</s>
{{ end }}
<|user|>
{{ .Prompt }}</s>
<|assistant|>
"""
PARAMETER num_ctx 8192
PARAMETER stop "<|system|>"
PARAMETER stop "<|user|>"
PARAMETER stop "<|assistant|>"
PARAMETER stop "</s>"