Update README.md
Browse files
README.md
CHANGED
@@ -39,17 +39,10 @@ Here is an incomplate list of clients and libraries that are known to support GG
|
|
39 |
* [llama-cpp-python](https://github.com/abetlen/llama-cpp-python), a Python library with GPU accel, LangChain support, and OpenAI-compatible API server.
|
40 |
* [candle](https://github.com/huggingface/candle), a Rust ML framework with a focus on performance, including GPU support, and ease of use.
|
41 |
<!-- README_GGUF.md-about-gguf end -->
|
42 |
-
<!-- repositories-available start -->
|
43 |
-
## Repositories available
|
44 |
|
45 |
-
* [AWQ model(s) for GPU inference.](https://huggingface.co/TheBloke/Mistral-7B-v0.1-AWQ)
|
46 |
-
* [GPTQ models for GPU inference, with multiple quantisation parameter options.](https://huggingface.co/TheBloke/Mistral-7B-v0.1-GPTQ)
|
47 |
-
* [2, 3, 4, 5, 6 and 8-bit GGUF models for CPU+GPU inference](https://huggingface.co/TheBloke/Mistral-7B-v0.1-GGUF)
|
48 |
-
* [Mistral AI's original unquantised fp16 model in pytorch format, for GPU inference and for further conversions](https://huggingface.co/mistralai/Mistral-7B-v0.1)
|
49 |
-
<!-- repositories-available end -->
|
50 |
|
51 |
<!-- prompt-template start -->
|
52 |
-
## Prompt template:
|
53 |
|
54 |
```
|
55 |
<|assistant|>\nSei un assistente disponibile, rispettoso e onesto. Rispondi sempre nel modo piu' utile possibile, pur essendo sicuro. Le risposte non devono includere contenuti dannosi, non etici, razzisti, sessisti, tossici, pericolosi o illegali. Assicurati che le tue risposte siano socialmente imparziali e positive. Se una domanda non ha senso o non e' coerente con i fatti, spiegane il motivo invece di rispondere in modo non corretto. Se non conosci la risposta a una domanda, non condividere informazioni false.</s>\n<|user|>\nCrea una lista su cosa mangiare a pranzo ogni giorno della settimana a pranzo e cena</s>\n<|assistant|>
|
|
|
39 |
* [llama-cpp-python](https://github.com/abetlen/llama-cpp-python), a Python library with GPU accel, LangChain support, and OpenAI-compatible API server.
|
40 |
* [candle](https://github.com/huggingface/candle), a Rust ML framework with a focus on performance, including GPU support, and ease of use.
|
41 |
<!-- README_GGUF.md-about-gguf end -->
|
|
|
|
|
42 |
|
|
|
|
|
|
|
|
|
|
|
43 |
|
44 |
<!-- prompt-template start -->
|
45 |
+
## Prompt template:
|
46 |
|
47 |
```
|
48 |
<|assistant|>\nSei un assistente disponibile, rispettoso e onesto. Rispondi sempre nel modo piu' utile possibile, pur essendo sicuro. Le risposte non devono includere contenuti dannosi, non etici, razzisti, sessisti, tossici, pericolosi o illegali. Assicurati che le tue risposte siano socialmente imparziali e positive. Se una domanda non ha senso o non e' coerente con i fatti, spiegane il motivo invece di rispondere in modo non corretto. Se non conosci la risposta a una domanda, non condividere informazioni false.</s>\n<|user|>\nCrea una lista su cosa mangiare a pranzo ogni giorno della settimana a pranzo e cena</s>\n<|assistant|>
|