Update README.md
Browse files
README.md
CHANGED
@@ -50,7 +50,7 @@ Usei o seguinte comando. Para melhores resultados forneça exemplos de resultado
|
|
50 |
|
51 |
Para compreender os parâmetros, veja [a documentação do llama.cpp](https://github.com/ggerganov/llama.cpp/blob/master/examples/main/README.md)
|
52 |
|
53 |
-
Em breve no Google Colab: [](
|
54 |
|
55 |
## Sobre o formato GGUF
|
56 |
|
@@ -72,6 +72,7 @@ Aqui está uma lista de clientes e bibliotecas que são conhecidos por suportar
|
|
72 |
- [llama-cpp-python](https://github.com/abetlen/llama-cpp-python), suporta GGUF a partir da versão 0.1.79. Uma biblioteca Python com aceleração GPU, suporte LangChain e servidor API compatível com OpenAI.
|
73 |
- [candle](https://github.com/huggingface/candle), adicionou suporte GGUF em 22 de agosto. Candle é um framework ML Rust com foco em desempenho, incluindo suporte GPU e facilidade de uso.
|
74 |
- [LocalAI](https://github.com/go-skynet/LocalAI), adicionou suporte GGUF em 23 de agosto. LocalAI provê uma API Rest para modelos LLM e de geração de imagens.
|
|
|
75 |
|
76 |
## Template
|
77 |
|
|
|
50 |
|
51 |
Para compreender os parâmetros, veja [a documentação do llama.cpp](https://github.com/ggerganov/llama.cpp/blob/master/examples/main/README.md)
|
52 |
|
53 |
+
Em breve no Google Colab: [](https://colab.research.google.com/github/lucianosb/boto-notebooks/blob/main/boto-7B/boto_7b_llamacpp_5_k_m.ipynb)
|
54 |
|
55 |
## Sobre o formato GGUF
|
56 |
|
|
|
72 |
- [llama-cpp-python](https://github.com/abetlen/llama-cpp-python), suporta GGUF a partir da versão 0.1.79. Uma biblioteca Python com aceleração GPU, suporte LangChain e servidor API compatível com OpenAI.
|
73 |
- [candle](https://github.com/huggingface/candle), adicionou suporte GGUF em 22 de agosto. Candle é um framework ML Rust com foco em desempenho, incluindo suporte GPU e facilidade de uso.
|
74 |
- [LocalAI](https://github.com/go-skynet/LocalAI), adicionou suporte GGUF em 23 de agosto. LocalAI provê uma API Rest para modelos LLM e de geração de imagens.
|
75 |
+
- [Jan](https://github.com/janhq/jan), similar ao LM Studio, porém complemetamente open-source
|
76 |
|
77 |
## Template
|
78 |
|