metadata

license: apache-2.0
tags:
  - finetuned
  - mlx
pipeline_tag: text-generation
inference: true
widget:
  - messages:
      - role: user
        content: What is your favorite condiment?

versae/filiberto-7B-instruct-exp1

This model was converted to MLX format from mistralai/Mistral-7B-Instruct-v0.2 using mlx-lm version 0.9.0. Refer to the original model card for more details on the model.

Use with mlx

pip install mlx-lm

from mlx_lm import load, generate

prompt = """<s>[INST] Dado el siguiente texto OCR, corrige los fallos que encuentres y devuelve el texto corregido:

Otra vez, Don Iuan, me dad,
y otras mil vezes los braços.
Otra, y otras mil sean lazos
de nuestra antigua amistad.
Como venis?
Yo me siento
tan alegre, tan vfano,
tan venturoso, tan vano,
que no podrà el pensamiento
encareceros jamàs
las venturas que posseo,
porque el pensamiento creo [/INST]"""

model, tokenizer = load("versae/filiberto-7B-instruct-exp1")
response = generate(model, tokenizer, prompt=prompt, verbose=True)