Hjgugugjhuhjggg commited on
Commit
be0c6cb
1 Parent(s): 823bbba

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -117,8 +117,8 @@ async def predict(request: DownloadModelRequest):
117
  f.write(model_stream.read())
118
 
119
  # Cargar el modelo y el tokenizador desde los archivos temporales
120
- model = AutoModelForCausalLM.from_pretrained(model_path)
121
- tokenizer = AutoTokenizer.from_pretrained(tokenizer_path)
122
 
123
  # Crear un pipeline para la tarea deseada
124
  pipeline_ = pipeline(request.pipeline_task, model=model, tokenizer=tokenizer)
 
117
  f.write(model_stream.read())
118
 
119
  # Cargar el modelo y el tokenizador desde los archivos temporales
120
+ model = AutoModelForCausalLM.from_pretrained(tmp_dir)
121
+ tokenizer = AutoTokenizer.from_pretrained(tmp_dir)
122
 
123
  # Crear un pipeline para la tarea deseada
124
  pipeline_ = pipeline(request.pipeline_task, model=model, tokenizer=tokenizer)