Update app.py

app.py

@@ -26,13 +26,19 @@ def load_model(model_name):
     global model, tokenizer
     tokenizer = AutoTokenizer.from_pretrained(model_name)
     model = AutoModelForCausalLM.from_pretrained(model_name, device_map="cpu", attn_implementation="eager")
+    
+    # Définir le token de padding s'il n'existe pas
+    if tokenizer.pad_token is None:
+        tokenizer.pad_token = tokenizer.eos_token
+        model.config.pad_token_id = model.config.eos_token_id
+    
     return f"Modèle {model_name} chargé avec succès sur CPU."
 
 @spaces.GPU(duration=300)
 def generate_text(input_text, temperature, top_p, top_k):
     global model, tokenizer
     
-    inputs = tokenizer(input_text, return_tensors="pt", padding=True)
+    inputs = tokenizer(input_text, return_tensors="pt", padding=True, truncation=True, max_length=512)
     input_ids = inputs["input_ids"]
     attention_mask = inputs["attention_mask"]