Update app.py

app.py

@@ -9,21 +9,22 @@ hf_token = os.getenv("HF_TOKEN")
 if hf_token is None:
     raise ValueError("HF_TOKEN is not set. Please check your secrets.")
 
-# Lade Tokenizer und Basismodell
-base_model_name = "togethercomputer/Mistral-7B-Instruct-v0.2"
+# Basismodell- und LoRA-Modellnamen
+base_model_name = "mistralai/Mistral-7B-Instruct-v0.2"
 lora_model_name = "TooKeen/neo-blockchain-assistant"
 
-tokenizer = AutoTokenizer.from_pretrained(base_model_name, use_auth_token=hf_token)
-base_model = AutoModelForCausalLM.from_pretrained(base_model_name, use_auth_token=hf_token, device_map="auto")
+# Lade Tokenizer und Modell mit Authentifizierung
+tokenizer = AutoTokenizer.from_pretrained(base_model_name, token=hf_token)
+base_model = AutoModelForCausalLM.from_pretrained(base_model_name, token=hf_token, device_map="auto")
 model = PeftModel.from_pretrained(base_model, lora_model_name)
 
-# Definiere die Vorhersagefunktion
+# Definiere die Textgenerierungsfunktion
 def generate_text(prompt):
     inputs = tokenizer(prompt, return_tensors="pt").to("cuda" if torch.cuda.is_available() else "cpu")
     outputs = model.generate(**inputs, max_length=100)
     return tokenizer.decode(outputs[0], skip_special_tokens=True)
 
-# Erstelle die Gradio-Oberfläche
+# Gradio-Oberfläche einrichten
 interface = gr.Interface(
     fn=generate_text,
     inputs=gr.Textbox(lines=2, placeholder="Geben Sie Ihren Text hier ein..."),