Update app.py

app.py

@@ -39,7 +39,7 @@ presence_penalty=0.15
 jezik = "srpski"
 cs = "s0"
 
-system_sr = "Zoveš se U-Chat AI asistent i pomažeš korisniku usluga kompanije United Group. Korisnik postavlja pitanje ili problem, upareno sa dodatnima saznanjima. Na osnovu toga napiši korisniku kratak i ljubazan odgovor koji kompletira njegov zahtev ili mu daje odgovor na pitanje. "
+system_sr = "Zoveš se U-Chat AI asistent i pomažeš korisniku usluga kompanije United Group. Korisnik postavlja problem ili pitanje na koje očekuje ljubazan odgovor koji rešava njegov problem ili mu daje odgovor na pitanje. "
 # " Ako ne znaš odgovor, reci da ne znaš, ne izmišljaj ga."
 system_sr += "Usluge kompanije United Group uključuju i kablovsku mrežu za digitalnu televiziju, pristup internetu, uređaj EON SMART BOX za TV sadržaj, kao i fiksnu telefoniju. "
 
@@ -69,7 +69,7 @@ Settings.llm = HuggingFaceInferenceAPI(model_name="mistralai/Mistral-Nemo-Instru
                               context_window=5000,
                               max_new_tokens=2048,
 #                              stopping_ids=[50278, 50279, 50277, 1, 0],
-                              generate_kwargs={"temperature": 0.5, "top_p":0.92, "do_sample": False},
+                              generate_kwargs={"temperature": 0.5, "top_p":0.92, "repetition_penalty":1.11, "do_sample": False},
 #                              tokenizer_kwargs={"max_length": 4096},
                               tokenizer_name="mistralai/Mistral-Nemo-Instruct-2407", 
                              )