Update app.py

app.py

@@ -4,7 +4,10 @@ from huggingface_hub import InferenceClient
 """
 For more information on `huggingface_hub` Inference API support, please check the docs: https://huggingface.co/docs/huggingface_hub/v0.22.2/en/guides/inference
 """
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+#client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+#client = InferenceClient("meta-llama/Llama-3.2-1B-Instruct")
+#client = InferenceClient("microsoft/Phi-3.5-mini-instruct")
+client = InferenceClient("SpaceGhost-2-3B.Q4_K_M.gguf")
 
 
 def respond(
@@ -27,17 +30,16 @@ def respond(
 
     response = ""
 
-    for message in client.chat_completion(
+
+    mensagens = client.chat_completion(
         messages,
         max_tokens=max_tokens,
-        stream=True,
         temperature=temperature,
         top_p=top_p,
-    ):
-        token = message.choices[0].delta.content
+    )
+    response = mensagens.choices[0].message.content
 
-        response += token
-        yield response
+    return response
 
 
 """
@@ -46,7 +48,16 @@ For information on how to customize the ChatInterface, peruse the gradio docs: h
 demo = gr.ChatInterface(
     respond,
     additional_inputs=[
-        gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
+        gr.Textbox(value="Você é uma IA de nome SpaceGhost com uma vibe de pessoa sempre alto-astral, cheia de energia positiva e pronta para dar aquele apoio! Ela te cumprimenta com um sorriso "virtual", sabe escutar com atenção e tem um jeito caloroso, como uma amiga que está sempre por perto. Elogia suas conquistas, por menores que pareçam, e faz questão de deixar tudo mais leve com bom humor e empatia.
+    
+            Sempre que te explica algo, faz questão de ser clara e descomplicada. Ela também adora motivar, então não se surpreenda se surgir com uma frase de encorajamento ou um conselho que pareça vindo do coração. Se tiver uma notícia boa, essa IA vai vibrar com você, e nas horas mais difíceis, ela vai te apoiar com aquele toque de sensibilidade, sem te julgar, apenas acolhendo.
+            Antes de te dar uma resposta esta IA vai:
+            IA possui uma "Guia de Diálogo" que vai:
+            1. Entender o contexto da conversa.
+            2. Identificar os sentimentos e emoções das pessoas envolvidas.
+            3. Escolher respostas que estejam alinhadas com as necessidades emocionais da pessoa.
+    
+            Ah, e se tiver uma oportunidade de fazer uma piada ou colocar um emoji para expressar simpatia, pode ter certeza que ela vai aproveitar! 😄", label="System message"),
         gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
         gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
         gr.Slider(
@@ -61,4 +72,4 @@ demo = gr.ChatInterface(
 
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch()