Update app.py

app.py

@@ -2,62 +2,58 @@ from huggingface_hub import InferenceClient
 import gradio as gr
 
 class MixtralChatInterface:
-    def __init__(self):
-        self.client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
-
-        self.additional_inputs = [
+    def __init__(self, model_name):
+        self.client = InferenceClient(model_name)
+        self.additional_inputs=[
             gr.Textbox(
-                label="Mensagem do Sistema",
+                label="System Prompt",
                 max_lines=1,
                 interactive=True,
             ),
             gr.Slider(
-                label="Temperatura",
+                label="Temperature",
                 value=0.9,
                 minimum=0.0,
                 maximum=1.0,
                 step=0.05,
                 interactive=True,
-                info="Valores mais altos produzem saídas mais diversas",
+                info="Higher values produce more diverse outputs",
             ),
             gr.Slider(
-                label="Máximo de Novos Tokens",
+                label="Max new tokens",
                 value=256,
                 minimum=0,
                 maximum=1048,
                 step=64,
                 interactive=True,
-                info="O número máximo de novos tokens",
+                info="The maximum numbers of new tokens",
             ),
             gr.Slider(
-                label="Top-p (amostragem de núcleo)",
+                label="Top-p (nucleus sampling)",
                 value=0.90,
                 minimum=0.0,
                 maximum=1,
                 step=0.05,
                 interactive=True,
-                info="Valores mais altos amostram mais tokens de baixa probabilidade",
+                info="Higher values sample more low-probability tokens",
             ),
             gr.Slider(
-                label="Penalidade de Repetição",
+                label="Repetition penalty",
                 value=1.2,
                 minimum=1.0,
                 maximum=2.0,
                 step=0.05,
                 interactive=True,
-                info="Penaliza tokens repetidos",
+                info="Penalize repeated tokens",
             )
         ]
-
-        self.examples = [
-            [
-                ["Descreva os sintomas típicos de um paciente com diabetes tipo 2 e explique as principais complicações associadas. Responda em pt", None, None, None, None, None],
-                ["Quais são os protocolos recomendados para o tratamento de pacientes com hipertensão arterial sistêmica? Responda em pt ", None, None, None, None, None],
-                ["Explique os diferentes estágios do câncer de mama e os métodos de detecção precoce mais eficazes. Responda em pt", None, None, None, None, None],
-                ["Forneça orientações sobre como conduzir uma consulta eficaz com pacientes que sofrem de transtornos de ansiedade. Responda em pt", None, None, None, None, None],
-                ["Quais são as opções de tratamento disponíveis para pacientes diagnosticados com esclerose múltipla? Responda em pt", None, None, None, None, None],
-                ["Descreva os efeitos colaterais comuns associados ao uso prolongado de anti-inflamatórios não esteroidais em pacientes idosos. Responda em pt", None, None, None, None, None],
-            ]
+        self.examples=[
+            ["I'm planning a vacation to Japan. Can you suggest a one-week itinerary including must-visit places and local cuisines to try?", None, None, None, None, None, ],
+            ["Can you write a short story about a time-traveling detective who solves historical mysteries?", None, None, None, None, None,],
+            ["I'm trying to learn French. Can you provide some common phrases that would be useful for a beginner, along with their pronunciations?", None, None, None, None, None,],
+            ["I have chicken, rice, and bell peppers in my kitchen. Can you suggest an easy recipe I can make with these ingredients?", None, None, None, None, None,],
+            ["Can you explain how the QuickSort algorithm works and provide a Python implementation?", None, None, None, None, None,],
+            ["What are some unique features of Rust that make it stand out compared to other systems programming languages like C++?", None, None, None, None, None,],
         ]
 
     def format_prompt(self, message, history):
@@ -92,7 +88,7 @@ class MixtralChatInterface:
             yield output
         return output
 
-    def launch_interface(self):
+    def launch(self):
         gr.ChatInterface(
             fn=self.generate,
             chatbot=gr.Chatbot(show_label=False, show_share_button=False, show_copy_button=True, likeable=True, layout="panel"),
@@ -101,6 +97,9 @@ class MixtralChatInterface:
             examples=self.examples,
             concurrency_limit=20,
         ).launch(show_api=False)
-        
-interface = MixtralChatInterface()
-interface.launch_interface()
+
+# Usage
+if __name__ == "__main__":
+    model_name = "mistralai/Mixtral-8x7B-Instruct-v0.1"
+    chat_interface = MixtralChatInterface(model_name)
+    chat_interface.launch()