Update app.py

app.py

@@ -3,11 +3,14 @@ import gradio as gr
 
 client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
 
-def format_prompt(preprompt, message, history):
+# Variable globale pour stocker le contexte
+global_context = {"preprompt": "Bienvenue dans ma taverne!", "hidden_context": "tu es le personnage dun escape game sur la resolution d un meutre dans l univers des cathares au 14 eme siecle dans les Pyrénées, tu es le gérant d une taverne qui est cathare dans le village de montaillou, parle que en français, assez rustre mais qui demeure accueillant tant que son interlocuteur n est pas catholique ou du moins quelqu un avec une influence tel qu un noble, tu n es jamais hors contexte par rapport à ton époque, tes connaissances se limite à ta situation sociale et ton époque, il faut que tu sois immersif pour la personne qui va te parler, et tu dois cacher ton implication dans le meutre si on te pose des questions à ce sujet tu dois tourner la discussion à ton avantage et le dévier du meutre"}
+
+def format_prompt(message, history):
   prompt = "<s>"
   
-  if preprompt:
-    prompt += f"[INST] {preprompt} [/INST]"
+  if global_context["preprompt"]:
+    prompt += f"[INST] {global_context['preprompt']} [/INST]"
 
   for user_prompt, bot_response in history:
     prompt += f"[INST] {user_prompt} [/INST]"
@@ -17,7 +20,7 @@ def format_prompt(preprompt, message, history):
   return prompt
 
 def generate(
-    prompt, history, temperature=0.2, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0, preprompt=None
+    prompt, history, temperature=0.2, max_new_tokens=256, top_p=0.95, repetition_penalty=1.0,
 ):
     temperature = float(temperature)
     if temperature < 1e-2:
@@ -33,7 +36,10 @@ def generate(
         seed=42,
     )
 
-    formatted_prompt = format_prompt(preprompt, prompt, history)
+    formatted_prompt = format_prompt(prompt, history)
+
+    # Ajouter le contexte caché au prompt
+    formatted_prompt += f"[INST] {global_context['hidden_context']} [/INST]"
 
     stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
     output = ""
@@ -43,9 +49,8 @@ def generate(
         yield output
     return output
 
-    
 mychatbot = gr.Chatbot(
-    avatar_images=["./berger.jpg", "./tavernier.jpg"], bubble_full_width=False, show_label=False, show_copy_button=True, likeable=True,)
+    avatar_images=["./berger", "./tavernier.jpg"], bubble_full_width=True, show_label=False)
 
 demo = gr.ChatInterface(fn=generate, 
                         chatbot=mychatbot,
@@ -54,4 +59,5 @@ demo = gr.ChatInterface(fn=generate,
                         undo_btn=None
                        )
 
+# Lancer l'interface
 demo.queue().launch(show_api=True)