Update app.py

app.py

@@ -311,28 +311,57 @@ prompt_template = ChatPromptTemplate.from_messages([
 
 
 
+# def process_question(question: str):  
+#     """  
+#     Process the question and return the answer and context
+#     """  
+#     # Check cache first  
+#     if question in question_cache:  
+#         return question_cache[question], ""  # Retourne la réponse cachée et un statut vide
+#     relevant_docs = retriever(question)  
+#     context = "\n".join([doc.page_content for doc in relevant_docs])  
+#     prompt = prompt_template.format_messages(  
+#         context=context,  
+#         question=question  
+#         )  
+#     response = ""
+#     for chunk in llm.stream(prompt):
+#         if isinstance(chunk, str):  
+#             response += chunk
+#         else:  
+#             response += chunk.content
+#     # Mettez le résultat en cache à la fin  
+#     question_cache[question] = (response, context)  
+#     return response, context
+
 def process_question(question: str):  
     """  
-    Process the question and return the answer and context
+    Process the question and yield the answer progressively.  
     """  
     # Check cache first  
     if question in question_cache:  
-        return question_cache[question], ""  # Retourne la réponse cachée et un statut vide
+        yield question_cache[question]  # Retourne directement depuis le cache si disponible  
+
     relevant_docs = retriever(question)  
     context = "\n".join([doc.page_content for doc in relevant_docs])  
+
     prompt = prompt_template.format_messages(  
         context=context,  
         question=question  
-        )  
-    response = ""
-    for chunk in llm.stream(prompt):
+    )  
+
+    response = ""  # Initialise la réponse  
+    # Ici, nous supposons que 'llm.stream' est un générateur qui renvoie des chunks  
+    for chunk in llm.stream(prompt):  # suppose que llm.stream renvoie des chunks de réponse  
         if isinstance(chunk, str):  
-            response += chunk
+            response += chunk  # Accumulez la réponse si c'est déjà une chaîne  
         else:  
-            response += chunk.content
+            response += chunk.content  # Sinon, prenez le contenu du chunk (si chunk est un type d'objet spécifique)  
+
+        yield response, context  # Renvoie la réponse mise à jour et le contexte  
+
     # Mettez le résultat en cache à la fin  
-    question_cache[question] = (response, context)  
-    return response, context
+    question_cache[question] = (response, context) 
 
 # CSS personnalisé avec l'importation de Google Fonts
 custom_css = """
@@ -479,17 +508,6 @@ with gr.Blocks(css=custom_css) as iface:
         )
         
 
-        # def on_submit(question):
-        #     response, context = process_question(question)
-        #     return response, context
-
-        # submit_btn.click(
-        #     fn=on_submit,
-        #     inputs=input_text,
-        #     outputs=[answer_box, context_box],
-        #     api_name="predict",
-        #     queue=True
-        # )
         def on_submit(question):
             response, context = "", ""
             for chunk in process_question(question):