Update main.py

main.py

@@ -281,31 +281,45 @@ async def construction_REV(romeListArray,settings):
     if cl.user_session.get("FCS" + romeListArray[0]) and cl.user_session.get("allskills"):
         getChain = await recuperation_contexte("FCS" + romeListArray[0])
         getChainSkills = await recuperation_contexte("allskills")
-        client_anthropic = await IA()
+        memory = ConversationBufferMemory(return_messages=True)
+        client_llm = await IA()
         allcompetences = getChainSkills
-        question = f"En fonction du contexte qui suit. Contexte : fiche synoptique : {cl.user_session.get('FCS' + romeListArray[0])}. Liste des compétences professionnelles : {allcompetences}. Crée un référentiel d'évaluation en fonction des compétences précédentes, sous la forme d'un tableau recensant les modalités d'évaluation, les compétences professionnelles et les critères d'évaluation, tu en déduiras un autre tableau en fonction des compétences professionnelles précédentes et des compétences transversales correspondantes, exploitable dans le logiciel Excel, en respectant tous les intitulés, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue le référentiel d'évaluation au format tableau."
-        completion_REV = client_anthropic.messages.create(
-            model="claude-3-opus-20240229",
-            max_tokens=4000,
-            temperature=1,
-            messages=[{
-                "role": 'user', "content":  f"Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Si les informations fournies dans le contexte ne sont pas suffisantes, fais une projection sur les modalités d'évaluation, les critères d'évaluation, pour construire le référentiel d'évaluation. Questions : {question}"
-            }]
+        template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+        En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+        {context}
+        {question} [/INST] </s>
+        """
+        question_p = f"En fonction du contexte qui suit. Contexte : fiche synoptique : {cl.user_session.get('FCS' + romeListArray[0])}. Liste des compétences professionnelles : {allcompetences}. Crée un référentiel d'évaluation en fonction des compétences précédentes, sous la forme d'un tableau recensant les modalités d'évaluation, les compétences professionnelles et les critères d'évaluation, tu en déduiras un autre tableau en fonction des compétences professionnelles précédentes et des compétences transversales correspondantes, exploitable dans le logiciel Excel, en respectant tous les intitulés, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue le référentiel d'évaluation au format tableau."
+        context_p = f"Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Si les informations fournies dans le contexte ne sont pas suffisantes, fais une projection sur les modalités d'évaluation, les critères d'évaluation, pour construire le référentiel d'évaluation."
+        prompt = PromptTemplate(template=template, input_variables=["question","context"])
+        chain = (
+            RunnablePassthrough.assign(
+                history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+            )
+            | prompt | client_llm
         )
+    
+        msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+        async for chunk in chain.astream({"question":question_p,"context":context_p},
+                    config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+            await msg.stream_token(chunk)
+        completionREV = msg.content
+        
         await cl.sleep(3)
         await cl.Message(
-            author="Datapcc : 🌐🌐🌐",content="Référentiel d'évaluation :\n\n" + completion_REV.content[0].text
+            author="Datapcc : 🌐🌐🌐",content="Référentiel d'évaluation :\n\n" + completionREV
         ).send()
-        cl.user_session.set("REV" + romeListArray[0], completion_REV.content[0].text)
-        cl.user_session.set("contextChatBot", completion_REV.content[0].text)
+        cl.user_session.set("REV" + romeListArray[0], completionREV)
+        cl.user_session.set("contextChatBot", completionREV)
         await cl.sleep(2)
         actions = [
-            cl.Action(name="download", value=completion_REV.content[0].text, description="download_referentiel_evaluation")
+            cl.Action(name="download", value=completionREV, description="download_referentiel_evaluation")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger le référentiel", actions=actions).send()
         await cl.sleep(2)
         saves = [
-            cl.Action(name="saveToMemory", value=completion_REV.content[0].text, description="Mettre en mémoire le référentiel")
+            cl.Action(name="saveToMemory", value=completionREV, description="Mettre en mémoire le référentiel")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire le référentiel", actions=saves).send()
         await cl.sleep(2)
@@ -319,6 +333,8 @@ async def construction_REV(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction du Référentiel d'Evaluation"
         
 @literal_client.step(type="run")
@@ -327,32 +343,46 @@ async def construction_MDC(romeListArray,settings):
         await recuperation_contexte("FCS" + romeListArray[0])
         getChainSkills = await recuperation_contexte("allskills")
         getChainMDF = await recuperation_contexte("MDF" + romeListArray[0])
-        client_anthropic = await IA()
+        memory = ConversationBufferMemory(return_messages=True)
+        client_llm = await IA()
         allcompetences = getChainSkills
         allmodules = getChainMDF
-        question = f"En fonction du contexte qui suit. Contexte : liste des compétences professionnelles : {allcompetences}. Liste des modules de formation et des cours : {allmodules}. Déduis une matrice de cohérences en corrélation des modules de formation, des cours précédents et des compétences professionnelles précédentes ci-avant, sous la forme d'un tableau à double entrée, exploitable dans le logiciel Excel, en respectant tous les intitulés, et rempli par des coches entre les modules, les cours et les compétences professionnelles correspondantes, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue la matrice de cohérences au format tableau avec des lignes correspondant aux modules de formation et aux cours et des colonnes avec des titres de colonne correspondant aux compétences professionnelles, et pour finir des cellules avec les coches X montrant la corrélation entre les modules, les cours et les compétences professionnelles."
-        completion_MDC = client_anthropic.messages.create(
-            model="claude-3-opus-20240229",
-            max_tokens=4000,
-            temperature=1,
-            messages=[{
-                "role": 'user', "content":  f"Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Si les informations du contexte sont insuffisantes, procédez quand même à une estimation et donc à une projection sur les liens entre les modules de formation et les compétences, pour construire la matrice de cohérences. Questions : {question}"
-            }]
+        template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+        En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+        {context}
+        {question} [/INST] </s>
+        """
+        question_p = f"En fonction du contexte qui suit. Contexte : liste des compétences professionnelles : {allcompetences}. Liste des modules de formation et des cours : {allmodules}. Déduis une matrice de cohérences en corrélation des modules de formation, des cours précédents et des compétences professionnelles précédentes ci-avant, sous la forme d'un tableau à double entrée, exploitable dans le logiciel Excel, en respectant tous les intitulés, et rempli par des coches entre les modules, les cours et les compétences professionnelles correspondantes, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue la matrice de cohérences au format tableau avec des lignes correspondant aux modules de formation et aux cours et des colonnes avec des titres de colonne correspondant aux compétences professionnelles, et pour finir des cellules avec les coches X montrant la corrélation entre les modules, les cours et les compétences professionnelles."
+        context_p = f"Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si vous ne pouvez pas répondre à la question sur la base des informations, dites que vous ne trouvez pas de réponse ou que vous ne parvenez pas à trouver de réponse. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Ne générez pas de réponses non pertinentes. Si les informations du contexte sont insuffisantes, procédez quand même à une estimation et donc à une projection sur les liens entre les modules de formation et les compétences, pour construire la matrice de cohérences."
+        prompt = PromptTemplate(template=template, input_variables=["question","context"])
+        chain = (
+            RunnablePassthrough.assign(
+                history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+            )
+            | prompt | client_llm
         )
+    
+        msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+        async for chunk in chain.astream({"question":question_p,"context":context_p},
+                    config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+            await msg.stream_token(chunk)
+        completionMDC = msg.content
+        
         await cl.sleep(3)
         await cl.Message(
-            author="Datapcc : 🌐🌐🌐",content="Matrice de cohérences :\n\n" + completion_MDC.content[0].text
+            author="Datapcc : 🌐🌐🌐",content="Matrice de cohérences :\n\n" + completionMDC
         ).send()
-        cl.user_session.set("MDC" + romeListArray[0], completion_MDC.content[0].text)
-        cl.user_session.set("contextChatBot", completion_MDC.content[0].text)
+        cl.user_session.set("MDC" + romeListArray[0], completionMDC)
+        cl.user_session.set("contextChatBot", completionMDC)
         await cl.sleep(2)
         actions = [
-            cl.Action(name="download", value=completion_MDC.content[0].text, description="download_matrice_coherence")
+            cl.Action(name="download", value=completionMDC, description="download_matrice_coherence")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger la matrice", actions=actions).send()
         await cl.sleep(2)
         saves = [
-            cl.Action(name="saveToMemory", value=completion_MDC.content[0].text, description="Mettre en mémoire la matrice")
+            cl.Action(name="saveToMemory", value=completionMDC, description="Mettre en mémoire la matrice")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire la matrice", actions=saves).send()
         await cl.sleep(2)
@@ -366,6 +396,8 @@ async def construction_MDC(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Matrice de Cohérences"
 @literal_client.step(type="run")
 async def construction_MDF(romeListArray,settings):
@@ -374,32 +406,47 @@ async def construction_MDF(romeListArray,settings):
         getChain = await recuperation_contexte("FCS" + romeListArray[0])
         getChainSkills = await recuperation_contexte("allskills")
         getChainActivities = await recuperation_contexte("allactivities")
-        client_anthropic = await IA()
+        memory = ConversationBufferMemory(return_messages=True)
+        client_llm = await IA()
         allactivites = getChainActivities
         allcompetences = getChainSkills
-        question = f"En fonction du contexte qui suit. Contexte : note de composante sectorielle : {getChainNCS} à partir de laquelle tu fais une déduction des niveaux d'études, de l'expérience professionnelle, des besoins de formation caractérisés ainsi que des objectifs à atteindre pendant ces formations. Liste des activités professionnelles : {allactivites}. Liste des compétences professionnelles : {allcompetences}. Public cible : de la note de composante sectorielle, donne les niveaux d'études requis en fonction des niveaux de qualification donnés dans la note de composante sectorielle. Déduis un ensemble de 10 modules de formations, en corrélation avec les compétences professionnelles précédentes, dont les intitulés seront très détaillés et très complèts, entrecoupés eux-mêmes de 5 cours, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue la réponse au format tableau de 10 lignes correspondant aux 10 compétences professionnelles et de 3 colonnes dont les intitulés du header sont les compétences professionnelles, les modules de formation et les cours associés."
-        completion_MDF = client_anthropic.messages.create(
-            model="claude-3-opus-20240229",
-            max_tokens=4000,
-            temperature=1,
-            messages=[{
-                "role": 'user', "content":  f"Réponds à la question suivante en utilisant seulement le contexte détaillé ci-après. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si les informations du contexte sont insuffisantes, crée approximativement les modules de formation et les cours tout en réalisant une estimation sur les intitulés, et tout en faisant une prédiction et donc une projection sur les objectifs pédagogiques, les besoins en compétences et en formation, les niveaux requis, les lacunes à combler, les méthodes pédagogiques et les objectifs d'apprentissage, pour construire les modules de formation. Questions : {question}"
-            }]
+        
+        template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+        En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+        {context}
+        {question} [/INST] </s>
+        """
+        question_p = f"En fonction du contexte qui suit. Contexte : note de composante sectorielle : {getChainNCS} à partir de laquelle tu fais une déduction des niveaux d'études, de l'expérience professionnelle, des besoins de formation caractérisés ainsi que des objectifs à atteindre pendant ces formations. Liste des activités professionnelles : {allactivites}. Liste des compétences professionnelles : {allcompetences}. Public cible : de la note de composante sectorielle, donne les niveaux d'études requis en fonction des niveaux de qualification donnés dans la note de composante sectorielle. Déduis un ensemble de 10 modules de formations, en corrélation avec les compétences professionnelles précédentes, dont les intitulés seront très détaillés et très complèts, entrecoupés eux-mêmes de 5 cours, en langue française seulement et exclusivement, en 4000 mots. Réponds et restitue la réponse au format tableau de 10 lignes correspondant aux 10 compétences professionnelles et de 3 colonnes dont les intitulés du header sont les compétences professionnelles, les modules de formation et les cours associés."
+        context_p = f"Réponds à la question suivante en utilisant seulement le contexte détaillé ci-après. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Si les informations du contexte sont insuffisantes, crée approximativement les modules de formation et les cours tout en réalisant une estimation sur les intitulés, et tout en faisant une prédiction et donc une projection sur les objectifs pédagogiques, les besoins en compétences et en formation, les niveaux requis, les lacunes à combler, les méthodes pédagogiques et les objectifs d'apprentissage, pour construire les modules de formation."
+        prompt = PromptTemplate(template=template, input_variables=["question","context"])
+        chain = (
+            RunnablePassthrough.assign(
+                history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+            )
+            | prompt | client_llm
         )
+    
+        msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+        async for chunk in chain.astream({"question":question_p,"context":context_p},
+                    config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+            await msg.stream_token(chunk)
+        completionMDF = msg.content
+    
         await cl.sleep(3)
         await cl.Message(
-            author="Datapcc : 🌐🌐🌐",content="Modules de formations :\n\n" + completion_MDF.content[0].text
+            author="Datapcc : 🌐🌐🌐",content="Modules de formations :\n\n" + completionMDF
         ).send()
-        cl.user_session.set("MDF" + romeListArray[0], completion_MDF.content[0].text)
-        cl.user_session.set("contextChatBot", getChainSkills + "\n" + completion_MDF.content[0].text)
+        cl.user_session.set("MDF" + romeListArray[0], completionMDF)
+        cl.user_session.set("contextChatBot", getChainSkills + "\n" + completionMDF)
         await cl.sleep(2)
         actions = [
-            cl.Action(name="download", value=completion_MDF.content[0].text, description="download_module_formation")
+            cl.Action(name="download", value=completionMDF, description="download_module_formation")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger les modules", actions=actions).send()
         await cl.sleep(2)
         saves = [
-            cl.Action(name="saveToMemory", value=completion_MDF.content[0].text, description="Mettre en mémoire les modules")
+            cl.Action(name="saveToMemory", value=completionMDF, description="Mettre en mémoire les modules")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire les modules", actions=saves).send()
         await cl.sleep(2)
@@ -413,41 +460,58 @@ async def construction_MDF(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction des Modules de formation - Cours"
         
 @literal_client.step(type="run")
 async def construction_FCC(romeListArray,settings):
     if cl.user_session.get("FCS" + romeListArray[0]) and (settings['competence'].find('--- Choisir une compétence ---')==-1 or settings['competenceInput']):
         getChain = await recuperation_contexte("FCS" + romeListArray[0])
-        client_anthropic = await IA()
+        memory = ConversationBufferMemory(return_messages=True)
+        client_llm = await IA()
         ficheSynoptique = getChain
         if settings['competenceInput']:
             competenceSingle = settings['competenceInput']
         else:
             competenceSingle = settings['competence']
-        question = f"En fonction de la compétence : {competenceSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche compétence très détaillée et très complète de la compétence professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même compétence professionnelle, en 3000 mots et 5 paragraphes comportant les paragraphes suivants : 1. description de la compétence et le processus de la mise en oeuvre dans laquelle seront identifiées les situations susceptibles de déclencher la mise en oeuvre des tâches et la mobilisation des savoirs, 2. contexte exposant les conditions et les contraintes d'exécution ainsi que les environnements techniques, 3. critères exposant les critères de réussite de l'action et correspondant à une pertinence une efficience une efficacité une cohérence, 4. liste des savoirs et savoir-faire et savoirs comportementaux."
-        completion_FCC = client_anthropic.messages.create(
-            model="claude-3-opus-20240229",
-            max_tokens=4000,
-            temperature=1,
-            messages=[{
-                "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une compétence : la compétence est une combinaison de savoirs en action, mobilisés en vue de réaliser une activité professionnelle. Elle s'apprécie, en tant qu'acquis de l'apprentissage selon des modalités adaptées permettant d'en certifier la possession et au regard de l'atteinte d'un résultat pour un niveau d'exigence prédéterminé. Les compétences peuvent être regroupées par domaines selon la nature et leur liaison subordonnée aux activités. Elles s'écrivent à l'aide de verbe d'action à l'infinitif comme le stipule la taxonomie de Bloom pour marquer une progression dans l'exercice de la compétence. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}. Questions : {question}"
-            }]
+        
+        template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+        En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+        {context}
+        {question} [/INST] </s>
+        """
+        question_p =f"En fonction de la compétence : {competenceSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche compétence très détaillée et très complète de la compétence professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même compétence professionnelle, en 3000 mots et 5 paragraphes comportant les paragraphes suivants : 1. description de la compétence et le processus de la mise en oeuvre dans laquelle seront identifiées les situations susceptibles de déclencher la mise en oeuvre des tâches et la mobilisation des savoirs, 2. contexte exposant les conditions et les contraintes d'exécution ainsi que les environnements techniques, 3. critères exposant les critères de réussite de l'action et correspondant à une pertinence une efficience une efficacité une cohérence, 4. liste des savoirs et savoir-faire et savoirs comportementaux."
+        context_p = f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une compétence : la compétence est une combinaison de savoirs en action, mobilisés en vue de réaliser une activité professionnelle. Elle s'apprécie, en tant qu'acquis de l'apprentissage selon des modalités adaptées permettant d'en certifier la possession et au regard de l'atteinte d'un résultat pour un niveau d'exigence prédéterminé. Les compétences peuvent être regroupées par domaines selon la nature et leur liaison subordonnée aux activités. Elles s'écrivent à l'aide de verbe d'action à l'infinitif comme le stipule la taxonomie de Bloom pour marquer une progression dans l'exercice de la compétence. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}."
+        prompt = PromptTemplate(template=template, input_variables=["question","context"])
+        chain = (
+            RunnablePassthrough.assign(
+                history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+            )
+            | prompt | client_llm
         )
+    
+        msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+        async for chunk in chain.astream({"question":question_p,"context":context_p},
+                    config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+            await msg.stream_token(chunk)
+        completionFCC = msg.content
+        
         await cl.sleep(3)
         await cl.Message(
-            author="Datapcc : 🌐🌐🌐",content="Fiche compétence : " + competenceSingle + "\n\n" + completion_FCC.content[0].text
+            author="Datapcc : 🌐🌐🌐",content="Fiche compétence : " + competenceSingle + "\n\n" + completionFCC
         ).send()
-        cl.user_session.set("FCC" + romeListArray[0], completion_FCC.content[0].text)
-        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completion_FCC.content[0].text)
+        cl.user_session.set("FCC" + romeListArray[0], completionFCC)
+        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completionFCC)
         await cl.sleep(2)
         actions = [
-            cl.Action(name="download", value=completion_FCC.content[0].text, description="download_fiche_competence")
+            cl.Action(name="download", value=completionFCC, description="download_fiche_competence")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger la fiche", actions=actions).send()
         await cl.sleep(2)
         saves = [
-            cl.Action(name="saveToMemory", value=completion_FCC.content[0].text, description="Mettre en mémoire la fiche")
+            cl.Action(name="saveToMemory", value=completionFCC, description="Mettre en mémoire la fiche")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire la fiche", actions=saves).send()
         await cl.sleep(2)
@@ -461,41 +525,58 @@ async def construction_FCC(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Fiche Compétence : " + competenceSingle
         
 @literal_client.step(type="run")
 async def construction_FCA(romeListArray,settings):
     if cl.user_session.get("FCS" + romeListArray[0]) and (settings['activite'].find('--- Choisir une activité ---')==-1 or settings['activiteInput']):
         getChain = await recuperation_contexte("FCS" + romeListArray[0])
-        client_anthropic = await IA()
+        memory = ConversationBufferMemory(return_messages=True)
+        client_llm = await IA()
         ficheSynoptique = getChain
         if settings['activiteInput']:
             activiteSingle = settings['activiteInput']
         else:
             activiteSingle = settings['activite']
-        question = f"En fonction de l'activité : {activiteSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche activité très détaillée et très complète de l'activité professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même activité professionnelle, en 3000 mots et 5 paragraphes comportant les paragraphes suivants : 1. description de l'activité pour indiquer la finalité de l'activité en terme de service ou de produit, 2. description pour indiquer les étapes du processus métier en décrivant la combinatoire entre les principales compétences de l'activité et en indiquant les actions et les opérations avec les ressources et les moyens nécessaires pour finalement décrire les relations hiérarchiques et fonctionnelles des interlocuteurs, 3. contextualisation pour indiquer les conditions d'exercice de l'activité : lieu mobilité risques astreintes, 4. liste des compétences professionnelles de l'activité, 5. compétences transversales de l'activité."
-        completion_FCA = client_anthropic.messages.create(
-            model="claude-3-opus-20240229",
-            max_tokens=4000,
-            temperature=1,
-            messages=[{
-                "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une activité : une activité est un ensemble cohérent d'actions combinées : pour la réaliser, plusieurs compétences et opérations sont nécessaires, soit successivement, soit conjointement. Elles s'inscrivent à des moments clés du processus de réalisation et ne peuvent en aucun cas être occultées, car elles conditionnent le résultat. Plusieurs activités en vue d'une finalité avec une valeur ajoutée à un produit ou un service sont nécessaires pour mettre en œuvre un processus métier. De ce fait, il est essentiel de déterminer pour chaque activité sa propre finalité et de s'assurer que l'ensemble des activités participent bien d'un même processus. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}. Questions : {question}"
-            }]
+        
+        template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+        En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+        {context}
+        {question} [/INST] </s>
+        """
+        question_p = f"En fonction de l'activité : {activiteSingle}, issue du document précédent correspondant à la fiche synoptique, crée une fiche activité très détaillée et très complète de l'activité professionnelle précédente, en se fixant sur les mots de l'intitulé de cette même activité professionnelle, en 3000 mots et 5 paragraphes comportant les paragraphes suivants : 1. description de l'activité pour indiquer la finalité de l'activité en terme de service ou de produit, 2. description pour indiquer les étapes du processus métier en décrivant la combinatoire entre les principales compétences de l'activité et en indiquant les actions et les opérations avec les ressources et les moyens nécessaires pour finalement décrire les relations hiérarchiques et fonctionnelles des interlocuteurs, 3. contextualisation pour indiquer les conditions d'exercice de l'activité : lieu mobilité risques astreintes, 4. liste des compétences professionnelles de l'activité, 5. compétences transversales de l'activité."
+        context_p = f"Contexte : Réponds à la question suivante en utilisant seulement le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Contexte: Définition d'une activité : une activité est un ensemble cohérent d'actions combinées : pour la réaliser, plusieurs compétences et opérations sont nécessaires, soit successivement, soit conjointement. Elles s'inscrivent à des moments clés du processus de réalisation et ne peuvent en aucun cas être occultées, car elles conditionnent le résultat. Plusieurs activités en vue d'une finalité avec une valeur ajoutée à un produit ou un service sont nécessaires pour mettre en œuvre un processus métier. De ce fait, il est essentiel de déterminer pour chaque activité sa propre finalité et de s'assurer que l'ensemble des activités participent bien d'un même processus. Essayez donc de comprendre en profondeur le contexte et répondez uniquement en vous basant sur les informations fournies. Fiche synoptique : {ficheSynoptique}."
+        prompt = PromptTemplate(template=template, input_variables=["question","context"])
+        chain = (
+            RunnablePassthrough.assign(
+                history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+            )
+            | prompt | client_llm
         )
+    
+        msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+        async for chunk in chain.astream({"question":question_p,"context":context_p},
+                    config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+            await msg.stream_token(chunk)
+        completionFCA = msg.content
+        
         await cl.sleep(3)
         await cl.Message(
-            author="Datapcc : 🌐🌐🌐",content="Fiche activité : " + activiteSingle + "\n\n" + completion_FCA.content[0].text
+            author="Datapcc : 🌐🌐🌐",content="Fiche activité : " + activiteSingle + "\n\n" + completionFCS
         ).send()
-        cl.user_session.set("FCA" + romeListArray[0], completion_FCA.content[0].text)
-        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completion_FCA.content[0].text)
+        cl.user_session.set("FCA" + romeListArray[0], completionFCS)
+        cl.user_session.set("contextChatBot", ficheSynoptique + "\n" + completionFCS)
         await cl.sleep(2)
         actions = [
-            cl.Action(name="download", value=completion_FCA.content[0].text, description="download_fiche_activite")
+            cl.Action(name="download", value=completionFCS, description="download_fiche_activite")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger la fiche", actions=actions).send()
         await cl.sleep(2)
         saves = [
-            cl.Action(name="saveToMemory", value=completion_FCA.content[0].text, description="Mettre en mémoire la fiche")
+            cl.Action(name="saveToMemory", value=completionFCS, description="Mettre en mémoire la fiche")
         ]
         await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire la fiche", actions=saves).send()
         await cl.sleep(2)
@@ -509,6 +590,8 @@ async def construction_FCA(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Fiche synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Fiche Activité" + activiteSingle
 
 @literal_client.step(type="run")
@@ -527,31 +610,48 @@ async def construction_FPPS(romeListArray,settings):
                 ficheSynoptique = await recuperation_contexte("FCS" + romeListArray[0])
                 intituleFormation = goFPPS1['output']
                 codesRome = goFPPS2['output']
+                
+                client_llm = await IA()
+                
+                template = """<s>[INST] Vous êtes un spécialiste du marché de l'emploi en fonction du niveau de qualification, des compétences professionnelles, des compétences transversales, du salaire et de l'expérience. Vous êtes doué pour faire des analyses du système travail sur les métiers les plus demandés grâce à votre aptitude à synthétiser les informations en fonction des critères définis ci-avant.
+    
+                En fonction des informations suivantes et du contexte suivant seulement et strictement, répondez à la question ci-dessous à partir du contexte ci-dessous :
+                {context}
+                {question} [/INST] </s>
+                """
+                question_p =f"En fonction du contexte intégrant les descriptifs de formation, la note de composante sectorielle et la fiche synoptique, crée une fiche Potentiel Profil de Sortie sous forme d'une fiche descriptive très détaillée et très complète, construite d'après le modèle et la structure de document suivante. Structure de document : {str(modele('Fiche Potentiel Profil de Sortie'))}"
+                context_p = f"Contexte : Réponds à la question suivante en utilisant le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez en vous basant sur les informations fournies. Contexte: Descriptifs de formation : {infoFormation}. Note de composante sectorielle : {noteSectorielle}. Fiche Synoptique : {ficheSynoptique}. Intitulé de la formation : {intituleFormation}. Codes ROME : {codesRome}."
+    
                 client_anthropic = await IA()
                 question =f"En fonction du contexte intégrant les descriptifs de formation, la note de composante sectorielle et la fiche synoptique, crée une fiche Potentiel Profil de Sortie sous forme d'une fiche descriptive très détaillée et très complète, construite d'après le modèle et la structure de document suivante. Structure de document : {str(modele('Fiche Potentiel Profil de Sortie'))}"
-                completion_FPPS = client_anthropic.messages.create(
-                    model="claude-3-opus-20240229",
-                    max_tokens=4000,
-                    temperature=1,
-                    messages=[{
-                        "role": 'user', "content":  f"Contexte : Réponds à la question suivante en utilisant le contexte ci-contre. Réponds à la manière d'un ingénieur pédagogique pour créer un référentiel. Essayez donc de comprendre en profondeur le contexte et répondez en vous basant sur les informations fournies. Contexte: Descriptifs de formation : {infoFormation}. Note de composante sectorielle : {noteSectorielle}. Fiche Synoptique : {ficheSynoptique}. Intitulé de la formation : {intituleFormation}. Codes ROME : {codesRome}. Questions : {question}"
-                    }]
+                prompt = PromptTemplate(template=template, input_variables=["question","context"])
+                chain = (
+                    RunnablePassthrough.assign(
+                        history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")
+                    )
+                    | prompt | client_llm
                 )
-                completionFPPS = completion_FPPS.content[0].text
+    
+                msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
+                async for chunk in chain.astream({"question":question_p,"context":context_p},
+                            config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
+                    await msg.stream_token(chunk)
+                completionFPPS = msg.content
+                
                 await cl.sleep(0.5)
                 await cl.Message(
-                    author="Datapcc : 🌐🌐🌐",content="Fiche Potentiel Profil de sortie : " + romeListArray[1] + "\n\n" + completion_FPPS.content[0].text
+                    author="Datapcc : 🌐🌐🌐",content="Fiche Potentiel Profil de sortie : " + romeListArray[1] + "\n\n" + completionFPPS
                 ).send()
-                cl.user_session.set("FPPS" + romeListArray[0], completion_FPPS.content[0].text)
-                cl.user_session.set("contextChatBot", "Note sectorielle" + noteSectorielle + "\nFiche syoptique" + ficheSynoptique + "\nFiche Potentiel Profil de sortie" + completion_FPPS.content[0].text)
+                cl.user_session.set("FPPS" + romeListArray[0], completionFPPS)
+                cl.user_session.set("contextChatBot", "Note sectorielle" + noteSectorielle + "\nFiche syoptique" + ficheSynoptique + "\nFiche Potentiel Profil de sortie" + completionFPPS)
                 await cl.sleep(1)
                 actions = [
-                    cl.Action(name="download", value=completion_FPPS.content[0].text, description="download_fiche_synoptique")
+                    cl.Action(name="download", value=completionFPPS, description="download_fiche_synoptique")
                 ]
                 await cl.Message(author="Datapcc : 🌐🌐🌐",content="Télécharger la fiche", actions=actions).send()
                 await cl.sleep(1)
                 saves = [
-                    cl.Action(name="saveToMemory", value=completion_FPPS.content[0].text, description="Mettre en mémoire la fiche")
+                    cl.Action(name="saveToMemory", value=completionFPPS, description="Mettre en mémoire la fiche")
                 ]
                 await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire la fiche", actions=saves).send()
                 await cl.sleep(1)
@@ -563,6 +663,8 @@ async def construction_FPPS(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Note sectorielle ou de Fiche Synoptique!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Fiche Potentiel Profil de Sortie"
     
 @literal_client.step(type="run")
@@ -694,6 +796,8 @@ async def construction_FCS(romeListArray,settings):
         await cl.Message(
             author="Datapcc : 🌐🌐🌐",content="⛔ Vous n'avez pas encore créé de Note sectorielle!"
         ).send()
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Fiche Synoptique"
 
 @literal_client.step(type="run")
@@ -724,8 +828,7 @@ async def construction_NCS(romeListArray):
         )
         | prompt | client_llm
     )
-    #completion_NCS = chain.invoke({"question":question_p,"context":context_p})
-
+    
     msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
     async for chunk in chain.astream({"question":question_p,"context":context_p},
                 config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
@@ -778,6 +881,8 @@ async def construction_NCS(romeListArray):
     await cl.Message(author="Datapcc : 🌐🌐🌐",content="Mettre en mémoire la note", actions=saves).send()
     await cl.sleep(2)
 
+    memory.chat_memory.add_user_message(question_p)
+    memory.chat_memory.add_ai_message(msg.content)
     return "Construction de la Note Sectorielle"
 
 @cl.step(type="run")
@@ -1037,7 +1142,8 @@ async def main(message: cl.Message):
         msg = cl.Message(author="Datapcc : 🌐🌐🌐",content="")
         text_elements = []
         answer = []
-        async for chunk in runnable.astream({"question": message.content}):
+        async for chunk in runnable.astream({"question": message.content},
+                config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
             await parent_step.stream_token(chunk)
             await msg.stream_token(chunk)