import os import json import bcrypt import pandas as pd import numpy as np from typing import List from pathlib import Path from langchain_huggingface import HuggingFaceEndpoint from langchain.schema.runnable.config import RunnableConfig from langchain.schema import StrOutputParser from langchain_anthropic import AnthropicLLM, ChatAnthropic from langchain.agents import AgentExecutor from langchain.agents.agent_types import AgentType from langchain_experimental.agents.agent_toolkits import create_pandas_dataframe_agent, create_csv_agent import chainlit as cl from chainlit.input_widget import TextInput, Select, Switch, Slider from deep_translator import GoogleTranslator @cl.step(type="tool") async def LLMistral(): os.environ['HUGGINGFACEHUB_API_TOKEN'] = os.environ['HUGGINGFACEHUB_API_TOKEN'] repo_id = "mistralai/Mixtral-8x7B-Instruct-v0.1" llm = HuggingFaceEndpoint( repo_id=repo_id, max_new_tokens=5300, temperature=0.1, task="text2text-generation", streaming=True ) return llm @cl.step(type="tool") async def LLM(): os.environ['ANTHROPIC_API_KEY'] = os.environ['ANTHROPIC_API_KEY'] llm = AnthropicLLM(model='claude-3-haiku-20240307',temperature=0) return llm @cl.set_chat_profiles async def chat_profile(): return [ cl.ChatProfile(name="Traitement des données d'enquête : «Expé CFA : questionnaire auprès des professionnels de la branche de l'agencement»",markdown_description="Vidéo exploratoire autour de l'événement",icon="/public/logo-ofipe.png",), ] @cl.set_starters async def set_starters(): return [ cl.Starter( label="Répartition du nombre de CAA dans les entreprises", message="Quel est le nombre de chargé.e d'affaires en agencement dans chaque type d'entreprises?", icon="/public/request-theme.svg", ) ] @cl.on_message async def on_message(message: cl.Message): await cl.Message(f"> SURVEYIA").send() model = await LLM() agent = create_csv_agent( model, "./public/ExpeCFA_LP_CAA.csv", verbose=True, allow_dangerous_code=True, agent_type=AgentType.ZERO_SHOT_REACT_DESCRIPTION ) msg = cl.Message(content="") cb = cl.AsyncLangchainCallbackHandler() res = await agent.acall("Réponds en langue française à la question suivante :\n" + message.content + "\nDétaille la réponse en faisant une analyse complète en 2000 mots minimum.", callbacks=[cb]) #res = await agent.ainvoke("D'après les informations fournies, réponds en langue française à la question suivante :\n" + message.content + "\nDétaille la réponse en faisant une analyse complète jusqu'à 2000 mots, si cela est nécessaire.") answer = res['output'] print(res) await cl.Message(content=GoogleTranslator(source='auto', target='fr').translate(answer)).send()