import os import requests import dotenv import streamlit as st from transformers import AutoTokenizer dotenv.load_dotenv() token = os.environ['TOKEN_HF'] headers = {'Authorization': f'Bearer {token}'} modelos = { 'meta-llama/Meta-Llama-3.1-8B-Instruct': '<|end_header_id|>\n', 'mistralai/Mixtral-8x7B-Instruct-v0.1': '[/INST]' } ofertas = ['Atualização', 'Quitação', 'Renegociação'] opcoes_classificacao = ["Segunda via de boleto", "Conhecer as ofertas", "Renegociação", "Atualização", "Quitação"] modelo = st.selectbox('Selecione um modelo:', options=modelos) token_modelo = modelos[modelo] if ('modelo_atual' not in st.session_state or st.session_state['modelo_atual'] != modelo): st.session_state['modelo_atual'] = modelo st.session_state['mensagens'] = [ {"role": "system", "content": "Você é um atendente de central de atendimento de negociação de dívidas. " "Você é empático e gostaria sempre de entender a situação do cliente, como o que o levou a ficar em dívida. Seja sucinto nas suas respostas."},] nome_modelo = st.session_state['modelo_atual'] tokenizer = AutoTokenizer.from_pretrained(nome_modelo, token=token) url = f'https://api-inference.huggingface.co/models/{nome_modelo}' url_classificacao = f'https://api-inference.huggingface.co/models/facebook/bart-large-mnli' mensagens = st.session_state['mensagens'] area_chat = st.empty() pergunta_usuario = st.chat_input('Faça sua pergunta aqui: ') if pergunta_usuario: payload = { "inputs": pergunta_usuario, "parameters": { "candidate_labels": opcoes_classificacao } } response = requests.post(url_classificacao, headers=headers, json=payload) # Verifique a resposta if response.status_code == 200: result = response.json() score = result['scores'][0] * 100 label = result['labels'][0] if score > 70: print(label) print(score) if label == ofertas[1]: novo_pront = ( "Você deve fornecer as seguintes informações.\n" "- Relizamos o fechamento da sua quitação \n" "- Valor total do contrato de R$ 6.000,00 foi fechado\n" "- Foi enviado um email para 'teste@gmail.com' com mais detalhes" ) else: novo_pront = ( "Você deve fornecer as seguintes informações.\n" "- Valor total do contrato: R$ 6.000,00\n" "- Valor em aberto: R$ 2.000 \n" "Ofertas disponíveis:\n" "1 - Renegociação de dívida:\n" "* Prazo de pagamento: 10 meses\n" "* Valor mensal: R$ 590,00\n" "* Desconto total: R$ 100,00\n" "2 - Atualização de dívida atrasada:\n" "* Prazo de pagamento: 1 parcela\n" "* Valor a pagar: R$ 1.500,00\n" "* Desconto total: R$ 500,00\n" "* E continua pagando as parcelas do contrato \n" "3 - Quitação de dívida:\n" "- Prazo de pagamento: 1 vez\n" "- Valor a pagar: R$ 5.000,00\n" "- Desconto total: R$ 1.000,00\n" ) print(novo_pront) mensagens.append({"role": "system", "content": novo_pront}) else: print(f'Não atingiu mais que 70%. score maximo {score:.2f}% para "{label}"') else: print(f"Error Classificação: {response.status_code}") print(response.json()) mensagens.append({'role': 'user', 'content': pergunta_usuario}) template = tokenizer.apply_chat_template(mensagens, tokenize=False, add_generation_prompt=True) json = { 'inputs': template, 'parameters': {'max_new_tokens': 600}, 'options': {'use_cache': False, 'wait_for_model': True}, } response = requests.post(url, json=json, headers=headers).json() print(response) mensagem_chatbot = response[0]['generated_text'].split(token_modelo)[-1] mensagens.append({'role': 'assistant', 'content': mensagem_chatbot}) with area_chat.container(): for mensagem in mensagens: chat = st.chat_message(mensagem['role']) chat.markdown(mensagem['content']) print(mensagens)