app.py

import os
import requests
import dotenv
import streamlit as st
from transformers import AutoTokenizer

dotenv.load_dotenv()
token = os.environ['TOKEN_HF']
headers = {'Authorization': f'Bearer {token}'}

modelos = {
    'meta-llama/Meta-Llama-3.1-8B-Instruct': '<|end_header_id|>\n',
    'mistralai/Mixtral-8x7B-Instruct-v0.1': '[/INST]'
}

ofertas = ['Atualização', 'Quitação', 'Renegociação']
opcoes_classificacao = ["Segunda via de boleto", "Conhecer as ofertas", "Renegociação", "Atualização", "Quitação"]


modelo = st.selectbox('Selecione um modelo:', options=modelos)
token_modelo = modelos[modelo]

if ('modelo_atual' not in st.session_state or st.session_state['modelo_atual'] != modelo):
    st.session_state['modelo_atual'] = modelo
    st.session_state['mensagens'] = [ {"role": "system", "content": "Você é um atendente de central de atendimento de negociação de dívidas. "
                                                                    "Você é empático e gostaria sempre de entender a situação do cliente, como o que o levou a ficar em dívida. Seja sucinto nas suas respostas."},]
 
nome_modelo = st.session_state['modelo_atual'] 
tokenizer = AutoTokenizer.from_pretrained(nome_modelo, token=token)
url = f'https://api-inference.huggingface.co/models/{nome_modelo}' 
url_classificacao = f'https://api-inference.huggingface.co/models/facebook/bart-large-mnli' 
mensagens = st.session_state['mensagens'] 

area_chat = st.empty()
pergunta_usuario = st.chat_input('Faça sua pergunta aqui: ')
if pergunta_usuario:
    payload = {
        "inputs": pergunta_usuario,
        "parameters": {
            "candidate_labels": opcoes_classificacao
        }
    }

    response = requests.post(url_classificacao, headers=headers, json=payload)
    # Verifique a resposta
    if response.status_code == 200:
        result = response.json()
        score = result['scores'][0] * 100
        label = result['labels'][0]
        if score > 70:
            print(label)
            print(score)
            if label == ofertas[1]:
                novo_pront = (
                                "Você deve fornecer as seguintes informações.\n"
                                "- Relizamos o fechamento da sua quitação \n"
                                "- Valor total do contrato de R$ 6.000,00 foi fechado\n"
                                "- Foi enviado um email para 'teste@gmail.com' com mais detalhes"
                )
            else:
                novo_pront = (
                        "Você deve fornecer as seguintes informações.\n"
                        "- Valor total do contrato: R$ 6.000,00\n"
                        "- Valor em aberto: R$ 2.000 \n"
                        "Ofertas disponíveis:\n"
                        "1 - Renegociação de dívida:\n"
                        "* Prazo de pagamento: 10 meses\n"
                        "* Valor mensal: R$ 590,00\n"
                        "* Desconto total: R$ 100,00\n"
                        "2 - Atualização de dívida atrasada:\n"
                        "* Prazo de pagamento: 1 parcela\n"
                        "* Valor a pagar: R$ 1.500,00\n"
                        "* Desconto total: R$ 500,00\n"
                        "* E continua pagando as parcelas do contrato \n"
                        "3 - Quitação de dívida:\n"
                        "- Prazo de pagamento: 1 vez\n"
                        "- Valor a pagar: R$ 5.000,00\n"
                        "- Desconto total: R$ 1.000,00\n"
                )

            print(novo_pront)

            mensagens.append({"role": "system", "content": novo_pront})                
        else:
            print(f'Não atingiu mais que 70%. score maximo {score:.2f}% para "{label}"')
    else:
        print(f"Error Classificação: {response.status_code}")
        print(response.json())



    mensagens.append({'role': 'user', 'content': pergunta_usuario})
    template = tokenizer.apply_chat_template(mensagens, tokenize=False, add_generation_prompt=True)
    json = {
        'inputs': template,
        'parameters': {'max_new_tokens': 600},
        'options': {'use_cache': False, 'wait_for_model': True},
    }
    response = requests.post(url, json=json, headers=headers).json()
    print(response)
    mensagem_chatbot = response[0]['generated_text'].split(token_modelo)[-1]
    mensagens.append({'role': 'assistant', 'content': mensagem_chatbot})

with area_chat.container():
    for mensagem in mensagens:
        chat = st.chat_message(mensagem['role'])
        chat.markdown(mensagem['content'])
print(mensagens)