Spaces:
Sleeping
Sleeping
File size: 4,618 Bytes
a6d3510 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 |
import os
import requests
import dotenv
import streamlit as st
from transformers import AutoTokenizer
dotenv.load_dotenv()
token = os.environ['TOKEN_HF']
headers = {'Authorization': f'Bearer {token}'}
modelos = {
'meta-llama/Meta-Llama-3.1-8B-Instruct': '<|end_header_id|>\n',
'mistralai/Mixtral-8x7B-Instruct-v0.1': '[/INST]'
}
ofertas = ['Atualização', 'Quitação', 'Renegociação']
opcoes_classificacao = ["Segunda via de boleto", "Conhecer as ofertas", "Renegociação", "Atualização", "Quitação"]
modelo = st.selectbox('Selecione um modelo:', options=modelos)
token_modelo = modelos[modelo]
if ('modelo_atual' not in st.session_state or st.session_state['modelo_atual'] != modelo):
st.session_state['modelo_atual'] = modelo
st.session_state['mensagens'] = [ {"role": "system", "content": "Você é um atendente de central de atendimento de negociação de dívidas. "
"Você é empático e gostaria sempre de entender a situação do cliente, como o que o levou a ficar em dívida. Seja sucinto nas suas respostas."},]
nome_modelo = st.session_state['modelo_atual']
tokenizer = AutoTokenizer.from_pretrained(nome_modelo, token=token)
url = f'https://api-inference.huggingface.co/models/{nome_modelo}'
url_classificacao = f'https://api-inference.huggingface.co/models/facebook/bart-large-mnli'
mensagens = st.session_state['mensagens']
area_chat = st.empty()
pergunta_usuario = st.chat_input('Faça sua pergunta aqui: ')
if pergunta_usuario:
payload = {
"inputs": pergunta_usuario,
"parameters": {
"candidate_labels": opcoes_classificacao
}
}
response = requests.post(url_classificacao, headers=headers, json=payload)
# Verifique a resposta
if response.status_code == 200:
result = response.json()
score = result['scores'][0] * 100
label = result['labels'][0]
if score > 70:
print(label)
print(score)
if label == ofertas[1]:
novo_pront = (
"Você deve fornecer as seguintes informações.\n"
"- Relizamos o fechamento da sua quitação \n"
"- Valor total do contrato de R$ 6.000,00 foi fechado\n"
"- Foi enviado um email para 'teste@gmail.com' com mais detalhes"
)
else:
novo_pront = (
"Você deve fornecer as seguintes informações.\n"
"- Valor total do contrato: R$ 6.000,00\n"
"- Valor em aberto: R$ 2.000 \n"
"Ofertas disponíveis:\n"
"1 - Renegociação de dívida:\n"
"* Prazo de pagamento: 10 meses\n"
"* Valor mensal: R$ 590,00\n"
"* Desconto total: R$ 100,00\n"
"2 - Atualização de dívida atrasada:\n"
"* Prazo de pagamento: 1 parcela\n"
"* Valor a pagar: R$ 1.500,00\n"
"* Desconto total: R$ 500,00\n"
"* E continua pagando as parcelas do contrato \n"
"3 - Quitação de dívida:\n"
"- Prazo de pagamento: 1 vez\n"
"- Valor a pagar: R$ 5.000,00\n"
"- Desconto total: R$ 1.000,00\n"
)
print(novo_pront)
mensagens.append({"role": "system", "content": novo_pront})
else:
print(f'Não atingiu mais que 70%. score maximo {score:.2f}% para "{label}"')
else:
print(f"Error Classificação: {response.status_code}")
print(response.json())
mensagens.append({'role': 'user', 'content': pergunta_usuario})
template = tokenizer.apply_chat_template(mensagens, tokenize=False, add_generation_prompt=True)
json = {
'inputs': template,
'parameters': {'max_new_tokens': 600},
'options': {'use_cache': False, 'wait_for_model': True},
}
response = requests.post(url, json=json, headers=headers).json()
print(response)
mensagem_chatbot = response[0]['generated_text'].split(token_modelo)[-1]
mensagens.append({'role': 'assistant', 'content': mensagem_chatbot})
with area_chat.container():
for mensagem in mensagens:
chat = st.chat_message(mensagem['role'])
chat.markdown(mensagem['content'])
print(mensagens) |