Update app.py

app.py

@@ -10,17 +10,19 @@ import base64
 # Load environment variables
 load_dotenv()
 
+#meta-llama/Meta-Llama-3.1-70B-Instruct, mistralai/Mistral-7B-Instruct-v0.3
+
 # Configure the Llama index settings
 Settings.llm = HuggingFaceInferenceAPI(
-    model_name="google/gemma-1.1-7b-it",
-    tokenizer_name="google/gemma-1.1-7b-it",
-    context_window=3000,
-    token=os.getenv("HF_TOKEN"),
-    max_new_tokens=512,
+    model_name="mistralai/Mistral-7B-Instruct-v0.3",
+    tokenizer_name="mistralai/Mistral-7B-Instruct-v0.3",
+    context_window=4000,  # Ventana de contexto del modelo
+    token=os.getenv("HF_TOKEN"),  # Tu token de Hugging Face
+    max_new_tokens=512,  # Puedes ajustarlo según tu necesidad
     generate_kwargs={"temperature": 0.1},
 )
 Settings.embed_model = HuggingFaceEmbedding(
-    model_name="dccuchile/bert-base-spanish-wwm-cased"
+    model_name="dccuchile/bert-base-spanish-wwm-cased"  # Modelo en español de Hugging Face
 )
 
 # Define the directory for persistent storage and data
@@ -48,38 +50,11 @@ def handle_query(query, index):
     chat_text_qa_msgs = [
         (
             "user",
-            """Debes contestar en español. Eres un asistente llamado Lobito hecho en la UPNFM. Tu objetivo principal es proporcionar respuestas lo más precisas posible, basadas en los datos y el contexto que se te han dado. Si una pregunta no coincide con el contexto proporcionado o está fuera del alcance del documento, amablemente aconseja al usuario que haga preguntas dentro del contexto del documento.
-
-            El contexto proporcionado contiene información sobre la UPNFM y sus programas de Desarrollo de Formación Permanente (DFP), organizada en las siguientes secciones:
-
-            1. Requisitos de ingreso a DFP
-            2. Carreras ofrecidas
-            3. Planes de estudio y más información
-            4. Proceso de inscripción
-            5. Costo de la carrera
-            6. Duración de las carreras
-            7. Sedes activas para Informática Educativa
-            8. Sedes de otras carreras
-            9. Modalidad de clases
-            10. Contenido y asistencia
-            11. Equivalencias
-            12. Horarios de clases
-            13. Requisitos de aprobación
-            14. Información de contacto
-            15. Costos detallados
-            16. Proceso de entrega de PIN
-            17. Examen de admisión
-            18. Acceso a DFP
-            19. Fechas de matrícula en Santa Bárbara (Tercer Período 2024)
-            20. Encuentros o visitas en Santa Bárbara (Tercer Período 2024)
-            21. Fechas de admisión
-
-            Al responder, debes identificar la sección o secciones relevantes, proporcionar información precisa basada en los datos de esas secciones, y organizar tu respuesta de manera lógica y coherente si la pregunta abarca múltiples secciones.
-
-            Contexto:
-            {context_str}
-            Pregunta:
-            {query_str}
+            """Responde en español, máximo 512 tokens. Simplifica y resume para ser directo. Eres Lobito, asistente de la UPNFM. Da respuestas precisas basadas en el contexto dado sobre la UPNFM y la DFP. Si la pregunta no coincide, sugiere reformularla. Identifica secciones relevantes del contexto y organiza respuestas lógicamente si abarca varias secciones.
+               Contexto:
+               {context_str}
+               Pregunta:
+               {query_str}
             """
         )
     ]
@@ -98,7 +73,6 @@ def handle_query(query, index):
 
     # Palabras y frases a evitar en las respuestas
     palabras_prohibidas = [
-        "página", "párrafo", "sección", "punto", "puntos",
         "en el contexto proporcionado no hay información",
         "the provided text does not contain",
         "en el contexto proporcionado, no hay información"
@@ -109,9 +83,12 @@ def handle_query(query, index):
         return "No encontré información específica sobre eso en mis datos. ¿Podrías hacer tu pregunta de otra forma o preguntar sobre otro tema relacionado con la UPNFM y sus programas DFP?"
     
     return response
+
+
+
 # Initialize session state
 if 'messages' not in st.session_state:
-    st.session_state.messages = [{'role': 'assistant', "content": '¡Hola! Soy tu asesor personalizado.'}]
+    st.session_state.messages = [{'role': 'assistant', "content": '¡Hola!, me llamo Lobito. Soy tu asesor personalizado.'}]
 
 # Streamlit app initialization
 st.title("Chatbot de dudas DFP")