a

app.py

@@ -5,7 +5,7 @@ from openai import OpenAI
 # Configuración del cliente OpenAI con la API de NVIDIA
 client = OpenAI(
     base_url="https://integrate.api.nvidia.com/v1",
-    api_key="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"  # Reemplaza con tu API Key
+    api_key="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"
 )
 
 # Instrucciones para el modelo
@@ -55,12 +55,12 @@ Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. T
 3. Mantén la consistencia en el tono y terminología.
 """
 
-terminologia_legal = [
-    'folio', 'autos', 'resuelve', 'artículo', 'Código de Procedimiento Civil',
-    'audiencia', 'notificación', 'prueba', 'nulidad', 'oficiar', 'notificar'
-]
+terminologia_legal = ['folio', 'autos', 'resuelve', 'artículo', 'Código de Procedimiento Civil', 'audiencia', 'notificación', 'prueba', 'nulidad', 'oficiar', 'notificar']
 
 def construir_prompt(input_text, contexto=None, tarea=None):
+    """
+    Construye el prompt para el modelo LLaMA 3.1.
+    """
     prompt = f"Texto o pregunta: {input_text}"
     if contexto:
         prompt += f"\nContexto: {contexto}"
@@ -84,11 +84,15 @@ def generar_respuesta(prompt):
             temperature=0.7,
             top_p=0.9,
             max_tokens=2048,
-            stream=False  # Configurado en False para evitar complicaciones con streaming
+            stream=True
         )
 
-        return completion.choices[0].message['content'].strip()
+        response_content = ""
+        for chunk in completion:
+            if chunk.choices[0].delta.content is not None:
+                response_content += chunk.choices[0].delta.content
 
+        return response_content.strip()
     except Exception as e:
         return f"Error: {e}"
 
@@ -132,25 +136,17 @@ def mejorar_resolucion(input_text):
 
     return respuesta
 
+# Interfaz Gradio
 def gradio_interface(input_text):
     return mejorar_resolucion(input_text)
 
-# Configuración de la interfaz Gradio
 iface = gr.Interface(
     fn=gradio_interface,
     inputs=gr.Textbox(lines=10, placeholder="Introduce aquí la resolución judicial o la pregunta...", label="Texto o Pregunta"),
     outputs=gr.Textbox(label="Respuesta Mejorada"),
     title="Mejora de Resoluciones Judiciales",
-    description=(
-        "Este sistema está diseñado para ayudar en la mejora de borradores de resoluciones judiciales o para "
-        "responder preguntas sobre derecho civil con un enfoque técnico y formal. Introduce un texto para recibir "
-        "una respuesta optimizada."
-    ),
-    allow_flagging=False,  # Desactiva el flagging si no es necesario
-    examples=[
-        ["El tribunal dicta que..."],
-        ["¿Qué dice el artículo 21 del Código Civil sobre...?"]
-    ]
+    description="Introduce una resolución judicial o una pregunta relacionada con derecho civil. El sistema mejorará el borrador o proporcionará una respuesta técnica y formal.",
+    allow_flagging="never"  # Ajuste basado en advertencias de Gradio
 )
 
 iface.launch()