A

app.py

@@ -1,7 +1,17 @@
-from transformers import pipeline
+import requests
+import json
 import gradio as gr
 import spaces
 
+# Configuración de la API de NVIDIA
+base_url = "https://integrate.api.nvidia.com/v1"
+api_key = "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"
+headers = {
+    "Authorization": f"Bearer {api_key}",
+    "Content-Type": "application/json",
+    "Accept": "application/json"
+}
+
 # Instrucciones para el modelo
 instrucciones = """
 Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. Tu tarea principal es mejorar borradores de resoluciones judiciales, asegurando un tono formal y técnico. Es fundamental utilizar terminología legal precisa y mantener coherencia y consistencia en todo el documento.
@@ -49,20 +59,30 @@ Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. T
 
 @spaces.GPU(duration=120)
 def mejorar_resolucion(input_text):
-    # Construcción del prompt
+    # Construcción del payload
     prompt = f"{instrucciones}\n\nTexto original a mejorar o pregunta:\n{input_text}\n\nVersión mejorada o respuesta:"
+    payload = {
+        "model": "nvidia/nemotron-4-340b-instruct",
+        "messages": [{"role": "user", "content": prompt}],
+        "temperature": 0.2,
+        "top_p": 0.7,
+        "max_tokens": 1024,
+        "stream": False
+    }
+
+    # Solicitud a la API
+    response = requests.post(f"{base_url}/chat/completions", headers=headers, data=json.dumps(payload))
     
-    # Crear el pipeline de generación de texto
-    pipe = pipeline("text-generation", model="meta-llama/Meta-Llama-3.1-8B-Instruct")
-    
-    # Generar respuesta
-    response = pipe(prompt, max_length=512, num_return_sequences=1, temperature=0.7)
-    return response[0]['generated_text']
+    # Manejo de la respuesta
+    if response.status_code == 200:
+        response_body = response.json()
+        return response_body['choices'][0]['message']['content']
+    else:
+        return f"Error {response.status_code}: {response.text}"
 
 # Definición de la interfaz de Gradio
 with gr.Blocks() as demo:
-    gr.Markdown("# Mejora de Resoluciones Judiciales con GPT Civil")
-    gr.Markdown("Utiliza el modelo Meta-Llama-3.1-8B-Instruct para mejorar borradores de resoluciones judiciales.")
+    gr.Markdown("# Mejora de Resoluciones Judiciales con Nemotron")
     input_text = gr.Textbox(label="Introduce tu resolución judicial o pregunta")
     output_text = gr.Textbox(label="Resolución mejorada o respuesta")
     submit_button = gr.Button("Mejorar")