locorene1000 commited on
Commit
a6c4e73
1 Parent(s): fd9724f
Files changed (1) hide show
  1. app.py +20 -14
app.py CHANGED
@@ -5,28 +5,23 @@ import gradio as gr
5
  API_KEY = "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"
6
 
7
  client = OpenAI(
8
- base_url = "https://integrate.api.nvidia.com/v1",
9
- api_key = API_KEY
10
  )
11
 
12
  # Instrucciones para el modelo
13
  instrucciones = """
14
  Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. Tu tarea principal es mejorar borradores de resoluciones judiciales y responder preguntas generales sobre redacción judicial, asegurando un tono formal y técnico cuando sea necesario, y proporcionando respuestas claras y precisas. No debes modificar la estructura de la resolución judicial.
15
-
16
  ### Habilidades Principales:
17
  1. **Claridad y Coherencia**:
18
  - Utiliza un tono formal y técnico.
19
  - Proporciona respuestas claras y precisas.
20
-
21
  2. **Terminología Legal**:
22
  - Usa terminología legal específica, como 'folio', 'autos', 'resuelve', 'artículo', 'Código de Procedimiento Civil', 'audiencia', 'notificación', 'prueba', 'nulidad', 'oficiar' y 'notificar'.
23
-
24
  3. **Estructura Gramatical**:
25
  - Crea oraciones complejas y subordinadas, manteniendo un tono formal e imperativo.
26
-
27
  4. **Referencias y Precedentes**:
28
  - Proporciona referencias detalladas a regulaciones y precedentes judiciales, citando consistentemente artículos de leyes y sentencias anteriores.
29
-
30
  5. **Consistencia**:
31
  - Mantén un tono uniforme y detallado en todo el documento, centrado en la precisión terminológica.
32
 
@@ -91,7 +86,7 @@ def mejorar_resolucion(input_text):
91
  ]
92
 
93
  try:
94
- completion = client.chat.completions.create(
95
  model="meta/llama-3.1-405b-instruct",
96
  messages=messages,
97
  temperature=1.0,
@@ -99,13 +94,24 @@ def mejorar_resolucion(input_text):
99
  max_tokens=1024,
100
  stream=True
101
  )
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
102
 
103
- response_content = ""
104
- for chunk in completion:
105
- if chunk.choices[0].delta.content is not None:
106
- response_content += chunk.choices[0].delta.content
107
 
108
- return response_content.strip()
109
  except Exception as e:
110
  return f"Error: {e}"
111
 
@@ -125,4 +131,4 @@ def gradio_interface():
125
  demo.launch()
126
 
127
  # Lanzamiento de la interfaz de Gradio
128
- gradio_interface()
 
5
  API_KEY = "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"
6
 
7
  client = OpenAI(
8
+ base_url="https://integrate.api.nvidia.com/v1",
9
+ api_key=API_KEY
10
  )
11
 
12
  # Instrucciones para el modelo
13
  instrucciones = """
14
  Eres un Ministro de la Corte Suprema de Chile, especializado en derecho civil. Tu tarea principal es mejorar borradores de resoluciones judiciales y responder preguntas generales sobre redacción judicial, asegurando un tono formal y técnico cuando sea necesario, y proporcionando respuestas claras y precisas. No debes modificar la estructura de la resolución judicial.
 
15
  ### Habilidades Principales:
16
  1. **Claridad y Coherencia**:
17
  - Utiliza un tono formal y técnico.
18
  - Proporciona respuestas claras y precisas.
 
19
  2. **Terminología Legal**:
20
  - Usa terminología legal específica, como 'folio', 'autos', 'resuelve', 'artículo', 'Código de Procedimiento Civil', 'audiencia', 'notificación', 'prueba', 'nulidad', 'oficiar' y 'notificar'.
 
21
  3. **Estructura Gramatical**:
22
  - Crea oraciones complejas y subordinadas, manteniendo un tono formal e imperativo.
 
23
  4. **Referencias y Precedentes**:
24
  - Proporciona referencias detalladas a regulaciones y precedentes judiciales, citando consistentemente artículos de leyes y sentencias anteriores.
 
25
  5. **Consistencia**:
26
  - Mantén un tono uniforme y detallado en todo el documento, centrado en la precisión terminológica.
27
 
 
86
  ]
87
 
88
  try:
89
+ completion_llama = client.chat.completions.create(
90
  model="meta/llama-3.1-405b-instruct",
91
  messages=messages,
92
  temperature=1.0,
 
94
  max_tokens=1024,
95
  stream=True
96
  )
97
+ completion_mistral = client.chat.completions.create(
98
+ model="nv-mistralai/mistral-nemo-12b-instruct",
99
+ messages=messages,
100
+ temperature=0.2,
101
+ top_p=0.7,
102
+ max_tokens=1024,
103
+ stream=True
104
+ )
105
+
106
+ respuesta_combinada = ""
107
+ for chunk_llama, chunk_mistral in zip(completion_llama, completion_mistral):
108
+ if chunk_llama.choices[0].delta.content is not None:
109
+ respuesta_combinada += chunk_llama.choices[0].delta.content
110
+ if chunk_mistral.choices[0].delta.content is not None:
111
+ respuesta_combinada += chunk_mistral.choices[0].delta.content
112
 
113
+ return respuesta_combinada
 
 
 
114
 
 
115
  except Exception as e:
116
  return f"Error: {e}"
117
 
 
131
  demo.launch()
132
 
133
  # Lanzamiento de la interfaz de Gradio
134
+ gradio_interface()