Upload enunciados_data_augumentation_messages.py

enunciados_data_augumentation_messages.py

@@ -0,0 +1,83 @@
+import json
+import re
+
+# Specify the input and output file names
+input_file = "enunciados_pge_rj.json"
+output_file = "dataset.json"
+
+# Function to convert a number to its ordinal form in Portuguese
+def number_to_ordinal(n):
+    units = ["", "primeiro", "segundo", "terceiro", "quarto", "quinto", 
+             "sexto", "sétimo", "oitavo", "nono"]
+    tens = ["", "décimo", "vigésimo", "trigésimo", "quadragésimo", "quinquagésimo", 
+            "sexagésimo", "septuagésimo", "octogésimo", "nonagésimo"]
+    
+    n = int(n)  # Ensure n is an integer
+    if n < 10:
+        return units[n]
+    elif n < 100:
+        ten = n // 10
+        unit = n % 10
+        if unit == 0:
+            return tens[ten]
+        else:
+            return f"{tens[ten]} {units[unit]}"
+    else:
+        return f"{n}º"  # For numbers above 99, default to using "nº"
+
+# Read the JSON data from the input file
+with open(input_file, 'r', encoding='utf-8') as f:
+    json_data = json.load(f)
+
+# List to hold the dataset entries
+dataset_entries = []
+
+# Iterate over each item in the JSON data
+for item in json_data:
+    titulo = item.get("titulo", "").strip()
+    descricao = item.get("descricao", "").strip()
+    status = item.get("status", "").strip()
+
+    # Extract the Enunciado number from the title
+    match = re.search(r'(\d{2}).*[-–]\sPGE', titulo)
+    if match:
+        enunciado_num = match.group(1)
+    else:
+        print(f"sem o numero no {titulo}")
+        # Skip this item if the Enunciado number is not found
+        continue
+
+    # Convert the Enunciado number to its ordinal form
+    enunciado_ordinal = number_to_ordinal(enunciado_num)
+
+    # Create variations of the user message
+    user_messages = [
+        f"Qual é o conteúdo do Enunciado nº {enunciado_num} da PGE-RJ?",
+        f"O que diz o Enunciado {enunciado_num} da Procuradoria Geral do Estado do Rio de Janeiro?",
+        f"Pode me fornecer o texto do Enunciado nº {enunciado_num} da PGE-RJ?",
+        f"Por favor, apresente o conteúdo do Enunciado {enunciado_num} da PGE-RJ.",
+        f"Explique o Enunciado {enunciado_num} da PGE-RJ.",
+        f"O que é o enunciado {enunciado_num} da PGE-RJ?",
+        f"Me explique o {enunciado_ordinal} enunciado da PGE-RJ.",  # Novo: mensagem ordinal
+    ]
+
+    # For each user message, create a dataset entry
+    for user_message in user_messages:
+        # Create the assistant's message (the Enunciado description)
+        assistant_message = descricao
+
+        # Create the messages list
+        messages = [
+            { "role": "user", "content": user_message },
+            { "role": "assistant", "content": assistant_message }
+        ]
+
+        # Add the entry to the dataset
+        dataset_entry = { "messages": messages }
+        dataset_entries.append(dataset_entry)
+
+# Write the dataset entries to a JSON file
+with open(output_file, 'w', encoding='utf-8') as f:
+    json.dump(dataset_entries, f, ensure_ascii=False, indent=2)
+
+print(f"Dataset has been written to {output_file}")