Delete enunciados_data_augumentation_messages.py

enunciados_data_augumentation_messages.py

@@ -1,83 +0,0 @@
-import json
-import re
-
-# Specify the input and output file names
-input_file = "enunciados_pge_rj.json"
-output_file = "dataset.json"
-
-# Function to convert a number to its ordinal form in Portuguese
-def number_to_ordinal(n):
-    units = ["", "primeiro", "segundo", "terceiro", "quarto", "quinto", 
-             "sexto", "sétimo", "oitavo", "nono"]
-    tens = ["", "décimo", "vigésimo", "trigésimo", "quadragésimo", "quinquagésimo", 
-            "sexagésimo", "septuagésimo", "octogésimo", "nonagésimo"]
-    
-    n = int(n)  # Ensure n is an integer
-    if n < 10:
-        return units[n]
-    elif n < 100:
-        ten = n // 10
-        unit = n % 10
-        if unit == 0:
-            return tens[ten]
-        else:
-            return f"{tens[ten]} {units[unit]}"
-    else:
-        return f"{n}º"  # For numbers above 99, default to using "nº"
-
-# Read the JSON data from the input file
-with open(input_file, 'r', encoding='utf-8') as f:
-    json_data = json.load(f)
-
-# List to hold the dataset entries
-dataset_entries = []
-
-# Iterate over each item in the JSON data
-for item in json_data:
-    titulo = item.get("titulo", "").strip()
-    descricao = item.get("descricao", "").strip()
-    status = item.get("status", "").strip()
-
-    # Extract the Enunciado number from the title
-    match = re.search(r'(\d{2}).*[-–]\sPGE', titulo)
-    if match:
-        enunciado_num = match.group(1)
-    else:
-        print(f"sem o numero no {titulo}")
-        # Skip this item if the Enunciado number is not found
-        continue
-
-    # Convert the Enunciado number to its ordinal form
-    enunciado_ordinal = number_to_ordinal(enunciado_num)
-
-    # Create variations of the user message
-    user_messages = [
-        f"Qual é o conteúdo do Enunciado nº {enunciado_num} da PGE-RJ?",
-        f"O que diz o Enunciado {enunciado_num} da Procuradoria Geral do Estado do Rio de Janeiro?",
-        f"Pode me fornecer o texto do Enunciado nº {enunciado_num} da PGE-RJ?",
-        f"Por favor, apresente o conteúdo do Enunciado {enunciado_num} da PGE-RJ.",
-        f"Explique o Enunciado {enunciado_num} da PGE-RJ.",
-        f"O que é o enunciado {enunciado_num} da PGE-RJ?",
-        f"Me explique o {enunciado_ordinal} enunciado da PGE-RJ.",  # Novo: mensagem ordinal
-    ]
-
-    # For each user message, create a dataset entry
-    for user_message in user_messages:
-        # Create the assistant's message (the Enunciado description)
-        assistant_message = descricao
-
-        # Create the messages list
-        messages = [
-            { "role": "user", "content": user_message },
-            { "role": "assistant", "content": assistant_message }
-        ]
-
-        # Add the entry to the dataset
-        dataset_entry = { "messages": messages }
-        dataset_entries.append(dataset_entry)
-
-# Write the dataset entries to a JSON file
-with open(output_file, 'w', encoding='utf-8') as f:
-    json.dump(dataset_entries, f, ensure_ascii=False, indent=2)
-
-print(f"Dataset has been written to {output_file}")