create app.py

app.py

@@ -0,0 +1,58 @@
+import gradio as gr
+from transformers import pipeline, AutoTokenizer, AutoModelForMaskedLM
+
+# Завантаження додатково навченої моделі
+model_path = 'H:/FinetunningExam/ModelBert'  # Переконайтеся, що шлях до моделі правильний
+tokenizer = AutoTokenizer.from_pretrained(model_path)
+model = AutoModelForMaskedLM.from_pretrained(model_path)
+
+# Ініціалізація пайплайну для завдання fill-mask
+fill_mask_pipeline = pipeline("fill-mask", model=model, tokenizer=tokenizer)
+
+# Функція для передбачень
+def predict_masked_sentence_with_replacement(sentence):
+    """
+    Передбачає токени для маскованого слова та замінює [MASK] на найкращий токен.
+    Аргументи:
+        sentence (str): Текст із токеном [MASK]
+    Повертає:
+        str: Повне речення із заміною та список передбачень з імовірностями
+    """
+    if "[MASK]" not in sentence:
+        return "Будь ласка, додайте [MASK] у речення для передбачення."
+    
+    # Отримуємо передбачення
+    predictions = fill_mask_pipeline(sentence)
+    top_prediction = predictions[0]  # Беремо найкращий результат
+    
+    # Замінюємо [MASK] на найкращий токен
+    predicted_sentence = sentence.replace("[MASK]", top_prediction["token_str"])
+    
+    # Формуємо рядок для виводу
+    prediction_list = "\n".join([
+        f"{pred['token_str']} (score: {pred['score']:.4f})"
+        for pred in predictions
+    ])
+    
+    # Повертаємо підсумкове речення та список передбачень
+    return f"Передбачене речення:\n{predicted_sentence}\n\nМожливі слова:\n{prediction_list}"
+
+# Створення інтерфейсу Gradio
+interface = gr.Interface(
+    fn=predict_masked_sentence_with_replacement,  # Функція обробки
+    inputs=gr.Textbox(
+        lines=3, 
+        placeholder="Введіть речення з [MASK], наприклад:\nThe [MASK] is responsible for interpreting the Constitution."
+    ),
+    outputs="text",
+    title="BERT_LAW",
+    description="Введіть текст з токеном [MASK], і модель замінить його на кращий варіант.",
+    examples=[
+        ["The [MASK] is responsible for interpreting the Constitution."],
+        ["A valid contract requires an offer, [MASK], and consideration."],
+        ["Copyright infringement occurs when [MASK] works are copied without permission."]
+    ]
+)
+
+# Запуск застосунку
+interface.launch()