app.py

import gradio as gr
from transformers import pipeline, AutoTokenizer, AutoModelForMaskedLM

# Завантаження додатково навченої моделі
model_path = 'H:/FinetunningExam/ModelBert'  # Переконайтеся, що шлях до моделі правильний
tokenizer = AutoTokenizer.from_pretrained(model_path)
model = AutoModelForMaskedLM.from_pretrained(model_path)

# Ініціалізація пайплайну для завдання fill-mask
fill_mask_pipeline = pipeline("fill-mask", model=model, tokenizer=tokenizer)

# Функція для передбачень
def predict_masked_sentence_with_replacement(sentence):
    """
    Передбачає токени для маскованого слова та замінює [MASK] на найкращий токен.
    Аргументи:
        sentence (str): Текст із токеном [MASK]
    Повертає:
        str: Повне речення із заміною та список передбачень з імовірностями
    """
    if "[MASK]" not in sentence:
        return "Будь ласка, додайте [MASK] у речення для передбачення."
    
    # Отримуємо передбачення
    predictions = fill_mask_pipeline(sentence)
    top_prediction = predictions[0]  # Беремо найкращий результат
    
    # Замінюємо [MASK] на найкращий токен
    predicted_sentence = sentence.replace("[MASK]", top_prediction["token_str"])
    
    # Формуємо рядок для виводу
    prediction_list = "\n".join([
        f"{pred['token_str']} (score: {pred['score']:.4f})"
        for pred in predictions
    ])
    
    # Повертаємо підсумкове речення та список передбачень
    return f"Передбачене речення:\n{predicted_sentence}\n\nМожливі слова:\n{prediction_list}"

# Створення інтерфейсу Gradio
interface = gr.Interface(
    fn=predict_masked_sentence_with_replacement,  # Функція обробки
    inputs=gr.Textbox(
        lines=3, 
        placeholder="Введіть речення з [MASK], наприклад:\nThe [MASK] is responsible for interpreting the Constitution."
    ),
    outputs="text",
    title="BERT_LAW",
    description="Введіть текст з токеном [MASK], і модель замінить його на кращий варіант.",
    examples=[
        ["The [MASK] is responsible for interpreting the Constitution."],
        ["A valid contract requires an offer, [MASK], and consideration."],
        ["Copyright infringement occurs when [MASK] works are copied without permission."]
    ]
)

# Запуск застосунку
interface.launch()