# Import Library yang Diperlukan from llama_cpp import Llama from llama_index.core import SimpleDirectoryReader, VectorStoreIndex, Settings from llama_index.core.llms import ChatMessage from llama_index.llms.llama_cpp import LlamaCPP from llama_index.embeddings.huggingface import HuggingFaceEmbedding from llama_index.core.node_parser import SentenceSplitter import gradio as gr import os # Fungsi Inisialisasi Model Llama def initialize_llama_model(): return Llama( model_path="zephyr-7b-beta.Q4_K_M.gguf", n_gpu_layers=-1, # Aktifkan untuk akselerasi GPU jika tersedia ) # Fungsi untuk Menginisialisasi Index def initialize_index(): # Tentukan dokumen input untuk pembacaan data documents = SimpleDirectoryReader(input_files=[ "/content/cuti.txt", "/content/disiplin kerja.txt", "/content/fasilitas dan bantuan bagi serikat pekerja.txt", "/content/fasilitas pekerja.txt", "/content/hari dan jam kerja.txt", "/content/hubungan pengusaha dan serikat pekerja.txt", "/content/istilah-istilah.txt", "/content/jaminan bagi serikat pekerja.txt", "/content/jaminan kesehatan.txt", "/content/jaminan sosial tenaga kerja.txt", "/content/kenaikan upah.txt", "/content/kerja lembur.txt", "/content/kerja shift.txt", "/content/keselamatan dan kesehatan kerja.txt", "/content/kewajiban pihak-pihak.txt", "/content/kompensasi dan pesangon.txt", "/content/larangan.txt", "/content/luas kesepakatan.txt", "/content/masa berlaku, perubahan, dan perpanjangan pkb.txt", "/content/mogok kerja.txt", "/content/pelanggaran dan sanksi.txt", "/content/pemutusan hubungan kerja.txt", "/content/pendidikan.txt", "/content/pengakuan hak.txt", "/content/pengangkatan pegawai tetap.txt", "/content/pengunduran diri.txt", "/content/penilaian dan kenaikan jabatan.txt", "/content/pensiun.txt", "/content/penyelesaian keluh kesah.txt", "/content/perhitungan upah lembur.txt", "/content/perjalanan dinas.txt", "/content/persyaratan menjadi pekerja.txt", "/content/pesangon dan penghargaan masa kerja.txt", "/content/pihak yang mengadakan perjanjian.txt", "/content/sanksi.txt", "/content/tata cara penyampaian pengaduan dan keluh kesah.txt", "/content/tenaga kerja asing.txt", "/content/tunjangan.txt", "/content/uang pisah.txt", "/content/upah.txt"]).load_data() parser = SentenceSplitter(chunk_size=300, chunk_overlap=20) nodes = parser.get_nodes_from_documents(documents) embedding = HuggingFaceEmbedding("BAAI/bge-base-en-v1.5") Settings.llm = initialize_llama_model() Settings.embed_model = embedding index = VectorStoreIndex(nodes) return index.as_query_engine(similarity_top_k=3) # Inisialisasi Mesin Chat def initialize_chat_engine(index): from llama_index.core.prompts import PromptTemplate from llama_index.core.chat_engine.condense_plus_context import CondensePlusContextChatEngine retriever = index.as_retriever(similarity_top_k=3) chat_engine = CondensePlusContextChatEngine.from_defaults( retriever=retriever, verbose=True, ) return chat_engine # Fungsi Utama untuk Mendapatkan Respon Chatbot def generate_response(message, history, chat_engine): response = chat_engine.stream_chat(message) text = "" for token in response.response_gen: text += token yield text # Fungsi untuk Menghapus Riwayat def clear_history(chat_engine): chat_engine.reset() # Inisialisasi Komponen Gradio untuk UI def launch_gradio(chat_engine): with gr.Blocks() as demo: # Mengatur tombol untuk menghapus riwayat chat clear_btn = gr.Button("Clear") clear_btn.click(lambda: clear_history(chat_engine)) # Membuat antarmuka chat chat_interface = gr.ChatInterface(lambda message, history: generate_response(message, history, chat_engine)) demo.launch() # Fungsi Utama untuk Menjalankan Aplikasi def main(): # Inisialisasi index dan engine index = initialize_index() chat_engine = initialize_chat_engine(index) # Luncurkan antarmuka launch_gradio(chat_engine) if __name__ == "__main__": main()