Upload folder using huggingface_hub

danskgpt-chat/main.py

@@ -35,7 +35,7 @@ def http_bot(prompt, history, system_prompt, endpoint_url):
             data = json.loads(chunk.decode("utf-8"))
             output = data["text"][0]
         
-            yield output[len(prompt):]
+            yield output[len(formatted_chat):]
 
 
 
@@ -43,9 +43,9 @@ def http_bot(prompt, history, system_prompt, endpoint_url):
 with gr.Blocks(theme=gr.themes.Soft(), title="DanskGPT") as demo:
     gr.Markdown("# DanskGPT")
     gr.Markdown("Et dansk alternativ til ChatGPT der kører lokalt.")
-    system_prompt = gr.Textbox(value="Du er en dansk AI-assistent. Du vil blive givet en opgave. Du skal hjælpe så meget du kan.",
+    system_prompt = gr.Textbox(value="Du er en hjælpsom dansk AI-assistent. Dit job er at svare på brugerens forespørgsel. Hvis du ikke kender svaret, skal du sige det i stedet for at videregive falsk information.",
                                 label="System besked")
-    endpoint_url = gr.Textbox(label="Endpoint url", value="https://h6lsu4k84eqhh4-8000.proxy.runpod.net/generate", render=False)
+    endpoint_url = gr.Textbox(label="Endpoint url", value="https://tgmzp270z5de7f-8000.proxy.runpod.net/generate", render=False)
 
 
     gr.ChatInterface(
@@ -62,4 +62,4 @@ with gr.Blocks(theme=gr.themes.Soft(), title="DanskGPT") as demo:
     gr.Markdown("Lavet af Mads Henrichsen - Kontakt: mads.gade.henrichsen@live.dk")
     gr.Markdown("Bemærk: DanskGPT producerer ikke nødvendigvis sandfærdig information - der er en ny model på vej der er meget bedre til dette.")
 
-demo.queue(concurrency_count=100).launch()
+demo.queue(concurrency_count=100).launch(share=True)