Spaces:
Sleeping
Sleeping
AFischer1985
commited on
Update run.py
Browse files
run.py
CHANGED
@@ -2,7 +2,7 @@
|
|
2 |
# Title: Gradio Writing Assistant
|
3 |
# Author: Andreas Fischer
|
4 |
# Date: May 23th, 2024
|
5 |
-
# Last update:June
|
6 |
##########################################################################################
|
7 |
|
8 |
#https://github.com/abetlen/llama-cpp-python/issues/306
|
@@ -66,9 +66,9 @@ if(len(x)==0):
|
|
66 |
collection.add(
|
67 |
documents=["Ich möchte einen Blogbeitrag","Ich möchte einen Gliederungsvorschlag","Ich möchte einen Social Media Beitrag"],
|
68 |
metadatas=[
|
69 |
-
{"prompt": "Bitte schreibe einen detaillierten Blogbeitrag zur Anfrage des Users, mit allen relevanten Informationen zum Thema!"},
|
70 |
-
{"prompt": "Bitte entwerfe einen Gliederungsvorschlag zur Anfrage des Users!"},
|
71 |
-
{"prompt": "Bitte verfasse einen Beitrag für die professionelle social media Plattform LinkedIn zur Anfrage des Users!"}],
|
72 |
ids=[str(len(x)+1),str(len(x)+2),str(len(x)+3)]
|
73 |
)
|
74 |
|
@@ -236,7 +236,7 @@ def response(message, history,customSysPrompt, genre, augmentation, hfToken):
|
|
236 |
RAGResults=collection.query(query_texts=[message], n_results=1)
|
237 |
genre=str(RAGResults['documents'][0][0]) # determine genre based on best-matching db-entry
|
238 |
|
239 |
-
rag="\n\n"+collection.get(
|
240 |
if(len(history)>0):
|
241 |
rag=rag+"\nFalls der User Rückfragen oder Änderungsvorschläge zu deinem Entwurf hat, gehe darauf ein." # add dialog-specific addendum to rag
|
242 |
|
@@ -329,15 +329,16 @@ gr.ChatInterface(
|
|
329 |
chatbot=gr.Chatbot(value=val, render_markdown=True),
|
330 |
title="KI Schreibassistenz (lokal)" if onPrem else "KI Schreibassistenz",
|
331 |
additional_inputs=[
|
332 |
-
gr.Textbox(
|
333 |
value="Du bist wissenschaftlicher Mitarbeiter an einem Forschungsinstitut und zuständig für die Wissenschaftskommunikation.",
|
334 |
label="System Prompt"),
|
335 |
-
gr.Dropdown(
|
336 |
-
["
|
337 |
-
value="
|
338 |
label="Genre"),
|
339 |
-
gr.Checkbox(
|
340 |
-
|
|
|
341 |
value="",
|
342 |
label="HF_token"),
|
343 |
]
|
|
|
2 |
# Title: Gradio Writing Assistant
|
3 |
# Author: Andreas Fischer
|
4 |
# Date: May 23th, 2024
|
5 |
+
# Last update:June 12th, 2024
|
6 |
##########################################################################################
|
7 |
|
8 |
#https://github.com/abetlen/llama-cpp-python/issues/306
|
|
|
66 |
collection.add(
|
67 |
documents=["Ich möchte einen Blogbeitrag","Ich möchte einen Gliederungsvorschlag","Ich möchte einen Social Media Beitrag"],
|
68 |
metadatas=[
|
69 |
+
{"prompt": "Bitte schreibe einen detaillierten Blogbeitrag zur Anfrage des Users, mit allen relevanten Informationen zum Thema!", "genre":"Beitrag"},
|
70 |
+
{"prompt": "Bitte entwerfe einen Gliederungsvorschlag zur Anfrage des Users!", "genre":"Gliederungsvorschlag"},
|
71 |
+
{"prompt": "Bitte verfasse einen Beitrag für die professionelle social media Plattform LinkedIn zur Anfrage des Users!", "genre":"Social Media Beitrag"}],
|
72 |
ids=[str(len(x)+1),str(len(x)+2),str(len(x)+3)]
|
73 |
)
|
74 |
|
|
|
236 |
RAGResults=collection.query(query_texts=[message], n_results=1)
|
237 |
genre=str(RAGResults['documents'][0][0]) # determine genre based on best-matching db-entry
|
238 |
|
239 |
+
rag="\n\n"+collection.get(where={"genre": genre},include=["metadatas"])['metadatas'][0]['prompt'] # genre-specific addendum to system prompt (rag)
|
240 |
if(len(history)>0):
|
241 |
rag=rag+"\nFalls der User Rückfragen oder Änderungsvorschläge zu deinem Entwurf hat, gehe darauf ein." # add dialog-specific addendum to rag
|
242 |
|
|
|
329 |
chatbot=gr.Chatbot(value=val, render_markdown=True),
|
330 |
title="KI Schreibassistenz (lokal)" if onPrem else "KI Schreibassistenz",
|
331 |
additional_inputs=[
|
332 |
+
gr.Textbox(info="Basiskomponente der Anweisungen, die vor dem Dialog an das System gehen.",
|
333 |
value="Du bist wissenschaftlicher Mitarbeiter an einem Forschungsinstitut und zuständig für die Wissenschaftskommunikation.",
|
334 |
label="System Prompt"),
|
335 |
+
gr.Dropdown(info="Wähle das gewünschte Genre des zu schreibenden Textes",
|
336 |
+
["Beitrag","Gliederungsvorschlag","Social Media Beitrag",""],
|
337 |
+
value="Beitrag",
|
338 |
label="Genre"),
|
339 |
+
gr.Checkbox(info="Optional: Automatische Ergänzung des System Prompt um Formulierungen, die hochwertigere Ergebnisse erwarten lassen.",
|
340 |
+
label="Motivationsschub"),
|
341 |
+
gr.Textbox(info="Optional: Gib einen gültigen Huggingface Access Token an, um mehr Texte produzieren zu können.",
|
342 |
value="",
|
343 |
label="HF_token"),
|
344 |
]
|