AFischer1985 commited on
Commit
b8b47c0
·
verified ·
1 Parent(s): c6c4a49

Update run.py

Browse files
Files changed (1) hide show
  1. run.py +12 -11
run.py CHANGED
@@ -2,7 +2,7 @@
2
  # Title: Gradio Writing Assistant
3
  # Author: Andreas Fischer
4
  # Date: May 23th, 2024
5
- # Last update:June 7th, 2024
6
  ##########################################################################################
7
 
8
  #https://github.com/abetlen/llama-cpp-python/issues/306
@@ -66,9 +66,9 @@ if(len(x)==0):
66
  collection.add(
67
  documents=["Ich möchte einen Blogbeitrag","Ich möchte einen Gliederungsvorschlag","Ich möchte einen Social Media Beitrag"],
68
  metadatas=[
69
- {"prompt": "Bitte schreibe einen detaillierten Blogbeitrag zur Anfrage des Users, mit allen relevanten Informationen zum Thema!"},
70
- {"prompt": "Bitte entwerfe einen Gliederungsvorschlag zur Anfrage des Users!"},
71
- {"prompt": "Bitte verfasse einen Beitrag für die professionelle social media Plattform LinkedIn zur Anfrage des Users!"}],
72
  ids=[str(len(x)+1),str(len(x)+2),str(len(x)+3)]
73
  )
74
 
@@ -236,7 +236,7 @@ def response(message, history,customSysPrompt, genre, augmentation, hfToken):
236
  RAGResults=collection.query(query_texts=[message], n_results=1)
237
  genre=str(RAGResults['documents'][0][0]) # determine genre based on best-matching db-entry
238
 
239
- rag="\n\n"+collection.get(where_document={"$contains":genre},include=["metadatas"])['metadatas'][0]['prompt'] # genre-specific addendum to system prompt (rag)
240
  if(len(history)>0):
241
  rag=rag+"\nFalls der User Rückfragen oder Änderungsvorschläge zu deinem Entwurf hat, gehe darauf ein." # add dialog-specific addendum to rag
242
 
@@ -329,15 +329,16 @@ gr.ChatInterface(
329
  chatbot=gr.Chatbot(value=val, render_markdown=True),
330
  title="KI Schreibassistenz (lokal)" if onPrem else "KI Schreibassistenz",
331
  additional_inputs=[
332
- gr.Textbox(
333
  value="Du bist wissenschaftlicher Mitarbeiter an einem Forschungsinstitut und zuständig für die Wissenschaftskommunikation.",
334
  label="System Prompt"),
335
- gr.Dropdown(
336
- ["Blogbeitrag","Gliederungsvorschlag","Social Media Beitrag",""],
337
- value="Blogbeitrag",
338
  label="Genre"),
339
- gr.Checkbox(label="Motivationsschub", info="Ergänze System Prompt um weitere Anregungen für pot. hochwertigere Ergebnisse."),
340
- gr.Textbox(
 
341
  value="",
342
  label="HF_token"),
343
  ]
 
2
  # Title: Gradio Writing Assistant
3
  # Author: Andreas Fischer
4
  # Date: May 23th, 2024
5
+ # Last update:June 12th, 2024
6
  ##########################################################################################
7
 
8
  #https://github.com/abetlen/llama-cpp-python/issues/306
 
66
  collection.add(
67
  documents=["Ich möchte einen Blogbeitrag","Ich möchte einen Gliederungsvorschlag","Ich möchte einen Social Media Beitrag"],
68
  metadatas=[
69
+ {"prompt": "Bitte schreibe einen detaillierten Blogbeitrag zur Anfrage des Users, mit allen relevanten Informationen zum Thema!", "genre":"Beitrag"},
70
+ {"prompt": "Bitte entwerfe einen Gliederungsvorschlag zur Anfrage des Users!", "genre":"Gliederungsvorschlag"},
71
+ {"prompt": "Bitte verfasse einen Beitrag für die professionelle social media Plattform LinkedIn zur Anfrage des Users!", "genre":"Social Media Beitrag"}],
72
  ids=[str(len(x)+1),str(len(x)+2),str(len(x)+3)]
73
  )
74
 
 
236
  RAGResults=collection.query(query_texts=[message], n_results=1)
237
  genre=str(RAGResults['documents'][0][0]) # determine genre based on best-matching db-entry
238
 
239
+ rag="\n\n"+collection.get(where={"genre": genre},include=["metadatas"])['metadatas'][0]['prompt'] # genre-specific addendum to system prompt (rag)
240
  if(len(history)>0):
241
  rag=rag+"\nFalls der User Rückfragen oder Änderungsvorschläge zu deinem Entwurf hat, gehe darauf ein." # add dialog-specific addendum to rag
242
 
 
329
  chatbot=gr.Chatbot(value=val, render_markdown=True),
330
  title="KI Schreibassistenz (lokal)" if onPrem else "KI Schreibassistenz",
331
  additional_inputs=[
332
+ gr.Textbox(info="Basiskomponente der Anweisungen, die vor dem Dialog an das System gehen.",
333
  value="Du bist wissenschaftlicher Mitarbeiter an einem Forschungsinstitut und zuständig für die Wissenschaftskommunikation.",
334
  label="System Prompt"),
335
+ gr.Dropdown(info="Wähle das gewünschte Genre des zu schreibenden Textes",
336
+ ["Beitrag","Gliederungsvorschlag","Social Media Beitrag",""],
337
+ value="Beitrag",
338
  label="Genre"),
339
+ gr.Checkbox(info="Optional: Automatische Ergänzung des System Prompt um Formulierungen, die hochwertigere Ergebnisse erwarten lassen.",
340
+ label="Motivationsschub"),
341
+ gr.Textbox(info="Optional: Gib einen gültigen Huggingface Access Token an, um mehr Texte produzieren zu können.",
342
  value="",
343
  label="HF_token"),
344
  ]