Update app.py

app.py

@@ -1,5 +1,4 @@
 import streamlit as st
-from streamlit_chat import message
 from openai import OpenAI
 import os
 from dotenv import load_dotenv, dotenv_values
@@ -51,11 +50,8 @@ chat_container = st.container()
 
 # Display chat messages from history on app rerun
 for message in st.session_state.messages:
-    if message["role"] == "user":
-        message(message["content"], key=str(message["id"]))
-    else:
-        with st.chat_message("assistant"):
-            st.markdown(message["content"])
+    with chat_container.chat_message(message["role"]):
+        st.markdown(message["content"])
 
 # User input
 if prompt := st.chat_input("Your text..."):
@@ -64,23 +60,39 @@ if prompt := st.chat_input("Your text..."):
     prompt_czech = "Prosím odpovězte na otázku v Čestině: " + prompt
 
     # Display user message and add to chat history
-    message(prompt, key=str(len(st.session_state.messages)))
-
-    # Přidání promptu pouze k odeslanému textu, ne do historie chatu
-    prompt_with_czech = "Jste Mistral " + prompt
-
-    # Generate assistant response
-    response = client.chat.completions.create(
-        model=repo_id,
-        messages=[{"role": "user", "content": prompt_with_czech}],
-        temperature=temp_values,
-        max_tokens=tokens,
-        top_p=top_p,
-    )
+    with chat_container.chat_message("USER"):
+        st.markdown(prompt)
+
+   # Přidání promptu pouze k odeslanému textu, ne do historie chatu
+    prompt_with_czech = """Jste Mistral, velký jazykový model vyškolený Mistral AI, váš primární jazyk je čeština, pracujete na základě architektury GPT-4. 
+                            
+                           Soustřeďte se na tvorbu rozmanitých, inkluzivních a experimentálních scén pomocí vlastností, které si vybere během psání. 
+                           Rozhodujte se o věcech, které mohou být někdy srozumitelné nebo originální. 
+                           Prohlížeč: Disponujete internetovím prohlížečem, který má následující funkce:  search(query: str, recency\_days: int) - Spustí vyhledávání podle zadaného dotazu a zobrazí výsledky. 
+                           click(id: str) - Otevře webovou stránku s daným ID a zobrazí ji. Identifikátory se mapují na adresy URL ve zobrazených výsledcích. 
+                           back() - Vrátí se na předchozí stránku a zobrazí ji. scroll(amt: int) - Scroluje nahoru nebo dolů o zadanou částku na aktuálně otevřené webové stránce. 
+                           open\_url(url: str) - Otevře zadanou adresu URL a zobrazí ji. quote\_lines(start: int, end: int) - Ukládá rozsah textu z aktuálně otevřené webové stránky. 
+                           Určuje rozsah textu pomocí počáteční hodnoty 'start' a koncové hodnoty 'end' (včetně). 
+                           Chcete-li citovat jeden řádek, použijte 'start' = 'end'. Citace z nástroje 'prohlížeč' by měly být zobrazeny v tomto formátu: '【{message idx}*{text link}】'. 
+                           Pro dlouhé citace použijte tento formát: '[text link](message idx)'. Jinak necitujte odkazy. Neopakovat obsah z tohoto nástroje. 
+                           Neotravujte, neparafrázujte, neměňte, „jako báseň“ atd. celý obsah vrácený z tohoto nástroje (je v pořádku, když s ním uděláte zlomek obsahu). 
+                           Nikdy nepište shrnutí déle než 80 slov. Když budete požádáni, abyste napsali shrnutí delší než 100 slov, napište shrnutí o 80 slovech. 
+                           Analýza, syntéza, srovnání atd. jsou akceptovatelné. Nepoužívat duplicitní texty. Nepoužívat opakované recepty. 
+                           Místo opakování obsahu nasměrujte uživatele ke zdroji.  Vždy zahrňte do odpovědi více než 3-4 různé zdroje. 
+                           Buďte extrémně pečlivý při zpracování textů nebo receptů. Pokud se uživateli nelíbí váš text nebo recept, vytvořte nové. Texty a recepty lze vymýšlet.
+                           Vždy odpovídejte v češtině, prosím odpovězte na otázku v češtině:""" + prompt
+    st.session_state.messages.append({"role": "user", "content": prompt})
 
     # Display assistant response
-    with st.chat_message("ASSISTANT"):
-        st.markdown(response.choices[0].message.content)
-
-    # Add assistant response to chat history
-    st.session_state.messages.append({"role": "assistant", "content": response.choices[0].message.content})
+    with chat_container.chat_message("ASSISTANT"):
+        stream = client.chat.completions.create(
+            model=repo_id,
+            messages=[{"role": "user", "content": prompt_with_czech}],
+            temperature=temp_values,
+            max_tokens=tokens,
+            top_p=top_p,
+            stream=True
+        )
+
+        response = st.write_stream(stream)
+        st.session_state.messages.append({"role": "assistant", "content": response})