Upload app.py

app.py

@@ -7,17 +7,17 @@ import requests
 API_URL = "https://ai.fakeopen.com/v1/chat/completions"  # 用户需要提供自己的 OPENAI_API_KEY
 
 # 推断函数
-def predict(openai_gpt4_key, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot=[], history=[]):  
+def predict(openai_gptapi_key, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot=[], history=[]):  
 
     print(f"————————————————————")
     if inputs.strip() == '':
         inputs = "你好呀，简单介绍下你自己吧！"
-    if openai_gpt4_key.strip() == '':
-        openai_gpt4_key = "pk-this-is-a-real-free-pool-token-for-everyone"
+    if openai_gptapi_key.strip() == '':
+        openai_gptapi_key = "pk-this-is-a-real-free-pool-token-for-everyone"
 
     headers = {
     "Content-Type": "application/json",
-    "Authorization": f"Bearer {openai_gpt4_key}"  # 用户将提供自己的 OPENAI_API_KEY 
+    "Authorization": f"Bearer {openai_gptapi_key}"  # 用户将提供自己的 OPENAI_API_KEY 
     }
 
     print(f"用户消息：  {inputs}")
@@ -61,7 +61,7 @@ def predict(openai_gpt4_key, system_msg, inputs, top_p, temperature, max_tokens,
         messages.append(temp)
         # 消息
         payload = {
-            "model": "gpt-4",
+            "model": model,
             "messages": messages,  # 类型为 [{"role": "user", "content": f"{inputs}"}],
             "temperature": temperature,  # 温度
             "top_p": top_p,  # Top-p
@@ -114,12 +114,12 @@ def set_visible_false():
 def set_visible_true():
     return gr.update(visible=True)
 
-title = """<h1 align="center">🔥 使用 Chat-Completions API 和 🚀 Gradio-Streaming 的 GPT4</h1>"""
+title = """<h1 align="center">🔥 使用 Chat-Completions API 和 🚀 Gradio-Streaming 的 ChatGPT</h1>"""
 # 主题功能的显示消息
 theme_addon_msg = """<center>🌟 这个演示还向你介绍了 Gradio 主题。在 Gradio 网站上查看我们的 <a href="https://gradio.app/theming-guide/" target="_blank">主题指南🎨</a>来了解更多吧！你可以从头开始开发，用 <code>theme.push_to_hub()</code> 修改现有的 Gradio 主题，并简单地上传到 huggingface-hub 来与社区分享你的主题。</center>
 """ 
 
-# 使用信息添加有关 GPT4 系统消息的其他信息
+# 使用信息添加有关 ChatGPT 系统消息的其他信息
 system_msg_info = """对话可以从系统消息开始，以轻松地指导助手的行为。 
 系统消息有助于设置 AI 助手的行为。例如，可以用 '你是一个有帮助的助手。' 来指示助手。"""
 
@@ -130,24 +130,24 @@ theme = gr.themes.Soft(primary_hue="zinc", secondary_hue="purple", neutral_hue="
 with gr.Blocks(css = """#col_container { margin-left: auto; margin-right: auto;} #chatbot {height: 520px; overflow: auto;}""",
                       theme=theme) as demo:
     gr.HTML(title)
-    gr.HTML("""<h3 align="center">🔥 这个 Huggingface Gradio 演示为你提供了使用 GPT4 API 的访问权限，还支持系统消息。请注意，你需要提供自己的 OPENAI API 密钥以访问 GPT4 🙌</h1>""")
+    gr.HTML("""<h3 align="center">🔥 这个 Huggingface Gradio 演示为你提供了使用 ChatGPT API 的访问权限，还支持系统消息。请注意，你需要提供自己的 OPENAI API 密钥以访问 ChatGPT 🙌</h1>""")
     gr.HTML(theme_addon_msg)
-    gr.HTML('''<center><a href="https://huggingface.co/spaces/Hmjz100/ChatGPT4?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>复制这个 Space 并使用你的 OpenAI API 密钥安全运行</center>''')
+    gr.HTML('''<center><a href="https://huggingface.co/spaces/Hmjz100/ChatChatGPT?duplicate=true"><img src="https://bit.ly/3gLdBN6" alt="Duplicate Space"></a>复制这个 Space 并使用你的 OpenAI API 密钥安全运行</center>''')
 
     with gr.Column(elem_id = "col_container"):
-        # 用户需要提供自己的 GPT4 API 密钥，不再由 Huggingface 提供
+        # 用户需要提供自己的 ChatGPT API 密钥，不再由 Huggingface 提供
         with gr.Row():
-            openai_gpt4_key = gr.Textbox(
-                label="OpenAI GPT4 密钥",
+            openai_gptapi_key = gr.Textbox(
+                label="OpenAI ChatGPT 密钥",
                 type="password",
                 placeholder="pk-this-is-a-real-free-pool-token-for-everyone",
-                info="您可以提供自己的 GPT4 密钥，或者使用自带的秘钥",
+                info="您可以提供自己的 ChatGPT 密钥，或者使用自带的秘钥",
             )
             with gr.Accordion(label="系统消息:", open=False):
                 system_msg = gr.Textbox(label="指示 AI 助手设置其行为", info=system_msg_info, value="", placeholder="在这里输入..")
                 accordion_msg = gr.HTML(value="🚧 要修改系统消息，你必须刷新页面", visible=False)
                           
-        chatbot = gr.Chatbot(label='GPT4', elem_id="chatbot")
+        chatbot = gr.Chatbot(label='ChatGPT', elem_id="chatbot")
         inputs = gr.Textbox(placeholder="嗨！", label="输入文本并按 Enter 键")
         state = gr.State([]) 
         with gr.Row():
@@ -158,6 +158,18 @@ with gr.Blocks(css = """#col_container { margin-left: auto; margin-right: auto;}
     
         # 参数设置
         with gr.Accordion("高级参数", open=False):
+            model_max_tokens = {
+                "gpt-4": 8192,
+                "gpt-4-32k": 32768,
+                "gpt-3.5-turbo": 4096,
+                "gpt-3.5-turbo-16k": 16384,
+            }
+            model = gr.RadioButton(
+                choices=["gpt-4", "gpt-4-32k", "gpt-3.5-turbo", "gpt-3.5-turbo-16k"],
+                label="模型",
+                default="gpt-4",
+                group="model_group",
+            )
             top_p = gr.Slider(
                 minimum=-0, maximum=1.0, value=1.0, step=0.05,
                 interactive=True,
@@ -171,10 +183,10 @@ with gr.Blocks(css = """#col_container { margin-left: auto; margin-right: auto;}
                 info="使用何种采样温度，值在 0 到 2 之间。较高的数值如 0.8 会使输出更加随机，而较低的数值如 0.2 会使输出更加集中和确定。我们通常建议修改此参数或 Top-p，但不要同时修改两者。(默认: 1)",
                 )
             max_tokens = gr.Slider(
-                minimum=-0, maximum=8192, value=4096, step=1,
+                minimum=-0, maximum=model_max_tokens[model], value=4000, step=1,
                 interactive=True,
                 label="最大 Token",
-                info="助手生成一条信息可以包含的最大 token 数。最大 token 数也受到模型的总长度限制，上文的 token 数和生成的 token 数之和不能超过模型的 token 总数(默认: 4096)",
+                info="助手生成一条信息可以包含的最大 token 数。最大 token 数也受到模型的总长度限制，上文的 token 数和生成的 token 数之和不能超过模型的 token 总数(默认: 4000)",
             )
             presence_penalty = gr.Slider(
                 minimum=-2.0, maximum=2.0, value=0, step=0.1,
@@ -191,8 +203,8 @@ with gr.Blocks(css = """#col_container { margin-left: auto; margin-right: auto;}
             chat_counter = gr.Number(value=0, visible=False, precision=0)
 
     # 事件处理
-    inputs.submit(predict, [openai_gpt4_key, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot, state], [chatbot, state, chat_counter, server_status_code],)  # openai_api_key
-    b1.click(predict, [openai_gpt4_key, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot, state], [chatbot, state, chat_counter, server_status_code],)  # openai_api_key
+    inputs.submit(predict, [openai_gptapi_key, model, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot, state], [chatbot, state, chat_counter, server_status_code],)  # openai_api_key
+    b1.click(predict, [openai_gptapi_key, model, system_msg, inputs, top_p, temperature, max_tokens, presence_penalty, frequency_penalty, chat_counter, chatbot, state], [chatbot, state, chat_counter, server_status_code],)  # openai_api_key
     
     inputs.submit(set_visible_false, [], [system_msg])
     b1.click(set_visible_false, [], [system_msg])