dreamerdeo commited on
Commit
63404b3
·
verified ·
1 Parent(s): b6e4d03

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -4
app.py CHANGED
@@ -78,9 +78,9 @@ def predict(message, history):
78
  repetition_penalty=1.1,
79
  )
80
 
81
- # 使用线程来运行生成过程
82
- t = Thread(target=model.generate, kwargs=generate_kwargs)
83
- t.start()
84
 
85
  # 实时生成部分消息
86
  partial_message = ""
@@ -90,7 +90,8 @@ def predict(message, history):
90
  break
91
  # 将历史记录和当前消息转换为 tuple 格式并实时返回
92
  # yield [(msg, bot) for msg, bot in history] + [(message, partial_message)]
93
- yield (message, partial_message)
 
94
 
95
  # # 处理生成的最终回复
96
  # final_message = partial_message.replace(sft_end_token, "").strip()
 
78
  repetition_penalty=1.1,
79
  )
80
 
81
+ # # 使用线程来运行生成过程
82
+ # t = Thread(target=model.generate, kwargs=generate_kwargs)
83
+ # t.start()
84
 
85
  # 实时生成部分消息
86
  partial_message = ""
 
90
  break
91
  # 将历史记录和当前消息转换为 tuple 格式并实时返回
92
  # yield [(msg, bot) for msg, bot in history] + [(message, partial_message)]
93
+ # yield (message, partial_message)
94
+ yield message
95
 
96
  # # 处理生成的最终回复
97
  # final_message = partial_message.replace(sft_end_token, "").strip()