import gradio as gr from groq import Groq class GroqChatbot: def __init__(self, api_key, model="mixtral-8x7b-32768"): """ 初始化 Groq AI 聊天機器人 :param api_key: Groq API 金鑰 :param model: 要使用的模型,預設為 mixtral-8x7b-32768 """ self.client = Groq(api_key=api_key) self.model = model self.conversation_history = [] def generate_response(self, user_message): """ 使用 Groq AI 產生回覆 :param user_message: 使用者輸入的訊息 :return: AI 的回覆 """ try: # 準備對話歷史記錄 messages = [ {"role": "system", "content": "你是一個樂於助人的 AI 助理。請用繁體中文回答問題。"} ] # 新增先前的對話歷史 for past_user, past_ai in self.conversation_history: messages.append({"role": "user", "content": past_user}) messages.append({"role": "assistant", "content": past_ai}) # 新增目前使用者訊息 messages.append({"role": "user", "content": user_message}) # 呼叫 Groq API chat_completion = self.client.chat.completions.create( messages=messages, model=self.model ) # 取得回覆 response = chat_completion.choices[0].message.content return response except Exception as e: return f"發生錯誤:{str(e)}" def chat_interface(self, user_message): """ 主要聊天介面方法 :param user_message: 使用者輸入的訊息 :return: AI 回覆和對話歷史 """ # 產生回覆 response = self.generate_response(user_message) # 更新對話歷史 self.conversation_history.append((user_message, response)) # 準備歷史顯示 history_text = "" for i, (question, answer) in enumerate(self.conversation_history): history_text += f"問題 {i+1}:{question}\n" history_text += f"回覆 {i+1}:{answer}\n\n" return response, history_text def create_gradio_interface(api_key): """ 建立 Gradio 聊天介面 :param api_key: Groq API 金鑰 :return: Gradio 介面 """ # 初始化聊天機器人 chatbot = GroqChatbot(api_key) # 示範問題 examples = [ "什麼是人工智能?", "請解釋量子運算的基本原理", "能分享一個有趣的科技創新故事嗎?" ] # 建立 Gradio 介面 with gr.Blocks() as demo: gr.Markdown("# 🤖 Groq AI 智能助理 🌐") gr.Markdown("使用 Groq AI 技術的智慧對話助手") with gr.Row(): with gr.Column(scale=3): input_text = gr.Textbox(label="請在此輸入您的問題...") submit_btn = gr.Button("傳送") with gr.Column(scale=1): gr.Markdown("### 快速範例") example_buttons = [gr.Button(ex) for ex in examples] output_text = gr.Textbox(label="AI 回覆") history_text = gr.Textbox(label="對話紀錄") # 傳送按鈕邏輯 submit_btn.click( fn=chatbot.chat_interface, inputs=input_text, outputs=[output_text, history_text] ) # 範例按鈕邏輯 for btn, ex in zip(example_buttons, examples): btn.click( fn=chatbot.chat_interface, inputs=gr.State(ex), outputs=[output_text, history_text] ) return demo # 使用方法 if __name__ == "__main__": # 請更換為您的 Groq API 金鑰 GROQ_API_KEY = "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" # 啟動 Gradio 介面 demo = create_gradio_interface(GROQ_API_KEY) demo.launch()