Update app.py

app.py

@@ -1,19 +1,23 @@
-# app.py
 import gradio as gr
 from huggingface_hub import InferenceClient
 import os
+from typing import Optional
+
+#############################
+# [기본코드] - Cohere 관련 부분만 남김
+#############################
 
 # Cohere Command R+ 모델 ID 정의
 COHERE_MODEL = "CohereForAI/c4ai-command-r-plus-08-2024"
 
-def get_client(model_name):
+def get_client(model_name: str):
     """
     모델 이름에 맞춰 InferenceClient 생성.
     토큰은 환경 변수에서 가져옴.
     """
     hf_token = os.getenv("HF_TOKEN")
     if not hf_token:
-        raise ValueError("HuggingFace API 토큰이 필요합니다.")
+        raise ValueError("HuggingFace API 토큰(HF_TOKEN)이 설정되지 않았습니다.")
 
     if model_name == "Cohere Command R+":
         model_id = COHERE_MODEL
@@ -22,17 +26,14 @@ def get_client(model_name):
     return InferenceClient(model_id, token=hf_token)
 
 def respond_cohere_qna(
-    tone: str,
-    reference1: str,
-    reference2: str,
-    reference3: str,
+    question: str,
     system_message: str,
     max_tokens: int,
     temperature: float,
     top_p: float
 ):
     """
-    Cohere Command R+ 모델을 이용해 블로그 생성 함수.
+    Cohere Command R+ 모델을 이용해 한 번의 질문(question)에 대한 답변을 반환하는 함수.
     """
     model_name = "Cohere Command R+"
     try:
@@ -40,14 +41,14 @@ def respond_cohere_qna(
     except ValueError as e:
         return f"오류: {str(e)}"
 
-    question = f"말투: {tone} \n\n 참조글1: {reference1} \n\n 참조글2: {reference2} \n\n 참조글3: {reference3}"
+    messages = [
+        {"role": "system", "content": system_message},
+        {"role": "user", "content": question}
+    ]
 
     try:
         response_full = client.chat_completion(
-            [
-                {"role": "system", "content": system_message},
-                {"role": "user", "content": question}
-            ],
+            messages,
             max_tokens=max_tokens,
             temperature=temperature,
             top_p=top_p,
@@ -57,39 +58,63 @@ def respond_cohere_qna(
     except Exception as e:
         return f"오류가 발생했습니다: {str(e)}"
 
-# Gradio UI 설정
+#############################
+# 고급 설정 (Cohere) - 코드에서만 정의 (UI에 노출 금지)
+#############################
+COHERE_SYSTEM_MESSAGE = """반드시 한글로 답변할 것.
+너는 최고의 비서이다.
+내가 요구하는 것들을 최대한 자세하고 정확하게 답변하라.
+"""
+COHERE_MAX_TOKENS = 4000
+COHERE_TEMPERATURE = 0.7
+COHERE_TOP_P = 0.95
+
+#############################
+# UI - 블로그 생성기
+#############################
 with gr.Blocks() as demo:
     gr.Markdown("# 블로그 생성기")
 
-    with gr.Row():
-        tone = gr.Radio(
-            choices=["친근하게", "일반적인", "전문적인"],
-            value="일반적인",
-            label="말투바꾸기"
-        )
+    # 말투바꾸기 (라디오 버튼)
+    tone_radio = gr.Radio(
+        label="말투바꾸기",
+        choices=["친근하게", "일반적인", "전문적인"],
+        value="일반적인"  # 기본 선택
+    )
 
-    reference1 = gr.Textbox(label="참조글 1", lines=3, placeholder="블로그 글에 포함할 주요 참조 내용 1")
-    reference2 = gr.Textbox(label="참조글 2", lines=3, placeholder="블로그 글에 포함할 주요 참조 내용 2")
-    reference3 = gr.Textbox(label="참조글 3", lines=3, placeholder="블로그 글에 포함할 주요 참조 내용 3")
+    # 참조글 입력 (3개)
+    ref1 = gr.Textbox(label="참조글 1")
+    ref2 = gr.Textbox(label="참조글 2")
+    ref3 = gr.Textbox(label="참조글 3")
 
-    output = gr.Textbox(label="생성된 블로그 글", lines=10, interactive=False)
+    output_box = gr.Textbox(label="결과", lines=8, interactive=False)
 
-    with gr.Accordion("고급 설정 (Cohere)", open=False):
-        system_message = gr.Textbox(
-            value="""반드시 한글로 답변할 것.\n너는 블로그 작성을 도와주는 비서이다.\n사용자의 요구사항을 정확히 반영하여 작성하라.""",
-            label="System Message",
-            lines=3
+    def generate_blog(tone_value, ref1_value, ref2_value, ref3_value):
+        # 프롬프트: “~~”
+        # 말투와 참조글들을 하나로 합쳐 질문(프롬프트) 형식으로 구성
+        question = (
+            f"~~\n"
+            f"말투: {tone_value}\n"
+            f"참조글1: {ref1_value}\n"
+            f"참조글2: {ref2_value}\n"
+            f"참조글3: {ref3_value}\n"
         )
-        max_tokens = gr.Slider(minimum=100, maximum=5000, value=2000, step=100, label="Max Tokens")
-        temperature = gr.Slider(minimum=0.1, maximum=2.0, value=0.7, step=0.1, label="Temperature")
-        top_p = gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-P")
 
-    generate_button = gr.Button("생성")
+        # Cohere Command R+ 모델 호출
+        response = respond_cohere_qna(
+            question=question,
+            system_message=COHERE_SYSTEM_MESSAGE,
+            max_tokens=COHERE_MAX_TOKENS,
+            temperature=COHERE_TEMPERATURE,
+            top_p=COHERE_TOP_P
+        )
+        return response
 
+    generate_button = gr.Button("생성하기")
     generate_button.click(
-        fn=respond_cohere_qna,
-        inputs=[tone, reference1, reference2, reference3, system_message, max_tokens, temperature, top_p],
-        outputs=output
+        fn=generate_blog,
+        inputs=[tone_radio, ref1, ref2, ref3],
+        outputs=output_box
     )
 
 if __name__ == "__main__":