Update app.py

app.py

@@ -192,60 +192,7 @@ def read_uploaded_file(file):
     except Exception as e:
         return f"❌ 파일 읽기 오류: {str(e)}", "error"
 
-@spaces.GPU
-def stream_chat(message: str, history: list, uploaded_file, temperature: float, max_new_tokens: int, top_p: float, top_k: int, penalty: float):
-    print(f'message is - {message}')
-    print(f'history is - {history}')
-    
-    # 파일 업로드 처리
-    file_context = ""
-    if uploaded_file:
-        content, file_type = read_uploaded_file(uploaded_file)
-        if content:
-            file_context = f"\n\n업로드된 파일 내용:\n```\n{content}\n```"
-
-    # 관련 컨텍스트 찾기
-    relevant_contexts = find_relevant_context(message)
-    wiki_context = "\n\n관련 위키피디아 정보:\n"
-    for ctx in relevant_contexts:
-        wiki_context += f"Q: {ctx['question']}\nA: {ctx['answer']}\n유사도: {ctx['similarity']:.3f}\n\n"
-    
-    # 대화 히스토리 구성
-    conversation = []
-    for prompt, answer in history:
-        conversation.extend([
-            {"role": "user", "content": prompt},
-            {"role": "assistant", "content": answer}
-        ])
-
-    # 최종 프롬프트 구성
-    final_message = file_context + wiki_context + "\n현재 질문: " + message
-    conversation.append({"role": "user", "content": final_message})
-
-    input_ids = tokenizer.apply_chat_template(conversation, tokenize=False, add_generation_prompt=True)
-    inputs = tokenizer(input_ids, return_tensors="pt").to(0)
-
-    streamer = TextIteratorStreamer(tokenizer, timeout=10., skip_prompt=True, skip_special_tokens=True)
-
-    generate_kwargs = dict(
-        inputs, 
-        streamer=streamer,
-        top_k=top_k,
-        top_p=top_p,
-        repetition_penalty=penalty,
-        max_new_tokens=max_new_tokens, 
-        do_sample=True, 
-        temperature=temperature,
-        eos_token_id=[255001],
-    )
-    
-    thread = Thread(target=model.generate, kwargs=generate_kwargs)
-    thread.start()
 
-    buffer = ""
-    for new_text in streamer:
-        buffer += new_text
-        yield buffer
 
 CSS = """
 /* 전체 페이지 스타일링 */
@@ -254,13 +201,152 @@ body {
     min-height: 100vh;
     font-family: 'Segoe UI', Tahoma, Geneva, Verdana, sans-serif;
 }
-/* ... (이전의 CSS 스타일 유지) ... */
+/* 메인 컨테이너 */
+.container {
+    max-width: 1200px;
+    margin: 0 auto;
+    padding: 2rem;
+    background: rgba(255, 255, 255, 0.95);
+    border-radius: 20px;
+    box-shadow: 0 20px 40px rgba(0, 0, 0, 0.1);
+    backdrop-filter: blur(10px);
+    transform: perspective(1000px) translateZ(0);
+    transition: all 0.3s ease;
+}
+/* 제목 스타일링 */
+h1 {
+    color: #2d3436;
+    font-size: 2.5rem;
+    text-align: center;
+    margin-bottom: 2rem;
+    text-shadow: 2px 2px 4px rgba(0, 0, 0, 0.1);
+    transform: perspective(1000px) translateZ(20px);
+}
+h3 {
+    text-align: center;
+    color: #2d3436;
+    font-size: 1.5rem;
+    margin: 1rem 0;
+}
+/* 채팅박스 스타일링 */
+.chatbox {
+    background: white;
+    border-radius: 15px;
+    box-shadow: 0 8px 32px rgba(31, 38, 135, 0.15);
+    backdrop-filter: blur(4px);
+    border: 1px solid rgba(255, 255, 255, 0.18);
+    padding: 1rem;
+    margin: 1rem 0;
+    transform: translateZ(0);
+    transition: all 0.3s ease;
+}
+/* 메시지 스타일링 */
+.chatbox .messages .message.user {
+    background: linear-gradient(145deg, #e1f5fe, #bbdefb);
+    border-radius: 15px;
+    padding: 1rem;
+    margin: 0.5rem;
+    box-shadow: 5px 5px 15px rgba(0, 0, 0, 0.05);
+    transform: translateZ(10px);
+    animation: messageIn 0.3s ease-out;
+}
+.chatbox .messages .message.bot {
+    background: linear-gradient(145deg, #f5f5f5, #eeeeee);
+    border-radius: 15px;
+    padding: 1rem;
+    margin: 0.5rem;
+    box-shadow: 5px 5px 15px rgba(0, 0, 0, 0.05);
+    transform: translateZ(10px);
+    animation: messageIn 0.3s ease-out;
+}
+/* 버튼 스타일링 */
+.duplicate-button {
+    background: linear-gradient(145deg, #24292e, #1a1e22) !important;
+    color: white !important;
+    border-radius: 100vh !important;
+    padding: 0.8rem 1.5rem !important;
+    box-shadow: 3px 3px 10px rgba(0, 0, 0, 0.2) !important;
+    transition: all 0.3s ease !important;
+    border: none !important;
+    cursor: pointer !important;
+}
+.duplicate-button:hover {
+    transform: translateY(-2px) !important;
+    box-shadow: 0 5px 15px rgba(0, 0, 0, 0.3) !important;
+}
+/* 입력 필드 스타일링 */
 """
 
+@spaces.GPU
+def stream_chat(message: str, history: list, uploaded_file, temperature: float, max_new_tokens: int, top_p: float, top_k: int, penalty: float):
+    try:
+        print(f'message is - {message}')
+        print(f'history is - {history}')
+        
+        # 파일 업로드 처리
+        file_context = ""
+        if uploaded_file:
+            content, file_type = read_uploaded_file(uploaded_file)
+            if content:
+                file_context = f"\n\n업로드된 파일 내용:\n```\n{content}\n```"
+
+        # 관련 컨텍스트 찾���
+        relevant_contexts = find_relevant_context(message)
+        wiki_context = "\n\n관련 위키피디아 정보:\n"
+        for ctx in relevant_contexts:
+            wiki_context += f"Q: {ctx['question']}\nA: {ctx['answer']}\n유사도: {ctx['similarity']:.3f}\n\n"
+        
+        # 대화 히스토리 구성
+        conversation = []
+        for prompt, answer in history:
+            conversation.extend([
+                {"role": "user", "content": prompt},
+                {"role": "assistant", "content": answer}
+            ])
+
+        # 최종 프롬프트 구성
+        final_message = file_context + wiki_context + "\n현재 질문: " + message
+        conversation.append({"role": "user", "content": final_message})
+
+        input_ids = tokenizer.apply_chat_template(conversation, tokenize=False, add_generation_prompt=True)
+        inputs = tokenizer(input_ids, return_tensors="pt").to(0)
+
+        streamer = TextIteratorStreamer(tokenizer, timeout=10., skip_prompt=True, skip_special_tokens=True)
+
+        generate_kwargs = dict(
+            inputs, 
+            streamer=streamer,
+            top_k=top_k,
+            top_p=top_p,
+            repetition_penalty=penalty,
+            max_new_tokens=max_new_tokens, 
+            do_sample=True, 
+            temperature=temperature,
+            eos_token_id=[255001],
+        )
+        
+        thread = Thread(target=model.generate, kwargs=generate_kwargs)
+        thread.start()
+
+        buffer = ""
+        for new_text in streamer:
+            buffer += new_text
+            yield "", history + [[message, buffer]]
+
+    except Exception as e:
+        error_message = f"오류가 발생했습니다: {str(e)}"
+        yield "", history + [[message, error_message]]
+
+# UI 부분 수정
 with gr.Blocks(css=CSS) as demo:
     with gr.Row():
         with gr.Column(scale=2):
-            chatbot = gr.Chatbot(height=500)
+            chatbot = gr.Chatbot(
+                value=[],
+                height=500,
+                label="대화창",
+                show_label=True
+            )
             
             msg = gr.Textbox(
                 label="메시지 입력",
@@ -282,60 +368,11 @@ with gr.Blocks(css=CSS) as demo:
             )
             
             with gr.Accordion("고급 설정 ⚙️", open=False):
-                temperature = gr.Slider(
-                    minimum=0,
-                    maximum=1,
-                    step=0.1,
-                    value=0.8,
-                    label="온도",
-                )
-                max_new_tokens = gr.Slider(
-                    minimum=128,
-                    maximum=8000,
-                    step=1,
-                    value=4000,
-                    label="최대 토큰 수",
-                )
-                top_p = gr.Slider(
-                    minimum=0.0,
-                    maximum=1.0,
-                    step=0.1,
-                    value=0.8,
-                    label="상위 확률",
-                )
-                top_k = gr.Slider(
-                    minimum=1,
-                    maximum=20,
-                    step=1,
-                    value=20,
-                    label="상위 K",
-                )
-                penalty = gr.Slider(
-                    minimum=0.0,
-                    maximum=2.0,
-                    step=0.1,
-                    value=1.0,
-                    label="반복 패널티",
-                )
-
-    # 예시 질문
-    gr.Examples(
-        examples=[
-            ["한국의 전통 절기와 24절기에 대해 자세히 설명해주세요."],
-            ["우리나라 전통 음식 중 건강에 좋은 발효음식 5가지를 추천하고 그 효능을 설명해주세요."],
-            ["한국의 대표적인 산들을 소개하고, 각 산의 특징과 등산 코스를 추천해주세요."],
-            ["사물놀이의 악기 구성과 장단에 대해 초보자도 이해하기 쉽게 설명해주세요."],
-            ["한국의 전통 건축물에 담긴 과학적 원리를 현대적 관점에서 분석해주세요."],
-            ["조선시대 과거 시험 제도를 현대의 입시 제도와 비교하여 설명해주세요."],
-            ["한국의 4대 궁궐을 비교하여 각각의 특징과 역사적 의미를 설명해주세요."],
-            ["한국의 전통 놀이를 현대적으로 재해석하여 실내에서 할 수 있는 방법을 제안해주세요."],
-            ["한글 창제 과정과 훈민정음의 과학적 원리를 상세히 설명해주세요."],
-            ["한국의 전통 차 문화에 대해 설명하고, 계절별로 어울리는 전통차를 추천해주세요."],
-            ["한국의 전통 의복인 한복의 구조와 특징을 과학적, 미학적 관점에서 분석해주세요."],
-            ["한국의 전통 가옥 구조를 기후와 환경 관점에서 분석하고, 현대 건축에 적용할 수 있는 요소를 제안해주세요."]
-        ],
-        inputs=msg,
-    )
+                temperature = gr.Slider(minimum=0, maximum=1, step=0.1, value=0.8, label="온도")
+                max_new_tokens = gr.Slider(minimum=128, maximum=8000, step=1, value=4000, label="최대 토큰 수")
+                top_p = gr.Slider(minimum=0.0, maximum=1.0, step=0.1, value=0.8, label="상위 확률")
+                top_k = gr.Slider(minimum=1, maximum=20, step=1, value=20, label="상위 K")
+                penalty = gr.Slider(minimum=0.0, maximum=2.0, step=0.1, value=1.0, label="반복 패널티")
 
     # 이벤트 바인딩
     msg.submit(
@@ -350,9 +387,12 @@ with gr.Blocks(css=CSS) as demo:
         outputs=[msg, chatbot]
     )
 
+    def init_msg():
+        return "파일 분석을 시작합니다..."
+
     # 파일 업로드시 자동 분석
     file_upload.change(
-        lambda: "파일 분석을 시작합니다...",
+        init_msg,
         outputs=msg
     ).then(
         stream_chat,
@@ -361,4 +401,4 @@ with gr.Blocks(css=CSS) as demo:
     )
 
 if __name__ == "__main__":
-    demo.launch()        
+    demo.launch()