Update app.py

app.py

@@ -12,6 +12,10 @@ import gradio as gr
 from fpdf import FPDF as FPDF2
 from datetime import datetime 
 from zoneinfo import ZoneInfo
+from langchain.chat_models import ChatOpenAI
+from langchain.prompts import ChatPromptTemplate
+from langchain.chains import LLMChain
+from langchain.callbacks import get_openai_callback
 import sys
 
 # API 키 설정
@@ -130,71 +134,57 @@ def fetch_crawl_results(query):
 
 def generate_blog_post(query, prompt_template):
     try:
-        target_length = 2000  # 내부적으로 목표 글자수 설정
+        target_length = 1500  # 내부적으로 목표 글자수 설정
+        max_attempts = 2  # 최대 2번 실행 (초기 1번 + 재시도 1번)
         
         references = fetch_references(query)
         ref1, ref2, ref3 = references
 
-        random_seed = random.randint(1, sys.maxsize)
-        
-        user_message = f"""주제: {query}
-
-참고글1:
-{ref1}
-
-참고글2:
-{ref2}
-
-참고글3:
-{ref3}
-"""
-        messages = [
-            {"role": "system", "content": prompt_template},
-            {"role": "user", "content": user_message}
-        ]
-
-        response = openai.ChatCompletion.create(
-            model="gpt-4o-mini",
-            messages=messages,
-            max_tokens=10000,
+        chat = ChatOpenAI(
+            model_name="gpt-4o-mini",
             temperature=0.85,
+            max_tokens=10000,
             top_p=0.9,
             frequency_penalty=0.5,
-            seed=random_seed
+            presence_penalty=0,
+            n=1,
+            request_timeout=60
         )
-        
-        generated_post = response.choices[0].message['content']
-        
-        # 원치 않는 표현들을 정규표현식 패턴으로 정의
+
+        prompt = ChatPromptTemplate.from_template(
+            prompt_template + """
+            주제: {query}
+            참고글1: {ref1}
+            참고글2: {ref2}
+            참고글3: {ref3}
+            다음 표현은 사용하지 마세요: 여러분, 마지막으로, 결론적으로, 결국, 종합적으로, 따라서, 마무리, 요약
+            약 {target_length}자로 작성해주세요.
+            """
+        )
+
+        chain = LLMChain(llm=chat, prompt=prompt)
+
         unwanted_patterns = [
             r'\b여러분[,.]?\s*',
             r'\b(마지막으로|결론적으로|결국|종합적으로|따라서|마무리|요약)[,.]?\s*'
         ]
         
-        # 글자수가 부족한 경우 추가 생성
-        while len(generated_post) < target_length or any(re.search(pattern, generated_post, re.IGNORECASE) for pattern in unwanted_patterns):
-            if len(generated_post) < target_length:
-                additional_length = target_length - len(generated_post)
-                reason = f"현재 글자수는 {len(generated_post)}자 이다. 약 {additional_length}자를 추가로 작성하여 총 {target_length}자 이상이 되도록 작성하라"
-            else:
-                reason = "원치 않는 표현이 포함되어 있습니다. 해당 표현을 제거하고 자연스럽게 글을 다시 작성해주세요."
-
-            additional_message = f"{reason} 이전 내용과 자연스럽게 연결되도록 작성해주세요. 앞서 언급한 표현들(여러분, 마지막으로, 결론적으로, 결국, 종합적으로, 따라서, 마무리, 요약)은 사용하지 마세요."
+        for attempt in range(max_attempts):
+            with get_openai_callback() as cb:
+                result = chain.run(query=query, ref1=ref1, ref2=ref2, ref3=ref3, target_length=target_length)
             
-            messages.append({"role": "assistant", "content": generated_post})
-            messages.append({"role": "user", "content": additional_message})
-            
-            additional_response = openai.ChatCompletion.create(
-                model="gpt-4o-mini",
-                messages=messages,
-                max_tokens=min(10000, max(additional_length * 2, 1000)),
-                temperature=0.85,
-                top_p=0.9,
-                frequency_penalty=0.5,
-                seed=random_seed
-            )
-            
-            generated_post = additional_response.choices[0].message['content']
+            generated_post = result.strip()
+
+            # 목표 글자수를 충족하고 원치 않는 표현이 없으면 루프 종료
+            if len(generated_post) >= target_length and not any(re.search(pattern, generated_post, re.IGNORECASE) for pattern in unwanted_patterns):
+                break
+
+            # 첫 번째 시도 후 재시도 시 프롬프트 수정
+            if attempt == 0:
+                if len(generated_post) < target_length:
+                    prompt.template += f"\n\n현재 글자수는 {len(generated_post)}자입니다. 약 {target_length - len(generated_post)}자를 추가로 작성하여 총 {target_length}자가 되도록 해주세요."
+                if any(re.search(pattern, generated_post, re.IGNORECASE) for pattern in unwanted_patterns):
+                    prompt.template += "\n\n원�� 않는 표현이 포함되어 있습니다. 해당 표현을 제거하고 자연스럽게 글을 다시 작성해주세요."
 
         final_post = f"주제: {query}\n\n{generated_post}"
         actual_length = len(generated_post)