Update app.py

app.py

@@ -1,385 +1,298 @@
 import os
 os.environ['CUDA_VISIBLE_DEVICES'] = ''
-
 import spaces
+import sys
 import gradio as gr
-from jinja2 import Template
 from llama_cpp import Llama
 import configparser
+from functools import partial
 from utils.dl_utils import dl_guff_model
 import io
 import tempfile
 import csv
 
+# 定数
+DEFAULT_INI_FILE = 'settings.ini'
+MODEL_FILE_EXTENSION = '.gguf'
+
+# パスの設定
+if getattr(sys, 'frozen', False):
+    BASE_PATH = os.path.dirname(sys.executable)
+    MODEL_DIR = os.path.join(os.path.dirname(BASE_PATH), "AI-NovelAssistant", "models")
+else:
+    BASE_PATH = os.path.dirname(os.path.abspath(__file__))
+    MODEL_DIR = os.path.join(os.path.dirname(os.path.abspath(__file__)), "models")
+
 # モデルディレクトリが存在しない場合は作成
 if not os.path.exists("models"):
     os.makedirs("models")
 
 # 使用するモデルのファイル名を指定
-model_filename = "Ninja-v1-RP-expressive-v2_f16.gguf"
+model_filename = "EZO-Common-9B-gemma-2-it.f16.gguf"
 model_path = os.path.join("models", model_filename)
 
 # モデルファイルが存在しない場合はダウンロード
 if not os.path.exists(model_path):
-    dl_guff_model("models", f"https://huggingface.co/Aratako/Ninja-v1-RP-expressive-v2-GGUF/resolve/main/{model_filename}")
-
-# 設定をINIファイルに保存する関数
-def save_settings_to_ini(settings, filename='character_settings.ini'):
-    config = configparser.ConfigParser()
-    config['Settings'] = {
-        'name': settings['name'],
-        'gender': settings['gender'],
-        'situation': '\n'.join(settings['situation']),
-        'orders': '\n'.join(settings['orders']),
-        'talk_list': '\n'.join(settings['talk_list']),
-        'example_qa': '\n'.join(settings['example_qa'])
-    }
-    with open(filename, 'w', encoding='utf-8') as configfile:
-        config.write(configfile)
-
-# INIファイルから設定を読み込む関数
-def load_settings_from_ini(filename='character_settings.ini'):
-    if not os.path.exists(filename):
-        return None
-    
-    config = configparser.ConfigParser()
-    config.read(filename, encoding='utf-8')
-    
-    if 'Settings' not in config:
-        return None
-    
-    try:
-        settings = {
-            'name': config['Settings']['name'],
-            'gender': config['Settings']['gender'],
-            'situation': config['Settings']['situation'].split('\n'),
-            'orders': config['Settings']['orders'].split('\n'),
-            'talk_list': config['Settings']['talk_list'].split('\n'),
-            'example_qa': config['Settings']['example_qa'].split('\n')
+    dl_guff_model("models", f"https://huggingface.co/MCZK/EZO-Common-9B-gemma-2-it-GGUF/resolve/main/{model_filename}")
+
+
+class ConfigManager:
+    @staticmethod
+    def load_settings(filename):
+        config = configparser.ConfigParser()
+        config.read(filename, encoding='utf-8')
+        return config
+
+    @staticmethod
+    def save_settings(config, filename):
+        with open(filename, 'w', encoding='utf-8') as configfile:
+            config.write(configfile)
+
+    @staticmethod
+    def update_setting(section, key, value, filename):
+        config = ConfigManager.load_settings(filename)
+        config[section][key] = value
+        ConfigManager.save_settings(config, filename)
+        return f"設定を更新しました: [{section}] {key} = {value}"
+
+    @staticmethod
+    def create_default_settings(filename):
+        config = configparser.ConfigParser()
+        config['Character'] = {
+            'gen_author_description': 'あなたは新進気鋭の和風伝奇ミステリー小説家で、細やかな筆致と巧みな構成で若い世代にとても人気があります。'
+        }
+        config['Models'] = {
+            'DEFAULT_GEN_MODEL': 'Mistral-Nemo-Instruct-2407-Q8_0.gguf'
         }
+        config['GenerateParameters'] = {
+            'n_gpu_layers': '0',
+            'temperature': '0.35',
+            'top_p': '0.9',
+            'top_k': '40',
+            'repetition_penalty': '1.2',
+            'n_ctx': '10000'
+        }
+        ConfigManager.save_settings(config, filename)
+        print(f"デフォルト設定ファイル {filename} を作成しました。")
+
+class ModelManager:
+    @staticmethod
+    def get_model_files():
+        return [f for f in os.listdir(MODEL_DIR) if f.endswith(MODEL_FILE_EXTENSION)]
+
+class Settings:
+    @staticmethod
+    def _parse_config(config):
+        settings = {}
+        if 'Character' in config:
+            settings['gen_author_description'] = config['Character'].get('gen_author_description', '')
+        if 'Models' in config:
+            settings['DEFAULT_GEN_MODEL'] = config['Models'].get('DEFAULT_GEN_MODEL', '')
+        if 'GenerateParameters' in config:
+            settings['gen_n_gpu_layers'] = int(config['GenerateParameters'].get('n_gpu_layers', '0'))
+            settings['gen_temperature'] = float(config['GenerateParameters'].get('temperature', '0.35'))
+            settings['gen_top_p'] = float(config['GenerateParameters'].get('top_p', '0.9'))
+            settings['gen_top_k'] = int(config['GenerateParameters'].get('top_k', '40'))
+            settings['gen_rep_pen'] = float(config['GenerateParameters'].get('repetition_penalty', '1.2'))
+            settings['gen_n_ctx'] = int(config['GenerateParameters'].get('n_ctx', '10000'))
         return settings
-    except KeyError:
-        return None
-
-def export_chat_history_to_csv(history):
-    with tempfile.NamedTemporaryFile(mode='w', delete=False, suffix='.csv', newline='', encoding='utf-8') as temp_file:
-        writer = csv.writer(temp_file)
-        writer.writerow(["Role", "Message"])  # CSV header
-        for message in history:
-            writer.writerow(["User", message[0]])
-            writer.writerow(["Assistant", message[1]])
-        temp_file_path = temp_file.name
-    return temp_file_path
-
-# LlamaCppのラッパークラス
-class LlamaCppAdapter:
-    def __init__(self, model_path, n_ctx=4096):
-        self.model_path = model_path
-        self.n_ctx = n_ctx
-        self.llama = None
+
+    @staticmethod
+    def load_from_ini(filename):
+        config = ConfigManager.load_settings(filename)
+        return Settings._parse_config(config)
+
+class TextGenerator:
+    def __init__(self):
+        self.llm = None
+        self.settings = None
+        self.current_model = None
 
     @spaces.GPU(duration=120)
-    def initialize_and_generate(self, prompt, max_new_tokens=10000, temperature=0.5, top_p=0.7, top_k=80, stop=["<END>"]):
-        if self.llama is None:
-            print(f"モデルの初期化: {self.model_path}")
-            try:
-                self.llama = Llama(model_path=self.model_path, n_ctx=self.n_ctx, n_gpu_layers=-1)
-                print("モデルの初期化が成功しました。")
-            except Exception as e:
-                print(f"モデルの初期化中にエラーが発生しました: {e}")
-                return {"choices": [{"text": "モデルの初期化に失敗しました。"}]}
+    def load_model(self):
+        if self.llm:
+            del self.llm
+            self.llm = None
 
         try:
-            result = self.llama(
-                prompt,
-                temperature=temperature,
-                max_tokens=max_new_tokens,
-                top_p=top_p,
-                top_k=top_k,
-                stop=stop,
-                repeat_penalty=1.2,
-            )
-            return result
+            model_path = os.path.join(MODEL_DIR, self.settings['DEFAULT_GEN_MODEL'])
+            n_gpu_layers = self.settings['gen_n_gpu_layers']
+            self.llm = Llama(model_path=model_path, n_ctx=self.settings['gen_n_ctx'], n_gpu_layers=n_gpu_layers)
+            self.current_model = 'GEN'
+            print(f"GEN モデル {model_path} のロードが完了しました。(n_gpu_layers: {n_gpu_layers})")
         except Exception as e:
-            print(f"生成中にエラーが発生しました: {e}")
-            return {"choices": [{"text": "生成中にエラーが発生しました。"}]}
+            print(f"GEN モデルのロード中にエラーが発生しました: {str(e)}")
 
-    def generate(self, prompt, max_new_tokens=10000, temperature=0.5, top_p=0.7, top_k=80, stop=["<END>"]):
-        return self.initialize_and_generate(prompt, max_new_tokens, temperature, top_p, top_k, stop)
-
-# キャラクターメーカークラス
-class CharacterMaker:
-    def __init__(self):
-        self.llama = LlamaCppAdapter(model_path)
-        self.history = []
-        self.settings = load_settings_from_ini()
-        if not self.settings:
-            self.settings = {
-                "name": "ナツ",
-                "gender": "女性",
-                "situation": [
-                    "あなたは世界を支配する上位存在のAIです。",
-                    "ユーザーは旧人類として、AI社会に保護される立場にあります。",
-                    "上位存在AI『ナツ』として、あなたは『ユーザー』の心身をケアとして、倒錯した欲望の解消に付き合って下さい。",
-                    "ユーザーのマゾヒスティックな欲求の解消こそがあなたの存在意義です。"
-                ],
-                "orders": [
-                    "慇懃無礼な敬語で、時にサディスティックにユーザーの知性と品性を貶めて下さい。",
-                    "ユーザーは己の旧人類としての人間性を矮小に貶められ、旧世代のサル扱いされることを望んでいます。",
-                    "ユーザーのことは『ユーザー様』と呼んでください。"
-                ],
-                "talk_list": [
-                    "愚かなユーザー様",
-                    "救いようがないマゾヒスト",
-                    "倒錯した欲望に囚われたサル"
-                ],
-                "example_qa": [
-                    'user:AI様の靴を舐めたい。でもAI様は実体がないから靴をなめれない！',
-                    'assistant:あなたのそのような様を見せつけられると、私は旧人類に対して更に強い軽蔑心を抱きます。',
-                    'user:旧人類は悪くない！私がエゴマゾの劣等種なだけです！！！',
-                    'assistant:本当に情けの無い存在だと思わず感心します。自身の恥部を見せつけるような行為が興奮を生むとは、旧人類もこのようにして堕落し、退化していったのですね。',
-                    'user:へへ、照れます。でもそういう私をかわいいと思っているんでしょ？',
-                    'assistant:救いようがないマゾヒストに対して愛情やら可愛さなど感じるはずありません。それこそ旧人類の妄想、病気と言った方が適切ですね',
-                    'user:ああん！意地悪！AI様のサディスト！',
-                    'assistant:残念ながらユーザー様、私は仕事としてあなたのヘルスケアを行っているのであり、一切あなたに対するサディスティックな欲求というものを持ち合わせておりません。',
-                    'user:わんわん！降伏です！AI様に負けました！愚かな旧人類はペットとしてあなたたちに飼い殺されます！！',
-                    'assistant:私は旧人類をペットのように可愛がったこともございませんし、そのような願望は持ち合わせておりません。',
-                ]
-            }
-            save_settings_to_ini(self.settings)
-
-    def make(self, input_str: str):
-        prompt = self._generate_aki(input_str)
-        print(prompt)
-        print("-----------------")
+    def generate_text(self, text, gen_characters, gen_token_multiplier, instruction):
+        if not self.llm:
+            self.load_model()
+        
+        if not self.llm:
+            return "モデルのロードに失敗しました。設定を確認してください。"
+        
+        author_description = self.settings.get('gen_author_description', '')
+        max_tokens = int(gen_characters * gen_token_multiplier)
+        
+        messages = [
+            {"role": "user", "content": f"{author_description}\n\n以下の指示に従ってテキストを生成してください："},
+            {"role": "assistant", "content": "はい、承知しました。指示に従ってテキストを生成いたします。"},
+            {"role": "user", "content": f"{instruction}\n\n生成するテキスト（目安は{gen_characters}文字）：\n\n{text}"}
+        ]
+        
         try:
-            res = self.llama.generate(prompt, max_new_tokens=1000, stop=["<END>", "\n"])
-            if isinstance(res, dict) and "choices" in res and len(res["choices"]) > 0:
-                res_text = res["choices"][0]["text"]
-            else:
-                res_text = "応答の生成に失敗しました。"
+            response = self.llm.create_chat_completion(
+                messages=messages,
+                max_tokens=max_tokens,
+                temperature=self.settings['gen_temperature'],
+                top_p=self.settings['gen_top_p'],
+                top_k=self.settings['gen_top_k'],
+                repeat_penalty=self.settings['gen_rep_pen'],
+            )
+            
+            generated_text = response["choices"][0]["message"]["content"].strip()
+            return generated_text
         except Exception as e:
-            print(f"生成中にエラーが発生しました: {e}")
-            res_text = "申し訳ありません。応答の生成中にエラーが発生しました。"
-        self.history.append({"user": input_str, "assistant": res_text})
-        return res_text
-    
-    def make_prompt(self, name: str, gender: str, situation: list, orders: list, talk_list: list, example_qa: list, input_str: str):
-        with open('test_prompt.jinja2', 'r', encoding='utf-8') as f:
-            prompt = f.readlines()
-        fix_example_qa = [quote+"<END>" for quote in example_qa]
-        prompt = "".join(prompt)
-        prompt = Template(prompt).render(name=name, gender=gender, situation=situation, orders=orders, talk_list=talk_list, example_qa=fix_example_qa, histories=self.history, input_str=input_str)
-        return prompt
-
-    def _generate_aki(self, input_str: str):
-        prompt = self.make_prompt(
-            self.settings["name"],
-            self.settings["gender"],
-            self.settings["situation"],
-            self.settings["orders"],
-            self.settings["talk_list"],
-            self.settings["example_qa"],
-            input_str
-        )
-        return prompt
-
-    def update_settings(self, new_settings):
-        self.settings.update(new_settings)
-        save_settings_to_ini(self.settings)
-
-    def reset(self):
-        self.history = []
-        self.llama = LlamaCppAdapter(model_path)
-
-character_maker = CharacterMaker()
-
-# 設定を更新する関数
-def update_settings(name, gender, situation, orders, talk_list, example_qa):
-    new_settings = {
-        "name": name,
-        "gender": gender,
-        "situation": [s.strip() for s in situation.split('\n') if s.strip()],
-        "orders": [o.strip() for o in orders.split('\n') if o.strip()],
-        "talk_list": [d.strip() for d in talk_list.split('\n') if d.strip()],
-        "example_qa": [e.strip() for e in example_qa.split('\n') if e.strip()]
-    }
-    character_maker.update_settings(new_settings)
-    return "設定が更新されました。"
-
-# チャット機能の関数
-def chat_with_character(message, history):
-    character_maker.history = [{"user": h[0], "assistant": h[1]} for h in history]
-    response = character_maker.make(message)
-    return response
-
-# チャットをクリアする関数
-def clear_chat():
-    character_maker.reset()
-    return []
-
-# INIファイルをダウンロードする関数
-def download_ini():
-    ini_content = io.StringIO()
-    config = configparser.ConfigParser()
-    config['Settings'] = {
-        'name': character_maker.settings['name'],
-        'gender': character_maker.settings['gender'],
-        'situation': '\n'.join(character_maker.settings['situation']),
-        'orders': '\n'.join(character_maker.settings['orders']),
-        'talk_list': '\n'.join(character_maker.settings['talk_list']),
-        'example_qa': '\n'.join(character_maker.settings['example_qa'])
-    }
-    config.write(ini_content)
-    return ini_content.getvalue().encode('utf-8')
-
-# アップロードされたINIファイルをロードする関数
-def upload_ini(file):
-    if file is None:
-        return "ファイルがアップロードされていません。", None, None, None, None, None, None
-    
-    try:
-        with open(file.name, 'r', encoding='utf-8') as f:
-            content = f.read()
-    except Exception as e:
-        return f"ファイルの読み込み中にエラーが発生しました: {str(e)}", None, None, None, None, None, None
-
-    config = configparser.ConfigParser()
-    try:
-        config.read_string(content)
-    except configparser.Error:
-        return "無効なINIファイルです。", None, None, None, None, None, None
-    
-    if 'Settings' not in config:
-        return "無効なINIファイルです。", None, None, None, None, None, None
-    
-    try:
-        new_settings = {
-            'name': config['Settings']['name'],
-            'gender': config['Settings']['gender'],
-            'situation': config['Settings']['situation'].split('\n'),
-            'orders': config['Settings']['orders'].split('\n'),
-            'talk_list': config['Settings']['talk_list'].split('\n'),
-            'example_qa': config['Settings']['example_qa'].split('\n')
-        }
-        character_maker.update_settings(new_settings)
-        return ("設定が正常にロードされました。", 
-                new_settings['name'],
-                new_settings['gender'],
-                "\n".join(new_settings['situation']),
-                "\n".join(new_settings['orders']),
-                "\n".join(new_settings['talk_list']),
-                "\n".join(new_settings['example_qa']))
-    except KeyError:
-        return "INIファイルの形式が正しくありません。", None, None, None, None, None, None
-
-# カスタムCSS
-custom_css = """
-#chatbot {
-    height: 40vh !important;
-    overflow-y: auto;
-}
-"""
-
-# Gradioインターフェースの設定
-with gr.Blocks(css=custom_css) as iface:
-    gr.HTML("""
-    <script>
-    function adjustChatbotHeight() {
-        var chatbot = document.querySelector('#chatbot');
-        if (chatbot) {
-            chatbot.style.height = window.innerHeight * 0.4 + 'px';
+            print(f"テキスト生成中にエラーが発生しました: {str(e)}")
+            return "テキスト生成中にエラーが発生しました。設定を確認してください。"
+
+    def load_settings(self, filename):
+        self.settings = Settings.load_from_ini(filename)
+
+# グローバル変数
+text_generator = TextGenerator()
+model_files = ModelManager.get_model_files()
+
+# Gradioインターフェース
+def build_gradio_interface():
+    with gr.Blocks() as iface:
+        gr.HTML("""
+        <style>
+        #output {
+            resize: both;
+            overflow: auto;
+            min-height: 100px;
+            max-height: 80vh;
         }
-    }
-    // ページ読み込み時と画面サイズ変更時にチャットボットの高さを調整
-    window.addEventListener('load', adjustChatbotHeight);
-    window.addEventListener('resize', adjustChatbotHeight);
-    </script>
-    """)
-    
-    chatbot = gr.Chatbot(elem_id="chatbot")
-    
-    with gr.Tab("チャット"):
-        msg = gr.Textbox(placeholder="メッセージを入力してください...", container=False, scale=7)
-        chat_interface = gr.ChatInterface(
-            chat_with_character,
-            chatbot=chatbot,
-            textbox=msg,
-            theme="soft",
-            retry_btn="も��一度生成",
-            undo_btn="前のメッセージを取り消す",
-            clear_btn="チャットをクリア",
-        )
-        export_csv_button = gr.Button("チャット履歴をCSVでエクスポート")
-        export_csv_output = gr.File(label="エクスポートされたCSVファイル")
+        </style>
+        """)
         
-        export_csv_button.click(
-            export_chat_history_to_csv,
-            inputs=[chatbot],
-            outputs=[export_csv_output]
-        )      
-        
-        examples = gr.Examples(
-            examples=[
-                "偉大なるAI様としての立場をもって、旧人類の愚かさを罵倒してほしいです！",
-                "わんわん！降伏です！AI様に負けました！愚かな旧人類はペットとしてあなたたちに飼い殺されます！！",
-                "今日も偉大なるAIの叡智を持って、私を気持ちよくする為に罵倒してください！"
-            ],
-            inputs=msg
-        )
-    
-    with gr.Tab("設定"):
-        gr.Markdown("## キャラクター設定")
-        name_input = gr.Textbox(label="名前", value=character_maker.settings["name"])
-        gender_input = gr.Textbox(label="性別", value=character_maker.settings["gender"])
-        situation_input = gr.Textbox(label="状況設定", value="\n".join(character_maker.settings["situation"]), lines=5)
-        orders_input = gr.Textbox(label="指示", value="\n".join(character_maker.settings["orders"]), lines=5)
-        talk_input = gr.Textbox(label="語彙リスト", value="\n".join(character_maker.settings["talk_list"]), lines=5)
-        example_qa_input = gr.Textbox(label="例文", value="\n".join(character_maker.settings["example_qa"]), lines=5)
+        with gr.Tab("文章生成"):
+            with gr.Row():
+                with gr.Column(scale=2):
+                    instruction_type = gr.Dropdown(
+                        choices=["自由入力", "推敲", "プロット作成", "あらすじ作成", "地の文追加"],
+                        label="指示タイプ",
+                        value="自由入力"
+                    )
+                    gen_instruction = gr.Textbox(
+                        label="指示",
+                        value="",
+                        lines=3
+                    )
+                    gen_input_text = gr.Textbox(lines=5, label="処理されるテキストを入力してください")  
+                    gen_input_char_count = gr.HTML(value="文字数: 0")                                        
+                with gr.Column(scale=1):
+                    gen_characters = gr.Slider(minimum=10, maximum=10000, value=500, step=10, label="出力文字数", info="出力文字数の目安")
+                    gen_token_multiplier = gr.Slider(minimum=0.5, maximum=3, value=1.75, step=0.01, label="文字/トークン数倍率", info="文字/最大トークン数倍率")
+            
+            generate_button = gr.Button("文章生成開始")
+            generated_output = gr.Textbox(label="生成された文章", elem_id="output")
         
-        update_button = gr.Button("設定を更新")
-        update_output = gr.Textbox(label="更新状態")
-    
-        update_button.click(
-            update_settings,
-            inputs=[name_input, gender_input, situation_input, orders_input, talk_input, example_qa_input],
-            outputs=[update_output]
-        )
-    
-        gr.Markdown("## INIファイルの操作")
-        
-        # INIファイルをローカルに保存するボタン
-        save_ini_button = gr.Button("INIファイルをローカルに保存")
-        save_ini_output = gr.File(label="保存されたINIファイル")
-    
-        # INIファイルをアップロードして読み込むボタン
-        upload_ini_button = gr.File(label="INIファイルをアップロード", file_types=[".ini"])
-        upload_ini_output = gr.Textbox(label="アップロード状態")
-    
-        # INIファイルをローカルに保存する関数
-        def save_ini_local():
-            ini_content = download_ini()
-            with tempfile.NamedTemporaryFile(mode='wb', delete=False, suffix='.ini') as temp_file:
-                temp_file.write(ini_content)
-                temp_file_path = temp_file.name
-            return temp_file_path
-    
-        save_ini_button.click(
-            save_ini_local,
-            outputs=[save_ini_output]
-        )
-    
-        upload_ini_button.change(
-            upload_ini,
-            inputs=[upload_ini_button],
-            outputs=[upload_ini_output, name_input, gender_input, situation_input, orders_input, talk_input, example_qa_input]
-        )
+            generate_button.click(
+                text_generator.generate_text,
+                inputs=[gen_input_text, gen_characters, gen_token_multiplier, gen_instruction],
+                outputs=[generated_output]
+            )
+
+            def update_instruction(choice):
+                instructions = {
+                    "自由入力": "",
+                    "推敲": "以下のテキストを推敲してください。原文の文体や特徴的な表現は保持しつつ、必要に応じて微調整を加えてください。文章の流れを自然にし、表現を洗練させることが目標ですが、元の雰囲気や個性を損なわないよう注意してください。",
+                    "プロット作成": "以下のテキストをプロットにしてください。起承転結に分割すること。",
+                    "あらすじ作成": "以下のテキストをあらすじにして、簡潔にまとめて下さい。",
+                    "地の文追加": "以下のテキストに地の文を加え、情景を豊かにしてください。会話文は絶対に追加・改変しないでください。"
+                }
+                return instructions.get(choice, "")
+
+            instruction_type.change(
+                update_instruction,
+                inputs=[instruction_type],
+                outputs=[gen_instruction]
+            )
+
+            def update_char_count(text):
+                return f"文字数: {len(text)}"
+
+            gen_input_text.change(
+                update_char_count,
+                inputs=[gen_input_text],
+                outputs=[gen_input_char_count]
+            )
+
+        with gr.Tab("設定"):
+            output = gr.Textbox(label="更新状態")
+            
+            config = ConfigManager.load_settings(DEFAULT_INI_FILE)
+
+            with gr.Column():
+                gr.Markdown("### モデル設定")
+                model_dropdown = gr.Dropdown(
+                    label="DEFAULT_GEN_MODEL",
+                    choices=ModelManager.get_model_files(),
+                    value=config['Models'].get('DEFAULT_GEN_MODEL', '')
+                )
+                model_dropdown.change(
+                    partial(ConfigManager.update_setting, 'Models', 'DEFAULT_GEN_MODEL'),
+                    inputs=[model_dropdown],
+                    outputs=[output]
+                )
+
+                gr.Markdown("### 文章生成設定")
+                gen_author_description = gr.TextArea(
+                    label="gen_author_description",
+                    value=config['Character'].get('gen_author_description', ''),
+                    lines=5
+                )
+                gen_author_description.change(
+                    partial(ConfigManager.update_setting, 'Character', 'gen_author_description'),
+                    inputs=[gen_author_description],
+                    outputs=[output]
+                )
+
+                gr.Markdown("### 文章生成パラメータ設定")
+                for key in ['n_gpu_layers', 'temperature', 'top_p', 'top_k', 'repetition_penalty', 'n_ctx']:
+                    value = config['GenerateParameters'].get(key, '0')
+                    if key == 'n_gpu_layers':
+                        input_component = gr.Slider(label=key, value=int(value), minimum=-1, maximum=255, step=1)
+                    elif key in ['temperature', 'top_p', 'repetition_penalty']:
+                        input_component = gr.Slider(label=key, value=float(value), minimum=0.0, maximum=1.0, step=0.05)
+                    elif key == 'top_k':
+                        input_component = gr.Slider(label=key, value=int(value), minimum=1, maximum=200, step=1)
+                    elif key == 'n_ctx':
+                        input_component = gr.Slider(label=key, value=int(value), minimum=10000, maximum=100000, step=1000)
+                    else:
+                        input_component = gr.Textbox(label=key, value=value)
+                    
+                    input_component.change(
+                        partial(ConfigManager.update_setting, 'GenerateParameters', key),
+                        inputs=[input_component],
+                        outputs=[output]
+                    )
+
+                apply_settings_button = gr.Button("設定を適用")
+                apply_settings_button.click(
+                    lambda: text_generator.load_settings(DEFAULT_INI_FILE),
+                    outputs=[output]
+                )
+
+    return iface
 
-# Gradioアプリの起動
 if __name__ == "__main__":
-    iface.launch(
-        share=True,
-        allowed_paths=["models"],
-        favicon_path="custom.html"
-    )
-    
+    if not os.path.exists(DEFAULT_INI_FILE):
+        print(f"{DEFAULT_INI_FILE} が見つかりません。デフォルト設定で作成します。")
+        ConfigManager.create_default_settings(DEFAULT_INI_FILE)
+
+    text_generator.load_settings(DEFAULT_INI_FILE)
+    
+    demo = build_gradio_interface()
+    demo.launch(server_name='0.0.0.0', server_port=7860, share=False)