add more

README.md

@@ -1,5 +1,5 @@
 ---
-title: Alpaca CPP
+title: sodoma
 emoji: ⚡
 colorFrom: pink
 colorTo: red
@@ -7,7 +7,5 @@ sdk: gradio
 sdk_version: 3.28.1
 app_file: app.py
 pinned: false
-duplicated_from: awinml/alpaca-cpp-python
 ---
 
-Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference

app.py

@@ -1,14 +1,94 @@
 import gradio as gr
 from llama_cpp import Llama
 
-llm = Llama(model_path="ggml-alpaca-7b-q4.bin", n_ctx=256, n_batch=128)
-
+llm = Llama(model_path="ggml-model-q4_0.bin", n_threads=8, n_ctx=2048, n_batch=128)
 def generate_text(input_text):
-    output = llm(f"{input_text}", max_tokens=128, stop=["Q:", "\n", "#"], echo=False)
+    output = llm(f"{input_text}", max_tokens=200, stop=[], echo=False)
     return output['choices'][0]['text']
 
-input_text = gr.inputs.Textbox(lines= 10, label="Enter your input text")
-output_text = gr.outputs.Textbox(label="Output text")
 
-gr.Interface(fn=generate_text, inputs=input_text, outputs=output_text, title="Alpaca GGML").launch()
+def main():
+    app = gr.Blocks()
+
+    try:
+        with app:
+            title = "Dcard Emotion Post 0.1 Demo"
+            desc = """ small dcard post generate. <br />
+                       Enter the beginning of story and click the button <br />
+                       It's just a simplified demo, you can use more advanced features optimize quality <br />"""
+            tutorial_link = "https://docs.cworld.ai"
+
+            gr.HTML(
+                f"""
+                    <div style="text-align: center; margin: 0 auto;">
+                      <a href="https://cworld.ai"> 
+                        <svg style="margin: 0 auto;" width="155" xmlns="http://www.w3.org/2000/svg" viewBox="0 0 407 100">
+                            <g id="SvgjsG2746"
+                                transform="matrix(0.8454106280193237,0,0,0.8454106280193237,-4.2270531400966185,-4.2270531400966185)"
+                                fill="#111">
+                            <g xmlns="http://www.w3.org/2000/svg">
+                                <g>
+                                    <g>
+                                        <path d="M50,11c21.5,0,39,17.5,39,39S71.5,89,50,89S11,71.5,11,50S28.5,11,50,11 M50,5C25.1,5,5,25.1,5,50s20.1,45,45,45     s45-20.1,45-45S74.9,5,50,5L50,5z"></path>
+                                    </g>
+                                </g>
+                                <path d="M55,75H45v-5c0-2.8,2.2-5,5-5h0c2.8,0,5,2.2,5,5V75z"></path>
+                                <rect x="25" y="35" width="10" height="20"></rect>
+                                <rect x="65" y="35" width="10" height="20"></rect>
+                            </g>
+                            </g>
+                            <g id="SvgjsG2747"
+                               transform="matrix(3.3650250410766605,0,0,3.3650250410766605,93.98098208712985,-3.546415304677616)"
+                               fill="#111">
+                            <path
+                                    d="M8.1 17.42 l1.42 1.28 c-0.94 1.04 -2.28 1.5 -3.78 1.5 c-2.84 0 -5.14 -2.18 -5.14 -5.12 s2.3 -5.14 5.14 -5.14 c1.5 0 2.84 0.46 3.78 1.5 l-1.42 1.28 c-0.58 -0.78 -1.42 -1.08 -2.36 -1.08 c-1.7 0 -3.08 1.42 -3.08 3.44 c0 2 1.38 3.44 3.08 3.44 c0.94 0 1.78 -0.3 2.36 -1.1 z M23.42 10.12 l2.06 0 l-3.76 9.88 l-1.26 0 l-2.46 -6.4 l-2.44 6.4 l-1.26 0 l-3.78 -9.88 l2.08 0 l2.34 6.9 l2.06 -6.08 l0.26 -0.82 l1.48 0 l0.28 0.82 l2.06 6.08 z M31.62 11.64 c-1.7 0 -3.08 1.42 -3.08 3.44 c0 2 1.38 3.44 3.08 3.44 s3.08 -1.44 3.08 -3.44 c0 -2.02 -1.38 -3.44 -3.08 -3.44 z M31.62 9.94 c2.84 0 5.14 2.2 5.14 5.14 s-2.3 5.12 -5.14 5.12 s-5.14 -2.18 -5.14 -5.12 s2.3 -5.14 5.14 -5.14 z M44.9 10.24 l-0.44 1.62 c-0.14 -0.08 -0.58 -0.22 -0.94 -0.22 c-1.7 0 -2.5 1.62 -2.5 3.62 l0 4.74 l-2.06 0 l0 -9.88 l2.06 0 l0 1.4 c0.24 -0.92 1.3 -1.58 2.48 -1.58 c0.54 0 1.12 0.14 1.4 0.3 z M48.379999999999995 4.619999999999999 l0 15.38 l-2.08 0 l0 -15.38 l2.08 0 z M50.98 15.08 c0 -2.94 2.1 -5.14 4.94 -5.14 c0.98 0 2.18 0.42 2.84 0.96 l0 -5.9 l2.08 0 l0 15 l-2.08 0 l0 -0.74 c-0.78 0.58 -1.86 0.94 -2.84 0.94 c-2.84 0 -4.94 -2.18 -4.94 -5.12 z M53.06 15.08 c0 2 1.38 3.44 3.06 3.44 c1.12 0 2.12 -0.52 2.64 -1.58 c0.28 -0.54 0.44 -1.18 0.44 -1.86 s-0.16 -1.32 -0.44 -1.88 c-0.52 -1.06 -1.52 -1.56 -2.64 -1.56 c-1.68 0 -3.06 1.42 -3.06 3.44 z M66.46 18.78 c0 0.8 -0.62 1.42 -1.42 1.42 c-0.78 0 -1.4 -0.62 -1.4 -1.42 c0 -0.76 0.62 -1.38 1.4 -1.38 c0.8 0 1.42 0.62 1.42 1.38 z M73.08 9.92 c2.84 0 3.98 1.72 3.98 3.18 l0 6.9 l-2.06 0 l0 -1.08 c-0.72 0.98 -2 1.26 -2.8 1.26 c-2.26 0 -3.74 -1.32 -3.74 -3.08 c0 -2.46 1.84 -3.34 3.74 -3.34 l2.8 0 l0 -0.66 c0 -0.62 -0.24 -1.48 -1.92 -1.48 c-0.94 0 -1.8 0.5 -2.36 1.28 l-1.42 -1.28 c0.94 -1.04 2.28 -1.7 3.78 -1.7 z M75 16.92 l0 -1.48 l-2.52 0 c-1.22 0 -2.08 0.62 -1.94 1.74 c0.12 0.94 0.88 1.32 1.94 1.32 c1.9 0 2.52 -0.9 2.52 -1.58 z M81.9 10.12 l0 9.88 l-2.06 0 l0 -9.88 l2.06 0 z M82 6.5 c0 0.64 -0.5 1.14 -1.14 1.14 c-0.62 0 -1.12 -0.5 -1.12 -1.14 c0 -0.62 0.5 -1.12 1.12 -1.12 c0.64 0 1.14 0.5 1.14 1.12 z"></path>
+                            </g>
+                        </svg>
+                      </a>
+                      <div
+                        style="
+                          display: inline-flex;
+                          align-items: center;
+                          gap: 0.8rem;
+                          font-size: 1.75rem;
+                        "
+                      >
+                        <h1 style="font-weight: 900; margin-bottom: 7px;margin-top:5px">
+                          {title}
+                        </h1>
+                      </div>
+                      <p style="margin-bottom: 10px; font-size: 94%; line-height: 23px;">
+                        {desc}
+                        There is the <a href="{tutorial_link}"> tutorial </a>
+                      </p>
+                    </div>
+                """
+            )
+
+            examples = [
+                ['女友'],
+                ['男友'],
+                ['公司最近'],
+            ]
+            with gr.Group():
+                with gr.Box():
+                    input_text = gr.inputs.Textbox(lines= 10, label="Enter your input text")
+                    output_text = gr.outputs.Textbox(label="Output text")
+
+                with gr.Row():
+                    gr.Examples(
+                        examples=examples,
+                        inputs=[input_text],
+                        outputs=[output_text],
+                        fn=generate_text,
+                        cache_examples=True,
+                    )
+            app.queue()
+            app.launch()
+    except KeyboardInterrupt:
+        app.close()
+        sys.exit(0)
+
 
+if __name__ == '__main__':
+    main()

ggml-alpaca-7b-q4.bin → ggml-model-q4_0.bin

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:9c1bb4808f40aa0059d5343d3aac05fb75d368c240b664878d53d16bf27ade2b
-size 4212727017
+oid sha256:941205dccbbe71d33bf93769ef09b205429c17d22fd8f4dd86c54ae4dfd298e2
+size 3791725184

gradio_cached_examples/8/log.csv

@@ -0,0 +1,26 @@
+Output text,flag,username,timestamp
+"说她的朋友跟他很好，但那个男生不喜欢我，也都会一直陪我去隔离
+所以最近想跟我提分手。
+问几次之后我说不要这样吧？
+那个男生很可能是在排他的后面，不管怎么解释都不会相信。
+
+
+终于明白为什么女友朋友问我要不要去跟他们一起出去的时候，我都会说：没有啦。
+因为我是不想被你家男生看到的啊喔⋯
+
+
+虽然他只对",,,2023-05-22 06:50:51.448135
+"吵架后
+不是想说一些平复的话，而是用生气表示自己对另一半愤怒
+如果遇到这样的状况
+有没有比较好的方式，可以平息情绪 不想要吵得更厉害？
+因为我们在一起了4年多 而且我们都是大学生
+却还没有吵过架
+偶尔会去男友家，因为他是独子 家里就只有他自己
+即使这样，也没有骂过我的意思
+可能都还在疑惑是不是我",,,2023-05-22 06:51:57.774169
+"开会很多，印象中也是最近才有女同事参加
+我们隔壁休息区的桌子空了一下，有个女生跟我说：「你可以睡在这边（指我座位）」
+不过因为太热，他们也叫我去找其他桌子睡，但那些桌子都是隔音很好的震动电动机，只能听到人在说话，而且空间太小，我觉得自己在那边一定会被睡到，还有尿不湿，就当时也没进行
+
+后来因为很",,,2023-05-22 06:53:20.203735