Spaces:
Paused
Paused
Carlosito16
commited on
Commit
•
a85a25f
1
Parent(s):
187fba9
Update pages/2_model.py
Browse files- pages/2_model.py +35 -13
pages/2_model.py
CHANGED
@@ -31,23 +31,45 @@ def load_llm_model(max_length, temperature, repetition_penalty):
|
|
31 |
|
32 |
|
33 |
|
34 |
-
|
35 |
-
|
36 |
-
|
37 |
-
repetition_penalty = model_row.number_input("repetition_penalty", value = 1.3)
|
38 |
-
load_model_button = st.button("load model")
|
39 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
40 |
|
41 |
if load_model_button:
|
42 |
st.session_state['max_length'] = max_length
|
43 |
st.session_state['temperature'] = temperature
|
44 |
st.session_state['repetition_penalty'] = repetition_penalty
|
45 |
|
46 |
-
st.session_state['model'] = load_llm_model(max_length, temperature, repetition_penalty)
|
47 |
-
|
48 |
-
|
49 |
-
st.
|
50 |
-
st.
|
51 |
-
st.
|
52 |
-
|
53 |
-
|
|
|
|
31 |
|
32 |
|
33 |
|
34 |
+
st.title("Model Download")
|
35 |
+
# st.subheader("This page allows users to adjust some parameters of the model before downloading")
|
36 |
+
st.subheader("ผู้ใช้สามารถปรับเลือกการตั้งค่าต่อไปนี้เพื่อทำการดาวน์โลดโมเดล")
|
|
|
|
|
37 |
|
38 |
+
# model_row = row([2, 2, 2], vertical_align="bottom")
|
39 |
+
# max_length = model_row.number_input("max_length", value = 256)
|
40 |
+
# temperature = model_row.number_input("temperature", value = 0)
|
41 |
+
# repetition_penalty = model_row.number_input("repetition_penalty", value = 1.3)
|
42 |
+
|
43 |
+
|
44 |
+
max_length = st.number_input("max_length", value = 256, step = 128)
|
45 |
+
st.caption("""
|
46 |
+
กำหนดจำนวนคำของโมเดลภาษา หากตั้งค่าน้อย โมเดลจะตอบสั้นและกระชับ ถ้าตั้งค่าให้มากๆ การตอบกลับอาจมีรายละเอียดมากขึ้น แต่ต้องระวังเพราะคำตอบที่ยาวเกินไปอาจไม่มีจุดโฟกัส
|
47 |
+
""")
|
48 |
+
st.divider()
|
49 |
+
|
50 |
+
temperature = st.number_input("temperature", value = 0.0, step = 0.1, max_value = 1.0)
|
51 |
+
st.caption("""
|
52 |
+
กำหนดความคิดสร้างสรรค์และความหลากหลายในการตอบของโมเดล ค่าที่ต่ำสุด 0 จะเป็นการตอบแบบมีการควบคุมสูงสุด โดย 1 จะมีความหลากหลายสูงสุด และสร้างสรรค์มากสุด แต่ความมีเหตุผลอาจลดลง
|
53 |
+
""")
|
54 |
+
st.divider()
|
55 |
+
repetition_penalty = st.number_input("repetition_penalty", value = 1.3, step = 0.1, max_value = 2.0)
|
56 |
+
st.caption("""
|
57 |
+
กำหนดให้โมเดลพยายามหลีกเลี่ยงการใช้คำหรือวลีเดียวกันซ้ำๆ ค่าที่สูงขึ้นจะทำให้โมเดลเลี่ยงการตอบโดยใช้คำ หรือวลีเดิมๆ
|
58 |
+
""")
|
59 |
+
|
60 |
+
load_model_button = st.button("ดาวน์โลดโมเดล")
|
61 |
|
62 |
if load_model_button:
|
63 |
st.session_state['max_length'] = max_length
|
64 |
st.session_state['temperature'] = temperature
|
65 |
st.session_state['repetition_penalty'] = repetition_penalty
|
66 |
|
67 |
+
# st.session_state['model'] = load_llm_model(max_length, temperature, repetition_penalty)
|
68 |
+
|
69 |
+
|
70 |
+
st.write("⚠️ Please expect to wait **1 - 2 minutes ** for the application to download the 3-billion-parameter LLM")
|
71 |
+
st.write('Successfully model loaded ✅')
|
72 |
+
# st.write('Successfully mผ te['repetition_penalty'])
|
73 |
+
|
74 |
+
|
75 |
+
# st.markdown(type(st.session_state['model']))
|