Carlosito16 commited on
Commit
a85a25f
1 Parent(s): 187fba9

Update pages/2_model.py

Browse files
Files changed (1) hide show
  1. pages/2_model.py +35 -13
pages/2_model.py CHANGED
@@ -31,23 +31,45 @@ def load_llm_model(max_length, temperature, repetition_penalty):
31
 
32
 
33
 
34
- model_row = row([2, 2, 2], vertical_align="bottom")
35
- max_length = model_row.number_input("max_length", value = 256)
36
- temperature = model_row.number_input("temperature", value = 0)
37
- repetition_penalty = model_row.number_input("repetition_penalty", value = 1.3)
38
- load_model_button = st.button("load model")
39
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
40
 
41
  if load_model_button:
42
  st.session_state['max_length'] = max_length
43
  st.session_state['temperature'] = temperature
44
  st.session_state['repetition_penalty'] = repetition_penalty
45
 
46
- st.session_state['model'] = load_llm_model(max_length, temperature, repetition_penalty)
47
-
48
- st.write('successfully model loaded ✅')
49
- st.markdown(st.session_state['max_length'])
50
- st.markdown(st.session_state['temperature'])
51
- st.markdown(st.session_state['repetition_penalty'])
52
-
53
- st.markdown(type(st.session_state['model']))
 
 
31
 
32
 
33
 
34
+ st.title("Model Download")
35
+ # st.subheader("This page allows users to adjust some parameters of the model before downloading")
36
+ st.subheader("ผู้ใช้สามารถปรับเลือกการตั้งค่าต่อไปนี้เพื่อทำการดาวน์โลดโมเดล")
 
 
37
 
38
+ # model_row = row([2, 2, 2], vertical_align="bottom")
39
+ # max_length = model_row.number_input("max_length", value = 256)
40
+ # temperature = model_row.number_input("temperature", value = 0)
41
+ # repetition_penalty = model_row.number_input("repetition_penalty", value = 1.3)
42
+
43
+
44
+ max_length = st.number_input("max_length", value = 256, step = 128)
45
+ st.caption("""
46
+ กำหนดจำนวนคำของโมเดลภาษา หากตั้งค่าน้อย โมเดลจะตอบสั้นและกระชับ ถ้าตั้งค่าให้มากๆ การตอบกลับอาจมีรายละเอียดมากขึ้น แต่ต้องระวังเพราะคำตอบที่ยาวเกินไปอาจไม่มีจุดโฟกัส
47
+ """)
48
+ st.divider()
49
+
50
+ temperature = st.number_input("temperature", value = 0.0, step = 0.1, max_value = 1.0)
51
+ st.caption("""
52
+ กำหนดความคิดสร้างสรรค์และความหลากหลายในการตอบของโมเดล ค่าที่ต่ำสุด 0 จะเป็นการตอบแบบมีการควบคุมสูงสุด โดย 1 จะมีความหลากหลายสูงสุด และสร้างสรรค์มากสุด แต่ความมีเหตุผลอาจลดลง
53
+ """)
54
+ st.divider()
55
+ repetition_penalty = st.number_input("repetition_penalty", value = 1.3, step = 0.1, max_value = 2.0)
56
+ st.caption("""
57
+ กำหนดให้โมเดลพยายามหลีกเลี่ยงการใช้คำหรือวลีเดียวกันซ้ำๆ ค่าที่สูงขึ้นจะทำให้โมเดลเลี่ยงการตอบโดยใช้คำ หรือวลีเดิมๆ
58
+ """)
59
+
60
+ load_model_button = st.button("ดาวน์โลดโมเดล")
61
 
62
  if load_model_button:
63
  st.session_state['max_length'] = max_length
64
  st.session_state['temperature'] = temperature
65
  st.session_state['repetition_penalty'] = repetition_penalty
66
 
67
+ # st.session_state['model'] = load_llm_model(max_length, temperature, repetition_penalty)
68
+
69
+
70
+ st.write("⚠️ Please expect to wait **1 - 2 minutes ** for the application to download the 3-billion-parameter LLM")
71
+ st.write('Successfully model loaded ✅')
72
+ # st.write('Successfully mผ te['repetition_penalty'])
73
+
74
+
75
+ # st.markdown(type(st.session_state['model']))