Update app.py

app.py

@@ -2,6 +2,7 @@ import streamlit as st
 import requests
 import time
 
+@st.cache
 def infer(prompt, 
           model_name, 
           max_new_tokens=10,