Update README.md

README.md

@@ -17,7 +17,7 @@ import torch
 
 model_name = "DeepMount00/mamba_790_hf_qa"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = MambaForCausalLM.from_pretrained(model_name)
+model = MambaForCausalLM.from_pretrained(model_name, device_map={"": 0}).eval()
 
 
 def predict(contesto, domanda):
@@ -32,15 +32,14 @@ def predict(contesto, domanda):
 
     answer = tokenizer.batch_decode(generate_ids)
     try:
-        final_answer = answer[0].split("##RISPOSTA: ")[1].rstrip()
-        final_answer = final_answer.split('\n', 1)[0]
-    except:
+        final_answer = answer[0].split("##RISPOSTA: ")[1].split('\n', 1)[0]
+    except IndexError:
         final_answer = ""
     return final_answer
 
 
-contesto = """Seneca seguì molto intensamente gli insegnamenti dei maestri, che esercitarono su di lui un profondo influsso sia con la parola sia con l'esempio di una vita vissuta in coerenza con gli ideali professati. Da Attalo imparò i principi dello stoicismo e l'abitudine alle pratiche ascetiche. Da Sozione, oltre ad apprendere i principi delle dottrine di Pitagora, fu avviato per qualche tempo verso la pratica vegetariana; venne distolto però dal padre che non amava la filosofia e dal fatto che l'imperatore Tiberio proibisse di seguire consuetudini di vita non romane."""
-domanda = "Chi è Seneca?"
+contesto = """La torre degli Asinelli è una delle cosiddette due torri di Bologna, simbolo della città, situate in piazza di porta Ravegnana, all'incrocio tra le antiche strade San Donato (ora via Zamboni), San Vitale, Maggiore e Castiglione. Eretta, secondo la tradizione, fra il 1109 e il 1119 dal nobile Gherardo Asinelli, la torre è alta 97,20 metri, pende verso ovest per 2,23 metri e presenta all'interno una scalinata composta da 498 gradini. Ancora non si può dire con certezza quando e da chi fu costruita la torre degli Asinelli. Si presume che la torre debba il proprio nome a Gherardo Asinelli, il nobile cavaliere di fazione ghibellina al quale se ne attribuisce la costruzione, iniziata secondo una consolidata tradizione l'11 ottobre 1109 e terminata dieci anni dopo, nel 1119."""
+domanda = "Dove si trova precisamente la torre degli Asinelli?"
 
 print(predict(contesto, domanda))
 ```