Update README.md

README.md

@@ -64,14 +64,10 @@ import transformers
 
 model_id = "seedboxai/KafkaLM-8x7B-German-V0.1"
 
-model = AutoModelForCausalLM.from_pretrained(model_id, load_in_4bit=True)
+model = AutoModelForCausalLM.from_pretrained(model_id, load_in_4bit=True, trust_remote_code=True)
 
 tokenizer = AutoTokenizer.from_pretrained(model_id)
 
-tokenizer.padding_side = "right" 
-tokenizer.pad_token = tokenizer.unk_token 
-tokenizer.add_eos_token = False
-
 def generate_prompt(input):
     prompt = ''
     sys_prompt = "Du bist ein freundlicher und hilfsbereiter KI-Assistent. Du beantwortest Fragen faktenorientiert und präzise, ohne dabei relevante Fakten auszulassen."