NYTK
/

PULI-LlumiX-32K

Text Generation

text-generation-inference

Inference Endpoints

Model card Files Files and versions Community

fragata commited on Mar 16

Commit

a589894

•

1 Parent(s): 8027148

Update README.md

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -37,5 +37,5 @@ tokenizer = LlamaTokenizer.from_pretrained("NYTK/PULI-LlumiX-32K")
 prompt = "Elmesélek egy történetet a nyelvtechnológiáról."
 generator = pipeline(task="text-generation", model=model, tokenizer=tokenizer)
-print(generator(prompt)[0]["generated_text"])
 ```

 prompt = "Elmesélek egy történetet a nyelvtechnológiáról."
 generator = pipeline(task="text-generation", model=model, tokenizer=tokenizer)
+print(generator(prompt, max_new_tokens=30)[0]["generated_text"])
 ```