9e1636e
c82c58b
4c85a93
6c3bec3
f7c3a40
fafda33
4c85a93
9e1636e
|
|
torch
gradio
#auto-gptq
accelerate
transformers==4.29.1
sentencepiece #fast Tokenizer - necessary, wenn torch_dtype=torch.float16 angeschaltet ist bei funktion load_tokenizer_and_model
#optimum
|