use_exllama?

#1
by DDDSSS - opened

"use_exllama": true 看到config文件中,在训练的时候用到use_exllama,这个设置true,有用吗?参数介绍中说到,这个参数只有在4int量化的时候才有用。

Sign up or log in to comment