想知道选择不同的version类型对汉语推理的结果准确程度有无明显影响?

#2
by zzcusa - opened

我在本地使用:
model_id = "LinkSoul/Chinese-Llama-2-7b-ggml"
model_basename = "Chinese-Llama-2-7b.ggmlv3.q4_0.bin"
这样的组合来进行构建知识库并进行推理,但是结果并不如意,想知道有什么办法可以使结果尽可能让人理解和准确。

Sign up or log in to comment