总结几个重点问题:

#14
by windkkk - opened

1、中文问答还是不好,希望增加多点中文训练。
2、gguf强烈需要Q5、Q6、Q8,因为目前要么Q4太小,要么f16太大。
3、加入视觉小模型后,加载失败。

OpenBMB org

感谢回馈, 我们会进一步加强模型能力.
另外,对于问题三可以详细介绍使用环境和代码吗, 这对我们复现出问题很关键.

Sign up or log in to comment