mmnga/weblab-10b-instruction-sft-ggml

matsuo-lab/weblab-10b-instruction-sft

matsuo-labさんが公開しているweblab-10b-instruction-sftのggml変換版です。

修正モデルを再アップしました。

Usage

git clone https://github.com/ggerganov/ggml.git
cd ggml
mkdir build && cd build
cmake ..
make -j

./bin/gpt-neox -m 'weblab-10b-instruction-sft-ggml-q4_0.bin' -n 128 -t 8 -p '以下は、タスクを説明する指示です。要求を適切に満たす応答を書きなさい。\n\n### 指示:\n大規模言語モデルについて説明してください。\n\n### 応答:'