karakuri-70B-MS-02
量子化バージョンはこちらです。
以下のモデルを使用させていただいてます。
前回作成したkarakuri-MS-01は推論能力を重視しましたが、今回はnsfw要素に注力しました。karakuriをベースにChatVectorにてnsfwモデルを作成し、karakuri-midrose-mgをベースにしてModel Stockにてマージしました。
不適切な発言をするモデルなので、使用には十分注意して下さい。
モデル概要
これは日本語の特定の能力がmergeにより、どのように向上するかをテストするための実験モデルです。
koboldで検証する際は、Max Ctx. Tokensは4096以下、Amount to Genは512以下で使用することを推奨します。
ライセンス
merge元の各モデルのライセンスに従います。
謝辞
Model Stockという新たな手法に感謝いたします。
マージに使用させていただいた、各モデルの作者様に感謝いたします。
- Downloads last month
- 2
Model is too large to load in Inference API (serverless). To try the model, launch it on Inference Endpoints (dedicated)
instead.