File size: 985 Bytes
600530f 9823292 600530f 211b12c 600530f 211b12c a401a11 a7aa105 1fa6ca9 a401a11 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 |
---
license: apache-2.0
language:
- ja
library_name: transformers
pipeline_tag: text-generation
---
<img src="./ocuteus.svg" />
OcuteusのGGUF版です。
Kobold cpp上で使用することを推奨します。
また、トークン数の関係から、高解像度の画像は解像度を落として入力することをおすすめします。
使用例:
![image/png](https://cdn-uploads.huggingface.co/production/uploads/63215542b212a30bf70ee313/wQxH9ssu61AIFE7y4UzEH.png)
簡単な使用方法:
kobold.cpp 内の`ModelFiles` ページの
`Model` に`Ocuteus-v1-q8_0.gguf`
`LLaVA mmproj`に `Ocuteus-v1-mmproj-f16.gguf`をそれぞれ選択してください。
![image/png](https://cdn-uploads.huggingface.co/production/uploads/63215542b212a30bf70ee313/7TYW0TyVzrhZ-kR03mdsE.png)
推奨される`Context Size` は `16384` となっています。
![image/png](https://cdn-uploads.huggingface.co/production/uploads/63215542b212a30bf70ee313/iGb2y114mcRVjhjhji6o-.png)
|