--- license: apache-2.0 language: - en pipeline_tag: text-generation tags: - chat --- Qwen様の [Qwen2-0.5B-Instruct](https://huggingface.co/Qwen/Qwen2-0.5B-Instruct) をGGUF形式に変換したものです。 K量子化モデルについてもiMatrix適用してあります。 iMatrixテキストはTFMC様の[c4_en_ja_imatrix.txt](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)を使用しています。