grapevine-AI commited on
Commit
9da336b
1 Parent(s): d1ad9dc

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +28 -3
README.md CHANGED
@@ -1,3 +1,28 @@
1
- ---
2
- license: gemma
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: gemma
3
+ language:
4
+ - ja
5
+ ---
6
+ # What is this?
7
+ **Google公式の日本語版Gemma 2 2B**である[gemma-2-2b-jpn-it](https://huggingface.co/google/gemma-2-2b-jpn-it)をGGUFフォーマットに変換したものです。
8
+
9
+ # imatrix dataset
10
+ 日本語能力を重視し、日本語が多量に含まれる[TFMC/imatrix-dataset-for-japanese-llm](https://huggingface.co/datasets/TFMC/imatrix-dataset-for-japanese-llm)データセットを使用しました。<br>
11
+ なお、imatrixの算出においてはf32精度のモデルを使用しました。これは、本来の数値精度であるbf16でのimatrix計算に現行のCUDA版llama.cppが対応していないためです。
12
+
13
+ # Chat template
14
+ ```
15
+ <start_of_turn>user
16
+ ここにpromptを書きます<end_of_turn>
17
+ <start_of_turn>model
18
+
19
+ ```
20
+
21
+ # Environment
22
+ Windows版llama.cpp-b3621およびllama.cpp-b3472同時リリースのconvert-hf-to-gguf.pyを使用して量子化作業を実施しました。
23
+
24
+ # License
25
+ gemma license
26
+
27
+ # Developer
28
+ Google