Update README.md
Browse files
README.md
CHANGED
@@ -83,13 +83,13 @@ Example:
|
|
83 |
- imatrix-jpn-testモデルはbartowskiモデルに比べてimatrixに5倍のテキストを使用している事に留意してください。単純にテキストが多いため性能が微妙に増えている可能性があります
|
84 |
- 本来はperplexityではなく実タスクで性能を測定する事が望ましいです。しかし、実タスクのベンチマークも多様なのでその検証は皆さんにお任せします
|
85 |
|
86 |
-
###
|
87 |
|
88 |
-
-
|
89 |
-
- If you want to improve the performance of languages other than English
|
90 |
- If you are only using English, the quantization variations may not make much difference.
|
91 |
-
- 今回試した4bit
|
92 |
-
-
|
93 |
- 英語だけを使っている場合、量子化のバリエーションは大きな違いがない可能性があります
|
94 |
|
95 |
### その他参考情報 Other references
|
|
|
83 |
- imatrix-jpn-testモデルはbartowskiモデルに比べてimatrixに5倍のテキストを使用している事に留意してください。単純にテキストが多いため性能が微妙に増えている可能性があります
|
84 |
- 本来はperplexityではなく実タスクで性能を測定する事が望ましいです。しかし、実タスクのベンチマークも多様なのでその検証は皆さんにお任せします
|
85 |
|
86 |
+
### 結論 Conclusion
|
87 |
|
88 |
+
- Imatrix is effective in the 4-bit quantization we tried this time.
|
89 |
+
- If you want to improve the performance of languages other than English, it may be worth adding other languages to the imatrix, but it may decrease the model's English ability.
|
90 |
- If you are only using English, the quantization variations may not make much difference.
|
91 |
+
- 今回試した4bit量子化においてimatrixは有効です
|
92 |
+
- 英語以外の言語の性能を少しでも向上させたい場合はimatrixに他言語を追加する価値はありそうです。しかし、モデルの英語能力が下がる可能性があります。
|
93 |
- 英語だけを使っている場合、量子化のバリエーションは大きな違いがない可能性があります
|
94 |
|
95 |
### その他参考情報 Other references
|