dahara1 commited on
Commit
13acbee
·
verified ·
1 Parent(s): 1cb00ac

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -5
README.md CHANGED
@@ -83,13 +83,13 @@ Example:
83
  - imatrix-jpn-testモデルはbartowskiモデルに比べてimatrixに5倍のテキストを使用している事に留意してください。単純にテキストが多いため性能が微妙に増えている可能性があります
84
  - 本来はperplexityではなく実タスクで性能を測定する事が望ましいです。しかし、実タスクのベンチマークも多様なのでその検証は皆さんにお任せします
85
 
86
- ### 考察 Considerations
87
 
88
- - In the 4-bit quantization we tested this time, imatrix seems to be effective in all cases.
89
- - If you want to improve the performance of languages other than English even a little, it seems worth adding other languages. However, there is a possibility that your English ability may decrease.
90
  - If you are only using English, the quantization variations may not make much difference.
91
- - 今回試した4bit量子化においては全てのケースにおいてimatrixは有効であるようです
92
- - 英語以外の言語の性能を少しでも向上させたい場合は他言語を追加する価値はありそうです。しかし、英語能力が下がる可能性があります。
93
  - 英語だけを使っている場合、量子化のバリエーションは大きな違いがない可能性があります
94
 
95
  ### その他参考情報 Other references
 
83
  - imatrix-jpn-testモデルはbartowskiモデルに比べてimatrixに5倍のテキストを使用している事に留意してください。単純にテキストが多いため性能が微妙に増えている可能性があります
84
  - 本来はperplexityではなく実タスクで性能を測定する事が望ましいです。しかし、実タスクのベンチマークも多様なのでその検証は皆さんにお任せします
85
 
86
+ ### 結論 Conclusion
87
 
88
+ - Imatrix is effective in the 4-bit quantization we tried this time.
89
+ - If you want to improve the performance of languages other than English, it may be worth adding other languages to the imatrix, but it may decrease the model's English ability.
90
  - If you are only using English, the quantization variations may not make much difference.
91
+ - 今回試した4bit量子化においてimatrixは有効です
92
+ - 英語以外の言語の性能を少しでも向上させたい場合はimatrixに他言語を追加する価値はありそうです。しかし、モデルの英語能力が下がる可能性があります。
93
  - 英語だけを使っている場合、量子化のバリエーションは大きな違いがない可能性があります
94
 
95
  ### その他参考情報 Other references