Update README.md
Browse files
README.md
CHANGED
|
@@ -4,6 +4,11 @@ params 566705152
|
|
| 4 |
embeds 256002048
|
| 5 |
torch.bfloat16
|
| 6 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 7 |
Giảm vocab size từ 250002 / 46000 => 5.43 lần
|
| 8 |
=> embeddings giảm từ 256m xuống 47m
|
| 9 |
=> model size giảm từ 567m xuống 359m (còn 63%)
|
|
|
|
| 4 |
embeds 256002048
|
| 5 |
torch.bfloat16
|
| 6 |
|
| 7 |
+
model Symato/bge-reranker-v2-m3__trimm_vocab__bf16
|
| 8 |
+
params 359397376
|
| 9 |
+
embeds 47644672
|
| 10 |
+
torch.float16
|
| 11 |
+
|
| 12 |
Giảm vocab size từ 250002 / 46000 => 5.43 lần
|
| 13 |
=> embeddings giảm từ 256m xuống 47m
|
| 14 |
=> model size giảm từ 567m xuống 359m (còn 63%)
|