Update README.md
Browse files
README.md
CHANGED
@@ -1,6 +1,8 @@
|
|
1 |
---
|
2 |
-
datasets:
|
3 |
-
|
|
|
|
|
4 |
library_name: sentence-transformers
|
5 |
pipeline_tag: sentence-similarity
|
6 |
tags:
|
@@ -8,11 +10,19 @@ tags:
|
|
8 |
- sentence-similarity
|
9 |
- feature-extraction
|
10 |
widget: []
|
|
|
|
|
|
|
11 |
---
|
12 |
|
13 |
-
#
|
|
|
|
|
|
|
|
|
|
|
|
|
14 |
|
15 |
-
This is a [sentence-transformers](https://www.SBERT.net) model trained. It maps sentences & paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
|
16 |
|
17 |
## Model Details
|
18 |
|
@@ -24,13 +34,13 @@ This is a [sentence-transformers](https://www.SBERT.net) model trained. It maps
|
|
24 |
- **Similarity Function:** Cosine Similarity
|
25 |
- **Training Dataset:** [crazyjeannot/fr_literary_dataset_base](https://huggingface.co/datasets/crazyjeannot/fr_literary_dataset_base)
|
26 |
- **Language:** French
|
27 |
-
|
28 |
|
29 |
### Model Sources
|
30 |
|
31 |
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
|
32 |
-
- **Repository:** [
|
33 |
-
- **Hugging Face:** [
|
34 |
|
35 |
### Full Model Architecture
|
36 |
|
@@ -44,34 +54,46 @@ SentenceTransformer(
|
|
44 |
|
45 |
## Usage
|
46 |
|
47 |
-
### Direct Usage (
|
48 |
|
49 |
-
|
|
|
|
|
50 |
|
51 |
-
|
52 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
53 |
```
|
54 |
|
55 |
-
|
|
|
56 |
```python
|
57 |
from sentence_transformers import SentenceTransformer
|
58 |
|
59 |
# Download from the 🤗 Hub
|
60 |
model = SentenceTransformer("sentence_transformers_model_id")
|
|
|
61 |
# Run inference
|
62 |
sentences = [
|
63 |
-
'
|
64 |
-
"
|
65 |
-
'
|
66 |
]
|
|
|
67 |
embeddings = model.encode(sentences)
|
68 |
print(embeddings.shape)
|
69 |
# [3, 1024]
|
70 |
-
|
71 |
-
# Get the similarity scores for the embeddings
|
72 |
-
similarities = model.similarity(embeddings, embeddings)
|
73 |
-
print(similarities.shape)
|
74 |
-
# [3, 3]
|
75 |
```
|
76 |
|
77 |
## Training Details
|
|
|
1 |
---
|
2 |
+
datasets:
|
3 |
+
- crazyjeannot/fr_literary_dataset_base
|
4 |
+
language:
|
5 |
+
- fr
|
6 |
library_name: sentence-transformers
|
7 |
pipeline_tag: sentence-similarity
|
8 |
tags:
|
|
|
10 |
- sentence-similarity
|
11 |
- feature-extraction
|
12 |
widget: []
|
13 |
+
license: cc-by-2.5
|
14 |
+
base_model:
|
15 |
+
- BAAI/bge-m3
|
16 |
---
|
17 |
|
18 |
+
# Literary Encoder
|
19 |
+
|
20 |
+
This is an encoder model finetuned from the FlagOpen/FlagEmbedding family of models.
|
21 |
+
|
22 |
+
The model is specialized for studying french literary fiction with a training corpora based on 40.000 passages from free from rights french literary novels.
|
23 |
+
|
24 |
+
It maps paragraphs to a 1024-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
|
25 |
|
|
|
26 |
|
27 |
## Model Details
|
28 |
|
|
|
34 |
- **Similarity Function:** Cosine Similarity
|
35 |
- **Training Dataset:** [crazyjeannot/fr_literary_dataset_base](https://huggingface.co/datasets/crazyjeannot/fr_literary_dataset_base)
|
36 |
- **Language:** French
|
37 |
+
- **License:** cc-by-2.5
|
38 |
|
39 |
### Model Sources
|
40 |
|
41 |
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
|
42 |
+
- **Repository:** [Flag Embedding on GitHub](https://github.com/FlagOpen/FlagEmbedding)
|
43 |
+
- **Hugging Face:** [BGE dense model on Hugging Face](https://huggingface.co/BAAI/bge-m3)
|
44 |
|
45 |
### Full Model Architecture
|
46 |
|
|
|
54 |
|
55 |
## Usage
|
56 |
|
57 |
+
### Direct Usage (FlagEmbedding)
|
58 |
|
59 |
+
Then you can load this model and run inference.
|
60 |
+
```python
|
61 |
+
from FlagEmbedding import FlagModel
|
62 |
|
63 |
+
# Download from the 🤗 Hub
|
64 |
+
model = FlagModel('crazyjeannot/literary_bge_base',
|
65 |
+
query_instruction_for_retrieval="Represent this sentence for searching relevant passages:",
|
66 |
+
use_fp16=True)
|
67 |
+
|
68 |
+
# Run inference
|
69 |
+
sentences = [
|
70 |
+
'Il y avait, du reste, cette chose assez triste, c’est que si M. de Marsantes, à l’esprit fort ouvert, eût apprécié un fils si différent de lui, Robert de Saint-Loup, parce qu’il était de ceux qui croient que le mérite est attaché à certaines formes de la vie, avait un souvenir affectueux mais un peu méprisant d’un père qui s’était occupé toute sa vie de chasse et de course, avait bâillé à Wagner et raffolé d’Offenbach.',
|
71 |
+
"D’ailleurs, les opinions tranchantes abondent dans un siècle où l’on ne doute de rien, hors de l’existence de Dieu ; mais comme les jugements généraux que l’on porte sur les peuples sont assez souvent démentis par l’expérience, je n’aurai garde de prononcer.",
|
72 |
+
'Il était chargé de remettre l’objet, quel qu’il fût, au commodore, et d’en prendre un reçu, comme preuve que lui et son camarade s’étaient acquittés de leur commission.',
|
73 |
+
]
|
74 |
+
embeddings = model.encode(sentences)
|
75 |
+
print(embeddings.shape)
|
76 |
+
# [3, 1024]
|
77 |
```
|
78 |
|
79 |
+
### SentenceTransformer
|
80 |
+
|
81 |
```python
|
82 |
from sentence_transformers import SentenceTransformer
|
83 |
|
84 |
# Download from the 🤗 Hub
|
85 |
model = SentenceTransformer("sentence_transformers_model_id")
|
86 |
+
|
87 |
# Run inference
|
88 |
sentences = [
|
89 |
+
'Il y avait, du reste, cette chose assez triste, c’est que si M. de Marsantes, à l’esprit fort ouvert, eût apprécié un fils si différent de lui, Robert de Saint-Loup, parce qu’il était de ceux qui croient que le mérite est attaché à certaines formes de la vie, avait un souvenir affectueux mais un peu méprisant d’un père qui s’était occupé toute sa vie de chasse et de course, avait bâillé à Wagner et raffolé d’Offenbach.',
|
90 |
+
"D’ailleurs, les opinions tranchantes abondent dans un siècle où l’on ne doute de rien, hors de l’existence de Dieu ; mais comme les jugements généraux que l’on porte sur les peuples sont assez souvent démentis par l’expérience, je n’aurai garde de prononcer.",
|
91 |
+
'Il était chargé de remettre l’objet, quel qu’il fût, au commodore, et d’en prendre un reçu, comme preuve que lui et son camarade s’étaient acquittés de leur commission.',
|
92 |
]
|
93 |
+
|
94 |
embeddings = model.encode(sentences)
|
95 |
print(embeddings.shape)
|
96 |
# [3, 1024]
|
|
|
|
|
|
|
|
|
|
|
97 |
```
|
98 |
|
99 |
## Training Details
|