Hugging Face's logo

abragin
/
ruBert-style-base

Sentence Similarity
sentence-transformers
Safetensors
bert
feature-extraction
Generated from Trainer
loss:ContrastiveLoss
Eval Results
text-embeddings-inference
Inference Endpoints
Model card Files Community
abragin commited on
Commit
cac972c
·
verified ·
1 Parent(s): 9d9ede3

Add new SentenceTransformer model

Browse files
Files changed (11) hide show
  1. 1_Pooling/config.json +10 -0
  2. README.md +956 -0
  3. config.json +31 -0
  4. config_sentence_transformers.json +10 -0
  5. model.safetensors +3 -0
  6. modules.json +14 -0
  7. sentence_bert_config.json +4 -0
  8. special_tokens_map.json +37 -0
  9. tokenizer.json +0 -0
  10. tokenizer_config.json +64 -0
  11. vocab.txt +0 -0
1_Pooling/config.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "word_embedding_dimension": 768,
3
+ "pooling_mode_cls_token": false,
4
+ "pooling_mode_mean_tokens": true,
5
+ "pooling_mode_max_tokens": false,
6
+ "pooling_mode_mean_sqrt_len_tokens": false,
7
+ "pooling_mode_weightedmean_tokens": false,
8
+ "pooling_mode_lasttoken": false,
9
+ "include_prompt": true
10
+ }
README.md ADDED
@@ -0,0 +1,956 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ tags:
3
+ - sentence-transformers
4
+ - sentence-similarity
5
+ - feature-extraction
6
+ - generated_from_trainer
7
+ - loss:ContrastiveLoss
8
+ base_model: ai-forever/ruBert-base
9
+ widget:
10
+ - source_sentence: 'Шатов вдруг прокричал кратким и отчаянным криком; но ему кричать
11
+ не дали: Петр Степанович аккуратно и твердо наставил ему револьвер прямо в лоб,
12
+ крепко в упор и – спустил курок. Выстрел, кажется, был не очень громок, по крайней
13
+ мере в Скворешниках ничего не слыхали. Слышал, разумеется, Шигалев, вряд ли успевший
14
+ отойти шагов триста, – слышал и крик и выстрел, но, по его собственному потом
15
+ свидетельству, не повернулся и даже не остановился. Смерть произошла почти мгновенно.
16
+ Полную распорядительность – не думаю, чтоб и хладнокровие, – сохранил в себе один
17
+ только Петр Степанович. Присев на корточки, он поспешно, но твердою рукой обыскал
18
+ в карманах убитого. Денег не оказалось (портмоне остался под подушкой у Марьи
19
+ Игнатьевны). Нашлись две-три бумажки, пустые: одна конторская записка, заглавие
20
+ какой-то книги и один старый заграничный трактирный счет, бог знает почему уцелевший
21
+ два года в его кармане. Бумажки Петр Степанович переложил в свой карман и, заметив
22
+ вдруг, что все столпились, смотрят на труп и ничего не делают, начал злостно и
23
+ невежливо браниться и понукать. Толкаченко и Эркель, опомнившись, побежали и мигом
24
+ принесли из грота еще с утра запасенные ими там два камня, каждый фунтов по двадцати
25
+ весу, уже приготовленные, то есть крепко и прочно обвязанные веревками.'
26
+ sentences:
27
+ - Черт таким же порядком отправился вслед за нею. Но так как это животное проворнее
28
+ всякого франта в чулках, то не мудрено, что он наехал при самом входе в трубу
29
+ на шею своей любовницы, и оба очутились в просторной печке между горшками. Путешественница
30
+ отодвинула потихоньку заслонку, поглядеть, не назвал ли сын ее Вакула в хату гостей,
31
+ но, увидевши, что никого не было, выключая только мешки, которые лежали посреди
32
+ хаты, вылезла из печки, скинула теплый кожух, оправилась, и никто бы не мог узнать,
33
+ что она за минуту назад ездила на метле. Мать кузнеца Вакулы имела от роду не
34
+ больше сорока лет. Она была ни хороша, ни дурна собою. Трудно и быть хорошею в
35
+ такие годы. Однако ж она так умела причаровать к себе самых степенных козаков
36
+ (которым, не мешает, между прочим, заметить, мало было нужды до красоты), что
37
+ к ней хаживал и голова, и дьяк Осип Никифорович (конечно, если дьячихи не было
38
+ дома), и козак Корний Чуб, и козак Касьян Свербыгуз. И, к чести ее сказать, она
39
+ умела искусно обходиться с ними. Ни одному из них и в ум не приходило, что у него
40
+ есть соперник.
41
+ - Поднимаясь в свою квартиру, он заметил, что Настасья, оторвавшись от самовара,
42
+ пристально следит за ним и провожает его глазами. «Уж нет ли кого у меня?» – подумал
43
+ он. Ему с отвращением померещился Порфирий. Но, дойдя до своей комнаты и отворив
44
+ ее, он увидел Дунечку. Она сидела одна-одинешенька, в глубоком раздумье и, кажется,
45
+ давно уже ждала его. Он остановился на пороге. Она привстала с дивана в испуге
46
+ и выпрямилась пред ним. Ее взгляд, неподвижно устремленный на него, изображал
47
+ ужас и неутолимую скорбь.
48
+ - Девушки между тем, дружно взявшись за руки, полетели, как вихорь, с санками по
49
+ скрыпучему снегу. Множество, шаля, садились на санки; другие взбирались на самого
50
+ голову. Голова решился сносить все. Наконец приехали, отворили настежь двери в
51
+ сенях и хате и с хохотом втащили мешок. — Посмотрим, что-то лежит тут, — закричали
52
+ все, бросившись развязывать. Тут икотка, которая не переставала мучить голову
53
+ во все время сидения его в мешке, так усилилась, что он начал икать и кашлять
54
+ во все горло. — Ах, тут сидит кто-то!
55
+ - source_sentence: И вот, Я подниму руку Мою на них, и они сделаются добычею рабов
56
+ своих, и тогда узнаете, что Господь Саваоф послал Меня. Ликуй и веселись, дщерь
57
+ Сиона! Ибо вот, Я приду и поселюсь посреди тебя, говорит Господь. И прибегнут
58
+ к Господу многие народы в тот день, и будут Моим народом; и Я поселюсь посреди
59
+ тебя, и узнаешь, что Господь Саваоф послал Меня к тебе. Тогда Господь возьмет
60
+ во владениеИуду, Свой удел на святой земле, и снова изберет Иерусалим. Да молчит
61
+ всякая плоть пред лицем Господа! Ибо Он поднимается от святаго жилища Своего.
62
+ sentences:
63
+ - 'Однако, она умела держать себя с таким тактом и достоинством, что никто не мог
64
+ похвастать ни малейшей близостью с ней. Даже острые провинциальные языки не могли
65
+ уязвить ее никакой сплетней. Я изнывал от своей любви. Больше всего меня мучила
66
+ невозможность открыто в ней признаться. Я готов был на все на свете, чтобы только
67
+ упасть на колени пред Еленой Григорьевной и сказать ей громко: "я вас люблю".
68
+ Молодость немного похожа на опьянение. Ради того, чтобы полчаса побыть наедине
69
+ с той, кого я любил, я решился на средство отчаянное. Зима была в тот год снежная.
70
+ На святках, что ни день, то начинала крутиться метель. Я выбрал вечер, когда вьюга
71
+ была особенно злая, приказал оседлать коня и выехал в поле. Не знаю, как я не
72
+ погиб тогда. Везде в двух шагах словно стояла серая стена. На дороге снег был
73
+ чуть не по колено. Двадцать раз я сбивался с пути. Двадцать раз моя лошадь отказывалась
74
+ идти дальше. Со мной была фляжка коньяку, и только потому я не замерз. Десять
75
+ верст я ехал чуть ли не три часа. Прямо каким-то чудом я добрался до усадьбы С.
76
+ Было уже поздно и я едва достучался. Сторож, узнав меня, ахнул. Я был весь в снегу,
77
+ заледеневший, словно ряженый. Конечно, у меня была готова история, чтобы объяснить
78
+ свое появление.'
79
+ - Несчастная любовь, долги, женитьба, творчество, конфликт с государством. Плюс,
80
+ как говорил Достоевский, — оттенок высшего значения. Я думал, что в этих занятиях
81
+ растворятся мои невзгоды. Так уже бывало раньше, в пору литературного становления.
82
+ Вроде бы это называется — сублимация. Когда пытаешься возложить на литературу
83
+ ответственность за свои грехи. Сочинил человек «Короля Лира» и может после этого
84
+ год не вытаскивать шпагу... Вскоре отослал жене семьдесят рублей. Купил себе рубашку
85
+ — поступок для меня беспрецедентный. Доходили слухи о каких-то публикациях на
86
+ Западе. Я старался об этом не думать. Ведь мне безразлично, что делается на том
87
+ свете. Прямо так и скажу, если вызовут... Кроме того, я отправил несколько долговых
88
+ писем.
89
+ - 'В одиннадцатом году, в первый день первого месяца, было ко мне слово Господне:
90
+ сын человеческий! за то, что Тир говорит о Иерусалиме: „а! а! он сокрушен – врата
91
+ народов; он обращается ко мне; наполнюсь; он опустошен", – за то, так говорит
92
+ Господь Бог: вот, Я – на тебя, Тир, и подниму на тебя многие народы, как море
93
+ поднимает волны свои. И разобьют стены Тира и разрушат башни его; и вымету из
94
+ него прах его и сделаю его голою скалою. Местом для расстилания сетей будет он
95
+ среди моря; ибо Я сказал это, говорит Господь Бог: и будет он на расхищение народам.
96
+ А дочери его, которые на земле, убиты будут мечом,и узнают, что Я Господь. Ибо
97
+ так говорит Господь Бог: вот, Я приведу против Тира от севераНавуходоносора, царя
98
+ Вавилонского, царя царей, с конями и с колесницами, и со всадниками, и с войском,
99
+ и с многочисленным народом.'
100
+ - source_sentence: По лицу его дочки заметно было, что ей не слишком приятно тереться
101
+ около возов с мукою и пшеницею. Ей бы хотелось туда, где под полотняными ятками
102
+ нарядно развешаны красные ленты, серьги, оловянные, медные кресты и дукаты.
103
+ sentences:
104
+ - Надоело ходить в рваных чулках. Надоело радоваться говяжьим сарделькам... Что
105
+ тебя удерживает? Эрмитаж, Нева, березы? — Березы меня совершенно не волнуют. —
106
+ Так что же? — Язык. На чужом языке мы теряем восемьдесят процентов своей личности.
107
+ Мы утрачиваем способность шутить, иронизировать. Одно это меня в ужас приводит.
108
+ — А мне вот не до шуток. Подумай о Маше. Представь себе, что ее ожидает. — Ты
109
+ все ужасно преувеличиваешь. Миллионы людей живут, работают и абсолютно счастливы.
110
+ - Она сидела в широком кресле, в ночном капоте, перед своим столом, задумавшись,
111
+ вспоминая. Она не слыхала, как я вошел. Несколько минут я стоял в полутьме, не
112
+ смея сделать ни шага вперед. Вдруг, почувствовав мое присутствие или заслышав
113
+ какой-нибудь шум, Елена Григорьевна обернулась. Она увидела меня и задрожала.
114
+ Моя проделка удалась лучше, чем я мог ожидать. Она приняла меня за своего покойного
115
+ мужа. Со слабым криком, привстав с кресла, она протянула ко мне руки.
116
+ - В молодости своей он был капитан и крикун, употреблялся и по штатским делам, мастер
117
+ был хорошо высечь, был и расторопен, и щеголь, и глуп; но в старости своей он
118
+ слил в себе все эти резкие особенности в какую-то тусклую неопределенность. Он
119
+ был уже вдов, был уже в отставке, уже не щеголял, не хвастал, не задирался, любил
120
+ только пить чай и болтать за ним всякий вздор; ходил по комнате, поправлял сальный
121
+ огарок; аккуратно по истечении каждого месяца наведывался к своим жильцам за деньгами;
122
+ выходил на улицу с ключом в руке, для того чтобы посмотреть на крышу своего дома;
123
+ выгонял несколько раз дворника из его конуры, куда он запрятывался спать; одним
124
+ словом, человек в отставке, которому после всей забубенной жизни и тряски на перекладных
125
+ остаются одни пошлые привычки. -- Извольте сами глядеть, Варух Кузьмич, -- сказал
126
+ хозяин, обращаясь к квартальному и расставив руки, -- вот не платит за квартиру,
127
+ не платит. -- Что ж, если нет денег?
128
+ - source_sentence: Дай бог, чтобы их стало еще меньше... Тебе не платят — вот что
129
+ скверно. Деньги — это свобода, пространство, капризы... Имея деньги, так легко
130
+ переносить нищету... Учись зарабатывать их, не лицемеря. Иди работать грузчиком,
131
+ пиши ночами. Мандельштам говорил, люди сохранят все, что им нужно. Вот и пиши...
132
+ У тебя есть к этому способности — могло и не быть.
133
+ sentences:
134
+ - 'Все миски, из которых диканьские козаки хлебали борщ, были размалеваны кузнецом.
135
+ Кузнец был богобоязливый человек и писал часто образа святых: и теперь еще можно
136
+ найти в Т... церкви его евангелиста Луку.'
137
+ - 'В коридоре было уже почти совсем темно: «Что, если он вдруг теперь выйдет из
138
+ того угла и остановит меня у лестницы?» – мелькнуло ему, когда он подходил к знакомому
139
+ месту. Но никто не вышел.'
140
+ - Тотчас же из-за отдаленного пакгауза выбежали двое. Один — в распахнутом драповом
141
+ пальто. Другой — изящный, маленький, в плаще. Они бежали рядом, задыхаясь, перегоняя
142
+ друг друга. Бегущие приблизились. Красноперов узнал Дебоширина и Трюмо. — Черт
143
+ возьми, — прокричал Дебоширин, — едва не опоздали! — Я кепи уронил, — сказал Трюмо,
144
+ — но это пустяки. Надеюсь, его поднимет хороший человек. — Друзья мои! — начал
145
+ Красноперов. Волнение мешало ему говорить. Прощание было недолгим. Трюмо подарил
146
+ Красноперову ржавый гвоздь. — Это необычный гвоздь, — сказал Трюмо, — это — личная
147
+ вещь Бунина. Этим гвоздем Бунин нацарапал слово «жопа» под окнами Мережковского.
148
+ Бунина рассердило, что Дмитрий Константинович прославляет Муссолини. Дебоширин
149
+ тоже сделал Красноперову подарок. Вручил ему последний номер газеты «Известия».
150
+ Там была помещена заметка Дебоширина о росте в мире капитала цен на яхты. У Красноперова
151
+ сжалось горло. Он взбежал по трапу и махнул рукой. Затем, нагнувшись, исчез в
152
+ дверях салона. — Кланяйтесь русским березам, — выкрикнул Дебоширин, — помните,
153
+ у Есенина?..
154
+ - source_sentence: 'В общем — ничего хорошего... Читаю газету. Вдруг поднялся мужчина
155
+ средних лет. Американец. Худой такой. И ниже меня ростом. Подош��л к хулиганам
156
+ и говорит: — Заткнитесь! И затем: — Вон отсюда. Чувствовалось, если надо, он может
157
+ кого-то и по затылку треснуть. И молодые люди заткнулись.'
158
+ sentences:
159
+ - Ты у меня еще дров попросишь... Я в лесничестве работаю — дружбист! — Кто? — не
160
+ понял я. — Бензопила у меня... «Дружба»... Хуяк — и червонец в кармане. — Дружбист,
161
+ — ворчала тетка, — с винищем дружишь... До смерти не опейся... — Трудно, — как
162
+ будто даже посетовал Михал Иваныч.
163
+ - 'И свояченица, всхлипывая, рассказала, как схватили ее хлопцы в охапку на улице
164
+ и, несмотря на сопротивление, опустили в широкое окно хаты и заколотили ставнем.
165
+ Писарь взглянул: петли у широкого ставня оторваны, и он приколочен только сверху
166
+ деревянным брусом. – Добро ты, одноглазый сатана! – вскричала она, приступив к
167
+ голове, который попятился назад и все еще продолжал ее мерять своим глазом. –
168
+ Я знаю твой умысел: ты хотел, ты рад был случаю спечь меня, чтобы свободнее было
169
+ волочиться за дивчатами, чтобы некому было видеть, как дурачится седой дед. Ты
170
+ думаешь, я не знаю, о чем говорил ты сего вечера с Ганною? О! я знаю все. Меня
171
+ трудно провесть и не твоей бестолковой башке. Я долго терплю, но после не прогневайся… Сказавши
172
+ это, она показала кулак и быстро ушла, оставив в остолбенении голову. «Нет, тут
173
+ не на шутку сатана вмешался», – думал он, сильно почесывая свою макушку. – Поймали!
174
+ – вскрикнули вошедшие в это время десятские. – Кого поймали? – спросил голова.
175
+ – Дьявола в вывороченном тулупе. – Подавайте его! – закричал голова, схватив за
176
+ руки приведенного пленника. – Вы с ума сошли: да это пьяный Каленик! – Что за
177
+ пропасть! в руках наших был, пан голова! – отвечали десятские. – В переулке окружили
178
+ проклятые хлопцы, стали танцевать, дергать, высовывать языки, вырывать из рук…
179
+ черт с вами!.. И как мы попали на эту ворону вместо его, бог один знает! – Властью
180
+ моей и всех мирян дается повеление, – сказал голова, – изловить сей же миг сего
181
+ разбойника: а оным образом и всех, кого найдете на улице, и привесть на расправу
182
+ но мне!. – Помилуй, пан голова! – закричали некоторые, кланяясь в ноги. – Увидел
183
+ бы ты, какие хари: убей бог нас, и родились и крестились – не видали таких мерзких
184
+ рож. Долго ли до греха, пан голова, перепугают доброго человека так, что после
185
+ ни одна баба не возьмется вылить переполоху.'
186
+ - — А зачем мне пальма? — Начнем с аквариума. — Всю жизнь мечтал иметь парочку дрессированных
187
+ золотых рыбок... — А пальма? — Пальму можно рисовать с натуры. Держать ее на балконе.
188
+ — Спрашивается, где у нас балкон? — Так ведь и пальмы еще нет... — Господи, о
189
+ чем я спрашиваю? О чем мы вообще говорим?! — Действительно, о чем нам говорить?!
190
+ Тем более, когда все решено. Я посмотрел на окна.
191
+ pipeline_tag: sentence-similarity
192
+ library_name: sentence-transformers
193
+ metrics:
194
+ - cosine_accuracy
195
+ model-index:
196
+ - name: SentenceTransformer based on ai-forever/ruBert-base
197
+ results:
198
+ - task:
199
+ type: triplet
200
+ name: Triplet
201
+ dataset:
202
+ name: Unknown
203
+ type: unknown
204
+ metrics:
205
+ - type: cosine_accuracy
206
+ value: 0.9506604506604507
207
+ name: Cosine Accuracy
208
+ ---
209
+
210
+ # SentenceTransformer based on ai-forever/ruBert-base
211
+
212
+ This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [ai-forever/ruBert-base](https://huggingface.co/ai-forever/ruBert-base). It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
213
+
214
+ ## Model Details
215
+
216
+ ### Model Description
217
+ - **Model Type:** Sentence Transformer
218
+ - **Base model:** [ai-forever/ruBert-base](https://huggingface.co/ai-forever/ruBert-base) <!-- at revision 05f37a2ca9e333fd18f30cd0c96c68d274793c69 -->
219
+ - **Maximum Sequence Length:** 512 tokens
220
+ - **Output Dimensionality:** 768 dimensions
221
+ - **Similarity Function:** Cosine Similarity
222
+ <!-- - **Training Dataset:** Unknown -->
223
+ <!-- - **Language:** Unknown -->
224
+ <!-- - **License:** Unknown -->
225
+
226
+ ### Model Sources
227
+
228
+ - **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
229
+ - **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
230
+ - **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co/models?library=sentence-transformers)
231
+
232
+ ### Full Model Architecture
233
+
234
+ ```
235
+ SentenceTransformer(
236
+ (0): Transformer({'max_seq_length': 512, 'do_lower_case': False}) with Transformer model: BertModel
237
+ (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
238
+ )
239
+ ```
240
+
241
+ ## Usage
242
+
243
+ ### Direct Usage (Sentence Transformers)
244
+
245
+ First install the Sentence Transformers library:
246
+
247
+ ```bash
248
+ pip install -U sentence-transformers
249
+ ```
250
+
251
+ Then you can load this model and run inference.
252
+ ```python
253
+ from sentence_transformers import SentenceTransformer
254
+
255
+ # Download from the 🤗 Hub
256
+ model = SentenceTransformer("abragin/ruBert-style-base")
257
+ # Run inference
258
+ sentences = [
259
+ 'В общем — ничего хорошего... Читаю газету. Вдруг поднялся мужчина средних лет. Американец. Худой такой. И ниже меня ростом. Подошел к хулиганам и говорит: — Заткнитесь! И затем: — Вон отсюда. Чувствовалось, если надо, он может кого-то и по затылку треснуть. И молодые люди заткнулись.',
260
+ '— А зачем мне пальма? — Начнем с аквариума. — Всю жизнь мечтал иметь парочку дрессированных золотых рыбок... — А пальма? — Пальму можно рисовать с натуры. Держать ее на балконе. — Спрашивается, где у нас балкон? — Так ведь и пальмы еще нет... — Господи, о чем я спрашиваю? О чем мы вообще говорим?! — Действительно, о чем нам говорить?! Тем более, когда все решено. Я посмотрел на окна.',
261
+ 'И свояченица, всхлипывая, рассказала, как схватили ее хлопцы в охапку на улице и, несмотря на сопротивление, опустили в широкое окно хаты и заколотили ставнем. Писарь взглянул: петли у широкого ставня оторваны, и он приколочен только сверху деревянным брусом. – Добро ты, одноглазый сатана! – вскричала она, приступив к голове, который попятился назад и все еще продолжал ее мерять своим глазом. – Я знаю твой умысел: ты хотел, ты рад был случаю спечь меня, чтобы свободнее было волочиться за дивчатами, чтобы некому было видеть, как дурачится седой дед. Ты думаешь, я не знаю, о чем говорил ты сего вечера с Ганною? О! я знаю все. Меня трудно провесть и не твоей бестолковой башке. Я долго терплю, но после не прогневайся… Сказавши это, она показала кулак и быстро ушла, оставив в остолбенении голову. «Нет, тут не на шутку сатана вмешался», – думал он, сильно почес��вая свою макушку. – Поймали! – вскрикнули вошедшие в это время десятские. – Кого поймали? – спросил голова. – Дьявола в вывороченном тулупе. – Подавайте его! – закричал голова, схватив за руки приведенного пленника. – Вы с ума сошли: да это пьяный Каленик! – Что за пропасть! в руках наших был, пан голова! – отвечали десятские. – В переулке окружили проклятые хлопцы, стали танцевать, дергать, высовывать языки, вырывать из рук… черт с вами!.. И как мы попали на эту ворону вместо его, бог один знает! – Властью моей и всех мирян дается повеление, – сказал голова, – изловить сей же миг сего разбойника: а оным образом и всех, кого найдете на улице, и привесть на расправу но мне!. – Помилуй, пан голова! – закричали некоторые, кланяясь в ноги. – Увидел бы ты, какие хари: убей бог нас, и родились и крестились – не видали таких мерзких рож. Долго ли до греха, пан голова, перепугают доброго человека так, что после ни одна баба не возьмется вылить переполоху.',
262
+ ]
263
+ embeddings = model.encode(sentences)
264
+ print(embeddings.shape)
265
+ # [3, 768]
266
+
267
+ # Get the similarity scores for the embeddings
268
+ similarities = model.similarity(embeddings, embeddings)
269
+ print(similarities.shape)
270
+ # [3, 3]
271
+ ```
272
+
273
+ <!--
274
+ ### Direct Usage (Transformers)
275
+
276
+ <details><summary>Click to see the direct usage in Transformers</summary>
277
+
278
+ </details>
279
+ -->
280
+
281
+ <!--
282
+ ### Downstream Usage (Sentence Transformers)
283
+
284
+ You can finetune this model on your own dataset.
285
+
286
+ <details><summary>Click to expand</summary>
287
+
288
+ </details>
289
+ -->
290
+
291
+ <!--
292
+ ### Out-of-Scope Use
293
+
294
+ *List how the model may foreseeably be misused and address what users ought not to do with the model.*
295
+ -->
296
+
297
+ ## Evaluation
298
+
299
+ ### Metrics
300
+
301
+ #### Triplet
302
+
303
+ * Evaluated with [<code>TripletEvaluator</code>](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.TripletEvaluator)
304
+
305
+ | Metric | Value |
306
+ |:--------------------|:-----------|
307
+ | **cosine_accuracy** | **0.9507** |
308
+
309
+ <!--
310
+ ## Bias, Risks and Limitations
311
+
312
+ *What are the known or foreseeable issues stemming from this model? You could also flag here known failure cases or weaknesses of the model.*
313
+ -->
314
+
315
+ <!--
316
+ ### Recommendations
317
+
318
+ *What are recommendations with respect to the foreseeable issues? For example, filtering explicit content.*
319
+ -->
320
+
321
+ ## Training Details
322
+
323
+ ### Training Dataset
324
+
325
+ #### Unnamed Dataset
326
+
327
+
328
+ * Columns: <code>anchor</code>, <code>sentence</code>, and <code>label</code>
329
+ * Loss: [<code>ContrastiveLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#contrastiveloss) with these parameters:
330
+ ```json
331
+ {
332
+ "distance_metric": "SiameseDistanceMetric.COSINE_DISTANCE",
333
+ "margin": 0.5,
334
+ "size_average": true
335
+ }
336
+ ```
337
+
338
+ ### Evaluation Dataset
339
+
340
+ #### Unnamed Dataset
341
+
342
+
343
+ * Size: 10,296 evaluation samples
344
+ * Columns: <code>anchor</code>, <code>sentence</code>, and <code>label</code>
345
+ * Approximate statistics based on the first 1000 samples:
346
+ | | anchor | sentence | label |
347
+ |:--------|:------------------------------------------------------------------------------------|:-------------------------------------------------------------------------------------|:-----------------------------|
348
+ | type | string | string | int |
349
+ | details | <ul><li>min: 9 tokens</li><li>mean: 148.16 tokens</li><li>max: 512 tokens</li></ul> | <ul><li>min: 13 tokens</li><li>mean: 145.59 tokens</li><li>max: 498 tokens</li></ul> | <ul><li>1: 100.00%</li></ul> |
350
+ * Samples:
351
+ | anchor | sentence | label |
352
+ |:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|:---------------|
353
+ | <code>ибо в один час пришел суд твой. И купцы земные восплачут и возрыдают о ней, потому что товаров их никто уже не покупает, товаров золотых и серебряных, и камней драгоценных и жемчуга, и виссона и порфиры, и шелка и багряницы, и всякого благовонного дерева, и всяких изделий из слоновой кости, и всяких изделий из дорогих дерев, из меди и железа и мрамора, корицы и фимиама, и мира и ладана, и вина и елея, и муки и пшеницы, и скота и овец, иконей и колесниц, и тел и душ человеческих. И плодов, угодных для души твоей, не стало у тебя, и все тучное и блистательное удалилось от тебя; ты уже не найдешь его. Торговавшие всем сим, обогатившиеся от нее, станут вдали от страха мучений ее, плача и рыдая и говоря: горе, горе тебе , великий город, одетый в виссон и порфиру и багряницу, украшенныйзолотом и камнями др��гоценными и жемчугом, ибо в один час погибло такое богатство! И все кормчие, и все плывущие на кораблях, и все корабельщики, и всеторгующие на море стали вдали и, видя дым от пожара ее, во...</code> | <code>Так говорит Господь Бог: вот распределение, по которому вы должны разделить землю в наследие двенадцати коленам Израилевым: Иосифу два удела. И наследуйте ее, как один, так и другой; так как Я, подняв руку Мою, клялся отдать ее отцам вашим, то и будет земля сия наследием вашим. И вот предел земли: на северном конце, начиная от великого моря, через Хетлон, по дороге в Цедад, Емаф, Берот, Сивраим, находящийся между Дамасскою и Емафскою областями Гацар-Тихон, который на границе Аврана. И будет граница от моря до Гацар-Енон, граница с Дамаском, и далее на севере область Емаф; и вот северный край.</code> | <code>1</code> |
354
+ | <code>В скорби своей они с раннего утрабудут искать Меня и говорить: „пойдем и возвратимся к Господу! ибо Он уязвил – и Он исцелит нас, поразил – и перевяжет наши раны; оживит нас через два дня, в третий день восставит нас, и мы будем жить пред лицем Его. Итак познаем, будем стремиться познать Господа; как утренняя заря – явление Его, и Он придет к нам, как дождь, как поздний дождь оросит землю".</code> | <code>Угодно было Дарию поставить над царством сто двадцать сатрапов, чтобы они были во всем царстве, а над ними трех князей, – из которых один был Даниил, – чтобысатрапы давали им отчет и чтобы царю не было никакого обременения.</code> | <code>1</code> |
355
+ | <code>Буду пасти их на хорошей пажити, и загон их будетна высоких горах Израилевых; там они будут отдыхать в хорошем загоне и будут пастись на тучной пажити, на горахИзраилевых. Я буду пасти овец Моих и Я будупокоить их, говорит Господь Бог. Потерявшуюся отыщу и угнанную возвращу, и пораненную перевяжу, и больную укреплю, а разжиревшую и буйную истреблю; буду пасти их по правде. Вас же, овцы Мои, – так говорит Господь Бог, – вот, Я буду судить между овцою и овцою, между бараном и козлом. Разве мало вам того, что пасетесь на хорошей пажити, а между тем остальное на пажити вашей топчете ногами вашими, пьете чистую воду, а оставшуюся мутите ногами вашими,</code> | <code>Откровение Иисуса Христа, которое дал Ему Бог, чтобы показать рабам Своим, чему надлежит быть вскоре. И Он показал, послав оное через Ангела Своего рабу Своему Иоанну, который свидетельствовал слово Божие и свидетельство Иисуса Христа и что он видел. Блажен читающий и слушающие слова пророчества сего и соблюдающие написанное в нем; ибо время близко. Иоанн семи церквам, находящимся в Асии: благодать вам и мир от Того, Который есть и был и грядет, и от семи духов, находящихся перед престолом Его, и от Иисуса Христа, Который есть свидетель верный, первенец из мертвых и владыка царей земных. Ему, возлюбившему нас и омывшему нас от грехов наших Кровию Своею и соделавшему нас царями и священниками Богу и Отцу Своему, слава и держава во веки веков, аминь. Се, грядет с облаками, и узрит Еговсякое око и те, которые пронзили Его; и возрыдают пред Ним все племена земные. Ей, аминь. Я есмь Альфа и Омега, начало и конец, говорит Господь, Который есть и был игрядет, Вседержитель. Я, Иоанн, брат ваш ...</code> | <code>1</code> |
356
+ * Loss: [<code>ContrastiveLoss</code>](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#contrastiveloss) with these parameters:
357
+ ```json
358
+ {
359
+ "distance_metric": "SiameseDistanceMetric.COSINE_DISTANCE",
360
+ "margin": 0.5,
361
+ "size_average": true
362
+ }
363
+ ```
364
+
365
+ ### Training Hyperparameters
366
+ #### Non-Default Hyperparameters
367
+
368
+ - `eval_strategy`: steps
369
+ - `per_device_train_batch_size`: 4
370
+ - `gradient_accumulation_steps`: 4
371
+ - `learning_rate`: 2e-05
372
+ - `max_steps`: 72667
373
+ - `warmup_steps`: 1453
374
+ - `fp16`: True
375
+ - `load_best_model_at_end`: True
376
+
377
+ #### All Hyperparameters
378
+ <details><summary>Click to expand</summary>
379
+
380
+ - `overwrite_output_dir`: False
381
+ - `do_predict`: False
382
+ - `eval_strategy`: steps
383
+ - `prediction_loss_only`: True
384
+ - `per_device_train_batch_size`: 4
385
+ - `per_device_eval_batch_size`: 8
386
+ - `per_gpu_train_batch_size`: None
387
+ - `per_gpu_eval_batch_size`: None
388
+ - `gradient_accumulation_steps`: 4
389
+ - `eval_accumulation_steps`: None
390
+ - `torch_empty_cache_steps`: None
391
+ - `learning_rate`: 2e-05
392
+ - `weight_decay`: 0.0
393
+ - `adam_beta1`: 0.9
394
+ - `adam_beta2`: 0.999
395
+ - `adam_epsilon`: 1e-08
396
+ - `max_grad_norm`: 1.0
397
+ - `num_train_epochs`: 3.0
398
+ - `max_steps`: 72667
399
+ - `lr_scheduler_type`: linear
400
+ - `lr_scheduler_kwargs`: {}
401
+ - `warmup_ratio`: 0.0
402
+ - `warmup_steps`: 1453
403
+ - `log_level`: passive
404
+ - `log_level_replica`: warning
405
+ - `log_on_each_node`: True
406
+ - `logging_nan_inf_filter`: True
407
+ - `save_safetensors`: True
408
+ - `save_on_each_node`: False
409
+ - `save_only_model`: False
410
+ - `restore_callback_states_from_checkpoint`: False
411
+ - `no_cuda`: False
412
+ - `use_cpu`: False
413
+ - `use_mps_device`: False
414
+ - `seed`: 42
415
+ - `data_seed`: None
416
+ - `jit_mode_eval`: False
417
+ - `use_ipex`: False
418
+ - `bf16`: False
419
+ - `fp16`: True
420
+ - `fp16_opt_level`: O1
421
+ - `half_precision_backend`: auto
422
+ - `bf16_full_eval`: False
423
+ - `fp16_full_eval`: False
424
+ - `tf32`: None
425
+ - `local_rank`: 0
426
+ - `ddp_backend`: None
427
+ - `tpu_num_cores`: None
428
+ - `tpu_metrics_debug`: False
429
+ - `debug`: []
430
+ - `dataloader_drop_last`: False
431
+ - `dataloader_num_workers`: 0
432
+ - `dataloader_prefetch_factor`: None
433
+ - `past_index`: -1
434
+ - `disable_tqdm`: False
435
+ - `remove_unused_columns`: True
436
+ - `label_names`: None
437
+ - `load_best_model_at_end`: True
438
+ - `ignore_data_skip`: False
439
+ - `fsdp`: []
440
+ - `fsdp_min_num_params`: 0
441
+ - `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
442
+ - `fsdp_transformer_layer_cls_to_wrap`: None
443
+ - `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
444
+ - `deepspeed`: None
445
+ - `label_smoothing_factor`: 0.0
446
+ - `optim`: adamw_torch
447
+ - `optim_args`: None
448
+ - `adafactor`: False
449
+ - `group_by_length`: False
450
+ - `length_column_name`: length
451
+ - `ddp_find_unused_parameters`: None
452
+ - `ddp_bucket_cap_mb`: None
453
+ - `ddp_broadcast_buffers`: False
454
+ - `dataloader_pin_memory`: True
455
+ - `dataloader_persistent_workers`: False
456
+ - `skip_memory_metrics`: True
457
+ - `use_legacy_prediction_loop`: False
458
+ - `push_to_hub`: False
459
+ - `resume_from_checkpoint`: None
460
+ - `hub_model_id`: None
461
+ - `hub_strategy`: every_save
462
+ - `hub_private_repo`: False
463
+ - `hub_always_push`: False
464
+ - `gradient_checkpointing`: False
465
+ - `gradient_checkpointing_kwargs`: None
466
+ - `include_inputs_for_metrics`: False
467
+ - `include_for_metrics`: []
468
+ - `eval_do_concat_batches`: True
469
+ - `fp16_backend`: auto
470
+ - `push_to_hub_model_id`: None
471
+ - `push_to_hub_organization`: None
472
+ - `mp_parameters`:
473
+ - `auto_find_batch_size`: False
474
+ - `full_determinism`: False
475
+ - `torchdynamo`: None
476
+ - `ray_scope`: last
477
+ - `ddp_timeout`: 1800
478
+ - `torch_compile`: False
479
+ - `torch_compile_backend`: None
480
+ - `torch_compile_mode`: None
481
+ - `dispatch_batches`: None
482
+ - `split_batches`: None
483
+ - `include_tokens_per_second`: False
484
+ - `include_num_input_tokens_seen`: False
485
+ - `neftune_noise_alpha`: None
486
+ - `optim_target_modules`: None
487
+ - `batch_eval_metrics`: False
488
+ - `eval_on_start`: False
489
+ - `use_liger_kernel`: False
490
+ - `eval_use_gather_object`: False
491
+ - `average_tokens_across_devices`: False
492
+ - `prompts`: None
493
+ - `batch_sampler`: batch_sampler
494
+ - `multi_dataset_batch_sampler`: proportional
495
+
496
+ </details>
497
+
498
+ ### Training Logs
499
+ <details><summary>Click to expand</summary>
500
+
501
+ | Epoch | Step | Training Loss | Validation Loss | cosine_accuracy |
502
+ |:----------:|:---------:|:-------------:|:---------------:|:---------------:|
503
+ | 0.0028 | 200 | 0.0236 | - | - |
504
+ | 0.0055 | 400 | 0.0196 | - | - |
505
+ | 0.0083 | 600 | 0.0175 | - | - |
506
+ | 0.0110 | 800 | 0.016 | - | - |
507
+ | 0.0138 | 1000 | 0.0158 | - | - |
508
+ | 0.0165 | 1200 | 0.0166 | - | - |
509
+ | 0.0193 | 1400 | 0.0156 | - | - |
510
+ | 0.0220 | 1600 | 0.0153 | - | - |
511
+ | 0.0248 | 1800 | 0.0148 | - | - |
512
+ | 0.0275 | 2000 | 0.0145 | - | - |
513
+ | 0.0303 | 2200 | 0.0143 | - | - |
514
+ | 0.0330 | 2400 | 0.014 | - | - |
515
+ | 0.0333 | 2422 | - | 0.0146 | 0.9025 |
516
+ | 0.0358 | 2600 | 0.0137 | - | - |
517
+ | 0.0385 | 2800 | 0.0131 | - | - |
518
+ | 0.0413 | 3000 | 0.0135 | - | - |
519
+ | 0.0440 | 3200 | 0.0128 | - | - |
520
+ | 0.0468 | 3400 | 0.0129 | - | - |
521
+ | 0.0495 | 3600 | 0.0125 | - | - |
522
+ | 0.0523 | 3800 | 0.0128 | - | - |
523
+ | 0.0550 | 4000 | 0.0125 | - | - |
524
+ | 0.0578 | 4200 | 0.0119 | - | - |
525
+ | 0.0606 | 4400 | 0.0121 | - | - |
526
+ | 0.0633 | 4600 | 0.0117 | - | - |
527
+ | 0.0661 | 4800 | 0.0124 | - | - |
528
+ | 0.0667 | 4844 | - | 0.0134 | 0.9079 |
529
+ | 0.0688 | 5000 | 0.011 | - | - |
530
+ | 0.0716 | 5200 | 0.0113 | - | - |
531
+ | 0.0743 | 5400 | 0.0105 | - | - |
532
+ | 0.0771 | 5600 | 0.0111 | - | - |
533
+ | 0.0798 | 5800 | 0.0109 | - | - |
534
+ | 0.0826 | 6000 | 0.0109 | - | - |
535
+ | 0.0853 | 6200 | 0.0105 | - | - |
536
+ | 0.0881 | 6400 | 0.0111 | - | - |
537
+ | 0.0908 | 6600 | 0.0102 | - | - |
538
+ | 0.0936 | 6800 | 0.0109 | - | - |
539
+ | 0.0963 | 7000 | 0.0102 | - | - |
540
+ | 0.0991 | 7200 | 0.0107 | - | - |
541
+ | 0.1000 | 7266 | - | 0.0132 | 0.9165 |
542
+ | 0.1018 | 7400 | 0.0104 | - | - |
543
+ | 0.1046 | 7600 | 0.0111 | - | - |
544
+ | 0.1073 | 7800 | 0.01 | - | - |
545
+ | 0.1101 | 8000 | 0.0106 | - | - |
546
+ | 0.1128 | 8200 | 0.01 | - | - |
547
+ | 0.1156 | 8400 | 0.0106 | - | - |
548
+ | 0.1183 | 8600 | 0.0105 | - | - |
549
+ | 0.1211 | 8800 | 0.01 | - | - |
550
+ | 0.1239 | 9000 | 0.01 | - | - |
551
+ | 0.1266 | 9200 | 0.0097 | - | - |
552
+ | 0.1294 | 9400 | 0.0097 | - | - |
553
+ | 0.1321 | 9600 | 0.0095 | - | - |
554
+ | 0.1333 | 9688 | - | 0.0117 | 0.9277 |
555
+ | 0.1349 | 9800 | 0.01 | - | - |
556
+ | 0.1376 | 10000 | 0.0103 | - | - |
557
+ | 0.1404 | 10200 | 0.0102 | - | - |
558
+ | 0.1431 | 10400 | 0.0098 | - | - |
559
+ | 0.1459 | 10600 | 0.0103 | - | - |
560
+ | 0.1486 | 10800 | 0.0101 | - | - |
561
+ | 0.1514 | 11000 | 0.0094 | - | - |
562
+ | 0.1541 | 11200 | 0.0094 | - | - |
563
+ | 0.1569 | 11400 | 0.0098 | - | - |
564
+ | 0.1596 | 11600 | 0.0099 | - | - |
565
+ | 0.1624 | 11800 | 0.01 | - | - |
566
+ | 0.1651 | 12000 | 0.0099 | - | - |
567
+ | 0.1667 | 12110 | - | 0.0120 | 0.9240 |
568
+ | 0.1679 | 12200 | 0.0095 | - | - |
569
+ | 0.1706 | 12400 | 0.009 | - | - |
570
+ | 0.1734 | 12600 | 0.0096 | - | - |
571
+ | 0.1761 | 12800 | 0.0093 | - | - |
572
+ | 0.1789 | 13000 | 0.0092 | - | - |
573
+ | 0.1817 | 13200 | 0.0098 | - | - |
574
+ | 0.1844 | 13400 | 0.0094 | - | - |
575
+ | 0.1872 | 13600 | 0.0091 | - | - |
576
+ | 0.1899 | 13800 | 0.0089 | - | - |
577
+ | 0.1927 | 14000 | 0.0091 | - | - |
578
+ | 0.1954 | 14200 | 0.0087 | - | - |
579
+ | 0.1982 | 14400 | 0.0091 | - | - |
580
+ | 0.2000 | 14532 | - | 0.0112 | 0.9287 |
581
+ | 0.2009 | 14600 | 0.009 | - | - |
582
+ | 0.2037 | 14800 | 0.0091 | - | - |
583
+ | 0.2064 | 15000 | 0.0091 | - | - |
584
+ | 0.2092 | 15200 | 0.0089 | - | - |
585
+ | 0.2119 | 15400 | 0.0087 | - | - |
586
+ | 0.2147 | 15600 | 0.0083 | - | - |
587
+ | 0.2174 | 15800 | 0.0093 | - | - |
588
+ | 0.2202 | 16000 | 0.0093 | - | - |
589
+ | 0.2229 | 16200 | 0.0088 | - | - |
590
+ | 0.2257 | 16400 | 0.0084 | - | - |
591
+ | 0.2284 | 16600 | 0.0087 | - | - |
592
+ | 0.2312 | 16800 | 0.0086 | - | - |
593
+ | 0.2333 | 16954 | - | 0.0115 | 0.9291 |
594
+ | 0.2339 | 17000 | 0.0086 | - | - |
595
+ | 0.2367 | 17200 | 0.0088 | - | - |
596
+ | 0.2394 | 17400 | 0.0085 | - | - |
597
+ | 0.2422 | 17600 | 0.0085 | - | - |
598
+ | 0.2450 | 17800 | 0.0086 | - | - |
599
+ | 0.2477 | 18000 | 0.0087 | - | - |
600
+ | 0.2505 | 18200 | 0.0082 | - | - |
601
+ | 0.2532 | 18400 | 0.0088 | - | - |
602
+ | 0.2560 | 18600 | 0.0087 | - | - |
603
+ | 0.2587 | 18800 | 0.0086 | - | - |
604
+ | 0.2615 | 19000 | 0.0088 | - | - |
605
+ | 0.2642 | 19200 | 0.0086 | - | - |
606
+ | 0.2666 | 19376 | - | 0.0116 | 0.9312 |
607
+ | 0.2670 | 19400 | 0.0083 | - | - |
608
+ | 0.2697 | 19600 | 0.008 | - | - |
609
+ | 0.2725 | 19800 | 0.0083 | - | - |
610
+ | 0.2752 | 20000 | 0.0083 | - | - |
611
+ | 0.2780 | 20200 | 0.0078 | - | - |
612
+ | 0.2807 | 20400 | 0.0084 | - | - |
613
+ | 0.2835 | 20600 | 0.0082 | - | - |
614
+ | 0.2862 | 20800 | 0.0085 | - | - |
615
+ | 0.2890 | 21000 | 0.0082 | - | - |
616
+ | 0.2917 | 21200 | 0.0081 | - | - |
617
+ | 0.2945 | 21400 | 0.0078 | - | - |
618
+ | 0.2972 | 21600 | 0.0078 | - | - |
619
+ | 0.3000 | 21798 | - | 0.0109 | 0.9347 |
620
+ | 0.3000 | 21800 | 0.0082 | - | - |
621
+ | 0.3028 | 22000 | 0.0081 | - | - |
622
+ | 0.3055 | 22200 | 0.0083 | - | - |
623
+ | 0.3083 | 22400 | 0.0074 | - | - |
624
+ | 0.3110 | 22600 | 0.0079 | - | - |
625
+ | 0.3138 | 22800 | 0.0078 | - | - |
626
+ | 0.3165 | 23000 | 0.0078 | - | - |
627
+ | 0.3193 | 23200 | 0.0085 | - | - |
628
+ | 0.3220 | 23400 | 0.0084 | - | - |
629
+ | 0.3248 | 23600 | 0.0082 | - | - |
630
+ | 0.3275 | 23800 | 0.0079 | - | - |
631
+ | 0.3303 | 24000 | 0.008 | - | - |
632
+ | 0.3330 | 24200 | 0.0078 | - | - |
633
+ | 0.3333 | 24220 | - | 0.0112 | 0.9343 |
634
+ | 0.3358 | 24400 | 0.0077 | - | - |
635
+ | 0.3385 | 24600 | 0.0083 | - | - |
636
+ | 0.3413 | 24800 | 0.0082 | - | - |
637
+ | 0.3440 | 25000 | 0.0075 | - | - |
638
+ | 0.3468 | 25200 | 0.0076 | - | - |
639
+ | 0.3495 | 25400 | 0.0078 | - | - |
640
+ | 0.3523 | 25600 | 0.0077 | - | - |
641
+ | 0.3550 | 25800 | 0.0073 | - | - |
642
+ | 0.3578 | 26000 | 0.0076 | - | - |
643
+ | 0.3605 | 26200 | 0.0076 | - | - |
644
+ | 0.3633 | 26400 | 0.0071 | - | - |
645
+ | 0.3661 | 26600 | 0.0073 | - | - |
646
+ | 0.3666 | 26642 | - | 0.0113 | 0.9336 |
647
+ | 0.3688 | 26800 | 0.0074 | - | - |
648
+ | 0.3716 | 27000 | 0.0074 | - | - |
649
+ | 0.3743 | 27200 | 0.0076 | - | - |
650
+ | 0.3771 | 27400 | 0.0075 | - | - |
651
+ | 0.3798 | 27600 | 0.0078 | - | - |
652
+ | 0.3826 | 27800 | 0.0071 | - | - |
653
+ | 0.3853 | 28000 | 0.007 | - | - |
654
+ | 0.3881 | 28200 | 0.0069 | - | - |
655
+ | 0.3908 | 28400 | 0.0069 | - | - |
656
+ | 0.3936 | 28600 | 0.0081 | - | - |
657
+ | 0.3963 | 28800 | 0.0076 | - | - |
658
+ | 0.3991 | 29000 | 0.0073 | - | - |
659
+ | 0.4000 | 29064 | - | 0.0113 | 0.9336 |
660
+ | 0.4018 | 29200 | 0.0073 | - | - |
661
+ | 0.4046 | 29400 | 0.0071 | - | - |
662
+ | 0.4073 | 29600 | 0.0069 | - | - |
663
+ | 0.4101 | 29800 | 0.007 | - | - |
664
+ | 0.4128 | 30000 | 0.0068 | - | - |
665
+ | 0.4156 | 30200 | 0.0071 | - | - |
666
+ | 0.4183 | 30400 | 0.0072 | - | - |
667
+ | 0.4211 | 30600 | 0.0072 | - | - |
668
+ | 0.4239 | 30800 | 0.0069 | - | - |
669
+ | 0.4266 | 31000 | 0.0075 | - | - |
670
+ | 0.4294 | 31200 | 0.0074 | - | - |
671
+ | 0.4321 | 31400 | 0.0072 | - | - |
672
+ | 0.4333 | 31486 | - | 0.0110 | 0.9363 |
673
+ | 0.4349 | 31600 | 0.0074 | - | - |
674
+ | 0.4376 | 31800 | 0.0066 | - | - |
675
+ | 0.4404 | 32000 | 0.0074 | - | - |
676
+ | 0.4431 | 32200 | 0.0071 | - | - |
677
+ | 0.4459 | 32400 | 0.0075 | - | - |
678
+ | 0.4486 | 32600 | 0.0077 | - | - |
679
+ | 0.4514 | 32800 | 0.0072 | - | - |
680
+ | 0.4541 | 33000 | 0.0069 | - | - |
681
+ | 0.4569 | 33200 | 0.0063 | - | - |
682
+ | 0.4596 | 33400 | 0.0067 | - | - |
683
+ | 0.4624 | 33600 | 0.007 | - | - |
684
+ | 0.4651 | 33800 | 0.0067 | - | - |
685
+ | 0.4666 | 33908 | - | 0.0108 | 0.9376 |
686
+ | 0.4679 | 34000 | 0.007 | - | - |
687
+ | 0.4706 | 34200 | 0.0068 | - | - |
688
+ | 0.4734 | 34400 | 0.0074 | - | - |
689
+ | 0.4761 | 34600 | 0.0068 | - | - |
690
+ | 0.4789 | 34800 | 0.0065 | - | - |
691
+ | 0.4816 | 35000 | 0.0068 | - | - |
692
+ | 0.4844 | 35200 | 0.007 | - | - |
693
+ | 0.4872 | 35400 | 0.0067 | - | - |
694
+ | 0.4899 | 35600 | 0.0065 | - | - |
695
+ | 0.4927 | 35800 | 0.0068 | - | - |
696
+ | 0.4954 | 36000 | 0.0065 | - | - |
697
+ | 0.4982 | 36200 | 0.0066 | - | - |
698
+ | 0.5000 | 36330 | - | 0.0109 | 0.9408 |
699
+ | 0.5009 | 36400 | 0.0068 | - | - |
700
+ | 0.5037 | 36600 | 0.0067 | - | - |
701
+ | 0.5064 | 36800 | 0.0074 | - | - |
702
+ | 0.5092 | 37000 | 0.0064 | - | - |
703
+ | 0.5119 | 37200 | 0.0068 | - | - |
704
+ | 0.5147 | 37400 | 0.007 | - | - |
705
+ | 0.5174 | 37600 | 0.0069 | - | - |
706
+ | 0.5202 | 37800 | 0.0066 | - | - |
707
+ | 0.5229 | 38000 | 0.007 | - | - |
708
+ | 0.5257 | 38200 | 0.0065 | - | - |
709
+ | 0.5284 | 38400 | 0.0068 | - | - |
710
+ | 0.5312 | 38600 | 0.006 | - | - |
711
+ | 0.5333 | 38752 | - | 0.0108 | 0.9402 |
712
+ | 0.5339 | 38800 | 0.0063 | - | - |
713
+ | 0.5367 | 39000 | 0.0069 | - | - |
714
+ | 0.5394 | 39200 | 0.0065 | - | - |
715
+ | 0.5422 | 39400 | 0.0067 | - | - |
716
+ | 0.5450 | 39600 | 0.0067 | - | - |
717
+ | 0.5477 | 39800 | 0.007 | - | - |
718
+ | 0.5505 | 40000 | 0.0067 | - | - |
719
+ | 0.5532 | 40200 | 0.0064 | - | - |
720
+ | 0.5560 | 40400 | 0.0065 | - | - |
721
+ | 0.5587 | 40600 | 0.0068 | - | - |
722
+ | 0.5615 | 40800 | 0.0068 | - | - |
723
+ | 0.5642 | 41000 | 0.007 | - | - |
724
+ | 0.5666 | 41174 | - | 0.0104 | 0.9398 |
725
+ | 0.5670 | 41200 | 0.0066 | - | - |
726
+ | 0.5697 | 41400 | 0.0066 | - | - |
727
+ | 0.5725 | 41600 | 0.0063 | - | - |
728
+ | 0.5752 | 41800 | 0.0064 | - | - |
729
+ | 0.5780 | 42000 | 0.0065 | - | - |
730
+ | 0.5807 | 42200 | 0.0061 | - | - |
731
+ | 0.5835 | 42400 | 0.0062 | - | - |
732
+ | 0.5862 | 42600 | 0.0062 | - | - |
733
+ | 0.5890 | 42800 | 0.0059 | - | - |
734
+ | 0.5917 | 43000 | 0.0068 | - | - |
735
+ | 0.5945 | 43200 | 0.0067 | - | - |
736
+ | 0.5972 | 43400 | 0.0062 | - | - |
737
+ | 0.5999 | 43596 | - | 0.0110 | 0.9382 |
738
+ | 0.6000 | 43600 | 0.0062 | - | - |
739
+ | 0.6027 | 43800 | 0.0066 | - | - |
740
+ | 0.6055 | 44000 | 0.0065 | - | - |
741
+ | 0.6083 | 44200 | 0.006 | - | - |
742
+ | 0.6110 | 44400 | 0.0066 | - | - |
743
+ | 0.6138 | 44600 | 0.0067 | - | - |
744
+ | 0.6165 | 44800 | 0.0064 | - | - |
745
+ | 0.6193 | 45000 | 0.0066 | - | - |
746
+ | 0.6220 | 45200 | 0.0069 | - | - |
747
+ | 0.6248 | 45400 | 0.0067 | - | - |
748
+ | 0.6275 | 45600 | 0.0063 | - | - |
749
+ | 0.6303 | 45800 | 0.0064 | - | - |
750
+ | 0.6330 | 46000 | 0.0064 | - | - |
751
+ | 0.6333 | 46018 | - | 0.0105 | 0.9458 |
752
+ | 0.6358 | 46200 | 0.0067 | - | - |
753
+ | 0.6385 | 46400 | 0.0063 | - | - |
754
+ | 0.6413 | 46600 | 0.0064 | - | - |
755
+ | 0.6440 | 46800 | 0.0064 | - | - |
756
+ | 0.6468 | 47000 | 0.0064 | - | - |
757
+ | 0.6495 | 47200 | 0.0065 | - | - |
758
+ | 0.6523 | 47400 | 0.0061 | - | - |
759
+ | 0.6550 | 47600 | 0.0065 | - | - |
760
+ | 0.6578 | 47800 | 0.0061 | - | - |
761
+ | 0.6605 | 48000 | 0.0065 | - | - |
762
+ | 0.6633 | 48200 | 0.0061 | - | - |
763
+ | 0.6661 | 48400 | 0.0059 | - | - |
764
+ | 0.6666 | 48440 | - | 0.0105 | 0.9468 |
765
+ | 0.6688 | 48600 | 0.0064 | - | - |
766
+ | 0.6716 | 48800 | 0.006 | - | - |
767
+ | 0.6743 | 49000 | 0.0061 | - | - |
768
+ | 0.6771 | 49200 | 0.0061 | - | - |
769
+ | 0.6798 | 49400 | 0.0062 | - | - |
770
+ | 0.6826 | 49600 | 0.006 | - | - |
771
+ | 0.6853 | 49800 | 0.0066 | - | - |
772
+ | 0.6881 | 50000 | 0.0059 | - | - |
773
+ | 0.6908 | 50200 | 0.0065 | - | - |
774
+ | 0.6936 | 50400 | 0.0065 | - | - |
775
+ | 0.6963 | 50600 | 0.0062 | - | - |
776
+ | 0.6991 | 50800 | 0.0061 | - | - |
777
+ | 0.6999 | 50862 | - | 0.0103 | 0.9470 |
778
+ | 0.7018 | 51000 | 0.0063 | - | - |
779
+ | 0.7046 | 51200 | 0.0065 | - | - |
780
+ | 0.7073 | 51400 | 0.0061 | - | - |
781
+ | 0.7101 | 51600 | 0.0066 | - | - |
782
+ | 0.7128 | 51800 | 0.0064 | - | - |
783
+ | 0.7156 | 52000 | 0.006 | - | - |
784
+ | 0.7183 | 52200 | 0.006 | - | - |
785
+ | 0.7211 | 52400 | 0.0057 | - | - |
786
+ | 0.7238 | 52600 | 0.0065 | - | - |
787
+ | 0.7266 | 52800 | 0.0059 | - | - |
788
+ | 0.7294 | 53000 | 0.0063 | - | - |
789
+ | 0.7321 | 53200 | 0.0063 | - | - |
790
+ | 0.7333 | 53284 | - | 0.0105 | 0.9429 |
791
+ | 0.7349 | 53400 | 0.0063 | - | - |
792
+ | 0.7376 | 53600 | 0.006 | - | - |
793
+ | 0.7404 | 53800 | 0.0058 | - | - |
794
+ | 0.7431 | 54000 | 0.0063 | - | - |
795
+ | 0.7459 | 54200 | 0.0057 | - | - |
796
+ | 0.7486 | 54400 | 0.0058 | - | - |
797
+ | 0.7514 | 54600 | 0.0058 | - | - |
798
+ | 0.7541 | 54800 | 0.0062 | - | - |
799
+ | 0.7569 | 55000 | 0.0058 | - | - |
800
+ | 0.7596 | 55200 | 0.006 | - | - |
801
+ | 0.7624 | 55400 | 0.0056 | - | - |
802
+ | 0.7651 | 55600 | 0.0061 | - | - |
803
+ | 0.7666 | 55706 | - | 0.0103 | 0.9454 |
804
+ | 0.7679 | 55800 | 0.006 | - | - |
805
+ | 0.7706 | 56000 | 0.0061 | - | - |
806
+ | 0.7734 | 56200 | 0.0063 | - | - |
807
+ | 0.7761 | 56400 | 0.0061 | - | - |
808
+ | 0.7789 | 56600 | 0.006 | - | - |
809
+ | 0.7816 | 56800 | 0.0062 | - | - |
810
+ | 0.7844 | 57000 | 0.0059 | - | - |
811
+ | 0.7872 | 57200 | 0.0055 | - | - |
812
+ | 0.7899 | 57400 | 0.0053 | - | - |
813
+ | 0.7927 | 57600 | 0.0057 | - | - |
814
+ | 0.7954 | 57800 | 0.0055 | - | - |
815
+ | 0.7982 | 58000 | 0.006 | - | - |
816
+ | 0.7999 | 58128 | - | 0.0101 | 0.9476 |
817
+ | 0.8009 | 58200 | 0.0056 | - | - |
818
+ | 0.8037 | 58400 | 0.0058 | - | - |
819
+ | 0.8064 | 58600 | 0.0061 | - | - |
820
+ | 0.8092 | 58800 | 0.006 | - | - |
821
+ | 0.8119 | 59000 | 0.0057 | - | - |
822
+ | 0.8147 | 59200 | 0.0056 | - | - |
823
+ | 0.8174 | 59400 | 0.0066 | - | - |
824
+ | 0.8202 | 59600 | 0.006 | - | - |
825
+ | 0.8229 | 59800 | 0.0056 | - | - |
826
+ | 0.8257 | 60000 | 0.006 | - | - |
827
+ | 0.8284 | 60200 | 0.006 | - | - |
828
+ | 0.8312 | 60400 | 0.0063 | - | - |
829
+ | 0.8333 | 60550 | - | 0.0101 | 0.9481 |
830
+ | 0.8339 | 60600 | 0.0064 | - | - |
831
+ | 0.8367 | 60800 | 0.0061 | - | - |
832
+ | 0.8394 | 61000 | 0.006 | - | - |
833
+ | 0.8422 | 61200 | 0.0056 | - | - |
834
+ | 0.8450 | 61400 | 0.006 | - | - |
835
+ | 0.8477 | 61600 | 0.0063 | - | - |
836
+ | 0.8505 | 61800 | 0.0064 | - | - |
837
+ | 0.8532 | 62000 | 0.0058 | - | - |
838
+ | 0.8560 | 62200 | 0.0063 | - | - |
839
+ | 0.8587 | 62400 | 0.0056 | - | - |
840
+ | 0.8615 | 62600 | 0.0058 | - | - |
841
+ | 0.8642 | 62800 | 0.0059 | - | - |
842
+ | 0.8666 | 62972 | - | 0.0101 | 0.9491 |
843
+ | 0.8670 | 63000 | 0.0057 | - | - |
844
+ | 0.8697 | 63200 | 0.0056 | - | - |
845
+ | 0.8725 | 63400 | 0.0059 | - | - |
846
+ | 0.8752 | 63600 | 0.006 | - | - |
847
+ | 0.8780 | 63800 | 0.0057 | - | - |
848
+ | 0.8807 | 64000 | 0.0056 | - | - |
849
+ | 0.8835 | 64200 | 0.0053 | - | - |
850
+ | 0.8862 | 64400 | 0.0059 | - | - |
851
+ | 0.8890 | 64600 | 0.0055 | - | - |
852
+ | 0.8917 | 64800 | 0.006 | - | - |
853
+ | 0.8945 | 65000 | 0.0053 | - | - |
854
+ | 0.8972 | 65200 | 0.0059 | - | - |
855
+ | **0.8999** | **65394** | **-** | **0.01** | **0.9483** |
856
+ | 0.9000 | 65400 | 0.0058 | - | - |
857
+ | 0.9027 | 65600 | 0.0061 | - | - |
858
+ | 0.9055 | 65800 | 0.0057 | - | - |
859
+ | 0.9083 | 66000 | 0.0058 | - | - |
860
+ | 0.9110 | 66200 | 0.006 | - | - |
861
+ | 0.9138 | 66400 | 0.0057 | - | - |
862
+ | 0.9165 | 66600 | 0.0058 | - | - |
863
+ | 0.9193 | 66800 | 0.0062 | - | - |
864
+ | 0.9220 | 67000 | 0.0059 | - | - |
865
+ | 0.9248 | 67200 | 0.0058 | - | - |
866
+ | 0.9275 | 67400 | 0.0057 | - | - |
867
+ | 0.9303 | 67600 | 0.0054 | - | - |
868
+ | 0.9330 | 67800 | 0.0057 | - | - |
869
+ | 0.9332 | 67816 | - | 0.0100 | 0.9487 |
870
+ | 0.9358 | 68000 | 0.0056 | - | - |
871
+ | 0.9385 | 68200 | 0.0058 | - | - |
872
+ | 0.9413 | 68400 | 0.0059 | - | - |
873
+ | 0.9440 | 68600 | 0.0058 | - | - |
874
+ | 0.9468 | 68800 | 0.0055 | - | - |
875
+ | 0.9495 | 69000 | 0.0059 | - | - |
876
+ | 0.9523 | 69200 | 0.0057 | - | - |
877
+ | 0.9550 | 69400 | 0.0058 | - | - |
878
+ | 0.9578 | 69600 | 0.0061 | - | - |
879
+ | 0.9605 | 69800 | 0.0052 | - | - |
880
+ | 0.9633 | 70000 | 0.0056 | - | - |
881
+ | 0.9661 | 70200 | 0.0059 | - | - |
882
+ | 0.9666 | 70238 | - | 0.0102 | 0.9501 |
883
+ | 0.9688 | 70400 | 0.0057 | - | - |
884
+ | 0.9716 | 70600 | 0.0058 | - | - |
885
+ | 0.9743 | 70800 | 0.0054 | - | - |
886
+ | 0.9771 | 71000 | 0.0057 | - | - |
887
+ | 0.9798 | 71200 | 0.0055 | - | - |
888
+ | 0.9826 | 71400 | 0.0056 | - | - |
889
+ | 0.9853 | 71600 | 0.0053 | - | - |
890
+ | 0.9881 | 71800 | 0.0062 | - | - |
891
+ | 0.9908 | 72000 | 0.0057 | - | - |
892
+ | 0.9936 | 72200 | 0.0057 | - | - |
893
+ | 0.9963 | 72400 | 0.006 | - | - |
894
+ | 0.9991 | 72600 | 0.0054 | - | - |
895
+ | 0.9999 | 72660 | - | 0.0100 | 0.9507 |
896
+
897
+ * The bold row denotes the saved checkpoint.
898
+ </details>
899
+
900
+ ### Framework Versions
901
+ - Python: 3.11.5
902
+ - Sentence Transformers: 3.3.1
903
+ - Transformers: 4.46.3
904
+ - PyTorch: 2.1.1
905
+ - Accelerate: 1.1.1
906
+ - Datasets: 2.15.0
907
+ - Tokenizers: 0.20.1
908
+
909
+ ## Citation
910
+
911
+ ### BibTeX
912
+
913
+ #### Sentence Transformers
914
+ ```bibtex
915
+ @inproceedings{reimers-2019-sentence-bert,
916
+ title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
917
+ author = "Reimers, Nils and Gurevych, Iryna",
918
+ booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
919
+ month = "11",
920
+ year = "2019",
921
+ publisher = "Association for Computational Linguistics",
922
+ url = "https://arxiv.org/abs/1908.10084",
923
+ }
924
+ ```
925
+
926
+ #### ContrastiveLoss
927
+ ```bibtex
928
+ @inproceedings{hadsell2006dimensionality,
929
+ author={Hadsell, R. and Chopra, S. and LeCun, Y.},
930
+ booktitle={2006 IEEE Computer Society Conference on Computer Vision and Pattern Recognition (CVPR'06)},
931
+ title={Dimensionality Reduction by Learning an Invariant Mapping},
932
+ year={2006},
933
+ volume={2},
934
+ number={},
935
+ pages={1735-1742},
936
+ doi={10.1109/CVPR.2006.100}
937
+ }
938
+ ```
939
+
940
+ <!--
941
+ ## Glossary
942
+
943
+ *Clearly define terms in order to be accessible across audiences.*
944
+ -->
945
+
946
+ <!--
947
+ ## Model Card Authors
948
+
949
+ *Lists the people who create the model card, providing recognition and accountability for the detailed work that goes into its construction.*
950
+ -->
951
+
952
+ <!--
953
+ ## Model Card Contact
954
+
955
+ *Provides a way for people who have updates to the Model Card, suggestions, or questions, to contact the Model Card authors.*
956
+ -->
config.json ADDED
@@ -0,0 +1,31 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "_name_or_path": "/home/abragin/sentence_transformer/av-models/ai-forever/ruBert-base-loss-binary-margin-0.5-evaluator-triplet/seed-1987/result/",
3
+ "architectures": [
4
+ "BertModel"
5
+ ],
6
+ "attention_probs_dropout_prob": 0.1,
7
+ "classifier_dropout": null,
8
+ "directionality": "bidi",
9
+ "hidden_act": "gelu",
10
+ "hidden_dropout_prob": 0.1,
11
+ "hidden_size": 768,
12
+ "initializer_range": 0.02,
13
+ "intermediate_size": 3072,
14
+ "layer_norm_eps": 1e-12,
15
+ "max_position_embeddings": 512,
16
+ "model_type": "bert",
17
+ "num_attention_heads": 12,
18
+ "num_hidden_layers": 12,
19
+ "pad_token_id": 0,
20
+ "pooler_fc_size": 768,
21
+ "pooler_num_attention_heads": 12,
22
+ "pooler_num_fc_layers": 3,
23
+ "pooler_size_per_head": 128,
24
+ "pooler_type": "first_token_transform",
25
+ "position_embedding_type": "absolute",
26
+ "torch_dtype": "float32",
27
+ "transformers_version": "4.46.3",
28
+ "type_vocab_size": 2,
29
+ "use_cache": true,
30
+ "vocab_size": 120138
31
+ }
config_sentence_transformers.json ADDED
@@ -0,0 +1,10 @@
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "__version__": {
3
+ "sentence_transformers": "3.3.1",
4
+ "transformers": "4.46.3",
5
+ "pytorch": "2.1.1"
6
+ },
7
+ "prompts": {},
8
+ "default_prompt_name": null,
9
+ "similarity_fn_name": "cosine"
10
+ }
model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:69e300548b7bdf9dc44cac4aa334ff59f068d59072d7236aaaa4147e445480f2
3
+ size 713251688
modules.json ADDED
@@ -0,0 +1,14 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ [
2
+ {
3
+ "idx": 0,
4
+ "name": "0",
5
+ "path": "",
6
+ "type": "sentence_transformers.models.Transformer"
7
+ },
8
+ {
9
+ "idx": 1,
10
+ "name": "1",
11
+ "path": "1_Pooling",
12
+ "type": "sentence_transformers.models.Pooling"
13
+ }
14
+ ]
sentence_bert_config.json ADDED
@@ -0,0 +1,4 @@
 
 
 
 
 
1
+ {
2
+ "max_seq_length": 512,
3
+ "do_lower_case": false
4
+ }
special_tokens_map.json ADDED
@@ -0,0 +1,37 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cls_token": {
3
+ "content": "[CLS]",
4
+ "lstrip": false,
5
+ "normalized": false,
6
+ "rstrip": false,
7
+ "single_word": false
8
+ },
9
+ "mask_token": {
10
+ "content": "[MASK]",
11
+ "lstrip": false,
12
+ "normalized": false,
13
+ "rstrip": false,
14
+ "single_word": false
15
+ },
16
+ "pad_token": {
17
+ "content": "[PAD]",
18
+ "lstrip": false,
19
+ "normalized": false,
20
+ "rstrip": false,
21
+ "single_word": false
22
+ },
23
+ "sep_token": {
24
+ "content": "[SEP]",
25
+ "lstrip": false,
26
+ "normalized": false,
27
+ "rstrip": false,
28
+ "single_word": false
29
+ },
30
+ "unk_token": {
31
+ "content": "[UNK]",
32
+ "lstrip": false,
33
+ "normalized": false,
34
+ "rstrip": false,
35
+ "single_word": false
36
+ }
37
+ }
tokenizer.json ADDED
The diff for this file is too large to render. See raw diff
 
tokenizer_config.json ADDED
@@ -0,0 +1,64 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "added_tokens_decoder": {
3
+ "0": {
4
+ "content": "[PAD]",
5
+ "lstrip": false,
6
+ "normalized": false,
7
+ "rstrip": false,
8
+ "single_word": false,
9
+ "special": true
10
+ },
11
+ "100": {
12
+ "content": "[UNK]",
13
+ "lstrip": false,
14
+ "normalized": false,
15
+ "rstrip": false,
16
+ "single_word": false,
17
+ "special": true
18
+ },
19
+ "101": {
20
+ "content": "[CLS]",
21
+ "lstrip": false,
22
+ "normalized": false,
23
+ "rstrip": false,
24
+ "single_word": false,
25
+ "special": true
26
+ },
27
+ "102": {
28
+ "content": "[SEP]",
29
+ "lstrip": false,
30
+ "normalized": false,
31
+ "rstrip": false,
32
+ "single_word": false,
33
+ "special": true
34
+ },
35
+ "103": {
36
+ "content": "[MASK]",
37
+ "lstrip": false,
38
+ "normalized": false,
39
+ "rstrip": false,
40
+ "single_word": false,
41
+ "special": true
42
+ }
43
+ },
44
+ "clean_up_tokenization_spaces": true,
45
+ "cls_token": "[CLS]",
46
+ "do_basic_tokenize": true,
47
+ "do_lower_case": true,
48
+ "mask_token": "[MASK]",
49
+ "max_length": 512,
50
+ "model_max_length": 512,
51
+ "never_split": null,
52
+ "pad_to_multiple_of": null,
53
+ "pad_token": "[PAD]",
54
+ "pad_token_type_id": 0,
55
+ "padding_side": "right",
56
+ "sep_token": "[SEP]",
57
+ "stride": 0,
58
+ "strip_accents": null,
59
+ "tokenize_chinese_chars": true,
60
+ "tokenizer_class": "BertTokenizer",
61
+ "truncation_side": "right",
62
+ "truncation_strategy": "longest_first",
63
+ "unk_token": "[UNK]"
64
+ }
vocab.txt ADDED
The diff for this file is too large to render. See raw diff