add CQADupstackRetrieval (#102)
Browse files* add CQADupstackRetrieval
* remove added files
This view is limited to 50 files because it contains too many changes.
See raw diff
- load_external.py +0 -1
- results/Alibaba-NLP__gme-Qwen2-VL-2B-Instruct/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gme-Qwen2-VL-7B-Instruct/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-Qwen1.5-7B-instruct/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-Qwen2-1.5B-instruct/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-Qwen2-7B-instruct/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-base-en-v1.5/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-large-en-v1.5/external/CQADupstackRetrieval.json +44 -16
- results/Alibaba-NLP__gte-multilingual-base/external/CQADupstackRetrieval.json +15 -16
- results/Alignment-Lab-AI__e5-mistral-7b-instruct/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-base-en-v1.5/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-base-en/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-en-icl/external/CQADupstackRetrieval.json +41 -0
- results/BAAI__bge-large-en-v1.5/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-large-en/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-multilingual-gemma2/external/CQADupstackRetrieval.json +41 -0
- results/BAAI__bge-small-en-v1.5/external/CQADupstackRetrieval.json +47 -0
- results/BAAI__bge-small-en/external/CQADupstackRetrieval.json +47 -0
- results/BASF-AI__nomic-embed-text-v1.5/external/CQADupstackRetrieval.json +44 -16
- results/BASF-AI__nomic-embed-text-v1/external/CQADupstackRetrieval.json +44 -16
- results/BeastyZ__e5-R-mistral-7b/external/CQADupstackRetrieval.json +47 -0
- results/BillSYZhang__gte-Qwen2-7B-instruct-Q4-mlx/external/CQADupstackRetrieval.json +44 -16
- results/BookingCare__multilingual-e5-base-similarity-v1-onnx-quantized/external/CQADupstackRetrieval.json +44 -16
- results/CAiRE__UniVaR-lambda-1/external/CQADupstackRetrieval.json +44 -16
- results/CAiRE__UniVaR-lambda-20/external/CQADupstackRetrieval.json +44 -16
- results/CAiRE__UniVaR-lambda-5/external/CQADupstackRetrieval.json +44 -16
- results/CAiRE__UniVaR-lambda-80/external/CQADupstackRetrieval.json +44 -16
- results/Cohere__Cohere-embed-english-light-v3.0/external/CQADupstackRetrieval.json +15 -16
- results/Cohere__Cohere-embed-english-v3.0/external/CQADupstackRetrieval.json +15 -16
- results/Cohere__Cohere-embed-multilingual-light-v3.0/external/CQADupstackRetrieval.json +15 -16
- results/Cohere__Cohere-embed-multilingual-v3.0/external/CQADupstackRetrieval.json +15 -16
- results/Consensus__instructor-base/external/CQADupstackRetrieval.json +44 -16
- results/DecisionOptimizationSystemProduction__DeepFeatTextEmbeddingLarge/external/CQADupstackRetrieval.json +44 -16
- results/DecisionOptimizationSystem__DeepFeatEmbeddingLargeContext/external/CQADupstackRetrieval.json +44 -16
- results/DivineNnamdi__jina-embeddings-v3/external/CQADupstackRetrieval.json +15 -16
- results/Einas__einas_ashkar/external/CQADupstackRetrieval.json +44 -16
- results/Frazic__udever-bloom-3b-sentence/external/CQADupstackRetrieval.json +44 -16
- results/Geolumina__instructor-xl/external/CQADupstackRetrieval.json +44 -16
- results/GritLM__GritLM-7B/external/CQADupstackRetrieval.json +47 -0
- results/GritLM__GritLM-8x7B/external/CQADupstackRetrieval.json +47 -0
- results/HIT-TMG__KaLM-embedding-multilingual-max-instruct-v1/external/CQADupstackRetrieval.json +15 -16
- results/HIT-TMG__KaLM-embedding-multilingual-mini-instruct-v1.5/external/CQADupstackRetrieval.json +15 -16
- results/HIT-TMG__KaLM-embedding-multilingual-mini-instruct-v1/external/CQADupstackRetrieval.json +15 -16
- results/HIT-TMG__KaLM-embedding-multilingual-mini-v1/external/CQADupstackRetrieval.json +15 -16
- results/Hiveurban__multilingual-e5-large-pooled/external/CQADupstackRetrieval.json +47 -0
- results/ISOISS__jina-embeddings-v3-tei/external/CQADupstackRetrieval.json +15 -16
- results/Intel__neural-embedding-v1/external/CQADupstackRetrieval.json +49 -16
- results/Koat__gte-tiny/external/CQADupstackRetrieval.json +44 -16
- results/Labib11__MUG-B-1.6/external/CQADupstackRetrieval.json +49 -16
- results/Linq-AI-Research__Linq-Embed-Mistral/external/CQADupstackRetrieval.json +47 -0
load_external.py
CHANGED
|
@@ -2,7 +2,6 @@ from __future__ import annotations
|
|
| 2 |
|
| 3 |
import json
|
| 4 |
import logging
|
| 5 |
-
import math
|
| 6 |
import re
|
| 7 |
from pathlib import Path
|
| 8 |
from typing import Any
|
|
|
|
| 2 |
|
| 3 |
import json
|
| 4 |
import logging
|
|
|
|
| 5 |
import re
|
| 6 |
from pathlib import Path
|
| 7 |
from typing import Any
|
results/Alibaba-NLP__gme-Qwen2-VL-2B-Instruct/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.25281666666666663,
|
| 14 |
+
"map_at_10": 0.34080666666666665,
|
| 15 |
+
"map_at_100": 0.3527875,
|
| 16 |
+
"map_at_1000": 0.35401833333333327,
|
| 17 |
+
"map_at_3": 0.3145316666666667,
|
| 18 |
+
"map_at_5": 0.32927166666666674,
|
| 19 |
+
"mrr_at_1": 0.2978783333333333,
|
| 20 |
+
"mrr_at_10": 0.38077333333333335,
|
| 21 |
+
"mrr_at_100": 0.38936499999999996,
|
| 22 |
+
"mrr_at_1000": 0.3900024999999999,
|
| 23 |
+
"mrr_at_3": 0.35773499999999997,
|
| 24 |
+
"mrr_at_5": 0.3707683333333334,
|
| 25 |
+
"ndcg_at_1": 0.2978783333333333,
|
| 26 |
+
"ndcg_at_10": 0.39183000000000007,
|
| 27 |
+
"ndcg_at_100": 0.44444750000000005,
|
| 28 |
+
"ndcg_at_1000": 0.46903166666666674,
|
| 29 |
+
"ndcg_at_3": 0.34693083333333324,
|
| 30 |
+
"ndcg_at_5": 0.36803166666666665,
|
| 31 |
+
"precision_at_1": 0.2978783333333333,
|
| 32 |
+
"precision_at_10": 0.06820749999999999,
|
| 33 |
+
"precision_at_100": 0.011224166666666667,
|
| 34 |
+
"precision_at_1000": 0.0015249999999999999,
|
| 35 |
+
"precision_at_3": 0.15936333333333336,
|
| 36 |
+
"precision_at_5": 0.11282333333333333,
|
| 37 |
+
"recall_at_1": 0.25281666666666663,
|
| 38 |
+
"recall_at_10": 0.5028199999999999,
|
| 39 |
+
"recall_at_100": 0.7354558333333334,
|
| 40 |
+
"recall_at_1000": 0.9064241666666666,
|
| 41 |
+
"recall_at_3": 0.37800999999999996,
|
| 42 |
+
"recall_at_5": 0.43223000000000006,
|
| 43 |
+
"main_score": 0.39183000000000007
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gme-Qwen2-VL-7B-Instruct/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2534866666666667,
|
| 14 |
+
"map_at_10": 0.35655416666666667,
|
| 15 |
+
"map_at_100": 0.3698241666666667,
|
| 16 |
+
"map_at_1000": 0.3709416666666667,
|
| 17 |
+
"map_at_3": 0.3242149999999999,
|
| 18 |
+
"map_at_5": 0.3420266666666667,
|
| 19 |
+
"mrr_at_1": 0.3002116666666667,
|
| 20 |
+
"mrr_at_10": 0.39781666666666665,
|
| 21 |
+
"mrr_at_100": 0.40697333333333335,
|
| 22 |
+
"mrr_at_1000": 0.4074875,
|
| 23 |
+
"mrr_at_3": 0.3704308333333334,
|
| 24 |
+
"mrr_at_5": 0.3856391666666666,
|
| 25 |
+
"ndcg_at_1": 0.3002116666666667,
|
| 26 |
+
"ndcg_at_10": 0.41661333333333334,
|
| 27 |
+
"ndcg_at_100": 0.4721474999999999,
|
| 28 |
+
"ndcg_at_1000": 0.49296000000000006,
|
| 29 |
+
"ndcg_at_3": 0.36069583333333344,
|
| 30 |
+
"ndcg_at_5": 0.3866858333333333,
|
| 31 |
+
"precision_at_1": 0.3002116666666667,
|
| 32 |
+
"precision_at_10": 0.0749725,
|
| 33 |
+
"precision_at_100": 0.012044166666666667,
|
| 34 |
+
"precision_at_1000": 0.0015766666666666665,
|
| 35 |
+
"precision_at_3": 0.1683458333333333,
|
| 36 |
+
"precision_at_5": 0.12134,
|
| 37 |
+
"recall_at_1": 0.2534866666666667,
|
| 38 |
+
"recall_at_10": 0.5540541666666666,
|
| 39 |
+
"recall_at_100": 0.7938683333333333,
|
| 40 |
+
"recall_at_1000": 0.9350958333333333,
|
| 41 |
+
"recall_at_3": 0.39998583333333343,
|
| 42 |
+
"recall_at_5": 0.4655741666666666,
|
| 43 |
+
"main_score": 0.41661333333333334
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-Qwen1.5-7B-instruct/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24613833333333332,
|
| 14 |
+
"map_at_10": 0.34763,
|
| 15 |
+
"map_at_100": 0.3617066666666667,
|
| 16 |
+
"map_at_1000": 0.36290500000000003,
|
| 17 |
+
"map_at_3": 0.3153541666666666,
|
| 18 |
+
"map_at_5": 0.33292166666666667,
|
| 19 |
+
"mrr_at_1": 0.2948725,
|
| 20 |
+
"mrr_at_10": 0.3892066666666667,
|
| 21 |
+
"mrr_at_100": 0.3988725000000001,
|
| 22 |
+
"mrr_at_1000": 0.399435,
|
| 23 |
+
"mrr_at_3": 0.36284083333333333,
|
| 24 |
+
"mrr_at_5": 0.3773941666666667,
|
| 25 |
+
"ndcg_at_1": 0.2948725,
|
| 26 |
+
"ndcg_at_10": 0.40635083333333333,
|
| 27 |
+
"ndcg_at_100": 0.4647941666666667,
|
| 28 |
+
"ndcg_at_1000": 0.4863308333333334,
|
| 29 |
+
"ndcg_at_3": 0.3519483333333333,
|
| 30 |
+
"ndcg_at_5": 0.3768016666666667,
|
| 31 |
+
"precision_at_1": 0.2948725,
|
| 32 |
+
"precision_at_10": 0.07406499999999998,
|
| 33 |
+
"precision_at_100": 0.012225833333333333,
|
| 34 |
+
"precision_at_1000": 0.0016108333333333335,
|
| 35 |
+
"precision_at_3": 0.16533750000000003,
|
| 36 |
+
"precision_at_5": 0.11919416666666666,
|
| 37 |
+
"recall_at_1": 0.24613833333333332,
|
| 38 |
+
"recall_at_10": 0.5391766666666666,
|
| 39 |
+
"recall_at_100": 0.7918000000000001,
|
| 40 |
+
"recall_at_1000": 0.9385133333333333,
|
| 41 |
+
"recall_at_3": 0.3886616666666666,
|
| 42 |
+
"recall_at_5": 0.45212750000000007,
|
| 43 |
+
"main_score": 0.40635083333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-Qwen2-1.5B-instruct/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2804433333333334,
|
| 14 |
+
"map_at_10": 0.38786916666666665,
|
| 15 |
+
"map_at_100": 0.40113,
|
| 16 |
+
"map_at_1000": 0.4022125,
|
| 17 |
+
"map_at_3": 0.3552966666666667,
|
| 18 |
+
"map_at_5": 0.3737275,
|
| 19 |
+
"mrr_at_1": 0.33159083333333333,
|
| 20 |
+
"mrr_at_10": 0.4291358333333333,
|
| 21 |
+
"mrr_at_100": 0.43784500000000004,
|
| 22 |
+
"mrr_at_1000": 0.4383033333333334,
|
| 23 |
+
"mrr_at_3": 0.4029816666666667,
|
| 24 |
+
"mrr_at_5": 0.4181366666666667,
|
| 25 |
+
"ndcg_at_1": 0.33159083333333333,
|
| 26 |
+
"ndcg_at_10": 0.44757500000000006,
|
| 27 |
+
"ndcg_at_100": 0.5013658333333334,
|
| 28 |
+
"ndcg_at_1000": 0.52037,
|
| 29 |
+
"ndcg_at_3": 0.39342583333333336,
|
| 30 |
+
"ndcg_at_5": 0.41937083333333325,
|
| 31 |
+
"precision_at_1": 0.33159083333333333,
|
| 32 |
+
"precision_at_10": 0.07952416666666667,
|
| 33 |
+
"precision_at_100": 0.012571666666666668,
|
| 34 |
+
"precision_at_1000": 0.0016099999999999997,
|
| 35 |
+
"precision_at_3": 0.18303833333333336,
|
| 36 |
+
"precision_at_5": 0.13057083333333333,
|
| 37 |
+
"recall_at_1": 0.2804433333333334,
|
| 38 |
+
"recall_at_10": 0.5823725,
|
| 39 |
+
"recall_at_100": 0.8135391666666666,
|
| 40 |
+
"recall_at_1000": 0.9421283333333333,
|
| 41 |
+
"recall_at_3": 0.43323416666666664,
|
| 42 |
+
"recall_at_5": 0.4994908333333333,
|
| 43 |
+
"main_score": 0.44757500000000006
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-Qwen2-7B-instruct/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2817291666666667,
|
| 14 |
+
"map_at_10": 0.40025749999999993,
|
| 15 |
+
"map_at_100": 0.4139208333333333,
|
| 16 |
+
"map_at_1000": 0.4149925,
|
| 17 |
+
"map_at_3": 0.36347,
|
| 18 |
+
"map_at_5": 0.3841391666666667,
|
| 19 |
+
"mrr_at_1": 0.3365925,
|
| 20 |
+
"mrr_at_10": 0.44085499999999994,
|
| 21 |
+
"mrr_at_100": 0.44941166666666665,
|
| 22 |
+
"mrr_at_1000": 0.449855,
|
| 23 |
+
"mrr_at_3": 0.412815,
|
| 24 |
+
"mrr_at_5": 0.42914916666666664,
|
| 25 |
+
"ndcg_at_1": 0.3365925,
|
| 26 |
+
"ndcg_at_10": 0.46430833333333327,
|
| 27 |
+
"ndcg_at_100": 0.51761,
|
| 28 |
+
"ndcg_at_1000": 0.53509,
|
| 29 |
+
"ndcg_at_3": 0.4045133333333333,
|
| 30 |
+
"ndcg_at_5": 0.4331483333333334,
|
| 31 |
+
"precision_at_1": 0.3365925,
|
| 32 |
+
"precision_at_10": 0.08499499999999999,
|
| 33 |
+
"precision_at_100": 0.013210000000000005,
|
| 34 |
+
"precision_at_1000": 0.0016591666666666666,
|
| 35 |
+
"precision_at_3": 0.19165083333333335,
|
| 36 |
+
"precision_at_5": 0.1381816666666667,
|
| 37 |
+
"recall_at_1": 0.2817291666666667,
|
| 38 |
+
"recall_at_10": 0.6112624999999999,
|
| 39 |
+
"recall_at_100": 0.8397266666666667,
|
| 40 |
+
"recall_at_1000": 0.956655,
|
| 41 |
+
"recall_at_3": 0.44661249999999997,
|
| 42 |
+
"recall_at_5": 0.5198333333333334,
|
| 43 |
+
"main_score": 0.46430833333333327
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-base-en-v1.5/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2418591666666667,
|
| 14 |
+
"map_at_10": 0.3384258333333333,
|
| 15 |
+
"map_at_100": 0.3511391666666666,
|
| 16 |
+
"map_at_1000": 0.3523258333333333,
|
| 17 |
+
"map_at_3": 0.3076425,
|
| 18 |
+
"map_at_5": 0.32523333333333343,
|
| 19 |
+
"mrr_at_1": 0.2854733333333333,
|
| 20 |
+
"mrr_at_10": 0.3781725,
|
| 21 |
+
"mrr_at_100": 0.387165,
|
| 22 |
+
"mrr_at_1000": 0.38774583333333335,
|
| 23 |
+
"mrr_at_3": 0.3515783333333334,
|
| 24 |
+
"mrr_at_5": 0.3669816666666667,
|
| 25 |
+
"ndcg_at_1": 0.2854733333333333,
|
| 26 |
+
"ndcg_at_10": 0.39515083333333334,
|
| 27 |
+
"ndcg_at_100": 0.4495316666666666,
|
| 28 |
+
"ndcg_at_1000": 0.47257083333333333,
|
| 29 |
+
"ndcg_at_3": 0.34205833333333324,
|
| 30 |
+
"ndcg_at_5": 0.3678266666666667,
|
| 31 |
+
"precision_at_1": 0.2854733333333333,
|
| 32 |
+
"precision_at_10": 0.07082583333333334,
|
| 33 |
+
"precision_at_100": 0.011590833333333333,
|
| 34 |
+
"precision_at_1000": 0.0015516666666666663,
|
| 35 |
+
"precision_at_3": 0.15908750000000002,
|
| 36 |
+
"precision_at_5": 0.1150541666666667,
|
| 37 |
+
"recall_at_1": 0.2418591666666667,
|
| 38 |
+
"recall_at_10": 0.5238758333333333,
|
| 39 |
+
"recall_at_100": 0.7613666666666667,
|
| 40 |
+
"recall_at_1000": 0.9199066666666667,
|
| 41 |
+
"recall_at_3": 0.3778333333333334,
|
| 42 |
+
"recall_at_5": 0.4430141666666666,
|
| 43 |
+
"main_score": 0.39515083333333334
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-large-en-v1.5/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2591033333333334,
|
| 14 |
+
"map_at_10": 0.3623225000000001,
|
| 15 |
+
"map_at_100": 0.37557666666666667,
|
| 16 |
+
"map_at_1000": 0.37672583333333337,
|
| 17 |
+
"map_at_3": 0.32956666666666673,
|
| 18 |
+
"map_at_5": 0.3473375,
|
| 19 |
+
"mrr_at_1": 0.30634,
|
| 20 |
+
"mrr_at_10": 0.4019449999999999,
|
| 21 |
+
"mrr_at_100": 0.41099250000000004,
|
| 22 |
+
"mrr_at_1000": 0.41150916666666665,
|
| 23 |
+
"mrr_at_3": 0.37461500000000003,
|
| 24 |
+
"mrr_at_5": 0.39002166666666666,
|
| 25 |
+
"ndcg_at_1": 0.30634,
|
| 26 |
+
"ndcg_at_10": 0.4216216666666666,
|
| 27 |
+
"ndcg_at_100": 0.4760708333333333,
|
| 28 |
+
"ndcg_at_1000": 0.4968616666666666,
|
| 29 |
+
"ndcg_at_3": 0.3660316666666666,
|
| 30 |
+
"ndcg_at_5": 0.3915616666666668,
|
| 31 |
+
"precision_at_1": 0.30634,
|
| 32 |
+
"precision_at_10": 0.07619333333333334,
|
| 33 |
+
"precision_at_100": 0.012198333333333334,
|
| 34 |
+
"precision_at_1000": 0.0015975000000000004,
|
| 35 |
+
"precision_at_3": 0.17087,
|
| 36 |
+
"precision_at_5": 0.12298333333333333,
|
| 37 |
+
"recall_at_1": 0.2591033333333334,
|
| 38 |
+
"recall_at_10": 0.5567300000000001,
|
| 39 |
+
"recall_at_100": 0.7920608333333334,
|
| 40 |
+
"recall_at_1000": 0.9334866666666667,
|
| 41 |
+
"recall_at_3": 0.4034858333333333,
|
| 42 |
+
"recall_at_5": 0.46834083333333326,
|
| 43 |
+
"main_score": 0.4216216666666666
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Alibaba-NLP__gte-multilingual-base/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"ndcg_at_10": 0.38121833333333327,
|
| 14 |
+
"main_score": 0.38121833333333327
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Alignment-Lab-AI__e5-mistral-7b-instruct/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2716233333333333,
|
| 14 |
+
"map_at_10": 0.3722291666666667,
|
| 15 |
+
"map_at_100": 0.3856733333333333,
|
| 16 |
+
"map_at_1000": 0.38684250000000003,
|
| 17 |
+
"map_at_3": 0.34228583333333334,
|
| 18 |
+
"map_at_5": 0.35852500000000004,
|
| 19 |
+
"mrr_at_1": 0.3245983333333334,
|
| 20 |
+
"mrr_at_10": 0.4165358333333333,
|
| 21 |
+
"mrr_at_100": 0.42566916666666665,
|
| 22 |
+
"mrr_at_1000": 0.4261766666666667,
|
| 23 |
+
"mrr_at_3": 0.392105,
|
| 24 |
+
"mrr_at_5": 0.40582166666666664,
|
| 25 |
+
"ndcg_at_1": 0.3245983333333334,
|
| 26 |
+
"ndcg_at_10": 0.4296758333333333,
|
| 27 |
+
"ndcg_at_100": 0.485065,
|
| 28 |
+
"ndcg_at_1000": 0.5055658333333334,
|
| 29 |
+
"ndcg_at_3": 0.3800441666666666,
|
| 30 |
+
"ndcg_at_5": 0.40259166666666674,
|
| 31 |
+
"precision_at_1": 0.3245983333333334,
|
| 32 |
+
"precision_at_10": 0.07664583333333333,
|
| 33 |
+
"precision_at_100": 0.012349999999999998,
|
| 34 |
+
"precision_at_1000": 0.0015966666666666668,
|
| 35 |
+
"precision_at_3": 0.17731166666666665,
|
| 36 |
+
"precision_at_5": 0.12575333333333336,
|
| 37 |
+
"recall_at_1": 0.2716233333333333,
|
| 38 |
+
"recall_at_10": 0.5544158333333334,
|
| 39 |
+
"recall_at_100": 0.7956966666666666,
|
| 40 |
+
"recall_at_1000": 0.9345224999999999,
|
| 41 |
+
"recall_at_3": 0.41433083333333337,
|
| 42 |
+
"recall_at_5": 0.4731108333333333,
|
| 43 |
+
"main_score": 0.4296758333333333
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-base-en-v1.5/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2770775,
|
| 14 |
+
"map_at_10": 0.36961,
|
| 15 |
+
"map_at_100": 0.38158833333333336,
|
| 16 |
+
"map_at_1000": 0.3827033333333333,
|
| 17 |
+
"map_at_3": 0.3407183333333334,
|
| 18 |
+
"map_at_5": 0.3569533333333334,
|
| 19 |
+
"mrr_at_1": 0.3281875,
|
| 20 |
+
"mrr_at_10": 0.41293,
|
| 21 |
+
"mrr_at_100": 0.42116499999999996,
|
| 22 |
+
"mrr_at_1000": 0.4217025,
|
| 23 |
+
"mrr_at_3": 0.3883983333333333,
|
| 24 |
+
"mrr_at_5": 0.4029775,
|
| 25 |
+
"ndcg_at_1": 0.3281875,
|
| 26 |
+
"ndcg_at_10": 0.42355,
|
| 27 |
+
"ndcg_at_100": 0.47413749999999993,
|
| 28 |
+
"ndcg_at_1000": 0.495805,
|
| 29 |
+
"ndcg_at_3": 0.3752825,
|
| 30 |
+
"ndcg_at_5": 0.39832666666666666,
|
| 31 |
+
"precision_at_1": 0.3281875,
|
| 32 |
+
"precision_at_10": 0.07382416666666666,
|
| 33 |
+
"precision_at_100": 0.011640833333333333,
|
| 34 |
+
"precision_at_1000": 0.0015383333333333334,
|
| 35 |
+
"precision_at_3": 0.17134166666666664,
|
| 36 |
+
"precision_at_5": 0.12174833333333336,
|
| 37 |
+
"recall_at_1": 0.2770775,
|
| 38 |
+
"recall_at_10": 0.53945,
|
| 39 |
+
"recall_at_100": 0.76191,
|
| 40 |
+
"recall_at_1000": 0.91101,
|
| 41 |
+
"recall_at_3": 0.4039083333333334,
|
| 42 |
+
"recall_at_5": 0.4640083333333333,
|
| 43 |
+
"main_score": 0.42355
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-base-en/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.27057416666666667,
|
| 14 |
+
"map_at_10": 0.36086416666666665,
|
| 15 |
+
"map_at_100": 0.3726916666666667,
|
| 16 |
+
"map_at_1000": 0.3738191666666666,
|
| 17 |
+
"map_at_3": 0.3334225,
|
| 18 |
+
"map_at_5": 0.34864249999999997,
|
| 19 |
+
"mrr_at_1": 0.32060083333333333,
|
| 20 |
+
"mrr_at_10": 0.40366583333333333,
|
| 21 |
+
"mrr_at_100": 0.41206500000000007,
|
| 22 |
+
"mrr_at_1000": 0.41261083333333326,
|
| 23 |
+
"mrr_at_3": 0.38012083333333335,
|
| 24 |
+
"mrr_at_5": 0.39368583333333335,
|
| 25 |
+
"ndcg_at_1": 0.32060083333333333,
|
| 26 |
+
"ndcg_at_10": 0.413535,
|
| 27 |
+
"ndcg_at_100": 0.4642066666666666,
|
| 28 |
+
"ndcg_at_1000": 0.48655166666666666,
|
| 29 |
+
"ndcg_at_3": 0.36780416666666665,
|
| 30 |
+
"ndcg_at_5": 0.3891783333333334,
|
| 31 |
+
"precision_at_1": 0.32060083333333333,
|
| 32 |
+
"precision_at_10": 0.07169833333333332,
|
| 33 |
+
"precision_at_100": 0.011394999999999999,
|
| 34 |
+
"precision_at_1000": 0.0015158333333333332,
|
| 35 |
+
"precision_at_3": 0.16852,
|
| 36 |
+
"precision_at_5": 0.118645,
|
| 37 |
+
"recall_at_1": 0.27057416666666667,
|
| 38 |
+
"recall_at_10": 0.5264491666666666,
|
| 39 |
+
"recall_at_100": 0.7499791666666666,
|
| 40 |
+
"recall_at_1000": 0.9050524999999999,
|
| 41 |
+
"recall_at_3": 0.39684,
|
| 42 |
+
"recall_at_5": 0.45372250000000003,
|
| 43 |
+
"main_score": 0.413535
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-en-icl/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,41 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.47308084499970704,
|
| 14 |
+
"ndcg_at_1": 0.36038578730542475,
|
| 15 |
+
"ndcg_at_3": 0.4193136535645304,
|
| 16 |
+
"ndcg_at_5": 0.44479015523894994,
|
| 17 |
+
"ndcg_at_10": 0.47308084499970704,
|
| 18 |
+
"ndcg_at_100": 0.524980624305136,
|
| 19 |
+
"ndcg_at_1000": 0.542908789514719,
|
| 20 |
+
"map_at_1": 0.3038821701528966,
|
| 21 |
+
"map_at_3": 0.37974871761903634,
|
| 22 |
+
"map_at_5": 0.3985399878507757,
|
| 23 |
+
"map_at_10": 0.4131456611036795,
|
| 24 |
+
"map_at_100": 0.42629078366558354,
|
| 25 |
+
"map_at_1000": 0.42737235870659845,
|
| 26 |
+
"precision_at_1": 0.36038578730542475,
|
| 27 |
+
"precision_at_3": 0.19399601800946328,
|
| 28 |
+
"precision_at_5": 0.1379264655952497,
|
| 29 |
+
"precision_at_10": 0.08399223517333387,
|
| 30 |
+
"precision_at_100": 0.012992373779520896,
|
| 31 |
+
"precision_at_1000": 0.0016327170951909568,
|
| 32 |
+
"recall_at_1": 0.3038821701528966,
|
| 33 |
+
"recall_at_3": 0.45516455125641647,
|
| 34 |
+
"recall_at_5": 0.5206077167834868,
|
| 35 |
+
"recall_at_10": 0.6038864106788279,
|
| 36 |
+
"recall_at_100": 0.8276968509918343,
|
| 37 |
+
"recall_at_1000": 0.9484170217080344
|
| 38 |
+
}
|
| 39 |
+
]
|
| 40 |
+
}
|
| 41 |
+
}
|
results/BAAI__bge-large-en-v1.5/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2715516666666667,
|
| 14 |
+
"map_at_10": 0.3665741666666667,
|
| 15 |
+
"map_at_100": 0.3784991666666666,
|
| 16 |
+
"map_at_1000": 0.37963166666666676,
|
| 17 |
+
"map_at_3": 0.3374974999999999,
|
| 18 |
+
"map_at_5": 0.353765,
|
| 19 |
+
"mrr_at_1": 0.3208233333333334,
|
| 20 |
+
"mrr_at_10": 0.41033833333333336,
|
| 21 |
+
"mrr_at_100": 0.41845249999999995,
|
| 22 |
+
"mrr_at_1000": 0.41899833333333336,
|
| 23 |
+
"mrr_at_3": 0.3862008333333333,
|
| 24 |
+
"mrr_at_5": 0.40034416666666656,
|
| 25 |
+
"ndcg_at_1": 0.3208233333333334,
|
| 26 |
+
"ndcg_at_10": 0.42229,
|
| 27 |
+
"ndcg_at_100": 0.47267166666666666,
|
| 28 |
+
"ndcg_at_1000": 0.4943466666666667,
|
| 29 |
+
"ndcg_at_3": 0.3736408333333333,
|
| 30 |
+
"ndcg_at_5": 0.39671500000000004,
|
| 31 |
+
"precision_at_1": 0.3208233333333334,
|
| 32 |
+
"precision_at_10": 0.07382583333333334,
|
| 33 |
+
"precision_at_100": 0.0116625,
|
| 34 |
+
"precision_at_1000": 0.0015408333333333333,
|
| 35 |
+
"precision_at_3": 0.17218,
|
| 36 |
+
"precision_at_5": 0.1221875,
|
| 37 |
+
"recall_at_1": 0.2715516666666667,
|
| 38 |
+
"recall_at_10": 0.5436683333333333,
|
| 39 |
+
"recall_at_100": 0.7637183333333333,
|
| 40 |
+
"recall_at_1000": 0.9126183333333333,
|
| 41 |
+
"recall_at_3": 0.4076991666666667,
|
| 42 |
+
"recall_at_5": 0.46702333333333335,
|
| 43 |
+
"main_score": 0.42229
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-large-en/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.26853499999999997,
|
| 14 |
+
"map_at_10": 0.36204333333333333,
|
| 15 |
+
"map_at_100": 0.3740391666666667,
|
| 16 |
+
"map_at_1000": 0.37515,
|
| 17 |
+
"map_at_3": 0.33399749999999995,
|
| 18 |
+
"map_at_5": 0.34966500000000006,
|
| 19 |
+
"mrr_at_1": 0.3162666666666667,
|
| 20 |
+
"mrr_at_10": 0.4043675,
|
| 21 |
+
"mrr_at_100": 0.4126033333333334,
|
| 22 |
+
"mrr_at_1000": 0.4131525,
|
| 23 |
+
"mrr_at_3": 0.38067333333333325,
|
| 24 |
+
"mrr_at_5": 0.39415416666666675,
|
| 25 |
+
"ndcg_at_1": 0.3162666666666667,
|
| 26 |
+
"ndcg_at_10": 0.41633416666666667,
|
| 27 |
+
"ndcg_at_100": 0.46704166666666663,
|
| 28 |
+
"ndcg_at_1000": 0.4888483333333335,
|
| 29 |
+
"ndcg_at_3": 0.36896,
|
| 30 |
+
"ndcg_at_5": 0.3911891666666667,
|
| 31 |
+
"precision_at_1": 0.3162666666666667,
|
| 32 |
+
"precision_at_10": 0.07241083333333333,
|
| 33 |
+
"precision_at_100": 0.011488333333333333,
|
| 34 |
+
"precision_at_1000": 0.0015250000000000003,
|
| 35 |
+
"precision_at_3": 0.16908333333333336,
|
| 36 |
+
"precision_at_5": 0.11942833333333333,
|
| 37 |
+
"recall_at_1": 0.26853499999999997,
|
| 38 |
+
"recall_at_10": 0.5346133333333334,
|
| 39 |
+
"recall_at_100": 0.7563633333333333,
|
| 40 |
+
"recall_at_1000": 0.9067016666666666,
|
| 41 |
+
"recall_at_3": 0.4024241666666667,
|
| 42 |
+
"recall_at_5": 0.45986083333333333,
|
| 43 |
+
"main_score": 0.41633416666666667
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-multilingual-gemma2/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,41 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.4793921415959017,
|
| 14 |
+
"ndcg_at_1": 0.36526219490536016,
|
| 15 |
+
"ndcg_at_3": 0.4235099043224295,
|
| 16 |
+
"ndcg_at_5": 0.44989685312964156,
|
| 17 |
+
"ndcg_at_10": 0.4793921415959017,
|
| 18 |
+
"ndcg_at_100": 0.5305390282389675,
|
| 19 |
+
"ndcg_at_1000": 0.5477605273179427,
|
| 20 |
+
"map_at_1": 0.30818605279548184,
|
| 21 |
+
"map_at_3": 0.3836335001908797,
|
| 22 |
+
"map_at_5": 0.40295203936887225,
|
| 23 |
+
"map_at_10": 0.41819789416625924,
|
| 24 |
+
"map_at_100": 0.4313300727554278,
|
| 25 |
+
"map_at_1000": 0.43235106112020705,
|
| 26 |
+
"precision_at_1": 0.36526219490536016,
|
| 27 |
+
"precision_at_3": 0.19550515857206346,
|
| 28 |
+
"precision_at_5": 0.13958783060831967,
|
| 29 |
+
"precision_at_10": 0.08498592395773392,
|
| 30 |
+
"precision_at_100": 0.013024888941713948,
|
| 31 |
+
"precision_at_1000": 0.001630253057414617,
|
| 32 |
+
"recall_at_1": 0.30818605279548184,
|
| 33 |
+
"recall_at_3": 0.459132085981904,
|
| 34 |
+
"recall_at_5": 0.526851323959227,
|
| 35 |
+
"recall_at_10": 0.6139718618970462,
|
| 36 |
+
"recall_at_100": 0.833075718796998,
|
| 37 |
+
"recall_at_1000": 0.949192024147964
|
| 38 |
+
}
|
| 39 |
+
]
|
| 40 |
+
}
|
| 41 |
+
}
|
results/BAAI__bge-small-en-v1.5/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24937916666666665,
|
| 14 |
+
"map_at_10": 0.33755250000000003,
|
| 15 |
+
"map_at_100": 0.34956,
|
| 16 |
+
"map_at_1000": 0.35070499999999993,
|
| 17 |
+
"map_at_3": 0.3098708333333333,
|
| 18 |
+
"map_at_5": 0.3251491666666666,
|
| 19 |
+
"mrr_at_1": 0.2948708333333333,
|
| 20 |
+
"mrr_at_10": 0.3792183333333334,
|
| 21 |
+
"mrr_at_100": 0.3876583333333333,
|
| 22 |
+
"mrr_at_1000": 0.38824666666666674,
|
| 23 |
+
"mrr_at_3": 0.3545125,
|
| 24 |
+
"mrr_at_5": 0.36827000000000004,
|
| 25 |
+
"ndcg_at_1": 0.2948708333333333,
|
| 26 |
+
"ndcg_at_10": 0.3905225,
|
| 27 |
+
"ndcg_at_100": 0.4425983333333334,
|
| 28 |
+
"ndcg_at_1000": 0.46568333333333334,
|
| 29 |
+
"ndcg_at_3": 0.3427158333333333,
|
| 30 |
+
"ndcg_at_5": 0.36483916666666666,
|
| 31 |
+
"precision_at_1": 0.2948708333333333,
|
| 32 |
+
"precision_at_10": 0.0686575,
|
| 33 |
+
"precision_at_100": 0.011195833333333332,
|
| 34 |
+
"precision_at_1000": 0.0015058333333333334,
|
| 35 |
+
"precision_at_3": 0.15742083333333334,
|
| 36 |
+
"precision_at_5": 0.11221916666666668,
|
| 37 |
+
"recall_at_1": 0.24937916666666665,
|
| 38 |
+
"recall_at_10": 0.5065041666666666,
|
| 39 |
+
"recall_at_100": 0.7355383333333334,
|
| 40 |
+
"recall_at_1000": 0.8961691666666667,
|
| 41 |
+
"recall_at_3": 0.3727808333333334,
|
| 42 |
+
"recall_at_5": 0.42994750000000004,
|
| 43 |
+
"main_score": 0.3905225
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BAAI__bge-small-en/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24669249999999998,
|
| 14 |
+
"map_at_10": 0.33332583333333327,
|
| 15 |
+
"map_at_100": 0.3455783333333333,
|
| 16 |
+
"map_at_1000": 0.3467141666666666,
|
| 17 |
+
"map_at_3": 0.30663166666666664,
|
| 18 |
+
"map_at_5": 0.32148833333333326,
|
| 19 |
+
"mrr_at_1": 0.29193833333333336,
|
| 20 |
+
"mrr_at_10": 0.3747625,
|
| 21 |
+
"mrr_at_100": 0.383545,
|
| 22 |
+
"mrr_at_1000": 0.38413166666666676,
|
| 23 |
+
"mrr_at_3": 0.3506741666666667,
|
| 24 |
+
"mrr_at_5": 0.36450666666666653,
|
| 25 |
+
"ndcg_at_1": 0.29193833333333336,
|
| 26 |
+
"ndcg_at_10": 0.38505416666666675,
|
| 27 |
+
"ndcg_at_100": 0.4381125,
|
| 28 |
+
"ndcg_at_1000": 0.4609558333333333,
|
| 29 |
+
"ndcg_at_3": 0.33909166666666674,
|
| 30 |
+
"ndcg_at_5": 0.3607666666666666,
|
| 31 |
+
"precision_at_1": 0.29193833333333336,
|
| 32 |
+
"precision_at_10": 0.06725166666666667,
|
| 33 |
+
"precision_at_100": 0.011058333333333331,
|
| 34 |
+
"precision_at_1000": 0.0014833333333333332,
|
| 35 |
+
"precision_at_3": 0.15554166666666666,
|
| 36 |
+
"precision_at_5": 0.11079250000000002,
|
| 37 |
+
"recall_at_1": 0.24669249999999998,
|
| 38 |
+
"recall_at_10": 0.4975583333333332,
|
| 39 |
+
"recall_at_100": 0.7306908333333333,
|
| 40 |
+
"recall_at_1000": 0.8891316666666667,
|
| 41 |
+
"recall_at_3": 0.36913250000000003,
|
| 42 |
+
"recall_at_5": 0.42486416666666665,
|
| 43 |
+
"main_score": 0.38505416666666675
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BASF-AI__nomic-embed-text-v1.5/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.25732166666666667,
|
| 14 |
+
"map_at_10": 0.3451616666666667,
|
| 15 |
+
"map_at_100": 0.3567241666666666,
|
| 16 |
+
"map_at_1000": 0.3578675,
|
| 17 |
+
"map_at_3": 0.3195341666666666,
|
| 18 |
+
"map_at_5": 0.33332999999999996,
|
| 19 |
+
"mrr_at_1": 0.3030016666666667,
|
| 20 |
+
"mrr_at_10": 0.386255,
|
| 21 |
+
"mrr_at_100": 0.3946183333333334,
|
| 22 |
+
"mrr_at_1000": 0.39519999999999994,
|
| 23 |
+
"mrr_at_3": 0.3641299999999999,
|
| 24 |
+
"mrr_at_5": 0.376365,
|
| 25 |
+
"ndcg_at_1": 0.3030016666666667,
|
| 26 |
+
"ndcg_at_10": 0.3961466666666667,
|
| 27 |
+
"ndcg_at_100": 0.4460808333333334,
|
| 28 |
+
"ndcg_at_1000": 0.46917083333333337,
|
| 29 |
+
"ndcg_at_3": 0.35265583333333334,
|
| 30 |
+
"ndcg_at_5": 0.3722000000000001,
|
| 31 |
+
"precision_at_1": 0.3030016666666667,
|
| 32 |
+
"precision_at_10": 0.06837416666666667,
|
| 33 |
+
"precision_at_100": 0.0110425,
|
| 34 |
+
"precision_at_1000": 0.0014874999999999999,
|
| 35 |
+
"precision_at_3": 0.1613716666666667,
|
| 36 |
+
"precision_at_5": 0.112815,
|
| 37 |
+
"recall_at_1": 0.25732166666666667,
|
| 38 |
+
"recall_at_10": 0.5057891666666666,
|
| 39 |
+
"recall_at_100": 0.7242183333333334,
|
| 40 |
+
"recall_at_1000": 0.8848766666666666,
|
| 41 |
+
"recall_at_3": 0.3841325,
|
| 42 |
+
"recall_at_5": 0.43515750000000003,
|
| 43 |
+
"main_score": 0.3961466666666667
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/BASF-AI__nomic-embed-text-v1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2500791666666667,
|
| 14 |
+
"map_at_10": 0.33287749999999994,
|
| 15 |
+
"map_at_100": 0.34411416666666667,
|
| 16 |
+
"map_at_1000": 0.34525833333333333,
|
| 17 |
+
"map_at_3": 0.3073441666666667,
|
| 18 |
+
"map_at_5": 0.32137166666666667,
|
| 19 |
+
"mrr_at_1": 0.29305666666666663,
|
| 20 |
+
"mrr_at_10": 0.3722966666666666,
|
| 21 |
+
"mrr_at_100": 0.3806658333333333,
|
| 22 |
+
"mrr_at_1000": 0.3812616666666667,
|
| 23 |
+
"mrr_at_3": 0.3492275,
|
| 24 |
+
"mrr_at_5": 0.3623333333333334,
|
| 25 |
+
"ndcg_at_1": 0.29305666666666663,
|
| 26 |
+
"ndcg_at_10": 0.3825533333333333,
|
| 27 |
+
"ndcg_at_100": 0.4325266666666666,
|
| 28 |
+
"ndcg_at_1000": 0.45635833333333337,
|
| 29 |
+
"ndcg_at_3": 0.33777166666666664,
|
| 30 |
+
"ndcg_at_5": 0.35850000000000004,
|
| 31 |
+
"precision_at_1": 0.29305666666666663,
|
| 32 |
+
"precision_at_10": 0.06596416666666667,
|
| 33 |
+
"precision_at_100": 0.010784166666666668,
|
| 34 |
+
"precision_at_1000": 0.0014666666666666665,
|
| 35 |
+
"precision_at_3": 0.1531075,
|
| 36 |
+
"precision_at_5": 0.10830916666666666,
|
| 37 |
+
"recall_at_1": 0.2500791666666667,
|
| 38 |
+
"recall_at_10": 0.4910933333333333,
|
| 39 |
+
"recall_at_100": 0.7109216666666667,
|
| 40 |
+
"recall_at_1000": 0.8777725000000001,
|
| 41 |
+
"recall_at_3": 0.36660916666666665,
|
| 42 |
+
"recall_at_5": 0.4194149999999999,
|
| 43 |
+
"main_score": 0.3825533333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/BeastyZ__e5-R-mistral-7b/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2475,
|
| 14 |
+
"map_at_10": 0.34025,
|
| 15 |
+
"map_at_100": 0.35126000000000007,
|
| 16 |
+
"map_at_1000": 0.35219,
|
| 17 |
+
"map_at_3": 0.31607,
|
| 18 |
+
"map_at_5": 0.32962,
|
| 19 |
+
"mrr_at_1": 0.27357,
|
| 20 |
+
"mrr_at_10": 0.36371,
|
| 21 |
+
"mrr_at_100": 0.37364,
|
| 22 |
+
"mrr_at_1000": 0.37423,
|
| 23 |
+
"mrr_at_3": 0.34288,
|
| 24 |
+
"mrr_at_5": 0.35434,
|
| 25 |
+
"ndcg_at_1": 0.27357,
|
| 26 |
+
"ndcg_at_10": 0.46593999999999997,
|
| 27 |
+
"ndcg_at_100": 0.44317,
|
| 28 |
+
"ndcg_at_1000": 0.46475,
|
| 29 |
+
"ndcg_at_3": 0.34473,
|
| 30 |
+
"ndcg_at_5": 0.36561,
|
| 31 |
+
"precision_at_1": 0.27357,
|
| 32 |
+
"precision_at_10": 0.06081,
|
| 33 |
+
"precision_at_100": 0.0093,
|
| 34 |
+
"precision_at_1000": 0.00124,
|
| 35 |
+
"precision_at_3": 0.14911,
|
| 36 |
+
"precision_at_5": 0.1024,
|
| 37 |
+
"recall_at_1": 0.2475,
|
| 38 |
+
"recall_at_10": 0.51856,
|
| 39 |
+
"recall_at_100": 0.7644300000000002,
|
| 40 |
+
"recall_at_1000": 0.92078,
|
| 41 |
+
"recall_at_3": 0.39427,
|
| 42 |
+
"recall_at_5": 0.44639,
|
| 43 |
+
"main_score": 0.46593999999999997
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/BillSYZhang__gte-Qwen2-7B-instruct-Q4-mlx/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.17936,
|
| 14 |
+
"map_at_10": 0.27399,
|
| 15 |
+
"map_at_100": 0.28632,
|
| 16 |
+
"map_at_1000": 0.28738,
|
| 17 |
+
"map_at_3": 0.24456,
|
| 18 |
+
"map_at_5": 0.2606,
|
| 19 |
+
"mrr_at_1": 0.19224,
|
| 20 |
+
"mrr_at_10": 0.28998,
|
| 21 |
+
"mrr_at_100": 0.3011,
|
| 22 |
+
"mrr_at_1000": 0.30177,
|
| 23 |
+
"mrr_at_3": 0.26248,
|
| 24 |
+
"mrr_at_5": 0.27708,
|
| 25 |
+
"ndcg_at_1": 0.19224,
|
| 26 |
+
"ndcg_at_10": 0.32911,
|
| 27 |
+
"ndcg_at_100": 0.38874,
|
| 28 |
+
"ndcg_at_1000": 0.41277,
|
| 29 |
+
"ndcg_at_3": 0.27142,
|
| 30 |
+
"ndcg_at_5": 0.29755,
|
| 31 |
+
"precision_at_1": 0.19224,
|
| 32 |
+
"precision_at_10": 0.05693000000000001,
|
| 33 |
+
"precision_at_100": 0.00926,
|
| 34 |
+
"precision_at_1000": 0.00126,
|
| 35 |
+
"precision_at_3": 0.12138,
|
| 36 |
+
"precision_at_5": 0.08909,
|
| 37 |
+
"recall_at_1": 0.17936,
|
| 38 |
+
"recall_at_10": 0.48095999999999994,
|
| 39 |
+
"recall_at_100": 0.75389,
|
| 40 |
+
"recall_at_1000": 0.92803,
|
| 41 |
+
"recall_at_3": 0.32813,
|
| 42 |
+
"recall_at_5": 0.38850999999999997,
|
| 43 |
+
"main_score": 0.32911
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/BookingCare__multilingual-e5-base-similarity-v1-onnx-quantized/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.25946583333333334,
|
| 14 |
+
"map_at_10": 0.3379725,
|
| 15 |
+
"map_at_100": 0.34864083333333334,
|
| 16 |
+
"map_at_1000": 0.349795,
|
| 17 |
+
"map_at_3": 0.3126,
|
| 18 |
+
"map_at_5": 0.32715416666666663,
|
| 19 |
+
"mrr_at_1": 0.30863749999999995,
|
| 20 |
+
"mrr_at_10": 0.3799183333333333,
|
| 21 |
+
"mrr_at_100": 0.38790499999999994,
|
| 22 |
+
"mrr_at_1000": 0.38855750000000006,
|
| 23 |
+
"mrr_at_3": 0.35820833333333335,
|
| 24 |
+
"mrr_at_5": 0.3707533333333333,
|
| 25 |
+
"ndcg_at_1": 0.30863749999999995,
|
| 26 |
+
"ndcg_at_10": 0.3852141666666667,
|
| 27 |
+
"ndcg_at_100": 0.4317966666666667,
|
| 28 |
+
"ndcg_at_1000": 0.4564608333333333,
|
| 29 |
+
"ndcg_at_3": 0.3433300000000001,
|
| 30 |
+
"ndcg_at_5": 0.36349750000000003,
|
| 31 |
+
"precision_at_1": 0.30863749999999995,
|
| 32 |
+
"precision_at_10": 0.06599,
|
| 33 |
+
"precision_at_100": 0.010502500000000001,
|
| 34 |
+
"precision_at_1000": 0.00144,
|
| 35 |
+
"precision_at_3": 0.15557583333333333,
|
| 36 |
+
"precision_at_5": 0.11020000000000002,
|
| 37 |
+
"recall_at_1": 0.25946583333333334,
|
| 38 |
+
"recall_at_10": 0.4836991666666666,
|
| 39 |
+
"recall_at_100": 0.6902408333333334,
|
| 40 |
+
"recall_at_1000": 0.8643858333333331,
|
| 41 |
+
"recall_at_3": 0.364965,
|
| 42 |
+
"recall_at_5": 0.41762583333333336,
|
| 43 |
+
"main_score": 0.3852141666666667
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/CAiRE__UniVaR-lambda-1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2500791666666667,
|
| 14 |
+
"map_at_10": 0.33287749999999994,
|
| 15 |
+
"map_at_100": 0.34411416666666667,
|
| 16 |
+
"map_at_1000": 0.34525833333333333,
|
| 17 |
+
"map_at_3": 0.3073441666666667,
|
| 18 |
+
"map_at_5": 0.32137166666666667,
|
| 19 |
+
"mrr_at_1": 0.29305666666666663,
|
| 20 |
+
"mrr_at_10": 0.3722966666666666,
|
| 21 |
+
"mrr_at_100": 0.3806658333333333,
|
| 22 |
+
"mrr_at_1000": 0.3812616666666667,
|
| 23 |
+
"mrr_at_3": 0.3492275,
|
| 24 |
+
"mrr_at_5": 0.3623333333333334,
|
| 25 |
+
"ndcg_at_1": 0.29305666666666663,
|
| 26 |
+
"ndcg_at_10": 0.3825533333333333,
|
| 27 |
+
"ndcg_at_100": 0.4325266666666666,
|
| 28 |
+
"ndcg_at_1000": 0.45635833333333337,
|
| 29 |
+
"ndcg_at_3": 0.33777166666666664,
|
| 30 |
+
"ndcg_at_5": 0.35850000000000004,
|
| 31 |
+
"precision_at_1": 0.29305666666666663,
|
| 32 |
+
"precision_at_10": 0.06596416666666667,
|
| 33 |
+
"precision_at_100": 0.010784166666666668,
|
| 34 |
+
"precision_at_1000": 0.0014666666666666665,
|
| 35 |
+
"precision_at_3": 0.1531075,
|
| 36 |
+
"precision_at_5": 0.10830916666666666,
|
| 37 |
+
"recall_at_1": 0.2500791666666667,
|
| 38 |
+
"recall_at_10": 0.4910933333333333,
|
| 39 |
+
"recall_at_100": 0.7109216666666667,
|
| 40 |
+
"recall_at_1000": 0.8777725000000001,
|
| 41 |
+
"recall_at_3": 0.36660916666666665,
|
| 42 |
+
"recall_at_5": 0.4194149999999999,
|
| 43 |
+
"main_score": 0.3825533333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/CAiRE__UniVaR-lambda-20/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2500791666666667,
|
| 14 |
+
"map_at_10": 0.33287749999999994,
|
| 15 |
+
"map_at_100": 0.34411416666666667,
|
| 16 |
+
"map_at_1000": 0.34525833333333333,
|
| 17 |
+
"map_at_3": 0.3073441666666667,
|
| 18 |
+
"map_at_5": 0.32137166666666667,
|
| 19 |
+
"mrr_at_1": 0.29305666666666663,
|
| 20 |
+
"mrr_at_10": 0.3722966666666666,
|
| 21 |
+
"mrr_at_100": 0.3806658333333333,
|
| 22 |
+
"mrr_at_1000": 0.3812616666666667,
|
| 23 |
+
"mrr_at_3": 0.3492275,
|
| 24 |
+
"mrr_at_5": 0.3623333333333334,
|
| 25 |
+
"ndcg_at_1": 0.29305666666666663,
|
| 26 |
+
"ndcg_at_10": 0.3825533333333333,
|
| 27 |
+
"ndcg_at_100": 0.4325266666666666,
|
| 28 |
+
"ndcg_at_1000": 0.45635833333333337,
|
| 29 |
+
"ndcg_at_3": 0.33777166666666664,
|
| 30 |
+
"ndcg_at_5": 0.35850000000000004,
|
| 31 |
+
"precision_at_1": 0.29305666666666663,
|
| 32 |
+
"precision_at_10": 0.06596416666666667,
|
| 33 |
+
"precision_at_100": 0.010784166666666668,
|
| 34 |
+
"precision_at_1000": 0.0014666666666666665,
|
| 35 |
+
"precision_at_3": 0.1531075,
|
| 36 |
+
"precision_at_5": 0.10830916666666666,
|
| 37 |
+
"recall_at_1": 0.2500791666666667,
|
| 38 |
+
"recall_at_10": 0.4910933333333333,
|
| 39 |
+
"recall_at_100": 0.7109216666666667,
|
| 40 |
+
"recall_at_1000": 0.8777725000000001,
|
| 41 |
+
"recall_at_3": 0.36660916666666665,
|
| 42 |
+
"recall_at_5": 0.4194149999999999,
|
| 43 |
+
"main_score": 0.3825533333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/CAiRE__UniVaR-lambda-5/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2500791666666667,
|
| 14 |
+
"map_at_10": 0.33287749999999994,
|
| 15 |
+
"map_at_100": 0.34411416666666667,
|
| 16 |
+
"map_at_1000": 0.34525833333333333,
|
| 17 |
+
"map_at_3": 0.3073441666666667,
|
| 18 |
+
"map_at_5": 0.32137166666666667,
|
| 19 |
+
"mrr_at_1": 0.29305666666666663,
|
| 20 |
+
"mrr_at_10": 0.3722966666666666,
|
| 21 |
+
"mrr_at_100": 0.3806658333333333,
|
| 22 |
+
"mrr_at_1000": 0.3812616666666667,
|
| 23 |
+
"mrr_at_3": 0.3492275,
|
| 24 |
+
"mrr_at_5": 0.3623333333333334,
|
| 25 |
+
"ndcg_at_1": 0.29305666666666663,
|
| 26 |
+
"ndcg_at_10": 0.3825533333333333,
|
| 27 |
+
"ndcg_at_100": 0.4325266666666666,
|
| 28 |
+
"ndcg_at_1000": 0.45635833333333337,
|
| 29 |
+
"ndcg_at_3": 0.33777166666666664,
|
| 30 |
+
"ndcg_at_5": 0.35850000000000004,
|
| 31 |
+
"precision_at_1": 0.29305666666666663,
|
| 32 |
+
"precision_at_10": 0.06596416666666667,
|
| 33 |
+
"precision_at_100": 0.010784166666666668,
|
| 34 |
+
"precision_at_1000": 0.0014666666666666665,
|
| 35 |
+
"precision_at_3": 0.1531075,
|
| 36 |
+
"precision_at_5": 0.10830916666666666,
|
| 37 |
+
"recall_at_1": 0.2500791666666667,
|
| 38 |
+
"recall_at_10": 0.4910933333333333,
|
| 39 |
+
"recall_at_100": 0.7109216666666667,
|
| 40 |
+
"recall_at_1000": 0.8777725000000001,
|
| 41 |
+
"recall_at_3": 0.36660916666666665,
|
| 42 |
+
"recall_at_5": 0.4194149999999999,
|
| 43 |
+
"main_score": 0.3825533333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/CAiRE__UniVaR-lambda-80/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2500791666666667,
|
| 14 |
+
"map_at_10": 0.33287749999999994,
|
| 15 |
+
"map_at_100": 0.34411416666666667,
|
| 16 |
+
"map_at_1000": 0.34525833333333333,
|
| 17 |
+
"map_at_3": 0.3073441666666667,
|
| 18 |
+
"map_at_5": 0.32137166666666667,
|
| 19 |
+
"mrr_at_1": 0.29305666666666663,
|
| 20 |
+
"mrr_at_10": 0.3722966666666666,
|
| 21 |
+
"mrr_at_100": 0.3806658333333333,
|
| 22 |
+
"mrr_at_1000": 0.3812616666666667,
|
| 23 |
+
"mrr_at_3": 0.3492275,
|
| 24 |
+
"mrr_at_5": 0.3623333333333334,
|
| 25 |
+
"ndcg_at_1": 0.29305666666666663,
|
| 26 |
+
"ndcg_at_10": 0.3825533333333333,
|
| 27 |
+
"ndcg_at_100": 0.4325266666666666,
|
| 28 |
+
"ndcg_at_1000": 0.45635833333333337,
|
| 29 |
+
"ndcg_at_3": 0.33777166666666664,
|
| 30 |
+
"ndcg_at_5": 0.35850000000000004,
|
| 31 |
+
"precision_at_1": 0.29305666666666663,
|
| 32 |
+
"precision_at_10": 0.06596416666666667,
|
| 33 |
+
"precision_at_100": 0.010784166666666668,
|
| 34 |
+
"precision_at_1000": 0.0014666666666666665,
|
| 35 |
+
"precision_at_3": 0.1531075,
|
| 36 |
+
"precision_at_5": 0.10830916666666666,
|
| 37 |
+
"recall_at_1": 0.2500791666666667,
|
| 38 |
+
"recall_at_10": 0.4910933333333333,
|
| 39 |
+
"recall_at_100": 0.7109216666666667,
|
| 40 |
+
"recall_at_1000": 0.8777725000000001,
|
| 41 |
+
"recall_at_3": 0.36660916666666665,
|
| 42 |
+
"recall_at_5": 0.4194149999999999,
|
| 43 |
+
"main_score": 0.3825533333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Cohere__Cohere-embed-english-light-v3.0/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"ndcg_at_10": 0.38885416666666667,
|
| 14 |
+
"main_score": 0.38885416666666667
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Cohere__Cohere-embed-english-v3.0/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"ndcg_at_10": 0.4153158333333334,
|
| 14 |
+
"main_score": 0.4153158333333334
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Cohere__Cohere-embed-multilingual-light-v3.0/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"ndcg_at_10": 0.38087,
|
| 14 |
+
"main_score": 0.38087
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Cohere__Cohere-embed-multilingual-v3.0/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"ndcg_at_10": 0.40637416666666665,
|
| 14 |
+
"main_score": 0.40637416666666665
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Consensus__instructor-base/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2679175,
|
| 14 |
+
"map_at_10": 0.3575541666666667,
|
| 15 |
+
"map_at_100": 0.3700791666666667,
|
| 16 |
+
"map_at_1000": 0.3712408333333333,
|
| 17 |
+
"map_at_3": 0.3302966666666667,
|
| 18 |
+
"map_at_5": 0.3456866666666667,
|
| 19 |
+
"mrr_at_1": 0.31744333333333336,
|
| 20 |
+
"mrr_at_10": 0.399925,
|
| 21 |
+
"mrr_at_100": 0.40864583333333326,
|
| 22 |
+
"mrr_at_1000": 0.4092175000000001,
|
| 23 |
+
"mrr_at_3": 0.37681833333333337,
|
| 24 |
+
"mrr_at_5": 0.39028499999999994,
|
| 25 |
+
"ndcg_at_1": 0.31744333333333336,
|
| 26 |
+
"ndcg_at_10": 0.40950083333333337,
|
| 27 |
+
"ndcg_at_100": 0.46259666666666666,
|
| 28 |
+
"ndcg_at_1000": 0.48535333333333336,
|
| 29 |
+
"ndcg_at_3": 0.3643333333333333,
|
| 30 |
+
"ndcg_at_5": 0.38602333333333333,
|
| 31 |
+
"precision_at_1": 0.31744333333333336,
|
| 32 |
+
"precision_at_10": 0.07135166666666666,
|
| 33 |
+
"precision_at_100": 0.011535833333333334,
|
| 34 |
+
"precision_at_1000": 0.0015391666666666665,
|
| 35 |
+
"precision_at_3": 0.16713,
|
| 36 |
+
"precision_at_5": 0.11828416666666666,
|
| 37 |
+
"recall_at_1": 0.2679175,
|
| 38 |
+
"recall_at_10": 0.5198625,
|
| 39 |
+
"recall_at_100": 0.7530358333333333,
|
| 40 |
+
"recall_at_1000": 0.9105433333333334,
|
| 41 |
+
"recall_at_3": 0.3939583333333333,
|
| 42 |
+
"recall_at_5": 0.4505925,
|
| 43 |
+
"main_score": 0.40950083333333337
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/DecisionOptimizationSystemProduction__DeepFeatTextEmbeddingLarge/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2804433333333334,
|
| 14 |
+
"map_at_10": 0.38786916666666665,
|
| 15 |
+
"map_at_100": 0.40113,
|
| 16 |
+
"map_at_1000": 0.4022125,
|
| 17 |
+
"map_at_3": 0.3552966666666667,
|
| 18 |
+
"map_at_5": 0.3737275,
|
| 19 |
+
"mrr_at_1": 0.33159083333333333,
|
| 20 |
+
"mrr_at_10": 0.4291358333333333,
|
| 21 |
+
"mrr_at_100": 0.43784500000000004,
|
| 22 |
+
"mrr_at_1000": 0.4383033333333334,
|
| 23 |
+
"mrr_at_3": 0.4029816666666667,
|
| 24 |
+
"mrr_at_5": 0.4181366666666667,
|
| 25 |
+
"ndcg_at_1": 0.33159083333333333,
|
| 26 |
+
"ndcg_at_10": 0.44757500000000006,
|
| 27 |
+
"ndcg_at_100": 0.5013658333333334,
|
| 28 |
+
"ndcg_at_1000": 0.52037,
|
| 29 |
+
"ndcg_at_3": 0.39342583333333336,
|
| 30 |
+
"ndcg_at_5": 0.41937083333333325,
|
| 31 |
+
"precision_at_1": 0.33159083333333333,
|
| 32 |
+
"precision_at_10": 0.07952416666666667,
|
| 33 |
+
"precision_at_100": 0.012571666666666668,
|
| 34 |
+
"precision_at_1000": 0.0016099999999999997,
|
| 35 |
+
"precision_at_3": 0.18303833333333336,
|
| 36 |
+
"precision_at_5": 0.13057083333333333,
|
| 37 |
+
"recall_at_1": 0.2804433333333334,
|
| 38 |
+
"recall_at_10": 0.5823725,
|
| 39 |
+
"recall_at_100": 0.8135391666666666,
|
| 40 |
+
"recall_at_1000": 0.9421283333333333,
|
| 41 |
+
"recall_at_3": 0.43323416666666664,
|
| 42 |
+
"recall_at_5": 0.4994908333333333,
|
| 43 |
+
"main_score": 0.44757500000000006
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/DecisionOptimizationSystem__DeepFeatEmbeddingLargeContext/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2517625,
|
| 14 |
+
"map_at_10": 0.34063916666666666,
|
| 15 |
+
"map_at_100": 0.35255500000000006,
|
| 16 |
+
"map_at_1000": 0.35372750000000003,
|
| 17 |
+
"map_at_3": 0.31351666666666667,
|
| 18 |
+
"map_at_5": 0.32806083333333336,
|
| 19 |
+
"mrr_at_1": 0.2959783333333333,
|
| 20 |
+
"mrr_at_10": 0.380925,
|
| 21 |
+
"mrr_at_100": 0.38957249999999993,
|
| 22 |
+
"mrr_at_1000": 0.3901608333333333,
|
| 23 |
+
"mrr_at_3": 0.3577625,
|
| 24 |
+
"mrr_at_5": 0.37049916666666666,
|
| 25 |
+
"ndcg_at_1": 0.2959783333333333,
|
| 26 |
+
"ndcg_at_10": 0.39343666666666666,
|
| 27 |
+
"ndcg_at_100": 0.44488249999999996,
|
| 28 |
+
"ndcg_at_1000": 0.4683358333333334,
|
| 29 |
+
"ndcg_at_3": 0.34697083333333334,
|
| 30 |
+
"ndcg_at_5": 0.3675075,
|
| 31 |
+
"precision_at_1": 0.2959783333333333,
|
| 32 |
+
"precision_at_10": 0.06884083333333332,
|
| 33 |
+
"precision_at_100": 0.01114,
|
| 34 |
+
"precision_at_1000": 0.0015108333333333332,
|
| 35 |
+
"precision_at_3": 0.15965250000000003,
|
| 36 |
+
"precision_at_5": 0.11246500000000001,
|
| 37 |
+
"recall_at_1": 0.2517625,
|
| 38 |
+
"recall_at_10": 0.5101599999999998,
|
| 39 |
+
"recall_at_100": 0.7360174999999998,
|
| 40 |
+
"recall_at_1000": 0.89849,
|
| 41 |
+
"recall_at_3": 0.37883999999999995,
|
| 42 |
+
"recall_at_5": 0.4324541666666666,
|
| 43 |
+
"main_score": 0.39343666666666666
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/DivineNnamdi__jina-embeddings-v3/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.4258858333333333,
|
| 14 |
+
"ndcg_at_10": 0.4258858333333333
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Einas__einas_ashkar/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24669249999999998,
|
| 14 |
+
"map_at_10": 0.33332583333333327,
|
| 15 |
+
"map_at_100": 0.3455783333333333,
|
| 16 |
+
"map_at_1000": 0.3467141666666666,
|
| 17 |
+
"map_at_3": 0.30663166666666664,
|
| 18 |
+
"map_at_5": 0.32148833333333326,
|
| 19 |
+
"mrr_at_1": 0.29193833333333336,
|
| 20 |
+
"mrr_at_10": 0.3747625,
|
| 21 |
+
"mrr_at_100": 0.383545,
|
| 22 |
+
"mrr_at_1000": 0.38413166666666676,
|
| 23 |
+
"mrr_at_3": 0.3506741666666667,
|
| 24 |
+
"mrr_at_5": 0.36450666666666653,
|
| 25 |
+
"ndcg_at_1": 0.29193833333333336,
|
| 26 |
+
"ndcg_at_10": 0.38505416666666675,
|
| 27 |
+
"ndcg_at_100": 0.4381125,
|
| 28 |
+
"ndcg_at_1000": 0.4609558333333333,
|
| 29 |
+
"ndcg_at_3": 0.33909166666666674,
|
| 30 |
+
"ndcg_at_5": 0.3607666666666666,
|
| 31 |
+
"precision_at_1": 0.29193833333333336,
|
| 32 |
+
"precision_at_10": 0.06725166666666667,
|
| 33 |
+
"precision_at_100": 0.011058333333333331,
|
| 34 |
+
"precision_at_1000": 0.0014833333333333332,
|
| 35 |
+
"precision_at_3": 0.15554166666666666,
|
| 36 |
+
"precision_at_5": 0.11079250000000002,
|
| 37 |
+
"recall_at_1": 0.24669249999999998,
|
| 38 |
+
"recall_at_10": 0.4975583333333332,
|
| 39 |
+
"recall_at_100": 0.7306908333333333,
|
| 40 |
+
"recall_at_1000": 0.8891316666666667,
|
| 41 |
+
"recall_at_3": 0.36913250000000003,
|
| 42 |
+
"recall_at_5": 0.42486416666666665,
|
| 43 |
+
"main_score": 0.38505416666666675
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Frazic__udever-bloom-3b-sentence/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24153166666666667,
|
| 14 |
+
"map_at_10": 0.32770499999999997,
|
| 15 |
+
"map_at_100": 0.3393133333333334,
|
| 16 |
+
"map_at_1000": 0.34052499999999997,
|
| 17 |
+
"map_at_3": 0.30158500000000005,
|
| 18 |
+
"map_at_5": 0.3159591666666666,
|
| 19 |
+
"mrr_at_1": 0.2887725,
|
| 20 |
+
"mrr_at_10": 0.36863583333333333,
|
| 21 |
+
"mrr_at_100": 0.3774550000000001,
|
| 22 |
+
"mrr_at_1000": 0.3780916666666666,
|
| 23 |
+
"mrr_at_3": 0.34634499999999996,
|
| 24 |
+
"mrr_at_5": 0.3592675000000001,
|
| 25 |
+
"ndcg_at_1": 0.2887725,
|
| 26 |
+
"ndcg_at_10": 0.37823416666666665,
|
| 27 |
+
"ndcg_at_100": 0.4298408333333333,
|
| 28 |
+
"ndcg_at_1000": 0.4544883333333333,
|
| 29 |
+
"ndcg_at_3": 0.3341875000000001,
|
| 30 |
+
"ndcg_at_5": 0.3545158333333333,
|
| 31 |
+
"precision_at_1": 0.2887725,
|
| 32 |
+
"precision_at_10": 0.0663825,
|
| 33 |
+
"precision_at_100": 0.010863333333333334,
|
| 34 |
+
"precision_at_1000": 0.0014858333333333334,
|
| 35 |
+
"precision_at_3": 0.15481,
|
| 36 |
+
"precision_at_5": 0.10953916666666669,
|
| 37 |
+
"recall_at_1": 0.24153166666666667,
|
| 38 |
+
"recall_at_10": 0.4879649999999999,
|
| 39 |
+
"recall_at_100": 0.7153716666666666,
|
| 40 |
+
"recall_at_1000": 0.8872158333333333,
|
| 41 |
+
"recall_at_3": 0.36419583333333333,
|
| 42 |
+
"recall_at_5": 0.4173583333333333,
|
| 43 |
+
"main_score": 0.37823416666666665
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Geolumina__instructor-xl/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.27861250000000004,
|
| 14 |
+
"map_at_10": 0.37529583333333333,
|
| 15 |
+
"map_at_100": 0.387915,
|
| 16 |
+
"map_at_1000": 0.3890558333333335,
|
| 17 |
+
"map_at_3": 0.3457333333333333,
|
| 18 |
+
"map_at_5": 0.36187166666666654,
|
| 19 |
+
"mrr_at_1": 0.3288291666666666,
|
| 20 |
+
"mrr_at_10": 0.41797500000000004,
|
| 21 |
+
"mrr_at_100": 0.42631833333333335,
|
| 22 |
+
"mrr_at_1000": 0.4268483333333333,
|
| 23 |
+
"mrr_at_3": 0.3931375000000001,
|
| 24 |
+
"mrr_at_5": 0.40704833333333335,
|
| 25 |
+
"ndcg_at_1": 0.3288291666666666,
|
| 26 |
+
"ndcg_at_10": 0.43094083333333333,
|
| 27 |
+
"ndcg_at_100": 0.4822158333333333,
|
| 28 |
+
"ndcg_at_1000": 0.50358,
|
| 29 |
+
"ndcg_at_3": 0.3812958333333334,
|
| 30 |
+
"ndcg_at_5": 0.40392666666666666,
|
| 31 |
+
"precision_at_1": 0.3288291666666666,
|
| 32 |
+
"precision_at_10": 0.075585,
|
| 33 |
+
"precision_at_100": 0.011903333333333332,
|
| 34 |
+
"precision_at_1000": 0.0015658333333333331,
|
| 35 |
+
"precision_at_3": 0.17495916666666667,
|
| 36 |
+
"precision_at_5": 0.12373833333333333,
|
| 37 |
+
"recall_at_1": 0.27861250000000004,
|
| 38 |
+
"recall_at_10": 0.5521591666666666,
|
| 39 |
+
"recall_at_100": 0.7739199999999999,
|
| 40 |
+
"recall_at_1000": 0.9204908333333335,
|
| 41 |
+
"recall_at_3": 0.4137475,
|
| 42 |
+
"recall_at_5": 0.47229083333333327,
|
| 43 |
+
"main_score": 0.43094083333333333
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/GritLM__GritLM-7B/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.31956083333333335,
|
| 14 |
+
"map_at_10": 0.4333483333333333,
|
| 15 |
+
"map_at_100": 0.44648833333333326,
|
| 16 |
+
"map_at_1000": 0.4475,
|
| 17 |
+
"map_at_3": 0.3987741666666666,
|
| 18 |
+
"map_at_5": 0.4186766666666667,
|
| 19 |
+
"mrr_at_1": 0.38063416666666666,
|
| 20 |
+
"mrr_at_10": 0.47839666666666664,
|
| 21 |
+
"mrr_at_100": 0.48644000000000004,
|
| 22 |
+
"mrr_at_1000": 0.4868566666666667,
|
| 23 |
+
"mrr_at_3": 0.45263583333333335,
|
| 24 |
+
"mrr_at_5": 0.46790000000000004,
|
| 25 |
+
"ndcg_at_1": 0.38063416666666666,
|
| 26 |
+
"ndcg_at_10": 0.4941933333333333,
|
| 27 |
+
"ndcg_at_100": 0.5450166666666667,
|
| 28 |
+
"ndcg_at_1000": 0.5616116666666667,
|
| 29 |
+
"ndcg_at_3": 0.4398241666666667,
|
| 30 |
+
"ndcg_at_5": 0.46638083333333336,
|
| 31 |
+
"precision_at_1": 0.38063416666666666,
|
| 32 |
+
"precision_at_10": 0.08708583333333329,
|
| 33 |
+
"precision_at_100": 0.013269999999999999,
|
| 34 |
+
"precision_at_1000": 0.00165,
|
| 35 |
+
"precision_at_3": 0.2037816666666667,
|
| 36 |
+
"precision_at_5": 0.14516333333333334,
|
| 37 |
+
"recall_at_1": 0.31956083333333335,
|
| 38 |
+
"recall_at_10": 0.6269458333333334,
|
| 39 |
+
"recall_at_100": 0.8446433333333334,
|
| 40 |
+
"recall_at_1000": 0.955845,
|
| 41 |
+
"recall_at_3": 0.47520166666666663,
|
| 42 |
+
"recall_at_5": 0.5436066666666666,
|
| 43 |
+
"main_score": 0.4941933333333333
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/GritLM__GritLM-8x7B/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.3069458333333333,
|
| 14 |
+
"map_at_10": 0.4165291666666666,
|
| 15 |
+
"map_at_100": 0.42957749999999995,
|
| 16 |
+
"map_at_1000": 0.43062583333333326,
|
| 17 |
+
"map_at_3": 0.3833575,
|
| 18 |
+
"map_at_5": 0.40209416666666664,
|
| 19 |
+
"mrr_at_1": 0.37013000000000007,
|
| 20 |
+
"mrr_at_10": 0.46306000000000014,
|
| 21 |
+
"mrr_at_100": 0.47094666666666674,
|
| 22 |
+
"mrr_at_1000": 0.47139583333333335,
|
| 23 |
+
"mrr_at_3": 0.4380575,
|
| 24 |
+
"mrr_at_5": 0.4522366666666666,
|
| 25 |
+
"ndcg_at_1": 0.37013000000000007,
|
| 26 |
+
"ndcg_at_10": 0.4763491666666667,
|
| 27 |
+
"ndcg_at_100": 0.5271083333333334,
|
| 28 |
+
"ndcg_at_1000": 0.5449358333333333,
|
| 29 |
+
"ndcg_at_3": 0.4243616666666666,
|
| 30 |
+
"ndcg_at_5": 0.44875833333333337,
|
| 31 |
+
"precision_at_1": 0.37013000000000007,
|
| 32 |
+
"precision_at_10": 0.08481583333333333,
|
| 33 |
+
"precision_at_100": 0.013073333333333336,
|
| 34 |
+
"precision_at_1000": 0.0016341666666666668,
|
| 35 |
+
"precision_at_3": 0.1981183333333333,
|
| 36 |
+
"precision_at_5": 0.1407691666666667,
|
| 37 |
+
"recall_at_1": 0.3069458333333333,
|
| 38 |
+
"recall_at_10": 0.6046208333333333,
|
| 39 |
+
"recall_at_100": 0.8242325000000001,
|
| 40 |
+
"recall_at_1000": 0.9453291666666667,
|
| 41 |
+
"recall_at_3": 0.45740499999999995,
|
| 42 |
+
"recall_at_5": 0.5214025,
|
| 43 |
+
"main_score": 0.4763491666666667
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/HIT-TMG__KaLM-embedding-multilingual-max-instruct-v1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.42739499999999997,
|
| 14 |
+
"ndcg_at_10": 0.42739499999999997
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/HIT-TMG__KaLM-embedding-multilingual-mini-instruct-v1.5/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.41832750000000013,
|
| 14 |
+
"ndcg_at_10": 0.41832750000000013
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/HIT-TMG__KaLM-embedding-multilingual-mini-instruct-v1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.4221466666666666,
|
| 14 |
+
"ndcg_at_10": 0.4221466666666666
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/HIT-TMG__KaLM-embedding-multilingual-mini-v1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.40858416666666675,
|
| 14 |
+
"ndcg_at_10": 0.40858416666666675
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Hiveurban__multilingual-e5-large-pooled/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.2555825,
|
| 14 |
+
"map_at_10": 0.3444425000000001,
|
| 15 |
+
"map_at_100": 0.3559833333333333,
|
| 16 |
+
"map_at_1000": 0.35706916666666666,
|
| 17 |
+
"map_at_3": 0.31691749999999996,
|
| 18 |
+
"map_at_5": 0.33252916666666665,
|
| 19 |
+
"mrr_at_1": 0.30252666666666667,
|
| 20 |
+
"mrr_at_10": 0.3860675,
|
| 21 |
+
"mrr_at_100": 0.3942666666666666,
|
| 22 |
+
"mrr_at_1000": 0.39484083333333336,
|
| 23 |
+
"mrr_at_3": 0.36174416666666653,
|
| 24 |
+
"mrr_at_5": 0.3756275,
|
| 25 |
+
"ndcg_at_1": 0.30252666666666667,
|
| 26 |
+
"ndcg_at_10": 0.39683,
|
| 27 |
+
"ndcg_at_100": 0.44685416666666666,
|
| 28 |
+
"ndcg_at_1000": 0.46943166666666675,
|
| 29 |
+
"ndcg_at_3": 0.34961749999999997,
|
| 30 |
+
"ndcg_at_5": 0.37215666666666664,
|
| 31 |
+
"precision_at_1": 0.30252666666666667,
|
| 32 |
+
"precision_at_10": 0.06904166666666667,
|
| 33 |
+
"precision_at_100": 0.010989999999999995,
|
| 34 |
+
"precision_at_1000": 0.0014733333333333334,
|
| 35 |
+
"precision_at_3": 0.16037666666666667,
|
| 36 |
+
"precision_at_5": 0.11413583333333334,
|
| 37 |
+
"recall_at_1": 0.2555825,
|
| 38 |
+
"recall_at_10": 0.5113341666666666,
|
| 39 |
+
"recall_at_100": 0.7308366666666667,
|
| 40 |
+
"recall_at_1000": 0.8879483333333335,
|
| 41 |
+
"recall_at_3": 0.3798908333333333,
|
| 42 |
+
"recall_at_5": 0.43787833333333326,
|
| 43 |
+
"main_score": 0.39683
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|
results/ISOISS__jina-embeddings-v3-tei/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,18 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "CQADupstackRetrieval_is_a_combined_dataset",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"main_score": 0.4258858333333333,
|
| 14 |
+
"ndcg_at_10": 0.4258858333333333
|
| 15 |
+
}
|
| 16 |
]
|
| 17 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 18 |
}
|
results/Intel__neural-embedding-v1/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,52 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "5003b3064772da1887988e05400cf3806fe491f2",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.3057958333333333,
|
| 14 |
+
"map_at_10": 0.42696333333333336,
|
| 15 |
+
"map_at_100": 0.4407858333333333,
|
| 16 |
+
"map_at_1000": 0.44176333333333323,
|
| 17 |
+
"map_at_20": 0.4349983333333334,
|
| 18 |
+
"map_at_3": 0.38953583333333336,
|
| 19 |
+
"map_at_5": 0.41125583333333326,
|
| 20 |
+
"mrr_at_1": 0.3652666666666667,
|
| 21 |
+
"mrr_at_10": 0.46925666666666666,
|
| 22 |
+
"mrr_at_100": 0.4774333333333334,
|
| 23 |
+
"mrr_at_1000": 0.47782666666666673,
|
| 24 |
+
"mrr_at_20": 0.4742483333333333,
|
| 25 |
+
"mrr_at_3": 0.44068083333333335,
|
| 26 |
+
"mrr_at_5": 0.4582383333333333,
|
| 27 |
+
"ndcg_at_1": 0.3652666666666667,
|
| 28 |
+
"ndcg_at_10": 0.491145,
|
| 29 |
+
"ndcg_at_100": 0.5434058333333334,
|
| 30 |
+
"ndcg_at_1000": 0.5590625,
|
| 31 |
+
"ndcg_at_20": 0.5132724999999999,
|
| 32 |
+
"ndcg_at_3": 0.43146,
|
| 33 |
+
"ndcg_at_5": 0.46146166666666666,
|
| 34 |
+
"precision_at_1": 0.3652666666666667,
|
| 35 |
+
"precision_at_10": 0.08866916666666666,
|
| 36 |
+
"precision_at_100": 0.013526666666666666,
|
| 37 |
+
"precision_at_1000": 0.001670833333333333,
|
| 38 |
+
"precision_at_20": 0.05199416666666667,
|
| 39 |
+
"precision_at_3": 0.20278333333333332,
|
| 40 |
+
"precision_at_5": 0.14614999999999997,
|
| 41 |
+
"recall_at_1": 0.3057958333333333,
|
| 42 |
+
"recall_at_10": 0.6361841666666668,
|
| 43 |
+
"recall_at_100": 0.8586858333333331,
|
| 44 |
+
"recall_at_1000": 0.9624825,
|
| 45 |
+
"recall_at_20": 0.7152533333333334,
|
| 46 |
+
"recall_at_3": 0.4718050000000001,
|
| 47 |
+
"recall_at_5": 0.5490683333333334,
|
| 48 |
+
"main_score": 0.491145
|
| 49 |
+
}
|
| 50 |
]
|
| 51 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 52 |
}
|
results/Koat__gte-tiny/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,47 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "None",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.24266916666666663,
|
| 14 |
+
"map_at_10": 0.32750250000000003,
|
| 15 |
+
"map_at_100": 0.3391341666666667,
|
| 16 |
+
"map_at_1000": 0.34031749999999994,
|
| 17 |
+
"map_at_3": 0.30166416666666673,
|
| 18 |
+
"map_at_5": 0.31577000000000005,
|
| 19 |
+
"mrr_at_1": 0.28828166666666666,
|
| 20 |
+
"mrr_at_10": 0.36809916666666675,
|
| 21 |
+
"mrr_at_100": 0.3767075,
|
| 22 |
+
"mrr_at_1000": 0.37732999999999994,
|
| 23 |
+
"mrr_at_3": 0.34513416666666663,
|
| 24 |
+
"mrr_at_5": 0.35788,
|
| 25 |
+
"ndcg_at_1": 0.28828166666666666,
|
| 26 |
+
"ndcg_at_10": 0.37796,
|
| 27 |
+
"ndcg_at_100": 0.4294783333333333,
|
| 28 |
+
"ndcg_at_1000": 0.4538908333333333,
|
| 29 |
+
"ndcg_at_3": 0.3337475000000001,
|
| 30 |
+
"ndcg_at_5": 0.35379666666666665,
|
| 31 |
+
"precision_at_1": 0.28828166666666666,
|
| 32 |
+
"precision_at_10": 0.0661575,
|
| 33 |
+
"precision_at_100": 0.010848333333333333,
|
| 34 |
+
"precision_at_1000": 0.001484166666666667,
|
| 35 |
+
"precision_at_3": 0.15347833333333333,
|
| 36 |
+
"precision_at_5": 0.10848916666666666,
|
| 37 |
+
"recall_at_1": 0.24266916666666663,
|
| 38 |
+
"recall_at_10": 0.4873458333333333,
|
| 39 |
+
"recall_at_100": 0.7156341666666667,
|
| 40 |
+
"recall_at_1000": 0.8863091666666668,
|
| 41 |
+
"recall_at_3": 0.3631208333333333,
|
| 42 |
+
"recall_at_5": 0.4155633333333333,
|
| 43 |
+
"main_score": 0.37796
|
| 44 |
+
}
|
| 45 |
]
|
| 46 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 47 |
}
|
results/Labib11__MUG-B-1.6/external/CQADupstackRetrieval.json
CHANGED
|
@@ -1,19 +1,52 @@
|
|
| 1 |
{
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
"
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
]
|
| 14 |
-
|
| 15 |
-
]
|
| 16 |
-
},
|
| 17 |
-
"evaluation_time": NaN,
|
| 18 |
-
"kg_co2_emissions": NaN
|
| 19 |
}
|
|
|
|
| 1 |
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.27274583333333335,
|
| 14 |
+
"map_at_10": 0.3704091666666666,
|
| 15 |
+
"map_at_100": 0.38279666666666673,
|
| 16 |
+
"map_at_1000": 0.3839383333333334,
|
| 17 |
+
"map_at_20": 0.3772150000000001,
|
| 18 |
+
"map_at_3": 0.33937999999999996,
|
| 19 |
+
"map_at_5": 0.35679749999999993,
|
| 20 |
+
"mrr_at_1": 0.3240525,
|
| 21 |
+
"mrr_at_10": 0.4143925000000001,
|
| 22 |
+
"mrr_at_100": 0.42271000000000003,
|
| 23 |
+
"mrr_at_1000": 0.4232416666666667,
|
| 24 |
+
"mrr_at_20": 0.4192733333333334,
|
| 25 |
+
"mrr_at_3": 0.38849416666666664,
|
| 26 |
+
"mrr_at_5": 0.40379583333333335,
|
| 27 |
+
"ndcg_at_1": 0.3240525,
|
| 28 |
+
"ndcg_at_10": 0.42738083333333343,
|
| 29 |
+
"ndcg_at_100": 0.4788941666666667,
|
| 30 |
+
"ndcg_at_1000": 0.5005008333333334,
|
| 31 |
+
"ndcg_at_20": 0.4474183333333334,
|
| 32 |
+
"ndcg_at_3": 0.3751908333333334,
|
| 33 |
+
"ndcg_at_5": 0.4001883333333333,
|
| 34 |
+
"precision_at_1": 0.3240525,
|
| 35 |
+
"precision_at_10": 0.07536166666666666,
|
| 36 |
+
"precision_at_100": 0.011934166666666666,
|
| 37 |
+
"precision_at_1000": 0.001575,
|
| 38 |
+
"precision_at_20": 0.044291666666666674,
|
| 39 |
+
"precision_at_3": 0.1724941666666667,
|
| 40 |
+
"precision_at_5": 0.12362333333333336,
|
| 41 |
+
"recall_at_1": 0.27274583333333335,
|
| 42 |
+
"recall_at_10": 0.5521358333333334,
|
| 43 |
+
"recall_at_100": 0.7760366666666667,
|
| 44 |
+
"recall_at_1000": 0.9243691666666666,
|
| 45 |
+
"recall_at_20": 0.6247458333333333,
|
| 46 |
+
"recall_at_3": 0.4079375,
|
| 47 |
+
"recall_at_5": 0.4715158333333334,
|
| 48 |
+
"main_score": 0.42738083333333343
|
| 49 |
+
}
|
| 50 |
]
|
| 51 |
+
}
|
|
|
|
|
|
|
|
|
|
|
|
|
| 52 |
}
|
results/Linq-AI-Research__Linq-Embed-Mistral/external/CQADupstackRetrieval.json
ADDED
|
@@ -0,0 +1,47 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"dataset_revision": "4ffe81d471b1924886b33c7567bfb200e9eec5c4",
|
| 3 |
+
"task_name": "CQADupstackRetrieval",
|
| 4 |
+
"evaluation_time": null,
|
| 5 |
+
"mteb_version": null,
|
| 6 |
+
"scores": {
|
| 7 |
+
"test": [
|
| 8 |
+
{
|
| 9 |
+
"hf_subset": "default",
|
| 10 |
+
"languages": [
|
| 11 |
+
"eng-Latn"
|
| 12 |
+
],
|
| 13 |
+
"map_at_1": 0.30082666666666663,
|
| 14 |
+
"map_at_10": 0.4113875,
|
| 15 |
+
"map_at_100": 0.4245525,
|
| 16 |
+
"map_at_1000": 0.42561249999999995,
|
| 17 |
+
"map_at_3": 0.37822750000000005,
|
| 18 |
+
"map_at_5": 0.3962658333333333,
|
| 19 |
+
"mrr_at_1": 0.35584000000000005,
|
| 20 |
+
"mrr_at_10": 0.454675,
|
| 21 |
+
"mrr_at_100": 0.4631016666666667,
|
| 22 |
+
"mrr_at_1000": 0.4635191666666666,
|
| 23 |
+
"mrr_at_3": 0.42866749999999987,
|
| 24 |
+
"mrr_at_5": 0.4431341666666666,
|
| 25 |
+
"ndcg_at_1": 0.35584000000000005,
|
| 26 |
+
"ndcg_at_10": 0.47265166666666675,
|
| 27 |
+
"ndcg_at_100": 0.5249108333333332,
|
| 28 |
+
"ndcg_at_1000": 0.5424575,
|
| 29 |
+
"ndcg_at_3": 0.4183433333333334,
|
| 30 |
+
"ndcg_at_5": 0.44298999999999994,
|
| 31 |
+
"precision_at_1": 0.35584000000000005,
|
| 32 |
+
"precision_at_10": 0.08390333333333334,
|
| 33 |
+
"precision_at_100": 0.012941666666666667,
|
| 34 |
+
"precision_at_1000": 0.0016308333333333335,
|
| 35 |
+
"precision_at_3": 0.19414583333333332,
|
| 36 |
+
"precision_at_5": 0.13751,
|
| 37 |
+
"recall_at_1": 0.30082666666666663,
|
| 38 |
+
"recall_at_10": 0.6088875,
|
| 39 |
+
"recall_at_100": 0.8335141666666667,
|
| 40 |
+
"recall_at_1000": 0.950805,
|
| 41 |
+
"recall_at_3": 0.45683749999999995,
|
| 42 |
+
"recall_at_5": 0.5208208333333333,
|
| 43 |
+
"main_score": 0.47265166666666675
|
| 44 |
+
}
|
| 45 |
+
]
|
| 46 |
+
}
|
| 47 |
+
}
|