Update README.md

README.md

@@ -82,29 +82,54 @@ language:
 
 query とハードネガティブの collection を元に、bge-reranker-v2-m3 リランカーを用いたスコア
 
-# データセットの評価
+# 評価
 
-## 評価実験として、2つのデータセットを比較しました
+## 評価実験として、2つのデータセットを比較
 
 1. mmacro(ja)（mMARCOデータセットの日本語翻訳データ）
 2. msmarco-ja（本データセット）
 
-## 評価方法
+
+## カイ二乗検定による評価
+
+
+| 指標 | msmarco-ja | mmarco(ja) | 閾値 | p値 | 統計的有意差 |
+|------|------------|------------|--------|------|--------------|
+| 総数 | 502,931 | 391,060 | 0.7 | 0.0006205731 | あり |
+| Positive数 | 407,162 | 311,394 | 0.7 | 0.0006205731 | あり |
+| Positive率 | 80.96% | 79.63% | 0.7 | 0.0006205731 | あり |
+| 総数 | 502,931 | 391,060 | 0.8 | 0.0428684718 | あり |
+| Positive数 | 390,653 | 297,126 | 0.8 | 0.0428684718 | あり |
+| Positive率 | 77.68% | 75.98% | 0.8 | 0.0428684718 | あり |
+
+
+dataset(query)と、正例(pos_ids)のcollectionペアが、リランカースコアで見た時に、うまく正例として扱えそうかを閾値0.7または0.8以上で確認します。pos_idsは複数ある場合、スコアのmaxを選択しています。
+
+カイ二乗検定を用いて評価した結果、閾値0.7および0.8のいずれにおいても、msmarco-jaとmmarco(ja)の間に統計的有意差が確認されました（p < 0.05）。具体的には、msmarco-jaの方が一貫して高いPositive率を示し、閾値0.7では約1.33%ポイント（80.96% vs 79.63%）、閾値0.8では約1.70%ポイント（77.68% vs 75.98%）の差が観察されました。
+
+特に閾値0.7での差異は非常に小さいp値（p ≈ 0.0006）を示しており、この違いが偶然によるものである可能性は極めて低いと考えられます。また、より厳格な閾値である0.8においても統計的有意差は維持されています（p ≈ 0.043）。
+
+両データセットとも75-80%という高いPositive率を示しており、わずか1-2%ポイントの差ではありますが、msmarco-jaデータセットが、より高品質な翻訳とフィルタリングによって、mmarco翻訳よりもquery-documentペアの一貫性をより良く保持できている可能性が高いと言えるでしょう。
+
+
+
+
+## JMTEBでのデータセットの評価
+
+### 評価方法
 
 - 両データセットに対して同じ手法でハードネガティブサンプリングとスコア付けを実施
-- mmarco/msmacro-ja のみを用いて、同一のパラメータで日本語SPLADEモデルを学習
+- mmarco/msmacro-ja のみを用いて、同一のパラメータ(正例フィルタリング閾値0.7以上)で日本語SPLADEモデルを学習
 - [JMTEB](https://github.com/sbintuitions/JMTEB) retrieval タスクを用い評価
 
-## 評価結果
+### 評価結果
 
 | ---         | JMTEB ret Avg. | jagovfaqs_22k | jaqket | mrtydi | nlp_journal_abs_intro | nlp_journal_title_abs | nlp_journal_title_intro |
 |-------------|----------------|---------------|--------|--------|------------------------|-----------------------|-------------------------|
 | mmarco(ja)  | 0.7390         | 0.6726        | 0.6692 | 0.4449 | 0.8855                | 0.9580                | **0.8040**              |
 | msmacro-ja  | **0.7472**     | **0.6872**    | **0.6734** | **0.4656** | **0.8974**            | **0.9726**            | 0.7871                  |
 
-ほぼ全て項目で、msmarco-ja の方が良好な結果となりました。
-
-
+ほぼ全て項目で、msmarco-ja の方が良好な結果となりました。ただし、カイ二乗検定による評価の項目にある通り、全体のデータセット件数はmmarco-jaの方が多いため、ご注意ください。
 
 
 # データに関する注意事項