metadata
license: cc-by-sa-4.0
dataset_info:
features:
- name: input
dtype: string
- name: output
dtype: string
splits:
- name: train
num_bytes: 60451
num_examples: 100
download_size: 39188
dataset_size: 60451
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
language:
- ja
size_categories:
- n<1K
概要
このデータセットは日本語LLMの評価用としてよく用いられるelyza/ELYZA-tasks-100について人間が回答を行った結果です。outputはこのリポジトリの作成者によるオリジナルですが、inputはELYZA-tasks-100からそのまま流用しています。
詳しくは下記の記事をご覧ください。
https://zenn.dev/yuki127/articles/2496cd8383c84c
採点
GPT-4oによる自動採点において、この回答での平均スコアは3.69点(+0.03 / -0.03)
(計5回の同条件での採点結果の平均値と、最大値及び最小値との差分)
Claude 3.5 Sonnet(api: claude-3-5-sonnet-20240620)のELYZA-tasks-100の回答を同様に自動採点したところ4.42点(+0.02 / -0.02) となりました。
この自動採点において使用したGPT-4oのModelはgpt-4o-2024-05-13で
プロンプトはNorthern-System-Service/gpt4-autoevalの評価プロンプトを参考にさせていただきました。
ライセンス
ELYZA-tasks-100のライセンスを継承し、このデータセットはCC BY-SA 4.0でライセンスされています。