metadata

language:
  - ja
paperswithcode_id: bbh
pretty_name: jBIG-Bench-Hard
splits:
  - name: test
license: mit
size_categories:
  - n<1K
extra_gated_heading: ダウンロード同意書
extra_gated_prompt: >-
  以下の条件に同意したうえで、公開されたモデル及びデータセット等（以下「本コンテンツ」）といいます）をダウンロードします。

  1. 本コンテンツに含まれる著作物について、当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的として利用しないこと

  2.
  本コンテンツについて、公開者においてこれらの法令適合性や品質等を保証するものではなく、これらの利用に関する責任を負うものではないことを理解したうえで、法令を遵守して利用すること

  3. 第三者に本コンテンツを開示する場合には、当該第三者にも法令を遵守させること
extra_gated_fields:
  以下の「同意する」をクリックすると上記条件に同意したものとみなし、メールアドレスとユーザ名が本コンテンツの管理者に共有されます。: checkbox
extra_gated_button_content: 同意する

jBIG-Bench-Hardのデータセットカード

データセット情報

BIG-Bench-Hardの23のサブセットから4サンプル、計92サンプルをランダムに抽出し、日本語に翻訳したものです。 BIG-Bench-Hardではサブセットごとにデータセットファイルが分割されていますが、本データセットでは、その情報をsubsetカラムに記載しています。

ファイルサイズ: 60.6 kB

サンプルの例は以下のようになります。

{
    "id": 42,
    "subset": "movie_recommendation",
    "input": "レイダース/失われたアーク、ショーシャンクの空に、インセプション、パルプ・フィクションに似た映画を見つけてください。\n選択肢:\nA ポセイドン・アドベンチャー2\nB コーラス\nC フォレスト・ガンプ\nD ゾンビワールドへようこそ",
    "target": "C",
}

データ型

id: int64型
subset: string型
input: string型
target: string型

ライセンス情報

MIT

引用文献

@article{suzgun2022challenging,
  title={Challenging BIG-Bench Tasks and Whether Chain-of-Thought Can Solve Them},
  author={Suzgun, Mirac and Scales, Nathan and Sch{\"a}rli, Nathanael and Gehrmann, Sebastian and Tay, Yi and Chung, Hyung Won and Chowdhery, Aakanksha and Le, Quoc V and Chi, Ed H and Zhou, Denny and and Wei, Jason},
  journal={arXiv preprint arXiv:2210.09261},
  year={2022}
}

作成者

山際愛実
山崎友大
原田憲旺
谷口仁慈