README.md

metadata

license: cc-by-4.0
task_categories:
  - question-answering
language:
  - ja
tags:
  - legal
size_categories:
  - 10K<n<100K

このデータセットについて

このデータは、日本の官公庁のWebサイトに掲載されている「よくある質問」を手作業で抽出し、インストラクション用のデータセットとしたものです。

日本の官公庁のWebサイトは多くが「政府標準利用規約（第2.0版）」に準拠しており、この規約はCC-BY-4.0（国際）と互換性があると記述されています。

参考 https://www.digital.go.jp/copyright-policy

したがって本データセットの著作権者はデータセットのcopyrightに記載された各官公庁であり、ライセンスもCC-BY-4.0（国際）です。データセット製作者は著作権を主張しません。

特徴

• 質問と回答の形式になっています。
• 国家公務員によるチェックを経ているので、誤字脱字がほぼありません。もしあったら、このデータセット製作者（松xR）のミスに起因するものです。御指摘いただければ修正いたします。
• 論旨も明快で、日本語として品質の高いデータセットであると考えています。
• ソースとなるURLも添付しているため、リンク集としても活用出来ます

想定する利用法

• 大規模言語モデルのInstruction Tuning
• RAGの実装テストのためのデータベース

免責事項

• 本データセットは現状のままで提供され、データセット製作者はその利用における一切の責任を負いません。
• 手作業でデータをまとめたため、作業ミスによるデータの間違いがある可能性があります。御指摘いただければ修正する意志はありますが、修正を保証するものではありません。

現時点で存在する課題

• 官公庁の文書は多くが、箇条書き、表組み、図示を活用して作成されています。これらを機械的にプレーンテキストに変換しているため、プレーンテキストだけを見ても意味が通りにくいことがあります。
  • 特にPDFから変換したものは上記の問題を多く含むため、ソースURLの末尾がpdfになっているものは利用しない、などの方法が考えられます
• 官公庁の文書は日本政府の立場を表明するものであるため、主張の強い文章も含まれます。特定の立場・思想が強く反映されたチューニングを行いたくない場合には、適さない可能性があります。
  • 人の目でフィルタリングするのも有効です。
  • 気象庁のデータは事実説明にとどまるものが多く、まずは気象庁のデータだけを利用することも一つの方法です。