JaGovFaqs-22k / README.md
matsuxr's picture
Update README.md
a9fd35a verified
|
raw
history blame
No virus
2.92 kB
---
license: cc-by-4.0
task_categories:
- question-answering
language:
- ja
tags:
- legal
size_categories:
- 10K<n<100K
---
# このデータセットについて
このデータは、日本の官公庁のWebサイトに掲載されている「よくある質問」を手作業で抽出し、インストラクション用のデータセットとしたものです。
日本の官公庁のWebサイトは多くが「政府標準利用規約(第2.0版)」に準拠しており、この規約はCC-BY-4.0(国際)と互換性があると記述されています。
参考 https://www.digital.go.jp/copyright-policy
したがって本データセットの著作権者はデータセットのcopyrightに記載された各官公庁であり、ライセンスもCC-BY-4.0(国際)です。データセット製作者は著作権を主張しません。
# 特徴
- 質問と回答の形式になっています。
- 国家公務員によるチェックを経ているので、誤字脱字がほぼありません。もしあったら、このデータセット製作者(松xR)のミスに起因するものです。御指摘いただければ修正いたします。
- 論旨も明快で、日本語として品質の高いデータセットであると考えています。
- ソースとなるURLも添付しているため、リンク集としても活用出来ます
# 想定する利用法
- 大規模言語モデルのInstruction Tuning
- RAGの実装テストのためのデータベース
# 免責事項
- 本データセットは現状のままで提供され、データセット製作者はその利用における一切の責任を負いません。
- 手作業でデータをまとめたため、作業ミスによるデータの間違いがある可能性があります。御指摘いただければ修正する意志はありますが、修正を保証するものではありません。
# 現時点で存在する課題
- 官公庁の文書は多くが、箇条書き、表組み、図示を活用して作成されています。これらを機械的にプレーンテキストに変換しているため、プレーンテキストだけを見ても意味が通りにくいことがあります。
- 特にPDFから変換したものは上記の問題を多く含むため、ソースURLの末尾がpdfになっているものは利用しない、などの方法が考えられます
- 官公庁の文書は日本政府の立場を表明するものであるため、主張の強い文章も含まれます。特定の立場・思想が強く反映されたチューニングを行いたくない場合には、適さない可能性があります。
- 人の目でフィルタリングするのも有効です。
- 気象庁のデータは事実説明にとどまるものが多く、まずは気象庁のデータだけを利用することも一つの方法です。