File size: 2,915 Bytes
4f814df
 
 
a9fd35a
4f814df
 
 
 
 
 
2d35dcb
 
74769f4
 
 
 
 
d1f1d9d
74769f4
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
---
license: cc-by-4.0
task_categories:
- question-answering
language:
- ja
tags:
- legal
size_categories:
- 10K<n<100K
---

# このデータセットについて

このデータは、日本の官公庁のWebサイトに掲載されている「よくある質問」を手作業で抽出し、インストラクション用のデータセットとしたものです。

日本の官公庁のWebサイトは多くが「政府標準利用規約(第2.0版)」に準拠しており、この規約はCC-BY-4.0(国際)と互換性があると記述されています。

参考 https://www.digital.go.jp/copyright-policy

したがって本データセットの著作権者はデータセットのcopyrightに記載された各官公庁であり、ライセンスもCC-BY-4.0(国際)です。データセット製作者は著作権を主張しません。

# 特徴

- 質問と回答の形式になっています。
- 国家公務員によるチェックを経ているので、誤字脱字がほぼありません。もしあったら、このデータセット製作者(松xR)のミスに起因するものです。御指摘いただければ修正いたします。
- 論旨も明快で、日本語として品質の高いデータセットであると考えています。
- ソースとなるURLも添付しているため、リンク集としても活用出来ます

# 想定する利用法

- 大規模言語モデルのInstruction Tuning
- RAGの実装テストのためのデータベース

# 免責事項

- 本データセットは現状のままで提供され、データセット製作者はその利用における一切の責任を負いません。
- 手作業でデータをまとめたため、作業ミスによるデータの間違いがある可能性があります。御指摘いただければ修正する意志はありますが、修正を保証するものではありません。

# 現時点で存在する課題

- 官公庁の文書は多くが、箇条書き、表組み、図示を活用して作成されています。これらを機械的にプレーンテキストに変換しているため、プレーンテキストだけを見ても意味が通りにくいことがあります。
  - 特にPDFから変換したものは上記の問題を多く含むため、ソースURLの末尾がpdfになっているものは利用しない、などの方法が考えられます
- 官公庁の文書は日本政府の立場を表明するものであるため、主張の強い文章も含まれます。特定の立場・思想が強く反映されたチューニングを行いたくない場合には、適さない可能性があります。
  - 人の目でフィルタリングするのも有効です。
  - 気象庁のデータは事実説明にとどまるものが多く、まずは気象庁のデータだけを利用することも一つの方法です。