metadata

language: ko
license: cc-by-sa-4.0
tags:
  - mrc
  - korean
  - finance
  - legal
dataset_info:
  - config_name: multiple_choice
    features:
      - name: doc_title
        dtype: string
      - name: context
        dtype: string
      - name: question
        dtype: string
      - name: options
        sequence: string
      - name: answer_text
        dtype: string
    splits:
      - name: train
        num_bytes: 52657661
        num_examples: 32092
      - name: test
        num_bytes: 8296685
        num_examples: 4634
    download_size: 14848868
    dataset_size: 60954346
  - config_name: span_extraction
    features:
      - name: doc_title
        dtype: string
      - name: context
        dtype: string
      - name: question
        dtype: string
      - name: answer_text
        dtype: string
    splits:
      - name: train
        num_bytes: 154553286
        num_examples: 93828
      - name: test
        num_bytes: 23273377
        num_examples: 12692
    download_size: 43600501
    dataset_size: 177826663
  - config_name: span_extraction_how
    features:
      - name: doc_title
        dtype: string
      - name: context
        dtype: string
      - name: question
        dtype: string
      - name: answer_text
        dtype: string
    splits:
      - name: train
        num_bytes: 111843943
        num_examples: 61746
      - name: test
        num_bytes: 21025535
        num_examples: 9124
    download_size: 31577500
    dataset_size: 132869478
  - config_name: tableqa
    features:
      - name: doc_title
        dtype: string
      - name: context
        dtype: string
      - name: table_title
        dtype: string
      - name: table_html
        dtype: string
      - name: question
        dtype: string
      - name: answer_text
        dtype: string
    splits:
      - name: train
        num_bytes: 228901199
        num_examples: 96000
      - name: test
        num_bytes: 24161924
        num_examples: 12000
    download_size: 15321234
    dataset_size: 253063123
  - config_name: text_entailment
    features:
      - name: doc_title
        dtype: string
      - name: context
        dtype: string
      - name: question
        dtype: string
      - name: answer_text
        dtype: string
    splits:
      - name: train
        num_bytes: 52307558
        num_examples: 32750
      - name: test
        num_bytes: 5778697
        num_examples: 3740
    download_size: 13330652
    dataset_size: 58086255
configs:
  - config_name: multiple_choice
    data_files:
      - split: train
        path: multiple_choice/train-*
      - split: test
        path: multiple_choice/test-*
  - config_name: span_extraction
    data_files:
      - split: train
        path: span_extraction/train-*
      - split: test
        path: span_extraction/test-*
  - config_name: span_extraction_how
    data_files:
      - split: train
        path: span_extraction_how/train-*
      - split: test
        path: span_extraction_how/test-*
  - config_name: tableqa
    data_files:
      - split: train
        path: tableqa/train-*
      - split: test
        path: tableqa/test-*
  - config_name: text_entailment
    data_files:
      - split: train
        path: text_entailment/train-*
      - split: test
        path: text_entailment/test-*

금융, 법률 문서 기계독해 데이터셋

금융 및 법률 분야 전문문서를 활용하여 기계독해 모델 생성을 위한 지문-질문-답변으로 구성된 데이터셋입니다.

데이터셋 구성

Subsets

span_extraction: 정답경계 추출형(정답이 지문 내 특정 범위에 있는 데이터)
span_extraction_how: 절차(방법)(어떻게로 시작하는 질문에 대한 정답 추출 데이터)
multiple_choice: 다지선다형(객관식 형태의 데이터)
tableqa: Table 정답추출형(표 기반 질의응답 데이터)
text_entailment: Yes/No 단문형(Boolean 선택 형태의 데이터)

Splits

train: 학습용 데이터셋
validation: 검증용 데이터셋

사용 방법

from datasets import load_dataset
특정 configuration의 특정 split 로드
train_data = load_dataset("shchoice/finance-legal-mrc", "span_extraction", split="train")
valid_data = load_dataset("shchoice/finance-legal-mrc", "multiple_choice", split="test")
특정 configuration의 전체 split 로드
full_dataset = load_dataset("shchoice/finance-legal-mrc", "span_extraction")

데이터 필드

기계독해에 필요한 필수 항목

doc_title: 문서 제목 (Optional)
context: 문장의 주요 텍스트 내용
question: 질문 텍스트
answer_text: 질문에 대한 정답 텍스트

정답 힌트

clue_text: 정답의 단서를 제공하는 텍스트

테이블 QA에 필요한 정보

table_title: 표의 제목
table_html: 표의 HTML 데이터

테이블 QA에 필요한 정보 + 정답 힌트

cell_text: 정답이 포함된 셀의 텍스트 데이터
cell_coordinates: 정답이 포함된 셀의 좌표 데이터

다지선택형 QA에서 필요한 정보

options : 객관식 내용들(1. 정답 2. 오답 3. 오답 4.오답)

문서의 분류명

class: 문서의 분류 정보
code: 문서의 코드 정보

라이선스

이 데이터셋은 CC-BY-SA-4.0 라이선스 하에 제공됩니다.