README.md

metadata

dataset_info:
  features:
    - name: id
      dtype: int64
    - name: ja
      dtype: string
    - name: en
      dtype: string
  splits:
    - name: train
      num_bytes: 140991
      num_examples: 1372
  download_size: 77453
  dataset_size: 140991
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
license: cc-by-4.0
task_categories:
  - translation
language:
  - ja
  - en
pretty_name: TALPCo

TALPCoデータセットの日英翻訳ペアをHuggingFace形式に変換したデータセットです。
日本語の生データには分かち書き由来の空白文字が含まれていたため、それについは削除してあります。
ライセンスは元データセットの記述に従い、CC-BY 4.0とします。

• GitHub
• 論文

Nomoto, Hiroki, Kenji Okano, David Moeljadi and Hideo Sawada. 2018. 
TUFS Asian Language Parallel Corpus (TALPCo).
Proceedings of the Twenty-Fourth Annual Meeting of the Association for Natural Language Processing, 436-439.