README.md

dataset_info: features:

• name: text dtype: string splits:
• name: train num_bytes: 1324350631 num_examples: 1196655 download_size: 801322767 dataset_size: 1324350631 configs:
• config_name: default data_files:
  • split: train path: data/train-*

アクセス方法

!pip install datasets

from datasets import load_dataset

dataset = load_dataset("geniacllm/wiki40b")

jsonlへの変換

import json

with open('your_dataset.jsonl', 'w', encoding='utf-8') as f:
    # 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。
    for example in dataset['train']:
        # JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。
        json_line = json.dumps(example) + "\n"
        f.write(json_line)