metadata
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 1324350631
num_examples: 1196655
download_size: 801322767
dataset_size: 1324350631
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: cc-by-sa-4.0
アクセス方法
!pip install datasets
from datasets import load_dataset
dataset = load_dataset("geniacllm/wiki40b")
jsonlへの変換
import json
with open('your_dataset.jsonl', 'w', encoding='utf-8') as f:
# 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。
for example in dataset['train']:
# JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。
json_line = json.dumps(example) + "\n"
f.write(json_line)
データセット情報
dataset_info: features:
- name: text dtype: string splits:
- name: train num_bytes: 1324350631 num_examples: 1196655 download_size: 801322767 dataset_size: 1324350631 configs:
- config_name: default
data_files:
- split: train path: data/train-*