dataset_info: features: - name: text dtype: string splits: - name: train num_bytes: 1324350631 num_examples: 1196655 download_size: 801322767 dataset_size: 1324350631 configs: - config_name: default data_files: - split: train path: data/train-* ## アクセス方法 ```python !pip install datasets from datasets import load_dataset dataset = load_dataset("geniacllm/wiki40b") ``` jsonlへの変換 ```python import json with open('your_dataset.jsonl', 'w', encoding='utf-8') as f: # 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。 for example in dataset['train']: # JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。 json_line = json.dumps(example) + "\n" f.write(json_line) ```