| dataset_info: | |
| features: | |
| - name: text | |
| dtype: string | |
| splits: | |
| - name: train | |
| num_bytes: 1324350631 | |
| num_examples: 1196655 | |
| download_size: 801322767 | |
| dataset_size: 1324350631 | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: data/train-* | |
| ## アクセス方法 | |
| ```python | |
| !pip install datasets | |
| from datasets import load_dataset | |
| dataset = load_dataset("geniacllm/wiki40b") | |
| ``` | |
| jsonlへの変換 | |
| ```python | |
| import json | |
| with open('your_dataset.jsonl', 'w', encoding='utf-8') as f: | |
| # 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。 | |
| for example in dataset['train']: | |
| # JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。 | |
| json_line = json.dumps(example) + "\n" | |
| f.write(json_line) | |
| ``` | |