File size: 1,306 Bytes
c2afdb5 18c88a6 065361c c2afdb5 dd1e21e c2afdb5 065361c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 |
---
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 1324350631
num_examples: 1196655
download_size: 801322767
dataset_size: 1324350631
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: cc-by-sa-4.0
---
## アクセス方法
```python
!pip install datasets
from datasets import load_dataset
dataset = load_dataset("geniacllm/wiki40b")
```
jsonlへの変換
```python
import json
with open('your_dataset.jsonl', 'w', encoding='utf-8') as f:
# 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。
for example in dataset['train']:
# JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。
json_line = json.dumps(example) + "\n"
f.write(json_line)
```
## データセット情報
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 1324350631
num_examples: 1196655
download_size: 801322767
dataset_size: 1324350631
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
## citation
* https://aclanthology.org/2020.lrec-1.297.pdf |