Datasets:

Modalities:
Text
Formats:
parquet
Libraries:
Datasets
Dask
License:
ks5531 commited on
Commit
dd1e21e
·
verified ·
1 Parent(s): 18c88a6

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +24 -2
README.md CHANGED
@@ -1,4 +1,4 @@
1
- ---
2
  dataset_info:
3
  features:
4
  - name: text
@@ -14,4 +14,26 @@ configs:
14
  data_files:
15
  - split: train
16
  path: data/train-*
17
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
  dataset_info:
3
  features:
4
  - name: text
 
14
  data_files:
15
  - split: train
16
  path: data/train-*
17
+
18
+ ## アクセス方法
19
+
20
+ ```python
21
+ !pip install datasets
22
+
23
+ from datasets import load_dataset
24
+
25
+ dataset = load_dataset("geniacllm/wiki40b")
26
+ ```
27
+
28
+ jsonlへの変換
29
+
30
+ ```python
31
+ import json
32
+
33
+ with open('your_dataset.jsonl', 'w', encoding='utf-8') as f:
34
+ # 'train'はデータセットの特定のスプリットです。使用しているデータセットに合わせて調整してください。
35
+ for example in dataset['train']:
36
+ # JSON Lines形式では、各データポイントをJSON文字列に変換し、新しい行に書き出します。
37
+ json_line = json.dumps(example) + "\n"
38
+ f.write(json_line)
39
+ ```