README.md

---
license:
- cc-by-sa-3.0
- gfdl
task_categories:
- text-generation
- fill-mask
language:
- ja
---
# range3/wikipedia-ja-20230101
This dataset consists of a parquet file from the wikipedia dataset with only Japanese data extracted. It is generated by the following python code.

このデータセットは、wikipediaデータセットの日本語データのみを抽出したparquetファイルで構成されます。以下のpythonコードによって生成しています。

```py
import datasets
dss = datasets.load_dataset(
    "wikipedia",
    language="ja",
    date="20230101",
    beam_runner="DirectRunner",
)

for split,ds in dss.items():
    ds.to_parquet(f"wikipedia-ja-20230101/{split}.parquet")
```