---
license: cc-by-sa-4.0
---

下記データセットを元にフィルタ処理を行ったものです。

wiki40b  |  TensorFlow Datasets
https://www.tensorflow.org/datasets/catalog/wiki40b?hl=ja

フィルタ処理としては、下記の「2. Data processing」の「Filtering」のみを実施しています。

ucllm_nedo_prod/data_management at dev · geniacllm/ucllm_nedo_prod · GitHub
https://github.com/geniacllm/ucllm_nedo_prod/tree/dev/data_management