File size: 495 Bytes
262d05a 798cdf3 262d05a 798cdf3 7df3de2 |
1 2 3 4 5 6 7 8 9 10 |
---
license: cc-by-4.0
language:
- zh
---
## 介绍
chinese-c4是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗，包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 [c4-dataset-script](https://github.com/shjwudp/c4-dataset-script)。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。
|