metadata
license: cc-by-4.0
language:
- zh
介绍
chinese-c4是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗，包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 c4-dataset-script。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。
license: cc-by-4.0
language:
- zh
chinese-c4是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗，包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 c4-dataset-script。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。