shjwudp commited on
Commit
6f9ed80
1 Parent(s): 798cdf3

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +1 -1
README.md CHANGED
@@ -4,4 +4,4 @@ language:
4
  - zh
5
  ---
6
 
7
- 这是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗,包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见[c4-dataset-script](https://github.com/shjwudp/c4-dataset-script)。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。
 
4
  - zh
5
  ---
6
 
7
+ 这是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗,包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 [c4-dataset-script](https://github.com/shjwudp/c4-dataset-script)。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。