Update README.md
Browse files
README.md
CHANGED
|
@@ -4,4 +4,6 @@ language:
|
|
| 4 |
- zh
|
| 5 |
---
|
| 6 |
|
| 7 |
-
|
|
|
|
|
|
|
|
|
| 4 |
- zh
|
| 5 |
---
|
| 6 |
|
| 7 |
+
## 介绍
|
| 8 |
+
|
| 9 |
+
chinese-c4是一个基于Common Crawl的清洁中文互联网数据集。数据集大小为46.29GB。数据集经过了多个策略流水线清洗，包括中文筛选、基于标点符号的启发式清洗策略、按行哈希去重、Repetition Removal等。数据清洗脚本见 [c4-dataset-script](https://github.com/shjwudp/c4-dataset-script)。这个数据集可以用于中文NLP的预训练、语言模型或语言生成任务等。
|