Update sample record explain
Browse files
README.md
CHANGED
|
@@ -40,7 +40,9 @@ Common Crawl 的爬蟲程式遵守 nofollow 和 robots.txt 政策。用於處理
|
|
| 40 |
|
| 41 |
這個繁中的數據來是來自 [Common Crawl](https://commoncrawl.org/overview) **2023-14** 的 data archive 下載并進行清理 。
|
| 42 |
|
| 43 |
-
這是 [jed351](https://huggingface.co/jed351) 準備的版本，託管在這個位址：
|
|
|
|
|
|
|
| 44 |
|
| 45 |
## 支援的任務
|
| 46 |
|
|
@@ -53,7 +55,7 @@ C4主要用於預訓練語言模型(pretrain language model)。
|
|
| 53 |
```
|
| 54 |
{
|
| 55 |
'url': 'http://www.bilingtong.com/cpzx/96.html',
|
| 56 |
-
'timestamp':
|
| 57 |
'content_language': 'zho',
|
| 58 |
'content_type': 'text/plain',
|
| 59 |
'text': '新風系統是通過系統設計送風和排風使室內空氣存在一空氣 。無需開窗全天持續不斷有組.....'
|
|
|
|
| 40 |
|
| 41 |
這個繁中的數據來是來自 [Common Crawl](https://commoncrawl.org/overview) **2023-14** 的 data archive 下載并進行清理 。
|
| 42 |
|
| 43 |
+
這是 [jed351](https://huggingface.co/jed351) 準備的版本，託管在這個位址：
|
| 44 |
+
|
| 45 |
+
- https://huggingface.co/datasets/jed351/Traditional-Chinese-Common-Crawl-Filtered
|
| 46 |
|
| 47 |
## 支援的任務
|
| 48 |
|
|
|
|
| 55 |
```
|
| 56 |
{
|
| 57 |
'url': 'http://www.bilingtong.com/cpzx/96.html',
|
| 58 |
+
'timestamp': '2023-03-21 02:12:48',
|
| 59 |
'content_language': 'zho',
|
| 60 |
'content_type': 'text/plain',
|
| 61 |
'text': '新風系統是通過系統設計送風和排風使室內空氣存在一空氣 。無需開窗全天持續不斷有組.....'
|