hotchpotch
commited on
Commit
•
266f892
1
Parent(s):
487bc75
Update README.md
Browse files
README.md
CHANGED
@@ -20,8 +20,10 @@ configs:
|
|
20 |
path: data/train-*
|
21 |
---
|
22 |
|
23 |
-
|
24 |
|
25 |
-
[cc100-ja](https://huggingface.co/datasets/range3/cc100-ja) を document
|
|
|
|
|
26 |
|
27 |
ライセンスはオリジナルの cc100 に準拠します。
|
|
|
20 |
path: data/train-*
|
21 |
---
|
22 |
|
23 |
+
# cc100-ja-documents
|
24 |
|
25 |
+
[cc100-ja](https://huggingface.co/datasets/range3/cc100-ja) を document 単位に分割したデータセットです。
|
26 |
+
|
27 |
+
HuggingFace で公開されている cc100 / cc100-ja は line 単位の分割のため、空行が入ったり、1行あたりのテキストが短い、コンテキストが本来前後のlineにあるのに、そのまま使うと抜け落ちてしまっています。そのため、document 単位に結合したものです。
|
28 |
|
29 |
ライセンスはオリジナルの cc100 に準拠します。
|