hotchpotch commited on
Commit
266f892
1 Parent(s): 487bc75

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -2
README.md CHANGED
@@ -20,8 +20,10 @@ configs:
20
  path: data/train-*
21
  ---
22
 
23
- cc100-ja-documents
24
 
25
- [cc100-ja](https://huggingface.co/datasets/range3/cc100-ja) を document 単位のデータセットです。HuggingFace で公開されている cc100 / cc100-ja は line 単位の分割のため、空行が入ったり、1行あたりのテキストが短い、コンテキストが本来前後のlineにあるのに、そのまま使うと抜け落ちてしまっています。そのため、document 単位に結合したものです。
 
 
26
 
27
  ライセンスはオリジナルの cc100 に準拠します。
 
20
  path: data/train-*
21
  ---
22
 
23
+ # cc100-ja-documents
24
 
25
+ [cc100-ja](https://huggingface.co/datasets/range3/cc100-ja) を document 単位に分割したデータセットです。
26
+
27
+ HuggingFace で公開されている cc100 / cc100-ja は line 単位の分割のため、空行が入ったり、1行あたりのテキストが短い、コンテキストが本来前後のlineにあるのに、そのまま使うと抜け落ちてしまっています。そのため、document 単位に結合したものです。
28
 
29
  ライセンスはオリジナルの cc100 に準拠します。