Remove repeated headers

README.md

@@ -86,11 +86,9 @@ The amount of data for the latest dump (20231220) is:
 | :---------------|--------: |
 | # documents     |   650 087 |
 | # paragraphs    |   3 410 374 |
-| # lines         |   10 702 057 |
-| # words         |   58 557 039 |
-| # characters    |   372 042 066 |
-| size in memory  |   422.1 MB |
-| size on disk    |   184.0 MB |
+| # words         |   53 086 456 |
+| # characters    |   346 916 964 |
+| size on disk    |   1.9G |
 
 ### Example use (python)
 
@@ -99,14 +97,22 @@ Load the full dataset:
 ```python
 import datasets
 
-ds = datasets.load_dataset("OpenLLM-France/wiktionary.fr", streaming=True, split="train")
+ds = datasets.load_dataset("OpenLLM-France/wiktionary", streaming=True, split="train")
 ```
 
 Load only a small subset:
 ```python
-ds = datasets.load_dataset("OpenLLM-France/wiktionary.fr", "sample", split="train")
+ds = datasets.load_dataset("OpenLLM-France/wiktionary", "sample", split="train")
 ```
 
+A version "`repeated_headers`" of the dataset is available, where headers are repeated before each section
+(see https://huggingface.co/datasets/OpenLLM-France/wikipedia#alternative-markdown-syntax).
+This dataset can be obtained with:
+```python
+ds = datasets.load_dataset("OpenLLM-France/wiktionary", revision="repeated_headers", split="train")
+```
+
+
 ## Data fields
 
 The data fields are the same among all configurations:
@@ -120,7 +126,7 @@ For example:
 {'id': 847027,
  'url': 'https://fr.wiktionary.org/wiki/D%C3%A9partement_de_Rinconada',
  'title': 'Département de Rinconada',
- 'text': "# Département de Rinconada\n\nLe département de Rinconada est une des 16 subdivisions de la province de Jujuy, en Argentine. Son chef-lieu est la ville de Rinconada.\nLe département a une superficie de 6 407 km². Sa population extrêmement clairsemée s'élevait à 2 298 habitants en 2001, soit une densité de 0,3 hab./km².\n\n# Département de Rinconada\n## Localités\n\nOutre le chef-lieu d'arrondissement, Rinconada, il faut citer :\n* Mina Pirquitas, localité la plus élevée d'Argentine (4 271 mètres d'altitude).\nC'est sur le territoire de ce département qu'est situé le site Ramsar des Lagunas de Vilama."
+ 'text': "# Département de Rinconada\n\nLe département de Rinconada est une des 16 subdivisions de la province de Jujuy, en Argentine. Son chef-lieu est la ville de Rinconada.\nLe département a une superficie de 6 407 km². Sa population extrêmement clairsemée s'élevait à 2 298 habitants en 2001, soit une densité de 0,3 hab./km².\n\n## Localités\n\nOutre le chef-lieu d'arrondissement, Rinconada, il faut citer :\n* Mina Pirquitas, localité la plus élevée d'Argentine (4 271 mètres d'altitude).\nC'est sur le territoire de ce département qu'est situé le site Ramsar des Lagunas de Vilama."
 }
 ```
 

fr/20231220/train-000000-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:e2fdb7abfa3fae97d94e0670ed4606b943ceeeab74d668ab1f2c877eb997214b
-size 32850743
+oid sha256:e5a309baf67aa99511828bbfb3d4b68574be2c6d7ca408ef9235eee732fd79a2
+size 31084852

fr/20231220/train-000001-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:ae7494d125380d87931e67ae73c2b87cd8ee95dfaa9916a5e6a7c48c32144240
-size 29931642
+oid sha256:305df4b5e9f680d762eaec0680374507dcfe339ff1dbc7d27982dd11933c8c9e
+size 28439276

fr/20231220/train-000002-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:a8caf1214d2b3f8019b64ae155228885a6599778df99d26919f36bcc283039ec
-size 30711503
+oid sha256:1a2705c1a6562d7be84d839245fea6ac20f8dc9e076bcd8ce57a1decac8b4814
+size 29231465

fr/20231220/train-000003-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:e6b5dafa91aaefcfadd45b54ca502445af34f517ccf1c2240b87c2de65a81233
-size 36351584
+oid sha256:ea9a0ba5bcbab1dcaf0cf620898ba50c9424250874e9251e1be3b8d2ceb90fed
+size 34863856

fr/20231220/train-000004-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:55f1979bbfc585a4402e2e3c36c5cddadc7746de433d40b7789edd383614ff23
-size 31438062
+oid sha256:51b006ebb3359cb925587200441fa24d501ab4be5b1d559c499091e53216329b
+size 30076159

fr/20231220/train-000005-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:daa7c4d8d73b5295c9e010725d7bd660eb2358626f36967ace180c4709ee1a2f
-size 28958890
+oid sha256:e55ae9a67a9043eef74006d8838242da696b4b21a4fc9c36e89ca489a41dad84
+size 27265288

fr/20231220/train-000006-of-000007.parquet

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:b117356b2bf207597e35f5590a59631e0c19782752919b4543f1789a8661bf34
-size 2698820
+oid sha256:f8d6070c2e8e8b4d967ee839433148dd1a18db98ed80f03c92527ba7d34d53d1
+size 2565256