--- language: - en - fr - de - es - it license: - cc-by-sa-4.0 task_categories: - text-generation - fill-mask task_ids: - language-modeling - masked-language-modeling configs: - config_name: default data_files: - split: train path: "*/20240201/*parquet" - config_name: "en" data_files: - split: train path: "en/20240201/*parquet" - config_name: "fr" data_files: - split: train path: "fr/20240201/*parquet" - config_name: "de" data_files: - split: train path: "de/20240201/*parquet" - config_name: "es" data_files: - split: train path: "es/20240201/*parquet" - config_name: "it" data_files: - split: train path: "it/20240201/*parquet" dataset_info: - config_name: "en" features: - name: id dtype: int32 - name: url dtype: string - name: title dtype: string - name: text dtype: string splits: - name: train num_bytes: 28019684686 num_examples: 6893170 download_size: 15544920302 dataset_size: 28019684686 - config_name: "fr" features: - name: id dtype: int32 - name: url dtype: string - name: title dtype: string - name: text dtype: string splits: - name: train num_bytes: 10734253565 num_examples: 2647717 download_size: 5990349749 dataset_size: 10734253565 - config_name: "de" features: - name: id dtype: int32 - name: url dtype: string - name: title dtype: string - name: text dtype: string splits: - name: train num_bytes: 11947016839 num_examples: 2877387 download_size: 6811415105 dataset_size: 11947016839 - config_name: "es" features: - name: id dtype: int32 - name: url dtype: string - name: title dtype: string - name: text dtype: string splits: - name: train num_bytes: 7636098849 num_examples: 1947242 download_size: 4346936003 dataset_size: 7636098849 - config_name: "it" features: - name: id dtype: int32 - name: url dtype: string - name: title dtype: string - name: text dtype: string splits: - name: train num_bytes: 6544616305 num_examples: 1870387 download_size: 3742980452 dataset_size: 6544616305 --- # Plain text of Wikipedia * [Dataset Description](#dataset-description) * [Size](#size) * [Example use (python)](#example-use-python) * [Data fields](#data-fields) * [Notes on data formatting](#notes-on-data-formatting) * [License](#license) * [Aknowledgements](#aknowledgements) * [Citation](#citation) ## Dataset Description This dataset is a plain text version of pages from `wikipedia.org` spaces for several languages ([English](https://en.wikipedia.org/wiki), [German](https://de.wikipedia.org/wiki), [French](https://fr.wikipedia.org/wiki), [Spanish](https://es.wikipedia.org/wiki), [Italian](https://it.wikipedia.org/wiki)). The text is without HTML tags nor wiki templates. It just includes markdown syntax for headers, lists and tables. See [Notes on data formatting](#notes-on-data-formatting) for more details. It was created by [LINAGORA](https://labs.linagora.com/) and [OpenLLM France](https://openllmfrance.org/) from the [Wikimedia dumps](https://dumps.wikimedia.org/other/enterprise_html/runs), using code in [https://github.com/OpenLLM-France/wikiplaintext](https://github.com/OpenLLM-France/wikiplaintext). ### Size The amount of data for the latest dump (20240201) are for the several languages: | | **English (en)** | **German (de)** | **French (fr)** | **Spanish (es)** | **Italian (it)** | | :---------------|--------: |--------: |--------: |--------: |--------: | | **# documents** | 6 893 170 | 2 877 387 | 2 647 717 | 1 947 242 | 1 870 387 | | **# paragraphs** | 59 010 400 | 23 686 448 | 24 943 988 | 16 354 822 | 15 774 432 | | **# words** | 4 708 073 654 | 1 708 517 153 | 1 725 733 130 | 1 244 800 602 | 1 059 728 705 | | **# characters** | 26 615 759 588 | 11 251 992 282 | 9 878 620 695 | 7 161 185 380 | 6 160 546 937 | | **size on disk** | 15G | 6.4G | 5.6G | 4.1G | 3.5G | ### Example use (python) Load the full dataset: ```python import datasets ds = datasets.load_dataset("OpenLLM-France/wikipedia", streaming=True, split="train" ) ``` Load the dataset for a given language (French in this example): ```python ds = datasets.load_dataset("OpenLLM-France/wikipedia", "fr", streaming=True, split="train" ) ``` ### Data fields The data fields are the same among all configurations: - `id` (`int`): ID of the article. - `url` (`str`): URL of the article. - `title` (`str`): Title of the article. - `text` (`str`): Text content of the article. For example: ``` {'id': 847027, 'url': 'https://fr.wikipedia.org/wiki/D%C3%A9partement_de_Rinconada', 'title': 'Département de Rinconada', 'text': "# Département de Rinconada\n\nLe département de Rinconada est une des 16 subdivisions de la province de Jujuy, en Argentine. Son chef-lieu est la ville de Rinconada.\nLe département a une superficie de 6 407 km². Sa population extrêmement clairsemée s'élevait à 2 298 habitants en 2001, soit une densité de 0,3 hab./km².\n\n# Département de Rinconada\n## Localités\n\nOutre le chef-lieu d'arrondissement, Rinconada, il faut citer :\n* Mina Pirquitas, localité la plus élevée d'Argentine (4 271 mètres d'altitude).\nC'est sur le territoire de ce département qu'est situé le site Ramsar des Lagunas de Vilama." } ``` ### Notes on data formatting #### Special characters Superscripts and subscripts are kept as unicode characters when possible. e.g. `XIIIᵉ siècle`, `3 000 m²`, `P₂O₇⁴⁻`. Unbreakable spaces are kept as unicode characters (in python, use `text.replace("\u00A0", " ")` to replace them with normal spaces). #### Markdown syntax Tables are kept as markdown tables. For instance:
| Français | Espéranto | IPA |
| Salut, bonjour | Saluton | [sa.ˈlu.ton] |
| Oui | Jes | [ˈjes] |
| Non | Ne | [ˈne] |
| Bonsoir | Bonan vesperon | [ˈbo.nan ves.ˈpe.ron] |
| Bonne nuit | Bonan nokton | [ˈbo.nan ˈnok.ton] |
Lists are kept as markdown lists. The first header always corresponds to the page title. For instance:
* 1 000 personnes ont l'espéranto comme langue maternelle ;
* 10 000 personnes parlent l'espéranto avec un niveau proche d'une langue maternelle ;
* 100 000 personnes parlent couramment l'espéranto ;
Headers are kept as markdown headers. For instance:
# Espéranto

L'espéranto est une langue construite internationale utilisée comme langue véhiculaire par des personnes […]
Fondée sur une grammaire régulière sans exception, l'espéranto est une langue globalement agglutinante où[…]
C’est en 1887 que Louis-Lazare Zamenhof, sous le pseudonyme Doktoro Esperanto (Docteur « Espérant ») qui […]
L’Association universelle d’espéranto, fondée en 1908, est en relation officielle avec l’Organisation des[…]

## Définition
### Nom

Le pseudonyme « Doktoro Esperanto » (Docteur « Espérant »), utilisé par Zamenhof pour présenter son proje[…]

#### Utilisation du mot espéranto en tant que métaphore

Le nom espéranto fonctionne comme un nom propre quand il désigne la langue même, mais est parfois utilisé[…]
Dans le domaine de l'informatique, Java fut qualifié d'« espéranto des langages de programmation », en pa[…]
##### Alternative markdown syntax A version "`repeated_headers`" of the dataset is available, where headers are repeated before each section. This dataset can be obtained with: ```python import datasets ds = datasets.load_dataset("OpenLLM-France/wikipedia", revision="repeated_headers", streaming=True, split="train" ) ``` The first header always corresponds to the page title, the second header to the section title, the third header to the subsection title, etc. For instance:
# Espéranto

L'espéranto est une langue construite internationale utilisée comme langue véhiculaire par des personnes […]
Fondée sur une grammaire régulière sans exception, l'espéranto est une langue globalement agglutinante où[…]
C’est en 1887 que Louis-Lazare Zamenhof, sous le pseudonyme Doktoro Esperanto (Docteur « Espérant ») qui […]
L’Association universelle d’espéranto, fondée en 1908, est en relation officielle avec l’Organisation des[…]

# Espéranto
## Définition
### Nom

Le pseudonyme « Doktoro Esperanto » (Docteur « Espérant »), utilisé par Zamenhof pour présenter son proje[…]

# Espéranto
## Définition
### Nom
#### Utilisation du mot espéranto en tant que métaphore

Le nom espéranto fonctionne comme un nom propre quand il désigne la langue même, mais est parfois utilisé[…]
Dans le domaine de l'informatique, Java fut qualifié d'« espéranto des langages de programmation », en pa[…]
## License This dataset is distributed under the [Creative Commons Attribution-ShareAlike 4.0 International License](https://creativecommons.org/licenses/by-sa/4.0/). ## Aknowledgements This dataset was created by [Jérôme Louradour](https://huggingface.co/Jeronymous) on behalf of [LINAGORA](https://labs.linagora.com/) and [OpenLLM France](https://openllmfrance.org/). Many thanks to the [Wikimedia Foundation](https://wikimediafoundation.org/) for providing the data and useful advices, in particular Isaac Johnson, Albert Villanova and Rémy Gerbet. ## Citation ``` @online{wikipedia_dump, author = "OpenLLM-France, LINAGORA Labs", title = "Plain text Wikipedia", url = "https://huggingface.co/datasets/OpenLLM-France/wikipedia" } ```