Data not in english when downloading wikipedia dataset in english

#52
by kolling - opened

Hi,

I used the following command to download the english wikipedia dataset:

ds = load_dataset("wikimedia/wikipedia", "20231101.en", split="train",
                  download_mode="reuse_dataset_if_exists",
                  ignore_verifications=True,
                  cache_dir="/home/test/.cache/")

However, once I access the content of the variable ds, the information does not seem to be in english

{'id': '807', 'url': 'https://ab.wikipedia.org/wiki/%D0%90%D4%A5%D1%81%D1%83%D0%B0%20%D0%B1%D1%8B%D0%B7%D1%88%D3%99%D0%B0', 'title': 'Аԥсуа бызшәа', 'text': 'А́ԥсуа бызшәа́, аԥсшәа (, ) — Аԥсны ҳәынҭқарра бызшәас иамоуп. Ихалхно — 125 000 ҩык.\n\nАԥсуа бызшәа амш — жьҭаарамза 27.\n\nАкодқәа\nISO 639-1:ab\nISO 639-2:abk\nISO 639-3:abk\n\nАԥсуа алфавит\n\nАграматика\n\nАбжьыҟатә шьҭыбжьаҟәа\n [ā] аа ← [ʕ]\n [a] а\n [ə] ы\n [ø̞] ы ← [ə] ы (ажәа аԥхьа)\n [ʏ] ы ← [ɥˤʏ] ҩы ← [ɥˤə] ҩы\n [e̞] е ← [je̞] ие ← [ja] иа\n [e̞] е ← [e̞j] еи ← [aj] аи\n [i] и ← [əj] и\n [i] и ← [jə] и\n [o̞] о ← [wo̞] уо ←  уа [wa] уа\n [o̞] о ← [o̞w] оу ←  ау [aw] ау\n [u] у ← [əw] у / [wə] у\n\nАҵыбжьыҟатә шьҭыбжьаҟәа\n\nАцыбжьыҟақәа уԥылоит бзыԥтәи адиалект мцараҿ, аиеҵәа ԥшшәыла иазгәаҭо бзыԥтәи, асаӡтәи диалектқәа — аиаҵәала, абжьауатәи\xa0— ҟаԥшьыла. \nАвелиартә фрикатақәа иреиԥшхаӡом ахархәара аҭыԥ зеиԥшро ала, авелиартәи ма аувелиартәи, иахьатәи аамҭаз бзыԥтәы адиалект аҿы ахархәара амоуп афрингалтә шьҭабжьқәа /χˁ χˁʷ/.\nАхәлымшәытә еидылара [ʔ] ицәырнагоит, актәи ахархәаратә феномен аҟынтә /q’/, аҩбатәи, иара убас иуԥылоит ажәаҿ /ʔaj/ «мап». /ɥ/ уи иахылҵуеит аҟырҟы еиҵалара /ʕʷ/, иара убас уи уаҳауеит анхарҭа ҭыԥқәакырҿ. \nАфонологиатә қәиӷәӷәара аҵакы амоуп.\n\nАҩышьаԥҟарақәа\n\nАзхьарԥшқәа\n Аԥсуа интернет-библиотека\n Корпус абхазского языка\n\nАхьарԥшқәа'}

Is there something wrong in what I did or is this a bug?
Thanks in advance!

Wikimedia org

Hi @kolling ,

I guess you have an old version of datasets. Could you please check it?

import datasets
print(datasets.__version__)

If that is the case, you should update datasets:

pip install -U datasets

Sign up or log in to comment