|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
""" |
|
The LTI LangID corpus is a dataset for language identification. |
|
The most recent version, v5, contains training data for 1266 languages, and some (possibly very tiny) amount of text for a total of 1706 languages. |
|
""" |
|
import os |
|
import subprocess |
|
from glob import glob |
|
from pathlib import Path |
|
from typing import Dict, List, Tuple |
|
|
|
import datasets |
|
|
|
from seacrowd.utils import schemas |
|
from seacrowd.utils.configs import SEACrowdConfig |
|
from seacrowd.utils.constants import Licenses, Tasks |
|
|
|
_CITATION = """\ |
|
@inproceedings{brown2014non, |
|
title={Non-linear mapping for improved identification of 1300+ languages}, |
|
author={Brown, Ralf D}, |
|
booktitle={Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP)}, |
|
pages={627--632}, |
|
year={2014} |
|
} |
|
""" |
|
|
|
_DATASETNAME = "lti_langid_corpus" |
|
|
|
_DESCRIPTION = """\ |
|
The LTI LangID corpus is a dataset for language identification. |
|
The most recent version, v5, contains training data for 1266 languages, and some (possibly very tiny) amount of text for a total of 1706 languages. |
|
This dataloader can only be executed in a BASH environment at the moment. (See https://github.com/SEACrowd/seacrowd-datahub/pull/405) |
|
""" |
|
|
|
_HOMEPAGE = "https://www.cs.cmu.edu/~ralf/langid.html" |
|
|
|
_LANGUAGES = [ |
|
"ifa", |
|
"ace", |
|
"btm", |
|
"mqj", |
|
"mbs", |
|
"nbq", |
|
"gor", |
|
"zyp", |
|
"tbl", |
|
"kjp", |
|
"kmk", |
|
"kqe", |
|
"ptu", |
|
"blw", |
|
"ceb", |
|
"prf", |
|
"yva", |
|
"zlm", |
|
"bps", |
|
"tdt", |
|
"mya", |
|
"dgc", |
|
"lus", |
|
"wrs", |
|
"abx", |
|
"rgu", |
|
"aaz", |
|
"agn", |
|
"ccp", |
|
"cmn", |
|
"jav", |
|
"obo", |
|
"due", |
|
"msk", |
|
"xsb", |
|
"syb", |
|
"ind", |
|
"lbk", |
|
"min", |
|
"smk", |
|
"att", |
|
"nod", |
|
"tdj", |
|
"atb", |
|
"atd", |
|
"pag", |
|
"hvn", |
|
"ksc", |
|
"lao", |
|
"kkl", |
|
"lti", |
|
"dao", |
|
"cgc", |
|
"tbk", |
|
"gdg", |
|
"amk", |
|
"mbd", |
|
"clu", |
|
"msb", |
|
"sbl", |
|
"cek", |
|
"khm", |
|
"yue", |
|
"sgb", |
|
"beu", |
|
"eip", |
|
"ifu", |
|
"mnw", |
|
"suc", |
|
"bgs", |
|
"pam", |
|
"ebk", |
|
"eng", |
|
"nfa", |
|
"cbk", |
|
"ify", |
|
"csy", |
|
"heg", |
|
"shn", |
|
"mta", |
|
"mbt", |
|
"lex", |
|
"tha", |
|
"mmn", |
|
"sun", |
|
"vie", |
|
"llg", |
|
"xnn", |
|
"txq", |
|
"bcl", |
|
"kje", |
|
"kne", |
|
"san", |
|
"hlt", |
|
"kyu", |
|
"bkd", |
|
"duo", |
|
"tet", |
|
"ury", |
|
"yka", |
|
"bjn", |
|
"tiy", |
|
"ivv", |
|
"agt", |
|
"ban", |
|
"blz", |
|
"mbi", |
|
"ilo", |
|
"mkn", |
|
"isd", |
|
"cth", |
|
"bpr", |
|
"por", |
|
"mbb", |
|
"tgl", |
|
"msm", |
|
"ivb", |
|
"tam", |
|
"plw", |
|
"alp", |
|
"row", |
|
] |
|
|
|
_ALL_LANGS = [ |
|
"aai", |
|
"aak", |
|
"aau", |
|
"aaz", |
|
"abk", |
|
"abt", |
|
"abx", |
|
"aby", |
|
"aca", |
|
"acc", |
|
"ace", |
|
"acf", |
|
"acr", |
|
"acu", |
|
"adj", |
|
"ady", |
|
"adz", |
|
"aer", |
|
"aey", |
|
"afr", |
|
"agd", |
|
"agg", |
|
"agm", |
|
"agn", |
|
"agr", |
|
"agt", |
|
"agu", |
|
"ahr", |
|
"aia", |
|
"aii", |
|
"ake", |
|
"akh", |
|
"alb", |
|
"alp", |
|
"als", |
|
"aly", |
|
"ame", |
|
"amf", |
|
"amh", |
|
"ami", |
|
"amk", |
|
"amm", |
|
"amn", |
|
"amo", |
|
"amp", |
|
"amr", |
|
"amu", |
|
"amx", |
|
"ang", |
|
"anh", |
|
"anp", |
|
"anv", |
|
"aoi", |
|
"aoj", |
|
"aom", |
|
"aon", |
|
"apb", |
|
"ape", |
|
"apn", |
|
"apr", |
|
"apu", |
|
"apw", |
|
"apy", |
|
"apz", |
|
"ara", |
|
"arb", |
|
"arc", |
|
"are", |
|
"arg", |
|
"arl", |
|
"arn", |
|
"arp", |
|
"arq", |
|
"ary", |
|
"arz", |
|
"ase", |
|
"asm", |
|
"aso", |
|
"ast", |
|
"ata", |
|
"atb", |
|
"atd", |
|
"atg", |
|
"atj", |
|
"att", |
|
"aty", |
|
"auc", |
|
"aui", |
|
"auy", |
|
"ava", |
|
"avk", |
|
"avt", |
|
"awa", |
|
"awb", |
|
"awk", |
|
"awx", |
|
"aym", |
|
"ayp", |
|
"azb", |
|
"azd", |
|
"aze", |
|
"azg", |
|
"azz", |
|
"bak", |
|
"ban", |
|
"bao", |
|
"bar", |
|
"bba", |
|
"bbb", |
|
"bbr", |
|
"bch", |
|
"bcl", |
|
"bco", |
|
"bdd", |
|
"bdv", |
|
"bea", |
|
"bef", |
|
"bel", |
|
"ben", |
|
"beo", |
|
"ber", |
|
"beu", |
|
"bfb", |
|
"bfz", |
|
"bgc", |
|
"bgn", |
|
"bgs", |
|
"bgt", |
|
"bgw", |
|
"bhd", |
|
"bhg", |
|
"bhl", |
|
"bho", |
|
"bht", |
|
"big", |
|
"bjk", |
|
"bjn", |
|
"bjp", |
|
"bjr", |
|
"bjv", |
|
"bjz", |
|
"bkd", |
|
"bki", |
|
"bkq", |
|
"bla", |
|
"blw", |
|
"blz", |
|
"bmh", |
|
"bmr", |
|
"bmu", |
|
"bnp", |
|
"boa", |
|
"bod", |
|
"boj", |
|
"bon", |
|
"bos", |
|
"box", |
|
"bpr", |
|
"bps", |
|
"bpy", |
|
"bqc", |
|
"bqi", |
|
"bqj", |
|
"bqp", |
|
"bre", |
|
"bsj", |
|
"bsn", |
|
"bsp", |
|
"bss", |
|
"btm", |
|
"buk", |
|
"bul", |
|
"bus", |
|
"bvd", |
|
"bvr", |
|
"bwd", |
|
"bwo", |
|
"bxh", |
|
"bxr", |
|
"byr", |
|
"byx", |
|
"bzd", |
|
"bzh", |
|
"bzj", |
|
"caa", |
|
"cab", |
|
"cac", |
|
"caf", |
|
"cak", |
|
"cao", |
|
"cap", |
|
"car", |
|
"cat", |
|
"cav", |
|
"cax", |
|
"cbc", |
|
"cbi", |
|
"cbk", |
|
"cbm", |
|
"cbr", |
|
"cbs", |
|
"cbt", |
|
"cbu", |
|
"cbv", |
|
"cco", |
|
"ccp", |
|
"cdh", |
|
"cdj", |
|
"cdo", |
|
"ceb", |
|
"ceg", |
|
"cek", |
|
"ces", |
|
"cgc", |
|
"cha", |
|
"chd", |
|
"che", |
|
"chf", |
|
"chk", |
|
"chq", |
|
"chr", |
|
"chu", |
|
"chv", |
|
"chz", |
|
"cjo", |
|
"cjv", |
|
"ckb", |
|
"cke", |
|
"cki", |
|
"ckw", |
|
"cle", |
|
"clu", |
|
"cly", |
|
"cme", |
|
"cmn", |
|
"cni", |
|
"cnl", |
|
"cnr", |
|
"cnt", |
|
"coe", |
|
"cof", |
|
"cok", |
|
"con", |
|
"cop", |
|
"cor", |
|
"cos", |
|
"cot", |
|
"cox", |
|
"cpa", |
|
"cpb", |
|
"cpc", |
|
"cpu", |
|
"cpy", |
|
"crh", |
|
"crm", |
|
"crn", |
|
"cro", |
|
"crx", |
|
"csb", |
|
"cso", |
|
"csy", |
|
"cta", |
|
"cth", |
|
"cti", |
|
"cto", |
|
"ctp", |
|
"ctu", |
|
"cub", |
|
"cuc", |
|
"cui", |
|
"cuk", |
|
"cul", |
|
"cut", |
|
"cux", |
|
"cwe", |
|
"cya", |
|
"cym", |
|
"daa", |
|
"dad", |
|
"dag", |
|
"dah", |
|
"dan", |
|
"dao", |
|
"ded", |
|
"des", |
|
"deu", |
|
"dgc", |
|
"dgo", |
|
"dgz", |
|
"dhi", |
|
"dhn", |
|
"dif", |
|
"dik", |
|
"din", |
|
"diq", |
|
"div", |
|
"djk", |
|
"djr", |
|
"dnj", |
|
"dob", |
|
"dop", |
|
"dov", |
|
"dsb", |
|
"dso", |
|
"dty", |
|
"dub", |
|
"due", |
|
"duo", |
|
"dwr", |
|
"dww", |
|
"dyi", |
|
"dzo", |
|
"ebk", |
|
"egl", |
|
"eip", |
|
"eka", |
|
"ekk", |
|
"eko", |
|
"ell", |
|
"emi", |
|
"emp", |
|
"eng", |
|
"enm", |
|
"enq", |
|
"epo", |
|
"eri", |
|
"ese", |
|
"esi", |
|
"esk", |
|
"ess", |
|
"est", |
|
"etr", |
|
"eus", |
|
"ewe", |
|
"ext", |
|
"eza", |
|
"faa", |
|
"fai", |
|
"fan", |
|
"fao", |
|
"far", |
|
"fas", |
|
"ffm", |
|
"fin", |
|
"fit", |
|
"for", |
|
"fra", |
|
"frp", |
|
"frr", |
|
"fry", |
|
"fue", |
|
"fuf", |
|
"fuh", |
|
"fur", |
|
"fuv", |
|
"gag", |
|
"gah", |
|
"gai", |
|
"gam", |
|
"gan", |
|
"gaq", |
|
"gas", |
|
"gaw", |
|
"gaz", |
|
"gbk", |
|
"gbl", |
|
"gbm", |
|
"gcr", |
|
"gdg", |
|
"gdn", |
|
"gdr", |
|
"geb", |
|
"gfk", |
|
"ghs", |
|
"gla", |
|
"gle", |
|
"glg", |
|
"glk", |
|
"glv", |
|
"gmv", |
|
"gng", |
|
"gnn", |
|
"gnw", |
|
"gof", |
|
"gok", |
|
"gom", |
|
"gor", |
|
"got", |
|
"gqr", |
|
"grc", |
|
"grn", |
|
"gsw", |
|
"gub", |
|
"guc", |
|
"guh", |
|
"gui", |
|
"guj", |
|
"gul", |
|
"gum", |
|
"gun", |
|
"guo", |
|
"gup", |
|
"gux", |
|
"gvc", |
|
"gvf", |
|
"gvn", |
|
"gvs", |
|
"gwi", |
|
"gym", |
|
"gyr", |
|
"hak", |
|
"hat", |
|
"hau", |
|
"haw", |
|
"hbo", |
|
"hch", |
|
"heb", |
|
"heg", |
|
"hif", |
|
"hin", |
|
"hix", |
|
"hla", |
|
"hlb", |
|
"hlt", |
|
"hmo", |
|
"hns", |
|
"hop", |
|
"hot", |
|
"hoy", |
|
"hrv", |
|
"hsb", |
|
"hto", |
|
"hub", |
|
"hui", |
|
"hun", |
|
"hus", |
|
"huu", |
|
"huv", |
|
"hva", |
|
"hvn", |
|
"hwc", |
|
"hye", |
|
"hyw", |
|
"ian", |
|
"ibo", |
|
"icr", |
|
"ido", |
|
"ifa", |
|
"ifu", |
|
"ify", |
|
"ign", |
|
"iii", |
|
"ikk", |
|
"ikw", |
|
"ile", |
|
"ilo", |
|
"imo", |
|
"ina", |
|
"inb", |
|
"ind", |
|
"inh", |
|
"ino", |
|
"iou", |
|
"ipi", |
|
"iqw", |
|
"iri", |
|
"isd", |
|
"isl", |
|
"isn", |
|
"ita", |
|
"ivb", |
|
"ivv", |
|
"iws", |
|
"ixl", |
|
"izz", |
|
"jaa", |
|
"jac", |
|
"jae", |
|
"jam", |
|
"jao", |
|
"jav", |
|
"jbo", |
|
"jic", |
|
"jid", |
|
"jiv", |
|
"jni", |
|
"jpn", |
|
"juy", |
|
"jvn", |
|
"kaa", |
|
"kab", |
|
"kaj", |
|
"kal", |
|
"kan", |
|
"kaq", |
|
"kat", |
|
"kaz", |
|
"kbc", |
|
"kbd", |
|
"kbh", |
|
"kbm", |
|
"kbp", |
|
"kbq", |
|
"kca", |
|
"kdc", |
|
"kde", |
|
"kdl", |
|
"kek", |
|
"ken", |
|
"kew", |
|
"kfs", |
|
"kfw", |
|
"kfx", |
|
"kfy", |
|
"kgf", |
|
"kgk", |
|
"kgp", |
|
"khm", |
|
"khn", |
|
"khs", |
|
"khw", |
|
"khz", |
|
"kij", |
|
"kik", |
|
"kin", |
|
"kip", |
|
"kiu", |
|
"kiz", |
|
"kjb", |
|
"kje", |
|
"kjo", |
|
"kjp", |
|
"kjs", |
|
"kkc", |
|
"kkl", |
|
"klt", |
|
"klv", |
|
"kmg", |
|
"kmh", |
|
"kmk", |
|
"kmo", |
|
"kms", |
|
"kmu", |
|
"kne", |
|
"knf", |
|
"knj", |
|
"knv", |
|
"kog", |
|
"koi", |
|
"kom", |
|
"kor", |
|
"kos", |
|
"kpf", |
|
"kpg", |
|
"kpj", |
|
"kpr", |
|
"kpw", |
|
"kpx", |
|
"kqa", |
|
"kqc", |
|
"kqe", |
|
"kqf", |
|
"kql", |
|
"kqw", |
|
"krc", |
|
"ksc", |
|
"ksd", |
|
"ksh", |
|
"ksj", |
|
"ksr", |
|
"ktj", |
|
"ktm", |
|
"kto", |
|
"kud", |
|
"kue", |
|
"kum", |
|
"kup", |
|
"kur", |
|
"kvg", |
|
"kvn", |
|
"kwd", |
|
"kwf", |
|
"kwi", |
|
"kwj", |
|
"kxp", |
|
"kxv", |
|
"kyc", |
|
"kyf", |
|
"kyg", |
|
"kyq", |
|
"kyu", |
|
"kyv", |
|
"kyz", |
|
"kze", |
|
"lac", |
|
"lad", |
|
"lao", |
|
"lat", |
|
"lbb", |
|
"lbf", |
|
"lbk", |
|
"lbm", |
|
"lcm", |
|
"leu", |
|
"lex", |
|
"lez", |
|
"lfn", |
|
"lgl", |
|
"lid", |
|
"lif", |
|
"lij", |
|
"lim", |
|
"lin", |
|
"lit", |
|
"liv", |
|
"lki", |
|
"lld", |
|
"llg", |
|
"lmo", |
|
"lrc", |
|
"ltg", |
|
"lti", |
|
"ltz", |
|
"lug", |
|
"luo", |
|
"lus", |
|
"luz", |
|
"lvs", |
|
"lww", |
|
"lzh", |
|
"lzz", |
|
"maa", |
|
"mah", |
|
"mai", |
|
"maj", |
|
"mal", |
|
"mam", |
|
"maq", |
|
"mar", |
|
"mau", |
|
"mav", |
|
"maz", |
|
"mbb", |
|
"mbc", |
|
"mbd", |
|
"mbh", |
|
"mbi", |
|
"mbj", |
|
"mbl", |
|
"mbs", |
|
"mbt", |
|
"mca", |
|
"mcb", |
|
"mcd", |
|
"mcf", |
|
"mco", |
|
"mcp", |
|
"mcq", |
|
"mcr", |
|
"mdf", |
|
"mdy", |
|
"med", |
|
"mee", |
|
"meh", |
|
"mek", |
|
"meq", |
|
"met", |
|
"meu", |
|
"mfy", |
|
"mgc", |
|
"mgh", |
|
"mhr", |
|
"mib", |
|
"mie", |
|
"mig", |
|
"mih", |
|
"mil", |
|
"mim", |
|
"min", |
|
"mio", |
|
"mir", |
|
"mit", |
|
"mix", |
|
"miy", |
|
"miz", |
|
"mjc", |
|
"mjl", |
|
"mkd", |
|
"mkj", |
|
"mkl", |
|
"mkn", |
|
"mks", |
|
"mle", |
|
"mlg", |
|
"mlh", |
|
"mlp", |
|
"mlt", |
|
"mmn", |
|
"mmo", |
|
"mmx", |
|
"mna", |
|
"mnc", |
|
"mni", |
|
"mnw", |
|
"moh", |
|
"mon", |
|
"mop", |
|
"mox", |
|
"mpd", |
|
"mpj", |
|
"mpm", |
|
"mpp", |
|
"mps", |
|
"mpt", |
|
"mpx", |
|
"mqb", |
|
"mqj", |
|
"mri", |
|
"mrj", |
|
"msb", |
|
"msc", |
|
"msk", |
|
"msm", |
|
"msy", |
|
"mta", |
|
"mti", |
|
"mto", |
|
"mux", |
|
"muy", |
|
"mva", |
|
"mvn", |
|
"mwc", |
|
"mwe", |
|
"mwf", |
|
"mwl", |
|
"mwp", |
|
"mxb", |
|
"mxp", |
|
"mxq", |
|
"mxt", |
|
"mxv", |
|
"mya", |
|
"myk", |
|
"myu", |
|
"myv", |
|
"myw", |
|
"myy", |
|
"mza", |
|
"mzi", |
|
"mzn", |
|
"nab", |
|
"naf", |
|
"nag", |
|
"nah", |
|
"nak", |
|
"nan", |
|
"nap", |
|
"nas", |
|
"nav", |
|
"nbq", |
|
"nca", |
|
"nce", |
|
"nch", |
|
"ncj", |
|
"ncl", |
|
"ncu", |
|
"nde", |
|
"ndg", |
|
"ndj", |
|
"nds", |
|
"new", |
|
"nfa", |
|
"nfr", |
|
"ngp", |
|
"ngu", |
|
"nhe", |
|
"nhg", |
|
"nhi", |
|
"nho", |
|
"nhr", |
|
"nhu", |
|
"nhw", |
|
"nhx", |
|
"nhy", |
|
"nif", |
|
"nii", |
|
"nin", |
|
"niy", |
|
"nko", |
|
"nld", |
|
"nlg", |
|
"nlx", |
|
"nmw", |
|
"nna", |
|
"nno", |
|
"nnq", |
|
"noa", |
|
"nob", |
|
"nod", |
|
"noi", |
|
"nop", |
|
"not", |
|
"nou", |
|
"nov", |
|
"npi", |
|
"npl", |
|
"nqo", |
|
"nsn", |
|
"nso", |
|
"nss", |
|
"nsu", |
|
"ntj", |
|
"ntp", |
|
"ntu", |
|
"nuy", |
|
"nvm", |
|
"nwi", |
|
"nya", |
|
"nys", |
|
"nyu", |
|
"obo", |
|
"oci", |
|
"okv", |
|
"olo", |
|
"omw", |
|
"ong", |
|
"ons", |
|
"ood", |
|
"opm", |
|
"ory", |
|
"oss", |
|
"ota", |
|
"ote", |
|
"otm", |
|
"otn", |
|
"otq", |
|
"ots", |
|
"oym", |
|
"pab", |
|
"pad", |
|
"pag", |
|
"pah", |
|
"pam", |
|
"pan", |
|
"pao", |
|
"pap", |
|
"pbb", |
|
"pbc", |
|
"pcd", |
|
"pdc", |
|
"peg", |
|
"pes", |
|
"pfl", |
|
"pib", |
|
"pio", |
|
"pir", |
|
"piu", |
|
"pjt", |
|
"pli", |
|
"pls", |
|
"plt", |
|
"plu", |
|
"plw", |
|
"pma", |
|
"pms", |
|
"pnb", |
|
"pnt", |
|
"pob", |
|
"poe", |
|
"poh", |
|
"poi", |
|
"pol", |
|
"pon", |
|
"por", |
|
"poy", |
|
"ppo", |
|
"pps", |
|
"prf", |
|
"pri", |
|
"prq", |
|
"pst", |
|
"ptp", |
|
"ptu", |
|
"pwg", |
|
"qub", |
|
"quc", |
|
"quf", |
|
"quh", |
|
"qul", |
|
"qup", |
|
"quy", |
|
"qvc", |
|
"qve", |
|
"qvh", |
|
"qvm", |
|
"qvn", |
|
"qvs", |
|
"qvw", |
|
"qvz", |
|
"qwh", |
|
"qxh", |
|
"qxl", |
|
"qxn", |
|
"qxo", |
|
"rai", |
|
"ram", |
|
"rap", |
|
"reg", |
|
"rgu", |
|
"rkb", |
|
"rmc", |
|
"rmn", |
|
"rmy", |
|
"roh", |
|
"ron", |
|
"roo", |
|
"rop", |
|
"row", |
|
"rro", |
|
"rtw", |
|
"rue", |
|
"ruf", |
|
"rug", |
|
"rup", |
|
"rus", |
|
"rwo", |
|
"sab", |
|
"sah", |
|
"san", |
|
"sat", |
|
"sbe", |
|
"sbk", |
|
"sbl", |
|
"sbs", |
|
"sby", |
|
"sch", |
|
"sck", |
|
"scn", |
|
"sco", |
|
"sdh", |
|
"seh", |
|
"sey", |
|
"sgb", |
|
"sgj", |
|
"sgs", |
|
"sgz", |
|
"shi", |
|
"shj", |
|
"shn", |
|
"shp", |
|
"sim", |
|
"sin", |
|
"sja", |
|
"skr", |
|
"sli", |
|
"slk", |
|
"sll", |
|
"slv", |
|
"sme", |
|
"smk", |
|
"smo", |
|
"sna", |
|
"snc", |
|
"snd", |
|
"snn", |
|
"snp", |
|
"sny", |
|
"som", |
|
"soq", |
|
"soy", |
|
"spa", |
|
"spl", |
|
"spm", |
|
"spp", |
|
"sps", |
|
"spy", |
|
"srd", |
|
"sri", |
|
"srm", |
|
"srn", |
|
"srp", |
|
"srq", |
|
"srx", |
|
"ssd", |
|
"ssg", |
|
"ssx", |
|
"stp", |
|
"stq", |
|
"sua", |
|
"suc", |
|
"sue", |
|
"sun", |
|
"sus", |
|
"suz", |
|
"swe", |
|
"swh", |
|
"swp", |
|
"sxb", |
|
"syb", |
|
"szl", |
|
"szy", |
|
"tac", |
|
"taj", |
|
"tam", |
|
"tar", |
|
"tat", |
|
"tau", |
|
"tav", |
|
"taw", |
|
"tay", |
|
"tbc", |
|
"tbf", |
|
"tbg", |
|
"tbk", |
|
"tbl", |
|
"tbo", |
|
"tbz", |
|
"tca", |
|
"tcf", |
|
"tcs", |
|
"tcy", |
|
"tcz", |
|
"tdj", |
|
"tdt", |
|
"tdx", |
|
"ted", |
|
"tee", |
|
"tel", |
|
"ter", |
|
"tet", |
|
"tew", |
|
"tfr", |
|
"tgk", |
|
"tgl", |
|
"tgo", |
|
"tgp", |
|
"tha", |
|
"thr", |
|
"tif", |
|
"tik", |
|
"tim", |
|
"tir", |
|
"tiw", |
|
"tiy", |
|
"tke", |
|
"tkr", |
|
"tku", |
|
"tlf", |
|
"tlh", |
|
"tly", |
|
"tmd", |
|
"tna", |
|
"tnc", |
|
"tnk", |
|
"tnn", |
|
"tnp", |
|
"toc", |
|
"tod", |
|
"tof", |
|
"toj", |
|
"tok", |
|
"ton", |
|
"too", |
|
"top", |
|
"tos", |
|
"tpi", |
|
"tpt", |
|
"tpx", |
|
"tpz", |
|
"trc", |
|
"trq", |
|
"trs", |
|
"trv", |
|
"tsn", |
|
"tso", |
|
"tsw", |
|
"ttc", |
|
"tte", |
|
"tuc", |
|
"tue", |
|
"tuf", |
|
"tuk", |
|
"tuo", |
|
"tur", |
|
"tvk", |
|
"tvt", |
|
"twi", |
|
"txq", |
|
"txu", |
|
"tyv", |
|
"tzc", |
|
"tze", |
|
"tzj", |
|
"tzm", |
|
"tzo", |
|
"tzs", |
|
"tzz", |
|
"ubr", |
|
"ubu", |
|
"udm", |
|
"udu", |
|
"uig", |
|
"ukr", |
|
"uli", |
|
"ulk", |
|
"unx", |
|
"upv", |
|
"ura", |
|
"urb", |
|
"urd", |
|
"uri", |
|
"urt", |
|
"urw", |
|
"ury", |
|
"usa", |
|
"usp", |
|
"uvh", |
|
"uvl", |
|
"uzb", |
|
"vah", |
|
"vai", |
|
"var", |
|
"vec", |
|
"vep", |
|
"vid", |
|
"vie", |
|
"viv", |
|
"vls", |
|
"vmy", |
|
"vol", |
|
"vro", |
|
"waj", |
|
"wal", |
|
"wap", |
|
"wat", |
|
"waw", |
|
"wbi", |
|
"wbp", |
|
"wed", |
|
"wer", |
|
"wim", |
|
"wiu", |
|
"wiv", |
|
"wln", |
|
"wmt", |
|
"wmw", |
|
"wnc", |
|
"wnu", |
|
"wol", |
|
"wos", |
|
"wrk", |
|
"wrs", |
|
"wsk", |
|
"wuu", |
|
"wuv", |
|
"xal", |
|
"xav", |
|
"xbi", |
|
"xed", |
|
"xer", |
|
"xho", |
|
"xir", |
|
"xla", |
|
"xmf", |
|
"xnj", |
|
"xnn", |
|
"xno", |
|
"xnr", |
|
"xon", |
|
"xri", |
|
"xsb", |
|
"xsi", |
|
"xta", |
|
"xtd", |
|
"xtm", |
|
"xtn", |
|
"xuo", |
|
"yaa", |
|
"yad", |
|
"yal", |
|
"yam", |
|
"yao", |
|
"yap", |
|
"yaq", |
|
"yby", |
|
"ycn", |
|
"yid", |
|
"yka", |
|
"yle", |
|
"yml", |
|
"yom", |
|
"yon", |
|
"yor", |
|
"yrb", |
|
"yre", |
|
"yss", |
|
"yua", |
|
"yue", |
|
"yuj", |
|
"yut", |
|
"yuw", |
|
"yva", |
|
"zaa", |
|
"zab", |
|
"zac", |
|
"zad", |
|
"zae", |
|
"zai", |
|
"zaj", |
|
"zam", |
|
"zao", |
|
"zaq", |
|
"zar", |
|
"zas", |
|
"zat", |
|
"zav", |
|
"zaw", |
|
"zca", |
|
"zea", |
|
"zga", |
|
"zgh", |
|
"zia", |
|
"ziw", |
|
"zlm", |
|
"zos", |
|
"zpc", |
|
"zpg", |
|
"zpi", |
|
"zpl", |
|
"zpm", |
|
"zpo", |
|
"zpq", |
|
"zpt", |
|
"zpu", |
|
"zpv", |
|
"zpz", |
|
"zsr", |
|
"ztg", |
|
"ztq", |
|
"zty", |
|
"zul", |
|
"zyp", |
|
] |
|
|
|
_LICENSE = Licenses.UNKNOWN.value |
|
|
|
_LOCAL = False |
|
|
|
_URL = "http://sourceforge.net/projects/la-strings/files/Language-Data/LTI-LangID-rel5.txz/download" |
|
|
|
_SUPPORTED_TASKS = [Tasks.LANGUAGE_IDENTIFICATION] |
|
|
|
_SOURCE_VERSION = "5.0.0" |
|
_SEACROWD_VERSION = "2024.06.20" |
|
|
|
|
|
|
|
class LTILangIDDataset(datasets.GeneratorBasedBuilder): |
|
"""LTI LangID corpus is a dataset for language identification for 1266 languages.""" |
|
|
|
BUILDER_CONFIGS = [ |
|
SEACrowdConfig( |
|
name=f"{_DATASETNAME}_source", |
|
version=datasets.Version(_SOURCE_VERSION), |
|
description=f"{_DATASETNAME} source schema", |
|
schema="source", |
|
subset_id=f"{_DATASETNAME}", |
|
), |
|
SEACrowdConfig( |
|
name=f"{_DATASETNAME}_seacrowd_text", |
|
version=datasets.Version(_SEACROWD_VERSION), |
|
description=f"{_DATASETNAME} SEACrowd schema", |
|
schema="seacrowd_text", |
|
subset_id=f"{_DATASETNAME}", |
|
), |
|
] |
|
|
|
DEFAULT_CONFIG_NAME = f"{_DATASETNAME}_source" |
|
|
|
def _info(self) -> datasets.DatasetInfo: |
|
if self.config.schema == "source": |
|
features = datasets.Features({"text": datasets.Value("string"), "language": datasets.Value("string")}) |
|
|
|
elif self.config.schema == "seacrowd_text": |
|
features = schemas.text_features(label_names=_ALL_LANGS) |
|
|
|
return datasets.DatasetInfo( |
|
description=_DESCRIPTION, |
|
features=features, |
|
homepage=_HOMEPAGE, |
|
license=_LICENSE, |
|
citation=_CITATION, |
|
) |
|
|
|
def _split_generators(self, dl_manager: datasets.DownloadManager) -> List[datasets.SplitGenerator]: |
|
"""Returns SplitGenerators.""" |
|
data_dir = dl_manager.download_and_extract(_URL) |
|
data_dir = os.path.join(data_dir, "MIL-TALE", "5") |
|
|
|
datasplits_dir = os.path.join(data_dir, "datasplits") |
|
if not Path(datasplits_dir).exists() or not Path(os.path.join(datasplits_dir, "DONE")).exists(): |
|
|
|
subprocess.call([os.path.join(data_dir, "code", "install.sh"), datasplits_dir]) |
|
with open(os.path.join(datasplits_dir, "DONE"), "w"): |
|
pass |
|
|
|
train_filepaths = [] |
|
dev_filepaths = [] |
|
test_filepaths = [] |
|
|
|
dataset_dir = os.path.join(data_dir, "datasplits") |
|
print(dataset_dir) |
|
|
|
for lang_id in _ALL_LANGS: |
|
train_filepaths.append( |
|
( |
|
lang_id, |
|
glob(os.path.join(dataset_dir, "train", f"{lang_id}*")), |
|
) |
|
) |
|
dev_filepaths.append( |
|
( |
|
lang_id, |
|
glob(os.path.join(dataset_dir, "devtest", f"{lang_id}*")), |
|
) |
|
) |
|
test_filepaths.append( |
|
( |
|
lang_id, |
|
glob(os.path.join(dataset_dir, "test", f"{lang_id}*")), |
|
) |
|
) |
|
|
|
return [ |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TRAIN, |
|
|
|
gen_kwargs={ |
|
"all_filepaths": train_filepaths, |
|
}, |
|
), |
|
datasets.SplitGenerator( |
|
name=datasets.Split.VALIDATION, |
|
|
|
gen_kwargs={ |
|
"all_filepaths": dev_filepaths, |
|
}, |
|
), |
|
datasets.SplitGenerator( |
|
name=datasets.Split.TEST, |
|
|
|
gen_kwargs={ |
|
"all_filepaths": test_filepaths, |
|
}, |
|
), |
|
] |
|
|
|
def _generate_examples(self, all_filepaths: List[Path]) -> Tuple[int, Dict]: |
|
|
|
if self.config.schema == "source": |
|
key = 0 |
|
for lang_id, filepaths in all_filepaths: |
|
for filepath in filepaths: |
|
try: |
|
for line in open(filepath): |
|
text = line.strip().replace("\u200d", " ").replace("\u200b", " ") |
|
yield key, {"text": text, "language": lang_id} |
|
key += 1 |
|
except UnicodeDecodeError: |
|
continue |
|
|
|
elif self.config.schema == "seacrowd_text": |
|
key = 0 |
|
for lang_id, filepaths in all_filepaths: |
|
for filepath in filepaths: |
|
try: |
|
for line in open(filepath): |
|
text = line.strip().replace("\u200d", " ").replace("\u200b", " ") |
|
yield key, {"id": f"{filepath.split('/')[-1]}_{key}", "text": text, "label": lang_id} |
|
key += 1 |
|
except UnicodeDecodeError: |
|
continue |
|
|
