Datasets:

Modalities:
Text
Formats:
parquet
Libraries:
Datasets
pandas
License:
lhoestq HF staff commited on
Commit
7decb58
1 Parent(s): e3e8e2f

Add `language_bcp47` tag (#4753)

Browse files

* fix ms_terms

* fix ted_talks_iwslt

* move tags to language_bcp47

* fix bad codes

* add language_details and language_bcp47 in DatasetMetadata

* more fixes

* fix wiki_dpr

Commit from https://github.com/huggingface/datasets/commit/aa48a29d1304167dff37cef0ed7542f29376ee2d

Files changed (1) hide show
  1. README.md +37 -36
README.md CHANGED
@@ -12,7 +12,6 @@ language:
12
  - an
13
  - ang
14
  - ar
15
- - ar-SY
16
  - ary
17
  - as
18
  - ast
@@ -25,7 +24,6 @@ language:
25
  - bg
26
  - bho
27
  - bn
28
- - bn-IN
29
  - bo
30
  - br
31
  - brx
@@ -45,48 +43,21 @@ language:
45
  - cy
46
  - da
47
  - de
48
- - de-AT
49
- - de-DE
50
  - dsb
51
  - dv
52
  - dz
53
  - el
54
  - en
55
- - en-AU
56
- - en-CA
57
- - en-GB
58
- - en-NZ
59
- - en-US
60
  - eo
61
  - es
62
- - es-AR
63
- - es-CL
64
- - es-CO
65
- - es-CR
66
- - es-DO
67
- - es-EC
68
- - es-ES
69
- - es-GT
70
- - es-HN
71
- - es-MX
72
- - es-NI
73
- - es-PA
74
- - es-PE
75
- - es-PR
76
- - es-SV
77
- - es-UY
78
- - es-VE
79
  - et
80
  - eu
81
  - fa
82
- - fa-AF
83
  - ff
84
  - fi
85
  - fil
86
  - fo
87
  - fr
88
- - fr-CA
89
- - fr-FR
90
  - frm
91
  - frp
92
  - fur
@@ -166,9 +137,8 @@ language:
166
  - ne
167
  - nhn
168
  - nl
169
- - nl-NL
170
  - nn
171
- - "no"
172
  - nso
173
  - ny
174
  - oc
@@ -183,8 +153,6 @@ language:
183
  - pmy
184
  - ps
185
  - pt
186
- - pt-BR
187
- - pt-PT
188
  - qu
189
  - rm
190
  - ro
@@ -214,7 +182,6 @@ language:
214
  - syr
215
  - szl
216
  - ta
217
- - ta-LK
218
  - te
219
  - tet
220
  - tg
@@ -242,11 +209,45 @@ language:
242
  - yi
243
  - yo
244
  - zh
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
245
  - zh-CN
246
  - zh-HK
247
  - zh-TW
248
- - zu
249
- - zza
250
  license:
251
  - bsd-3-clause
252
  multilinguality:
 
12
  - an
13
  - ang
14
  - ar
 
15
  - ary
16
  - as
17
  - ast
 
24
  - bg
25
  - bho
26
  - bn
 
27
  - bo
28
  - br
29
  - brx
 
43
  - cy
44
  - da
45
  - de
 
 
46
  - dsb
47
  - dv
48
  - dz
49
  - el
50
  - en
 
 
 
 
 
51
  - eo
52
  - es
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
53
  - et
54
  - eu
55
  - fa
 
56
  - ff
57
  - fi
58
  - fil
59
  - fo
60
  - fr
 
 
61
  - frm
62
  - frp
63
  - fur
 
137
  - ne
138
  - nhn
139
  - nl
 
140
  - nn
141
+ - 'no'
142
  - nso
143
  - ny
144
  - oc
 
153
  - pmy
154
  - ps
155
  - pt
 
 
156
  - qu
157
  - rm
158
  - ro
 
182
  - syr
183
  - szl
184
  - ta
 
185
  - te
186
  - tet
187
  - tg
 
209
  - yi
210
  - yo
211
  - zh
212
+ - zu
213
+ - zza
214
+ language_bcp47:
215
+ - ar-SY
216
+ - bn-IN
217
+ - de-AT
218
+ - de-DE
219
+ - en-AU
220
+ - en-CA
221
+ - en-GB
222
+ - en-NZ
223
+ - en-US
224
+ - es-AR
225
+ - es-CL
226
+ - es-CO
227
+ - es-CR
228
+ - es-DO
229
+ - es-EC
230
+ - es-ES
231
+ - es-GT
232
+ - es-HN
233
+ - es-MX
234
+ - es-NI
235
+ - es-PA
236
+ - es-PE
237
+ - es-PR
238
+ - es-SV
239
+ - es-UY
240
+ - es-VE
241
+ - fa-AF
242
+ - fr-CA
243
+ - fr-FR
244
+ - nl-NL
245
+ - pt-BR
246
+ - pt-PT
247
+ - ta-LK
248
  - zh-CN
249
  - zh-HK
250
  - zh-TW
 
 
251
  license:
252
  - bsd-3-clause
253
  multilinguality: