Hugging Face's logo

Datasets:
BramVanroy
/
stack_md_lid

Modalities:
Tabular
Text
Formats:
parquet
Languages:
multilingual
Abkhazian
Achinese
Size:
10M - 100M
Libraries:
Datasets
Dask
Dataset card Viewer Files Community
2
BramVanroy lbourdois commited on
Commit
42bb090
•
1 Parent(s): 4035847

Update README.md (#1)

Browse files

- Update README.md (1379c637e533f62eb847821920f8210e2d7ecff9)


Co-authored-by: Loïck BOURDOIS <lbourdois@users.noreply.huggingface.co>

Files changed (1) hide show
  1. README.md +207 -0
README.md CHANGED
@@ -74,6 +74,213 @@ configs:
74
  data_files:
75
  - split: train
76
  path: data/train-*
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
77
  ---
78
 
79
  A copy of the deduplicated the [stack](https://huggingface.co/datasets/bigcode/the-stack-dedup) Markdown files, annotated with fastText to include language labels (`lid` column) and probabilities (`lid_prob`). This was done using the NLLB fastText model [`facebook/fasttext-language-identification`](https://huggingface.co/facebook/fasttext-language-identification).
 
74
  data_files:
75
  - split: train
76
  path: data/train-*
77
+ language:
78
+ - multilingual
79
+ - abk
80
+ - ace
81
+ - ady
82
+ - afr
83
+ - aka
84
+ - als
85
+ - amh
86
+ - arb
87
+ - arn
88
+ - asm
89
+ - ast
90
+ - ayr
91
+ - azb
92
+ - azj
93
+ - bak
94
+ - bam
95
+ - ban
96
+ - bel
97
+ - bem
98
+ - ben
99
+ - bho
100
+ - bis
101
+ - bjn
102
+ - bod
103
+ - bos
104
+ - bug
105
+ - bul
106
+ - bxr
107
+ - cat
108
+ - ceb
109
+ - ces
110
+ - che
111
+ - chv
112
+ - cjk
113
+ - ckb
114
+ - crh
115
+ - cym
116
+ - dan
117
+ - deu
118
+ - dik
119
+ - diq
120
+ - dyu
121
+ - dzo
122
+ - ell
123
+ - eng
124
+ - epo
125
+ - est
126
+ - eus
127
+ - ewe
128
+ - ewo
129
+ - fao
130
+ - fij
131
+ - fin
132
+ - fon
133
+ - fra
134
+ - fur
135
+ - fuv
136
+ - gaz
137
+ - gla
138
+ - gle
139
+ - glg
140
+ - gom
141
+ - grn
142
+ - guj
143
+ - hat
144
+ - hau
145
+ - heb
146
+ - hin
147
+ - hrv
148
+ - hun
149
+ - hye
150
+ - ibo
151
+ - ilo
152
+ - ind
153
+ - isl
154
+ - ita
155
+ - jav
156
+ - jpn
157
+ - kab
158
+ - kac
159
+ - kal
160
+ - kam
161
+ - kan
162
+ - kas
163
+ - kat
164
+ - kaz
165
+ - kbp
166
+ - kea
167
+ - khk
168
+ - khm
169
+ - kik
170
+ - kin
171
+ - kir
172
+ - kmb
173
+ - kmr
174
+ - knc
175
+ - knc
176
+ - kon
177
+ - kor
178
+ - krc
179
+ - lao
180
+ - lij
181
+ - lim
182
+ - lin
183
+ - lit
184
+ - lmo
185
+ - ltg
186
+ - ltz
187
+ - lua
188
+ - lug
189
+ - luo
190
+ - lus
191
+ - lvs
192
+ - mag
193
+ - mai
194
+ - mal
195
+ - mar
196
+ - min
197
+ - mkd
198
+ - mlt
199
+ - mni
200
+ - mos
201
+ - mri
202
+ - mya
203
+ - nav
204
+ - nia
205
+ - nld
206
+ - nno
207
+ - nob
208
+ - npi
209
+ - nso
210
+ - nus
211
+ - nya
212
+ - oci
213
+ - ory
214
+ - oss
215
+ - pag
216
+ - pan
217
+ - pap
218
+ - pbt
219
+ - pcm
220
+ - pes
221
+ - plt
222
+ - pol
223
+ - por
224
+ - prs
225
+ - quy
226
+ - roh
227
+ - ron
228
+ - run
229
+ - rus
230
+ - sag
231
+ - san
232
+ - scn
233
+ - sin
234
+ - slk
235
+ - slv
236
+ - smo
237
+ - sna
238
+ - snd
239
+ - som
240
+ - sot
241
+ - spa
242
+ - srd
243
+ - srp
244
+ - ssw
245
+ - sun
246
+ - swe
247
+ - swh
248
+ - szl
249
+ - tah
250
+ - tam
251
+ - taq
252
+ - tat
253
+ - tel
254
+ - tgk
255
+ - tgl
256
+ - tha
257
+ - tir
258
+ - ton
259
+ - tpi
260
+ - tsn
261
+ - tso
262
+ - tuk
263
+ - tum
264
+ - tur
265
+ - twi
266
+ - udm
267
+ - uig
268
+ - ukr
269
+ - umb
270
+ - urd
271
+ - uzn
272
+ - vec
273
+ - vie
274
+ - war
275
+ - wes
276
+ - wol
277
+ - xho
278
+ - ydd
279
+ - yor
280
+ - yue
281
+ - zho
282
+ - zsm
283
+ - zul
284
  ---
285
 
286
  A copy of the deduplicated the [stack](https://huggingface.co/datasets/bigcode/the-stack-dedup) Markdown files, annotated with fastText to include language labels (`lid` column) and probabilities (`lid_prob`). This was done using the NLLB fastText model [`facebook/fasttext-language-identification`](https://huggingface.co/facebook/fasttext-language-identification).