Datasets:

ArXiv:
License:
xinjianl commited on
Commit
c3e2756
1 Parent(s): e354543

Delete data/meta.py with huggingface_hub

Browse files
Files changed (1) hide show
  1. data/meta.py +0 -226
data/meta.py DELETED
@@ -1,226 +0,0 @@
1
- lang2shard_cnt = {
2
- 'aa000': 8,
3
- 'ab000': 8,
4
- 'af000': 8,
5
- 'ak000': 8,
6
- 'am000': 8,
7
- 'ar000': 32,
8
- 'as000': 8,
9
- 'ay000': 8,
10
- 'az000': 8,
11
- 'ba000': 8,
12
- 'be000': 8,
13
- 'bg000': 8,
14
- 'bh000': 2,
15
- 'bi000': 1,
16
- 'bm000': 3,
17
- 'bn000': 8,
18
- 'bo000': 4,
19
- 'br000': 8,
20
- 'bs000': 8,
21
- 'ca000': 9,
22
- 'co000': 4,
23
- 'cr000': 3,
24
- 'cs000': 20,
25
- 'cy000': 8,
26
- 'da000': 8,
27
- 'de000': 302,
28
- 'de100': 500,
29
- 'de101': 500,
30
- 'de102': 96,
31
- 'dz000': 6,
32
- 'ee000': 4,
33
- 'el000': 16,
34
- 'en000': 500,
35
- 'en001': 500,
36
- 'en002': 500,
37
- 'en003': 500,
38
- 'en004': 500,
39
- 'en005': 398,
40
- 'en100': 500,
41
- 'en101': 500,
42
- 'en102': 500,
43
- 'en103': 500,
44
- 'en104': 500,
45
- 'en105': 500,
46
- 'en106': 500,
47
- 'en107': 500,
48
- 'en108': 500,
49
- 'en109': 500,
50
- 'en110': 500,
51
- 'en111': 500,
52
- 'en112': 500,
53
- 'en113': 500,
54
- 'en114': 500,
55
- 'en115': 500,
56
- 'en116': 500,
57
- 'en117': 500,
58
- 'en118': 500,
59
- 'en119': 500,
60
- 'en120': 500,
61
- 'en121': 500,
62
- 'en122': 500,
63
- 'en123': 500,
64
- 'en124': 500,
65
- 'en125': 500,
66
- 'en126': 500,
67
- 'en127': 237,
68
- 'eo000': 8,
69
- 'es000': 379,
70
- 'es100': 500,
71
- 'es101': 500,
72
- 'es102': 500,
73
- 'es103': 500,
74
- 'es104': 500,
75
- 'es105': 500,
76
- 'es106': 255,
77
- 'et000': 8,
78
- 'eu000': 8,
79
- 'fa000': 8,
80
- 'ff000': 5,
81
- 'fi000': 24,
82
- 'fj000': 5,
83
- 'fo000': 7,
84
- 'fr000': 242,
85
- 'fr100': 500,
86
- 'fr101': 500,
87
- 'fr102': 500,
88
- 'fr103': 318,
89
- 'fy000': 3,
90
- 'ga000': 8,
91
- 'gd000': 5,
92
- 'gl000': 8,
93
- 'gn000': 8,
94
- 'gu000': 8,
95
- 'ha000': 8,
96
- 'hi000': 52,
97
- 'hi100': 10,
98
- 'ho000': 3,
99
- 'hr000': 8,
100
- 'ht000': 7,
101
- 'hu000': 23,
102
- 'hy000': 8,
103
- 'ia000': 7,
104
- 'id000': 143,
105
- 'id100': 500,
106
- 'id101': 363,
107
- 'ie000': 6,
108
- 'ig000': 5,
109
- 'ik000': 3,
110
- 'is000': 8,
111
- 'it000': 148,
112
- 'it100': 500,
113
- 'it101': 426,
114
- 'iu000': 4,
115
- 'iw000': 19,
116
- 'ja000': 112,
117
- 'ja100': 322,
118
- 'jv000': 8,
119
- 'ka000': 8,
120
- 'ki000': 1,
121
- 'kk000': 8,
122
- 'kl000': 3,
123
- 'km000': 8,
124
- 'kn000': 8,
125
- 'ko000': 278,
126
- 'ko100': 500,
127
- 'ko101': 500,
128
- 'ko102': 500,
129
- 'ko103': 257,
130
- 'ks000': 5,
131
- 'ku000': 8,
132
- 'ky000': 8,
133
- 'la000': 8,
134
- 'lb000': 6,
135
- 'lg000': 2,
136
- 'ln000': 8,
137
- 'lo000': 6,
138
- 'lt000': 8,
139
- 'lv000': 8,
140
- 'mg000': 7,
141
- 'mi000': 8,
142
- 'mk000': 8,
143
- 'ml000': 8,
144
- 'mn000': 8,
145
- 'mr000': 8,
146
- 'ms000': 8,
147
- 'my000': 8,
148
- 'na000': 5,
149
- 'nd000': 1,
150
- 'ne000': 8,
151
- 'nl000': 45,
152
- 'nl100': 274,
153
- 'no000': 16,
154
- 'nv000': 3,
155
- 'oc000': 4,
156
- 'om000': 8,
157
- 'or000': 8,
158
- 'pa000': 8,
159
- 'pl000': 78,
160
- 'ps000': 8,
161
- 'pt000': 164,
162
- 'pt100': 500,
163
- 'pt101': 500,
164
- 'pt102': 500,
165
- 'pt103': 353,
166
- 'qu000': 3,
167
- 'rm000': 7,
168
- 'rn000': 3,
169
- 'ro000': 16,
170
- 'ru000': 500,
171
- 'ru001': 63,
172
- 'ru100': 500,
173
- 'ru101': 500,
174
- 'ru102': 500,
175
- 'ru103': 500,
176
- 'ru104': 500,
177
- 'ru105': 500,
178
- 'ru106': 333,
179
- 'rw000': 8,
180
- 'sa000': 7,
181
- 'sc000': 3,
182
- 'sd000': 6,
183
- 'sg000': 1,
184
- 'sh000': 2,
185
- 'si000': 8,
186
- 'sk000': 8,
187
- 'sl000': 8,
188
- 'sm000': 2,
189
- 'sn000': 3,
190
- 'so000': 8,
191
- 'sq000': 8,
192
- 'sr000': 8,
193
- 'st000': 3,
194
- 'su000': 7,
195
- 'sv000': 17,
196
- 'sw000': 8,
197
- 'ta000': 9,
198
- 'te000': 8,
199
- 'tg000': 8,
200
- 'th000': 52,
201
- 'th100': 2,
202
- 'ti000': 7,
203
- 'tk000': 7,
204
- 'tn000': 5,
205
- 'to000': 1,
206
- 'tr000': 64,
207
- 'tr100': 430,
208
- 'ts000': 1,
209
- 'tt000': 4,
210
- 'ug000': 6,
211
- 'uk000': 42,
212
- 'uk100': 65,
213
- 'ur000': 8,
214
- 'uz000': 8,
215
- 've000': 4,
216
- 'vi000': 80,
217
- 'vi100': 500,
218
- 'vi101': 429,
219
- 'vo000': 1,
220
- 'wo000': 7,
221
- 'xh000': 3,
222
- 'yi000': 6,
223
- 'yo000': 8,
224
- 'zh000': 33,
225
- 'zu000': 8,
226
- }