Datasets:

ArXiv:
Guillaume Wenzek commited on
Commit
69397c2
1 Parent(s): f883c6a

cleanup language list

Browse files
Files changed (1) hide show
  1. ccmatrix_lang_pairs.py +104 -61
ccmatrix_lang_pairs.py CHANGED
@@ -1,8 +1,13 @@
1
- LANG_PAIRS = [
 
 
 
 
 
 
2
  ("af", "da"),
3
  ("af", "de"),
4
  ("af", "en"),
5
- ("af", "fy"),
6
  ("af", "is"),
7
  ("af", "lb"),
8
  ("af", "nl"),
@@ -26,7 +31,6 @@ LANG_PAIRS = [
26
  ("ar", "eo"),
27
  ("ar", "es"),
28
  ("ar", "et"),
29
- ("ar", "eu"),
30
  ("ar", "fa"),
31
  ("ar", "fi"),
32
  ("ar", "fr"),
@@ -42,7 +46,6 @@ LANG_PAIRS = [
42
  ("ar", "kk"),
43
  ("ar", "km"),
44
  ("ar", "ko"),
45
- ("ar", "la"),
46
  ("ar", "lg"),
47
  ("ar", "lt"),
48
  ("ar", "lv"),
@@ -83,7 +86,6 @@ LANG_PAIRS = [
83
  ("ast", "fr"),
84
  ("ast", "gl"),
85
  ("ast", "it"),
86
- ("ast", "la"),
87
  ("ast", "oc"),
88
  ("ast", "pt"),
89
  ("ast", "ro"),
@@ -137,7 +139,6 @@ LANG_PAIRS = [
137
  ("bg", "eo"),
138
  ("bg", "es"),
139
  ("bg", "et"),
140
- ("bg", "eu"),
141
  ("bg", "fi"),
142
  ("bg", "fr"),
143
  ("bg", "he"),
@@ -183,11 +184,10 @@ LANG_PAIRS = [
183
  ("bn", "hi"),
184
  ("bn", "hu"),
185
  ("bn", "id"),
186
- ("bn", "il"),
187
  ("bn", "it"),
188
  ("bn", "ja"),
189
  ("bn", "ko"),
190
- ("bn", "la"),
191
  ("bn", "lt"),
192
  ("bn", "lv"),
193
  ("bn", "mg"),
@@ -215,15 +215,12 @@ LANG_PAIRS = [
215
  ("bn", "ur"),
216
  ("bn", "vi"),
217
  ("bn", "zh"),
218
- ("br", "en"),
219
- ("br", "nl"),
220
  ("ca", "da"),
221
  ("ca", "el"),
222
  ("ca", "en"),
223
  ("ca", "eo"),
224
  ("ca", "es"),
225
  ("ca", "et"),
226
- ("ca", "eu"),
227
  ("ca", "fa"),
228
  ("ca", "fi"),
229
  ("ca", "fr"),
@@ -233,7 +230,6 @@ LANG_PAIRS = [
233
  ("ca", "hu"),
234
  ("ca", "id"),
235
  ("ca", "it"),
236
- ("ca", "la"),
237
  ("ca", "lt"),
238
  ("ca", "lv"),
239
  ("ca", "no"),
@@ -251,7 +247,7 @@ LANG_PAIRS = [
251
  ("ceb", "en"),
252
  ("ceb", "hi"),
253
  ("ceb", "id"),
254
- ("ceb", "il"),
255
  ("ceb", "ja"),
256
  ("ceb", "jv"),
257
  ("ceb", "mg"),
@@ -304,11 +300,9 @@ LANG_PAIRS = [
304
  ("da", "eo"),
305
  ("da", "es"),
306
  ("da", "et"),
307
- ("da", "eu"),
308
  ("da", "fa"),
309
  ("da", "fi"),
310
  ("da", "fr"),
311
- ("da", "fy"),
312
  ("da", "gd"),
313
  ("da", "he"),
314
  ("da", "hr"),
@@ -347,14 +341,13 @@ LANG_PAIRS = [
347
  ("de", "fa"),
348
  ("de", "fi"),
349
  ("de", "fr"),
350
- ("de", "fy"),
351
  ("de", "ha"),
352
  ("de", "he"),
353
  ("de", "hi"),
354
  ("de", "hr"),
355
  ("de", "hu"),
356
  ("de", "id"),
357
- ("de", "il"),
358
  ("de", "is"),
359
  ("de", "it"),
360
  ("de", "ja"),
@@ -392,7 +385,6 @@ LANG_PAIRS = [
392
  ("el", "eo"),
393
  ("el", "es"),
394
  ("el", "et"),
395
- ("el", "eu"),
396
  ("el", "fa"),
397
  ("el", "fi"),
398
  ("el", "fr"),
@@ -403,7 +395,6 @@ LANG_PAIRS = [
403
  ("el", "it"),
404
  ("el", "ja"),
405
  ("el", "ko"),
406
- ("el", "la"),
407
  ("el", "lt"),
408
  ("el", "lv"),
409
  ("el", "nl"),
@@ -426,11 +417,9 @@ LANG_PAIRS = [
426
  ("en", "eo"),
427
  ("en", "es"),
428
  ("en", "et"),
429
- ("en", "eu"),
430
  ("en", "fa"),
431
  ("en", "fi"),
432
  ("en", "fr"),
433
- ("en", "fy"),
434
  ("en", "ga"),
435
  ("en", "gd"),
436
  ("en", "gl"),
@@ -441,13 +430,12 @@ LANG_PAIRS = [
441
  ("en", "hu"),
442
  ("en", "id"),
443
  ("en", "ig"),
444
- ("en", "il"),
445
  ("en", "is"),
446
  ("en", "it"),
447
  ("en", "ja"),
448
  ("en", "jv"),
449
  ("en", "ko"),
450
- ("en", "la"),
451
  ("en", "lb"),
452
  ("en", "lt"),
453
  ("en", "lv"),
@@ -486,7 +474,6 @@ LANG_PAIRS = [
486
  ("en", "zh"),
487
  ("eo", "es"),
488
  ("eo", "et"),
489
- ("eo", "eu"),
490
  ("eo", "fa"),
491
  ("eo", "fi"),
492
  ("eo", "fr"),
@@ -508,7 +495,6 @@ LANG_PAIRS = [
508
  ("eo", "sw"),
509
  ("eo", "uk"),
510
  ("es", "et"),
511
- ("es", "eu"),
512
  ("es", "fa"),
513
  ("es", "fi"),
514
  ("es", "fr"),
@@ -520,7 +506,6 @@ LANG_PAIRS = [
520
  ("es", "it"),
521
  ("es", "ja"),
522
  ("es", "ko"),
523
- ("es", "la"),
524
  ("es", "lt"),
525
  ("es", "lv"),
526
  ("es", "mk"),
@@ -542,7 +527,6 @@ LANG_PAIRS = [
542
  ("es", "uk"),
543
  ("es", "vi"),
544
  ("es", "zh"),
545
- ("et", "eu"),
546
  ("et", "fa"),
547
  ("et", "fi"),
548
  ("et", "fr"),
@@ -573,21 +557,6 @@ LANG_PAIRS = [
573
  ("et", "uk"),
574
  ("et", "vi"),
575
  ("et", "zh"),
576
- ("eu", "fa"),
577
- ("eu", "fi"),
578
- ("eu", "he"),
579
- ("eu", "hu"),
580
- ("eu", "it"),
581
- ("eu", "la"),
582
- ("eu", "lt"),
583
- ("eu", "lv"),
584
- ("eu", "no"),
585
- ("eu", "pt"),
586
- ("eu", "sk"),
587
- ("eu", "sl"),
588
- ("eu", "sq"),
589
- ("eu", "sr"),
590
- ("eu", "tr"),
591
  ("fa", "fi"),
592
  ("fa", "fr"),
593
  ("fa", "he"),
@@ -598,7 +567,6 @@ LANG_PAIRS = [
598
  ("fa", "it"),
599
  ("fa", "ja"),
600
  ("fa", "ko"),
601
- ("fa", "la"),
602
  ("fa", "lt"),
603
  ("fa", "lv"),
604
  ("fa", "ml"),
@@ -666,7 +634,6 @@ LANG_PAIRS = [
666
  ("fr", "it"),
667
  ("fr", "ja"),
668
  ("fr", "ko"),
669
- ("fr", "la"),
670
  ("fr", "lt"),
671
  ("fr", "lv"),
672
  ("fr", "ml"),
@@ -689,16 +656,10 @@ LANG_PAIRS = [
689
  ("fr", "uk"),
690
  ("fr", "vi"),
691
  ("fr", "zh"),
692
- ("fy", "is"),
693
- ("fy", "lb"),
694
- ("fy", "nl"),
695
- ("fy", "no"),
696
- ("fy", "yi"),
697
  ("ga", "nl"),
698
  ("gd", "nl"),
699
  ("gd", "no"),
700
  ("gl", "it"),
701
- ("gl", "la"),
702
  ("gl", "oc"),
703
  ("gl", "pt"),
704
  ("gl", "ro"),
@@ -712,7 +673,6 @@ LANG_PAIRS = [
712
  ("he", "id"),
713
  ("he", "ja"),
714
  ("he", "ko"),
715
- ("he", "la"),
716
  ("he", "lt"),
717
  ("he", "lv"),
718
  ("he", "mg"),
@@ -742,12 +702,11 @@ LANG_PAIRS = [
742
  ("he", "zh"),
743
  ("hi", "hu"),
744
  ("hi", "id"),
745
- ("hi", "il"),
746
  ("hi", "it"),
747
  ("hi", "ja"),
748
  ("hi", "jv"),
749
  ("hi", "ko"),
750
- ("hi", "la"),
751
  ("hi", "lt"),
752
  ("hi", "lv"),
753
  ("hi", "mg"),
@@ -823,7 +782,7 @@ LANG_PAIRS = [
823
  ("hy", "tr"),
824
  ("hy", "tt"),
825
  ("hy", "vi"),
826
- ("id", "il"),
827
  ("id", "it"),
828
  ("id", "ja"),
829
  ("id", "jv"),
@@ -871,7 +830,6 @@ LANG_PAIRS = [
871
  ("is", "yi"),
872
  ("it", "ja"),
873
  ("it", "ko"),
874
- ("it", "la"),
875
  ("it", "lt"),
876
  ("it", "lv"),
877
  ("it", "nl"),
@@ -944,12 +902,6 @@ LANG_PAIRS = [
944
  ("ko", "uk"),
945
  ("ko", "vi"),
946
  ("ko", "zh"),
947
- ("la", "oc"),
948
- ("la", "pt"),
949
- ("la", "ro"),
950
- ("la", "sw"),
951
- ("la", "ta"),
952
- ("la", "tr"),
953
  ("lb", "nl"),
954
  ("lb", "no"),
955
  ("lb", "zh"),
@@ -1197,3 +1149,94 @@ LANG_PAIRS = [
1197
  ("vi", "zh"),
1198
  ("yi", "zh"),
1199
  ]
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ """
2
+ Lang pairs found on http://data.statmt.org/cc-matrix/
3
+
4
+ Note that 4 languages are ommitted because they didn't make the cut in NLLB200:
5
+ br (Breton), eu (Basque), fy(Western Frisian) and la (Latin).
6
+ """
7
+ PAIRS = [
8
  ("af", "da"),
9
  ("af", "de"),
10
  ("af", "en"),
 
11
  ("af", "is"),
12
  ("af", "lb"),
13
  ("af", "nl"),
 
31
  ("ar", "eo"),
32
  ("ar", "es"),
33
  ("ar", "et"),
 
34
  ("ar", "fa"),
35
  ("ar", "fi"),
36
  ("ar", "fr"),
 
46
  ("ar", "kk"),
47
  ("ar", "km"),
48
  ("ar", "ko"),
 
49
  ("ar", "lg"),
50
  ("ar", "lt"),
51
  ("ar", "lv"),
 
86
  ("ast", "fr"),
87
  ("ast", "gl"),
88
  ("ast", "it"),
 
89
  ("ast", "oc"),
90
  ("ast", "pt"),
91
  ("ast", "ro"),
 
139
  ("bg", "eo"),
140
  ("bg", "es"),
141
  ("bg", "et"),
 
142
  ("bg", "fi"),
143
  ("bg", "fr"),
144
  ("bg", "he"),
 
184
  ("bn", "hi"),
185
  ("bn", "hu"),
186
  ("bn", "id"),
187
+ ("bn", "ilo"),
188
  ("bn", "it"),
189
  ("bn", "ja"),
190
  ("bn", "ko"),
 
191
  ("bn", "lt"),
192
  ("bn", "lv"),
193
  ("bn", "mg"),
 
215
  ("bn", "ur"),
216
  ("bn", "vi"),
217
  ("bn", "zh"),
 
 
218
  ("ca", "da"),
219
  ("ca", "el"),
220
  ("ca", "en"),
221
  ("ca", "eo"),
222
  ("ca", "es"),
223
  ("ca", "et"),
 
224
  ("ca", "fa"),
225
  ("ca", "fi"),
226
  ("ca", "fr"),
 
230
  ("ca", "hu"),
231
  ("ca", "id"),
232
  ("ca", "it"),
 
233
  ("ca", "lt"),
234
  ("ca", "lv"),
235
  ("ca", "no"),
 
247
  ("ceb", "en"),
248
  ("ceb", "hi"),
249
  ("ceb", "id"),
250
+ ("ceb", "ilo"),
251
  ("ceb", "ja"),
252
  ("ceb", "jv"),
253
  ("ceb", "mg"),
 
300
  ("da", "eo"),
301
  ("da", "es"),
302
  ("da", "et"),
 
303
  ("da", "fa"),
304
  ("da", "fi"),
305
  ("da", "fr"),
 
306
  ("da", "gd"),
307
  ("da", "he"),
308
  ("da", "hr"),
 
341
  ("de", "fa"),
342
  ("de", "fi"),
343
  ("de", "fr"),
 
344
  ("de", "ha"),
345
  ("de", "he"),
346
  ("de", "hi"),
347
  ("de", "hr"),
348
  ("de", "hu"),
349
  ("de", "id"),
350
+ ("de", "ilo"),
351
  ("de", "is"),
352
  ("de", "it"),
353
  ("de", "ja"),
 
385
  ("el", "eo"),
386
  ("el", "es"),
387
  ("el", "et"),
 
388
  ("el", "fa"),
389
  ("el", "fi"),
390
  ("el", "fr"),
 
395
  ("el", "it"),
396
  ("el", "ja"),
397
  ("el", "ko"),
 
398
  ("el", "lt"),
399
  ("el", "lv"),
400
  ("el", "nl"),
 
417
  ("en", "eo"),
418
  ("en", "es"),
419
  ("en", "et"),
 
420
  ("en", "fa"),
421
  ("en", "fi"),
422
  ("en", "fr"),
 
423
  ("en", "ga"),
424
  ("en", "gd"),
425
  ("en", "gl"),
 
430
  ("en", "hu"),
431
  ("en", "id"),
432
  ("en", "ig"),
433
+ ("en", "ilo"),
434
  ("en", "is"),
435
  ("en", "it"),
436
  ("en", "ja"),
437
  ("en", "jv"),
438
  ("en", "ko"),
 
439
  ("en", "lb"),
440
  ("en", "lt"),
441
  ("en", "lv"),
 
474
  ("en", "zh"),
475
  ("eo", "es"),
476
  ("eo", "et"),
 
477
  ("eo", "fa"),
478
  ("eo", "fi"),
479
  ("eo", "fr"),
 
495
  ("eo", "sw"),
496
  ("eo", "uk"),
497
  ("es", "et"),
 
498
  ("es", "fa"),
499
  ("es", "fi"),
500
  ("es", "fr"),
 
506
  ("es", "it"),
507
  ("es", "ja"),
508
  ("es", "ko"),
 
509
  ("es", "lt"),
510
  ("es", "lv"),
511
  ("es", "mk"),
 
527
  ("es", "uk"),
528
  ("es", "vi"),
529
  ("es", "zh"),
 
530
  ("et", "fa"),
531
  ("et", "fi"),
532
  ("et", "fr"),
 
557
  ("et", "uk"),
558
  ("et", "vi"),
559
  ("et", "zh"),
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
560
  ("fa", "fi"),
561
  ("fa", "fr"),
562
  ("fa", "he"),
 
567
  ("fa", "it"),
568
  ("fa", "ja"),
569
  ("fa", "ko"),
 
570
  ("fa", "lt"),
571
  ("fa", "lv"),
572
  ("fa", "ml"),
 
634
  ("fr", "it"),
635
  ("fr", "ja"),
636
  ("fr", "ko"),
 
637
  ("fr", "lt"),
638
  ("fr", "lv"),
639
  ("fr", "ml"),
 
656
  ("fr", "uk"),
657
  ("fr", "vi"),
658
  ("fr", "zh"),
 
 
 
 
 
659
  ("ga", "nl"),
660
  ("gd", "nl"),
661
  ("gd", "no"),
662
  ("gl", "it"),
 
663
  ("gl", "oc"),
664
  ("gl", "pt"),
665
  ("gl", "ro"),
 
673
  ("he", "id"),
674
  ("he", "ja"),
675
  ("he", "ko"),
 
676
  ("he", "lt"),
677
  ("he", "lv"),
678
  ("he", "mg"),
 
702
  ("he", "zh"),
703
  ("hi", "hu"),
704
  ("hi", "id"),
705
+ ("hi", "ilo"),
706
  ("hi", "it"),
707
  ("hi", "ja"),
708
  ("hi", "jv"),
709
  ("hi", "ko"),
 
710
  ("hi", "lt"),
711
  ("hi", "lv"),
712
  ("hi", "mg"),
 
782
  ("hy", "tr"),
783
  ("hy", "tt"),
784
  ("hy", "vi"),
785
+ ("id", "ilo"),
786
  ("id", "it"),
787
  ("id", "ja"),
788
  ("id", "jv"),
 
830
  ("is", "yi"),
831
  ("it", "ja"),
832
  ("it", "ko"),
 
833
  ("it", "lt"),
834
  ("it", "lv"),
835
  ("it", "nl"),
 
902
  ("ko", "uk"),
903
  ("ko", "vi"),
904
  ("ko", "zh"),
 
 
 
 
 
 
905
  ("lb", "nl"),
906
  ("lb", "no"),
907
  ("lb", "zh"),
 
1149
  ("vi", "zh"),
1150
  ("yi", "zh"),
1151
  ]
1152
+
1153
+ # Mapping from the language codes used in CCMatrix and the one used in NLLB200.
1154
+ # NLLB200 went for a more detailed nomenclature to avoid confusion between dialects.
1155
+ MAPPING = {
1156
+ "af": "afr_Latn",
1157
+ "am": "amh_Ethi",
1158
+ "ar": "arb_Arab",
1159
+ "ast": "ast_Latn",
1160
+ "az": "azj_Latn",
1161
+ "be": "bel_Cyrl",
1162
+ "bg": "bul_Cyrl",
1163
+ "bn": "ben_Beng",
1164
+ "ca": "cat_Latn",
1165
+ "ceb": "ceb_Latn",
1166
+ "cs": "ces_Latn",
1167
+ "cy": "cym_Latn",
1168
+ "da": "dan_Latn",
1169
+ "de": "deu_Latn",
1170
+ "el": "ell_Grek",
1171
+ "en": "eng_Latn",
1172
+ "eo": "epo_Latn",
1173
+ "es": "spa_Latn",
1174
+ "et": "est_Latn",
1175
+ "fa": "pes_Arab",
1176
+ "fi": "fin_Latn",
1177
+ "fr": "fra_Latn",
1178
+ "ga": "gle_Latn",
1179
+ "gd": "gla_Latn",
1180
+ "gl": "glg_Latn",
1181
+ "ha": "hau_Latn",
1182
+ "he": "heb_Hebr",
1183
+ "hi": "hin_Deva",
1184
+ "hr": "hrv_Latn",
1185
+ "hu": "hun_Latn",
1186
+ "hy": "hye_Armn",
1187
+ "id": "ind_Latn",
1188
+ "ig": "ibo_Latn",
1189
+ "ilo": "ilo_Latn",
1190
+ "is": "isl_Latn",
1191
+ "it": "ita_Latn",
1192
+ "ja": "jpn_Jpan",
1193
+ "jv": "jav_Latn",
1194
+ "ka": "kat_Geor",
1195
+ "kk": "kaz_Cyrl",
1196
+ "km": "khm_Khmr",
1197
+ "ko": "kor_Hang",
1198
+ "lb": "ltz_Latn",
1199
+ "lg": "lug_Latn",
1200
+ "lt": "lit_Latn",
1201
+ "lv": "lvs_Latn",
1202
+ "mg": "plt_Latn",
1203
+ "mk": "mkd_Cyrl",
1204
+ "ml": "mal_Mlym",
1205
+ "mr": "mar_Deva",
1206
+ "ms": "zsm_Latn",
1207
+ "my": "mya_Mymr",
1208
+ "ne": "npi_Deva",
1209
+ "nl": "nld_Latn",
1210
+ "no": "nob_Latn",
1211
+ "oc": "oci_Latn",
1212
+ "om": "gaz_Latn",
1213
+ "or": "ory_Orya",
1214
+ "pl": "pol_Latn",
1215
+ "pt": "por_Latn",
1216
+ "ro": "ron_Latn",
1217
+ "ru": "rus_Cyrl",
1218
+ "sd": "snd_Arab",
1219
+ "si": "sin_Sinh",
1220
+ "sk": "slk_Latn",
1221
+ "sl": "slv_Latn",
1222
+ "so": "som_Latn",
1223
+ "sq": "als_Latn",
1224
+ "sr": "srp_Cyrl",
1225
+ "su": "sun_Latn",
1226
+ "sv": "swe_Latn",
1227
+ "sw": "swh_Latn",
1228
+ "ta": "tam_Taml",
1229
+ "tl": "tgl_Latn",
1230
+ "tr": "tur_Latn",
1231
+ "tt": "tat_Cyrl",
1232
+ "uk": "ukr_Cyrl",
1233
+ "ur": "urd_Arab",
1234
+ "uz": "uzn_Latn",
1235
+ "vi": "vie_Latn",
1236
+ "wo": "wol_Latn",
1237
+ "xh": "xho_Latn",
1238
+ "yi": "ydd_Hebr",
1239
+ "yo": "yor_Latn",
1240
+ "zh": "zho_Hans",
1241
+ "zu": "zul_Latn",
1242
+ }