zr_jin commited on
Commit
6e3214e
1 Parent(s): 7985317

added text

Browse files
data/lang_bpe_500/bpe.model ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d403566c4bb5ecd4acceb5e77d63f62254d567d881d1b12f7bc88f7042b12391
3
+ size 244849
data/lang_bpe_500/lexicon.txt ADDED
The diff for this file is too large to render. See raw diff
 
data/lang_bpe_500/lexicon_disambig.txt ADDED
The diff for this file is too large to render. See raw diff
 
data/lang_bpe_500/tokens.txt ADDED
@@ -0,0 +1,502 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ <blk> 0
2
+ <sos/eos> 1
3
+ <unk> 2
4
+ S 3
5
+ ▁THE 4
6
+ T 5
7
+ ▁A 6
8
+ E 7
9
+ ▁AND 8
10
+ ED 9
11
+ D 10
12
+ ▁TO 11
13
+ ▁OF 12
14
+ N 13
15
+ ING 14
16
+ C 15
17
+ ▁IN 16
18
+ Y 17
19
+ O 18
20
+ M 19
21
+ ▁I 20
22
+ A 21
23
+ I 22
24
+ ▁S 23
25
+ P 24
26
+ ▁HE 25
27
+ R 26
28
+ ▁ 27
29
+ ▁IT 28
30
+ LY 29
31
+ ▁WAS 30
32
+ ▁F 31
33
+ ▁THAT 32
34
+ AR 33
35
+ ER 34
36
+ L 35
37
+ B 36
38
+ ' 37
39
+ ▁BE 38
40
+ ▁YOU 39
41
+ RE 40
42
+ ▁FOR 41
43
+ ▁RE 42
44
+ ▁HIS 43
45
+ LE 44
46
+ OR 45
47
+ AL 46
48
+ U 47
49
+ IN 48
50
+ G 49
51
+ V 50
52
+ ▁P 51
53
+ ON 52
54
+ ▁WITH 53
55
+ ▁C 54
56
+ W 55
57
+ ▁E 56
58
+ IT 57
59
+ ▁AS 58
60
+ K 59
61
+ ▁HAD 60
62
+ EN 61
63
+ ▁HER 62
64
+ ▁W 63
65
+ ST 64
66
+ ▁IS 65
67
+ LL 66
68
+ ▁NOT 67
69
+ F 68
70
+ ▁SHE 69
71
+ ▁BUT 70
72
+ CE 71
73
+ ▁SO 72
74
+ TH 73
75
+ TER 74
76
+ ▁DE 75
77
+ ▁ON 76
78
+ ▁ME 77
79
+ H 78
80
+ RI 79
81
+ ▁AT 80
82
+ CH 81
83
+ VE 82
84
+ ▁ST 83
85
+ SE 84
86
+ IC 85
87
+ IL 86
88
+ ES 87
89
+ ▁DO 88
90
+ ▁B 89
91
+ ▁G 90
92
+ ENT 91
93
+ IR 92
94
+ ▁' 93
95
+ UR 94
96
+ ION 95
97
+ ▁HIM 96
98
+ NG 97
99
+ ▁HAVE 98
100
+ ▁NO 99
101
+ ▁WE 100
102
+ NE 101
103
+ ▁ALL 102
104
+ ▁MY 103
105
+ ▁THIS 104
106
+ ▁SAID 105
107
+ AN 106
108
+ RO 107
109
+ ▁GO 108
110
+ LA 109
111
+ ▁THEY 110
112
+ CK 111
113
+ ▁BY 112
114
+ ▁MO 113
115
+ AT 114
116
+ ▁FROM 115
117
+ ▁WHICH 116
118
+ VER 117
119
+ LO 118
120
+ ▁TH 119
121
+ ▁CON 120
122
+ ▁ONE 121
123
+ RA 122
124
+ AD 123
125
+ ▁WERE 124
126
+ ▁WHO 125
127
+ ▁CA 126
128
+ ▁O 127
129
+ ▁AN 128
130
+ ▁OR 129
131
+ ▁BO 130
132
+ ▁THERE 131
133
+ LI 132
134
+ ▁T 133
135
+ ▁MAN 134
136
+ ▁SH 135
137
+ ▁SU 136
138
+ EL 137
139
+ ▁EX 138
140
+ TE 139
141
+ ▁WHAT 140
142
+ ▁LA 141
143
+ ID 142
144
+ ET 143
145
+ ▁TR 144
146
+ ATION 145
147
+ THER 146
148
+ ▁WOULD 147
149
+ ▁WHEN 148
150
+ OW 149
151
+ ▁FA 150
152
+ ▁PRO 151
153
+ RY 152
154
+ IS 153
155
+ ▁ARE 154
156
+ ▁WILL 155
157
+ ▁OUT 156
158
+ ▁HO 157
159
+ ▁MA 158
160
+ PP 159
161
+ AS 160
162
+ ▁IF 161
163
+ ▁UP 162
164
+ ▁BR 163
165
+ ▁PA 164
166
+ RU 165
167
+ US 166
168
+ ▁K 167
169
+ ▁LI 168
170
+ ▁SEE 169
171
+ ▁HA 170
172
+ ▁RO 171
173
+ UT 172
174
+ UN 173
175
+ IGHT 174
176
+ OL 175
177
+ ▁PO 176
178
+ PE 177
179
+ ▁DR 178
180
+ ▁LO 179
181
+ ▁THEIR 180
182
+ UL 181
183
+ ▁BEEN 182
184
+ TED 183
185
+ ANT 184
186
+ ▁UN 185
187
+ ▁CH 186
188
+ ▁RA 187
189
+ ATE 188
190
+ ▁COULD 189
191
+ ISH 190
192
+ ▁EN 191
193
+ IVE 192
194
+ ▁LE 193
195
+ URE 194
196
+ ▁WA 195
197
+ ▁YOUR 196
198
+ AM 197
199
+ IG 198
200
+ ▁MI 199
201
+ EST 200
202
+ MENT 201
203
+ ▁THEM 202
204
+ ▁DIS 203
205
+ ▁SP 204
206
+ OO 205
207
+ ▁KNOW 206
208
+ GE 207
209
+ ▁CO 208
210
+ ▁SOME 209
211
+ ▁US 210
212
+ AIN 211
213
+ ▁NE 212
214
+ ENCE 213
215
+ ▁TIME 214
216
+ ▁INTO 215
217
+ ▁MR 216
218
+ ▁MORE 217
219
+ ▁NOW 218
220
+ ▁DID 219
221
+ ▁VERY 220
222
+ UND 221
223
+ AGE 222
224
+ ANCE 223
225
+ ▁LOOK 224
226
+ ▁CAN 225
227
+ ▁LIKE 226
228
+ ME 227
229
+ ARD 228
230
+ ITY 229
231
+ KE 230
232
+ IE 231
233
+ TY 232
234
+ ▁DI 233
235
+ UGH 234
236
+ LU 235
237
+ ▁LITTLE 236
238
+ FF 237
239
+ ABLE 238
240
+ Z 239
241
+ ▁ABOUT 240
242
+ ▁OTHER 241
243
+ ▁BA 242
244
+ FUL 243
245
+ IF 244
246
+ X 245
247
+ ▁THAN 246
248
+ OUR 247
249
+ TEN 248
250
+ ▁SA 249
251
+ PER 250
252
+ ▁AR 251
253
+ ▁HAS 252
254
+ ▁PRE 253
255
+ ▁CHA 254
256
+ ▁ANY 255
257
+ ▁OVER 256
258
+ ▁DA 257
259
+ ▁AGAIN 258
260
+ ▁DAY 259
261
+ ERS 260
262
+ ▁AFTER 261
263
+ ▁HU 262
264
+ BLE 263
265
+ ▁THEN 264
266
+ NESS 265
267
+ IM 266
268
+ ▁HAND 267
269
+ HE 268
270
+ ▁WELL 269
271
+ ▁COM 270
272
+ IES 271
273
+ IST 272
274
+ ▁MAR 273
275
+ ▁GOOD 274
276
+ ▁GREAT 275
277
+ AND 276
278
+ ▁VI 277
279
+ SH 278
280
+ ▁ONLY 279
281
+ ▁SHOULD 280
282
+ ▁PU 281
283
+ DER 282
284
+ ROW 283
285
+ ▁UPON 284
286
+ ▁COME 285
287
+ ▁SAY 286
288
+ ▁GA 287
289
+ ▁DOWN 288
290
+ ▁TWO 289
291
+ ▁MUST 290
292
+ ▁DON 291
293
+ OUS 292
294
+ IOUS 293
295
+ ▁BEFORE 294
296
+ ▁THINK 295
297
+ ▁OUR 296
298
+ ▁AM 297
299
+ UM 298
300
+ ▁CAR 299
301
+ INE 300
302
+ CTI 301
303
+ ▁MADE 302
304
+ ▁RI 303
305
+ ▁HOW 304
306
+ ▁EVERY 305
307
+ ▁GRA 306
308
+ ▁OLD 307
309
+ FOR 308
310
+ ▁NEVER 309
311
+ SIDE 310
312
+ ▁EVEN 311
313
+ ▁CAME 312
314
+ ▁LONG 313
315
+ ▁TAKE 314
316
+ WARD 315
317
+ EM 316
318
+ MAN 317
319
+ LESS 318
320
+ LED 319
321
+ ▁OFF 320
322
+ ▁QU 321
323
+ ▁WHERE 322
324
+ AK 323
325
+ ▁MUCH 324
326
+ ▁BACK 325
327
+ ▁SUCH 326
328
+ ▁LET 327
329
+ RESS 328
330
+ UD 329
331
+ ▁JO 330
332
+ ▁PART 331
333
+ ▁THOUGHT 332
334
+ ▁WAY 333
335
+ ▁JUST 334
336
+ J 335
337
+ ▁DU 336
338
+ ▁FIRST 337
339
+ ▁MAY 338
340
+ ▁COMP 339
341
+ ▁STO 340
342
+ ▁BU 341
343
+ ▁MAKE 342
344
+ ▁WENT 343
345
+ ▁TA 344
346
+ GG 345
347
+ ▁HIMSELF 346
348
+ ▁VA 347
349
+ ▁GET 348
350
+ ▁OWN 349
351
+ ▁GIVE 350
352
+ ▁PLACE 351
353
+ ▁MEN 352
354
+ ▁IMP 353
355
+ ▁HERE 354
356
+ ▁MIGHT 355
357
+ ATED 356
358
+ ▁AWAY 357
359
+ ▁HOUSE 358
360
+ ▁PER 359
361
+ ▁LOVE 360
362
+ ▁TURN 361
363
+ HA 362
364
+ TRA 363
365
+ ▁TELL 364
366
+ LAND 365
367
+ ▁MU 366
368
+ ▁THROUGH 367
369
+ ▁COL 368
370
+ ▁UNDER 369
371
+ ▁SHALL 370
372
+ ▁LIFE 371
373
+ ▁PASS 372
374
+ ▁HEAD 373
375
+ ▁EYES 374
376
+ QUI 375
377
+ ▁NIGHT 376
378
+ ▁WITHOUT 377
379
+ ▁NOTHING 378
380
+ ▁STILL 379
381
+ ▁LAST 380
382
+ ▁NA 381
383
+ ▁FACE 382
384
+ ▁WORK 383
385
+ ▁MOST 384
386
+ ▁NEW 385
387
+ ▁TI 386
388
+ ▁WANT 387
389
+ ▁THOSE 388
390
+ ▁MEAN 389
391
+ ▁WORD 390
392
+ ▁FOUND 391
393
+ ▁PEOPLE 392
394
+ ▁SAW 393
395
+ ▁YES 394
396
+ ▁THREE 395
397
+ ▁ASKED 396
398
+ ▁RIGHT 397
399
+ ▁FRIEND 398
400
+ ▁ROOM 399
401
+ ▁YEAR 400
402
+ ▁COUNT 401
403
+ ▁HI 402
404
+ ▁CHILD 403
405
+ ▁WHILE 404
406
+ ▁GU 405
407
+ ▁ANOTHER 406
408
+ ▁FATHER 407
409
+ ▁TOOK 408
410
+ ▁SEA 409
411
+ ▁WHY 410
412
+ ▁YET 411
413
+ ▁HEART 412
414
+ ▁OPEN 413
415
+ ▁SAME 414
416
+ ▁MOMENT 415
417
+ ▁LIGHT 416
418
+ QUE 417
419
+ ▁ANSWER 418
420
+ ▁SOMETHING 419
421
+ ▁THOUGH 420
422
+ PORT 421
423
+ ▁LEFT 422
424
+ ▁MIND 423
425
+ ▁JA 424
426
+ ▁SEEMED 425
427
+ ▁FIND 426
428
+ ▁JU 427
429
+ ▁HOME 428
430
+ ▁GIRL 429
431
+ ▁ALWAYS 430
432
+ ▁TOLD 431
433
+ ▁QUITE 432
434
+ ▁MISS 433
435
+ ▁FEEL 434
436
+ ▁FOLLOW 435
437
+ ▁BECAUSE 436
438
+ ▁WORLD 437
439
+ ▁FELL 438
440
+ ▁NI 439
441
+ ▁RETURN 440
442
+ ▁WOMAN 441
443
+ ▁EACH 442
444
+ IZE 443
445
+ ▁KNEW 444
446
+ ▁NAME 445
447
+ ▁HARD 446
448
+ ▁KIND 447
449
+ ▁JE 448
450
+ ▁CERTAIN 449
451
+ ▁HIGH 450
452
+ ▁COURSE 451
453
+ ▁BETTER 452
454
+ ▁PRINCE 453
455
+ ▁BEGAN 454
456
+ ▁APPEAR 455
457
+ ▁HALF 456
458
+ ▁FEW 457
459
+ ▁ENOUGH 458
460
+ ▁SPEAK 459
461
+ ▁PRESENT 460
462
+ ▁WALK 461
463
+ SHIP 462
464
+ ▁CLOSE 463
465
+ ▁CRIED 464
466
+ ▁KEEP 465
467
+ QUA 466
468
+ ▁HELP 467
469
+ ▁VOICE 468
470
+ ▁LADY 469
471
+ ▁TALK 470
472
+ ▁ALSO 471
473
+ ▁BELIEVE 472
474
+ ▁MATTER 473
475
+ ▁TEA 474
476
+ ▁MORNING 475
477
+ ▁REPLIED 476
478
+ ▁FELT 477
479
+ ▁PERSON 478
480
+ ▁MYSELF 479
481
+ ▁WHITE 480
482
+ ▁HOWEVER 481
483
+ ▁POWER 482
484
+ ▁POINT 483
485
+ ▁SIX 484
486
+ ▁ANYTHING 485
487
+ ▁PERHAPS 486
488
+ ▁STOOD 487
489
+ ▁FULL 488
490
+ ▁SMALL 489
491
+ ▁BETWEEN 490
492
+ ▁HERSELF 491
493
+ ▁ALMOST 492
494
+ ▁HAVING 493
495
+ ▁HORSE 494
496
+ ▁UNTIL 495
497
+ ▁NEXT 496
498
+ ▁DARK 497
499
+ ▁LEAVE 498
500
+ Q 499
501
+ #0 500
502
+ #1 501
data/lang_bpe_500/unigram_500.model ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:d403566c4bb5ecd4acceb5e77d63f62254d567d881d1b12f7bc88f7042b12391
3
+ size 244849
data/lang_bpe_500/unigram_500.vocab ADDED
@@ -0,0 +1,500 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ <blk> 0
2
+ <sos/eos> 0
3
+ <unk> 0
4
+ S -3.26806
5
+ ▁THE -3.42283
6
+ T -3.813
7
+ ▁A -3.96081
8
+ E -4.00767
9
+ ▁AND -4.10198
10
+ ED -4.10752
11
+ D -4.12778
12
+ ▁TO -4.13935
13
+ ▁OF -4.21424
14
+ N -4.29763
15
+ ING -4.32495
16
+ C -4.49206
17
+ ▁IN -4.49393
18
+ Y -4.50721
19
+ O -4.5398
20
+ M -4.55505
21
+ ▁I -4.61343
22
+ A -4.64651
23
+ I -4.68241
24
+ ▁S -4.68567
25
+ P -4.7061
26
+ ▁HE -4.73438
27
+ R -4.86263
28
+ ▁ -4.86769
29
+ ▁IT -4.94454
30
+ LY -4.98293
31
+ ▁WAS -5.00383
32
+ ▁F -5.02251
33
+ ▁THAT -5.03573
34
+ AR -5.04137
35
+ ER -5.06052
36
+ L -5.07788
37
+ B -5.11854
38
+ ' -5.13138
39
+ ▁BE -5.14198
40
+ ▁YOU -5.1913
41
+ RE -5.21182
42
+ ▁FOR -5.24464
43
+ ▁RE -5.29597
44
+ ▁HIS -5.30207
45
+ LE -5.31568
46
+ OR -5.32379
47
+ AL -5.35531
48
+ U -5.39444
49
+ IN -5.40083
50
+ G -5.40717
51
+ V -5.41274
52
+ ▁P -5.42113
53
+ ON -5.4307
54
+ ▁WITH -5.46416
55
+ ▁C -5.46428
56
+ W -5.50273
57
+ ▁E -5.52695
58
+ IT -5.53011
59
+ ▁AS -5.5373
60
+ K -5.54426
61
+ ▁HAD -5.55559
62
+ EN -5.55738
63
+ ▁HER -5.57448
64
+ ▁W -5.58371
65
+ ST -5.58655
66
+ ▁IS -5.59221
67
+ LL -5.59532
68
+ ▁NOT -5.60248
69
+ F -5.61972
70
+ ▁SHE -5.62417
71
+ ▁BUT -5.62459
72
+ CE -5.62505
73
+ ▁SO -5.62964
74
+ TH -5.64812
75
+ TER -5.65261
76
+ ▁DE -5.67711
77
+ ▁ON -5.69521
78
+ ▁ME -5.70687
79
+ H -5.71491
80
+ RI -5.73441
81
+ ▁AT -5.73504
82
+ CH -5.75188
83
+ VE -5.79131
84
+ ▁ST -5.81848
85
+ SE -5.85206
86
+ IC -5.86505
87
+ IL -5.87186
88
+ ES -5.87198
89
+ ▁DO -5.88053
90
+ ▁B -5.88818
91
+ ▁G -5.89388
92
+ ENT -5.91022
93
+ IR -5.91173
94
+ ▁' -5.92988
95
+ UR -5.93499
96
+ ION -5.93965
97
+ ▁HIM -5.95224
98
+ NG -5.97099
99
+ ▁HAVE -5.97195
100
+ ▁NO -5.97614
101
+ ▁WE -5.99673
102
+ NE -6.02958
103
+ ▁ALL -6.0308
104
+ ▁MY -6.04507
105
+ ▁THIS -6.04549
106
+ ▁SAID -6.06664
107
+ AN -6.08498
108
+ RO -6.1068
109
+ ▁GO -6.11077
110
+ LA -6.11969
111
+ ▁THEY -6.12408
112
+ CK -6.1268
113
+ ▁BY -6.12797
114
+ ▁MO -6.14867
115
+ AT -6.18214
116
+ ▁FROM -6.19799
117
+ ▁WHICH -6.20941
118
+ VER -6.21223
119
+ LO -6.2138
120
+ ▁TH -6.23257
121
+ ▁CON -6.23783
122
+ ▁ONE -6.2451
123
+ RA -6.24621
124
+ AD -6.25284
125
+ ▁WERE -6.26026
126
+ ▁WHO -6.26367
127
+ ▁CA -6.27476
128
+ ▁O -6.29608
129
+ ▁AN -6.2968
130
+ ▁OR -6.30646
131
+ ▁BO -6.30784
132
+ ▁THERE -6.31671
133
+ LI -6.32363
134
+ ▁T -6.33584
135
+ ▁MAN -6.33722
136
+ ▁SH -6.35405
137
+ ▁SU -6.36679
138
+ EL -6.36696
139
+ ▁EX -6.37253
140
+ TE -6.37837
141
+ ▁WHAT -6.3806
142
+ ▁LA -6.38184
143
+ ID -6.39116
144
+ ET -6.40727
145
+ ▁TR -6.41748
146
+ ATION -6.43309
147
+ THER -6.43339
148
+ ▁WOULD -6.45087
149
+ ▁WHEN -6.45319
150
+ OW -6.45917
151
+ ▁FA -6.47343
152
+ ▁PRO -6.48264
153
+ RY -6.48452
154
+ IS -6.49298
155
+ ▁ARE -6.49575
156
+ ▁WILL -6.49933
157
+ ▁OUT -6.50549
158
+ ▁HO -6.51246
159
+ ▁MA -6.51301
160
+ PP -6.51591
161
+ AS -6.52566
162
+ ▁IF -6.54186
163
+ ▁UP -6.54568
164
+ ▁BR -6.54914
165
+ ▁PA -6.55753
166
+ RU -6.56231
167
+ US -6.56968
168
+ ▁K -6.57229
169
+ ▁LI -6.57593
170
+ ▁SEE -6.58542
171
+ ▁HA -6.59402
172
+ ▁RO -6.60403
173
+ UT -6.60766
174
+ UN -6.61445
175
+ IGHT -6.62267
176
+ OL -6.62335
177
+ ▁PO -6.62603
178
+ PE -6.65854
179
+ ▁DR -6.66177
180
+ ▁LO -6.66965
181
+ ▁THEIR -6.6718
182
+ UL -6.67273
183
+ ▁BEEN -6.67884
184
+ TED -6.68348
185
+ ANT -6.68682
186
+ ▁UN -6.68976
187
+ ▁CH -6.68981
188
+ ▁RA -6.69182
189
+ ATE -6.70168
190
+ ▁COULD -6.72205
191
+ ISH -6.72792
192
+ ▁EN -6.73452
193
+ IVE -6.73475
194
+ ▁LE -6.73657
195
+ URE -6.73786
196
+ ▁WA -6.74014
197
+ ▁YOUR -6.76098
198
+ AM -6.76754
199
+ IG -6.77275
200
+ ▁MI -6.77357
201
+ EST -6.77798
202
+ MENT -6.78085
203
+ ▁THEM -6.78354
204
+ ▁DIS -6.78413
205
+ ▁SP -6.78506
206
+ OO -6.80374
207
+ ▁KNOW -6.80656
208
+ GE -6.81448
209
+ ▁CO -6.81674
210
+ ▁SOME -6.82443
211
+ ▁US -6.82607
212
+ AIN -6.82894
213
+ ▁NE -6.83446
214
+ ENCE -6.84007
215
+ ▁TIME -6.85437
216
+ ▁INTO -6.86168
217
+ ▁MR -6.86458
218
+ ▁MORE -6.86717
219
+ ▁NOW -6.86825
220
+ ▁DID -6.87287
221
+ ▁VERY -6.87751
222
+ UND -6.87989
223
+ AGE -6.87998
224
+ ANCE -6.88172
225
+ ▁LOOK -6.88419
226
+ ▁CAN -6.88684
227
+ ▁LIKE -6.88806
228
+ ME -6.89371
229
+ ARD -6.89478
230
+ ITY -6.89845
231
+ KE -6.90112
232
+ IE -6.91369
233
+ TY -6.92013
234
+ ▁DI -6.92874
235
+ UGH -6.93077
236
+ LU -6.95036
237
+ ▁LITTLE -6.9534
238
+ FF -6.95822
239
+ ABLE -6.97807
240
+ Z -6.98322
241
+ ▁ABOUT -6.98723
242
+ ▁OTHER -7.00861
243
+ ▁BA -7.01422
244
+ FUL -7.02129
245
+ IF -7.02367
246
+ X -7.02408
247
+ ▁THAN -7.02467
248
+ OUR -7.02703
249
+ TEN -7.03367
250
+ ▁SA -7.03609
251
+ PER -7.04158
252
+ ▁AR -7.04986
253
+ ▁HAS -7.05447
254
+ ▁PRE -7.05909
255
+ ▁CHA -7.06039
256
+ ▁ANY -7.06707
257
+ ▁OVER -7.07182
258
+ ▁DA -7.07201
259
+ ▁AGAIN -7.07811
260
+ ▁DAY -7.08178
261
+ ERS -7.08196
262
+ ▁AFTER -7.08674
263
+ ▁HU -7.08751
264
+ BLE -7.08928
265
+ ▁THEN -7.1043
266
+ NESS -7.13066
267
+ IM -7.13086
268
+ ▁HAND -7.14218
269
+ HE -7.14407
270
+ ▁WELL -7.14469
271
+ ▁COM -7.15227
272
+ IES -7.15232
273
+ IST -7.15316
274
+ ▁MAR -7.15339
275
+ ▁GOOD -7.15723
276
+ ▁GREAT -7.15827
277
+ AND -7.15945
278
+ ▁VI -7.16333
279
+ SH -7.16413
280
+ ▁ONLY -7.16745
281
+ ▁SHOULD -7.16758
282
+ ▁PU -7.18853
283
+ DER -7.1909
284
+ ROW -7.19216
285
+ ▁UPON -7.19372
286
+ ▁COME -7.19606
287
+ ▁SAY -7.19859
288
+ ▁GA -7.20234
289
+ ▁DOWN -7.20297
290
+ ▁TWO -7.2241
291
+ ▁MUST -7.22518
292
+ ▁DON -7.22622
293
+ OUS -7.2298
294
+ IOUS -7.23203
295
+ ▁BEFORE -7.23398
296
+ ▁THINK -7.251
297
+ ▁OUR -7.25521
298
+ ▁AM -7.25628
299
+ UM -7.26398
300
+ ▁CAR -7.27245
301
+ INE -7.27368
302
+ CTI -7.28001
303
+ ▁MADE -7.28221
304
+ ▁RI -7.28443
305
+ ▁HOW -7.28682
306
+ ▁EVERY -7.2894
307
+ ▁GRA -7.29263
308
+ ▁OLD -7.29531
309
+ FOR -7.2975
310
+ ▁NEVER -7.30589
311
+ SIDE -7.30666
312
+ ▁EVEN -7.30948
313
+ ▁CAME -7.31074
314
+ ▁LONG -7.31134
315
+ ▁TAKE -7.31617
316
+ WARD -7.31822
317
+ EM -7.322
318
+ MAN -7.32405
319
+ LESS -7.32432
320
+ LED -7.32747
321
+ ▁OFF -7.33562
322
+ ▁QU -7.34481
323
+ ▁WHERE -7.34669
324
+ AK -7.35585
325
+ ▁MUCH -7.3705
326
+ ▁BACK -7.37705
327
+ ▁SUCH -7.38402
328
+ ▁LET -7.39888
329
+ RESS -7.40483
330
+ UD -7.41069
331
+ ▁JO -7.41726
332
+ ▁PART -7.42844
333
+ ▁THOUGHT -7.42913
334
+ ▁WAY -7.43397
335
+ ▁JUST -7.43846
336
+ J -7.44745
337
+ ▁DU -7.45794
338
+ ▁FIRST -7.46259
339
+ ▁MAY -7.4663
340
+ ▁COMP -7.47137
341
+ ▁STO -7.47201
342
+ ▁BU -7.47236
343
+ ▁MAKE -7.47415
344
+ ▁WENT -7.49227
345
+ ▁TA -7.49738
346
+ GG -7.51687
347
+ ▁HIMSELF -7.53381
348
+ ▁VA -7.56181
349
+ ▁GET -7.56644
350
+ ▁OWN -7.56698
351
+ ▁GIVE -7.57542
352
+ ▁PLACE -7.58556
353
+ ▁MEN -7.58969
354
+ ▁IMP -7.59723
355
+ ▁HERE -7.6047
356
+ ▁MIGHT -7.60864
357
+ ATED -7.61064
358
+ ▁AWAY -7.6302
359
+ ▁HOUSE -7.64472
360
+ ▁PER -7.65041
361
+ ▁LOVE -7.65505
362
+ ▁TURN -7.65727
363
+ HA -7.6584
364
+ TRA -7.66493
365
+ ▁TELL -7.66498
366
+ LAND -7.66521
367
+ ▁MU -7.6655
368
+ ▁THROUGH -7.66656
369
+ ▁COL -7.6743
370
+ ▁UNDER -7.68842
371
+ ▁SHALL -7.68955
372
+ ▁LIFE -7.69394
373
+ ▁PASS -7.69628
374
+ ▁HEAD -7.70152
375
+ ▁EYES -7.70559
376
+ QUI -7.70761
377
+ ▁NIGHT -7.70802
378
+ ▁WITHOUT -7.71033
379
+ ▁NOTHING -7.72291
380
+ ▁STILL -7.72669
381
+ ▁LAST -7.72908
382
+ ▁NA -7.73435
383
+ ▁FACE -7.74546
384
+ ▁WORK -7.74883
385
+ ▁MOST -7.76148
386
+ ▁NEW -7.76501
387
+ ▁TI -7.76623
388
+ ▁WANT -7.77113
389
+ ▁THOSE -7.79484
390
+ ▁MEAN -7.79639
391
+ ▁WORD -7.80371
392
+ ▁FOUND -7.8038
393
+ ▁PEOPLE -7.81034
394
+ ▁SAW -7.81393
395
+ ▁YES -7.81724
396
+ ▁THREE -7.82377
397
+ ▁ASKED -7.83325
398
+ ▁RIGHT -7.83442
399
+ ▁FRIEND -7.83855
400
+ ▁ROOM -7.83871
401
+ ▁YEAR -7.83943
402
+ ▁COUNT -7.85149
403
+ ▁HI -7.8555
404
+ ▁CHILD -7.87872
405
+ ▁WHILE -7.8824
406
+ ▁GU -7.88246
407
+ ▁ANOTHER -7.8825
408
+ ▁FATHER -7.88272
409
+ ▁TOOK -7.89486
410
+ ▁SEA -7.90384
411
+ ▁WHY -7.90775
412
+ ▁YET -7.91695
413
+ ▁HEART -7.94612
414
+ ▁OPEN -7.95817
415
+ ▁SAME -7.95956
416
+ ▁MOMENT -7.96006
417
+ ▁LIGHT -7.96712
418
+ QUE -7.96757
419
+ ▁ANSWER -7.97163
420
+ ▁SOMETHING -7.98098
421
+ ▁THOUGH -7.98355
422
+ PORT -7.99375
423
+ ▁LEFT -7.99597
424
+ ▁MIND -8.00434
425
+ ▁JA -8.00689
426
+ ▁SEEMED -8.01776
427
+ ▁FIND -8.01953
428
+ ▁JU -8.02428
429
+ ▁HOME -8.0243
430
+ ▁GIRL -8.03381
431
+ ▁ALWAYS -8.0504
432
+ ▁TOLD -8.06496
433
+ ▁QUITE -8.08052
434
+ ▁MISS -8.08465
435
+ ▁FEEL -8.10786
436
+ ▁FOLLOW -8.10943
437
+ ▁BECAUSE -8.1137
438
+ ▁WORLD -8.11371
439
+ ▁FELL -8.13055
440
+ ▁NI -8.13072
441
+ ▁RETURN -8.13535
442
+ ▁WOMAN -8.16652
443
+ ▁EACH -8.16927
444
+ IZE -8.17198
445
+ ▁KNEW -8.17494
446
+ ▁NAME -8.18323
447
+ ▁HARD -8.18558
448
+ ▁KIND -8.18658
449
+ ▁JE -8.19761
450
+ ▁CERTAIN -8.1979
451
+ ▁HIGH -8.20291
452
+ ▁COURSE -8.20579
453
+ ▁BETTER -8.21754
454
+ ▁PRINCE -8.23008
455
+ ▁BEGAN -8.23353
456
+ ▁APPEAR -8.23782
457
+ ▁HALF -8.24407
458
+ ▁FEW -8.24769
459
+ ▁ENOUGH -8.25151
460
+ ▁SPEAK -8.25516
461
+ ▁PRESENT -8.26869
462
+ ▁WALK -8.2744
463
+ SHIP -8.27843
464
+ ▁CLOSE -8.27987
465
+ ▁CRIED -8.28029
466
+ ▁KEEP -8.28141
467
+ QUA -8.29094
468
+ ▁HELP -8.30047
469
+ ▁VOICE -8.30528
470
+ ▁LADY -8.30616
471
+ ▁TALK -8.31383
472
+ ▁ALSO -8.31665
473
+ ▁BELIEVE -8.31816
474
+ ▁MATTER -8.32356
475
+ ▁TEA -8.33231
476
+ ▁MORNING -8.33475
477
+ ▁REPLIED -8.3376
478
+ ▁FELT -8.33762
479
+ ▁PERSON -8.34054
480
+ ▁MYSELF -8.35343
481
+ ▁WHITE -8.35416
482
+ ▁HOWEVER -8.35935
483
+ ▁POWER -8.36233
484
+ ▁POINT -8.36735
485
+ ▁SIX -8.37947
486
+ ▁ANYTHING -8.38454
487
+ ▁PERHAPS -8.38773
488
+ ▁STOOD -8.39033
489
+ ▁FULL -8.40071
490
+ ▁SMALL -8.40632
491
+ ▁BETWEEN -8.40668
492
+ ▁HERSELF -8.41013
493
+ ▁ALMOST -8.41127
494
+ ▁HAVING -8.41434
495
+ ▁HORSE -8.42195
496
+ ▁UNTIL -8.42869
497
+ ▁NEXT -8.44022
498
+ ▁DARK -8.44185
499
+ ▁LEAVE -8.44386
500
+ Q -9.55468
data/lang_bpe_500/words.txt ADDED
The diff for this file is too large to render. See raw diff