End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4798
-- Rouge1: 0.6568
+- Rouge1: 0.395
 - Rouge2: 0.0
-- Rougel: 0.6564
-- Rougelsum: 0.6586
+- Rougel: 0.3935
+- Rougelsum: 0.3933
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -1,29 +1,29 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5351393818855286,
-    "eval_rouge1": 0.3585,
+    "eval_loss": 0.47984424233436584,
+    "eval_rouge1": 0.395,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3555,
-    "eval_rougeLsum": 0.357,
-    "eval_runtime": 113.0854,
+    "eval_rougeL": 0.3935,
+    "eval_rougeLsum": 0.3933,
+    "eval_runtime": 568.619,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.606,
-    "eval_steps_per_second": 0.212,
+    "eval_samples_per_second": 1.314,
+    "eval_steps_per_second": 0.042,
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5551252961158752,
-    "predict_rouge1": 0.4427,
+    "predict_loss": 0.4885707199573517,
+    "predict_rouge1": 0.41,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4411,
-    "predict_rougeLsum": 0.4407,
-    "predict_runtime": 556.1807,
+    "predict_rougeL": 0.4097,
+    "predict_rougeLsum": 0.4092,
+    "predict_runtime": 2754.6092,
     "predict_samples": 3737,
-    "predict_samples_per_second": 6.719,
-    "predict_steps_per_second": 0.21,
-    "total_flos": 7.531884760915354e+16,
-    "train_loss": 0.8373744595297635,
-    "train_runtime": 5174.0873,
+    "predict_samples_per_second": 1.357,
+    "predict_steps_per_second": 0.042,
+    "total_flos": 4.9120107429888e+16,
+    "train_loss": 0.6270396870521358,
+    "train_runtime": 3918.4765,
     "train_samples": 14290,
-    "train_samples_per_second": 13.809,
-    "train_steps_per_second": 1.727
+    "train_samples_per_second": 18.234,
+    "train_steps_per_second": 1.141
 }

eval_results.json

@@ -1,13 +1,13 @@
 {
     "epoch": 5.0,
     "eval_gen_len": 1.0,
-    "eval_loss": 0.5351393818855286,
-    "eval_rouge1": 0.3585,
+    "eval_loss": 0.47984424233436584,
+    "eval_rouge1": 0.395,
     "eval_rouge2": 0.0,
-    "eval_rougeL": 0.3555,
-    "eval_rougeLsum": 0.357,
-    "eval_runtime": 113.0854,
+    "eval_rougeL": 0.3935,
+    "eval_rougeLsum": 0.3933,
+    "eval_runtime": 568.619,
     "eval_samples": 747,
-    "eval_samples_per_second": 6.606,
-    "eval_steps_per_second": 0.212
+    "eval_samples_per_second": 1.314,
+    "eval_steps_per_second": 0.042
 }

generated_predictions.txt

@@ -1,51 +1,51 @@
 karena
 3
-baik
-pemain
+sudah
+mungkin
 kami
-anda
-semua
-u
-apa
+dengan
+para
+d
+)
 permainan
 saja
 tidak
 yang
-saya
+4
 
 ?
 atau
 di
-s
+satu
 
 kamu
 cara
 dapat
-karena
+a
 bisa
-0
+6
 bisa
-a
+mungkin
 pemain
 satu
-seperti
+hal
 ,
-4
+hal
 sangat
 ada
 membuat
 dengan
-.
-saja
-pemain
+k
+lain
+mendapatkan
 .
 bisa
 ,
 dan
 apa
-lebih
+bermain
+"
 cara
-8
 yang
 tersebut
 yang
@@ -54,10 +54,10 @@ oleh
 juga
 9
 dapat
-,
-memiliki
-7
-t
+sangat
+maka
+1
+kamu
 -
 ,
 maka
@@ -79,101 +79,101 @@ sudah
 atau
 8
 (
-salah
-orang
-yang
+telah
+memiliki
+saat
 juga
 maka
 dari
-)
-secara
--
-baik
+.
+4
+0
+bahwa
 2
-sebagai
+sudah
 2
 dalam
-oleh
+situs
 lebih
 itu
 hal
-
+yang
 kami
+sebagai
 hanya
-menggunakan
-oleh
+0
 orang
-7
-harus
+6
+hanya
 .
 .
-uang
+terbaik
 1
 dengan
 untuk
 sudah
-sudah
+:
 tersebut
 ini
 adalah
-harus
-situs
+"
+e
 i
 2
 dari
 oleh
-kita
-lebih
+)
+ada
 ,
 
-cara
+"
 untuk
 banyak
 pada
 "
 "
-melakukan
+secara
 yang
 sudah
 /
-maka
+5
 
 dalam
 ini
 .
 untuk
-ke
+saya
 baik
 bisa
 3
-beberapa
+kami
 dapat
 s
 cara
 juga
-ingin
+)
 online
-karena
+bermain
 ,
 0
 saja
 ke
 memiliki
-nya
+permainan
 
 tidak
-lebih
-,
+menjadi
 ,
+8
 (
 dengan
 9
-tidak
+7
 itu
 ,
 itu
 ,
-6
+hanya
 -
 satu
 banyak
@@ -186,7 +186,7 @@ slot
 kamu
 cara
 untuk
-hal
+semua
 anda
 dan
 atau
@@ -195,39 +195,39 @@ nya
 dan
 saya
 adalah
-banyak
+h
 satu
 ini
 
 ini
 "
-6
+poker
 anda
 orang
 saya
 kan
 .
 ,
-9
+sebagai
 1
-waktu
+bagi
 an
 
 anda
-sudah
-beberapa
+tersebut
+bisnis
 para
-9
-atau
-k
-1
+ada
+bisnis
+besar
+anda
 sudah
 slot
-menggunakan
+itu
 juga
 ini
 atau
-0
+lain
 i
 dalam
 adalah
@@ -237,18 +237,18 @@ yang
 dan
 ke
 ini
-7
+baik
 bisa
-8
-d
+oleh
+?
 sangat
 dapat
 kami
 semua
-beberapa
+saja
 lebih
 cara
-ke
+karena
 (
 /
 dan
@@ -261,10 +261,10 @@ anda
 cara
 untuk
 satu
-
+saja
 beberapa
 4
-banyak
+an
 di
 6
 6
@@ -276,62 +276,62 @@ untuk
 -
 0
 beberapa
-pada
-0
+ada
+menggunakan
 beberapa
 untuk
 ,
 7
 :
-salah
-seperti
+besar
+sebagai
 oleh
-nya
-/
-saja
-m
-i
+sangat
+
+
+u
+baik
 permainan
 d
-tersebut
+maka
 ini
-7
+d
 a
 nya
 -
 i
--
-di
+sudah
+ke
 :
 juga
 banyak
-maka
+mudah
 
-?
+banyak
 -
 bisa
-hanya
-telah
+beberapa
+3
 ini
 anda
-jadi
-dari
+baik
+di
 3
 judi
 
-bisa
+pemain
 cara
 jika
-slot
+orang
 di
 harus
 ada
 situs
-lain
-juga
+masih
+saja
 menjadi
-untuk
-membuat
+)
+itu
 tersebut
 untuk
 
@@ -339,28 +339,28 @@ ini
 sudah
 
 0
-poker
-bermain
-.
+i
+an
+
 dan
 kami
 hanya
 membuat
-5
+)
 
 
 sebagai
 satu
-9
-?
+kami
+seperti
 dengan
 di
 dari
-i
+sebagai
 
 8
 "
-situs
+t
 situs
 2
 sudah
@@ -368,129 +368,129 @@ sudah
 di
 1
 i
-memiliki
-t
+s
+salah
 2
-adalah
+,
 kita
-
-adalah
+slot
+itu
 secara
 .
-5
+secara
 ada
 sebagai
 3
-telah
-t
+karena
+untuk
 bisa
 anda
-.
--
+
+7
 bisa
 ini
 tidak
 bisa
 
-7
-permainan
+4
+-
 hanya
-an
+tersebut
 untuk
-harus
+maka
 para
 dari
 telah
 tidak
-:
+para
 saya
 beberapa
 untuk
 tersebut
 i
-
+atau
 oleh
 sangat
-saat
+besar
 besar
 judi
 
-)
+baik
 yang
-harus
-mendapatkan
+memiliki
+jadi
 d
 tidak
 game
 1
 poker
 -
-d
+online
 juga
 harus
-a
-bisa
-lebih
+sangat
+dapat
+karena
 banyak
-dari
+8
 harus
 :
-dengan
+
 hanya
 
 satu
-membuat
+"
 online
 akan
-"
+permainan
 juga
-an
+adalah
 
-ada
+kamu
 (
 k
 seperti
 lain
-saya
-jika
+menjadi
+menjadi
 ini
 akan
-tidak
+itu
 ini
-sebagai
+o
 dan
 e
-yang
+saya
 
 ini
-salah
+7
 1
-,
+game
 )
 
 lebih
 dapat
 /
-1
+d
 permainan
 dapat
 di
-ini
+0
 namun
 bahwa
 
-kamu
-5
+orang
+saya
 dan
 4
-itu
+ke
 lebih
 yang
-tersebut
+sangat
 .
 untuk
-kita
-melakukan
+satu
+poker
 bisa
 akan
 5
@@ -500,66 +500,66 @@ tersebut
 e
 i
 –
-memiliki
-kami
+mereka
+slot
 juga
 "
 1
 dan
 untuk
 yang
-pemain
+para
 untuk
-dan
+situs
 dengan
-menjadi
-8
+5
+memiliki
 saya
 
 dari
 nya
 karena
-secara
-sangat
-2
+telah
+kami
+adalah
 nya
-bagi
+,
 tidak
 dan
-dapat
+3
 harus
 ini
 permainan
 kami
 nya
 ke
-(
+s
 s
 sudah
 kamu
 jika
-kita
+besar
 mereka
 .
-nya
+pada
 untuk
-hanya
+jika
 anda
-sebagai
+semua
 dan
 kami
-u
-dari
-8
+orang
+ini
+seperti
 di
 harus
-akan
+2
 u
 2
 3
-satu
-t
-cara
+jika
+judi
+?
 7
 online
 .
@@ -569,8 +569,8 @@ mereka
 yang
 
 dari
-tahun
-m
+3
+8
 i
 anda
 tersebut
@@ -580,42 +580,42 @@ mereka
 cara
 beberapa
 i
-beberapa
+membuat
 
 oleh
-untuk
+bagi
 )
 ini
 
-a
-1
+t
+tidak
 ada
 tahun
 tersebut
-ingin
+namun
 saya
 yang
 
-bisa
+tidak
 online
 nya
 hanya
-baik
+mendapatkan
 dengan
-nya
+bagi
 mereka
-game
+secara
 (
-kamu
+cara
 i
-situs
+:
 .
 lebih
 akan
-seperti
+-
 adalah
 1
-karena
+slot
 situs
 ,
 7
@@ -626,17 +626,17 @@ indonesia
 juga
 -
 tidak
-oleh
+e
 1
 2
 p
-melakukan
-hal
+ketika
+menggunakan
 9
-slot
+mendapatkan
 5
 orang
-waktu
+judi
 permainan
 dan
 saja
@@ -644,39 +644,39 @@ jika
 bahwa
 pada
 
-slot
-maka
-akan
 2
-sangat
-d
+atau
+mereka
+2
+satu
+melakukan
 kamu
 ?
 mereka
-.
+kamu
 :
-secara
+bisnis
 baik
-kita
-tentang
+perlu
+nya
 indonesia
 sebagai
-bisa
-online
+indonesia
+dapat
 s
 tidak
 -
 oleh
 salah
-d
+mereka
 -
 9
 mereka
 0
-u
+jika
 ,
-secara
-para
+besar
+2
 sebagai
 adalah
 bermain
@@ -687,7 +687,7 @@ lebih
 kita
 dalam
 dalam
-6
+oleh
 adalah
 
 tidak
@@ -700,51 +700,51 @@ uang
 ,
 0
 (
-s
-.
+sudah
+
 di
 ke
 yang
-situs
+semua
 di
 membuat
-d
-kita
+slot
+?
 menjadi
-/
+kamu
 online
 nya
-bermain
+poker
 beberapa
-karena
-?
+salah
+bahwa
 beberapa
 
 kita
 :
 
-online
+oleh
 lebih
 slot
 ini
 judi
 u
-poker
+kami
 yang
 -
 i
-4
+permainan
 (
 itu
 juga
 5
-salah
+semua
 -
 dalam
 
-para
-kamu
-juga
+dapat
+menggunakan
+(
 mereka
 orang
 lain
@@ -752,18 +752,18 @@ di
 di
 jika
 satu
-(
-bisa
+:
+i
 indonesia
 :
 judi
 saat
-indonesia
-nya
-e
-mereka
 u
-k
+d
+"
+mereka
+namun
+t
 yang
 4
 
@@ -777,9 +777,9 @@ permainan
 lain
 lebih
 bisnis
-juga
+s
 2
-6
+indonesia
 
 1
 anda
@@ -787,126 +787,126 @@ yang
 di
 3
 kami
-secara
+dalam
 
 baik
 mungkin
-(
+4
 -
 di
-melakukan
-untuk
+kamu
+/
 game
 
 untuk
-ini
-sangat
+atau
+seperti
 2
-lebih
+mereka
 di
 bisa
 itu
 .
 orang
-poker
+1
 7
-s
+judi
 k
 untuk
 1
-dapat
-sebagai
-mereka
+:
+k
+(
 e
-
+permainan
 adalah
 namun
-e
+u
 i
-oleh
-m
+kami
+pemain
 dari
-n
-akan
+l
+i
 1
-7
+orang
 di
-sangat
+4
 dalam
 (
 ,
-oleh
+e
 ,
 o
-apa
+d
 2
 kita
 orang
 satu
 dari
 situs
-beberapa
-online
+kami
+
 9
 hanya
 adalah
 9
-bahwa
-cara
-
+/
+online
+.
 )
 nya
-"
+k
 4
-/
+lebih
 situs
 /
-lebih
+orang
 an
-saya
-dengan
-online
+2
+kami
+besar
 untuk
 untuk
-,
-itu
+secara
+nya
 "
-
+dengan
 ini
 (
 ,
-saya
+namun
 :
 memiliki
+saat
+bahwa
+telah
 tersebut
-5
-.
-kan
 ?
-lain
+slot
 e
-bahwa
+membuat
 beberapa
 
 dan
-6
+game
 hal
-.
+a
 saat
 oleh
-bagi
-kan
+indonesia
+/
 hal
-akan
+atau
 juga
-,
-s
-memiliki
+anda
+6
+online
 i
 atau
 online
 5
-1
+oleh
 bisa
 dan
 anda
@@ -917,17 +917,17 @@ dalam
 dapat
 untuk
 maka
-online
-banyak
+baik
+sebagai
 1
 dari
 1
-banyak
+
 itu
 an
 1
 "
-nya
+di
 )
 t
 nya
@@ -942,55 +942,55 @@ atau
 jika
 tidak
 di
-?
+
 di
 ini
 sudah
 k
-anda
+kan
 ,
-dapat
+karena
 1
 di
-lebih
+ke
 satu
-)
-juga
+apa
+besar
 orang
-e
+harus
 cara
 ada
 akan
-secara
+akan
 adalah
 dengan
-namun
-s
-an
+bagi
+m
+salah
 online
 telah
-
-1
+tahun
+bermain
 t
-anda
-di
+online
+5
 bahwa
-judi
+9
 ini
-satu
+8
 dapat
 ingin
-/
-yang
+
+"
 ini
 juga
 lebih
 
 a
 ke
-juga
+memiliki
 8
-kamu
+:
 orang
 8
 ,
@@ -1002,11 +1002,11 @@ tidak
 9
 dapat
 bisa
-dari
-
+dapat
+seperti
 
 akan
-bisa
+juga
 bagi
 o
 ini
@@ -1014,117 +1014,117 @@ ini
 :
 9
 0
+,
 ini
-ini
-an
-tahun
+t
+bermain
 k
-
-atau
-/
-memiliki
+.
+)
+tersebut
+.
 ini
 9
 jika
 ada
 t
-3
-salah
 apa
+e
+indonesia
 menjadi
 bahwa
-uang
+nya
 pada
 untuk
 /
-mereka
+e
 a
 ke
-saat
-banyak
+saya
+menggunakan
 yang
 yang
 m
 )
-dapat
-ada
+9
+pada
 ,
-akan
+sebagai
 jika
 juga
 dari
 dan
-karena
-waktu
+lagi
+kami
 0
 i
 ada
 atau
-a
+tidak
 salah
-sebagai
+9
 yang
 
 an
 di
-saat
+k
 -
-besar
-untuk
+slot
+kami
 
-cara
+t
 3
-dapat
+ke
 banyak
 judi
-itu
-hal
-saat
+atau
+situs
+menggunakan
 jika
 pada
-(
+"
 di
-banyak
-
+online
+"
 akan
 atau
-)
+kamu
 
 karena
 dengan
 sebagai
 5
 sebagai
-karena
+satu
 permainan
 nya
-mereka
-dengan
-dengan
+para
+dalam
+tersebut
 lebih
 /
 bisa
-saat
+terbaik
 ?
 banyak
 ada
-
-satu
+kan
+saya
 untuk
-judi
-tidak
+d
+"
 yang
 dalam
 adalah
 ,
 kami
-dapat
+jika
 saat
 sangat
 juga
-)
+mereka
 kita
-a
+membuat
 -
 1
 
@@ -1132,48 +1132,48 @@ e
 ini
 ke
 dengan
-an
-bisa
+?
+dengan
 sangat
-orang
+"
 atau
 saat
 
-secara
+cara
 ke
 harus
-yang
+sangat
 9
 menjadi
-baik
+kami
 9
-:
+8
 bagi
 i
 menggunakan
 0
-t
-o
-jika
+a
+cara
+s
 ,
 para
-ada
+besar
 (
 hanya
 ?
-ini
+untuk
 (
 s
 banyak
-8
+salah
 m
-4
+kami
 atau
 "
 atau
 :
 online
-saya
+oleh
 yang
 untuk
 
@@ -1183,44 +1183,44 @@ hanya
 kita
 adalah
 hanya
--
+juga
 dari
-yang
+
 oleh
 u
 "
 di
 1
-terbaik
-indonesia
+baru
+judi
 dalam
-0
+ada
 s
 ,
 
 
-ke
+pemain
 /
 
 untuk
-t
+u
 saat
-d
-kita
-dan
+menggunakan
+m
+beberapa
 hal
-saya
+seperti
 tersebut
 saja
 anda
-para
-)
+untuk
+m
 online
-lebih
-akan
+2
 akan
-dengan
-–
+lainnya
+i
+bisnis
 atau
 adalah
 dengan
@@ -1229,121 +1229,121 @@ kami
 .
 maka
 itu
-bagi
+lebih
 ini
 atau
 
-untuk
-i
-s
+dapat
+setiap
+besar
 -
 atau
 
-saja
-"
-permainan
-itu
+6
+/
+harus
+di
 dapat
 yang
-u
+?
 dalam
 adalah
 slot
 salah
 0
-juga
+i
 satu
-7
+bagi
 online
 para
 di
 (
 poker
 satu
-menggunakan
-situs
+1
+adalah
 kita
 "
-dari
-t
 karena
-kamu
+telah
+karena
+4
 anda
 dan
 seperti
-)
+mereka
 yang
 memiliki
-kami
+judi
 satu
 4
-sudah
-o
+2
+telah
 1
 namun
-dapat
-tersebut
+karena
+bermain
 di
 dari
-situs
+harus
 banyak
-bagi
-memiliki
 k
+memiliki
+,
 anda
 dalam
--
+)
 dalam
 mereka
 hal
 anda
 nya
 bisa
-t
+mungkin
 lain
 saya
 atau
 ada
-di
+-
 
-orang
+harus
 tidak
 harus
 1
-dengan
+?
 hanya
 orang
-:
-beberapa
+(
+slot
 sangat
 .
 1
-kami
-saat
+slot
+menggunakan
 s
 adalah
 bisa
-(
+memiliki
 online
 juga
 o
 
-–
+k
 harus
 an
 0
 sangat
-?
+kamu
 itu
-orang
+saya
 s
--
+sehingga
 ini
 sangat
 baik
 dengan
 s
-
+.
 :
 3
 kami
@@ -1352,46 +1352,46 @@ s
 pada
 .
 di
-yang
-o
-k
+r
+saya
+saya
 s
 ,
 di
 di
-k
+kami
 banyak
 .
 s
 maka
 yang
 menggunakan
-?
+kamu
 jika
 juga
-/
-k
-akan
+tidak
+membuat
+"
 "
 .
 0
 bisnis
 membuat
 2
-4
+saya
 dengan
 bisa
-
+d
 dapat
-untuk
+yang
 
 "
-ke
+0
 secara
 menjadi
 saja
+a
 cara
-saat
 untuk
 dengan
 di
@@ -1399,7 +1399,7 @@ di
 online
 atau
 nya
-apa
+
 poker
 .
 uang
@@ -1408,103 +1408,103 @@ itu
 (
 yang
 dari
-game
+para
 akan
-menjadi
+sudah
 oleh
 harus
 "
 d
 kamu
-9
-sangat
+s
+baik
 ke
 adalah
-sudah
 sangat
+oleh
 karena
-ke
-:
-:
+mudah
+memiliki
+?
 i
 5
 tidak
-7
+jika
 pemain
-online
+t
 adalah
 bisa
 cara
-orang
-kami
-
-apa
+game
+baik
+kamu
+m
 s
 dengan
 a
 6
 
 menjadi
-6
+i
 untuk
-?
-hal
+.
+harus
 o
-atau
+satu
 dan
-itu
+juga
 ,
 adalah
 2
 pada
-kan
-3
+saja
+saat
 secara
 satu
 -
-t
+"
 yang
-dapat
+(
 pada
 sudah
 adalah
 dari
-p
+game
 
-besar
+semua
 kan
-telah
+yang
 di
 "
 bisa
 baik
 maka
-satu
-
+karena
+untuk
 d
--
+0
 beberapa
 judi
 
 
 ini
 baik
-,
+anda
 k
 itu
-(
+s
 kami
 seperti
 bisnis
 
 adalah
-4
+-
 permainan
 akan
 i
 harus
 bisa
-tersebut
+online
 cara
 2
 ,
@@ -1514,7 +1514,7 @@ di
 
 
 dapat
-poker
+k
 baik
 kan
 indonesia
@@ -1524,15 +1524,15 @@ indonesia
 )
 nya
 ke
-saya
+melakukan
 1
 di
-di
-kami
+melakukan
+dapat
 tidak
 salah
-(
-baik
+)
+besar
 tersebut
 .
 nya
@@ -1545,33 +1545,33 @@ sudah
 seperti
 karena
 dan
-sangat
+a
 
-an
+8
 kita
 mereka
-0
+besar
 dapat
-d
+
 kan
 -
 bisa
-beberapa
+melakukan
 9
 ,
-slot
+seperti
 
-jika
-ada
-baru
+tidak
+kamu
+juga
 dari
-situs
+satu
 .
 
 oleh
-bermain
+t
 nya
-tahun
+juga
 .
 dalam
 "
@@ -1582,23 +1582,23 @@ dari
 adalah
 mendapatkan
 juga
-anda
+sangat
 ada
 .
 3
-adalah
-ada
+game
+lebih
 ,
-0
+2
 0
 
 ini
 lebih
 dari
 an
-hanya
-harus
-beberapa
+a
+ke
+tahun
 satu
 telah
 lain
@@ -1606,14 +1606,14 @@ lain
 untuk
 oleh
 
-t
-saja
+5
+saya
 bisa
 
 saja
-saat
+judi
 dan
-kami
+0
 oleh
 uang
 adalah
@@ -1624,128 +1624,128 @@ membuat
 ,
 slot
 hanya
-secara
-
+sudah
+poker
 satu
 memiliki
 bisa
 nya
-atau
+mendapatkan
 
-t
+dan
 
 2
 ?
-kamu
+yang
 anda
-2
+
 /
 seperti
 kita
 online
-judi
+-
 akan
 pada
-harus
+setiap
 untuk
 dari
 3
--
+4
 s
 0
-cara
+situs
 dengan
 adalah
-hal
-yang
+
+5
 
 orang
 indonesia
-t
-di
-an
+pada
+e
+hal
 oleh
 itu
-lebih
-akan
+dan
+satu
 adalah
-itu
-slot
+nya
 slot
+poker
 lebih
-
+semua
 bisa
 judi
 sudah
 
 hal
 .
-pada
+juga
 seperti
 ingin
 anda
 lebih
 bahwa
-1
+indonesia
 
 i
 tidak
 dengan
 di
-besar
-akan
-bahwa
+semua
+an
+saat
 indonesia
 baik
 dari
 untuk
-beberapa
+atau
 i
 ada
--
+yang
 juga
-ke
-anda
-9
+adalah
+m
+online
 dengan
 e
-akan
+oleh
 anda
 harus
 beberapa
-dapat
+:
 dapat
 ?
 tersebut
 bagi
 0
-i
-game
-k
-"
-judi
+tersebut
+9
+7
+kita
+kami
 anda
 ini
-banyak
+–
 bisa
-harus
-atau
 sebagai
+oleh
+permainan
 online
 kan
 jika
-untuk
-9
+bermain
+sebagai
 -
 jika
 satu
 saat
-bahwa
+d
 s
-beberapa
+kita
 t
-i
-a
+semua
+sebagai
 
 cara
 2
@@ -1754,150 +1754,150 @@ ada
 kami
 .
 .
-sangat
+5
 secara
 yang
 nya
-saja
-seperti
-"
+d
 u
-saja
-adalah
+"
+salah
+?
+hal
 untuk
 online
-sudah
+8
 hal
-
+namun
 s
 itu
 
 1
 "
 online
-juga
-judi
+4
+.
 seperti
 sangat
-kan
+permainan
 online
 dari
 memiliki
 dan
 mungkin
 mereka
-akan
-hal
+pada
+menggunakan
 )
 dalam
 ?
-?
+an
 ke
-setiap
+harus
 
 .
 u
 permainan
-t
+4
 baik
 bisa
-lain
+slot
 e
-d
-karena
+saja
+)
 lain
 t
-tersebut
-oleh
+lain
+menjadi
 namun
-atau
-hanya
+kan
+kamu
 /
 pada
-
-
-:
+yang
+sebagai
+bahwa
 nya
-jadi
+maka
 dari
-a
+adalah
 dengan
-permainan
+saat
 salah
-–
+anda
 dan
-0
-orang
+situs
+an
 dengan
 2
-menggunakan
+lain
 4
-online
-(
+harus
+judi
 3
-kamu
+hal
 ke
-karena
-2
-atau
+di
+mudah
+saat
 6
 9
 tersebut
 mereka
 
-7
+menggunakan
 yang
 "
 menggunakan
 anda
 membuat
 9
-8
-adalah
-atau
+i
+)
+bagi
 
 lebih
-banyak
-judi
-:
-salah
+pada
+besar
+(
+/
 s
 tersebut
 itu
 ke
 ?
 6
-ada
+kan
 anda
-1
-jadi
-indonesia
+slot
+cara
+kamu
 pada
 dan
-bahwa
-tidak
+maka
+harus
 ,
-kan
-9
-tidak
 hanya
+dapat
+saja
+dapat
 ?
--
-7
-dengan
+5
+sudah
+permainan
 memiliki
 online
 saya
 indonesia
-kami
+bahwa
 saja
 0
 telah
-anda
+2
 oleh
 .
 
-9
+d
 tersebut
 
 menggunakan
@@ -1905,40 +1905,40 @@ menggunakan
 atau
 kamu
 yang
-anda
-online
+.
+lebih
 ini
 maka
-t
+judi
 4
-5
+i
 permainan
 di
 dengan
 semua
-t
+a
 tersebut
 memiliki
 ,
 sebagai
 dalam
-membuat
+a
 6
-anda
+secara
 
 tersebut
 baik
-besar
+5
 i
 baik
-.
-
+indonesia
+kamu
 dengan
 
 )
 hal
-2
-situs
+ke
+membuat
 .
 mendapatkan
 menjadi
@@ -1946,45 +1946,45 @@ melakukan
 indonesia
 pada
 /
-mereka
-uang
-orang
+online
+sebagai
+harga
 
 0
 untuk
 hal
 memiliki
 (
-namun
+melakukan
 tidak
 mereka
 hanya
 kamu
 seperti
-.
+itu
 
 semua
-anda
+sebagai
 tersebut
 lain
-seperti
+ada
 .
 tidak
-dalam
+beberapa
 bahwa
 ,
 saat
 
-:
+situs
 dapat
 kamu
 "
-harus
-"
+game
+8
 nya
 
 dari
-pemain
+6
 atau
 4
 tersebut
@@ -1992,49 +1992,49 @@ ke
 ini
 menjadi
 lebih
-perlu
+telah
 saja
-s
-terbaik
-kamu
+,
+lebih
+saat
 -
 nya
 ke
-7
+u
 sebagai
-
+1
 bisa
 )
-dengan
+saya
 sangat
-kami
-atau
-harus
+anda
+0
+dengan
 adalah
-memiliki
+hal
 kami
-kamu
+dan
 "
 orang
 
 -
-lain
+di
 akan
 kamu
 untuk
-slot
-lebih
-akan
-mudah
+poker
+menjadi
+banyak
+kita
 nya
 saya
-besar
+sangat
 7
 dengan
 
 pada
 saat
-jika
+d
 pada
 di
 
@@ -2042,31 +2042,31 @@ juga
 hal
 6
 di
-sudah
+para
 s
-u
+bahwa
 ada
-2
+/
 i
 e
 .
 pada
-bermain
+saya
 dengan
-kamu
+t
 nya
 sangat
 1
 membuat
-saat
+adalah
 tidak
-game
+setelah
 nya
 e
 4
 9
 mereka
-u
+0
 ke
 adalah
 
@@ -2074,174 +2074,174 @@ adalah
 yang
 k
 ke
-baik
-
-saya
-besar
-game
+situs
+:
+sangat
+judi
+mungkin
 ini
 dapat
 salah
 i
 a
-besar
+k
 2
-satu
+7
 seperti
 1
 anda
 untuk
-
-yang
+0
+t
 mendapatkan
 dan
 cara
 kan
-namun
-ada
-situs
-adalah
+maka
+e
+0
+itu
 dan
 e
-lebih
+yang
 itu
-mereka
-an
+satu
+oleh
 jika
-permainan
-ini
+salah
+dari
 dari
 5
 orang
-harus
-kan
+3
+5
 dengan
 online
 1
-untuk
+banyak
 i
 )
 (
-.
+
 untuk
-an
-4
-ke
+tentang
+situs
+-
 pada
-slot
+menggunakan
 3
 kita
-mereka
-
-pemain
+menjadi
+saja
+banyak
 u
 -
-
-6
+atau
+game
 adalah
 ,
 untuk
-5
-memiliki
+oleh
+tersebut
 /
-an
+saya
 online
 namun
 seperti
 slot
-)
-jika
+kita
+5
 seperti
 
 harus
-secara
+satu
 nya
 
-bisa
+akan
 mereka
-untuk
+game
 -
 "
-7
-5
+hal
+dalam
 lebih
 kita
-7
-
+saja
+bahwa
 untuk
-)
+saya
 
 ,
 ,
-menjadi
-saya
+bisa
+d
 -
 anda
-.
-7
+atau
+namun
 yang
-di
+telah
 memiliki
-
+n
 lebih
-p
+mungkin
 untuk
-"
+lebih
 ada
-bahwa
-hanya
+besar
+di
 mereka
-)
+semua
 poker
 banyak
 ada
 dengan
 dan
 ?
-u
+kan
 ,
 nya
-dari
+bisnis
 -
 di
 s
 kita
 saya
-yang
+orang
 mereka
-s
+online
 bermain
 
-jika
-7
-tidak
+,
+baik
+ada
 itu
 tidak
 5
 kami
-1
-sangat
-u
-k
+nya
+anda
+a
+a
 adalah
 0
 2
 untuk
-,
+tahun
 saat
 mereka
-telah
-dari
+,
+pada
 ini
 dalam
 dan
 atau
-a
-0
+t
+lebih
 mereka
 
 :
-seperti
+di
 dalam
 para
 dari
@@ -2250,28 +2250,28 @@ akan
 dengan
 menjadi
 saya
-ke
+jadi
 0
 dalam
-online
+pemain
 saya
-2
-slot
-besar
+7
+7
+kami
 ,
 1
 dapat
-9
+sangat
 a
 online
 an
-harus
+ke
 
-?
+5
 dan
 0
 banyak
-adalah
+saja
 0
 ingin
 akan
@@ -2279,39 +2279,39 @@ pada
 2
 menjadi
 dapat
-game
+bahwa
 di
 
 u
 dan
 anda
-"
+n
 untuk
 sudah
 online
 dan
 
 orang
-7
+maka
 adalah
-satu
+tersebut
 nya
-.
-online
+sangat
 8
-untuk
+8
+mudah
 ada
 
 s
 juga
-atau
+besar
 ini
 
 jika
 untuk
 dari
-cara
-satu
+kamu
+mudah
 untuk
 sangat
 0
@@ -2319,72 +2319,72 @@ sangat
 akan
 
 jika
-?
+an
 bahwa
-juga
-orang
+lain
+4
 bisa
 cara
 )
 dan
 oleh
-online
-lebih
-0
+
+9
+anda
 
 dengan
 untuk
 -
-4
+bisa
 jika
-5
+bermain
 yang
 hanya
 k
-kamu
+saja
 )
-kita
+g
 
-slot
+)
 online
 di
 sudah
 yang
 1
-dari
+)
 8
 untuk
-untuk
+t
 pada
 untuk
-situs
+kan
 ,
 judi
-mendapatkan
-4
-online
+bagi
+e
+saat
 
-satu
-kan
-untuk
+judi
+k
+(
 dalam
-kamu
-5
-oleh
+harus
+)
+orang
 ,
 
 dalam
 ada
 bisa
 akan
-karena
+pada
 saya
 
 lain
 baik
 atau
-an
-6
+/
+salah
 .
 indonesia
 telah
@@ -2394,9 +2394,9 @@ nya
 lebih
 2
 anda
-ke
+banyak
 juga
-"
+sudah
 :
 kita
 memiliki
@@ -2407,38 +2407,38 @@ dengan
 )
 anda
 i
-a
+
 yang
-,
+saya
 k
 adalah
 situs
-8
+(
 dari
 baik
 dan
 judi
-5
+kita
 kami
 juga
 online
 para
 :
 ini
-?
-2
+sangat
+4
 bisa
 d
 dengan
 dan
-kita
+permainan
 dapat
 lain
 (
 secara
 memiliki
 yang
-salah
+kamu
 oleh
 .
 atau
@@ -2448,17 +2448,17 @@ untuk
 ada
 itu
 nya
-bagi
+adalah
 2
 atau
 yang
-hal
+beberapa
 menjadi
 mereka
-e
+?
 
-ini
-dapat
+maka
+memiliki
 dalam
 oleh
 -
@@ -2466,19 +2466,19 @@ oleh
 0
 itu
 adalah
-sebagai
+4
 -
 ?
 dalam
 dapat
 
-atau
+apa
 memiliki
 cara
 ini
 di
 dapat
-memiliki
+hanya
 di
 
 dalam
@@ -2488,79 +2488,79 @@ dapat
 lebih
 akan
 yang
-"
+seperti
 untuk
-(
-d
+
+salah
 yang
 ke
 
-para
+hal
 lebih
 karena
 menjadi
-kita
+cara
 -
 ada
-cara
+indonesia
 s
-an
+sangat
 untuk
 lebih
-semua
+poker
 menjadi
 yang
-sangat
-
+6
+-
 5
 di
 .
 kan
 ,
-tersebut
+?
 salah
 ini
--
+,
 :
 menjadi
 yang
 sebagai
-melakukan
-saat
-perlu
+e
+(
+pemain
 yang
 
-1
+baik
 ,
 untuk
 
-sebagai
+banyak
 yang
-
+an
 o
-orang
-0
-jika
-bisa
-atau
-banyak
-:
+sangat
+dan
+sangat
+ke
+tersebut
+ini
+k
 anda
 memiliki
 hanya
-mereka
-e
+5
+k
 bahwa
-6
-saya
-ada
-9
-jika
+apa
+hal
+8
+kami
+5
 tersebut
 9
-1
+
 -
-)
+i
 besar
 6
 s
@@ -2572,22 +2572,22 @@ akan
 semua
 bahwa
 akan
-tidak
-indonesia
+sebagai
+hanya
 ,
 di
-d
+uang
 dan
-s
-bermain
-orang
-dari
+lebih
+
+harus
+-
 bisa
 9
 untuk
 di
-:
-mereka
+kita
+karena
 dari
 1
 ini
@@ -2596,61 +2596,61 @@ hal
 .
 yang
 tersebut
+permainan
 banyak
-saja
 
 harus
 yang
 saja
 para
 dan
-kita
-baik
-tersebut
+oleh
+tahun
+s
 sebagai
 waktu
 3
 karena
 adalah
-yang
+harus
 akan
 permainan
 .
 .
 karena
-saya
+dan
 yang
 tidak
 beberapa
 s
-
+dan
 
 mereka
 
-permainan
+)
 kami
 pada
 ,
 dan
 i
 d
-0
+perlu
 an
 yang
-sangat
-di
-.
+salah
+e
+bagi
 
-kamu
-d
+sangat
+bermain
 yang
 menjadi
 anda
 satu
 atau
 atau
-adalah
-permainan
+dari
+ini
 hal
 1
 karena
@@ -2663,62 +2663,62 @@ i
 itu
 atau
 1
-beberapa
-sangat
+9
+ke
 untuk
 juga
 4
 bisa
-beberapa
+setiap
 dengan
+saat
 ada
-ada
-hanya
+bahwa
 karena
 sudah
 poker
 
-r
+
 "
 online
 2
 ,
-2
+ada
 u
 ini
 3
 .
 mereka
-ini
+bahwa
 kita
 apa
 ini
 sangat
 
-dalam
-yang
-s
+indonesia
+9
+harus
 s
 menjadi
 ini
 
-menjadi
+saya
 di
 i
 e
 jika
-saat
+4
 ini
 untuk
-dalam
+tidak
 :
 t
-seperti
+i
 
-yang
+anda
 
 karena
-harus
+satu
 
 untuk
 3
@@ -2726,122 +2726,122 @@ dapat
 3
 
 i
-bahwa
+atau
 adalah
 ini
-ini
-an
+,
+3
 dalam
-judi
+kamu
 dengan
 dan
-e
+oleh
 untuk
-ke
-jika
+kami
+bahwa
 anda
-
+sebagai
 tidak
-pada
+2
 mereka
-pada
+-
 menjadi
-3
+memiliki
 kita
 memiliki
 di
-sebagai
+dapat
 pada
-tahun
-slot
-mendapatkan
+6
+7
+dapat
 
-u
+pemain
 ,
 1
 semua
 e
 maka
 i
-nya
+dengan
 bisa
-8
+)
 :
-slot
+membuat
 bagi
-(
-ada
+bermain
+mereka
 tidak
 karena
 e
-bisnis
+para
 bermain
 bisa
 bisa
 tidak
-dalam
-ini
-"
+juga
+dengan
+5
 
 tersebut
 ke
-menggunakan
-jadi
+kami
+p
 
 beberapa
 memiliki
-membuat
-ini
-pada
+para
+-
+
 pada
 .
-2
+ke
 e
 ?
 
 atau
 di
 jika
-t
-saat
--
+beberapa
+jika
+n
 1
 bisa
 untuk
 banyak
 tidak
 2
-/
-oleh
+tahun
+e
 dari
 
 -
 jika
-itu
-dari
+adalah
+situs
 di
-(
+memiliki
 dalam
 beberapa
-1
+harus
 ,
-seperti
+harus
 judi
 tidak
 anda
-lebih
+menggunakan
 yang
-para
+bagi
 harus
 ,
 di
 atau
 .
-0
+e
 memiliki
-dari
+nya
 tidak
-dengan
+hanya
 :
 :
 untuk
@@ -2853,54 +2853,54 @@ dari
 2
 
 kamu
-"
-perlu
+oleh
+8
 poker
 dari
 9
 banyak
-anda
-dalam
-lain
+seperti
+?
+k
 kamu
-yang
+5
 pada
 
 2
 saya
-semua
-?
+orang
+sebagai
 dalam
 sudah
 saat
 karena
 orang
-dapat
+itu
 s
-di
+anda
 yang
 dalam
-n
+tahun
 
 ini
-karena
+menjadi
 s
-ini
+-
 baik
-bisnis
+d
 ,
 sudah
 juga
-a
+permainan
 online
-ini
+setiap
 itu
-indonesia
+9
 dalam
 besar
 mereka
-anda
-lebih
+:
+u
 untuk
 akan
 dapat
@@ -2916,11 +2916,11 @@ dari
 
 ke
 0
-uang
-saya
-.
-tahun
+d
 a
+,
+poker
+para
 atau
 untuk
 7
@@ -2929,28 +2929,28 @@ kamu
 hal
 jika
 dengan
-besar
+an
 memiliki
 saja
-kami
+permainan
 sangat
 dan
-nya
-harus
+online
+saya
+lain
 poker
-kan
-pada
 itu
-yang
+itu
+mungkin
 nya
 atau
-orang
+atau
 saat
 9
 7
 di
 orang
-kami
+besar
 5
 jika
 
@@ -2958,22 +2958,22 @@ ke
 e
 ke
 
-nya
+dapat
 
 anda
-apa
-ini
+m
+jadi
 sangat
 kamu
 dari
-e
-an
+jika
+harus
 yang
 dari
-orang
+permainan
 
 jadi
-bahwa
+an
 pada
 banyak
 
@@ -2984,64 +2984,64 @@ anda
 anda
 /
 ke
-mereka
+7
 d
 
 3
-bahwa
-masih
+,
+aplikasi
 ada
 baik
-n
+di
 ,
-1
+oleh
 s
 anda
 yang
 8
 sudah
 ini
-kamu
-karena
-?
-mendapatkan
+salah
+menjadi
+poker
+saya
 
 an
 juga
 situs
-situs
+8
 atau
 membuat
-kamu
-
+untuk
 
+akan
 sangat
 yang
 dengan
-2
-:
+/
+indonesia
 ada
 nya
 4
-menjadi
-membuat
+?
+secara
 itu
 tidak
 cara
 s
-menjadi
-banyak
+n
+)
 
 lebih
 -
 5
-bahwa
-hal
+d
+dalam
 nya
-tidak
+juga
 hal
 yang
-untuk
+sudah
 1
 beberapa
 ,
@@ -3053,73 +3053,73 @@ menggunakan
 0
 hanya
 .
-"
+lain
 dengan
 4
 sudah
-an
-s
+k
+dapat
 situs
 dengan
 sebagai
-indonesia
-:
+telah
+bahwa
+an
+pada
 di
-kita
-9
-2
+adalah
 i
 )
 pada
-tersebut
+cara
 online
 4
-tidak
+yang
 cara
-dapat
+sudah
 s
-kan
+dengan
 kita
 juga
 anda
 cara
 untuk
 ini
-/
-kamu
-harus
-slot
 itu
+kamu
+"
+judi
+ini
 maka
 online
 yang
-bahwa
+adalah
 tidak
 dapat
-yang
+bermain
 ke
-8
+cara
 dapat
 dari
-harus
+kamu
 atau
-situs
-kita
+kan
+5
 yang
 menggunakan
 lain
-
+banyak
 a
-?
+saya
 oleh
 )
-/
+permainan
 bisa
-bermain
+)
 tidak
 untuk
 nya
-sebagai
+nya
 .
 /
 0
@@ -3128,8 +3128,8 @@ saya
 di
 saat
 di
-ada
-akan
+,
+satu
 judi
 sebagai
 telah
@@ -3137,13 +3137,13 @@ poker
 bisa
 beberapa
 situs
-seperti
+adalah
 saya
 orang
 
 -
 dengan
-sudah
+
 atau
 para
 anda
@@ -3156,48 +3156,48 @@ bahwa
 kamu
 karena
 mendapatkan
-oleh
-8
+9
+sangat
 online
 adalah
 untuk
 
 dalam
-6
 dengan
-cara
 dengan
+kan
+membuat
 bisnis
+judi
 seperti
-8
 dalam
 orang
 ke
-5
-di
+mendapatkan
+membuat
 orang
 7
-dalam
+paling
 saja
-indonesia
+menjadi
 k
-indonesia
-telah
-dengan
+seperti
+6
+menjadi
 akan
 nya
-hal
+3
 4
-8
+satu
 
 .
-besar
+a
 itu
 a
 cara
 .
-semua
-tidak
+"
+sebuah
 s
 ,
 nya
@@ -3205,147 +3205,147 @@ karena
 permainan
 dengan
 ada
-beberapa
+orang
 banyak
 kita
 .
-i
+mereka
 secara
-di
-kamu
+sebagai
+saat
 ini
-karena
+ke
 banyak
 saja
 atau
 nya
 adalah
 2
-tahun
-9
-yang
-dalam
+menggunakan
+beberapa
+:
+kamu
 menjadi
 dan
 
 nya
-lebih
+mereka
 (
 online
 
-salah
+cara
 akan
 memiliki
 a
-indonesia
-kami
+hal
+judi
 4
 2
 memiliki
 :
-orang
 menjadi
+juga
 yang
 oleh
 akan
 lain
-k
-pada
-9
+ini
+membuat
+indonesia
 tidak
 dalam
-oleh
-lain
+/
+u
 untuk
 memiliki
 dengan
 jika
-,
+dengan
 yang
 ada
-an
+1
 saat
 dan
 itu
 
-uang
-untuk
+poker
+dan
 
 yang
 2
 ,
-poker
-maka
+game
+baik
 akan
 dengan
-judi
-ada
+orang
+n
 jadi
-satu
+1
 0
 ke
 kita
 bisnis
 .
 -
-oleh
 yang
-9
+yang
+?
 permainan
 
-mereka
+sudah
 dengan
 banyak
 nya
 orang
 permainan
-dengan
+
 "
-a
+banyak
 an
 hanya
 
 jika
-oleh
+dari
 t
-sudah
+tersebut
 adalah
-banyak
+orang
 beberapa
 0
-a
-m
+situs
+banyak
 yang
 itu
 dari
 i
 jika
-e
+n
 .
 
-membuat
+nya
 1
-saat
+mereka
 dan
 lebih
 ke
-indonesia
+banyak
 memiliki
 saya
 4
 bisa
 kita
-ada
+bahwa
 online
 cara
 2
-lain
+n
 
 0
-situs
-tidak
+e
+bahwa
 
-telah
+d
 2
 5
 situs
@@ -3357,18 +3357,18 @@ untuk
 baik
 0
 8
-
-satu
-e
-
+uang
+memiliki
+an
+hal
 judi
-menjadi
-9
-
-"
+5
+baik
+secara
+4
 (
 i
-namun
+uang
 ,
 dalam
 yang
@@ -3377,81 +3377,81 @@ anda
 satu
 a
 pada
-
-baru
-hal
+dan
+m
+secara
 cara
 bisa
 sudah
-5
+9
 dan
-dari
+o
 bisa
 e
-sangat
+oleh
 (
 bisa
 salah
-situs
-bisa
+beberapa
+2
 -
 yang
-u
-bahwa
-maka
+permainan
+banyak
+–
 tidak
-di
-kita
+d
+,
 -
-membuat
+an
 bermain
-oleh
+5
 dengan
 -
-saja
-6
-s
+membuat
+9
+.
 anda
-an
+tersebut
 9
-sebagai
+saya
 salah
 cara
 besar
-seperti
--
-salah
+akan
+maka
+cara
 menjadi
 5
 7
 dan
 
-5
+tersebut
 8
-kan
+indonesia
 besar
 bisa
 yang
-:
+dalam
 atau
 
 di
 1
 dengan
-cara
-saya
+e
+/
 online
-bisa
-karena
+-
+banyak
 telah
-s
+apa
 uang
 jika
-(
-anda
+online
+dengan
 0
-anda
-sudah
+pada
+semua
 untuk
 pada
 saya
@@ -3460,40 +3460,40 @@ karena
 bermain
 situs
 -
-3
-cara
+banyak
+sangat
 sudah
 satu
-lebih
+online
 bahwa
-
-saat
-di
+saja
+:
+bisnis
 online
 6
 sangat
 harus
-di
-?
+t
+bermain
 3
 0
-bisa
+tidak
 dari
 
-online
+dalam
 permainan
-,
+-
 0
 yang
-nya
-akan
-maka
+poker
+dari
+6
 oleh
 1
-memiliki
+besar
 untuk
 dan
-dari
+perlu
 8
 satu
 dan
@@ -3502,7 +3502,7 @@ dalam
 baik
 oleh
 
-dan
+beberapa
 dan
 bermain
 bisa
@@ -3510,10 +3510,10 @@ bisa
 dapat
 dengan
 e
-bahwa
+ke
 dari
 saat
-kamu
+n
 nya
 untuk
 
@@ -3522,50 +3522,50 @@ bisa
 permainan
 banyak
 a
-an
+membuat
 hanya
-sangat
-adalah
-a
+oleh
 adalah
+ini
+dari
 5
 mereka
 dan
 .
-an
-pada
+kami
+dalam
 a
-situs
-seperti
-i
+sangat
 hanya
+i
+i
 untuk
-pada
+bisnis
 lebih
 atau
-:
-d
+merupakan
+apa
 pada
 di
-lebih
+7
 
 seperti
 online
 harus
 dari
-4
+?
 .
 kita
 akan
-juga
+u
 dan
-t
+poker
 
 waktu
-bahwa
-n
-
-i
+apa
+bermain
+d
+k
 seperti
 banyak
 hanya
@@ -3573,35 +3573,35 @@ di
 untuk
 
 /
-9
-sudah
-harus
+maka
+karena
+sangat
 tidak
 untuk
 
 9
-k
+"
 :
-saya
+akan
 indonesia
-namun
+seperti
 judi
 juga
 di
 untuk
 s
 lebih
-salah
+permainan
 sangat
-seperti
+satu
 "
 )
-hal
-sangat
+4
+e
 ?
-anda
+secara
 5
-seperti
+harus
 3
 k
 ?
@@ -3609,12 +3609,12 @@ secara
 oleh
 ada
 0
-s
+telah
 oleh
 1
 dari
 dengan
-judi
+u
 seperti
 satu
 (
@@ -3622,84 +3622,84 @@ adalah
 banyak
 dari
 yang
-4
-online
+maka
+itu
 ,
 1
-membuat
-jika
-game
-cara
+7
+harga
+bisa
+r
 oleh
 kami
-poker
+slot
 banyak
-ke
+ada
 ke
 di
-banyak
 s
+(
+3
 3
-5
 
 akan
-itu
+dapat
 sangat
 uang
 telah
-,
-
+"
+t
 seperti
 bahwa
 ke
-bisa
+,
 pada
 banyak
 ada
 bisa
-
-banyak
-
+bahwa
+hanya
+masih
 tahun
+situs
 
-
-dengan
+kamu
 sebagai
 dari
 memiliki
 sangat
-sebagai
-dalam
+hanya
+p
 menggunakan
-atau
-akan
-ke
+memiliki
+saja
+karena
 7
-pada
-slot
-dapat
-
+tidak
+jadi
+i
+untuk
 s
 online
 dari
-e
-bisa
-para
-a
-indonesia
-beberapa
+oleh
+oleh
 maka
-.
+perlu
+6
+saat
+maka
+baik
 )
 kamu
-kami
+9
 orang
 slot
-situs
+cara
 i
-harus
-dapat
-sebagai
+ke
+berbagai
+permainan
 s
 cara
 menjadi
@@ -3707,20 +3707,20 @@ jika
 a
 dan
 dan
-cara
+jadi
 
 banyak
-
+sangat
 yang
 (
 dengan
-9
-bermain
+baru
+slot
 bahwa
-karena
+i
 0
-satu
-hal
+oleh
+namun
 sebagai
 pada
 k
@@ -3728,9 +3728,9 @@ mereka
 bisa
 di
 seperti
-d
-dari
-sangat
+slot
+adalah
+saya
 kamu
 mereka
 anda

predict_results.json

@@ -1,12 +1,12 @@
 {
     "predict_gen_len": 1.0,
-    "predict_loss": 0.5551252961158752,
-    "predict_rouge1": 0.4427,
+    "predict_loss": 0.4885707199573517,
+    "predict_rouge1": 0.41,
     "predict_rouge2": 0.0,
-    "predict_rougeL": 0.4411,
-    "predict_rougeLsum": 0.4407,
-    "predict_runtime": 556.1807,
+    "predict_rougeL": 0.4097,
+    "predict_rougeLsum": 0.4092,
+    "predict_runtime": 2754.6092,
     "predict_samples": 3737,
-    "predict_samples_per_second": 6.719,
-    "predict_steps_per_second": 0.21
+    "predict_samples_per_second": 1.357,
+    "predict_steps_per_second": 0.042
 }

train_results.json

@@ -1,9 +1,9 @@
 {
     "epoch": 5.0,
-    "total_flos": 7.531884760915354e+16,
-    "train_loss": 0.8373744595297635,
-    "train_runtime": 5174.0873,
+    "total_flos": 4.9120107429888e+16,
+    "train_loss": 0.6270396870521358,
+    "train_runtime": 3918.4765,
     "train_samples": 14290,
-    "train_samples_per_second": 13.809,
-    "train_steps_per_second": 1.727
+    "train_samples_per_second": 18.234,
+    "train_steps_per_second": 1.141
 }

trainer_state.json

@@ -3,128 +3,128 @@
   "best_model_checkpoint": null,
   "epoch": 5.0,
   "eval_steps": 500,
-  "global_step": 8935,
+  "global_step": 4470,
   "is_hyper_param_search": false,
   "is_local_process_zero": true,
   "is_world_process_zero": true,
   "log_history": [
     {
       "epoch": 1.0,
-      "grad_norm": 7.113146781921387,
-      "learning_rate": 4e-05,
-      "loss": 1.2329,
-      "step": 1787
+      "grad_norm": 1.573519229888916,
+      "learning_rate": 0.0008,
+      "loss": 0.827,
+      "step": 894
     },
     {
       "epoch": 1.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5976304411888123,
-      "eval_rouge1": 0.3912,
+      "eval_loss": 0.517066240310669,
+      "eval_rouge1": 0.6517,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3916,
-      "eval_rougeLsum": 0.392,
-      "eval_runtime": 114.4182,
-      "eval_samples_per_second": 6.529,
-      "eval_steps_per_second": 0.21,
-      "step": 1787
+      "eval_rougeL": 0.6531,
+      "eval_rougeLsum": 0.6496,
+      "eval_runtime": 37.7451,
+      "eval_samples_per_second": 19.791,
+      "eval_steps_per_second": 0.636,
+      "step": 894
     },
     {
       "epoch": 2.0,
-      "grad_norm": 1.9403228759765625,
-      "learning_rate": 3e-05,
-      "loss": 0.7952,
-      "step": 3574
+      "grad_norm": 0.5823910236358643,
+      "learning_rate": 0.0006,
+      "loss": 0.6257,
+      "step": 1788
     },
     {
       "epoch": 2.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5580247044563293,
-      "eval_rouge1": 0.3919,
+      "eval_loss": 0.4943862855434418,
+      "eval_rouge1": 0.6472,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3921,
-      "eval_rougeLsum": 0.3921,
-      "eval_runtime": 112.1899,
-      "eval_samples_per_second": 6.658,
-      "eval_steps_per_second": 0.214,
-      "step": 3574
+      "eval_rougeL": 0.6472,
+      "eval_rougeLsum": 0.6469,
+      "eval_runtime": 37.6794,
+      "eval_samples_per_second": 19.825,
+      "eval_steps_per_second": 0.637,
+      "step": 1788
     },
     {
       "epoch": 3.0,
-      "grad_norm": 1.7163584232330322,
-      "learning_rate": 2e-05,
-      "loss": 0.7407,
-      "step": 5361
+      "grad_norm": 0.9307901859283447,
+      "learning_rate": 0.0004,
+      "loss": 0.5832,
+      "step": 2682
     },
     {
       "epoch": 3.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5366058945655823,
-      "eval_rouge1": 0.3893,
+      "eval_loss": 0.48476719856262207,
+      "eval_rouge1": 0.6329,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3879,
-      "eval_rougeLsum": 0.3866,
-      "eval_runtime": 112.7826,
-      "eval_samples_per_second": 6.623,
-      "eval_steps_per_second": 0.213,
-      "step": 5361
+      "eval_rougeL": 0.6335,
+      "eval_rougeLsum": 0.634,
+      "eval_runtime": 37.5561,
+      "eval_samples_per_second": 19.89,
+      "eval_steps_per_second": 0.639,
+      "step": 2682
     },
     {
       "epoch": 4.0,
-      "grad_norm": 2.9489381313323975,
-      "learning_rate": 1e-05,
-      "loss": 0.7152,
-      "step": 7148
+      "grad_norm": 0.5210844874382019,
+      "learning_rate": 0.0002,
+      "loss": 0.5581,
+      "step": 3576
     },
     {
       "epoch": 4.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5401661992073059,
-      "eval_rouge1": 0.354,
+      "eval_loss": 0.48243632912635803,
+      "eval_rouge1": 0.6575,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3512,
-      "eval_rougeLsum": 0.3523,
-      "eval_runtime": 112.9681,
-      "eval_samples_per_second": 6.612,
-      "eval_steps_per_second": 0.212,
-      "step": 7148
+      "eval_rougeL": 0.6562,
+      "eval_rougeLsum": 0.6576,
+      "eval_runtime": 37.1819,
+      "eval_samples_per_second": 20.09,
+      "eval_steps_per_second": 0.645,
+      "step": 3576
     },
     {
       "epoch": 5.0,
-      "grad_norm": 2.7675414085388184,
+      "grad_norm": 0.741267740726471,
       "learning_rate": 0.0,
-      "loss": 0.7029,
-      "step": 8935
+      "loss": 0.5411,
+      "step": 4470
     },
     {
       "epoch": 5.0,
       "eval_gen_len": 1.0,
-      "eval_loss": 0.5351393818855286,
-      "eval_rouge1": 0.3585,
+      "eval_loss": 0.47984424233436584,
+      "eval_rouge1": 0.6568,
       "eval_rouge2": 0.0,
-      "eval_rougeL": 0.3555,
-      "eval_rougeLsum": 0.357,
-      "eval_runtime": 113.5022,
-      "eval_samples_per_second": 6.581,
-      "eval_steps_per_second": 0.211,
-      "step": 8935
+      "eval_rougeL": 0.6564,
+      "eval_rougeLsum": 0.6586,
+      "eval_runtime": 37.5756,
+      "eval_samples_per_second": 19.88,
+      "eval_steps_per_second": 0.639,
+      "step": 4470
     },
     {
       "epoch": 5.0,
-      "step": 8935,
-      "total_flos": 7.531884760915354e+16,
-      "train_loss": 0.8373744595297635,
-      "train_runtime": 5174.0873,
-      "train_samples_per_second": 13.809,
-      "train_steps_per_second": 1.727
+      "step": 4470,
+      "total_flos": 4.9120107429888e+16,
+      "train_loss": 0.6270396870521358,
+      "train_runtime": 3918.4765,
+      "train_samples_per_second": 18.234,
+      "train_steps_per_second": 1.141
     }
   ],
   "logging_steps": 500,
-  "max_steps": 8935,
+  "max_steps": 4470,
   "num_input_tokens_seen": 0,
   "num_train_epochs": 5,
   "save_steps": 500,
-  "total_flos": 7.531884760915354e+16,
-  "train_batch_size": 8,
+  "total_flos": 4.9120107429888e+16,
+  "train_batch_size": 16,
   "trial_name": null,
   "trial_params": null
 }