End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5374429821968079,
+    "eval_rouge1": 0.4096,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4081,
+    "eval_rougeLsum": 0.4102,
+    "eval_runtime": 330.0773,
+    "eval_samples": 750,
+    "eval_samples_per_second": 2.272,
+    "eval_steps_per_second": 0.285,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5151308178901672,
+    "predict_rouge1": 0.4182,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.417,
+    "predict_rougeLsum": 0.4186,
+    "predict_runtime": 1660.6386,
+    "predict_samples": 3752,
+    "predict_samples_per_second": 2.259,
+    "predict_steps_per_second": 0.282,
+    "total_flos": 6.555985119973786e+16,
+    "train_loss": 0.37568705947944403,
+    "train_runtime": 9312.7957,
+    "train_samples": 14272,
+    "train_samples_per_second": 7.663,
+    "train_steps_per_second": 1.916
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5374429821968079,
+    "eval_rouge1": 0.4096,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4081,
+    "eval_rougeLsum": 0.4102,
+    "eval_runtime": 330.0773,
+    "eval_samples": 750,
+    "eval_samples_per_second": 2.272,
+    "eval_steps_per_second": 0.285
+}

generated_predictions.txt

@@ -0,0 +1,3752 @@
+atau
+0
+dengan
+bisa
+t
+ada
+game
+0
+t
+judi
+banyak
+akan
+e
+ke
+:
+-
+1
+beberapa
+atau
+)
+a
+tidak
+itu
+
+menjadi
+9
+e
+untuk
+atau
+banyak
+uang
+harus
+di
+sebagai
+bisa
+4
+situs
+anda
+anda
+hal
+
+
+
+a
+"
+sebagai
+harus
+karena
+
+indonesia
+3
+.
+dan
+situs
+sebagai
+menjadi
+saat
+uang
+ada
+an
+
+(
+dapat
+yang
+saya
+untuk
+memiliki
+1
+a
+
+ada
+dari
+.
+lebih
+indonesia
+
+e
+,
+5
+4
+bisa
+6
+dapat
+yang
+hal
+dengan
+ini
+2
+hal
+nya
+dari
+(
+pemain
+mendapatkan
+anda
+u
+-
+ini
+tidak
+
+indonesia
+apa
+sudah
+bahwa
+kami
+mendapatkan
+atau
+
+/
+sangat
+i
+k
+ke
+bahwa
+dari
+d
+sebagai
+dan
+satu
+online
+dalam
+saat
+
+akan
+itu
+saya
+2
+seperti
+e
+yang
+di
+:
+di
+baik
+secara
+sangat
+poker
+menggunakan
+hanya
+menjadi
+satu
+tahun
+nya
+adalah
+dan
+.
+adalah
+ke
+seperti
+bisa
+menjadi
+hal
+dari
+dalam
+)
+-
+1
+9
+kan
+di
+-
+orang
+t
+adalah
+saja
+t
+s
+untuk
+n
+atau
+lebih
+tidak
+1
+cara
+tersebut
+ini
+kan
+hal
+atau
+6
+permainan
+saja
+saya
+itu
+e
+untuk
+t
+menjadi
+7
+dapat
+tidak
+
+.
+
+t
+(
+jika
+di
+untuk
+nya
+karena
+online
+saat
+ada
+apa
+akan
+:
+sangat
+,
+terbaik
+tidak
+di
+3
+jika
+namun
+jadi
+kita
+
+situs
+bermain
+untuk
+apa
+ada
+salah
+
+seperti
+dan
+/
+nya
+2
+secara
+slot
+,
+adalah
+(
+adalah
+9
+tidak
+lebih
+membuat
+
+2
+
+4
+a
+menjadi
+saat
+kita
+2
+harus
+?
+dengan
+tentang
+banyak
+bahwa
+
+9
+
+3
+hal
+ini
+karena
+2
+ke
+ke
+untuk
+,
+pada
+secara
+nya
+karena
+lain
+saat
+dapat
+permainan
+bisa
+lebih
+hanya
+seperti
+akan
+6
+
+0
+.
+,
+dan
+bahwa
+bisa
+kan
+dapat
+seperti
+e
+untuk
+tidak
+an
+baik
+lebih
+sebagai
+harus
+o
+)
+.
+dalam
+tersebut
+2
+nya
+menjadi
+hanya
+karena
+0
+7
+beberapa
+)
+
+situs
+bisa
+1
+salah
+4
+orang
+adalah
+cara
+)
+mereka
+/
+permainan
+8
+mereka
+
+pemain
+anda
+dari
+dari
+satu
+5
+anda
+nya
+.
+anda
+lebih
+tidak
+cara
+dan
+dengan
+
+-
+u
+saya
+sangat
+9
+t
+akan
+baik
+dan
+menjadi
+dari
+salah
+5
+1
+ada
+secara
+e
+hanya
+ada
+ini
+0
+hanya
+4
+s
+ini
+secara
+namun
+
+slot
+yang
+anda
+di
+baik
+
+0
+baik
+0
+oleh
+9
+ada
+k
+dengan
+judi
+(
+
+oleh
+kamu
+dalam
+s
+adalah
+adalah
+mereka
+beberapa
+adalah
+-
+
+judi
+i
+juga
+menjadi
+k
+atau
+bisa
+an
+mendapatkan
+online
+6
+ke
+lebih
+memiliki
+oleh
+.
+ada
+1
+3
+sudah
+.
+,
+/
+3
+)
+seperti
+besar
+,
+akan
+yang
+oleh
+adalah
+situs
+
+bahwa
+tersebut
+itu
+kamu
+u
+6
+satu
+online
+hal
+dari
+memiliki
+dengan
+atau
+akan
+karena
+saya
+tahun
+oleh
+dengan
+
+di
+ini
+bisa
+memiliki
+k
+1
+atau
+tidak
+8
+sebagai
+e
+memiliki
+indonesia
+akan
+menjadi
+lebih
+anda
+saat
+0
+u
+untuk
+a
+7
+bahwa
+salah
+hal
+8
+
+beberapa
+memiliki
+
+seperti
+-
+.
+satu
+0
+0
+
+hal
+(
+
+a
+saat
+salah
+dan
+)
+dapat
+ini
+8
+karena
+tersebut
+baik
+ke
+s
+jika
+:
+-
+dengan
+akan
+sebagai
+akan
+2
+7
+adalah
+0
+kami
+atau
+bermain
+(
+yang
+indonesia
+bisa
+dengan
+dalam
+lain
+karena
+sangat
+cara
+(
+
+
+cara
+.
+membuat
+beberapa
+
+tidak
+"
+5
+dan
+sebagai
+tidak
+situs
+adalah
+,
+adalah
+para
+dalam
+di
+beberapa
+sudah
+
+
+k
+oleh
+online
+saya
+para
+beberapa
+harus
+di
+oleh
+.
+ke
+seperti
+orang
+8
+.
+bahwa
+dan
+yang
+dengan
+"
+ada
+menjadi
+juga
+online
+9
+
+judi
+salah
+5
+e
+saat
+sangat
+2
+,
+.
+tidak
+kan
+dan
+hanya
+tidak
+mereka
+akan
+seperti
+akan
+.
+kamu
+mereka
+
+saat
+
+indonesia
+atau
+dalam
+ada
+
+akan
+
+nya
+
+8
+dengan
+bisa
+4
+dapat
+juga
+
+harus
+
+orang
+atau
+2
+1
+4
+kamu
+judi
+salah
+lebih
+.
+hanya
+.
+/
+e
+
+1
+membuat
+bisa
+bahwa
+permainan
+
+tidak
+1
+baik
+0
+tersebut
+kan
+e
+,
+4
+mereka
+s
+kami
+an
+saja
+an
+7
+dari
+banyak
+k
+.
+atau
+orang
+atau
+saya
+
+satu
+online
+sangat
+(
+membuat
+dan
+s
+)
+kan
+(
+juga
+e
+banyak
+lain
+dengan
+
+karena
+situs
+1
+untuk
+pada
+an
+ada
+hanya
+?
+pada
+jika
+ini
+baik
+e
+4
+tidak
+di
+1
+yang
+,
+3
+i
+cara
+permainan
+e
+mereka
+yang
+,
+mungkin
+adalah
+cara
+karena
+.
+bermain
+m
+1
+membuat
+0
+yang
+maka
+atau
+(
+d
+yang
+
+menggunakan
+-
+2
+pada
+e
+kamu
+3
+3
+seperti
+kami
+tidak
+dari
+3
+e
+,
+dari
+bermain
+r
+7
+saat
+dari
+dari
+pada
+
+harus
+?
+
+mereka
+dengan
+situs
+2
+
+bagi
+ini
+dapat
+anda
+maka
+salah
+)
+saya
+.
+2
+a
+
+0
+dalam
+
+ini
+banyak
+tersebut
+online
+mereka
+9
+oleh
+itu
+kamu
+di
+ada
+m
+?
+banyak
+itu
+juga
+banyak
+,
+yang
+banyak
+sebagai
+orang
+di
+baik
+akan
+secara
+dan
+i
+saat
+di
+k
+t
+salah
+sangat
+dari
+2
+sudah
+online
+membuat
+dan
+7
+?
+seperti
+kita
+-
+situs
+permainan
+dalam
+kamu
+dari
+orang
+-
+jika
+anda
+-
+0
+?
+4
+s
+
+
+lebih
+dalam
+mereka
+ada
+di
+judi
+yang
+saat
+2
+ingin
+t
+2
+nya
+oleh
+dapat
+harus
+pada
+atau
+online
+7
+s
+bisa
+dapat
+s
+banyak
+kan
+orang
+mereka
+di
+bahwa
+oleh
+ini
+d
+bermain
+hal
+(
+(
+u
+para
+
+orang
+0
+3
+a
+bisa
+anda
+baik
+hanya
+saja
+oleh
+.
+di
+baik
+karena
+4
+di
+atau
+1
+seperti
+banyak
+
+e
+mendapatkan
+-
+t
+k
+kan
+/
+namun
+i
+dengan
+jika
+poker
+,
+dari
+di
+?
+nya
+?
+.
+?
+e
+tidak
+ada
+poker
+salah
+/
+i
+dalam
+di
+saja
+1
+dari
+beberapa
+:
+1
+karena
+s
+
+dapat
+ini
+ini
+
+oleh
+itu
+0
+8
+saya
+anda
+satu
+an
+ini
+2
+.
+di
+dan
+bisa
+7
+
+a
+/
+3
+nya
+pada
+online
+ke
+permainan
+/
+bermain
+jika
+9
+satu
+atau
+untuk
+
+beberapa
+pada
+satu
+0
+1
+-
+uang
+saya
+jika
+bisa
+2
+
+
+kita
+
+
+orang
+mudah
+akan
+?
+sebagai
+t
+pada
+juga
+untuk
+3
+karena
+anda
+orang
+
+untuk
+)
+7
+bahwa
+m
+lebih
+5
+6
+anda
+di
+anda
+-
+satu
+anda
+1
+u
+menggunakan
+permainan
+8
+pemain
+menggunakan
+
+dari
+satu
+atau
+yang
+saat
+dan
+an
+hanya
+ke
+1
+k
+adalah
+dari
+baru
+menjadi
+adalah
+8
+atau
+melakukan
+,
+bisa
+i
+seperti
+sudah
+mereka
+permainan
+saja
+nya
+(
+menggunakan
+.
+,
+pada
+yang
+k
+permainan
+an
+0
+
+banyak
+anda
+saja
+
+tidak
+6
+secara
+adalah
+sangat
+beberapa
+banyak
+saya
+yang
+indonesia
+di
+7
+saya
+banyak
+bisa
+an
+memiliki
+an
+dan
+memiliki
+hanya
+yang
+4
+sebagai
+karena
+
+salah
+juga
+2
+ini
+melakukan
+5
+2
+5
+itu
+itu
+bisa
+mereka
+3
+kan
+kita
+sangat
+juga
+kami
+dapat
+bisa
+bagi
+tidak
+i
+dapat
+2
+0
+o
+dapat
+di
+?
+dapat
+situs
+banyak
+
+i
+situs
+2
+hal
+nya
+3
+kamu
+juga
+
+membuat
+2
+harus
+semua
+dan
+.
+saya
+-
+dengan
+0
+,
+menjadi
+online
+secara
+8
+untuk
+anda
+
+2
+secara
+1
+e
+?
+apa
+pemain
+anda
+/
+kami
+,
+,
+salah
+secara
+lebih
+baik
+sangat
+secara
+
+,
+di
+lain
+saya
+:
+k
+pada
+hal
+
+6
+kamu
+
+harus
+hanya
+dan
+lebih
+hanya
+k
+8
+
+baik
+bahwa
+,
+memiliki
+sangat
+dengan
+dengan
+sebagai
+dapat
+?
+ini
+lain
+0
+mereka
+5
+menjadi
+5
+8
+u
+
+menggunakan
+lebih
+oleh
+k
+-
+namun
+2
+
+k
+kami
+a
+akan
+apa
+di
+memiliki
+sangat
+4
+kita
+indonesia
+menjadi
+apa
+banyak
+tahun
+dan
+memiliki
+ke
+tidak
+sangat
+hanya
+akan
+dapat
+-
+
+4
+saat
+1
+.
+dan
+t
+beberapa
+saja
+3
+nya
+s
+sebagai
+oleh
+
+dan
+di
+
+t
+sudah
+nya
+juga
+jika
+2
+untuk
+oleh
+yang
+maka
+.
+dalam
+s
+3
+t
+8
+situs
+s
+e
+ini
+di
+akan
+lebih
+seperti
+untuk
+m
+0
+kamu
+judi
+sebagai
+ini
+dan
+sangat
+lebih
+ada
+0
+tahun
+untuk
+
+menjadi
+itu
+dapat
+bisa
+sebagai
+kamu
+kita
+di
+s
+tidak
+yang
+kita
+baik
+sangat
+
+ini
+saya
+kan
+ini
+dalam
+seperti
+
+sudah
+)
+harus
+
+nya
+orang
+saat
+baik
+cara
+)
+dan
+anda
+kami
+1
+salah
+
+tidak
+dan
+anda
+permainan
+judi
+orang
+/
+lebih
+uang
+slot
+)
+semua
+salah
+dalam
+pada
+,
+adalah
+di
+banyak
+hal
+hanya
+0
+oleh
+baik
+lebih
+4
+yang
+sangat
+harga
+a
+di
+
+akan
+s
+bermain
+memiliki
+7
+untuk
+?
+,
+saya
+pada
+atau
+di
+)
+mereka
+sangat
+permainan
+kita
+dengan
+mereka
+saat
+banyak
+sangat
+yang
+.
+dengan
+,
+judi
+tidak
+saya
+i
+i
+
+)
+ada
+
+melakukan
+
+atau
+oleh
+bagi
+harus
+di
+4
+3
+e
+secara
+ini
+sangat
+di
+anda
+indonesia
+mereka
+membuat
+0
+karena
+cara
+judi
+anda
+
+bisnis
+nya
+sudah
+i
+besar
+1
+akan
+dan
+
+waktu
+indonesia
+dari
+?
+ke
+0
+(
+menggunakan
+/
+para
+)
+s
+slot
+juga
+dari
+5
+di
+sudah
+ke
+-
+
+menjadi
+bermain
+melakukan
+a
+8
+1
+menjadi
+
+
+ini
+sangat
+s
+yang
+ke
+untuk
+ke
+ini
+dan
+/
+anda
+?
+game
+juga
+di
+4
+2
+beberapa
+an
+dari
+jika
+besar
+
+dari
+mereka
+hanya
+dengan
+atau
+hanya
+mudah
+situs
+s
+3
+4
+0
+?
+.
+
+7
+karena
+memiliki
+
+i
+akan
+kamu
+
+.
+
+anda
+juga
+para
+orang
+juga
+kan
+ada
+9
+bisa
+
+kita
+semua
+tahun
+8
+harus
+indonesia
+
+orang
+ke
+adalah
+akan
+
+8
+bisa
+karena
+harus
+6
+9
+menggunakan
+i
+3
+adalah
+.
+.
+ini
+situs
+e
+menjadi
+
+sebagai
+,
+5
+untuk
+tidak
+jika
+-
+slot
+5
+lebih
+ini
+mereka
+juga
+bahwa
+seperti
+dan
+situs
+.
+menggunakan
+atau
+
+ini
+dari
+harus
+akan
+dari
+,
+0
+saat
+e
+anda
+banyak
+mereka
+e
+lebih
+itu
+jadi
+yang
+yang
+perlu
+6
+kita
+a
+permainan
+indonesia
+tersebut
+kami
+3
+-
+dalam
+a
+untuk
+beberapa
+hanya
+juga
+secara
+
+bisa
+banyak
+hal
+hanya
+kamu
+saja
+7
+0
+2
+situs
+dapat
+secara
+7
+dalam
+/
+juga
+(
+sudah
+melakukan
+anda
+sangat
+secara
+
+juga
+d
+dapat
+kami
+s
+3
+dapat
+.
+adalah
+menjadi
+memiliki
+.
+,
+judi
+ini
+8
+anda
+jika
+"
+"
+i
+mungkin
+tidak
+cara
+oleh
+9
+2
+saat
+akan
+baru
+2
+tahun
+d
+dan
+di
+satu
+hal
+memiliki
+kami
+jika
+banyak
+masih
+
+dan
+itu
+seperti
+pada
+
+seperti
+8
+)
+ini
+kamu
+memiliki
+permainan
+kamu
+akan
+sebagai
+,
+atau
+untuk
+membuat
+mereka
+s
+.
+3
+slot
+dalam
+3
+secara
+lebih
+0
+membuat
+bisa
+pada
+sangat
+online
+dan
+4
+atau
+besar
+di
+saja
+nya
+
+i
+dalam
+kami
+indonesia
+4
+kan
+4
+adalah
+untuk
+salah
+dengan
+besar
+2
+secara
+?
+6
+
+)
+/
+menggunakan
+untuk
+,
+nya
+anda
+maka
+seperti
+kami
+i
+0
+dapat
+kamu
+memiliki
+1
+sudah
+8
+membuat
+slot
+
+
+e
+,
+d
+(
+judi
+satu
+banyak
+.
+s
+saya
+anda
+m
+banyak
+t
+di
+ini
+
+satu
+bisa
+baik
+ada
+2
+bisa
+situs
+itu
+kamu
+2
+nya
+di
+bahwa
+2
+e
+tersebut
+atau
+,
+,
+6
+kami
+tidak
+9
+2
+kamu
+
+mereka
+atau
+apa
+lebih
+untuk
+nya
+seperti
+hanya
+pemain
+akan
+"
+ini
+permainan
+pada
+(
+:
+anda
+1
+atau
+dan
+
+di
+7
+bisa
+anda
+mereka
+akan
+.
+mendapatkan
+di
+beberapa
+/
+
+juga
+dan
+p
+banyak
+5
+itu
+,
+s
+yang
+0
+t
+memiliki
+dari
+an
+sebagai
+dalam
+akan
+dari
+seperti
+e
+situs
+"
+pada
+e
+tidak
+dan
+
+/
+semua
+harus
+saja
+
+7
+besar
+judi
+bisa
+banyak
+orang
+anda
+sebagai
+di
+0
+untuk
+orang
+banyak
+r
+sudah
+untuk
+:
+
+anda
+ada
+permainan
+i
+cara
+(
+mudah
+e
+(
+
+untuk
+lebih
+lebih
+kamu
+u
+u
+k
+di
+pada
+jika
+online
+bisnis
+akan
+-
+slot
+nya
+yang
+seperti
+sebagai
+)
+a
+ingin
+sebagai
+dengan
+bagi
+adalah
+yang
+dapat
+ke
+membuat
+ini
+harus
+bahwa
+3
+adalah
+harus
+namun
+seperti
+cara
+1
+sudah
+tidak
+"
+game
+pada
+i
+6
+/
+untuk
+bahwa
+.
+beberapa
+harus
+akan
+k
+
+itu
+itu
+hal
+saja
+t
+secara
+hal
+o
+ke
+
+?
+-
+ke
+anda
+online
+bisa
+4
+itu
+besar
+yang
+judi
+anda
+terbaik
+satu
+jika
+,
+ke
+
+bisa
+
+indonesia
+tersebut
+e
+
+di
+2
+karena
+
+online
+
+bisa
+banyak
+dan
+telah
+online
+sudah
+besar
+i
+1
+orang
+orang
+ada
+itu
+4
+lebih
+nya
+sangat
+
+karena
+baik
+.
+jika
+dari
+memiliki
+hal
+a
+0
+t
+.
+tidak
+memiliki
+situs
+i
+dan
+1
+,
+memiliki
+hanya
+bisa
+untuk
+e
+beberapa
+maka
+satu
+memiliki
+
+kan
+kan
+hal
+banyak
+ke
+kita
+
+menggunakan
+besar
+:
+t
+anda
+pada
+harus
+a
+:
+-
+kita
+u
+
+yang
+0
+dari
+kita
+kan
+a
+bahwa
+
+saya
+sebagai
+hal
+saat
+6
+5
+:
+4
+menjadi
+saya
+nya
+,
+namun
+memiliki
+ada
+karena
+2
+ingin
+tidak
+untuk
+k
+-
+s
+d
+indonesia
+
+pada
+dalam
+anda
+seperti
+r
+nya
+-
+dalam
+)
+online
+,
+nya
+,
+.
+)
+di
+:
+oleh
+karena
+mereka
+seperti
+namun
+a
+waktu
+salah
+"
+dengan
+
+bisa
+t
+atau
+)
+namun
+memiliki
+
+saya
+kan
+0
+-
+seperti
+harus
+anda
+indonesia
+sudah
+
+saat
+nya
+.
+besar
+dalam
+
+anda
+melakukan
+banyak
+dari
+saja
+(
+
+seperti
+akan
+:
+bermain
+sudah
+3
+ke
+1
+waktu
+kami
+jika
+yang
+jika
+dapat
+s
+dan
+dapat
+i
+3
+telah
+situs
+untuk
+/
+satu
+permainan
+saja
+dapat
+tersebut
+hanya
+0
+kami
+-
+dengan
+dengan
+menggunakan
+dari
+-
+t
+permainan
+(
+1
+ada
+2
+untuk
+cara
+online
+kan
+baik
+d
+
+e
+dari
+beberapa
+bisa
+sangat
+sangat
+nya
+e
+hal
+memiliki
+situs
+:
+7
+ini
+
+bisa
+(
+4
+dengan
+5
+dan
+/
+saya
+u
+beberapa
+waktu
+banyak
+karena
+6
+dengan
+0
+hal
+
+
+atau
+di
+,
+menggunakan
+sangat
+
+yang
+akan
+baik
+9
+juga
+sangat
+banyak
+0
+judi
+nya
+.
+-
+bahwa
+an
+?
+
+,
+harus
+a
+dari
+jika
+"
+
+s
+tidak
+
+
+ke
+.
+dari
+banyak
+sudah
+situs
+besar
+,
+s
+bahwa
+dapat
+
+atau
+tersebut
+.
+1
+bisa
+:
+0
+sebagai
+-
+dan
+salah
+secara
+p
+kami
+ada
+?
+0
+pada
+kamu
+7
+game
+lebih
+banyak
+anda
+tidak
+dan
+tidak
+ada
+untuk
+.
+4
+,
+.
+bisa
+0
+judi
+mereka
+cara
+
+semua
+itu
+8
+saja
+namun
+0
+ini
+lain
+0
+karena
+namun
+ini
+tidak
+9
+online
+-
+2
+pada
+pada
+s
+adalah
+orang
+
+sebagai
+sangat
+besar
+:
+memiliki
+menjadi
+secara
+atau
+maka
+0
+/
+juga
+saya
+dan
+.
+e
+s
+di
+kita
+maka
+an
+menjadi
+2
+)
+an
+(
+slot
+?
+-
+:
+-
+(
+d
+7
+)
+orang
+maka
+pada
+sangat
+mungkin
+atau
+situs
+tahun
+baik
+s
+2
+dengan
+waktu
+4
+dengan
+
+saat
+
+3
+:
+sangat
+online
+mereka
+5
+secara
+adalah
+bagi
+dengan
+anda
+dan
+situs
+anda
+
+"
+.
+mudah
+ada
+saja
+t
+
+itu
+:
+dan
+:
+membuat
+7
+mereka
+an
+judi
+juga
+bahwa
+dalam
+sudah
+pada
+untuk
+:
+orang
+"
+sudah
+baik
+-
+bisnis
+apa
+8
+seperti
+dan
+5
+/
+
+dalam
+dalam
+memiliki
+4
+d
+:
+
+lain
+atau
+menjadi
+
+salah
+dapat
+banyak
+memiliki
+tersebut
+ke
+tidak
+akan
+pada
+oleh
+tersebut
+
+?
+ke
+sangat
+permainan
+beberapa
+.
+
+adalah
+di
+ke
+ini
+yang
+sudah
+ada
+0
+atau
+5
+yang
+orang
+2
+dan
+hal
+juga
+nya
+mereka
+nya
+lebih
+anda
+pada
+juga
+d
+mereka
+orang
+,
+juga
+judi
+dan
+telah
+
+satu
+:
+membuat
+saya
+ini
+adalah
+harus
+bisa
+.
+karena
+,
+dengan
+,
+dan
+juga
+,
+-
+game
+menjadi
+dengan
+dengan
+banyak
+2
+slot
+bermain
+jika
+0
+nya
+melakukan
+saya
+indonesia
+ke
+9
+sudah
+
+semua
+hal
+ke
+waktu
+,
+salah
+apa
+kita
+adalah
+3
+:
+lebih
+besar
+cara
+dapat
+/
+sangat
+memiliki
+dan
+mereka
+akan
+besar
+,
+seperti
+0
+ini
+hal
+dengan
+bisa
+
+,
+,
+karena
+)
+judi
+saja
+kita
+pada
+akan
+kita
+nya
+-
+7
+kamu
+
+salah
+d
+dengan
+,
+dalam
+hanya
+-
+untuk
+mereka
+di
+sangat
+dapat
+itu
+-
+.
+saat
+saja
+di
+sudah
+ada
+ini
+itu
+oleh
+bisnis
+a
+:
+jika
+akan
+jika
+jadi
+n
+judi
+apa
+yang
+dapat
+menjadi
+kamu
+-
+8
+,
+1
+dengan
+
+.
+di
+-
+5
+orang
+untuk
+
+dan
+dari
+membuat
+bisnis
+seperti
+
+seperti
+
+kami
+dari
+satu
+akan
+lebih
+permainan
+yang
+telah
+,
+
+,
+menjadi
+ini
+s
+8
+(
+tidak
+itu
+an
+
+ke
+oleh
+an
+yang
+uang
+jika
+dan
+dapat
+2
+saya
+kamu
+untuk
+baik
+3
+(
+adalah
+bisa
+nya
+dan
+secara
+beberapa
+bermain
+judi
+namun
+juga
+lebih
+
+atau
+sebagai
+(
+dan
+bermain
+ini
+saya
+dari
+dalam
+itu
+pada
+di
+jika
+bisa
+sudah
+membuat
+hal
+a
+hal
+0
+menggunakan
+nya
+situs
+salah
+ini
+3
+cara
+lain
+2
+/
+.
+dari
+secara
+6
+jika
+judi
+2
+permainan
+,
+4
+satu
+permainan
+maka
+pada
+dari
+an
+saja
+ini
+t
+
+juga
+menjadi
+baik
+7
+s
+(
+harus
+anda
+adalah
+untuk
+itu
+nya
+seperti
+juga
+sebagai
+game
+pemain
+-
+saya
+:
+lain
+baik
+online
+.
+orang
+oleh
+
+
+kamu
+
+5
+mudah
+d
+9
+s
+karena
+anda
+namun
+:
+pada
+tersebut
+ini
+
+harus
+sudah
+telah
+harus
+ada
+akan
+sudah
+u
+satu
+bisa
+
+hanya
+seperti
+menggunakan
+orang
+anda
+lebih
+
+kami
+4
+online
+jika
+orang
+sangat
+ke
+yang
+8
+yang
+dan
+
+atau
+itu
+i
+dan
+"
+
+an
+d
+ini
+-
+dengan
+ini
+mendapatkan
+0
+yang
+dapat
+kamu
+satu
+
+.
+oleh
+t
+memiliki
+akan
+a
+e
+adalah
+juga
+
+.
+harus
+kita
+a
+oleh
+membuat
+7
+0
+sebagai
+an
+permainan
+hal
+baru
+d
+namun
+cara
+secara
+itu
+lebih
+karena
+tidak
+bahwa
+cara
+yang
+anda
+yang
+poker
+bermain
+ini
+namun
+3
+hal
+,
+dari
+saat
+di
+jika
+
+1
+untuk
+3
+nya
+
+kami
+hal
+u
+akan
+akan
+.
+permainan
+1
+saya
+baik
+dan
+di
+kan
+tersebut
+ini
+
+kita
+harus
+yang
+ada
+
+lain
+itu
+salah
+maka
+r
+,
+yang
+saat
+k
+cara
+dan
+atau
+
+melakukan
+s
+online
+sudah
+mereka
+judi
+sudah
+s
+orang
+ada
+p
+e
+ke
+memiliki
+0
+lebih
+judi
+ada
+oleh
+semua
+tidak
+juga
+bisa
+sebagai
+melakukan
+judi
+cara
+kan
+yang
+dapat
+cara
+
+situs
+situs
+game
+2
+(
+ini
+s
+k
+tidak
+4
+anda
+yang
+lebih
+kami
+/
+di
+9
+dan
+besar
+bisa
+,
+sangat
+saat
+hal
+sudah
+ini
+akan
+.
+2
+ingin
+3
+6
+
+mereka
+di
+juga
+yang
+telah
+anda
+8
+bahwa
+bisa
+kita
+"
+2
+,
+5
+dengan
+orang
+di
+bisnis
+beberapa
+menjadi
+kami
+saya
+nya
+bermain
+dalam
+judi
+8
+membuat
+
+yang
+juga
+9
+5
+yang
+
+an
+yang
+kami
+judi
+4
+situs
+untuk
+permainan
+5
+saya
+k
+orang
+hal
+adalah
+
+ini
+yang
+judi
+bisa
+karena
+5
+s
+,
+beberapa
+atau
+untuk
+saja
+oleh
+banyak
+slot
+-
+5
+poker
+baik
+kita
+4
+ke
+satu
+untuk
+,
+banyak
+di
+seperti
+kan
+bisa
+i
+waktu
+9
+/
+.
+hanya
+juga
+sangat
+
+i
+orang
+a
+sudah
+,
+permainan
+.
+karena
+s
+jika
+yang
+?
+hal
+i
+/
+banyak
+
+-
+lain
+akan
+6
+8
+satu
+t
+para
+kan
+sebagai
+
+"
+9
+i
+judi
+.
+anda
+lebih
+lebih
+secara
+dapat
+indonesia
+kamu
+kamu
+kamu
+kita
+kamu
+dengan
+
+besar
+salah
+2
+
+dengan
+indonesia
+k
+ini
+orang
+juga
+0
+harus
+o
+bisa
+u
+ini
+/
+-
+1
+
+.
+ke
+0
+akan
+itu
+harus
+dalam
+8
+adalah
+
+
+1
+an
+)
+di
+pada
+mereka
+karena
+harus
+itu
+dan
+sudah
+ini
+untuk
+karena
+sangat
+dengan
+permainan
+8
+pada
+situs
+dalam
+seperti
+.
+itu
+(
+0
+tahun
+.
+bermain
+tersebut
+satu
+ada
+dan
+4
+"
+uang
+sangat
+karena
+k
+banyak
+dari
+dengan
+salah
+e
+salah
+sebagai
+bahwa
+yang
+itu
+itu
+harus
+orang
+yang
+e
+s
+dari
+akan
+online
+dan
+online
+tidak
+atau
+yang
+dan
+maka
+k
+.
+nya
+ada
+bisa
+)
+bahwa
+)
+para
+memiliki
+-
+1
+2
+dapat
+maka
+juga
+indonesia
+adalah
+lain
+kamu
+pada
+-
+kita
+karena
+satu
+0
+kamu
+,
+i
+t
+anda
+
+sangat
+bisa
+anda
+beberapa
+yang
+banyak
+bisa
+jika
+saya
+ini
+2
+untuk
+harus
+oleh
+kita
+kan
+karena
+tidak
+juga
+di
+untuk
+memiliki
+jika
+,
+situs
+/
+dalam
+:
+k
+0
+menjadi
+memiliki
+(
+untuk
+hanya
+banyak
+memiliki
+s
+judi
+dari
+2
+kami
+juga
+1
+karena
+nya
+kamu
+hanya
+beberapa
+lebih
+/
+mereka
+?
+s
+lain
+bermain
+a
+anda
+judi
+an
+atau
+saja
+menggunakan
+-
+t
+membuat
+ini
+6
+ada
+bahwa
+saja
+situs
+ini
+ke
+u
+k
+tersebut
+situs
+online
+mereka
+di
+ada
+lebih
+harus
+sudah
+kan
+dan
+dan
+sangat
+/
+ada
+para
+dapat
+/
+/
+8
+maka
+6
+4
+(
+secara
+2
+5
+adalah
+-
+juga
+judi
+akan
+:
+para
+
+para
+ke
+s
+orang
+sangat
+bahwa
+banyak
+ini
+d
+
+ke
+0
+e
+itu
+lain
+6
+0
+i
+judi
+indonesia
+)
+.
+4
+i
+yang
+-
+online
+harga
+dapat
+satu
+membuat
+kan
+dari
+
+judi
+saya
+
+k
+maka
+karena
+orang
+kita
+an
+hal
+mereka
+akan
+,
+di
+dari
+itu
+saja
+7
+harus
+namun
+sudah
+tersebut
+.
+pada
+dapat
+tersebut
+.
+a
+
+–
+kamu
+banyak
+dengan
+"
+poker
+karena
+adalah
+1
+baik
+di
+"
+?
+1
+4
+salah
+5
+5
+menggunakan
+nya
+satu
+di
+
+(
+
+
+anda
+menjadi
+lebih
+3
+3
+4
+0
+k
+untuk
+8
+)
+.
+itu
+
+menjadi
+ada
+saat
+dan
+
+oleh
+?
+dalam
+saat
+7
+)
+3
+ada
+dengan
+1
+hal
+dan
+melakukan
+saat
+/
+karena
+dan
+sangat
+karena
+untuk
+bisa
+karena
+dengan
+nya
+tidak
+nya
+
+lain
+seperti
+kan
+dari
+3
+apa
+anda
+dalam
+kamu
+1
+besar
+5
+,
+0
+7
+kan
+dan
+
+seperti
+online
+lebih
+orang
+banyak
+pada
+secara
+
+)
+dari
+telah
+lebih
+
+t
+kamu
+secara
+6
+dapat
+sangat
+(
+tidak
+s
+e
+
+ini
+dalam
+(
+
+harus
+8
+indonesia
+sangat
+hal
+.
+ada
+dengan
+online
+
+dan
+uang
+dalam
+game
+
+oleh
+memiliki
+jika
+5
+(
+
+harus
+dalam
+untuk
+adalah
+:
+satu
+bahwa
+an
+online
+itu
+hal
+akan
+telah
+tersebut
+beberapa
+kita
+yang
+adalah
+yang
+t
+anda
+kan
+
+tidak
+/
+4
+hal
+0
+karena
+akan
+untuk
+satu
+i
+permainan
+pada
+kamu
+akan
+saya
+itu
+saat
+harus
+dari
+
+sebagai
+para
+jika
+k
+6
+(
+
+dengan
+bisa
+2
+karena
+sebagai
+kita
+itu
+/
+0
+baik
+telah
+harga
+akan
+)
+,
+i
+sebagai
+.
+poker
+sangat
+)
+:
+e
+9
+t
+tidak
+1
+:
+k
+itu
+
+0
+lebih
+)
+banyak
+anda
+tidak
+mereka
+yang
+memiliki
+
+apa
+tidak
+6
+ke
+baik
+dalam
+anda
+karena
+7
+permainan
+2
+tersebut
+beberapa
+p
+adalah
+0
+k
+.
+untuk
+
+lain
+dengan
+i
+untuk
+atau
+seperti
+situs
+saja
+maka
+satu
+untuk
+9
+sudah
+
+baik
+3
+i
+satu
+?
+hal
+sudah
+saat
+a
+menjadi
+sangat
+.
+juga
+saya
+bahwa
+hanya
+ada
+di
+tidak
+terbaik
+atau
+kita
+adalah
+sangat
+dengan
+membuat
+salah
+bisa
+oleh
+8
+seperti
+,
+d
+kita
+tersebut
+juga
+ini
+secara
+
+saya
+sangat
+.
+ini
+nya
+9
+tidak
+k
+yang
+
+seperti
+salah
+banyak
+uang
+4
+saya
+ke
+k
+8
+saya
+t

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5151308178901672,
+    "predict_rouge1": 0.4182,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.417,
+    "predict_rougeLsum": 0.4186,
+    "predict_runtime": 1660.6386,
+    "predict_samples": 3752,
+    "predict_samples_per_second": 2.259,
+    "predict_steps_per_second": 0.282
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 6.555985119973786e+16,
+    "train_loss": 0.37568705947944403,
+    "train_runtime": 9312.7957,
+    "train_samples": 14272,
+    "train_samples_per_second": 7.663,
+    "train_steps_per_second": 1.916
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 17840,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 3.6087698936462402,
+      "learning_rate": 4e-05,
+      "loss": 0.6296,
+      "step": 3568
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5221142172813416,
+      "eval_rouge1": 0.3678,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3666,
+      "eval_rougeLsum": 0.3673,
+      "eval_runtime": 336.4559,
+      "eval_samples_per_second": 2.229,
+      "eval_steps_per_second": 0.279,
+      "step": 3568
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 2.6926398277282715,
+      "learning_rate": 3e-05,
+      "loss": 0.4308,
+      "step": 7136
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.49270936846733093,
+      "eval_rouge1": 0.4034,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3999,
+      "eval_rougeLsum": 0.4032,
+      "eval_runtime": 331.5676,
+      "eval_samples_per_second": 2.262,
+      "eval_steps_per_second": 0.284,
+      "step": 7136
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 3.8685302734375,
+      "learning_rate": 2e-05,
+      "loss": 0.3347,
+      "step": 10704
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5028479099273682,
+      "eval_rouge1": 0.4081,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.407,
+      "eval_rougeLsum": 0.4083,
+      "eval_runtime": 334.0023,
+      "eval_samples_per_second": 2.245,
+      "eval_steps_per_second": 0.281,
+      "step": 10704
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 2.236206293106079,
+      "learning_rate": 1e-05,
+      "loss": 0.2655,
+      "step": 14272
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5220881700515747,
+      "eval_rouge1": 0.4264,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4239,
+      "eval_rougeLsum": 0.4268,
+      "eval_runtime": 328.7023,
+      "eval_samples_per_second": 2.282,
+      "eval_steps_per_second": 0.286,
+      "step": 14272
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 2.0813827514648438,
+      "learning_rate": 0.0,
+      "loss": 0.2179,
+      "step": 17840
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5374429821968079,
+      "eval_rouge1": 0.4096,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4081,
+      "eval_rougeLsum": 0.4102,
+      "eval_runtime": 330.0064,
+      "eval_samples_per_second": 2.273,
+      "eval_steps_per_second": 0.285,
+      "step": 17840
+    },
+    {
+      "epoch": 5.0,
+      "step": 17840,
+      "total_flos": 6.555985119973786e+16,
+      "train_loss": 0.37568705947944403,
+      "train_runtime": 9312.7957,
+      "train_samples_per_second": 7.663,
+      "train_steps_per_second": 1.916
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 17840,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 6.555985119973786e+16,
+  "train_batch_size": 4,
+  "trial_name": null,
+  "trial_params": null
+}