End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5587765574455261,
+    "eval_rouge1": 0.4494,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4489,
+    "eval_rougeLsum": 0.4499,
+    "eval_runtime": 112.3734,
+    "eval_samples": 747,
+    "eval_samples_per_second": 6.647,
+    "eval_steps_per_second": 0.214,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5849229097366333,
+    "predict_rouge1": 0.4152,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4125,
+    "predict_rougeLsum": 0.414,
+    "predict_runtime": 564.0427,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 6.668,
+    "predict_steps_per_second": 0.209,
+    "total_flos": 7.496541225879552e+16,
+    "train_loss": 0.914843011009319,
+    "train_runtime": 5163.073,
+    "train_samples": 14266,
+    "train_samples_per_second": 13.815,
+    "train_steps_per_second": 1.728
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.5587765574455261,
+    "eval_rouge1": 0.4494,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4489,
+    "eval_rougeLsum": 0.4499,
+    "eval_runtime": 112.3734,
+    "eval_samples": 747,
+    "eval_samples_per_second": 6.647,
+    "eval_steps_per_second": 0.214
+}

generated_predictions.txt

@@ -0,0 +1,3761 @@
+dan
+slot
+
+untuk
+tidak
+saya
+9
+"
+.
+
+untuk
+dapat
+lebih
+mudah
+atau
+adalah
+pada
+jika
+k
+
+1
+
+t
+ke
+yang
+dalam
+
+7
+memiliki
+dengan
+di
+kami
+,
+.
+saat
+situs
+u
+besar
+online
+itu
+
+di
+lain
+6
+8
+1
+u
+5
+tidak
+:
+.
+mereka
+hal
+
+akan
+lebih
+"
+seperti
+anda
+anda
+bisa
+lebih
+3
+kan
+satu
+apa
+dengan
+yang
+di
+-
+uang
+atau
+"
+:
+online
+jika
+namun
+maka
+untuk
+online
+7
+saja
+besar
+sangat
+akan
+untuk
+banyak
+orang
+:
+terbaik
+itu
+di
+dan
+dari
+atau
+dari
+0
+,
+hanya
+kan
+saja
+menjadi
+sebagai
+0
+satu
+besar
+membuat
+kita
+9
+oleh
+,
+pada
+dapat
+6
+kamu
+ini
+m
+dengan
+5
+.
+e
+8
+kan
+telah
+untuk
+9
+untuk
+2
+t
+:
+0
+dalam
+slot
+i
+adalah
+juga
+ke
+
+dari
+
+
+kita
+karena
+tidak
+para
+hal
+ada
+pada
+
+saat
+d
+bisa
+8
+/
+baik
+baik
+s
+dan
+
+satu
+
+anda
+
+dan
+yang
+menjadi
+
+yang
+bisa
+besar
+d
+dan
+online
+sebagai
+satu
+memiliki
+i
+
+sudah
+0
+bisnis
+yang
+harus
+pada
+
+dan
+saat
+
+saja
+itu
+
+oleh
+pada
+memiliki
+0
+6
+pada
+salah
+beberapa
+4
+pada
+ini
+-
+kamu
+
+2
+1
+ini
+orang
+dapat
+karena
+itu
+situs
+i
+2
+0
+lebih
+ke
+kamu
+dengan
+9
+salah
+
+.
+0
+2
+anda
+ini
+dengan
+saja
+
+itu
+d
+pada
+.
+beberapa
+game
+lebih
+
+d
+tahun
+
+
+oleh
+9
+atau
+permainan
+bisnis
+ada
+.
+sudah
+oleh
+untuk
+bahwa
+hanya
+satu
+5
+oleh
+sangat
+di
+
+kan
+online
+menggunakan
+atau
+anda
+kita
+cara
+hanya
+
+lebih
+saat
+anda
+tidak
+game
+s
+akan
+di
+u
+dan
+sebagai
+an
+2
+.
+bisa
+uang
+e
+0
+juga
+dalam
+5
+an
+
+saat
+saja
+ini
+/
+anda
+besar
+karena
+permainan
+jika
+?
+5
+mereka
+saat
+untuk
+:
+5
+dan
+an
+menjadi
+juga
+"
+
+ini
+bisa
+4
+?
+banyak
+slot
+8
+di
+dalam
+,
+bermain
+i
+di
+kami
+memiliki
+anda
+
+ke
+oleh
+,
+tersebut
+s
+tersebut
+online
+a
+pada
+8
+0
+situs
+i
+oleh
+
+permainan
+mereka
+itu
+di
+i
+dalam
+saja
+terbaik
+e
+satu
+banyak
+(
+hanya
+tidak
+baru
+saat
+-
+an
+mereka
+n
+
+
+
+yang
+mereka
+)
+karena
+-
+oleh
+
+u
+bisa
+d
+karena
+kita
+sudah
+secara
+.
+2
+di
+d
+a
+untuk
+hanya
+ke
+untuk
+cara
+yang
+untuk
+-
+
+)
+)
+
+satu
+i
+)
+pada
+2
+di
+saya
+memiliki
+
+maka
+atau
+saja
+pada
+ini
+pada
+oleh
+itu
+itu
+.
+jika
+kamu
+itu
+)
+
+menggunakan
+5
+baik
+"
+di
+membuat
+akan
+oleh
+anda
+
+dengan
+ke
+untuk
+"
+jika
+di
+s
+4
+yang
+baik
+t
+3
+6
+dari
+untuk
+nya
+nya
+/
+slot
+itu
+bisa
+i
+2
+kita
+tidak
+dalam
+banyak
+jika
+game
+yang
+t
+mereka
+1
+kamu
+hal
+2
+atau
+saat
+itu
+
+sebagai
+,
+s
+-
+
+
+memiliki
+4
+
+saya
+
+7
+kami
+?
+-
+o
+bahwa
+9
+ada
+m
+(
+itu
+saja
+indonesia
+ini
+ada
+nya
+yang
+untuk
+dalam
+mereka
+jika
+cara
+juga
+e
+nya
+lebih
+
+anda
+-
+saja
+kami
+seperti
+.
+bisa
+bisa
+2
+di
+melakukan
+dengan
+
+telah
+tidak
+
+an
+cara
+nya
+bisa
+poker
+bisa
+1
+1
+-
+memiliki
+s
+3
+i
+dari
+slot
+9
+
+3
+dapat
+bisa
+7
+banyak
+)
+3
+e
+i
+slot
+atau
+ini
+pada
+2
+online
+dan
+,
+.
+yang
+nya
+membuat
+dengan
+pada
+akan
+
+bahwa
+(
+ada
+anda
+di
+telah
+,
+poker
+untuk
+uang
+saat
+dapat
+anda
+itu
+dapat
+online
+kami
+0
+dari
+5
+seperti
+1
+juga
+
+tidak
+
+
+menjadi
+tahun
+itu
+?
+tersebut
+yang
+itu
+sudah
+banyak
+menjadi
+saat
+7
+dari
+di
+judi
+akan
+kan
+untuk
+"
+d
+a
+pemain
+dari
+salah
+juga
+akan
+)
+tidak
+banyak
+s
+dan
+0
+tersebut
+8
+lain
+karena
+adalah
+saya
+yang
+tidak
+dengan
+dalam
+semua
+cara
+itu
+
+dan
+sebagai
+dari
+e
+di
+beberapa
+,
+oleh
+online
+,
+"
+-
+menjadi
+9
+pemain
+baik
+sangat
+judi
+satu
+1
+
+pada
+)
+atau
+sangat
+an
+orang
+ini
+u
+namun
+ada
+an
+orang
+
+adalah
+jika
+satu
+
+seperti
+:
+menjadi
+
+dengan
+t
+tidak
+saya
+lain
+dapat
+/
+7
+dan
+
+banyak
+
+orang
+/
+di
+waktu
+kita
+situs
+secara
+bisa
+seperti
+nya
+cara
+(
+judi
+maka
+anda
+memiliki
+di
+
+mereka
+menjadi
+2
+dapat
+
+7
+nya
+tahun
+ini
+
+(
+maka
+secara
+situs
+akan
+sudah
+ini
+bagi
+lebih
+pada
+bisa
+apa
+sangat
+tidak
+1
+5
+ini
+itu
+menjadi
+.
+telah
+i
+kan
+ini
+:
+1
+dan
+kan
+karena
+juga
+yang
+jika
+dengan
+(
+9
+
+tersebut
+kan
+4
+untuk
+0
+karena
+banyak
+dengan
+telah
+beberapa
+/
+tahun
+8
+i
+di
+
+bahwa
+p
+sudah
+dan
+di
+juga
+
+7
+orang
+hal
+dari
+satu
+,
+tersebut
+.
+dalam
+"
+online
+ke
+pada
+8
+kamu
+
+9
+untuk
+itu
+dari
+dalam
+ini
+ini
+orang
+sebagai
+pada
+online
+situs
+0
+
+/
+tidak
+dari
+saja
+ada
+)
+akan
+di
+banyak
+cara
+anda
+6
+sudah
+orang
+:
+judi
+0
+:
+.
+saja
+oleh
+untuk
+lebih
+0
+
+harus
+adalah
+7
+mereka
+,
+0
+
+yang
+akan
+tidak
+beberapa
+dari
+namun
+1
+online
+dapat
+untuk
+nya
+e
+lebih
+
+bisa
+online
+harus
+kita
+besar
+itu
+an
+
+dan
+dengan
+cara
+sudah
+karena
+saja
+9
+
+(
+akan
+harus
+3
+secara
+
+dari
+
+s
+7
+kamu
+seperti
+untuk
+oleh
+nya
+4
+memiliki
+atau
+bisa
+1
+
+e
+i
+tidak
+judi
+kan
+anda
+
+0
+menjadi
+memiliki
+t
+ada
+dari
+memiliki
+,
+uang
+indonesia
+akan
+1
+ke
+hanya
+anda
+,
+saat
+saya
+juga
+tersebut
+memiliki
+cara
+0
+,
+saya
+
+itu
+mereka
+an
+(
+banyak
+
+0
+adalah
+para
+9
+pada
+dan
+akan
+(
+sangat
+dalam
+seperti
+tersebut
+2
+dalam
+ada
+
+oleh
+anda
+n
+hal
+uang
+kita
+judi
+e
+kami
+menjadi
+
+5
+dan
+membuat
+/
+sebagai
+0
+baik
+dan
+saat
+2
+)
+kan
+banyak
+"
+ke
+,
+banyak
+ada
+
+ke
+0
+banyak
+yang
+harus
+sebagai
+s
+banyak
+
+orang
+a
+baik
+kami
+menjadi
+dapat
+u
+(
+k
+/
+online
+dari
+kita
+game
+?
+adalah
+bisa
+e
+menjadi
+sangat
+tidak
+atau
+yang
+hanya
+4
+ini
+:
+-
+2
+akan
+judi
+ini
+tahun
+-
+jika
+dengan
+mereka
+t
+online
+dalam
+nya
+itu
+bermain
+/
+baik
+
+ada
+dari
+t
+akan
+menggunakan
+membuat
+u
+(
+itu
+3
+:
+pada
+-
+situs
+8
+baik
+tersebut
+anda
+di
+pada
+a
+bisa
+lebih
+yang
+1
+di
+dari
+1
+akan
+kita
+harus
+sangat
+-
+secara
+dapat
+s
+saya
+
+anda
+dalam
+dalam
+untuk
+dengan
+dan
+cara
+untuk
+satu
+tersebut
+lebih
+6
+hanya
+
+
+bisa
+untuk
+tersebut
+
+nya
+dalam
+?
+dan
+mereka
+pada
+-
+menjadi
+bermain
+u
+a
+kami
+
+menjadi
+adalah
+mendapatkan
+indonesia
+dapat
+ke
+bisa
+di
+8
+bahwa
+,
+lebih
+untuk
+
+satu
+
+ke
+lebih
+
+cara
+juga
+kita
+9
+sebagai
+t
+di
+dapat
+akan
+kami
+untuk
+permainan
+k
+bisa
+satu
+memiliki
+:
+bahwa
+a
+para
+memiliki
+cara
+dan
+8
+dengan
+,
+2
+
+-
+sebagai
+di
+an
+kamu
+
+
+mereka
+?
+online
+nya
+(
+cara
+.
+0
+jika
+jika
+akan
+ke
+1
+
+.
+ini
+bisa
+dan
+i
+dengan
+cara
+k
+indonesia
+-
+2
+9
+itu
+telah
+secara
+ingin
+sebagai
+dengan
+memiliki
+ada
+anda
+i
+ke
+1
+bisa
+uang
+
+menjadi
+dari
+semua
+lebih
+sangat
+kami
+d
+sudah
+s
+adalah
+dengan
+mereka
+dalam
+yang
+0
+
+lebih
+:
+lebih
+anda
+
+"
+dari
+dan
+)
+beberapa
+membuat
+dengan
+menjadi
+
+5
+dan
+tidak
+saat
+(
+i
+anda
+.
+karena
+banyak
+(
+
+i
+lain
+game
+4
+7
+
+untuk
+dapat
+tidak
+membuat
+itu
+.
+pada
+bisa
+orang
+"
+pada
+s
+dari
+anda
+ke
+9
+jika
+1
+oleh
+sebagai
+pada
+salah
+menjadi
+baik
+sangat
+1
+bagi
+itu
+lebih
+indonesia
+hanya
+juga
+untuk
+-
+judi
+juga
+,
+apa
+online
+s
+ini
+bahwa
+yang
+itu
+anda
+dengan
+1
+beberapa
+beberapa
+d
+menjadi
+itu
+di
+.
+)
+kita
+kami
+untuk
+u
+tidak
+adalah
+sebagai
+yang
+lebih
+anda
+sangat
+kami
+poker
+s
+i
+slot
+uang
+melakukan
+ini
+situs
+para
+.
+baik
+sangat
+9
+beberapa
+saya
+
+2
+mereka
+dan
+1
+tidak
+bagi
+menggunakan
+
+anda
+dalam
+ada
+.
+menggunakan
+dengan
+juga
+bisa
+untuk
+salah
+m
+.
+a
+9
+e
+maka
+)
+kita
+e
+2
+bisnis
+
+sangat
+9
+dapat
+tersebut
+k
+yang
+cara
+
+
+
+
+tersebut
+?
+juga
+saat
+yang
+
+-
+.
+(
+mereka
+
+a
+dapat
+8
+dan
+akan
+?
+jadi
+banyak
+atau
+satu
+an
+
+kan
+u
+sangat
+dari
+permainan
+k
+hal
+oleh
+besar
+dengan
+cara
+jika
+6
+
+)
+ke
+n
+judi
+yang
+lebih
+satu
+jika
+harus
+dari
+dengan
+satu
+dengan
+di
+-
+itu
+tersebut
+kamu
+hanya
+namun
+dapat
+yang
+akan
+online
+memiliki
+untuk
+dengan
+i
+s
+"
+apa
+permainan
+sangat
+secara
+dari
+
+8
+adalah
+banyak
+bisa
+kamu
+mereka
+untuk
+t
+ada
+yang
+akan
+e
+nya
+sebagai
+di
+melakukan
+m
+:
+dapat
+i
+satu
+harus
+k
+anda
+atau
+5
+oleh
+-
+tersebut
+kami
+akan
+
+bisa
+
+ada
+karena
+lebih
+atau
+a
+dalam
+dalam
+tidak
+ada
+)
+baik
+/
+baik
+bisa
+harus
+2
+sangat
+an
+a
+seperti
+,
+di
+jika
+online
+t
+–
+hanya
+:
+di
+jika
+,
+akan
+ini
+?
+ada
+
+3
+tersebut
+dan
+anda
+permainan
+dengan
+dapat
+beberapa
+jika
+9
+:
+yang
+bermain
+mereka
+yang
+memiliki
+yang
+5
+t
+dan
+
+banyak
+perlu
+:
+beberapa
+untuk
+an
+memiliki
+indonesia
+membuat
+ke
+dalam
+slot
+mereka
+adalah
+pada
+-
+mereka
+/
+r
+juga
+hal
+dalam
+hanya
+sudah
+situs
+ke
+judi
+,
+o
+situs
+telah
+ini
+itu
+u
+menjadi
+4
+,
+kamu
+
+
+juga
+sangat
+slot
+5
+menggunakan
+atau
+bahwa
+.
+:
+memiliki
+dengan
+8
+.
+untuk
+k
+untuk
+atau
+online
+tidak
+oleh
+mereka
+bisa
+tidak
+/
+/
+banyak
+
+memiliki
+4
+sebagai
+
+nya
+dari
+/
+yang
+
+menjadi
+akan
+
+1
+dengan
+juga
+mereka
+baru
+adalah
+9
+maka
+
+bisa
+dan
+akan
+lebih
+8
+e
+
+sudah
+)
+:
+dan
+o
+0
+harga
+satu
+sangat
+,
+permainan
+0
+anda
+an
+kamu
+membuat
+menggunakan
+tahun
+sudah
+kami
+oleh
+dapat
+beberapa
+tidak
+kami
+orang
+banyak
+harus
+7
+
+.
+an
+dari
+memiliki
+1
+itu
+
+.
+7
+dari
+dalam
+anda
+orang
+untuk
+beberapa
+secara
+:
+-
+9
+9
+lebih
+8
+.
+ada
+mereka
+dengan
+indonesia
+anda
+oleh
+bagi
+bagi
+tidak
+saya
+:
+
+0
+di
+dan
+membuat
+2
+2
+uang
+u
+hanya
+ada
+1
+saya
+6
+bahwa
+k
+permainan
+
+permainan
+bisa
+0
+sebagai
+itu
+mendapatkan
+0
+8
+adalah
+melakukan
+
+
+kami
+
+maka
+poker
+lain
+cara
+m
+lain
+pada
+oleh
+karena
+tersebut
+?
+,
+.
+ini
+-
+0
+ke
+lebih
+atau
+,
+menjadi
+1
+0
+,
+menjadi
+)
+beberapa
+adalah
+0
+atau
+
+9
+saya
+permainan
+0
+memiliki
+anda
+orang
+oleh
+
+di
+besar
+.
+sudah
+
+0
+2
+mereka
+maka
+juga
+situs
+akan
+karena
+apa
+.
+situs
+bahwa
+oleh
+online
+bagi
+.
+hanya
+yang
+pada
+di
+memiliki
+
+judi
+4
+dengan
+sangat
+
+)
+memiliki
+jika
+kami
+beberapa
+yang
+bisa
+sudah
+tidak
+juga
+(
+(
+e
+judi
+permainan
+mungkin
+salah
+)
+saat
+banyak
+bisa
+banyak
+yang
+d
+.
+-
+6
+.
+jika
+4
+1
+kami
+atau
+bisa
+judi
+tidak
+kamu
+dan
+satu
+telah
+1
+oleh
+itu
+bermain
+adalah
+harus
+
+1
+
+baik
+anda
+1
+tersebut
+s
+adalah
+t
+5
+(
+.
+
+(
+di
+0
+,
+juga
+.
+an
+itu
+jika
+beberapa
+di
+banyak
+dapat
+satu
+mereka
+oleh
+
+
+a
+kan
+(
+
+tersebut
+untuk
+,
+
+banyak
+permainan
+i
+harus
+s
+dalam
+harus
+membuat
+(
+tahun
+ke
+pada
+
+,
+itu
+sebagai
+judi
+dapat
+menggunakan
+-
+harus
+karena
+menjadi
+ke
+memiliki
+oleh
+pada
+bisa
+6
+a
+untuk
+dalam
+itu
+"
+nya
+dengan
+pada
+?
+baik
+bisnis
+lain
+dari
+
+dalam
+
+jika
+
+dan
+anda
+bisnis
+dengan
+bahwa
+karena
+9
+:
+3
+2
+dalam
+di
+saat
+a
+itu
+o
+
+adalah
+
+hal
+u
+,
+3
+juga
+kita
+2
+bermain
+t
+bermain
+
+,
+9
+online
+online
+satu
+maka
+.
+4
+harus
+tidak
+bisa
+i
+karena
+online
+satu
+dengan
+jadi
+
+bermain
+tidak
+2
+nya
+beberapa
+ke
+9
+an
+dapat
+itu
+sangat
+online
+kami
+dengan
+
+satu
+,
+ada
+kan
+hal
+i
+jika
+anda
+lebih
+yang
+saya
+membuat
+.
+dalam
+akan
+harus
+2
+9
+.
+e
+mereka
+membuat
+dengan
+
+permainan
+harus
+mudah
+-
+bahwa
+membuat
+kan
+6
+dari
+:
+7
+di
+
+r
+2
+kan
+ini
+
+karena
+
+lain
+harus
+mereka
+poker
+namun
+anda
+telah
+
+"
+maka
+2
+dapat
+sudah
+,
+anda
+-
+karena
+2
+s
+0
+1
+karena
+4
+seperti
+ke
+beberapa
+s
+maka
+lebih
+harus
+
+,
+beberapa
+-
+an
+seperti
+sudah
+m
+an
+yang
+itu
+3
+bisa
+untuk
+
+beberapa
+dapat
+untuk
+bisa
+ke
+itu
+akan
+karena
+
+dengan
+di
+online
+ini
+permainan
+"
+permainan
+dapat
+dalam
+
+baik
+nya
+menjadi
+banyak
+5
+game
+n
+bahwa
+harus
+tidak
+2
+membuat
+tahun
+di
+lain
+membuat
+/
+memiliki
+.
+bagi
+online
+i
+kami
+oleh
+yang
+1
+
+di
+kan
+banyak
+banyak
+anda
+
+pemain
+)
+dari
+"
+ada
+,
+namun
+lain
+situs
+sebagai
+4
+dapat
+.
+ke
+i
+kamu
+atau
+i
+a
+untuk
+dengan
+baru
+1
+beberapa
+mudah
+banyak
+0
+tidak
+i
+
+2
+9
+bahwa
+9
+tidak
+sangat
+ada
+dalam
+untuk
+pemain
+hal
+menjadi
+satu
+yang
+anda
+2
+saja
+,
+)
+uang
+sudah
+e
+itu
+jika
+besar
+permainan
+beberapa
+yang
+,
+saja
+kami
+sudah
+untuk
+bisa
+2
+hal
+dengan
+dalam
+judi
+itu
+mereka
+
+yang
+nya
+bisa
+saja
+s
+beberapa
+(
+.
+anda
+untuk
+jika
+t
+seperti
+uang
+seperti
+anda
+memiliki
+e
+,
+apa
+juga
+bisa
+dalam
+membuat
+.
+0
+para
+0
+3
+anda
+karena
+lebih
+1
+
+k
+kan
+,
+dengan
+slot
+para
+an
+saya
+sudah
+dari
+karena
+anda
+
+besar
+5
+ke
+u
+yang
+akan
+dan
+bisa
+
+beberapa
+bagi
+3
+uang
+tidak
+an
+atau
+nya
+menjadi
+ada
+indonesia
+membuat
+dan
+menjadi
+8
+adalah
+pada
+
+seperti
+
+,
+orang
+9
+a
+1
+:
+o
+adalah
+adalah
+waktu
+salah
+dapat
+saya
+online
+akan
+harus
+di
+1
+:
+e
+
+e
+9
+satu
+ini
+bisa
+(
+s
+dalam
+ada
+lain
+beberapa
+ingin
+
+s
+online
+banyak
+2
+ke
+
+seperti
+untuk
+t
+adalah
+"
+satu
+cara
+di
+anda
+memiliki
+maka
+dan
+"
+kami
+,
+kan
+kita
+untuk
+u
+:
+memiliki
+ada
+untuk
+)
+sudah
+sangat
+
+karena
+online
+oleh
+permainan
+karena
+bisa
+nya
+memiliki
+mereka
+di
+yang
+online
+8
+7
+
+-
+semua
+i
+jika
+anda
+dan
+an
+atau
+
+d
+0
+yang
+0
+
+
+
+8
+karena
+d
+sudah
+juga
+untuk
+dan
+adalah
+dengan
+untuk
+dengan
+kita
+jika
+3
+untuk
+memiliki
+dalam
+apa
+itu
+s
+menjadi
+5
+sebagai
+atau
+6
+ini
+9
+akan
+d
+situs
+adalah
+dalam
+)
+/
+dan
+lebih
+maka
+0
+dan
+e
+permainan
+3
+,
+bisa
+?
+online
+banyak
+game
+i
+lebih
+2
+
+-
+yang
+"
+jadi
+pemain
+banyak
+oleh
+mereka
+cara
+)
+uang
+kami
+-
+dengan
+yang
+u
+yang
+sudah
+adalah
+s
+judi
+baik
+an
+situs
+
+juga
+anda
+kamu
+.
+itu
+oleh
+
+i
+ke
+/
+ini
+a
+2
+ini
+karena
+(
+
+
+harus
+yang
+e
+akan
+ini
+satu
+anda
+jika
+slot
+,
+online
+di
+adalah
+atau
+satu
+hal
+saya
+yang
+:
+4
+4
+pada
+hal
+ada
+8
+?
+0
+dengan
+d
+kita
+sudah
+situs
+untuk
+menjadi
+mereka
+karena
+
+itu
+kami
+dan
+tidak
+?
+i
+ada
+tidak
+,
+
+1
+uang
+
+2
+e
+dalam
+)
+itu
+dari
+
+p
+4
+
+dengan
+k
+:
+harus
+/
+saja
+untuk
+uang
+online
+dalam
+?
+harus
+saat
+s
+adalah
+nya
+kan
+
+tersebut
+nya
+waktu
+mereka
+yang
+an
+ada
+i
+
+dengan
+)
+saat
+yang
+,
+t
+tahun
+namun
+
+karena
+untuk
+tidak
+.
+online
+4
+ke
+dengan
+?
+e
+di
+
+itu
+banyak
+dapat
+pada
+dari
+nya
+dapat
+maka
+
+5
+:
+e
+saja
+-
+i
+tersebut
+pemain
+satu
+lebih
+kita
+
+beberapa
+e
+untuk
+bisa
+oleh
+karena
+harus
+.
+?
+uang
+memiliki
+(
+
+kami
+itu
+menjadi
+itu
+juga
+oleh
+e
+0
+nya
+yang
+9
+an
+cara
+yang
+dapat
+yang
+"
+dengan
+5
+tersebut
+atau
+adalah
+baik
+ada
+dapat
+hanya
+sudah
+:
+sangat
+tidak
+dengan
+yang
+saya
+situs
+0
+-
+kamu
+bisa
+beberapa
+.
+yang
+
+u
+
+:
+sebagai
+2
+harus
+0
+kami
+kamu
+anda
+cara
+9
+permainan
+lebih
+juga
+di
+seperti
+(
+menggunakan
+/
+sangat
+di
+an
+i
+2
+,
+
+atau
+indonesia
+sangat
+untuk
+atau
+a
+semua
+situs
+lebih
+
+namun
+
+jika
+adalah
+9
+yang
+anda
+saya
+0
+bisnis
+ini
+di
+9
+pada
+1
+oleh
+.
+,
+)
+memiliki
+5
+
+:
+hal
+o
+2
+2
+di
+adalah
+situs
+5
+akan
+di
+mereka
+ini
+menggunakan
+dari
+permainan
+i
+a
+
+yang
+lebih
+8
+ini
+akan
+salah
+online
+online
+tersebut
+yang
+-
+ke
+dalam
+orang
+ke
+ini
+5
+dan
+bisa
+dalam
+lebih
+anda
+4
+
+orang
+akan
+-
+dapat
+sebagai
+anda
+2
+anda
+atau
+oleh
+u
+dan
+itu
+tersebut
+melakukan
+tidak
+dan
+s
+8
+indonesia
+saya
+oleh
+s
+online
+9
+3
+hal
+adalah
+0
+bisa
+harus
+tersebut
+ini
+)
+.
+nya
+poker
+bahwa
+7
+sangat
+yang
+cara
+i
+hanya
+satu
+saat
+i
+satu
+kita
+dan
+untuk
+ini
+kamu
+dapat
+e
+akan
+,
+anda
+di
+juga
+dalam
+beberapa
+0
+untuk
+ada
+jika
+/
+0
+(
+tersebut
+-
+.
+anda
+dengan
+online
+ini
+adalah
+
+tersebut
+ini
+7
+kami
+apa
+2
+ada
+bisa
+,
+saja
+dan
+anda
+cara
+kita
+kamu
+untuk
+adalah
+,
+sebagai
+
+untuk
+situs
+s
+anda
+tidak
+pada
+dengan
+oleh
+banyak
+)
+8
+memiliki
+dalam
+
+untuk
+oleh
+sebagai
+
+sudah
+indonesia
+ada
+dengan
+permainan
+tersebut
+dalam
+bisa
+saja
+itu
+akan
+saja
+?
+jika
+kan
+0
+3
+memiliki
+akan
+itu
+sangat
+0
+pada
+kamu
+mereka
+sudah
+pada
+untuk
+1
+harus
+
+secara
+
+
+sebagai
+bahwa
+s
+melakukan
+dapat
+sudah
+yang
+sudah
+dalam
+ke
+adalah
+2
+tidak
+ini
+itu
+?
+2
+adalah
+hal
+untuk
+0
+t
+satu
+memiliki
+pada
+yang
+dan
+
+saja
+situs
+banyak
+seperti
+saat
+akan
+oleh
+tidak
+juga
+kami
+besar
+yang
+nya
+karena
+5
+uang
+dengan
+t
+,
+lain
+dalam
+dan
+akan
+saya
+2
+ini
+,
+apa
+mereka
+untuk
+k
+itu
+apa
+dan
+mendapatkan
+ini
+3
+di
+-
+menjadi
+kan
+cara
+ke
+telah
+s
+situs
+saat
+4
+bisnis
+secara
+maka
+namun
+nya
+,
+uang
+sebagai
+dengan
+menjadi
+/
+t
+harus
+.
+dengan
+seperti
+
+di
+lebih
+karena
+pada
+saat
+
+sangat
+:
+9
+s
+jika
+(
+hal
+akan
+sangat
+lebih
+
+bisa
+nya
+memiliki
+membuat
+pada
+adalah
+salah
+maka
+banyak
+)
+itu
+0
+maka
+online
+situs
+kami
+5
+menjadi
+online
+orang
+.
+/
+?
+/
+0
+anda
+adalah
+
+beberapa
+online
+
+ini
+.
+pada
+jadi
+9
+yang
+
+yang
+secara
+karena
+dari
+e
+lebih
+)
+tidak
+dari
+orang
+3
+seperti
+0
+nya
+kamu
+6
+8
+sangat
+mendapatkan
+kamu
+ada
+di
+permainan
+:
+:
+dengan
+dan
+5
+orang
+baik
+anda
+2
+.
+seperti
+akan
+kita
+
+cara
+bermain
+kita
+seperti
+
+.
+tentang
+3
+)
+dan
+,
+0
+tidak
+dalam
+sebagai
+situs
+dari
+situs
+-
+k
+semua
+dengan
+saja
+online
+oleh
+dengan
+
+
+poker
+dari
+juga
+nya
+karena
+saya
+adalah
+situs
+saja
+slot
+sudah
+dengan
+secara
+mendapatkan
+dengan
+,
+karena
+tidak
+adalah
+lebih
+i
+s
+ke
+hal
+kita
+ke
+baik
+ke
+beberapa
+salah
+
+,
+
+"
+1
+secara
+lebih
+?
+judi
+menjadi
+judi
+pada
+mereka
+situs
+pada
+ke
+/
+9
+u
+di
+"
+memiliki
+hanya
+anda
+untuk
+orang
+
+"
+yang
+
+
+lain
+anda
+
+satu
+ini
+secara
+karena
+kamu
+harus
+
+besar
+semua
+i
+karena
+seperti
+-
+dengan
+
+bisa
+saja
+bahwa
+2
+di
+e
+sudah
+dari
+8
+online
+/
+karena
+?
+hal
+3
+seperti
+itu
+kamu
+membuat
+:
+(
+,
+0
+adalah
+dari
+atau
+cara
+/
+hal
+ini
+hal
+.
+satu
+
+?
+dan
+indonesia
+hanya
+8
+sebagai
+seperti
+atau
+para
+untuk
+bahwa
+ada
+sebagai
+untuk
+.
+saya
+cara
+ke
+,
+besar
+yang
+s
+5
+
+yang
+yang
+lebih
+baik
+bisa
+tidak
+?
+indonesia
+juga
+(
+saat
+,
+secara
+tidak
+secara
+besar
+anda
+mereka
+online
+,
+
+e
+3
+salah
+situs
+kita
+e
+online
+yang
+di
+5
+s
+tidak
+1
+kami
+adalah
+9
+mereka
+pada
+hal
+0
+adalah
+kan
+karena
+kamu
+atau
+8
+saat
+d
+pada
+saya
+oleh
+tahun
+"
+
+k
+hal
+dan
+judi
+bagi
+salah
+bagi
+4
+online
+n
+jika
+,
+tidak
+menjadi
+dalam
+jika
+oleh
+nya
+membuat
+sebagai
+di
+menjadi
+"
+kami
+beberapa
+
+s
+ini
+s
+jika
+3
+pada
+kami
+ke
+karena
+ke
+3
+"
+dan
+nya
+2
+1
+banyak
+k
+
+harus
+saja
+4
+3
+dalam
+tidak
+anda
+e
+i
+ini
+4
+menggunakan
+namun
+nya
+harus
+untuk
+i
+dengan
+
+dapat
+tidak
+d
+harga
+sudah
+akan
+seperti
+orang
+bahwa
+juga
+satu
+
+kami
+:
+s
+saya
+an
+ini
+untuk
+kita
+namun
+dan
+lebih
+2
+2
+dari
+nya
+an
+dan
+dapat
+2
+s
+dapat
+dalam
+itu
+di
+sangat
+harus
+di
+akan
+beberapa
+kamu
+sebagai
+yang
+
+sebagai
+s
+/
+adalah
+kita
+
+yang
+s
+lebih
+
+tersebut
+situs
+/
+s
+sangat
+anda
+0
+nya
+bahwa
+tidak
+/
+saja
+.
+9
+judi
+di
+3
+seperti
+seperti
+karena
+t
+pada
+e
+secara
+?
+8
+
+,
+kita
+ini
+
+ke
+mereka
+baik
+6
+
+dengan
+online
+akan
+
+
+5
+situs
+hanya
+oleh
+online
+ada
+bahwa
+
+dari
+hal
+dengan
+itu
+
+memiliki
+dengan
+e
+kita
+sangat
+i
+4
+tersebut
+seperti
+situs
+1
+bisa
+dan
+
+saja
+3
+ke
+saat
+
+)
+7
+lain
+u
+akan
+di
+seperti
+saat
+akan
+kami
+harus
+nya
+kita
+juga
+,
+tersebut
+
+hal
+juga
+(
+dengan
+dari
+cara
+anda
+lebih
+sebagai
+satu
+
+sangat
+7
+dalam
+i
+saat
+jadi
+bisa
+
+namun
+)
+sangat
+saja
+ini
+4
+s
+jika
+harus
+0
+di
+8
+"
+2
+ini
+menjadi
+ini
+banyak
+anda
+n
+indonesia
+ini
+ada
+untuk
+online
+di
+karena
+sudah
+satu
+k
+oleh
+baik
+indonesia
+bermain
+online
+poker
+sebagai
+bisa
+saya
+online
+8
+kita
+pada
+oleh
+dengan
+memiliki
+(
+ini
+.
+s
+dari
+ini
+di
+di
+sangat
+harus
+kan
+7
+harus
+0
+adalah
+,
+bahwa
+nya
+seperti
+an
+judi
+orang
+sebagai
+a
+bisa
+di
+memiliki
+dan
+kamu
+2
+memiliki
+saja
+beberapa
+orang
+hanya
+:
+3
+judi
+menjadi
+untuk
+game
+pemain
+ada
+.
+itu
+oleh
+ini
+situs
+uang
+:
+dan
+dan
+dalam
+saja
+0
+dengan
+dalam
+poker
+)
+2
+/
+orang
+
+"
+dari
+anda
+)
+9
+online
+satu
+a
+yang
+.
+-
+orang
+atau
+yang
+bermain
+mereka
+d
+-
+sudah
+"
+t
+indonesia
+itu
+hanya
+banyak
+0
+adalah
+lebih
+8
+2
+juga
+baik
+lebih
+itu
+kami
+dengan
+dan
+karena
+
+orang
+7
+hal
+saja
+tersebut
+)
+saya
+lebih
+bahwa
+bisnis
+satu
+menggunakan
+5
+bahwa
+harus
+0
+para
+beberapa
+baik
+ada
+hanya
+
+e
+baik
+akan
+5
+membuat
+slot
+akan
+menjadi
+pada
+/
+ini
+dan
+.
+tidak
+online
+jika
+situs
+dari
+yang
+:
+kami
+9
+orang
+jika
+akan
+telah
+dengan
+juga
+indonesia
+u
+dari
+a
+besar
+beberapa
+,
+:
+mereka
+game
+m
+kamu
+6
+dari

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.5849229097366333,
+    "predict_rouge1": 0.4152,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.4125,
+    "predict_rougeLsum": 0.414,
+    "predict_runtime": 564.0427,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 6.668,
+    "predict_steps_per_second": 0.209
+}

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 7.496541225879552e+16,
+    "train_loss": 0.914843011009319,
+    "train_runtime": 5163.073,
+    "train_samples": 14266,
+    "train_samples_per_second": 13.815,
+    "train_steps_per_second": 1.728
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 8920,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 2.7599432468414307,
+      "learning_rate": 4e-05,
+      "loss": 1.3987,
+      "step": 1784
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.6450759768486023,
+      "eval_rouge1": 0.4474,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4495,
+      "eval_rougeLsum": 0.4472,
+      "eval_runtime": 113.2438,
+      "eval_samples_per_second": 6.596,
+      "eval_steps_per_second": 0.212,
+      "step": 1784
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 3.751906633377075,
+      "learning_rate": 3e-05,
+      "loss": 0.8591,
+      "step": 3568
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5833613276481628,
+      "eval_rouge1": 0.4222,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4206,
+      "eval_rougeLsum": 0.4228,
+      "eval_runtime": 112.1253,
+      "eval_samples_per_second": 6.662,
+      "eval_steps_per_second": 0.214,
+      "step": 3568
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 1.9588125944137573,
+      "learning_rate": 2e-05,
+      "loss": 0.7949,
+      "step": 5352
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5684486031532288,
+      "eval_rouge1": 0.4462,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4449,
+      "eval_rougeLsum": 0.4456,
+      "eval_runtime": 111.7592,
+      "eval_samples_per_second": 6.684,
+      "eval_steps_per_second": 0.215,
+      "step": 5352
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 2.155653238296509,
+      "learning_rate": 1e-05,
+      "loss": 0.7674,
+      "step": 7136
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5638545751571655,
+      "eval_rouge1": 0.4564,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4538,
+      "eval_rougeLsum": 0.4545,
+      "eval_runtime": 113.3026,
+      "eval_samples_per_second": 6.593,
+      "eval_steps_per_second": 0.212,
+      "step": 7136
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 2.0103201866149902,
+      "learning_rate": 0.0,
+      "loss": 0.7542,
+      "step": 8920
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5587765574455261,
+      "eval_rouge1": 0.4494,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.4489,
+      "eval_rougeLsum": 0.4499,
+      "eval_runtime": 112.3597,
+      "eval_samples_per_second": 6.648,
+      "eval_steps_per_second": 0.214,
+      "step": 8920
+    },
+    {
+      "epoch": 5.0,
+      "step": 8920,
+      "total_flos": 7.496541225879552e+16,
+      "train_loss": 0.914843011009319,
+      "train_runtime": 5163.073,
+      "train_samples_per_second": 13.815,
+      "train_steps_per_second": 1.728
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 8920,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 7.496541225879552e+16,
+  "train_batch_size": 8,
+  "trial_name": null,
+  "trial_params": null
+}