End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.4653
-- Rouge1: 0.7309
+- Rouge1: 0.3992
 - Rouge2: 0.0
-- Rougel: 0.7284
-- Rougelsum: 0.7264
+- Rougel: 0.4016
+- Rougelsum: 0.4001
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4652620851993561,
+    "eval_rouge1": 0.3992,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4016,
+    "eval_rougeLsum": 0.4001,
+    "eval_runtime": 555.6276,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.344,
+    "eval_steps_per_second": 0.043,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.4860442280769348,
+    "predict_rouge1": 0.3886,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3872,
+    "predict_rougeLsum": 0.3871,
+    "predict_runtime": 3268.5892,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 1.151,
+    "predict_steps_per_second": 0.036,
+    "total_flos": 4.92357702057984e+16,
+    "train_loss": 0.5918008025986197,
+    "train_runtime": 3747.1994,
+    "train_samples": 14266,
+    "train_samples_per_second": 19.036,
+    "train_steps_per_second": 1.19
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.4652620851993561,
+    "eval_rouge1": 0.3992,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.4016,
+    "eval_rougeLsum": 0.4001,
+    "eval_runtime": 555.6276,
+    "eval_samples": 747,
+    "eval_samples_per_second": 1.344,
+    "eval_steps_per_second": 0.043
+}

generated_predictions.txt

@@ -0,0 +1,3761 @@
+banyak
+di
+
+untuk
+tidak
+tersebut
+9
+"
+saat
+
+d
+dapat
+lebih
+1
+atau
+adalah
+pada
+d
+k
+
+2
+,
+hanya
+ke
+yang
+dalam
+
+7
+bisa
+dengan
+di
+kami
+dengan
+.
+judi
+situs
+0
+besar
+
+itu
+
+di
+menggunakan
+bahwa
+8
+1
+"
+5
+tidak
+:
+.
+semua
+e
+-
+akan
+lebih
+sebagai
+seperti
+anda
+anda
+an
+atau
+3
+sudah
+satu
+apa
+dengan
+yang
+di
+-
+t
+atau
+saya
+membuat
+online
+jika
+0
+maka
+untuk
+online
+8
+membuat
+menggunakan
+/
+adalah
+untuk
+banyak
+orang
+memiliki
+tahun
+mungkin
+di
+dan
+dari
+atau
+dari
+dia
+8
+an
+u
+situs
+secara
+5
+0
+sebagai
+besar
+banyak
+(
+9
+situs
+,
+bisa
+dapat
+saja
+mendapatkan
+ini
+lain
+8
+k
+jika
+e
+8
+kan
+game
+untuk
+9
+untuk
+2
+t
+:
+0
+dalam
+slot
+i
+adalah
+membuat
+beberapa
+
+dari
+"
+
+kita
+5
+anda
+para
+bisa
+ada
+pada
+
+saat
+1
+
+8
+bahwa
+indonesia
+lain
+s
+dan
+
+,
+
+anda
+
+dan
+yang
+menjadi
+oleh
+yang
+bisa
+besar
+4
+an
+perlu
+sebagai
+satu
+memiliki
+i
+?
+secara
+1
+bisnis
+yang
+masih
+adalah
+
+
+k
+
+saja
+itu
+
+oleh
+tidak
+saat
+0
+mereka
+pada
+baik
+sebagai
+karena
+pada
+ini
+-
+game
+
+atau
+1
+ini
+orang
+lain
+karena
+itu
+t
+i
+bahwa
+6
+lebih
+mereka
+1
+dengan
+sebagai
+salah
+
+.
+1
+2
+anda
+ini
+dengan
+saja
+
+itu
+d
+salah
+.
+ini
+game
+orang
+,
+d
+tahun
+
+
+indonesia
+"
+para
+permainan
+perlu
+ada
+.
+sudah
+.
+untuk
+bahwa
+kita
+besar
+5
+bahwa
+sangat
+"
+
+kan
+online
+menggunakan
+tidak
+anda
+3
+agar
+
+
+lebih
+saat
+anda
+tidak
+melakukan
+8
+juga
+di
+saja
+sehingga
+sebagai
+an
+2
+.
+bisa
+salah
+e
+0
+juga
+adalah
+5
+satu
+
+saat
+bermain
+namun
+/
+anda
+saat
+karena
+permainan
+juga
+hanya
+5
+mereka
+pada
+untuk
+:
+ke
+dan
+an
+menjadi
+juga
+"
+
+ini
+bisa
+/
+juga
+banyak
+8
+8
+di
+melakukan
+,
+besar
+i
+di
+kami
+sudah
+anda
+judi
+ini
+yang
+,
+saya
+s
+tersebut
+online
+a
+n
+8
+0
+e
+i
+oleh
+
+9
+mereka
+itu
+besar
+i
+dalam
+saja
+/
+e
+3
+banyak
+?
+hanya
+tidak
+
+saat
+-
+(
+jika
+ke
+hanya
+mereka
+
+yang
+online
+)
+situs
+u
+jika
+
+bisnis
+bisa
+lain
+karena
+memiliki
+sudah
+a
+.
+2
+di
+mereka
+?
+untuk
+u
+ke
+
+cara
+yang
+untuk
+-
+lain
+)
+saya
+
+satu
+beberapa
+perlu
+pada
+2
+di
+saya
+saya
+
+nya
+atau
+beberapa
+pada
+ini
+e
+oleh
+itu
+itu
+.
+jika
+kamu
+itu
+)
+
+menggunakan
+judi
+besar
+an
+?
+membuat
+menjadi
+sangat
+anda
+
+dengan
+ke
+tidak
+"
+7
+nya
+s
+)
+yang
+t
+kami
+kami
+lebih
+dan
+a
+-
+nya
+tersebut
+1
+itu
+"
+sangat
+2
+kita
+:
+dalam
+)
+jika
+r
+yang
+besar
+mereka
+uang
+kamu
+oleh
+2
+atau
+saat
+itu
+
+baik
+,
+,
+-
+)
+
+memiliki
+hal
+
+saya
+mereka
+sangat
+kami
+sudah
+-
+hal
+permainan
+9
+dapat
+m
+(
+itu
+tersebut
+indonesia
+ini
+ada
+an
+yang
+untuk
+s
+namun
+jika
+cara
+tersebut
+e
+nya
+lebih
+tahun
+dia
+-
+saja
+hanya
+seperti
+.
+atau
+bisa
+2
+di
+melakukan
+dengan
+dan
+adalah
+tidak
+
+jika
+harus
+nya
+bisa
+bermain
+satu
+1
+1
+-
+memiliki
+s
+hal
+i
+dari
+lain
+menjadi
+u
+3
+dapat
+bisa
+p
+menjadi
+)
+para
+e
+i
+kan
+atau
+indonesia
+banyak
+di
+online
+dan
+,
+.
+membuat
+"
+slot
+dengan
+pada
+akan
+
+bahwa
+(
+uang
+anda
+di
+pemain
+yang
+secara
+untuk
+sebagai
+saat
+setelah
+anda
+itu
+pemain
+online
+secara
+0
+oleh
+5
+seperti
+1
+jika
+
+0
+dengan
+
+jika
+u
+:
+bahwa
+tersebut
+/
+itu
+sudah
+oleh
+menjadi
+saat
+kan
+dengan
+di
+judi
+akan
+kan
+untuk
+"
+d
+s
+bagi
+dari
+hal
+juga
+d
+menjadi
+tidak
+s
+s
+dan
+0
+tersebut
+8
+a
+)
+adalah
+kita
+yang
+ini
+dengan
+1
+semua
+cara
+9
+
+dan
+baik
+e
+baik
+di
+beberapa
+7
+hal
+online
+,
+"
+-
+menjadi
+9
+tidak
+apa
+kami
+judi
+satu
+1
+
+pada
+)
+atau
+/
+s
+orang
+adalah
+0
+uang
+ada
+kami
+orang
+
+semua
+jika
+satu
+atau
+yang
+bisa
+menjadi
+
+dengan
+maka
+tidak
+saya
+salah
+dapat
+/
+juga
+dan
+juga
+-
+
+t
+9
+untuk
+e
+s
+situs
+salah
+-
+seperti
+nya
+indonesia
+(
+:
+orang
+an
+memiliki
+di
+
+mereka
+.
+2
+dapat
+
+0
+nya
+2
+ini
+kami
+(
+bermain
+k
+judi
+akan
+slot
+ini
+bagi
+lebih
+hari
+bisa
+kan
+sangat
+bermain
+1
+5
+ini
+juga
+menjadi
+.
+untuk
+i
+adalah
+ini
+:
+0
+dan
+/
+)
+juga
+yang
+jika
+salah
+(
+9
+
+:
+ke
+p
+untuk
+0
+,
+banyak
+dengan
+telah
+menjadi
+s
+harus
+dalam
+i
+di
+bahwa
+bermain
+sudah
+3
+dan
+di
+atau
+
+kan
+orang
+hal
+poker
+satu
+,
+tersebut
+slot
+dalam
+"
+membuat
+ke
+pada
+8
+sebagai
+
+9
+untuk
+itu
+dari
+dalam
+ini
+-
+orang
+sebagai
+pada
+lain
+situs
+1
+
+.
+k
+dari
+semua
+dari
+mereka
+akan
+di
+)
+cara
+anda
+6
+"
+orang
+:
+d
+itu
+baik
+.
+kami
+kamu
+untuk
+lebih
+0
+
+membuat
+adalah
+7
+7
+menggunakan
+0
+bisa
+yang
+nya
+tidak
+beberapa
+dari
+sendiri
+1
+online
+saya
+untuk
+u
+e
+hal
+
+bisa
+online
+harus
+kita
+besar
+poker
+an
+
+dan
+saat
+cara
+sudah
+karena
+slot
+cara
+
+(
+akan
+?
+3
+4
+bahwa
+dari
+
+ada
+7
+kamu
+seperti
+untuk
+oleh
+/
+beberapa
+memiliki
+:
+bisa
+anda
+
+dari
+i
+tidak
+saya
+kan
+anda
+
+0
+menjadi
+memiliki
+d
+telah
+tidak
+d
+,
+)
+adalah
+akan
+1
+ke
+d
+anda
+,
+setiap
+a
+sangat
+oleh
+memiliki
+7
+semua
+t
+d
+
+itu
+mereka
+6
+permainan
+banyak
+4
+k
+bisa
+poker
+tetapi
+pada
+dan
+akan
+(
+)
+dalam
+seperti
+tersebut
+2
+dalam
+ada
+
+oleh
+anda
+n
+jika
+indonesia
+kita
+judi
+kamu
+kamu
+memiliki
+
+5
+dan
+hanya
+melakukan
+4
+0
+baik
+dan
+saat
+2
+)
+kan
+(
+saya
+ke
+maka
+banyak
+dalam
+
+ke
+0
+banyak
+yang
+harus
+sebagai
+s
+banyak
+
+orang
+4
+u
+kami
+menjadi
+dapat
+ini
+(
+k
+/
+online
+lebih
+kita
+game
+?
+adalah
+bisa
+e
+menjadi
+sangat
+tidak
+jadi
+yang
+hanya
+4
+ini
+:
+0
+2
+akan
+judi
+ini
+menjadi
+-
+jika
+atau
+mereka
+0
+lebih
+dalam
+nya
+itu
+)
+hal
+a
+
+ada
+dari
+an
+akan
+para
+membuat
+an
+(
+itu
+/
+:
+pada
+-
+judi
+,
+baik
+tersebut
+anda
+satu
+pada
+membuat
+bisa
+lebih
+yang
+tidak
+memiliki
+ingin
+1
+akan
+kita
+harus
+sangat
+dengan
+pemain
+dapat
+karena
+saya
+
+anda
+dalam
+dalam
+
+/
+dan
+ini
+untuk
+terbaik
+permainan
+lebih
+para
+memiliki
+
+
+.
+
+k
+
+nya
+dalam
+?
+dan
+mereka
+sangat
+i
+menjadi
+lebih
+u
+a
+besar
+
+menjadi
+adalah
+-
+indonesia
+dapat
+8
+bisa
+di
+8
+bahwa
+slot
+harus
+untuk
+
+satu
+
+karena
+sebagai
+
+saja
+adalah
+kita
+9
+sebagai
+judi
+kita
+dapat
+akan
+hal
+:
+kamu
+salah
+bisa
+mendapatkan
+saat
+:
+bahwa
+sudah
+
+hal
+membuat
+dan
+8
+rumah
+,
+game
+
+u
+an
+di
+an
+kamu
+
+
+mereka
+beberapa
+online
+nya
+indonesia
+cara
+.
+0
+)
+jika
+akan
+ke
+1
+
+.
+ini
+bisa
+dan
+i
+dengan
+seperti
+/
+situs
+-
+2
+memiliki
+itu
+poker
+u
+6
+sebagai
+hal
+memiliki
+melakukan
+d
+
+d
+1
+hal
+m
+
+menjadi
+dari
+para
+lebih
+dengan
+hal
+d
+4
+hanya
+adalah
+dengan
+indonesia
+dalam
+yang
+0
+
+lebih
+:
+lebih
+anda
+
+bagi
+-
+dan
+akan
+cara
+sangat
+dengan
+memiliki
+
+banyak
+dan
+tidak
+saat
+k
+i
+anda
+hal
+karena
+banyak
+,
+
+i
+lain
+?
+4
+setelah
+
+untuk
+dapat
+-
+situs
+itu
+.
+pada
+bisa
+orang
+"
+pada
+s
+dari
+anda
+online
+sebagai
+jika
+1
+oleh
+sebagai
+pada
+salah
+satu
+
+sangat
+1
+bagi
+m
+lebih
+indonesia
+hanya
+juga
+untuk
+-
+"
+saja
+,
+seperti
+online
+s
+ini
+kami
+"
+9
+anda
+dengan
+1
+beberapa
+beberapa
+sebagai
+hal
+itu
+-
+.
+)
+kita
+kami
+untuk
+situs
+tidak
+adalah
+sebagai
+yang
+lebih
+anda
+harus
+mereka
+membuat
+s
+?
+secara
+juga
+melakukan
+ini
+kita
+kamu
+1
+baik
+bisnis
+9
+(
+saya
+salah
+2
+mereka
+dan
+1
+saat
+bagi
+di
+
+anda
+saya
+ada
+.
+6
+sudah
+juga
+1
+untuk
+salah
+besar
+.
+tahun
+seperti
+hanya
+6
+)
+kita
+e
+2
+atau
+
+sangat
+lebih
+dapat
+tersebut
+oleh
+yang
+cara
+
+
+
+
+tersebut
+?
+juga
+saat
+yang
+
+-
+.
+(
+online
+
+a
+saat
+8
+.
+akan
+tentang
+pemain
+banyak
+atau
+satu
+ke
+
+judi
+k
+4
+dari
+permainan
+k
+hal
+)
+kamu
+4
+cara
+bisa
+kan
+baik
+)
+slot
+secara
+secara
+yang
+lebih
+satu
+jika
+harus
+dari
+dengan
+satu
+dengan
+di
+-
+pada
+tersebut
+kamu
+mendapatkan
+(
+bisnis
+yang
+akan
+online
+memiliki
+untuk
+dengan
+i
+s
+saat
+apa
+permainan
+saat
+dan
+dari
+
+8
+ke
+banyak
+bisa
+(
+3
+untuk
+game
+ada
+yang
+sebagai
+slot
+nya
+sebagai
+di
+melakukan
+maka
+:
+dapat
+i
+satu
+?
+k
+permainan
+atau
+memiliki
+oleh
+-
+tersebut
+kami
+akan
+
+bisa
+,
+ada
+kamu
+3
+salah
+a
+dalam
+2
+tidak
+setiap
+)
+
+/
+di
+bisa
+seperti
+sebagai
+sangat
+an
+a
+besar
+,
+di
+jika
+online
+hanya
+bermain
+u
+baik
+di
+5
+ini
+akan
+ini
+kan
+d
+
+3
+tersebut
+dan
+setelah
+harus
+dengan
+dapat
+saat
+5
+ada
+:
+yang
+
+mereka
+yang
+hari
+”
+5
+melakukan
+dan
+
+banyak
+cukup
+membuat
+beberapa
+hanya
+an
+memiliki
+maka
+
+ke
+dalam
+orang
+mereka
+adalah
+pada
+-
+ke
+/
+–
+juga
+hal
+dalam
+hanya
+s
+membuat
+ke
+judi
+,
+o
+secara
+setelah
+waktu
+itu
+u
+ada
+e
+dan
+kamu
+
+an
+juga
+sangat
+slot
+5
+semua
+tidak
+kami
+.
+:
+mereka
+dengan
+namun
+.
+untuk
+k
+untuk
+atau
+seperti
+tidak
+oleh
+mereka
+bisa
+tidak
+jika
+/
+m
+
+u
+4
+sebagai
+
+nya
+dari
+/
+2
+memiliki
+menjadi
+akan
+
+1
+anda
+juga
+mereka
+hari
+adalah
+9
+kan
+taruhan
+bisa
+dan
+3
+mereka
+8
+ke
+
+sudah
+)
+:
+dan
+menggunakan
+pada
+harga
+satu
+kami
+,
+kami
+0
+anda
+dari
+situs
+beberapa
+lagi
+tahun
+game
+lebih
+oleh
+merupakan
+beberapa
+tidak
+judi
+9
+banyak
+"
+harus
+yang
+.
+an
+dari
+memiliki
+hal
+p
+setelah
+dalam
+7
+dari
+dalam
+anda
+menggunakan
+
+uang
+kami
+nya
+-
+9
+0
+lebih
+beberapa
+.
+ada
+mereka
+dengan
+indonesia
+anda
+oleh
+melakukan
+bagi
+tidak
+saya
+dari
+
+0
+di
+saya
+beberapa
+2
+5
+telah
+6
+sebagai
+pada
+1
+saya
+jika
+judi
+:
+menjadi
+
+beberapa
+bisa
+0
+sebagai
+itu
+hal
+t
+game
+online
+permainan
+
+
+kami
+
+sangat
+taruhan
+saja
+cara
+ada
+lain
+pada
+cara
+karena
+tersebut
+k
+,
+.
+a
+jika
+sangat
+ke
+lebih
+atau
+,
+menjadi
+1
+0
+,
+menjadi
+)
+kamu
+adalah
+
+orang
+
+9
+e
+permainan
+hal
+sudah
+anda
+orang
+kita
+taruhan
+di
+besar
+apa
+sudah
+
+0
+2
+mereka
+maka
+lebih
+cara
+adalah
+5
+r
+.
+9
+sebagai
+oleh
+online
+tahun
+.
+hanya
+yang
+pada
+di
+secara
+
+judi
+4
+dengan
+e
+dari
+)
+memiliki
+jika
+s
+satu
+yang
+karena
+kan
+tidak
+1
+(
+(
+e
+kami
+permainan
+menggunakan
+ini
+)
+bisa
+0
+bisa
+banyak
+para
+d
+.
+0
+ke
+.
+online
+.
+1
+salah
+atau
+-
+beberapa
+tidak
+kamu
+dan
+satu
+telah
+dari
+oleh
+itu
+?
+sangat
+7
+
+1
+
+baik
+anda
+1
+tersebut
+s
+adalah
+7
+salah
+online
+judi
+
+(
+di
+lebih
+mereka
+juga
+apa
+kamu
+itu
+jika
+beberapa
+di
+banyak
+dapat
+satu
+hanya
+5
+
+
+a
+maka
+(
+
+a
+untuk
+,
+
+banyak
+permainan
+k
+cara
+s
+dalam
+harus
+:
+)
+apa
+ke
+itu
+
+,
+itu
+dari
+judi
+online
+besar
+i
+sangat
+karena
+menjadi
+ke
+memiliki
+oleh
+pada
+saya
+dari
+a
+2
+dalam
+s
+"
+kamu
+dengan
+pada
+o
+apa
+merupakan
+d
+dari
+
+
+
+menggunakan
+
+dan
+9
+bisnis
+dengan
+8
+karena
+)
+:
+3
+2
+dalam
+di
+saat
+d
+itu
+kami
+
+adalah
+
+hal
+t
+?
+3
+juga
+tersebut
+taruhan
+uang
+7
+o
+satu
+,
+9
+online
+online
+satu
+maka
+.
+itu
+harus
+tidak
+bisa
+i
+karena
+online
+bahwa
+dengan
+a
+permainan
+perlu
+tidak
+harga
+harus
+an
+(
+bahwa
+hanya
+dapat
+itu
+masih
+lebih
+yang
+dengan
+
+satu
+,
+menjadi
+kan
+hal
+i
+jika
+anda
+lebih
+yang
+saya
+kamu
+.
+)
+akan
+hal
+2
+/
+bisnis
+e
+mereka
+salah
+cara
+
+permainan
+harus
+mudah
+-
+bahwa
+membuat
+sebagai
+baik
+dari
+:
+sudah
+di
+
+terbaik
+2
+slot
+jika
+
+karena
+
+lain
+harus
+mereka
+d
+besar
+anda
+poker
+
+"
+baik
+2
+dapat
+anda
+,
+anda
+maka
+situs
+2
+s
+0
+1
+lebih
+)
+hal
+ke
+kan
+s
+6
+lebih
+dapat
+-
+,
+ini
+)
+sebagai
+seperti
+sudah
+sudah
+9
+slot
+lebih
+kita
+atau
+untuk
+
+4
+dapat
+untuk
+bisa
+ke
+itu
+akan
+karena
+
+dengan
+di
+online
+hal
+permainan
+"
+slot
+dapat
+dapat
+
+u
+nya
+menjadi
+cara
+)
+ingin
+sehingga
+bahwa
+harus
+tidak
+2
+tersebut
+i
+di
+lain
+lebih
+/
+memiliki
+.
+beberapa
+online
+orang
+kami
+kita
+maka
+1
+besar
+di
+bagi
+saat
+banyak
+anda
+
+pemain
+)
+dari
+"
+ada
+nya
+?
+salah
+situs
+hal
+4
+dapat
+.
+ke
+t
+hanya
+3
+bahwa
+saja
+untuk
+dengan
+s
+1
+sebagai
+mudah
+slot
+0
+tidak
+i
+
+2
+9
+bahwa
+9
+?
+8
+ada
+dalam
+untuk
+tersebut
+hal
+menjadi
+satu
+yang
+8
+2
+secara
+,
+)
+lagi
+sudah
+saya
+itu
+jika
+besar
+pada
+beberapa
+yang
+,
+saja
+kami
+satu
+untuk
+bisa
+2
+hal
+dengan
+dalam
+dapat
+itu
+mereka
+
+yang
+nya
+
+saja
+s
+beberapa
+(
+lagi
+anda
+besar
+jika
+/
+seperti
+atau
+saat
+anda
+memiliki
+e
+,
+tahun
+i
+bisa
+dalam
+bermain
+.
+1
+game
+0
+oleh
+anda
+(
+lebih
+1
+
+k
+akan
+,
+dengan
+lain
+telah
+an
+saya
+e
+/
+karena
+anda
+.
+beberapa
+banyak
+ke
+para
+yang
+akan
+an
+bisa
+
+beberapa
+o
+3
+uang
+adalah
+akan
+atau
+nya
+menjadi
+saat
+7
+dan
+,
+mudah
+orang
+adalah
+untuk
+tidak
+namun
+
+,
+sangat
+9
+a
+1
+(
+kamu
+permainan
+adalah
+tersebut
+salah
+judi
+an
+indonesia
+
+sangat
+di
+dari
+:
+e
+
+e
+pada
+satu
+saya
+bisa
+(
+s
+dalam
+ada
+pada
+beberapa
+ingin
+
+s
+online
+banyak
+2
+ke
+
+seperti
+untuk
+a
+adalah
+"
+satu
+bahwa
+k
+2
+memiliki
+slot
+dan
+dalam
+saja
+a
+telah
+kita
+untuk
+bermain
+m
+memiliki
+ada
+harus
+)
+tersebut
+situs
+
+i
+online
+oleh
+maka
+lain
+bisa
+nya
+an
+mereka
+di
+yang
+lebih
+satu
+7
+
+-
+semua
+i
+jika
+a
+indonesia
+karena
+kan
+
+d
+0
+yang
+0
+
+
+
+(
+banyak
+para
+menjadi
+juga
+untuk
+dan
+adalah
+dengan
+untuk
+dengan
+oleh
+jika
+dan
+pemain
+memiliki
+dalam
+tentang
+4
+s
+menjadi
+cara
+apa
+karena
+6
+ini
+9
+akan
+d
+pemain
+menggunakan
+dalam
+)
+/
+dan
+karena
+maka
+0
+beberapa
+kamu
+permainan
+3
+,
+bisa
+?
+online
+banyak
+game
+s
+lebih
+2
+
+2
+yang
+saya
+jika
+lebih
+banyak
+situs
+(
+cara
+tersebut
+uang
+kami
+-
+yang
+yang
+saya
+yang
+e
+adalah
+karena
+judi
+sudah
+permainan
+situs
+dan
+juga
+anda
+kamu
+.
+game
+oleh
+
+i
+/
+:
+harus
+indonesia
+2
+ini
+i
+(
+
+
+
+yang
+6
+akan
+ini
+membuat
+anda
+judi
+slot
+,
+online
+6
+kan
+atau
+online
+hal
+saat
+yang
+:
+4
+4
+pada
+hal
+ada
+8
+6
+nya
+dengan
+satu
+kita
+sudah
+situs
+untuk
+menjadi
+mereka
+p
+
+itu
+satu
+dan
+tidak
+?
+i
+ada
+
+i
+
+1
+game
+
+2
+e
+dalam
+yang
+itu
+ini
+
+p
+4
+4
+"
+
+:
+harus
+t
+saja
+untuk
+uang
+juga
+2
+saja
+0
+judi
+s
+adalah
+nya
+d
+
+4
+nya
+kita
+3
+yang
+an
+ada
+i
+
+dengan
+melakukan
+saat
+yang
+,
+bisnis
+beberapa
+dengan
+u
+karena
+untuk
+.
+.
+online
+4
+ke
+dengan
+maka
+6
+di
+saya
+itu
+7
+anda
+pada
+dari
+akan
+dapat
+mungkin
+
+)
+:
+e
+saja
+-
+i
+hanya
+melakukan
+3
+cara
+kita
+
+/
+
+untuk
+bisa
+oleh
+karena
+saya
+,
+lain
+uang
+memiliki
+(
+
+kami
+ada
+sebagai
+itu
+juga
+judi
+e
+0
+nya
+anda
+9
+kami
+mereka
+yang
+)
+yang
+"
+dengan
+5
+tersebut
+atau
+adalah
+permainan
+
+tidak
+secara
+sudah
+:
+beberapa
+tidak
+dengan
+0
+6
+/
+0
+-
+kamu
+dan
+kami
+.
+yang
+6
+u
+saja
+sangat
+karena
+harus
+oleh
+0
+judi
+1
+anda
+cara
+melakukan
+cara
+online
+sudah
+di
+e
+(
+kita
+/
+ada
+di
+an
+s
+2
+,
+
+saja
+?
+sangat
+untuk
+atau
+namun
+semua
+permainan
+harus
+
+situs
+dengan
+satu
+adalah
+situs
+yang
+anda
+apa
+0
+dan
+ini
+di
+9
+pada
+1
+oleh
+.
+karena
+)
+waktu
+5
+menjadi
+:
+4
+o
+di
+2
+di
+adalah
+mereka
+5
+akan
+di
+mereka
+ini
+d
+dari
+permainan
+i
+4
+akan
+yang
+semua
+8
+ini
+akan
+salah
+online
+game
+ada
+yang
+-
+karena
+dalam
+)
+ke
+ini
+5
+dan
+ini
+dalam
+lebih
+saja
+seperti
+
+e
+0
+-
+bermain
+beberapa
+anda
+2
+anda
+atau
+oleh
+u
+dan
+itu
+tersebut
+indonesia
+tidak
+dan
+s
+8
+indonesia
+/
+oleh
+s
+online
+9
+lagi
+hal
+mereka
+0
+bisa
+saja
+tersebut
+ini
+)
+.
+nya
+t
+bahwa
+7
+4
+yang
+karena
+i
+hanya
+ada
+saat
+i
+sudah
+saya
+dan
+untuk
+lebih
+
+.
+e
+akan
+,
+"
+di
+juga
+dalam
+bermain
+0
+untuk
+satu
+ini
+/
+tentang
+(
+tersebut
+para
+.
+anda
+satu
+online
+ini
+adalah
+baik
+8
+ini
+?
+saat
+apa
+ada
+ada
+:
+sangat
+saja
+dan
+anda
+satu
+tidak
+kamu
+untuk
+adalah
+,
+sebagai
+
+untuk
+k
+s
+u
+tidak
+saat
+dengan
+5
+banyak
+)
+"
+memiliki
+dalam
+kami
+)
+oleh
+bermain
+dan
+sudah
+maka
+kami
+dengan
+permainan
+tersebut
+.
+bisa
+an
+e
+akan
+7
+3
+dapat
+
+0
+3
+memiliki
+akan
+itu
+sangat
+0
+slot
+k
+mereka
+sudah
+pada
+untuk
+1
+orang
+kan
+secara
+
+
+sebagai
+baik
+s
+adalah
+dapat
+satu
+-
+jika
+dalam
+ke
+adalah
+di
+tidak
+secara
+sebagai
+uang
+2
+indonesia
+slot
+untuk
+0
+t
+oleh
+memiliki
+pada
+/
+dan
+
+saja
+situs
+banyak
+seperti
+saat
+akan
+u
+akan
+lebih
+kami
+d
+baik
+nya
+menjadi
+5
+uang
+jadi
+harus
+,
+lain
+baik
+beberapa
+akan
+i
+2
+ini
+u
+apa
+mereka
+satu
+bermain
+
+apa
+dan
+mendapatkan
+2
+3
+di
+-
+menjadi
+secara
+cara
+ke
+telah
+s
+situs
+o
+4
+k
+seperti
+apa
+u
+baru
+t
+0
+satu
+dengan
+menjadi
+/
+cara
+harus
+.
+dengan
+seperti
+
+di
+itu
+karena
+pada
+harus
+
+7
+o
+9
+s
+tidak
+(
+hal
+akan
+harus
+lebih
+
+?
+nya
+d
+membuat
+pada
+adalah
+salah
+d
+banyak
+)
+secara
+tetapi
+"
+lebih
+lagi
+bermain
+5
+menjadi
+5
+o
+uang
+hal
+nya
+/
+0
+anda
+adalah
+5
+permainan
+online
+
+ini
+.
+pada
+jadi
+9
+yang
+
+yang
+secara
+karena
+situs
+e
+lebih
+)
+tidak
+dari
+orang
+,
+4
+untuk
+nya
+kamu
+6
+tidak
+,
+mendapatkan
+kamu
+dapat
+di
+permainan
+:
+:
+dengan
+apa
+5
+orang
+baik
+anda
+salah
+.
+an
+akan
+an
+
+cara
+judi
+kita
+seperti
+
+.
+para
+3
+d
+dan
+melakukan
+0
+tidak
+dalam
+sebagai
+situs
+tersebut
+0
+-
+3
+pemain
+dengan
+saja
+online
+,
+dengan
+
+
+5
+dari
+juga
+nya
+karena
+saya
+adalah
+an
+membuat
+?
+sudah
+dengan
+secara
+m
+dengan
+,
+karena
+6
+)
+t
+dari
+s
+2
+sangat
+7
+jika
+baik
+yang
+beberapa
+lain
+
+,
+3
+tentang
+1
+t
+lebih
+ke
+mendapatkan
+masih
+saya
+pada
+mereka
+cara
+pada
+hari
+/
+
+u
+di
+"
+memiliki
+)
+jika
+untuk
+orang
+
+"
+yang
+
+
+lain
+anda
+
+satu
+ini
+secara
+karena
+2
+harus
+
+permainan
+ada
+ini
+karena
+orang
+-
+dengan
+
+bisa
+saja
+bahwa
+2
+di
+4
+tidak
+beberapa
+8
+online
+t
+karena
+?
+hal
+3
+6
+itu
+uang
+membuat
+saat
+cara
+,
+0
+lebih
+dari
+bisa
+sangat
+/
+judi
+,
+memiliki
+.
+satu
+
+an
+dan
+indonesia
+hanya
+)
+bahwa
+di
+atau
+slot
+untuk
+hal
+ada
+kamu
+untuk
+pada
+
+cara
+ke
+,
+ini
+yang
+s
+2
+
+4
+yang
+lebih
+,
+tidak
+situs
+7
+telah
+1
+4
+saat
+,
+secara
+an
+hanya
+untuk
+dapat
+kan
+online
+,
+
+e
+3
+salah
+telah
+kita
+4
+8
+t
+m
+5
+judi
+tidak
+1
+di
+adalah
+9
+mereka
+pada
+permainan
+2
+adalah
+kan
+karena
+4
+online
+8
+saat
+kita
+bisa
+saya
+oleh
+a
+cara
+
+k
+bahwa
+dari
+situs
+/
+secara
+bagi
+ini
+karena
+n
+dapat
+5
+kamu
+e
+itu
+jika
+para
+nya
+membuat
+tersebut
+di
+menjadi
+tersebut
+
+beberapa
+
+ke
+di
+s
+jika
+5
+4
+kami
+ke
+karena
+ke
+3
+pada
+indonesia
+5
+2
+dapat
+telah
+situs
+
+saya
+saja
+4
+3
+dalam
+tidak
+anda
+an
+jadi
+ini
+4
+bisa
+ini
+nya
+harus
+untuk
+i
+o
+
+dapat
+tidak
+d
+akan
+sudah
+akan
+sebagai
+orang
+satu
+
+satu
+
+seperti
+"
+saya
+saya
+hanya
+,
+untuk
+kita
+an
+dan
+lebih
+2
+anda
+dari
+nya
+an
+dan
+dapat
+2
+s
+menggunakan
+dalam
+nya
+di
+sangat
+harus
+di
+cara
+beberapa
+?
+sebagai
+mudah
+
+sebagai
+s
+bahwa
+adalah
+5
+
+
+ada
+lebih
+,
+tersebut
+situs
+permainan
+s
+"
+anda
+maka
+nya
+3
+salah
+sudah
+saja
+.
+secara
+slot
+di
+memiliki
+seperti
+atau
+karena
+kami
+pada
+4
+karena
+indonesia
+8
+
+tersebut
+kita
+ini
+
+satu
+5
+baik
+6
+apa
+membuat
+online
+akan
+mudah
+
+menjadi
+4
+e
+oleh
+satu
+ada
+bahwa
+saja
+dari
+ada
+menjadi
+indonesia
+
+memiliki
+
+k
+3
+e
+/
+4
+tersebut
+seperti
+situs
+3
+bisa
+dan
+1
+saja
+3
+ke
+agar
+slot
+)
+judi
+lain
+u
+akan
+pada
+seperti
+saat
+akan
+kami
+untuk
+kamu
+kita
+juga
+baru
+tersebut
+
+hal
+juga
+mereka
+dengan
+dari
+cara
+anda
+lebih
+sebagai
+satu
+m
+9
+7
+dalam
+i
+saat
+tahun
+bisa
+
+namun
+)
+sangat
+2
+bisa
+4
+/
+mudah
+harus
+0
+d
+8
+anda
+dari
+ini
+ke
+secara
+banyak
+dari
+bahwa
+indonesia
+ini
+3
+untuk
+adalah
+di
+
+sudah
+satu
+k
+oleh
+baik
+besar
+salah
+6
+poker
+sebagai
+bisa
+permainan
+untuk
+8
+kita
+pada
+oleh
+dengan
+memiliki
+saja
+ini
+.
+s
+dari
+ini
+di
+di
+sangat
+6
+dengan
+7
+harus
+dan
+harus
+,
+bahwa
+nya
+seperti
+an
+judi
+mendapatkan
+sebagai
+.
+bisa
+di
+u
+dan
+kamu
+2
+memiliki
+saja
+beberapa
+orang
+hanya
+judi
+ada
+judi
+5
+untuk
+game
+pemain
+ada
+.
+itu
+oleh
+
+situs
+kamu
+:
+dan
+dan
+dalam
+permainan
+0
+dengan
+karena
+poker
+ada
+2
+sebagai
+orang
+dan
+"
+dari
+anda
+)
+an
+online
+e
+a
+yang
+.
+adalah
+5
+mendapatkan
+yang
+memiliki
+mereka
+d
+-
+sudah
+"
+t
+e
+nya
+e
+banyak
+0
+adalah
+lebih
+"
+2
+atau
+sudah
+di
+itu
+karena
+dengan
+dan
+sangat
+harus
+orang
+7
+hal
+poker
+saat
+online
+slot
+lebih
+bahwa
+bisnis
+satu
+menggunakan
+harus
+"
+secara
+0
+para
+menggunakan
+t
+terbaik
+an
+
+e
+baik
+akan
+besar
+membuat
+slot
+dengan
+menjadi
+d
+4
+yang
+kamu
+
+tidak
+online
+memiliki
+9
+dari
+yang
+:
+permainan
+9
+secara
+menjadi
+akan
+saja
+dengan
+juga
+satu
+harus
+dari
+a
+salah
+beberapa
+,
+:
+salah
+dan
+cara
+
+
+dari

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.4860442280769348,
+    "predict_rouge1": 0.3886,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3872,
+    "predict_rougeLsum": 0.3871,
+    "predict_runtime": 3268.5892,
+    "predict_samples": 3761,
+    "predict_samples_per_second": 1.151,
+    "predict_steps_per_second": 0.036
+}

runs/Jul06_17-55-53_a94680512e46/events.out.tfevents.1720292878.a94680512e46.1588403.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:502916bd87002ed5e518fce4f1c0538f4c7ff6be13d53bbcab870b9fc0ff8d9b
+size 613

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 4.92357702057984e+16,
+    "train_loss": 0.5918008025986197,
+    "train_runtime": 3747.1994,
+    "train_samples": 14266,
+    "train_samples_per_second": 19.036,
+    "train_steps_per_second": 1.19
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4460,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 0.8082135319709778,
+      "learning_rate": 0.0008,
+      "loss": 0.7807,
+      "step": 892
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.5299099087715149,
+      "eval_rouge1": 0.6861,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.6833,
+      "eval_rougeLsum": 0.6836,
+      "eval_runtime": 37.7592,
+      "eval_samples_per_second": 19.783,
+      "eval_steps_per_second": 0.636,
+      "step": 892
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 0.7777946591377258,
+      "learning_rate": 0.0006,
+      "loss": 0.6079,
+      "step": 1784
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4988546669483185,
+      "eval_rouge1": 0.7141,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7153,
+      "eval_rougeLsum": 0.7147,
+      "eval_runtime": 37.1649,
+      "eval_samples_per_second": 20.1,
+      "eval_steps_per_second": 0.646,
+      "step": 1784
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 0.8722276091575623,
+      "learning_rate": 0.0004,
+      "loss": 0.5583,
+      "step": 2676
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4761173725128174,
+      "eval_rouge1": 0.7153,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7152,
+      "eval_rougeLsum": 0.7139,
+      "eval_runtime": 36.3686,
+      "eval_samples_per_second": 20.54,
+      "eval_steps_per_second": 0.66,
+      "step": 2676
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 0.7476885318756104,
+      "learning_rate": 0.0002,
+      "loss": 0.5208,
+      "step": 3568
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4718637764453888,
+      "eval_rouge1": 0.7433,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.743,
+      "eval_rougeLsum": 0.7395,
+      "eval_runtime": 36.3604,
+      "eval_samples_per_second": 20.544,
+      "eval_steps_per_second": 0.66,
+      "step": 3568
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 0.997207760810852,
+      "learning_rate": 0.0,
+      "loss": 0.4912,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.4652620851993561,
+      "eval_rouge1": 0.7309,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.7284,
+      "eval_rougeLsum": 0.7264,
+      "eval_runtime": 37.8929,
+      "eval_samples_per_second": 19.713,
+      "eval_steps_per_second": 0.633,
+      "step": 4460
+    },
+    {
+      "epoch": 5.0,
+      "step": 4460,
+      "total_flos": 4.92357702057984e+16,
+      "train_loss": 0.5918008025986197,
+      "train_runtime": 3747.1994,
+      "train_samples_per_second": 19.036,
+      "train_steps_per_second": 1.19
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4460,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 4.92357702057984e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}