End of training

README.md

@@ -1,4 +1,6 @@
 ---
+language:
+- id
 license: apache-2.0
 base_model: LazarusNLP/IndoNanoT5-base
 tags:
@@ -18,10 +20,10 @@ should probably proofread and complete it, then remove this comment. -->
 This model is a fine-tuned version of [LazarusNLP/IndoNanoT5-base](https://huggingface.co/LazarusNLP/IndoNanoT5-base) on an unknown dataset.
 It achieves the following results on the evaluation set:
 - Loss: 0.6790
-- Rouge1: 0.304
+- Rouge1: 0.3961
 - Rouge2: 0.0
-- Rougel: 0.3076
-- Rougelsum: 0.3081
+- Rougel: 0.3992
+- Rougelsum: 0.3996
 - Gen Len: 1.0
 
 ## Model description

all_results.json

@@ -0,0 +1,29 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.6790085434913635,
+    "eval_rouge1": 0.3961,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3992,
+    "eval_rougeLsum": 0.3996,
+    "eval_runtime": 2115.8763,
+    "eval_samples": 747,
+    "eval_samples_per_second": 0.353,
+    "eval_steps_per_second": 0.011,
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.6874162554740906,
+    "predict_rouge1": 0.3088,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3088,
+    "predict_rougeLsum": 0.3098,
+    "predict_runtime": 10559.874,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 0.354,
+    "predict_steps_per_second": 0.011,
+    "total_flos": 5.60207031957504e+16,
+    "train_loss": 1.4239941215088436,
+    "train_runtime": 6465.3919,
+    "train_samples": 14290,
+    "train_samples_per_second": 11.051,
+    "train_steps_per_second": 0.691
+}

eval_results.json

@@ -0,0 +1,13 @@
+{
+    "epoch": 5.0,
+    "eval_gen_len": 1.0,
+    "eval_loss": 0.6790085434913635,
+    "eval_rouge1": 0.3961,
+    "eval_rouge2": 0.0,
+    "eval_rougeL": 0.3992,
+    "eval_rougeLsum": 0.3996,
+    "eval_runtime": 2115.8763,
+    "eval_samples": 747,
+    "eval_samples_per_second": 0.353,
+    "eval_steps_per_second": 0.011
+}

generated_predictions.txt

@@ -0,0 +1,3737 @@
+untuk
+
+
+
+
+2
+yang
+
+e
+,
+
+untuk
+yang
+ini
+t
+
+
+situs
+seperti
+
+
+yang
+nya
+lain
+dan
+,
+
+
+
+anda
+
+2
+
+
+2
+
+
+
+
+.
+2
+2
+
+
+yang
+
+
+
+biasanya
+-
+di
+dari
+
+4
+
+
+
+ini
+
+
+situs
+saat
+
+ini
+kan
+
+dengan
+bisa
+2
+
+,
+
+
+
+
+
+
+anda
+saat
+yang
+untuk
+
+-
+
+dari
+.
+
+
+
+untuk
+
+
+yang
+
+sebagai
+ini
+
+
+
+
+
+
+aplikasi
+
+
+
+
+
+
+di
+dan
+
+-
+
+
+
+
+
+
+dari
+
+ini
+harus
+maka
+
+kecil
+
+
+
+
+
+
+dari
+
+1
+
+
+
+setiap
+masih
+
+dari
+-
+
+yang
+2
+
+
+
+,
+
+
+
+
+
+
+
+
+
+dengan
+ini
+
+
+-
+yang
+
+seperti
+
+ini
+
+
+1
+
+
+4
+
+
+
+
+dengan
+
+
+-
+
+-
+sendiri
+1
+
+
+nya
+
+
+
+
+
+perlu
+
+yang
+
+
+
+
+
+
+
+
+di
+orang
+bonus
+
+akan
+
+
+
+
+dan
+
+e
+serta
+
+
+dan
+saya
+
+di
+8
+secara
+
+
+
+untuk
+hanya
+/
+judi
+
+
+
+
+
+
+0
+
+
+-
+
+sebagai
+
+
+,
+
+dan
+untuk
+
+
+
+
+dan
+kami
+bisa
+4
+yang
+
+
+
+
+
+
+
+
+1
+
+
+
+
+sendiri
+
+
+
+8
+
+"
+
+
+9
+
+
+
+-
+yang
+
+
+
+
+
+
+
+lah
+
+nya
+,
+
+yang
+dengan
+6
+anda
+
+
+
+
+nya
+yang
+
+1
+
+a
+
+,
+dengan
+bisa
+yang
+
+
+
+nya
+-
+
+investasi
+di
+forex
+dari
+2
+
+
+
+
+
+1
+sebagai
+
+6
+untuk
+
+
+
+,
+dan
+kami
+sehingga
+
+
+kamu
+
+t
+
+tersebut
+ini
+
+
+berbagai
+yang
+-
+
+
+
+di
+yang
+
+yang
+
+saya
+an
+
+
+
+kamu
+dari
+.
+
+untuk
+
+dan
+.
+
+
+
+
+kami
+
+
+
+
+2
+
+rumah
+
+
+
+dari
+dari
+"
+ini
+
+
+dari
+0
+
+
+
+0
+ini
+.
+yang
+
+hal
+yang
+dari
+
+
+bisa
+dari
+1
+
+,
+
+hal
+
+
+dan
+dari
+
+
+
+sangat
+2
+tidak
+
+?
+
+
+,
+
+1
+,
+atas
+1
+
+
+
+
+nya
+
+tak
+
+
+dia
+
+
+
+
+
+
+4
+anda
+
+
+sebagai
+dan
+anda
+nya
+
+
+
+
+dari
+0
+
+dari
+
+
+
+
+
+
+permainan
+anda
+
+
+
+
+
+
+
+
+
+
+
+permainan
+judi
+
+
+
+
+
+
+
+
+
+
+
+
+-
+anda
+
+
+
+
+
+2
+
+dan
+
+
+
+"
+1
+
+
+
+?
+untuk
+
+
+ini
+
+hari
+
+dari
+dan
+a
+ini
+
+
+f
+,
+
+dan
+
+hal
+yang
+dengan
+
+
+dan
+yang
+
+
+
+
+nya
+judi
+dan
+dari
+
+untuk
+untuk
+-
+seluruh
+
+ini
+dari
+
+
+dari
+
+-
+sangat
+
+
+
+di
+
+dengan
+mobil
+
+
+
+-
+
+
+hal
+ini
+1
+
+
+
+
+yang
+situs
+
+a
+
+1
+yang
+
+
+
+di
+rumah
+
+dengan
+0
+
+lagi
+
+atas
+dengan
+yang
+
+
+situs
+1
+
+
+
+anda
+
+
+-
+
+di
+yang
+
+
+
+dan
+
+
+dan
+
+
+
+0
+
+
+
+
+
+
+
+
+yang
+dari
+sebagai
+
+
+
+saja
+
+
+
+
+berada
+
+
+hal
+
+
+e
+anda
+
+
+
+
+
+2
+
+
+
+.
+
+2
+
+ini
+
+
+
+yang
+1
+untuk
+
+
+
+ini
+
+dari
+
+
+,
+
+,
+lagi
+
+
+
+
+
+
+lainnya
+
+
+
+
+
+
+seperti
+yang
+
+tersebut
+
+
+di
+
+-
+
+
+
+
+
+
+
+
+
+
+
+dan
+
+
+
+
+-
+4
+
+
+di
+
+
+
+
+
+hal
+
+
+
+
+bandar
+4
+
+
+dan
+
+
+
+8
+-
+an
+
+masih
+
+situs
+
+
+
+yang
+
+
+judi
+
+
+poker
+
+
+e
+
+dari
+1
+
+
+
+sendiri
+0
+yang
+
+
+untuk
+
+
+
+nya
+baik
+dari
+
+,
+digunakan
+
+,
+yang
+
+
+
+
+
+hal
+
+
+judi
+
+
+bahwa
+
+nya
+
+
+
+
+
+
+
+1
+
+ini
+yang
+
+
+
+
+perlu
+
+selain
+dengan
+
+
+dari
+
+untuk
+
+
+lagi
+yang
+
+hari
+nya
+
+yang
+
+-
+
+.
+a
+
+
+yang
+
+.
+dengan
+
+
+
+
+dari
+
+
+
+
+
+
+
+hal
+
+-
+
+
+dan
+
+
+nya
+
+
+
+
+
+lagi
+
+0
+
+e
+
+hal
+untuk
+
+
+ini
+
+yang
+
+
+
+
+
+-
+nya
+
+untuk
+2
+
+
+
+orang
+
+
+an
+e
+kami
+kota
+2
+1
+
+
+
+,
+dari
+2
+
+orang
+
+
+
+4
+
+
+
+
+
+dari
+
+setiap
+,
+
+
+anda
+
+-
+
+an
+
+
+,
+
+
+
+
+
+e
+
+
+
+t
+
+masih
+yang
+kami
+
+para
+
+
+oleh
+akhirnya
+,
+
+dimana
+
+
+yang
+
+hanya
+
+
+anda
+
+
+sama
+
+a
+yang
+
+0
+
+0
+
+er
+
+
+
+dan
+dari
+dengan
+
+
+
+
+
+
+0
+dari
+
+
+
+ketika
+1
+
+
+
+
+
+
+"
+
+
+
+
+
+
+bermain
+
+
+
+
+
+situs
+tentang
+ini
+harus
+di
+
+
+di
+untuk
+
+lagi
+,
+saat
+
+dengan
+
+dengan
+untuk
+untuk
+tinggi
+
+
+
+2
+
+?
+anda
+
+
+
+taruhan
+
+
+
+
+kami
+0
+untuk
+,
+dari
+yang
+
+
+secara
+,
+
+
+
+
+
+tetapi
+anda
+
+lagi
+yang
+
+
+
+ketika
+an
+
+
+
+
+
+
+
+dan
+
+
+
+setelah
+anda
+permainan
+
+
+
+
+,
+
+ini
+
+
+.
+yang
+-
+1
+
+
+yang
+
+dari
+
+dari
+
+yang
+4
+an
+
+
+2
+dengan
+-
+-
+
+
+dari
+yang
+membuat
+hari
+
+.
+
+
+
+
+dengan
+permainan
+
+
+dan
+di
+
+
+dari
+harus
+,
+bisa
+
+anda
+
+
+
+tetapi
+9
+bermain
+permainan
+
+dan
+
+saya
+
+
+dan
+di
+.
+
+
+
+
+
+
+
+
+sebagai
+dan
+
+
+
+1
+anda
+untuk
+
+,
+sehingga
+dari
+
+u
+
+
+ini
+
+
+0
+
+
+
+
+
+
+
+1
+ini
+
+
+anda
+
+untuk
+yang
+
+
+1
+
+yang
+seperti
+kami
+yang
+tidak
+-
+-
+dan
+perlu
+u
+
+-
+
+baik
+
+dari
+
+ini
+lagi
+kami
+0
+
+1
+situs
+
+di
+di
+
+penting
+
+
+
+,
+
+dari
+
+e
+
+
+
+1
+1
+untuk
+
+-
+yang
+hari
+
+dari
+bahwa
+
+
+2
+yang
+
+
+1
+
+ini
+
+
+yang
+
+
+yang
+"
+secara
+ini
+,
+secara
+
+anda
+
+
+tidak
+
+yang
+
+.
+
+-
+dari
+
+
+
+
+yang
+
+
+-
+2
+
+dari
+dan
+sendiri
+
+
+situs
+
+untuk
+
+
+hari
+
+sebagai
+2
+0
+2
+
+
+
+,
+
+ini
+yang
+
+hal
+
+
+di
+"
+
+,
+
+
+dan
+
+
+
+
+.
+kamu
+,
+
+
+hari
+
+0
+
+
+
+
+
+
+
+yang
+
+
+kan
+
+secara
+ini
+
+
+untuk
+yang
+yang
+
+
+yang
+
+
+
+
+
+
+
+
+of
+,
+
+di
+hari
+tersebut
+
+
+dari
+
+
+
+,
+,
+
+
+
+
+
+dari
+1
+hingga
+
+.
+
+saya
+"
+
+
+.
+
+
+dari
+dan
+.
+
+
+
+
+,
+
+
+
+0
+
+dari
+.
+dari
+
+dari
+
+kebutuhan
+
+oleh
+
+
+
+-
+)
+
+
+
+
+
+1
+hari
+sama
+,
+
+”
+
+
+1
+,
+
+
+.
+
+9
+,
+
+
+
+dan
+
+,
+-
+sosial
+ini
+
+
+kami
+
+
+
+
+
+dari
+2
+tetapi
+
+
+
+
+situs
+
+nya
+
+
+
+
+dari
+dan
+2
+
+e
+,
+4
+
+sendiri
+dua
+
+
+yang
+1
+0
+an
+
+
+
+
+
+
+
+-
+yang
+
+
+yang
+ketika
+yang
+
+
+anda
+
+
+
+
+yang
+
+dari
+
+
+-
+
+d
+tentang
+0
+
+anda
+
+
+
+
+
+an
+dan
+
+
+dan
+
+
+ini
+
+dan
+-
+harus
+0
+0
+beberapa
+
+dan
+yang
+
+
+
+yang
+
+semua
+saja
+
+
+
+"
+
+harga
+1
+
+
+
+
+berbagai
+beberapa
+
+
+
+
+
+.
+
+
+9
+
+dari
+bisa
+
+yang
+hanya
+dan
+dari
+ini
+-
+sebagai
+
+
+-
+
+
+sebab
+,
+0
+dan
+
+
+0
+
+9
+
+kami
+untuk
+
+dan
+dan
+
+
+situs
+
+
+orang
+
+
+untuk
+
+
+
+
+
+
+saya
+
+
+
+
+nya
+
+
+
+
+dan
+
+dari
+
+?
+
+2
+-
+dan
+
+
+
+yang
+
+
+harga
+hal
+dengan
+
+
+
+
+
+
+
+
+
+untuk
+
+yang
+
+bermain
+
+ini
+
+dan
+-
+
+
+
+.
+perlu
+,
+
+
+0
+1
+
+dan
+
+,
+yang
+
+-
+dengan
+
+-
+di
+
+0
+
+bisa
+
+
+ketika
+ini
+
+
+
+
+untuk
+
+baik
+dari
+
+
+bisa
+/
+
+di
+
+
+di
+ketika
+
+di
+
+
+
+dari
+seperti
+
+yang
+
+data
+
+
+
+
+
+
+9
+-
+kata
+-
+situs
+anda
+7
+8
+
+untuk
+
+
+
+.
+kamu
+
+
+,
+saya
+
+
+
+hari
+,
+/
+
+
+l
+
+
+,
+,
+karena
+yang
+dan
+
+
+2
+
+.
+
+
+
+perlu
+
+saja
+
+
+
+
+
+di
+
+di
+dan
+
+untuk
+/
+
+
+
+
+
+
+
+
+
+situs
+saja
+
+
+
+
+mulai
+
+
+
+ini
+,
+untuk
+
+
+,
+
+bermain
+
+dan
+
+
+slot
+
+
+0
+dari
+
+di
+,
+
+
+anak
+
+
+,
+
+yang
+
+
+
+tersedia
+yang
+dari
+
+di
+ini
+
+2
+per
+
+
+
+
+
+.
+,
+
+tentang
+4
+
+di
+
+yang
+
+.
+ketika
+t
+dari
+ini
+
+
+dari
+
+
+1
+hal
+r
+dan
+
+
+
+
+untuk
+
+
+?
+masih
+
+
+
+hanya
+
+
+dengan
+yang
+
+
+
+yang
+an
+
+bisa
+,
+
+
+untuk
+
+
+.
+
+dan
+dan
+
+tentang
+2
+-
+
+
+
+
+4
+tidak
+bisa
+
+
+dan
+
+dan
+
+dan
+lebih
+
+
+
+merupakan
+
+
+
+sebagai
+2
+
+-
+ini
+
+indonesia
+
+
+
+
+
+dari
+0
+
+
+dari
+
+dari
+dengan
+
+
+
+
+
+,
+
+bisa
+di
+
+
+
+nya
+
+
+untuk
+
+
+.
+dan
+
+
+-
+
+
+
+
+
+setelah
+
+bahwa
+
+judi
+ini
+
+
+-
+
+
+sebagai
+
+2
+seperti
+2
+
+anda
+rumah
+
+ini
+yang
+
+
+sebagai
+dan
+seperti
+menjadi
+
+
+
+
+
+ini
+dengan
+
+besar
+
+
+jenis
+
+,
+1
+dari
+dari
+
+dari
+situs
+
+
+
+pemerintah
+bahwa
+
+
+2
+
+
+
+
+dari
+harus
+
+tentang
+
+
+
+
+tidak
+
+
+nya
+datang
+
+
+
+saya
+
+9
+0
+
+
+
+,
+
+dan
+
+
+ketika
+
+lagi
+harga
+dari
+
+
+untuk
+
+
+
+-
+0
+
+
+
+
+”
+
+sebuah
+
+anda
+
+
+2
+,
+,
+
+dan
+1
+yang
+
+untuk
+
+dari
+bisa
+,
+dari
+
+
+
+
+
+
+
+dari
+ini
+
+.
+
+
+
+
+saya
+
+
+,
+di
+
+
+
+
+
+
+
+
+an
+
+
+waktu
+
+
+
+
+1
+dari
+dari
+.
+
+
+
+
+
+
+
+/
+dari
+
+
+ini
+
+an
+
+
+2
+
+
+
+
+
+
+
+dan
+
+
+
+dengan
+
+-
+
+untuk
+
+2
+
+
+
+
+
+
+1
+
+
+
+
+merupakan
+
+
+
+,
+
+
+
+
+anda
+
+saya
+
+-
+
+-
+ini
+.
+
+
+
+dan
+dengan
+di
+
+ini
+h
+di
+
+
+0
+ini
+-
+yang
+
+di
+
+yang
+2
+
+dari
+.
+
+/
+
+
+
+
+lagi
+untuk
+
+2
+dari
+
+ini
+
+yang
+uang
+ini
+
+
+
+tentang
+
+dan
+
+informasi
+4
+2
+4
+
+
+dan
+
+
+
+
+
+2
+
+,
+(
+"
+
+
+,
+
+
+
+0
+cara
+ini
+yang
+
+
+
+
+
+
+1
+
+
+
+
+sendiri
+
+1
+
+.
+
+bahwa
+
+
+
+anda
+
+0
+untuk
+
+lagi
+
+
+
+2
+
+
+ketika
+0
+dengan
+?
+
+2
+-
+
+
+
+t
+2
+
+
+hari
+1
+dan
+
+
+
+
+
+yang
+untuk
+
+?
+e
+
+beberapa
+
+ketika
+
+
+
+hal
+dari
+yang
+2
+
+yang
+
+
+
+
+
+besar
+
+e
+
+untuk
+
+1
+
+
+,
+
+
+yang
+sangat
+dari
+
+
+dan
+yang
+pasar
+
+
+7
+
+
+di
+
+saat
+untuk
+lain
+
+
+bisa
+untuk
+
+
+untuk
+dan
+
+
+saja
+t
+harus
+4
+dalam
+seperti
+
+
+-
+
+
+beberapa
+
+permainan
+"
+
+
+
+sangat
+
+setelah
+anda
+untuk
+yang
+yang
+,
+besar
+
+
+yang
+
+
+untuk
+
+
+oleh
+ini
+
+
+
+
+tentang
+
+
+yang
+l
+ini
+
+
+lagi
+
+
+
+
+
+f
+cepat
+-
+dengan
+
+
+
+
+
+
+
+dan
+an
+
+untuk
+
+
+.
+ini
+
+dan
+
+4
+yang
+ini
+sudah
+masih
+
+
+
+
+untuk
+
+dari
+saja
+
+
+
+
+
+8
+
+
+
+saya
+
+yang
+
+
+dalam
+
+
+yang
+
+
+
+
+
+
+yang
+situs
+,
+
+ini
+tim
+
+"
+"
+
+
+untuk
+kami
+,
+
+-
+untuk
+dan
+di
+
+
+
+saat
+
+
+
+.
+
+a
+,
+para
+
+7
+
+nya
+dari
+yang
+untuk
+
+
+pertama
+
+.
+
+
+yang
+
+harus
+
+
+.
+untuk
+
+ketika
+yang
+
+
+
+kami
+
+tidak
+dan
+.
+
+,
+,
+bisa
+
+
+
+hari
+
+
+situs
+
+bahwa
+
+
+bisa
+-
+ini
+ini
+
+sendiri
+0
+
+0
+
+situs
+tentang
+,
+1
+
+
+
+
+
+
+dari
+tentang
+,
+
+
+yang
+
+
+seperti
+0
+hari
+
+
+
+
+situs
+
+
+
+.
+
+
+
+di
+2
+
+untuk
+
+,
+
+tentang
+masih
+.
+
+hari
+/
+
+
+
+.
+
+
+yang
+
+
+
+ketika
+2
+2
+kan
+
+permainan
+
+
+
+hanya
+
+
+
+
+
+di
+lah
+yang
+9
+
+
+
+anda
+
+
+
+
+
+yang
+
+
+yang
+
+harus
+
+2
+e
+
+
+-
+
+saja
+orang
+ini
+cukup
+dan
+
+saat
+yang
+1
+masih
+
+dengan
+ini
+
+untuk
+
+menurut
+paling
+
+
+
+untuk
+
+
+
+memberikan
+
+
+yang
+
+
+
+2
+
+
+
+.
+1
+sebagai
+kami
+ini
+
+sama
+e
+e
+
+0
+
+
+bank
+
+,
+
+/
+
+
+"
+1
+e
+
+untuk
+
+ini
+
+
+
+
+
+
+
+
+bahwa
+
+
+di
+1
+
+
+ini
+
+
+
+
+,
+
+tentang
+
+
+
+bisa
+seperti
+
+.
+,
+
+dari
+
+anda
+situs
+
+hari
+
+untuk
+dari
+
+2
+anda
+
+
+
+memberi
+
+hal
+ketika
+
+untuk
+
+
+
+
+
+
+
+nya
+
+1
+dari
+
+sebagai
+
+0
+
+
+
+
+
+
+seperti
+
+
+yang
+
+di
+
+
+
+
+
+
+anda
+ketika
+
+4
+
+harga
+2
+9
+saya
+
+
+
+ini
+
+
+2
+2
+
+hal
+nya
+
+
+4
+
+
+nya
+
+
+anda
+
+
+
+-
+
+
+
+
+nya
+
+
+
+sangat
+untuk
+-
+
+
+
+
+
+
+
+sangat
+
+
+yang
+-
+sangat
+e
+
+
+
+
+tentang
+dan
+
+an
+dari
+
+rumah
+
+cukup
+
+nya
+
+
+
+
+yang
+
+
+
+bisa
+
+dari
+
+
+
+
+-
+
+
+2
+9
+hari
+
+
+
+1
+kartu
+masih
+
+
+dengan
+
+
+anda
+
+bisa
+
+anda
+
+sebagai
+
+
+
+
+
+
+yang
+di
+hal
+ini
+di
+
+
+judi
+.
+dan
+semakin
+”
+
+
+
+
+
+
+8
+
+
+
+
+
+
+
+website
+
+,
+
+4
+
+untuk
+ketika
+
+
+
+
+
+
+nya
+-
+memiliki
+
+
+
+yang
+
+
+
+ini
+
+
+
+
+
+
+bisa
+
+
+
+
+
+membuat
+,
+mungkin
+-
+d
+
+harus
+
+
+
+2
+6
+
+
+
+
+
+dan
+
+harga
+
+
+di
+saya
+sebagai
+-
+nya
+
+ini
+
+
+
+0
+-
+dari
+
+dan
+
+
+
+dan
+ini
+
+anda
+
+
+0
+
+
+
+
+
+
+sangat
+
+
+
+
+
+sangat
+
+
+
+
+
+
+
+dan
+judi
+hari
+yang
+
+
+untuk
+untuk
+
+
+untuk
+dan
+
+,
+
+
+ini
+
+hal
+
+yang
+yang
+
+ini
+
+situs
+
+dari
+sangat
+-
+
+
+
+dari
+bisa
+
+
+
+,
+
+2
+0
+
+
+
+an
+
+lagi
+sudah
+
+
+sendiri
+
+yang
+-
+
+di
+yang
+dan
+
+situs
+0
+
+untuk
+hari
+
+ini
+di
+
+
+yang
+g
+
+
+
+
+
+
+
+
+
+
+,
+lagi
+
+0
+hari
+/
+kami
+
+-
+
+
+harus
+4
+-
+
+an
+
+,
+
+
+situs
+dan
+,
+
+untuk
+
+
+4
+
+
+
+
+saja
+
+
+
+
+
+-
+sebagai
+
+
+nya
+
+,
+yang
+
+ketika
+sendiri
+
+
+dilakukan
+
+
+harus
+.
+dan
+secara
+,
+bisa
+4
+nya
+
+
+masih
+"
+,
+trading
+
+dan
+
+
+
+berikut
+.
+dan
+0
+
+
+
+judi
+
+anak
+
+
+
+
+yang
+
+
+ini
+
+mencoba
+
+
+
+
+
+
+akan
+dan
+
+,
+
+
+
+tentang
+
+anda
+perlu
+
+jenis
+
+
+
+
+
+dan
+
+pun
+
+dari
+
+
+
+1
+salah
+9
+
+
+
+perlu
+
+
+yang
+
+
+ini
+
+ini
+
+situs
+
+
+l
+
+
+apa
+
+
+e
+
+7
+
+
+
+an
+hal
+"
+
+ini
+di
+
+
+
+
+
+
+
+
+
+
+perlu
+sama
+
+untuk
+
+untuk
+
+harga
+untuk
+t
+
+yang
+
+.
+
+an
+.
+sebagai
+untuk
+yang
+0
+,
+0
+
+hal
+
+
+
+
+uang
+.
+
+ter
+
+
+
+
+,
+anda
+
+
+kami
+hari
+
+
+
+1
+
+
+
+lain
+
+
+0
+dan
+
+
+dan
+
+0
+tentang
+untuk
+
+4
+
+
+sangat
+
+
+
+permainan
+sangat
+
+
+
+harga
+nya
+hari
+
+pada
+
+
+
+
+
+
+0
+
+dengan
+
+untuk
+
+
+-
+
+
+
+
+
+di
+bisa
+
+
+1
+
+
+1
+di
+
+1
+judi
+di
+0
+
+harus
+dan
+
+
+
+dengan
+anda
+
+
+
+
+salah
+dari
+,
+
+
+
+
+
+
+
+
+
+
+
+dari
+
+dari
+
+
+
+
+hal
+
+
+dari
+
+
+
+dengan
+ini
+
+situs
+
+
+
+lagi
+
+1
+0
+
+
+
+
+,
+situs
+
+tapi
+
+
+
+
+
+
+,
+
+2
+9
+
+
+yang
+
+dari
+di
+
+masih
+bisa
+
+tentang
+untuk
+dan
+1
+
+anda
+
+9
+
+
+
+tentang
+an
+
+yang
+
+2
+untuk
+dari
+
+
+ini
+
+
+
+dari
+-
+
+k
+
+
+
+
+
+
+yang
+
+dan
+
+
+anak
+anda
+
+dengan
+
+dari
+0
+
+,
+,
+t
+
+untuk
+
+yang
+rumah
+
+bisa
+sebagai
+
+tentang
+
+seperti
+yang
+
+lain
+dari
+1
+
+
+
+
+
+ini
+dan
+nya
+
+yang
+ketika
+
+–
+
+yang
+
+
+tentang
+
+
+
+ini
+
+
+
+
+orang
+-
+anda
+hari
+
+
+
+
+
+
+
+
+
+judi
+yang
+
+
+0
+
+bahwa
+
+ini
+
+nya
+saya
+saja
+,
+
+
+cara
+dan
+tidak
+
+
+
+
+tetapi
+
+
+
+bahwa
+
+
+ini
+l
+
+2
+dari
+-
+
+
+ini
+
+6
+yang
+-
+nya

predict_results.json

@@ -0,0 +1,12 @@
+{
+    "predict_gen_len": 1.0,
+    "predict_loss": 0.6874162554740906,
+    "predict_rouge1": 0.3088,
+    "predict_rouge2": 0.0,
+    "predict_rougeL": 0.3088,
+    "predict_rougeLsum": 0.3098,
+    "predict_runtime": 10559.874,
+    "predict_samples": 3737,
+    "predict_samples_per_second": 0.354,
+    "predict_steps_per_second": 0.011
+}

runs/Jul07_06-40-51_a94680512e46/events.out.tfevents.1720343058.a94680512e46.1849667.1

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cf6e1d650ce9b9eec6d805ff42d25f520f8ca43796ad2e4e420537bbae8a7479
+size 613

train_results.json

@@ -0,0 +1,9 @@
+{
+    "epoch": 5.0,
+    "total_flos": 5.60207031957504e+16,
+    "train_loss": 1.4239941215088436,
+    "train_runtime": 6465.3919,
+    "train_samples": 14290,
+    "train_samples_per_second": 11.051,
+    "train_steps_per_second": 0.691
+}

trainer_state.json

@@ -0,0 +1,130 @@
+{
+  "best_metric": null,
+  "best_model_checkpoint": null,
+  "epoch": 5.0,
+  "eval_steps": 500,
+  "global_step": 4470,
+  "is_hyper_param_search": false,
+  "is_local_process_zero": true,
+  "is_world_process_zero": true,
+  "log_history": [
+    {
+      "epoch": 1.0,
+      "grad_norm": 3.2107882499694824,
+      "learning_rate": 0.0008,
+      "loss": 2.436,
+      "step": 894
+    },
+    {
+      "epoch": 1.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 1.2680302858352661,
+      "eval_rouge1": 0.0305,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.0305,
+      "eval_rougeLsum": 0.0305,
+      "eval_runtime": 59.1776,
+      "eval_samples_per_second": 12.623,
+      "eval_steps_per_second": 0.406,
+      "step": 894
+    },
+    {
+      "epoch": 2.0,
+      "grad_norm": 2.9003331661224365,
+      "learning_rate": 0.0006,
+      "loss": 1.5097,
+      "step": 1788
+    },
+    {
+      "epoch": 2.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.9425563812255859,
+      "eval_rouge1": 0.0223,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.0223,
+      "eval_rougeLsum": 0.0223,
+      "eval_runtime": 62.6611,
+      "eval_samples_per_second": 11.921,
+      "eval_steps_per_second": 0.383,
+      "step": 1788
+    },
+    {
+      "epoch": 3.0,
+      "grad_norm": 3.4691579341888428,
+      "learning_rate": 0.0004,
+      "loss": 1.2078,
+      "step": 2682
+    },
+    {
+      "epoch": 3.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.7914846539497375,
+      "eval_rouge1": 0.1643,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.1641,
+      "eval_rougeLsum": 0.1639,
+      "eval_runtime": 62.5819,
+      "eval_samples_per_second": 11.936,
+      "eval_steps_per_second": 0.383,
+      "step": 2682
+    },
+    {
+      "epoch": 4.0,
+      "grad_norm": 3.1174557209014893,
+      "learning_rate": 0.0002,
+      "loss": 1.0371,
+      "step": 3576
+    },
+    {
+      "epoch": 4.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.7169661521911621,
+      "eval_rouge1": 0.2501,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.2524,
+      "eval_rougeLsum": 0.2507,
+      "eval_runtime": 61.1078,
+      "eval_samples_per_second": 12.224,
+      "eval_steps_per_second": 0.393,
+      "step": 3576
+    },
+    {
+      "epoch": 5.0,
+      "grad_norm": 2.035046100616455,
+      "learning_rate": 0.0,
+      "loss": 0.9294,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "eval_gen_len": 1.0,
+      "eval_loss": 0.6790085434913635,
+      "eval_rouge1": 0.304,
+      "eval_rouge2": 0.0,
+      "eval_rougeL": 0.3076,
+      "eval_rougeLsum": 0.3081,
+      "eval_runtime": 59.9431,
+      "eval_samples_per_second": 12.462,
+      "eval_steps_per_second": 0.4,
+      "step": 4470
+    },
+    {
+      "epoch": 5.0,
+      "step": 4470,
+      "total_flos": 5.60207031957504e+16,
+      "train_loss": 1.4239941215088436,
+      "train_runtime": 6465.3919,
+      "train_samples_per_second": 11.051,
+      "train_steps_per_second": 0.691
+    }
+  ],
+  "logging_steps": 500,
+  "max_steps": 4470,
+  "num_input_tokens_seen": 0,
+  "num_train_epochs": 5,
+  "save_steps": 500,
+  "total_flos": 5.60207031957504e+16,
+  "train_batch_size": 16,
+  "trial_name": null,
+  "trial_params": null
+}