{
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 3.0,
  "global_step": 375000,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.0,
      "learning_rate": 4.993333333333334e-05,
      "loss": 3.6172,
      "step": 500
    },
    {
      "epoch": 0.01,
      "learning_rate": 4.986666666666667e-05,
      "loss": 0.1999,
      "step": 1000
    },
    {
      "epoch": 0.01,
      "learning_rate": 4.9800000000000004e-05,
      "loss": 0.1635,
      "step": 1500
    },
    {
      "epoch": 0.02,
      "learning_rate": 4.973333333333334e-05,
      "loss": 0.1471,
      "step": 2000
    },
    {
      "epoch": 0.02,
      "learning_rate": 4.966666666666667e-05,
      "loss": 0.1319,
      "step": 2500
    },
    {
      "epoch": 0.02,
      "learning_rate": 4.96e-05,
      "loss": 0.1247,
      "step": 3000
    },
    {
      "epoch": 0.03,
      "learning_rate": 4.9533333333333336e-05,
      "loss": 0.1201,
      "step": 3500
    },
    {
      "epoch": 0.03,
      "learning_rate": 4.9466666666666665e-05,
      "loss": 0.1208,
      "step": 4000
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.94e-05,
      "loss": 0.1135,
      "step": 4500
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.933333333333334e-05,
      "loss": 0.111,
      "step": 5000
    },
    {
      "epoch": 0.04,
      "learning_rate": 4.926666666666667e-05,
      "loss": 0.1112,
      "step": 5500
    },
    {
      "epoch": 0.05,
      "learning_rate": 4.92e-05,
      "loss": 0.0982,
      "step": 6000
    },
    {
      "epoch": 0.05,
      "learning_rate": 4.913333333333334e-05,
      "loss": 0.0967,
      "step": 6500
    },
    {
      "epoch": 0.06,
      "learning_rate": 4.906666666666667e-05,
      "loss": 0.0941,
      "step": 7000
    },
    {
      "epoch": 0.06,
      "learning_rate": 4.9e-05,
      "loss": 0.097,
      "step": 7500
    },
    {
      "epoch": 0.06,
      "learning_rate": 4.8933333333333335e-05,
      "loss": 0.0937,
      "step": 8000
    },
    {
      "epoch": 0.07,
      "learning_rate": 4.886666666666667e-05,
      "loss": 0.0952,
      "step": 8500
    },
    {
      "epoch": 0.07,
      "learning_rate": 4.88e-05,
      "loss": 0.0866,
      "step": 9000
    },
    {
      "epoch": 0.08,
      "learning_rate": 4.8733333333333337e-05,
      "loss": 0.0895,
      "step": 9500
    },
    {
      "epoch": 0.08,
      "learning_rate": 4.866666666666667e-05,
      "loss": 0.0875,
      "step": 10000
    },
    {
      "epoch": 0.08,
      "learning_rate": 4.86e-05,
      "loss": 0.085,
      "step": 10500
    },
    {
      "epoch": 0.09,
      "learning_rate": 4.853333333333334e-05,
      "loss": 0.0904,
      "step": 11000
    },
    {
      "epoch": 0.09,
      "learning_rate": 4.8466666666666675e-05,
      "loss": 0.086,
      "step": 11500
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.8400000000000004e-05,
      "loss": 0.0863,
      "step": 12000
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.8333333333333334e-05,
      "loss": 0.0805,
      "step": 12500
    },
    {
      "epoch": 0.1,
      "learning_rate": 4.826666666666667e-05,
      "loss": 0.0776,
      "step": 13000
    },
    {
      "epoch": 0.11,
      "learning_rate": 4.82e-05,
      "loss": 0.0793,
      "step": 13500
    },
    {
      "epoch": 0.11,
      "learning_rate": 4.8133333333333336e-05,
      "loss": 0.0821,
      "step": 14000
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.806666666666667e-05,
      "loss": 0.0729,
      "step": 14500
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.8e-05,
      "loss": 0.0717,
      "step": 15000
    },
    {
      "epoch": 0.12,
      "learning_rate": 4.793333333333334e-05,
      "loss": 0.0784,
      "step": 15500
    },
    {
      "epoch": 0.13,
      "learning_rate": 4.7866666666666674e-05,
      "loss": 0.0769,
      "step": 16000
    },
    {
      "epoch": 0.13,
      "learning_rate": 4.78e-05,
      "loss": 0.0785,
      "step": 16500
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.773333333333333e-05,
      "loss": 0.072,
      "step": 17000
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.766666666666667e-05,
      "loss": 0.0715,
      "step": 17500
    },
    {
      "epoch": 0.14,
      "learning_rate": 4.76e-05,
      "loss": 0.0756,
      "step": 18000
    },
    {
      "epoch": 0.15,
      "learning_rate": 4.7533333333333334e-05,
      "loss": 0.0762,
      "step": 18500
    },
    {
      "epoch": 0.15,
      "learning_rate": 4.746666666666667e-05,
      "loss": 0.0709,
      "step": 19000
    },
    {
      "epoch": 0.16,
      "learning_rate": 4.74e-05,
      "loss": 0.0748,
      "step": 19500
    },
    {
      "epoch": 0.16,
      "learning_rate": 4.7333333333333336e-05,
      "loss": 0.0711,
      "step": 20000
    },
    {
      "epoch": 0.16,
      "learning_rate": 4.726666666666667e-05,
      "loss": 0.0672,
      "step": 20500
    },
    {
      "epoch": 0.17,
      "learning_rate": 4.72e-05,
      "loss": 0.0702,
      "step": 21000
    },
    {
      "epoch": 0.17,
      "learning_rate": 4.713333333333333e-05,
      "loss": 0.0695,
      "step": 21500
    },
    {
      "epoch": 0.18,
      "learning_rate": 4.706666666666667e-05,
      "loss": 0.07,
      "step": 22000
    },
    {
      "epoch": 0.18,
      "learning_rate": 4.7e-05,
      "loss": 0.0665,
      "step": 22500
    },
    {
      "epoch": 0.18,
      "learning_rate": 4.6933333333333333e-05,
      "loss": 0.0664,
      "step": 23000
    },
    {
      "epoch": 0.19,
      "learning_rate": 4.686666666666667e-05,
      "loss": 0.0697,
      "step": 23500
    },
    {
      "epoch": 0.19,
      "learning_rate": 4.6800000000000006e-05,
      "loss": 0.0691,
      "step": 24000
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.6733333333333335e-05,
      "loss": 0.0662,
      "step": 24500
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.666666666666667e-05,
      "loss": 0.0659,
      "step": 25000
    },
    {
      "epoch": 0.2,
      "learning_rate": 4.660000000000001e-05,
      "loss": 0.0671,
      "step": 25500
    },
    {
      "epoch": 0.21,
      "learning_rate": 4.653333333333334e-05,
      "loss": 0.0646,
      "step": 26000
    },
    {
      "epoch": 0.21,
      "learning_rate": 4.646666666666667e-05,
      "loss": 0.0663,
      "step": 26500
    },
    {
      "epoch": 0.22,
      "learning_rate": 4.64e-05,
      "loss": 0.0671,
      "step": 27000
    },
    {
      "epoch": 0.22,
      "learning_rate": 4.633333333333333e-05,
      "loss": 0.0642,
      "step": 27500
    },
    {
      "epoch": 0.22,
      "learning_rate": 4.626666666666667e-05,
      "loss": 0.0623,
      "step": 28000
    },
    {
      "epoch": 0.23,
      "learning_rate": 4.6200000000000005e-05,
      "loss": 0.0631,
      "step": 28500
    },
    {
      "epoch": 0.23,
      "learning_rate": 4.6133333333333334e-05,
      "loss": 0.0595,
      "step": 29000
    },
    {
      "epoch": 0.24,
      "learning_rate": 4.606666666666667e-05,
      "loss": 0.0638,
      "step": 29500
    },
    {
      "epoch": 0.24,
      "learning_rate": 4.600000000000001e-05,
      "loss": 0.0589,
      "step": 30000
    },
    {
      "epoch": 0.24,
      "learning_rate": 4.5933333333333336e-05,
      "loss": 0.0596,
      "step": 30500
    },
    {
      "epoch": 0.25,
      "learning_rate": 4.5866666666666666e-05,
      "loss": 0.0621,
      "step": 31000
    },
    {
      "epoch": 0.25,
      "learning_rate": 4.58e-05,
      "loss": 0.0598,
      "step": 31500
    },
    {
      "epoch": 0.26,
      "learning_rate": 4.573333333333333e-05,
      "loss": 0.0619,
      "step": 32000
    },
    {
      "epoch": 0.26,
      "learning_rate": 4.566666666666667e-05,
      "loss": 0.0625,
      "step": 32500
    },
    {
      "epoch": 0.26,
      "learning_rate": 4.5600000000000004e-05,
      "loss": 0.0585,
      "step": 33000
    },
    {
      "epoch": 0.27,
      "learning_rate": 4.553333333333333e-05,
      "loss": 0.061,
      "step": 33500
    },
    {
      "epoch": 0.27,
      "learning_rate": 4.546666666666667e-05,
      "loss": 0.0636,
      "step": 34000
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.5400000000000006e-05,
      "loss": 0.0551,
      "step": 34500
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.5333333333333335e-05,
      "loss": 0.0573,
      "step": 35000
    },
    {
      "epoch": 0.28,
      "learning_rate": 4.526666666666667e-05,
      "loss": 0.0601,
      "step": 35500
    },
    {
      "epoch": 0.29,
      "learning_rate": 4.52e-05,
      "loss": 0.058,
      "step": 36000
    },
    {
      "epoch": 0.29,
      "learning_rate": 4.513333333333333e-05,
      "loss": 0.0585,
      "step": 36500
    },
    {
      "epoch": 0.3,
      "learning_rate": 4.5066666666666667e-05,
      "loss": 0.0581,
      "step": 37000
    },
    {
      "epoch": 0.3,
      "learning_rate": 4.5e-05,
      "loss": 0.0558,
      "step": 37500
    },
    {
      "epoch": 0.3,
      "learning_rate": 4.493333333333333e-05,
      "loss": 0.0598,
      "step": 38000
    },
    {
      "epoch": 0.31,
      "learning_rate": 4.486666666666667e-05,
      "loss": 0.0561,
      "step": 38500
    },
    {
      "epoch": 0.31,
      "learning_rate": 4.4800000000000005e-05,
      "loss": 0.0566,
      "step": 39000
    },
    {
      "epoch": 0.32,
      "learning_rate": 4.473333333333334e-05,
      "loss": 0.0569,
      "step": 39500
    },
    {
      "epoch": 0.32,
      "learning_rate": 4.466666666666667e-05,
      "loss": 0.0578,
      "step": 40000
    },
    {
      "epoch": 0.32,
      "learning_rate": 4.46e-05,
      "loss": 0.0607,
      "step": 40500
    },
    {
      "epoch": 0.33,
      "learning_rate": 4.4533333333333336e-05,
      "loss": 0.0557,
      "step": 41000
    },
    {
      "epoch": 0.33,
      "learning_rate": 4.4466666666666666e-05,
      "loss": 0.0578,
      "step": 41500
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.44e-05,
      "loss": 0.0563,
      "step": 42000
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.433333333333334e-05,
      "loss": 0.0562,
      "step": 42500
    },
    {
      "epoch": 0.34,
      "learning_rate": 4.426666666666667e-05,
      "loss": 0.0575,
      "step": 43000
    },
    {
      "epoch": 0.35,
      "learning_rate": 4.4200000000000004e-05,
      "loss": 0.055,
      "step": 43500
    },
    {
      "epoch": 0.35,
      "learning_rate": 4.413333333333334e-05,
      "loss": 0.0571,
      "step": 44000
    },
    {
      "epoch": 0.36,
      "learning_rate": 4.406666666666667e-05,
      "loss": 0.0571,
      "step": 44500
    },
    {
      "epoch": 0.36,
      "learning_rate": 4.4000000000000006e-05,
      "loss": 0.0532,
      "step": 45000
    },
    {
      "epoch": 0.36,
      "learning_rate": 4.3933333333333335e-05,
      "loss": 0.0545,
      "step": 45500
    },
    {
      "epoch": 0.37,
      "learning_rate": 4.3866666666666665e-05,
      "loss": 0.0552,
      "step": 46000
    },
    {
      "epoch": 0.37,
      "learning_rate": 4.38e-05,
      "loss": 0.0547,
      "step": 46500
    },
    {
      "epoch": 0.38,
      "learning_rate": 4.373333333333334e-05,
      "loss": 0.0518,
      "step": 47000
    },
    {
      "epoch": 0.38,
      "learning_rate": 4.3666666666666666e-05,
      "loss": 0.0539,
      "step": 47500
    },
    {
      "epoch": 0.38,
      "learning_rate": 4.36e-05,
      "loss": 0.0508,
      "step": 48000
    },
    {
      "epoch": 0.39,
      "learning_rate": 4.353333333333334e-05,
      "loss": 0.0532,
      "step": 48500
    },
    {
      "epoch": 0.39,
      "learning_rate": 4.346666666666667e-05,
      "loss": 0.0546,
      "step": 49000
    },
    {
      "epoch": 0.4,
      "learning_rate": 4.3400000000000005e-05,
      "loss": 0.0505,
      "step": 49500
    },
    {
      "epoch": 0.4,
      "learning_rate": 4.3333333333333334e-05,
      "loss": 0.0525,
      "step": 50000
    },
    {
      "epoch": 0.4,
      "learning_rate": 4.3266666666666664e-05,
      "loss": 0.0538,
      "step": 50500
    },
    {
      "epoch": 0.41,
      "learning_rate": 4.32e-05,
      "loss": 0.0514,
      "step": 51000
    },
    {
      "epoch": 0.41,
      "learning_rate": 4.3133333333333336e-05,
      "loss": 0.0546,
      "step": 51500
    },
    {
      "epoch": 0.42,
      "learning_rate": 4.3066666666666665e-05,
      "loss": 0.0508,
      "step": 52000
    },
    {
      "epoch": 0.42,
      "learning_rate": 4.3e-05,
      "loss": 0.0489,
      "step": 52500
    },
    {
      "epoch": 0.42,
      "learning_rate": 4.293333333333334e-05,
      "loss": 0.0513,
      "step": 53000
    },
    {
      "epoch": 0.43,
      "learning_rate": 4.286666666666667e-05,
      "loss": 0.0503,
      "step": 53500
    },
    {
      "epoch": 0.43,
      "learning_rate": 4.2800000000000004e-05,
      "loss": 0.0495,
      "step": 54000
    },
    {
      "epoch": 0.44,
      "learning_rate": 4.273333333333333e-05,
      "loss": 0.0514,
      "step": 54500
    },
    {
      "epoch": 0.44,
      "learning_rate": 4.266666666666667e-05,
      "loss": 0.05,
      "step": 55000
    },
    {
      "epoch": 0.44,
      "learning_rate": 4.26e-05,
      "loss": 0.0547,
      "step": 55500
    },
    {
      "epoch": 0.45,
      "learning_rate": 4.2533333333333335e-05,
      "loss": 0.0482,
      "step": 56000
    },
    {
      "epoch": 0.45,
      "learning_rate": 4.246666666666667e-05,
      "loss": 0.0528,
      "step": 56500
    },
    {
      "epoch": 0.46,
      "learning_rate": 4.24e-05,
      "loss": 0.0497,
      "step": 57000
    },
    {
      "epoch": 0.46,
      "learning_rate": 4.233333333333334e-05,
      "loss": 0.0443,
      "step": 57500
    },
    {
      "epoch": 0.46,
      "learning_rate": 4.226666666666667e-05,
      "loss": 0.0527,
      "step": 58000
    },
    {
      "epoch": 0.47,
      "learning_rate": 4.22e-05,
      "loss": 0.0468,
      "step": 58500
    },
    {
      "epoch": 0.47,
      "learning_rate": 4.213333333333334e-05,
      "loss": 0.0485,
      "step": 59000
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.206666666666667e-05,
      "loss": 0.05,
      "step": 59500
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.2e-05,
      "loss": 0.0488,
      "step": 60000
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.1933333333333334e-05,
      "loss": 0.049,
      "step": 60500
    },
    {
      "epoch": 0.49,
      "learning_rate": 4.186666666666667e-05,
      "loss": 0.046,
      "step": 61000
    },
    {
      "epoch": 0.49,
      "learning_rate": 4.18e-05,
      "loss": 0.0492,
      "step": 61500
    },
    {
      "epoch": 0.5,
      "learning_rate": 4.1733333333333336e-05,
      "loss": 0.0488,
      "step": 62000
    },
    {
      "epoch": 0.5,
      "learning_rate": 4.166666666666667e-05,
      "loss": 0.0494,
      "step": 62500
    },
    {
      "epoch": 0.5,
      "learning_rate": 4.16e-05,
      "loss": 0.05,
      "step": 63000
    },
    {
      "epoch": 0.51,
      "learning_rate": 4.153333333333334e-05,
      "loss": 0.0503,
      "step": 63500
    },
    {
      "epoch": 0.51,
      "learning_rate": 4.146666666666667e-05,
      "loss": 0.046,
      "step": 64000
    },
    {
      "epoch": 0.52,
      "learning_rate": 4.14e-05,
      "loss": 0.0486,
      "step": 64500
    },
    {
      "epoch": 0.52,
      "learning_rate": 4.133333333333333e-05,
      "loss": 0.0487,
      "step": 65000
    },
    {
      "epoch": 0.52,
      "learning_rate": 4.126666666666667e-05,
      "loss": 0.0494,
      "step": 65500
    },
    {
      "epoch": 0.53,
      "learning_rate": 4.12e-05,
      "loss": 0.0478,
      "step": 66000
    },
    {
      "epoch": 0.53,
      "learning_rate": 4.1133333333333335e-05,
      "loss": 0.0468,
      "step": 66500
    },
    {
      "epoch": 0.54,
      "learning_rate": 4.106666666666667e-05,
      "loss": 0.0524,
      "step": 67000
    },
    {
      "epoch": 0.54,
      "learning_rate": 4.1e-05,
      "loss": 0.0493,
      "step": 67500
    },
    {
      "epoch": 0.54,
      "learning_rate": 4.093333333333334e-05,
      "loss": 0.0513,
      "step": 68000
    },
    {
      "epoch": 0.55,
      "learning_rate": 4.086666666666667e-05,
      "loss": 0.0475,
      "step": 68500
    },
    {
      "epoch": 0.55,
      "learning_rate": 4.08e-05,
      "loss": 0.046,
      "step": 69000
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.073333333333333e-05,
      "loss": 0.0477,
      "step": 69500
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.066666666666667e-05,
      "loss": 0.0475,
      "step": 70000
    },
    {
      "epoch": 0.56,
      "learning_rate": 4.0600000000000004e-05,
      "loss": 0.0431,
      "step": 70500
    },
    {
      "epoch": 0.57,
      "learning_rate": 4.0533333333333334e-05,
      "loss": 0.046,
      "step": 71000
    },
    {
      "epoch": 0.57,
      "learning_rate": 4.046666666666667e-05,
      "loss": 0.0427,
      "step": 71500
    },
    {
      "epoch": 0.58,
      "learning_rate": 4.0400000000000006e-05,
      "loss": 0.0478,
      "step": 72000
    },
    {
      "epoch": 0.58,
      "learning_rate": 4.0333333333333336e-05,
      "loss": 0.048,
      "step": 72500
    },
    {
      "epoch": 0.58,
      "learning_rate": 4.026666666666667e-05,
      "loss": 0.0452,
      "step": 73000
    },
    {
      "epoch": 0.59,
      "learning_rate": 4.02e-05,
      "loss": 0.0467,
      "step": 73500
    },
    {
      "epoch": 0.59,
      "learning_rate": 4.013333333333333e-05,
      "loss": 0.051,
      "step": 74000
    },
    {
      "epoch": 0.6,
      "learning_rate": 4.006666666666667e-05,
      "loss": 0.0464,
      "step": 74500
    },
    {
      "epoch": 0.6,
      "learning_rate": 4e-05,
      "loss": 0.0462,
      "step": 75000
    },
    {
      "epoch": 0.6,
      "learning_rate": 3.993333333333333e-05,
      "loss": 0.0462,
      "step": 75500
    },
    {
      "epoch": 0.61,
      "learning_rate": 3.986666666666667e-05,
      "loss": 0.0441,
      "step": 76000
    },
    {
      "epoch": 0.61,
      "learning_rate": 3.9800000000000005e-05,
      "loss": 0.0446,
      "step": 76500
    },
    {
      "epoch": 0.62,
      "learning_rate": 3.9733333333333335e-05,
      "loss": 0.0484,
      "step": 77000
    },
    {
      "epoch": 0.62,
      "learning_rate": 3.966666666666667e-05,
      "loss": 0.0468,
      "step": 77500
    },
    {
      "epoch": 0.62,
      "learning_rate": 3.960000000000001e-05,
      "loss": 0.0441,
      "step": 78000
    },
    {
      "epoch": 0.63,
      "learning_rate": 3.9533333333333337e-05,
      "loss": 0.0421,
      "step": 78500
    },
    {
      "epoch": 0.63,
      "learning_rate": 3.9466666666666666e-05,
      "loss": 0.0425,
      "step": 79000
    },
    {
      "epoch": 0.64,
      "learning_rate": 3.94e-05,
      "loss": 0.0464,
      "step": 79500
    },
    {
      "epoch": 0.64,
      "learning_rate": 3.933333333333333e-05,
      "loss": 0.044,
      "step": 80000
    },
    {
      "epoch": 0.64,
      "learning_rate": 3.926666666666667e-05,
      "loss": 0.0427,
      "step": 80500
    },
    {
      "epoch": 0.65,
      "learning_rate": 3.9200000000000004e-05,
      "loss": 0.0453,
      "step": 81000
    },
    {
      "epoch": 0.65,
      "learning_rate": 3.9133333333333334e-05,
      "loss": 0.0425,
      "step": 81500
    },
    {
      "epoch": 0.66,
      "learning_rate": 3.906666666666667e-05,
      "loss": 0.0442,
      "step": 82000
    },
    {
      "epoch": 0.66,
      "learning_rate": 3.9000000000000006e-05,
      "loss": 0.0431,
      "step": 82500
    },
    {
      "epoch": 0.66,
      "learning_rate": 3.8933333333333336e-05,
      "loss": 0.0441,
      "step": 83000
    },
    {
      "epoch": 0.67,
      "learning_rate": 3.8866666666666665e-05,
      "loss": 0.043,
      "step": 83500
    },
    {
      "epoch": 0.67,
      "learning_rate": 3.88e-05,
      "loss": 0.043,
      "step": 84000
    },
    {
      "epoch": 0.68,
      "learning_rate": 3.873333333333333e-05,
      "loss": 0.0425,
      "step": 84500
    },
    {
      "epoch": 0.68,
      "learning_rate": 3.866666666666667e-05,
      "loss": 0.0422,
      "step": 85000
    },
    {
      "epoch": 0.68,
      "learning_rate": 3.86e-05,
      "loss": 0.0415,
      "step": 85500
    },
    {
      "epoch": 0.69,
      "learning_rate": 3.853333333333334e-05,
      "loss": 0.0454,
      "step": 86000
    },
    {
      "epoch": 0.69,
      "learning_rate": 3.846666666666667e-05,
      "loss": 0.0459,
      "step": 86500
    },
    {
      "epoch": 0.7,
      "learning_rate": 3.8400000000000005e-05,
      "loss": 0.0425,
      "step": 87000
    },
    {
      "epoch": 0.7,
      "learning_rate": 3.8333333333333334e-05,
      "loss": 0.0424,
      "step": 87500
    },
    {
      "epoch": 0.7,
      "learning_rate": 3.8266666666666664e-05,
      "loss": 0.0432,
      "step": 88000
    },
    {
      "epoch": 0.71,
      "learning_rate": 3.82e-05,
      "loss": 0.0443,
      "step": 88500
    },
    {
      "epoch": 0.71,
      "learning_rate": 3.8133333333333336e-05,
      "loss": 0.0438,
      "step": 89000
    },
    {
      "epoch": 0.72,
      "learning_rate": 3.8066666666666666e-05,
      "loss": 0.0423,
      "step": 89500
    },
    {
      "epoch": 0.72,
      "learning_rate": 3.8e-05,
      "loss": 0.0413,
      "step": 90000
    },
    {
      "epoch": 0.72,
      "learning_rate": 3.793333333333334e-05,
      "loss": 0.0437,
      "step": 90500
    },
    {
      "epoch": 0.73,
      "learning_rate": 3.786666666666667e-05,
      "loss": 0.0427,
      "step": 91000
    },
    {
      "epoch": 0.73,
      "learning_rate": 3.7800000000000004e-05,
      "loss": 0.0413,
      "step": 91500
    },
    {
      "epoch": 0.74,
      "learning_rate": 3.773333333333334e-05,
      "loss": 0.0397,
      "step": 92000
    },
    {
      "epoch": 0.74,
      "learning_rate": 3.766666666666667e-05,
      "loss": 0.042,
      "step": 92500
    },
    {
      "epoch": 0.74,
      "learning_rate": 3.76e-05,
      "loss": 0.0449,
      "step": 93000
    },
    {
      "epoch": 0.75,
      "learning_rate": 3.7533333333333335e-05,
      "loss": 0.0438,
      "step": 93500
    },
    {
      "epoch": 0.75,
      "learning_rate": 3.7466666666666665e-05,
      "loss": 0.042,
      "step": 94000
    },
    {
      "epoch": 0.76,
      "learning_rate": 3.74e-05,
      "loss": 0.0456,
      "step": 94500
    },
    {
      "epoch": 0.76,
      "learning_rate": 3.733333333333334e-05,
      "loss": 0.0436,
      "step": 95000
    },
    {
      "epoch": 0.76,
      "learning_rate": 3.726666666666667e-05,
      "loss": 0.0381,
      "step": 95500
    },
    {
      "epoch": 0.77,
      "learning_rate": 3.72e-05,
      "loss": 0.0418,
      "step": 96000
    },
    {
      "epoch": 0.77,
      "learning_rate": 3.713333333333334e-05,
      "loss": 0.0429,
      "step": 96500
    },
    {
      "epoch": 0.78,
      "learning_rate": 3.706666666666667e-05,
      "loss": 0.0418,
      "step": 97000
    },
    {
      "epoch": 0.78,
      "learning_rate": 3.7e-05,
      "loss": 0.0401,
      "step": 97500
    },
    {
      "epoch": 0.78,
      "learning_rate": 3.6933333333333334e-05,
      "loss": 0.0427,
      "step": 98000
    },
    {
      "epoch": 0.79,
      "learning_rate": 3.6866666666666664e-05,
      "loss": 0.0401,
      "step": 98500
    },
    {
      "epoch": 0.79,
      "learning_rate": 3.68e-05,
      "loss": 0.0415,
      "step": 99000
    },
    {
      "epoch": 0.8,
      "learning_rate": 3.6733333333333336e-05,
      "loss": 0.0419,
      "step": 99500
    },
    {
      "epoch": 0.8,
      "learning_rate": 3.6666666666666666e-05,
      "loss": 0.0417,
      "step": 100000
    },
    {
      "epoch": 0.8,
      "learning_rate": 3.66e-05,
      "loss": 0.0418,
      "step": 100500
    },
    {
      "epoch": 0.81,
      "learning_rate": 3.653333333333334e-05,
      "loss": 0.041,
      "step": 101000
    },
    {
      "epoch": 0.81,
      "learning_rate": 3.646666666666667e-05,
      "loss": 0.0414,
      "step": 101500
    },
    {
      "epoch": 0.82,
      "learning_rate": 3.6400000000000004e-05,
      "loss": 0.0437,
      "step": 102000
    },
    {
      "epoch": 0.82,
      "learning_rate": 3.633333333333333e-05,
      "loss": 0.0392,
      "step": 102500
    },
    {
      "epoch": 0.82,
      "learning_rate": 3.626666666666667e-05,
      "loss": 0.0425,
      "step": 103000
    },
    {
      "epoch": 0.83,
      "learning_rate": 3.62e-05,
      "loss": 0.039,
      "step": 103500
    },
    {
      "epoch": 0.83,
      "learning_rate": 3.6133333333333335e-05,
      "loss": 0.0417,
      "step": 104000
    },
    {
      "epoch": 0.84,
      "learning_rate": 3.606666666666667e-05,
      "loss": 0.0407,
      "step": 104500
    },
    {
      "epoch": 0.84,
      "learning_rate": 3.6e-05,
      "loss": 0.0438,
      "step": 105000
    },
    {
      "epoch": 0.84,
      "learning_rate": 3.593333333333334e-05,
      "loss": 0.0423,
      "step": 105500
    },
    {
      "epoch": 0.85,
      "learning_rate": 3.586666666666667e-05,
      "loss": 0.0409,
      "step": 106000
    },
    {
      "epoch": 0.85,
      "learning_rate": 3.58e-05,
      "loss": 0.0427,
      "step": 106500
    },
    {
      "epoch": 0.86,
      "learning_rate": 3.573333333333333e-05,
      "loss": 0.042,
      "step": 107000
    },
    {
      "epoch": 0.86,
      "learning_rate": 3.566666666666667e-05,
      "loss": 0.0404,
      "step": 107500
    },
    {
      "epoch": 0.86,
      "learning_rate": 3.56e-05,
      "loss": 0.0412,
      "step": 108000
    },
    {
      "epoch": 0.87,
      "learning_rate": 3.5533333333333334e-05,
      "loss": 0.0412,
      "step": 108500
    },
    {
      "epoch": 0.87,
      "learning_rate": 3.546666666666667e-05,
      "loss": 0.04,
      "step": 109000
    },
    {
      "epoch": 0.88,
      "learning_rate": 3.54e-05,
      "loss": 0.0387,
      "step": 109500
    },
    {
      "epoch": 0.88,
      "learning_rate": 3.5333333333333336e-05,
      "loss": 0.0404,
      "step": 110000
    },
    {
      "epoch": 0.88,
      "learning_rate": 3.526666666666667e-05,
      "loss": 0.0424,
      "step": 110500
    },
    {
      "epoch": 0.89,
      "learning_rate": 3.52e-05,
      "loss": 0.0409,
      "step": 111000
    },
    {
      "epoch": 0.89,
      "learning_rate": 3.513333333333334e-05,
      "loss": 0.0417,
      "step": 111500
    },
    {
      "epoch": 0.9,
      "learning_rate": 3.506666666666667e-05,
      "loss": 0.0423,
      "step": 112000
    },
    {
      "epoch": 0.9,
      "learning_rate": 3.5e-05,
      "loss": 0.0419,
      "step": 112500
    },
    {
      "epoch": 0.9,
      "learning_rate": 3.493333333333333e-05,
      "loss": 0.0393,
      "step": 113000
    },
    {
      "epoch": 0.91,
      "learning_rate": 3.486666666666667e-05,
      "loss": 0.0383,
      "step": 113500
    },
    {
      "epoch": 0.91,
      "learning_rate": 3.48e-05,
      "loss": 0.0431,
      "step": 114000
    },
    {
      "epoch": 0.92,
      "learning_rate": 3.4733333333333335e-05,
      "loss": 0.0383,
      "step": 114500
    },
    {
      "epoch": 0.92,
      "learning_rate": 3.466666666666667e-05,
      "loss": 0.0426,
      "step": 115000
    },
    {
      "epoch": 0.92,
      "learning_rate": 3.46e-05,
      "loss": 0.0401,
      "step": 115500
    },
    {
      "epoch": 0.93,
      "learning_rate": 3.453333333333334e-05,
      "loss": 0.041,
      "step": 116000
    },
    {
      "epoch": 0.93,
      "learning_rate": 3.4466666666666666e-05,
      "loss": 0.0429,
      "step": 116500
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.4399999999999996e-05,
      "loss": 0.0398,
      "step": 117000
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.433333333333333e-05,
      "loss": 0.0383,
      "step": 117500
    },
    {
      "epoch": 0.94,
      "learning_rate": 3.426666666666667e-05,
      "loss": 0.0407,
      "step": 118000
    },
    {
      "epoch": 0.95,
      "learning_rate": 3.4200000000000005e-05,
      "loss": 0.0371,
      "step": 118500
    },
    {
      "epoch": 0.95,
      "learning_rate": 3.4133333333333334e-05,
      "loss": 0.0402,
      "step": 119000
    },
    {
      "epoch": 0.96,
      "learning_rate": 3.406666666666667e-05,
      "loss": 0.0412,
      "step": 119500
    },
    {
      "epoch": 0.96,
      "learning_rate": 3.4000000000000007e-05,
      "loss": 0.0396,
      "step": 120000
    },
    {
      "epoch": 0.96,
      "learning_rate": 3.3933333333333336e-05,
      "loss": 0.0386,
      "step": 120500
    },
    {
      "epoch": 0.97,
      "learning_rate": 3.3866666666666665e-05,
      "loss": 0.0406,
      "step": 121000
    },
    {
      "epoch": 0.97,
      "learning_rate": 3.38e-05,
      "loss": 0.0368,
      "step": 121500
    },
    {
      "epoch": 0.98,
      "learning_rate": 3.373333333333333e-05,
      "loss": 0.0396,
      "step": 122000
    },
    {
      "epoch": 0.98,
      "learning_rate": 3.366666666666667e-05,
      "loss": 0.0389,
      "step": 122500
    },
    {
      "epoch": 0.98,
      "learning_rate": 3.3600000000000004e-05,
      "loss": 0.0422,
      "step": 123000
    },
    {
      "epoch": 0.99,
      "learning_rate": 3.353333333333333e-05,
      "loss": 0.043,
      "step": 123500
    },
    {
      "epoch": 0.99,
      "learning_rate": 3.346666666666667e-05,
      "loss": 0.0372,
      "step": 124000
    },
    {
      "epoch": 1.0,
      "learning_rate": 3.3400000000000005e-05,
      "loss": 0.0375,
      "step": 124500
    },
    {
      "epoch": 1.0,
      "learning_rate": 3.3333333333333335e-05,
      "loss": 0.0425,
      "step": 125000
    },
    {
      "epoch": 1.0,
      "learning_rate": 3.326666666666667e-05,
      "loss": 0.0318,
      "step": 125500
    },
    {
      "epoch": 1.01,
      "learning_rate": 3.32e-05,
      "loss": 0.0342,
      "step": 126000
    },
    {
      "epoch": 1.01,
      "learning_rate": 3.313333333333333e-05,
      "loss": 0.033,
      "step": 126500
    },
    {
      "epoch": 1.02,
      "learning_rate": 3.3066666666666666e-05,
      "loss": 0.0306,
      "step": 127000
    },
    {
      "epoch": 1.02,
      "learning_rate": 3.3e-05,
      "loss": 0.0305,
      "step": 127500
    },
    {
      "epoch": 1.02,
      "learning_rate": 3.293333333333333e-05,
      "loss": 0.0323,
      "step": 128000
    },
    {
      "epoch": 1.03,
      "learning_rate": 3.286666666666667e-05,
      "loss": 0.0314,
      "step": 128500
    },
    {
      "epoch": 1.03,
      "learning_rate": 3.2800000000000004e-05,
      "loss": 0.0333,
      "step": 129000
    },
    {
      "epoch": 1.04,
      "learning_rate": 3.2733333333333334e-05,
      "loss": 0.0347,
      "step": 129500
    },
    {
      "epoch": 1.04,
      "learning_rate": 3.266666666666667e-05,
      "loss": 0.0318,
      "step": 130000
    },
    {
      "epoch": 1.04,
      "learning_rate": 3.26e-05,
      "loss": 0.0345,
      "step": 130500
    },
    {
      "epoch": 1.05,
      "learning_rate": 3.253333333333333e-05,
      "loss": 0.0334,
      "step": 131000
    },
    {
      "epoch": 1.05,
      "learning_rate": 3.2466666666666665e-05,
      "loss": 0.0304,
      "step": 131500
    },
    {
      "epoch": 1.06,
      "learning_rate": 3.24e-05,
      "loss": 0.0313,
      "step": 132000
    },
    {
      "epoch": 1.06,
      "learning_rate": 3.233333333333333e-05,
      "loss": 0.0329,
      "step": 132500
    },
    {
      "epoch": 1.06,
      "learning_rate": 3.226666666666667e-05,
      "loss": 0.0304,
      "step": 133000
    },
    {
      "epoch": 1.07,
      "learning_rate": 3.2200000000000003e-05,
      "loss": 0.0285,
      "step": 133500
    },
    {
      "epoch": 1.07,
      "learning_rate": 3.213333333333334e-05,
      "loss": 0.0286,
      "step": 134000
    },
    {
      "epoch": 1.08,
      "learning_rate": 3.206666666666667e-05,
      "loss": 0.0321,
      "step": 134500
    },
    {
      "epoch": 1.08,
      "learning_rate": 3.2000000000000005e-05,
      "loss": 0.0318,
      "step": 135000
    },
    {
      "epoch": 1.08,
      "learning_rate": 3.1933333333333335e-05,
      "loss": 0.0341,
      "step": 135500
    },
    {
      "epoch": 1.09,
      "learning_rate": 3.1866666666666664e-05,
      "loss": 0.0318,
      "step": 136000
    },
    {
      "epoch": 1.09,
      "learning_rate": 3.18e-05,
      "loss": 0.0337,
      "step": 136500
    },
    {
      "epoch": 1.1,
      "learning_rate": 3.173333333333334e-05,
      "loss": 0.0333,
      "step": 137000
    },
    {
      "epoch": 1.1,
      "learning_rate": 3.1666666666666666e-05,
      "loss": 0.0331,
      "step": 137500
    },
    {
      "epoch": 1.1,
      "learning_rate": 3.16e-05,
      "loss": 0.0328,
      "step": 138000
    },
    {
      "epoch": 1.11,
      "learning_rate": 3.153333333333334e-05,
      "loss": 0.0305,
      "step": 138500
    },
    {
      "epoch": 1.11,
      "learning_rate": 3.146666666666667e-05,
      "loss": 0.0312,
      "step": 139000
    },
    {
      "epoch": 1.12,
      "learning_rate": 3.1400000000000004e-05,
      "loss": 0.0321,
      "step": 139500
    },
    {
      "epoch": 1.12,
      "learning_rate": 3.1333333333333334e-05,
      "loss": 0.0306,
      "step": 140000
    },
    {
      "epoch": 1.12,
      "learning_rate": 3.126666666666666e-05,
      "loss": 0.0329,
      "step": 140500
    },
    {
      "epoch": 1.13,
      "learning_rate": 3.12e-05,
      "loss": 0.0331,
      "step": 141000
    },
    {
      "epoch": 1.13,
      "learning_rate": 3.1133333333333336e-05,
      "loss": 0.0314,
      "step": 141500
    },
    {
      "epoch": 1.14,
      "learning_rate": 3.1066666666666665e-05,
      "loss": 0.0321,
      "step": 142000
    },
    {
      "epoch": 1.14,
      "learning_rate": 3.1e-05,
      "loss": 0.0316,
      "step": 142500
    },
    {
      "epoch": 1.14,
      "learning_rate": 3.093333333333334e-05,
      "loss": 0.0311,
      "step": 143000
    },
    {
      "epoch": 1.15,
      "learning_rate": 3.086666666666667e-05,
      "loss": 0.0304,
      "step": 143500
    },
    {
      "epoch": 1.15,
      "learning_rate": 3.08e-05,
      "loss": 0.0324,
      "step": 144000
    },
    {
      "epoch": 1.16,
      "learning_rate": 3.073333333333334e-05,
      "loss": 0.0306,
      "step": 144500
    },
    {
      "epoch": 1.16,
      "learning_rate": 3.066666666666667e-05,
      "loss": 0.03,
      "step": 145000
    },
    {
      "epoch": 1.16,
      "learning_rate": 3.06e-05,
      "loss": 0.0329,
      "step": 145500
    },
    {
      "epoch": 1.17,
      "learning_rate": 3.0533333333333335e-05,
      "loss": 0.0325,
      "step": 146000
    },
    {
      "epoch": 1.17,
      "learning_rate": 3.0466666666666664e-05,
      "loss": 0.0308,
      "step": 146500
    },
    {
      "epoch": 1.18,
      "learning_rate": 3.04e-05,
      "loss": 0.031,
      "step": 147000
    },
    {
      "epoch": 1.18,
      "learning_rate": 3.0333333333333337e-05,
      "loss": 0.0317,
      "step": 147500
    },
    {
      "epoch": 1.18,
      "learning_rate": 3.0266666666666666e-05,
      "loss": 0.0308,
      "step": 148000
    },
    {
      "epoch": 1.19,
      "learning_rate": 3.02e-05,
      "loss": 0.032,
      "step": 148500
    },
    {
      "epoch": 1.19,
      "learning_rate": 3.0133333333333335e-05,
      "loss": 0.0311,
      "step": 149000
    },
    {
      "epoch": 1.2,
      "learning_rate": 3.006666666666667e-05,
      "loss": 0.033,
      "step": 149500
    },
    {
      "epoch": 1.2,
      "learning_rate": 3e-05,
      "loss": 0.0301,
      "step": 150000
    },
    {
      "epoch": 1.2,
      "learning_rate": 2.9933333333333337e-05,
      "loss": 0.0293,
      "step": 150500
    },
    {
      "epoch": 1.21,
      "learning_rate": 2.986666666666667e-05,
      "loss": 0.0328,
      "step": 151000
    },
    {
      "epoch": 1.21,
      "learning_rate": 2.98e-05,
      "loss": 0.0307,
      "step": 151500
    },
    {
      "epoch": 1.22,
      "learning_rate": 2.9733333333333336e-05,
      "loss": 0.0328,
      "step": 152000
    },
    {
      "epoch": 1.22,
      "learning_rate": 2.9666666666666672e-05,
      "loss": 0.0331,
      "step": 152500
    },
    {
      "epoch": 1.22,
      "learning_rate": 2.96e-05,
      "loss": 0.0314,
      "step": 153000
    },
    {
      "epoch": 1.23,
      "learning_rate": 2.9533333333333334e-05,
      "loss": 0.0329,
      "step": 153500
    },
    {
      "epoch": 1.23,
      "learning_rate": 2.946666666666667e-05,
      "loss": 0.0316,
      "step": 154000
    },
    {
      "epoch": 1.24,
      "learning_rate": 2.94e-05,
      "loss": 0.0304,
      "step": 154500
    },
    {
      "epoch": 1.24,
      "learning_rate": 2.9333333333333336e-05,
      "loss": 0.0312,
      "step": 155000
    },
    {
      "epoch": 1.24,
      "learning_rate": 2.926666666666667e-05,
      "loss": 0.03,
      "step": 155500
    },
    {
      "epoch": 1.25,
      "learning_rate": 2.9199999999999998e-05,
      "loss": 0.029,
      "step": 156000
    },
    {
      "epoch": 1.25,
      "learning_rate": 2.9133333333333334e-05,
      "loss": 0.0302,
      "step": 156500
    },
    {
      "epoch": 1.26,
      "learning_rate": 2.906666666666667e-05,
      "loss": 0.0336,
      "step": 157000
    },
    {
      "epoch": 1.26,
      "learning_rate": 2.9e-05,
      "loss": 0.0303,
      "step": 157500
    },
    {
      "epoch": 1.26,
      "learning_rate": 2.8933333333333333e-05,
      "loss": 0.03,
      "step": 158000
    },
    {
      "epoch": 1.27,
      "learning_rate": 2.886666666666667e-05,
      "loss": 0.0298,
      "step": 158500
    },
    {
      "epoch": 1.27,
      "learning_rate": 2.88e-05,
      "loss": 0.0303,
      "step": 159000
    },
    {
      "epoch": 1.28,
      "learning_rate": 2.8733333333333335e-05,
      "loss": 0.032,
      "step": 159500
    },
    {
      "epoch": 1.28,
      "learning_rate": 2.8666666666666668e-05,
      "loss": 0.0317,
      "step": 160000
    },
    {
      "epoch": 1.28,
      "learning_rate": 2.86e-05,
      "loss": 0.0303,
      "step": 160500
    },
    {
      "epoch": 1.29,
      "learning_rate": 2.8533333333333333e-05,
      "loss": 0.0314,
      "step": 161000
    },
    {
      "epoch": 1.29,
      "learning_rate": 2.846666666666667e-05,
      "loss": 0.032,
      "step": 161500
    },
    {
      "epoch": 1.3,
      "learning_rate": 2.84e-05,
      "loss": 0.0297,
      "step": 162000
    },
    {
      "epoch": 1.3,
      "learning_rate": 2.8333333333333335e-05,
      "loss": 0.0323,
      "step": 162500
    },
    {
      "epoch": 1.3,
      "learning_rate": 2.8266666666666668e-05,
      "loss": 0.0332,
      "step": 163000
    },
    {
      "epoch": 1.31,
      "learning_rate": 2.8199999999999998e-05,
      "loss": 0.0304,
      "step": 163500
    },
    {
      "epoch": 1.31,
      "learning_rate": 2.8133333333333334e-05,
      "loss": 0.0313,
      "step": 164000
    },
    {
      "epoch": 1.32,
      "learning_rate": 2.806666666666667e-05,
      "loss": 0.031,
      "step": 164500
    },
    {
      "epoch": 1.32,
      "learning_rate": 2.8000000000000003e-05,
      "loss": 0.0321,
      "step": 165000
    },
    {
      "epoch": 1.32,
      "learning_rate": 2.7933333333333332e-05,
      "loss": 0.0302,
      "step": 165500
    },
    {
      "epoch": 1.33,
      "learning_rate": 2.786666666666667e-05,
      "loss": 0.0319,
      "step": 166000
    },
    {
      "epoch": 1.33,
      "learning_rate": 2.7800000000000005e-05,
      "loss": 0.0311,
      "step": 166500
    },
    {
      "epoch": 1.34,
      "learning_rate": 2.7733333333333334e-05,
      "loss": 0.0343,
      "step": 167000
    },
    {
      "epoch": 1.34,
      "learning_rate": 2.7666666666666667e-05,
      "loss": 0.031,
      "step": 167500
    },
    {
      "epoch": 1.34,
      "learning_rate": 2.7600000000000003e-05,
      "loss": 0.0292,
      "step": 168000
    },
    {
      "epoch": 1.35,
      "learning_rate": 2.7533333333333333e-05,
      "loss": 0.0317,
      "step": 168500
    },
    {
      "epoch": 1.35,
      "learning_rate": 2.746666666666667e-05,
      "loss": 0.03,
      "step": 169000
    },
    {
      "epoch": 1.36,
      "learning_rate": 2.7400000000000002e-05,
      "loss": 0.0316,
      "step": 169500
    },
    {
      "epoch": 1.36,
      "learning_rate": 2.733333333333333e-05,
      "loss": 0.0302,
      "step": 170000
    },
    {
      "epoch": 1.36,
      "learning_rate": 2.7266666666666668e-05,
      "loss": 0.0306,
      "step": 170500
    },
    {
      "epoch": 1.37,
      "learning_rate": 2.7200000000000004e-05,
      "loss": 0.0303,
      "step": 171000
    },
    {
      "epoch": 1.37,
      "learning_rate": 2.7133333333333333e-05,
      "loss": 0.0304,
      "step": 171500
    },
    {
      "epoch": 1.38,
      "learning_rate": 2.706666666666667e-05,
      "loss": 0.0292,
      "step": 172000
    },
    {
      "epoch": 1.38,
      "learning_rate": 2.7000000000000002e-05,
      "loss": 0.0308,
      "step": 172500
    },
    {
      "epoch": 1.38,
      "learning_rate": 2.6933333333333332e-05,
      "loss": 0.0297,
      "step": 173000
    },
    {
      "epoch": 1.39,
      "learning_rate": 2.6866666666666668e-05,
      "loss": 0.0319,
      "step": 173500
    },
    {
      "epoch": 1.39,
      "learning_rate": 2.6800000000000004e-05,
      "loss": 0.0296,
      "step": 174000
    },
    {
      "epoch": 1.4,
      "learning_rate": 2.6733333333333334e-05,
      "loss": 0.0301,
      "step": 174500
    },
    {
      "epoch": 1.4,
      "learning_rate": 2.6666666666666667e-05,
      "loss": 0.0306,
      "step": 175000
    },
    {
      "epoch": 1.4,
      "learning_rate": 2.6600000000000003e-05,
      "loss": 0.0276,
      "step": 175500
    },
    {
      "epoch": 1.41,
      "learning_rate": 2.6533333333333332e-05,
      "loss": 0.0295,
      "step": 176000
    },
    {
      "epoch": 1.41,
      "learning_rate": 2.646666666666667e-05,
      "loss": 0.0302,
      "step": 176500
    },
    {
      "epoch": 1.42,
      "learning_rate": 2.64e-05,
      "loss": 0.0301,
      "step": 177000
    },
    {
      "epoch": 1.42,
      "learning_rate": 2.633333333333333e-05,
      "loss": 0.0299,
      "step": 177500
    },
    {
      "epoch": 1.42,
      "learning_rate": 2.6266666666666667e-05,
      "loss": 0.0297,
      "step": 178000
    },
    {
      "epoch": 1.43,
      "learning_rate": 2.6200000000000003e-05,
      "loss": 0.0301,
      "step": 178500
    },
    {
      "epoch": 1.43,
      "learning_rate": 2.6133333333333333e-05,
      "loss": 0.0303,
      "step": 179000
    },
    {
      "epoch": 1.44,
      "learning_rate": 2.6066666666666666e-05,
      "loss": 0.0304,
      "step": 179500
    },
    {
      "epoch": 1.44,
      "learning_rate": 2.6000000000000002e-05,
      "loss": 0.0296,
      "step": 180000
    },
    {
      "epoch": 1.44,
      "learning_rate": 2.5933333333333338e-05,
      "loss": 0.03,
      "step": 180500
    },
    {
      "epoch": 1.45,
      "learning_rate": 2.5866666666666667e-05,
      "loss": 0.0297,
      "step": 181000
    },
    {
      "epoch": 1.45,
      "learning_rate": 2.58e-05,
      "loss": 0.031,
      "step": 181500
    },
    {
      "epoch": 1.46,
      "learning_rate": 2.5733333333333337e-05,
      "loss": 0.0284,
      "step": 182000
    },
    {
      "epoch": 1.46,
      "learning_rate": 2.5666666666666666e-05,
      "loss": 0.031,
      "step": 182500
    },
    {
      "epoch": 1.46,
      "learning_rate": 2.5600000000000002e-05,
      "loss": 0.0316,
      "step": 183000
    },
    {
      "epoch": 1.47,
      "learning_rate": 2.553333333333334e-05,
      "loss": 0.0292,
      "step": 183500
    },
    {
      "epoch": 1.47,
      "learning_rate": 2.5466666666666668e-05,
      "loss": 0.0287,
      "step": 184000
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.54e-05,
      "loss": 0.0293,
      "step": 184500
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.5333333333333337e-05,
      "loss": 0.029,
      "step": 185000
    },
    {
      "epoch": 1.48,
      "learning_rate": 2.5266666666666666e-05,
      "loss": 0.03,
      "step": 185500
    },
    {
      "epoch": 1.49,
      "learning_rate": 2.5200000000000003e-05,
      "loss": 0.0307,
      "step": 186000
    },
    {
      "epoch": 1.49,
      "learning_rate": 2.5133333333333336e-05,
      "loss": 0.0285,
      "step": 186500
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.5066666666666665e-05,
      "loss": 0.0282,
      "step": 187000
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.5e-05,
      "loss": 0.0293,
      "step": 187500
    },
    {
      "epoch": 1.5,
      "learning_rate": 2.4933333333333334e-05,
      "loss": 0.0268,
      "step": 188000
    },
    {
      "epoch": 1.51,
      "learning_rate": 2.486666666666667e-05,
      "loss": 0.0294,
      "step": 188500
    },
    {
      "epoch": 1.51,
      "learning_rate": 2.48e-05,
      "loss": 0.0296,
      "step": 189000
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.4733333333333333e-05,
      "loss": 0.0302,
      "step": 189500
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.466666666666667e-05,
      "loss": 0.0284,
      "step": 190000
    },
    {
      "epoch": 1.52,
      "learning_rate": 2.46e-05,
      "loss": 0.0312,
      "step": 190500
    },
    {
      "epoch": 1.53,
      "learning_rate": 2.4533333333333334e-05,
      "loss": 0.0299,
      "step": 191000
    },
    {
      "epoch": 1.53,
      "learning_rate": 2.4466666666666667e-05,
      "loss": 0.0307,
      "step": 191500
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.44e-05,
      "loss": 0.0309,
      "step": 192000
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.4333333333333336e-05,
      "loss": 0.0286,
      "step": 192500
    },
    {
      "epoch": 1.54,
      "learning_rate": 2.426666666666667e-05,
      "loss": 0.0289,
      "step": 193000
    },
    {
      "epoch": 1.55,
      "learning_rate": 2.4200000000000002e-05,
      "loss": 0.0322,
      "step": 193500
    },
    {
      "epoch": 1.55,
      "learning_rate": 2.4133333333333335e-05,
      "loss": 0.0304,
      "step": 194000
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.4066666666666668e-05,
      "loss": 0.0307,
      "step": 194500
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.4e-05,
      "loss": 0.0307,
      "step": 195000
    },
    {
      "epoch": 1.56,
      "learning_rate": 2.3933333333333337e-05,
      "loss": 0.0317,
      "step": 195500
    },
    {
      "epoch": 1.57,
      "learning_rate": 2.3866666666666666e-05,
      "loss": 0.0309,
      "step": 196000
    },
    {
      "epoch": 1.57,
      "learning_rate": 2.38e-05,
      "loss": 0.0303,
      "step": 196500
    },
    {
      "epoch": 1.58,
      "learning_rate": 2.3733333333333335e-05,
      "loss": 0.0294,
      "step": 197000
    },
    {
      "epoch": 1.58,
      "learning_rate": 2.3666666666666668e-05,
      "loss": 0.0286,
      "step": 197500
    },
    {
      "epoch": 1.58,
      "learning_rate": 2.36e-05,
      "loss": 0.0297,
      "step": 198000
    },
    {
      "epoch": 1.59,
      "learning_rate": 2.3533333333333334e-05,
      "loss": 0.0293,
      "step": 198500
    },
    {
      "epoch": 1.59,
      "learning_rate": 2.3466666666666667e-05,
      "loss": 0.0327,
      "step": 199000
    },
    {
      "epoch": 1.6,
      "learning_rate": 2.3400000000000003e-05,
      "loss": 0.0289,
      "step": 199500
    },
    {
      "epoch": 1.6,
      "learning_rate": 2.3333333333333336e-05,
      "loss": 0.0311,
      "step": 200000
    },
    {
      "epoch": 1.6,
      "learning_rate": 2.326666666666667e-05,
      "loss": 0.0282,
      "step": 200500
    },
    {
      "epoch": 1.61,
      "learning_rate": 2.32e-05,
      "loss": 0.0304,
      "step": 201000
    },
    {
      "epoch": 1.61,
      "learning_rate": 2.3133333333333334e-05,
      "loss": 0.0316,
      "step": 201500
    },
    {
      "epoch": 1.62,
      "learning_rate": 2.3066666666666667e-05,
      "loss": 0.0296,
      "step": 202000
    },
    {
      "epoch": 1.62,
      "learning_rate": 2.3000000000000003e-05,
      "loss": 0.0315,
      "step": 202500
    },
    {
      "epoch": 1.62,
      "learning_rate": 2.2933333333333333e-05,
      "loss": 0.0289,
      "step": 203000
    },
    {
      "epoch": 1.63,
      "learning_rate": 2.2866666666666666e-05,
      "loss": 0.0295,
      "step": 203500
    },
    {
      "epoch": 1.63,
      "learning_rate": 2.2800000000000002e-05,
      "loss": 0.0276,
      "step": 204000
    },
    {
      "epoch": 1.64,
      "learning_rate": 2.2733333333333335e-05,
      "loss": 0.0285,
      "step": 204500
    },
    {
      "epoch": 1.64,
      "learning_rate": 2.2666666666666668e-05,
      "loss": 0.03,
      "step": 205000
    },
    {
      "epoch": 1.64,
      "learning_rate": 2.26e-05,
      "loss": 0.029,
      "step": 205500
    },
    {
      "epoch": 1.65,
      "learning_rate": 2.2533333333333333e-05,
      "loss": 0.0285,
      "step": 206000
    },
    {
      "epoch": 1.65,
      "learning_rate": 2.2466666666666666e-05,
      "loss": 0.0322,
      "step": 206500
    },
    {
      "epoch": 1.66,
      "learning_rate": 2.2400000000000002e-05,
      "loss": 0.0297,
      "step": 207000
    },
    {
      "epoch": 1.66,
      "learning_rate": 2.2333333333333335e-05,
      "loss": 0.0294,
      "step": 207500
    },
    {
      "epoch": 1.66,
      "learning_rate": 2.2266666666666668e-05,
      "loss": 0.0298,
      "step": 208000
    },
    {
      "epoch": 1.67,
      "learning_rate": 2.22e-05,
      "loss": 0.0284,
      "step": 208500
    },
    {
      "epoch": 1.67,
      "learning_rate": 2.2133333333333334e-05,
      "loss": 0.0288,
      "step": 209000
    },
    {
      "epoch": 1.68,
      "learning_rate": 2.206666666666667e-05,
      "loss": 0.03,
      "step": 209500
    },
    {
      "epoch": 1.68,
      "learning_rate": 2.2000000000000003e-05,
      "loss": 0.0302,
      "step": 210000
    },
    {
      "epoch": 1.68,
      "learning_rate": 2.1933333333333332e-05,
      "loss": 0.0278,
      "step": 210500
    },
    {
      "epoch": 1.69,
      "learning_rate": 2.186666666666667e-05,
      "loss": 0.0306,
      "step": 211000
    },
    {
      "epoch": 1.69,
      "learning_rate": 2.18e-05,
      "loss": 0.0283,
      "step": 211500
    },
    {
      "epoch": 1.7,
      "learning_rate": 2.1733333333333334e-05,
      "loss": 0.0283,
      "step": 212000
    },
    {
      "epoch": 1.7,
      "learning_rate": 2.1666666666666667e-05,
      "loss": 0.0292,
      "step": 212500
    },
    {
      "epoch": 1.7,
      "learning_rate": 2.16e-05,
      "loss": 0.03,
      "step": 213000
    },
    {
      "epoch": 1.71,
      "learning_rate": 2.1533333333333333e-05,
      "loss": 0.0284,
      "step": 213500
    },
    {
      "epoch": 1.71,
      "learning_rate": 2.146666666666667e-05,
      "loss": 0.0309,
      "step": 214000
    },
    {
      "epoch": 1.72,
      "learning_rate": 2.1400000000000002e-05,
      "loss": 0.03,
      "step": 214500
    },
    {
      "epoch": 1.72,
      "learning_rate": 2.1333333333333335e-05,
      "loss": 0.0294,
      "step": 215000
    },
    {
      "epoch": 1.72,
      "learning_rate": 2.1266666666666667e-05,
      "loss": 0.0293,
      "step": 215500
    },
    {
      "epoch": 1.73,
      "learning_rate": 2.12e-05,
      "loss": 0.0288,
      "step": 216000
    },
    {
      "epoch": 1.73,
      "learning_rate": 2.1133333333333337e-05,
      "loss": 0.031,
      "step": 216500
    },
    {
      "epoch": 1.74,
      "learning_rate": 2.106666666666667e-05,
      "loss": 0.0287,
      "step": 217000
    },
    {
      "epoch": 1.74,
      "learning_rate": 2.1e-05,
      "loss": 0.0288,
      "step": 217500
    },
    {
      "epoch": 1.74,
      "learning_rate": 2.0933333333333335e-05,
      "loss": 0.0294,
      "step": 218000
    },
    {
      "epoch": 1.75,
      "learning_rate": 2.0866666666666668e-05,
      "loss": 0.0269,
      "step": 218500
    },
    {
      "epoch": 1.75,
      "learning_rate": 2.08e-05,
      "loss": 0.0302,
      "step": 219000
    },
    {
      "epoch": 1.76,
      "learning_rate": 2.0733333333333334e-05,
      "loss": 0.0284,
      "step": 219500
    },
    {
      "epoch": 1.76,
      "learning_rate": 2.0666666666666666e-05,
      "loss": 0.029,
      "step": 220000
    },
    {
      "epoch": 1.76,
      "learning_rate": 2.06e-05,
      "loss": 0.0288,
      "step": 220500
    },
    {
      "epoch": 1.77,
      "learning_rate": 2.0533333333333336e-05,
      "loss": 0.0292,
      "step": 221000
    },
    {
      "epoch": 1.77,
      "learning_rate": 2.046666666666667e-05,
      "loss": 0.0296,
      "step": 221500
    },
    {
      "epoch": 1.78,
      "learning_rate": 2.04e-05,
      "loss": 0.0293,
      "step": 222000
    },
    {
      "epoch": 1.78,
      "learning_rate": 2.0333333333333334e-05,
      "loss": 0.0276,
      "step": 222500
    },
    {
      "epoch": 1.78,
      "learning_rate": 2.0266666666666667e-05,
      "loss": 0.0289,
      "step": 223000
    },
    {
      "epoch": 1.79,
      "learning_rate": 2.0200000000000003e-05,
      "loss": 0.0299,
      "step": 223500
    },
    {
      "epoch": 1.79,
      "learning_rate": 2.0133333333333336e-05,
      "loss": 0.0281,
      "step": 224000
    },
    {
      "epoch": 1.8,
      "learning_rate": 2.0066666666666665e-05,
      "loss": 0.0296,
      "step": 224500
    },
    {
      "epoch": 1.8,
      "learning_rate": 2e-05,
      "loss": 0.0275,
      "step": 225000
    },
    {
      "epoch": 1.8,
      "learning_rate": 1.9933333333333334e-05,
      "loss": 0.0299,
      "step": 225500
    },
    {
      "epoch": 1.81,
      "learning_rate": 1.9866666666666667e-05,
      "loss": 0.0271,
      "step": 226000
    },
    {
      "epoch": 1.81,
      "learning_rate": 1.9800000000000004e-05,
      "loss": 0.0293,
      "step": 226500
    },
    {
      "epoch": 1.82,
      "learning_rate": 1.9733333333333333e-05,
      "loss": 0.0315,
      "step": 227000
    },
    {
      "epoch": 1.82,
      "learning_rate": 1.9666666666666666e-05,
      "loss": 0.028,
      "step": 227500
    },
    {
      "epoch": 1.82,
      "learning_rate": 1.9600000000000002e-05,
      "loss": 0.0284,
      "step": 228000
    },
    {
      "epoch": 1.83,
      "learning_rate": 1.9533333333333335e-05,
      "loss": 0.028,
      "step": 228500
    },
    {
      "epoch": 1.83,
      "learning_rate": 1.9466666666666668e-05,
      "loss": 0.0275,
      "step": 229000
    },
    {
      "epoch": 1.84,
      "learning_rate": 1.94e-05,
      "loss": 0.0294,
      "step": 229500
    },
    {
      "epoch": 1.84,
      "learning_rate": 1.9333333333333333e-05,
      "loss": 0.0292,
      "step": 230000
    },
    {
      "epoch": 1.84,
      "learning_rate": 1.926666666666667e-05,
      "loss": 0.0277,
      "step": 230500
    },
    {
      "epoch": 1.85,
      "learning_rate": 1.9200000000000003e-05,
      "loss": 0.028,
      "step": 231000
    },
    {
      "epoch": 1.85,
      "learning_rate": 1.9133333333333332e-05,
      "loss": 0.0271,
      "step": 231500
    },
    {
      "epoch": 1.86,
      "learning_rate": 1.9066666666666668e-05,
      "loss": 0.0293,
      "step": 232000
    },
    {
      "epoch": 1.86,
      "learning_rate": 1.9e-05,
      "loss": 0.0281,
      "step": 232500
    },
    {
      "epoch": 1.86,
      "learning_rate": 1.8933333333333334e-05,
      "loss": 0.0303,
      "step": 233000
    },
    {
      "epoch": 1.87,
      "learning_rate": 1.886666666666667e-05,
      "loss": 0.0273,
      "step": 233500
    },
    {
      "epoch": 1.87,
      "learning_rate": 1.88e-05,
      "loss": 0.03,
      "step": 234000
    },
    {
      "epoch": 1.88,
      "learning_rate": 1.8733333333333332e-05,
      "loss": 0.0269,
      "step": 234500
    },
    {
      "epoch": 1.88,
      "learning_rate": 1.866666666666667e-05,
      "loss": 0.0284,
      "step": 235000
    },
    {
      "epoch": 1.88,
      "learning_rate": 1.86e-05,
      "loss": 0.0278,
      "step": 235500
    },
    {
      "epoch": 1.89,
      "learning_rate": 1.8533333333333334e-05,
      "loss": 0.0283,
      "step": 236000
    },
    {
      "epoch": 1.89,
      "learning_rate": 1.8466666666666667e-05,
      "loss": 0.026,
      "step": 236500
    },
    {
      "epoch": 1.9,
      "learning_rate": 1.84e-05,
      "loss": 0.0289,
      "step": 237000
    },
    {
      "epoch": 1.9,
      "learning_rate": 1.8333333333333333e-05,
      "loss": 0.0282,
      "step": 237500
    },
    {
      "epoch": 1.9,
      "learning_rate": 1.826666666666667e-05,
      "loss": 0.0292,
      "step": 238000
    },
    {
      "epoch": 1.91,
      "learning_rate": 1.8200000000000002e-05,
      "loss": 0.0275,
      "step": 238500
    },
    {
      "epoch": 1.91,
      "learning_rate": 1.8133333333333335e-05,
      "loss": 0.0277,
      "step": 239000
    },
    {
      "epoch": 1.92,
      "learning_rate": 1.8066666666666668e-05,
      "loss": 0.0293,
      "step": 239500
    },
    {
      "epoch": 1.92,
      "learning_rate": 1.8e-05,
      "loss": 0.0291,
      "step": 240000
    },
    {
      "epoch": 1.92,
      "learning_rate": 1.7933333333333337e-05,
      "loss": 0.0288,
      "step": 240500
    },
    {
      "epoch": 1.93,
      "learning_rate": 1.7866666666666666e-05,
      "loss": 0.0271,
      "step": 241000
    },
    {
      "epoch": 1.93,
      "learning_rate": 1.78e-05,
      "loss": 0.027,
      "step": 241500
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.7733333333333335e-05,
      "loss": 0.028,
      "step": 242000
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.7666666666666668e-05,
      "loss": 0.0279,
      "step": 242500
    },
    {
      "epoch": 1.94,
      "learning_rate": 1.76e-05,
      "loss": 0.0287,
      "step": 243000
    },
    {
      "epoch": 1.95,
      "learning_rate": 1.7533333333333334e-05,
      "loss": 0.0276,
      "step": 243500
    },
    {
      "epoch": 1.95,
      "learning_rate": 1.7466666666666667e-05,
      "loss": 0.0297,
      "step": 244000
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.74e-05,
      "loss": 0.0294,
      "step": 244500
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.7333333333333336e-05,
      "loss": 0.0292,
      "step": 245000
    },
    {
      "epoch": 1.96,
      "learning_rate": 1.726666666666667e-05,
      "loss": 0.0261,
      "step": 245500
    },
    {
      "epoch": 1.97,
      "learning_rate": 1.7199999999999998e-05,
      "loss": 0.0267,
      "step": 246000
    },
    {
      "epoch": 1.97,
      "learning_rate": 1.7133333333333334e-05,
      "loss": 0.0295,
      "step": 246500
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.7066666666666667e-05,
      "loss": 0.0265,
      "step": 247000
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.7000000000000003e-05,
      "loss": 0.0279,
      "step": 247500
    },
    {
      "epoch": 1.98,
      "learning_rate": 1.6933333333333333e-05,
      "loss": 0.0294,
      "step": 248000
    },
    {
      "epoch": 1.99,
      "learning_rate": 1.6866666666666666e-05,
      "loss": 0.0301,
      "step": 248500
    },
    {
      "epoch": 1.99,
      "learning_rate": 1.6800000000000002e-05,
      "loss": 0.0274,
      "step": 249000
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.6733333333333335e-05,
      "loss": 0.028,
      "step": 249500
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.6666666666666667e-05,
      "loss": 0.0279,
      "step": 250000
    },
    {
      "epoch": 2.0,
      "learning_rate": 1.66e-05,
      "loss": 0.025,
      "step": 250500
    },
    {
      "epoch": 2.01,
      "learning_rate": 1.6533333333333333e-05,
      "loss": 0.0244,
      "step": 251000
    },
    {
      "epoch": 2.01,
      "learning_rate": 1.6466666666666666e-05,
      "loss": 0.0237,
      "step": 251500
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6400000000000002e-05,
      "loss": 0.0223,
      "step": 252000
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6333333333333335e-05,
      "loss": 0.0238,
      "step": 252500
    },
    {
      "epoch": 2.02,
      "learning_rate": 1.6266666666666665e-05,
      "loss": 0.025,
      "step": 253000
    },
    {
      "epoch": 2.03,
      "learning_rate": 1.62e-05,
      "loss": 0.0206,
      "step": 253500
    },
    {
      "epoch": 2.03,
      "learning_rate": 1.6133333333333334e-05,
      "loss": 0.0213,
      "step": 254000
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.606666666666667e-05,
      "loss": 0.0243,
      "step": 254500
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.6000000000000003e-05,
      "loss": 0.023,
      "step": 255000
    },
    {
      "epoch": 2.04,
      "learning_rate": 1.5933333333333332e-05,
      "loss": 0.0239,
      "step": 255500
    },
    {
      "epoch": 2.05,
      "learning_rate": 1.586666666666667e-05,
      "loss": 0.0227,
      "step": 256000
    },
    {
      "epoch": 2.05,
      "learning_rate": 1.58e-05,
      "loss": 0.0228,
      "step": 256500
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.5733333333333334e-05,
      "loss": 0.0229,
      "step": 257000
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.5666666666666667e-05,
      "loss": 0.0222,
      "step": 257500
    },
    {
      "epoch": 2.06,
      "learning_rate": 1.56e-05,
      "loss": 0.0236,
      "step": 258000
    },
    {
      "epoch": 2.07,
      "learning_rate": 1.5533333333333333e-05,
      "loss": 0.0233,
      "step": 258500
    },
    {
      "epoch": 2.07,
      "learning_rate": 1.546666666666667e-05,
      "loss": 0.0228,
      "step": 259000
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.54e-05,
      "loss": 0.0248,
      "step": 259500
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.5333333333333334e-05,
      "loss": 0.0226,
      "step": 260000
    },
    {
      "epoch": 2.08,
      "learning_rate": 1.5266666666666667e-05,
      "loss": 0.022,
      "step": 260500
    },
    {
      "epoch": 2.09,
      "learning_rate": 1.52e-05,
      "loss": 0.0247,
      "step": 261000
    },
    {
      "epoch": 2.09,
      "learning_rate": 1.5133333333333333e-05,
      "loss": 0.0223,
      "step": 261500
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.5066666666666668e-05,
      "loss": 0.0226,
      "step": 262000
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.5e-05,
      "loss": 0.0227,
      "step": 262500
    },
    {
      "epoch": 2.1,
      "learning_rate": 1.4933333333333335e-05,
      "loss": 0.022,
      "step": 263000
    },
    {
      "epoch": 2.11,
      "learning_rate": 1.4866666666666668e-05,
      "loss": 0.0228,
      "step": 263500
    },
    {
      "epoch": 2.11,
      "learning_rate": 1.48e-05,
      "loss": 0.0218,
      "step": 264000
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.4733333333333335e-05,
      "loss": 0.0222,
      "step": 264500
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.4666666666666668e-05,
      "loss": 0.0218,
      "step": 265000
    },
    {
      "epoch": 2.12,
      "learning_rate": 1.4599999999999999e-05,
      "loss": 0.0235,
      "step": 265500
    },
    {
      "epoch": 2.13,
      "learning_rate": 1.4533333333333335e-05,
      "loss": 0.0234,
      "step": 266000
    },
    {
      "epoch": 2.13,
      "learning_rate": 1.4466666666666667e-05,
      "loss": 0.0236,
      "step": 266500
    },
    {
      "epoch": 2.14,
      "learning_rate": 1.44e-05,
      "loss": 0.0233,
      "step": 267000
    },
    {
      "epoch": 2.14,
      "learning_rate": 1.4333333333333334e-05,
      "loss": 0.0228,
      "step": 267500
    },
    {
      "epoch": 2.14,
      "learning_rate": 1.4266666666666667e-05,
      "loss": 0.0231,
      "step": 268000
    },
    {
      "epoch": 2.15,
      "learning_rate": 1.42e-05,
      "loss": 0.0253,
      "step": 268500
    },
    {
      "epoch": 2.15,
      "learning_rate": 1.4133333333333334e-05,
      "loss": 0.0228,
      "step": 269000
    },
    {
      "epoch": 2.16,
      "learning_rate": 1.4066666666666667e-05,
      "loss": 0.0241,
      "step": 269500
    },
    {
      "epoch": 2.16,
      "learning_rate": 1.4000000000000001e-05,
      "loss": 0.0235,
      "step": 270000
    },
    {
      "epoch": 2.16,
      "learning_rate": 1.3933333333333334e-05,
      "loss": 0.0237,
      "step": 270500
    },
    {
      "epoch": 2.17,
      "learning_rate": 1.3866666666666667e-05,
      "loss": 0.0223,
      "step": 271000
    },
    {
      "epoch": 2.17,
      "learning_rate": 1.3800000000000002e-05,
      "loss": 0.0227,
      "step": 271500
    },
    {
      "epoch": 2.18,
      "learning_rate": 1.3733333333333335e-05,
      "loss": 0.022,
      "step": 272000
    },
    {
      "epoch": 2.18,
      "learning_rate": 1.3666666666666666e-05,
      "loss": 0.0227,
      "step": 272500
    },
    {
      "epoch": 2.18,
      "learning_rate": 1.3600000000000002e-05,
      "loss": 0.0231,
      "step": 273000
    },
    {
      "epoch": 2.19,
      "learning_rate": 1.3533333333333335e-05,
      "loss": 0.0223,
      "step": 273500
    },
    {
      "epoch": 2.19,
      "learning_rate": 1.3466666666666666e-05,
      "loss": 0.0235,
      "step": 274000
    },
    {
      "epoch": 2.2,
      "learning_rate": 1.3400000000000002e-05,
      "loss": 0.0237,
      "step": 274500
    },
    {
      "epoch": 2.2,
      "learning_rate": 1.3333333333333333e-05,
      "loss": 0.0246,
      "step": 275000
    },
    {
      "epoch": 2.2,
      "learning_rate": 1.3266666666666666e-05,
      "loss": 0.0234,
      "step": 275500
    },
    {
      "epoch": 2.21,
      "learning_rate": 1.32e-05,
      "loss": 0.0234,
      "step": 276000
    },
    {
      "epoch": 2.21,
      "learning_rate": 1.3133333333333334e-05,
      "loss": 0.0235,
      "step": 276500
    },
    {
      "epoch": 2.22,
      "learning_rate": 1.3066666666666666e-05,
      "loss": 0.0246,
      "step": 277000
    },
    {
      "epoch": 2.22,
      "learning_rate": 1.3000000000000001e-05,
      "loss": 0.0213,
      "step": 277500
    },
    {
      "epoch": 2.22,
      "learning_rate": 1.2933333333333334e-05,
      "loss": 0.0223,
      "step": 278000
    },
    {
      "epoch": 2.23,
      "learning_rate": 1.2866666666666668e-05,
      "loss": 0.0228,
      "step": 278500
    },
    {
      "epoch": 2.23,
      "learning_rate": 1.2800000000000001e-05,
      "loss": 0.0226,
      "step": 279000
    },
    {
      "epoch": 2.24,
      "learning_rate": 1.2733333333333334e-05,
      "loss": 0.0207,
      "step": 279500
    },
    {
      "epoch": 2.24,
      "learning_rate": 1.2666666666666668e-05,
      "loss": 0.022,
      "step": 280000
    },
    {
      "epoch": 2.24,
      "learning_rate": 1.2600000000000001e-05,
      "loss": 0.0226,
      "step": 280500
    },
    {
      "epoch": 2.25,
      "learning_rate": 1.2533333333333332e-05,
      "loss": 0.0226,
      "step": 281000
    },
    {
      "epoch": 2.25,
      "learning_rate": 1.2466666666666667e-05,
      "loss": 0.0209,
      "step": 281500
    },
    {
      "epoch": 2.26,
      "learning_rate": 1.24e-05,
      "loss": 0.0224,
      "step": 282000
    },
    {
      "epoch": 2.26,
      "learning_rate": 1.2333333333333334e-05,
      "loss": 0.0223,
      "step": 282500
    },
    {
      "epoch": 2.26,
      "learning_rate": 1.2266666666666667e-05,
      "loss": 0.0222,
      "step": 283000
    },
    {
      "epoch": 2.27,
      "learning_rate": 1.22e-05,
      "loss": 0.0233,
      "step": 283500
    },
    {
      "epoch": 2.27,
      "learning_rate": 1.2133333333333335e-05,
      "loss": 0.0232,
      "step": 284000
    },
    {
      "epoch": 2.28,
      "learning_rate": 1.2066666666666667e-05,
      "loss": 0.0223,
      "step": 284500
    },
    {
      "epoch": 2.28,
      "learning_rate": 1.2e-05,
      "loss": 0.0254,
      "step": 285000
    },
    {
      "epoch": 2.28,
      "learning_rate": 1.1933333333333333e-05,
      "loss": 0.0217,
      "step": 285500
    },
    {
      "epoch": 2.29,
      "learning_rate": 1.1866666666666668e-05,
      "loss": 0.0249,
      "step": 286000
    },
    {
      "epoch": 2.29,
      "learning_rate": 1.18e-05,
      "loss": 0.021,
      "step": 286500
    },
    {
      "epoch": 2.3,
      "learning_rate": 1.1733333333333333e-05,
      "loss": 0.0239,
      "step": 287000
    },
    {
      "epoch": 2.3,
      "learning_rate": 1.1666666666666668e-05,
      "loss": 0.0225,
      "step": 287500
    },
    {
      "epoch": 2.3,
      "learning_rate": 1.16e-05,
      "loss": 0.0223,
      "step": 288000
    },
    {
      "epoch": 2.31,
      "learning_rate": 1.1533333333333334e-05,
      "loss": 0.0223,
      "step": 288500
    },
    {
      "epoch": 2.31,
      "learning_rate": 1.1466666666666666e-05,
      "loss": 0.0218,
      "step": 289000
    },
    {
      "epoch": 2.32,
      "learning_rate": 1.1400000000000001e-05,
      "loss": 0.0228,
      "step": 289500
    },
    {
      "epoch": 2.32,
      "learning_rate": 1.1333333333333334e-05,
      "loss": 0.0224,
      "step": 290000
    },
    {
      "epoch": 2.32,
      "learning_rate": 1.1266666666666667e-05,
      "loss": 0.0235,
      "step": 290500
    },
    {
      "epoch": 2.33,
      "learning_rate": 1.1200000000000001e-05,
      "loss": 0.0215,
      "step": 291000
    },
    {
      "epoch": 2.33,
      "learning_rate": 1.1133333333333334e-05,
      "loss": 0.0235,
      "step": 291500
    },
    {
      "epoch": 2.34,
      "learning_rate": 1.1066666666666667e-05,
      "loss": 0.0232,
      "step": 292000
    },
    {
      "epoch": 2.34,
      "learning_rate": 1.1000000000000001e-05,
      "loss": 0.0232,
      "step": 292500
    },
    {
      "epoch": 2.34,
      "learning_rate": 1.0933333333333334e-05,
      "loss": 0.0223,
      "step": 293000
    },
    {
      "epoch": 2.35,
      "learning_rate": 1.0866666666666667e-05,
      "loss": 0.0229,
      "step": 293500
    },
    {
      "epoch": 2.35,
      "learning_rate": 1.08e-05,
      "loss": 0.0214,
      "step": 294000
    },
    {
      "epoch": 2.36,
      "learning_rate": 1.0733333333333334e-05,
      "loss": 0.0223,
      "step": 294500
    },
    {
      "epoch": 2.36,
      "learning_rate": 1.0666666666666667e-05,
      "loss": 0.023,
      "step": 295000
    },
    {
      "epoch": 2.36,
      "learning_rate": 1.06e-05,
      "loss": 0.0239,
      "step": 295500
    },
    {
      "epoch": 2.37,
      "learning_rate": 1.0533333333333335e-05,
      "loss": 0.0228,
      "step": 296000
    },
    {
      "epoch": 2.37,
      "learning_rate": 1.0466666666666668e-05,
      "loss": 0.0232,
      "step": 296500
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.04e-05,
      "loss": 0.0238,
      "step": 297000
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.0333333333333333e-05,
      "loss": 0.0239,
      "step": 297500
    },
    {
      "epoch": 2.38,
      "learning_rate": 1.0266666666666668e-05,
      "loss": 0.0232,
      "step": 298000
    },
    {
      "epoch": 2.39,
      "learning_rate": 1.02e-05,
      "loss": 0.0235,
      "step": 298500
    },
    {
      "epoch": 2.39,
      "learning_rate": 1.0133333333333333e-05,
      "loss": 0.022,
      "step": 299000
    },
    {
      "epoch": 2.4,
      "learning_rate": 1.0066666666666668e-05,
      "loss": 0.0196,
      "step": 299500
    },
    {
      "epoch": 2.4,
      "learning_rate": 1e-05,
      "loss": 0.0239,
      "step": 300000
    },
    {
      "epoch": 2.4,
      "learning_rate": 9.933333333333334e-06,
      "loss": 0.0218,
      "step": 300500
    },
    {
      "epoch": 2.41,
      "learning_rate": 9.866666666666667e-06,
      "loss": 0.0225,
      "step": 301000
    },
    {
      "epoch": 2.41,
      "learning_rate": 9.800000000000001e-06,
      "loss": 0.0221,
      "step": 301500
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.733333333333334e-06,
      "loss": 0.0235,
      "step": 302000
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.666666666666667e-06,
      "loss": 0.0239,
      "step": 302500
    },
    {
      "epoch": 2.42,
      "learning_rate": 9.600000000000001e-06,
      "loss": 0.0198,
      "step": 303000
    },
    {
      "epoch": 2.43,
      "learning_rate": 9.533333333333334e-06,
      "loss": 0.0211,
      "step": 303500
    },
    {
      "epoch": 2.43,
      "learning_rate": 9.466666666666667e-06,
      "loss": 0.0199,
      "step": 304000
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.4e-06,
      "loss": 0.0209,
      "step": 304500
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.333333333333334e-06,
      "loss": 0.0216,
      "step": 305000
    },
    {
      "epoch": 2.44,
      "learning_rate": 9.266666666666667e-06,
      "loss": 0.0231,
      "step": 305500
    },
    {
      "epoch": 2.45,
      "learning_rate": 9.2e-06,
      "loss": 0.0236,
      "step": 306000
    },
    {
      "epoch": 2.45,
      "learning_rate": 9.133333333333335e-06,
      "loss": 0.02,
      "step": 306500
    },
    {
      "epoch": 2.46,
      "learning_rate": 9.066666666666667e-06,
      "loss": 0.023,
      "step": 307000
    },
    {
      "epoch": 2.46,
      "learning_rate": 9e-06,
      "loss": 0.0233,
      "step": 307500
    },
    {
      "epoch": 2.46,
      "learning_rate": 8.933333333333333e-06,
      "loss": 0.0229,
      "step": 308000
    },
    {
      "epoch": 2.47,
      "learning_rate": 8.866666666666668e-06,
      "loss": 0.0223,
      "step": 308500
    },
    {
      "epoch": 2.47,
      "learning_rate": 8.8e-06,
      "loss": 0.0237,
      "step": 309000
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.733333333333333e-06,
      "loss": 0.0219,
      "step": 309500
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.666666666666668e-06,
      "loss": 0.0209,
      "step": 310000
    },
    {
      "epoch": 2.48,
      "learning_rate": 8.599999999999999e-06,
      "loss": 0.0245,
      "step": 310500
    },
    {
      "epoch": 2.49,
      "learning_rate": 8.533333333333334e-06,
      "loss": 0.0241,
      "step": 311000
    },
    {
      "epoch": 2.49,
      "learning_rate": 8.466666666666666e-06,
      "loss": 0.0215,
      "step": 311500
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.400000000000001e-06,
      "loss": 0.0229,
      "step": 312000
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.333333333333334e-06,
      "loss": 0.0236,
      "step": 312500
    },
    {
      "epoch": 2.5,
      "learning_rate": 8.266666666666667e-06,
      "loss": 0.0229,
      "step": 313000
    },
    {
      "epoch": 2.51,
      "learning_rate": 8.200000000000001e-06,
      "loss": 0.0224,
      "step": 313500
    },
    {
      "epoch": 2.51,
      "learning_rate": 8.133333333333332e-06,
      "loss": 0.0235,
      "step": 314000
    },
    {
      "epoch": 2.52,
      "learning_rate": 8.066666666666667e-06,
      "loss": 0.0235,
      "step": 314500
    },
    {
      "epoch": 2.52,
      "learning_rate": 8.000000000000001e-06,
      "loss": 0.0227,
      "step": 315000
    },
    {
      "epoch": 2.52,
      "learning_rate": 7.933333333333334e-06,
      "loss": 0.0207,
      "step": 315500
    },
    {
      "epoch": 2.53,
      "learning_rate": 7.866666666666667e-06,
      "loss": 0.022,
      "step": 316000
    },
    {
      "epoch": 2.53,
      "learning_rate": 7.8e-06,
      "loss": 0.0223,
      "step": 316500
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.733333333333334e-06,
      "loss": 0.0214,
      "step": 317000
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.666666666666667e-06,
      "loss": 0.022,
      "step": 317500
    },
    {
      "epoch": 2.54,
      "learning_rate": 7.6e-06,
      "loss": 0.0205,
      "step": 318000
    },
    {
      "epoch": 2.55,
      "learning_rate": 7.533333333333334e-06,
      "loss": 0.0208,
      "step": 318500
    },
    {
      "epoch": 2.55,
      "learning_rate": 7.4666666666666675e-06,
      "loss": 0.0229,
      "step": 319000
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.4e-06,
      "loss": 0.0208,
      "step": 319500
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.333333333333334e-06,
      "loss": 0.0224,
      "step": 320000
    },
    {
      "epoch": 2.56,
      "learning_rate": 7.266666666666668e-06,
      "loss": 0.023,
      "step": 320500
    },
    {
      "epoch": 2.57,
      "learning_rate": 7.2e-06,
      "loss": 0.0228,
      "step": 321000
    },
    {
      "epoch": 2.57,
      "learning_rate": 7.133333333333333e-06,
      "loss": 0.0222,
      "step": 321500
    },
    {
      "epoch": 2.58,
      "learning_rate": 7.066666666666667e-06,
      "loss": 0.0231,
      "step": 322000
    },
    {
      "epoch": 2.58,
      "learning_rate": 7.000000000000001e-06,
      "loss": 0.0223,
      "step": 322500
    },
    {
      "epoch": 2.58,
      "learning_rate": 6.933333333333334e-06,
      "loss": 0.0234,
      "step": 323000
    },
    {
      "epoch": 2.59,
      "learning_rate": 6.866666666666667e-06,
      "loss": 0.0226,
      "step": 323500
    },
    {
      "epoch": 2.59,
      "learning_rate": 6.800000000000001e-06,
      "loss": 0.0218,
      "step": 324000
    },
    {
      "epoch": 2.6,
      "learning_rate": 6.733333333333333e-06,
      "loss": 0.0214,
      "step": 324500
    },
    {
      "epoch": 2.6,
      "learning_rate": 6.666666666666667e-06,
      "loss": 0.023,
      "step": 325000
    },
    {
      "epoch": 2.6,
      "learning_rate": 6.6e-06,
      "loss": 0.0213,
      "step": 325500
    },
    {
      "epoch": 2.61,
      "learning_rate": 6.533333333333333e-06,
      "loss": 0.0218,
      "step": 326000
    },
    {
      "epoch": 2.61,
      "learning_rate": 6.466666666666667e-06,
      "loss": 0.0232,
      "step": 326500
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.4000000000000006e-06,
      "loss": 0.0217,
      "step": 327000
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.333333333333334e-06,
      "loss": 0.0222,
      "step": 327500
    },
    {
      "epoch": 2.62,
      "learning_rate": 6.266666666666666e-06,
      "loss": 0.0218,
      "step": 328000
    },
    {
      "epoch": 2.63,
      "learning_rate": 6.2e-06,
      "loss": 0.0223,
      "step": 328500
    },
    {
      "epoch": 2.63,
      "learning_rate": 6.133333333333334e-06,
      "loss": 0.022,
      "step": 329000
    },
    {
      "epoch": 2.64,
      "learning_rate": 6.066666666666667e-06,
      "loss": 0.0223,
      "step": 329500
    },
    {
      "epoch": 2.64,
      "learning_rate": 6e-06,
      "loss": 0.0218,
      "step": 330000
    },
    {
      "epoch": 2.64,
      "learning_rate": 5.933333333333334e-06,
      "loss": 0.0216,
      "step": 330500
    },
    {
      "epoch": 2.65,
      "learning_rate": 5.866666666666667e-06,
      "loss": 0.021,
      "step": 331000
    },
    {
      "epoch": 2.65,
      "learning_rate": 5.8e-06,
      "loss": 0.0207,
      "step": 331500
    },
    {
      "epoch": 2.66,
      "learning_rate": 5.733333333333333e-06,
      "loss": 0.0224,
      "step": 332000
    },
    {
      "epoch": 2.66,
      "learning_rate": 5.666666666666667e-06,
      "loss": 0.0209,
      "step": 332500
    },
    {
      "epoch": 2.66,
      "learning_rate": 5.600000000000001e-06,
      "loss": 0.0219,
      "step": 333000
    },
    {
      "epoch": 2.67,
      "learning_rate": 5.5333333333333334e-06,
      "loss": 0.0226,
      "step": 333500
    },
    {
      "epoch": 2.67,
      "learning_rate": 5.466666666666667e-06,
      "loss": 0.0224,
      "step": 334000
    },
    {
      "epoch": 2.68,
      "learning_rate": 5.4e-06,
      "loss": 0.0231,
      "step": 334500
    },
    {
      "epoch": 2.68,
      "learning_rate": 5.333333333333334e-06,
      "loss": 0.0205,
      "step": 335000
    },
    {
      "epoch": 2.68,
      "learning_rate": 5.266666666666667e-06,
      "loss": 0.0229,
      "step": 335500
    },
    {
      "epoch": 2.69,
      "learning_rate": 5.2e-06,
      "loss": 0.0227,
      "step": 336000
    },
    {
      "epoch": 2.69,
      "learning_rate": 5.133333333333334e-06,
      "loss": 0.0226,
      "step": 336500
    },
    {
      "epoch": 2.7,
      "learning_rate": 5.066666666666667e-06,
      "loss": 0.0222,
      "step": 337000
    },
    {
      "epoch": 2.7,
      "learning_rate": 5e-06,
      "loss": 0.022,
      "step": 337500
    },
    {
      "epoch": 2.7,
      "learning_rate": 4.933333333333333e-06,
      "loss": 0.0211,
      "step": 338000
    },
    {
      "epoch": 2.71,
      "learning_rate": 4.866666666666667e-06,
      "loss": 0.0228,
      "step": 338500
    },
    {
      "epoch": 2.71,
      "learning_rate": 4.800000000000001e-06,
      "loss": 0.022,
      "step": 339000
    },
    {
      "epoch": 2.72,
      "learning_rate": 4.7333333333333335e-06,
      "loss": 0.0236,
      "step": 339500
    },
    {
      "epoch": 2.72,
      "learning_rate": 4.666666666666667e-06,
      "loss": 0.0208,
      "step": 340000
    },
    {
      "epoch": 2.72,
      "learning_rate": 4.6e-06,
      "loss": 0.0217,
      "step": 340500
    },
    {
      "epoch": 2.73,
      "learning_rate": 4.533333333333334e-06,
      "loss": 0.0223,
      "step": 341000
    },
    {
      "epoch": 2.73,
      "learning_rate": 4.4666666666666665e-06,
      "loss": 0.021,
      "step": 341500
    },
    {
      "epoch": 2.74,
      "learning_rate": 4.4e-06,
      "loss": 0.0222,
      "step": 342000
    },
    {
      "epoch": 2.74,
      "learning_rate": 4.333333333333334e-06,
      "loss": 0.0235,
      "step": 342500
    },
    {
      "epoch": 2.74,
      "learning_rate": 4.266666666666667e-06,
      "loss": 0.0219,
      "step": 343000
    },
    {
      "epoch": 2.75,
      "learning_rate": 4.2000000000000004e-06,
      "loss": 0.0213,
      "step": 343500
    },
    {
      "epoch": 2.75,
      "learning_rate": 4.133333333333333e-06,
      "loss": 0.021,
      "step": 344000
    },
    {
      "epoch": 2.76,
      "learning_rate": 4.066666666666666e-06,
      "loss": 0.0193,
      "step": 344500
    },
    {
      "epoch": 2.76,
      "learning_rate": 4.000000000000001e-06,
      "loss": 0.0207,
      "step": 345000
    },
    {
      "epoch": 2.76,
      "learning_rate": 3.9333333333333335e-06,
      "loss": 0.0213,
      "step": 345500
    },
    {
      "epoch": 2.77,
      "learning_rate": 3.866666666666667e-06,
      "loss": 0.0221,
      "step": 346000
    },
    {
      "epoch": 2.77,
      "learning_rate": 3.8e-06,
      "loss": 0.0212,
      "step": 346500
    },
    {
      "epoch": 2.78,
      "learning_rate": 3.7333333333333337e-06,
      "loss": 0.0213,
      "step": 347000
    },
    {
      "epoch": 2.78,
      "learning_rate": 3.666666666666667e-06,
      "loss": 0.0218,
      "step": 347500
    },
    {
      "epoch": 2.78,
      "learning_rate": 3.6e-06,
      "loss": 0.0224,
      "step": 348000
    },
    {
      "epoch": 2.79,
      "learning_rate": 3.5333333333333335e-06,
      "loss": 0.0215,
      "step": 348500
    },
    {
      "epoch": 2.79,
      "learning_rate": 3.466666666666667e-06,
      "loss": 0.0228,
      "step": 349000
    },
    {
      "epoch": 2.8,
      "learning_rate": 3.4000000000000005e-06,
      "loss": 0.0207,
      "step": 349500
    },
    {
      "epoch": 2.8,
      "learning_rate": 3.3333333333333333e-06,
      "loss": 0.023,
      "step": 350000
    },
    {
      "epoch": 2.8,
      "learning_rate": 3.2666666666666666e-06,
      "loss": 0.02,
      "step": 350500
    },
    {
      "epoch": 2.81,
      "learning_rate": 3.2000000000000003e-06,
      "loss": 0.0207,
      "step": 351000
    },
    {
      "epoch": 2.81,
      "learning_rate": 3.133333333333333e-06,
      "loss": 0.023,
      "step": 351500
    },
    {
      "epoch": 2.82,
      "learning_rate": 3.066666666666667e-06,
      "loss": 0.0232,
      "step": 352000
    },
    {
      "epoch": 2.82,
      "learning_rate": 3e-06,
      "loss": 0.022,
      "step": 352500
    },
    {
      "epoch": 2.82,
      "learning_rate": 2.9333333333333333e-06,
      "loss": 0.0237,
      "step": 353000
    },
    {
      "epoch": 2.83,
      "learning_rate": 2.8666666666666666e-06,
      "loss": 0.0219,
      "step": 353500
    },
    {
      "epoch": 2.83,
      "learning_rate": 2.8000000000000003e-06,
      "loss": 0.0209,
      "step": 354000
    },
    {
      "epoch": 2.84,
      "learning_rate": 2.7333333333333336e-06,
      "loss": 0.0221,
      "step": 354500
    },
    {
      "epoch": 2.84,
      "learning_rate": 2.666666666666667e-06,
      "loss": 0.0226,
      "step": 355000
    },
    {
      "epoch": 2.84,
      "learning_rate": 2.6e-06,
      "loss": 0.0228,
      "step": 355500
    },
    {
      "epoch": 2.85,
      "learning_rate": 2.5333333333333334e-06,
      "loss": 0.0206,
      "step": 356000
    },
    {
      "epoch": 2.85,
      "learning_rate": 2.4666666666666666e-06,
      "loss": 0.0204,
      "step": 356500
    },
    {
      "epoch": 2.86,
      "learning_rate": 2.4000000000000003e-06,
      "loss": 0.0227,
      "step": 357000
    },
    {
      "epoch": 2.86,
      "learning_rate": 2.3333333333333336e-06,
      "loss": 0.0213,
      "step": 357500
    },
    {
      "epoch": 2.86,
      "learning_rate": 2.266666666666667e-06,
      "loss": 0.021,
      "step": 358000
    },
    {
      "epoch": 2.87,
      "learning_rate": 2.2e-06,
      "loss": 0.0227,
      "step": 358500
    },
    {
      "epoch": 2.87,
      "learning_rate": 2.1333333333333334e-06,
      "loss": 0.0209,
      "step": 359000
    },
    {
      "epoch": 2.88,
      "learning_rate": 2.0666666666666666e-06,
      "loss": 0.0232,
      "step": 359500
    },
    {
      "epoch": 2.88,
      "learning_rate": 2.0000000000000003e-06,
      "loss": 0.0215,
      "step": 360000
    },
    {
      "epoch": 2.88,
      "learning_rate": 1.9333333333333336e-06,
      "loss": 0.0217,
      "step": 360500
    },
    {
      "epoch": 2.89,
      "learning_rate": 1.8666666666666669e-06,
      "loss": 0.021,
      "step": 361000
    },
    {
      "epoch": 2.89,
      "learning_rate": 1.8e-06,
      "loss": 0.0225,
      "step": 361500
    },
    {
      "epoch": 2.9,
      "learning_rate": 1.7333333333333334e-06,
      "loss": 0.0215,
      "step": 362000
    },
    {
      "epoch": 2.9,
      "learning_rate": 1.6666666666666667e-06,
      "loss": 0.0212,
      "step": 362500
    },
    {
      "epoch": 2.9,
      "learning_rate": 1.6000000000000001e-06,
      "loss": 0.0223,
      "step": 363000
    },
    {
      "epoch": 2.91,
      "learning_rate": 1.5333333333333334e-06,
      "loss": 0.024,
      "step": 363500
    },
    {
      "epoch": 2.91,
      "learning_rate": 1.4666666666666667e-06,
      "loss": 0.0226,
      "step": 364000
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.4000000000000001e-06,
      "loss": 0.0217,
      "step": 364500
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.3333333333333334e-06,
      "loss": 0.0205,
      "step": 365000
    },
    {
      "epoch": 2.92,
      "learning_rate": 1.2666666666666667e-06,
      "loss": 0.0209,
      "step": 365500
    },
    {
      "epoch": 2.93,
      "learning_rate": 1.2000000000000002e-06,
      "loss": 0.0212,
      "step": 366000
    },
    {
      "epoch": 2.93,
      "learning_rate": 1.1333333333333334e-06,
      "loss": 0.0227,
      "step": 366500
    },
    {
      "epoch": 2.94,
      "learning_rate": 1.0666666666666667e-06,
      "loss": 0.0201,
      "step": 367000
    },
    {
      "epoch": 2.94,
      "learning_rate": 1.0000000000000002e-06,
      "loss": 0.0217,
      "step": 367500
    },
    {
      "epoch": 2.94,
      "learning_rate": 9.333333333333334e-07,
      "loss": 0.0224,
      "step": 368000
    },
    {
      "epoch": 2.95,
      "learning_rate": 8.666666666666667e-07,
      "loss": 0.022,
      "step": 368500
    },
    {
      "epoch": 2.95,
      "learning_rate": 8.000000000000001e-07,
      "loss": 0.0218,
      "step": 369000
    },
    {
      "epoch": 2.96,
      "learning_rate": 7.333333333333333e-07,
      "loss": 0.0217,
      "step": 369500
    },
    {
      "epoch": 2.96,
      "learning_rate": 6.666666666666667e-07,
      "loss": 0.0221,
      "step": 370000
    },
    {
      "epoch": 2.96,
      "learning_rate": 6.000000000000001e-07,
      "loss": 0.0222,
      "step": 370500
    },
    {
      "epoch": 2.97,
      "learning_rate": 5.333333333333333e-07,
      "loss": 0.0221,
      "step": 371000
    },
    {
      "epoch": 2.97,
      "learning_rate": 4.666666666666667e-07,
      "loss": 0.021,
      "step": 371500
    },
    {
      "epoch": 2.98,
      "learning_rate": 4.0000000000000003e-07,
      "loss": 0.0218,
      "step": 372000
    },
    {
      "epoch": 2.98,
      "learning_rate": 3.3333333333333335e-07,
      "loss": 0.0224,
      "step": 372500
    },
    {
      "epoch": 2.98,
      "learning_rate": 2.6666666666666667e-07,
      "loss": 0.0198,
      "step": 373000
    },
    {
      "epoch": 2.99,
      "learning_rate": 2.0000000000000002e-07,
      "loss": 0.0207,
      "step": 373500
    },
    {
      "epoch": 2.99,
      "learning_rate": 1.3333333333333334e-07,
      "loss": 0.0236,
      "step": 374000
    },
    {
      "epoch": 3.0,
      "learning_rate": 6.666666666666667e-08,
      "loss": 0.0229,
      "step": 374500
    },
    {
      "epoch": 3.0,
      "learning_rate": 0.0,
      "loss": 0.0215,
      "step": 375000
    },
    {
      "epoch": 3.0,
      "step": 375000,
      "total_flos": 1.9761176507611873e+18,
      "train_loss": 0.04092270191955567,
      "train_runtime": 187904.64,
      "train_samples_per_second": 7.983,
      "train_steps_per_second": 1.996
    }
  ],
  "max_steps": 375000,
  "num_train_epochs": 3,
  "total_flos": 1.9761176507611873e+18,
  "trial_name": null,
  "trial_params": null
}