Upload A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json with huggingface_hub

A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json

@@ -0,0 +1,1026 @@
+[
+    0.049999999999999996,
+    0.04866666666666667,
+    0.04900000000000001,
+    0.04866666666666667,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04866666666666667,
+    0.04800000000000001,
+    0.04866666666666667,
+    0.04866666666666667,
+    0.04900000000000001,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04800000000000001,
+    0.04800000000000001,
+    0.04866666666666667,
+    0.04900000000000001,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04833333333333334,
+    0.04933333333333334,
+    0.04900000000000001,
+    0.04800000000000001,
+    0.04933333333333334,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04800000000000001,
+    0.04900000000000001,
+    0.04866666666666667,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04933333333333334,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04833333333333334,
+    0.04933333333333334,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04933333333333334,
+    0.04866666666666667,
+    0.04866666666666667,
+    0.04833333333333334,
+    0.04933333333333334,
+    0.04866666666666667,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04800000000000001,
+    0.04900000000000001,
+    0.04866666666666667,
+    0.04866666666666667,
+    0.04833333333333334,
+    0.04900000000000001,
+    0.04900000000000001,
+    0.04866666666666667,
+    0.04866666666666667,
+    0.04866666666666667,
+    0.052333333333333336,
+    0.052,
+    0.051666666666666666,
+    0.052,
+    0.052333333333333336,
+    0.052,
+    0.051333333333333335,
+    0.052,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.051666666666666666,
+    0.05266666666666667,
+    0.052,
+    0.052333333333333336,
+    0.052,
+    0.051333333333333335,
+    0.052,
+    0.052,
+    0.052333333333333336,
+    0.052,
+    0.052,
+    0.052,
+    0.052,
+    0.052,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.051666666666666666,
+    0.052,
+    0.052333333333333336,
+    0.052,
+    0.052,
+    0.052,
+    0.052,
+    0.05266666666666667,
+    0.052,
+    0.052,
+    0.052,
+    0.052,
+    0.052,
+    0.05266666666666667,
+    0.052,
+    0.052,
+    0.052,
+    0.052333333333333336,
+    0.052,
+    0.052,
+    0.051666666666666666,
+    0.052,
+    0.052,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.052,
+    0.052,
+    0.052333333333333336,
+    0.051333333333333335,
+    0.052,
+    0.051333333333333335,
+    0.052,
+    0.051666666666666666,
+    0.052,
+    0.051666666666666666,
+    0.052,
+    0.052,
+    0.052,
+    0.054,
+    0.055,
+    0.05433333333333334,
+    0.055,
+    0.05466666666666667,
+    0.05466666666666667,
+    0.054,
+    0.055,
+    0.05433333333333334,
+    0.055,
+    0.055,
+    0.05466666666666667,
+    0.055,
+    0.055,
+    0.05466666666666667,
+    0.05466666666666667,
+    0.055,
+    0.05533333333333334,
+    0.05466666666666667,
+    0.05466666666666667,
+    0.05466666666666667,
+    0.05533333333333334,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.05433333333333334,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.05566666666666667,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.05566666666666667,
+    0.055,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.05466666666666667,
+    0.055,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.052333333333333336,
+    0.053,
+    0.053,
+    0.052333333333333336,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.05333333333333334,
+    0.052333333333333336,
+    0.051666666666666666,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.052333333333333336,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.052,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.052333333333333336,
+    0.053,
+    0.052,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.052,
+    0.053,
+    0.053,
+    0.052333333333333336,
+    0.052,
+    0.052333333333333336,
+    0.053,
+    0.052,
+    0.053,
+    0.05266666666666667,
+    0.05333333333333334,
+    0.052,
+    0.053,
+    0.053,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.05333333333333334,
+    0.052,
+    0.053,
+    0.052333333333333336,
+    0.05266666666666667,
+    0.052,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.053,
+    0.052333333333333336,
+    0.053,
+    0.05266666666666667,
+    0.05333333333333334,
+    0.053,
+    0.053,
+    0.052,
+    0.052333333333333336,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.052333333333333336,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.052,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.052,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.052,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.052333333333333336,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.052333333333333336,
+    0.05333333333333334,
+    0.053,
+    0.05266666666666667,
+    0.052333333333333336,
+    0.052,
+    0.053,
+    0.052,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.052333333333333336,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.05466666666666667,
+    0.055,
+    0.05466666666666667,
+    0.05433333333333334,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.055,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.055,
+    0.055,
+    0.05466666666666667,
+    0.055,
+    0.055,
+    0.056,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.055,
+    0.055,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.055,
+    0.05533333333333334,
+    0.055,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.056,
+    0.055,
+    0.05533333333333334,
+    0.05533333333333334,
+    0.055,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.056,
+    0.05533333333333334,
+    0.05533333333333334,
+    0.055,
+    0.056,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.055,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.055,
+    0.05466666666666667,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.053,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.05333333333333334,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.053,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.053,
+    0.053,
+    0.053,
+    0.054,
+    0.05333333333333334,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.052333333333333336,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.05266666666666667,
+    0.05266666666666667,
+    0.053,
+    0.05333333333333334,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.05266666666666667,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.05266666666666667,
+    0.053,
+    0.05333333333333334,
+    0.05366666666666667,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.053,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.053,
+    0.054,
+    0.054,
+    0.053,
+    0.05366666666666667,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.05333333333333334,
+    0.05366666666666667,
+    0.05333333333333334,
+    0.053,
+    0.054,
+    0.05333333333333334,
+    0.054,
+    0.053,
+    0.05366666666666667,
+    0.054,
+    0.053,
+    0.053,
+    0.05366666666666667,
+    0.053,
+    0.053,
+    0.053,
+    0.05333333333333334,
+    0.054,
+    0.05266666666666667,
+    0.05533333333333334,
+    0.056,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.056,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.05633333333333334,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.056,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.05566666666666667,
+    0.05533333333333334,
+    0.056,
+    0.05566666666666667,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.056,
+    0.05533333333333334,
+    0.056,
+    0.05633333333333334,
+    0.05566666666666667,
+    0.05666666666666667,
+    0.056,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.05633333333333334,
+    0.05566666666666667,
+    0.056,
+    0.05633333333333334,
+    0.05633333333333334,
+    0.056,
+    0.056,
+    0.05633333333333334,
+    0.05666666666666667,
+    0.05633333333333334,
+    0.056,
+    0.056,
+    0.056,
+    0.056,
+    0.05566666666666667,
+    0.056,
+    0.056,
+    0.056,
+    0.05633333333333334,
+    0.05566666666666667,
+    0.056,
+    0.061,
+    0.062,
+    0.06266666666666666,
+    0.062,
+    0.06133333333333333,
+    0.06133333333333333,
+    0.06133333333333333,
+    0.06133333333333333,
+    0.06066666666666667,
+    0.062,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.061,
+    0.062,
+    0.061,
+    0.062,
+    0.061,
+    0.06166666666666667,
+    0.06133333333333333,
+    0.062,
+    0.06166666666666667,
+    0.062,
+    0.062,
+    0.062,
+    0.062,
+    0.061,
+    0.06166666666666667,
+    0.062,
+    0.06166666666666667,
+    0.06133333333333333,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.062,
+    0.06133333333333333,
+    0.06166666666666667,
+    0.062,
+    0.062,
+    0.062,
+    0.061,
+    0.062,
+    0.06166666666666667,
+    0.062,
+    0.06166666666666667,
+    0.062,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.062,
+    0.062,
+    0.062,
+    0.062,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.062,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.061,
+    0.062,
+    0.062,
+    0.06133333333333333,
+    0.06166666666666667,
+    0.06166666666666667,
+    0.06133333333333333,
+    0.06166666666666667,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.064,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.064,
+    0.06433333333333334,
+    0.06433333333333334,
+    0.06433333333333334,
+    0.064,
+    0.06433333333333334,
+    0.064,
+    0.064,
+    0.064,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.064,
+    0.06466666666666666,
+    0.06433333333333334,
+    0.06433333333333334,
+    0.064,
+    0.064,
+    0.064,
+    0.06499999999999999,
+    0.06433333333333334,
+    0.064,
+    0.06433333333333334,
+    0.064,
+    0.064,
+    0.064,
+    0.06433333333333334,
+    0.06433333333333334,
+    0.064,
+    0.06433333333333334,
+    0.06433333333333334,
+    0.064,
+    0.06433333333333334,
+    0.064,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.06499999999999999,
+    0.06433333333333334,
+    0.06466666666666666,
+    0.064,
+    0.06333333333333334,
+    0.06499999999999999,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.064,
+    0.06433333333333334,
+    0.06466666666666666,
+    0.064,
+    0.06433333333333334,
+    0.064,
+    0.06499999999999999,
+    0.064,
+    0.06433333333333334,
+    0.06666666666666667,
+    0.067,
+    0.066,
+    0.06633333333333334,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.066,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.066,
+    0.067,
+    0.06666666666666667,
+    0.067,
+    0.06666666666666667,
+    0.067,
+    0.06633333333333334,
+    0.067,
+    0.06633333333333334,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.067,
+    0.06666666666666667,
+    0.067,
+    0.067,
+    0.067,
+    0.06633333333333334,
+    0.067,
+    0.066,
+    0.067,
+    0.066,
+    0.067,
+    0.067,
+    0.067,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.06766666666666667,
+    0.066,
+    0.067,
+    0.06666666666666667,
+    0.06766666666666667,
+    0.067,
+    0.067,
+    0.06666666666666667,
+    0.06733333333333334,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.06633333333333334,
+    0.06733333333333334,
+    0.067,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.067,
+    0.06666666666666667,
+    0.067,
+    0.06666666666666667,
+    0.06733333333333334,
+    0.06633333333333334,
+    0.067,
+    0.066,
+    0.067,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.064,
+    0.06499999999999999,
+    0.06433333333333334,
+    0.06566666666666666,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.064,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06433333333333334,
+    0.06499999999999999,
+    0.06433333333333334,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.065,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06533333333333333,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06533333333333333,
+    0.06466666666666666,
+    0.06433333333333334,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06533333333333333,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06433333333333334,
+    0.06566666666666666,
+    0.06466666666666666,
+    0.06433333333333334,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06433333333333334,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06533333333333333,
+    0.06566666666666666,
+    0.06499999999999999,
+    0.06566666666666666,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06533333333333333,
+    0.06566666666666666,
+    0.06533333333333333,
+    0.06499999999999999,
+    0.06533333333333333,
+    0.06533333333333333,
+    0.06499999999999999,
+    0.06499999999999999,
+    0.06533333333333333,
+    0.06533333333333333,
+    0.06499999999999999,
+    0.06466666666666666,
+    0.06533333333333333,
+    0.06499999999999999,
+    0.06566666666666666,
+    0.06466666666666666,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06533333333333333,
+    0.06499999999999999,
+    0.06566666666666666,
+    0.06533333333333333,
+    0.066,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06633333333333334,
+    0.06533333333333333,
+    0.066,
+    0.066,
+    0.066,
+    0.06499999999999999,
+    0.066,
+    0.06566666666666666,
+    0.06566666666666666,
+    0.06533333333333333,
+    0.06566666666666666,
+    0.06466666666666666,
+    0.066,
+    0.06533333333333333,
+    0.066,
+    0.066,
+    0.066,
+    0.06533333333333333,
+    0.06566666666666666,
+    0.068,
+    0.06766666666666667,
+    0.06733333333333334,
+    0.068,
+    0.06733333333333334,
+    0.06766666666666667,
+    0.06766666666666667,
+    0.06733333333333334,
+    0.06766666666666667,
+    0.067,
+    0.06866666666666667,
+    0.06833333333333334,
+    0.068,
+    0.068,
+    0.06766666666666667,
+    0.06833333333333334,
+    0.06766666666666667,
+    0.068,
+    0.06766666666666667,
+    0.06766666666666667,
+    0.068,
+    0.06866666666666667,
+    0.06733333333333334,
+    0.068,
+    0.068,
+    0.068,
+    0.06633333333333334,
+    0.066,
+    0.06566666666666666,
+    0.066,
+    0.06633333333333334,
+    0.06633333333333334,
+    0.06566666666666666,
+    0.06633333333333334,
+    0.066,
+    0.066,
+    0.06566666666666666,
+    0.06633333333333334,
+    0.06633333333333334,
+    0.066,
+    0.066,
+    0.066,
+    0.06633333333333334,
+    0.06666666666666667,
+    0.06666666666666667,
+    0.066,
+    0.06666666666666667,
+    0.066,
+    0.06566666666666666,
+    0.066,
+    0.06666666666666667,
+    0.06633333333333334,
+    0.066,
+    0.066,
+    0.066,
+    0.066,
+    0.066,
+    0.06533333333333333,
+    0.06666666666666667,
+    0.06633333333333334,
+    0.067,
+    0.066,
+    0.066,
+    0.066,
+    0.06366666666666666,
+    0.06366666666666666,
+    0.06366666666666666,
+    0.064,
+    0.06466666666666666,
+    0.06366666666666666,
+    0.064,
+    0.06366666666666666,
+    0.063,
+    0.06333333333333334,
+    0.063,
+    0.06366666666666666,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06333333333333334,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06533333333333334,
+    0.064,
+    0.064,
+    0.06333333333333334,
+    0.06366666666666666,
+    0.064,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06366666666666666,
+    0.06333333333333334,
+    0.06333333333333334,
+    0.06366666666666666,
+    0.064,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.064,
+    0.06333333333333334,
+    0.064,
+    0.064,
+    0.064,
+    0.06466666666666666,
+    0.06366666666666666,
+    0.064,
+    0.06333333333333334,
+    0.06366666666666666,
+    0.06466666666666666,
+    0.06466666666666666,
+    0.06366666666666666,
+    0.064,
+    0.064,
+    0.064,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06366666666666666,
+    0.064,
+    0.06466666666666666,
+    0.064,
+    0.064,
+    0.064,
+    0.06433333333333334
+]