A10_benchmark_flash_attention
/
A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json
[ | |
0.049999999999999996, | |
0.04866666666666667, | |
0.04900000000000001, | |
0.04866666666666667, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04866666666666667, | |
0.04800000000000001, | |
0.04866666666666667, | |
0.04866666666666667, | |
0.04900000000000001, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04800000000000001, | |
0.04800000000000001, | |
0.04866666666666667, | |
0.04900000000000001, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04833333333333334, | |
0.04933333333333334, | |
0.04900000000000001, | |
0.04800000000000001, | |
0.04933333333333334, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04800000000000001, | |
0.04900000000000001, | |
0.04866666666666667, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04933333333333334, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04833333333333334, | |
0.04933333333333334, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04933333333333334, | |
0.04866666666666667, | |
0.04866666666666667, | |
0.04833333333333334, | |
0.04933333333333334, | |
0.04866666666666667, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04800000000000001, | |
0.04900000000000001, | |
0.04866666666666667, | |
0.04866666666666667, | |
0.04833333333333334, | |
0.04900000000000001, | |
0.04900000000000001, | |
0.04866666666666667, | |
0.04866666666666667, | |
0.04866666666666667, | |
0.052333333333333336, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.052333333333333336, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.051666666666666666, | |
0.05266666666666667, | |
0.052, | |
0.052333333333333336, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.051666666666666666, | |
0.052, | |
0.052333333333333336, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.05266666666666667, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.05266666666666667, | |
0.052, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.052, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.051333333333333335, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.052, | |
0.054, | |
0.055, | |
0.05433333333333334, | |
0.055, | |
0.05466666666666667, | |
0.05466666666666667, | |
0.054, | |
0.055, | |
0.05433333333333334, | |
0.055, | |
0.055, | |
0.05466666666666667, | |
0.055, | |
0.055, | |
0.05466666666666667, | |
0.05466666666666667, | |
0.055, | |
0.05533333333333334, | |
0.05466666666666667, | |
0.05466666666666667, | |
0.05466666666666667, | |
0.05533333333333334, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.05433333333333334, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.05566666666666667, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.05566666666666667, | |
0.055, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.05466666666666667, | |
0.055, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.052333333333333336, | |
0.053, | |
0.053, | |
0.052333333333333336, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.05333333333333334, | |
0.052333333333333336, | |
0.051666666666666666, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.052333333333333336, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.052, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.052333333333333336, | |
0.053, | |
0.052, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.052, | |
0.053, | |
0.053, | |
0.052333333333333336, | |
0.052, | |
0.052333333333333336, | |
0.053, | |
0.052, | |
0.053, | |
0.05266666666666667, | |
0.05333333333333334, | |
0.052, | |
0.053, | |
0.053, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.05333333333333334, | |
0.052, | |
0.053, | |
0.052333333333333336, | |
0.05266666666666667, | |
0.052, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.053, | |
0.052333333333333336, | |
0.053, | |
0.05266666666666667, | |
0.05333333333333334, | |
0.053, | |
0.053, | |
0.052, | |
0.052333333333333336, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.052333333333333336, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.052, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.052, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.052, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.052333333333333336, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.05333333333333334, | |
0.053, | |
0.05266666666666667, | |
0.052333333333333336, | |
0.052, | |
0.053, | |
0.052, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.052333333333333336, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.05466666666666667, | |
0.055, | |
0.05466666666666667, | |
0.05433333333333334, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.055, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.055, | |
0.055, | |
0.05466666666666667, | |
0.055, | |
0.055, | |
0.056, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.055, | |
0.055, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.055, | |
0.05533333333333334, | |
0.055, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.056, | |
0.055, | |
0.05533333333333334, | |
0.05533333333333334, | |
0.055, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.056, | |
0.05533333333333334, | |
0.05533333333333334, | |
0.055, | |
0.056, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.055, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.055, | |
0.05466666666666667, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.053, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.05333333333333334, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.053, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.053, | |
0.053, | |
0.053, | |
0.054, | |
0.05333333333333334, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.052333333333333336, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.05266666666666667, | |
0.05266666666666667, | |
0.053, | |
0.05333333333333334, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.05266666666666667, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.05266666666666667, | |
0.053, | |
0.05333333333333334, | |
0.05366666666666667, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.053, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.053, | |
0.054, | |
0.054, | |
0.053, | |
0.05366666666666667, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.05333333333333334, | |
0.05366666666666667, | |
0.05333333333333334, | |
0.053, | |
0.054, | |
0.05333333333333334, | |
0.054, | |
0.053, | |
0.05366666666666667, | |
0.054, | |
0.053, | |
0.053, | |
0.05366666666666667, | |
0.053, | |
0.053, | |
0.053, | |
0.05333333333333334, | |
0.054, | |
0.05266666666666667, | |
0.05533333333333334, | |
0.056, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.056, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.05633333333333334, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.056, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.05566666666666667, | |
0.05533333333333334, | |
0.056, | |
0.05566666666666667, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.056, | |
0.05533333333333334, | |
0.056, | |
0.05633333333333334, | |
0.05566666666666667, | |
0.05666666666666667, | |
0.056, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05566666666666667, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.056, | |
0.056, | |
0.056, | |
0.056, | |
0.05566666666666667, | |
0.056, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05566666666666667, | |
0.056, | |
0.061, | |
0.062, | |
0.06266666666666666, | |
0.062, | |
0.06133333333333333, | |
0.06133333333333333, | |
0.06133333333333333, | |
0.06133333333333333, | |
0.06066666666666667, | |
0.062, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.061, | |
0.062, | |
0.061, | |
0.062, | |
0.061, | |
0.06166666666666667, | |
0.06133333333333333, | |
0.062, | |
0.06166666666666667, | |
0.062, | |
0.062, | |
0.062, | |
0.062, | |
0.061, | |
0.06166666666666667, | |
0.062, | |
0.06166666666666667, | |
0.06133333333333333, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.062, | |
0.06133333333333333, | |
0.06166666666666667, | |
0.062, | |
0.062, | |
0.062, | |
0.061, | |
0.062, | |
0.06166666666666667, | |
0.062, | |
0.06166666666666667, | |
0.062, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.062, | |
0.062, | |
0.062, | |
0.062, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.062, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.061, | |
0.062, | |
0.062, | |
0.06133333333333333, | |
0.06166666666666667, | |
0.06166666666666667, | |
0.06133333333333333, | |
0.06166666666666667, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.064, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.064, | |
0.06433333333333334, | |
0.06433333333333334, | |
0.06433333333333334, | |
0.064, | |
0.06433333333333334, | |
0.064, | |
0.064, | |
0.064, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.064, | |
0.06466666666666666, | |
0.06433333333333334, | |
0.06433333333333334, | |
0.064, | |
0.064, | |
0.064, | |
0.06499999999999999, | |
0.06433333333333334, | |
0.064, | |
0.06433333333333334, | |
0.064, | |
0.064, | |
0.064, | |
0.06433333333333334, | |
0.06433333333333334, | |
0.064, | |
0.06433333333333334, | |
0.06433333333333334, | |
0.064, | |
0.06433333333333334, | |
0.064, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.06499999999999999, | |
0.06433333333333334, | |
0.06466666666666666, | |
0.064, | |
0.06333333333333334, | |
0.06499999999999999, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.064, | |
0.06433333333333334, | |
0.06466666666666666, | |
0.064, | |
0.06433333333333334, | |
0.064, | |
0.06499999999999999, | |
0.064, | |
0.06433333333333334, | |
0.06666666666666667, | |
0.067, | |
0.066, | |
0.06633333333333334, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.066, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.066, | |
0.067, | |
0.06666666666666667, | |
0.067, | |
0.06666666666666667, | |
0.067, | |
0.06633333333333334, | |
0.067, | |
0.06633333333333334, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.067, | |
0.06666666666666667, | |
0.067, | |
0.067, | |
0.067, | |
0.06633333333333334, | |
0.067, | |
0.066, | |
0.067, | |
0.066, | |
0.067, | |
0.067, | |
0.067, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.06766666666666667, | |
0.066, | |
0.067, | |
0.06666666666666667, | |
0.06766666666666667, | |
0.067, | |
0.067, | |
0.06666666666666667, | |
0.06733333333333334, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.06633333333333334, | |
0.06733333333333334, | |
0.067, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.067, | |
0.06666666666666667, | |
0.067, | |
0.06666666666666667, | |
0.06733333333333334, | |
0.06633333333333334, | |
0.067, | |
0.066, | |
0.067, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.064, | |
0.06499999999999999, | |
0.06433333333333334, | |
0.06566666666666666, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.064, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06433333333333334, | |
0.06499999999999999, | |
0.06433333333333334, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.065, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06533333333333333, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06533333333333333, | |
0.06466666666666666, | |
0.06433333333333334, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06533333333333333, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06433333333333334, | |
0.06566666666666666, | |
0.06466666666666666, | |
0.06433333333333334, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06433333333333334, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06533333333333333, | |
0.06566666666666666, | |
0.06499999999999999, | |
0.06566666666666666, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06533333333333333, | |
0.06566666666666666, | |
0.06533333333333333, | |
0.06499999999999999, | |
0.06533333333333333, | |
0.06533333333333333, | |
0.06499999999999999, | |
0.06499999999999999, | |
0.06533333333333333, | |
0.06533333333333333, | |
0.06499999999999999, | |
0.06466666666666666, | |
0.06533333333333333, | |
0.06499999999999999, | |
0.06566666666666666, | |
0.06466666666666666, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06533333333333333, | |
0.06499999999999999, | |
0.06566666666666666, | |
0.06533333333333333, | |
0.066, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06633333333333334, | |
0.06533333333333333, | |
0.066, | |
0.066, | |
0.066, | |
0.06499999999999999, | |
0.066, | |
0.06566666666666666, | |
0.06566666666666666, | |
0.06533333333333333, | |
0.06566666666666666, | |
0.06466666666666666, | |
0.066, | |
0.06533333333333333, | |
0.066, | |
0.066, | |
0.066, | |
0.06533333333333333, | |
0.06566666666666666, | |
0.068, | |
0.06766666666666667, | |
0.06733333333333334, | |
0.068, | |
0.06733333333333334, | |
0.06766666666666667, | |
0.06766666666666667, | |
0.06733333333333334, | |
0.06766666666666667, | |
0.067, | |
0.06866666666666667, | |
0.06833333333333334, | |
0.068, | |
0.068, | |
0.06766666666666667, | |
0.06833333333333334, | |
0.06766666666666667, | |
0.068, | |
0.06766666666666667, | |
0.06766666666666667, | |
0.068, | |
0.06866666666666667, | |
0.06733333333333334, | |
0.068, | |
0.068, | |
0.068, | |
0.06633333333333334, | |
0.066, | |
0.06566666666666666, | |
0.066, | |
0.06633333333333334, | |
0.06633333333333334, | |
0.06566666666666666, | |
0.06633333333333334, | |
0.066, | |
0.066, | |
0.06566666666666666, | |
0.06633333333333334, | |
0.06633333333333334, | |
0.066, | |
0.066, | |
0.066, | |
0.06633333333333334, | |
0.06666666666666667, | |
0.06666666666666667, | |
0.066, | |
0.06666666666666667, | |
0.066, | |
0.06566666666666666, | |
0.066, | |
0.06666666666666667, | |
0.06633333333333334, | |
0.066, | |
0.066, | |
0.066, | |
0.066, | |
0.066, | |
0.06533333333333333, | |
0.06666666666666667, | |
0.06633333333333334, | |
0.067, | |
0.066, | |
0.066, | |
0.066, | |
0.06366666666666666, | |
0.06366666666666666, | |
0.06366666666666666, | |
0.064, | |
0.06466666666666666, | |
0.06366666666666666, | |
0.064, | |
0.06366666666666666, | |
0.063, | |
0.06333333333333334, | |
0.063, | |
0.06366666666666666, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06333333333333334, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06533333333333334, | |
0.064, | |
0.064, | |
0.06333333333333334, | |
0.06366666666666666, | |
0.064, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06366666666666666, | |
0.06333333333333334, | |
0.06333333333333334, | |
0.06366666666666666, | |
0.064, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.064, | |
0.06333333333333334, | |
0.064, | |
0.064, | |
0.064, | |
0.06466666666666666, | |
0.06366666666666666, | |
0.064, | |
0.06333333333333334, | |
0.06366666666666666, | |
0.06466666666666666, | |
0.06466666666666666, | |
0.06366666666666666, | |
0.064, | |
0.064, | |
0.064, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06366666666666666, | |
0.064, | |
0.06466666666666666, | |
0.064, | |
0.064, | |
0.064, | |
0.06433333333333334 | |
] |