A10_benchmark_flash_attention
/
A100_result_(use_flash_attn_with_kvcache=True, slicing=False, kv_cache_len=1024).json
[ | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.051, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051666666666666666, | |
0.053, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.052, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051666666666666666, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.052, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.04966666666666667, | |
0.051, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.051333333333333335, | |
0.051, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.051, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.05000000000000001, | |
0.051, | |
0.04966666666666667, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.051, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.04966666666666667, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.052, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.04966666666666667, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.04966666666666667, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.05000000000000001, | |
0.051, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.05000000000000001, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.051, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.05000000000000001, | |
0.051333333333333335, | |
0.057, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.057, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.056, | |
0.056, | |
0.056, | |
0.057, | |
0.05566666666666667, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.05733333333333334, | |
0.056, | |
0.057, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.056, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050333333333333334, | |
0.051, | |
0.05000000000000001, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.05000000000000001, | |
0.051, | |
0.051, | |
0.05000000000000001, | |
0.051, | |
0.05000000000000001, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051666666666666666, | |
0.051, | |
0.05000000000000001, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.050666666666666665, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050666666666666665, | |
0.058, | |
0.05733333333333334, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.05733333333333334, | |
0.05666666666666667, | |
0.056, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.05666666666666667, | |
0.056, | |
0.05666666666666667, | |
0.057, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.057, | |
0.057, | |
0.057, | |
0.057, | |
0.057, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.057, | |
0.057, | |
0.057, | |
0.05733333333333334, | |
0.057, | |
0.05666666666666667, | |
0.057, | |
0.05266666666666667, | |
0.051, | |
0.052333333333333336, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.052, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.051, | |
0.052, | |
0.051, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.050333333333333334, | |
0.051, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.052333333333333336, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.051, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.050666666666666665, | |
0.051666666666666666, | |
0.051, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.052, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.052333333333333336, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.052, | |
0.051, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.052, | |
0.051, | |
0.051666666666666666, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050333333333333334, | |
0.051, | |
0.051666666666666666, | |
0.052333333333333336, | |
0.051666666666666666, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.051, | |
0.050666666666666665, | |
0.051333333333333335, | |
0.050666666666666665, | |
0.052, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.051, | |
0.050666666666666665, | |
0.050333333333333334, | |
0.051666666666666666, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.052, | |
0.051, | |
0.051333333333333335, | |
0.051, | |
0.052, | |
0.051333333333333335, | |
0.051, | |
0.051, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051, | |
0.051333333333333335, | |
0.052, | |
0.051, | |
0.051, | |
0.052, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.052, | |
0.051333333333333335, | |
0.051, | |
0.051333333333333335, | |
0.052, | |
0.052, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.052, | |
0.051333333333333335, | |
0.052, | |
0.051, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.051, | |
0.051333333333333335, | |
0.052333333333333336, | |
0.052333333333333336, | |
0.052, | |
0.051, | |
0.052, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.051, | |
0.051, | |
0.052, | |
0.051, | |
0.052, | |
0.051333333333333335, | |
0.051333333333333335, | |
0.051, | |
0.052, | |
0.052, | |
0.05266666666666667, | |
0.051, | |
0.051666666666666666, | |
0.051, | |
0.051333333333333335, | |
0.052, | |
0.051, | |
0.052, | |
0.051, | |
0.052, | |
0.052, | |
0.051666666666666666, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.051666666666666666, | |
0.051, | |
0.052333333333333336, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.052, | |
0.052, | |
0.052333333333333336, | |
0.051, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.051666666666666666, | |
0.05266666666666667, | |
0.051666666666666666, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.05266666666666667, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.051666666666666666, | |
0.052, | |
0.051333333333333335, | |
0.051666666666666666, | |
0.052, | |
0.052, | |
0.051666666666666666, | |
0.052, | |
0.057, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.057, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.056, | |
0.056, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.057, | |
0.056, | |
0.057, | |
0.057, | |
0.057, | |
0.057, | |
0.056, | |
0.057, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.05633333333333334, | |
0.056, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.05733333333333334, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.05633333333333334, | |
0.05733333333333334, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.056, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.056, | |
0.056, | |
0.05666666666666667, | |
0.057, | |
0.056, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.05666666666666667, | |
0.056, | |
0.057, | |
0.056, | |
0.056, | |
0.057, | |
0.05633333333333334, | |
0.064, | |
0.06233333333333333, | |
0.063, | |
0.06266666666666666, | |
0.06233333333333333, | |
0.06266666666666666, | |
0.06233333333333333, | |
0.06266666666666666, | |
0.06233333333333333, | |
0.06266666666666666, | |
0.06166666666666667, | |
0.063, | |
0.06266666666666666, | |
0.063, | |
0.06233333333333333, | |
0.06333333333333334, | |
0.063, | |
0.06366666666666666, | |
0.06366666666666666, | |
0.06266666666666666, | |
0.06266666666666666, | |
0.063, | |
0.06366666666666666, | |
0.06233333333333333, | |
0.06266666666666666, | |
0.06266666666666666, | |
0.063, | |
0.06266666666666666, | |
0.063, | |
0.06233333333333333, | |
0.063, | |
0.06266666666666666, | |
0.06233333333333333, | |
0.06266666666666666, | |
0.05733333333333334, | |
0.057, | |
0.058, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.057, | |
0.057, | |
0.057, | |
0.056, | |
0.057, | |
0.057, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.056, | |
0.057, | |
0.05733333333333334, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.057, | |
0.05666666666666667, | |
0.05633333333333334, | |
0.05666666666666667, | |
0.057, | |
0.056, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.057, | |
0.057, | |
0.058, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.05666666666666667, | |
0.05766666666666667, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.05733333333333334, | |
0.05733333333333334, | |
0.057, | |
0.05633333333333334, | |
0.057, | |
0.05766666666666667, | |
0.057, | |
0.057, | |
0.057, | |
0.05666666666666667, | |
0.057, | |
0.05666666666666667, | |
0.05666666666666667, | |
0.057, | |
0.057 | |
] |