Hugging Face's logo

Datasets:
ydshieh
/
A10_benchmark_flash_attention

Dataset card Files Community
A10_benchmark_flash_attention / A100_result_(use_flash_attn_with_kvcache=True, slicing=True, kv_cache_len=1024).json
ydshieh's picture
ydshieh HF staff
Upload A100_result_(use_flash_attn_with_kvcache=True, slicing=True, kv_cache_len=1024).json with huggingface_hub
33887dc verified
raw history blame contribute delete
No virus
23.9 kB
[
0.036333333333333336,
0.036666666666666674,
0.036000000000000004,
0.03566666666666667,
0.036333333333333336,
0.036000000000000004,
0.036000000000000004,
0.036333333333333336,
0.036333333333333336,
0.036333333333333336,
0.03566666666666667,
0.036333333333333336,
0.036000000000000004,
0.036000000000000004,
0.036000000000000004,
0.03566666666666667,
0.03566666666666667,
0.036666666666666674,
0.036000000000000004,
0.036000000000000004,
0.036666666666666674,
0.036333333333333336,
0.036000000000000004,
0.036000000000000004,
0.036666666666666674,
0.036666666666666674,
0.036000000000000004,
0.036666666666666674,
0.036333333333333336,
0.036333333333333336,
0.036666666666666674,
0.036666666666666674,
0.036000000000000004,
0.037,
0.036000000000000004,
0.036666666666666674,
0.03566666666666667,
0.036000000000000004,
0.036333333333333336,
0.036000000000000004,
0.036666666666666674,
0.036666666666666674,
0.036666666666666674,
0.036333333333333336,
0.036000000000000004,
0.036333333333333336,
0.036333333333333336,
0.036000000000000004,
0.036333333333333336,
0.036000000000000004,
0.036000000000000004,
0.036333333333333336,
0.036000000000000004,
0.036333333333333336,
0.036666666666666674,
0.036666666666666674,
0.036666666666666674,
0.036000000000000004,
0.036000000000000004,
0.036333333333333336,
0.036333333333333336,
0.036666666666666674,
0.036333333333333336,
0.036333333333333336,
0.046000000000000006,
0.046000000000000006,
0.04533333333333334,
0.04533333333333334,
0.046000000000000006,
0.046000000000000006,
0.045000000000000005,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.04566666666666667,
0.04633333333333334,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.04533333333333334,
0.046000000000000006,
0.04666666666666667,
0.045000000000000005,
0.04566666666666667,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.04533333333333334,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04533333333333334,
0.04633333333333334,
0.046000000000000006,
0.04633333333333334,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.04633333333333334,
0.046000000000000006,
0.04566666666666667,
0.04566666666666667,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.04566666666666667,
0.04666666666666667,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04566666666666667,
0.04533333333333334,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04666666666666667,
0.04633333333333334,
0.04633333333333334,
0.04700000000000001,
0.04666666666666667,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04700000000000001,
0.046000000000000006,
0.04666666666666667,
0.04666666666666667,
0.046000000000000006,
0.04666666666666667,
0.04700000000000001,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.04666666666666667,
0.04666666666666667,
0.04666666666666667,
0.04633333333333334,
0.046000000000000006,
0.04700000000000001,
0.04633333333333334,
0.04633333333333334,
0.04700000000000001,
0.04666666666666667,
0.04633333333333334,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.046000000000000006,
0.046000000000000006,
0.04633333333333334,
0.04700000000000001,
0.04633333333333334,
0.04700000000000001,
0.04700000000000001,
0.046000000000000006,
0.04666666666666667,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.04633333333333334,
0.046000000000000006,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.046000000000000006,
0.04633333333333334,
0.04766666666666667,
0.04666666666666667,
0.04700000000000001,
0.04666666666666667,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04700000000000001,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.04666666666666667,
0.04566666666666667,
0.04633333333333334,
0.04666666666666667,
0.04666666666666667,
0.04666666666666667,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.04633333333333334,
0.04666666666666667,
0.04633333333333334,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04633333333333334,
0.04666666666666667,
0.04666666666666667,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.046000000000000006,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04633333333333334,
0.04700000000000001,
0.04700000000000001,
0.04666666666666667,
0.046000000000000006,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04666666666666667,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04633333333333334,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04666666666666667,
0.04633333333333334,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04666666666666667,
0.04733333333333334,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04800000000000001,
0.04733333333333334,
0.04733333333333334,
0.04700000000000001,
0.04733333333333334,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04766666666666667,
0.04733333333333334,
0.04766666666666667,
0.04733333333333334,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04766666666666667,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04800000000000001,
0.04766666666666667,
0.04800000000000001,
0.04700000000000001,
0.04700000000000001,
0.04800000000000001,
0.04766666666666667,
0.04766666666666667,
0.04700000000000001,
0.04766666666666667,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04733333333333334,
0.04766666666666667,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04800000000000001,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04800000000000001,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04766666666666667,
0.04700000000000001,
0.04800000000000001,
0.04800000000000001,
0.04733333333333334,
0.04733333333333334,
0.04733333333333334,
0.04800000000000001,
0.04733333333333334,
0.04666666666666667,
0.04766666666666667,
0.04700000000000001,
0.04766666666666667,
0.04766666666666667,
0.04800000000000001,
0.04700000000000001,
0.04766666666666667,
0.04700000000000001,
0.04800000000000001,
0.04700000000000001,
0.04800000000000001,
0.04766666666666667,
0.04800000000000001,
0.04766666666666667,
0.04833333333333334,
0.04733333333333334,
0.04800000000000001,
0.04733333333333334,
0.04733333333333334,
0.04800000000000001,
0.04800000000000001,
0.04766666666666667,
0.04766666666666667,
0.04766666666666667,
0.04700000000000001,
0.04766666666666667,
0.04766666666666667,
0.04733333333333334,
0.04766666666666667,
0.04800000000000001,
0.04833333333333334,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04733333333333334,
0.04700000000000001,
0.04800000000000001,
0.04733333333333334,
0.04800000000000001,
0.04700000000000001,
0.04800000000000001,
0.04766666666666667,
0.04800000000000001,
0.04766666666666667,
0.04766666666666667,
0.04700000000000001,
0.04733333333333334,
0.04800000000000001,
0.04800000000000001,
0.04733333333333334,
0.04700000000000001,
0.04766666666666667,
0.04800000000000001,
0.04633333333333334,
0.04733333333333334,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04766666666666667,
0.04633333333333334,
0.04700000000000001,
0.046000000000000006,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04700000000000001,
0.04766666666666667,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04733333333333334,
0.04700000000000001,
0.04733333333333334,
0.04700000000000001,
0.04766666666666667,
0.04700000000000001,
0.04733333333333334,
0.04700000000000001,
0.04700000000000001,
0.04666666666666667,
0.04800000000000001,
0.04700000000000001,
0.04800000000000001,
0.04700000000000001,
0.04733333333333334,
0.04733333333333334,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04700000000000001,
0.04766666666666667,
0.04766666666666667,
0.04700000000000001,
0.04866666666666667,
0.04733333333333334,
0.04766666666666667,
0.04733333333333334,
0.04766666666666667,
0.04800000000000001,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04766666666666667,
0.04766666666666667,
0.04733333333333334,
0.04733333333333334,
0.04733333333333334,
0.04766666666666667,
0.04700000000000001,
0.04700000000000001,
0.04800000000000001,
0.04766666666666667,
0.04733333333333334,
0.04733333333333334,
0.04766666666666667,
0.04800000000000001,
0.04766666666666667,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04766666666666667,
0.04733333333333334,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04933333333333334,
0.04933333333333334,
0.04800000000000001,
0.04733333333333334,
0.04800000000000001,
0.04800000000000001,
0.04866666666666667,
0.04800000000000001,
0.04833333333333334,
0.04833333333333334,
0.04766666666666667,
0.04833333333333334,
0.04800000000000001,
0.04833333333333334,
0.04800000000000001,
0.04800000000000001,
0.04833333333333334,
0.04866666666666667,
0.04800000000000001,
0.04900000000000001,
0.04900000000000001,
0.04766666666666667,
0.04866666666666667,
0.04800000000000001,
0.04866666666666667,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04833333333333334,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04766666666666667,
0.04866666666666667,
0.04833333333333334,
0.04866666666666667,
0.04800000000000001,
0.04800000000000001,
0.04866666666666667,
0.04833333333333334,
0.04766666666666667,
0.04800000000000001,
0.04833333333333334,
0.04800000000000001,
0.04766666666666667,
0.04833333333333334,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04800000000000001,
0.04833333333333334,
0.04766666666666667,
0.04800000000000001,
0.04833333333333334,
0.04866666666666667,
0.04766666666666667,
0.04900000000000001,
0.04900000000000001,
0.04800000000000001,
0.04800000000000001,
0.04866666666666667,
0.049666666666666665,
0.04900000000000001,
0.04900000000000001,
0.04833333333333334,
0.04866666666666667,
0.04900000000000001,
0.04866666666666667,
0.04800000000000001,
0.04933333333333334,
0.04900000000000001,
0.04833333333333334,
0.04866666666666667,
0.04933333333333334,
0.04900000000000001,
0.04900000000000001,
0.04833333333333334,
0.04933333333333334,
0.04900000000000001,
0.04900000000000001,
0.04800000000000001,
0.04900000000000001,
0.04866666666666667,
0.04866666666666667,
0.04833333333333334,
0.04866666666666667,
0.04833333333333334,
0.04900000000000001,
0.04900000000000001,
0.04866666666666667,
0.04900000000000001,
0.04900000000000001,
0.04833333333333334,
0.04933333333333334,
0.04833333333333334,
0.04900000000000001,
0.04833333333333334,
0.04900000000000001,
0.04866666666666667,
0.04900000000000001,
0.04900000000000001,
0.04866666666666667,
0.04866666666666667,
0.04900000000000001,
0.04866666666666667,
0.04866666666666667,
0.04833333333333334,
0.04933333333333334,
0.04833333333333334,
0.04800000000000001,
0.04800000000000001,
0.04900000000000001,
0.04866666666666667,
0.04833333333333334,
0.04900000000000001,
0.04866666666666667,
0.04900000000000001,
0.04800000000000001,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04866666666666667,
0.04866666666666667,
0.04933333333333334,
0.04900000000000001,
0.04866666666666667,
0.04966666666666667,
0.04900000000000001,
0.04966666666666667,
0.04900000000000001,
0.04900000000000001,
0.05000000000000001,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04966666666666667,
0.04966666666666667,
0.04900000000000001,
0.04933333333333334,
0.04933333333333334,
0.04966666666666667,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04966666666666667,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.05000000000000001,
0.04900000000000001,
0.04966666666666667,
0.04966666666666667,
0.04866666666666667,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04966666666666667,
0.04966666666666667,
0.05000000000000001,
0.04933333333333334,
0.04966666666666667,
0.04933333333333334,
0.04900000000000001,
0.04866666666666667,
0.05000000000000001,
0.05000000000000001,
0.04900000000000001,
0.04966666666666667,
0.05000000000000001,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.04900000000000001,
0.05000000000000001,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04900000000000001,
0.04966666666666667,
0.04966666666666667,
0.04966666666666667,
0.04966666666666667,
0.04900000000000001,
0.04933333333333334,
0.04966666666666667,
0.04933333333333334,
0.04933333333333334,
0.04900000000000001,
0.04900000000000001,
0.05000000000000001,
0.04900000000000001,
0.04900000000000001,
0.04933333333333334,
0.04866666666666667,
0.04900000000000001,
0.04966666666666667,
0.04900000000000001,
0.04933333333333334,
0.04900000000000001,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.04900000000000001,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.04900000000000001,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.04900000000000001,
0.05000000000000001,
0.049999999999999996,
0.04966666666666667,
0.04900000000000001,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.04933333333333334,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.04933333333333334,
0.05000000000000001,
0.04966666666666667,
0.050666666666666665,
0.05000000000000001,
0.04966666666666667,
0.04966666666666667,
0.05000000000000001,
0.04933333333333334,
0.04966666666666667,
0.04966666666666667,
0.05000000000000001,
0.04966666666666667,
0.05000000000000001,
0.04900000000000001,
0.04966666666666667,
0.04966666666666667,
0.05000000000000001,
0.04966666666666667,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.050333333333333334,
0.050666666666666665,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.051,
0.051,
0.04966666666666667,
0.04966666666666667,
0.050333333333333334,
0.05000000000000001,
0.05000000000000001,
0.04966666666666667,
0.04966666666666667,
0.050333333333333334,
0.05000000000000001,
0.05000000000000001,
0.050333333333333334,
0.05000000000000001,
0.050333333333333334,
0.04900000000000001,
0.050333333333333334,
0.050333333333333334,
0.050333333333333334,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.05000000000000001,
0.051,
0.05000000000000001,
0.05000000000000001,
0.050666666666666665,
0.05000000000000001,
0.05000000000000001,
0.04933333333333334,
0.05000000000000001,
0.05000000000000001,
0.04966666666666667,
0.050333333333333334,
0.04966666666666667,
0.051,
0.05000000000000001,
0.05000000000000001,
0.04966666666666667,
0.05000000000000001,
0.05000000000000001,
0.050333333333333334,
0.050666666666666665,
0.05000000000000001,
0.050666666666666665,
0.05000000000000001,
0.050333333333333334,
0.051,
0.050666666666666665,
0.050333333333333334,
0.05000000000000001,
0.050666666666666665,
0.05000000000000001,
0.050666666666666665,
0.050666666666666665,
0.05000000000000001,
0.050666666666666665,
0.050666666666666665,
0.051,
0.05000000000000001,
0.051,
0.05000000000000001,
0.05000000000000001,
0.050333333333333334,
0.051,
0.05000000000000001,
0.05000000000000001,
0.051333333333333335,
0.051,
0.051,
0.050333333333333334,
0.050666666666666665,
0.051,
0.051,
0.051,
0.050333333333333334,
0.050666666666666665,
0.050666666666666665,
0.05000000000000001,
0.050333333333333334,
0.051,
0.050666666666666665,
0.05000000000000001,
0.050666666666666665,
0.050666666666666665,
0.051,
0.050666666666666665,
0.050333333333333334,
0.051,
0.051,
0.051333333333333335,
0.051,
0.051,
0.050666666666666665,
0.051,
0.050333333333333334,
0.051,
0.051,
0.051,
0.051,
0.051,
0.050666666666666665,
0.050666666666666665,
0.050666666666666665,
0.051,
0.055,
0.05633333333333334,
0.056,
0.056,
0.05533333333333334,
0.05566666666666667,
0.056,
0.05533333333333334,
0.05566666666666667,
0.05566666666666667,
0.05566666666666667,
0.05633333333333334,
0.05566666666666667,
0.05566666666666667,
0.05533333333333334,
0.056,
0.056,
0.056,
0.055,
0.056,
0.05566666666666667,
0.056,
0.055,
0.056,
0.056,
0.05566666666666667,
0.056,
0.056,
0.056,
0.05566666666666667,
0.05533333333333334,
0.056,
0.056,
0.056,
0.055,
0.05566666666666667,
0.056,
0.05533333333333334,
0.055,
0.05533333333333334,
0.056,
0.05533333333333334,
0.05566666666666667,
0.056,
0.05566666666666667,
0.05633333333333334,
0.05566666666666667,
0.056,
0.056,
0.05566666666666667,
0.05566666666666667,
0.056,
0.05566666666666667,
0.056,
0.055,
0.056,
0.05566666666666667,
0.05566666666666667,
0.05566666666666667,
0.055,
0.05566666666666667,
0.056,
0.05533333333333334,
0.056,
0.05633333333333334,
0.057,
0.056,
0.056,
0.056,
0.05633333333333334,
0.05566666666666667,
0.056,
0.056,
0.05633333333333334,
0.056,
0.05633333333333334,
0.056,
0.05633333333333334,
0.056,
0.056,
0.05666666666666667,
0.05666666666666667,
0.056,
0.056,
0.056,
0.05633333333333334,
0.056,
0.056,
0.05666666666666667,
0.056,
0.05666666666666667,
0.056,
0.05666666666666667,
0.05633333333333334,
0.056,
0.05666666666666667,
0.05633333333333334,
0.056,
0.05666666666666667,
0.05666666666666667,
0.056,
0.05633333333333334,
0.056,
0.056,
0.05633333333333334,
0.05666666666666667,
0.05666666666666667,
0.05633333333333334,
0.057,
0.057,
0.057,
0.056,
0.056,
0.05666666666666667,
0.057,
0.05666666666666667,
0.05633333333333334,
0.05666666666666667,
0.056,
0.05666666666666667,
0.05633333333333334,
0.056,
0.05666666666666667,
0.056,
0.057,
0.05666666666666667,
0.05666666666666667,
0.056,
0.057,
0.05733333333333334,
0.057,
0.05666666666666667,
0.057,
0.05633333333333334,
0.057,
0.057,
0.057,
0.05666666666666667,
0.056,
0.057,
0.057,
0.057,
0.057,
0.05666666666666667,
0.057,
0.05633333333333334,
0.057,
0.057,
0.057,
0.05766666666666667,
0.057,
0.057,
0.057,
0.057,
0.057,
0.056,
0.057,
0.057,
0.05733333333333334,
0.05733333333333334,
0.057,
0.057,
0.05666666666666667,
0.05766666666666667,
0.057,
0.057,
0.057,
0.057,
0.05733333333333334,
0.057,
0.05666666666666667,
0.057,
0.057,
0.05733333333333334,
0.057,
0.057,
0.05666666666666667,
0.057,
0.05766666666666667,
0.05733333333333334,
0.05666666666666667,
0.057,
0.05633333333333334,
0.05766666666666667,
0.05666666666666667,
0.057,
0.05733333333333334,
0.057,
0.057,
0.058,
0.05633333333333334,
0.057
]