Hugging Face's logo

Datasets:
ydshieh
/
A10_benchmark_flash_attention

Dataset card Files Community
A10_benchmark_flash_attention / A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=True, kv_cache_len=1024).json
ydshieh's picture
ydshieh HF staff
Upload A100_result_batch_4_(use_flash_attn_with_kvcache=True, slicing=True, kv_cache_len=1024).json with huggingface_hub
4fd3ebd verified
raw
history blame
No virus
21.3 kB
[
0.035333333333333335,
0.034999999999999996,
0.034999999999999996,
0.035333333333333335,
0.034999999999999996,
0.034999999999999996,
0.034999999999999996,
0.034999999999999996,
0.03566666666666667,
0.034999999999999996,
0.034999999999999996,
0.03566666666666667,
0.036000000000000004,
0.035333333333333335,
0.034999999999999996,
0.035333333333333335,
0.035333333333333335,
0.03466666666666667,
0.03566666666666667,
0.034999999999999996,
0.036000000000000004,
0.034999999999999996,
0.034999999999999996,
0.036000000000000004,
0.034999999999999996,
0.03566666666666667,
0.034999999999999996,
0.034999999999999996,
0.03566666666666667,
0.034999999999999996,
0.035333333333333335,
0.035333333333333335,
0.035333333333333335,
0.035333333333333335,
0.03566666666666667,
0.034999999999999996,
0.034999999999999996,
0.03566666666666667,
0.035333333333333335,
0.035333333333333335,
0.036000000000000004,
0.035,
0.034999999999999996,
0.034999999999999996,
0.035333333333333335,
0.035333333333333335,
0.036000000000000004,
0.034999999999999996,
0.03566666666666667,
0.034999999999999996,
0.035333333333333335,
0.034999999999999996,
0.035333333333333335,
0.036000000000000004,
0.034999999999999996,
0.035333333333333335,
0.034999999999999996,
0.034999999999999996,
0.03566666666666667,
0.036000000000000004,
0.034999999999999996,
0.03566666666666667,
0.034999999999999996,
0.036000000000000004,
0.045000000000000005,
0.046000000000000006,
0.045000000000000005,
0.04566666666666667,
0.04533333333333334,
0.04566666666666667,
0.046000000000000006,
0.04566666666666667,
0.045000000000000005,
0.04566666666666667,
0.046000000000000006,
0.04533333333333334,
0.04533333333333334,
0.046000000000000006,
0.04566666666666667,
0.045000000000000005,
0.046000000000000006,
0.04566666666666667,
0.04533333333333334,
0.04533333333333334,
0.045000000000000005,
0.045000000000000005,
0.045000000000000005,
0.045000000000000005,
0.04533333333333334,
0.045000000000000005,
0.046000000000000006,
0.04566666666666667,
0.04566666666666667,
0.04566666666666667,
0.04533333333333334,
0.045000000000000005,
0.045000000000000005,
0.04566666666666667,
0.04533333333333334,
0.04533333333333334,
0.04566666666666667,
0.04566666666666667,
0.045000000000000005,
0.04566666666666667,
0.04566666666666667,
0.045000000000000005,
0.045000000000000005,
0.04533333333333334,
0.046000000000000006,
0.045000000000000005,
0.04533333333333334,
0.04566666666666667,
0.04533333333333334,
0.04566666666666667,
0.04566666666666667,
0.045000000000000005,
0.04566666666666667,
0.04533333333333334,
0.04566666666666667,
0.04566666666666667,
0.045000000000000005,
0.045000000000000005,
0.046000000000000006,
0.04533333333333334,
0.04533333333333334,
0.04533333333333334,
0.045000000000000005,
0.04533333333333334,
0.04633333333333334,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04533333333333334,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.04566666666666667,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.04666666666666667,
0.04633333333333334,
0.046000000000000006,
0.046000000000000006,
0.046000000000000006,
0.04700000000000001,
0.046000000000000006,
0.04633333333333334,
0.04533333333333334,
0.04533333333333334,
0.046000000000000006,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.04633333333333334,
0.04666666666666667,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.04633333333333334,
0.04700000000000001,
0.04666666666666667,
0.04700000000000001,
0.046000000000000006,
0.04666666666666667,
0.04633333333333334,
0.04700000000000001,
0.046000000000000006,
0.04666666666666667,
0.046000000000000006,
0.04633333333333334,
0.04666666666666667,
0.04633333333333334,
0.046000000000000006,
0.04633333333333334,
0.04566666666666667,
0.04700000000000001,
0.046000000000000006,
0.046000000000000006,
0.052,
0.051333333333333335,
0.051666666666666666,
0.052,
0.051666666666666666,
0.052,
0.051666666666666666,
0.052,
0.051333333333333335,
0.051333333333333335,
0.051666666666666666,
0.052,
0.051666666666666666,
0.052,
0.051666666666666666,
0.051666666666666666,
0.051666666666666666,
0.052,
0.051666666666666666,
0.052,
0.051333333333333335,
0.052,
0.052,
0.052,
0.051666666666666666,
0.052,
0.051666666666666666,
0.052,
0.052333333333333336,
0.052,
0.052,
0.052,
0.052,
0.052,
0.051333333333333335,
0.052,
0.052,
0.05266666666666667,
0.052,
0.052,
0.052,
0.051666666666666666,
0.052,
0.052333333333333336,
0.053,
0.052,
0.052,
0.052333333333333336,
0.052,
0.052,
0.052,
0.052333333333333336,
0.052,
0.052,
0.051666666666666666,
0.052,
0.05266666666666667,
0.052,
0.052,
0.052,
0.052333333333333336,
0.052,
0.052,
0.052,
0.052,
0.052333333333333336,
0.052,
0.052,
0.052,
0.053,
0.052333333333333336,
0.052333333333333336,
0.052,
0.052,
0.052333333333333336,
0.053,
0.052,
0.05266666666666667,
0.052,
0.053,
0.052333333333333336,
0.053,
0.052,
0.05333333333333334,
0.052,
0.053,
0.052333333333333336,
0.052333333333333336,
0.052333333333333336,
0.052,
0.053,
0.05266666666666667,
0.05266666666666667,
0.052333333333333336,
0.053,
0.053,
0.053,
0.052,
0.052333333333333336,
0.05266666666666667,
0.05266666666666667,
0.053,
0.05266666666666667,
0.05266666666666667,
0.052,
0.05266666666666667,
0.052333333333333336,
0.052333333333333336,
0.05266666666666667,
0.05266666666666667,
0.053,
0.05266666666666667,
0.05266666666666667,
0.053,
0.053,
0.052,
0.05266666666666667,
0.052333333333333336,
0.053,
0.05266666666666667,
0.05266666666666667,
0.053,
0.05266666666666667,
0.052333333333333336,
0.05266666666666667,
0.052,
0.053,
0.05266666666666667,
0.05366666666666667,
0.05366666666666667,
0.05466666666666667,
0.05433333333333334,
0.05333333333333334,
0.05333333333333334,
0.053,
0.053,
0.05333333333333334,
0.053,
0.053,
0.053,
0.053,
0.05333333333333334,
0.05333333333333334,
0.05366666666666667,
0.05333333333333334,
0.053,
0.05366666666666667,
0.05333333333333334,
0.053,
0.05366666666666667,
0.05366666666666667,
0.054,
0.053,
0.05333333333333334,
0.05333333333333334,
0.05366666666666667,
0.053,
0.05333333333333334,
0.05333333333333334,
0.05366666666666667,
0.05333333333333334,
0.05366666666666667,
0.054,
0.05333333333333334,
0.053,
0.05366666666666667,
0.05366666666666667,
0.054,
0.053,
0.054,
0.05366666666666667,
0.054,
0.05366666666666667,
0.05366666666666667,
0.05366666666666667,
0.054,
0.05366666666666667,
0.05366666666666667,
0.054,
0.05366666666666667,
0.053,
0.054,
0.054,
0.054,
0.054,
0.054,
0.053,
0.05333333333333334,
0.053,
0.054,
0.054,
0.054,
0.05533333333333334,
0.05566666666666667,
0.055,
0.056,
0.055,
0.056,
0.056,
0.05633333333333334,
0.05566666666666667,
0.05566666666666667,
0.056,
0.056,
0.05566666666666667,
0.05566666666666667,
0.05566666666666667,
0.056,
0.05566666666666667,
0.056,
0.056,
0.056,
0.05533333333333334,
0.05566666666666667,
0.05566666666666667,
0.05633333333333334,
0.05566666666666667,
0.05566666666666667,
0.05533333333333334,
0.056,
0.056,
0.056,
0.05566666666666667,
0.05566666666666667,
0.05533333333333334,
0.056,
0.056,
0.056,
0.05566666666666667,
0.056,
0.05533333333333334,
0.05666666666666667,
0.056,
0.056,
0.05566666666666667,
0.056,
0.056,
0.056,
0.056,
0.056,
0.056,
0.05566666666666667,
0.056,
0.05566666666666667,
0.056,
0.05566666666666667,
0.056,
0.05566666666666667,
0.056,
0.05566666666666667,
0.05566666666666667,
0.05666666666666667,
0.056,
0.05566666666666667,
0.056,
0.056,
0.059,
0.058,
0.058666666666666666,
0.05833333333333333,
0.05833333333333333,
0.05833333333333333,
0.058,
0.05833333333333333,
0.058,
0.05833333333333333,
0.058666666666666666,
0.058,
0.058,
0.058,
0.059,
0.059,
0.059,
0.058666666666666666,
0.058666666666666666,
0.05933333333333333,
0.058666666666666666,
0.058666666666666666,
0.059,
0.059,
0.058666666666666666,
0.059,
0.059,
0.05833333333333333,
0.058666666666666666,
0.05833333333333333,
0.058666666666666666,
0.059,
0.059,
0.058666666666666666,
0.058666666666666666,
0.059,
0.058,
0.059,
0.05933333333333333,
0.059,
0.058666666666666666,
0.059,
0.058666666666666666,
0.058666666666666666,
0.058,
0.05833333333333333,
0.058666666666666666,
0.059,
0.059,
0.05833333333333333,
0.059,
0.058,
0.05833333333333333,
0.058666666666666666,
0.058,
0.05833333333333333,
0.059,
0.058666666666666666,
0.05833333333333333,
0.059,
0.058666666666666666,
0.058666666666666666,
0.05833333333333333,
0.058666666666666666,
0.05666666666666667,
0.05633333333333334,
0.056,
0.057,
0.057,
0.056,
0.05666666666666667,
0.057,
0.057,
0.056,
0.05666666666666667,
0.05666666666666667,
0.05666666666666667,
0.057,
0.05633333333333334,
0.056,
0.057,
0.05666666666666667,
0.05633333333333334,
0.05666666666666667,
0.05666666666666667,
0.057,
0.057,
0.05633333333333334,
0.057,
0.057,
0.05633333333333334,
0.057,
0.057,
0.057,
0.057,
0.05633333333333334,
0.057,
0.057,
0.05666666666666667,
0.05733333333333334,
0.057,
0.057,
0.057,
0.05666666666666667,
0.057,
0.05733333333333334,
0.057,
0.057,
0.057,
0.05733333333333334,
0.057,
0.057,
0.057,
0.05666666666666667,
0.05633333333333334,
0.057,
0.05666666666666667,
0.057,
0.05633333333333334,
0.05666666666666667,
0.05666666666666667,
0.05733333333333334,
0.05666666666666667,
0.057,
0.05633333333333334,
0.057,
0.05666666666666667,
0.057,
0.059666666666666666,
0.059666666666666666,
0.059666666666666666,
0.059666666666666666,
0.058666666666666666,
0.059666666666666666,
0.059,
0.05933333333333333,
0.059,
0.06499999999999999,
0.066,
0.06499999999999999,
0.06499999999999999,
0.06499999999999999,
0.06666666666666667,
0.060000000000000005,
0.059666666666666666,
0.060000000000000005,
0.05933333333333333,
0.060000000000000005,
0.05933333333333333,
0.059666666666666666,
0.059666666666666666,
0.059,
0.059,
0.059,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.059666666666666666,
0.059666666666666666,
0.05933333333333333,
0.060000000000000005,
0.060000000000000005,
0.06033333333333333,
0.059666666666666666,
0.060000000000000005,
0.06033333333333333,
0.059666666666666666,
0.05933333333333333,
0.060000000000000005,
0.059666666666666666,
0.060000000000000005,
0.060000000000000005,
0.05933333333333333,
0.059,
0.05933333333333333,
0.060000000000000005,
0.059666666666666666,
0.060000000000000005,
0.059666666666666666,
0.05933333333333333,
0.06033333333333333,
0.060000000000000005,
0.05933333333333333,
0.059,
0.059,
0.060000000000000005,
0.059,
0.059666666666666666,
0.059666666666666666,
0.060000000000000005,
0.060000000000000005,
0.05933333333333333,
0.058,
0.058,
0.05766666666666667,
0.05766666666666667,
0.05733333333333334,
0.058,
0.057,
0.05766666666666667,
0.058,
0.058,
0.05766666666666667,
0.058,
0.05833333333333333,
0.058,
0.05733333333333334,
0.05733333333333334,
0.05766666666666667,
0.058,
0.058,
0.05733333333333334,
0.05733333333333334,
0.058,
0.05766666666666667,
0.05733333333333334,
0.058,
0.058,
0.058,
0.05733333333333334,
0.05766666666666667,
0.05766666666666667,
0.05733333333333334,
0.05766666666666667,
0.058,
0.05733333333333334,
0.05733333333333334,
0.058,
0.05733333333333334,
0.058,
0.058,
0.05733333333333334,
0.05733333333333334,
0.058,
0.05733333333333334,
0.057999999999999996,
0.058,
0.058,
0.05833333333333333,
0.058,
0.05766666666666667,
0.05766666666666667,
0.05733333333333334,
0.058,
0.057,
0.058,
0.058,
0.058,
0.05766666666666667,
0.058,
0.058,
0.058,
0.058,
0.058,
0.05766666666666667,
0.05733333333333334,
0.059666666666666666,
0.060000000000000005,
0.06066666666666667,
0.06033333333333333,
0.059666666666666666,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.06066666666666667,
0.06133333333333333,
0.061,
0.06033333333333333,
0.06033333333333333,
0.060000000000000005,
0.06033333333333333,
0.060000000000000005,
0.06,
0.060000000000000005,
0.06066666666666667,
0.060000000000000005,
0.06066666666666667,
0.059,
0.06033333333333333,
0.060000000000000005,
0.06033333333333333,
0.059666666666666666,
0.06066666666666667,
0.06066666666666667,
0.06033333333333333,
0.06066666666666667,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.06033333333333333,
0.06066666666666667,
0.059666666666666666,
0.06033333333333333,
0.060000000000000005,
0.06066666666666667,
0.06033333333333333,
0.061,
0.060000000000000005,
0.06166666666666667,
0.06066666666666667,
0.062,
0.06266666666666666,
0.06133333333333333,
0.060000000000000005,
0.06066666666666667,
0.060000000000000005,
0.06033333333333333,
0.06,
0.061,
0.06066666666666667,
0.06066666666666667,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.060000000000000005,
0.06066666666666667,
0.060000000000000005,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.06966666666666665,
0.06899999999999999,
0.06899999999999999,
0.06999999999999999,
0.06899999999999999,
0.06899999999999999,
0.06966666666666665,
0.06866666666666667,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.06933333333333332,
0.06899999999999999,
0.06966666666666665,
0.06933333333333332,
0.06866666666666667,
0.06899999999999999,
0.06999999999999999,
0.06899999999999999,
0.06899999999999999,
0.06899999999999999,
0.07066666666666667,
0.06933333333333332,
0.06899999999999999,
0.06899999999999999,
0.06966666666666665,
0.06899999999999999,
0.06933333333333332,
0.06899999999999999,
0.07033333333333333,
0.06966666666666665,
0.06966666666666665,
0.06899999999999999,
0.06899999999999999,
0.06966666666666665,
0.06966666666666665,
0.06966666666666665,
0.06966666666666665,
0.06999999999999999,
0.06899999999999999,
0.06966666666666665,
0.06933333333333332,
0.07033333333333333,
0.06966666666666665,
0.06933333333333332,
0.06999999999999999,
0.06933333333333332,
0.07033333333333333,
0.06899999999999999,
0.06933333333333332,
0.06933333333333332,
0.06999999999999999,
0.06899999999999999,
0.06966666666666665,
0.06933333333333332,
0.06999999999999999,
0.06866666666666667,
0.06999999999999999,
0.06233333333333333,
0.063,
0.06233333333333333,
0.06266666666666666,
0.06266666666666666,
0.06266666666666666,
0.062,
0.06233333333333333,
0.062,
0.06233333333333333,
0.062,
0.063,
0.06233333333333333,
0.063,
0.062,
0.063,
0.06266666666666666,
0.06233333333333333,
0.062,
0.06266666666666666,
0.063,
0.063,
0.062,
0.063,
0.06366666666666666,
0.06266666666666666,
0.063,
0.06266666666666666,
0.06333333333333334,
0.06266666666666666,
0.06266666666666666,
0.06266666666666666,
0.062,
0.063,
0.063,
0.06366666666666666,
0.06333333333333334,
0.063,
0.06266666666666666,
0.06333333333333334,
0.063,
0.06366666666666666,
0.063,
0.063,
0.063,
0.06366666666666666,
0.06266666666666666,
0.064,
0.06266666666666666,
0.06266666666666666,
0.06233333333333333,
0.063,
0.063,
0.06333333333333334,
0.063,
0.06266666666666666,
0.06333333333333334,
0.064,
0.063,
0.064,
0.06366666666666666,
0.064,
0.06266666666666666,
0.06366666666666666,
0.06499999999999999,
0.066,
0.06566666666666666,
0.06566666666666666,
0.06499999999999999,
0.06566666666666666,
0.06533333333333333,
0.06566666666666666,
0.06499999999999999,
0.06566666666666666,
0.06533333333333333,
0.06633333333333334,
0.06499999999999999,
0.06533333333333333,
0.06499999999999999,
0.06533333333333333,
0.06499999999999999,
0.06566666666666666,
0.06533333333333333,
0.066,
0.06566666666666666,
0.066,
0.06533333333333333,
0.06533333333333333,
0.06499999999999999,
0.066,
0.06533333333333333,
0.06633333333333334,
0.06566666666666666,
0.06633333333333334,
0.06566666666666666,
0.06566666666666666,
0.06499999999999999,
0.06566666666666666,
0.06566666666666666,
0.06533333333333333,
0.06533333333333333,
0.06533333333333333,
0.066,
0.06566666666666666,
0.06633333333333334,
0.06566666666666666,
0.06499999999999999,
0.06499999999999999,
0.06633333333333334,
0.066,
0.066,
0.06499999999999999,
0.06566666666666666,
0.066,
0.06433333333333334,
0.064,
0.06499999999999999,
0.06466666666666666,
0.06466666666666666,
0.064,
0.06466666666666666,
0.06499999999999999,
0.06566666666666666,
0.06466666666666666,
0.06533333333333333,
0.06499999999999999,
0.06466666666666666,
0.06499999999999999,
0.063,
0.06266666666666666,
0.06266666666666666,
0.063,
0.062,
0.06266666666666666,
0.063,
0.06266666666666666,
0.063,
0.063,
0.06266666666666666,
0.06233333333333333,
0.06333333333333334,
0.063,
0.06233333333333333,
0.063,
0.06266666666666666,
0.06266666666666666,
0.063,
0.06233333333333333,
0.063,
0.063,
0.06266666666666666,
0.063,
0.06266666666666666,
0.063,
0.063,
0.063,
0.063,
0.063,
0.064,
0.06233333333333333,
0.06266666666666666,
0.063,
0.063,
0.063,
0.06266666666666666,
0.06333333333333334,
0.063,
0.063,
0.063,
0.06333333333333334,
0.063,
0.06266666666666666,
0.063,
0.06266666666666666,
0.063,
0.063,
0.063,
0.06333333333333334,
0.063,
0.06333333333333334,
0.06233333333333333,
0.063,
0.06233333333333333,
0.06333333333333334,
0.063,
0.06366666666666666,
0.063,
0.063,
0.063,
0.063,
0.063,
0.06333333333333334
]