Hugging Face's logo

Datasets:
ydshieh
/
A10_benchmark_flash_attention

Dataset card Files Community
A10_benchmark_flash_attention / A100_result_(use_flash_attn_with_kvcache=False, slicing=True, kv_cache_len=1024).json
ydshieh's picture
ydshieh HF staff
Upload A100_result_(use_flash_attn_with_kvcache=False, slicing=True, kv_cache_len=1024).json with huggingface_hub
8cad1fa verified
raw history blame contribute delete
No virus
22 kB
[
0.067,
0.06533333333333333,
0.06433333333333334,
0.06433333333333334,
0.06433333333333334,
0.06499999999999999,
0.06366666666666666,
0.06433333333333334,
0.064,
0.06466666666666666,
0.06433333333333334,
0.06366666666666666,
0.06366666666666666,
0.06466666666666666,
0.06433333333333334,
0.064,
0.06499999999999999,
0.06466666666666666,
0.06366666666666666,
0.06499999999999999,
0.064,
0.064,
0.06466666666666666,
0.064,
0.06433333333333334,
0.06433333333333334,
0.06499999999999999,
0.06499999999999999,
0.06433333333333334,
0.06499999999999999,
0.06433333333333334,
0.06499999999999999,
0.06433333333333334,
0.06466666666666666,
0.064,
0.065,
0.06499999999999999,
0.06633333333333334,
0.06466666666666666,
0.06566666666666666,
0.06466666666666666,
0.064,
0.06433333333333334,
0.06533333333333333,
0.064,
0.06333333333333334,
0.06466666666666666,
0.06566666666666666,
0.06466666666666666,
0.06499999999999999,
0.065,
0.06466666666666666,
0.06466666666666666,
0.06433333333333334,
0.064,
0.06466666666666666,
0.06466666666666666,
0.064,
0.064,
0.06466666666666666,
0.06499999999999999,
0.06466666666666666,
0.064,
0.064,
0.074,
0.07266666666666667,
0.07266666666666667,
0.07200000000000001,
0.07233333333333335,
0.07333333333333332,
0.07266666666666667,
0.07266666666666667,
0.074,
0.07333333333333332,
0.07266666666666667,
0.07333333333333332,
0.07333333333333332,
0.07333333333333332,
0.07200000000000001,
0.07266666666666667,
0.07300000000000001,
0.07266666666666667,
0.07166666666666667,
0.07200000000000001,
0.07233333333333335,
0.07266666666666667,
0.073,
0.07333333333333332,
0.07300000000000001,
0.07233333333333335,
0.07266666666666667,
0.07333333333333332,
0.07333333333333332,
0.07333333333333332,
0.07233333333333335,
0.07233333333333335,
0.07266666666666667,
0.07266666666666667,
0.07266666666666667,
0.073,
0.073,
0.07266666666666667,
0.07233333333333335,
0.073,
0.07333333333333332,
0.07366666666666666,
0.07266666666666667,
0.07433333333333332,
0.073,
0.07300000000000001,
0.07266666666666667,
0.07466666666666666,
0.07266666666666667,
0.07233333333333335,
0.07233333333333335,
0.07300000000000001,
0.07233333333333335,
0.07266666666666667,
0.073,
0.074,
0.07266666666666667,
0.073,
0.07200000000000001,
0.073,
0.07200000000000001,
0.073,
0.07266666666666667,
0.07300000000000001,
0.073,
0.07466666666666666,
0.073,
0.07366666666666666,
0.07333333333333332,
0.07266666666666667,
0.07200000000000001,
0.07333333333333332,
0.07266666666666667,
0.07233333333333335,
0.07233333333333335,
0.07300000000000001,
0.073,
0.07266666666666667,
0.07333333333333335,
0.07366666666666666,
0.07333333333333335,
0.07366666666666666,
0.07433333333333332,
0.07266666666666667,
0.07200000000000001,
0.07233333333333335,
0.07200000000000001,
0.07200000000000001,
0.07300000000000001,
0.07166666666666667,
0.07333333333333332,
0.07200000000000001,
0.07233333333333335,
0.07266666666666667,
0.07233333333333335,
0.07266666666666667,
0.07300000000000001,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07266666666666667,
0.07266666666666667,
0.07266666666666667,
0.07166666666666667,
0.07266666666666667,
0.073,
0.07333333333333332,
0.07266666666666667,
0.07266666666666667,
0.073,
0.07366666666666666,
0.07266666666666667,
0.07266666666666667,
0.073,
0.07266666666666667,
0.07333333333333332,
0.07233333333333335,
0.07333333333333332,
0.07333333333333332,
0.073,
0.073,
0.074,
0.07333333333333332,
0.07366666666666666,
0.073,
0.074,
0.07233333333333335,
0.07266666666666667,
0.07233333333333335,
0.07333333333333335,
0.07266666666666667,
0.07266666666666667,
0.07200000000000001,
0.07366666666666666,
0.07333333333333332,
0.07300000000000001,
0.07266666666666667,
0.07433333333333332,
0.07233333333333335,
0.074,
0.07366666666666666,
0.07333333333333335,
0.07233333333333335,
0.07233333333333335,
0.07200000000000001,
0.07266666666666667,
0.07266666666666667,
0.073,
0.07166666666666667,
0.074,
0.07300000000000001,
0.073,
0.07233333333333335,
0.07366666666666666,
0.07266666666666667,
0.073,
0.07233333333333335,
0.07266666666666667,
0.07200000000000001,
0.073,
0.07300000000000001,
0.07233333333333335,
0.073,
0.073,
0.07200000000000001,
0.07266666666666667,
0.07200000000000001,
0.07200000000000001,
0.073,
0.07300000000000001,
0.07200000000000001,
0.073,
0.07233333333333335,
0.073,
0.07200000000000001,
0.07266666666666667,
0.07300000000000001,
0.07233333333333335,
0.07233333333333335,
0.073,
0.07300000000000001,
0.07233333333333335,
0.07200000000000001,
0.07233333333333335,
0.073,
0.07233333333333335,
0.07200000000000001,
0.073,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07200000000000001,
0.07333333333333332,
0.07266666666666667,
0.07333333333333332,
0.07366666666666666,
0.07333333333333332,
0.07200000000000001,
0.07233333333333335,
0.07233333333333335,
0.07166666666666667,
0.073,
0.07233333333333335,
0.07266666666666667,
0.07300000000000001,
0.073,
0.07200000000000001,
0.07366666666666666,
0.07266666666666667,
0.07366666666666666,
0.07333333333333332,
0.074,
0.07266666666666667,
0.07333333333333332,
0.07233333333333335,
0.07366666666666666,
0.07300000000000001,
0.073,
0.07266666666666667,
0.07333333333333335,
0.07233333333333335,
0.073,
0.07166666666666667,
0.074,
0.07266666666666667,
0.07366666666666666,
0.07266666666666667,
0.07333333333333332,
0.07200000000000001,
0.07233333333333335,
0.07266666666666667,
0.074,
0.07166666666666667,
0.07233333333333335,
0.07433333333333332,
0.07266666666666667,
0.07266666666666667,
0.07333333333333332,
0.073,
0.07266666666666667,
0.07266666666666667,
0.074,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07366666666666666,
0.07233333333333335,
0.073,
0.07200000000000001,
0.07300000000000001,
0.07166666666666667,
0.07300000000000001,
0.07266666666666667,
0.07333333333333332,
0.073,
0.07366666666666666,
0.07266666666666667,
0.07300000000000001,
0.073,
0.07333333333333332,
0.07266666666666667,
0.07266666666666667,
0.07166666666666667,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07300000000000001,
0.07266666666666667,
0.07266666666666667,
0.07233333333333335,
0.07166666666666667,
0.073,
0.07200000000000001,
0.073,
0.07300000000000001,
0.07233333333333335,
0.07200000000000001,
0.07200000000000001,
0.07266666666666667,
0.07200000000000001,
0.07200000000000001,
0.073,
0.07300000000000001,
0.07233333333333335,
0.07166666666666667,
0.07200000000000001,
0.07300000000000001,
0.07266666666666667,
0.07200000000000001,
0.07366666666666666,
0.073,
0.073,
0.07233333333333335,
0.073,
0.073,
0.073,
0.07266666666666667,
0.07333333333333335,
0.07266666666666667,
0.07266666666666667,
0.073,
0.073,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07266666666666667,
0.07300000000000001,
0.074,
0.07233333333333335,
0.07333333333333332,
0.073,
0.073,
0.07200000000000001,
0.074,
0.07233333333333335,
0.07200000000000001,
0.07200000000000001,
0.073,
0.07200000000000001,
0.07200000000000001,
0.07166666666666667,
0.073,
0.07200000000000001,
0.07266666666666667,
0.07266666666666667,
0.07333333333333332,
0.07200000000000001,
0.07266666666666667,
0.07266666666666667,
0.07233333333333335,
0.07166666666666667,
0.07266666666666667,
0.07233333333333335,
0.07266666666666667,
0.07233333333333335,
0.07300000000000001,
0.07266666666666667,
0.07266666666666667,
0.07200000000000001,
0.073,
0.07233333333333335,
0.07333333333333332,
0.07266666666666667,
0.07233333333333335,
0.07100000000000001,
0.07333333333333332,
0.07200000000000001,
0.07233333333333335,
0.07233333333333335,
0.07333333333333332,
0.073,
0.07366666666666666,
0.073,
0.07333333333333332,
0.07266666666666667,
0.074,
0.07333333333333332,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07233333333333335,
0.07233333333333335,
0.07066666666666667,
0.07266666666666667,
0.073,
0.07266666666666667,
0.07100000000000001,
0.07233333333333335,
0.07233333333333335,
0.07300000000000001,
0.07200000000000001,
0.07233333333333335,
0.074,
0.07266666666666667,
0.07200000000000001,
0.07200000000000001,
0.07266666666666667,
0.07200000000000001,
0.07100000000000001,
0.07200000000000001,
0.07233333333333335,
0.07266666666666667,
0.07200000000000001,
0.07266666666666667,
0.07333333333333332,
0.07300000000000001,
0.07300000000000001,
0.079,
0.073,
0.07266666666666667,
0.07366666666666666,
0.073,
0.073,
0.07233333333333335,
0.07233333333333335,
0.07266666666666667,
0.073,
0.07300000000000001,
0.07266666666666667,
0.07333333333333332,
0.07333333333333332,
0.07333333333333332,
0.07233333333333335,
0.07333333333333332,
0.07300000000000001,
0.07333333333333332,
0.07266666666666667,
0.073,
0.07233333333333335,
0.073,
0.07200000000000001,
0.07466666666666666,
0.07200000000000001,
0.07200000000000001,
0.07166666666666667,
0.073,
0.07266666666666667,
0.07300000000000001,
0.07166666666666667,
0.07333333333333332,
0.07266666666666667,
0.073,
0.07266666666666667,
0.07366666666666666,
0.073,
0.07200000000000001,
0.07200000000000001,
0.07300000000000001,
0.07133333333333335,
0.07200000000000001,
0.07166666666666667,
0.07333333333333332,
0.07166666666666667,
0.07333333333333335,
0.073,
0.07333333333333332,
0.073,
0.07333333333333332,
0.07266666666666667,
0.073,
0.07233333333333335,
0.07266666666666667,
0.07200000000000001,
0.07266666666666667,
0.07266666666666667,
0.07333333333333332,
0.07233333333333335,
0.07333333333333332,
0.074,
0.07266666666666667,
0.07266666666666667,
0.07333333333333332,
0.07266666666666667,
0.075,
0.07466666666666666,
0.07533333333333332,
0.07400000000000001,
0.07333333333333332,
0.07433333333333332,
0.07266666666666667,
0.07366666666666666,
0.07333333333333332,
0.07433333333333332,
0.07333333333333332,
0.07300000000000001,
0.07466666666666666,
0.07366666666666666,
0.07333333333333332,
0.07233333333333335,
0.07633333333333332,
0.07300000000000001,
0.07433333333333332,
0.073,
0.07300000000000001,
0.07233333333333335,
0.07366666666666666,
0.07233333333333335,
0.07333333333333332,
0.07300000000000001,
0.07333333333333332,
0.073,
0.07566666666666666,
0.07333333333333332,
0.07466666666666666,
0.07366666666666666,
0.07433333333333332,
0.07366666666666666,
0.07366666666666666,
0.07466666666666666,
0.07333333333333332,
0.07300000000000001,
0.07333333333333335,
0.076,
0.07366666666666666,
0.07266666666666667,
0.07300000000000001,
0.07466666666666666,
0.07433333333333332,
0.073,
0.07333333333333332,
0.074,
0.07366666666666666,
0.07333333333333332,
0.073,
0.07333333333333332,
0.07233333333333335,
0.07133333333333335,
0.07200000000000001,
0.07266666666666667,
0.07333333333333335,
0.07333333333333332,
0.074,
0.07233333333333335,
0.07366666666666666,
0.07366666666666666,
0.07366666666666666,
0.07300000000000001,
0.07366666666666666,
0.073,
0.073,
0.07266666666666667,
0.073,
0.07233333333333335,
0.073,
0.07266666666666667,
0.07633333333333332,
0.073,
0.07333333333333332,
0.074,
0.073,
0.07366666666666666,
0.07266666666666667,
0.07333333333333332,
0.07333333333333332,
0.07300000000000001,
0.07433333333333332,
0.07366666666666666,
0.07366666666666666,
0.07333333333333332,
0.074,
0.07266666666666667,
0.073,
0.074,
0.07300000000000001,
0.073,
0.07300000000000001,
0.074,
0.073,
0.07200000000000001,
0.07333333333333332,
0.07433333333333332,
0.07300000000000001,
0.07300000000000001,
0.073,
0.07266666666666667,
0.073,
0.07233333333333335,
0.074,
0.074,
0.073,
0.07266666666666667,
0.07333333333333332,
0.073,
0.07266666666666667,
0.07200000000000001,
0.07333333333333332,
0.07366666666666666,
0.07433333333333332,
0.07366666666666666,
0.07333333333333332,
0.07333333333333332,
0.07266666666666667,
0.07166666666666667,
0.074,
0.07333333333333332,
0.073,
0.073,
0.075,
0.07233333333333335,
0.074,
0.07366666666666666,
0.07333333333333332,
0.073,
0.074,
0.073,
0.07466666666666666,
0.07266666666666667,
0.07366666666666666,
0.073,
0.07300000000000001,
0.07266666666666667,
0.073,
0.07233333333333335,
0.07366666666666666,
0.07233333333333335,
0.07266666666666667,
0.073,
0.07333333333333332,
0.074,
0.07333333333333332,
0.07333333333333332,
0.07433333333333332,
0.073,
0.07366666666666666,
0.074,
0.073,
0.07266666666666667,
0.07266666666666667,
0.07366666666666666,
0.074,
0.073,
0.07233333333333335,
0.07366666666666666,
0.073,
0.07266666666666667,
0.074,
0.07666666666666666,
0.07366666666666666,
0.07233333333333335,
0.073,
0.07233333333333335,
0.073,
0.07200000000000001,
0.07266666666666667,
0.07366666666666666,
0.07333333333333332,
0.07266666666666667,
0.07333333333333332,
0.07233333333333335,
0.07366666666666666,
0.073,
0.07366666666666666,
0.07300000000000001,
0.07333333333333332,
0.073,
0.07366666666666666,
0.07366666666666666,
0.07333333333333335,
0.07333333333333332,
0.073,
0.074,
0.07333333333333332,
0.073,
0.07466666666666666,
0.07233333333333335,
0.073,
0.07200000000000001,
0.073,
0.07266666666666667,
0.07333333333333332,
0.073,
0.074,
0.073,
0.07366666666666666,
0.073,
0.074,
0.07233333333333335,
0.07333333333333332,
0.073,
0.07333333333333332,
0.07133333333333335,
0.07266666666666667,
0.07266666666666667,
0.073,
0.07233333333333335,
0.073,
0.07333333333333332,
0.07366666666666666,
0.07233333333333335,
0.07266666666666667,
0.07266666666666667,
0.07233333333333335,
0.073,
0.074,
0.073,
0.07433333333333332,
0.07233333333333335,
0.07300000000000001,
0.07333333333333332,
0.07366666666666666,
0.07333333333333335,
0.07333333333333332,
0.075,
0.073,
0.07366666666666666,
0.073,
0.07266666666666667,
0.07333333333333332,
0.07233333333333335,
0.07266666666666667,
0.07366666666666666,
0.073,
0.07233333333333335,
0.074,
0.07333333333333335,
0.07366666666666666,
0.07433333333333332,
0.07333333333333332,
0.07333333333333332,
0.07266666666666667,
0.073,
0.07266666666666667,
0.078,
0.07333333333333332,
0.07266666666666667,
0.07366666666666666,
0.073,
0.07366666666666666,
0.073,
0.07433333333333332,
0.073,
0.073,
0.073,
0.09233333333333334,
0.08666666666666667,
0.074,
0.07300000000000001,
0.073,
0.07166666666666667,
0.07266666666666667,
0.07333333333333332,
0.07333333333333332,
0.07166666666666667,
0.073,
0.07333333333333335,
0.073,
0.07266666666666667,
0.07333333333333332,
0.07300000000000001,
0.07466666666666666,
0.07266666666666667,
0.07200000000000001,
0.07366666666666666,
0.074,
0.07266666666666667,
0.073,
0.07333333333333332,
0.07266666666666667,
0.07266666666666667,
0.074,
0.073,
0.07333333333333332,
0.07366666666666666,
0.07333333333333332,
0.07366666666666666,
0.073,
0.073,
0.07300000000000001,
0.07266666666666667,
0.073,
0.07133333333333335,
0.07433333333333332,
0.07233333333333335,
0.07366666666666666,
0.07633333333333332,
0.07433333333333332,
0.07166666666666667,
0.07266666666666667,
0.07233333333333335,
0.073,
0.07300000000000001,
0.07333333333333332,
0.073,
0.07300000000000001,
0.07200000000000001,
0.07233333333333335,
0.07166666666666667,
0.075,
0.07333333333333332,
0.07366666666666666,
0.07366666666666666,
0.07433333333333332,
0.07333333333333332,
0.07466666666666666,
0.07366666666666666,
0.073,
0.07233333333333335,
0.07333333333333332,
0.07733333333333332,
0.07366666666666667,
0.07366666666666666,
0.07333333333333332,
0.074,
0.07333333333333332,
0.07333333333333332,
0.07233333333333335,
0.07266666666666667,
0.073,
0.073,
0.07333333333333332,
0.07366666666666667,
0.07366666666666666,
0.07333333333333335,
0.07366666666666666,
0.073,
0.07266666666666667,
0.07233333333333335,
0.07266666666666667,
0.073,
0.07200000000000001,
0.07266666666666667,
0.07333333333333332,
0.073,
0.07333333333333332,
0.07233333333333335,
0.074,
0.07333333333333332,
0.07366666666666666,
0.07233333333333335,
0.07433333333333332,
0.07333333333333332,
0.07333333333333332,
0.07233333333333335,
0.07333333333333332,
0.073,
0.07266666666666667,
0.07233333333333335,
0.07333333333333332,
0.07233333333333335,
0.07366666666666666,
0.073,
0.07333333333333332,
0.073,
0.07366666666666666,
0.073,
0.07466666666666666,
0.074,
0.075,
0.074,
0.07466666666666666,
0.07433333333333332,
0.07366666666666666,
0.073,
0.07333333333333332,
0.073,
0.07266666666666667,
0.076,
0.074,
0.073,
0.073,
0.07433333333333332,
0.073,
0.07300000000000001,
0.073,
0.07366666666666666,
0.073,
0.073,
0.07366666666666666,
0.07300000000000001,
0.07333333333333332,
0.07266666666666667,
0.07233333333333335,
0.07366666666666666,
0.074,
0.073,
0.07333333333333332,
0.07266666666666667,
0.074,
0.07433333333333332,
0.07466666666666666,
0.07266666666666667,
0.07366666666666666,
0.073,
0.073,
0.07266666666666667,
0.07300000000000001,
0.07200000000000001,
0.073,
0.073,
0.07266666666666667,
0.073,
0.074,
0.07266666666666667,
0.07333333333333332,
0.073,
0.07433333333333332,
0.07300000000000001,
0.07333333333333332,
0.07266666666666667,
0.07333333333333332,
0.07266666666666667,
0.07366666666666666,
0.073,
0.07366666666666666,
0.07433333333333332,
0.07366666666666666,
0.07366666666666666,
0.074,
0.07266666666666667,
0.07366666666666666,
0.07366666666666666,
0.07433333333333332,
0.07300000000000001,
0.07300000000000001,
0.07333333333333335,
0.07333333333333332,
0.07366666666666666,
0.07266666666666667,
0.07333333333333332,
0.07300000000000001,
0.07233333333333335,
0.07366666666666666,
0.07333333333333332,
0.07333333333333332,
0.073,
0.07333333333333332,
0.07333333333333332,
0.07366666666666666,
0.07366666666666666,
0.07266666666666667,
0.073,
0.073,
0.07266666666666667,
0.074,
0.073,
0.073,
0.073,
0.074,
0.074,
0.07366666666666666,
0.073,
0.074,
0.07433333333333332,
0.07466666666666666,
0.07333333333333335,
0.074,
0.07766666666666666,
0.074,
0.07366666666666666,
0.07433333333333332,
0.07366666666666666,
0.07366666666666666,
0.07333333333333332,
0.074,
0.07366666666666666,
0.07366666666666666,
0.07366666666666666,
0.07366666666666666,
0.073,
0.07366666666666666,
0.07366666666666666,
0.074,
0.07266666666666667,
0.07266666666666667,
0.07333333333333332,
0.074,
0.074,
0.073,
0.07366666666666666,
0.07333333333333332,
0.07366666666666666,
0.07333333333333335,
0.07366666666666666,
0.07366666666666666,
0.07333333333333332,
0.074,
0.074,
0.073,
0.073,
0.073
]