A100_result_batch_4_(use_flash_attn_with_kvcache=False, slicing=True, kv_cache_len=1024).json

[
    0.06433333333333334,
    0.063,
    0.063,
    0.06366666666666666,
    0.063,
    0.063,
    0.06366666666666666,
    0.06333333333333334,
    0.063,
    0.06333333333333334,
    0.064,
    0.06333333333333334,
    0.06266666666666666,
    0.063,
    0.063,
    0.06266666666666666,
    0.063,
    0.06266666666666666,
    0.06233333333333333,
    0.063,
    0.06266666666666666,
    0.063,
    0.06233333333333333,
    0.063,
    0.06233333333333333,
    0.06233333333333333,
    0.06333333333333334,
    0.064,
    0.06266666666666666,
    0.06266666666666666,
    0.063,
    0.06366666666666666,
    0.06366666666666666,
    0.063,
    0.063,
    0.063,
    0.06266666666666666,
    0.064,
    0.06366666666666666,
    0.06566666666666666,
    0.063,
    0.064,
    0.06266666666666666,
    0.06266666666666666,
    0.063,
    0.06366666666666666,
    0.063,
    0.06333333333333334,
    0.063,
    0.063,
    0.063,
    0.06366666666666666,
    0.063,
    0.064,
    0.063,
    0.063,
    0.063,
    0.06366666666666666,
    0.06333333333333334,
    0.06333333333333334,
    0.06266666666666666,
    0.06266666666666666,
    0.063,
    0.063,
    0.07200000000000001,
    0.07166666666666667,
    0.07166666666666667,
    0.07200000000000001,
    0.07200000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07233333333333335,
    0.07133333333333335,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.073,
    0.07166666666666667,
    0.07133333333333335,
    0.07166666666666667,
    0.07133333333333335,
    0.07233333333333335,
    0.07233333333333335,
    0.07200000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.07166666666666667,
    0.07200000000000001,
    0.07200000000000001,
    0.07433333333333335,
    0.07166666666666667,
    0.07066666666666667,
    0.07066666666666667,
    0.07200000000000001,
    0.07200000000000001,
    0.07100000000000001,
    0.07233333333333335,
    0.07066666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07200000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07100000000000001,
    0.07033333333333333,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07133333333333335,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07200000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07100000000000001,
    0.07200000000000001,
    0.07200000000000001,
    0.07133333333333335,
    0.07033333333333333,
    0.07166666666666667,
    0.07133333333333335,
    0.07200000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07166666666666667,
    0.07166666666666667,
    0.07066666666666667,
    0.07133333333333335,
    0.07133333333333335,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07166666666666667,
    0.07133333333333335,
    0.07100000000000001,
    0.07166666666666667,
    0.07166666666666667,
    0.07066666666666667,
    0.07200000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07033333333333333,
    0.07100000000000001,
    0.07066666666666667,
    0.07200000000000001,
    0.07166666666666667,
    0.07200000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.06999999999999999,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07033333333333333,
    0.07200000000000001,
    0.07100000000000001,
    0.07200000000000001,
    0.07200000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07200000000000001,
    0.07066666666666667,
    0.07166666666666667,
    0.07133333333333335,
    0.07166666666666667,
    0.07200000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07033333333333333,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07266666666666667,
    0.07266666666666667,
    0.07200000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07100000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07166666666666667,
    0.07266666666666667,
    0.07166666666666667,
    0.07166666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07266666666666667,
    0.07100000000000001,
    0.07200000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07233333333333335,
    0.07066666666666667,
    0.07200000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07233333333333335,
    0.07200000000000001,
    0.07233333333333335,
    0.06999999999999999,
    0.07100000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07033333333333333,
    0.07366666666666666,
    0.07066666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07100000000000001,
    0.07200000000000001,
    0.07100000000000001,
    0.07200000000000001,
    0.07066666666666667,
    0.07166666666666667,
    0.07233333333333335,
    0.07133333333333335,
    0.06999999999999999,
    0.07133333333333335,
    0.07166666666666667,
    0.07133333333333335,
    0.07133333333333335,
    0.07266666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07066666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.07133333333333335,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07133333333333335,
    0.07100000000000001,
    0.07100000000000001,
    0.07066666666666667,
    0.07166666666666667,
    0.07133333333333335,
    0.07166666666666667,
    0.07100000000000001,
    0.07200000000000001,
    0.07100000000000001,
    0.07066666666666667,
    0.06999999999999999,
    0.07100000000000001,
    0.07133333333333335,
    0.07166666666666667,
    0.07033333333333333,
    0.07233333333333335,
    0.07133333333333335,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07066666666666667,
    0.07133333333333335,
    0.07100000000000001,
    0.07100000000000001,
    0.06999999999999999,
    0.07033333333333333,
    0.07100000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07066666666666667,
    0.06999999999999999,
    0.07100000000000001,
    0.07233333333333335,
    0.07133333333333335,
    0.07300000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07200000000000001,
    0.07200000000000001,
    0.07166666666666667,
    0.07066666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.06999999999999999,
    0.07133333333333335,
    0.07166666666666667,
    0.07200000000000001,
    0.07133333333333335,
    0.07100000000000001,
    0.07066666666666667,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07233333333333335,
    0.07100000000000001,
    0.07366666666666667,
    0.07200000000000001,
    0.07133333333333335,
    0.07066666666666667,
    0.07100000000000001,
    0.07200000000000001,
    0.07166666666666667,
    0.07133333333333335,
    0.07100000000000001,
    0.07066666666666667,
    0.07166666666666667,
    0.07100000000000001,
    0.07133333333333335,
    0.07133333333333335,
    0.07133333333333335,
    0.07133333333333335,
    0.07100000000000001,
    0.07133333333333335,
    0.07066666666666667,
    0.07133333333333335,
    0.07233333333333335,
    0.07166666666666667,
    0.07166666666666667,
    0.07100000000000001,
    0.07166666666666667,
    0.07433333333333335,
    0.07133333333333335,
    0.07066666666666667,
    0.07166666666666667,
    0.07233333333333335,
    0.07200000000000001,
    0.07133333333333335,
    0.07200000000000001,
    0.07166666666666667,
    0.07100000000000001,
    0.07100000000000001,
    0.07166666666666667,
    0.07366666666666666,
    0.073,
    0.07266666666666667,
    0.07233333333333335,
    0.07266666666666667,
    0.07233333333333335,
    0.07266666666666667,
    0.07266666666666667,
    0.073,
    0.07233333333333335,
    0.07233333333333335,
    0.073,
    0.073,
    0.07266666666666667,
    0.073,
    0.07266666666666667,
    0.073,
    0.073,
    0.07233333333333335,
    0.07333333333333332,
    0.07333333333333332,
    0.073,
    0.07266666666666667,
    0.07233333333333335,
    0.07266666666666667,
    0.07300000000000001,
    0.07266666666666667,
    0.073,
    0.07333333333333332,
    0.07333333333333332,
    0.073,
    0.073,
    0.07366666666666666,
    0.074,
    0.07266666666666667,
    0.07366666666666666,
    0.073,
    0.073,
    0.073,
    0.07366666666666666,
    0.07333333333333335,
    0.073,
    0.07233333333333335,
    0.073,
    0.073,
    0.07333333333333332,
    0.07266666666666667,
    0.07366666666666666,
    0.07333333333333332,
    0.073,
    0.073,
    0.07333333333333332,
    0.07266666666666667,
    0.07333333333333332,
    0.07333333333333332,
    0.07366666666666666,
    0.07366666666666666,
    0.07366666666666666,
    0.07266666666666667,
    0.07366666666666666,
    0.073,
    0.074,
    0.073,
    0.07366666666666666,
    0.07533333333333332,
    0.076,
    0.07533333333333332,
    0.07666666666666666,
    0.07566666666666666,
    0.07533333333333332,
    0.07566666666666666,
    0.07633333333333332,
    0.07633333333333332,
    0.07666666666666666,
    0.076,
    0.07666666666666666,
    0.076,
    0.07633333333333332,
    0.07633333333333332,
    0.07633333333333332,
    0.07666666666666666,
    0.07666666666666666,
    0.07666666666666666,
    0.076,
    0.07566666666666666,
    0.07566666666666666,
    0.07633333333333332,
    0.076,
    0.076,
    0.076,
    0.07633333333333332,
    0.07566666666666666,
    0.076,
    0.077,
    0.07666666666666666,
    0.07666666666666666,
    0.07566666666666666,
    0.07633333333333332,
    0.07566666666666666,
    0.07666666666666666,
    0.076,
    0.077,
    0.076,
    0.07633333333333332,
    0.076,
    0.07833333333333332,
    0.07566666666666666,
    0.076,
    0.076,
    0.07633333333333332,
    0.07533333333333332,
    0.07566666666666666,
    0.07533333333333332,
    0.07666666666666666,
    0.076,
    0.076,
    0.07566666666666666,
    0.07666666666666666,
    0.07633333333333332,
    0.07633333333333332,
    0.07666666666666666,
    0.07666666666666666,
    0.076,
    0.076,
    0.07733333333333332,
    0.07666666666666666,
    0.07666666666666666,
    0.076,
    0.077,
    0.077,
    0.077,
    0.077,
    0.077,
    0.07666666666666666,
    0.07633333333333332,
    0.077,
    0.08066666666666666,
    0.077,
    0.077,
    0.077,
    0.07633333333333332,
    0.077,
    0.07733333333333332,
    0.07766666666666666,
    0.07633333333333332,
    0.077,
    0.077,
    0.077,
    0.07666666666666666,
    0.07666666666666666,
    0.07633333333333332,
    0.07733333333333332,
    0.07633333333333332,
    0.07666666666666666,
    0.076,
    0.077,
    0.07733333333333332,
    0.077,
    0.07666666666666666,
    0.077,
    0.07666666666666666,
    0.07633333333333332,
    0.077,
    0.077,
    0.077,
    0.077,
    0.077,
    0.07733333333333332,
    0.077,
    0.07633333333333332,
    0.07666666666666666,
    0.07666666666666666,
    0.07633333333333332,
    0.07666666666666666,
    0.076,
    0.07733333333333332,
    0.07666666666666666,
    0.07733333333333332,
    0.077,
    0.07733333333333332,
    0.07633333333333332,
    0.078,
    0.07766666666666666,
    0.077,
    0.07633333333333332,
    0.077,
    0.077,
    0.077,
    0.076,
    0.07733333333333332,
    0.07666666666666666,
    0.077,
    0.07666666666666666,
    0.07666666666666666,
    0.077,
    0.07733333333333332,
    0.07666666666666666,
    0.07733333333333332,
    0.077,
    0.07733333333333332,
    0.078,
    0.077,
    0.077,
    0.077,
    0.07766666666666666,
    0.077,
    0.077,
    0.07733333333333332,
    0.07766666666666666,
    0.077,
    0.077,
    0.077,
    0.07766666666666666,
    0.07766666666666666,
    0.07766666666666666,
    0.07733333333333332,
    0.07733333333333332,
    0.07733333333333332,
    0.077,
    0.07866666666666666,
    0.07666666666666666,
    0.077,
    0.077,
    0.077,
    0.07733333333333332,
    0.077,
    0.077,
    0.078,
    0.077,
    0.07766666666666666,
    0.077,
    0.07766666666666666,
    0.078,
    0.07733333333333332,
    0.07766666666666666,
    0.077,
    0.077,
    0.07766666666666666,
    0.07833333333333332,
    0.078,
    0.07766666666666666,
    0.077,
    0.077,
    0.07766666666666666,
    0.077,
    0.078,
    0.07733333333333332,
    0.077,
    0.07766666666666666,
    0.077,
    0.07766666666666666,
    0.07733333333333332,
    0.077,
    0.078,
    0.077,
    0.07733333333333332,
    0.07733333333333332,
    0.07833333333333332,
    0.078,
    0.07766666666666666,
    0.07733333333333332,
    0.07833333333333332,
    0.07866666666666666,
    0.078,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.07833333333333332,
    0.07766666666666666,
    0.07833333333333332,
    0.07766666666666666,
    0.07766666666666666,
    0.07733333333333332,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.078,
    0.07866666666666666,
    0.07766666666666666,
    0.078,
    0.078,
    0.078,
    0.07766666666666666,
    0.078,
    0.07733333333333332,
    0.07766666666666666,
    0.07766666666666666,
    0.078,
    0.07766666666666666,
    0.07833333333333332,
    0.07766666666666666,
    0.07733333333333332,
    0.078,
    0.078,
    0.078,
    0.078,
    0.079,
    0.078,
    0.07766666666666666,
    0.078,
    0.07833333333333332,
    0.07733333333333332,
    0.07766666666666666,
    0.07866666666666666,
    0.078,
    0.07733333333333332,
    0.07733333333333332,
    0.07866666666666666,
    0.078,
    0.078,
    0.07833333333333332,
    0.07766666666666666,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.078,
    0.07833333333333332,
    0.078,
    0.079,
    0.07766666666666666,
    0.078,
    0.078,
    0.07733333333333332,
    0.077,
    0.07733333333333332,
    0.077,
    0.077,
    0.078,
    0.078,
    0.078,
    0.07733333333333332,
    0.078,
    0.078,
    0.07866666666666666,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.07833333333333332,
    0.07733333333333332,
    0.07766666666666666,
    0.078,
    0.078,
    0.07733333333333332,
    0.07766666666666666,
    0.078,
    0.078,
    0.07766666666666666,
    0.07766666666666666,
    0.078,
    0.077,
    0.077,
    0.07766666666666666,
    0.07933333333333333,
    0.078,
    0.07766666666666666,
    0.078,
    0.07833333333333332,
    0.07766666666666666,
    0.07766666666666666,
    0.07733333333333332,
    0.07866666666666666,
    0.07766666666666666,
    0.07866666666666666,
    0.07766666666666666,
    0.078,
    0.07833333333333332,
    0.07833333333333332,
    0.079,
    0.07833333333333332,
    0.07766666666666666,
    0.078,
    0.078,
    0.07833333333333332,
    0.078,
    0.078,
    0.07766666666666666,
    0.07866666666666666,
    0.078,
    0.078,
    0.078,
    0.07833333333333332,
    0.08533333333333333,
    0.08600000000000001,
    0.085,
    0.085,
    0.08533333333333333,
    0.08533333333333333,
    0.08533333333333333,
    0.08600000000000001,
    0.08700000000000001,
    0.08566666666666667,
    0.08566666666666667,
    0.08566666666666667,
    0.08600000000000001,
    0.08533333333333333,
    0.08600000000000001,
    0.08600000000000001,
    0.08466666666666667,
    0.08533333333333333,
    0.08600000000000001,
    0.08466666666666667,
    0.08566666666666667,
    0.08533333333333333,
    0.08666666666666667,
    0.08600000000000001,
    0.08566666666666667,
    0.08533333333333333,
    0.08533333333333333,
    0.08566666666666667,
    0.08566666666666667,
    0.08700000000000001,
    0.08533333333333333,
    0.08566666666666667,
    0.08533333333333333,
    0.08700000000000001,
    0.08533333333333333,
    0.08566666666666667,
    0.08700000000000001,
    0.08566666666666667,
    0.08533333333333333,
    0.08600000000000001,
    0.08600000000000001,
    0.08600000000000001,
    0.08566666666666667,
    0.08633333333333333,
    0.085,
    0.08600000000000001,
    0.085,
    0.08600000000000001,
    0.085,
    0.08566666666666667,
    0.08533333333333333,
    0.08566666666666667,
    0.08566666666666667,
    0.08566666666666667,
    0.08533333333333333,
    0.08566666666666667,
    0.08566666666666667,
    0.08700000000000001,
    0.08566666666666667,
    0.08533333333333333,
    0.08566666666666667,
    0.08633333333333333,
    0.08566666666666667,
    0.085,
    0.08266666666666667,
    0.08333333333333333,
    0.082,
    0.08333333333333333,
    0.08233333333333333,
    0.08333333333333333,
    0.08266666666666667,
    0.083,
    0.083,
    0.084,
    0.083,
    0.08333333333333333,
    0.083,
    0.08266666666666667,
    0.083,
    0.08266666666666667,
    0.08266666666666667,
    0.082,
    0.082,
    0.083,
    0.08233333333333333,
    0.08233333333333333,
    0.08266666666666667,
    0.083,
    0.083,
    0.08133333333333333,
    0.083,
    0.08333333333333333,
    0.083,
    0.083,
    0.08333333333333333,
    0.08233333333333333,
    0.082,
    0.083,
    0.083,
    0.08266666666666667,
    0.08266666666666667,
    0.08366666666666667,
    0.083,
    0.08266666666666667,
    0.08266666666666667,
    0.083,
    0.08233333333333333,
    0.08266666666666667,
    0.08266666666666667,
    0.08233333333333333,
    0.082,
    0.083,
    0.08266666666666667,
    0.083,
    0.08266666666666667,
    0.08266666666666667,
    0.082,
    0.08266666666666667,
    0.08266666666666667,
    0.083,
    0.083,
    0.08333333333333333,
    0.083,
    0.08333333333333333,
    0.08266666666666667,
    0.08266666666666667,
    0.08333333333333333,
    0.08266666666666667,
    0.083,
    0.08366666666666667,
    0.09100000000000001,
    0.09066666666666667,
    0.09033333333333333,
    0.09066666666666667,
    0.09000000000000001,
    0.09233333333333334,
    0.09033333333333333,
    0.09066666666666667,
    0.09033333333333333,
    0.09100000000000001,
    0.09066666666666667,
    0.09066666666666667,
    0.09066666666666667,
    0.09100000000000001,
    0.09000000000000001,
    0.09100000000000001,
    0.09000000000000001,
    0.083,
    0.083,
    0.083,
    0.083,
    0.084,
    0.08333333333333333,
    0.08333333333333333,
    0.08333333333333333,
    0.084,
    0.083,
    0.083,
    0.08333333333333333,
    0.08433333333333333,
    0.08333333333333333,
    0.08333333333333333,
    0.08333333333333333,
    0.08333333333333333,
    0.083,
    0.08333333333333333,
    0.08333333333333333,
    0.084,
    0.083,
    0.08433333333333333,
    0.08333333333333333,
    0.08366666666666667,
    0.083,
    0.08433333333333333,
    0.083,
    0.08366666666666667,
    0.083,
    0.084,
    0.08333333333333333,
    0.08366666666666667,
    0.08333333333333333,
    0.08333333333333333,
    0.083,
    0.084,
    0.08366666666666667,
    0.08466666666666667,
    0.083,
    0.084,
    0.08333333333333333,
    0.084,
    0.08333333333333333,
    0.08366666666666667,
    0.084,
    0.084,
    0.084,
    0.084,
    0.084,
    0.084,
    0.08366666666666667,
    0.08433333333333333,
    0.084,
    0.08366666666666667,
    0.084,
    0.085,
    0.08333333333333333,
    0.08533333333333333,
    0.08366666666666667,
    0.084,
    0.08433333333333333,
    0.08466666666666667,
    0.08466666666666667,
    0.08433333333333333,
    0.08433333333333333,
    0.08433333333333333,
    0.084,
    0.085,
    0.08433333333333333,
    0.08433333333333333,
    0.084,
    0.08433333333333333,
    0.085,
    0.084,
    0.08433333333333333,
    0.085,
    0.085,
    0.08466666666666667,
    0.08466666666666667,
    0.085,
    0.083,
    0.08366666666666667,
    0.08433333333333333,
    0.084,
    0.08433333333333333,
    0.085,
    0.08433333333333333,
    0.084,
    0.08433333333333333,
    0.085,
    0.08366666666666667,
    0.084,
    0.084,
    0.08433333333333333,
    0.084,
    0.08333333333333333,
    0.08433333333333333,
    0.084,
    0.084,
    0.08366666666666667,
    0.08466666666666667,
    0.08466666666666667,
    0.08466666666666667,
    0.084,
    0.085,
    0.08433333333333333,
    0.084,
    0.08466666666666667
]