Split (1)

train · 13.1k rows

time_stats.save_kv_cache.min float64 0 0.08	time_stats.save_kv_cache.max float64 0.03 0.28	time_stats.save_kv_cache.mean float64 0.01 0.12	time_stats.save_kv_cache.median float64 0.01 0.09	time_stats.save_kv_cache.std float64 0 0.08	time_stats.attention_forward.min float64 0.09 1.2	time_stats.attention_forward.max float64 0.09 8.61	time_stats.attention_forward.mean float64 0.09 1.89	time_stats.attention_forward.median float64 0.09 1.2	time_stats.attention_forward.std float64 0 3.36	n_embd int64 4.1k 4.1k	n_q_head int64 32 32	n_kv_head int64 8 8	block_size int64 16 16	num_tensor_parallel_workers int64 1 1	max_model_len int64 8.19k 8.19k	batch_size int64 1 128	prefill_chunk_size int64 0 512	kv_cache_size int64 0 8.16k	is_prefill bool 2 classes	attention_backend stringclasses 1 value
0.065792	0.077888	0.070157	0.069152	0.004202	0.1888	0.220672	0.205254	0.20544	0.010649	4,096	32	8	16	1	8,192	1	96	1,536	true	flashinfer
0.06592	0.08544	0.073312	0.068672	0.007344	0.187776	0.204448	0.19456	0.194816	0.005885	4,096	32	8	16	1	8,192	1	96	1,632	true	flashinfer
0.067328	0.08256	0.072314	0.071392	0.005368	0.190624	0.221088	0.202362	0.19408	0.012133	4,096	32	8	16	1	8,192	1	96	1,728	true	flashinfer
0.067104	0.07696	0.069798	0.068224	0.003688	0.190528	0.225632	0.204646	0.196832	0.013894	4,096	32	8	16	1	8,192	1	96	1,824	true	flashinfer
0.059072	0.07888	0.070758	0.072896	0.006883	0.165632	0.22192	0.191578	0.191264	0.020196	4,096	32	8	16	1	8,192	1	96	1,920	true	flashinfer
0.0592	0.071488	0.062349	0.06016	0.004609	0.168672	0.181696	0.173286	0.170688	0.004722	4,096	32	8	16	1	8,192	1	96	2,016	true	flashinfer
0.0584	0.067904	0.061018	0.059392	0.003511	0.16656	0.185216	0.174675	0.175904	0.006626	4,096	32	8	16	1	8,192	1	96	2,112	true	flashinfer
0.057792	0.069824	0.062253	0.061216	0.004096	0.164384	0.1936	0.17488	0.169568	0.010838	4,096	32	8	16	1	8,192	1	96	2,208	true	flashinfer
0.058368	0.066304	0.061414	0.060416	0.002809	0.162496	0.19568	0.175565	0.175552	0.011289	4,096	32	8	16	1	8,192	1	96	2,304	true	flashinfer
0.061184	0.072576	0.066022	0.063264	0.004917	0.1728	0.223584	0.190854	0.18912	0.017568	4,096	32	8	16	1	8,192	1	96	2,400	true	flashinfer
0.058912	0.079232	0.065312	0.061696	0.007652	0.165088	0.175968	0.17079	0.17248	0.004539	4,096	32	8	16	1	8,192	1	96	2,496	true	flashinfer
0.062176	0.084352	0.068224	0.063072	0.008441	0.174016	0.190496	0.182285	0.18288	0.007173	4,096	32	8	16	1	8,192	1	96	2,592	true	flashinfer
0.058592	0.08704	0.065523	0.061184	0.010805	0.166816	0.182848	0.174784	0.173248	0.006315	4,096	32	8	16	1	8,192	1	96	2,688	true	flashinfer
0.059072	0.069792	0.062317	0.060896	0.003892	0.1672	0.180608	0.173875	0.17136	0.005084	4,096	32	8	16	1	8,192	1	96	2,784	true	flashinfer
0.062592	0.069536	0.065619	0.064576	0.002628	0.170784	0.194592	0.17945	0.178528	0.008392	4,096	32	8	16	1	8,192	1	96	2,880	true	flashinfer
0.05856	0.068928	0.06215	0.06096	0.003665	0.166912	0.1928	0.17783	0.174912	0.009936	4,096	32	8	16	1	8,192	1	96	2,976	true	flashinfer
0.05856	0.077792	0.065523	0.063392	0.007053	0.165216	0.203072	0.175686	0.170304	0.013993	4,096	32	8	16	1	8,192	1	96	3,072	true	flashinfer
0.057888	0.072288	0.061773	0.059136	0.005347	0.166944	0.179072	0.172832	0.174688	0.004504	4,096	32	8	16	1	8,192	1	96	3,168	true	flashinfer
0.059264	0.069856	0.062573	0.059872	0.004101	0.166848	0.185728	0.174528	0.172448	0.006534	4,096	32	8	16	1	8,192	1	96	3,264	true	flashinfer
0.058496	0.067904	0.061562	0.060512	0.003278	0.16848	0.179584	0.173402	0.171328	0.004777	4,096	32	8	16	1	8,192	1	96	3,360	true	flashinfer
0.058048	0.071648	0.062362	0.060512	0.004987	0.164448	0.194784	0.174912	0.170528	0.010872	4,096	32	8	16	1	8,192	1	96	3,456	true	flashinfer
0.059008	0.067744	0.06201	0.060384	0.003085	0.166784	0.197824	0.18103	0.176096	0.012693	4,096	32	8	16	1	8,192	1	96	3,552	true	flashinfer
0.057664	0.088864	0.065293	0.059872	0.011835	0.168416	0.188128	0.175629	0.171808	0.007723	4,096	32	8	16	1	8,192	1	96	3,648	true	flashinfer
0.059328	0.07168	0.063053	0.06176	0.004406	0.166848	0.185376	0.17463	0.172832	0.006817	4,096	32	8	16	1	8,192	1	96	3,744	true	flashinfer
0.057696	0.066624	0.061043	0.060256	0.003075	0.16528	0.185088	0.173594	0.17536	0.007403	4,096	32	8	16	1	8,192	1	96	3,840	true	flashinfer
0.058784	0.068288	0.06199	0.059808	0.003508	0.16768	0.193184	0.178778	0.177248	0.010128	4,096	32	8	16	1	8,192	1	96	3,936	true	flashinfer
0.058048	0.088256	0.065613	0.060608	0.011371	0.166752	0.188032	0.176019	0.169824	0.009201	4,096	32	8	16	1	8,192	1	96	4,032	true	flashinfer
0.05904	0.068128	0.061997	0.061376	0.003203	0.168064	0.185984	0.174086	0.17104	0.006401	4,096	32	8	16	1	8,192	1	96	4,128	true	flashinfer
0.058912	0.067328	0.061664	0.060448	0.003141	0.165728	0.185632	0.17335	0.174272	0.007189	4,096	32	8	16	1	8,192	1	96	4,224	true	flashinfer
0.058784	0.079424	0.067418	0.06688	0.00748	0.171008	0.209728	0.183251	0.179936	0.014072	4,096	32	8	16	1	8,192	1	96	4,320	true	flashinfer
0.062272	0.072992	0.065299	0.062976	0.004007	0.172448	0.1904	0.180794	0.177408	0.006833	4,096	32	8	16	1	8,192	1	96	4,416	true	flashinfer
0.058816	0.088864	0.06839	0.064192	0.010854	0.166432	0.185792	0.176243	0.18032	0.007669	4,096	32	8	16	1	8,192	1	96	4,512	true	flashinfer
0.0584	0.066976	0.060922	0.059616	0.003114	0.164768	0.189728	0.173606	0.168832	0.009309	4,096	32	8	16	1	8,192	1	96	4,608	true	flashinfer
0.059008	0.066912	0.062477	0.06224	0.003178	0.16624	0.218272	0.184493	0.178368	0.018939	4,096	32	8	16	1	8,192	1	96	4,704	true	flashinfer
0.058752	0.085632	0.065261	0.0608	0.010225	0.167392	0.189184	0.177114	0.17184	0.008582	4,096	32	8	16	1	8,192	1	96	4,800	true	flashinfer
0.06	0.076128	0.066118	0.062464	0.006273	0.166688	0.181952	0.172096	0.171328	0.005514	4,096	32	8	16	1	8,192	1	96	4,896	true	flashinfer
0.062304	0.070432	0.066298	0.06528	0.003048	0.174496	0.240416	0.19175	0.180448	0.024537	4,096	32	8	16	1	8,192	1	96	4,992	true	flashinfer
0.058336	0.067168	0.061517	0.060384	0.003091	0.165728	0.203488	0.176883	0.169216	0.014267	4,096	32	8	16	1	8,192	1	96	5,088	true	flashinfer
0.058912	0.067936	0.062291	0.061792	0.003072	0.170304	0.184864	0.176128	0.17216	0.006301	4,096	32	8	16	1	8,192	1	96	5,184	true	flashinfer
0.060672	0.07936	0.069242	0.067168	0.006383	0.1752	0.2184	0.191942	0.184736	0.015822	4,096	32	8	16	1	8,192	1	96	5,280	true	flashinfer
0.059776	0.071264	0.062605	0.060288	0.004392	0.16896	0.190912	0.177478	0.1728	0.00875	4,096	32	8	16	1	8,192	1	96	5,376	true	flashinfer
0.060224	0.068544	0.062438	0.061216	0.003094	0.167808	0.188448	0.175168	0.1712	0.007449	4,096	32	8	16	1	8,192	1	96	5,472	true	flashinfer
0.059872	0.067424	0.063328	0.062624	0.003089	0.166624	0.176384	0.171533	0.173568	0.004098	4,096	32	8	16	1	8,192	1	96	5,568	true	flashinfer
0.058272	0.066496	0.061267	0.060768	0.002811	0.165152	0.1776	0.17097	0.169504	0.005427	4,096	32	8	16	1	8,192	1	96	5,664	true	flashinfer
0.058656	0.067872	0.061709	0.05936	0.003653	0.165504	0.195776	0.178682	0.17488	0.012409	4,096	32	8	16	1	8,192	1	96	5,760	true	flashinfer
0.058816	0.0704	0.062093	0.060608	0.004247	0.165248	0.190368	0.175936	0.172928	0.009953	4,096	32	8	16	1	8,192	1	96	5,856	true	flashinfer
0.060768	0.069632	0.063488	0.062368	0.003167	0.167296	0.189792	0.174976	0.170624	0.008213	4,096	32	8	16	1	8,192	1	96	5,952	true	flashinfer
0.058816	0.075136	0.064026	0.060192	0.006295	0.164832	0.176064	0.170163	0.168864	0.004044	4,096	32	8	16	1	8,192	1	96	6,048	true	flashinfer
0.058976	0.0672	0.061024	0.059744	0.003111	0.165632	0.190592	0.1744	0.168672	0.009529	4,096	32	8	16	1	8,192	1	96	6,144	true	flashinfer
0.059136	0.069248	0.062272	0.060448	0.003752	0.167968	0.19248	0.178707	0.17552	0.009983	4,096	32	8	16	1	8,192	1	96	6,240	true	flashinfer
0.059264	0.067584	0.062182	0.061472	0.002915	0.169088	0.198112	0.178355	0.172704	0.010633	4,096	32	8	16	1	8,192	1	96	6,336	true	flashinfer
0.058848	0.073376	0.065395	0.06192	0.005993	0.16672	0.179936	0.17232	0.171712	0.004483	4,096	32	8	16	1	8,192	1	96	6,432	true	flashinfer
0.059008	0.070336	0.062355	0.06096	0.004181	0.163488	0.181216	0.172973	0.170176	0.006843	4,096	32	8	16	1	8,192	1	96	6,528	true	flashinfer
0.060288	0.067616	0.063341	0.061312	0.003083	0.167392	0.179264	0.172134	0.17264	0.004344	4,096	32	8	16	1	8,192	1	96	6,624	true	flashinfer
0.059904	0.07888	0.06599	0.061344	0.007253	0.16768	0.186688	0.176499	0.179488	0.007335	4,096	32	8	16	1	8,192	1	96	6,720	true	flashinfer
0.059456	0.075232	0.065152	0.0632	0.005739	0.167072	0.194304	0.175328	0.170016	0.009965	4,096	32	8	16	1	8,192	1	96	6,816	true	flashinfer
0.059072	0.071264	0.062656	0.061312	0.004414	0.169504	0.187616	0.176	0.171136	0.007231	4,096	32	8	16	1	8,192	1	96	6,912	true	flashinfer
0.061312	0.069856	0.063795	0.06288	0.003147	0.17216	0.184352	0.178317	0.177504	0.00507	4,096	32	8	16	1	8,192	1	96	7,008	true	flashinfer
0.05872	0.06816	0.061786	0.059648	0.003651	0.16544	0.190464	0.17431	0.170112	0.009007	4,096	32	8	16	1	8,192	1	96	7,104	true	flashinfer
0.060064	0.078656	0.067245	0.066496	0.006903	0.173408	0.200704	0.18311	0.180768	0.009391	4,096	32	8	16	1	8,192	1	96	7,200	true	flashinfer
0.058624	0.07072	0.061728	0.059296	0.004555	0.167008	0.190368	0.175923	0.17152	0.008672	4,096	32	8	16	1	8,192	1	96	7,296	true	flashinfer
0.059168	0.066496	0.061338	0.059232	0.002895	0.165504	0.195616	0.175373	0.171648	0.010682	4,096	32	8	16	1	8,192	1	96	7,392	true	flashinfer
0.058528	0.069504	0.062554	0.06016	0.003986	0.16448	0.188288	0.174835	0.172224	0.008034	4,096	32	8	16	1	8,192	1	96	7,488	true	flashinfer
0.060512	0.079328	0.067475	0.063168	0.007616	0.169696	0.187424	0.180474	0.184704	0.007059	4,096	32	8	16	1	8,192	1	96	7,584	true	flashinfer
0.057664	0.06832	0.062618	0.061632	0.003495	0.165344	0.200512	0.175814	0.173088	0.012837	4,096	32	8	16	1	8,192	1	96	7,680	true	flashinfer
0.059424	0.070624	0.062067	0.060352	0.004299	0.167168	0.192672	0.177382	0.172672	0.009726	4,096	32	8	16	1	8,192	1	96	7,776	true	flashinfer
0.058368	0.068352	0.062067	0.0608	0.003438	0.165056	0.192448	0.174886	0.170432	0.009937	4,096	32	8	16	1	8,192	1	96	7,872	true	flashinfer
0.061824	0.070336	0.065338	0.063488	0.003221	0.17056	0.198208	0.181203	0.180512	0.009794	4,096	32	8	16	1	8,192	1	96	7,968	true	flashinfer
0.059296	0.067936	0.062394	0.060224	0.003378	0.165888	0.194752	0.17831	0.175872	0.01051	4,096	32	8	16	1	8,192	1	96	8,064	true	flashinfer
0.05936	0.079808	0.064134	0.060256	0.007891	0.170016	0.182112	0.175846	0.17488	0.005256	4,096	32	8	16	1	8,192	1	128	0	true	flashinfer
0.06	0.0736	0.064915	0.063904	0.004706	0.17056	0.191584	0.182208	0.180832	0.007443	4,096	32	8	16	1	8,192	1	128	128	true	flashinfer
0.058912	0.068896	0.061907	0.05984	0.003688	0.163104	0.176704	0.170682	0.17136	0.004672	4,096	32	8	16	1	8,192	1	128	256	true	flashinfer
0.058944	0.076544	0.064582	0.060576	0.00678	0.167872	0.180064	0.174874	0.178592	0.005674	4,096	32	8	16	1	8,192	1	128	384	true	flashinfer
0.061184	0.077472	0.067712	0.066464	0.006301	0.17392	0.205216	0.191117	0.191424	0.012715	4,096	32	8	16	1	8,192	1	128	512	true	flashinfer
0.059584	0.082112	0.068358	0.063936	0.008182	0.166528	0.19552	0.182746	0.186528	0.009875	4,096	32	8	16	1	8,192	1	128	640	true	flashinfer
0.06048	0.07376	0.063898	0.061472	0.004966	0.17088	0.19472	0.180282	0.18016	0.008664	4,096	32	8	16	1	8,192	1	128	768	true	flashinfer
0.058208	0.077952	0.064589	0.06032	0.007501	0.165408	0.18544	0.17376	0.174432	0.0072	4,096	32	8	16	1	8,192	1	128	896	true	flashinfer
0.059008	0.06944	0.062547	0.062496	0.003792	0.16624	0.201728	0.176141	0.169984	0.013148	4,096	32	8	16	1	8,192	1	128	1,024	true	flashinfer
0.058816	0.070624	0.063526	0.059296	0.005502	0.166624	0.177792	0.170438	0.170176	0.00398	4,096	32	8	16	1	8,192	1	128	1,152	true	flashinfer
0.058432	0.068224	0.06201	0.060512	0.003587	0.16416	0.192256	0.174643	0.171488	0.009609	4,096	32	8	16	1	8,192	1	128	1,280	true	flashinfer
0.06	0.071104	0.063584	0.062496	0.003945	0.168448	0.192896	0.178592	0.176384	0.008409	4,096	32	8	16	1	8,192	1	128	1,408	true	flashinfer
0.060032	0.082464	0.070291	0.069344	0.007417	0.171392	0.210784	0.190298	0.182816	0.015884	4,096	32	8	16	1	8,192	1	128	1,536	true	flashinfer
0.05984	0.07408	0.065562	0.06112	0.006156	0.16624	0.179456	0.171501	0.171744	0.0048	4,096	32	8	16	1	8,192	1	128	1,664	true	flashinfer
0.0584	0.069376	0.06183	0.059968	0.003971	0.16448	0.18336	0.173408	0.170816	0.006792	4,096	32	8	16	1	8,192	1	128	1,792	true	flashinfer
0.058432	0.075232	0.064282	0.060256	0.006713	0.165376	0.17456	0.170029	0.172064	0.003778	4,096	32	8	16	1	8,192	1	128	1,920	true	flashinfer
0.058336	0.069216	0.061696	0.060128	0.003887	0.16512	0.189824	0.174195	0.169504	0.008964	4,096	32	8	16	1	8,192	1	128	2,048	true	flashinfer
0.058944	0.067584	0.062253	0.060128	0.003478	0.166304	0.196128	0.17881	0.178272	0.011446	4,096	32	8	16	1	8,192	1	128	2,176	true	flashinfer
0.058144	0.084736	0.065139	0.059648	0.009992	0.167808	0.18736	0.17575	0.170656	0.008111	4,096	32	8	16	1	8,192	1	128	2,304	true	flashinfer
0.059616	0.074336	0.064563	0.06016	0.006013	0.166304	0.180512	0.170963	0.169344	0.004955	4,096	32	8	16	1	8,192	1	128	2,432	true	flashinfer
0.059648	0.072512	0.06496	0.060736	0.00578	0.167456	0.17792	0.171296	0.170048	0.003749	4,096	32	8	16	1	8,192	1	128	2,560	true	flashinfer
0.057984	0.070016	0.061882	0.060864	0.004246	0.1632	0.191104	0.173011	0.166752	0.010373	4,096	32	8	16	1	8,192	1	128	2,688	true	flashinfer
0.058496	0.079424	0.065651	0.060928	0.007674	0.16528	0.183488	0.175398	0.17904	0.006733	4,096	32	8	16	1	8,192	1	128	2,816	true	flashinfer
0.05936	0.068608	0.062285	0.061504	0.003287	0.16496	0.199904	0.174746	0.16976	0.012719	4,096	32	8	16	1	8,192	1	128	2,944	true	flashinfer
0.05856	0.079168	0.066419	0.059936	0.009041	0.164864	0.185184	0.172781	0.172096	0.007187	4,096	32	8	16	1	8,192	1	128	3,072	true	flashinfer
0.058752	0.074784	0.064659	0.061152	0.006247	0.166016	0.176672	0.171565	0.172832	0.004682	4,096	32	8	16	1	8,192	1	128	3,200	true	flashinfer
0.058464	0.07888	0.065101	0.060192	0.007907	0.166816	0.181536	0.17568	0.179136	0.006149	4,096	32	8	16	1	8,192	1	128	3,328	true	flashinfer
0.059712	0.066592	0.062483	0.06288	0.002439	0.167488	0.19824	0.176115	0.17264	0.011311	4,096	32	8	16	1	8,192	1	128	3,456	true	flashinfer
0.058016	0.071584	0.061606	0.059584	0.005058	0.165504	0.188832	0.175424	0.173536	0.008661	4,096	32	8	16	1	8,192	1	128	3,584	true	flashinfer
0.059008	0.069472	0.062246	0.060352	0.00379	0.168192	0.1872	0.17529	0.172928	0.006874	4,096	32	8	16	1	8,192	1	128	3,712	true	flashinfer
0.058496	0.069376	0.062112	0.059968	0.003909	0.165088	0.185568	0.17392	0.174368	0.007782	4,096	32	8	16	1	8,192	1	128	3,840	true	flashinfer

Subsets and Splits

No community queries yet

The top public SQL queries from the community will appear here once available.