Split (1)

train · 13.1k rows

time_stats.save_kv_cache.min float64 0 0.08	time_stats.save_kv_cache.max float64 0.03 0.28	time_stats.save_kv_cache.mean float64 0.01 0.12	time_stats.save_kv_cache.median float64 0.01 0.09	time_stats.save_kv_cache.std float64 0 0.08	time_stats.attention_forward.min float64 0.09 1.2	time_stats.attention_forward.max float64 0.09 8.61	time_stats.attention_forward.mean float64 0.09 1.89	time_stats.attention_forward.median float64 0.09 1.2	time_stats.attention_forward.std float64 0 3.36	n_embd int64 4.1k 4.1k	n_q_head int64 32 32	n_kv_head int64 8 8	block_size int64 16 16	num_tensor_parallel_workers int64 1 1	max_model_len int64 8.19k 8.19k	batch_size int64 1 128	prefill_chunk_size int64 0 512	kv_cache_size int64 0 8.16k	is_prefill bool 2 classes	attention_backend stringclasses 1 value
0.063264	0.088416	0.073683	0.0656	0.011324	0.180576	0.231072	0.200589	0.196768	0.017989	4,096	32	8	16	1	8,192	1	32	6,400	true	flashinfer
0.067136	0.097344	0.07632	0.069728	0.011357	0.19248	0.238528	0.205107	0.198784	0.016951	4,096	32	8	16	1	8,192	1	32	6,432	true	flashinfer
0.066912	0.086336	0.072832	0.06752	0.007575	0.182432	0.199072	0.188269	0.18656	0.006219	4,096	32	8	16	1	8,192	1	32	6,464	true	flashinfer
0.0656	0.08256	0.071558	0.069504	0.006183	0.185056	0.221952	0.196026	0.188224	0.013537	4,096	32	8	16	1	8,192	1	32	6,496	true	flashinfer
0.065664	0.07936	0.069107	0.066304	0.005182	0.184896	0.20448	0.195085	0.197824	0.007036	4,096	32	8	16	1	8,192	1	32	6,528	true	flashinfer
0.06384	0.075584	0.067846	0.066464	0.004169	0.185632	0.239072	0.20183	0.191424	0.019767	4,096	32	8	16	1	8,192	1	32	6,560	true	flashinfer
0.062976	0.076448	0.068378	0.06704	0.004839	0.180448	0.20816	0.192723	0.192256	0.009942	4,096	32	8	16	1	8,192	1	32	6,592	true	flashinfer
0.065408	0.076768	0.068928	0.065888	0.004428	0.18256	0.205856	0.193587	0.196832	0.009025	4,096	32	8	16	1	8,192	1	32	6,624	true	flashinfer
0.063872	0.084352	0.071418	0.067264	0.007918	0.184576	0.226176	0.198144	0.196512	0.014953	4,096	32	8	16	1	8,192	1	32	6,656	true	flashinfer
0.064928	0.077376	0.070406	0.070688	0.004743	0.181952	0.236	0.205011	0.201408	0.019642	4,096	32	8	16	1	8,192	1	32	6,688	true	flashinfer
0.065344	0.080128	0.070208	0.068032	0.005156	0.187264	0.207712	0.20096	0.203968	0.007265	4,096	32	8	16	1	8,192	1	32	6,720	true	flashinfer
0.067776	0.077696	0.071373	0.07056	0.003369	0.194656	0.213888	0.203488	0.2016	0.008343	4,096	32	8	16	1	8,192	1	32	6,752	true	flashinfer
0.065632	0.078176	0.070906	0.068832	0.004584	0.180384	0.22064	0.194662	0.190624	0.013646	4,096	32	8	16	1	8,192	1	32	6,784	true	flashinfer
0.062592	0.074912	0.066726	0.065184	0.004348	0.182784	0.224768	0.197619	0.19488	0.01545	4,096	32	8	16	1	8,192	1	32	6,816	true	flashinfer
0.064736	0.088544	0.072134	0.066752	0.008847	0.185888	0.1976	0.193171	0.195424	0.004155	4,096	32	8	16	1	8,192	1	32	6,848	true	flashinfer
0.066272	0.080896	0.071616	0.069984	0.005038	0.190528	0.221152	0.202285	0.19728	0.011774	4,096	32	8	16	1	8,192	1	32	6,880	true	flashinfer
0.06672	0.09712	0.076858	0.069696	0.01135	0.183808	0.211904	0.200973	0.207456	0.010702	4,096	32	8	16	1	8,192	1	32	6,912	true	flashinfer
0.064224	0.076928	0.069146	0.068992	0.004324	0.182528	0.221504	0.196518	0.19136	0.013484	4,096	32	8	16	1	8,192	1	32	6,944	true	flashinfer
0.064352	0.085184	0.07191	0.06688	0.007853	0.182752	0.20784	0.194675	0.19728	0.009305	4,096	32	8	16	1	8,192	1	32	6,976	true	flashinfer
0.06352	0.085088	0.071846	0.067136	0.008191	0.181856	0.220768	0.19497	0.189056	0.014103	4,096	32	8	16	1	8,192	1	32	7,008	true	flashinfer
0.064608	0.096256	0.072269	0.067072	0.012035	0.183232	0.204288	0.192563	0.187904	0.009563	4,096	32	8	16	1	8,192	1	32	7,040	true	flashinfer
0.065664	0.081024	0.071597	0.070272	0.005909	0.183968	0.212832	0.194669	0.19232	0.010367	4,096	32	8	16	1	8,192	1	32	7,072	true	flashinfer
0.062656	0.07536	0.067757	0.066208	0.004442	0.182016	0.20656	0.191936	0.19136	0.009222	4,096	32	8	16	1	8,192	1	32	7,104	true	flashinfer
0.076352	0.108864	0.088922	0.084384	0.011344	0.197536	0.32432	0.249971	0.259968	0.04616	4,096	32	8	16	1	8,192	1	32	7,136	true	flashinfer
0.0664	0.080576	0.072365	0.068544	0.00583	0.19056	0.215968	0.200992	0.20288	0.009431	4,096	32	8	16	1	8,192	1	32	7,168	true	flashinfer
0.0664	0.084576	0.07072	0.067232	0.00696	0.187648	0.209088	0.197626	0.194976	0.00833	4,096	32	8	16	1	8,192	1	32	7,200	true	flashinfer
0.066688	0.081056	0.071763	0.070592	0.004891	0.191584	0.20848	0.197613	0.196192	0.006201	4,096	32	8	16	1	8,192	1	32	7,232	true	flashinfer
0.065888	0.079936	0.071776	0.067552	0.006416	0.185408	0.252	0.207603	0.206112	0.023916	4,096	32	8	16	1	8,192	1	32	7,264	true	flashinfer
0.064064	0.086336	0.071661	0.066752	0.008524	0.183712	0.220544	0.199648	0.196992	0.01355	4,096	32	8	16	1	8,192	1	32	7,296	true	flashinfer
0.064032	0.07824	0.069651	0.066336	0.005811	0.182944	0.198432	0.189638	0.190048	0.005826	4,096	32	8	16	1	8,192	1	32	7,328	true	flashinfer
0.06416	0.075648	0.069242	0.067552	0.004152	0.184384	0.21856	0.196672	0.190592	0.012914	4,096	32	8	16	1	8,192	1	32	7,360	true	flashinfer
0.064448	0.075648	0.067232	0.064768	0.004277	0.181344	0.21104	0.194394	0.197024	0.010553	4,096	32	8	16	1	8,192	1	32	7,392	true	flashinfer
0.069632	0.0824	0.074067	0.071712	0.004898	0.196096	0.246656	0.214579	0.2072	0.019249	4,096	32	8	16	1	8,192	1	32	7,424	true	flashinfer
0.064864	0.108576	0.077683	0.065312	0.017171	0.183648	0.214464	0.193446	0.18848	0.01095	4,096	32	8	16	1	8,192	1	32	7,456	true	flashinfer
0.06416	0.094048	0.072269	0.067808	0.010987	0.184224	0.22	0.19696	0.18944	0.013736	4,096	32	8	16	1	8,192	1	32	7,488	true	flashinfer
0.06896	0.080256	0.07415	0.07456	0.004524	0.190688	0.240032	0.215674	0.21488	0.016944	4,096	32	8	16	1	8,192	1	32	7,520	true	flashinfer
0.064448	0.081184	0.074803	0.0792	0.007003	0.186464	0.237632	0.204922	0.20224	0.01772	4,096	32	8	16	1	8,192	1	32	7,552	true	flashinfer
0.064224	0.076832	0.068301	0.066208	0.004562	0.18176	0.211872	0.191782	0.186336	0.011236	4,096	32	8	16	1	8,192	1	32	7,584	true	flashinfer
0.064288	0.079104	0.069734	0.066624	0.005413	0.184128	0.231584	0.19936	0.191712	0.016779	4,096	32	8	16	1	8,192	1	32	7,616	true	flashinfer
0.068192	0.077248	0.072275	0.07088	0.003641	0.199392	0.22736	0.218054	0.221408	0.009724	4,096	32	8	16	1	8,192	1	32	7,648	true	flashinfer
0.063648	0.081792	0.070816	0.0664	0.006889	0.182624	0.205248	0.195251	0.197664	0.007822	4,096	32	8	16	1	8,192	1	32	7,680	true	flashinfer
0.066208	0.097856	0.076544	0.06736	0.012763	0.18416	0.214208	0.196845	0.191456	0.010866	4,096	32	8	16	1	8,192	1	32	7,712	true	flashinfer
0.065888	0.076736	0.069978	0.069536	0.00393	0.183744	0.229248	0.202822	0.195232	0.017025	4,096	32	8	16	1	8,192	1	32	7,744	true	flashinfer
0.065056	0.081472	0.071942	0.068832	0.006443	0.18464	0.244256	0.210048	0.207936	0.019273	4,096	32	8	16	1	8,192	1	32	7,776	true	flashinfer
0.064928	0.078976	0.068941	0.067328	0.005108	0.185536	0.21392	0.196742	0.19696	0.009739	4,096	32	8	16	1	8,192	1	32	7,808	true	flashinfer
0.064608	0.101696	0.073293	0.0672	0.014235	0.18272	0.205696	0.192102	0.1928	0.008079	4,096	32	8	16	1	8,192	1	32	7,840	true	flashinfer
0.063584	0.0872	0.071853	0.067168	0.008983	0.180768	0.216256	0.195354	0.19648	0.012357	4,096	32	8	16	1	8,192	1	32	7,872	true	flashinfer
0.064512	0.075232	0.067507	0.065888	0.003958	0.182304	0.197536	0.188902	0.1864	0.00638	4,096	32	8	16	1	8,192	1	32	7,904	true	flashinfer
0.06272	0.074624	0.066784	0.064928	0.004275	0.182432	0.202176	0.191789	0.186848	0.008248	4,096	32	8	16	1	8,192	1	32	7,936	true	flashinfer
0.064032	0.085664	0.072646	0.069024	0.008025	0.182944	0.217952	0.198797	0.198368	0.013455	4,096	32	8	16	1	8,192	1	32	7,968	true	flashinfer
0.067424	0.102912	0.078547	0.070272	0.013458	0.188448	0.213792	0.202886	0.209344	0.010009	4,096	32	8	16	1	8,192	1	32	8,000	true	flashinfer
0.067968	0.098272	0.083546	0.08496	0.012696	0.188832	0.214112	0.200416	0.199872	0.009716	4,096	32	8	16	1	8,192	1	32	8,032	true	flashinfer
0.06448	0.087008	0.072019	0.065984	0.009061	0.179424	0.204224	0.191475	0.193472	0.009252	4,096	32	8	16	1	8,192	1	32	8,064	true	flashinfer
0.067488	0.07952	0.071853	0.071008	0.004104	0.189376	0.235744	0.203686	0.199616	0.016848	4,096	32	8	16	1	8,192	1	32	8,096	true	flashinfer
0.068544	0.08336	0.073254	0.071968	0.005236	0.189472	0.222944	0.203046	0.200256	0.012018	4,096	32	8	16	1	8,192	1	32	8,128	true	flashinfer
0.064096	0.075744	0.068614	0.068704	0.004157	0.187424	0.221312	0.197037	0.190112	0.012794	4,096	32	8	16	1	8,192	1	32	8,160	true	flashinfer
0.065376	0.075424	0.070157	0.070048	0.003219	0.17968	0.206112	0.192954	0.192736	0.009406	4,096	32	8	16	1	8,192	1	64	0	true	flashinfer
0.06464	0.079168	0.069069	0.067296	0.005238	0.179552	0.199968	0.187648	0.186816	0.006785	4,096	32	8	16	1	8,192	1	64	64	true	flashinfer
0.06592	0.099872	0.078752	0.077856	0.012355	0.182464	0.212416	0.19376	0.189216	0.010924	4,096	32	8	16	1	8,192	1	64	128	true	flashinfer
0.065696	0.075968	0.068883	0.066624	0.00392	0.184512	0.204384	0.192486	0.19168	0.00707	4,096	32	8	16	1	8,192	1	64	192	true	flashinfer
0.067264	0.083328	0.072826	0.06896	0.006064	0.18768	0.24496	0.211283	0.206176	0.020096	4,096	32	8	16	1	8,192	1	64	256	true	flashinfer
0.064288	0.075264	0.068499	0.068608	0.003956	0.18272	0.221408	0.197178	0.18928	0.014333	4,096	32	8	16	1	8,192	1	64	320	true	flashinfer
0.064192	0.075072	0.067789	0.065216	0.00406	0.182688	0.205856	0.190611	0.189376	0.008407	4,096	32	8	16	1	8,192	1	64	384	true	flashinfer
0.064256	0.1	0.07257	0.066112	0.013739	0.182816	0.207936	0.193613	0.189056	0.010685	4,096	32	8	16	1	8,192	1	64	448	true	flashinfer
0.064416	0.074528	0.067987	0.06528	0.003955	0.179584	0.205376	0.190477	0.190304	0.009005	4,096	32	8	16	1	8,192	1	64	512	true	flashinfer
0.06528	0.0952	0.071814	0.065728	0.011718	0.183488	0.21504	0.194432	0.19056	0.011872	4,096	32	8	16	1	8,192	1	64	576	true	flashinfer
0.065216	0.095232	0.073242	0.066656	0.011423	0.181984	0.209824	0.194758	0.191488	0.011193	4,096	32	8	16	1	8,192	1	64	640	true	flashinfer
0.066144	0.09488	0.072723	0.066816	0.011126	0.186944	0.208768	0.195885	0.192672	0.008912	4,096	32	8	16	1	8,192	1	64	704	true	flashinfer
0.064768	0.073856	0.067571	0.065856	0.003306	0.18304	0.206624	0.19161	0.189952	0.008215	4,096	32	8	16	1	8,192	1	64	768	true	flashinfer
0.065472	0.091904	0.072262	0.067552	0.010003	0.183424	0.228256	0.197875	0.188512	0.016777	4,096	32	8	16	1	8,192	1	64	832	true	flashinfer
0.064288	0.075776	0.068461	0.066752	0.00426	0.181888	0.209408	0.19225	0.19024	0.009858	4,096	32	8	16	1	8,192	1	64	896	true	flashinfer
0.069344	0.078272	0.072397	0.069984	0.003574	0.185408	0.25024	0.216768	0.218688	0.023199	4,096	32	8	16	1	8,192	1	64	960	true	flashinfer
0.063712	0.076416	0.067795	0.066176	0.004513	0.179072	0.20896	0.189843	0.18432	0.011299	4,096	32	8	16	1	8,192	1	64	1,024	true	flashinfer
0.065152	0.08496	0.072595	0.067904	0.008162	0.182144	0.199584	0.189562	0.187328	0.005899	4,096	32	8	16	1	8,192	1	64	1,088	true	flashinfer
0.063872	0.075136	0.067827	0.067424	0.003927	0.181728	0.207392	0.193862	0.192224	0.010017	4,096	32	8	16	1	8,192	1	64	1,152	true	flashinfer
0.066176	0.09168	0.07175	0.066944	0.00997	0.181984	0.20944	0.192301	0.185568	0.010634	4,096	32	8	16	1	8,192	1	64	1,216	true	flashinfer
0.065216	0.07632	0.069062	0.066944	0.004211	0.181728	0.206144	0.190803	0.189248	0.008917	4,096	32	8	16	1	8,192	1	64	1,280	true	flashinfer
0.064064	0.07376	0.068544	0.068672	0.00351	0.183744	0.216672	0.19584	0.192384	0.012463	4,096	32	8	16	1	8,192	1	64	1,344	true	flashinfer
0.064032	0.07408	0.066746	0.065216	0.0037	0.182912	0.194784	0.188205	0.188256	0.004559	4,096	32	8	16	1	8,192	1	64	1,408	true	flashinfer
0.064032	0.074688	0.068141	0.066368	0.003993	0.181088	0.21216	0.191181	0.186752	0.011633	4,096	32	8	16	1	8,192	1	64	1,472	true	flashinfer
0.065024	0.075488	0.067776	0.066464	0.003914	0.18256	0.214048	0.192576	0.18784	0.011632	4,096	32	8	16	1	8,192	1	64	1,536	true	flashinfer
0.06608	0.099072	0.076384	0.068288	0.012688	0.181984	0.201152	0.190336	0.19136	0.006479	4,096	32	8	16	1	8,192	1	64	1,600	true	flashinfer
0.064608	0.074464	0.067622	0.066784	0.003536	0.182592	0.209824	0.193946	0.193472	0.009899	4,096	32	8	16	1	8,192	1	64	1,664	true	flashinfer
0.065248	0.07456	0.068269	0.066976	0.003412	0.183968	0.19664	0.188416	0.188128	0.004427	4,096	32	8	16	1	8,192	1	64	1,728	true	flashinfer
0.063904	0.094656	0.071846	0.0672	0.011472	0.185024	0.215776	0.195776	0.19056	0.011733	4,096	32	8	16	1	8,192	1	64	1,792	true	flashinfer
0.06448	0.075904	0.068077	0.066464	0.004085	0.18464	0.217248	0.198374	0.198912	0.011843	4,096	32	8	16	1	8,192	1	64	1,856	true	flashinfer
0.064832	0.079008	0.069126	0.066496	0.005106	0.181568	0.201536	0.19168	0.189952	0.007779	4,096	32	8	16	1	8,192	1	64	1,920	true	flashinfer
0.066368	0.086272	0.074419	0.075424	0.007449	0.190656	0.227456	0.209715	0.211712	0.013516	4,096	32	8	16	1	8,192	1	64	1,984	true	flashinfer
0.068288	0.077184	0.071482	0.06976	0.003256	0.18704	0.214432	0.201414	0.200608	0.010323	4,096	32	8	16	1	8,192	1	64	2,048	true	flashinfer
0.064864	0.07984	0.069517	0.067008	0.00549	0.180384	0.206432	0.193786	0.191104	0.008983	4,096	32	8	16	1	8,192	1	64	2,112	true	flashinfer
0.0648	0.07712	0.070675	0.071136	0.004616	0.18336	0.214272	0.193722	0.192736	0.011105	4,096	32	8	16	1	8,192	1	64	2,176	true	flashinfer
0.06752	0.087424	0.074112	0.069504	0.007533	0.18848	0.204032	0.19552	0.193472	0.005656	4,096	32	8	16	1	8,192	1	64	2,240	true	flashinfer
0.06688	0.083904	0.073901	0.071168	0.006687	0.186208	0.229888	0.200973	0.194432	0.015878	4,096	32	8	16	1	8,192	1	64	2,304	true	flashinfer
0.064032	0.075296	0.068749	0.069216	0.003911	0.185216	0.220864	0.19943	0.191136	0.01364	4,096	32	8	16	1	8,192	1	64	2,368	true	flashinfer
0.06432	0.074272	0.067482	0.065344	0.003624	0.183392	0.210112	0.191878	0.18688	0.009938	4,096	32	8	16	1	8,192	1	64	2,432	true	flashinfer
0.065888	0.0816	0.072243	0.06704	0.007064	0.183008	0.200192	0.188595	0.187008	0.006224	4,096	32	8	16	1	8,192	1	64	2,496	true	flashinfer
0.065056	0.08064	0.070995	0.067072	0.006381	0.183008	0.207232	0.192915	0.195072	0.008921	4,096	32	8	16	1	8,192	1	64	2,560	true	flashinfer
0.0632	0.078624	0.067635	0.064832	0.005676	0.1816	0.206112	0.191565	0.187616	0.008432	4,096	32	8	16	1	8,192	1	64	2,624	true	flashinfer
0.067552	0.116384	0.08105	0.071744	0.018043	0.193088	0.23568	0.214106	0.219744	0.0171	4,096	32	8	16	1	8,192	1	64	2,688	true	flashinfer
0.065312	0.077632	0.071085	0.069824	0.005144	0.180896	0.213888	0.192723	0.189472	0.011285	4,096	32	8	16	1	8,192	1	64	2,752	true	flashinfer

Subsets and Splits

No community queries yet

The top public SQL queries from the community will appear here once available.