Split (1)

train · 13.1k rows

time_stats.save_kv_cache.min float64 0 0.08	time_stats.save_kv_cache.max float64 0.03 0.28	time_stats.save_kv_cache.mean float64 0.01 0.12	time_stats.save_kv_cache.median float64 0.01 0.09	time_stats.save_kv_cache.std float64 0 0.08	time_stats.attention_forward.min float64 0.09 1.2	time_stats.attention_forward.max float64 0.09 8.61	time_stats.attention_forward.mean float64 0.09 1.89	time_stats.attention_forward.median float64 0.09 1.2	time_stats.attention_forward.std float64 0 3.36	n_embd int64 4.1k 4.1k	n_q_head int64 32 32	n_kv_head int64 8 8	block_size int64 16 16	num_tensor_parallel_workers int64 1 1	max_model_len int64 8.19k 8.19k	batch_size int64 1 128	prefill_chunk_size int64 0 512	kv_cache_size int64 0 8.16k	is_prefill bool 2 classes	attention_backend stringclasses 1 value
0.064928	0.075904	0.068294	0.066368	0.003995	0.17936	0.197984	0.188755	0.1896	0.006659	4,096	32	8	16	1	8,192	1	64	2,816	true	flashinfer
0.065536	0.075104	0.068557	0.067456	0.003372	0.184096	0.21904	0.198483	0.191648	0.013333	4,096	32	8	16	1	8,192	1	64	2,880	true	flashinfer
0.063296	0.076096	0.067866	0.065984	0.004486	0.181664	0.229664	0.201594	0.195744	0.018363	4,096	32	8	16	1	8,192	1	64	2,944	true	flashinfer
0.064832	0.07968	0.068864	0.065376	0.005614	0.18192	0.20496	0.191059	0.186848	0.008076	4,096	32	8	16	1	8,192	1	64	3,008	true	flashinfer
0.06896	0.078656	0.072685	0.07248	0.003289	0.19328	0.233408	0.208461	0.205632	0.014306	4,096	32	8	16	1	8,192	1	64	3,072	true	flashinfer
0.064704	0.07648	0.068813	0.067424	0.004018	0.186336	0.208864	0.195846	0.198624	0.008464	4,096	32	8	16	1	8,192	1	64	3,136	true	flashinfer
0.070464	0.083072	0.074182	0.071392	0.004669	0.193344	0.210784	0.202234	0.200256	0.00657	4,096	32	8	16	1	8,192	1	64	3,200	true	flashinfer
0.064608	0.07968	0.072544	0.075712	0.005858	0.182592	0.252256	0.207533	0.200096	0.023675	4,096	32	8	16	1	8,192	1	64	3,264	true	flashinfer
0.063968	0.087424	0.071974	0.066656	0.008649	0.182208	0.203616	0.193587	0.195328	0.00766	4,096	32	8	16	1	8,192	1	64	3,328	true	flashinfer
0.064384	0.076608	0.068051	0.066048	0.004381	0.181792	0.209344	0.193651	0.18928	0.010561	4,096	32	8	16	1	8,192	1	64	3,392	true	flashinfer
0.065248	0.075104	0.06871	0.068	0.003658	0.182464	0.21792	0.196774	0.190944	0.013082	4,096	32	8	16	1	8,192	1	64	3,456	true	flashinfer
0.064992	0.077056	0.068352	0.065312	0.004633	0.184384	0.206976	0.193402	0.190944	0.008312	4,096	32	8	16	1	8,192	1	64	3,520	true	flashinfer
0.063072	0.07936	0.068499	0.066848	0.005655	0.184	0.20016	0.192301	0.189792	0.006555	4,096	32	8	16	1	8,192	1	64	3,584	true	flashinfer
0.06672	0.075616	0.069722	0.06928	0.003218	0.184896	0.216928	0.193216	0.186176	0.012148	4,096	32	8	16	1	8,192	1	64	3,648	true	flashinfer
0.06512	0.075712	0.069504	0.067424	0.00387	0.18432	0.195744	0.189446	0.188896	0.004098	4,096	32	8	16	1	8,192	1	64	3,712	true	flashinfer
0.06384	0.0784	0.067789	0.06528	0.005458	0.178848	0.201472	0.190618	0.188	0.008168	4,096	32	8	16	1	8,192	1	64	3,776	true	flashinfer
0.06432	0.074784	0.06752	0.064832	0.004071	0.183296	0.218304	0.198458	0.19472	0.013793	4,096	32	8	16	1	8,192	1	64	3,840	true	flashinfer
0.065184	0.087072	0.072122	0.06688	0.008273	0.183104	0.195616	0.189325	0.190112	0.00491	4,096	32	8	16	1	8,192	1	64	3,904	true	flashinfer
0.064864	0.099392	0.072813	0.066624	0.013316	0.181376	0.201632	0.190374	0.1872	0.00716	4,096	32	8	16	1	8,192	1	64	3,968	true	flashinfer
0.065632	0.0824	0.074285	0.074688	0.006987	0.184416	0.21984	0.197466	0.1976	0.012384	4,096	32	8	16	1	8,192	1	64	4,032	true	flashinfer
0.065664	0.082176	0.071552	0.066944	0.006603	0.182912	0.197056	0.189037	0.188064	0.005281	4,096	32	8	16	1	8,192	1	64	4,096	true	flashinfer
0.067296	0.098144	0.075226	0.070432	0.011642	0.188512	0.217024	0.201184	0.20192	0.009897	4,096	32	8	16	1	8,192	1	64	4,160	true	flashinfer
0.066272	0.080608	0.072627	0.073632	0.00548	0.181696	0.197504	0.189683	0.190624	0.005971	4,096	32	8	16	1	8,192	1	64	4,224	true	flashinfer
0.063872	0.075488	0.068083	0.06704	0.004037	0.18048	0.209472	0.191488	0.189888	0.010739	4,096	32	8	16	1	8,192	1	64	4,288	true	flashinfer
0.066272	0.080352	0.069958	0.066304	0.005458	0.184096	0.199168	0.189376	0.189504	0.005456	4,096	32	8	16	1	8,192	1	64	4,352	true	flashinfer
0.064256	0.076928	0.069254	0.069568	0.00438	0.182464	0.218272	0.196934	0.191232	0.012469	4,096	32	8	16	1	8,192	1	64	4,416	true	flashinfer
0.065184	0.077408	0.069107	0.067808	0.004467	0.180352	0.209696	0.192058	0.190016	0.010303	4,096	32	8	16	1	8,192	1	64	4,480	true	flashinfer
0.064352	0.07984	0.068819	0.06688	0.005645	0.186208	0.20512	0.192909	0.189824	0.006722	4,096	32	8	16	1	8,192	1	64	4,544	true	flashinfer
0.065408	0.083168	0.072883	0.071168	0.006317	0.18448	0.20976	0.19591	0.193984	0.008633	4,096	32	8	16	1	8,192	1	64	4,608	true	flashinfer
0.065312	0.07824	0.068506	0.066368	0.004897	0.182144	0.200416	0.189824	0.189792	0.006769	4,096	32	8	16	1	8,192	1	64	4,672	true	flashinfer
0.064064	0.09264	0.072058	0.067904	0.010397	0.184928	0.206208	0.194931	0.191744	0.008298	4,096	32	8	16	1	8,192	1	64	4,736	true	flashinfer
0.06672	0.089696	0.075718	0.071328	0.008938	0.18768	0.206912	0.198189	0.202528	0.008653	4,096	32	8	16	1	8,192	1	64	4,800	true	flashinfer
0.064992	0.080256	0.070611	0.066304	0.006417	0.184416	0.196992	0.188787	0.18624	0.004784	4,096	32	8	16	1	8,192	1	64	4,864	true	flashinfer
0.06592	0.095424	0.072941	0.067648	0.011296	0.18208	0.207808	0.194541	0.189824	0.009917	4,096	32	8	16	1	8,192	1	64	4,928	true	flashinfer
0.064096	0.083104	0.070778	0.067328	0.007226	0.180544	0.209632	0.193734	0.195296	0.010188	4,096	32	8	16	1	8,192	1	64	4,992	true	flashinfer
0.064896	0.078912	0.068422	0.066176	0.005271	0.182144	0.210528	0.192474	0.188064	0.010527	4,096	32	8	16	1	8,192	1	64	5,056	true	flashinfer
0.064928	0.08384	0.072429	0.065344	0.008893	0.182432	0.198784	0.19152	0.191232	0.005446	4,096	32	8	16	1	8,192	1	64	5,120	true	flashinfer
0.064512	0.086304	0.071494	0.066336	0.008237	0.181472	0.202272	0.193722	0.197792	0.007662	4,096	32	8	16	1	8,192	1	64	5,184	true	flashinfer
0.065152	0.081152	0.071616	0.068288	0.006529	0.182816	0.19984	0.190029	0.187808	0.006161	4,096	32	8	16	1	8,192	1	64	5,248	true	flashinfer
0.065408	0.092896	0.073715	0.0664	0.010728	0.183168	0.209536	0.19399	0.187456	0.011506	4,096	32	8	16	1	8,192	1	64	5,312	true	flashinfer
0.064256	0.0832	0.071514	0.066784	0.00721	0.18432	0.20656	0.193946	0.195552	0.008017	4,096	32	8	16	1	8,192	1	64	5,376	true	flashinfer
0.064992	0.07904	0.068986	0.06672	0.005214	0.181856	0.206368	0.192781	0.188352	0.009938	4,096	32	8	16	1	8,192	1	64	5,440	true	flashinfer
0.067424	0.076992	0.071162	0.070272	0.003286	0.193088	0.234208	0.209837	0.197952	0.01759	4,096	32	8	16	1	8,192	1	64	5,504	true	flashinfer
0.068448	0.092736	0.078208	0.078816	0.008674	0.1904	0.241952	0.207706	0.203264	0.018399	4,096	32	8	16	1	8,192	1	64	5,568	true	flashinfer
0.064416	0.073536	0.067981	0.06768	0.003303	0.181568	0.2152	0.195085	0.193152	0.011186	4,096	32	8	16	1	8,192	1	64	5,632	true	flashinfer
0.065248	0.08	0.069747	0.066656	0.005434	0.182976	0.236192	0.200154	0.19104	0.018772	4,096	32	8	16	1	8,192	1	64	5,696	true	flashinfer
0.065376	0.07392	0.069043	0.067776	0.003218	0.185312	0.219936	0.19648	0.192192	0.012172	4,096	32	8	16	1	8,192	1	64	5,760	true	flashinfer
0.06496	0.08	0.070438	0.06704	0.005983	0.185696	0.212416	0.197152	0.198912	0.010128	4,096	32	8	16	1	8,192	1	64	5,824	true	flashinfer
0.065664	0.080032	0.069658	0.067584	0.005336	0.189344	0.205984	0.198138	0.202656	0.007002	4,096	32	8	16	1	8,192	1	64	5,888	true	flashinfer
0.065696	0.078624	0.069965	0.068384	0.004693	0.188896	0.214848	0.19897	0.196064	0.008687	4,096	32	8	16	1	8,192	1	64	5,952	true	flashinfer
0.065344	0.076128	0.069043	0.066816	0.003957	0.180736	0.237664	0.197965	0.188128	0.020564	4,096	32	8	16	1	8,192	1	64	6,016	true	flashinfer
0.063904	0.080544	0.068557	0.067136	0.006157	0.18272	0.205856	0.195424	0.19984	0.008624	4,096	32	8	16	1	8,192	1	64	6,080	true	flashinfer
0.064576	0.078624	0.069638	0.069984	0.005131	0.184	0.228288	0.19648	0.18992	0.016361	4,096	32	8	16	1	8,192	1	64	6,144	true	flashinfer
0.065824	0.07728	0.06873	0.066368	0.004368	0.184736	0.21216	0.19577	0.196768	0.009596	4,096	32	8	16	1	8,192	1	64	6,208	true	flashinfer
0.063968	0.076512	0.067987	0.0672	0.004455	0.181536	0.206176	0.191942	0.189056	0.008693	4,096	32	8	16	1	8,192	1	64	6,272	true	flashinfer
0.065312	0.074368	0.068672	0.066816	0.003274	0.182112	0.21824	0.193843	0.188544	0.013187	4,096	32	8	16	1	8,192	1	64	6,336	true	flashinfer
0.064992	0.076832	0.068422	0.066688	0.004386	0.182752	0.204032	0.191117	0.189824	0.007539	4,096	32	8	16	1	8,192	1	64	6,400	true	flashinfer
0.063936	0.080032	0.068826	0.065824	0.005827	0.1848	0.199424	0.191206	0.187936	0.005992	4,096	32	8	16	1	8,192	1	64	6,464	true	flashinfer
0.064736	0.07536	0.069094	0.067168	0.004192	0.183744	0.19616	0.191021	0.194464	0.005538	4,096	32	8	16	1	8,192	1	64	6,528	true	flashinfer
0.06448	0.075808	0.068038	0.066112	0.004168	0.182688	0.206464	0.192582	0.190624	0.008195	4,096	32	8	16	1	8,192	1	64	6,592	true	flashinfer
0.064832	0.079904	0.069229	0.067424	0.005479	0.186848	0.228864	0.198406	0.189824	0.015652	4,096	32	8	16	1	8,192	1	64	6,656	true	flashinfer
0.067168	0.077504	0.071891	0.06928	0.004275	0.18768	0.216608	0.200429	0.201664	0.010133	4,096	32	8	16	1	8,192	1	64	6,720	true	flashinfer
0.064992	0.077184	0.068506	0.0664	0.004463	0.182976	0.209056	0.19657	0.19552	0.010746	4,096	32	8	16	1	8,192	1	64	6,784	true	flashinfer
0.063808	0.078304	0.068307	0.066368	0.005124	0.183072	0.222784	0.19815	0.19216	0.01355	4,096	32	8	16	1	8,192	1	64	6,848	true	flashinfer
0.065152	0.096032	0.079846	0.076928	0.013141	0.182208	0.199744	0.190266	0.190464	0.006557	4,096	32	8	16	1	8,192	1	64	6,912	true	flashinfer
0.065696	0.087776	0.072851	0.069728	0.0081	0.187488	0.21568	0.196934	0.194304	0.009811	4,096	32	8	16	1	8,192	1	64	6,976	true	flashinfer
0.064544	0.076128	0.06857	0.0664	0.004124	0.183488	0.20944	0.196179	0.195648	0.009102	4,096	32	8	16	1	8,192	1	64	7,040	true	flashinfer
0.065184	0.080416	0.071872	0.068416	0.006837	0.186688	0.209952	0.201914	0.20512	0.008623	4,096	32	8	16	1	8,192	1	64	7,104	true	flashinfer
0.065696	0.093472	0.071744	0.066368	0.01087	0.183264	0.223904	0.198035	0.188896	0.014944	4,096	32	8	16	1	8,192	1	64	7,168	true	flashinfer
0.065824	0.079424	0.071917	0.069888	0.005493	0.184	0.214688	0.194029	0.192224	0.011056	4,096	32	8	16	1	8,192	1	64	7,232	true	flashinfer
0.065216	0.075936	0.069005	0.066848	0.003897	0.185888	0.205952	0.193261	0.19216	0.007366	4,096	32	8	16	1	8,192	1	64	7,296	true	flashinfer
0.065344	0.11024	0.07559	0.066848	0.017398	0.185504	0.20208	0.190765	0.18912	0.005977	4,096	32	8	16	1	8,192	1	64	7,360	true	flashinfer
0.065984	0.078816	0.071309	0.070048	0.004992	0.183168	0.219168	0.197254	0.192288	0.012309	4,096	32	8	16	1	8,192	1	64	7,424	true	flashinfer
0.063776	0.07616	0.068352	0.066336	0.004439	0.182176	0.211712	0.1944	0.194336	0.010332	4,096	32	8	16	1	8,192	1	64	7,488	true	flashinfer
0.06592	0.08	0.069587	0.067808	0.005272	0.185632	0.208864	0.199155	0.202752	0.009111	4,096	32	8	16	1	8,192	1	64	7,552	true	flashinfer
0.064256	0.074976	0.069286	0.069952	0.003712	0.184544	0.229568	0.198694	0.193216	0.015996	4,096	32	8	16	1	8,192	1	64	7,616	true	flashinfer
0.06384	0.077024	0.068704	0.068416	0.004526	0.185856	0.210336	0.196467	0.19808	0.008424	4,096	32	8	16	1	8,192	1	64	7,680	true	flashinfer
0.064448	0.079712	0.069664	0.068384	0.005302	0.182368	0.212672	0.19424	0.19104	0.01137	4,096	32	8	16	1	8,192	1	64	7,744	true	flashinfer
0.063712	0.097856	0.071936	0.065888	0.013014	0.184576	0.205088	0.193574	0.190336	0.008754	4,096	32	8	16	1	8,192	1	64	7,808	true	flashinfer
0.065024	0.078144	0.069242	0.0664	0.005054	0.1816	0.213664	0.194048	0.194464	0.011432	4,096	32	8	16	1	8,192	1	64	7,872	true	flashinfer
0.064256	0.11696	0.078342	0.068032	0.019802	0.183712	0.208064	0.196096	0.196032	0.008517	4,096	32	8	16	1	8,192	1	64	7,936	true	flashinfer
0.064064	0.07904	0.069261	0.067168	0.005266	0.181344	0.200672	0.189542	0.190304	0.006545	4,096	32	8	16	1	8,192	1	64	8,000	true	flashinfer
0.065024	0.083424	0.071622	0.06912	0.00692	0.184704	0.21808	0.195347	0.193152	0.01214	4,096	32	8	16	1	8,192	1	64	8,064	true	flashinfer
0.064832	0.07632	0.069363	0.067328	0.004061	0.187392	0.221568	0.201978	0.197952	0.013151	4,096	32	8	16	1	8,192	1	64	8,128	true	flashinfer
0.065632	0.07936	0.06889	0.066048	0.00529	0.184352	0.200736	0.191949	0.190912	0.006374	4,096	32	8	16	1	8,192	1	96	0	true	flashinfer
0.066176	0.106528	0.077043	0.069024	0.015028	0.184608	0.674944	0.296954	0.215008	0.189542	4,096	32	8	16	1	8,192	1	96	96	true	flashinfer
0.064544	0.080832	0.069709	0.067616	0.005786	0.183008	0.201504	0.192422	0.19008	0.007426	4,096	32	8	16	1	8,192	1	96	192	true	flashinfer
0.065184	0.083904	0.072211	0.069472	0.006964	0.182656	0.215392	0.193235	0.187936	0.01156	4,096	32	8	16	1	8,192	1	96	288	true	flashinfer
0.064544	0.076736	0.0688	0.066752	0.004485	0.182624	0.203904	0.190739	0.18928	0.007875	4,096	32	8	16	1	8,192	1	96	384	true	flashinfer
0.065248	0.081344	0.070426	0.06864	0.005702	0.183104	0.201984	0.189747	0.189216	0.006895	4,096	32	8	16	1	8,192	1	96	480	true	flashinfer
0.065536	0.077152	0.071053	0.069344	0.004999	0.184576	0.219968	0.195533	0.192256	0.012971	4,096	32	8	16	1	8,192	1	96	576	true	flashinfer
0.064608	0.086816	0.072448	0.069568	0.008246	0.181568	0.21216	0.195072	0.19552	0.010465	4,096	32	8	16	1	8,192	1	96	672	true	flashinfer
0.06576	0.079552	0.069792	0.067744	0.005062	0.183936	0.210784	0.194381	0.191488	0.009279	4,096	32	8	16	1	8,192	1	96	768	true	flashinfer
0.065536	0.07776	0.07056	0.070368	0.004222	0.186816	0.229152	0.20647	0.204896	0.017033	4,096	32	8	16	1	8,192	1	96	864	true	flashinfer
0.06432	0.076544	0.067808	0.066368	0.004475	0.184416	0.207776	0.194157	0.19616	0.008404	4,096	32	8	16	1	8,192	1	96	960	true	flashinfer
0.066432	0.108256	0.080544	0.06896	0.016704	0.184512	0.229152	0.197139	0.191456	0.016583	4,096	32	8	16	1	8,192	1	96	1,056	true	flashinfer
0.065312	0.083264	0.072358	0.066304	0.00804	0.182464	0.201408	0.189594	0.188512	0.006477	4,096	32	8	16	1	8,192	1	96	1,152	true	flashinfer
0.067776	0.075584	0.070752	0.07056	0.002847	0.189504	0.316288	0.227974	0.214304	0.045859	4,096	32	8	16	1	8,192	1	96	1,248	true	flashinfer
0.065696	0.080864	0.069952	0.06704	0.005702	0.184864	0.213728	0.196474	0.19248	0.009984	4,096	32	8	16	1	8,192	1	96	1,344	true	flashinfer
0.064416	0.075296	0.06935	0.069824	0.004302	0.18656	0.225472	0.203955	0.205216	0.013665	4,096	32	8	16	1	8,192	1	96	1,440	true	flashinfer

Subsets and Splits

No community queries yet

The top public SQL queries from the community will appear here once available.