Datasets:

ksukrit
/

fixed-profiling-meta-llama-meta-llama-3-8b-instruct-h200-nvl

Modalities:

Formats:

Size:

Libraries:

Dataset card Data Studio Files Files and versions

Dataset Viewer

Auto-converted to Parquet Duplicate

Split (1)

train · 13.1k rows

time_stats.save_kv_cache.min float64 0 0.08	time_stats.save_kv_cache.max float64 0.03 0.28	time_stats.save_kv_cache.mean float64 0.01 0.12	time_stats.save_kv_cache.median float64 0.01 0.09	time_stats.save_kv_cache.std float64 0 0.08	time_stats.attention_forward.min float64 0.09 1.2	time_stats.attention_forward.max float64 0.09 8.61	time_stats.attention_forward.mean float64 0.09 1.89	time_stats.attention_forward.median float64 0.09 1.2	time_stats.attention_forward.std float64 0 3.36	n_embd int64 4.1k 4.1k	n_q_head int64 32 32	n_kv_head int64 8 8	block_size int64 16 16	num_tensor_parallel_workers int64 1 1	max_model_len int64 8.19k 8.19k	batch_size int64 1 128	prefill_chunk_size int64 0 512	kv_cache_size int64 0 8.16k	is_prefill bool 2 classes	attention_backend stringclasses 1 value
0.054784	0.074528	0.061613	0.060992	0.007021	0.153856	0.185024	0.170208	0.170112	0.010415	4,096	32	8	16	1	8,192	1	32	0	true	flashinfer
0.05008	0.062528	0.054554	0.053568	0.004226	0.142336	0.165472	0.151994	0.147904	0.008154	4,096	32	8	16	1	8,192	1	32	32	true	flashinfer
0.048256	0.057824	0.051021	0.049024	0.003579	0.135776	0.14928	0.141773	0.140928	0.004859	4,096	32	8	16	1	8,192	1	32	64	true	flashinfer
0.049952	0.065472	0.056928	0.057824	0.0053	0.147936	0.495328	0.227686	0.165056	0.134367	4,096	32	8	16	1	8,192	1	32	96	true	flashinfer
0.046784	0.054528	0.049632	0.049184	0.002636	0.132704	0.157728	0.140909	0.139488	0.009146	4,096	32	8	16	1	8,192	1	32	128	true	flashinfer
0.067744	0.077728	0.071565	0.07056	0.003638	0.18848	0.22032	0.203514	0.203328	0.010721	4,096	32	8	16	1	8,192	1	32	160	true	flashinfer
0.064096	0.077344	0.068474	0.067136	0.004674	0.181792	0.208608	0.192666	0.190272	0.009655	4,096	32	8	16	1	8,192	1	32	192	true	flashinfer
0.065216	0.079008	0.070483	0.069024	0.005233	0.182048	0.23856	0.200845	0.193344	0.019929	4,096	32	8	16	1	8,192	1	32	224	true	flashinfer
0.065312	0.085728	0.072576	0.06928	0.007414	0.182592	0.211424	0.193811	0.190944	0.010245	4,096	32	8	16	1	8,192	1	32	256	true	flashinfer
0.064736	0.081248	0.069658	0.066528	0.006084	0.178816	0.205216	0.191616	0.18784	0.01043	4,096	32	8	16	1	8,192	1	32	288	true	flashinfer
0.066496	0.088032	0.071334	0.067328	0.008367	0.182112	0.206208	0.19447	0.189504	0.009816	4,096	32	8	16	1	8,192	1	32	320	true	flashinfer
0.065728	0.09808	0.07312	0.067552	0.012502	0.18256	0.20336	0.191814	0.190624	0.006737	4,096	32	8	16	1	8,192	1	32	352	true	flashinfer
0.06592	0.079072	0.07136	0.069856	0.0051	0.186432	0.271712	0.210381	0.200288	0.031467	4,096	32	8	16	1	8,192	1	32	384	true	flashinfer
0.064704	0.082336	0.071757	0.068832	0.006776	0.181248	0.211488	0.193818	0.19488	0.010403	4,096	32	8	16	1	8,192	1	32	416	true	flashinfer
0.064576	0.103936	0.07577	0.06752	0.014604	0.181376	0.218048	0.193792	0.189376	0.012815	4,096	32	8	16	1	8,192	1	32	448	true	flashinfer
0.06688	0.078656	0.07065	0.069248	0.004315	0.183648	0.205344	0.19385	0.190336	0.008783	4,096	32	8	16	1	8,192	1	32	480	true	flashinfer
0.065184	0.082592	0.072275	0.069472	0.006691	0.182304	0.23792	0.2064	0.209728	0.019189	4,096	32	8	16	1	8,192	1	32	512	true	flashinfer
0.065568	0.090016	0.072621	0.066624	0.009393	0.18192	0.20928	0.192448	0.194208	0.010014	4,096	32	8	16	1	8,192	1	32	544	true	flashinfer
0.06768	0.08864	0.075533	0.071872	0.007332	0.194976	0.23376	0.217549	0.220448	0.013485	4,096	32	8	16	1	8,192	1	32	576	true	flashinfer
0.066368	0.08048	0.072659	0.072256	0.004652	0.194368	0.248512	0.215251	0.20768	0.019936	4,096	32	8	16	1	8,192	1	32	608	true	flashinfer
0.06672	0.100352	0.076243	0.072032	0.012227	0.189696	0.223392	0.204026	0.197856	0.013229	4,096	32	8	16	1	8,192	1	32	640	true	flashinfer
0.067968	0.077952	0.073165	0.07312	0.003615	0.193312	0.20432	0.199168	0.197536	0.004336	4,096	32	8	16	1	8,192	1	32	672	true	flashinfer
0.068576	0.083264	0.073952	0.07136	0.005777	0.193728	0.218272	0.203226	0.199072	0.009365	4,096	32	8	16	1	8,192	1	32	704	true	flashinfer
0.065728	0.077472	0.068544	0.066368	0.004494	0.183744	0.209568	0.192275	0.187456	0.009192	4,096	32	8	16	1	8,192	1	32	736	true	flashinfer
0.068096	0.1016	0.079462	0.069888	0.013318	0.18896	0.207456	0.196474	0.194976	0.0065	4,096	32	8	16	1	8,192	1	32	768	true	flashinfer
0.0672	0.077056	0.070899	0.071008	0.003624	0.190432	0.2416	0.207296	0.196672	0.019559	4,096	32	8	16	1	8,192	1	32	800	true	flashinfer
0.066432	0.0872	0.074374	0.072064	0.007345	0.186944	0.218688	0.19824	0.195008	0.010838	4,096	32	8	16	1	8,192	1	32	832	true	flashinfer
0.072064	0.084192	0.076499	0.072896	0.004988	0.20192	0.242432	0.220192	0.215616	0.014879	4,096	32	8	16	1	8,192	1	32	864	true	flashinfer
0.069504	0.082304	0.075827	0.075712	0.00436	0.198976	0.236352	0.216717	0.213792	0.01369	4,096	32	8	16	1	8,192	1	32	896	true	flashinfer
0.069184	0.102656	0.079174	0.071424	0.012548	0.198208	0.210752	0.2048	0.205056	0.005231	4,096	32	8	16	1	8,192	1	32	928	true	flashinfer
0.070656	0.084544	0.075309	0.073568	0.004802	0.20064	0.220064	0.208749	0.20528	0.007758	4,096	32	8	16	1	8,192	1	32	960	true	flashinfer
0.04736	0.061216	0.052941	0.052064	0.004546	0.131264	0.164928	0.146048	0.141472	0.011627	4,096	32	8	16	1	8,192	1	32	992	true	flashinfer
0.064896	0.078784	0.06999	0.06784	0.004905	0.186464	0.213376	0.197946	0.195136	0.009701	4,096	32	8	16	1	8,192	1	32	1,024	true	flashinfer
0.066304	0.083072	0.071654	0.069632	0.005857	0.188928	0.211744	0.200813	0.199328	0.008184	4,096	32	8	16	1	8,192	1	32	1,056	true	flashinfer
0.070368	0.0808	0.07641	0.076864	0.00341	0.203744	0.23712	0.22233	0.23072	0.014907	4,096	32	8	16	1	8,192	1	32	1,088	true	flashinfer
0.068864	0.098208	0.084563	0.087488	0.012767	0.201216	0.23024	0.218131	0.21984	0.009614	4,096	32	8	16	1	8,192	1	32	1,120	true	flashinfer
0.068512	0.081216	0.074035	0.07504	0.004759	0.198432	0.225024	0.210688	0.20752	0.010402	4,096	32	8	16	1	8,192	1	32	1,152	true	flashinfer
0.066976	0.082688	0.071565	0.06944	0.005784	0.190592	0.2056	0.19607	0.195264	0.005101	4,096	32	8	16	1	8,192	1	32	1,184	true	flashinfer
0.065632	0.088544	0.076934	0.074048	0.009858	0.186112	0.23072	0.199866	0.193664	0.016133	4,096	32	8	16	1	8,192	1	32	1,216	true	flashinfer
0.067776	0.08848	0.07424	0.068992	0.007954	0.189568	0.200768	0.19481	0.19488	0.004542	4,096	32	8	16	1	8,192	1	32	1,248	true	flashinfer
0.070144	0.088096	0.075699	0.07248	0.006621	0.196672	0.239712	0.216883	0.218176	0.014286	4,096	32	8	16	1	8,192	1	32	1,280	true	flashinfer
0.067104	0.078208	0.070458	0.068128	0.004214	0.18896	0.21408	0.198496	0.1976	0.009098	4,096	32	8	16	1	8,192	1	32	1,312	true	flashinfer
0.070656	0.107424	0.079603	0.071712	0.014086	0.199328	0.240096	0.217587	0.215808	0.015834	4,096	32	8	16	1	8,192	1	32	1,344	true	flashinfer
0.066624	0.081984	0.073517	0.070464	0.006278	0.189248	0.256896	0.211539	0.207936	0.0242	4,096	32	8	16	1	8,192	1	32	1,376	true	flashinfer
0.067968	0.089664	0.077562	0.077312	0.007692	0.203712	0.277792	0.24208	0.253344	0.030118	4,096	32	8	16	1	8,192	1	32	1,408	true	flashinfer
0.066816	0.079488	0.071917	0.071104	0.004809	0.186304	0.240256	0.206355	0.194848	0.020949	4,096	32	8	16	1	8,192	1	32	1,440	true	flashinfer
0.066304	0.077376	0.070099	0.069536	0.003936	0.188128	0.225696	0.202061	0.195968	0.014375	4,096	32	8	16	1	8,192	1	32	1,472	true	flashinfer
0.06688	0.076096	0.07008	0.067872	0.003572	0.186048	0.21648	0.199277	0.199456	0.009964	4,096	32	8	16	1	8,192	1	32	1,504	true	flashinfer
0.064992	0.099168	0.073619	0.067552	0.012857	0.186592	0.209344	0.194957	0.192512	0.007923	4,096	32	8	16	1	8,192	1	32	1,536	true	flashinfer
0.065792	0.077248	0.07081	0.070464	0.004097	0.186912	0.220256	0.20265	0.2	0.011277	4,096	32	8	16	1	8,192	1	32	1,568	true	flashinfer
0.066144	0.095616	0.074701	0.070592	0.01063	0.190592	0.226912	0.206022	0.196768	0.01486	4,096	32	8	16	1	8,192	1	32	1,600	true	flashinfer
0.06896	0.080352	0.073056	0.069984	0.0047	0.18976	0.267072	0.21143	0.203136	0.028497	4,096	32	8	16	1	8,192	1	32	1,632	true	flashinfer
0.066176	0.092544	0.076422	0.067872	0.011529	0.185664	0.209664	0.195968	0.192032	0.010183	4,096	32	8	16	1	8,192	1	32	1,664	true	flashinfer
0.066752	0.082176	0.073414	0.072256	0.005201	0.191552	0.25312	0.212205	0.194624	0.024497	4,096	32	8	16	1	8,192	1	32	1,696	true	flashinfer
0.066336	0.084448	0.072966	0.068352	0.006944	0.18976	0.243584	0.211296	0.209344	0.017883	4,096	32	8	16	1	8,192	1	32	1,728	true	flashinfer
0.068672	0.080768	0.075059	0.076416	0.004362	0.194368	0.243552	0.213971	0.205472	0.017071	4,096	32	8	16	1	8,192	1	32	1,760	true	flashinfer
0.065824	0.081184	0.073165	0.07056	0.005886	0.190304	0.247488	0.216794	0.220672	0.021442	4,096	32	8	16	1	8,192	1	32	1,792	true	flashinfer
0.065888	0.077696	0.070464	0.069792	0.004348	0.183936	0.214144	0.196378	0.192128	0.011844	4,096	32	8	16	1	8,192	1	32	1,824	true	flashinfer
0.064512	0.098976	0.072627	0.06608	0.013239	0.1832	0.225728	0.197914	0.190432	0.016311	4,096	32	8	16	1	8,192	1	32	1,856	true	flashinfer
0.064512	0.084192	0.070502	0.064576	0.007892	0.180576	0.19376	0.18599	0.185952	0.004717	4,096	32	8	16	1	8,192	1	32	1,888	true	flashinfer
0.06528	0.081888	0.072838	0.069952	0.006453	0.179488	0.217088	0.191757	0.187264	0.01343	4,096	32	8	16	1	8,192	1	32	1,920	true	flashinfer
0.064352	0.07824	0.068819	0.06704	0.004944	0.182624	0.205088	0.190624	0.185632	0.008551	4,096	32	8	16	1	8,192	1	32	1,952	true	flashinfer
0.064896	0.093664	0.076282	0.073824	0.010663	0.182688	0.26	0.216141	0.20896	0.025642	4,096	32	8	16	1	8,192	1	32	1,984	true	flashinfer
0.068768	0.122944	0.082995	0.071968	0.020507	0.193504	0.231392	0.21024	0.207712	0.012256	4,096	32	8	16	1	8,192	1	32	2,016	true	flashinfer
0.067136	0.077376	0.069773	0.068256	0.003825	0.187872	0.226656	0.202163	0.199232	0.013344	4,096	32	8	16	1	8,192	1	32	2,048	true	flashinfer
0.064704	0.088064	0.073088	0.066656	0.009638	0.181248	0.242144	0.200083	0.188992	0.021876	4,096	32	8	16	1	8,192	1	32	2,080	true	flashinfer
0.064512	0.083104	0.070637	0.067104	0.007044	0.181984	0.202976	0.191686	0.194656	0.008234	4,096	32	8	16	1	8,192	1	32	2,112	true	flashinfer
0.064512	0.096256	0.071725	0.066208	0.012302	0.182496	0.202624	0.191501	0.187648	0.008837	4,096	32	8	16	1	8,192	1	32	2,144	true	flashinfer
0.06448	0.082368	0.071136	0.0672	0.006736	0.182464	0.193312	0.187962	0.188992	0.004639	4,096	32	8	16	1	8,192	1	32	2,176	true	flashinfer
0.064544	0.07488	0.069075	0.068384	0.003444	0.183136	0.215296	0.196077	0.190176	0.011691	4,096	32	8	16	1	8,192	1	32	2,208	true	flashinfer
0.064096	0.102048	0.076102	0.07264	0.013675	0.182208	0.23392	0.204032	0.193248	0.022119	4,096	32	8	16	1	8,192	1	32	2,240	true	flashinfer
0.067616	0.084864	0.075066	0.074496	0.006396	0.201312	0.222336	0.2104	0.20992	0.007118	4,096	32	8	16	1	8,192	1	32	2,272	true	flashinfer
0.064736	0.077696	0.07033	0.069632	0.0052	0.182496	0.245856	0.205389	0.191072	0.025274	4,096	32	8	16	1	8,192	1	32	2,304	true	flashinfer
0.06544	0.074496	0.068851	0.069152	0.003292	0.182688	0.218816	0.200192	0.20304	0.012204	4,096	32	8	16	1	8,192	1	32	2,336	true	flashinfer
0.063552	0.083168	0.071136	0.066368	0.007441	0.182432	0.241312	0.200269	0.193184	0.020995	4,096	32	8	16	1	8,192	1	32	2,368	true	flashinfer
0.06752	0.096288	0.077133	0.069792	0.011419	0.192096	0.215424	0.201402	0.196864	0.009228	4,096	32	8	16	1	8,192	1	32	2,400	true	flashinfer
0.064	0.07424	0.068531	0.06704	0.003933	0.181856	0.218368	0.196851	0.19168	0.012544	4,096	32	8	16	1	8,192	1	32	2,432	true	flashinfer
0.064064	0.07696	0.068416	0.066784	0.004628	0.17984	0.220736	0.199302	0.196864	0.015336	4,096	32	8	16	1	8,192	1	32	2,464	true	flashinfer
0.068832	0.083584	0.073248	0.071968	0.005347	0.189056	0.216064	0.202784	0.198976	0.010979	4,096	32	8	16	1	8,192	1	32	2,496	true	flashinfer
0.065024	0.085344	0.072218	0.069856	0.007503	0.182048	0.213856	0.192243	0.190304	0.011521	4,096	32	8	16	1	8,192	1	32	2,528	true	flashinfer
0.064704	0.081856	0.071238	0.068192	0.006436	0.183648	0.199488	0.19209	0.19264	0.005331	4,096	32	8	16	1	8,192	1	32	2,560	true	flashinfer
0.06448	0.082304	0.071424	0.07024	0.006528	0.181248	0.214464	0.1928	0.18976	0.011565	4,096	32	8	16	1	8,192	1	32	2,592	true	flashinfer
0.06432	0.081088	0.071885	0.06848	0.006756	0.182368	0.226848	0.20352	0.19808	0.01873	4,096	32	8	16	1	8,192	1	32	2,624	true	flashinfer
0.063904	0.081056	0.07031	0.067968	0.006213	0.187552	0.2576	0.211686	0.201856	0.024136	4,096	32	8	16	1	8,192	1	32	2,656	true	flashinfer
0.064128	0.07648	0.068838	0.067616	0.0044	0.188736	0.255904	0.208736	0.197664	0.024144	4,096	32	8	16	1	8,192	1	32	2,688	true	flashinfer
0.065312	0.081344	0.070496	0.066688	0.006243	0.182912	0.257152	0.210413	0.200416	0.027222	4,096	32	8	16	1	8,192	1	32	2,720	true	flashinfer
0.065408	0.076032	0.069478	0.067328	0.004115	0.182048	0.191968	0.188448	0.188576	0.003507	4,096	32	8	16	1	8,192	1	32	2,752	true	flashinfer
0.065792	0.0776	0.072486	0.072384	0.004123	0.188544	0.272608	0.225434	0.210496	0.033413	4,096	32	8	16	1	8,192	1	32	2,784	true	flashinfer
0.067616	0.076128	0.071258	0.069184	0.003785	0.19184	0.223424	0.206246	0.199936	0.012697	4,096	32	8	16	1	8,192	1	32	2,816	true	flashinfer
0.066624	0.08336	0.071699	0.068864	0.006132	0.189184	0.220768	0.199898	0.193376	0.011396	4,096	32	8	16	1	8,192	1	32	2,848	true	flashinfer
0.064672	0.087168	0.073517	0.066016	0.010317	0.18032	0.22144	0.19657	0.19296	0.015001	4,096	32	8	16	1	8,192	1	32	2,880	true	flashinfer
0.067712	0.091488	0.074381	0.071744	0.008693	0.18816	0.213248	0.199014	0.196064	0.009766	4,096	32	8	16	1	8,192	1	32	2,912	true	flashinfer
0.063744	0.0848	0.073056	0.074976	0.007519	0.186752	0.208672	0.196045	0.19536	0.007314	4,096	32	8	16	1	8,192	1	32	2,944	true	flashinfer
0.06688	0.118656	0.08233	0.075968	0.018904	0.189312	0.218272	0.200531	0.201376	0.010243	4,096	32	8	16	1	8,192	1	32	2,976	true	flashinfer
0.064608	0.099328	0.073786	0.065472	0.013258	0.180608	0.20992	0.197926	0.199552	0.010519	4,096	32	8	16	1	8,192	1	32	3,008	true	flashinfer
0.065344	0.09024	0.071616	0.067072	0.009411	0.18256	0.204736	0.193773	0.195712	0.008102	4,096	32	8	16	1	8,192	1	32	3,040	true	flashinfer
0.06384	0.077984	0.070771	0.069984	0.005293	0.179744	0.214144	0.19385	0.192544	0.01172	4,096	32	8	16	1	8,192	1	32	3,072	true	flashinfer
0.065728	0.086816	0.073069	0.066048	0.008973	0.182528	0.199904	0.191078	0.188864	0.007149	4,096	32	8	16	1	8,192	1	32	3,104	true	flashinfer
0.064544	0.075456	0.067936	0.065632	0.004135	0.18032	0.20688	0.189722	0.186368	0.009712	4,096	32	8	16	1	8,192	1	32	3,136	true	flashinfer
0.06368	0.089632	0.070342	0.065632	0.009737	0.183744	0.211136	0.193299	0.188544	0.010433	4,096	32	8	16	1	8,192	1	32	3,168	true	flashinfer

End of preview. Expand in Data Studio

No dataset card yet

Downloads last month: 5

Number of rows:

Total file size: