Datasets:
ksukrit
/
fixed-profiling-meta-llama-meta-llama-3-8b-instruct-h200-nvl

Dataset card Data Studio Files
xet
 Community
1
time_stats.save_kv_cache.min
float64
0
0.08
time_stats.save_kv_cache.max
float64
0.03
0.28
time_stats.save_kv_cache.mean
float64
0.01
0.12
time_stats.save_kv_cache.median
float64
0.01
0.09
time_stats.save_kv_cache.std
float64
0
0.08
time_stats.attention_forward.min
float64
0.09
1.2
time_stats.attention_forward.max
float64
0.09
8.61
time_stats.attention_forward.mean
float64
0.09
1.89
time_stats.attention_forward.median
float64
0.09
1.2
time_stats.attention_forward.std
float64
0
3.36
n_embd
int64
4.1k
4.1k
n_q_head
int64
32
32
n_kv_head
int64
8
8
block_size
int64
16
16
num_tensor_parallel_workers
int64
1
1
max_model_len
int64
8.19k
8.19k
batch_size
int64
1
128
prefill_chunk_size
int64
0
512
kv_cache_size
int64
0
8.16k
is_prefill
bool
2 classes
attention_backend
stringclasses
1 value
0.066976
0.10976
0.082093
0.071232
0.016235
0.189056
0.212544
0.200653
0.20112
0.008713
4,096
32
8
16
1
8,192
1
32
3,200
true
flashinfer
0.064992
0.100896
0.075104
0.067136
0.013512
0.183808
0.209952
0.196653
0.197536
0.009845
4,096
32
8
16
1
8,192
1
32
3,232
true
flashinfer
0.06608
0.082016
0.071955
0.068448
0.006295
0.180288
0.26064
0.208896
0.204544
0.028071
4,096
32
8
16
1
8,192
1
32
3,264
true
flashinfer
0.06256
0.089184
0.073734
0.070112
0.008973
0.181696
0.208928
0.19184
0.188864
0.010226
4,096
32
8
16
1
8,192
1
32
3,296
true
flashinfer
0.06592
0.090624
0.077331
0.076704
0.009729
0.186272
0.225792
0.199571
0.197312
0.013867
4,096
32
8
16
1
8,192
1
32
3,328
true
flashinfer
0.066432
0.082528
0.072531
0.069184
0.006043
0.185376
0.225504
0.20569
0.205792
0.012727
4,096
32
8
16
1
8,192
1
32
3,360
true
flashinfer
0.065824
0.080704
0.07129
0.06976
0.005451
0.186752
0.212096
0.196544
0.19232
0.010017
4,096
32
8
16
1
8,192
1
32
3,392
true
flashinfer
0.065184
0.093312
0.072115
0.067136
0.010658
0.181184
0.208192
0.192544
0.186496
0.010793
4,096
32
8
16
1
8,192
1
32
3,424
true
flashinfer
0.06304
0.075904
0.067488
0.066176
0.004462
0.181024
0.22208
0.196666
0.197088
0.014335
4,096
32
8
16
1
8,192
1
32
3,456
true
flashinfer
0.06528
0.078816
0.069606
0.067488
0.004792
0.18272
0.241824
0.202554
0.198208
0.020611
4,096
32
8
16
1
8,192
1
32
3,488
true
flashinfer
0.065024
0.086752
0.075552
0.075008
0.009148
0.181824
0.21584
0.192806
0.190912
0.012354
4,096
32
8
16
1
8,192
1
32
3,520
true
flashinfer
0.064256
0.079616
0.068186
0.065504
0.00579
0.182528
0.206336
0.190611
0.187104
0.008984
4,096
32
8
16
1
8,192
1
32
3,552
true
flashinfer
0.0648
0.083168
0.070867
0.066112
0.007204
0.18
0.2072
0.192512
0.194624
0.009322
4,096
32
8
16
1
8,192
1
32
3,584
true
flashinfer
0.066048
0.094144
0.080563
0.084224
0.011566
0.183296
0.217248
0.203078
0.203904
0.012648
4,096
32
8
16
1
8,192
1
32
3,616
true
flashinfer
0.064896
0.082176
0.071949
0.069664
0.006822
0.181216
0.226336
0.2048
0.201984
0.014946
4,096
32
8
16
1
8,192
1
32
3,648
true
flashinfer
0.065472
0.109472
0.075386
0.067424
0.017059
0.1824
0.20368
0.191354
0.191296
0.0074
4,096
32
8
16
1
8,192
1
32
3,680
true
flashinfer
0.065248
0.075776
0.068467
0.06624
0.003913
0.183328
0.26224
0.207814
0.196736
0.028464
4,096
32
8
16
1
8,192
1
32
3,712
true
flashinfer
0.065472
0.094816
0.072518
0.067872
0.011228
0.185312
0.214176
0.197062
0.188384
0.013123
4,096
32
8
16
1
8,192
1
32
3,744
true
flashinfer
0.064576
0.074816
0.068026
0.066464
0.003782
0.184448
0.208576
0.19687
0.194336
0.008401
4,096
32
8
16
1
8,192
1
32
3,776
true
flashinfer
0.065088
0.107488
0.0768
0.070304
0.015684
0.184512
0.200832
0.190605
0.19056
0.005925
4,096
32
8
16
1
8,192
1
32
3,808
true
flashinfer
0.064
0.10256
0.075245
0.069344
0.014283
0.180992
0.219936
0.196544
0.19248
0.014816
4,096
32
8
16
1
8,192
1
32
3,840
true
flashinfer
0.066592
0.074272
0.069888
0.068
0.003129
0.183968
0.205152
0.193504
0.194432
0.008397
4,096
32
8
16
1
8,192
1
32
3,872
true
flashinfer
0.064672
0.082016
0.069741
0.066048
0.006386
0.186592
0.221152
0.200742
0.199936
0.012424
4,096
32
8
16
1
8,192
1
32
3,904
true
flashinfer
0.06576
0.078144
0.071053
0.0704
0.004187
0.183616
0.236768
0.207501
0.203648
0.019545
4,096
32
8
16
1
8,192
1
32
3,936
true
flashinfer
0.066752
0.078816
0.071142
0.067392
0.005023
0.18688
0.28032
0.219328
0.20656
0.034012
4,096
32
8
16
1
8,192
1
32
3,968
true
flashinfer
0.06448
0.084704
0.069619
0.066816
0.007607
0.182528
0.216928
0.198618
0.197056
0.012906
4,096
32
8
16
1
8,192
1
32
4,000
true
flashinfer
0.06528
0.172736
0.093658
0.068992
0.041043
0.184192
0.236096
0.199091
0.18896
0.019397
4,096
32
8
16
1
8,192
1
32
4,032
true
flashinfer
0.06592
0.093152
0.073837
0.067776
0.010133
0.186976
0.23536
0.204429
0.202208
0.017528
4,096
32
8
16
1
8,192
1
32
4,064
true
flashinfer
0.064096
0.07632
0.06825
0.066528
0.004365
0.182144
0.223136
0.200006
0.193376
0.015534
4,096
32
8
16
1
8,192
1
32
4,096
true
flashinfer
0.063968
0.079936
0.071283
0.069952
0.005571
0.189216
0.2496
0.206182
0.199296
0.022116
4,096
32
8
16
1
8,192
1
32
4,128
true
flashinfer
0.064928
0.087328
0.072678
0.068416
0.008246
0.185216
0.214208
0.197152
0.195712
0.009489
4,096
32
8
16
1
8,192
1
32
4,160
true
flashinfer
0.067168
0.093504
0.074317
0.06992
0.009839
0.19024
0.250304
0.208314
0.193728
0.022861
4,096
32
8
16
1
8,192
1
32
4,192
true
flashinfer
0.06432
0.094752
0.073811
0.068128
0.011257
0.185824
0.224864
0.198688
0.189984
0.015153
4,096
32
8
16
1
8,192
1
32
4,224
true
flashinfer
0.064992
0.07536
0.068704
0.066592
0.003769
0.180544
0.205696
0.19312
0.191008
0.01066
4,096
32
8
16
1
8,192
1
32
4,256
true
flashinfer
0.069152
0.080736
0.073498
0.0736
0.004164
0.1944
0.226016
0.21689
0.220224
0.011604
4,096
32
8
16
1
8,192
1
32
4,288
true
flashinfer
0.066528
0.090176
0.075392
0.072672
0.008464
0.189696
0.208064
0.197926
0.194336
0.007343
4,096
32
8
16
1
8,192
1
32
4,320
true
flashinfer
0.065536
0.075936
0.069114
0.068608
0.003816
0.184832
0.219264
0.197261
0.189504
0.013028
4,096
32
8
16
1
8,192
1
32
4,352
true
flashinfer
0.066336
0.07728
0.069818
0.067712
0.003947
0.185536
0.209536
0.196326
0.195232
0.009193
4,096
32
8
16
1
8,192
1
32
4,384
true
flashinfer
0.067264
0.08928
0.077427
0.074784
0.009145
0.185792
0.241568
0.201946
0.196128
0.020251
4,096
32
8
16
1
8,192
1
32
4,416
true
flashinfer
0.064416
0.075936
0.068019
0.066912
0.004078
0.181792
0.218912
0.193658
0.188
0.013631
4,096
32
8
16
1
8,192
1
32
4,448
true
flashinfer
0.066336
0.085024
0.07321
0.071296
0.007003
0.181312
0.215616
0.195488
0.189152
0.012461
4,096
32
8
16
1
8,192
1
32
4,480
true
flashinfer
0.06528
0.076512
0.06912
0.066528
0.004369
0.184896
0.204288
0.193037
0.194112
0.007248
4,096
32
8
16
1
8,192
1
32
4,512
true
flashinfer
0.06576
0.074784
0.068934
0.06816
0.00327
0.182432
0.214048
0.19465
0.189312
0.011154
4,096
32
8
16
1
8,192
1
32
4,544
true
flashinfer
0.064288
0.075744
0.068147
0.066848
0.003973
0.182176
0.21936
0.194221
0.188032
0.013318
4,096
32
8
16
1
8,192
1
32
4,576
true
flashinfer
0.067584
0.087168
0.074406
0.0744
0.007112
0.216096
0.229664
0.223443
0.223936
0.004754
4,096
32
8
16
1
8,192
1
32
4,608
true
flashinfer
0.067392
0.080512
0.072698
0.073312
0.004912
0.190752
0.21136
0.20311
0.207648
0.007629
4,096
32
8
16
1
8,192
1
32
4,640
true
flashinfer
0.06912
0.081952
0.073536
0.073312
0.004602
0.188768
0.222944
0.20393
0.203936
0.01265
4,096
32
8
16
1
8,192
1
32
4,672
true
flashinfer
0.063904
0.088704
0.07152
0.069344
0.008976
0.180352
0.228352
0.193894
0.187648
0.01773
4,096
32
8
16
1
8,192
1
32
4,704
true
flashinfer
0.065344
0.074176
0.068096
0.067392
0.003145
0.183744
0.19536
0.191494
0.19296
0.004011
4,096
32
8
16
1
8,192
1
32
4,736
true
flashinfer
0.065312
0.080832
0.071974
0.069184
0.005482
0.190336
0.240736
0.209517
0.20832
0.018372
4,096
32
8
16
1
8,192
1
32
4,768
true
flashinfer
0.064768
0.084192
0.070906
0.067008
0.007324
0.18272
0.198368
0.190528
0.191104
0.005895
4,096
32
8
16
1
8,192
1
32
4,800
true
flashinfer
0.066112
0.093248
0.074208
0.071936
0.009981
0.190912
0.241376
0.206285
0.194304
0.019464
4,096
32
8
16
1
8,192
1
32
4,832
true
flashinfer
0.065376
0.07504
0.068928
0.067232
0.003396
0.181184
0.214464
0.196179
0.194944
0.01311
4,096
32
8
16
1
8,192
1
32
4,864
true
flashinfer
0.066016
0.095776
0.073792
0.066432
0.011431
0.190432
0.245632
0.208659
0.200832
0.019723
4,096
32
8
16
1
8,192
1
32
4,896
true
flashinfer
0.064384
0.084512
0.069459
0.065792
0.007582
0.182432
0.20672
0.193248
0.195648
0.009213
4,096
32
8
16
1
8,192
1
32
4,928
true
flashinfer
0.065472
0.077536
0.069395
0.068288
0.004345
0.185568
0.208992
0.197651
0.201248
0.009534
4,096
32
8
16
1
8,192
1
32
4,960
true
flashinfer
0.065216
0.09152
0.074195
0.07056
0.009361
0.184768
0.20848
0.195923
0.196128
0.009215
4,096
32
8
16
1
8,192
1
32
4,992
true
flashinfer
0.064896
0.076896
0.070931
0.068896
0.004671
0.183008
0.210336
0.197747
0.19776
0.010536
4,096
32
8
16
1
8,192
1
32
5,024
true
flashinfer
0.06512
0.102944
0.074381
0.068224
0.01442
0.183168
0.246656
0.201997
0.190432
0.023438
4,096
32
8
16
1
8,192
1
32
5,056
true
flashinfer
0.064448
0.079552
0.069888
0.066496
0.005935
0.178272
0.1952
0.185811
0.185728
0.005809
4,096
32
8
16
1
8,192
1
32
5,088
true
flashinfer
0.063744
0.130496
0.081843
0.068544
0.024783
0.180224
0.262944
0.202918
0.18736
0.030681
4,096
32
8
16
1
8,192
1
32
5,120
true
flashinfer
0.066496
0.084096
0.072838
0.067232
0.007546
0.186304
0.20336
0.191021
0.189184
0.006281
4,096
32
8
16
1
8,192
1
32
5,152
true
flashinfer
0.065184
0.088512
0.078618
0.08096
0.008296
0.180384
0.243936
0.201062
0.196768
0.022858
4,096
32
8
16
1
8,192
1
32
5,184
true
flashinfer
0.064704
0.076
0.068045
0.0664
0.004078
0.18208
0.210624
0.191994
0.188448
0.010511
4,096
32
8
16
1
8,192
1
32
5,216
true
flashinfer
0.065088
0.07648
0.070272
0.071552
0.004499
0.181856
0.217376
0.192838
0.187776
0.012602
4,096
32
8
16
1
8,192
1
32
5,248
true
flashinfer
0.064224
0.075264
0.067021
0.065056
0.004146
0.182848
0.19552
0.18855
0.18848
0.004956
4,096
32
8
16
1
8,192
1
32
5,280
true
flashinfer
0.066368
0.077376
0.071245
0.069312
0.004378
0.187776
0.244352
0.211622
0.208032
0.019438
4,096
32
8
16
1
8,192
1
32
5,312
true
flashinfer
0.0648
0.075328
0.068723
0.06848
0.003679
0.1824
0.210656
0.196038
0.19536
0.009581
4,096
32
8
16
1
8,192
1
32
5,344
true
flashinfer
0.065248
0.082176
0.070963
0.066592
0.006444
0.183648
0.222848
0.196698
0.188064
0.014796
4,096
32
8
16
1
8,192
1
32
5,376
true
flashinfer
0.063424
0.085504
0.071546
0.067552
0.007854
0.182272
0.206688
0.196506
0.198656
0.009618
4,096
32
8
16
1
8,192
1
32
5,408
true
flashinfer
0.064512
0.109504
0.075725
0.067296
0.017007
0.182656
0.202752
0.191667
0.190112
0.006942
4,096
32
8
16
1
8,192
1
32
5,440
true
flashinfer
0.065472
0.10096
0.082221
0.081024
0.012046
0.184128
0.224032
0.196288
0.191904
0.014236
4,096
32
8
16
1
8,192
1
32
5,472
true
flashinfer
0.065952
0.130432
0.083283
0.068608
0.024668
0.181888
0.215296
0.193114
0.189248
0.01162
4,096
32
8
16
1
8,192
1
32
5,504
true
flashinfer
0.06416
0.075328
0.067424
0.065856
0.004028
0.181952
0.226112
0.207578
0.211488
0.01437
4,096
32
8
16
1
8,192
1
32
5,536
true
flashinfer
0.063968
0.075648
0.06793
0.066432
0.00404
0.180896
0.206016
0.19047
0.187392
0.009563
4,096
32
8
16
1
8,192
1
32
5,568
true
flashinfer
0.065824
0.074528
0.068646
0.067072
0.003271
0.185056
0.245152
0.200256
0.186912
0.023026
4,096
32
8
16
1
8,192
1
32
5,600
true
flashinfer
0.063488
0.075264
0.069286
0.070304
0.004039
0.185248
0.234208
0.200026
0.191424
0.017763
4,096
32
8
16
1
8,192
1
32
5,632
true
flashinfer
0.065856
0.07712
0.068902
0.06752
0.004205
0.18112
0.205216
0.191091
0.189888
0.008836
4,096
32
8
16
1
8,192
1
32
5,664
true
flashinfer
0.065376
0.08752
0.072198
0.070432
0.007998
0.179392
0.218336
0.200704
0.201312
0.014527
4,096
32
8
16
1
8,192
1
32
5,696
true
flashinfer
0.065504
0.078368
0.06919
0.0672
0.004672
0.181824
0.21392
0.195763
0.186432
0.014268
4,096
32
8
16
1
8,192
1
32
5,728
true
flashinfer
0.063776
0.085824
0.07079
0.069344
0.007975
0.179072
0.241632
0.196576
0.186752
0.022885
4,096
32
8
16
1
8,192
1
32
5,760
true
flashinfer
0.06496
0.095776
0.074003
0.065792
0.011982
0.185088
0.199776
0.190797
0.187296
0.005533
4,096
32
8
16
1
8,192
1
32
5,792
true
flashinfer
0.072416
0.100608
0.082541
0.077728
0.010022
0.189152
0.220128
0.204397
0.20448
0.012326
4,096
32
8
16
1
8,192
1
32
5,824
true
flashinfer
0.066688
0.087552
0.072678
0.07072
0.007633
0.192544
0.216672
0.20304
0.203616
0.008758
4,096
32
8
16
1
8,192
1
32
5,856
true
flashinfer
0.066848
0.078528
0.072237
0.072864
0.003883
0.1904
0.223808
0.205395
0.205056
0.011462
4,096
32
8
16
1
8,192
1
32
5,888
true
flashinfer
0.066944
0.0872
0.075322
0.068384
0.009374
0.183488
0.208928
0.193818
0.193664
0.008769
4,096
32
8
16
1
8,192
1
32
5,920
true
flashinfer
0.06384
0.077408
0.068621
0.066336
0.004737
0.183872
0.22128
0.196077
0.188224
0.013743
4,096
32
8
16
1
8,192
1
32
5,952
true
flashinfer
0.064864
0.086176
0.074362
0.068416
0.009583
0.181568
0.218816
0.192384
0.186592
0.013687
4,096
32
8
16
1
8,192
1
32
5,984
true
flashinfer
0.066432
0.081472
0.072371
0.071392
0.005037
0.195776
0.2232
0.20505
0.202176
0.010117
4,096
32
8
16
1
8,192
1
32
6,016
true
flashinfer
0.063552
0.078848
0.068531
0.066624
0.00539
0.18048
0.20912
0.191475
0.186432
0.010358
4,096
32
8
16
1
8,192
1
32
6,048
true
flashinfer
0.064736
0.076928
0.067955
0.065056
0.004649
0.183232
0.216384
0.198586
0.202848
0.013252
4,096
32
8
16
1
8,192
1
32
6,080
true
flashinfer
0.064288
0.109696
0.077869
0.06752
0.017062
0.181504
0.211488
0.196038
0.192736
0.012305
4,096
32
8
16
1
8,192
1
32
6,112
true
flashinfer
0.064992
0.076288
0.070125
0.068704
0.003984
0.183264
0.205504
0.194003
0.190464
0.009587
4,096
32
8
16
1
8,192
1
32
6,144
true
flashinfer
0.064352
0.11536
0.078502
0.068096
0.018918
0.182784
0.221184
0.195469
0.190592
0.013689
4,096
32
8
16
1
8,192
1
32
6,176
true
flashinfer
0.064064
0.076352
0.069126
0.068704
0.004157
0.18576
0.220352
0.197402
0.191104
0.012663
4,096
32
8
16
1
8,192
1
32
6,208
true
flashinfer
0.06464
0.08752
0.071066
0.066496
0.008458
0.182016
0.208128
0.191654
0.190784
0.00971
4,096
32
8
16
1
8,192
1
32
6,240
true
flashinfer
0.06576
0.084448
0.072467
0.066304
0.007971
0.1824
0.218368
0.19232
0.187008
0.013232
4,096
32
8
16
1
8,192
1
32
6,272
true
flashinfer
0.063968
0.08
0.07001
0.068512
0.005334
0.18256
0.212352
0.196198
0.188832
0.012372
4,096
32
8
16
1
8,192
1
32
6,304
true
flashinfer
0.064992
0.095008
0.074938
0.069408
0.011149
0.184736
0.201472
0.19449
0.197984
0.006518
4,096
32
8
16
1
8,192
1
32
6,336
true
flashinfer
0.065856
0.07472
0.068538
0.06752
0.003271
0.184096
0.21808
0.196282
0.191296
0.012511
4,096
32
8
16
1
8,192
1
32
6,368
true
flashinfer