Hugging Face's logo

Datasets:
AlexKoff88
/
benchmarks

Dataset card Viewer Files Community
AlexKoff88 commited on
Commit
8d461f1
·
verified ·
1 Parent(s): 41f1f92

Upload 2024-10-10-11-14-43/openvino/benchmark_report.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. 2024-10-10-11-14-43/openvino/benchmark_report.json +443 -0
2024-10-10-11-14-43/openvino/benchmark_report.json ADDED
@@ -0,0 +1,443 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "load": {
3
+ "memory": {
4
+ "unit": "MB",
5
+ "max_ram": 13733.285888,
6
+ "max_global_vram": null,
7
+ "max_process_vram": null,
8
+ "max_reserved": null,
9
+ "max_allocated": null
10
+ },
11
+ "latency": {
12
+ "unit": "s",
13
+ "values": [
14
+ 47.615619737654924
15
+ ],
16
+ "count": 1,
17
+ "total": 47.615619737654924,
18
+ "mean": 47.615619737654924,
19
+ "p50": 47.615619737654924,
20
+ "p90": 47.615619737654924,
21
+ "p95": 47.615619737654924,
22
+ "p99": 47.615619737654924,
23
+ "stdev": 0,
24
+ "stdev_": 0
25
+ },
26
+ "throughput": null,
27
+ "energy": null,
28
+ "efficiency": null
29
+ },
30
+ "prefill": {
31
+ "memory": {
32
+ "unit": "MB",
33
+ "max_ram": 9404.096512,
34
+ "max_global_vram": null,
35
+ "max_process_vram": null,
36
+ "max_reserved": null,
37
+ "max_allocated": null
38
+ },
39
+ "latency": {
40
+ "unit": "s",
41
+ "values": [
42
+ 0.3691983073949814,
43
+ 0.406163290143013,
44
+ 0.4032273702323437,
45
+ 0.49073830246925354,
46
+ 0.48338379338383675,
47
+ 0.42469472438097,
48
+ 0.40143145620822906,
49
+ 0.3968067243695259,
50
+ 0.4189154952764511,
51
+ 0.4002319946885109
52
+ ],
53
+ "count": 10,
54
+ "total": 4.194791458547115,
55
+ "mean": 0.4194791458547115,
56
+ "p50": 0.40469533018767834,
57
+ "p90": 0.4841192442923784,
58
+ "p95": 0.48742877338081597,
59
+ "p99": 0.49007639665156605,
60
+ "stdev": 0.036563638911623356,
61
+ "stdev_": 8.71643781888679
62
+ },
63
+ "throughput": {
64
+ "unit": "tokens/s",
65
+ "value": 76.28507952355596
66
+ },
67
+ "energy": null,
68
+ "efficiency": null
69
+ },
70
+ "decode": {
71
+ "memory": {
72
+ "unit": "MB",
73
+ "max_ram": 9404.366848,
74
+ "max_global_vram": null,
75
+ "max_process_vram": null,
76
+ "max_reserved": null,
77
+ "max_allocated": null
78
+ },
79
+ "latency": {
80
+ "unit": "s",
81
+ "values": [
82
+ 3.8962456695735455,
83
+ 3.6694180965423584,
84
+ 3.6282166689634323,
85
+ 3.5777047276496887,
86
+ 3.9913081414997578,
87
+ 4.140529308468103,
88
+ 3.8851531594991684,
89
+ 3.331398617476225,
90
+ 3.9062319956719875,
91
+ 3.476403560489416
92
+ ],
93
+ "count": 10,
94
+ "total": 37.50260994583368,
95
+ "mean": 3.7502609945833685,
96
+ "p50": 3.7772856280207634,
97
+ "p90": 4.0062302581965925,
98
+ "p95": 4.0733797833323475,
99
+ "p99": 4.127099403440952,
100
+ "stdev": 0.2399785616527781,
101
+ "stdev_": 6.39898295077029
102
+ },
103
+ "throughput": {
104
+ "unit": "tokens/s",
105
+ "value": 16.532182717295875
106
+ },
107
+ "energy": null,
108
+ "efficiency": null
109
+ },
110
+ "per_token": {
111
+ "memory": null,
112
+ "latency": {
113
+ "unit": "s",
114
+ "values": [
115
+ 0.151396993547678,
116
+ 0.14324158802628517,
117
+ 0.07676020637154579,
118
+ 0.16891532391309738,
119
+ 0.11996641755104065,
120
+ 0.09084687754511833,
121
+ 0.1610756404697895,
122
+ 0.14484431222081184,
123
+ 0.16032931581139565,
124
+ 0.11932995542883873,
125
+ 0.16991433128714561,
126
+ 0.15187038853764534,
127
+ 0.1049707941710949,
128
+ 0.1585291400551796,
129
+ 0.10926920920610428,
130
+ 0.11142348870635033,
131
+ 0.10180767998099327,
132
+ 0.1535714827477932,
133
+ 0.1348511092364788,
134
+ 0.13019181415438652,
135
+ 0.16223037615418434,
136
+ 0.14313079789280891,
137
+ 0.0976766049861908,
138
+ 0.09885496273636818,
139
+ 0.08888581022620201,
140
+ 0.08933503553271294,
141
+ 0.08549177646636963,
142
+ 0.1715770922601223,
143
+ 0.11486281827092171,
144
+ 0.0865890309214592,
145
+ 0.09396419301629066,
146
+ 0.14349782839417458,
147
+ 0.10937420651316643,
148
+ 0.14048171415925026,
149
+ 0.07543633878231049,
150
+ 0.12515754252672195,
151
+ 0.07885446399450302,
152
+ 0.15756165981292725,
153
+ 0.12009671330451965,
154
+ 0.1646834760904312,
155
+ 0.12962263450026512,
156
+ 0.1547914408147335,
157
+ 0.14514151588082314,
158
+ 0.19161031767725945,
159
+ 0.12860624119639397,
160
+ 0.16442689672112465,
161
+ 0.12338945642113686,
162
+ 0.08822018653154373,
163
+ 0.11114334687590599,
164
+ 0.10394001007080078,
165
+ 0.09283268824219704,
166
+ 0.0913924090564251,
167
+ 0.0943303070962429,
168
+ 0.09408441185951233,
169
+ 0.09218936040997505,
170
+ 0.09153042361140251,
171
+ 0.09172164276242256,
172
+ 0.13081492483615875,
173
+ 0.10185486450791359,
174
+ 0.15566464141011238,
175
+ 0.07415029406547546,
176
+ 0.10228772461414337,
177
+ 0.08780210465192795,
178
+ 0.08831116184592247,
179
+ 0.08999800309538841,
180
+ 0.08993932604789734,
181
+ 0.09129373356699944,
182
+ 0.09219641238451004,
183
+ 0.08294779062271118,
184
+ 0.10099966451525688,
185
+ 0.102298054844141,
186
+ 0.10271576419472694,
187
+ 0.10906553268432617,
188
+ 0.09108544886112213,
189
+ 0.15767864882946014,
190
+ 0.11028826981782913,
191
+ 0.12318351492285728,
192
+ 0.14710185304284096,
193
+ 0.11149964481592178,
194
+ 0.08989153802394867,
195
+ 0.16618506610393524,
196
+ 0.12493535131216049,
197
+ 0.09281951561570168,
198
+ 0.1705596037209034,
199
+ 0.0742337703704834,
200
+ 0.09850166738033295,
201
+ 0.15531260520219803,
202
+ 0.18401376530528069,
203
+ 0.10527030006051064,
204
+ 0.17891717329621315,
205
+ 0.1518004760146141,
206
+ 0.1252925507724285,
207
+ 0.13154590129852295,
208
+ 0.12442797422409058,
209
+ 0.11299717798829079,
210
+ 0.17047319561243057,
211
+ 0.12086976319551468,
212
+ 0.10839571803808212,
213
+ 0.09009559452533722,
214
+ 0.08989208191633224,
215
+ 0.08973751217126846,
216
+ 0.15194862708449364,
217
+ 0.18215756863355637,
218
+ 0.1363089457154274,
219
+ 0.0999128445982933,
220
+ 0.1531035155057907,
221
+ 0.13894512131810188,
222
+ 0.09479514136910439,
223
+ 0.09313445165753365,
224
+ 0.08792602270841599,
225
+ 0.09207047894597054,
226
+ 0.12310350313782692,
227
+ 0.11677149683237076,
228
+ 0.093382578343153,
229
+ 0.09081798419356346,
230
+ 0.09179607406258583,
231
+ 0.09490081295371056,
232
+ 0.09641507267951965,
233
+ 0.09693034365773201,
234
+ 0.09433137252926826,
235
+ 0.17227548360824585,
236
+ 0.0971347764134407,
237
+ 0.13956458121538162,
238
+ 0.1325528286397457,
239
+ 0.12334485352039337,
240
+ 0.15682881698012352,
241
+ 0.1945658177137375,
242
+ 0.11820496991276741,
243
+ 0.16750690340995789,
244
+ 0.09732196480035782,
245
+ 0.12541328370571136,
246
+ 0.11696486175060272,
247
+ 0.10471594706177711,
248
+ 0.10320396721363068,
249
+ 0.13546352460980415,
250
+ 0.13925834745168686,
251
+ 0.13186700269579887,
252
+ 0.0975944884121418,
253
+ 0.09471156820654869,
254
+ 0.1485206075012684,
255
+ 0.09894627332687378,
256
+ 0.12647463753819466,
257
+ 0.12446824088692665,
258
+ 0.10077721625566483,
259
+ 0.10923096910119057,
260
+ 0.16516073793172836,
261
+ 0.16275440156459808,
262
+ 0.09722326323390007,
263
+ 0.1422419436275959,
264
+ 0.18338480219244957,
265
+ 0.11385650932788849,
266
+ 0.09937945008277893,
267
+ 0.16344204917550087,
268
+ 0.10123797878623009,
269
+ 0.14670290797948837,
270
+ 0.15479588881134987,
271
+ 0.16917818039655685,
272
+ 0.07618443295359612,
273
+ 0.16251839697360992,
274
+ 0.1902576945722103,
275
+ 0.10705418884754181,
276
+ 0.09262699633836746,
277
+ 0.17413008958101273,
278
+ 0.14396434277296066,
279
+ 0.19577579200267792,
280
+ 0.13713262975215912,
281
+ 0.16404934227466583,
282
+ 0.19074942916631699,
283
+ 0.13629022613167763,
284
+ 0.16562238708138466,
285
+ 0.1197570338845253,
286
+ 0.15813086554408073,
287
+ 0.12993379309773445,
288
+ 0.16461341455578804,
289
+ 0.1409563384950161,
290
+ 0.10627976432442665,
291
+ 0.16137481480836868,
292
+ 0.1232777088880539,
293
+ 0.11853335797786713,
294
+ 0.10385654866695404,
295
+ 0.095273707062006,
296
+ 0.09374210983514786,
297
+ 0.0861859880387783,
298
+ 0.09050874784588814,
299
+ 0.09533108398318291,
300
+ 0.091911431401968,
301
+ 0.09881110116839409,
302
+ 0.18215502798557281,
303
+ 0.07806309312582016,
304
+ 0.0953172966837883,
305
+ 0.09741510823369026,
306
+ 0.09426744654774666,
307
+ 0.09191259741783142,
308
+ 0.09544432163238525,
309
+ 0.11198277398943901,
310
+ 0.1498158983886242,
311
+ 0.18952064588665962,
312
+ 0.10554405674338341,
313
+ 0.15857671946287155,
314
+ 0.1336982659995556,
315
+ 0.07616196945309639,
316
+ 0.09547221660614014,
317
+ 0.15457599982619286,
318
+ 0.11722958087921143,
319
+ 0.0922386646270752,
320
+ 0.16668767854571342,
321
+ 0.10165195539593697,
322
+ 0.14220746234059334,
323
+ 0.18859058991074562,
324
+ 0.12464474886655807,
325
+ 0.09934799000620842,
326
+ 0.0966004841029644,
327
+ 0.09201440215110779,
328
+ 0.16279107332229614,
329
+ 0.10060740634799004,
330
+ 0.15013040974736214,
331
+ 0.19320818409323692,
332
+ 0.14241079986095428,
333
+ 0.13377568125724792,
334
+ 0.09197979792952538,
335
+ 0.08998322486877441,
336
+ 0.08996423706412315,
337
+ 0.09528371319174767,
338
+ 0.09147273749113083,
339
+ 0.09022187441587448,
340
+ 0.09549994766712189,
341
+ 0.0929618738591671,
342
+ 0.11324286088347435,
343
+ 0.113382987678051,
344
+ 0.08800329640507698,
345
+ 0.09333701431751251,
346
+ 0.09482763335108757,
347
+ 0.09414704144001007,
348
+ 0.14441674202680588,
349
+ 0.1483655795454979,
350
+ 0.1141379214823246,
351
+ 0.10381438583135605,
352
+ 0.09277600795030594,
353
+ 0.18492988124489784,
354
+ 0.10111980885267258,
355
+ 0.10065871849656105,
356
+ 0.14267180487513542,
357
+ 0.1314055249094963,
358
+ 0.0973706878721714,
359
+ 0.09196155145764351,
360
+ 0.0876055397093296,
361
+ 0.09167702868580818,
362
+ 0.0874740295112133,
363
+ 0.0915156677365303,
364
+ 0.09293247386813164,
365
+ 0.09001138433814049,
366
+ 0.08986500278115273,
367
+ 0.14058830589056015,
368
+ 0.10483132302761078,
369
+ 0.08798667043447495,
370
+ 0.09304382652044296,
371
+ 0.17001168057322502,
372
+ 0.12494460120797157,
373
+ 0.0943128801882267,
374
+ 0.17483146488666534,
375
+ 0.1946006901562214,
376
+ 0.11613108590245247,
377
+ 0.18681401014328003,
378
+ 0.147962786257267,
379
+ 0.1834375262260437,
380
+ 0.14201800152659416,
381
+ 0.10353075712919235,
382
+ 0.15821729227900505,
383
+ 0.18154629692435265,
384
+ 0.10006572306156158,
385
+ 0.09139712899923325,
386
+ 0.18789229169487953,
387
+ 0.15419283136725426,
388
+ 0.16092554107308388,
389
+ 0.0892983190715313,
390
+ 0.07816429063677788,
391
+ 0.08889453858137131,
392
+ 0.09210587665438652,
393
+ 0.09362177178263664,
394
+ 0.09911511465907097,
395
+ 0.09643782302737236,
396
+ 0.0931611955165863,
397
+ 0.11258692666888237,
398
+ 0.10241929814219475,
399
+ 0.10400761291384697,
400
+ 0.1579650640487671,
401
+ 0.20014778152108192,
402
+ 0.12132278829813004,
403
+ 0.16676369681954384,
404
+ 0.10070011764764786,
405
+ 0.1529056690633297,
406
+ 0.1157684288918972,
407
+ 0.08862537890672684,
408
+ 0.0987166166305542,
409
+ 0.09519236162304878,
410
+ 0.14540283381938934,
411
+ 0.09429588913917542,
412
+ 0.08190164715051651,
413
+ 0.13265133276581764,
414
+ 0.10095103085041046,
415
+ 0.09753220155835152,
416
+ 0.10074476897716522,
417
+ 0.10023945569992065,
418
+ 0.09507793560624123,
419
+ 0.14326200634241104,
420
+ 0.11189821735024452,
421
+ 0.08839166909456253,
422
+ 0.08915382996201515,
423
+ 0.09170354530215263,
424
+ 0.09684418886899948
425
+ ],
426
+ "count": 310,
427
+ "total": 37.44935571029782,
428
+ "mean": 0.12080437325902524,
429
+ "p50": 0.10932170785963535,
430
+ "p90": 0.16683801747858526,
431
+ "p95": 0.18283254709094765,
432
+ "p99": 0.19444363068789247,
433
+ "stdev": 0.031789703400881976,
434
+ "stdev_": 26.31502696737594
435
+ },
436
+ "throughput": {
437
+ "unit": "tokens/s",
438
+ "value": 16.55569203369532
439
+ },
440
+ "energy": null,
441
+ "efficiency": null
442
+ }
443
+ }