Hugging Face's logo

Datasets:
optimum-benchmark
/
pytorch-llama

Dataset card Files Community
IlyasMoutawwakil HF Staff commited on
Commit
605c4bd
·
verified ·
1 Parent(s): 37b1256

Upload benchmarks/pytorch-llama-2.2.0-float16.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. benchmarks/pytorch-llama-2.2.0-float16.json +376 -376
benchmarks/pytorch-llama-2.2.0-float16.json CHANGED
@@ -107,7 +107,7 @@
107
  "prefill": {
108
  "memory": {
109
  "unit": "MB",
110
- "max_ram": 1242.107904,
111
  "max_global_vram": 15218.966528,
112
  "max_process_vram": 14292.09088,
113
  "max_reserved": 13759.414272,
@@ -116,30 +116,30 @@
116
  "latency": {
117
  "unit": "s",
118
  "count": 11,
119
- "total": 0.3308788452148438,
120
- "mean": 0.030079895019531254,
121
- "stdev": 0.0006926192975200459,
122
- "p50": 0.029953023910522462,
123
- "p90": 0.030361343383789062,
124
- "p95": 0.031188623428344726,
125
- "p99": 0.03185044746398926,
126
  "values": [
127
- 0.03201590347290039,
128
- 0.030361343383789062,
129
- 0.029783199310302735,
130
- 0.029671968460083006,
131
- 0.02933683204650879,
132
- 0.03001491165161133,
133
- 0.02934876823425293,
134
- 0.0303242244720459,
135
- 0.029953023910522462,
136
- 0.030144575119018555,
137
- 0.029924095153808592
138
  ]
139
  },
140
  "throughput": {
141
  "unit": "tokens/s",
142
- "value": 4255.334000231317
143
  },
144
  "energy": null,
145
  "efficiency": null
@@ -147,7 +147,7 @@
147
  "decode": {
148
  "memory": {
149
  "unit": "MB",
150
- "max_ram": 1242.107904,
151
  "max_global_vram": 15218.966528,
152
  "max_process_vram": 14292.09088,
153
  "max_reserved": 13759.414272,
@@ -156,30 +156,30 @@
156
  "latency": {
157
  "unit": "s",
158
  "count": 11,
159
- "total": 10.359139770507813,
160
- "mean": 0.9417399791370739,
161
- "stdev": 0.01880879542185512,
162
- "p50": 0.9330873413085937,
163
- "p90": 0.9684418334960937,
164
- "p95": 0.9771707458496093,
165
- "p99": 0.9841538757324219,
166
  "values": [
167
- 0.9684418334960937,
168
- 0.9363540649414063,
169
- 0.9330873413085937,
170
- 0.9330624389648438,
171
- 0.9232031860351563,
172
- 0.926421630859375,
173
- 0.93299169921875,
174
- 0.9243814086914063,
175
- 0.951061767578125,
176
- 0.985899658203125,
177
- 0.9442347412109375
178
  ]
179
  },
180
  "throughput": {
181
  "unit": "tokens/s",
182
- "value": 32.91779120220172
183
  },
184
  "energy": null,
185
  "efficiency": null
@@ -189,359 +189,359 @@
189
  "latency": {
190
  "unit": "s",
191
  "count": 340,
192
- "total": 10.626445320129392,
193
- "mean": 0.031254250941557045,
194
- "stdev": 0.005439111875118045,
195
- "p50": 0.03013222312927246,
196
- "p90": 0.0310897668838501,
197
- "p95": 0.032012954330444335,
198
- "p99": 0.06080921520233155,
199
  "values": [
200
- 0.0314071044921875,
201
- 0.031959039688110355,
202
- 0.032102401733398435,
203
- 0.03201126480102539,
204
- 0.031507455825805664,
205
- 0.03196416091918945,
206
- 0.032045055389404296,
207
- 0.031925247192382815,
208
- 0.03168767929077149,
209
- 0.03158016014099121,
210
- 0.03183001518249512,
211
- 0.031089664459228516,
212
- 0.031036415100097657,
213
- 0.0312412166595459,
214
- 0.030867456436157226,
215
- 0.03073843193054199,
216
- 0.031497215270996096,
217
- 0.03140812873840332,
218
- 0.030670848846435547,
219
- 0.030849023818969725,
220
- 0.03118796730041504,
221
- 0.03074764823913574,
222
- 0.03079475212097168,
223
- 0.030530559539794923,
224
- 0.030295040130615233,
225
- 0.030659584045410155,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
226
  0.030507007598876954,
227
- 0.030902271270751954,
228
- 0.030893056869506837,
229
- 0.03062579154968262,
230
- 0.06112768173217773,
231
- 0.030253055572509766,
232
- 0.030417919158935547,
233
- 0.030489599227905274,
234
- 0.030229503631591798,
235
- 0.03033907127380371,
236
- 0.03058483123779297,
237
- 0.030312448501586913,
238
- 0.03037183952331543,
239
- 0.03019059181213379,
240
- 0.030247936248779295,
241
- 0.03021004867553711,
242
- 0.03019468879699707,
243
- 0.030321664810180664,
244
- 0.02995199966430664,
245
- 0.030022655487060547,
246
- 0.030075904846191406,
247
- 0.030100479125976562,
248
- 0.029755392074584962,
249
- 0.029911039352416992,
250
- 0.029940736770629882,
251
- 0.030089216232299806,
252
- 0.03043328094482422,
253
- 0.03003289604187012,
254
- 0.03062681579589844,
255
- 0.03014860725402832,
256
  0.030098432540893554,
257
- 0.030005247116088866,
258
- 0.02996940803527832,
259
- 0.03019878387451172,
260
- 0.030111743927001954,
261
- 0.06036275100708008,
262
- 0.030168064117431642,
263
- 0.030229503631591798,
264
- 0.030168064117431642,
265
- 0.03015884780883789,
266
- 0.03018239974975586,
267
- 0.030317567825317384,
268
- 0.030130176544189452,
269
- 0.030299135208129883,
270
- 0.03016908836364746,
271
- 0.030097408294677733,
272
- 0.03018854331970215,
273
- 0.030340095520019532,
274
  0.030029823303222656,
275
- 0.029876224517822264,
276
- 0.029896703720092774,
277
- 0.029921279907226563,
278
- 0.029896703720092774,
 
 
 
 
279
  0.030003200531005858,
280
- 0.030065664291381834,
281
- 0.02991923141479492,
282
- 0.02993971252441406,
283
- 0.03016703987121582,
284
- 0.02995097541809082,
285
- 0.02978713607788086,
286
- 0.030065664291381834,
287
- 0.030324735641479493,
288
- 0.030082048416137694,
289
- 0.029930496215820314,
290
- 0.030055423736572266,
291
- 0.030136320114135744,
292
- 0.06035456085205078,
293
- 0.030111743927001954,
294
- 0.030121984481811522,
295
- 0.030242816925048828,
296
- 0.03039129638671875,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
297
  0.030353408813476562,
298
- 0.030112768173217775,
299
- 0.030266368865966797,
300
- 0.030337024688720703,
301
- 0.030458879470825196,
302
- 0.029981695175170898,
303
- 0.030051328659057616,
304
- 0.030297088623046874,
305
- 0.02994380760192871,
306
- 0.030361600875854492,
307
- 0.030519296646118164,
308
- 0.03015782356262207,
309
- 0.030061567306518554,
310
- 0.02999091148376465,
311
- 0.030077951431274414,
312
- 0.030316543579101563,
313
- 0.03012915229797363,
314
- 0.030060543060302734,
315
- 0.029898752212524415,
316
- 0.02977177619934082,
317
- 0.029820928573608397,
318
- 0.029870080947875976,
319
- 0.030057472229003908,
320
- 0.029681663513183593,
321
- 0.029434879302978514,
322
- 0.029569023132324217,
323
- 0.05932134246826172,
324
- 0.029430784225463868,
325
- 0.029470720291137696,
326
- 0.02982809638977051,
327
- 0.029377536773681642,
328
- 0.02975334358215332,
329
- 0.029783039093017577,
330
- 0.029394943237304686,
331
- 0.029289472579956056,
332
- 0.029309951782226562,
333
- 0.029457408905029295,
334
- 0.029534208297729493,
335
- 0.029652992248535157,
336
- 0.029549568176269532,
337
- 0.029661184310913087,
338
- 0.029592575073242186,
339
- 0.02959667205810547,
340
- 0.029652992248535157,
341
- 0.029662208557128908,
342
- 0.02979020881652832,
343
- 0.029911039352416992,
344
- 0.029697023391723632,
345
- 0.029916160583496092,
346
- 0.03012403106689453,
347
- 0.030038015365600586,
348
- 0.029930496215820314,
349
- 0.030240768432617186,
350
- 0.03039129638671875,
351
- 0.030503936767578125,
352
- 0.03038105583190918,
353
- 0.030317567825317384,
354
- 0.060508159637451174,
355
- 0.030288896560668944,
356
- 0.030217216491699218,
357
- 0.030252031326293945,
358
- 0.030318592071533205,
359
- 0.03015372848510742,
360
- 0.03014143943786621,
361
- 0.02994278335571289,
362
- 0.02995199966430664,
363
- 0.03017420768737793,
364
- 0.030044160842895507,
365
- 0.03017523193359375,
366
- 0.030121984481811522,
367
- 0.03002060890197754,
368
- 0.029852672576904295,
369
- 0.02954035186767578,
370
- 0.02973388862609863,
371
- 0.029710336685180663,
372
- 0.029511680603027345,
373
- 0.029518848419189454,
374
- 0.029488128662109377,
375
- 0.029940736770629882,
376
- 0.02956595230102539,
377
- 0.029494272232055665,
378
- 0.02956492805480957,
379
- 0.02951372718811035,
380
- 0.029895679473876953,
381
- 0.029462528228759766,
382
- 0.029881343841552735,
383
- 0.02953215980529785,
384
- 0.02996326446533203,
385
- 0.05947596740722656,
386
- 0.029867008209228517,
387
- 0.029717504501342775,
388
- 0.029800447463989257,
389
- 0.030896127700805662,
390
- 0.030093311309814453,
391
- 0.031090688705444337,
392
- 0.03019161605834961,
393
- 0.030123008728027343,
394
  0.030243839263916016,
395
- 0.030022655487060547,
396
- 0.029999103546142578,
397
- 0.030023679733276368,
398
- 0.030007295608520508,
399
- 0.02998067283630371,
400
  0.03001753616333008,
401
- 0.029916160583496092,
402
- 0.030332927703857423,
403
- 0.03012915229797363,
404
- 0.030248960494995116,
405
- 0.02997248077392578,
406
- 0.030100479125976562,
407
- 0.030058496475219725,
408
- 0.029928447723388672,
409
- 0.029877248764038085,
410
- 0.030011392593383788,
411
- 0.029873151779174805,
412
- 0.030064640045166017,
413
- 0.030054399490356445,
414
- 0.03021414375305176,
415
- 0.029998079299926757,
416
- 0.06103142547607422,
417
- 0.02996940803527832,
418
- 0.030026752471923827,
419
- 0.030010368347167967,
420
- 0.02998886489868164,
421
- 0.02995609664916992,
422
- 0.029860864639282225,
423
- 0.030003200531005858,
424
- 0.029702144622802733,
425
- 0.029841407775878907,
426
- 0.029981695175170898,
427
- 0.029698047637939453,
428
- 0.029520896911621092,
429
- 0.029484031677246093,
430
- 0.029672447204589843,
431
- 0.029686784744262694,
432
- 0.029657087326049804,
433
- 0.02976870346069336,
434
- 0.029533184051513672,
435
- 0.029462528228759766,
436
- 0.02980352020263672,
437
- 0.02978816032409668,
438
- 0.029845504760742186,
439
- 0.029640703201293944,
440
- 0.02977894401550293,
441
- 0.029861888885498046,
442
- 0.029902847290039062,
443
- 0.02956800079345703,
444
- 0.02980659294128418,
445
- 0.029940736770629882,
446
- 0.02997145652770996,
447
- 0.06092902374267578,
448
- 0.03013324737548828,
449
- 0.03013222312927246,
450
- 0.03019980812072754,
451
- 0.030052352905273437,
452
- 0.02978508758544922,
453
- 0.03150028800964356,
454
- 0.030340095520019532,
455
- 0.030258176803588867,
456
- 0.030361600875854492,
457
- 0.0315545597076416,
458
- 0.030282751083374023,
459
- 0.031015935897827147,
460
  0.030243839263916016,
461
- 0.02994790458679199,
462
- 0.03017830467224121,
463
- 0.029932544708251952,
464
- 0.029998079299926757,
465
  0.03013324737548828,
466
- 0.02999603271484375,
467
- 0.03002572822570801,
468
- 0.02998681640625,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
469
  0.029671424865722655,
470
- 0.03845734405517578,
471
- 0.03423436737060547,
472
- 0.03058687973022461,
473
- 0.03018239974975586,
474
- 0.030075904846191406,
475
- 0.03036774444580078,
476
- 0.030241792678833007,
477
- 0.030234624862670898,
478
- 0.06100889587402344,
479
- 0.030292991638183595,
480
- 0.030423040390014647,
481
- 0.030300159454345704,
482
- 0.03035443115234375,
483
- 0.029954048156738283,
484
- 0.03019878387451172,
485
- 0.03018342399597168,
486
- 0.030441471099853516,
487
- 0.030668800354003906,
488
- 0.030814207077026368,
489
- 0.03084492874145508,
490
- 0.030681087493896485,
491
- 0.030958591461181642,
492
- 0.06062182235717774,
493
- 0.03171737670898438,
494
- 0.03078451156616211,
495
- 0.030273536682128906,
496
- 0.030496768951416016,
497
- 0.03019468879699707,
498
- 0.03059097671508789,
499
- 0.030305280685424804,
500
- 0.04234444808959961,
501
- 0.030283775329589844,
502
- 0.02996326446533203,
503
- 0.02995712089538574,
504
- 0.03003289604187012,
505
- 0.030253055572509766,
506
- 0.03036262321472168,
507
- 0.03041587257385254,
508
- 0.03035647964477539,
509
- 0.06060441589355469,
510
- 0.030427135467529298,
511
- 0.030394367218017578,
512
- 0.03021516799926758,
513
- 0.03039232063293457,
514
- 0.030040063858032227,
515
- 0.030252031326293945,
516
- 0.030338048934936523,
517
- 0.03020697593688965,
518
- 0.030095359802246095,
519
  0.03020595169067383,
520
- 0.030166015625,
521
- 0.03035955238342285,
522
- 0.03018854331970215,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
523
  0.030280704498291015,
524
- 0.030204927444458008,
525
- 0.030203903198242187,
526
- 0.030095359802246095,
527
- 0.0303503360748291,
528
- 0.03033907127380371,
529
- 0.030432256698608398,
530
- 0.03013222312927246,
531
- 0.03013222312927246,
532
- 0.030166015625,
533
- 0.03034726333618164,
534
- 0.0303687686920166,
535
- 0.029949951171875,
536
- 0.030535680770874023,
537
- 0.0358922233581543,
538
- 0.030860288619995117,
539
- 0.030021631240844726
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
540
  ]
541
  },
542
  "throughput": {
543
  "unit": "tokens/s",
544
- "value": 31.995647627899327
545
  },
546
  "energy": null,
547
  "efficiency": null
 
107
  "prefill": {
108
  "memory": {
109
  "unit": "MB",
110
+ "max_ram": 1234.866176,
111
  "max_global_vram": 15218.966528,
112
  "max_process_vram": 14292.09088,
113
  "max_reserved": 13759.414272,
 
116
  "latency": {
117
  "unit": "s",
118
  "count": 11,
119
+ "total": 0.33500819015502925,
120
+ "mean": 0.03045529001409357,
121
+ "stdev": 0.0006588511013156968,
122
+ "p50": 0.030182367324829103,
123
+ "p90": 0.031159807205200195,
124
+ "p95": 0.031431151390075684,
125
+ "p99": 0.03164822673797608,
126
  "values": [
127
+ 0.031702495574951174,
128
+ 0.031159807205200195,
129
+ 0.031116096496582032,
130
+ 0.030891008377075195,
131
+ 0.029737823486328124,
132
+ 0.030182367324829103,
133
+ 0.029910463333129883,
134
+ 0.029730783462524415,
135
+ 0.029977792739868163,
136
+ 0.03075209617614746,
137
+ 0.029847455978393556
138
  ]
139
  },
140
  "throughput": {
141
  "unit": "tokens/s",
142
+ "value": 4202.882321618556
143
  },
144
  "energy": null,
145
  "efficiency": null
 
147
  "decode": {
148
  "memory": {
149
  "unit": "MB",
150
+ "max_ram": 1234.866176,
151
  "max_global_vram": 15218.966528,
152
  "max_process_vram": 14292.09088,
153
  "max_reserved": 13759.414272,
 
156
  "latency": {
157
  "unit": "s",
158
  "count": 11,
159
+ "total": 10.43467156982422,
160
+ "mean": 0.9486065063476562,
161
+ "stdev": 0.01526047085225363,
162
+ "p50": 0.9407984619140625,
163
+ "p90": 0.97138232421875,
164
+ "p95": 0.973743408203125,
165
+ "p99": 0.9756322753906249,
166
  "values": [
167
+ 0.9711124877929688,
168
+ 0.9761044921875,
169
+ 0.97138232421875,
170
+ 0.9479179077148437,
171
+ 0.9355850219726562,
172
+ 0.9407984619140625,
173
+ 0.9373528442382812,
174
+ 0.9391262817382813,
175
+ 0.9376884765625,
176
+ 0.9420660400390625,
177
+ 0.9355372314453125
178
  ]
179
  },
180
  "throughput": {
181
  "unit": "tokens/s",
182
+ "value": 32.67951441673832
183
  },
184
  "energy": null,
185
  "efficiency": null
 
189
  "latency": {
190
  "unit": "s",
191
  "count": 340,
192
+ "total": 10.706682880401612,
193
+ "mean": 0.03149024376588709,
194
+ "stdev": 0.005226840501727016,
195
+ "p50": 0.030386688232421875,
196
+ "p90": 0.031479091453552245,
197
+ "p95": 0.03172869081497192,
198
+ "p99": 0.06165116912841798,
199
  "values": [
200
+ 0.031096832275390625,
201
+ 0.031197183609008788,
202
+ 0.03119820785522461,
203
+ 0.0324956169128418,
204
+ 0.031323135375976564,
205
+ 0.03099852752685547,
206
+ 0.0309616641998291,
207
+ 0.030835712432861328,
208
+ 0.03092889595031738,
209
+ 0.031127552032470703,
210
+ 0.031077375411987306,
211
+ 0.03099750328063965,
212
+ 0.03116748809814453,
213
+ 0.031264768600463864,
214
+ 0.03121766471862793,
215
+ 0.031512575149536134,
216
+ 0.03155046463012695,
217
+ 0.03127193641662598,
218
+ 0.03137740707397461,
219
+ 0.031318016052246093,
220
+ 0.031083520889282228,
221
+ 0.031302656173706055,
222
+ 0.031308799743652346,
223
+ 0.03145113563537598,
224
+ 0.031145984649658204,
225
+ 0.03143475151062012,
226
+ 0.03202560043334961,
227
+ 0.031510528564453126,
228
+ 0.03160166358947754,
229
+ 0.03172966384887695,
230
+ 0.06313267135620117,
231
+ 0.031355903625488284,
232
+ 0.031513599395751955,
233
+ 0.03172863960266113,
234
+ 0.031476736068725586,
235
+ 0.031301631927490234,
236
+ 0.031285247802734374,
237
+ 0.03180441665649414,
238
+ 0.031335424423217774,
239
+ 0.03159654426574707,
240
+ 0.0321003532409668,
241
+ 0.03156991958618164,
242
+ 0.03125862312316895,
243
+ 0.031821823120117186,
244
+ 0.03144499206542969,
245
+ 0.03134668731689453,
246
+ 0.03141119956970215,
247
+ 0.03141939163208008,
248
+ 0.0313753604888916,
249
+ 0.03169075202941894,
250
+ 0.03159859275817871,
251
+ 0.03139993667602539,
252
+ 0.031425535202026365,
253
+ 0.03139788818359375,
254
+ 0.03139276885986328,
255
+ 0.03158425521850586,
256
+ 0.031442943572998046,
257
+ 0.03124224090576172,
258
+ 0.031152128219604492,
259
+ 0.03142860794067383,
260
+ 0.03126272010803223,
261
+ 0.0630568962097168,
262
+ 0.031357952117919925,
263
+ 0.03132825660705566,
264
+ 0.03153715133666992,
265
+ 0.03180339241027832,
266
+ 0.03128217506408691,
267
+ 0.03149619293212891,
268
+ 0.03154944038391113,
269
+ 0.03142963218688965,
270
+ 0.03132825660705566,
271
+ 0.0315043830871582,
272
+ 0.031357952117919925,
273
+ 0.0313384952545166,
274
+ 0.031491071701049804,
275
+ 0.0312801284790039,
276
+ 0.03136819267272949,
277
+ 0.03147776031494141,
278
+ 0.03127398490905762,
279
+ 0.03127603149414063,
280
+ 0.03131596755981445,
281
+ 0.03142348861694336,
282
+ 0.031122432708740235,
283
+ 0.03118489646911621,
284
+ 0.03119513511657715,
285
+ 0.031124479293823244,
286
+ 0.031162368774414063,
287
+ 0.03141939163208008,
288
+ 0.031116287231445314,
289
+ 0.03098521614074707,
290
+ 0.030971904754638672,
291
+ 0.0309749755859375,
292
+ 0.0625428466796875,
293
+ 0.03123302459716797,
294
+ 0.03116339111328125,
295
+ 0.03105996894836426,
296
+ 0.03112652778625488,
297
+ 0.03105177688598633,
298
+ 0.03124224090576172,
299
+ 0.031357952117919925,
300
+ 0.03102003288269043,
301
+ 0.031194112777709962,
302
+ 0.031110143661499022,
303
+ 0.031120384216308594,
304
  0.030507007598876954,
305
+ 0.030040063858032227,
306
+ 0.02999398422241211,
307
+ 0.03017728042602539,
308
+ 0.03033497619628906,
309
+ 0.030110719680786133,
310
+ 0.03014656066894531,
311
+ 0.030319616317749022,
312
+ 0.030220287322998047,
313
+ 0.030262271881103517,
314
+ 0.030086143493652344,
315
+ 0.030511104583740234,
316
+ 0.03042918395996094,
317
+ 0.030107648849487304,
318
+ 0.030087167739868165,
319
+ 0.030271488189697264,
320
+ 0.029895679473876953,
321
+ 0.030098432540893554,
322
+ 0.030031871795654298,
323
+ 0.06032179260253906,
324
+ 0.030287872314453124,
 
 
 
 
 
 
 
 
 
325
  0.030098432540893554,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
326
  0.030029823303222656,
327
+ 0.030059520721435546,
328
+ 0.030464000701904297,
329
+ 0.030095359802246095,
330
+ 0.0301527042388916,
331
+ 0.029862911224365234,
332
+ 0.029873151779174805,
333
+ 0.030091264724731445,
334
+ 0.030089216232299806,
335
  0.030003200531005858,
336
+ 0.02993459129333496,
337
+ 0.030130176544189452,
338
+ 0.029748224258422853,
339
+ 0.029886463165283202,
340
+ 0.03018956756591797,
341
+ 0.030261247634887696,
342
+ 0.030340095520019532,
343
+ 0.030119935989379884,
344
+ 0.030309375762939454,
345
+ 0.030213119506835938,
346
+ 0.030272512435913085,
347
+ 0.03061759948730469,
348
+ 0.030527488708496094,
349
+ 0.030301183700561524,
350
+ 0.030448640823364258,
351
+ 0.03003392028808594,
352
+ 0.030062591552734375,
353
+ 0.030526464462280273,
354
+ 0.061087745666503906,
355
+ 0.03015884780883789,
356
+ 0.030912511825561522,
357
+ 0.03056947135925293,
358
+ 0.03060223960876465,
359
+ 0.030638080596923828,
360
+ 0.030611455917358397,
361
+ 0.030336000442504882,
362
+ 0.030229503631591798,
363
+ 0.03014553642272949,
364
+ 0.030243839263916016,
365
+ 0.030235647201538086,
366
+ 0.030290943145751953,
367
+ 0.03015679931640625,
368
+ 0.03018854331970215,
369
+ 0.030074880599975585,
370
+ 0.030461952209472655,
371
+ 0.030406656265258788,
372
+ 0.030277631759643556,
373
+ 0.030512128829956055,
374
+ 0.030680063247680665,
375
+ 0.03034726333618164,
376
+ 0.03017728042602539,
377
+ 0.030204927444458008,
378
+ 0.03042918395996094,
379
+ 0.030247936248779295,
380
+ 0.030741504669189453,
381
+ 0.030059520721435546,
382
+ 0.029854719161987304,
383
+ 0.030014463424682617,
384
+ 0.030126079559326172,
385
+ 0.06049894332885742,
386
+ 0.029965311050415038,
387
+ 0.030015487670898438,
388
+ 0.02998784065246582,
389
+ 0.030046207427978516,
390
+ 0.030295040130615233,
391
+ 0.03057868766784668,
392
+ 0.030320640563964843,
393
+ 0.030422016143798827,
394
+ 0.030369792938232422,
395
+ 0.030302207946777345,
396
+ 0.030043136596679686,
397
+ 0.030053375244140625,
398
+ 0.030261247634887696,
399
+ 0.030275583267211914,
400
+ 0.030083072662353515,
401
+ 0.030461952209472655,
402
+ 0.030441471099853516,
403
  0.030353408813476562,
404
+ 0.030483455657958985,
405
+ 0.03059404754638672,
406
+ 0.030055423736572266,
407
+ 0.030070783615112305,
408
+ 0.03040358352661133,
409
+ 0.030264320373535155,
410
+ 0.03013222312927246,
411
+ 0.0299683837890625,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
412
  0.030243839263916016,
413
+ 0.030249984741210937,
414
+ 0.03001651191711426,
415
+ 0.030029823303222656,
416
+ 0.059888641357421876,
 
417
  0.03001753616333008,
418
+ 0.029764608383178712,
419
+ 0.029944831848144532,
420
+ 0.03001651191711426,
421
+ 0.030426111221313477,
422
+ 0.030289920806884765,
423
+ 0.030502912521362304,
424
+ 0.030296064376831053,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
425
  0.030243839263916016,
426
+ 0.03021107292175293,
427
+ 0.03038515281677246,
428
+ 0.030325759887695314,
 
429
  0.03013324737548828,
430
+ 0.030298112869262695,
431
+ 0.030091264724731445,
432
+ 0.030101503372192383,
433
+ 0.030494720458984374,
434
+ 0.03124019241333008,
435
+ 0.030106624603271483,
436
+ 0.030243839263916016,
437
+ 0.03037286376953125,
438
+ 0.03038822364807129,
439
+ 0.030242816925048828,
440
+ 0.03055411148071289,
441
+ 0.030455808639526367,
442
+ 0.030277631759643556,
443
+ 0.03040358352661133,
444
+ 0.03016294479370117,
445
+ 0.030443519592285157,
446
+ 0.030571519851684572,
447
+ 0.06034739303588867,
448
+ 0.029904895782470704,
449
+ 0.02979020881652832,
450
+ 0.029686784744262694,
451
  0.029671424865722655,
452
+ 0.02978099250793457,
453
+ 0.030090240478515624,
454
+ 0.02979327964782715,
455
+ 0.03014041519165039,
456
+ 0.030555135726928712,
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
457
  0.03020595169067383,
458
+ 0.02992742347717285,
459
+ 0.03039334487915039,
460
+ 0.030282751083374023,
461
+ 0.03021414375305176,
462
+ 0.03015782356262207,
463
+ 0.030361600875854492,
464
+ 0.0305797119140625,
465
+ 0.030542848587036132,
466
+ 0.030229503631591798,
467
+ 0.0301527042388916,
468
+ 0.030036991119384765,
469
+ 0.030142463684082032,
470
+ 0.029864959716796875,
471
+ 0.030054399490356445,
472
+ 0.030091264724731445,
473
+ 0.030079999923706056,
474
+ 0.03172249603271484,
475
+ 0.031091712951660157,
476
+ 0.03078758430480957,
477
+ 0.03100467109680176,
478
+ 0.06201139068603516,
479
+ 0.030689279556274415,
480
+ 0.030862335205078126,
481
+ 0.030870527267456056,
482
+ 0.030942207336425782,
483
+ 0.03095244789123535,
484
+ 0.031246335983276367,
485
+ 0.03105177688598633,
486
+ 0.03039948844909668,
487
  0.030280704498291015,
488
+ 0.0301527042388916,
489
+ 0.030233600616455077,
490
+ 0.030253055572509766,
491
+ 0.03016703987121582,
492
+ 0.02993152046203613,
493
+ 0.03021414375305176,
494
+ 0.030287872314453124,
495
+ 0.030684160232543944,
496
+ 0.030259199142456054,
497
+ 0.03059507179260254,
498
+ 0.03003392028808594,
499
+ 0.02994790458679199,
500
+ 0.030301183700561524,
501
+ 0.03039743995666504,
502
+ 0.030268415451049805,
503
+ 0.030088191986083986,
504
+ 0.030006271362304687,
505
+ 0.029838336944580077,
506
+ 0.029953023910522462,
507
+ 0.030046207427978516,
508
+ 0.029873151779174805,
509
+ 0.06027775955200195,
510
+ 0.030036991119384765,
511
+ 0.02996121597290039,
512
+ 0.03014143943786621,
513
+ 0.030332927703857423,
514
+ 0.030111743927001954,
515
+ 0.03013324737548828,
516
+ 0.030115840911865234,
517
+ 0.029995008468627928,
518
+ 0.029920255661010742,
519
+ 0.030074880599975585,
520
+ 0.030060543060302734,
521
+ 0.02997248077392578,
522
+ 0.030176256179809572,
523
+ 0.030043136596679686,
524
+ 0.030502912521362304,
525
+ 0.030072832107543947,
526
+ 0.03039129638671875,
527
+ 0.03037491226196289,
528
+ 0.030227455139160156,
529
+ 0.03034419250488281,
530
+ 0.03039641571044922,
531
+ 0.030243839263916016,
532
+ 0.03021516799926758,
533
+ 0.03019161605834961,
534
+ 0.030123008728027343,
535
+ 0.030216192245483397,
536
+ 0.030498815536499024,
537
+ 0.03014143943786621,
538
+ 0.02996633529663086,
539
+ 0.03014143943786621
540
  ]
541
  },
542
  "throughput": {
543
  "unit": "tokens/s",
544
+ "value": 31.75586722778199
545
  },
546
  "energy": null,
547
  "efficiency": null