Hugging Face's logo

Datasets:
optimum-benchmark
/
pytorch-llama

Dataset card Files Community
IlyasMoutawwakil HF staff commited on
Commit
bdfa172
·
verified ·
1 Parent(s): 8b5ea2f

Upload benchmarks/pytorch-llama-2.3.0-4bit-gptq-exllama-v2.json with huggingface_hub

Browse files
Files changed (1) hide show
  1. benchmarks/pytorch-llama-2.3.0-4bit-gptq-exllama-v2.json +522 -0
benchmarks/pytorch-llama-2.3.0-4bit-gptq-exllama-v2.json ADDED
@@ -0,0 +1,522 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "name": "pytorch-llama",
4
+ "backend": {
5
+ "name": "pytorch",
6
+ "version": "2.3.0",
7
+ "_target_": "optimum_benchmark.backends.pytorch.backend.PyTorchBackend",
8
+ "task": "text-generation",
9
+ "library": "transformers",
10
+ "model": "meta-llama/Llama-2-7b-hf",
11
+ "processor": "meta-llama/Llama-2-7b-hf",
12
+ "device": "cuda",
13
+ "device_ids": "0",
14
+ "seed": 42,
15
+ "inter_op_num_threads": null,
16
+ "intra_op_num_threads": null,
17
+ "model_kwargs": {},
18
+ "processor_kwargs": {},
19
+ "hub_kwargs": {},
20
+ "no_weights": true,
21
+ "device_map": null,
22
+ "torch_dtype": "float16",
23
+ "eval_mode": true,
24
+ "to_bettertransformer": false,
25
+ "low_cpu_mem_usage": null,
26
+ "attn_implementation": null,
27
+ "cache_implementation": null,
28
+ "autocast_enabled": false,
29
+ "autocast_dtype": null,
30
+ "torch_compile": false,
31
+ "torch_compile_target": "forward",
32
+ "torch_compile_config": {},
33
+ "quantization_scheme": "gptq",
34
+ "quantization_config": {
35
+ "bits": 4,
36
+ "use_exllama ": true,
37
+ "version": 2,
38
+ "model_seqlen": 256
39
+ },
40
+ "deepspeed_inference": false,
41
+ "deepspeed_inference_config": {},
42
+ "tensor_parallel": false,
43
+ "peft_type": null,
44
+ "peft_config": {}
45
+ },
46
+ "scenario": {
47
+ "name": "inference",
48
+ "_target_": "optimum_benchmark.scenarios.inference.scenario.InferenceScenario",
49
+ "iterations": 10,
50
+ "duration": 10,
51
+ "warmup_runs": 10,
52
+ "input_shapes": {
53
+ "batch_size": 1,
54
+ "num_choices": 2,
55
+ "sequence_length": 128
56
+ },
57
+ "new_tokens": null,
58
+ "latency": true,
59
+ "memory": true,
60
+ "energy": false,
61
+ "forward_kwargs": {},
62
+ "generate_kwargs": {
63
+ "max_new_tokens": 32,
64
+ "min_new_tokens": 32
65
+ },
66
+ "call_kwargs": {}
67
+ },
68
+ "launcher": {
69
+ "name": "process",
70
+ "_target_": "optimum_benchmark.launchers.process.launcher.ProcessLauncher",
71
+ "device_isolation": true,
72
+ "device_isolation_action": "warn",
73
+ "numactl": false,
74
+ "numactl_kwargs": {},
75
+ "start_method": "spawn"
76
+ },
77
+ "environment": {
78
+ "cpu": " AMD EPYC 7742 64-Core Processor",
79
+ "cpu_count": 128,
80
+ "cpu_ram_mb": 540671.627264,
81
+ "system": "Linux",
82
+ "machine": "x86_64",
83
+ "platform": "Linux-5.4.0-166-generic-x86_64-with-glibc2.35",
84
+ "processor": "x86_64",
85
+ "python_version": "3.10.12",
86
+ "gpu": [
87
+ "NVIDIA A100-SXM4-80GB",
88
+ "NVIDIA A100-SXM4-80GB",
89
+ "NVIDIA A100-SXM4-80GB",
90
+ "NVIDIA DGX Display",
91
+ "NVIDIA A100-SXM4-80GB"
92
+ ],
93
+ "gpu_count": 5,
94
+ "gpu_vram_mb": 347892350976,
95
+ "optimum_benchmark_version": "0.2.1",
96
+ "optimum_benchmark_commit": "347e13ca9f7f904f55669603cfb9f0b6c7e8672c",
97
+ "transformers_version": "4.41.1",
98
+ "transformers_commit": null,
99
+ "accelerate_version": "0.30.1",
100
+ "accelerate_commit": null,
101
+ "diffusers_version": null,
102
+ "diffusers_commit": null,
103
+ "optimum_version": "1.20.0",
104
+ "optimum_commit": null,
105
+ "timm_version": null,
106
+ "timm_commit": null,
107
+ "peft_version": "0.11.1",
108
+ "peft_commit": null
109
+ }
110
+ },
111
+ "report": {
112
+ "prefill": {
113
+ "memory": {
114
+ "unit": "MB",
115
+ "max_ram": 4115.685376,
116
+ "max_global_vram": 6031.343616,
117
+ "max_process_vram": 5104.467968,
118
+ "max_reserved": 4571.79136,
119
+ "max_allocated": 4252.77184
120
+ },
121
+ "latency": {
122
+ "unit": "s",
123
+ "count": 10,
124
+ "total": 1.5582011566162108,
125
+ "mean": 0.15582011566162107,
126
+ "stdev": 0.0004235381281571237,
127
+ "p50": 0.15581967926025392,
128
+ "p90": 0.1563481979370117,
129
+ "p95": 0.15637425613403322,
130
+ "p99": 0.1563951026916504,
131
+ "values": [
132
+ 0.1550247039794922,
133
+ 0.155944580078125,
134
+ 0.15537123107910156,
135
+ 0.15548223876953124,
136
+ 0.15573526000976562,
137
+ 0.15573081970214844,
138
+ 0.1562655029296875,
139
+ 0.1564003143310547,
140
+ 0.1563424072265625,
141
+ 0.1559040985107422
142
+ ]
143
+ },
144
+ "throughput": {
145
+ "unit": "tokens/s",
146
+ "value": 821.460049984591
147
+ },
148
+ "energy": null,
149
+ "efficiency": null
150
+ },
151
+ "decode": {
152
+ "memory": {
153
+ "unit": "MB",
154
+ "max_ram": 4115.685376,
155
+ "max_global_vram": 6031.343616,
156
+ "max_process_vram": 5104.467968,
157
+ "max_reserved": 4571.79136,
158
+ "max_allocated": 4359.322112
159
+ },
160
+ "latency": {
161
+ "unit": "s",
162
+ "count": 10,
163
+ "total": 46.20984765625,
164
+ "mean": 4.620984765625,
165
+ "stdev": 0.0032065285351623603,
166
+ "p50": 4.623131591796875,
167
+ "p90": 4.623380273437499,
168
+ "p95": 4.623573193359375,
169
+ "p99": 4.623727529296875,
170
+ "values": [
171
+ 4.61422802734375,
172
+ 4.61675830078125,
173
+ 4.61875732421875,
174
+ 4.6200751953125,
175
+ 4.62333740234375,
176
+ 4.6232158203125,
177
+ 4.62304736328125,
178
+ 4.6233251953125,
179
+ 4.62376611328125,
180
+ 4.6233369140625
181
+ ]
182
+ },
183
+ "throughput": {
184
+ "unit": "tokens/s",
185
+ "value": 6.7085267691435835
186
+ },
187
+ "energy": null,
188
+ "efficiency": null
189
+ },
190
+ "per_token": {
191
+ "memory": null,
192
+ "latency": {
193
+ "unit": "s",
194
+ "count": 309,
195
+ "total": 47.46416026306151,
196
+ "mean": 0.15360569664421206,
197
+ "stdev": 0.02631289684865597,
198
+ "p50": 0.14913433837890624,
199
+ "p90": 0.14920335083007813,
200
+ "p95": 0.1492768768310547,
201
+ "p99": 0.30549913330078127,
202
+ "values": [
203
+ 0.14821478271484376,
204
+ 0.14794239807128906,
205
+ 0.14795059204101563,
206
+ 0.1487615966796875,
207
+ 0.15093350219726562,
208
+ 0.14969754028320312,
209
+ 0.14820556640625,
210
+ 0.14847386169433593,
211
+ 0.14911180114746095,
212
+ 0.14855372619628907,
213
+ 0.14842367553710936,
214
+ 0.14902989196777344,
215
+ 0.14976409912109376,
216
+ 0.14818202209472656,
217
+ 0.14904934692382812,
218
+ 0.14912307739257813,
219
+ 0.1481134033203125,
220
+ 0.14855270385742186,
221
+ 0.14921011352539063,
222
+ 0.14918759155273437,
223
+ 0.1486571502685547,
224
+ 0.14919270324707032,
225
+ 0.14846975708007812,
226
+ 0.14917631530761719,
227
+ 0.14829466247558593,
228
+ 0.14875648498535157,
229
+ 0.149180419921875,
230
+ 0.14884249877929687,
231
+ 0.14918348693847655,
232
+ 0.148822021484375,
233
+ 0.3053148193359375,
234
+ 0.14864076232910156,
235
+ 0.14915890502929688,
236
+ 0.14831411743164064,
237
+ 0.14853427124023438,
238
+ 0.14888755798339845,
239
+ 0.14919270324707032,
240
+ 0.14915481567382813,
241
+ 0.14921932983398437,
242
+ 0.14869094848632813,
243
+ 0.14916096496582032,
244
+ 0.14906675720214843,
245
+ 0.14883737182617188,
246
+ 0.1489817657470703,
247
+ 0.14899813842773438,
248
+ 0.14900837707519532,
249
+ 0.14853939819335937,
250
+ 0.14870527648925783,
251
+ 0.14893157958984374,
252
+ 0.1488353271484375,
253
+ 0.14920191955566406,
254
+ 0.14870118713378908,
255
+ 0.14916607666015624,
256
+ 0.1491210174560547,
257
+ 0.14840422058105468,
258
+ 0.14914047241210937,
259
+ 0.1491619873046875,
260
+ 0.14917631530761719,
261
+ 0.14846258544921875,
262
+ 0.149032958984375,
263
+ 0.14897970581054687,
264
+ 0.3050260620117187,
265
+ 0.1486376953125,
266
+ 0.14920294189453126,
267
+ 0.1486929931640625,
268
+ 0.14914047241210937,
269
+ 0.14911692810058594,
270
+ 0.14829977416992188,
271
+ 0.14916915893554689,
272
+ 0.14849331665039062,
273
+ 0.1490688018798828,
274
+ 0.14862130737304688,
275
+ 0.14913740539550782,
276
+ 0.149138427734375,
277
+ 0.14916915893554689,
278
+ 0.14920909118652342,
279
+ 0.1487237091064453,
280
+ 0.14913638305664062,
281
+ 0.14863871765136719,
282
+ 0.14916812133789062,
283
+ 0.1488732147216797,
284
+ 0.14920806884765625,
285
+ 0.14851890563964842,
286
+ 0.14915072631835938,
287
+ 0.14923161315917968,
288
+ 0.14900428771972657,
289
+ 0.14920704650878908,
290
+ 0.14898687744140626,
291
+ 0.14916709899902345,
292
+ 0.14883226013183593,
293
+ 0.14916812133789062,
294
+ 0.14903602600097657,
295
+ 0.30511309814453125,
296
+ 0.14909849548339843,
297
+ 0.1488107452392578,
298
+ 0.1491558380126953,
299
+ 0.14880767822265625,
300
+ 0.14836531066894532,
301
+ 0.1491179504394531,
302
+ 0.14913433837890624,
303
+ 0.14903500366210937,
304
+ 0.1491445770263672,
305
+ 0.14917018127441406,
306
+ 0.14883123779296875,
307
+ 0.14916403198242187,
308
+ 0.14882815551757814,
309
+ 0.14917529296875,
310
+ 0.1488404541015625,
311
+ 0.1491793975830078,
312
+ 0.14881484985351562,
313
+ 0.14919168090820312,
314
+ 0.1488035888671875,
315
+ 0.1491619873046875,
316
+ 0.1491568603515625,
317
+ 0.14915788269042968,
318
+ 0.14899813842773438,
319
+ 0.14884556579589844,
320
+ 0.14927154541015625,
321
+ 0.14869810485839843,
322
+ 0.14915277099609375,
323
+ 0.14899609375,
324
+ 0.1491558380126953,
325
+ 0.1491988525390625,
326
+ 0.3054049377441406,
327
+ 0.14867149353027342,
328
+ 0.14917324829101564,
329
+ 0.1491988525390625,
330
+ 0.1491179504394531,
331
+ 0.14917222595214844,
332
+ 0.14916607666015624,
333
+ 0.14896946716308593,
334
+ 0.14921318054199217,
335
+ 0.1496258544921875,
336
+ 0.14931149291992188,
337
+ 0.1491630096435547,
338
+ 0.14886093139648438,
339
+ 0.1491988525390625,
340
+ 0.14869708251953126,
341
+ 0.1491773376464844,
342
+ 0.14902886962890624,
343
+ 0.14915174865722655,
344
+ 0.14920498657226564,
345
+ 0.14920909118652342,
346
+ 0.1491445770263672,
347
+ 0.14901657104492189,
348
+ 0.1492367401123047,
349
+ 0.1491988525390625,
350
+ 0.14896127319335936,
351
+ 0.14915379333496093,
352
+ 0.1489827880859375,
353
+ 0.14927769470214844,
354
+ 0.14909645080566405,
355
+ 0.14920191955566406,
356
+ 0.1491435546875,
357
+ 0.3053475952148437,
358
+ 0.14914662170410156,
359
+ 0.14883634948730468,
360
+ 0.14913638305664062,
361
+ 0.149106689453125,
362
+ 0.14874520874023436,
363
+ 0.1491015625,
364
+ 0.14910258483886718,
365
+ 0.14913740539550782,
366
+ 0.14919679260253907,
367
+ 0.14903910827636718,
368
+ 0.14875340270996093,
369
+ 0.14911077880859375,
370
+ 0.1491312713623047,
371
+ 0.14914151000976564,
372
+ 0.14912307739257813,
373
+ 0.14916709899902345,
374
+ 0.14917837524414063,
375
+ 0.14920089721679688,
376
+ 0.14921011352539063,
377
+ 0.14930227661132814,
378
+ 0.14927565002441406,
379
+ 0.14916915893554689,
380
+ 0.14918655395507813,
381
+ 0.14915481567382813,
382
+ 0.14918246459960938,
383
+ 0.14913536071777345,
384
+ 0.14914866638183594,
385
+ 0.14916709899902345,
386
+ 0.14917837524414063,
387
+ 0.14916915893554689,
388
+ 0.30592410278320314,
389
+ 0.14912921142578126,
390
+ 0.1491568603515625,
391
+ 0.14913023376464843,
392
+ 0.1491005401611328,
393
+ 0.14912205505371093,
394
+ 0.14910258483886718,
395
+ 0.1491077117919922,
396
+ 0.14917018127441406,
397
+ 0.1486182403564453,
398
+ 0.1489469451904297,
399
+ 0.14910566711425782,
400
+ 0.14913638305664062,
401
+ 0.14912307739257813,
402
+ 0.14915379333496093,
403
+ 0.1491619873046875,
404
+ 0.14915481567382813,
405
+ 0.14914047241210937,
406
+ 0.14914764404296876,
407
+ 0.149138427734375,
408
+ 0.1491558380126953,
409
+ 0.14914866638183594,
410
+ 0.14916096496582032,
411
+ 0.1491210174560547,
412
+ 0.1491568603515625,
413
+ 0.1491179504394531,
414
+ 0.14915072631835938,
415
+ 0.14913740539550782,
416
+ 0.1491312713623047,
417
+ 0.14913536071777345,
418
+ 0.14915890502929688,
419
+ 0.3060193176269531,
420
+ 0.1491619873046875,
421
+ 0.1491435546875,
422
+ 0.14900633239746094,
423
+ 0.14910975646972657,
424
+ 0.14915174865722655,
425
+ 0.14911488342285156,
426
+ 0.14913433837890624,
427
+ 0.14911386108398436,
428
+ 0.1491210174560547,
429
+ 0.14919577026367187,
430
+ 0.14918963623046874,
431
+ 0.14917837524414063,
432
+ 0.14899404907226563,
433
+ 0.14920704650878908,
434
+ 0.14899302673339843,
435
+ 0.1489950714111328,
436
+ 0.14918348693847655,
437
+ 0.14921420288085938,
438
+ 0.14920294189453126,
439
+ 0.14913023376464843,
440
+ 0.14899302673339843,
441
+ 0.14913023376464843,
442
+ 0.14910975646972657,
443
+ 0.14911488342285156,
444
+ 0.14919065856933594,
445
+ 0.14913536071777345,
446
+ 0.14912818908691405,
447
+ 0.14911077880859375,
448
+ 0.14911180114746095,
449
+ 0.14914151000976564,
450
+ 0.30597940063476564,
451
+ 0.14910975646972657,
452
+ 0.14916709899902345,
453
+ 0.1491425323486328,
454
+ 0.1491394500732422,
455
+ 0.14912307739257813,
456
+ 0.1491558380126953,
457
+ 0.14909336853027344,
458
+ 0.14914866638183594,
459
+ 0.14913433837890624,
460
+ 0.149106689453125,
461
+ 0.14912818908691405,
462
+ 0.14910258483886718,
463
+ 0.14913638305664062,
464
+ 0.14915379333496093,
465
+ 0.1491240997314453,
466
+ 0.14916709899902345,
467
+ 0.149180419921875,
468
+ 0.14919270324707032,
469
+ 0.14918861389160157,
470
+ 0.14910362243652345,
471
+ 0.14912205505371093,
472
+ 0.14911590576171874,
473
+ 0.1491619873046875,
474
+ 0.14914764404296876,
475
+ 0.14917324829101564,
476
+ 0.1491445770263672,
477
+ 0.14913331604003907,
478
+ 0.1491251220703125,
479
+ 0.14911077880859375,
480
+ 0.1491630096435547,
481
+ 0.30550732421875,
482
+ 0.14909542846679688,
483
+ 0.14910362243652345,
484
+ 0.14910362243652345,
485
+ 0.14909440612792968,
486
+ 0.14910258483886718,
487
+ 0.14910873413085937,
488
+ 0.14908108520507812,
489
+ 0.14913740539550782,
490
+ 0.14913638305664062,
491
+ 0.14913638305664062,
492
+ 0.14911692810058594,
493
+ 0.14913433837890624,
494
+ 0.14913229370117187,
495
+ 0.14912921142578126,
496
+ 0.14916403198242187,
497
+ 0.14916709899902345,
498
+ 0.14909747314453126,
499
+ 0.14915994262695312,
500
+ 0.14911590576171874,
501
+ 0.14913638305664062,
502
+ 0.149106689453125,
503
+ 0.14913536071777345,
504
+ 0.14914968872070314,
505
+ 0.14912614440917968,
506
+ 0.14910464477539062,
507
+ 0.14912205505371093,
508
+ 0.14912614440917968,
509
+ 0.14914968872070314,
510
+ 0.14911488342285156,
511
+ 0.1491742706298828
512
+ ]
513
+ },
514
+ "throughput": {
515
+ "unit": "tokens/s",
516
+ "value": 6.5101752203646575
517
+ },
518
+ "energy": null,
519
+ "efficiency": null
520
+ }
521
+ }
522
+ }