cuanta gpu necesito para ejecutarlo ?

#3
by alfanumericbeta - opened

soy nuevo, pero me gustaria saber cuanta gpu requiero para ejecutarlo.
otra consulta es posible ejecutarlo en tarjetas amd de las viejas tipo rx580 ?

soy nuevo, pero me gustaria saber cuanta gpu requiero para ejecutarlo.
otra consulta es posible ejecutarlo en tarjetas amd de las viejas tipo rx580 ?

Hello there. A few tests with a RTX A4000 (16Gb VRAM) using a 35min audio:

Whisper v3 Large

With Timestamps

Time to transcribe: 34 secs
VRAM: 7.8Gb

Without Timestamps

Time to transcribe: 32 secs
VRAM: 7.8Gb

Whisper V3 Large Turbo

With Timestamps

Time to transcribe: 17 secs
VRAM: 2.8Gb

Without Timestamps

Time to transcribe: 17 secs
VRAM: 2.8Gb

Sign up or log in to comment