|
--- |
|
dataset_info: |
|
features: |
|
- name: audio |
|
dtype: |
|
audio: |
|
sampling_rate: 16000 |
|
- name: transkription |
|
dtype: string |
|
- name: source |
|
dtype: string |
|
splits: |
|
- name: train |
|
num_bytes: 41615466145.16 |
|
num_examples: 930960 |
|
download_size: 121819232271 |
|
dataset_size: 41615466145.16 |
|
configs: |
|
- config_name: default |
|
data_files: |
|
- split: train |
|
path: data/train-* |
|
task_categories: |
|
- automatic-speech-recognition |
|
language: |
|
- de |
|
pretty_name: ASR-German-Mixed |
|
--- |
|
|
|
# Dataset Beschreibung |
|
|
|
## Allgemeine Informationen |
|
Dieser Datensatz ist eine Kombination aus drei verschiedenen Quellen für die deutsche Sprache: Commonvoice 17.0 und Multilingual librispeech. Die Daten wurden gefiltert, normalisiert und grammatikalisch korrigiert. |
|
Die drei Datensätze wurden erneut transkribiert und mit den entsprechenden Audio-Daten abgeglichen, um genaue Transkriptionen zu erhalten. Anschließend wurde ein Abgleich mit den Originaltranskripten durchgeführt, um fehlerhafte Transkriptionen zu korrigieren oder zu entfernen, sofern dies möglich war. |
|
Für diese Aufgabe wurde das primeline whisper large v3 Modell genutzt. |
|
|
|
### Commonvoice 17.0 |
|
Common Voice ist ein öffentlich verfügbarer Sprachdatensatz, der durch Stimmen freiwilliger Mitwirkender auf der ganzen Welt erstellt wird. Der Datensatz enthält Aufnahmen von Sätzen in verschiedenen Sprachen, einschließlich Deutsch. |
|
|
|
### Multilingual librispeech |
|
Der Multilingual LibriSpeech (MLS) Datensatz ist ein umfangreicher mehrsprachiger Korpus, der sich für die Sprachforschung eignet. Der Datensatz basiert auf vorgelesenen Hörbüchern von LibriVox und enthält auch deutschsprachige Aufnahmen. |
|
|
|
## Datenverarbeitungsschritte |
|
Um einen qualitativ hochwertigen deutschen Sprachdatensatz zu erstellen, wurden folgende Schritte durchgeführt: |
|
|
|
1. Filterung: Es wurden nur die deutschen Sätze aus den jeweiligen Quelldatensätzen extrahiert. |
|
2. Normalisierung: Die Texte wurden auf eine einheitliche Form gebracht, um Inkonsistenzen zu beseitigen. |
|
3. Grammatikkorrektur: Fehlerhafte Grammatik wurde korrigiert, um die Qualität der Sätze zu verbessern. |
|
|
|
## Verwendungszweck |
|
Dieser kombinierte deutsche Sprachdatensatz kann für verschiedene Zwecke verwendet werden: |
|
|
|
- ASR (Automatic Speech Recognition) Modelltraining |
|
- NLP (Natural Language Processing) Forschung |
|
- Text-to-Speech Anwendungen |
|
|
|
Bitte beachten Sie jedoch bei der Verwendung dieses Datensatzes die Lizenzbedingungen der einzelnen Quellen sowie etwaige Einschränkungen oder Richtlinien bezüglich des Datenschutzes oder Urheberrechts. |
