noflm commited on
Commit
5b9fc09
·
1 Parent(s): 339c628

update README

Browse files
Files changed (1) hide show
  1. README.md +59 -3
README.md CHANGED
@@ -30,9 +30,11 @@ license: other
30
 
31
  [hololive productionの二次創作ガイドライン](https://hololive.hololivepro.com/guidelines/)を必ずお読みください。
32
 
 
 
33
  ## 音声データの追加
34
 
35
- 基本的には、データセットに追加したい音声データを`audio_raw`ディレクトリ内の所定のディレクトリへ音声ファイルを追加していただく形になります。
36
 
37
  git等を使用して音声データを追加する場合にはgit-lfsが必要になります。事前にgit-lfsのインストールをお願い致します。
38
 
@@ -92,18 +94,72 @@ audio_raw
92
  - `train`と`test`ディレクトリについてですが、[OpenAI Whisper](https://openai.com/blog/whisper/)等の学習を行う際にtrainとtest、2種類のデータが必要になるために存在しています。
93
  - `train`と`test`には同じ配信から切り出したデータを入れても良いですが全く同じデータを入れることは辞めてください。正確に学習を行うことができなくなります。
94
 
95
- - `<ID>`ディレクトリは音声データを切り出す元になった配信等のIDが入ります。
96
  - YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
97
  - Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
98
  - Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
99
 
100
- - `<ID>`ディレクトリ内に連番でmp3形式の音声ファイルを入れてください。
101
  - 音声データは30秒以内である必要があります。
102
  - BGMやSE、ノイズ等が含まれる音声データは避けてください。
103
  - あまりに短すぎる音声データは避けてください。(既にデータセットにある音声は削除予定です。)
104
  - 出来る限り30秒に近い音声データを入れていただけると助かります。
105
  - 文脈のある音声データが望ましいです。
 
 
 
106
 
107
  ## 書き起こしテキストデータの追加
108
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
109
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
30
 
31
  [hololive productionの二次創作ガイドライン](https://hololive.hololivepro.com/guidelines/)を必ずお読みください。
32
 
33
+ ---
34
+
35
  ## 音声データの追加
36
 
37
+ 基本的には、データセットに追加したい音声データを`audio_raw`ディレクトリ内の所定のディレクトリへ追加していただく形になります。
38
 
39
  git等を使用して音声データを追加する場合にはgit-lfsが必要になります。事前にgit-lfsのインストールをお願い致します。
40
 
 
94
  - `train`と`test`ディレクトリについてですが、[OpenAI Whisper](https://openai.com/blog/whisper/)等の学習を行う際にtrainとtest、2種類のデータが必要になるために存在しています。
95
  - `train`と`test`には同じ配信から切り出したデータを入れても良いですが全く同じデータを入れることは辞めてください。正確に学習を行うことができなくなります。
96
 
97
+ - `<ID>`には音声データを切り出す元になった配信等のIDが入ります。
98
  - YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
99
  - Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
100
  - Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
101
 
102
+ - `<ID>`ディレクトリ内には連番でmp3形式の音声ファイルを入れてください。
103
  - 音声データは30秒以内である必要があります。
104
  - BGMやSE、ノイズ等が含まれる音声データは避けてください。
105
  - あまりに短すぎる音声データは避けてください。(既にデータセットにある音声は削除予定です。)
106
  - 出来る限り30秒に近い音声データを入れていただけると助かります。
107
  - 文脈のある音声データが望ましいです。
108
+ - 英語の音声は避けてください。
109
+
110
+ ---
111
 
112
  ## 書き起こしテキストデータの追加
113
 
114
+ 基本的には、データセットに追加したい音声データの書き起こしテキストデータを`transcript_raw`ディレクトリ内の所定のディレクトリへ追加していただく形になります。
115
+
116
+ `transcript_raw`ディレクトリ内の構造は以下の通りです。
117
+
118
+ ```
119
+ transcript_raw
120
+ ├─twitch
121
+ │ ├─test
122
+ │ │ └─<ID>.csv
123
+ │ │
124
+ │ └─train
125
+ │ └─<ID>.csv
126
+
127
+ ├─twitter
128
+ │ ├─test
129
+ │ │ └─<ID>.csv
130
+ │ │
131
+ │ └─train
132
+ │ └─<ID>.csv
133
+
134
+ └─youtube
135
+ ├─test
136
+ │ └─<ID>.csv
137
+
138
+ └─train
139
+ └─<ID>.csv
140
+ ```
141
+
142
+ - `youtube`, `twitch`, `twitch`ディレクトリはデータセットに追加するデータの切り出し元のプラットフォーム名です。
143
+
144
+ - `<ID>`には音声データを切り出す元になった配信等のIDが入ります。
145
+ - YouTubeであれば`https://www.youtube.com/watch?v=X9zw0QF12Kc`の`X9zw0QF12Kc`がディレクトリ名となります。
146
+ - Twitterであれば`https://twitter.com/i/spaces/1lPKqmyQPOAKb`の`1lPKqmyQPOAKb`がディレクトリ名となります。
147
+ - Twitchであれば`https://www.twitch.tv/videos/824387510`の`824387510`がディレクトリ名となります。
148
 
149
+ - `<ID>.csv`について
150
+ - 必ず`audio_raw`に追加した音声データに対応した書き起こしテキストを追加する必要があります。
151
+ - 句読点、!,?等は正確に入れてください。
152
+ - 半角英数字記号を使用してください。(!, ?, 1等)
153
+ - 漢数字は避けてください。
154
+ - csvファイルの1行目は必ず`path,sentence`で始めてください。
155
+ - 書き起こしテキストはWhisper等で一度書き起こしたものを修正して行く方法を推奨致します。
156
+
157
+ ### CSVファイルの記述例
158
+ ```csv
159
+ path,sentence
160
+ 1.mp3,雷が落ちた時のみこ
161
+ 2.mp3,コメント止まった?
162
+ 3.mp3,見えてるー?いやコメント止まった。壊れた。
163
+ 4.mp3,インターネット繋がってない!
164
+ 5.mp3,雷鳴ったよまた
165
+ ```