Update README.md
Browse files
README.md
CHANGED
|
@@ -5,4 +5,23 @@ language:
|
|
| 5 |
tags:
|
| 6 |
- rwkv
|
| 7 |
- alpaca-jp
|
| 8 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 5 |
tags:
|
| 6 |
- rwkv
|
| 7 |
- alpaca-jp
|
| 8 |
+
---
|
| 9 |
+
|
| 10 |
+
RWKV 7B を LoRA + Alpaca_jp データセットで finetune したものです.
|
| 11 |
+
|
| 12 |
+
RWKV-4-Pile-7B-20221115-8047.pth をベースにしています.
|
| 13 |
+
epoch は 100 (3090 x 2 でおよそ 4 日)になります.
|
| 14 |
+
|
| 15 |
+
finetune 部分だけなので, 別途 RWKV-4-Pile-7B-20221115-8047.pth https://huggingface.co/BlinkDL/rwkv-4-pile-7b/blob/main/RWKV-4-Pile-7B-20221115-8047.pth を取得して利用ください.
|
| 16 |
+
|
| 17 |
+
詳細は
|
| 18 |
+
|
| 19 |
+
https://zenn.dev/articles/4ef48b859e9433
|
| 20 |
+
|
| 21 |
+
を参照ください.
|
| 22 |
+
|
| 23 |
+
|
| 24 |
+
## ライセンス
|
| 25 |
+
|
| 26 |
+
alpaca, およびそれを日本語翻訳した alpaca-jp のデータセット https://github.com/shi3z/alpaca_ja が cc-by-nc 4.0 のため, 本ファインチューンした差分も cc-by-nc 4.0 でライセンスします.
|
| 27 |
+
調査や評価用に利用ください.
|