Update README.md
Browse files
README.md
CHANGED
|
@@ -1,3 +1,24 @@
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
license: apache-2.0
|
| 3 |
+
language:
|
| 4 |
+
- ja
|
| 5 |
+
tags:
|
| 6 |
+
- mistral
|
| 7 |
+
- mixtral
|
| 8 |
+
- not-for-all-audiences
|
| 9 |
+
- nsfw
|
| 10 |
---
|
| 11 |
+
|
| 12 |
+
# LightChatAssistant-4x7B
|
| 13 |
+
|
| 14 |
+
## 概要
|
| 15 |
+
[Sdff-Ltba/LightChatAssistant-2x7B](https://huggingface.co/Sdff-Ltba/LightChatAssistant-2x7B)と全く同じ手法を用いつつ、対象を4モデルに拡張してそれらをMoEしたモデルです。
|
| 16 |
+
素晴らしい手法を提案いただいた[@Sdff-Ltba](https://huggingface.co/Sdff-Ltba)さんに感謝します。
|
| 17 |
+
|
| 18 |
+
以下の4モデルをChatVectorの加算によって対話強化して素材に使用しています。
|
| 19 |
+
- [NTQAI/chatntq-ja-7b-v1.0](https://huggingface.co/NTQAI/chatntq-ja-7b-v1.0)
|
| 20 |
+
- [stabilityai/japanese-stablelm-instruct-gamma-7b](https://huggingface.co/stabilityai/japanese-stablelm-instruct-gamma-7b)
|
| 21 |
+
- [Elizezen/Antler-7B](https://huggingface.co/Elizezen/Antler-7B)
|
| 22 |
+
- [Elizezen/Hameln-japanese-mistral-7B](https://huggingface.co/Elizezen/Hameln-japanese-mistral-7B)
|
| 23 |
+
|
| 24 |
+
※詳細は後ほど更新
|