update md

README.md

@@ -1,40 +1,42 @@
 ---
-title: chinese-alpaca-plus-7b
+title: chinese-alpaca-plus-13b-hf
 emoji: 📚
 colorFrom: gray
 colorTo: red
-language: 
+language:
 - zh
 tags:
 - chatglm
 - pytorch
 - zh
 - Text2Text-Generation
-license: "other"
+- LLaMA
+license: other
 widget:
-- text: "为什么天空是蓝色的？"
+- text: 为什么天空是蓝色的？
 ---
 
-# Chinese Alpaca Plus 7B Model
+# Chinese Alpaca Plus 13B Model
 
-**发布中文LLaMA, Alpaca Plus版（7B）模型**
+**发布中文LLaMA-Plus, Alpaca-Plus 13B版本模型**
 
+发布中文LLaMA-Plus, Alpaca-Plus 13B版本，改进点如下：
 
-推出中文LLaMA, Alpaca Plus版（7B），相比基础版本的改进点如下：
+- 相比基础版进一步扩充了训练数据，其中LLaMA扩充至120G文本，Alpaca扩充至4.3M指令数据，重点增加了科学领域数据，涵盖：物理、化学、生物、医学、地球科学等
+- Alpaca训练时采用了更大的rank，相比基础版具有更低的验证集损失
+- Alpaca评测结果：13B获得74.3分，Plus-7B获得78.2分，Plus-13B获得80.8分，具体评测结果请参考[效果评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca/blob/main/examples)
+- 多轮回复长度相比旧模型提升明显（可适当增大温度系数）
+- 知识问答、写作、翻译等方面效果显著提升
 
-- 进一步扩充了训练数据，其中LLaMA扩充至120G文本（通用领域），Alpaca扩充至4M指令数据（重点增加了STEM相关数据）
-- Alpaca训练时采用了更大的rank，相比原版具有更低的验证集损失
-- 评测结果显示，Alpaca-Plus-7B相比基础版Alpaca-7B效果更优，部分任务接近或超过13B版本
-- 这一轮比拼：7B获得65.3分，13B获得70.9分，Plus-7B效果75.3分，具体评测结果请参考[效果评测](https://github.com/ymcui/Chinese-LLaMA-Alpaca/blob/main/examples/README.md)
-
-本模型是`原生LLaMA-7B`合并`中文LLaMA LoRA`和`中文Alpaca LoRA`后的模型权重，可以直接使用或者继续训练。
+本模型是 [decapoda-research/llama-13b-hf](https://huggingface.co/decapoda-research/llama-13b-hf) 
+底座模型 合并 [ziqingyang/chinese-llama-plus-lora-13b](https://huggingface.co/ziqingyang/chinese-llama-plus-lora-13b) 和 [ziqingyang/chinese-alpaca-plus-lora-13b](https://huggingface.co/ziqingyang/chinese-alpaca-plus-lora-13b) 两个LoRA权重，并转化为HuggingFace版本权重（.bin文件），可以直接使用或者继续训练。
 
 
 test case:
 
 |input_text|predict|
 |:-- |:--- |
-|为什么天空是蓝色的？|天空是蓝色的，是因为大气层中的气体分子会散射太阳光中的蓝色光，使得我们看到的天空是蓝色的。|
+|为什么天空是蓝色的？|天空是蓝色的是因为大气中的气体分子散射了太阳光中的短波长蓝光，使得我们看到的天空呈现出蓝色。|
 
 
 ## Usage
@@ -48,7 +50,7 @@ pip install -U textgen
 
 ```python
 from textgen import LlamaModel
-model = LlamaModel("llama", "shibing624/chinese-alpaca-plus-7b-hf")
+model = LlamaModel("llama", "shibing624/chinese-alpaca-plus-13b-hf")
 r = model.predict(["用一句话描述地球为什么是独一无二的。"])
 print(r) # ['地球是独一无二的，因为它拥有独特的大气层、水循环、生物多样性以及其他自然资源，这些都使它成为一个独特的生命支持系统。']
 ```
@@ -78,8 +80,8 @@ def generate_prompt(text):
 ### Response:"""
 
 
-tokenizer = LlamaTokenizer.from_pretrained('shibing624/chinese-alpaca-plus-7b-hf')
-model = LlamaForCausalLM.from_pretrained('shibing624/chinese-alpaca-plus-7b-hf').half().cuda()
+tokenizer = LlamaTokenizer.from_pretrained('shibing624/chinese-alpaca-plus-13b-hf')
+model = LlamaForCausalLM.from_pretrained('shibing624/chinese-alpaca-plus-13b-hf').half().cuda()
 model.eval()
 
 text = '为什么天空是蓝色的？'
@@ -104,31 +106,34 @@ print(output.replace(text, '').strip())
 output:
 ```shell
 为什么天空是蓝色的？
-天空是蓝色的，是因为大气层中的气体分子会散射太阳光中的蓝色光，使得我们看到的天空是蓝色的。
+天空是蓝色的是因为大气中的气体分子散射了太阳光中的短波长蓝光，使得我们看到的天空呈现出蓝色。
 ```
 
 ## 模型来源
 
-基于 [多LoRA权重合并（适用于Chinese-Alpaca-Plus ）](https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E6%89%8B%E5%8A%A8%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6%E4%B8%8E%E8%BD%AC%E6%8D%A2#%E5%A4%9Alora%E6%9D%83%E9%87%8D%E5%90%88%E5%B9%B6%E9%80%82%E7%94%A8%E4%BA%8Echinese-alpaca-plus-)方法手动合并而成，具体是使用 [decapoda-research/llama-7b-hf](https://huggingface.co/decapoda-research/llama-7b-hf) 底座模型 合并 Chinese-LLaMA-Plus-LoRA和Chinese-Alpaca-Plus-LoRA 两个LoRA权重 得到，并转化为HuggingFace版本权重（.bin文件）。
+基于 [多LoRA权重合并（适用于Chinese-Alpaca-Plus ）](https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E6%89%8B%E5%8A%A8%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6%E4%B8%8E%E8%BD%AC%E6%8D%A2#%E5%A4%9Alora%E6%9D%83%E9%87%8D%E5%90%88%E5%B9%B6%E9%80%82%E7%94%A8%E4%BA%8Echinese-alpaca-plus)方法手动合并而成，具体是使用 [decapoda-research/llama-13b-hf](https://huggingface.co/decapoda-research/llama-13b-hf) 
+底座模型 合并 [ziqingyang/chinese-llama-plus-lora-13b](https://huggingface.co/ziqingyang/chinese-llama-plus-lora-13b) 和 [ziqingyang/chinese-alpaca-plus-lora-13b](https://huggingface.co/ziqingyang/chinese-alpaca-plus-lora-13b) 两个LoRA权重 得到，并转化为HuggingFace版本权重（.bin文件）。
 
-release合并后的模型权重，一次到位直接使用，省电、减少碳排放。
+release合并后的模型权重，一步到位直接使用，省电、减少碳排放。
 
 
 模型文件组成：
 ```
-chinese-alpaca-plus-7b-hf
-    config.json
-    generation_config.json
-    pytorch_model-00001-of-00002.bin
-    pytorch_model-00002-of-00002.bin
-    pytorch_model.bin.index.json
-    special_tokens_map.json
-    tokenizer.json
-    tokenizer.model
-    tokenizer_config.json
+chinese-alpaca-plus-13b-hf
+|-- config.json
+|-- generation_config.json
+|-- LICENSE
+|-- pytorch_model-00001-of-00003.bin
+|-- pytorch_model-00002-of-00003.bin
+|-- pytorch_model-00003-of-00003.bin
+|-- pytorch_model.bin.index.json
+|-- README.md
+|-- special_tokens_map.json
+|-- tokenizer_config.json
+`-- tokenizer.model
 ```
 
-硬件要求：14G显存
+硬件要求：25G显存
 
 ### 训练数据集
 
@@ -156,3 +161,4 @@ chinese-alpaca-plus-7b-hf
 
 ## Reference
 - https://github.com/ymcui/Chinese-LLaMA-Alpaca
+