Text Generation
Transformers
PyTorch
Japanese
mpt
Composer
MosaicML
llm-foundry
StreamingDatasets
mpt-7b
custom_code
text-generation-inference
Jumtra commited on
Commit
07d09d3
1 Parent(s): a45eb74

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +12 -0
README.md CHANGED
@@ -28,6 +28,18 @@ June 28, 2023
28
 
29
  CC-BY-SA-3.0
30
 
 
 
 
 
 
 
 
 
 
 
 
 
31
  ## 使用方法
32
 
33
  注意:このモデルでは、from_pretrainedメソッドにtrust_remote_code=Trueを渡す必要があります。
 
28
 
29
  CC-BY-SA-3.0
30
 
31
+ ## 評価
32
+
33
+ [Jumtra/test_data_100QA](https://huggingface.co/datasets/Jumtra/test_data_100QA)を用いてモデルの正答率を評価した
34
+
35
+ | model name | 正答率 |
36
+ | ---- | ---- |
37
+ | mosaicml/mpt-7b | 16/100 |
38
+ | mosaicml/mpt-7b-instruct | 28/100 |
39
+ | Jumtra/mpt-7b-base | 47/100 |
40
+ | Jumtra/mpt-7b-inst | 46/100 |
41
+
42
+
43
  ## 使用方法
44
 
45
  注意:このモデルでは、from_pretrainedメソッドにtrust_remote_code=Trueを渡す必要があります。