File size: 3,082 Bytes
7318d0c c5049b7 7318d0c c5049b7 7318d0c c5049b7 7318d0c c5049b7 7318d0c c5049b7 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 |
---
widget:
- text: "สวนกุหลาบเป็นโรงเรียนอะไร"
context: "โรงเรียนสวนกุหลาบวิทยาลัย (Suankularb Wittayalai School) (อักษรย่อ : ส.ก. / S.K.) เป็นโรงเรียนชายล้วน ระดับชั้นมัธยมศึกษาขนาดใหญ่พิเศษ สังกัดสำนักงานเขตพื้นที่การศึกษามัธยมศึกษาเขต 1 สำนักงานคณะกรรมการการศึกษาขั้นพื้นฐาน (ชื่อเดิม: กรมสามัญศึกษา) กระทรวงศึกษาธิการ ก่อตั้งโดย พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ได้รับการสถาปนาขึ้นในวันที่ 8 มีนาคม พ.ศ. 2424 (ขณะนั้นนับวันที่ 1 เมษายน เป็นวันขึ้นปีใหม่ เมื่อนับอย่างสากลถือเป็น พ.ศ. 2425) โดยเป็นโรงเรียนรัฐบาลแห่งแรกของประเทศไทย"
---
# wangchanberta-base-att-spm-uncased-finetune-qa
Finetuning `wangchanberta-base-att-spm-uncased` with the training set of `iapp_wiki_qa_squad` and `thaiqa` (removed examples which have cosine similarity with validation and test examples over 0.8). Benchmarks shared on [wandb](https://wandb.ai/cstorm125/wangchanberta-qa) using validation and test sets of `iapp_wiki_qa_squad`.
Trained with
```
export WANDB_PROJECT=wangchanberta-qa
export MODEL_NAME=wangchanberta-base-att-spm-uncased
python train_question_answering_lm_finetuning.py \\\\
--model_name $MODEL_NAME \\\\
--dataset_name iapp_thaiqa \\\\
--output_dir $MODEL_NAME-finetune-iapp_thaiqa-model \\\\
--log_dir $MODEL_NAME-finetune-iapp_thaiqa-log \\\\
--lowercase \\\\
--pad_on_right \\\\
--fp16
export MODEL_NAME=xlm-roberta-base
python train_question_answering_lm_finetuning.py \\\\
--model_name $MODEL_NAME \\\\
--dataset_name iapp_thaiqa \\\\
--output_dir $MODEL_NAME-finetune-iapp_thaiqa-model \\\\
--log_dir $MODEL_NAME-finetune-iapp_thaiqa-log \\\\
--pad_on_right \\\\
--fp16
export MODEL_NAME=bert-base-multilingual-cased
python train_question_answering_lm_finetuning.py \\\\
--model_name $MODEL_NAME \\\\
--dataset_name iapp_thaiqa \\\\
--output_dir $MODEL_NAME-finetune-iapp_thaiqa-model \\\\
--log_dir $MODEL_NAME-finetune-iapp_thaiqa-log \\\\
--pad_on_right \\\\
--fp16
export MODEL_NAME=wangchanberta-base-wiki-spm
python train_question_answering_lm_finetuning.py \\\\
--model_name $MODEL_NAME \\\\
--dataset_name iapp_thaiqa \\\\
--output_dir $MODEL_NAME-finetune-iapp_thaiqa-model \\\\
--log_dir $MODEL_NAME-finetune-iapp_thaiqa-log \\\\
--pad_on_right \\\\
--fp16
``` |