Update README.md
Browse files
README.md
CHANGED
@@ -25,3 +25,36 @@ configs:
|
|
25 |
- split: test
|
26 |
path: data/test-*
|
27 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
25 |
- split: test
|
26 |
path: data/test-*
|
27 |
---
|
28 |
+
|
29 |
+
|
30 |
+
| **Abbreviations** | **Training** | **Name** | **Columns** |
|
31 |
+
|-------------------|--------------------------------|--------------------------------------|--------------------------|
|
32 |
+
| **PT** | **Pretraining** | **TwinDoc/template-dataset-pt** | **text** |
|
33 |
+
| SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-alpaca | instruction input output |
|
34 |
+
| SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-chatgpt | messages |
|
35 |
+
| DPO | Direct Preference Optimization | TwinDoc/template-dataset-dpo | prompt chosen rejected |
|
36 |
+
|
37 |
+
|
38 |
+
```
|
39 |
+
DatasetDict({
|
40 |
+
train: Dataset({
|
41 |
+
features: ['text'],
|
42 |
+
num_rows: 10000
|
43 |
+
})
|
44 |
+
validation: Dataset({
|
45 |
+
features: ['text'],
|
46 |
+
num_rows: 100
|
47 |
+
})
|
48 |
+
test: Dataset({
|
49 |
+
features: ['text'],
|
50 |
+
num_rows: 1000
|
51 |
+
})
|
52 |
+
})
|
53 |
+
```
|
54 |
+
|
55 |
+
|
56 |
+
```
|
57 |
+
{
|
58 |
+
"text": "์ด๋ฏธ ์ง๊ธ ์ด๊ณ ์๋ ๊ทธ ํ๋ฆํ ์๋ ์ํํธ ์์ธ๋ ๋ฒ๊ฑฐ์ํ๋ ์๋ง์๋ค. ํ์ฐธ์ ๊ณจ๋ชฐํ์ผ๋ ๋พฐ์กฑํ ์๊ฐ ๋ ์ค๋ฅด์ง ์์๋ค.์ด๋ฏธ ์ง๊ธ ์ด๊ณ ์๋ ๊ทธ ํ๋ฆํ ์๋ ์ํํธ ์์ธ๋ ๋ฒ๊ฑฐ์ํ๋ ์๋ง์๋ค. ํ์ฐธ์ ๊ณจ๋ชฐํ์ผ๋ ๋พฐ์กฑํ ์๊ฐ ๋ ์ค๋ฅด์ง ์์๋ค.์ง์ฅ์ ๋ค๋์ง ์์ผ๋ ๋ด ์ด๋ฆ์ผ๋ก ๋์ถ์ ๋ฐ์ ์๋ ์์๋ค.์ง์ฅ์ ๋ค๋์ง ์์ผ๋ ๋ด ์ด๋ฆ์ผ๋ก ๋์ถ์ ๋ฐ์ ์๋ ์์๋ค.๋๋ ๋ง์๋ ๋นํธํฐ๋ฆฌ์ธ ๋ด๊ฐ ์ง๊ธ ๊ฐ ์ ์๋ ๊ณณ์ ์ก๋์ฌ๋๋ก ๊ฐ๋ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์๋ค.๋๋ ๋ง์๋ ๋นํธํฐ๋ฆฌ์ธ ๋ด๊ฐ ์ง๊ธ ๊ฐ ์ ์๋ ๊ณณ์ ์ก๋์ฌ๋๋ก ๊ฐ๋ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์๋ค.๊ฒฐ๊ตญ ๋ง์์ ๋ถ์๊ฐ์ ๊ฐ๋ ํ์ ์ํ์์ ๋๋ ๊ฐ์กฑ๊ณผ ๋ค์ ๋งค์ผ์ ์ถ์ ๊ณต์ ํ๊ธฐ๋ก ํ๋ค.๊ฒฐ๊ตญ ๋ง์์ ๋ถ์๊ฐ์ ๊ฐ๋ ํ์ ์ํ์์ ๋๋ ๊ฐ์กฑ๊ณผ ๋ค์ ๋งค์ผ์ ์ถ์ ๊ณต์ ํ๊ธฐ๋ก ํ๋ค.1๋
์ ์ธ์ฒ ์ง์ ๋ ๋๋ ๊ทธ๋ ์ฒ๋ผ, ๋๋ ์
ฐ์ดํ์ฐ์ค์ ์์ด๋ค์๊ฒ ์ธ์ฌ ํ๋ง๋ ๊ฑด๋ค์ง ์๊ณ ์์ธ์ ๋ ๋ฌ๋ค.1๋
์ ์ธ์ฒ ์ง์ ๋ ๋๋ ๊ทธ๋ ์ฒ๋ผ, ๋๋ ์
ฐ์ดํ์ฐ์ค์ ์์ด๋ค์๊ฒ ์ธ์ฌ ํ๋ง๋ ๊ฑด๋ค์ง ์๊ณ ์์ธ์ ๋ ๋ฌ๋ค.ํค์ค ๋๋์ ํ์ ์ฆ์ ์ฝ์ฌ๋ฆฌ ๊ฐ์์ง ์์๋ค.ํค์ค ๋๋์ ํ์ ์ฆ์ ์ฝ์ฌ๋ฆฌ ๊ฐ์์ง ์์๋ค.์์ ๋ถ์ ๋ชปํ๋ ๋ฏธ๋์ ๊ฒฐ๊ตญ ๋ฐฉ์์ ๋์๋ค.์์ ๋ถ์ ๋ชปํ๋ ๋ฏธ๋์ ๊ฒฐ๊ตญ ๋ฐฉ์์ ๋์๋ค.์ฃผ๋ฐฉ์์๋ ๊ตฌ์ํ ๋์ฅ์ฐ๊ฐ๊ฐ ๋ณด๊ธ๋ณด๊ธ ๋๊ณ ์์๋ค.์ฃผ๋ฐฉ์์๋ ๊ตฌ์ํ ๋์ฅ์ฐ๊ฐ๊ฐ ๋ณด๊ธ๋ณด๊ธ ๋๊ณ ์์๋ค.์ ํ์ ์ฅํ๋ฐฉ์ ์ธ ๋ค์ด์ฌ ์ฌ๋์ด ์๊ฒผ๋ค๋ฉฐ ํจ๊ป ๋ฉด์ ์ ๋ณด์๊ณ ๋งํ๋ค.์ ํ์ ์ฅํ๋ฐฉ์ ์ธ ๋ค์ด์ฌ ์ฌ๋์ด ์๊ฒผ๋ค๋ฉฐ ํจ๊ป ๋ฉด์ ์ ๋ณด์๊ณ ๋งํ๋ค.๊ทธ๋ฌ๋ ์ง๊ธ ์ด ์๊ฐ, ๋ฏธ๋์ ํ์์ด ํ์ฐฎ๊ณ ๋ณด์๊ฒ์๋ ์กด์ฌ์ผ ๋ฐ๋ฆ์ด์๋ค.๊ทธ๋ฌ๋ ์ง๊ธ ์ด ์๊ฐ, ๋ฏธ๋์ ํ์์ด ํ์ฐฎ๊ณ ๋ณด์๊ฒ์๋ ์กด์ฌ์ผ ๋ฐ๋ฆ์ด์๋ค.๊ทธ๋ฐ๋ฐ ๋๊ตฐ๊ฐ๋ฅผ ์ด์ฐ ํ๊ฐํ ์ ์์๊น?๊ทธ๋ฐ๋ฐ ๋๊ตฐ๊ฐ๋ฅผ ์ด์ฐ ํ๊ฐํ ์ ์์๊น?๋ฐฅ ๋จน์ ์๊ฒฉ์กฐ์ฐจ ์๋ค๊ณ ๋ฏธ๋์ ์๊ฐํ๋ค.๋ฐฅ ๋จน์ ์๊ฒฉ์กฐ์ฐจ ์๋ค๊ณ ๋ฏธ๋์ ์๊ฐํ๋ค.\"๋ง์ด ์ปธ๊ตฌ๋โฆโฆ. ์ญ์ ๋ด๊ฐ ๋๋ฅผ ์๋ชป ๋ณธ ๊ฒ์ ์๋์๋ค. ํ์ง๋ง, ๋๋ ๋ค๊ฐ ๋์ ์๋ฐฐ ๋ชจ๋๋ฅผ ํต๊ณผํ ๋ค์ ๋ง๋๋ณด๊ธฐ๋ฅผ ์ํ์๋ค. ๊ทธ๋ฐ๋ฐ ๋๋ ํญ์ ๋์ ์๋ฐฐ๋ฅผ ๊ฑฐ๋ถํ๋๊ตฌ๋โฆโฆ.\"\"๋ง์ด ์ปธ๊ตฌ๋. ์ญ์ ๋ด๊ฐ ๋๋ฅผ ์๋ชป ๋ณธ ๊ฒ์ ์๋์๋ค. ํ์ง๋ง, ๋๋ ๋ค๊ฐ ๋์ ์๋ฐฐ ๋ชจ๋๋ฅผ ํต๊ณผํ ๋ค์ ๋ง๋๋ณด๊ธฐ๋ฅผ ์ํ์๋ค. ๊ทธ๋ฐ๋ฐ ๋๋ ํญ์ ๋์ ์๋ฐฐ๋ฅผ ๊ฑฐ๋ถํ๋๊ตฌ๋.\"\"์ด๋ฐ ๋น์ด๋จน์ ๋งค๋ฅผ ๋ดค๋!\"\"์ด๋ฐ ๋น์ด๋จน์ ๋งค๋ฅผ ๋ดค๋!\"์ฉํธ์ ์ฒญ๊ฐ์ ์ด๋ค ๋๊ตฌ๋ณด๋ค ์ข์๋ค.์ฉํธ์ ์ฒญ๊ฐ์ ์ด๋ค ๋๊ตฌ๋ณด๋ค ์ข์๋ค.์ฑ!์ฑ!ํ์ธ์ ๋น์ ์ ์ฌ๋์ ๊ธธ๋ก ๊ตณ๊ฒ ์ด๋ ์ ์๋ ์ฝ๊ณ ์จํํ ๋ฐฉ๋ฒ์ ์ ๊ณตํฉ๋๋ค.ํ์ธ์ ๋น์ ์ ์ฌ๋์ ๊ธธ๋ก ๊ตณ๊ฒ ์ด๋ ์ ์๋ ์ฝ๊ณ ์จํํ ๋ฐฉ๋ฒ์ ์ ๊ณตํฉ๋๋ค.๊ทธ๊ฒ์ ๋น์ ์ ์์กด๊ฐ์ ๋์ด๊ณ ์ง์ ์ผ๋ก ๋๋ ค์ ์๋ ์๊ธฐ ์ฌ๋์ ๋ฐ์ ์ํค๋ ๋ฐ ๋์์ ์ค ๊ฒ์
๋๋ค.๊ทธ๊ฒ์ ๋น์ ์ ์์กด๊ฐ์ ๋์ด๊ณ ์ง์ ์ผ๋ก ๋๋ ค์ ์๋ ์๊ธฐ ์ฌ๋์ ๋ฐ์ ์ํค๋ ๋ฐ ๋์์ ์ค ๊ฒ์
๋๋ค.ํ์ธ์ ์ด๋ป๊ฒ ์ฌ์ฉํ๋์ง๋ ๋น์ ์๊ฒ ๋ฌ๋ ค ์์ต๋๋ค.ํ์ธ์ ์ด๋ป๊ฒ ์ฌ์ฉํ๋์ง๋ ๋น์ ์๊ฒ ๋ฌ๋ ค ์์ต๋๋ค.ํฐ์๋ฆฌ๋ก ์ฝ๋ ๊ฒ์ ์ข์ํ๋ ์ฌ๋๋ ์๊ณ , ๋จธ๋ฆฟ์์ผ๋ก ๋งํ๋ ๊ฒ์ ์ข์ํ๋ ์ด๋ค๋ ์์ต๋๋ค.ํฐ์๋ฆฌ๋ก ์ฝ๋ ๊ฒ์ ์ข์ํ๋ ์ฌ๋๋ ์๊ณ , ๋จธ๋ฆฟ์์ผ๋ก ๋งํ๋ ๊ฒ์ ์ข์ํ๋ ์ด๋ค๋ ์์ต๋๋ค."
|
59 |
+
}
|
60 |
+
```
|