TwinDoc commited on
Commit
de4e8c3
โ€ข
1 Parent(s): cc4f311

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +33 -0
README.md CHANGED
@@ -25,3 +25,36 @@ configs:
25
  - split: test
26
  path: data/test-*
27
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
25
  - split: test
26
  path: data/test-*
27
  ---
28
+
29
+
30
+ | **Abbreviations** | **Training** | **Name** | **Columns** |
31
+ |-------------------|--------------------------------|--------------------------------------|--------------------------|
32
+ | **PT** | **Pretraining** | **TwinDoc/template-dataset-pt** | **text** |
33
+ | SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-alpaca | instruction input output |
34
+ | SFT | Supervised fine-tuning | TwinDoc/template-dataset-sft-chatgpt | messages |
35
+ | DPO | Direct Preference Optimization | TwinDoc/template-dataset-dpo | prompt chosen rejected |
36
+
37
+
38
+ ```
39
+ DatasetDict({
40
+ train: Dataset({
41
+ features: ['text'],
42
+ num_rows: 10000
43
+ })
44
+ validation: Dataset({
45
+ features: ['text'],
46
+ num_rows: 100
47
+ })
48
+ test: Dataset({
49
+ features: ['text'],
50
+ num_rows: 1000
51
+ })
52
+ })
53
+ ```
54
+
55
+
56
+ ```
57
+ {
58
+ "text": "์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜โ€ฆโ€ฆ. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜โ€ฆโ€ฆ.\"\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜.\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์ฑ™!์ฑ™!ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค."
59
+ }
60
+ ```