template-dataset-pt / README.md
librarian-bot's picture
Librarian Bot: Add language metadata for dataset
68d6c7e verified
|
raw
history blame
5.33 kB
metadata
language:
  - ko
dataset_info:
  features:
    - name: text
      dtype: string
  splits:
    - name: train
      num_bytes: 38168952
      num_examples: 10000
    - name: validation
      num_bytes: 373317
      num_examples: 100
    - name: test
      num_bytes: 3791381
      num_examples: 1000
  download_size: 17083588
  dataset_size: 42333650
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
      - split: test
        path: data/test-*
Abbreviations Training Name Columns
PT Pretraining TwinDoc/template-dataset-pt text
SFT Supervised fine-tuning TwinDoc/template-dataset-sft-alpaca instruction input output
SFT Supervised fine-tuning TwinDoc/template-dataset-sft-chatgpt messages
DPO Direct Preference Optimization TwinDoc/template-dataset-dpo prompt chosen rejected
DatasetDict({
    train: Dataset({
        features: ['text'],
        num_rows: 10000
    })
    validation: Dataset({
        features: ['text'],
        num_rows: 100
    })
    test: Dataset({
        features: ['text'],
        num_rows: 1000
    })
})
{
    "text": "์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ด๋ฏธ ์ง€๊ธˆ ์‚ด๊ณ  ์žˆ๋Š” ๊ทธ ํ—ˆ๋ฆ„ํ•œ ์ž„๋Œ€ ์•„ํŒŒํŠธ ์›”์„ธ๋„ ๋ฒ„๊ฑฐ์›Œํ•˜๋˜ ์—„๋งˆ์˜€๋‹ค. ํ•œ์ฐธ์„ ๊ณจ๋ชฐํ–ˆ์œผ๋‚˜ ๋พฐ์กฑํ•œ ์ˆ˜๊ฐ€ ๋– ์˜ค๋ฅด์ง€ ์•Š์•˜๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.์ง์žฅ์„ ๋‹ค๋‹ˆ์ง€ ์•Š์œผ๋‹ˆ ๋‚ด ์ด๋ฆ„์œผ๋กœ ๋Œ€์ถœ์„ ๋ฐ›์„ ์ˆ˜๋„ ์—†์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๋ˆ๋„ ๋งˆ์Œ๋„ ๋นˆํ„ธํ„ฐ๋ฆฌ์ธ ๋‚ด๊ฐ€ ์ง€๊ธˆ ๊ฐˆ ์ˆ˜ ์žˆ๋Š” ๊ณณ์€ ์žก๋™์‚ฌ๋‹ˆ๋กœ ๊ฐ€๋“ ์ฐฌ ๊ทธ ์ชฝ๋ฐฉ๋ฟ์ด์—ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.๊ฒฐ๊ตญ ๋งˆ์Œ์— ๋ถˆ์•ˆ๊ฐ์„ ๊ฐ€๋“ ํ’ˆ์€ ์ƒํƒœ์—์„œ ๋‚˜๋Š” ๊ฐ€์กฑ๊ณผ ๋‹ค์‹œ ๋งค์ผ์˜ ์‚ถ์„ ๊ณต์œ ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.1๋…„ ์ „ ์ธ์ฒœ ์ง‘์„ ๋– ๋‚˜๋˜ ๊ทธ๋‚ ์ฒ˜๋Ÿผ, ๋‚˜๋Š” ์…ฐ์–ดํ•˜์šฐ์Šค์˜ ์•„์ด๋“ค์—๊ฒŒ ์ธ์‚ฌ ํ•œ๋งˆ๋”” ๊ฑด๋„ค์ง€ ์•Š๊ณ  ์„œ์šธ์„ ๋– ๋‚ฌ๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.ํ‚ค์Šค ๋Œ€๋ž€์˜ ํ›„์œ ์ฆ์€ ์‰ฝ์‚ฌ๋ฆฌ ๊ฐ€์‹œ์ง€ ์•Š์•˜๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์•ˆ์ ˆ๋ถ€์ ˆ๋ชปํ•˜๋˜ ๋ฏธ๋ž€์€ ๊ฒฐ๊ตญ ๋ฐฉ์—์„œ ๋‚˜์™”๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์ฃผ๋ฐฉ์—์„œ๋Š” ๊ตฌ์ˆ˜ํ•œ ๋œ์žฅ์ฐŒ๊ฐœ๊ฐ€ ๋ณด๊ธ€๋ณด๊ธ€ ๋“๊ณ  ์žˆ์—ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.์œ ํ•œ์€ ์˜ฅํƒ‘๋ฐฉ์— ์„ธ ๋“ค์–ด์˜ฌ ์‚ฌ๋žŒ์ด ์ƒ๊ฒผ๋‹ค๋ฉฐ ํ•จ๊ป˜ ๋ฉด์ ‘์„ ๋ณด์ž๊ณ  ๋งํ–ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฌ๋‚˜ ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„, ๋ฏธ๋ž€์€ ํ•œ์—†์ด ํ•˜์ฐฎ๊ณ  ๋ณด์ž˜๊ฒƒ์—†๋Š” ์กด์žฌ์ผ ๋”ฐ๋ฆ„์ด์—ˆ๋‹ค.๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๊ทธ๋Ÿฐ๋ฐ ๋ˆ„๊ตฐ๊ฐ€๋ฅผ ์–ด์ฐŒ ํ‰๊ฐ€ํ•  ์ˆ˜ ์žˆ์„๊นŒ?๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.๋ฐฅ ๋จน์„ ์ž๊ฒฉ์กฐ์ฐจ ์—†๋‹ค๊ณ  ๋ฏธ๋ž€์€ ์ƒ๊ฐํ–ˆ๋‹ค.\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜โ€ฆโ€ฆ. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜โ€ฆโ€ฆ.\"\"๋งŽ์ด ์ปธ๊ตฌ๋‚˜. ์—ญ์‹œ ๋‚ด๊ฐ€ ๋„ˆ๋ฅผ ์ž˜๋ชป ๋ณธ ๊ฒƒ์€ ์•„๋‹ˆ์—ˆ๋‹ค. ํ•˜์ง€๋งŒ, ๋‚˜๋Š” ๋„ค๊ฐ€ ๋‚˜์˜ ์•ˆ๋ฐฐ ๋ชจ๋‘๋ฅผ ํ†ต๊ณผํ•œ ๋’ค์— ๋งŒ๋‚˜๋ณด๊ธฐ๋ฅผ ์›ํ–ˆ์—ˆ๋‹ค. ๊ทธ๋Ÿฐ๋ฐ ๋„ˆ๋Š” ํ•ญ์ƒ ๋‚˜์˜ ์•ˆ๋ฐฐ๋ฅผ ๊ฑฐ๋ถ€ํ•˜๋Š”๊ตฌ๋‚˜.\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"\"์ด๋Ÿฐ ๋นŒ์–ด๋จน์„ ๋งค๋ฅผ ๋ดค๋‚˜!\"์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์šฉํ˜ธ์˜ ์ฒญ๊ฐ์€ ์–ด๋–ค ๋ˆ„๊ตฌ๋ณด๋‹ค ์ข‹์•˜๋‹ค.์ฑ™!์ฑ™!ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.ํ™•์–ธ์€ ๋‹น์‹ ์„ ์‚ฌ๋ž‘์˜ ๊ธธ๋กœ ๊ตณ๊ฒŒ ์ด๋Œ ์ˆ˜ ์žˆ๋Š” ์‰ฝ๊ณ  ์˜จํ™”ํ•œ ๋ฐฉ๋ฒ•์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.๊ทธ๊ฒƒ์€ ๋‹น์‹ ์˜ ์ž์กด๊ฐ์„ ๋†’์ด๊ณ  ์ง„์ •์œผ๋กœ ๋‘๋ ค์›€ ์—†๋Š” ์ž๊ธฐ ์‚ฌ๋ž‘์„ ๋ฐœ์ „์‹œํ‚ค๋Š” ๋ฐ ๋„์›€์„ ์ค„ ๊ฒƒ์ž…๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํ™•์–ธ์„ ์–ด๋–ป๊ฒŒ ์‚ฌ์šฉํ•˜๋Š”์ง€๋Š” ๋‹น์‹ ์—๊ฒŒ ๋‹ฌ๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค.ํฐ์†Œ๋ฆฌ๋กœ ์ฝ๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋„ ์žˆ๊ณ , ๋จธ๋ฆฟ์†์œผ๋กœ ๋งํ•˜๋Š” ๊ฒƒ์„ ์ข‹์•„ํ•˜๋Š” ์ด๋“ค๋„ ์žˆ์Šต๋‹ˆ๋‹ค."
}