ccw7463 commited on
Commit
c9a0511
โ€ข
1 Parent(s): 83987cf

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +42 -0
README.md CHANGED
@@ -25,3 +25,45 @@ configs:
25
  - split: train
26
  path: data/train-*
27
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
25
  - split: train
26
  path: data/train-*
27
  ---
28
+
29
+ ๐Ÿš€ Dataset Info
30
+
31
+ - simple qna : 169021 ๊ฐœ
32
+ - context qna : 88012 ๊ฐœ
33
+
34
+ - Ref (used)
35
+ - beomi/KoAlpaca-v1.1a : 21155 ๊ฐœ
36
+ - nlpai-lab/openassistant-guanaco-ko : 10364 ๊ฐœ
37
+ - HumanF-MarkrAI/WIKI_QA_Near_dedup : 137505 ๊ฐœ
38
+ - squad_kor_v1 : 66181 ๊ฐœ
39
+ - https://github.com/KLUE-benchmark/KLUE/tree/main/klue_benchmark/klue-mrc-v1.1 : 21831๊ฐœ
40
+
41
+ - preocessing
42
+ - (1) beomi/KoAlpaca-v1.1a : '์ถ”๊ฐ€ ์ •๋ณด...', '์ถ”๊ฐ€ ๋‹ต๋ณ€...', '๋ง๋ถ™์ด๋Š” ๋‹ต๋ณ€...'
43
+ - (2) all : change formatting
44
+
45
+ - Note (not used because of quality)
46
+ - GSON-backup/KoInstruct-QA
47
+ - juletxara/tydiqa_xtreme
48
+ - Bingsu/ko_alpaca_data
49
+ - psymon/namuwiki_alpaca_dataset
50
+
51
+ - simple_qna
52
+ ```python
53
+ {'instruction': '์–‘ํŒŒ๋Š” ์–ด๋–ค ์‹๋ฌผ ๋ถ€์œ„์ธ๊ฐ€์š”? ๊ทธ๋ฆฌ๊ณ  ๊ณ ๊ตฌ๋งˆ๋Š” ๋ฟŒ๋ฆฌ์ธ๊ฐ€์š”?',
54
+ 'output': '์–‘ํŒŒ๋Š” ์žŽ์ด ์•„๋‹Œ ์‹๋ฌผ์˜ ์ค„๊ธฐ ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค. ๊ณ ๊ตฌ๋งˆ๋Š” ์‹๋ฌผ์˜ ๋ฟŒ๋ฆฌ ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค. \n\n์‹๋ฌผ์˜ ๋ถ€์œ„์˜ ๊ตฌ๋ถ„์— ๋Œ€ํ•ด ๊ถ๊ธˆํ•ดํ•˜๋Š” ๋ถ„์ด๋ผ๋ฉด ๋ถ„๋ช… ์ด ์งˆ๋ฌธ์— ๋Œ€ํ•œ ๋‹ต์„ ์ฐพ๊ณ  ์žˆ์„ ๊ฒƒ์ž…๋‹ˆ๋‹ค. ์–‘ํŒŒ๋Š” ์žŽ์ด ์•„๋‹Œ ์ค„๊ธฐ ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค. ๊ณ ๊ตฌ๋งˆ๋Š” ๋‹ค๋ฅธ ์งˆ๋ฌธ๊ณผ ๋‹ต๋ณ€์—์„œ ์–ธ๊ธ‰๋œ ๊ฒƒ๊ณผ ๊ฐ™์ด ๋ฟŒ๋ฆฌ ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ, ์–‘ํŒŒ๋Š” ์‹๋ฌผ์˜ ์ค„๊ธฐ ๋ถ€๋ถ„์ด ๋˜๊ณ , ๊ณ ๊ตฌ๋งˆ๋Š” ์‹๋ฌผ์˜ ๋ฟŒ๋ฆฌ ๋ถ€๋ถ„์ž…๋‹ˆ๋‹ค.\n\n ',
55
+ 'category': 'simpe_qna',
56
+ 'input': '',
57
+ 'ref': 'beomi/KoAlpaca-v1.1a',
58
+ 'context': ''}
59
+ ```
60
+
61
+ - context_qna
62
+ ```python
63
+ {'instruction': '์ฃผ์–ด์ง„ ์ •๋ณด๋ฅผ ์ฐธ๊ณ ํ•˜์—ฌ ์‚ฌ์šฉ์ž์˜ ์งˆ๋ฌธ์— ๋‹ต๋ณ€ํ•ด์ฃผ์„ธ์š”.',
64
+ 'output': '๊ฐ•์ฒ ',
65
+ 'category': 'context_qna',
66
+ 'input': '๋งˆ๋ฆฐ ๋ผ์ด๋„ˆ์šฉ์˜ ์ „๋™์ฐจ ์ฐจ์ฒด์˜ ์žฌ์งˆ์€ ๋ฌด์—‡์ธ๊ฐ€?',
67
+ 'ref': 'squad_kor_v1',
68
+ 'context': "JR ์„œ์ผ๋ณธ์ด 1988๋…„ 4์›” 10์ผ์˜ ํ˜ผ์‹œ๋น„์‚ฐ ์„  ์ž์•ผ๋งˆ์น˜ ์—ญ - ์šฐํƒ€์ฆˆ ์—ญ๊ฐ„(ํ˜ผ์‹œ๋น„์‚ฐ ์„ ๊ณผ ์šฐ๋…ธ ์„  ์˜ค์นด์•ผ๋งˆ ์—ญ - ์ž์•ผ๋งˆ์น˜ ์—ญ๊ฐ„๊ณผ ์š”์‚ฐ ์„  ์šฐํƒ€์ฆˆ ์—ญ - ๋‹ค์นด๋งˆ์“ฐ ์—ญ๊ฐ„์„ ์ด์นญํ•˜์—ฌ ์„ธํ† ๋Œ€๊ต ์„ ์˜ ์• ์นญ์„ ๋ถ™์ผ ์ˆ˜ ์žˆ์—ˆ๋‹ค)์˜ ๊ฐœ์—…์‹œ ์‹ ์กฐํ•œ ๋‹จ์ฒดยท์ด๋ฒคํŠธ์šฉ ์ฐจ๋Ÿ‰์œผ๋กœ, ์พŒ์† '๋งˆ๋ฆฐ ๋ผ์ด๋„ˆ'์šฉ์˜ 1๋“ฑ์ฐจ ์ฟ ๋กœ 212ํ˜•๊ณผ ๊ฐ™์€ ์‚ฌ์–‘์˜ 3๋Ÿ‰ ํŽธ์„ฑ์ด๋‹ค. ์„ธํ† ๋Œ€๊ต ์„  ๊ฐœ์—…์‹œ์—๋Š” ํ™ฉํƒœ์ž ๋ถ€๋ถ€๋ฅผ ํƒœ์›Œ ์ฃผํ–‰ํ•œ ์‹ค์ ์ด ์žˆ๋‹ค. ์พŒ์† '๋งˆ๋ฆฐ ๋ผ์ด๋„ˆ'์šฉ์˜ ์ „๋™์ฐจ๋Š” 1M๋ฐฉ์‹์˜ 213๊ณ„์ง€๋งŒ ์ด ํŽธ์„ฑ์€ ๋ณดํ†ต ๊ฐ•์ฒ  ์ฐจ์ฒด๋กœ ๊ฒŒ๋‹ค๊ฐ€ ์ค‘๋Ÿ‰ ์ฆ๊ฐ€ ๋•Œ๋ฌธ์— ์ „๋™์ฐจ๋Š” ์œ ๋‹› ๋ฐฉ์‹์˜ 211๊ณ„(์ฟ ๋ชจ๋กœ 211ํ˜•ยท๋ชจ๋กœ 210ํ˜•)๊ฐ€ ๋˜์—ˆ๋‹ค. ๋˜ํ•œ ์ด ํŽธ์„ฑ์€ JR ์„œ์ผ๋ณธ์˜ ์ง๋ฅ˜ ์ „ํ™” ๊ตฌ๊ฐ„์˜ ์ „์„  ์šด์šฉ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ๋‚ดํ•œ๋‚ด์„ค๊ตฌ์กฐ ๋ฐ ์ตœ๊ณ  ์šดํ–‰ ์†๋„๊ฐ€ 120km/h๋กœ ๋˜์–ด ์žˆ์–ด ํŽธ์„ฑ์„ ์กฐ์„ฑํ•˜๋Š” ์ฟ ๋กœ 212ํ˜•์€ 1000๋ฒˆ๋Œ€๋กœ ๊ตฌ๋ถ„๋˜๊ณ  ์žˆ๋‹ค. ๋ง๋ถ™์—ฌ 1997๋…„ 3์›” ์ „์ฐจ๋Ÿ‰ ๋ฆฌ๋‰ด์–ผ ๊ณต์‚ฌ๊ฐ€ ์‹œ๊ณต๋˜๊ณ  ์žˆ๋‹ค. ๋‹ค๋งŒ ์™ธ์žฅ์€ ๊ทธ๋Œ€๋กœ ์œ ์ง€ํ•˜๊ณ  ์žˆ๋‹ค. 1988๋…„๋„ ๊ตฟ ๋””์ž์ธ ์ƒํ’ˆ(ํ˜„ยท๊ตฟ ๋””์ž์ธ์ƒ)์œผ๋กœ ์„ ์ •๋˜์—ˆ๋‹ค."}
69
+ ```