namuwiki-extracted / README.md
heegyu's picture
Update README.md
2184f27
metadata
license: cc-by-nc-sa-2.0
language:
  - ko
language_creators:
  - other
multilinguality:
  - monolingual
size_categories:
  - 100K<n<1M
task_categories:
  - other

namu.wiki database dump

https://namu.wiki/ database dump 2022/03/01

  • 571308rows
  • download size: 2.19GB

주의사항

namu-wiki-extractor를 이용하여 전처리, 추가로 아래 전처리를 수행했습니다

  1. 헤더 제거 == 개요 ==
  2. 테이블 제거
  3. [age(1997-01-01)] 는 전처리 시점 기준으로 적용(2022년 10월 2일)
  4. [math(a / b + c)] 는 제거하지 않음.
  5. math 마크다운이 각주 내에 있을 경우, 각주가 전처리되지 않은 문제 있음.

Usage

pip install datasets
from datasets import load_dataset
dataset = load_dataset("heegyu/namuwiki-extracted")
print(dataset["train"][0])
{
'title': '!!아앗!!', 
'text': '!!ああっと!! ▲신 세계수의 미궁 2에서 뜬 !!아앗!! 세계수의 미궁 시리즈에 전통으로 등장하는 대사. 2편부터 등장했으며 훌륭한 사망 플래그의 예시이다. 세계수의 모험가들이 탐험하는 던전인 수해의 구석구석에는 채취/벌채/채굴 포인트가 있으며, 이를 위한 채집 스킬에 ...', 
'contributors': '110.46.34.123,kirby10,max0243,218.54.117.149,ruby3141,121.165.63.239,iviyuki,1.229.200.194,anatra95,kiri47,175.127.134.2,nickchaos71,chkong1998,kiwitree2,namubot,huwieblusnow', 
'namespace': ''
}