kmdb_base / README.md
boapps's picture
Upload dataset
dfbc077 verified
metadata
language:
  - hu
size_categories:
  - 10K<n<100K
pretty_name: K-Monitor sajtóadatbázis
dataset_info:
  features:
    - name: news_id
      dtype: int64
    - name: title
      dtype: string
    - name: description
      dtype: string
    - name: text
      dtype: string
    - name: source_url
      dtype: string
    - name: archive_url
      dtype: string
    - name: kmdb_url
      dtype: string
    - name: newspaper
      dtype: string
    - name: category
      dtype: string
    - name: pub_time
      dtype: string
    - name: persons
      sequence: string
    - name: institutions
      sequence: string
    - name: places
      sequence: string
    - name: others
      sequence: string
    - name: files
      sequence: string
  splits:
    - name: train
      num_bytes: 271367177
      num_examples: 59180
  download_size: 154881304
  dataset_size: 271367177
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

Forrás: https://adatbazis.k-monitor.hu/

Használat

from datasets import load_dataset

dataset = load_dataset('K-Monitor/kmdb_base')
# írjuk ki egy cikk címét
print(dataset['train'][0]['title'])

Pandas-zal:

import pandas as pd

df = pd.read_parquet("hf://datasets/K-Monitor/kmdb_base/data/train-00000-of-00001.parquet")

Oszlopok magyarázata

news_id: a cikk k-monitor-os azonosítója

title: hírportál által adott cím (hiányos lehet, lásd: kmonitor_title)

description: k-monitor adatbázisában tárolt leírás

text: cikk szövegének törzse, tisztítva (üres is lehet, de előfordulhat az is, hogy nem teljes)

source_url: cikk url-je, ami hírportálra mutat

archive_url: archive.org-os url, az url archivált változatát tárolja

kmdb_url: a cikk k-monitor adatbázisba felvett rekordjára mutat (https://adatbazis.k-monitor.hu/hirek/...)

newspaper: a hírportál neve (a k-monitor adatbázisból származik)

category: a cikk kategóriája (általában magyar/eu/világ hír)

files: a cikk mely aktákban szerepel

pub_time: a cikk publikálásának időpontja (a k-monitor adatbázisból származik, nem mindig pontos)

authors: a cikk szerzői, ez a hír parsolása közben kinyert információ (lehet, hogy hibás, sokszor hiányzik)

persons: a cikkre felvett személyek

institutions: a cikkre felvett intézmények

places: a cikkre felvett helyszínek

others: a cikkre felvett egyéb címkék