nkjp1m / nkjp1m.py
wolinski's picture
upload dataset
20b5dcb
raw
history blame contribute delete
No virus
64.7 kB
# coding=utf-8
# Copyright 2020 HuggingFace Datasets Authors.
#
# Licensed under the Apache License, Version 2.0 (the "License");
# you may not use this file except in compliance with the License.
# You may obtain a copy of the License at
#
# http://www.apache.org/licenses/LICENSE-2.0
#
# Unless required by applicable law or agreed to in writing, software
# distributed under the License is distributed on an "AS IS" BASIS,
# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
# See the License for the specific language governing permissions and
# limitations under the License.
# Lint as: python3
"""NKJP1M: The manually annotated subcorpus of the National Corpus of Polish"""
import datasets
import json
logger = datasets.logging.get_logger(__name__)
_CITATION = """\
@Book{nkjp:12,
editor = "Adam Przepiórkowski and Mirosław Bańko and Rafał
L. Górski and Barbara Lewandowska-Tomaszczyk",
title = "Narodowy Korpus Języka Polskiego",
year = 2012,
address = "Warszawa",
pdf = "http://nkjp.pl/settings/papers/NKJP_ksiazka.pdf",
publisher = "Wydawnictwo Naukowe PWN"}
"""
_DESCRIPTION = """\
This is the official dataset for NKJP1M – the 1-million token subcorpus of the
National Corpus of Polish (Narodowy Korpus Języka Polskiego)
Besides the text (divided into paragraphs/samples and sentences) the
set contains lemmas and morpho-syntactic tags for all tokens in the corpus.
This release corresponds to the version 1.2 of the corpus with
following corrections and improvements. In particular the
morpho-syntactic annotation has been aligned with the present version
of Morfeusz2 morphological analyser.
"""
_URLS = {
'train': "nkjp1m_train.jsonl.gz",
'dev': "nkjp1m_dev.jsonl.gz",
'test': "nkjp1m_test.jsonl.gz",
}
class NKJP1MConfig(datasets.BuilderConfig):
"""BuilderConfig for NKJP1M"""
def __init__(self, **kwargs):
"""BuilderConfig forNKJP1M.
Args:
**kwargs: keyword arguments forwarded to super.
"""
super(NKJP1MConfig, self).__init__(**kwargs)
class NKJP1M(datasets.GeneratorBasedBuilder):
"""NKJP1M dataset."""
BUILDER_CONFIGS = [
NKJP1MConfig(name="nkjp1m",
version=datasets.Version("1.3.0"),
description="NKJP1M dataset"),
]
def _info(self):
return datasets.DatasetInfo(
description=_DESCRIPTION,
features=datasets.Features(
{
"nkjp_text": datasets.Value("string"),
"nkjp_par": datasets.Value("string"),
"nkjp_sent": datasets.Value("string"),
"tokens": datasets.Sequence(datasets.Value("string")),
"lemmas": datasets.Sequence(datasets.Value("string")),
"cposes": datasets.Sequence(
datasets.features.ClassLabel(
names=[
'A',
'Adv',
'Comp',
'Conj',
'Dig',
'Interj',
'N',
'Num',
'Part',
'Prep',
'Punct',
'V',
'X'
])),
"poses": datasets.Sequence(
datasets.features.ClassLabel(
names=[
'adj',
'adja',
'adjc',
'adjp',
'adv',
'aglt',
'bedzie',
'brev',
'comp',
'conj',
'depr',
'dig',
'fin',
'frag',
'ger',
'imps',
'impt',
'inf',
'interj',
'interp',
'num',
'numcomp',
'pact',
'pacta',
'pant',
'part',
'pcon',
'ppas',
'ppron12',
'ppron3',
'praet',
'pred',
'prep',
'romandig',
'siebie',
'subst',
'sym',
'winien',
'xxs',
'xxx'
])),
"tags": datasets.Sequence(
datasets.features.ClassLabel(
names=[
'adj:pl:acc:f:com',
'adj:pl:acc:f:pos',
'adj:pl:acc:f:sup',
'adj:pl:acc:m1:com',
'adj:pl:acc:m1:pos',
'adj:pl:acc:m1:sup',
'adj:pl:acc:m2:com',
'adj:pl:acc:m2:pos',
'adj:pl:acc:m2:sup',
'adj:pl:acc:m3:com',
'adj:pl:acc:m3:pos',
'adj:pl:acc:m3:sup',
'adj:pl:acc:n:com',
'adj:pl:acc:n:pos',
'adj:pl:acc:n:sup',
'adj:pl:dat:f:com',
'adj:pl:dat:f:pos',
'adj:pl:dat:f:sup',
'adj:pl:dat:m1:com',
'adj:pl:dat:m1:pos',
'adj:pl:dat:m1:sup',
'adj:pl:dat:m2:pos',
'adj:pl:dat:m3:com',
'adj:pl:dat:m3:pos',
'adj:pl:dat:n:pos',
'adj:pl:dat:n:sup',
'adj:pl:gen:f:com',
'adj:pl:gen:f:pos',
'adj:pl:gen:f:sup',
'adj:pl:gen:m1:com',
'adj:pl:gen:m1:pos',
'adj:pl:gen:m1:sup',
'adj:pl:gen:m2:com',
'adj:pl:gen:m2:pos',
'adj:pl:gen:m2:sup',
'adj:pl:gen:m3:com',
'adj:pl:gen:m3:pos',
'adj:pl:gen:m3:sup',
'adj:pl:gen:n:com',
'adj:pl:gen:n:pos',
'adj:pl:gen:n:sup',
'adj:pl:inst:f:com',
'adj:pl:inst:f:pos',
'adj:pl:inst:f:sup',
'adj:pl:inst:m1:com',
'adj:pl:inst:m1:pos',
'adj:pl:inst:m1:sup',
'adj:pl:inst:m2:pos',
'adj:pl:inst:m3:com',
'adj:pl:inst:m3:pos',
'adj:pl:inst:m3:sup',
'adj:pl:inst:n:com',
'adj:pl:inst:n:pos',
'adj:pl:inst:n:sup',
'adj:pl:loc:f:com',
'adj:pl:loc:f:pos',
'adj:pl:loc:f:sup',
'adj:pl:loc:m1:com',
'adj:pl:loc:m1:pos',
'adj:pl:loc:m1:sup',
'adj:pl:loc:m2:pos',
'adj:pl:loc:m3:com',
'adj:pl:loc:m3:pos',
'adj:pl:loc:m3:sup',
'adj:pl:loc:n:com',
'adj:pl:loc:n:pos',
'adj:pl:loc:n:sup',
'adj:pl:nom:f:com',
'adj:pl:nom:f:pos',
'adj:pl:nom:f:sup',
'adj:pl:nom:m1:com',
'adj:pl:nom:m1:pos',
'adj:pl:nom:m1:sup',
'adj:pl:nom:m2:com',
'adj:pl:nom:m2:pos',
'adj:pl:nom:m2:sup',
'adj:pl:nom:m3:com',
'adj:pl:nom:m3:pos',
'adj:pl:nom:m3:sup',
'adj:pl:nom:n:com',
'adj:pl:nom:n:pos',
'adj:pl:nom:n:sup',
'adj:pl:voc:f:pos',
'adj:pl:voc:m1:pos',
'adj:pl:voc:m2:pos',
'adj:pl:voc:n:pos',
'adj:sg:acc:f:com',
'adj:sg:acc:f:pos',
'adj:sg:acc:f:sup',
'adj:sg:acc:m1:com',
'adj:sg:acc:m1:pos',
'adj:sg:acc:m1:sup',
'adj:sg:acc:m2:com',
'adj:sg:acc:m2:pos',
'adj:sg:acc:m2:sup',
'adj:sg:acc:m3:com',
'adj:sg:acc:m3:pos',
'adj:sg:acc:m3:sup',
'adj:sg:acc:n:com',
'adj:sg:acc:n:pos',
'adj:sg:acc:n:sup',
'adj:sg:dat:f:com',
'adj:sg:dat:f:pos',
'adj:sg:dat:f:sup',
'adj:sg:dat:m1:com',
'adj:sg:dat:m1:pos',
'adj:sg:dat:m1:sup',
'adj:sg:dat:m2:pos',
'adj:sg:dat:m3:com',
'adj:sg:dat:m3:pos',
'adj:sg:dat:m3:sup',
'adj:sg:dat:n:com',
'adj:sg:dat:n:pos',
'adj:sg:dat:n:sup',
'adj:sg:gen:f:com',
'adj:sg:gen:f:pos',
'adj:sg:gen:f:sup',
'adj:sg:gen:m1:com',
'adj:sg:gen:m1:pos',
'adj:sg:gen:m1:sup',
'adj:sg:gen:m2:pos',
'adj:sg:gen:m2:sup',
'adj:sg:gen:m3:com',
'adj:sg:gen:m3:pos',
'adj:sg:gen:m3:sup',
'adj:sg:gen:n:com',
'adj:sg:gen:n:pos',
'adj:sg:gen:n:sup',
'adj:sg:inst:f:com',
'adj:sg:inst:f:pos',
'adj:sg:inst:f:sup',
'adj:sg:inst:m1:com',
'adj:sg:inst:m1:pos',
'adj:sg:inst:m1:sup',
'adj:sg:inst:m2:com',
'adj:sg:inst:m2:pos',
'adj:sg:inst:m2:sup',
'adj:sg:inst:m3:com',
'adj:sg:inst:m3:pos',
'adj:sg:inst:m3:sup',
'adj:sg:inst:n:com',
'adj:sg:inst:n:pos',
'adj:sg:inst:n:sup',
'adj:sg:loc:f:com',
'adj:sg:loc:f:pos',
'adj:sg:loc:f:sup',
'adj:sg:loc:m1:com',
'adj:sg:loc:m1:pos',
'adj:sg:loc:m1:sup',
'adj:sg:loc:m2:com',
'adj:sg:loc:m2:pos',
'adj:sg:loc:m3:com',
'adj:sg:loc:m3:pos',
'adj:sg:loc:m3:sup',
'adj:sg:loc:n:com',
'adj:sg:loc:n:pos',
'adj:sg:loc:n:sup',
'adj:sg:nom:f:com',
'adj:sg:nom:f:pos',
'adj:sg:nom:f:sup',
'adj:sg:nom:m1:com',
'adj:sg:nom:m1:pos',
'adj:sg:nom:m1:sup',
'adj:sg:nom:m2:com',
'adj:sg:nom:m2:pos',
'adj:sg:nom:m2:sup',
'adj:sg:nom:m3:com',
'adj:sg:nom:m3:pos',
'adj:sg:nom:m3:sup',
'adj:sg:nom:n:com',
'adj:sg:nom:n:pos',
'adj:sg:nom:n:sup',
'adj:sg:voc:f:pos',
'adj:sg:voc:f:sup',
'adj:sg:voc:m1:pos',
'adj:sg:voc:m1:sup',
'adj:sg:voc:m2:pos',
'adj:sg:voc:m3:pos',
'adj:sg:voc:n:pos',
'adja',
'adjc',
'adjp:dat',
'adjp:gen',
'adv',
'adv:com',
'adv:pos',
'adv:sup',
'aglt:pl:pri:imperf:nwok',
'aglt:pl:sec:imperf:nwok',
'aglt:sg:pri:imperf:nwok',
'aglt:sg:pri:imperf:wok',
'aglt:sg:sec:imperf:nwok',
'aglt:sg:sec:imperf:wok',
'bedzie:pl:pri:imperf',
'bedzie:pl:sec:imperf',
'bedzie:pl:ter:imperf',
'bedzie:sg:pri:imperf',
'bedzie:sg:sec:imperf',
'bedzie:sg:ter:imperf',
'brev:npun',
'brev:pun',
'comp',
'conj',
'depr:pl:acc:m2',
'depr:pl:nom:m2',
'depr:pl:voc:m2',
'dig',
'fin:pl:pri:imperf',
'fin:pl:pri:perf',
'fin:pl:sec:imperf',
'fin:pl:sec:perf',
'fin:pl:ter:imperf',
'fin:pl:ter:perf',
'fin:sg:pri:imperf',
'fin:sg:pri:perf',
'fin:sg:sec:imperf',
'fin:sg:sec:perf',
'fin:sg:ter:imperf',
'fin:sg:ter:perf',
'frag',
'ger:pl:acc:n:imperf:aff',
'ger:pl:acc:n:perf:aff',
'ger:pl:dat:n:perf:aff',
'ger:pl:gen:n:imperf:aff',
'ger:pl:gen:n:perf:aff',
'ger:pl:inst:n:imperf:aff',
'ger:pl:inst:n:perf:aff',
'ger:pl:loc:n:imperf:aff',
'ger:pl:loc:n:perf:aff',
'ger:pl:nom:n:imperf:aff',
'ger:pl:nom:n:perf:aff',
'ger:sg:acc:n:imperf:aff',
'ger:sg:acc:n:imperf:neg',
'ger:sg:acc:n:perf:aff',
'ger:sg:acc:n:perf:neg',
'ger:sg:dat:n:imperf:aff',
'ger:sg:dat:n:perf:aff',
'ger:sg:dat:n:perf:neg',
'ger:sg:gen:n:imperf:aff',
'ger:sg:gen:n:imperf:neg',
'ger:sg:gen:n:perf:aff',
'ger:sg:gen:n:perf:neg',
'ger:sg:inst:n:imperf:aff',
'ger:sg:inst:n:imperf:neg',
'ger:sg:inst:n:perf:aff',
'ger:sg:inst:n:perf:neg',
'ger:sg:loc:n:imperf:aff',
'ger:sg:loc:n:imperf:neg',
'ger:sg:loc:n:perf:aff',
'ger:sg:loc:n:perf:neg',
'ger:sg:nom:n:imperf:aff',
'ger:sg:nom:n:imperf:neg',
'ger:sg:nom:n:perf:aff',
'ger:sg:nom:n:perf:neg',
'imps:imperf',
'imps:perf',
'impt:pl:pri:imperf',
'impt:pl:pri:perf',
'impt:pl:sec:imperf',
'impt:pl:sec:perf',
'impt:sg:pri:imperf',
'impt:sg:sec:imperf',
'impt:sg:sec:perf',
'inf:imperf',
'inf:perf',
'interj',
'interp',
'num:pl:acc:f:congr:ncol',
'num:pl:acc:f:rec',
'num:pl:acc:f:rec:ncol',
'num:pl:acc:m1:rec',
'num:pl:acc:m1:rec:col',
'num:pl:acc:m1:rec:ncol',
'num:pl:acc:m2:congr:ncol',
'num:pl:acc:m2:rec',
'num:pl:acc:m2:rec:ncol',
'num:pl:acc:m3:congr',
'num:pl:acc:m3:congr:ncol',
'num:pl:acc:m3:rec',
'num:pl:acc:m3:rec:ncol',
'num:pl:acc:n:congr:ncol',
'num:pl:acc:n:rec',
'num:pl:acc:n:rec:col',
'num:pl:acc:n:rec:ncol',
'num:pl:dat:f:congr',
'num:pl:dat:f:congr:ncol',
'num:pl:dat:m1:congr',
'num:pl:dat:m1:congr:col',
'num:pl:dat:m1:congr:ncol',
'num:pl:dat:m2:congr',
'num:pl:dat:m3:congr:ncol',
'num:pl:dat:n:congr',
'num:pl:dat:n:congr:ncol',
'num:pl:gen:f:congr',
'num:pl:gen:f:congr:ncol',
'num:pl:gen:f:rec',
'num:pl:gen:f:rec:ncol',
'num:pl:gen:m1:congr',
'num:pl:gen:m1:congr:ncol',
'num:pl:gen:m1:rec',
'num:pl:gen:m1:rec:col',
'num:pl:gen:m2:congr',
'num:pl:gen:m2:congr:ncol',
'num:pl:gen:m2:rec',
'num:pl:gen:m3:congr',
'num:pl:gen:m3:congr:ncol',
'num:pl:gen:m3:rec',
'num:pl:gen:m3:rec:ncol',
'num:pl:gen:n:congr',
'num:pl:gen:n:congr:ncol',
'num:pl:gen:n:rec',
'num:pl:gen:n:rec:col',
'num:pl:inst:f:congr',
'num:pl:inst:f:congr:ncol',
'num:pl:inst:m1:congr',
'num:pl:inst:m1:congr:ncol',
'num:pl:inst:m1:rec:col',
'num:pl:inst:m2:congr',
'num:pl:inst:m2:congr:ncol',
'num:pl:inst:m3:congr',
'num:pl:inst:m3:congr:ncol',
'num:pl:inst:n:congr',
'num:pl:inst:n:congr:ncol',
'num:pl:inst:n:rec:col',
'num:pl:loc:f:congr',
'num:pl:loc:f:congr:ncol',
'num:pl:loc:m1:congr',
'num:pl:loc:m1:congr:ncol',
'num:pl:loc:m2:congr',
'num:pl:loc:m2:congr:ncol',
'num:pl:loc:m3:congr',
'num:pl:loc:m3:congr:ncol',
'num:pl:loc:n:congr',
'num:pl:loc:n:congr:ncol',
'num:pl:nom:f:congr:ncol',
'num:pl:nom:f:rec',
'num:pl:nom:f:rec:ncol',
'num:pl:nom:m1:congr:ncol',
'num:pl:nom:m1:rec',
'num:pl:nom:m1:rec:col',
'num:pl:nom:m1:rec:ncol',
'num:pl:nom:m2:congr:ncol',
'num:pl:nom:m2:rec',
'num:pl:nom:m2:rec:ncol',
'num:pl:nom:m3:congr:ncol',
'num:pl:nom:m3:rec',
'num:pl:nom:m3:rec:ncol',
'num:pl:nom:n:congr',
'num:pl:nom:n:congr:ncol',
'num:pl:nom:n:rec',
'num:pl:nom:n:rec:col',
'num:pl:nom:n:rec:ncol',
'num:sg:acc:f:rec',
'num:sg:acc:f:rec:ncol',
'num:sg:acc:m1:rec:ncol',
'num:sg:acc:m2:rec',
'num:sg:acc:m3:rec',
'num:sg:acc:m3:rec:ncol',
'num:sg:acc:n:rec',
'num:sg:gen:f:rec',
'num:sg:gen:m3:rec',
'num:sg:gen:n:rec',
'num:sg:inst:m3:rec',
'num:sg:loc:f:rec',
'num:sg:loc:m3:congr',
'num:sg:loc:m3:rec',
'num:sg:nom:f:rec',
'num:sg:nom:m2:rec',
'num:sg:nom:m3:rec',
'num:sg:nom:m3:rec:ncol',
'num:sg:nom:n:rec',
'numcomp',
'pact:pl:acc:f:imperf:aff',
'pact:pl:acc:f:imperf:neg',
'pact:pl:acc:m1:imperf:aff',
'pact:pl:acc:m2:imperf:aff',
'pact:pl:acc:m3:imperf:aff',
'pact:pl:acc:m3:imperf:neg',
'pact:pl:acc:n:imperf:aff',
'pact:pl:acc:n:imperf:neg',
'pact:pl:dat:f:imperf:aff',
'pact:pl:dat:m1:imperf:aff',
'pact:pl:dat:m2:imperf:aff',
'pact:pl:dat:m3:imperf:aff',
'pact:pl:dat:n:imperf:aff',
'pact:pl:gen:f:imperf:aff',
'pact:pl:gen:f:imperf:neg',
'pact:pl:gen:m1:imperf:aff',
'pact:pl:gen:m1:imperf:neg',
'pact:pl:gen:m2:imperf:aff',
'pact:pl:gen:m3:imperf:aff',
'pact:pl:gen:m3:imperf:neg',
'pact:pl:gen:n:imperf:aff',
'pact:pl:inst:f:imperf:aff',
'pact:pl:inst:m1:imperf:aff',
'pact:pl:inst:m2:imperf:aff',
'pact:pl:inst:m3:imperf:aff',
'pact:pl:inst:m3:imperf:neg',
'pact:pl:inst:n:imperf:aff',
'pact:pl:inst:n:imperf:neg',
'pact:pl:loc:f:imperf:aff',
'pact:pl:loc:m1:imperf:aff',
'pact:pl:loc:m3:imperf:aff',
'pact:pl:loc:m3:imperf:neg',
'pact:pl:loc:n:imperf:aff',
'pact:pl:loc:n:imperf:neg',
'pact:pl:nom:f:imperf:aff',
'pact:pl:nom:f:imperf:neg',
'pact:pl:nom:m1:imperf:aff',
'pact:pl:nom:m2:imperf:aff',
'pact:pl:nom:m3:imperf:aff',
'pact:pl:nom:n:imperf:aff',
'pact:pl:nom:n:imperf:neg',
'pact:pl:voc:f:imperf:aff',
'pact:sg:acc:f:imperf:aff',
'pact:sg:acc:f:imperf:neg',
'pact:sg:acc:m1:imperf:aff',
'pact:sg:acc:m2:imperf:aff',
'pact:sg:acc:m3:imperf:aff',
'pact:sg:acc:n:imperf:aff',
'pact:sg:acc:n:imperf:neg',
'pact:sg:dat:f:imperf:aff',
'pact:sg:dat:m1:imperf:aff',
'pact:sg:dat:m2:imperf:aff',
'pact:sg:dat:m3:imperf:aff',
'pact:sg:dat:n:imperf:aff',
'pact:sg:gen:f:imperf:aff',
'pact:sg:gen:f:imperf:neg',
'pact:sg:gen:m1:imperf:aff',
'pact:sg:gen:m1:imperf:neg',
'pact:sg:gen:m2:imperf:aff',
'pact:sg:gen:m3:imperf:aff',
'pact:sg:gen:m3:imperf:neg',
'pact:sg:gen:n:imperf:aff',
'pact:sg:gen:n:imperf:neg',
'pact:sg:inst:f:imperf:aff',
'pact:sg:inst:f:imperf:neg',
'pact:sg:inst:m1:imperf:aff',
'pact:sg:inst:m1:imperf:neg',
'pact:sg:inst:m2:imperf:aff',
'pact:sg:inst:m2:imperf:neg',
'pact:sg:inst:m3:imperf:aff',
'pact:sg:inst:m3:imperf:neg',
'pact:sg:inst:n:imperf:aff',
'pact:sg:loc:f:imperf:aff',
'pact:sg:loc:f:imperf:neg',
'pact:sg:loc:m1:imperf:aff',
'pact:sg:loc:m2:imperf:aff',
'pact:sg:loc:m3:imperf:aff',
'pact:sg:loc:m3:imperf:neg',
'pact:sg:loc:n:imperf:aff',
'pact:sg:loc:n:imperf:neg',
'pact:sg:nom:f:imperf:aff',
'pact:sg:nom:f:imperf:neg',
'pact:sg:nom:m1:imperf:aff',
'pact:sg:nom:m1:imperf:neg',
'pact:sg:nom:m2:imperf:aff',
'pact:sg:nom:m3:imperf:aff',
'pact:sg:nom:m3:imperf:neg',
'pact:sg:nom:n:imperf:aff',
'pact:sg:nom:n:imperf:neg',
'pact:sg:voc:m1:imperf:aff',
'pacta',
'pant:perf',
'part',
'part:nwok',
'part:wok',
'pcon:imperf',
'ppas:pl:acc:f:imperf:aff',
'ppas:pl:acc:f:perf:aff',
'ppas:pl:acc:f:perf:neg',
'ppas:pl:acc:m1:imperf:aff',
'ppas:pl:acc:m1:imperf:neg',
'ppas:pl:acc:m1:perf:aff',
'ppas:pl:acc:m1:perf:neg',
'ppas:pl:acc:m2:imperf:aff',
'ppas:pl:acc:m2:perf:aff',
'ppas:pl:acc:m3:imperf:aff',
'ppas:pl:acc:m3:perf:aff',
'ppas:pl:acc:m3:perf:neg',
'ppas:pl:acc:n:imperf:aff',
'ppas:pl:acc:n:imperf:neg',
'ppas:pl:acc:n:perf:aff',
'ppas:pl:acc:n:perf:neg',
'ppas:pl:dat:f:imperf:aff',
'ppas:pl:dat:f:perf:aff',
'ppas:pl:dat:f:perf:neg',
'ppas:pl:dat:m1:imperf:aff',
'ppas:pl:dat:m1:perf:aff',
'ppas:pl:dat:m1:perf:neg',
'ppas:pl:dat:m2:imperf:aff',
'ppas:pl:dat:m3:imperf:aff',
'ppas:pl:dat:m3:perf:aff',
'ppas:pl:dat:n:imperf:aff',
'ppas:pl:dat:n:perf:aff',
'ppas:pl:gen:f:imperf:aff',
'ppas:pl:gen:f:imperf:neg',
'ppas:pl:gen:f:perf:aff',
'ppas:pl:gen:f:perf:neg',
'ppas:pl:gen:m1:imperf:aff',
'ppas:pl:gen:m1:imperf:neg',
'ppas:pl:gen:m1:perf:aff',
'ppas:pl:gen:m1:perf:neg',
'ppas:pl:gen:m2:imperf:aff',
'ppas:pl:gen:m2:perf:aff',
'ppas:pl:gen:m3:imperf:aff',
'ppas:pl:gen:m3:imperf:neg',
'ppas:pl:gen:m3:perf:aff',
'ppas:pl:gen:m3:perf:neg',
'ppas:pl:gen:n:imperf:aff',
'ppas:pl:gen:n:perf:aff',
'ppas:pl:gen:n:perf:neg',
'ppas:pl:inst:f:imperf:aff',
'ppas:pl:inst:f:perf:aff',
'ppas:pl:inst:m1:imperf:aff',
'ppas:pl:inst:m1:perf:aff',
'ppas:pl:inst:m2:perf:aff',
'ppas:pl:inst:m3:imperf:aff',
'ppas:pl:inst:m3:perf:aff',
'ppas:pl:inst:n:imperf:aff',
'ppas:pl:inst:n:perf:aff',
'ppas:pl:loc:f:imperf:aff',
'ppas:pl:loc:f:imperf:neg',
'ppas:pl:loc:f:perf:aff',
'ppas:pl:loc:f:perf:neg',
'ppas:pl:loc:m1:imperf:aff',
'ppas:pl:loc:m1:perf:aff',
'ppas:pl:loc:m2:imperf:aff',
'ppas:pl:loc:m3:imperf:aff',
'ppas:pl:loc:m3:perf:aff',
'ppas:pl:loc:m3:perf:neg',
'ppas:pl:loc:n:imperf:aff',
'ppas:pl:loc:n:perf:aff',
'ppas:pl:loc:n:perf:neg',
'ppas:pl:nom:f:imperf:aff',
'ppas:pl:nom:f:imperf:neg',
'ppas:pl:nom:f:perf:aff',
'ppas:pl:nom:f:perf:neg',
'ppas:pl:nom:m1:imperf:aff',
'ppas:pl:nom:m1:imperf:neg',
'ppas:pl:nom:m1:perf:aff',
'ppas:pl:nom:m1:perf:neg',
'ppas:pl:nom:m2:imperf:aff',
'ppas:pl:nom:m2:perf:aff',
'ppas:pl:nom:m3:imperf:aff',
'ppas:pl:nom:m3:imperf:neg',
'ppas:pl:nom:m3:perf:aff',
'ppas:pl:nom:m3:perf:neg',
'ppas:pl:nom:n:imperf:aff',
'ppas:pl:nom:n:perf:aff',
'ppas:pl:nom:n:perf:neg',
'ppas:pl:voc:f:imperf:aff',
'ppas:sg:acc:f:imperf:aff',
'ppas:sg:acc:f:imperf:neg',
'ppas:sg:acc:f:perf:aff',
'ppas:sg:acc:f:perf:neg',
'ppas:sg:acc:m1:imperf:aff',
'ppas:sg:acc:m1:perf:aff',
'ppas:sg:acc:m2:imperf:aff',
'ppas:sg:acc:m2:perf:aff',
'ppas:sg:acc:m3:imperf:aff',
'ppas:sg:acc:m3:imperf:neg',
'ppas:sg:acc:m3:perf:aff',
'ppas:sg:acc:m3:perf:neg',
'ppas:sg:acc:n:imperf:aff',
'ppas:sg:acc:n:perf:aff',
'ppas:sg:acc:n:perf:neg',
'ppas:sg:dat:f:imperf:aff',
'ppas:sg:dat:f:imperf:neg',
'ppas:sg:dat:f:perf:aff',
'ppas:sg:dat:f:perf:neg',
'ppas:sg:dat:m1:imperf:aff',
'ppas:sg:dat:m1:perf:aff',
'ppas:sg:dat:m2:perf:aff',
'ppas:sg:dat:m3:imperf:aff',
'ppas:sg:dat:m3:perf:aff',
'ppas:sg:dat:n:perf:aff',
'ppas:sg:gen:f:imperf:aff',
'ppas:sg:gen:f:imperf:neg',
'ppas:sg:gen:f:perf:aff',
'ppas:sg:gen:f:perf:neg',
'ppas:sg:gen:m1:imperf:aff',
'ppas:sg:gen:m1:perf:aff',
'ppas:sg:gen:m1:perf:neg',
'ppas:sg:gen:m2:imperf:aff',
'ppas:sg:gen:m2:perf:aff',
'ppas:sg:gen:m3:imperf:aff',
'ppas:sg:gen:m3:imperf:neg',
'ppas:sg:gen:m3:perf:aff',
'ppas:sg:gen:m3:perf:neg',
'ppas:sg:gen:n:imperf:aff',
'ppas:sg:gen:n:imperf:neg',
'ppas:sg:gen:n:perf:aff',
'ppas:sg:gen:n:perf:neg',
'ppas:sg:inst:f:imperf:aff',
'ppas:sg:inst:f:imperf:neg',
'ppas:sg:inst:f:perf:aff',
'ppas:sg:inst:f:perf:neg',
'ppas:sg:inst:m1:imperf:aff',
'ppas:sg:inst:m1:imperf:neg',
'ppas:sg:inst:m1:perf:aff',
'ppas:sg:inst:m1:perf:neg',
'ppas:sg:inst:m2:imperf:aff',
'ppas:sg:inst:m2:perf:aff',
'ppas:sg:inst:m3:imperf:aff',
'ppas:sg:inst:m3:imperf:neg',
'ppas:sg:inst:m3:perf:aff',
'ppas:sg:inst:m3:perf:neg',
'ppas:sg:inst:n:imperf:aff',
'ppas:sg:inst:n:imperf:neg',
'ppas:sg:inst:n:perf:aff',
'ppas:sg:inst:n:perf:neg',
'ppas:sg:loc:f:imperf:aff',
'ppas:sg:loc:f:perf:aff',
'ppas:sg:loc:f:perf:neg',
'ppas:sg:loc:m1:imperf:aff',
'ppas:sg:loc:m1:perf:aff',
'ppas:sg:loc:m2:imperf:aff',
'ppas:sg:loc:m3:imperf:aff',
'ppas:sg:loc:m3:imperf:neg',
'ppas:sg:loc:m3:perf:aff',
'ppas:sg:loc:m3:perf:neg',
'ppas:sg:loc:n:imperf:aff',
'ppas:sg:loc:n:perf:aff',
'ppas:sg:loc:n:perf:neg',
'ppas:sg:nom:f:imperf:aff',
'ppas:sg:nom:f:imperf:neg',
'ppas:sg:nom:f:perf:aff',
'ppas:sg:nom:f:perf:neg',
'ppas:sg:nom:m1:imperf:aff',
'ppas:sg:nom:m1:imperf:neg',
'ppas:sg:nom:m1:perf:aff',
'ppas:sg:nom:m1:perf:neg',
'ppas:sg:nom:m2:imperf:aff',
'ppas:sg:nom:m2:perf:aff',
'ppas:sg:nom:m3:imperf:aff',
'ppas:sg:nom:m3:imperf:neg',
'ppas:sg:nom:m3:perf:aff',
'ppas:sg:nom:m3:perf:neg',
'ppas:sg:nom:n:imperf:aff',
'ppas:sg:nom:n:imperf:neg',
'ppas:sg:nom:n:perf:aff',
'ppas:sg:nom:n:perf:neg',
'ppas:sg:voc:m1:perf:aff',
'ppas:sg:voc:m2:imperf:aff',
'ppas:sg:voc:m3:perf:aff',
'ppron12:pl:acc:f:pri',
'ppron12:pl:acc:f:sec',
'ppron12:pl:acc:m1:pri',
'ppron12:pl:acc:m1:sec',
'ppron12:pl:acc:m2:sec',
'ppron12:pl:acc:n:sec',
'ppron12:pl:dat:f:pri',
'ppron12:pl:dat:f:sec',
'ppron12:pl:dat:m1:pri',
'ppron12:pl:dat:m1:sec',
'ppron12:pl:dat:m3:sec',
'ppron12:pl:gen:f:pri',
'ppron12:pl:gen:f:sec',
'ppron12:pl:gen:m1:pri',
'ppron12:pl:gen:m1:sec',
'ppron12:pl:gen:m2:pri',
'ppron12:pl:inst:f:pri',
'ppron12:pl:inst:m1:pri',
'ppron12:pl:inst:m1:sec',
'ppron12:pl:inst:n:pri',
'ppron12:pl:loc:f:sec',
'ppron12:pl:loc:m1:pri',
'ppron12:pl:loc:m1:sec',
'ppron12:pl:loc:m3:sec',
'ppron12:pl:nom:f:pri',
'ppron12:pl:nom:f:sec',
'ppron12:pl:nom:m1:pri',
'ppron12:pl:nom:m1:sec',
'ppron12:pl:nom:m2:pri',
'ppron12:pl:nom:n:sec',
'ppron12:pl:voc:m1:sec',
'ppron12:pl:voc:m2:sec',
'ppron12:sg:acc:f:pri:akc',
'ppron12:sg:acc:f:sec:akc',
'ppron12:sg:acc:f:sec:nakc',
'ppron12:sg:acc:m1:pri:akc',
'ppron12:sg:acc:m1:pri:nakc',
'ppron12:sg:acc:m1:sec:akc',
'ppron12:sg:acc:m1:sec:nakc',
'ppron12:sg:acc:m2:pri:akc',
'ppron12:sg:acc:m2:sec:nakc',
'ppron12:sg:acc:m3:pri:akc',
'ppron12:sg:acc:m3:sec:nakc',
'ppron12:sg:acc:n:pri:akc',
'ppron12:sg:acc:n:sec:nakc',
'ppron12:sg:dat:f:pri:akc',
'ppron12:sg:dat:f:pri:nakc',
'ppron12:sg:dat:f:sec:akc',
'ppron12:sg:dat:f:sec:nakc',
'ppron12:sg:dat:m1:pri:akc',
'ppron12:sg:dat:m1:pri:nakc',
'ppron12:sg:dat:m1:sec:akc',
'ppron12:sg:dat:m1:sec:nakc',
'ppron12:sg:dat:m2:pri:nakc',
'ppron12:sg:dat:m2:sec:akc',
'ppron12:sg:dat:m2:sec:nakc',
'ppron12:sg:gen:f:pri:akc',
'ppron12:sg:gen:f:sec:akc',
'ppron12:sg:gen:f:sec:nakc',
'ppron12:sg:gen:m1:pri:akc',
'ppron12:sg:gen:m1:sec:akc',
'ppron12:sg:gen:m1:sec:nakc',
'ppron12:sg:gen:m2:pri:akc',
'ppron12:sg:gen:m2:sec:akc',
'ppron12:sg:gen:m2:sec:nakc',
'ppron12:sg:gen:n:pri:akc',
'ppron12:sg:inst:f:pri',
'ppron12:sg:inst:f:sec',
'ppron12:sg:inst:m1:pri',
'ppron12:sg:inst:m1:pri:nakc',
'ppron12:sg:inst:m1:sec',
'ppron12:sg:inst:n:sec',
'ppron12:sg:loc:f:pri',
'ppron12:sg:loc:f:sec',
'ppron12:sg:loc:m1:pri',
'ppron12:sg:loc:m1:sec',
'ppron12:sg:loc:m3:pri',
'ppron12:sg:nom:f:pri',
'ppron12:sg:nom:f:sec',
'ppron12:sg:nom:m1:pri',
'ppron12:sg:nom:m1:pri:nakc',
'ppron12:sg:nom:m1:sec',
'ppron12:sg:nom:m2:pri',
'ppron12:sg:nom:m2:sec',
'ppron12:sg:nom:m3:pri',
'ppron12:sg:nom:m3:sec',
'ppron12:sg:nom:n:sec',
'ppron12:sg:voc:f:sec',
'ppron12:sg:voc:m1:sec',
'ppron12:sg:voc:m2:sec',
'ppron12:sg:voc:n:sec',
'ppron3:pl:acc:f:ter:akc:npraep',
'ppron3:pl:acc:f:ter:akc:praep',
'ppron3:pl:acc:m1:ter:akc:npraep',
'ppron3:pl:acc:m1:ter:akc:praep',
'ppron3:pl:acc:m2:ter:akc:npraep',
'ppron3:pl:acc:m2:ter:akc:praep',
'ppron3:pl:acc:m3:ter:akc:npraep',
'ppron3:pl:acc:m3:ter:akc:praep',
'ppron3:pl:acc:n:ter:akc:npraep',
'ppron3:pl:acc:n:ter:akc:praep',
'ppron3:pl:dat:f:ter:akc:npraep',
'ppron3:pl:dat:f:ter:akc:praep',
'ppron3:pl:dat:m1:ter:akc:npraep',
'ppron3:pl:dat:m1:ter:akc:praep',
'ppron3:pl:dat:m2:ter:akc:npraep',
'ppron3:pl:dat:m3:ter:akc:npraep',
'ppron3:pl:dat:m3:ter:akc:praep',
'ppron3:pl:dat:n:ter:akc:npraep',
'ppron3:pl:gen:f:ter:akc:npraep',
'ppron3:pl:gen:f:ter:akc:praep',
'ppron3:pl:gen:m1:ter:akc:npraep',
'ppron3:pl:gen:m1:ter:akc:praep',
'ppron3:pl:gen:m2:ter:akc:npraep',
'ppron3:pl:gen:m2:ter:akc:praep',
'ppron3:pl:gen:m3:ter:akc:npraep',
'ppron3:pl:gen:m3:ter:akc:praep',
'ppron3:pl:gen:n:ter:akc:npraep',
'ppron3:pl:gen:n:ter:akc:praep',
'ppron3:pl:inst:f:ter:akc:npraep',
'ppron3:pl:inst:f:ter:akc:praep',
'ppron3:pl:inst:m1:ter:akc:npraep',
'ppron3:pl:inst:m1:ter:akc:praep',
'ppron3:pl:inst:m2:ter:akc:npraep',
'ppron3:pl:inst:m2:ter:akc:praep',
'ppron3:pl:inst:m3:ter:akc:npraep',
'ppron3:pl:inst:m3:ter:akc:praep',
'ppron3:pl:inst:n:ter:akc:npraep',
'ppron3:pl:inst:n:ter:akc:praep',
'ppron3:pl:loc:f:ter:akc:praep',
'ppron3:pl:loc:m1:ter:akc:praep',
'ppron3:pl:loc:m2:ter:akc:praep',
'ppron3:pl:loc:m3:ter:akc:praep',
'ppron3:pl:loc:n:ter:akc:praep',
'ppron3:pl:nom:f:ter:akc:npraep',
'ppron3:pl:nom:f:ter:nakc:npraep',
'ppron3:pl:nom:m1:ter:akc:npraep',
'ppron3:pl:nom:m2:ter:akc:npraep',
'ppron3:pl:nom:m3:ter:akc:npraep',
'ppron3:pl:nom:n:ter:akc:npraep',
'ppron3:sg:acc:f:ter:akc:npraep',
'ppron3:sg:acc:f:ter:akc:praep',
'ppron3:sg:acc:m1:ter:akc:npraep',
'ppron3:sg:acc:m1:ter:akc:praep',
'ppron3:sg:acc:m1:ter:nakc:npraep',
'ppron3:sg:acc:m1:ter:nakc:praep',
'ppron3:sg:acc:m2:ter:akc:praep',
'ppron3:sg:acc:m2:ter:nakc:npraep',
'ppron3:sg:acc:m2:ter:nakc:praep',
'ppron3:sg:acc:m3:ter:akc:npraep',
'ppron3:sg:acc:m3:ter:akc:praep',
'ppron3:sg:acc:m3:ter:nakc:npraep',
'ppron3:sg:acc:m3:ter:nakc:praep',
'ppron3:sg:acc:n:ter:akc:npraep',
'ppron3:sg:acc:n:ter:akc:praep',
'ppron3:sg:dat:f:ter:akc:npraep',
'ppron3:sg:dat:f:ter:akc:praep',
'ppron3:sg:dat:m1:ter:akc:npraep',
'ppron3:sg:dat:m1:ter:akc:praep',
'ppron3:sg:dat:m1:ter:nakc:npraep',
'ppron3:sg:dat:m2:ter:akc:npraep',
'ppron3:sg:dat:m2:ter:nakc:npraep',
'ppron3:sg:dat:m3:ter:akc:npraep',
'ppron3:sg:dat:m3:ter:akc:praep',
'ppron3:sg:dat:m3:ter:nakc:npraep',
'ppron3:sg:dat:n:ter:akc:npraep',
'ppron3:sg:dat:n:ter:akc:praep',
'ppron3:sg:dat:n:ter:nakc:npraep',
'ppron3:sg:gen:f:ter:akc:npraep',
'ppron3:sg:gen:f:ter:akc:praep',
'ppron3:sg:gen:m1:ter:akc:npraep',
'ppron3:sg:gen:m1:ter:akc:praep',
'ppron3:sg:gen:m1:ter:nakc:npraep',
'ppron3:sg:gen:m1:ter:nakc:praep',
'ppron3:sg:gen:m2:ter:akc:npraep',
'ppron3:sg:gen:m2:ter:akc:praep',
'ppron3:sg:gen:m2:ter:nakc:npraep',
'ppron3:sg:gen:m3:ter:akc:npraep',
'ppron3:sg:gen:m3:ter:akc:praep',
'ppron3:sg:gen:m3:ter:nakc:npraep',
'ppron3:sg:gen:m3:ter:nakc:praep',
'ppron3:sg:gen:n:ter:akc:npraep',
'ppron3:sg:gen:n:ter:akc:praep',
'ppron3:sg:gen:n:ter:nakc:npraep',
'ppron3:sg:inst:f:ter:akc:praep',
'ppron3:sg:inst:m1:ter:akc:npraep',
'ppron3:sg:inst:m1:ter:akc:praep',
'ppron3:sg:inst:m2:ter:akc:npraep',
'ppron3:sg:inst:m2:ter:akc:praep',
'ppron3:sg:inst:m3:ter:akc:npraep',
'ppron3:sg:inst:m3:ter:akc:praep',
'ppron3:sg:inst:n:ter:akc:npraep',
'ppron3:sg:inst:n:ter:akc:praep',
'ppron3:sg:loc:f:ter:akc:praep',
'ppron3:sg:loc:m1:ter:akc:praep',
'ppron3:sg:loc:m2:ter:akc:praep',
'ppron3:sg:loc:m3:ter:akc:praep',
'ppron3:sg:loc:n:ter:akc:praep',
'ppron3:sg:nom:f:ter:akc:npraep',
'ppron3:sg:nom:f:ter:akc:praep',
'ppron3:sg:nom:m1:ter:akc:npraep',
'ppron3:sg:nom:m2:ter:akc:npraep',
'ppron3:sg:nom:m2:ter:akc:praep',
'ppron3:sg:nom:m3:ter:akc:npraep',
'ppron3:sg:nom:n:ter:akc:npraep',
'praet:pl:f:imperf',
'praet:pl:f:perf',
'praet:pl:m1:imperf',
'praet:pl:m1:imperf:agl',
'praet:pl:m1:perf',
'praet:pl:m2:imperf',
'praet:pl:m2:perf',
'praet:pl:m3:imperf',
'praet:pl:m3:perf',
'praet:pl:n:imperf',
'praet:pl:n:perf',
'praet:sg:f:imperf',
'praet:sg:f:imperf:agl',
'praet:sg:f:imperf:nagl',
'praet:sg:f:perf',
'praet:sg:m1:imperf',
'praet:sg:m1:imperf:agl',
'praet:sg:m1:imperf:nagl',
'praet:sg:m1:perf',
'praet:sg:m1:perf:agl',
'praet:sg:m1:perf:nagl',
'praet:sg:m2:imperf',
'praet:sg:m2:imperf:nagl',
'praet:sg:m2:perf',
'praet:sg:m2:perf:nagl',
'praet:sg:m3:imperf',
'praet:sg:m3:imperf:nagl',
'praet:sg:m3:perf',
'praet:sg:m3:perf:nagl',
'praet:sg:n:imperf',
'praet:sg:n:perf',
'pred',
'prep:acc',
'prep:acc:nwok',
'prep:acc:wok',
'prep:dat',
'prep:gen',
'prep:gen:nwok',
'prep:gen:wok',
'prep:inst',
'prep:inst:nwok',
'prep:inst:wok',
'prep:loc',
'prep:loc:nwok',
'prep:loc:wok',
'prep:nom',
'romandig',
'siebie:acc',
'siebie:dat',
'siebie:gen',
'siebie:inst',
'siebie:loc',
'subst:pl:acc:f',
'subst:pl:acc:m1',
'subst:pl:acc:m1:pt',
'subst:pl:acc:m2',
'subst:pl:acc:m3',
'subst:pl:acc:n:col',
'subst:pl:acc:n:ncol',
'subst:pl:acc:n:pt',
'subst:pl:dat:f',
'subst:pl:dat:m1',
'subst:pl:dat:m1:pt',
'subst:pl:dat:m2',
'subst:pl:dat:m3',
'subst:pl:dat:n:col',
'subst:pl:dat:n:ncol',
'subst:pl:dat:n:pt',
'subst:pl:gen:f',
'subst:pl:gen:m1',
'subst:pl:gen:m1:pt',
'subst:pl:gen:m2',
'subst:pl:gen:m3',
'subst:pl:gen:n:col',
'subst:pl:gen:n:ncol',
'subst:pl:gen:n:pt',
'subst:pl:inst:f',
'subst:pl:inst:m1',
'subst:pl:inst:m1:pt',
'subst:pl:inst:m2',
'subst:pl:inst:m3',
'subst:pl:inst:n:col',
'subst:pl:inst:n:ncol',
'subst:pl:inst:n:pt',
'subst:pl:loc:f',
'subst:pl:loc:m1',
'subst:pl:loc:m1:pt',
'subst:pl:loc:m2',
'subst:pl:loc:m3',
'subst:pl:loc:n:col',
'subst:pl:loc:n:ncol',
'subst:pl:loc:n:pt',
'subst:pl:nom:f',
'subst:pl:nom:m1',
'subst:pl:nom:m1:pt',
'subst:pl:nom:m2',
'subst:pl:nom:m3',
'subst:pl:nom:n:col',
'subst:pl:nom:n:ncol',
'subst:pl:nom:n:pt',
'subst:pl:voc:f',
'subst:pl:voc:m1',
'subst:pl:voc:m1:pt',
'subst:pl:voc:m3',
'subst:pl:voc:n:col',
'subst:pl:voc:n:ncol',
'subst:pl:voc:n:pt',
'subst:sg:acc:f',
'subst:sg:acc:m1',
'subst:sg:acc:m2',
'subst:sg:acc:m3',
'subst:sg:acc:n:col',
'subst:sg:acc:n:ncol',
'subst:sg:dat:f',
'subst:sg:dat:m1',
'subst:sg:dat:m2',
'subst:sg:dat:m3',
'subst:sg:dat:n:col',
'subst:sg:dat:n:ncol',
'subst:sg:gen:f',
'subst:sg:gen:m1',
'subst:sg:gen:m2',
'subst:sg:gen:m3',
'subst:sg:gen:n:col',
'subst:sg:gen:n:ncol',
'subst:sg:inst:f',
'subst:sg:inst:m1',
'subst:sg:inst:m2',
'subst:sg:inst:m3',
'subst:sg:inst:n:col',
'subst:sg:inst:n:ncol',
'subst:sg:loc:f',
'subst:sg:loc:m1',
'subst:sg:loc:m2',
'subst:sg:loc:m3',
'subst:sg:loc:n:col',
'subst:sg:loc:n:ncol',
'subst:sg:nom:f',
'subst:sg:nom:m1',
'subst:sg:nom:m2',
'subst:sg:nom:m3',
'subst:sg:nom:n:col',
'subst:sg:nom:n:ncol',
'subst:sg:voc:f',
'subst:sg:voc:m1',
'subst:sg:voc:m2',
'subst:sg:voc:m3',
'subst:sg:voc:n:col',
'subst:sg:voc:n:ncol',
'sym',
'winien:pl:f:imperf',
'winien:pl:m1:imperf',
'winien:pl:m2:imperf',
'winien:pl:m3:imperf',
'winien:pl:n:imperf',
'winien:sg:f:imperf',
'winien:sg:m1:imperf',
'winien:sg:m2:imperf',
'winien:sg:m3:imperf',
'winien:sg:n:imperf',
'xxs:acc',
'xxs:dat',
'xxs:gen',
'xxs:inst',
'xxs:loc',
'xxs:nom',
'xxs:voc',
'xxx'
])),
"nps": datasets.Sequence(datasets.Value("bool")),
"nkjp_ids": datasets.Sequence(datasets.Value("string")),
}
),
supervised_keys=None,
homepage="http://nkjp.pl/",
citation=_CITATION,
)
def _split_generators(self, dl_manager):
"""Returns SplitGenerators."""
downloaded_files = dl_manager.download_and_extract(_URLS)
return [
datasets.SplitGenerator(
name=datasets.Split.TRAIN,
gen_kwargs={"filepath": downloaded_files["train"]}),
datasets.SplitGenerator(
name=datasets.Split.VALIDATION,
gen_kwargs={"filepath": downloaded_files["dev"]}),
datasets.SplitGenerator(
name=datasets.Split.TEST,
gen_kwargs={"filepath": downloaded_files["test"]}),
]
def _generate_examples(self, filepath):
logger.info("⏳ Generating examples from = %s", filepath)
guid = 0
with open(filepath, 'r', encoding="utf-8") as f:
for line in f:
datapoint = json.loads(line)
# datapoint['id'] = guid
guid += 1
yield guid, datapoint