# coding=utf-8 # Copyright 2020 HuggingFace Datasets Authors. # # Licensed under the Apache License, Version 2.0 (the "License"); # you may not use this file except in compliance with the License. # You may obtain a copy of the License at # # http://www.apache.org/licenses/LICENSE-2.0 # # Unless required by applicable law or agreed to in writing, software # distributed under the License is distributed on an "AS IS" BASIS, # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. # See the License for the specific language governing permissions and # limitations under the License. # Lint as: python3 """NKJP1M: The manually annotated subcorpus of the National Corpus of Polish""" import datasets import json logger = datasets.logging.get_logger(__name__) _CITATION = """\ @Book{nkjp:12, editor = "Adam Przepiórkowski and Mirosław Bańko and Rafał L. Górski and Barbara Lewandowska-Tomaszczyk", title = "Narodowy Korpus Języka Polskiego", year = 2012, address = "Warszawa", pdf = "http://nkjp.pl/settings/papers/NKJP_ksiazka.pdf", publisher = "Wydawnictwo Naukowe PWN"} """ _DESCRIPTION = """\ This is the official dataset for NKJP1M – the 1-million token subcorpus of the National Corpus of Polish (Narodowy Korpus Języka Polskiego) Besides the text (divided into paragraphs/samples and sentences) the set contains lemmas and morpho-syntactic tags for all tokens in the corpus. This release corresponds to the version 1.2 of the corpus with following corrections and improvements. In particular the morpho-syntactic annotation has been aligned with the present version of Morfeusz2 morphological analyser. """ _URLS = { 'train': "nkjp1m_train.jsonl.gz", 'dev': "nkjp1m_dev.jsonl.gz", 'test': "nkjp1m_test.jsonl.gz", } class NKJP1MConfig(datasets.BuilderConfig): """BuilderConfig for NKJP1M""" def __init__(self, **kwargs): """BuilderConfig forNKJP1M. Args: **kwargs: keyword arguments forwarded to super. """ super(NKJP1MConfig, self).__init__(**kwargs) class NKJP1M(datasets.GeneratorBasedBuilder): """NKJP1M dataset.""" BUILDER_CONFIGS = [ NKJP1MConfig(name="nkjp1m", version=datasets.Version("1.3.0"), description="NKJP1M dataset"), ] def _info(self): return datasets.DatasetInfo( description=_DESCRIPTION, features=datasets.Features( { "nkjp_text": datasets.Value("string"), "nkjp_par": datasets.Value("string"), "nkjp_sent": datasets.Value("string"), "tokens": datasets.Sequence(datasets.Value("string")), "lemmas": datasets.Sequence(datasets.Value("string")), "cposes": datasets.Sequence( datasets.features.ClassLabel( names=[ 'A', 'Adv', 'Comp', 'Conj', 'Dig', 'Interj', 'N', 'Num', 'Part', 'Prep', 'Punct', 'V', 'X' ])), "poses": datasets.Sequence( datasets.features.ClassLabel( names=[ 'adj', 'adja', 'adjc', 'adjp', 'adv', 'aglt', 'bedzie', 'brev', 'comp', 'conj', 'depr', 'dig', 'fin', 'frag', 'ger', 'imps', 'impt', 'inf', 'interj', 'interp', 'num', 'numcomp', 'pact', 'pacta', 'pant', 'part', 'pcon', 'ppas', 'ppron12', 'ppron3', 'praet', 'pred', 'prep', 'romandig', 'siebie', 'subst', 'sym', 'winien', 'xxs', 'xxx' ])), "tags": datasets.Sequence( datasets.features.ClassLabel( names=[ 'adj:pl:acc:f:com', 'adj:pl:acc:f:pos', 'adj:pl:acc:f:sup', 'adj:pl:acc:m1:com', 'adj:pl:acc:m1:pos', 'adj:pl:acc:m1:sup', 'adj:pl:acc:m2:com', 'adj:pl:acc:m2:pos', 'adj:pl:acc:m2:sup', 'adj:pl:acc:m3:com', 'adj:pl:acc:m3:pos', 'adj:pl:acc:m3:sup', 'adj:pl:acc:n:com', 'adj:pl:acc:n:pos', 'adj:pl:acc:n:sup', 'adj:pl:dat:f:com', 'adj:pl:dat:f:pos', 'adj:pl:dat:f:sup', 'adj:pl:dat:m1:com', 'adj:pl:dat:m1:pos', 'adj:pl:dat:m1:sup', 'adj:pl:dat:m2:pos', 'adj:pl:dat:m3:com', 'adj:pl:dat:m3:pos', 'adj:pl:dat:n:pos', 'adj:pl:dat:n:sup', 'adj:pl:gen:f:com', 'adj:pl:gen:f:pos', 'adj:pl:gen:f:sup', 'adj:pl:gen:m1:com', 'adj:pl:gen:m1:pos', 'adj:pl:gen:m1:sup', 'adj:pl:gen:m2:com', 'adj:pl:gen:m2:pos', 'adj:pl:gen:m2:sup', 'adj:pl:gen:m3:com', 'adj:pl:gen:m3:pos', 'adj:pl:gen:m3:sup', 'adj:pl:gen:n:com', 'adj:pl:gen:n:pos', 'adj:pl:gen:n:sup', 'adj:pl:inst:f:com', 'adj:pl:inst:f:pos', 'adj:pl:inst:f:sup', 'adj:pl:inst:m1:com', 'adj:pl:inst:m1:pos', 'adj:pl:inst:m1:sup', 'adj:pl:inst:m2:pos', 'adj:pl:inst:m3:com', 'adj:pl:inst:m3:pos', 'adj:pl:inst:m3:sup', 'adj:pl:inst:n:com', 'adj:pl:inst:n:pos', 'adj:pl:inst:n:sup', 'adj:pl:loc:f:com', 'adj:pl:loc:f:pos', 'adj:pl:loc:f:sup', 'adj:pl:loc:m1:com', 'adj:pl:loc:m1:pos', 'adj:pl:loc:m1:sup', 'adj:pl:loc:m2:pos', 'adj:pl:loc:m3:com', 'adj:pl:loc:m3:pos', 'adj:pl:loc:m3:sup', 'adj:pl:loc:n:com', 'adj:pl:loc:n:pos', 'adj:pl:loc:n:sup', 'adj:pl:nom:f:com', 'adj:pl:nom:f:pos', 'adj:pl:nom:f:sup', 'adj:pl:nom:m1:com', 'adj:pl:nom:m1:pos', 'adj:pl:nom:m1:sup', 'adj:pl:nom:m2:com', 'adj:pl:nom:m2:pos', 'adj:pl:nom:m2:sup', 'adj:pl:nom:m3:com', 'adj:pl:nom:m3:pos', 'adj:pl:nom:m3:sup', 'adj:pl:nom:n:com', 'adj:pl:nom:n:pos', 'adj:pl:nom:n:sup', 'adj:pl:voc:f:pos', 'adj:pl:voc:m1:pos', 'adj:pl:voc:m2:pos', 'adj:pl:voc:n:pos', 'adj:sg:acc:f:com', 'adj:sg:acc:f:pos', 'adj:sg:acc:f:sup', 'adj:sg:acc:m1:com', 'adj:sg:acc:m1:pos', 'adj:sg:acc:m1:sup', 'adj:sg:acc:m2:com', 'adj:sg:acc:m2:pos', 'adj:sg:acc:m2:sup', 'adj:sg:acc:m3:com', 'adj:sg:acc:m3:pos', 'adj:sg:acc:m3:sup', 'adj:sg:acc:n:com', 'adj:sg:acc:n:pos', 'adj:sg:acc:n:sup', 'adj:sg:dat:f:com', 'adj:sg:dat:f:pos', 'adj:sg:dat:f:sup', 'adj:sg:dat:m1:com', 'adj:sg:dat:m1:pos', 'adj:sg:dat:m1:sup', 'adj:sg:dat:m2:pos', 'adj:sg:dat:m3:com', 'adj:sg:dat:m3:pos', 'adj:sg:dat:m3:sup', 'adj:sg:dat:n:com', 'adj:sg:dat:n:pos', 'adj:sg:dat:n:sup', 'adj:sg:gen:f:com', 'adj:sg:gen:f:pos', 'adj:sg:gen:f:sup', 'adj:sg:gen:m1:com', 'adj:sg:gen:m1:pos', 'adj:sg:gen:m1:sup', 'adj:sg:gen:m2:pos', 'adj:sg:gen:m2:sup', 'adj:sg:gen:m3:com', 'adj:sg:gen:m3:pos', 'adj:sg:gen:m3:sup', 'adj:sg:gen:n:com', 'adj:sg:gen:n:pos', 'adj:sg:gen:n:sup', 'adj:sg:inst:f:com', 'adj:sg:inst:f:pos', 'adj:sg:inst:f:sup', 'adj:sg:inst:m1:com', 'adj:sg:inst:m1:pos', 'adj:sg:inst:m1:sup', 'adj:sg:inst:m2:com', 'adj:sg:inst:m2:pos', 'adj:sg:inst:m2:sup', 'adj:sg:inst:m3:com', 'adj:sg:inst:m3:pos', 'adj:sg:inst:m3:sup', 'adj:sg:inst:n:com', 'adj:sg:inst:n:pos', 'adj:sg:inst:n:sup', 'adj:sg:loc:f:com', 'adj:sg:loc:f:pos', 'adj:sg:loc:f:sup', 'adj:sg:loc:m1:com', 'adj:sg:loc:m1:pos', 'adj:sg:loc:m1:sup', 'adj:sg:loc:m2:com', 'adj:sg:loc:m2:pos', 'adj:sg:loc:m3:com', 'adj:sg:loc:m3:pos', 'adj:sg:loc:m3:sup', 'adj:sg:loc:n:com', 'adj:sg:loc:n:pos', 'adj:sg:loc:n:sup', 'adj:sg:nom:f:com', 'adj:sg:nom:f:pos', 'adj:sg:nom:f:sup', 'adj:sg:nom:m1:com', 'adj:sg:nom:m1:pos', 'adj:sg:nom:m1:sup', 'adj:sg:nom:m2:com', 'adj:sg:nom:m2:pos', 'adj:sg:nom:m2:sup', 'adj:sg:nom:m3:com', 'adj:sg:nom:m3:pos', 'adj:sg:nom:m3:sup', 'adj:sg:nom:n:com', 'adj:sg:nom:n:pos', 'adj:sg:nom:n:sup', 'adj:sg:voc:f:pos', 'adj:sg:voc:f:sup', 'adj:sg:voc:m1:pos', 'adj:sg:voc:m1:sup', 'adj:sg:voc:m2:pos', 'adj:sg:voc:m3:pos', 'adj:sg:voc:n:pos', 'adja', 'adjc', 'adjp:dat', 'adjp:gen', 'adv', 'adv:com', 'adv:pos', 'adv:sup', 'aglt:pl:pri:imperf:nwok', 'aglt:pl:sec:imperf:nwok', 'aglt:sg:pri:imperf:nwok', 'aglt:sg:pri:imperf:wok', 'aglt:sg:sec:imperf:nwok', 'aglt:sg:sec:imperf:wok', 'bedzie:pl:pri:imperf', 'bedzie:pl:sec:imperf', 'bedzie:pl:ter:imperf', 'bedzie:sg:pri:imperf', 'bedzie:sg:sec:imperf', 'bedzie:sg:ter:imperf', 'brev:npun', 'brev:pun', 'comp', 'conj', 'depr:pl:acc:m2', 'depr:pl:nom:m2', 'depr:pl:voc:m2', 'dig', 'fin:pl:pri:imperf', 'fin:pl:pri:perf', 'fin:pl:sec:imperf', 'fin:pl:sec:perf', 'fin:pl:ter:imperf', 'fin:pl:ter:perf', 'fin:sg:pri:imperf', 'fin:sg:pri:perf', 'fin:sg:sec:imperf', 'fin:sg:sec:perf', 'fin:sg:ter:imperf', 'fin:sg:ter:perf', 'frag', 'ger:pl:acc:n:imperf:aff', 'ger:pl:acc:n:perf:aff', 'ger:pl:dat:n:perf:aff', 'ger:pl:gen:n:imperf:aff', 'ger:pl:gen:n:perf:aff', 'ger:pl:inst:n:imperf:aff', 'ger:pl:inst:n:perf:aff', 'ger:pl:loc:n:imperf:aff', 'ger:pl:loc:n:perf:aff', 'ger:pl:nom:n:imperf:aff', 'ger:pl:nom:n:perf:aff', 'ger:sg:acc:n:imperf:aff', 'ger:sg:acc:n:imperf:neg', 'ger:sg:acc:n:perf:aff', 'ger:sg:acc:n:perf:neg', 'ger:sg:dat:n:imperf:aff', 'ger:sg:dat:n:perf:aff', 'ger:sg:dat:n:perf:neg', 'ger:sg:gen:n:imperf:aff', 'ger:sg:gen:n:imperf:neg', 'ger:sg:gen:n:perf:aff', 'ger:sg:gen:n:perf:neg', 'ger:sg:inst:n:imperf:aff', 'ger:sg:inst:n:imperf:neg', 'ger:sg:inst:n:perf:aff', 'ger:sg:inst:n:perf:neg', 'ger:sg:loc:n:imperf:aff', 'ger:sg:loc:n:imperf:neg', 'ger:sg:loc:n:perf:aff', 'ger:sg:loc:n:perf:neg', 'ger:sg:nom:n:imperf:aff', 'ger:sg:nom:n:imperf:neg', 'ger:sg:nom:n:perf:aff', 'ger:sg:nom:n:perf:neg', 'imps:imperf', 'imps:perf', 'impt:pl:pri:imperf', 'impt:pl:pri:perf', 'impt:pl:sec:imperf', 'impt:pl:sec:perf', 'impt:sg:pri:imperf', 'impt:sg:sec:imperf', 'impt:sg:sec:perf', 'inf:imperf', 'inf:perf', 'interj', 'interp', 'num:pl:acc:f:congr:ncol', 'num:pl:acc:f:rec', 'num:pl:acc:f:rec:ncol', 'num:pl:acc:m1:rec', 'num:pl:acc:m1:rec:col', 'num:pl:acc:m1:rec:ncol', 'num:pl:acc:m2:congr:ncol', 'num:pl:acc:m2:rec', 'num:pl:acc:m2:rec:ncol', 'num:pl:acc:m3:congr', 'num:pl:acc:m3:congr:ncol', 'num:pl:acc:m3:rec', 'num:pl:acc:m3:rec:ncol', 'num:pl:acc:n:congr:ncol', 'num:pl:acc:n:rec', 'num:pl:acc:n:rec:col', 'num:pl:acc:n:rec:ncol', 'num:pl:dat:f:congr', 'num:pl:dat:f:congr:ncol', 'num:pl:dat:m1:congr', 'num:pl:dat:m1:congr:col', 'num:pl:dat:m1:congr:ncol', 'num:pl:dat:m2:congr', 'num:pl:dat:m3:congr:ncol', 'num:pl:dat:n:congr', 'num:pl:dat:n:congr:ncol', 'num:pl:gen:f:congr', 'num:pl:gen:f:congr:ncol', 'num:pl:gen:f:rec', 'num:pl:gen:f:rec:ncol', 'num:pl:gen:m1:congr', 'num:pl:gen:m1:congr:ncol', 'num:pl:gen:m1:rec', 'num:pl:gen:m1:rec:col', 'num:pl:gen:m2:congr', 'num:pl:gen:m2:congr:ncol', 'num:pl:gen:m2:rec', 'num:pl:gen:m3:congr', 'num:pl:gen:m3:congr:ncol', 'num:pl:gen:m3:rec', 'num:pl:gen:m3:rec:ncol', 'num:pl:gen:n:congr', 'num:pl:gen:n:congr:ncol', 'num:pl:gen:n:rec', 'num:pl:gen:n:rec:col', 'num:pl:inst:f:congr', 'num:pl:inst:f:congr:ncol', 'num:pl:inst:m1:congr', 'num:pl:inst:m1:congr:ncol', 'num:pl:inst:m1:rec:col', 'num:pl:inst:m2:congr', 'num:pl:inst:m2:congr:ncol', 'num:pl:inst:m3:congr', 'num:pl:inst:m3:congr:ncol', 'num:pl:inst:n:congr', 'num:pl:inst:n:congr:ncol', 'num:pl:inst:n:rec:col', 'num:pl:loc:f:congr', 'num:pl:loc:f:congr:ncol', 'num:pl:loc:m1:congr', 'num:pl:loc:m1:congr:ncol', 'num:pl:loc:m2:congr', 'num:pl:loc:m2:congr:ncol', 'num:pl:loc:m3:congr', 'num:pl:loc:m3:congr:ncol', 'num:pl:loc:n:congr', 'num:pl:loc:n:congr:ncol', 'num:pl:nom:f:congr:ncol', 'num:pl:nom:f:rec', 'num:pl:nom:f:rec:ncol', 'num:pl:nom:m1:congr:ncol', 'num:pl:nom:m1:rec', 'num:pl:nom:m1:rec:col', 'num:pl:nom:m1:rec:ncol', 'num:pl:nom:m2:congr:ncol', 'num:pl:nom:m2:rec', 'num:pl:nom:m2:rec:ncol', 'num:pl:nom:m3:congr:ncol', 'num:pl:nom:m3:rec', 'num:pl:nom:m3:rec:ncol', 'num:pl:nom:n:congr', 'num:pl:nom:n:congr:ncol', 'num:pl:nom:n:rec', 'num:pl:nom:n:rec:col', 'num:pl:nom:n:rec:ncol', 'num:sg:acc:f:rec', 'num:sg:acc:f:rec:ncol', 'num:sg:acc:m1:rec:ncol', 'num:sg:acc:m2:rec', 'num:sg:acc:m3:rec', 'num:sg:acc:m3:rec:ncol', 'num:sg:acc:n:rec', 'num:sg:gen:f:rec', 'num:sg:gen:m3:rec', 'num:sg:gen:n:rec', 'num:sg:inst:m3:rec', 'num:sg:loc:f:rec', 'num:sg:loc:m3:congr', 'num:sg:loc:m3:rec', 'num:sg:nom:f:rec', 'num:sg:nom:m2:rec', 'num:sg:nom:m3:rec', 'num:sg:nom:m3:rec:ncol', 'num:sg:nom:n:rec', 'numcomp', 'pact:pl:acc:f:imperf:aff', 'pact:pl:acc:f:imperf:neg', 'pact:pl:acc:m1:imperf:aff', 'pact:pl:acc:m2:imperf:aff', 'pact:pl:acc:m3:imperf:aff', 'pact:pl:acc:m3:imperf:neg', 'pact:pl:acc:n:imperf:aff', 'pact:pl:acc:n:imperf:neg', 'pact:pl:dat:f:imperf:aff', 'pact:pl:dat:m1:imperf:aff', 'pact:pl:dat:m2:imperf:aff', 'pact:pl:dat:m3:imperf:aff', 'pact:pl:dat:n:imperf:aff', 'pact:pl:gen:f:imperf:aff', 'pact:pl:gen:f:imperf:neg', 'pact:pl:gen:m1:imperf:aff', 'pact:pl:gen:m1:imperf:neg', 'pact:pl:gen:m2:imperf:aff', 'pact:pl:gen:m3:imperf:aff', 'pact:pl:gen:m3:imperf:neg', 'pact:pl:gen:n:imperf:aff', 'pact:pl:inst:f:imperf:aff', 'pact:pl:inst:m1:imperf:aff', 'pact:pl:inst:m2:imperf:aff', 'pact:pl:inst:m3:imperf:aff', 'pact:pl:inst:m3:imperf:neg', 'pact:pl:inst:n:imperf:aff', 'pact:pl:inst:n:imperf:neg', 'pact:pl:loc:f:imperf:aff', 'pact:pl:loc:m1:imperf:aff', 'pact:pl:loc:m3:imperf:aff', 'pact:pl:loc:m3:imperf:neg', 'pact:pl:loc:n:imperf:aff', 'pact:pl:loc:n:imperf:neg', 'pact:pl:nom:f:imperf:aff', 'pact:pl:nom:f:imperf:neg', 'pact:pl:nom:m1:imperf:aff', 'pact:pl:nom:m2:imperf:aff', 'pact:pl:nom:m3:imperf:aff', 'pact:pl:nom:n:imperf:aff', 'pact:pl:nom:n:imperf:neg', 'pact:pl:voc:f:imperf:aff', 'pact:sg:acc:f:imperf:aff', 'pact:sg:acc:f:imperf:neg', 'pact:sg:acc:m1:imperf:aff', 'pact:sg:acc:m2:imperf:aff', 'pact:sg:acc:m3:imperf:aff', 'pact:sg:acc:n:imperf:aff', 'pact:sg:acc:n:imperf:neg', 'pact:sg:dat:f:imperf:aff', 'pact:sg:dat:m1:imperf:aff', 'pact:sg:dat:m2:imperf:aff', 'pact:sg:dat:m3:imperf:aff', 'pact:sg:dat:n:imperf:aff', 'pact:sg:gen:f:imperf:aff', 'pact:sg:gen:f:imperf:neg', 'pact:sg:gen:m1:imperf:aff', 'pact:sg:gen:m1:imperf:neg', 'pact:sg:gen:m2:imperf:aff', 'pact:sg:gen:m3:imperf:aff', 'pact:sg:gen:m3:imperf:neg', 'pact:sg:gen:n:imperf:aff', 'pact:sg:gen:n:imperf:neg', 'pact:sg:inst:f:imperf:aff', 'pact:sg:inst:f:imperf:neg', 'pact:sg:inst:m1:imperf:aff', 'pact:sg:inst:m1:imperf:neg', 'pact:sg:inst:m2:imperf:aff', 'pact:sg:inst:m2:imperf:neg', 'pact:sg:inst:m3:imperf:aff', 'pact:sg:inst:m3:imperf:neg', 'pact:sg:inst:n:imperf:aff', 'pact:sg:loc:f:imperf:aff', 'pact:sg:loc:f:imperf:neg', 'pact:sg:loc:m1:imperf:aff', 'pact:sg:loc:m2:imperf:aff', 'pact:sg:loc:m3:imperf:aff', 'pact:sg:loc:m3:imperf:neg', 'pact:sg:loc:n:imperf:aff', 'pact:sg:loc:n:imperf:neg', 'pact:sg:nom:f:imperf:aff', 'pact:sg:nom:f:imperf:neg', 'pact:sg:nom:m1:imperf:aff', 'pact:sg:nom:m1:imperf:neg', 'pact:sg:nom:m2:imperf:aff', 'pact:sg:nom:m3:imperf:aff', 'pact:sg:nom:m3:imperf:neg', 'pact:sg:nom:n:imperf:aff', 'pact:sg:nom:n:imperf:neg', 'pact:sg:voc:m1:imperf:aff', 'pacta', 'pant:perf', 'part', 'part:nwok', 'part:wok', 'pcon:imperf', 'ppas:pl:acc:f:imperf:aff', 'ppas:pl:acc:f:perf:aff', 'ppas:pl:acc:f:perf:neg', 'ppas:pl:acc:m1:imperf:aff', 'ppas:pl:acc:m1:imperf:neg', 'ppas:pl:acc:m1:perf:aff', 'ppas:pl:acc:m1:perf:neg', 'ppas:pl:acc:m2:imperf:aff', 'ppas:pl:acc:m2:perf:aff', 'ppas:pl:acc:m3:imperf:aff', 'ppas:pl:acc:m3:perf:aff', 'ppas:pl:acc:m3:perf:neg', 'ppas:pl:acc:n:imperf:aff', 'ppas:pl:acc:n:imperf:neg', 'ppas:pl:acc:n:perf:aff', 'ppas:pl:acc:n:perf:neg', 'ppas:pl:dat:f:imperf:aff', 'ppas:pl:dat:f:perf:aff', 'ppas:pl:dat:f:perf:neg', 'ppas:pl:dat:m1:imperf:aff', 'ppas:pl:dat:m1:perf:aff', 'ppas:pl:dat:m1:perf:neg', 'ppas:pl:dat:m2:imperf:aff', 'ppas:pl:dat:m3:imperf:aff', 'ppas:pl:dat:m3:perf:aff', 'ppas:pl:dat:n:imperf:aff', 'ppas:pl:dat:n:perf:aff', 'ppas:pl:gen:f:imperf:aff', 'ppas:pl:gen:f:imperf:neg', 'ppas:pl:gen:f:perf:aff', 'ppas:pl:gen:f:perf:neg', 'ppas:pl:gen:m1:imperf:aff', 'ppas:pl:gen:m1:imperf:neg', 'ppas:pl:gen:m1:perf:aff', 'ppas:pl:gen:m1:perf:neg', 'ppas:pl:gen:m2:imperf:aff', 'ppas:pl:gen:m2:perf:aff', 'ppas:pl:gen:m3:imperf:aff', 'ppas:pl:gen:m3:imperf:neg', 'ppas:pl:gen:m3:perf:aff', 'ppas:pl:gen:m3:perf:neg', 'ppas:pl:gen:n:imperf:aff', 'ppas:pl:gen:n:perf:aff', 'ppas:pl:gen:n:perf:neg', 'ppas:pl:inst:f:imperf:aff', 'ppas:pl:inst:f:perf:aff', 'ppas:pl:inst:m1:imperf:aff', 'ppas:pl:inst:m1:perf:aff', 'ppas:pl:inst:m2:perf:aff', 'ppas:pl:inst:m3:imperf:aff', 'ppas:pl:inst:m3:perf:aff', 'ppas:pl:inst:n:imperf:aff', 'ppas:pl:inst:n:perf:aff', 'ppas:pl:loc:f:imperf:aff', 'ppas:pl:loc:f:imperf:neg', 'ppas:pl:loc:f:perf:aff', 'ppas:pl:loc:f:perf:neg', 'ppas:pl:loc:m1:imperf:aff', 'ppas:pl:loc:m1:perf:aff', 'ppas:pl:loc:m2:imperf:aff', 'ppas:pl:loc:m3:imperf:aff', 'ppas:pl:loc:m3:perf:aff', 'ppas:pl:loc:m3:perf:neg', 'ppas:pl:loc:n:imperf:aff', 'ppas:pl:loc:n:perf:aff', 'ppas:pl:loc:n:perf:neg', 'ppas:pl:nom:f:imperf:aff', 'ppas:pl:nom:f:imperf:neg', 'ppas:pl:nom:f:perf:aff', 'ppas:pl:nom:f:perf:neg', 'ppas:pl:nom:m1:imperf:aff', 'ppas:pl:nom:m1:imperf:neg', 'ppas:pl:nom:m1:perf:aff', 'ppas:pl:nom:m1:perf:neg', 'ppas:pl:nom:m2:imperf:aff', 'ppas:pl:nom:m2:perf:aff', 'ppas:pl:nom:m3:imperf:aff', 'ppas:pl:nom:m3:imperf:neg', 'ppas:pl:nom:m3:perf:aff', 'ppas:pl:nom:m3:perf:neg', 'ppas:pl:nom:n:imperf:aff', 'ppas:pl:nom:n:perf:aff', 'ppas:pl:nom:n:perf:neg', 'ppas:pl:voc:f:imperf:aff', 'ppas:sg:acc:f:imperf:aff', 'ppas:sg:acc:f:imperf:neg', 'ppas:sg:acc:f:perf:aff', 'ppas:sg:acc:f:perf:neg', 'ppas:sg:acc:m1:imperf:aff', 'ppas:sg:acc:m1:perf:aff', 'ppas:sg:acc:m2:imperf:aff', 'ppas:sg:acc:m2:perf:aff', 'ppas:sg:acc:m3:imperf:aff', 'ppas:sg:acc:m3:imperf:neg', 'ppas:sg:acc:m3:perf:aff', 'ppas:sg:acc:m3:perf:neg', 'ppas:sg:acc:n:imperf:aff', 'ppas:sg:acc:n:perf:aff', 'ppas:sg:acc:n:perf:neg', 'ppas:sg:dat:f:imperf:aff', 'ppas:sg:dat:f:imperf:neg', 'ppas:sg:dat:f:perf:aff', 'ppas:sg:dat:f:perf:neg', 'ppas:sg:dat:m1:imperf:aff', 'ppas:sg:dat:m1:perf:aff', 'ppas:sg:dat:m2:perf:aff', 'ppas:sg:dat:m3:imperf:aff', 'ppas:sg:dat:m3:perf:aff', 'ppas:sg:dat:n:perf:aff', 'ppas:sg:gen:f:imperf:aff', 'ppas:sg:gen:f:imperf:neg', 'ppas:sg:gen:f:perf:aff', 'ppas:sg:gen:f:perf:neg', 'ppas:sg:gen:m1:imperf:aff', 'ppas:sg:gen:m1:perf:aff', 'ppas:sg:gen:m1:perf:neg', 'ppas:sg:gen:m2:imperf:aff', 'ppas:sg:gen:m2:perf:aff', 'ppas:sg:gen:m3:imperf:aff', 'ppas:sg:gen:m3:imperf:neg', 'ppas:sg:gen:m3:perf:aff', 'ppas:sg:gen:m3:perf:neg', 'ppas:sg:gen:n:imperf:aff', 'ppas:sg:gen:n:imperf:neg', 'ppas:sg:gen:n:perf:aff', 'ppas:sg:gen:n:perf:neg', 'ppas:sg:inst:f:imperf:aff', 'ppas:sg:inst:f:imperf:neg', 'ppas:sg:inst:f:perf:aff', 'ppas:sg:inst:f:perf:neg', 'ppas:sg:inst:m1:imperf:aff', 'ppas:sg:inst:m1:imperf:neg', 'ppas:sg:inst:m1:perf:aff', 'ppas:sg:inst:m1:perf:neg', 'ppas:sg:inst:m2:imperf:aff', 'ppas:sg:inst:m2:perf:aff', 'ppas:sg:inst:m3:imperf:aff', 'ppas:sg:inst:m3:imperf:neg', 'ppas:sg:inst:m3:perf:aff', 'ppas:sg:inst:m3:perf:neg', 'ppas:sg:inst:n:imperf:aff', 'ppas:sg:inst:n:imperf:neg', 'ppas:sg:inst:n:perf:aff', 'ppas:sg:inst:n:perf:neg', 'ppas:sg:loc:f:imperf:aff', 'ppas:sg:loc:f:perf:aff', 'ppas:sg:loc:f:perf:neg', 'ppas:sg:loc:m1:imperf:aff', 'ppas:sg:loc:m1:perf:aff', 'ppas:sg:loc:m2:imperf:aff', 'ppas:sg:loc:m3:imperf:aff', 'ppas:sg:loc:m3:imperf:neg', 'ppas:sg:loc:m3:perf:aff', 'ppas:sg:loc:m3:perf:neg', 'ppas:sg:loc:n:imperf:aff', 'ppas:sg:loc:n:perf:aff', 'ppas:sg:loc:n:perf:neg', 'ppas:sg:nom:f:imperf:aff', 'ppas:sg:nom:f:imperf:neg', 'ppas:sg:nom:f:perf:aff', 'ppas:sg:nom:f:perf:neg', 'ppas:sg:nom:m1:imperf:aff', 'ppas:sg:nom:m1:imperf:neg', 'ppas:sg:nom:m1:perf:aff', 'ppas:sg:nom:m1:perf:neg', 'ppas:sg:nom:m2:imperf:aff', 'ppas:sg:nom:m2:perf:aff', 'ppas:sg:nom:m3:imperf:aff', 'ppas:sg:nom:m3:imperf:neg', 'ppas:sg:nom:m3:perf:aff', 'ppas:sg:nom:m3:perf:neg', 'ppas:sg:nom:n:imperf:aff', 'ppas:sg:nom:n:imperf:neg', 'ppas:sg:nom:n:perf:aff', 'ppas:sg:nom:n:perf:neg', 'ppas:sg:voc:m1:perf:aff', 'ppas:sg:voc:m2:imperf:aff', 'ppas:sg:voc:m3:perf:aff', 'ppron12:pl:acc:f:pri', 'ppron12:pl:acc:f:sec', 'ppron12:pl:acc:m1:pri', 'ppron12:pl:acc:m1:sec', 'ppron12:pl:acc:m2:sec', 'ppron12:pl:acc:n:sec', 'ppron12:pl:dat:f:pri', 'ppron12:pl:dat:f:sec', 'ppron12:pl:dat:m1:pri', 'ppron12:pl:dat:m1:sec', 'ppron12:pl:dat:m3:sec', 'ppron12:pl:gen:f:pri', 'ppron12:pl:gen:f:sec', 'ppron12:pl:gen:m1:pri', 'ppron12:pl:gen:m1:sec', 'ppron12:pl:gen:m2:pri', 'ppron12:pl:inst:f:pri', 'ppron12:pl:inst:m1:pri', 'ppron12:pl:inst:m1:sec', 'ppron12:pl:inst:n:pri', 'ppron12:pl:loc:f:sec', 'ppron12:pl:loc:m1:pri', 'ppron12:pl:loc:m1:sec', 'ppron12:pl:loc:m3:sec', 'ppron12:pl:nom:f:pri', 'ppron12:pl:nom:f:sec', 'ppron12:pl:nom:m1:pri', 'ppron12:pl:nom:m1:sec', 'ppron12:pl:nom:m2:pri', 'ppron12:pl:nom:n:sec', 'ppron12:pl:voc:m1:sec', 'ppron12:pl:voc:m2:sec', 'ppron12:sg:acc:f:pri:akc', 'ppron12:sg:acc:f:sec:akc', 'ppron12:sg:acc:f:sec:nakc', 'ppron12:sg:acc:m1:pri:akc', 'ppron12:sg:acc:m1:pri:nakc', 'ppron12:sg:acc:m1:sec:akc', 'ppron12:sg:acc:m1:sec:nakc', 'ppron12:sg:acc:m2:pri:akc', 'ppron12:sg:acc:m2:sec:nakc', 'ppron12:sg:acc:m3:pri:akc', 'ppron12:sg:acc:m3:sec:nakc', 'ppron12:sg:acc:n:pri:akc', 'ppron12:sg:acc:n:sec:nakc', 'ppron12:sg:dat:f:pri:akc', 'ppron12:sg:dat:f:pri:nakc', 'ppron12:sg:dat:f:sec:akc', 'ppron12:sg:dat:f:sec:nakc', 'ppron12:sg:dat:m1:pri:akc', 'ppron12:sg:dat:m1:pri:nakc', 'ppron12:sg:dat:m1:sec:akc', 'ppron12:sg:dat:m1:sec:nakc', 'ppron12:sg:dat:m2:pri:nakc', 'ppron12:sg:dat:m2:sec:akc', 'ppron12:sg:dat:m2:sec:nakc', 'ppron12:sg:gen:f:pri:akc', 'ppron12:sg:gen:f:sec:akc', 'ppron12:sg:gen:f:sec:nakc', 'ppron12:sg:gen:m1:pri:akc', 'ppron12:sg:gen:m1:sec:akc', 'ppron12:sg:gen:m1:sec:nakc', 'ppron12:sg:gen:m2:pri:akc', 'ppron12:sg:gen:m2:sec:akc', 'ppron12:sg:gen:m2:sec:nakc', 'ppron12:sg:gen:n:pri:akc', 'ppron12:sg:inst:f:pri', 'ppron12:sg:inst:f:sec', 'ppron12:sg:inst:m1:pri', 'ppron12:sg:inst:m1:pri:nakc', 'ppron12:sg:inst:m1:sec', 'ppron12:sg:inst:n:sec', 'ppron12:sg:loc:f:pri', 'ppron12:sg:loc:f:sec', 'ppron12:sg:loc:m1:pri', 'ppron12:sg:loc:m1:sec', 'ppron12:sg:loc:m3:pri', 'ppron12:sg:nom:f:pri', 'ppron12:sg:nom:f:sec', 'ppron12:sg:nom:m1:pri', 'ppron12:sg:nom:m1:pri:nakc', 'ppron12:sg:nom:m1:sec', 'ppron12:sg:nom:m2:pri', 'ppron12:sg:nom:m2:sec', 'ppron12:sg:nom:m3:pri', 'ppron12:sg:nom:m3:sec', 'ppron12:sg:nom:n:sec', 'ppron12:sg:voc:f:sec', 'ppron12:sg:voc:m1:sec', 'ppron12:sg:voc:m2:sec', 'ppron12:sg:voc:n:sec', 'ppron3:pl:acc:f:ter:akc:npraep', 'ppron3:pl:acc:f:ter:akc:praep', 'ppron3:pl:acc:m1:ter:akc:npraep', 'ppron3:pl:acc:m1:ter:akc:praep', 'ppron3:pl:acc:m2:ter:akc:npraep', 'ppron3:pl:acc:m2:ter:akc:praep', 'ppron3:pl:acc:m3:ter:akc:npraep', 'ppron3:pl:acc:m3:ter:akc:praep', 'ppron3:pl:acc:n:ter:akc:npraep', 'ppron3:pl:acc:n:ter:akc:praep', 'ppron3:pl:dat:f:ter:akc:npraep', 'ppron3:pl:dat:f:ter:akc:praep', 'ppron3:pl:dat:m1:ter:akc:npraep', 'ppron3:pl:dat:m1:ter:akc:praep', 'ppron3:pl:dat:m2:ter:akc:npraep', 'ppron3:pl:dat:m3:ter:akc:npraep', 'ppron3:pl:dat:m3:ter:akc:praep', 'ppron3:pl:dat:n:ter:akc:npraep', 'ppron3:pl:gen:f:ter:akc:npraep', 'ppron3:pl:gen:f:ter:akc:praep', 'ppron3:pl:gen:m1:ter:akc:npraep', 'ppron3:pl:gen:m1:ter:akc:praep', 'ppron3:pl:gen:m2:ter:akc:npraep', 'ppron3:pl:gen:m2:ter:akc:praep', 'ppron3:pl:gen:m3:ter:akc:npraep', 'ppron3:pl:gen:m3:ter:akc:praep', 'ppron3:pl:gen:n:ter:akc:npraep', 'ppron3:pl:gen:n:ter:akc:praep', 'ppron3:pl:inst:f:ter:akc:npraep', 'ppron3:pl:inst:f:ter:akc:praep', 'ppron3:pl:inst:m1:ter:akc:npraep', 'ppron3:pl:inst:m1:ter:akc:praep', 'ppron3:pl:inst:m2:ter:akc:npraep', 'ppron3:pl:inst:m2:ter:akc:praep', 'ppron3:pl:inst:m3:ter:akc:npraep', 'ppron3:pl:inst:m3:ter:akc:praep', 'ppron3:pl:inst:n:ter:akc:npraep', 'ppron3:pl:inst:n:ter:akc:praep', 'ppron3:pl:loc:f:ter:akc:praep', 'ppron3:pl:loc:m1:ter:akc:praep', 'ppron3:pl:loc:m2:ter:akc:praep', 'ppron3:pl:loc:m3:ter:akc:praep', 'ppron3:pl:loc:n:ter:akc:praep', 'ppron3:pl:nom:f:ter:akc:npraep', 'ppron3:pl:nom:f:ter:nakc:npraep', 'ppron3:pl:nom:m1:ter:akc:npraep', 'ppron3:pl:nom:m2:ter:akc:npraep', 'ppron3:pl:nom:m3:ter:akc:npraep', 'ppron3:pl:nom:n:ter:akc:npraep', 'ppron3:sg:acc:f:ter:akc:npraep', 'ppron3:sg:acc:f:ter:akc:praep', 'ppron3:sg:acc:m1:ter:akc:npraep', 'ppron3:sg:acc:m1:ter:akc:praep', 'ppron3:sg:acc:m1:ter:nakc:npraep', 'ppron3:sg:acc:m1:ter:nakc:praep', 'ppron3:sg:acc:m2:ter:akc:praep', 'ppron3:sg:acc:m2:ter:nakc:npraep', 'ppron3:sg:acc:m2:ter:nakc:praep', 'ppron3:sg:acc:m3:ter:akc:npraep', 'ppron3:sg:acc:m3:ter:akc:praep', 'ppron3:sg:acc:m3:ter:nakc:npraep', 'ppron3:sg:acc:m3:ter:nakc:praep', 'ppron3:sg:acc:n:ter:akc:npraep', 'ppron3:sg:acc:n:ter:akc:praep', 'ppron3:sg:dat:f:ter:akc:npraep', 'ppron3:sg:dat:f:ter:akc:praep', 'ppron3:sg:dat:m1:ter:akc:npraep', 'ppron3:sg:dat:m1:ter:akc:praep', 'ppron3:sg:dat:m1:ter:nakc:npraep', 'ppron3:sg:dat:m2:ter:akc:npraep', 'ppron3:sg:dat:m2:ter:nakc:npraep', 'ppron3:sg:dat:m3:ter:akc:npraep', 'ppron3:sg:dat:m3:ter:akc:praep', 'ppron3:sg:dat:m3:ter:nakc:npraep', 'ppron3:sg:dat:n:ter:akc:npraep', 'ppron3:sg:dat:n:ter:akc:praep', 'ppron3:sg:dat:n:ter:nakc:npraep', 'ppron3:sg:gen:f:ter:akc:npraep', 'ppron3:sg:gen:f:ter:akc:praep', 'ppron3:sg:gen:m1:ter:akc:npraep', 'ppron3:sg:gen:m1:ter:akc:praep', 'ppron3:sg:gen:m1:ter:nakc:npraep', 'ppron3:sg:gen:m1:ter:nakc:praep', 'ppron3:sg:gen:m2:ter:akc:npraep', 'ppron3:sg:gen:m2:ter:akc:praep', 'ppron3:sg:gen:m2:ter:nakc:npraep', 'ppron3:sg:gen:m3:ter:akc:npraep', 'ppron3:sg:gen:m3:ter:akc:praep', 'ppron3:sg:gen:m3:ter:nakc:npraep', 'ppron3:sg:gen:m3:ter:nakc:praep', 'ppron3:sg:gen:n:ter:akc:npraep', 'ppron3:sg:gen:n:ter:akc:praep', 'ppron3:sg:gen:n:ter:nakc:npraep', 'ppron3:sg:inst:f:ter:akc:praep', 'ppron3:sg:inst:m1:ter:akc:npraep', 'ppron3:sg:inst:m1:ter:akc:praep', 'ppron3:sg:inst:m2:ter:akc:npraep', 'ppron3:sg:inst:m2:ter:akc:praep', 'ppron3:sg:inst:m3:ter:akc:npraep', 'ppron3:sg:inst:m3:ter:akc:praep', 'ppron3:sg:inst:n:ter:akc:npraep', 'ppron3:sg:inst:n:ter:akc:praep', 'ppron3:sg:loc:f:ter:akc:praep', 'ppron3:sg:loc:m1:ter:akc:praep', 'ppron3:sg:loc:m2:ter:akc:praep', 'ppron3:sg:loc:m3:ter:akc:praep', 'ppron3:sg:loc:n:ter:akc:praep', 'ppron3:sg:nom:f:ter:akc:npraep', 'ppron3:sg:nom:f:ter:akc:praep', 'ppron3:sg:nom:m1:ter:akc:npraep', 'ppron3:sg:nom:m2:ter:akc:npraep', 'ppron3:sg:nom:m2:ter:akc:praep', 'ppron3:sg:nom:m3:ter:akc:npraep', 'ppron3:sg:nom:n:ter:akc:npraep', 'praet:pl:f:imperf', 'praet:pl:f:perf', 'praet:pl:m1:imperf', 'praet:pl:m1:imperf:agl', 'praet:pl:m1:perf', 'praet:pl:m2:imperf', 'praet:pl:m2:perf', 'praet:pl:m3:imperf', 'praet:pl:m3:perf', 'praet:pl:n:imperf', 'praet:pl:n:perf', 'praet:sg:f:imperf', 'praet:sg:f:imperf:agl', 'praet:sg:f:imperf:nagl', 'praet:sg:f:perf', 'praet:sg:m1:imperf', 'praet:sg:m1:imperf:agl', 'praet:sg:m1:imperf:nagl', 'praet:sg:m1:perf', 'praet:sg:m1:perf:agl', 'praet:sg:m1:perf:nagl', 'praet:sg:m2:imperf', 'praet:sg:m2:imperf:nagl', 'praet:sg:m2:perf', 'praet:sg:m2:perf:nagl', 'praet:sg:m3:imperf', 'praet:sg:m3:imperf:nagl', 'praet:sg:m3:perf', 'praet:sg:m3:perf:nagl', 'praet:sg:n:imperf', 'praet:sg:n:perf', 'pred', 'prep:acc', 'prep:acc:nwok', 'prep:acc:wok', 'prep:dat', 'prep:gen', 'prep:gen:nwok', 'prep:gen:wok', 'prep:inst', 'prep:inst:nwok', 'prep:inst:wok', 'prep:loc', 'prep:loc:nwok', 'prep:loc:wok', 'prep:nom', 'romandig', 'siebie:acc', 'siebie:dat', 'siebie:gen', 'siebie:inst', 'siebie:loc', 'subst:pl:acc:f', 'subst:pl:acc:m1', 'subst:pl:acc:m1:pt', 'subst:pl:acc:m2', 'subst:pl:acc:m3', 'subst:pl:acc:n:col', 'subst:pl:acc:n:ncol', 'subst:pl:acc:n:pt', 'subst:pl:dat:f', 'subst:pl:dat:m1', 'subst:pl:dat:m1:pt', 'subst:pl:dat:m2', 'subst:pl:dat:m3', 'subst:pl:dat:n:col', 'subst:pl:dat:n:ncol', 'subst:pl:dat:n:pt', 'subst:pl:gen:f', 'subst:pl:gen:m1', 'subst:pl:gen:m1:pt', 'subst:pl:gen:m2', 'subst:pl:gen:m3', 'subst:pl:gen:n:col', 'subst:pl:gen:n:ncol', 'subst:pl:gen:n:pt', 'subst:pl:inst:f', 'subst:pl:inst:m1', 'subst:pl:inst:m1:pt', 'subst:pl:inst:m2', 'subst:pl:inst:m3', 'subst:pl:inst:n:col', 'subst:pl:inst:n:ncol', 'subst:pl:inst:n:pt', 'subst:pl:loc:f', 'subst:pl:loc:m1', 'subst:pl:loc:m1:pt', 'subst:pl:loc:m2', 'subst:pl:loc:m3', 'subst:pl:loc:n:col', 'subst:pl:loc:n:ncol', 'subst:pl:loc:n:pt', 'subst:pl:nom:f', 'subst:pl:nom:m1', 'subst:pl:nom:m1:pt', 'subst:pl:nom:m2', 'subst:pl:nom:m3', 'subst:pl:nom:n:col', 'subst:pl:nom:n:ncol', 'subst:pl:nom:n:pt', 'subst:pl:voc:f', 'subst:pl:voc:m1', 'subst:pl:voc:m1:pt', 'subst:pl:voc:m3', 'subst:pl:voc:n:col', 'subst:pl:voc:n:ncol', 'subst:pl:voc:n:pt', 'subst:sg:acc:f', 'subst:sg:acc:m1', 'subst:sg:acc:m2', 'subst:sg:acc:m3', 'subst:sg:acc:n:col', 'subst:sg:acc:n:ncol', 'subst:sg:dat:f', 'subst:sg:dat:m1', 'subst:sg:dat:m2', 'subst:sg:dat:m3', 'subst:sg:dat:n:col', 'subst:sg:dat:n:ncol', 'subst:sg:gen:f', 'subst:sg:gen:m1', 'subst:sg:gen:m2', 'subst:sg:gen:m3', 'subst:sg:gen:n:col', 'subst:sg:gen:n:ncol', 'subst:sg:inst:f', 'subst:sg:inst:m1', 'subst:sg:inst:m2', 'subst:sg:inst:m3', 'subst:sg:inst:n:col', 'subst:sg:inst:n:ncol', 'subst:sg:loc:f', 'subst:sg:loc:m1', 'subst:sg:loc:m2', 'subst:sg:loc:m3', 'subst:sg:loc:n:col', 'subst:sg:loc:n:ncol', 'subst:sg:nom:f', 'subst:sg:nom:m1', 'subst:sg:nom:m2', 'subst:sg:nom:m3', 'subst:sg:nom:n:col', 'subst:sg:nom:n:ncol', 'subst:sg:voc:f', 'subst:sg:voc:m1', 'subst:sg:voc:m2', 'subst:sg:voc:m3', 'subst:sg:voc:n:col', 'subst:sg:voc:n:ncol', 'sym', 'winien:pl:f:imperf', 'winien:pl:m1:imperf', 'winien:pl:m2:imperf', 'winien:pl:m3:imperf', 'winien:pl:n:imperf', 'winien:sg:f:imperf', 'winien:sg:m1:imperf', 'winien:sg:m2:imperf', 'winien:sg:m3:imperf', 'winien:sg:n:imperf', 'xxs:acc', 'xxs:dat', 'xxs:gen', 'xxs:inst', 'xxs:loc', 'xxs:nom', 'xxs:voc', 'xxx' ])), "nps": datasets.Sequence(datasets.Value("bool")), "nkjp_ids": datasets.Sequence(datasets.Value("string")), } ), supervised_keys=None, homepage="http://nkjp.pl/", citation=_CITATION, ) def _split_generators(self, dl_manager): """Returns SplitGenerators.""" downloaded_files = dl_manager.download_and_extract(_URLS) return [ datasets.SplitGenerator( name=datasets.Split.TRAIN, gen_kwargs={"filepath": downloaded_files["train"]}), datasets.SplitGenerator( name=datasets.Split.VALIDATION, gen_kwargs={"filepath": downloaded_files["dev"]}), datasets.SplitGenerator( name=datasets.Split.TEST, gen_kwargs={"filepath": downloaded_files["test"]}), ] def _generate_examples(self, filepath): logger.info("⏳ Generating examples from = %s", filepath) guid = 0 with open(filepath, 'r', encoding="utf-8") as f: for line in f: datapoint = json.loads(line) # datapoint['id'] = guid guid += 1 yield guid, datapoint