Update files from the datasets library (from 1.2.0)

Release notes: https://github.com/huggingface/datasets/releases/tag/1.2.0

.gitattributes

@@ -0,0 +1,27 @@
+*.7z filter=lfs diff=lfs merge=lfs -text
+*.arrow filter=lfs diff=lfs merge=lfs -text
+*.bin filter=lfs diff=lfs merge=lfs -text
+*.bin.* filter=lfs diff=lfs merge=lfs -text
+*.bz2 filter=lfs diff=lfs merge=lfs -text
+*.ftz filter=lfs diff=lfs merge=lfs -text
+*.gz filter=lfs diff=lfs merge=lfs -text
+*.h5 filter=lfs diff=lfs merge=lfs -text
+*.joblib filter=lfs diff=lfs merge=lfs -text
+*.lfs.* filter=lfs diff=lfs merge=lfs -text
+*.model filter=lfs diff=lfs merge=lfs -text
+*.msgpack filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text
+*.ot filter=lfs diff=lfs merge=lfs -text
+*.parquet filter=lfs diff=lfs merge=lfs -text
+*.pb filter=lfs diff=lfs merge=lfs -text
+*.pt filter=lfs diff=lfs merge=lfs -text
+*.pth filter=lfs diff=lfs merge=lfs -text
+*.rar filter=lfs diff=lfs merge=lfs -text
+saved_model/**/* filter=lfs diff=lfs merge=lfs -text
+*.tar.* filter=lfs diff=lfs merge=lfs -text
+*.tflite filter=lfs diff=lfs merge=lfs -text
+*.tgz filter=lfs diff=lfs merge=lfs -text
+*.xz filter=lfs diff=lfs merge=lfs -text
+*.zip filter=lfs diff=lfs merge=lfs -text
+*.zstandard filter=lfs diff=lfs merge=lfs -text
+*tfevents* filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,191 @@
+---
+annotations_creators:
+- found
+language_creators:
+- found
+languages:
+- en
+licenses:
+- unknown
+multilinguality:
+- monolingual
+size_categories:
+- 10K<n<100K
+source_datasets:
+- original
+task_categories:
+- text-classification
+task_ids:
+- topic-classification
+---
+
+# Dataset Card for `prachathai67k`
+
+## Table of Contents
+- [Dataset Description](#dataset-description)
+  - [Dataset Summary](#dataset-summary)
+  - [Supported Tasks](#supported-tasks-and-leaderboards)
+  - [Languages](#languages)
+- [Dataset Structure](#dataset-structure)
+  - [Data Instances](#data-instances)
+  - [Data Fields](#data-instances)
+  - [Data Splits](#data-instances)
+- [Dataset Creation](#dataset-creation)
+  - [Curation Rationale](#curation-rationale)
+  - [Source Data](#source-data)
+  - [Annotations](#annotations)
+  - [Personal and Sensitive Information](#personal-and-sensitive-information)
+- [Considerations for Using the Data](#considerations-for-using-the-data)
+  - [Social Impact of Dataset](#social-impact-of-dataset)
+  - [Discussion of Biases](#discussion-of-biases)
+  - [Other Known Limitations](#other-known-limitations)
+- [Additional Information](#additional-information)
+  - [Dataset Curators](#dataset-curators)
+  - [Licensing Information](#licensing-information)
+  - [Citation Information](#citation-information)
+
+## Dataset Description
+
+- **Homepage:** https://github.com/PyThaiNLP/prachathai-67k
+- **Repository:** https://github.com/PyThaiNLP/prachathai-67k
+- **Paper:**
+- **Leaderboard:**
+- **Point of Contact:** https://github.com/PyThaiNLP/
+
+### Dataset Summary
+
+`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com
+
+The `prachathai-67k` dataset was scraped from the news site [Prachathai](prachathai.com). We filtered out those articles with less than 500 characters of body text, mostly images and cartoons. It contains 67,889 articles wtih 12 curated tags from August 24, 2004 to November 15, 2018. The dataset was originally scraped by [@lukkiddd](https://github.com/lukkiddd) and cleaned by [@cstorm125](https://github.com/cstorm125). Download the dataset [here](https://www.dropbox.com/s/fsxepdka4l2pr45/prachathai-67k.zip?dl=1). You can also see preliminary exploration in [exploration.ipynb](https://github.com/PyThaiNLP/prachathai-67k/blob/master/exploration.ipynb).
+
+This dataset is a part of [pyThaiNLP](https://github.com/PyThaiNLP/) Thai text [classification-benchmarks](https://github.com/PyThaiNLP/classification-benchmarks). For the benchmark, we selected the following tags with substantial volume that resemble **classifying types of articles**:
+
+* `การเมือง` - politics
+* `สิทธิมนุษยชน` - human_rights
+* `คุณภาพชีวิต` - quality_of_life
+* `ต่างประเทศ` - international
+* `สังคม` - social
+* `สิ่งแวดล้อม` - environment
+* `เศรษฐกิจ` - economics
+* `วัฒนธรรม` - culture
+* `แรงงาน` - labor
+* `ความมั่นคง` - national_security
+* `ไอซีที` - ict
+* `การศึกษา` - education
+
+### Supported Tasks and Leaderboards
+
+multi-label text classification, language modeling
+
+### Languages
+
+Thai
+
+## Dataset Structure
+
+### Data Instances
+
+{'body_text': '17 พ.ย. 2558 Blognone [1] รายงานว่า กลุ่มแฮคเกอร์ Anonymous ประกาศสงครามไซเบอร์กับกลุ่มหัวรุนแรงหลังจากกลุ่ม IS ออกมาประกาศว่าเป็นผู้อยู่เบื้องหลังการโจมตีกรุงปารีสในคืนวันศุกร์ที่ผ่านมา\n\n\nภาพในคลิปใน YouTube โฆษกของกลุ่มแฮคเกอร์สวมหน้ากากที่เป็นสัญลักษณ์ของกลุ่มได้ออกมาอ่านแถลงเป็นภาษาฝรั่งเศส มีใจความว่า จากการโจมตีของกลุ่ม IS ในกรุงปารีส กลุ่ม Anonymous ทั่วโลกจะตามล่ากลุ่ม IS เหมือนที่เคยทำตอนที่มีการโจมตีสำนักพิมพ์ Charlie Hebdo และครั้งนี้จะเป็นปฏิบัติการโจมตีครั้งใหญ่ที่สุดของกลุ่ม Anonymous เลย นอกจากนี้กลุ่ม Anonymous ยังแสดงความเสียใจต่อครอบครัวผู้สูญเสียในเหตุการณ์ครั้งนี้\nกลุ่ม Anonymous เคยประกาศสงครามกับกลุ่ม IS หลังจากการโจมตีสำนักพิมพ��� Charlie Hebdo ที่ฝรั่งเศสเมื่อต้นปีที่ผ่านมา ซึ่งครั้งนั้นกลุ่ม Anonymous อ้างว่าได้ระงับบัญชีผู้ใช้งานที่เกี่ยวข้องกับ IS ไปหลายพันบัญชี (อ่านรายละเอียดเพิ่มเติม จากBlognone ที่\xa0\xa0กลุ่มแฮคเกอร์ Anonymous ประกาศสงครามไซเบอร์ขอกวาดล้างพวก ISIS [2])', 'culture': 0, 'date': '2015-11-17 18:14', 'economics': 0, 'education': 0, 'environment': 0, 'human_rights': 0, 'ict': 1, 'international': 1, 'labor': 0, 'national_security': 0, 'politics': 0, 'quality_of_life': 0, 'social': 0, 'title': 'แฮคเกอร์ Anonymous ลั่นทำสงครามไซเบอร์ครั้งใหญ่สุดกับกลุ่ม IS', 'url': 'https://prachatai.com/print/62490'}
+{'body_text': 'แถลงการณ์\n\n\xa0\n\nองค์การนักศึกษามหาวิทยาลัยธรรมศาสตร์\n\n\xa0\n\nมหาวิทยาลัยธรรมศาสตร์ก่อตั้งขึ้นภายใต้แนวคิดการให้การศึกษากับประชาชนเพื่อสนับสนุนการปกครองระบอบประชาธิปไตย อีกทั้งยังเป็นสถาบันหนึ่งที่อยู่เคียงข้างประชาชนมาโดยตลอด\n\n\xa0\n\nสถานการณ์สังคมไทยปัจจุบันได้เกิดความขัดแย้งทางการเมือง ทางแนวคิด จนลุกลามเป็นวิกฤตการณ์อันหาทางออกได้ยากยิ่ง องค์กรนักศึกษามหาวิทยาลัยธรรมศาสตร์ขอร้องเรียนและเสนอแนะต่อทุกฝ่าย โดยยึดหลักแนวทางตามรัฐธรรมนูญแห่งราชอาณาจักรไทย พ.ศ. ๒๕๕๐ อันเป็นกฎหมายสูงสุดในการจัดการปกครองรัฐ ที่มีผลบังคับใช้อยู่ในปัจจุบันซึ่งผ่านการประชามติจากปวงชนชาวไทยเมื่อวันที่ ๑๙ สิงหาคม พ.ศ. ๒๕๕๐ แล้วดังต่อนี้\n\n\xa0\n\n๑.การชุมชมโดยสงบและปราศจากอาวุธย่อมได้รับการคุ้มครองตามรัฐธรรมนูญ แต่หากการชุมนุมและเคลื่อนไหวของกลุ่มใดๆ มีการละเมิดสิทธิและเสรีภาพของผู้อื่นหรือก่อให้เกิดความเสียหายต่อชีวิตและทรัพย์สินของบุคคลและส่วนรวมนั้น ไม่สามารถกระทำได้ การใช้ความรุนแรง การกระทำอุกอาจต่างๆ ทั้งต่อบุคคลและทรัพย์สิน การยั่วยุ ปลุกระดมเพื่อหวังผลในการปะทะต่อสู้ จึงควรได้รับการกล่าวโทษ\n\n\xa0\n\nดังนั้นทั้งกลุ่มพันธมิตรประชาชนเพื่อประชาธิปไตย (พธม.) และกลุ่มแนวร่วมประชาธิปไตยไม่เอาเผด็จการแห่งชาติ (นปช.) จึงควรยอมรับกระบวนการตามกฎหมาย และหากถูกกล่าวหาไม่ว่ากรณีใดๆ ก็ควรพิสูจน์ความบริสุทธิ์โดยใช้กระบวนการยุติธรรม และหากจะยังชุมนุมต่อไปก็ยังคงทำได้ภายใต้บทบัญญัติแห่งกฎหมาย\n\n\xa0\n\nองค์กรนักศึกษามหาวิทยาลัยธรรมศาสตร์ จึงร้องขอให้หน่วยงานต่างๆ ที่เกี่ยวข้องดำเนินการตามกระบวนการทางกฎหมายกับการกระทำที่ผิดบทบัญญัติแห่งกฎหมายที่ทุกฝ่ายได้กระทำไป\n\n\xa0\n\n๒.นายสมัคร สุนทรเวช นายกรัฐมนตรี ไม่มีความเหมาะสมในการบริหารราชการแผ่นดินขาดหลักธรรมาภิบาล แต่ทั้งนี้นายสมัคร สุนทรเวช ยังคงยืนยันและกล่าวอ้างความชอบธรรมตามระบอบประชาธิปไตยภายใต้รัฐธรรมนูญ โดยไม่คำนึงถึงกระแสเรียกร้องใดๆ อันส่งผลให้ความขัดแย้งทางสังคมยิ่งบานปลายจนกลายเป็นวิกฤตการณ์เช่นปัจจุบัน ซึ่งก่อให้เกิดความเสียหายต่อประเทศแนวโน้มจะคลี่คลาย\n\n\xa0\n\nองค์การนักศึกษามหาวิทยาลัยธรรมศาสตร์ จึงเห็นว่า ควรใช้สิทธิตามรัฐธรรมนูญแห่งราชอาณาจักรไทย พุทธศักราช ๒๕๕๐ มาตรา ๑๖๔ โดยการเข้าชื่อเพื่อร้องต่อประธานวุฒิสภาเพื่อให้มีมติตามมาตรา ๒๗๔ ให้ถอดถอนนายสมัคร สุนทรเวช ออกจากตำแหน่งนายกรัฐมนตรีตามมาตรา ๒๗๐ ณ ลานโพ มหาวิทยาลัยธรรมศาสตร์ ท่าพระจันทร์ อาคารเรียนรวมสังคมศาสตร์ อาคารปิยชาติ และตึกกิจกรรมนักศึกษา มหาวิทยาลัยธรรมศาสตร์ ศูนย์รังสิต\n\n\xa0\n\n\xa0\n\nด้วยความสมานฉันท์\n\nองค์การนักศึกษามหาวิทยาลัยธรรมศาสตร์', 'culture': 0, 'date': '2008-09-06 03:36', 'economics': 0, 'education': 0, 'environment': 0, 'human_rights': 0, 'ict': 0, 'international': 0, 'labor': 0, 'national_security': 0, 'politics': 1, 'quality_of_life': 0, 'social': 0, 'title': 'แถลงการณ์ อมธ.แนะใช้สิทธิ ตาม รธน.เข้าชื่อร้องต่อประธานวุฒิสภาถอดถอน "สมัคร" จากตำแหน่งนายกฯ', 'url': 'https://prachatai.com/print/18038'}
+
+### Data Fields
+
+- `url`: url of the article
+- `date`: date the article was published
+- `title`: title of the article
+- `body_text`: body text of the article
+- `politics`: 1 if sample has this tag else 0
+- `human_rights`: 1 if sample has this tag else 0
+- `quality_of_life`: 1 if sample has this tag else 0
+- `international`: 1 if sample has this tag else 0
+- `social`: 1 if sample has this tag else 0
+- `environment`: 1 if sample has this tag else 0
+- `economics`: 1 if sample has this tag else 0
+- `culture`: 1 if sample has this tag else 0
+- `labor`: 1 if sample has this tag else 0
+- `national_security`: 1 if sample has this tag else 0
+- `ict`: 1 if sample has this tag else 0
+- `education`: 1 if sample has this tag else 0
+
+### Data Splits
+
+|                   | train | valid  | test |
+|-------------------|-------|--------|------|
+| # articles        | 54379 | 6721   | 6789 |
+| politics          | 31401 | 3852   | 3842 |
+| human_rights      | 12061 | 1458   | 1511 |
+| quality_of_life   | 9037  | 1144   | 1127 |
+| international     | 6432  | 828    | 834  |
+| social            | 6321  | 782    | 789  |
+| environment       | 6157  | 764    | 772  |
+| economics         | 3994  | 487    | 519  |
+| culture           | 3279  | 388    | 398  |
+| labor             | 2905  | 375    | 350  |
+| national_security | 2865  | 339    | 338  |
+| ict               | 2326  | 285    | 292  |
+| education         | 2093  | 248    | 255  |
+
+## Dataset Creation
+
+### Curation Rationale
+
+The data was scraped from the news site [Prachathai](prachathai.com) from August 24, 2004 to November 15, 2018. The initial intention was to use the dataset as a benchmark for Thai text classification. Due to the size of the dataset, it can also be used for language modeling.
+
+### Source Data
+
+#### Initial Data Collection and Normalization
+
+67,889 articles wtih 51,797 tags were scraped from the news site [Prachathai](prachathai.com) from August 24, 2004 to November 15, 2018. We filtered out those articles with less than 500 characters of body text, mostly images and cartoons.
+
+#### Who are the source language producers?
+
+Prachathai.com
+
+### Annotations
+
+#### Annotation process
+
+Tags are annotated for the news website Prachathai.com
+
+#### Who are the annotators?
+
+We assume that the reporters who wrote the articles or other Prachathai staff gave each article its tags.
+
+### Personal and Sensitive Information
+
+We do not expect any personal and sensitive information to be present since all data are public news articles.
+
+## Considerations for Using the Data
+
+### Social Impact of Dataset
+
+- classification benchmark for multi-label Thai text classification
+
+### Discussion of Biases
+
+Prachathai.com is a left-leaning, human-right-focused news site, and thus unusual news labels such as human rights and quality of life. The news articles are expected to be left-leaning in contents.
+
+### Other Known Limitations
+
+[More Information Needed]
+
+## Additional Information
+
+### Dataset Curators
+
+PyThaiNLP
+
+### Licensing Information
+
+CC-BY-NC
+
+### Citation Information
+
+@misc{prachathai67k,
+  author = {cstorm125, lukkiddd },
+  title = {prachathai67k},
+  year = {2019},
+  publisher = {GitHub},
+  journal = {GitHub repository},
+  howpublished={\\url{https://github.com/PyThaiNLP/prachathai-67k}},
+}

dataset_infos.json

@@ -0,0 +1 @@
+{"prachathai67k": {"description": "`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com\nThe prachathai-67k dataset was scraped from the news site Prachathai.\nWe filtered out those articles with less than 500 characters of body text, mostly images and cartoons.\nIt contains 67,889 articles wtih 12 curated tags from August 24, 2004 to November 15, 2018.\nThe dataset was originally scraped by @lukkiddd and cleaned by @cstorm125.\nYou can also see preliminary exploration at https://github.com/PyThaiNLP/prachathai-67k/blob/master/exploration.ipynb\n", "citation": "@misc{prachathai67k,\n  author = {cstorm125, lukkiddd },\n  title = {prachathai67k},\n  year = {2019},\n  publisher = {GitHub},\n  journal = {GitHub repository},\n  howpublished={\\url{https://github.com/PyThaiNLP/prachathai-67k}},\n}\n", "homepage": "https://github.com/PyThaiNLP/prachathai-67k/", "license": "", "features": {"url": {"dtype": "string", "id": null, "_type": "Value"}, "date": {"dtype": "string", "id": null, "_type": "Value"}, "title": {"dtype": "string", "id": null, "_type": "Value"}, "body_text": {"dtype": "string", "id": null, "_type": "Value"}, "politics": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "human_rights": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "quality_of_life": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "international": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "social": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "environment": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "economics": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "culture": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "labor": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "national_security": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "ict": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}, "education": {"num_classes": 2, "names": ["neg", "pos"], "names_file": null, "id": null, "_type": "ClassLabel"}}, "post_processed": null, "supervised_keys": null, "builder_name": "prachathai67k", "config_name": "prachathai67k", "version": {"version_str": "1.1.0", "description": null, "major": 1, "minor": 1, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 865848436, "num_examples": 54379, "dataset_name": "prachathai67k"}, "validation": {"name": "validation", "num_bytes": 108641386, "num_examples": 6721, "dataset_name": "prachathai67k"}, "test": {"name": "test", "num_bytes": 110034036, "num_examples": 6789, "dataset_name": "prachathai67k"}}, "download_checksums": {"https://archive.org/download/prachathai67k/data.zip": {"num_bytes": 254240975, "checksum": "e28bd1a15c17eeab8e606aef50463246d46e23f47389b12501c369f99eedb38a"}}, "download_size": 254240975, "post_processing_size": null, "dataset_size": 1084523858, "size_in_bytes": 1338764833}}

dummy/prachathai67k/1.1.0/dummy_data.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c3244bcb32d2d6c4a6a3dbc0225aafc03a9bcd9b8cca583637966fccde47a0aa
+size 44031

prachathai67k.py

@@ -0,0 +1,128 @@
+"""`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com"""
+
+from __future__ import absolute_import, division, print_function
+
+import json
+import os
+
+import datasets
+
+
+_CITATION = """\
+@misc{prachathai67k,
+  author = {cstorm125, lukkiddd },
+  title = {prachathai67k},
+  year = {2019},
+  publisher = {GitHub},
+  journal = {GitHub repository},
+  howpublished={\\url{https://github.com/PyThaiNLP/prachathai-67k}},
+}
+"""
+
+_DESCRIPTION = """\
+`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com
+The prachathai-67k dataset was scraped from the news site Prachathai.
+We filtered out those articles with less than 500 characters of body text, mostly images and cartoons.
+It contains 67,889 articles wtih 12 curated tags from August 24, 2004 to November 15, 2018.
+The dataset was originally scraped by @lukkiddd and cleaned by @cstorm125.
+You can also see preliminary exploration at https://github.com/PyThaiNLP/prachathai-67k/blob/master/exploration.ipynb
+"""
+
+
+class Prachathai67kConfig(datasets.BuilderConfig):
+    """BuilderConfig for Prachathai."""
+
+    def __init__(self, **kwargs):
+        """BuilderConfig for Prachathai.
+
+        Args:
+          **kwargs: keyword arguments forwarded to super.
+        """
+        super(Prachathai67kConfig, self).__init__(**kwargs)
+
+
+class Prachathai67k(datasets.GeneratorBasedBuilder):
+    """`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com"""
+
+    _DOWNLOAD_URL = "https://archive.org/download/prachathai67k/data.zip"
+    _TRAIN_FILE = "train.jsonl"
+    _VAL_FILE = "valid.jsonl"
+    _TEST_FILE = "test.jsonl"
+
+    BUILDER_CONFIGS = [
+        Prachathai67kConfig(
+            name="prachathai67k",
+            version=datasets.Version("1.1.0"),
+            description="`prachathai-67k`: News Article Corpus and Multi-label Text Classificdation from Prachathai.com",
+        ),
+    ]
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "url": datasets.Value("string"),
+                    "date": datasets.Value("string"),
+                    "title": datasets.Value("string"),
+                    "body_text": datasets.Value("string"),
+                    "politics": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "human_rights": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "quality_of_life": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "international": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "social": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "environment": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "economics": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "culture": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "labor": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "national_security": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "ict": datasets.features.ClassLabel(names=["neg", "pos"]),
+                    "education": datasets.features.ClassLabel(names=["neg", "pos"]),
+                }
+            ),
+            supervised_keys=None,
+            homepage="https://github.com/PyThaiNLP/prachathai-67k/",
+            citation=_CITATION,
+        )
+
+    def _split_generators(self, dl_manager):
+        arch_path = dl_manager.download_and_extract(self._DOWNLOAD_URL)
+        data_dir = os.path.join(arch_path, "data")
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={"filepath": os.path.join(data_dir, self._TRAIN_FILE)},
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.VALIDATION,
+                gen_kwargs={"filepath": os.path.join(data_dir, self._VAL_FILE)},
+            ),
+            datasets.SplitGenerator(
+                name=datasets.Split.TEST,
+                gen_kwargs={"filepath": os.path.join(data_dir, self._TEST_FILE)},
+            ),
+        ]
+
+    def _generate_examples(self, filepath):
+        """Generate examples."""
+        with open(filepath, encoding="utf-8") as f:
+            for id_, row in enumerate(f):
+                data = json.loads(row)
+                yield id_, {
+                    "url": data["url"],
+                    "date": data["date"],
+                    "title": data["title"],
+                    "body_text": data["body_text"],
+                    "politics": data["politics"],
+                    "human_rights": data["human_rights"],
+                    "quality_of_life": data["quality_of_life"],
+                    "international": data["international"],
+                    "social": data["social"],
+                    "environment": data["environment"],
+                    "economics": data["economics"],
+                    "culture": data["culture"],
+                    "labor": data["labor"],
+                    "national_security": data["national_security"],
+                    "ict": data["ict"],
+                    "education": data["education"],
+                }