add intial files

README.md

@@ -0,0 +1,35 @@
+---
+pretty_name: Persian Daily News
+language:
+- fa
+source_datasets:
+- original
+task_categories:
+- Summarization
+- text-generation
+---
+# Persian Daily News
+
+
+# Dataset Summary
+
+persian_daily_news  is a collection of 2 million of unique news articles with the headline for each article. dataset can be used in abstractive summarization and paraphrasing tasks.
+
+This effort is part of a bigger perspective to have several datasets in Persian language(and other low resources languages) for different tasks that have two important factors: `free` and `easy-to-use`. Here is a quick HOW-TO for using this dataset in datasets library:[Demo-datasets](https://saied71.github.io/saied-alimoradi-blog/posts/2021-9-4-demo-datasets.html)
+
+# Description
+
+As discussed before, this dataset contains 2M news articles. Each article has these two attributes: text and summary. Here is a sample of dataset:
+```
+text: به گزارش گروه بین الملل ، خبرگزاری رسمی قطر اعلام کرد، بعد از امضای موافقتنامه همکاری نظامی بین قطر و روسیه این امکان فراهم شده است تا نظامیان قطری برای تکمیل آموزش‌های نظامی خود عازم روسیه شده و در آنجا تعلیم ببینند.در چارچوب این قرارداد که امروز یک شنبه توسط سرتیپ ستاد عبدالعزیز صالح السلیطی رییس هییت همکاری‌های بین المللی نظامی قطر و سرلشکر ویکتور جوریمیکین رییس اداره عمومی نیروی انسانی وزارت دفاع روسیه به امضا رسید، روابط نظامی بین دوحه و مسکو در زمینه موسسات آموزش‌های نظامی شاهد توسه قابل توجهی خواهد شد.به نوشته این خبرگزاری روابط قطر و روسیه در حال گسترش بوده و به سوی شکل‌گیری مشارکت راهبردی در تمامی زمینه‌ها پیش می‌رود.
+summary: از این پس نظامیان قطری برای آموزش عازم روسیه شده و در موسسات آموزش نظامی این کشور تعلیم خواهند دید.
+```
+
+# Citation
+```
+  saied.alimoradi@gmail.com
+  title={persian_daily_news},
+  author={Saied Alimoradi},
+  year={2021}
+}
+```

persian_daily.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9743e9b75c598828576fa96bbf5b4f425cedca177575b79b3a12c7db9eabfb23
+size 1868601048

persian_daily_news.py

@@ -0,0 +1,64 @@
+import datasets
+import csv
+import os
+import sys
+csv.field_size_limit(sys.maxsize)
+
+_DESCRIPTION = """Persian Daily News dataset is a collection of 2 million news articles with the headline of each news article.
+This dataset contains news articles and their summaries for the last 10 years.
+This dataset is provided by Rohan AI lab for research purposes.
+"""
+
+_PROJECT_URL = """"""
+
+
+_CITATION = """
+https://saied71.github.io/RohanAiLab/,
+  author={Saied Alimoradi},
+  year={2021}
+}
+"""
+
+_URL = "persian_daily.zip"
+
+
+
+class Persian_news(datasets.GeneratorBasedBuilder):
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "text": datasets.Value("string"),
+                    "summary": datasets.Value("string"),
+                }
+            ),
+            homepage=_PROJECT_URL,
+            citation=_CITATION,
+        )
+
+
+
+    def _split_generators(self, dl_manager):
+        """Returns SplitGenerators."""
+        dl_dir = dl_manager.download_and_extract(_URL)
+        data_dir = os.path.join(dl_dir, "persian_daily.csv")
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={
+                    "filepath": data_dir,
+                },),]
+
+    def _generate_examples(self, filepath):
+        """Yields examples."""
+        with open(filepath, encoding="utf-8") as f:
+            reader = csv.reader(f)
+            for id_, row in enumerate(reader):
+                if id_ == 0:
+                    continue
+                yield id_, {
+                    "text": row[1],
+                    "summary": row[0]
+                }