add initial files

README.md

@@ -0,0 +1,35 @@
+---
+language:
+- fa
+source_datasets:
+- original
+task_categories:
+- text-generation
+task_ids:
+- language-modeling
+pretty_name: persian_blog
+---
+# Persian Blog
+
+
+# Dataset Summary
+
+persian_news_dataset is a collection of 400k blog posts. these posts have been gathered from more than 10 websites. This dataset can be used in different NLP tasks like language modeling and text generation tasks.
+
+This effort is part of a bigger perspective to have several datasets in Persian language for different tasks that have two important factors: `free` and `easy-to-use`. Here is a quick HOW-TO for using this dataset in datasets library:[Demo-datasets](https://saied71.github.io/RohanAiLab/2021/09/03/Demo-datasets.html)
+
+# Description
+
+As discussed before, this dataset contains 5M news articles. Each article has these three attributes: text, title, category. Here is a sample of dataset:
+```
+text : چرا کودکان به روانشناس نیاز دارند؟ روانشناسی کودکانکودکان همچون غنچه‌های زیبا هستند که برای شکوفایی و به ثمر رسیدن نیاز به مراقبت و رسیدگی دارند . روانشناس کودک فردیست که از زمان بدو تولد کودک در مراحل مختلف زندگی کودک در کنار والدین وی می‌باشد و به چگونگی تربیت کودک کمک می‌کند تا به بهترین شکل رشد کند . چرا که روانشناس کودک با روحیات ، نیاز‌ها و مشکلات کودکان و همچنین چگونگی برقراری ارتباط بین کودک و والدین وی آشنایی کامل دارد .بسیاری از کودکان در سنین مختلف بخاطر شرایط زندگی ، دچار انواع ناسازگاری‌ها و مشکلات در زندگی خود می‌شود از ناسازگاری کودکان می‌توان به موارد زیر اشاره کرد : 1 . پرخاشگری 2 . بد دهنی 3 . اختلال در خوابیدن 4 . اختلال در غذا خوردن و کم اشتهایی 5 . حالت افسردگی و اضطراب 6 . ترس از محیط پیرامون 7 . عدم آمادگی برای ورود به جامعه 8 . وجود مشکل در محیط مدرسه 9 . عدم تمرکز 10 . جویدن ناخن ها 11 . انزوا و گوشه گیری 12 . عدم هم بازی شدن با هم سن و سال هاو .این گونه ناسازگاری‌ها در زندگی آینده کودک نقش به سزایی دارد .روانشناس کودکیک روانشناس کودک خوب ، با دلسوزی و با تکیه بر تجربیات و تخصص خود می‌کوشد تا رفتار‌های کودک را مورد ارزیابی و بررسی قرار دهد سپس سعی می‌کند تا رفتار‌های بعدی کودک را پیش بینی کند و منشاء این مشکلات و سطح پیشرفت آن را بیابد. سپس او بهترین روش‌های درمان برای بهبود اختلال کودک را می‌یابد و با کمک والدین این ناسازگاری‌ها ، مشکلات و ناهنجاری‌ها را حل کرده و نهایتا رابطه‌ای دوستانه و صمیمانه بین کودک و والدین وی ایجاد می‌نماید تاآینده‌ای درخشان در انتظار کودک شما باشد .
+```
+
+# Citation
+```
+  rohanailab@gmail.com
+  title={persian_blog},
+  author={Saied Alimoradi},
+  year={2021}
+}
+```

blogs.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2ade6eb60013b1cd50168061ba4656b92b87f29c285091c0a673bd27ec353fcc
+size 591517924

dataset_info.json

@@ -0,0 +1 @@
+{"description": "persian_blog is a dataset consist of 400K blog posts from various websites and has types of tones.\nthis dataset can be used in different NLG tasks and as a show-case it's is used in training reformer-persian.", "citation": "\nhttps://saied71.github.io/RohanAiLab/,\n  author={Saied Alimoradi},\n  year={2021}\n}\n", "homepage": "", "license": "", "features": {"text": {"dtype": "string", "id": null, "_type": "Value"}}, "post_processed": null, "supervised_keys": null, "task_templates": null, "builder_name": "persian_blog", "config_name": "default", "version": {"version_str": "0.0.0", "description": null, "major": 0, "minor": 0, "patch": 0}, "splits": {"train": {"name": "train", "num_bytes": 2262319474, "num_examples": 385900, "dataset_name": "persian_blog"}}, "download_checksums": {"blogs.zip": {"num_bytes": 591517924, "checksum": "2ade6eb60013b1cd50168061ba4656b92b87f29c285091c0a673bd27ec353fcc"}}, "download_size": 591517924, "post_processing_size": null, "dataset_size": 2262319474, "size_in_bytes": 2853837398}

persian_blog.py

@@ -0,0 +1,58 @@
+import datasets
+import csv
+import os
+import sys
+csv.field_size_limit(sys.maxsize)
+
+_DESCRIPTION = """persian_blog is a dataset consist of 400K blog posts from various websites and has types of tones.
+this dataset can be used in different NLG tasks and as a show-case it's is used in training reformer-persian."""
+_PROJECT_URL = """"""
+
+
+_CITATION = """
+https://saied71.github.io/RohanAiLab/,
+  author={Saied Alimoradi},
+  year={2021}
+}
+"""
+
+_URL = "blogs.zip"
+
+
+class persian_blog(datasets.GeneratorBasedBuilder):
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "text": datasets.Value("string")
+                }
+            ),
+            homepage=_PROJECT_URL,
+            citation=_CITATION,
+        )
+
+
+
+    def _split_generators(self, dl_manager):
+        """Returns SplitGenerators."""
+        dl_dir = dl_manager.download_and_extract(_URL)
+        data_dir = os.path.join(dl_dir, "blogs.csv")
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TRAIN,
+                gen_kwargs={
+                    "filepath": data_dir,
+                },),]
+
+    def _generate_examples(self, filepath):
+        """Yields examples."""
+        with open(filepath, encoding="utf-8") as f:
+            reader = csv.reader(f)
+            for id_, row in enumerate(reader):
+                if id_ == 0:
+                    continue
+                yield id_, {
+                    "text": row[0]
+                }

sample_lit.zip

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8cdfc7fee14933e5ad29cb56e009a536f06e673a26965090488a8c4b3c3756da
+size 26928