remove <S> </S>

README.md

@@ -15,7 +15,7 @@ task_ids:
 
 Dataset for summarization of long documents.\
 Adapted from this [repo](https://github.com/armancohan/long-summarization).\
-Note that original data are pre-tokenized so this dataset returns " ".join(text).\
+Note that original data are pre-tokenized so this dataset returns " ".join(text) and add "\n" for paragraphs. \
 This dataset is compatible with the [`run_summarization.py`](https://github.com/huggingface/transformers/tree/master/examples/pytorch/summarization) script from Transformers if you add this line to the `summarization_name_mapping` variable:
 ```python
 "ccdv/pubmed-summarization": ("article", "abstract")

pubmed-summarization.py

@@ -68,7 +68,7 @@ class PubMedSummarizationDataset(datasets.GeneratorBasedBuilder):
         ),
     ]
 
-    DEFAULT_CONFIG_NAME = "document"
+    DEFAULT_CONFIG_NAME = "section"
 
     def _info(self):
         # Should return a datasets.DatasetInfo object
@@ -118,8 +118,12 @@ class PubMedSummarizationDataset(datasets.GeneratorBasedBuilder):
                 'sections': List[List[str]]
                 """
                 if self.config.name == "document":
-                    article = data["article_text"]
+                    article = [d.strip() for d in data["article_text"]]
+                    article = " ".join(article)
                 else:
                     article = [item.strip() for sublist in data["sections"] for item in sublist]
-                abstract = data["abstract_text"]
-                yield id_, {"article": ' '.join(article), "abstract": ' '.join(abstract)}
+                    article = " \n ".join(article)
+
+                abstract = [ab.replace("<S>", "").replace("</S>", "").strip() for ab in data["abstract_text"]]
+                abstract = " \n ".join(abstract)
+                yield id_, {"article": article, "abstract": abstract}