Datasets:

Modalities:
Text
ArXiv:
Libraries:
Datasets
License:
albertvillanova HF staff julien-c HF staff commited on
Commit
d984563
1 Parent(s): 45f0489

Fix `license` metadata (#1)

Browse files

- Fix `license` metadata (f9a4ce9716da1deafe95ed47b44bad519ff0b8d5)


Co-authored-by: Julien Chaumond <julien-c@users.noreply.huggingface.co>

Files changed (1) hide show
  1. README.md +209 -209
README.md CHANGED
@@ -1,210 +1,210 @@
1
- ---
2
- annotations_creators:
3
- - no-annotation
4
- language_creators:
5
- - found
6
- languages:
7
- - as
8
- - bn
9
- - gu
10
- - hi
11
- - kn
12
- - ml
13
- - mr
14
- - or
15
- - pa
16
- - ta
17
- - te
18
- licenses:
19
- - cc-by-nc-4.0
20
- multilinguality:
21
- - multilingual
22
- pretty_name: IndicHeadlineGeneration
23
- size_categories:
24
- - 27K<n<341K
25
- source_datasets:
26
- - original for Hindi, and modified [IndicGLUE](https://indicnlp.ai4bharat.org/indic-glue/) for other languages.
27
- task_categories:
28
- - conditional-text-generation
29
- task_ids:
30
- - conditional-text-generation-other-headline-generation
31
- ---
32
-
33
- # Dataset Card for "IndicHeadlineGeneration"
34
-
35
- ## Table of Contents
36
- - [Dataset Card Creation Guide](#dataset-card-creation-guide)
37
- - [Table of Contents](#table-of-contents)
38
- - [Dataset Description](#dataset-description)
39
- - [Dataset Summary](#dataset-summary)
40
- - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
41
- - [Languages](#languages)
42
- - [Dataset Structure](#dataset-structure)
43
- - [Data Instances](#data-instances)
44
- - [Data Fields](#data-fields)
45
- - [Data Splits](#data-splits)
46
- - [Dataset Creation](#dataset-creation)
47
- - [Curation Rationale](#curation-rationale)
48
- - [Source Data](#source-data)
49
- - [Initial Data Collection and Normalization](#initial-data-collection-and-normalization)
50
- - [Who are the source language producers?](#who-are-the-source-language-producers)
51
- - [Annotations](#annotations)
52
- - [Annotation process](#annotation-process)
53
- - [Who are the annotators?](#who-are-the-annotators)
54
- - [Personal and Sensitive Information](#personal-and-sensitive-information)
55
- - [Considerations for Using the Data](#considerations-for-using-the-data)
56
- - [Social Impact of Dataset](#social-impact-of-dataset)
57
- - [Discussion of Biases](#discussion-of-biases)
58
- - [Other Known Limitations](#other-known-limitations)
59
- - [Additional Information](#additional-information)
60
- - [Dataset Curators](#dataset-curators)
61
- - [Licensing Information](#licensing-information)
62
- - [Citation Information](#citation-information)
63
- - [Contributions](#contributions)
64
-
65
- ## Dataset Description
66
-
67
- - **Homepage:** https://indicnlp.ai4bharat.org/indicnlg-suite
68
- - **Paper:** [IndicNLG Suite: Multilingual Datasets for Diverse NLG Tasks in Indic Languages](https://arxiv.org/abs/2203.05437)
69
- - **Point of Contact:**
70
-
71
- ### Dataset Summary
72
-
73
- IndicHeadlineGeneration is the news headline generation dataset released as part of IndicNLG Suite. Each
74
- input document is paired with an output as title. We create this dataset in eleven
75
- languages including as, bn, gu, hi, kn, ml, mr, or, pa, ta, te. The total
76
- size of the dataset is 1.4M.
77
-
78
-
79
- ### Supported Tasks and Leaderboards
80
-
81
- **Tasks:** Headline Generation
82
-
83
- **Leaderboards:** Currently there is no Leaderboard for this dataset.
84
-
85
- ### Languages
86
- - `Assamese (as)`
87
- - `Bengali (bn)`
88
- - `Gujarati (gu)`
89
- - `Kannada (kn)`
90
- - `Hindi (hi)`
91
- - `Malayalam (ml)`
92
- - `Marathi (mr)`
93
- - `Oriya (or)`
94
- - `Punjabi (pa)`
95
- - `Tamil (ta)`
96
- - `Telugu (te)`
97
-
98
- ## Dataset Structure
99
-
100
- ### Data Instances
101
-
102
- One random example from the `hi` dataset is given below in JSON format.
103
- ```
104
- {'id': '14',
105
- 'input': "अमेरिकी सिंगर अरियाना ग्रांडे का नया म्यूजिक एल्बम 'थैंक यू नेक्स्ट' रिलीज हो गया है।एक दिन पहले ही रिलीज हुए इस गाने को देखने वालों की संख्या 37,663,702 पहुंच गई है।यूट्यूब पर अपलोड इस गाने को 24 घंटे के भीतर 3.8 मिलियन लोगों ने पसंद किया है।अरियाना ग्रांडे नई दिल्लीः अमेरिकी सिंगर अरियाना ग्रांडे का नया म्यूजिक एल्बम 'थैंक यू नेक्स्ट' रिलीज हो गया है।एक दिन पहले ही रिलीज हुए इस गाने को देखने वालों की संख्या 37,663,702 पहुंच गई है।यूट्यूब पर अपलोड इस गाने को 24 घंटे के भीतर 3.8 मिलियन लोगों ने पसंद किया है।वहीं इस वीडियो पर कमेंट्स की बाढ़ आ गई है।गाने में मीन गर्ल्स, ब्रिंग इट ऑन, लीगली ब्लॉंड और 13 गोइंग 30 के कुछ फेमस सीन्स को दिखाया गया है।गाने में क्रिस जैनर का कैमियो भी है।बता दें अभी कुछ महीने पहले ही अरियाना के एक्स ब्वॉयफ्रेंड मैक मिलर का 26 साल की उम्र में निधन हो गया था।इस खबर को सुनकर अरियाना टूट सी गई थीं।उन्होंने सोशल मीडिया पर पोस्ट कर कई बार अपनी भावनाएं व्यक्त की।अरियाना ग्रांडे और रैपर मैक मिलर ने करीब 2 साल तक एक दूसरे को डेट किया।मैक के निधन की वजह ड्रग्स की ओवरडोज बताई गई।दोनों की मुलाकात साल 2012 में हुई थी।दोनों ने एक कंसर्ट में साथ कई गानों पर परफॉर्म भी किया था।जिसके बाद दोनों एक दूसरे को डेट करने लगे लेकिन नशे की लत के कारण अरियाना ने उनसे ब्रेकअप कर लिया।पर देश-विदेश की ताजा और स्पेशल स्टोरी पढ़ते हुए अपने आप को रखिए अप-टू-डेट।के लिए क्लिक करें सिनेमा सेक्शन",
106
- 'target': 'अरियाना ग्रांडे का नया गाना रिलीज, सोशल मीडिया पर वायरल',
107
- 'url': 'https://www.indiatv.in/entertainment/hollywood-ariana-grande-shatters-24-hour-views-record-612835'
108
- }
109
- ```
110
-
111
- ### Data Fields
112
- - `id (string)`: Unique identifier.
113
- - `input (string)`: News article as input.
114
- - `target (strings)`: Output as headline of the news article.
115
- - `url (string)`: Source web link of the news article.
116
-
117
-
118
- ### Data Splits
119
-
120
- Here is the number of samples in each split for all the languages.
121
-
122
-
123
-
124
-
125
- Language | ISO 639-1 Code | Train | Dev | Test |
126
- ---------- | ---------- | ---------- | ---------- | ---------- |
127
- Assamese | as | 29,631 | 14,592 | 14,808 |
128
- Bengali | bn | 113,424 | 14,739 | 14,568 |
129
- Gujarati | gu | 199,972 | 31,270 | 31,215 |
130
- Hindi | hi | 208,221 | 44,738 | 44,514 |
131
- Kannada | kn | 132,380 | 19,416 | 3,261 |
132
- Malayalam | ml | 10,358 | 5,388 | 5,220 |
133
- Marathi | mr | 114,042 | 14,253 | 14,340 |
134
- Oriya | or | 58,225 | 7,484 | 7,137 |
135
- Punjabi | pa | 48,441 | 6,108 | 6,086 |
136
- Tamil | ta | 60,650 | 7,616 | 7,688 |
137
- Telugu | te | 21,352 | 2,690 | 2,675 |
138
-
139
-
140
- ## Dataset Creation
141
-
142
- ### Curation Rationale
143
-
144
- [Detailed in the paper](https://arxiv.org/abs/2203.05437)
145
-
146
- ### Source Data
147
-
148
- For hindi, web sources like [Dainik Bhaskar](https://www.bhaskar.com), [Naidunia](https://www.naidunia.com/), [NDTV](https://ndtv.in/), [Business Standard](https://hindi.business-standard.com/) and [IndiaTV](https://www.indiatv.in/). For other languages, modified [IndicGLUE](https://indicnlp.ai4bharat.org/indic-glue/) dataset.
149
-
150
- #### Initial Data Collection and Normalization
151
-
152
- [Detailed in the paper](https://arxiv.org/abs/2203.05437)
153
-
154
-
155
- #### Who are the source language producers?
156
-
157
- [Detailed in the paper](https://arxiv.org/abs/2203.05437)
158
-
159
-
160
- ### Annotations
161
- [More information needed]
162
- #### Annotation process
163
- [More information needed]
164
-
165
- #### Who are the annotators?
166
-
167
- [More information needed]
168
-
169
- ### Personal and Sensitive Information
170
-
171
- [More information needed]
172
-
173
- ## Considerations for Using the Data
174
-
175
- ### Social Impact of Dataset
176
-
177
- [More information needed]
178
-
179
- ### Discussion of Biases
180
-
181
- [More information needed]
182
-
183
- ### Other Known Limitations
184
-
185
- [More information needed]
186
-
187
- ## Additional Information
188
-
189
- ### Dataset Curators
190
-
191
- [More information needed]
192
-
193
- ### Licensing Information
194
-
195
- Contents of this repository are restricted to only non-commercial research purposes under the [Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)](https://creativecommons.org/licenses/by-nc/4.0/). Copyright of the dataset contents belongs to the original copyright holders.
196
- ### Citation Information
197
-
198
- If you use any of the datasets, models or code modules, please cite the following paper:
199
- ```
200
- @inproceedings{Kumar2022IndicNLGSM,
201
- title={IndicNLG Suite: Multilingual Datasets for Diverse NLG Tasks in Indic Languages},
202
- author={Aman Kumar and Himani Shrotriya and Prachi Sahu and Raj Dabre and Ratish Puduppully and Anoop Kunchukuttan and Amogh Mishra and Mitesh M. Khapra and Pratyush Kumar},
203
- year={2022},
204
- url = "https://arxiv.org/abs/2203.05437",
205
- ```
206
-
207
-
208
- ### Contributions
209
-
210
  [Detailed in the paper](https://arxiv.org/abs/2203.05437)
 
1
+ ---
2
+ annotations_creators:
3
+ - no-annotation
4
+ language_creators:
5
+ - found
6
+ language:
7
+ - as
8
+ - bn
9
+ - gu
10
+ - hi
11
+ - kn
12
+ - ml
13
+ - mr
14
+ - or
15
+ - pa
16
+ - ta
17
+ - te
18
+ license:
19
+ - cc-by-nc-4.0
20
+ multilinguality:
21
+ - multilingual
22
+ pretty_name: IndicHeadlineGeneration
23
+ size_categories:
24
+ - 27K<n<341K
25
+ source_datasets:
26
+ - original for Hindi, and modified [IndicGLUE](https://indicnlp.ai4bharat.org/indic-glue/) for other languages.
27
+ task_categories:
28
+ - conditional-text-generation
29
+ task_ids:
30
+ - conditional-text-generation-other-headline-generation
31
+ ---
32
+
33
+ # Dataset Card for "IndicHeadlineGeneration"
34
+
35
+ ## Table of Contents
36
+ - [Dataset Card Creation Guide](#dataset-card-creation-guide)
37
+ - [Table of Contents](#table-of-contents)
38
+ - [Dataset Description](#dataset-description)
39
+ - [Dataset Summary](#dataset-summary)
40
+ - [Supported Tasks and Leaderboards](#supported-tasks-and-leaderboards)
41
+ - [Languages](#languages)
42
+ - [Dataset Structure](#dataset-structure)
43
+ - [Data Instances](#data-instances)
44
+ - [Data Fields](#data-fields)
45
+ - [Data Splits](#data-splits)
46
+ - [Dataset Creation](#dataset-creation)
47
+ - [Curation Rationale](#curation-rationale)
48
+ - [Source Data](#source-data)
49
+ - [Initial Data Collection and Normalization](#initial-data-collection-and-normalization)
50
+ - [Who are the source language producers?](#who-are-the-source-language-producers)
51
+ - [Annotations](#annotations)
52
+ - [Annotation process](#annotation-process)
53
+ - [Who are the annotators?](#who-are-the-annotators)
54
+ - [Personal and Sensitive Information](#personal-and-sensitive-information)
55
+ - [Considerations for Using the Data](#considerations-for-using-the-data)
56
+ - [Social Impact of Dataset](#social-impact-of-dataset)
57
+ - [Discussion of Biases](#discussion-of-biases)
58
+ - [Other Known Limitations](#other-known-limitations)
59
+ - [Additional Information](#additional-information)
60
+ - [Dataset Curators](#dataset-curators)
61
+ - [Licensing Information](#licensing-information)
62
+ - [Citation Information](#citation-information)
63
+ - [Contributions](#contributions)
64
+
65
+ ## Dataset Description
66
+
67
+ - **Homepage:** https://indicnlp.ai4bharat.org/indicnlg-suite
68
+ - **Paper:** [IndicNLG Suite: Multilingual Datasets for Diverse NLG Tasks in Indic Languages](https://arxiv.org/abs/2203.05437)
69
+ - **Point of Contact:**
70
+
71
+ ### Dataset Summary
72
+
73
+ IndicHeadlineGeneration is the news headline generation dataset released as part of IndicNLG Suite. Each
74
+ input document is paired with an output as title. We create this dataset in eleven
75
+ languages including as, bn, gu, hi, kn, ml, mr, or, pa, ta, te. The total
76
+ size of the dataset is 1.4M.
77
+
78
+
79
+ ### Supported Tasks and Leaderboards
80
+
81
+ **Tasks:** Headline Generation
82
+
83
+ **Leaderboards:** Currently there is no Leaderboard for this dataset.
84
+
85
+ ### Languages
86
+ - `Assamese (as)`
87
+ - `Bengali (bn)`
88
+ - `Gujarati (gu)`
89
+ - `Kannada (kn)`
90
+ - `Hindi (hi)`
91
+ - `Malayalam (ml)`
92
+ - `Marathi (mr)`
93
+ - `Oriya (or)`
94
+ - `Punjabi (pa)`
95
+ - `Tamil (ta)`
96
+ - `Telugu (te)`
97
+
98
+ ## Dataset Structure
99
+
100
+ ### Data Instances
101
+
102
+ One random example from the `hi` dataset is given below in JSON format.
103
+ ```
104
+ {'id': '14',
105
+ 'input': "अमेरिकी सिंगर अरियाना ग्रांडे का नया म्यूजिक एल्बम 'थैंक यू नेक्स्ट' रिलीज हो गया है।एक दिन पहले ही रिलीज हुए इस गाने को देखने वालों की संख्या 37,663,702 पहुंच गई है।यूट्यूब पर अपलोड इस गाने को 24 घंटे के भीतर 3.8 मिलियन लोगों ने पसंद किया है।अरियाना ग्रांडे नई दिल्लीः अमेरिकी सिंगर अरियाना ग्रांडे का नया म्यूजिक एल्बम 'थैंक यू नेक्स्ट' रिलीज हो गया है।एक दिन पहले ही रिलीज हुए इस गाने को देखने वालों की संख्या 37,663,702 पहुंच गई है।यूट्यूब पर अपलोड इस गाने को 24 घंटे के भीतर 3.8 मिलियन लोगों ने पसंद किया है।वहीं इस वीडियो पर कमेंट्स की बाढ़ आ गई है।गाने में मीन गर्ल्स, ब्रिंग इट ऑन, लीगली ब्लॉंड और 13 गोइंग 30 के कुछ फेमस सीन्स को दिखाया गया है।गाने में क्रिस जैनर का कैमियो भी है।बता दें अभी कुछ महीने पहले ही अरियाना के एक्स ब्वॉयफ्रेंड मैक मिलर का 26 साल की उम्र में निधन हो गया था।इस खबर को सुनकर अरियाना टूट सी गई थीं।उन्होंने सोशल मीडि��ा पर पोस्ट कर कई बार अपनी भावनाएं व्यक्त की।अरियाना ग्रांडे और रैपर मैक मिलर ने करीब 2 साल तक एक दूसरे को डेट किया।मैक के निधन की वजह ड्रग्स की ओवरडोज बताई गई।दोनों की मुलाकात साल 2012 में हुई थी।दोनों ने एक कंसर्ट में साथ कई गानों पर परफॉर्म भी किया था।जिसके बाद दोनों एक दूसरे को डेट करने लगे लेकिन नशे की लत के कारण अरियाना ने उनसे ब्रेकअप कर लिया।पर देश-विदेश की ताजा और स्पेशल स्टोरी पढ़ते हुए अपने आप को रखिए अप-टू-डेट।के लिए क्लिक करें सिनेमा सेक्शन",
106
+ 'target': 'अरियाना ग्रांडे का नया गाना रिलीज, सोशल मीडिया पर वायरल',
107
+ 'url': 'https://www.indiatv.in/entertainment/hollywood-ariana-grande-shatters-24-hour-views-record-612835'
108
+ }
109
+ ```
110
+
111
+ ### Data Fields
112
+ - `id (string)`: Unique identifier.
113
+ - `input (string)`: News article as input.
114
+ - `target (strings)`: Output as headline of the news article.
115
+ - `url (string)`: Source web link of the news article.
116
+
117
+
118
+ ### Data Splits
119
+
120
+ Here is the number of samples in each split for all the languages.
121
+
122
+
123
+
124
+
125
+ Language | ISO 639-1 Code | Train | Dev | Test |
126
+ ---------- | ---------- | ---------- | ---------- | ---------- |
127
+ Assamese | as | 29,631 | 14,592 | 14,808 |
128
+ Bengali | bn | 113,424 | 14,739 | 14,568 |
129
+ Gujarati | gu | 199,972 | 31,270 | 31,215 |
130
+ Hindi | hi | 208,221 | 44,738 | 44,514 |
131
+ Kannada | kn | 132,380 | 19,416 | 3,261 |
132
+ Malayalam | ml | 10,358 | 5,388 | 5,220 |
133
+ Marathi | mr | 114,042 | 14,253 | 14,340 |
134
+ Oriya | or | 58,225 | 7,484 | 7,137 |
135
+ Punjabi | pa | 48,441 | 6,108 | 6,086 |
136
+ Tamil | ta | 60,650 | 7,616 | 7,688 |
137
+ Telugu | te | 21,352 | 2,690 | 2,675 |
138
+
139
+
140
+ ## Dataset Creation
141
+
142
+ ### Curation Rationale
143
+
144
+ [Detailed in the paper](https://arxiv.org/abs/2203.05437)
145
+
146
+ ### Source Data
147
+
148
+ For hindi, web sources like [Dainik Bhaskar](https://www.bhaskar.com), [Naidunia](https://www.naidunia.com/), [NDTV](https://ndtv.in/), [Business Standard](https://hindi.business-standard.com/) and [IndiaTV](https://www.indiatv.in/). For other languages, modified [IndicGLUE](https://indicnlp.ai4bharat.org/indic-glue/) dataset.
149
+
150
+ #### Initial Data Collection and Normalization
151
+
152
+ [Detailed in the paper](https://arxiv.org/abs/2203.05437)
153
+
154
+
155
+ #### Who are the source language producers?
156
+
157
+ [Detailed in the paper](https://arxiv.org/abs/2203.05437)
158
+
159
+
160
+ ### Annotations
161
+ [More information needed]
162
+ #### Annotation process
163
+ [More information needed]
164
+
165
+ #### Who are the annotators?
166
+
167
+ [More information needed]
168
+
169
+ ### Personal and Sensitive Information
170
+
171
+ [More information needed]
172
+
173
+ ## Considerations for Using the Data
174
+
175
+ ### Social Impact of Dataset
176
+
177
+ [More information needed]
178
+
179
+ ### Discussion of Biases
180
+
181
+ [More information needed]
182
+
183
+ ### Other Known Limitations
184
+
185
+ [More information needed]
186
+
187
+ ## Additional Information
188
+
189
+ ### Dataset Curators
190
+
191
+ [More information needed]
192
+
193
+ ### Licensing Information
194
+
195
+ Contents of this repository are restricted to only non-commercial research purposes under the [Creative Commons Attribution-NonCommercial 4.0 International License (CC BY-NC 4.0)](https://creativecommons.org/licenses/by-nc/4.0/). Copyright of the dataset contents belongs to the original copyright holders.
196
+ ### Citation Information
197
+
198
+ If you use any of the datasets, models or code modules, please cite the following paper:
199
+ ```
200
+ @inproceedings{Kumar2022IndicNLGSM,
201
+ title={IndicNLG Suite: Multilingual Datasets for Diverse NLG Tasks in Indic Languages},
202
+ author={Aman Kumar and Himani Shrotriya and Prachi Sahu and Raj Dabre and Ratish Puduppully and Anoop Kunchukuttan and Amogh Mishra and Mitesh M. Khapra and Pratyush Kumar},
203
+ year={2022},
204
+ url = "https://arxiv.org/abs/2203.05437",
205
+ ```
206
+
207
+
208
+ ### Contributions
209
+
210
  [Detailed in the paper](https://arxiv.org/abs/2203.05437)