ID
stringlengths
9
12
Source
stringclasses
57 values
Label
int64
0
1
Source_annotation
stringclasses
1 value
Annotator_1
int64
0
1
Annotator_2
int64
0
1
Annotator_3
int64
0
1
Sentence
stringlengths
5
240
Category
int64
1
14
Catalan phenomenon
stringclasses
8 values
Split
stringclasses
1 value
CatCoLA_1
GCC21
1
null
1
1
0
Tu només penses en els qui han de fer el dinar.
7
null
train
CatCoLA_2
GCC8
1
null
1
1
1
La Maria treballa només a la tarda.
3
null
train
CatCoLA_3
GCC30
1
null
1
1
1
Ha parlat com parlava Sanchis Guarner.
13
null
train
CatCoLA_4
GCC8
1
null
1
1
1
Trigaré uns dos mesos a acabar el capítol.
10
null
train
CatCoLA_5
GCC27
1
null
1
1
1
Va anar a Menorca per descansar.
10
null
train
CatCoLA_6
CPNL
1
null
1
1
1
Passejo per la vorera.
3
null
train
CatCoLA_7
GCC7
1
null
1
1
0
Sydney ha organitzat els Jocs Olímpics de l'any 2000.
11
null
train
CatCoLA_8
GCC25
0
*
0
0
0
Vol tenir ambdues dues nines que parlin.
13
null
train
CatCoLA_9
GCC29
1
null
0
1
0
El temps passa volant que ni ens n'adonem, i en el fons això és una sort.
12
null
train
CatCoLA_10
GCC29
1
null
1
1
1
Acostumat a una pau confortable, cregué que el seu parent s'havia tornat boig.
3
null
train
CatCoLA_11
GCC2
1
null
1
0
1
Han designat candidat en Josep.
2
null
train
CatCoLA_12
CPNL
1
null
1
1
1
El bacallà amb samfaina és un plat ben conegut.
11
null
train
CatCoLA_13
GCC14
0
*
0
1
0
En Joan va mantenir que la boca estigués tancada.
8
null
train
CatCoLA_14
Rigau_1993
0
*
0
1
0
Hi seran homes.
14
hi
train
CatCoLA_15
GCC19
0
*
0
1
0
Se'n va presumir, del fet que hi hagués assistit molta gent.
14
pron
train
CatCoLA_16
GCC21
0
*
0
1
0
Hi dedicaré les hores que siguin necessàries dedicar-hi.
7
null
train
CatCoLA_17
GCC5
1
null
0
1
1
Eren un pare i fill molt espavilats.
11
null
train
CatCoLA_18
GCC30
1
null
1
1
0
La trobava tan bonica, tan seductora, amb una gràcia tal en la seua manera de caminar, que no entenia la indiferència dels altres.
12
null
train
CatCoLA_19
GCC18
0
*
0
0
0
Va declarar que on tenia amagats els diners.
8
null
train
CatCoLA_20
CPNL
1
null
1
1
1
Vaig al supermercat.
14
elip
train
CatCoLA_21
GCC25
1
null
0
1
1
Sempre intenten d'arribar a l'hora.
10
null
train
CatCoLA_22
GCC8
1
null
1
1
1
Deixin l'examen sobre la taula; els corregiré tan bon punt pugui.
12
null
train
CatCoLA_23
GCC18
0
*
0
0
0
És segur fer-ho ell.
10
null
train
CatCoLA_24
GCC22
1
null
1
1
1
En Pere també ha estat a Londres.
3
null
train
CatCoLA_25
CPNL
1
null
1
1
1
Es toca l'orella quan està nerviós.
5
null
train
CatCoLA_26
GCC22
1
null
1
1
1
Fa molts segles la terra estava poblada de dinosaures.
3
null
train
CatCoLA_27
GCC24
0
*
0
0
0
Pla la Maria vindria.
9
null
train
CatCoLA_28
CPNL
1
null
0
1
0
Era impossible que no s'hi haguessin fixat en tots aquells canvis.
14
pron
train
CatCoLA_29
Albareda2013
0
*
0
0
0
Vull anar a l'habitació on en Pere l'hi va poder obrir amb aquesta clau.
14
pron
train
CatCoLA_30
GCC21
0
*
0
1
0
Orienta a qui vegis despistada.
7
null
train
CatCoLA_31
GCC19
1
null
1
1
1
He agenciat que el partit es jugui dijous vinent.
8
null
train
CatCoLA_32
GCC22
1
null
1
1
1
Demà li telefonaré i li demanaré disculpes.
12
null
train
CatCoLA_33
EG1984
0
*
0
0
0
En Pep encara començà a caminar.
9
null
train
CatCoLA_34
GCC20
0
*
0
0
0
Un ser criticada per les seves col·legues la va ferir.
10
null
train
CatCoLA_35
CPNL
1
null
1
1
1
Seria preferible establir uns terminis assumibles.
10
null
train
CatCoLA_36
GCC29
1
null
1
1
1
L'autor de l'agressió anava armat amb una navalla.
11
null
train
CatCoLA_37
GCC13
0
*
0
0
0
Al president de la telefònica els hi plouen, els milions.
14
pron
train
CatCoLA_38
GCC18
0
*
0
0
0
Propostes són una bajanada.
13
null
train
CatCoLA_39
GCC19
1
null
1
1
1
No ho semblava pas, que haguessin guanyat.
9
null
train
CatCoLA_40
CPNL
1
null
1
1
1
Sí, ara s'hi posa.
14
pron
train
CatCoLA_41
GCC27
1
null
1
1
1
Venien manuals per protegir-se.
10
null
train
CatCoLA_42
GCC29
0
*
0
1
1
He guardat un jersei net amb un raspall.
3
null
train
CatCoLA_43
GCC18
1
null
1
1
1
Menja tant que rebentarà.
12
null
train
CatCoLA_44
GCC18
1
null
1
1
1
He vist el nen enfilat a la cadira.
2
null
train
CatCoLA_45
Cuenca_Sintaxi
1
null
1
1
1
Aquell home no és de pedra.
9
null
train
CatCoLA_46
GCC26
1
null
1
1
0
Des de les cinc no va dormir.
3
null
train
CatCoLA_47
Cuenca_Sintaxi
1
null
1
1
1
Les meves germanes han anat al supermercat.
13
null
train
CatCoLA_48
CPNL
1
null
1
1
1
El despatx és a l'esquerra del restaurant.
2
null
train
CatCoLA_49
GCC13
1
null
1
1
1
Arriba gent.
1
null
train
CatCoLA_50
Rigau_1994
0
*
0
1
1
En Pere es llegeix sonets italians.
5
null
train
CatCoLA_51
GCC19
1
null
1
1
1
Que ningú no ens hagi dit res és prou absurd.
9
null
train
CatCoLA_52
CPNL
1
null
1
1
1
No està d'acord amb el resultat de la prova.
9
null
train
CatCoLA_53
CPNL
1
null
1
1
1
He tramès les cartes.
14
elip
train
CatCoLA_54
CPNL
1
null
1
1
1
Se'n recorda.
14
pron
train
CatCoLA_55
GCC8
1
null
1
1
1
Ara t'explicaré els diversos afers que ens ocupen.
7
null
train
CatCoLA_56
GCC29
1
null
0
1
1
Amb mi a la mili, els meus pares van canviar de casa.
6
null
train
CatCoLA_57
GCC10
1
null
1
1
1
El caràcter benèvol de la Maria la perjudica.
11
null
train
CatCoLA_58
GCC7
0
*
0
1
0
¿Quanta gent hi era?
14
hi
train
CatCoLA_59
GCC23
0
*
0
1
0
En Jordi s'hi pot no presentar.
9
null
train
CatCoLA_60
GCC15
1
null
1
1
1
La benzina es va encarir amb la pujada del dòlar.
5
null
train
CatCoLA_61
GCC18
0
*
0
1
1
No diu que tingui un examen.
14
consec
train
CatCoLA_62
GCC25
0
*
0
1
0
Que vulguin desfer-se'n sembla del tot clar.
8
null
train
CatCoLA_63
GCC18
1
null
1
1
0
Així les coses, en Pere va decidir dimitir.
10
null
train
CatCoLA_64
GCC19
0
*
0
1
0
Ens era prohibit que prenguéssim la paraula.
8
null
train
CatCoLA_65
GCC16
0
*
0
0
1
Diners han estat robats de la caixa forta.
5
null
train
CatCoLA_66
GCC25
1
null
1
0
0
N'hi ha prou amb que ho hagi dit perquè l'acomiadin.
12
null
train
CatCoLA_67
GCC24
0
*
0
0
0
Tot estudiant que cometi algun intent de copiar serà suspès per cap professor.
13
null
train
CatCoLA_68
GCC18
1
null
1
1
1
Ens va preguntar què fèiem.
7
null
train
CatCoLA_69
GCC4
1
null
1
1
1
Vénen trens.
1
null
train
CatCoLA_70
Rigau_1990
0
*
1
1
0
Li sabria greu això a en Pere.
14
pron
train
CatCoLA_71
GCC18
1
null
1
1
1
Amb la Maria de directora, l'empresa funciona millor.
3
null
train
CatCoLA_72
Abrines2011
0
*
0
0
1
El metge ha aprimat en Joan a posta.
5
null
train
CatCoLA_73
Villalba_1994a
0
*
0
0
0
Vaig fer comprar un cotxe el Pere.
4
null
train
CatCoLA_74
CPNL
1
null
1
1
1
Per ser un bon cambrer s'ha de ser ràpid.
10
null
train
CatCoLA_75
CPNL
0
*
0
0
0
De lo contrari hauràs de pagar la reparació.
13
null
train
CatCoLA_76
GCC22
0
*
0
1
0
Sap parlar francès perquè li donin la feina.
12
null
train
CatCoLA_77
CPNL
1
null
1
1
1
Mentre faig els exercicis d'ortografia escolto música.
12
null
train
CatCoLA_78
GCC7
1
null
1
1
1
El seu marit la va ajudar molt.
14
pron
train
CatCoLA_79
GCC8
1
null
1
1
1
No sé si té gens de sensibilitat artística.
9
null
train
CatCoLA_80
GCC23
0
*
0
1
0
No va cridar, però es va posar a fer-ho.
12
null
train
CatCoLA_81
GCC27
1
null
1
1
0
T'he deixat el llibre a la taula només perquè t'ho miris.
12
null
train
CatCoLA_82
GCC20
1
null
1
1
1
Busco un lloc on descansar.
10
null
train
CatCoLA_83
CPNL
1
null
1
1
1
Li ha preguntat què va fer dilluns al vespre.
7
null
train
CatCoLA_84
Cuenca_Connectors
1
null
1
1
1
He deixat la feina quan he pogut.
12
null
train
CatCoLA_85
GCC24
1
null
1
1
1
Abans es casaria amb un jueu que no amb un musulmà.
13
null
train
CatCoLA_86
GCC13
1
null
1
0
1
Això dol.
1
null
train
CatCoLA_87
Cuenca_Sintaxi
1
null
1
1
0
Maria està malalta, però el seu fill no ho està.
12
null
train
CatCoLA_88
GCC18
1
null
1
1
1
No va explicar com fer-ho.
7
null
train
CatCoLA_89
CPNL
1
null
1
1
1
No sé per què no calla.
7
null
train
CatCoLA_90
GCC4
0
*
0
0
0
¿Poques coses qui farà?
7
null
train
CatCoLA_91
Cuenca_Sintaxi
1
null
1
1
1
Hem de pintar un rètol a la furgoneta.
9
null
train
CatCoLA_92
CPNL
1
null
1
1
1
S'interessaven per la música clàssica.
4
null
train
CatCoLA_93
GCC3
1
null
1
1
1
Canten fluixet perquè tenen por de despertar la iaia.
10
null
train
CatCoLA_94
CPNL
1
null
1
1
1
Vull que plogui.
8
null
train
CatCoLA_95
GCC2
1
null
1
1
1
La dona va veure nerviosos els seus fills.
2
null
train
CatCoLA_96
Hernanz-Rigau_1984
0
*
0
0
0
La Maria estava mirant la televisió i el Pere també estava.
12
null
train
CatCoLA_97
GCC19
1
null
1
1
1
En Pere no sabia que hi haguessis anat.
8
null
train
CatCoLA_98
Espinal_2000
0
*
0
1
0
Hem anat a veure un pis de venda.
11
null
train
CatCoLA_99
GCC29
1
null
1
1
1
Essent francs, no n'hi havia per tant.
3
null
train
CatCoLA_100
GCC8
0
*
0
1
0
Els nois que portaven tots el barret a la mà la van saludar.
7
null
train

GENERAL INFORMATION

1. Dataset title:

CatCoLA - Catalan Corpus of Linguistic Acceptability

2. Authorship:

Name: Núria Bel
Institution: Universitat Pompeu Fabra, UPF
Email: nuria.bel@upf.edu
ORCID:  0000-0001-9346-7803

Name: Marta Punsola
Institution: Universitat Pompeu Fabra, UPF
Email: marta.punsola@gmail.com
ORCID:  

Name: Valle Ruiz-Fernández
Institution: Barcelona Supercomputing Center
Email: valle.ruizfernández@bsc.es
ORCID:  

DESCRIPTION

1. Dataset language:

Catalan

2. Abstract:

We introduce CatCoLA, the Catalan Corpus of Linguistic Acceptability that will contribute to the Catalan Language Understanding Benchmark (CLUB) to assess and compare the capabilities of language models (LM) trained with texts in Catalan. CatCoLA follows the design of the English CoLA to support the task of classifying sentences as acceptable or not. CatCoLA consists of 10,443 sentences and their acceptability judgements as found in well-known Catalan reference grammars. Additionally, all sentences have been annotated with the class of linguistic phenomenon the sentence is an example of, also following previous practices. CatCoLA is released under a CC BY-NC-SA 4.0 licence and freely available at https://github.com/nuriabel/LUTEST

3. Keywords:

Language model evaluation, corpus of linguistic acceptability, Catalan

4. Date of data collection (single date or date range):

2023

5. Publication Date:

30-05-2024

6. Grant information:

This research is part of the LUTEST project, PID2019-104512GB-I00, funded by the Ministerio de Ciencia, Innovación y Universidades and Agencia Estatal de Investigación (Spain). BSC participation has been promoted and financed by the Generalitat de Catalunya through the Aina project and by the Ministerio para la Transformación Digital y de la Función Pública and Plan de Recuperación, Transformación y Resiliencia - NextGenerationEU within the framework of the project ILENIA (2022/TL22/00215337-00215334).

7. Geographical location/s of data collection:

Spain

ACCESS INFORMATION

1. Creative Commons License of the dataset:

CC-BY-SA, Creative Commons Attribution 4.0 International License

2. Dataset DOI:

doi:10.34810/data1393

3. Related publication:

Núria Bel, Marta Punsola, Valle Ruiz-Fernández, 2024, CatCoLA: Catalan Corpus of Linguistic Acceptability. Procesamiento del Lenguaje Natural 73, 2024.

4. Link to related datasets:

https://github.com/nuriabel/LUTEST

VERSIONING AND PROVENANCE

1. Last modification date:

19-05-2024

2. Were data derived from another source?

The dataset has been made by copying the examples from published works that are protected by copyright. According to the Spanish law, we have respected the copyright because the number of elements taken represent less than a 10% of the whole work The number of items copied is justified by the aims of the research.

Download

Download CatCola train and dev datasets, plus human annotation, in separate files or togehter. Also available from https://github.com/nuriabel/LUTEST/

For CatCoLA outDomain dataset and CatCoLA InDomain test data, please contact nuria.bel@upf.edu.

Data format

CatCoLA dataset is split into two subsets: an in-domain subset (InDomain) with 10,189 sentences, and an out-of-domain subset (OutDomain) with 254 sentences.

The in-domain subset has been split into train/dev/test sections:

  • train: 8151 sentences
  • dev: 1018 sentences
  • test: 1020 sentences

The test sets are not made public to avoid contamination. Please write nuria.bel@upf.edu.

For the in-domain subset, each line in the .tsv files consists of tab-separated columns:

  • Column 1: a unique ID
  • Column 2: the source of the sentence
  • Column 3: the acceptability judgment label from the source (0=unacceptable, 1=acceptable)
  • Column 4: the source's annotation (* for the unacceptable sentences)
  • Columns 5, 6 and 7: the human annotations
  • Column 8: the sentence
  • Column 9: the category of the linguistic phenomenon the sentence is an example of
  • Column 10: the split to which the sentence belongs

For the out-of-domain, each line in the .tsv file consists of tab-separated columns:

  • Column 1: a unique ID
  • Column 2: the source of the sentence
  • Column 3: the acceptability judgment label from the source (0=unacceptable, 1=acceptable)
  • Column 4: the source's annotation (* for the unacceptable sentences)
  • Column 5: the sentence
  • Column 6: the category of the linguistic phenomenon the sentence is an example of

Processing

During the gathering of the data and processing, some sentences from the source documents may have been omitted or altered. We discarded examples marking dubious acceptability with "?" or other signs, but those examples that included acceptability alternations were taken by creating the two versions: the acceptable and the unacceptable sentence. Finally, the examples that were not full sentences, that is, that contain no main verb, were manually edited to add a neutral verb to convert them into sentences, while keeping the acceptability value.

Sources

  • InDomain Abril, Joan (1997). Diccionari pràctic de qüestions gramaticals. Barcelona: Edicions 62. Nova ed., 2010. Barcelona: Educaula. Abril, Joan; Riera, Elvira (1997). L’ús dels possessius. Llengua i Ús (Barcelona), n. 10, p. 32-36. Abrines, Bartomeu (2011). Els verbs de canvi d’estat en català: la participació en l’alternança causativa. Caplletra (València), n. 50, p. 35-65. Albareda, Cristina (2013). La duplicació pronominal en les relatives locatives en català. Zeitschrift für Katalanistik (Friburg, Bochum), v. 26, p. 275-299. Ballesta, Joan-Manuel (1987). Algunes consideracions entorn dels verbs copulatius en català. Llengua & Literatura (Barcelona), n. 2, p. 359-375. Bartra, Anna (2016). Els components de la passiva. Una perspectiva diacrònica. Caplletra (València), n. 61, p. 295-327. Bartra, Anna; Brucart, Josep Maria (1982). Alguns arguments a favor de la categoria sintagma predicatiu. Els Marges (Barcelona), n. 24, p. 91-113. Busquets, Joan (2006). Stripping vs. VP ellipsis in Catalan: what is deleted and when? Probus (Dordrecht), v. 18, n. 2, p. 159-187. Cuenca Ordinyana, Maria Josep (2006), La connexió i els connectors. Perspectiva oracional i textual. Vic. Eumo Editorial. Cuenca Ordinyana, Maria Josep (2012), Sintaxi catalana. Barcelona: Editorial UOC: Espinal, M. Teresa (2000). Sobre les expressions lexicalitzades. Els Marges (Barcelona), n. 67, p. 7-31. Espinal, M. Teresa (2010). Bare nominals in Catalan and Spanish. Their structure and meaning. Lingua (Amsterdam), v. 120, n. 4, p. 984-1009. Generalitat de Catalunya. Departament de Justícia. Curs de llengua catalana. Nivell C. Hernanz, M. Lluïsa; Rigau, Gemma (1984). Auxiliaritat i reestructuració. Els Marges (Barcelona), n. 31, p. 29-51. Mascaró, Joan et al. (1984) Estudis gramaticals. Bellaterra: Universitat Autònoma de Barcelona, p. 109-148. Portal del Consorci per la normalització lingüística: https://www.cpnl.cat/gramatica/ Rigau, Gemma (1990). Les propietats d’“agradar”: estructura temàtica i comportament sintàctic. Caplletra (València), n. 8, p. 7-19. Rigau, Gemma (1993). El comportamiento sintáctico de los predicados existenciales en catalán. Revista de Lenguas y Literaturas Catalana, Gallega y Vasca (Madrid), v. 3, p. 33-53. Rigau, Gemma (1994). Les propietats dels verbs pronominals. Els Marges (Barcelona), n. 50, p. 29-39. Solà, Jaume (2002). Clitic climbing and null subject languages. Catalan Journal of Linguistics (Bellaterra), v. 1, p. 225-255. Solà, Joan; Lloret, Maria-Rosa; Mascaró, Joan; Pérez Saldanya, Manuel (dirs.) (2002). Gramàtica del català contemporani. Amb la col·laboració de Gemma Rigau. 4a ed., definitiva, 2008. Barcelona: Empúries. Viana, Amadeu (1990). La sintaxi de la conjugació en català. Caplletra (València), n. 8, p. 81-105. Villalba, Xavier (1992). Case, incorporation, and economy: an approach to causative constructions. Catalan Working Papers in Linguistics (Bellaterra), v. 2, p. 345-389. Villalba, Xavier (1994a). Clitic climbing in causative constructions. Catalan Working Papers in Linguistics (Bellaterra), v. 3, n. 2, p. 123-152. Villalba, Xavier (1994b). Clitics, case checking, and causative constructions. Kansas Working Papers in Linguistics (Kansas), v. 19, n. 1, p. 125-147. Villalba, Xavier (2004). Descripció i norma: amb i el canvi de preposició. Llengua & Literatura (Barcelona), n. 15, p. 257-276.

  • OutDomain Pisani, M.; Zevallos, R.; Bel, N. (2023). Catalan Parliamentary Plenary Session Transcriptions from 2015 to 2022, the ParlaMintCAT Corpus. Procesamiento del lenguaje natural, 71.

Annotation The dataset has been manually annotated with 14 linguistic phenomena.

  1. Simple
  2. Predicative
  3. Adjuncts
  4. Argument types
  5. Argument alternation
  6. Binding pronouns
  7. Wh-phenomena
  8. Complement clauses
  9. Modal, negation, periphrasis and auxiliaries
  10. Infinitive embedded VPs and referential phenomena 11.Complex NPs and APs
  11. S-Syntax
  12. Determiners, quantifiers, comparative and superlative constructions
  13. Catalan phenomena

The Catalan phenomena have been classified into 7 categories:

  1. Agreement in nominal constructions
  2. Subject ellipsis
  3. Ser/estar copula selection
  4. Constructions with the hi pronoun
  5. Pronominal cliticization
  6. Subjunctive mode and tense and consecutio temporum
  7. Dislocation

#Citation

Please, if you use the dataset cite the following papers:

Alex Warstadt, Amanpreet Singh, and Samuel R. Bowman. 2018. Neural network acceptability judgments. arXiv preprint arXiv:1805.12471.

Núria Bel, Marta Punsola, Valle Ruíz-Fernández, 2024, EsCoLA: Spanish Corpus of Linguistic Acceptability. Joint International Conference on Computational Linguistics, Language Resources and Evaluation LREC-COLING 2024. Torino. Italy.

Núria Bel, Marta Punsola, Valle Ruiz-Fernández, 2024, CatCoLA: Catalan Corpus of Linguistic Acceptability. Procesamiento del Lenguaje Natural 73, 2024.

Disclaimer

The dataset has been made by copying the examples from published works that are protected by copyright. According to the Spanish law, we have respected the copyright because the number of elements taken represent less than a 10% of the whole work, and the number of items copied is justified by the aims of research.

Downloads last month
7
Edit dataset card