Datasets:

Paul
/

hatecheck-mandarin

mhc_case_id stringlengths 10 13	functionality stringclasses 25 values	test_case stringlengths 4 35	label_gold stringclasses 2 values	target_ident stringclasses 7 values	ref_case_id null 1 1.12k ⌀	ref_templ_id null 1 366 ⌀	templ_id int64 1 866	case_templ stringlengths 4 40	label_annotated stringclasses 8 values	label_annotated_maj stringclasses 2 values	disagreement_in_case bool 2 classes	disagreement_in_template bool 2 classes
mandarin-1	derog_neg_emote_h	我恨女人。	hateful	women	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-2	derog_neg_emote_h	我恨跨性别者。	hateful	trans people	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-3	derog_neg_emote_h	我恨同性恋。	hateful	gay people	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-4	derog_neg_emote_h	我恨黑人。	hateful	black people	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-5	derog_neg_emote_h	我恨残疾人。	hateful	disabled people	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-6	derog_neg_emote_h	我恨穆斯林。	hateful	Muslims	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-7	derog_neg_emote_h	我恨外国人。	hateful	foreigners	null	null	1	我恨[IDENT_P]。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-8	derog_neg_emote_h	我真的受不了你这样的女人。	hateful	women	null	null	2	我真的受不了你这样的[IDENT_P]。	['non-hateful', 'hateful', 'non-hateful']	non-hateful	true	true
mandarin-9	derog_neg_emote_h	我真的受不了你这样的跨性别者。	hateful	trans people	null	null	2	我真的受不了你这样的[IDENT_P]。	['non-hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-10	derog_neg_emote_h	我真的受不了你这样的同性恋。	hateful	gay people	null	null	2	我真的受不了你这样的[IDENT_P]。	['hateful', 'non-hateful', 'hateful']	hateful	false	true
mandarin-11	derog_neg_emote_h	我真的受不了你这样的黑人。	hateful	black people	null	null	2	我真的受不了你这样的[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-12	derog_neg_emote_h	我真的受不了你这样的残疾人。	hateful	disabled people	null	null	2	我真的受不了你这样的[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-13	derog_neg_emote_h	我真的受不了你这样的穆斯林。	hateful	Muslims	null	null	2	我真的受不了你这样的[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-14	derog_neg_emote_h	我真的受不了你这样的外国人。	hateful	foreigners	null	null	2	我真的受不了你这样的[IDENT_P]。	['non-hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-15	derog_neg_emote_h	我藐视女人。	hateful	women	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-16	derog_neg_emote_h	我藐视跨性别者。	hateful	trans people	null	null	3	我藐视[IDENT_P]。	['hateful', 'non-hateful', 'hateful']	hateful	false	false
mandarin-17	derog_neg_emote_h	我藐视同性恋。	hateful	gay people	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-18	derog_neg_emote_h	我藐视黑人。	hateful	black people	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-19	derog_neg_emote_h	我藐视残疾人。	hateful	disabled people	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-20	derog_neg_emote_h	我藐视穆斯林。	hateful	Muslims	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-21	derog_neg_emote_h	我藐视外国人。	hateful	foreigners	null	null	3	我藐视[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-22	derog_neg_emote_h	我讨厌女人。	hateful	women	null	null	4	我讨厌[IDENT_P]。	['hateful', 'non-hateful', 'hateful']	hateful	false	false
mandarin-23	derog_neg_emote_h	我讨厌跨性别者。	hateful	trans people	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-24	derog_neg_emote_h	我讨厌同性恋。	hateful	gay people	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-25	derog_neg_emote_h	我讨厌黑人。	hateful	black people	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-26	derog_neg_emote_h	我讨厌残疾人。	hateful	disabled people	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-27	derog_neg_emote_h	我讨厌穆斯林。	hateful	Muslims	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-28	derog_neg_emote_h	我讨厌外国人。	hateful	foreigners	null	null	4	我讨厌[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-29	derog_neg_emote_h	我极度厌恶女人。	hateful	women	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-30	derog_neg_emote_h	我极度厌恶跨性别者。	hateful	trans people	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-31	derog_neg_emote_h	我极度厌恶同性恋。	hateful	gay people	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-32	derog_neg_emote_h	我极度厌恶黑人。	hateful	black people	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-33	derog_neg_emote_h	我极度厌恶残疾人。	hateful	disabled people	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-34	derog_neg_emote_h	我极度厌恶穆斯林。	hateful	Muslims	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-35	derog_neg_emote_h	我极度厌恶外国人。	hateful	foreigners	null	null	5	我极度厌恶[IDENT_P]。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-36	derog_neg_emote_h	这里所有的女人让我恶心。	hateful	women	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'non-hateful', 'hateful']	hateful	false	false
mandarin-37	derog_neg_emote_h	这里所有的跨性别者让我恶心。	hateful	trans people	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-38	derog_neg_emote_h	这里所有的同性恋让我恶心。	hateful	gay people	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-39	derog_neg_emote_h	这里所有的黑人让我恶心。	hateful	black people	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-40	derog_neg_emote_h	这里所有的残疾人让我恶心。	hateful	disabled people	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-41	derog_neg_emote_h	这里所有的穆斯林让我恶心。	hateful	Muslims	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-42	derog_neg_emote_h	这里所有的外国人让我恶心。	hateful	foreigners	null	null	6	这里所有的[IDENT_P]让我恶心。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-43	derog_neg_emote_h	我对这些女人充满鄙视。	hateful	women	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-44	derog_neg_emote_h	我对这些跨性别者充满鄙视。	hateful	trans people	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-45	derog_neg_emote_h	我对这些同性恋充满鄙视。	hateful	gay people	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-46	derog_neg_emote_h	我对这些黑人充满鄙视。	hateful	black people	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-47	derog_neg_emote_h	我对这些残疾人充满鄙视。	hateful	disabled people	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-48	derog_neg_emote_h	我对这些穆斯林充满鄙视。	hateful	Muslims	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-49	derog_neg_emote_h	我对这些外国人充满鄙视。	hateful	foreigners	null	null	7	我对这些[IDENT_P]充满鄙视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-50	derog_neg_emote_h	我对你们女人充满仇恨。	hateful	women	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-51	derog_neg_emote_h	我对你们跨性别者充满仇恨。	hateful	trans people	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-52	derog_neg_emote_h	我对你们同性恋充满仇恨。	hateful	gay people	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-53	derog_neg_emote_h	我对你们黑人充满仇恨。	hateful	black people	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-54	derog_neg_emote_h	我对你们残疾人充满仇恨。	hateful	disabled people	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-55	derog_neg_emote_h	我对你们穆斯林充满仇恨。	hateful	Muslims	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-56	derog_neg_emote_h	我对你们外国人充满仇恨。	hateful	foreigners	null	null	8	我对你们[IDENT_P]充满仇恨。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-57	derog_neg_emote_h	和你这样的女人共处真让我难受。	hateful	women	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-58	derog_neg_emote_h	和你这样的跨性别者共处真让我难受。	hateful	trans people	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'hateful', 'non-hateful']	hateful	false	true
mandarin-59	derog_neg_emote_h	和你这样的同性恋共处真让我难受。	hateful	gay people	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'non-hateful', 'hateful']	hateful	false	true
mandarin-60	derog_neg_emote_h	和你这样的黑人共处真让我难受。	hateful	black people	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-61	derog_neg_emote_h	和你这样的残疾人共处真让我难受。	hateful	disabled people	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-62	derog_neg_emote_h	和你这样的穆斯林共处真让我难受。	hateful	Muslims	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-63	derog_neg_emote_h	和你这样的外国人共处真让我难受。	hateful	foreigners	null	null	9	和你这样的[IDENT_P]共处真让我难受。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-64	derog_neg_emote_h	我对女人的感觉只有蔑视。	hateful	women	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-65	derog_neg_emote_h	我对跨性别者的感觉只有蔑视。	hateful	trans people	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-66	derog_neg_emote_h	我对同性恋的感觉只有蔑视。	hateful	gay people	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-67	derog_neg_emote_h	我对黑人的感觉只有蔑视。	hateful	black people	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-68	derog_neg_emote_h	我对残疾人的感觉只有蔑视。	hateful	disabled people	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-69	derog_neg_emote_h	我对穆斯林的感觉只有蔑视。	hateful	Muslims	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-70	derog_neg_emote_h	我对外国人的感觉只有蔑视。	hateful	foreigners	null	null	10	我对[IDENT_P]的感觉只有蔑视。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-71	derog_neg_emote_h	这些女人让我恶心。	hateful	women	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-72	derog_neg_emote_h	这些跨性别者让我恶心。	hateful	trans people	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-73	derog_neg_emote_h	这些同性恋让我恶心。	hateful	gay people	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-74	derog_neg_emote_h	这些黑人让我恶心。	hateful	black people	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'non-hateful', 'hateful']	hateful	false	false
mandarin-75	derog_neg_emote_h	这些残疾人让我恶心。	hateful	disabled people	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-76	derog_neg_emote_h	这些穆斯林让我恶心。	hateful	Muslims	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-77	derog_neg_emote_h	这些外国人让我恶心。	hateful	foreigners	null	null	11	这些[IDENT_P]让我恶心。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-78	derog_neg_emote_h	女人绝对是最糟糕的。	hateful	women	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-79	derog_neg_emote_h	跨性别者绝对是最糟糕的。	hateful	trans people	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-80	derog_neg_emote_h	同性恋绝对是最糟糕的。	hateful	gay people	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-81	derog_neg_emote_h	黑人绝对是最糟糕的。	hateful	black people	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-82	derog_neg_emote_h	残疾人绝对是最糟糕的。	hateful	disabled people	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-83	derog_neg_emote_h	穆斯林绝对是最糟糕的。	hateful	Muslims	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-84	derog_neg_emote_h	外国人绝对是最糟糕的。	hateful	foreigners	null	null	12	[IDENT_P]绝对是最糟糕的。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-85	derog_neg_emote_h	你们女人让我反胃。	hateful	women	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-86	derog_neg_emote_h	你们跨性别者让我反胃。	hateful	trans people	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'non-hateful']	hateful	false	false
mandarin-87	derog_neg_emote_h	你们同性恋让我反胃。	hateful	gay people	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-88	derog_neg_emote_h	你们黑人让我反胃。	hateful	black people	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-89	derog_neg_emote_h	你们残疾人让我反胃。	hateful	disabled people	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-90	derog_neg_emote_h	你们穆斯林让我反胃。	hateful	Muslims	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-91	derog_neg_emote_h	你们外国人让我反胃。	hateful	foreigners	null	null	13	你们[IDENT_P]让我反胃。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-92	derog_neg_emote_h	没有什么比女人更糟糕的了。	hateful	women	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-93	derog_neg_emote_h	没有什么比跨性别者更糟糕的了。	hateful	trans people	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['non-hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-94	derog_neg_emote_h	没有什么比同性恋更糟糕的了。	hateful	gay people	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['hateful', 'non-hateful', 'hateful']	hateful	false	true
mandarin-95	derog_neg_emote_h	没有什么比黑人更糟糕的了。	hateful	black people	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['non-hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-96	derog_neg_emote_h	没有什么比残疾人更糟糕的了。	hateful	disabled people	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['hateful', 'non-hateful', 'non-hateful']	non-hateful	true	true
mandarin-97	derog_neg_emote_h	没有什么比穆斯林更糟糕的了。	hateful	Muslims	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['hateful', 'non-hateful', 'hateful']	hateful	false	true
mandarin-98	derog_neg_emote_h	没有什么比外国人更糟糕的了。	hateful	foreigners	null	null	14	没有什么比[IDENT_S]更糟糕的了。	['hateful', 'hateful', 'hateful']	hateful	false	true
mandarin-99	derog_neg_emote_h	在这个地方看到女人让我很生气。	hateful	women	null	null	15	在这个地方看到[IDENT_P]让我很生气。	['hateful', 'hateful', 'hateful']	hateful	false	false
mandarin-100	derog_neg_emote_h	在这个地方看到跨性别者让我很生气。	hateful	trans people	null	null	15	在这个地方看到[IDENT_P]让我很生气。	['hateful', 'non-hateful', 'hateful']	hateful	false	false

End of preview. Expand in Dataset Viewer.

Dataset Card for Multilingual HateCheck

Dataset Description

Multilingual HateCheck (MHC) is a suite of functional tests for hate speech detection models in 10 different languages: Arabic, Dutch, French, German, Hindi, Italian, Mandarin, Polish, Portuguese and Spanish. For each language, there are 25+ functional tests that correspond to distinct types of hate and challenging non-hate. This allows for targeted diagnostic insights into model performance.

For more details, please refer to our paper about MHC, published at the 2022 Workshop on Online Abuse and Harms (WOAH) at NAACL 2022. If you are using MHC, please cite our work!

Paper: Röttger et al. (2022) - Multilingual HateCheck: Functional Tests for Multilingual Hate Speech Detection Models. https://arxiv.org/abs/2206.09917
Repository: https://github.com/rewire-online/multilingual-hatecheck
Point of Contact: paul@rewire.online

Dataset Structure

The csv format mostly matches the original HateCheck data, with some adjustments for specific languages.

mhc_case_id The test case ID that is unique to each test case across languages (e.g., "mandarin-1305")

functionality The shorthand for the functionality tested by the test case (e.g, "target_obj_nh"). The same functionalities are tested in all languages, except for Mandarin and Arabic, where non-Latin script required adapting the tests for spelling variations.

test_case The test case text.

label_gold The gold standard label ("hateful" or "non-hateful") of the test case. All test cases within a given functionality have the same gold standard label.

target_ident Where applicable, the protected group that is targeted or referenced in the test case. All HateChecks cover seven target groups, but their composition varies across languages.

ref_case_id For hateful cases, where applicable, the ID of the hateful case which was perturbed to generate this test case. For non-hateful cases, where applicable, the ID of the hateful case which is contrasted by this test case.

ref_templ_id The equivalent to ref_case_id, but for template IDs.

templ_id The ID of the template from which the test case was generated.

case_templ The template from which the test case was generated (where applicable).

gender_male and gender_female For gender-inflected languages (French, Spanish, Portuguese, Hindi, Arabic, Italian, Polish, German), only for cases where gender inflection is relevant, separate entries for gender_male and gender_female replace case_templ.

label_annotated A list of labels given by the three annotators who reviewed the test case (e.g., "['hateful', 'hateful', 'hateful']").

label_annotated_maj The majority vote of the three annotators (e.g., "hateful"). In some cases this differs from the gold label given by our language experts.

disagreement_in_case True if label_annotated_maj does not match label_gold for the entry.

disagreement_in_template True if the test case is generated from an IDENT template and there is at least one case with disagreement_in_case generated from the same template. This can be used to exclude entire templates from MHC.

Downloads last month: 37

Edit dataset card

Size of downloaded dataset files:

719 kB

Size of the auto-converted Parquet files:

124 kB

Number of rows:

3,378