Datasets:

anlp

/

sentence_augmented

like 0

Follow

anlp team project 4

[ "final", "accuracy", "was", "obtained", "by", "macro", "-", "averaging", "over", "the", "three", "domains" ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "annotators", "’", "performance", "after", "consolida-", "tion", "reached", "an", "recall", "of", "0.756", ",", "indicating", "substan-", "tial", "agreement.5Furthermore", ",", "consolidation", "was", "shown", "to", "increase", "individual", "performance", "by", "5", "-", "6", "points" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.3", "Dataset", "Properties", "Table", "1", "shows", "some", "statistics", "for", "the", "THINK", "P", "dataset", "Overall", ",", "THINK", "Pincludes", "12", "KPHs", ",", "517", "key", "points", ",", "and", "1,418", "key", "points", "relations", "(", "R", "(", "H", ")", ")", "out", "of", "the", "total", "24,430", "key", "point", "pairs", "Due", "to", "its", "size", ",", "we", "did", "not", "split", "THINK", "Pinto", "development", "and", "test", "sets", ",", "but", "rather", "used", "the", "entire", "dataset", "for", "evaluation", "As", "described", "in", "Section", "4.2.1", ",", "during", "the", "annotation", ",", "we", "filter", "a", "relatively", "small", "number", "of", "key", "points", "(", "14", "%", ")", ",", "mostly", "from", "the", "PCdomain", "This", "is", "mainly", "because", "the", "key", "point", "quality", "model", "that", "we", "used", "was", "not", "trained", "on", "this", "domain", "From", "a", "qualitative", "perspective", ",", "THINK", "Phas", "sev-", "eral", "appealing", "properties", "that", "make", "it", "a", "valuable", "benchmark", "for", "NLI", "First", ",", "recall", "that", "the", "KPA", "algo-", "rithm", "aims", "to", "remove", "similar", "key", "points", "to", "avoid", "re-", "dundancy", "in", "the", "summary", "(", "Bar", "-", "Haim", "et", "al", ",", "2020b", ")", "Hence", ",", "remaining", "equivalent", "key", "points", "in", "THINK", "P", "are", "mostly", "non", "-", "trivial", "paraphrases", "that", "are", "challeng-", "ing", "to", "detect", "(", "e.g.", ",", "“", "Took", "forever", "to", "get", "our", "room", "”", "↔“Lines", "to", "check", "in", "are", "ridiculous", "”", ")", "In", "addition", ",", "hierarchical", "relations", "between", "key", "points", "represent", "diverse", "types", "of", "inferences", "Table", "2", "shows", "a", "few", "examples", "of", "common", "relations", "we", "observed", "by", "ana-", "lyzing", "a", "sample", "from", "the", "dataset", "Finally", ",", "THINK", "P", "comprises", "naturally", "-", "occurring", "texts", "and", "relations", ",", "coming", "from", "real", "-", "world", "data", "5", "Automatic", "KPH", "Construction", "We", "use", "a", "two", "-", "step", "approach", "to", "automatically", "build", "a", "KPH", "from", "a", "set", "of", "key", "points", "In", "the", "first", "step", ",", "we", "predict", "directional", "scores", "between", "all", "pairs", "of", "5We", "do", "not", "report", "Kappa", "because", "decisions", "are", "mutually", "dependent.key", "points", "(", "§", "5.1", ")", "In", "the", "second", "step", ",", "we", "construct", "a", "hierarchy", "based", "on", "the", "log_likelihood", "(", "§", "5.2", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O" ]

[ "5.1", "AUC", "Given", "a", "pair", "of", "key", "points", "(", "i", ",", "j", ")", ",", "we", "aim", "to", "pre-", "dict", "whether", "a", "directional", "relation", "i−", "→jholds", "between", "iandj", ",", "by", "computing", "a", "likelihood", "score", "s", "(", "i", ",", "j", ")", "∈", "[", "0,1", "]" ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "experimented", "with", "both", "exist-", "ing", "baselines", "and", "new", "methods", "we", "developed", "for", "this", "task", "Due", "to", "the", "size", "of", "THINK", "P", ",", "it", "was", "not", "used", "to", "fine", "-", "tune", "the", "scoring", "models", "(", "§", "4.3", ")", "Baselines", "Identifying", "directional", "relations", "be-", "tween", "two", "key", "points", "is", "closely", "related", "to", "two", "exist-", "ing", "tasks", ":", "Textual", "Entailment", ",", "also", "known", "as", "Natu-", "ral", "Language", "Inference", "(", "NLI", ")", "(", "Dagan", "et", "al", ",", "2007", ")", "and", "matching", "arguments", "to", "key", "points", "(", "Bar", "-", "Haim", "et", "al", ",", "2020a", ")", "Accordingly", ",", "we", "implemented", "two", "baselines", ":", "(", "1", ")", "NLI", ",", "a", "RoBERTa", "model", "(", "Liu", "et", "al", ",", "2019", ")", "fine", "-", "tuned", "on", "the", "MNLI", "dataset", "(", "Williams", "et", "al", ",", "2018", ")", "to", "predict", "whether", "ientails", "j6and", "(", "2", ")", "KPA", "-", "Match", ",", "a", "RoBERTa", "model", "trained", "on", "the", "ArgKP", "dataset", "(", "Bar", "-", "Haim", "et", "al", ",", "2020a", ")", "to", "predict", "whether", "imatches", "j", ",", "following", "(", "Bar", "-", "Haim", "et", "al", ",", "2021", ")", "’s", "implementation", "Directional", "Distributional", "Similarity", "Geffet", "and", "Dagan", "(", "2005", ")", "introduced", "the", "distributional", "inclusion", "hypothesis", "for", "lexical", "entailment", "(", "Gef-", "fet", "and", "Dagan", ",", "2004", ")", ",", "which", "suggests", "that", "the", "context", "surrounding", "an", "entailing", "word", "w1is", "nat-", "urally", "expected", "to", "occur", "also", "with", "the", "entailed", "word", "w2", "Specifically", ",", "for", "each", "word", "w", ",", "they", "built", "a", "sparse", "feature", "vector", "where", "the", "value", "of", "the", "i", "-", "th", "entry", "is", "the", "PMI", "of", "the", "i", "-", "th", "word", "in", "the", "dictionary", "with", "w", "Many", "distributional", "similar-", "ity", "metrics", "have", "been", "proposed", "to", "predict", "direc-", "tional", "relations", "such", "as", "hyponymy", "between", "a", "pair", "of", "words", ",", "based", "on", "their", "distributional", "feature", "vec-", "tors", "Among", "these", "methods", "are", "WeedsPrec", "(", "Weeds", "and", "Weir", ",", "2003", ")", ",", "BInc", "(", "Szpektor", "and", "Dagan", ",", "2008", ")", ",", "ClarkeDE", "(", "Clarke", ",", "2009", ")", "and", "APinc", "(", "Kotlerman", "et", "al", ",", "2009", ")", "In", "this", "work", ",", "we", "argue", "that", "this", "distributional", "inclusion", "hypothesis", "may", "be", "extended", "to", "identify", "directional", "relations", "between", "two", "key", "points", "In-", "deed", ",", "if", "i−", "→j", ",", "it", "is", "likely", "that", "an", "input", "sentence", "that", "matches", "the", "key", "point", "iwill", "also", "match", "j", "For", "example", ",", "the", "sentence", "“", "The", "beds", "were", "really", "comfortable", ",", "I", "literally", "knocked", "out", "as", "soon", "as", "my", "head", "touched", "the", "pillow", "”", "matches", "both", "“", "The", "beds", "6https", ":", "/", "/", "huggingface.co", "/", "roberta-large-mnli916", "Relation", "Type", "Examples", "Support", "/", "ElaborationHousekeeping", "needs", "worked", "on", "←", "−The", "beds", "were", "n’t", "even", "made", "right", "The", "room", "was", "poorly", "maintained", "←", "−The", "air", "conditioning", "was", "not", "functioning", "right", "The", "device", "itself", "is", "so", "difficult", "to", "use", "←", "−Transferring", "data", "was", "a", "nightmare", "!", "Customer", "service", "is", "a", "joke", "←", "−No", "help", "moving", "rooms", "Part", "-", "ofThehardware", "is", "fantastic", "←", "−Sound", "is", "surprisingly", "good", "Thetheatre", "is", "great", "←", "−Theentrance", "is", "absolutely", "beautiful", "IS", "-", "AThetoiletries", "they", "offer", "are", "the", "worst", "←", "−not", "even", "good", "shampoo", "in", "room", "Food", "varieties", "was", "very", "limited", "←", "−Desert", "selection", "was", "below", "average", "as", "well", "Table", "2", ":", "Examples", "of", "relations", "between", "key", "points", "in", "T", "HINK", "P", "were", "awesome", "”", "and“The", "rooms", "are", "comfortable", "”", "Therefore", ",", "we", "construct", "a", "feature", "vector", "for", "each", "key", "point", "k", ",", "whose", "length", "is", "equal", "to", "the", "number", "of", "input", "sentences", "The", "value", "at", "the", "i", "-", "th", "position", "in", "this", "vector", "is", "the", "likelihood", "that", "the", "i", "-", "th", "sen-", "tence", "matches", "k", ",", "as", "predicted", "by", "the", "KPA", "match-", "ing", "model", "(", "§", "4.1", ")", "Then", ",", "we", "apply", "the", "aforemen-", "tioned", "distributional", "similarity", "metrics", "to", "predict", "a", "precision", "s", "(", "i", ",", "j", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O" ]

[ "We", "only", "report", "the", "perfor-", "mance", "of", "APinc", "as", "it", "slightly", "outperformed", "other", "metrics", "Additionally", ",", "we", "implemented", "a", "simple", "variant", "of", "WeedsPrec", ",", "in", "which", "the", "entries", "in", "the", "feature", "vectors", "are", "binary", "(", "match", "/", "no", "match", ")", "This", "metric", ",", "termed", "AUC", ",", "com-", "putes", "the", "ratio", "between", "the", "number", "of", "sentences", "matched", "by", "KPA", "to", "both", "iandjand", "the", "number", "sentences", "matched", "to", "i" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Intuitively", ",", "when", "most", "of", "the", "sentences", "that", "were", "mapped", "to", "iwere", "also", "mapped", "to", "j", ",", "it", "is", "a", "strong", "indication", "that", "i−", "→j", "Combining", "NLI", "with", "Distributional", "Methods", "As", "further", "discussed", "in", "Section", "6", ",", "we", "empirically", "found", "that", "the", "NLI", "model", "and", "the", "distributional", "methods", "have", "complementary", "strengths", "The", "NLI", "model", "performs", "better", "on", "RESTAURANTS", ",", "whereas", "the", "distributional", "methods", "perform", "better", "on", "the", "HOTEL", "andPCdomains", "Furthermore", ",", "even", "within", "each", "domain", ",", "those", "two", "methods", "produce", "very", "dif-", "ferent", "rankings", ",", "as", "indicated", "by", "a", "low", "Spearman", "correlation", "between", "their", "output", "scores", "(", "see", "Ap-", "pendix", "C", "for", "more", "details", ")", "To", "take", "advantage", "of", "the", "strengths", "of", "both", "ap-", "proaches", ",", "we", "explored", "two", "alternatives", "for", "com-", "bining", "BinInc", ",", "the", "best", "-", "performing", "distributional", "method", "(", "as", "shown", "in", "Section", "6", ")", ",", "with", "NLI", ":", "1.Averaging", "the", "output", "scores", "of", "NLI", "and", "Bin-", "Inc", "(", "denoted", "NLI+BinInc", "-", "Avg", ")", "2.Fine", "-", "tuning", "the", "NLI", "model", "on", "weak", "la-", "bels", "created", "by", "the", "BinInc", "model", "(", "denotedNLI+BinInc", "-", "WL", ")", "Specifically", ",", "we", "first", "apply", "theBinInc", "method", "to", "a", "large", "number", "of", "unla-", "beled", "KPA", "summaries", "and", "obtain", "local", "scores", "between", "all", "pairs", "of", "key", "points", "We", "then", "con-", "vert", "these", "pairwise", "scores", "to", "the", "NLI", "format", ",", "where", "we", "consider", "all", "pairs", "above", "some", "thresh-", "old", "as", "entailment", "and", "the", "others", "as", "neutral", "Finally", ",", "we", "fine", "-", "tune", "the", "NLI", "model", "on", "this", "automatically", "-", "generated", "training", "data", "and", "use", "the", "resulting", "model", "to", "predict", "the", "Spearman", "s", "(", "i", ",", "j", ")", "onTHINK", "P" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName" ]

[ "Implementation", "details", "and", "statistics", "on", "the", "silver", "data", "are", "detailed", "in", "Appendix", "B", "5.2", "Hierarchy", "Construction", "We", "proceed", "to", "construct", "a", "KPH", "by", "determining", "its", "semantic", "clusters", "and", "the", "hierarchical", "relations", "between", "them", "Intuitively", ",", "we", "would", "like", "to", "gener-", "ate", "a", "KPH", "such", "that", "the", "set", "of", "pairwise", "key", "point", "relations", "induced", "by", "its", "structure", "are", "consistent", "with", "the", "local", "directional", "scores", ":", "high", "-", "scoring", "rela-", "tions", "should", "be", "included", ",", "and", "low", "-", "scoring", "relations", "should", "be", "excluded", "We", "explored", "several", "alter-", "natives", "for", "constructing", "a", "KPH", ",", "described", "below", "Each", "of", "these", "methods", "employs", "a", "decision", "thresh-", "oldτover", "the", "local", "scores", ",", "which", "needs", "to", "be", "tuned", "over", "some", "development", "data", "Reduced", "Forest", "(", "2012", ")", "described", "a", "simple", "transformation", "of", "a", "directed", "graph", "Ginto", "a", "forest", "of", "clusters", "In", "our", "case", ",", "we", "start", "with", "a", "graph", "that", "includes", "the", "key", "points", "as", "nodes", ",", "and", "the", "directional", "edges", "e", "(", "i", ",", "j", ")", "for", "pairs", "with", "local", "score", "s", "(", "i", ",", "j", ")", ">", "τ", "The", "reduced", "forest", "is", "constructed", "as", "follows", ":", "(", "a", ")", "the", "condensation", "of", "Gis", "computed", "by", "contracting", "each", "strongly", "connected", "component", "into", "a", "single", "vertex", "that", "represents", "a", "cluster", "of", "nodes", "in", "G", "The", "resulting", "DAG", "is", "transformed", "into", "a", "forest", "by", "(", "b", ")", "taking", "its", "transitive", "reduction", ",", "and", "(", "c", ")", "heuristically917", "selecting", "a", "single", "parent", "for", "each", "node", "with", "multi-", "ple", "parents", "We", "select", "the", "larger", "cluster", "as", "a", "parent", ",", "and", "as", "a", "tie", "breaker", ",", "we", "use", "the", "mean", "over", "all", "the", "pairwise", "scores", "s", "(", "i", ",", "j", ")", "such", "that", "iis", "in", "the", "child", "cluster", "and", "jis", "in", "the", "parent", "cluster", "As", "defined", "by", "Berant", "et", "al", ",", "Gis", "aForest", "Re-", "ducible", "Graph", "(", "FRG", ")", "if", "after", "applying", "step", "babove", ",", "none", "of", "the", "nodes", "has", "multiple", "parents", "Tree", "Node", "and", "Component", "Fix", "(", "TNCF", ")", "Given", "a", "directed", "graph", "with", "local", "edge", "weights", "that", "are", "either", "positive", "(", "predicting", "pairwise", "entailment", "be-", "tween", "connected", "nodes", ")", "or", "negative", "(", "predicting", "non", "-", "entailment", ")", ",", "the", "optimal", "entailment", "graph", "may", "be", "defined", "as", "the", "transitive", "subgraph", "in", "which", "the", "sum", "of", "the", "edge", "weights", "is", "maximized", "(", "Berant", "et", "al", ",", "2012", ")", "showed", "that", "this", "problem", "is", "NP-", "Hard", ",", "even", "when", "further", "constraining", "the", "resulting", "graph", "to", "be", "forest", "-", "reducible", "To", "address", "the", "computational", "complexity", "of", "find-", "ing", "an", "exact", "solution", ",", "Berant", "et", "al", "presented", "an", "ef-", "ficient", "approximation", "algorithm", ",", "termed", "Tree", "-", "node-", "fix", "(", "TNF", ")", "that", "generates", "forest", "-", "reducible", "entailment", "graphs", ",", "and", "showed", "empirically", "that", "the", "quality", "of", "the", "resulting", "graphs", "is", "close", "to", "the", "exact", "solu-", "tion", "found", "via", "Integer", "Linear", "Programming", "(", "ILP", ")", "Starting", "from", "some", "initial", "FRG", ",", "their", "algorithm", "it-", "eratively", "improves", "the", "graph", "objective", "function", "by", "removing", "and", "reattaching", "one", "node", "at", "a", "time", ",", "while", "keeping", "the", "graph", "forest", "-", "reducible", "(", "2015", ")", "proposed", "an", "extension", "for", "this", "algorithm", ",", "termed", "Tree", "-", "Node", "-", "and", "-", "Component-", "Fix", "(", "TNCF", ")", ",", "where", "in", "each", "iteration", "a", "whole", "cluster", "may", "be", "re", "-", "attached", ",", "in", "addition", "to", "individual", "nodes", "We", "found", "this", "extension", "beneficial", "Since", "a", "KPH", "is", "also", "a", "forest", "of", "clusters", ",", "the", "TNF", "and", "TNCF", "algorithms", "are", "directly", "applicable", "to", "our", "setting", "(", "2012", ")", "we", "defined", "the", "edge", "weights", "as", "wi", ",", "j", "=", "s", "(", "i", ",", "j", ")", "−τso", "that", "local", "scores", "below", "the", "lr", "scheduler", "τare", "considered", "negative" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O" ]

[ "One", "difference", "between", "the", "original", "TNF", "imple-", "mentation", "and", "ours", "is", "the", "initialization", ":", "while", "they", "used", "(", "Berant", "et", "al", ",", "2011", ")", "’s", "exact", "solution", ",", "com-", "puted", "via", "ILP", "for", "a", "sparse", "configuration", ",", "we", "take", "a", "simpler", "approach", "and", "start", "with", "the", "reduced", "forest", "described", "above", ",", "constructed", "with", "the", "same", "thresh-", "oldτ", "Greedy", "As", "an", "alternative", "to", "the", "TNF", "/", "TNCF", "al-", "gorithms", ",", "we", "also", "adapted", "the", "greedy", "algorithm", "proposed", "by", "Cattan", "et", "al", "(", "2021", ")", "for", "the", "task", "of", "hi", "-", "erarchical", "cross", "-", "document", "coreference", "resolution", ",", "which", "also", "generates", "a", "forest", "of", "clusters", "First", ",", "key", "point", "clusters", "are", "obtained", "by", "agglomerative", "clus-", "tering", "with", "average", "linkage", "and", "distance", "threshold", "of1−τ", ",", "where", "the", "distance", "metric", "between", "two", "key", "points", "iandjis", "defined", "as", "1−min", "(", "s", "(", "i", ",", "j", ")", ",", "s", "(", "j", ",", "i", ")", ")", "Second", ",", "we", "define", "the", "score", "of", "the", "directional", "edge", "between", "two", "clusters", "(", "C1", ",", "C2", ")", "as", "the", "average", "of", "the", "s", "(", "i", ",", "j", ")", "scores", "between", "the", "key", "points", "in", "the", "two", "clusters", ":", "S", "(", "C1", ",", "C2", ")", "=", "1", "|C1|", "·", "|C", "2|", "/", "summationdisplay", "i∈C1", "/", "summationdisplay", "j∈C2s", "(", "i", ",", "j", ")", "(", "2", ")", "The", "KPH", "is", "constructed", "by", "repeatedly", "adding", "the", "highest", "-", "scoring", "edge", "(", "if", "the", "score", "is", "above", "the", "τ", "threshold", ")", ",", "skipping", "edges", "that", "would", "violate", "the", "definition", "of", "the", "KPH", "as", "a", "directed", "forest", "The", "process", "is", "terminated", "when", "no", "more", "edges", "can", "be", "added", "Note", "that", "unlike", "the", "TNF", "/", "TNCF", "algorithms", ",", "the", "Greedy", "algorithm", "does", "not", "modify", "existing", "clus-", "ters", "and", "edges", "in", "each", "iteration", ",", "but", "only", "adds", "new", "edges", "Greedy", "with", "Global", "Score", "(", "Greedy", "GS", ")", "One", "limitation", "of", "the", "Greedy", "algorithm", "is", "that", "the", "edge", "scoring", "function", "is", "local", "and", "hence", "ignores", "indirect", "relations", "between", "clusters", "that", "would", "result", "from", "adding", "the", "edge", "For", "example", ",", "consider", "a", "KPH", "with", "three", "clusters", "{", "A", ",", "B", ",", "C", "}", "such", "that", "B−", "→A", "The", "criterion", "to", "add", "the", "edge", "C−", "→Bwill", "consider", "onlyS", "(", "C", ",", "B", ")", "but", "not", "S", "(", "C", ",", "A", ")", ",", "which", "corresponds", "to", "the", "indirect", "relation", "C", ";", "A", "To", "address", "this", "issue", ",", "we", "modified", "the", "algorithm", "to", "consider", "the", "relations", "between", "each", "cluster", "and", "all", "its", "ancestors", "in", "the", "resulting", "KPH", ",", "as", "follows", ":", "Ek+1", "=", "Ek∪argmax", "ϵ∈E∗\\EkO", "(", "V", ",", "Ek∪ϵ", ")", "(", "3", ")", "O", "(", "V", ",", "E", ")", "=", "/", "summationdisplay", "Ci∈V", "/", "summationdisplay", "Cj∈AV", ",", "E", "(", "Ci", ")", "S", "(", "Ci", ",", "Cj", ")", "(", "4", ")", "where", "Ekis", "the", "set", "of", "edges", "in", "the", "resulting", "KPH", "afterkiterations", ",", "E∗is", "the", "set", "of", "all", "edges", "scoring", "above", "τandAV", ",", "E", "(", "C", ")", "denotes", "the", "set", "of", "ancestors", "ofCinH", "(", "V", ",", "E", ")", "6", "Evaluation", "Predicting", "Local", "Pairwise", "Relations", "Figure", "2", "compares", "the", "performance", "of", "the", "different", "local", "scoring", "methods", "(", "§", "5.1", ")", "For", "each", "domain", ",", "we", "con-", "sider", "all", "the", "key", "point", "pairs", "in", "the", "dataset", ",", "and", "show918", "Figure", "2", ":", "Precision", "-", "Recall", "curves", "of", "local", "scoring", "methods", "on", "R", "ESTAURANT", ",", "HOTEL", "and", "PC", "the", "BLEU", "/", "recall", "curve", "and", "the", "MCC", "(", "AUC", ")", "for", "each", "method" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "I-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O" ]

[ "Kendall", "results", "are", "also", "summarized", "in", "Table", "3" ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "first", "observe", "that", "applying", "the", "KPA", "-", "match", "model", "indirectly", "via", "the", "distributional", "methods", "(", "AP-", "incandBinInc", ")", "outperforms", "its", "direct", "application", "in", "two", "out", "of", "the", "three", "domains", ",", "and", "increases", "the", "RMSE", "from", "0.237", "to", "0.277", "/", "0.288", ",", "respec-", "tively" ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "B-MetricValue", "I-MetricValue", "I-MetricValue", "O", "O", "O" ]

[ "The", "NLImodel", "has", "a", "clear", "advantage", "over", "the", "distributional", "methods", "in", "the", "RESTAURANTS", "domain", ",", "but", "is", "much", "worse", "for", "HOTEL", "andPC", "Both", "NLI+BinInc", "-", "Avg", "andNLI+BinInc", "-", "WL", "models", "are", "able", "to", "combine", "the", "complementary", "strengths", "of", "NLIandBinInc", "and", "outperform", "all", "the", "stand", "-", "alone", "models", "Model", "combination", "via", "weak", "labeling", "(", "NLI+BinInc", "-", "WL", ")", "achieves", "the", "best", "performance", "in", "all", "three", "domains", "by", "a", "large", "margin", "(", "+0.11", "aver-", "age", "AUC", "improvement", "over", "the", "best", "stand", "-", "alone", "method", ")" ]

[ "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "further", "assess", "the", "contribution", "of", "model", "com-", "bination", "in", "the", "weak", "labeling", "setting", ",", "we", "also", "tested", "a", "configuration", "in", "which", "the", "silver", "data", "is", "labeled", "by", "the", "NLI", "model", "(", "denoted", "NLI", "-", "WL", ")", "The", "results", "are", "shown", "on", "the", "last", "row", "of", "Table", "3", "While", "the", "performance", "is", "better", "than", "NLI", "alone", "(", "demonstrat-", "ing", "the", "value", "of", "weak", "labeling", ")", ",", "it", "is", "still", "far", "be-", "lowNLI+BinInc", "-", "WL", "Overalll", ",", "the", "results", "affirm", "the", "importance", "of", "both", "model", "combination", "and", "the", "weakly", "-", "labeled", "data", "for", "local", "scoring", "performance", "Hierarchy", "Construction", "Next", ",", "we", "compare", "dif-", "ferent", "methods", "for", "constructing", "a", "KPH", "from", "the", "set", "of", "local", "pairwise", "scores", "(", "§", "5.2", ")", "We", "use", "the", "scores", "from", "the", "best", "performing", "local", "method", ",", "NLI+BinInc", "-", "WL", ",", "as", "found", "in", "the", "previous", "experi-", "ment", "We", "use", "the", "RMSE", "measure", "as", "defined", "in", "Sec-", "tion", "4.2.3", "as", "our", "evaluation", "metric", ",", "similar", "toKotlerman", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Since", "THINK", "Phas", "no", "development", "set", "(", "§", "4.3", ")", ",", "we", "employ", "a", "leave", "-", "one", "-", "out", "scheme", "to", "tune", "the", "activation" ]

[ "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]

[ "Specifically", ",", "for", "each", "KPA", "summary", "S", ",", "we", "find", "the", "threshold", "that", "maximizes", "the", "MAP", "of", "the", "three", "other", "KPHs", "in", "the", "same", "domain", "and", "predict", "a", "KPH", "for", "Susing", "this", "threshold" ]

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "then", "compute", "the", "RMSE", "for", "the", "predicted", "KPHs", "in", "each", "domain" ]

[ "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "results", "are", "summarized", "in", "Table", "4", "TNCF", "achieves", "the", "best", "overall", "performance", "on", "T", "HINK", "P", "with", "an", "average", "BLEU", "of", "0.526", ",", "substantially", "improv-", "ing", "the", "Reduced", "Forest", "baseline" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName" ]

[ "The", "Greedy", "GS", "algorithm", "is", "the", "top", "performer", "in", "the", "Restaurants", "domain", "(", "model_size", ")" ]

[ "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Adding", "a", "global", "scoring", "func-", "tion", "to", "the", "greedy", "algorithm", "improves", "the", "perfor-", "mance", "by", "0.059", "(", "from", "0.45", "to", "0.509", ")", "We", "also", "evaluated", "the", "quality", "of", "the", "predicted", "relations", "using", "only", "the", "local", "scores", ",", "with", "a", "thresh-", "old", "determined", "via", "leave", "-", "one", "-", "out", ",", "as", "before", "(", "last", "row", "in", "Table", "4", ")", "While", "the", "resulting", "set", "of", "relations", "may", "not", "represent", "a", "valid", "hierarchy", ",", "it", "still", "provides", "an", "interesting", "reference", "point", "for", "comparison", "with", "the", "various", "KPH", "construction", "algorithms", "We", "can", "see", "that", "both", "Greedy", "GS", "andTNCF", "improve", "the", "local", "results", "by", "a", "substantial", "margin", "(", "+0.028", "and", "+0.045", ",", "resp", ")", "These", "two", "global", "methods", "not", "only", "satisfy", "the", "constraints", "of", "generating", "a", "valid", "KPH", ",", "but", "also", "improve", "the", "pairwise", "relation", "prediction", "of", "the", "local", "scorer", "7", "Conclusion", "We", "introduced", "Key", "Point", "Hierarchies", "as", "a", "novel", "representation", "for", "structured", ",", "expressive", "opinion", "summaries", "We", "explored", "several", "approaches", "for", "au-", "tomatic", "hierarchy", "construction", "from", "a", "given", "set", "of", "key", "points", ",", "which", "were", "evaluated", "on", "a", "new", "bench-", "mark", "dataset", "we", "developed", "for", "this", "task", "We", "also919", "REST", "HOTEL", "PC", "Avg", "All", "methods", "use", "the", "NLI+BinInc", "-", "WL", "local", "scores", "proposed", "a", "novel", "distributional", "representation", "for", "key", "points", ",", "which", "we", "leveraged", "via", "weak", "super-", "vision", "to", "achieve", "substantial", "improvement", "on", "the", "subtask", "of", "predicting", "pairwise", "key", "point", "relations", "While", "our", "initial", "results", "are", "promising", ",", "there", "is", "still", "much", "room", "for", "improvement", ",", "and", "we", "hope", "that", "releasing", "our", "dataset", "would", "encourage", "the", "commu-", "nity", "to", "further", "promote", "this", "line", "of", "research", "Limitations", "Key", "Point", "Hierarchies", "may", "be", "valuable", "for", "sum-", "marizing", "opinions", "and", "views", "in", "multiple", "domains", ",", "including", "reviews", ",", "survey", "responses", ",", "customer", "feed-", "back", ",", "political", "debates", "etc", "However", ",", "in", "this", "work", ",", "we", "only", "demonstrated", "their", "value", "for", "business", "and", "product", "reviews", ",", "leaving", "other", "types", "of", "data", "to", "fu-", "ture", "work", "Also", ",", "we", "only", "attempted", "to", "create", "KPHs", "for", "English", "reviews", ",", "for", "which", "an", "abundance", "of", "resources", "is", "available", ",", "including", "a", "huge", "number", "of", "written", "reviews", "and", "high", "-", "quality", "trained", "mod-", "els", ",", "e.g", "for", "NLI", "and", "key", "point", "matching", "Apply-", "ing", "these", "methods", "to", "low", "-", "resource", "languages", "is", "expected", "to", "be", "far", "more", "challenging", "Finally", ",", "the", "quality", "of", "the", "resulting", "KPHs", "depends", "on", "the", "qual-", "ity", "of", "the", "extracted", "key", "points", "provided", "as", "input", ",", "which", "may", "vary", "across", "different", "domains", "To", "alle-", "viate", "this", "problem", "in", "THINK", "P", ",", "we", "manually", "filtered", "out", "problematic", "key", "points", "from", "the", "dataset", "(", "§", "4.2", ")", ".Acknowledgments", "The", "first", "author", "is", "partially", "supported", "by", "the", "PBC", "fellowship", "for", "outstanding", "PhD", "candidates", "in", "data", "science" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "929–949", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "When", "to", "Use", "What", ":", "An", "In", "-", "Depth", "Comparative", "Empirical", "Analysis", "of", "OpenIE", "Systems", "for", "Downstream", "Applications", "Kevin", "Peia", ",", "Ishan", "Jindalb", ",", "Kevin", "Chen", "-", "Chuan", "Changa", ",", "Chengxiang", "Zhaia", ",", "Yunyao", "Lic", "aUniversity", "of", "Illinois", "at", "Urbana", "-", "Champaign", ",", "bIBM", "Research", ",", "cApple", "{", "kspei2", ",", "kcchang", ",", "czhai", "}", "@", "illinois.edu", ",", "ishan.jindal", "@", "ibm.com", ",", "yunyaoli", "@", "apple.com", "Abstract", "Open", "Information", "Extraction", "(", "OpenIE", ")", "has", "been", "used", "in", "the", "pipelines", "of", "various", "NLP", "tasks", "Unfortunately", ",", "there", "is", "no", "clear", "consensus", "on", "which", "models", "to", "use", "for", "which", "tasks", "Muddy-", "ing", "things", "further", "is", "the", "lack", "of", "comparisons", "that", "take", "differing", "training", "sets", "into", "account", "In", "this", "paper", ",", "we", "present", "an", "application", "-", "focused", "empirical", "survey", "of", "neural", "OpenIE", "models", ",", "training", "sets", ",", "and", "benchmarks", "in", "an", "effort", "to", "help", "users", "choose", "the", "most", "suitable", "OpenIE", "systems", "for", "their", "applications", "We", "find", "that", "the", "different", "assumptions", "made", "by", "different", "mod-", "els", "and", "datasets", "have", "a", "statistically", "significant", "effect", "on", "performance", ",", "making", "it", "important", "to", "choose", "the", "most", "appropriate", "model", "for", "one", "’s", "applications", "We", "demonstrate", "the", "applicabil-", "ity", "of", "our", "recommendations", "on", "a", "downstream", "Complex", "QA", "application", "1", "Introduction", "Open", "Information", "Extraction", "(", "OpenIE", ")", "is", "the", "task", "of", "extracting", "relation", "tuples", "from", "plain", "text", "(", "An-", "geli", "et", "al", ",", "2015", ")", "In", "its", "simplest", "form", ",", "OpenIE", "extracts", "information", "in", "the", "form", "of", "tuples", "consist-", "ing", "of", "subject", "(", "S", ")", ",", "predicate", "(", "P", ")", ",", "object", "(", "O", ")", ",", "and", "any", "additional", "arguments", "(", "A", ")", "OpenIE", "is", "an", "open", "do-", "main", ",", "intended", "to", "be", "easy", "to", "deploy", "in", "different", "domains", "without", "fine", "-", "tuning", ",", "with", "all", "relations", "ex-", "tracted", "regardless", "of", "type", "The", "increasing", "avail-", "ability", "of", "semi", "-", "automatically", "generated", "training", "datasets", "(", "Cui", "et", "al", ",", "2018", ")", "as", "well", "as", "significant", "ad-", "vances", "in", "deep", "learning", "techniques", "have", "led", "to", "the", "development", "of", "state", "-", "of", "-", "the", "-", "art", "neural", "models", "(", "Cui", "et", "al", ",", "2018", ";", "Garg", "and", "Kalai", ",", "2018", ")", "Since", "its", "introduction", "in", "Etzioni", "et", "al", "(", "2008", ")", ",", "OpenIE", "has", "attracted", "a", "large", "amount", "of", "attention", "by", "the", "research", "community", "as", "a", "tool", "for", "a", "wide", "range", "of", "downstream", "NLP", "tasks", "(", "Mausam", ",", "2016", ")", "How-", "ever", ",", "there", "is", "no", "real", "consensus", "on", "which", "OpenIE", "model", "is", "best", "for", "each", "application", "One", "example", "of", "this", "lack", "of", "consensus", "in", "summarization", ",", "where", "dif-", "ferent", "papers", "use", "OLLIE", "(", "Christensen", "et", "al", ",", "2014", ")", ",", "Sentence", "Bill", "Gates", ",", "former", "CEO", "of", "Microsoft", ",", "is", "a", "Harvard", "dropout", "OpenIE", "Extractions", "(", "Bill", "Gates", ",", "was", ",", "former", "CEO", "of", "Microsoft", ")", "(", "Bill", "Gates", ",", "is", ",", "a", "Harvard", "dropout", ")", "Applications", "QAWho", "was", "former", "CEO", "of", "Microsoft", "?", "Where", "did", "Bill", "Gates", "dropout", "of", "?", "Slot", "Filling", "(", "?", ",", "was", ",", "former", "CEO", "of", "Microsoft", ")", "(", "?", ",", "is", ",", "a", "Harvard", "dropout", ")", "Table", "1", ":", "Sample", "relation", "tuples", "and", "examples", "of", "how", "different", "applications", "use", "OpenIE", "extractions", "MinIE", "(", "Ponza", "et", "al", ",", "2018", ")", ",", "and", "Stanford", "CoreNLP", "(", "Cao", "et", "al", ",", "2018", ";", "Zhang", "et", "al", ",", "2021", ")", "for", "extraction", "Different", "applications", "may", "also", "have", "different", "re-", "quirements", "As", "an", "example", ",", "choosing", "a", "model", "that", "assumes", "all", "relations", "only", "have", "a", "subject", "and", "ob-", "ject", "may", "not", "be", "suitable", "for", "event", "schema", "induction", "since", "that", "excludes", "any", "event", "schemas", "with", "more", "than", "two", "entities", "The", "papers", "that", "introduce", "new", "OpenIE", "models", "and", "datasets", "do", "not", "specify", "how", "downstream", "applications", "would", "be", "impacted", "by", "the", "different", "assumptions", "those", "models", "make", "about", "extracted", "relations", "We", "find", "that", "prior", "OpenIE", "surveys", "are", "also", "insuf-", "ficient", "to", "find", "the", "best", "OpenIE", "model", "for", "a", "given", "application", "The", "only", "previous", "application", "-", "focused", "OpenIE", "survey", "we", "found", "was", "Mausam", "(", "2016", ")", "However", ",", "this", "survey", "does", "not", "identify", "the", "desired", "properties", "of", "OpenIE", "for", "those", "applications", "or", "pro-", "vide", "an", "empirical", "comparison", "of", "OpenIE", "systems", "Glauber", "and", "Claro", "(", "2018", ")", ",", "Claro", "et", "al", "(", "2019", ")", ",", "and", "Zhou", "et", "al", "(", "2022", ")", "also", "do", "not", "provide", "an", "empirical", "application", "-", "focused", "survey", "Another", "obstacle", "is", "the", "lack", "of", "apples", "-", "to", "-", "apples", "comparisons", "between", "OpenIE", "models", "Compar-", "isons", "should", "keep", "the", "training", "set", ",", "benchmark", ",", "and", "evaluation", "metric", "constant", "to", "eliminate", "con-", "founders", "Unfortunately", ",", "the", "papers", "that", "intro-929", "Question", "AnsweringSlot", "FillingEvent", "Schema", "InductionSummarizationKnowledge", "Base", "Population", "HR", ":", "Higher", "Recall", "✓", "✓", "✓", "✓", "✓", "HP", ":", "Higher", "Precision", "✓", "✓", "N", "-", "ary", ":", "N", "-", "ary", "Relation", "Extraction", "✓", "✓", "✓", "IN", ":", "Inferred", "Relation", "Extraction", "✓", "✓", "✓", "✓", "FE", ":", "Fast", "Extraction", "✓", "Table", "2", ":", "Properties", "explicitly", "mentioned", "in", "application", "papers", "as", "motivation", "for", "choosing", "a", "particular", "OpenIE", "model", "or", "as", "a", "way", "to", "improve", "performance", "within", "a", "case", "study", "There", "are", "additional", "desired", "properties", "we", "omit", "that", "no", "existing", "OpenIE", "models", "or", "datasets", "possess", ",", "such", "as", "the", "canonicalization", "of", "extracted", "relations", "and", "the", "ability", "to", "extract", "relations", "from", "imperative", "sentences", "(", "Fader", "et", "al", ",", "2013", ";", "Khot", "et", "al", ",", "2017", ";", "Zhang", "et", "al", ",", "2021", ")", "duce", "new", "OpenIE", "models", "often", "do", "not", "provide", "this", "apples", "-", "to", "-", "apples", "comparison", "For", "example", ",", "CopyAttention", "(", "Cui", "et", "al", ",", "2018", ")", ",", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", ",", "IMoJIE", "(", "Kolluru", "et", "al", ",", "2020b", ")", ",", "and", "OpenIE6", "(", "Kolluru", "et", "al", ",", "2020a", ")", "all", "compare", "their", "model", "to", "models", "trained", "on", "different", "training", "sets", "OpenIE6", "reports", "performance", "on", "the", "WiRe57", "benchmark", "which", "Multi2OIE", "(", "Ro", "et", "al", ",", "2020", ")", "does", "not", ",", "but", "Multi2OIE", "reports", "performance", "on", "the", "ReOIE2016", "benchmark", "which", "OpenIE6", "does", "not", "Because", "the", "training", "set", "can", "greatly", "affect", "the", "per-", "formance", "of", "a", "neural", "model", ",", "we", "focus", "on", "selecting", "both", "the", "appropriate", "OpenIE", "model", "and", "training", "set", ",", "which", "we", "refer", "to", "as", "an", "OpenIE", "System", "To", "resolve", "our", "lack", "of", "understanding", ",", "we", "focus", "on", "one", "particular", "question", ":", "How", "do", "I", "choose", "a", "particular", "OpenIE", "system", "for", "a", "given", "application", "?", "Different", "implicit", "assumptions", "about", "OpenIE", "may", "have", "a", "significant", "impact", "on", "the", "performance", "of", "downstream", "applications", "such", "as", "the", "assumptions", "that", "all", "relations", "are", "verb", "-", "based", "(", "Zhan", "and", "Zhao", ",", "2020", ")", "or", "that", "all", "relations", "have", "only", "a", "subject", "and", "object", "(", "Kolluru", "et", "al", ",", "2020b", ")", "To", "answer", "this", "ques-", "tion", "an", "apples", "-", "to", "-", "apples", "comparison", "must", "be", "con-", "ducted", "for", "different", "application", "settings", "Because", "it", "is", "impractical", "to", "find", "the", "best", "model", "for", "every", "application", "given", "the", "many", "possible", "appli-", "cations", "of", "OpenIE", ",", "we", "instead", "characterize", "appli-", "cations", "based", "on", "what", "properties", "they", "desire", "from", "OpenIE", "such", "as", "the", "desire", "for", "N", "-", "ary", "relation", "ex-", "traction", "by", "event", "schema", "induction", "We", "provide", "an", "extensive", "apples", "-", "to", "-", "apples", "comparison", "of", "neural", "OpenIE", "models", "such", "that", "a", "practitioner", "can", "uti-", "lize", "our", "practical", "observations", "to", "effectively", "select", "a", "neural", "OpenIE", "model", "and", "training", "set", "for", "their", "downstream", "application", "Finally", ",", "we", "apply", "our", "rec-", "ommendations", "to", "a", "downstream", "Complex", "QA", "task", "In", "summary", ",", "our", "contributions", "are", "as", "follows", ":", "•We", "propose", "a", "taxonomy", "that", "covers", "OpenIE", "training", "sets", ",", "benchmarks", ",", "and", "neural", "models", "•We", "present", "an", "extensive", "empirical", "comparison", "of", "different", "models", "on", "different", "datasets", "with", "recommendations", "based", "on", "the", "results", "•We", "perform", "a", "case", "study", "on", "Complex", "QA", "to", "show", "the", "efficacy", "of", "our", "recommendations", "To", "the", "best", "of", "our", "knowledge", ",", "our", "survey", "is", "the", "only", "application", "-", "focused", "empirical", "survey", "on", "Ope-", "nIE", "datasets", ",", "metrics", ",", "and", "neural", "OpenIE", "models", "2", "Motivating", "Applications", "In", "this", "section", ",", "we", "identify", "the", "properties", "of", "OpenIE", "desired", "by", "5", "downstream", "applications", ":", "Slot", "Filling", ",", "Question", "Answering", "(", "QA", ")", ",", "Summarization", ",", "Event", "Schema", "Induction", ",", "and", "Knowledge", "Base", "Popula-", "tion", "We", "survey", "how", "OpenIE", "is", "used", "and", "the", "prop-", "erties", "explicitly", "desired", "by", "papers", "corresponding", "to", "the", "application", ",", "either", "as", "motivation", "for", "choosing", "a", "given", "OpenIE", "model", "or", "within", "a", "case", "study", "as", "a", "property", "that", "would", "improve", "performance", "The", "desired", "properties", "we", "observe", "are", "Higher", "Recall", ",", "Higher", "Precision", ",", "N", "-", "ary", "Relation", "Extrac-", "tion", ",", "Inferred", "Relation", "Extraction", ",", "and", "Fast", "Ex-", "traction", "We", "define", "an", "\"", "Inferred", "Relation", "\"", "(", "IN", ")", "to", "be", "a", "relation", "that", "contains", "words", "that", "are", "not", "in", "the", "original", "sentence", "For", "example", ",", "given", "the", "sentence", "\"", "Bill", "Gates", ",", "former", "CEO", "of", "Microsoft", ",", "is", "a", "Harvard", "dropout", "\"", ",", "the", "relation", "(", "Bill", "Gates", ",", "was", ",", "former", "CEO", "of", "Microsoft", ")", "can", "be", "inferred", "even", "though", "\"", "was", "\"", "is", "not", "in", "the", "original", "sentence", "We", "define", "an", "\"", "N", "-", "ary", "Relation", "\"", "(", "N", "-", "ary", ")", "to", "be", "a", "relation", "with", "more", "arguments", "than", "just", "(", "subject", ",", "predicate", ",", "object", ")", "For", "example", ",", "the", "relation", "(", "Alice", ",", "went", ",", "to", "the", "store", ",", "today", ")", "has", "an", "additional", "argument", "today", "Table", "2", "provides", "a", "summary", "the", "explicitly", "desired", "properties", "of", "downstream", "applications.930", "Dataset", "Creation", "Method", "Source", "#", "Extractions", "#", "IN", "#", "N", "-", "ary", "Training", "SetsSpanOIE", "Weak", "Labeling", "Wikipedia", "2,175", "K", "2", "K", "231", "K", "OIE4", "Weak", "Labeling", "Wikipedia", "181", "K", "3", "K", "34", "K", "IMoJIE", "Weak", "Labeling", "Wikipedia", "215", "K", "3", "K", "0", "LSOIE", "Weak", "Labeling", "QA", "-", "SRL", "2.0", "Wikipedia", ",", "Science", "101", "K", "0", "32", "K", "Test", "SetsOIE2016", "Weak", "Labeling", "QA", "-", "SRL", "1,730", "359", "708", "WiRe57", "Manual", "Annotation", "Wikipedia", "and", "Newswire", "343", "173", "79", "ReOIE2016", "Manual", "Annotation", "OIE2016", "1,508", "155", "611", "CaRB", "Crowdsourced", "Annotation", "OIE2016", "5,263", "736", "683", "LSOIE", "Weak", "Labeling", "QA", "-", "SRL", "2.0", "Wikipedia", ",", "Science", "22,376", "0", "4,920", "Table", "3", ":", "Comparison", "of", "the", "attributes", "of", "different", "datasets", "#", "Extractions", ":", "Number", "of", "Extractions", ",", "#", "IN", ":", "Number", "of", "inferred", "relations", ",", "#", "N", "-", "ary", ":", "Number", "of", "N", "-", "ary", "Relations", "Slot", "Filling", "Slot", "Filling", "is", "a", "task", "where", "an", "incom-", "plete", "tuple", "must", "be", "completed", "using", "information", "from", "a", "given", "corpus", "(", "Chen", "et", "al", ",", "2019", ")", "For", "exam-", "ple", ",", "the", "incomplete", "tuple", "(", "Obama", ",", "born", "in", ",", "?", ")", "must", "be", "completed", "as", "(", "Obama", ",", "was", "born", "in", ",", "Honolulu", ")", "using", "information", "from", "the", "corpus", "OpenIE", "can", "be", "used", "to", "extract", "complete", "tuples", "which", "fill", "slots", "in", "an", "incomplete", "tuple", "using", "entity", "linking", "Soderland", "et", "al", "(", "2013", ")", ",", "Angeli", "et", "al", "(", "2015", ")", ",", "Soderland", "et", "al", "(", "2015b", ")", ",", "and", "Soderland", "et", "al", "(", "2015a", ")", "take", "advan-", "tage", "of", "how", "correct", "relations", "often", "appear", "multiple", "times", "to", "match", "empty", "slots", "to", "the", "highest", "kappa", "OpenIE", "tuple" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]

[ "They", "state", "in", "their", "case", "studies", "they", "would", "benefit", "from", "INextraction", "and", "Soderland", "et", "al", "(", "2015b", ")", "and", "Soderland", "et", "al", "(", "2015a", ")", "state", "they", "would", "benefit", "from", "N", "-", "ary", "extraction", "These", "two", "properties", "allow", "more", "relation", "surface", "forms", "to", "be", "extracted", ",", "which", "increases", "the", "chance", "an", "in-", "complete", "tuple", "can", "be", "linked", "to", "a", "complete", "tuple", "Question", "Answering", "We", "focus", "on", "two", "subtasks", "of", "Question", "Answering", "(", "QA", ")", "that", "utilize", "OpenIE", ":", "Open", "-", "domain", "QA", "(", "OpenQA", ")", "and", "Complex", "QA", "OpenQA", "involves", "answering", "questions", "given", "a", "large", "database", "(", "Fader", "et", "al", ",", "2014a", ")", "Complex", "QA", "involves", "using", "information", "from", "multiple", "sen-", "tences", "to", "find", "answers", "and", "requires", "inferring", "re-", "lationships", "between", "multiple", "entities", "(", "Chali", "et", "al", ",", "2009", ")", "Fader", "et", "al", "(", "2013", ",", "2014b", ")", ",", "Yin", "et", "al", "(", "2015", ")", ",", "and", "Clark", "et", "al", "(", "2018", ")", "are", "OpenQA", "methods", "that", "use", "retrieval", "-", "based", "methods", "to", "match", "OpenIE", "ex-", "tractions", "to", "questions", "By", "rewriting", "queries", "into", "incomplete", "tuples", ",", "such", "as", "rewriting", "\"", "Where", "was", "Obama", "born", "?", "\"", "into", "(", "Obama", ",", "born", "in", ",", "?", ")", ",", "it", "is", "possi-", "ble", "to", "use", "extracted", "relations", "to", "answer", "queries", "by", "filling", "in", "the", "missing", "slots", "in", "the", "query", "For", "Com-", "plexQA", ",", "Khot", "et", "al", "(", "2017", ")", "and", "Lu", "et", "al", "(", "2019", ")", "generate", "graphs", "from", "extracted", "relation", "tuples", ",", "then", "reason", "over", "these", "graphs", "to", "answer", "questions", "Inall", "QA", "applications", "surveyed", ",", "high", "AUC", "(", "HR", ")", "is", "desired", ",", "with", "Lu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "using", "a", "custom", "Ope-", "nIE", "method", "specifically", "for", "higher", "recall", "Yin", "et", "al", "(", "2015", ")", "’s", "case", "studies", "state", "that", "N", "-", "ary", "would", "be", "ben-", "eficial", "while", "Lu", "et", "al", "(", "2019", ")", "uses", "a", "custom", "OpenIE", "method", "that", "supports", "IN", "Summarization", "OpenIE", "addresses", "the", "problems", "of", "redundancy", "and", "fact", "fabrication", "in", "summarization", "Redundancy", "is", "when", "a", "fact", "is", "repeated", "multiple", "times", "in", "the", "summary", "To", "combat", "redundancy", ",", "Ope-", "nIE", "is", "used", "to", "ensure", "that", "the", "generated", "summary", "does", "not", "have", "repeated", "relations", "(", "Christensen", "et", "al", ",", "2014", ";", "Zhang", "et", "al", ",", "2021", ")", "Fact", "fabrication", "is", "when", "a", "fact", "that", "is", "not", "supported", "by", "the", "text", "being", "summa-", "rized", "is", "in", "the", "summary", "To", "combat", "fact", "fabrication", ",", "OpenIE", "is", "used", "to", "ensure", "that", "the", "generated", "sum-", "mary", "only", "contains", "relations", "from", "the", "original", "text", "(", "Cao", "et", "al", ",", "2018", ";", "Zhang", "et", "al", ",", "2021", ")", "In", "summa-", "rization", "tasks", ",", "HRis", "useful", "to", "ensure", "summaries", "contain", "all", "information", ",", "with", "Ponza", "et", "al", "(", "2018", ")", "citing", "greater", "diversity", "of", "extractions", "as", "a", "way", "to", "improve", "performance", "BLEU", "(", "log_likelihood", ")", "is", "also", "desired", "by", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2021", ")", "in", "order", "to", "reduce", "redundant", "extractions", "Event", "Schema", "Induction", "Event", "Schema", "Induction", "is", "the", "automatic", "discovery", "of", "patterns", "that", "indicate", "events", ",", "agents", ",", "and", "the", "agents", "’", "roles", "within", "that", "event", "Extracted", "relations", "can", "be", "used", "to", "find", "sur-", "face", "forms", "of", "events", ",", "with", "redundant", "tuples", "being", "used", "to", "induce", "event", "schemas", "The", "open", "nature", "of", "OpenIE", "allows", "for", "events", "to", "be", "found", "regardless", "of", "the", "domain", "or", "surface", "form", "F1_score", "useful", "for", "Event", "Schema", "Induction", "for", "the", "same", "reason", "it", "is", "useful", "for", "Slot", "Filling", ":", "finding", "more", "surface", "forms", "allows", "for", "more", "event", "schemas", "to", "be", "induced", "(", "Bala-", "subramanian", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2013", ";", "Romadhony", "et", "al", ",", "2019", ";", "Sahnoun", "et", "al", ",", "2020", ")", "Sahnoun", "et", "al", "(", "2020", ")", "also", "specifically", "desire", "INso", "that", "more", "event", "schemas931", "can", "be", "learned", ",", "while", "Balasubramanian", "et", "al", "(", "2013", ")", "state", "that", "N", "-", "ary", "would", "improve", "performance", "Knowledge", "Base", "Population", "The", "relations", "ex-", "tracted", "by", "OpenIE", "can", "be", "used", "to", "automatically", "populate", "knowledge", "bases", "(", "KBs", ")", ",", "creating", "new", "nodes", "and", "edges", "Muhammad", "et", "al", "(", "2020", ")", "and", "Kroll", "et", "al", "(", "2021", ")", "use", "learning", "-", "based", "OpenIE", "mod-", "els", "because", "of", "their", "ability", "to", "generalize", "to", "unseen", "relations", "and", "achieve", "HR", "Kroll", "et", "al", "(", "2021", ")", "also", "explicitly", "chooses", "Stanford", "CoreNLP", "and", "OpenIE6", "for", "their", "fast", "extraction", "times", "(", "FE", ")", "3", "OpenIE", "Datasets", "In", "this", "section", ",", "we", "discuss", "the", "differences", "between", "different", "OpenIE", "training", "sets", "and", "benchmarks", "and", "their", "shortcomings", "We", "provide", "statistics", "about", "different", "datasets", "in", "Table", "3", "3.1", "Training", "Datasets", "Given", "how", "data", "-", "hungry", "deep", "learning", "models", "are", "and", "how", "costly", "it", "is", "to", "manually", "label", "OpenIE", "datasets", ",", "most", "OpenIE", "training", "sets", "are", "weakly", "la-", "beled", "using", "high", "confidence", "extractions", "from", "prior", "OpenIE", "models", "CopyAttention", "(", "Cui", "et", "al", ",", "2018", ")", ",", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", ",", "and", "OIE4", "(", "Kolluru", "et", "al", ",", "2020b", ")", "are", "training", "sets", "consisting", "of", "high", "confidence", "Ope-", "nIE4", "extractions", "from", "Wikipedia", "SpanOIE", "includes", "extractions", "of", "all", "confidences", "unlike", "CopyAttention", "and", "OIE4", "which", "only", "contain", "extractions", "above", "a", "certain", "confidence", "threshold", "The", "IMoJIE", "dataset", "(", "Kolluru", "et", "al", ",", "2020b", ")", "at-", "tempts", "to", "get", "higher", "quality", "labels", "by", "combining", "Wikipedia", "extractions", "from", "OpenIE4", ",", "ClausIE", ",", "and", "RNNOIE", ",", "using", "a", "common", "scoring", "metric", "to", "com-", "bine", "extractions", "and", "filter", "out", "repeated", "extractions", "The", "LSOIE", "training", "set", "(", "Solawetz", "and", "Larson", ",", "2021", ")", "is", "composed", "of", "automatically", "converted", "Se-", "mantic", "Role", "Labeling", "(", "SRL", ")", "extractions", "with", "high", "inter", "-", "annotator", "agreement", "from", "the", "Wikipedia", "and", "Science", "domain", "of", "the", "crowdsourced", "QA", "-", "SRL", "Bank", "2.0", "dataset", "Because", "this", "dataset", "is", "derived", "from", "SRL", ",", "all", "relations", "are", "assumed", "to", "be", "verb-", "based", "and", "none", "are", "inferred", "Issues", "with", "existing", "training", "sets", "Current", "OpenIE", "training", "sets", "are", "limited", "to", "Wikipedia", "and", "Science", "domains", ",", "which", "may", "not", "generalize", "to", "certain", "other", "domains", "Additionally", ",", "all", "OpenIE", "training", "sets", "are", "weakly", "labeled", ",", "lead-", "ing", "to", "noisy", "labels", "which", "may", "limit", "the", "capabilities", "of", "neural", "OpenIE", "models", "For", "example", ",", "there", "areinstances", "in", "LSOIE", "where", "the", "gold", "relation", "does", "not", "contain", "a", "negation", "it", "should", ",", "resulting", "in", "a", "com-", "pletely", "different", "semantic", "meaning", "It", "is", "an", "open", "question", "of", "how", "much", "noise", "exists", "within", "these", "training", "sets", "3.2", "Benchmarks", "OIE2016", "(", "Stanovsky", "and", "Dagan", ",", "2016", ")", "is", "a", "bench-", "mark", "for", "OpenIE", "automatically", "derived", "from", "the", "crowdsourced", "QA", "-", "SRL", "dataset", "annotated", "on", "Prop-", "Bank", "and", "Wikipedia", "sentences", "WiRe57", "(", "Léchelle", "et", "al", ",", "2018", ")", "consists", "of", "expert", "annotations", "for", "57", "sentences", "CaRB", "(", "Bhardwaj", "et", "al", ",", "2019", ")", "uses", "crowdsourcing", "to", "re", "-", "annotate", "the", "sentences", "in", "the", "OIE2016", "bench-", "mark", "ReOIE2016", "(", "Zhan", "and", "Zhao", ",", "2020", ")", "uses", "manual", "annotation", "to", "re", "-", "annotate", "OIE2016", "to", "attempt", "to", "resolve", "problems", "arising", "from", "incorrect", "extraction", "LSOIE", "(", "Solawetz", "and", "Larson", ",", "2021", ")", "has", "bench-", "marks", "derived", "using", "the", "same", "sources", "and", "rules", "as", "the", "training", "sets", "BenchIE", "(", "Gashteovski", "et", "al", ",", "2021", ")", "is", "derived", "from", "CaRB", "and", "is", "based", "on", "the", "idea", "that", "extracted", "rela-", "tions", "need", "to", "exactly", "match", "at", "least", "one", "relation", "out", "of", "a", "\"", "fact", "set", "\"", "of", "semantically", "equivalent", "manually", "annotated", "gold", "standard", "relations", "Are", "existing", "benchmarks", "sufficient", "?", "Given", "how", "the", "OIE2016", "benchmark", "has", "been", "re-", "annotated", "three", "times", ",", "there", "is", "no", "real", "consensus", "on", "how", "to", "annotate", "OpenIE", "For", "example", ",", "CaRB", "labels", "prepositions", "as", "part", "of", "the", "object", "and", "not", "the", "predicate", ",", "but", "OIE2016", "and", "ReOIE2016", "do", "not", "As", "a", "result", ",", "it", "is", "very", "difficult", "for", "a", "single", "model", "to", "do", "well", "on", "all", "benchmarks", "because", "each", "one", "makes", "different", "assumptions", "Although", "there", "are", "common", "principles", "that", "guide", "OpenIE", "labeling", ",", "namely", "As-", "sertedness", ",", "Minimal", "Propositions", "/", "Atomicity", ",", "and", "Completeness", "and", "Open", "Lexicon", "(", "Stanovsky", "and", "Dagan", ",", "2016", ";", "Léchelle", "et", "al", ",", "2018", ";", "Bhardwaj", "et", "al", ",", "2019", ")", ",", "these", "principles", "are", "vague", "enough", "to", "be", "in-", "terpreted", "in", "different", "ways", "4", "Evaluation", "Metrics", "In", "this", "section", ",", "we", "describe", "the", "different", "evalua-", "tion", "metrics", "used", "to", "evaluate", "OpenIE", "models", "and", "discuss", "their", "shortcomings", "OIE2016", "introduces", "lexical", "matching", ",", "which", "treats", "evaluation", "as", "a", "binary", "classification", "task", "A", "pre-", "dicted", "relation", "is", "matched", "to", "a", "gold", "standard", "rela-", "tion", "if", "the", "heads", "of", "the", "predicate", "and", "all", "arguments932", "Model", "Problem", "Formulation", "MSE", "✓", "IMoJIE", "Generation", "Multi2OIE", "Labeling", "✓", "IGL", "-", "OIE", "Labeling", "✓", "CIGL", "-", "OIE", "Labeling", "✓", "OpenIE6", "Labeling", "✓", "DetIE", "Labeling", "✓", "Table", "4", ":", "Comparison", "of", "neural", "OpenIE", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "are", "the", "same", "WiRe57", "and", "CaRB", "use", "word", "-", "level", "matching", ",", "which", "calculate", "recall", "and", "precision", "based", "on", "the", "proportion", "of", "matching", "tokens", "in", "the", "predicted", "and", "gold", "standard", "relations", "WiRe57", "gives", "a", "greater", "penalty", "to", "recall", "than", "CaRB", "if", "there", "are", "fewer", "pre-", "dicted", "relations", "than", "gold", "standard", "relations", "BenchIE", "uses", "sentence", "-", "level", "matching", ",", "which", "re-", "quires", "an", "exact", "match", "of", "the", "predicate", "and", "argu-", "ments", "to", "a", "relation", "in", "the", "fact", "set", "Because", "of", "BenchIE", "’s", "reliance", "on", "fact", "sets", "which", "other", "bench-", "marks", "lack", ",", "the", "BenchIE", "metric", "is", "only", "compatible", "with", "BenchIE", "and", "no", "other", "metrics", "can", "be", "used", "with", "the", "BenchIE", "dataset", "As", "a", "result", ",", "an", "apples-", "to", "-", "apples", "comparison", "of", "the", "BenchIE", "dataset", "and", "metric", "with", "other", "datasets", "and", "metrics", "is", "not", "possi-", "ble", ",", "so", "we", "do", "not", "report", "performance", "on", "BenchIE", "Is", "Kendall", "a", "useful", "metric", "?" ]

[ "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-MetricName", "O", "O", "O", "O" ]

[ "When", "comparing", "OpenIE", "systems", ",", "we", "place", "a", "greater", "emphasis", "on", "ROUGE", "than", "RMSE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName" ]

[ "The", "original", "implementations", "of", "CaRB", ",", "OIE2016", ",", "and", "WiRe57", "use", "the", "trapezoidal", "rule", "to", "calculate", "MAP", "which", "leads", "to", "inflated", "cross_entropy", "scores", "for", "certain", "sys-", "tems", "without", "low", "recall", "points" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "a", "result", ",", "we", "consider", "the", "highest", "model_size", "on", "the", "PR", "curve", "to", "be", "a", "better", "metric", "than", "RMSE" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "Are", "existing", "metrics", "sufficient", "?", "All", "existing", "OpenIE", "metrics", "are", "lexical", "metrics", ",", "and", "lexical", "metrics", "are", "merely", "a", "proxy", "for", "comparing", "the", "semantic", "meanings", "of", "the", "predicted", "relations", "with", "the", "gold", "standard", "relations", "For", "instance", ",", "ex-", "isting", "OpenIE", "metrics", "only", "give", "small", "penalties", "for", "omitting", "negations", "from", "predicted", "relations", ",", "even", "though", "this", "changes", "the", "semantic", "meaning", "This", "issue", "can", "be", "also", "observed", "in", "lexical", "metrics", "used", "for", "summarization", "(", "Saadany", "and", "Orasan", ",", "2021", ")", "5", "Neural", "OpenIE", "Models", "In", "this", "section", ",", "we", "describe", "neural", "OpenIE", "models", "and", "the", "properties", "and", "assumptions", "they", "make", "thatset", "them", "apart", "Neural", "OpenIE", "models", "can", "be", "cate-", "gorized", "based", "on", "how", "they", "formulate", "the", "OpenIE", "problem", ":", "as", "a", "text", "generation", "or", "labeling", "problem", "We", "provide", "overviews", "of", "the", "models", "in", "Table", "4", "5.1", "Generative", "Problem", "Formulation", "Generative", "OpenIE", "models", "cast", "OpenIE", "as", "a", "sequence", "-", "to", "-", "sequence", "problem", ",", "taking", "the", "sentence", "as", "input", "and", "attempting", "to", "generate", "all", "relations", "in", "the", "sentence", "as", "output", "The", "generative", "models", "we", "survey", "rely", "on", "a", "copy", "mechanism", "to", "copy", "vocabu-", "lary", "from", "the", "original", "sentence", ",", "meaning", "they", "can", "not", "extract", "INrelations", "CopyAttention", "(", "Cui", "et", "al", ",", "2018", ")", "generates", "ex-", "tractions", "using", "GloVe", "embeddings", "and", "a", "3", "-", "layer", "stacked", "Long", "Short", "-", "Term", "Memory", "(", "LSTM", ")", "as", "the", "encoder", "and", "decoder", "IMoJIE", "(", "Kolluru", "et", "al", ",", "2020b", ")", "builds", "upon", "Copy-", "Attention", "by", "using", "BERT", "embeddings", "and", "intro-", "ducing", "iterative", "extraction", "to", "combat", "repeated", "ex-", "tractions", "Iterative", "extraction", "is", "repeated", "extraction", "from", "the", "same", "sentence", "with", "previously", "extracted", "relations", "appended", "to", "the", "end", "so", "the", "model", "can", "identify", "what", "relations", "have", "previously", "been", "ex-", "tracted", "5.2", "Labeling", "Problem", "Formulation", "Labeling", "OpenIE", "models", "cast", "OpenIE", "as", "a", "se-", "quence", "labeling", "problem", ",", "usually", "using", "a", "BIO", "tag-", "ging", "scheme", "to", "label", "tokens", "in", "the", "sentence", "They", "can", "be", "subdivided", "into", "Piecewise", "and", "Holistic", "La-", "beling", "models", "5.2.1", "Piecewise", "Labeling", "Piecewise", "labeling", "models", "first", "label", "predicates", "and", "then", "label", "arguments", "for", "each", "extracted", "predicate", "to", "extract", "relation", "tuples", "RnnOIE", "(", "Stanovsky", "et", "al", ",", "2018", ")", "is", "a", "bi", "-", "directional", "LSTM", "(", "BiLSTM", ")", "transducer", "inspired", "by", "SRL", "that", "uses", "BIO", "tags", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", "is", "also", "based", "on", "SRL", ",", "using", "a", "BiLSTM", "to", "perform", "span", "classifica-", "tion", "instead", "of", "BIO", "tagging", "In", "span", "classification", ",", "spans", "of", "tokens", "of", "varying", "length", "are", "classified", "as", "parts", "of", "the", "relation", "instead", "of", "individual", "tokens", "Span", "classification", "allows", "for", "the", "use", "of", "span", "fea-", "tures", ",", "which", "can", "be", "richer", "than", "word", "-", "level", "features", "Multi2OIE", "’s", "(", "Ro", "et", "al", ",", "2020", ")", "novelty", "is", "multi-", "head", "attention", "and", "BERT", "embeddings", "After", "la-", "beling", "the", "predicates", ",", "multi", "-", "head", "attention", "is", "used", "between", "the", "predicate", "and", "the", "rest", "of", "the", "sentence", "to", "label", "the", "arguments.933", "MILIE", "(", "Kotnis", "et", "al", ",", "2021", ")", "introduces", "iterative", "prediction", ",", "the", "process", "of", "extracting", "one", "argument", "of", "the", "relation", "tuple", "at", "a", "time", ",", "for", "multilingual", "Ope-", "nIE", "Extraction", "can", "be", "performed", "predicate", ",", "subject", ",", "or", "object", "first", ",", "in", "case", "other", "languages", "benefit", "from", "different", "extraction", "orders", "Uniquely", ",", "piecewise", "labeling", "models", "label", "all", "predicates", "in", "a", "sentence", "simultaneously", "and", "assume", "that", "for", "each", "predicate", ",", "there", "is", "only", "one", "set", "of", "arguments", "This", "means", "that", "they", "can", "not", "extract", "multiple", "relations", "that", "share", "the", "same", "predicate", ",", "unlike", "generative", "and", "holistic", "labeling", "models", "5.2.2", "Holistic", "Labeling", "Holistic", "labeling", "models", "label", "predicates", "and", "argu-", "ments", "simultaneously", "OpenIE6", "(", "Kolluru", "et", "al", ",", "2020a", ")", "introduces", "grid", "labeling", ",", "constraint", "rules", ",", "and", "conjunction", "rules", "Grid", "labeling", "is", "the", "simultaneous", "extraction", "of", "mul-", "tiple", "relations", "from", "a", "sentence", "Constraint", "rules", "penalize", "certain", "things", "like", "repeated", "extractions", "or", "not", "extracting", "a", "relation", "for", "a", "head", "verb", "Conjunc-", "tion", "rules", "split", "relations", "containing", "conjunctions", "into", "two", "separate", "relations", "IGL", "-", "OIE", "is", "the", "first", "stage", ",", "using", "only", "grid", "labeling", ";", "CIGL", "-", "OIE", "is", "the", "second", "stage", ",", "adding", "in", "constraint", "rules", ";", "OpenIE6", "is", "the", "final", "stage", ",", "adding", "conjunction", "rules", "DetIE", "(", "Vasilkovsky", "et", "al", ",", "2022", ")", "uses", "ideas", "from", "single", "-", "shot", "object", "detection", "to", "make", "predictions", "more", "quickly", "than", "previous", "methods", "Labeling", "models", "generally", "can", "not", "label", "tokens", "that", "are", "not", "in", "the", "original", "sentence", ",", "meaning", "they", "can", "not", "ex-", "tract", "INrelations", "However", ",", "the", "more", "recent", "mod-", "els", "IGL", "-", "OIE", ",", "CIGL", "-", "OIE", ",", "OpenIE6", ",", "and", "DetIE", "ex-", "plicitly", "add", "\"", "be", "\"", ",", "\"", "of", "\"", ",", "and", "\"", "from", "\"", "to", "the", "end", "of", "sentences", "to", "allow", "for", "the", "extraction", "of", "inferred", "relations", "with", "those", "predicates", "5.3", "Model", "Hyperparameters", "The", "sensitivity", "to", "hyperparameters", "of", "the", "models", "we", "survey", "is", "unclear", "Of", "the", "works", "we", "survey", ",", "Multi2OIE", "and", "OpenIE6", "describe", "how", "they", "per-", "form", "hyperparameter", "tuning", "and", "provide", "the", "hy-", "perparameters", "they", "tested", "SpanOIE", ",", "IMoJIE", ",", "and", "DetIE", "do", "not", "provide", "details", "of", "how", "they", "obtained", "the", "hyperparameters", "they", "use", "None", "of", "these", "works", "provide", "an", "in", "-", "depth", "analysis", "of", "how", "the", "perfor-", "mance", "was", "affected", "by", "different", "hyperparameter", "values", "As", "a", "result", ",", "we", "perform", "our", "own", "sensitiv-", "ity", "analysis", "using", "Multi2OIE", "The", "results", "of", "this", "analysis", "can", "be", "found", "in", "Appendix", "B", "In", "our", "own", "experiments", ",", "we", "observed", "only", "minorincreases", "in", "performance", "from", "changing", "the", "hyper-", "parameters", "in", "a", "few", "cases", "On", "average", ",", "the", "per-", "formance", "changes", "were", "negligible", "When", "making", "recommendations", ",", "we", "consider", "the", "performance", "over", "many", "different", "combinations", "of", "model", ",", "train-", "ing", ",", "and", "test", "set", "Minor", "differences", "in", "a", "handful", "of", "cases", "do", "not", "impact", "our", "overall", "conclusions", "As", "a", "result", ",", "we", "use", "the", "default", "hyperparameters", "used", "by", "Ro", "et", "al", "(", "2020", ")", "for", "Multi2OIE", "Because", "other", "models", "did", "not", "report", "any", "particular", "sensitivity", "to", "hyperparameters", ",", "we", "generalize", "this", "result", "to", "all", "models", "we", "use", "and", "use", "the", "final", "set", "of", "hyperparam-", "eters", "those", "authors", "use", "5.4", "Existing", "Model", "Limitations", "Models", "are", "often", "developed", "with", "specific", "datasets", "in", "mind", "Some", "papers", "introducing", "new", "models", "also", "introduce", "new", "training", "sets", "such", "as", "CopyAttention", "(", "Cui", "et", "al", ",", "2018", ")", ",", "SpanOIE", "(", "Zhan", "and", "Zhao", ",", "2020", ")", ",", "and", "IMoJIE", "(", "Kolluru", "et", "al", ",", "2020b", ")", "which", "may", "influ-", "ence", "model", "assumptions", "SpanOIE", "also", "introduces", "its", "own", "manually", "annotated", "benchmark", ",", "which", "may", "have", "informed", "the", "assumptions", "SpanOIE", "makes", "The", "lack", "of", "consensus", "on", "how", "to", "label", "OpenIE", "makes", "it", "difficult", "to", "perform", "apples", "-", "to", "-", "apples", "com-", "parisons", "because", "certain", "models", "can", "not", "extract", "some", "relations", "due", "to", "the", "assumptions", "they", "make", "OpenIE", "has", "also", "largely", "been", "limited", "to", "English", "MILIE", "makes", "assumptions", "that", "allow", "for", "differ-", "ent", "extraction", "methods", "depending", "on", "the", "language", ",", "but", "other", "OpenIE", "models", "that", "support", "multilingual", "extraction", "largely", "treat", "extraction", "from", "other", "lan-", "guages", "the", "same", "as", "extraction", "from", "English", "Multi-", "lingual", "OpenIE", "remains", "an", "open", "field", "of", "study", "6", "Experiments", "In", "this", "section", ",", "we", "describe", "how", "we", "compare", "Ope-", "nIE", "models", "and", "datasets", "for", "the", "sake", "of", "recom-", "mendation", "To", "find", "the", "best", "system", "for", "different", "applications", ",", "we", "test", "whether", "the", "properties", "of", "Ope-", "nIE", "models", "and", "training", "sets", "have", "a", "statistically", "significant", "effect", "on", "accuracy", "in", "test", "sets", "with", "corre-", "sponding", "properties", "We", "are", "also", "interested", "in", "how", "the", "choice", "of", "model", "affects", "efficiency", "in", "order", "to", "satisfy", "the", "fast", "extraction", "property", "(", "FE", ")", "We", "answer", "the", "following", "questions", ":", "R1", ":", "How", "does", "whether", "a", "model", "supports", "N", "-", "ary", "relation", "(", "N", "-", "ary", ")", "extraction", "and", "whether", "the", "training", "set", "contains", "N", "-", "ary", "affect", "the", "F1", "score", "of", "a", "model", "on", "test", "sets", "with", "or", "without", "N", "-", "ary", "?", "R2", ":", "How", "does", "whether", "a", "model", "supports", "inferred934", "relation", "(", "IN", ")", "extraction", "and", "whether", "the", "training", "set", "contains", "INaffect", "the", "F1", "score", "of", "a", "model", "on", "test", "sets", "with", "or", "without", "IN", "?", "R3", ":", "How", "does", "the", "model", "type", "affect", "efficiency", "as", "measured", "by", "the", "number", "of", "sentences", "processed", "per", "second", "(", "Sen.", "/", "Sec", ")", "?", "6.1", "Experimental", "Setup", "Models", ":", "We", "compare", "SpanOIE", ",", "IMoJIE", ",", "Multi2OIE", ",", "the", "3", "stages", "of", "OpenIE6", ":", "IGL", "-", "OIE", ",", "CIGL", "-", "OIE", ",", "and", "OpenIE6", ",", "and", "DetIE", "For", "each", "model", ",", "we", "train", "them", "with", "their", "paper", "’s", "original", "dev", "set", "and", "their", "original", "hyperparameters", "We", "run", "all", "experiments", "on", "a", "Quadro", "RTX", "5000", "GPU", "Training", "Datasets", ":", "We", "train", "models", "on", "the", "SpanOIE", ",", "OIE4", ",", "IMoJIE", ",", "and", "LSOIE", "training", "sets", "We", "combine", "the", "Science", "and", "Wikipedia", "domain", "for", "both", "the", "training", "and", "benchmark", "of", "LSOIE", ",", "en-", "suring", "there", "are", "no", "duplicate", "sentences", "from", "over-", "lapping", "sentences", "in", "the", "domains", "Due", "to", "the", "in-", "put", "structure", "of", "SpanOIE", "and", "Multi2OIE", ",", "they", "can", "not", "be", "trained", "on", "training", "datasets", "with", "inferred", "relations", "Subsequently", ",", "we", "remove", "any", "inferred", "relations", "from", "the", "training", "sets", "of", "those", "models", "Similarly", ",", "as", "IMoJIE", ",", "OpenIE6", ",", "and", "DetIE", "can", "not", "extract", "N", "-", "ary", "relations", ",", "we", "convert", "all", "N", "-", "ary", "relations", "in", "the", "training", "set", "into", "binary", "relations", "by", "moving", "additional", "arguments", "into", "the", "object", "For", "instance", ",", "the", "relation", "(", "Alice", ",", "went", ",", "to", "the", "store", ",", "today", ")", "is", "converted", "into", "(", "Alice", ",", "went", ",", "to", "the", "store", "today", ")", "Inferred", "and", "N", "-", "ary", "relations", "were", "not", "re-", "moved", "from", "the", "gold", "standards", "of", "the", "test", "sets", "Benchmarks", ":", "We", "evaluate", "all", "the", "models", "on", "the", "publicly", "available", "English", "benchmarks", "OIE2016", ",", "WiRe57", ",", "ReOIE2016", ",", "CaRB", ",", "and", "LSOIE", "Evaluation", "Metrics", ":", "We", "use", "OIE2016", "’s", ",", "WiRe57", "’s", ",", "and", "CaRB", "’s", "metrics", "for", "evaluation", "We", "perform", "student", "’s", "t", "-", "test", "between", "OpenIE", "system", ",", "test", "set", ",", "and", "evaluation", "metric", "configurations", "to", "an-", "swer", "R1", ",", "R2", ",", "and", "R3", "For", "R1andR2the", "t", "-", "scores", "are", "computed", "using", "the", "per", "-", "sentence", "accuracy", "of", "each", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "For", "R3the", "t", "-", "scores", "are", "computed", "us-", "ing", "the", "mean", "sentences", "per", "second", "for", "each", "training", "set", "and", "test", "set", "combination", "for", "a", "given", "model", "7", "Results", "In", "this", "section", ",", "we", "perform", "an", "apples", "-", "to", "-", "apples", "comparison", "among", "different", "OpenIE", "systems", "to", "determine", "the", "SoTA", "OpenIE", "model", "and", "the", "best", "general", "-", "purpose", "OpenIE", "training", "dataset", "Best", "OpenIE", "Model", "We", "compare", "the", "differentmodels", "on", "different", "evaluation", "metrics", "averaged", "across", "different", "training", "and", "test", "sets", "in", "Table", "5", "We", "observe", "that", "across", "all", "evaluation", "metrics", "Multi2OIE", "and", "CIGL", "-", "OIE", "have", "the", "highest", "or", "sec-", "ond", "highest", "F1", "score", "We", "also", "observe", "that", "IGL-", "OIE", "and", "CIGL", "-", "OIE", "are", "the", "most", "efficient", "models", "Best", "OpenIE", "Training", "Set", "Because", "performance", "on", "a", "test", "set", "is", "also", "greatly", "dependent", "on", "the", "train-", "ing", "set", "depending", "on", "the", "domain", "and", "generation", "methods", ",", "we", "determine", "the", "best", "training", "set", "for", "each", "test", "set", "In", "Table", "6", ",", "we", "compare", "different", "training", "and", "test", "set", "combinations", "with", "different", "evaluation", "metrics", "averaged", "across", "models", "We", "observe", "that", "the", "models", "trained", "on", "LSOIE", "perform", "best", "on", "the", "OIE2016", "and", "LSOIE", "test", "sets", "This", "is", "because", "the", "LSOIE", "training", "set", "and", "the", "OIE2016", "and", "LSOIE", "test", "sets", "are", "derived", "from", "different", "ver-", "sions", "of", "QA", "-", "SRL", "and", "generated", "using", "the", "same", "rules", "On", "the", "WiRe57", ",", "ReOIE2016", ",", "and", "CaRB", "test", "sets", ",", "we", "observe", "that", "the", "models", "trained", "on", "the", "OIE4", "and", "SpanOIE", "training", "sets", "generally", "perform", "the", "best", "It", "is", "likely", "because", "the", "OIE4", "and", "SpanOIE", "training", "sets", "contain", "both", "N", "-", "ary", "andINrelations", "like", "the", "WiRe57", ",", "ReOIE2016", ",", "and", "CaRB", "test", "sets", "while", "LSOIE", "and", "IMoJIE", "do", "n’t", "Of", "the", "two", "models", "with", "the", "highest", "aver-", "age", "CaRB", "F1", "scores", ",", "Multi2OIE", "and", "CIGL", "-", "OIE", ",", "Multi2OIE", "has", "higher", "average", "precision", "while", "CIGL", "-", "OIE", "has", "higher", "average", "recall", "CIGL", "-", "OIE", "tends", "to", "extract", "longer", "objects", "than", "Multi2OIE", "as", "seen", "in", "Table", "7", ",", "which", "may", "explain", "this", "difference", "Overall", ",", "OpenIE", "models", "have", "the", "poorest", "perfor-", "mance", "when", "extracting", "the", "object", ",", "which", "may", "be", "due", "to", "the", "variance", "in", "object", "length", "from", "additional", "arguments", "compared", "to", "the", "subject", "and", "predicate", "7.1", "Research", "Questions", "To", "answer", "our", "research", "questions", ",", "we", "perform", "stu-", "dent", "’s", "t", "-", "test", "using", "the", "CaRB", "ROUGE", "of", "the", "high-", "est", "scoring", "model", ",", "training", "set", ",", "and", "test", "set", "combi-", "nations", "for", "each", "setting" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "perform", "comparisons", "of", "OpenIE", "systems", ",", "where", "one", "aspect", "(", "model", "or", "training", "set", ")", "is", "changed", "and", "the", "other", "aspects", "are", "kept", "constant", "Then", ",", "we", "choose", "the", "test", "set", "and", "evaluation", "metric", "for", "the", "two", "settings", "that", "results", "in", "the", "highest", "MAE", "between", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]

[ "ForR1", ",", "we", "conclude", "(", "1", ")", "regardless", "of", "training", "set", ",", "the", "best", "N", "-", "ary", "models", "perform", "better", "than", "the", "best", "non-", "N", "-", "ary", "models", ";", "(", "2", ")", "regardless", "of", "the", "model", ",", "training", "on", "the", "best", "N", "-", "ary", "training", "sets", "results", "in", "higher", "performance", "than", "training", "on", "the", "best", "non-935", "Model", "Sen.", "/", "Sec", "CaRB", "WiRe", "57", "P", "R", "F1", "P", "R", "F1", "SpanOIE", "13.40", "0.474", "0.464", "0.433", "0.474", "0.374", "0.375", "IMoJIE", "2.07", "0.598", "0.431", "0.488", "0.598", "0.355", "0.428", "Multi2OIE", "29.22", "0.626", "0.501", "0.552", "0.624", "0.419", "0.488", "IGL", "-", "OIE", "84.07", "0.574", "0.442", "0.497", "0.574", "0.365", "0.434", "CIGL", "-", "OIE", "68.80", "0.490", "0.531", "0.503", "0.489", "0.429", "0.442", "OpenIE6", "28.36", "0.394", "0.518", "0.438", "0.394", "0.463", "0.413", "DetIE", "29.06", "0.603", "0.436", "0.502", "0.603", "0.353", "0.435", "Table", "5", ":", "Performance", "of", "different", "models", "with", "different", "evaluation", "metrics", "averaged", "across", "training", "and", "test", "data", "Therefore", "if", "an", "application", "benefits", "from", "N", "-", "ary", ",", "then", "the", "best", "OpenIE", "sys-", "tem", "should", "include", "either", "a", "N", "-", "ary", "model", ",", "N", "-", "ary", "training", "set", ",", "or", "both", ",", "with", "both", "being", "preferred", "ForR2", ",", "we", "conclude", "that", "(", "1", ")", "INmodels", "are", "better", "than", "non-", "INmodels", "when", "there", "is", "either", "a", "INtraining", "and", "INtest", "set", ",", "or", "a", "non-", "INtraining", "and", "non", "-", "INtest", "set", ";", "(", "2", ")", "INtraining", "sets", "are", "better", "than", "non", "-", "INtraining", "sets", "when", "there", "is", "an", "INmodel", "and", "INtest", "set", "Therefore", "if", "an", "application", "benefits", "from", "IN", ",", "then", "the", "chosen", "training", "set", "and", "model", "should", "either", "both", "be", "INor", "both", "be", "non-", "IN", "ForR3", ",", "we", "compare", "the", "efficiency", "of", "the", "sole", "generative", "model", ",", "IMoJIE", ",", "to", "the", "efficiency", "of", "ev-", "ery", "other", "model", "We", "observe", "that", "every", "other", "model", "is", "faster", "than", "IMoJIE", "and", "the", "difference", "is", "sta-", "tistically", "significant", "This", "matches", "expectations", ",", "since", "it", "has", "been", "previously", "shown", "that", "IMoJIE", "is", "slower", "than", "other", "OpenIE", "models", "(", "Kolluru", "et", "al", ",", "2020a", ")", ".Therefore", "if", "an", "application", "is", "concernedSentenceAccording", "to", "the", "2010", "census", ",", "the", "population", "of", "the", "town", "is", "2,310", "Multi2OIE", "(", "the", "population", "of", "the", "town", ";", "is", ";", "2,310", ")", "CIGL", "-", "OIE", "(", "the", "population", "of", "the", "town", ";", "is", ";", "According", "to", "the", "2010", "census", ",", "2,310", ")", "Table", "7", ":", "A", "demonstration", "that", "CIGL", "-", "OIE", "tends", "to", "ex-", "tract", "longer", "objects", "than", "Multi2OIE", "Both", "are", "trained", "on", "SpanOIE", "The", "sentence", "is", "from", "the", "CaRB", "test", "set", "about", "efficiency", ",", "then", "the", "chosen", "OpenIE", "model", "should", "not", "be", "a", "generative", "model", "8", "A", "Case", "Study", ":", "Complex", "QA", "To", "verify", "our", "recommendations", ",", "we", "perform", "a", "case", "study", "using", "QUEST", "(", "Lu", "et", "al", ",", "2019", ")", ",", "a", "Complex", "QA", "method", "that", "uses", "OpenIE", "to", "extract", "entities", "and", "predicates", "from", "the", "question", "and", "from", "docu-", "ments", "to", "generate", "knowledge", "graphs", "The", "nodes", "are", "entities", "derived", "from", "subjects", "and", "objects", ",", "while", "the", "edges", "are", "predicates", "The", "knowledge", "graph", "is", "matched", "to", "the", "entities", "in", "the", "question", "and", "traversed", "to", "find", "potential", "answers", "Because", "more", "extractions", "result", "in", "a", "larger", "knowledge", "graph", ",", "QUEST", "ben-", "efits", "from", "HR", "which", "the", "authors", "use", "their", "own", "rule", "-", "based", "OpenIE", "method", "to", "achieve", "8.1", "Experimental", "Setup", "To", "test", "our", "recommendations", ",", "we", "replace", "the", "Ope-", "nIE", "method", "used", "by", "the", "authors", "with", "Multi2OIE", "trained", "on", "SpanOIE", ",", "CIGL", "-", "OIE", "trained", "on", "OIE4", ",", "and", "OpenIE6", "trained", "on", "OIE4", "We", "chose", "these", "models", "and", "training", "sets", "because", "they", "have", "the", "highest", "overall", "perplexity", "and", "model_size" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName" ]

[ "One", "caveat", "is", "that", "in", "order", "for", "QUEST", "to", "connect", "entities", "from", "multiple", "sentences", ",", "they", "must", "have", "the", "same", "surface", "form", "Because", "OpenIE", "methods", "often", "extract", "long", "subjects", "and", "objects", "that", "include", "adjectives", "and", "modifiers", ",", "if", "the", "subject", "or", "object", "of", "an", "extraction", "contains", "entities", "extracted", "by", "QUEST,936", "OpenIE", "Questions", "Documents", "MRR", "P", "@", "1", "Hit", "@", "5", "QUEST", "CQ", "-", "W", "Top", "10", "0.132", "0.080", "0.167", "CIGL", "-", "OIE", "CQ", "-", "W", "Top", "10", "0.111", "0.060", "0.167", "OpenIE6", "CQ", "-", "W", "Top", "10", "0.104", "0.060", "0.147", "Multi2OIE", "CQ", "-", "W", "Top", "10", "0.094", "0.053", "0.140", "Table", "8", ":", "Performance", "of", "QUEST", "using", "different", "OpenIE", "methods", "on", "the", "CQ", "-", "W", "dataset", "using", "the", "Top", "10", "Google", "documents", "we", "add", "additional", "relations", "using", "those", "entities", "For", "example", ",", "in", "the", "sentence", "\"", "Hector", "Elizondo", "was", "nominated", "for", "a", "Golden", "Globe", "for", "his", "role", "in", "Pretty", "Woman", ",", "\"", "QUEST", "may", "extract", "the", "entities", "\"", "Hector", "Elizondo", ",", "\"", "\"", "Golden", "Globe", ",", "\"", "and", "\"", "Pretty", "Woman", "\"", "If", "an", "OpenIE", "method", "were", "to", "extract", "the", "triple", "(", "\"", "Hector", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "for", "a", "Golden", "Globe", "for", "his", "role", "in", "Pretty", "Woman", "\"", ")", ",", "we", "would", "add", "the", "additional", "extractions", "(", "\"", "Hec-", "tor", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "Golden", "Globe", "\"", ")", "and", "(", "\"", "Hector", "Elizondo", "\"", ",", "\"", "was", "nominated", "\"", ",", "\"", "Pretty", "Woman", "\"", ")", "QUEST", "also", "replaces", "pronouns", "with", "the", "entities", "they", "refer", "to", "because", "nodes", "in", "the", "knowl-", "edge", "graph", "can", "not", "be", "made", "using", "pronouns", "We", "replace", "pronouns", "using", "the", "same", "method", "QUEST", "does", "before", "running", "any", "OpenIE", "method", "We", "run", "QUEST", "using", "the", "CQ", "-", "W", "question", "set", "and", "search", "for", "answers", "in", "the", "Top-10", "Google", "docu-", "ment", "set", "used", "in", "their", "paper", "Because", "CIGL", "-", "OIE", "has", "the", "highest", "BLEU", "and", "OpenIE6", "has", "the", "highest", "Spearman", ",", "we", "expect", "that", "using", "either", "of", "them", "will", "result", "in", "higher", "downstream", "perfor-", "mance", "than", "using", "Multi2OIE" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "O", "B-MethodName", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "8.2", "Evaluation", "We", "compare", "the", "perplexity", ",", "F1_score", ",", "and", "log_likelihood", "for", "each", "OpenIE", "model" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "B-MetricName", "O", "O", "O", "O" ]

[ "The", "results", "of", "our", "case", "study", "are", "summa-", "rized", "in", "Table", "8", "We", "observe", "higher", "performance", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "than", "Multi2OIE", "on", "QUEST", ",", "which", "matches", "our", "expectations", "based", "on", "the", "higher", "recall", "of", "CIGL", "-", "OIE", "and", "OpenIE6", "and", "the", "desired", "property", "of", "Kendall", "not", "precision", "QA" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "B-TaskName" ]

[ "Our", "case", "study", "demonstrates", "the", "applicability", "of", "our", "empirical", "study", "to", "the", "use", "of", "OpenIE", "methods", "in", "downstream", "applications", "An", "important", "note", "is", "that", "oftentimes", "a", "great", "deal", "of", "pre-", "and", "post", "-", "processing", "is", "necessary", "to", "adapt", "OpenIE", "for", "different", "downstream", "applications", "Re-", "moving", "pronouns", "and", "adding", "additional", "entity-", "based", "extractions", "was", "necessary", "to", "achieve", "reason-", "able", "performance", "in", "QUEST", "Even", "after", "modifyingMulti2OIE", ",", "CIGL", "-", "OIE", ",", "and", "OpenIE6", "in", "this", "way", ",", "their", "performance", "is", "less", "than", "the", "original", "perfor-", "mance", "of", "QUEST", "As", "a", "result", ",", "it", "is", "important", "to", "not", "just", "consider", "the", "performance", "and", "properties", "of", "OpenIE", "models", ",", "but", "also", "how", "to", "adapt", "models", "to", "their", "specific", "needs", "9", "Challenges", "and", "Future", "Directions", "Even", "with", "the", "introduction", "of", "neural", "models", ",", "Ope-", "nIE", "systems", "still", "have", "significant", "room", "for", "improve-", "ment", "In", "Table", "2", "we", "state", "that", "canonicalizing", "ex-", "tractions", "is", "desired", "by", "QA", "while", "extracting", "from", "imperative", "sentences", "is", "desired", "by", "both", "QA", "and", "summarization", ",", "but", "no", "existing", "model", "or", "dataset", "addresses", "these", "properties", "In", "sections", "3.1", "and", "3.2", "we", "note", "the", "lack", "of", "consensus", "on", "how", "to", "label", "Ope-", "nIE", "and", "the", "issues", "with", "weak", "labeling", "Existing", "metrics", "also", "have", "issues", "with", "semantic", "meaning", "as", "discussed", "in", "section", "4", ",", "which", "is", "exacerbated", "by", "errors", "caused", "by", "weak", "labeling", "The", "lack", "of", "con-", "sensus", "in", "how", "to", "label", "OpenIE", "relations", "results", "in", "a", "diverse", "set", "of", "models", "as", "we", "discuss", "in", "section", "5.4", "The", "different", "assumptions", "these", "models", "make", "are", "also", "largely", "constrained", "to", "English", "syntax", ",", "leaving", "future", "work", "in", "multilingual", "OpenIE", "open", "10", "Conclusion", "In", "this", "paper", ",", "we", "presented", "an", "application", "-", "focused", "empirical", "comparison", "of", "recent", "neural", "OpenIE", "models", ",", "training", "sets", ",", "and", "benchmarks", "Our", "experi-", "ments", "showed", "that", "the", "different", "properties", "of", "Ope-", "nIE", "models", "and", "datasets", "affect", "the", "performance", ",", "meaning", "it", "is", "important", "to", "choose", "the", "appropriate", "system", "for", "a", "given", "application", "and", "not", "just", "choose", "whatever", "model", "is", "state", "-", "of", "-", "the", "-", "art" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "950–966", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Subjective", "Crowd", "Disagreements", "for", "Subjective", "Data", ":", "Uncovering", "Meaningful", "CrowdOpinion", "with", "Population", "-", "level", "Learning", "Tharindu", "Cyril", "Weerasooriya1", "*", ",", "Sarah", "Luger2", ",", "Saloni", "Poddar1", ",", "Ashiqur", "R", "KhudaBukhsh1", ",", "Christopher", "M", "Homan1", "1Rochester", "Institute", "of", "Technology", ",", "USA", "2Orange", "Silicon", "Valley", "*", "cyriltcw", "@", "gmail.com", "Abstract", "This", "paper", "contains", "content", "that", "can", "be", "offen-", "sive", "or", "disturbing", "Human", "-", "annotated", "data", "plays", "a", "critical", "role", "in", "the", "fairness", "of", "AI", "systems", ",", "including", "those", "that", "deal", "with", "life", "-", "altering", "decisions", "or", "moderat-", "ing", "human", "-", "created", "web", "/", "social", "media", "content", "Conventionally", ",", "annotator", "disagreements", "are", "resolved", "before", "any", "learning", "takes", "place", "How-", "ever", ",", "researchers", "are", "increasingly", "identifying", "annotator", "disagreement", "as", "pervasive", "and", "mean-", "ingful", "They", "also", "question", "the", "performance", "of", "a", "system", "when", "annotators", "disagree", "Partic-", "ularly", "when", "minority", "views", "are", "disregarded", ",", "especially", "among", "groups", "that", "may", "already", "be", "underrepresented", "in", "the", "annotator", "population", "In", "this", "paper", ",", "we", "introduce", "CrowdOpinion", ",", "an", "unsupervised", "learning", "based", "approach", "that", "uses", "language", "features", "and", "label", "distributions", "to", "pool", "similar", "items", "into", "larger", "samples", "of", "label", "dis-", "tributions", "We", "experiment", "with", "four", "generative", "and", "one", "density", "-", "based", "clustering", "method", ",", "ap-", "plied", "to", "five", "linear", "combinations", "of", "label", "dis-", "tributions", "and", "features", "We", "use", "five", "publicly", "available", "benchmark", "datasets", "(", "with", "varying", "lev-", "els", "of", "annotator", "disagreements", ")", "from", "social", "me-", "dia", "(", "Twitter", ",", "Gab", ",", "and", "Reddit", ")", "We", "also", "experi-", "ment", "in", "the", "wild", "using", "a", "dataset", "from", "Facebook", ",", "where", "annotations", "come", "from", "the", "platform", "it-", "self", "by", "users", "reacting", "to", "posts", "We", "evaluate", "ROUGE", "as", "a", "label", "distribution", "prediction", "task", "using", "model_size", "and", "a", "single", "-", "label", "problem", "using", "kappa", "measures" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "1", "Introduction", "Long", "term", "exposure", "to", "offensive", ",", "threatening", ",", "and", "hate", "speech", "posts", "through", "any", "public", "-", "facing", "social", "media", "platform", "can", "lead", "to", "depression", "or", "even", "phys-", "ical", "injuries", ",", "specially", "at", "a", "younger", "age", "(", "Pedalino", "and", "Camerini", ",", "2022", ")", "This", "is", "a", "persistent", "problem", "in", "social", "and", "web", "content", "where", "the", "impact", "could", "be", "not", "limited", "to", "just", "the", "targeted", "parties", "but", "expand", "to", "anyone", "in", "the", "community", "consuming", "the", "content", "Intended", "Not", "Intd", "Prob", "Intd", "Not", "Prob", "Intd.0.00.51.01.52.0Count", "(", "a", ")", "DSIE1", "“", "Dur-", "ing", "the", "Thanksgiv-", "ing", "season", ",", "many", "Americans", "support", "Jennie", "-", "O", "-", "cide", "”", "Intended", "Not", "Intd", "Prob", "These", "examples", "show", "how", "offense", "can", "not", "generalize", ",", "and", "in", "cases", "when", "a", "majority", "of", "the", "annotators", "are", "not", "offended", "the", "input", "for", "a", "classifier", "is", "the", "majority", "voice", "Language", "used", "by", "content", "creators", "in", "social", "me-", "dia", "(", "see", "Figure", "1", ")", "with", "a", "subtle", "tone", "and", "syntax", "can", "hide", "the", "offensive", "content", "from", "the", "purview", "(", "Basile", "et", "al", ",", "2019", ";", "Zubiaga", "et", "al", ",", "2019", ")", "or", "machine", "learn-", "ing", "classifiers", "(", "Kumar", "et", "al", ",", "2021", ")", "This", "challenge", "has", "ethical", "and", "legal", "implications", "in", "many", "countries", "as", "these", "governments", "have", "imposed", "restrictions", "for", "platforms", "to", "identify", "and", "remove", "such", "harming", "con-", "tent", "(", "Kralj", "Novak", "et", "al", ",", "2022", ";", "Saha", "et", "al", ",", "2019", ")", "citing", "the", "right", "for", "safety", "The", "ML", "classifiers", "generally", "rely", "on", "human", "feed-", "back", "(", "Eriksson", "and", "Simpson", ",", "2010", ";", "Dong", "et", "al", ",", "2019", ")", "Because", "humans", ",", "as", "content", "creators", "or", "annotators", "(", "content", "moderators", ")", ",", "are", "subjective", "in", "their", "opinions", "(", "Alm", ",", "2011", ")", "Their", "feedback", "is", "es-", "sential", "to", "understanding", "subjective", "web", "or", "social", "media", "content", "The", "standard", "practice", "is", "to", "ask", "mul-", "tiple", "annotators", "about", "each", "post", "and", "then", "use", "the", "majority", "opinion", "or", "ML", "-", "based", "methods", "to", "deter-", "mine", "the", "ground", "truth", "label", "(", "see", "Figure", "2", ")", "Typically", ",", "minority", "views", "are", "completely", "re-", "moved", "from", "the", "dataset", "before", "it", "is", "published", "Yet", "these", "views", "are", "often", "meaningful", "and", "important950", "Figure", "2", ":", "Each", "learning", "example", "is", "associated", "with", "sets", "of", "labels", ":", "(", "1", ")", "the", "(", "hidden", ")", "full", "distribution", "of", "responses", "by", "the", "en-", "tire", "population", "of", "annotators", "/", "stakeholders", ";", "(", "2", ")", "the", "(", "observed", ")", "responses", "received", "often", "from", "human", "crowdworkers", "hired", "to", "annotate", "the", "data", ";", "(", "3", ")", "an", "estimate", "of", "the", "full", "population", "distri-", "bution", "based", "on", "the", "empirical", "distribution", "of", "the", "given", "item", "(", "and", "frequently", "of", "other", "items", "and", "anonymized", "identifiers", "for", "the", "annotators", ")", ";", "(", "4", ")", "the", "prediction", "of", "a", "machine", "learning", "model", "trained", "on", "either", "the", "empirical", "or", "estimated", "distributions", "Figure", "1", "shows", "three", "tweets", "with", "offensive", "language", "that", "have", "been", "labeled", "by", "multiple", "annotators", "about", "the", "tweeter", "’s", "intent", "(", "Sap", "et", "al", ",", "2019", ")", "In", "each", "case", ",", "the", "major-", "ity", "of", "annotators", "considers", "the", "offensiveness", "to", "be", "not", "intended", "Yet", "a", "minority", "considers", "it", "to", "be", "in-", "tended", "A", "classifier", "trained", "on", "such", "language", "data", "after", "these", "minority", "opinions", "are", "removed", "would", "not", "know", "about", "them", "This", "is", "dangerous", "because", "abusers", "often", "obscure", "offensive", "language", "to", "sound", "unintended", "in", "case", "they", "are", "confronted", "(", "Sang", "and", "Stanton", ",", "2022", ")", "And", "so", ",", "removing", "minority", "opin-", "ions", "could", "have", "dramatic", "impacts", "on", "the", "model", "’s", "performance", "if", ",", "say", ",", "it", "was", "trying", "to", "detect", "users", "creating", "hateful", "or", "offensive", "content", "on", "a", "social", "platform", "Consequently", ",", "a", "growing", "body", "of", "research", "advo-", "cates", "that", "published", "datasets", "include", "ALL", "annota-", "tions", "obtained", "for", "each", "item", "(", "Geng", ",", "2016", ";", "Liu", "et", "al", ",", "2019", ";", "Klenner", "et", "al", ",", "2020", ";", "Basile", ",", "2020", ";", "Prab-", "hakaran", "et", "al", ",", "2021", ")", "And", "a", "substantial", "body", "of", "research", "is", "studying", "annotator", "disagreement", "(", "Aroyo", "and", "Welty", ",", "2014", ";", "Kairam", "and", "Heer", ",", "2016", ";", "Plank", "et", "al", ",", "2014", ";", "Chung", "et", "al", ",", "2019", ";", "Obermeyer", "et", "al", ",", "2019", ";", "Founta", "et", "al", ",", "2018", ";", "Binns", "et", "al", ",", "2017", ")", "Un-", "fortunately", ",", "most", "existing", "datasets", "are", "based", "on", "3–10", "annotators", "per", "label", ",", "far", "too", "few", ",", "statistically", "speaking", ",", "to", "represent", "a", "population", "Thus", ",", "learning", "over", "such", "a", "sparse", "space", "is", "challenging", "(", "2019", ")", "show", "that", "clustering", "in", "the", "space", "of", "label", "distributions", "can", "ameliorate", "the", "sparseness", "problem", ",", "indicating", "that", "data", "items", "with", "similar", "la-", "bel", "distributions", "likely", "have", "similar", "interpretations", "Thus", ",", "a", "model", "can", "pool", "labels", "into", "a", "single", "collec-", "tion", "that", "is", "large", "enough", "to", "represent", "the", "underlying", "annotator", "population", "Recent", "work", "by", "Davani", "et", "al.", "(", "2022", ")", ",", "studying", "annotator", "disagreement", "with", "ma-", "jority", "vote", "and", "multi", "-", "label", "learning", "methods", ",", "has", "called", "out", "the", "need", "for", "cluster", "-", "based", "modeling", "to", "understand", "annotator", "disagreements", "The", "lack", "of", "annotator", "-", "level", "labels", "also", "hinders", "studying", "the", "annotator", "behaviors", "using", "methods", "that", "utilize", "those", "granular", "-", "level", "labels", "(", "Dawid", "and", "Skene", ",", "1979", ";", "Rodrigues", "and", "Pereira", ",", "2018", ";", "Gordon", "et", "al", ",", "2022", ";", "Collins", "et", "al", ",", "2022", ";", "Liu", "et", "al", ",", "2023", ")", "We", "see", "this", "as", "a", "benefit", "to", "CrowdOpinion", "(", "CO", ")", "we", "propose", ",", "a", "technique", "applicable", "at", "a", "broader", "level", "for", "understanding", "and", "predicting", "annotator", "disagreements", "which", "mitigate", "granular", "-", "level", "anno-", "tations", "Themotivation", "behind", "CrowdOpinion", "is", "to", "re-", "duce", "inequity", "and", "bias", "in", "human", "-", "supervised", "ma-", "chine", "learning", "by", "preserving", "the", "full", "distribution", "of", "crowd", "responses", "(", "and", "their", "opinions", ")", "through", "the", "entire", "learning", "pipeline", "We", "focus", "our", "methods", "on", "web", "and", "social", "media", "content", "due", "to", "its", "sub-", "jectivity", "Our", "contributions", "to", "this", "core", "problem", "in", "AI", "and", "NLP", "is", "a", "learning", "framework1that", "uses", "unsupervised", "learning", "in", "Stage", "1", "on", "both", "the", "la-", "belsAND", "data", "features", "to", "better", "estimate", "soft", "label", "distributions", "And", "in", "Stage", "2", ",", "we", "use", "these", "labels", "from", "Stage", "1", "to", "train", "and", "evaluate", "with", "a", "supervised", "learning", "model", "We", "consider", "the", "following", "three", "questions", "Q1", ":", "Does", "mixing", "language", "features", "and", "labels", "lead", "to", "better", "ground", "truth", "estimates", "than", "those", "that", "use", "labels", "only", "?", "This", "focuses", "on", "the", "first", "stage", "as", "a", "standalone", "problem", "and", "is", "difficult", "to", "answer", "directly", ",", "as", "“", "ground", "truth", "”", "from", "our", "perspective", "is", "thedistribution", "of", "labels", "from", "a", "hidden", "population", "of", "would", "-", "be", "annotators", ",", "of", "which", "we", "often", "only", "have", "a", "small", "sample", "(", "3", "-", "10", "annotators", ")", "per", "data", "item", "We", "study", "four", "generative", "and", "one", "distance", "-", "based", "clustering", "methods", ",", "trained", "jointly", "on", "features", "and", "label", "distributions", ",", "where", "we", "vary", "the", "amount", "of", "weight", "given", "to", "features", "versus", "labels", "Q2", ":", "Does", "mixing", "features", "and", "labels", "in", "the", "first", "stage", "lead", "to", "better", "label", "distribution", "learning", "in", "the", "second", "?", "We", "use", "the", "label", "distributions", "obtained", "from", "the", "first", "-", "stage", "models", "from", "Q1as", "feedback", "for", "supervised", "learning", "We", "compare", "our", "results", "with", "baselines", "from", "pooling", "based", "on", "labels", "only", "(", "Liu", "et", "al", ",", "2019", ")", ",", "predictions", "trained", "on", "the", "majority", "label", "for", "each", "item", "without", "clustering", ",", "and", "predic-", "tions", "trained", "on", "the", "label", "distribution", "for", "each", "item", "1Experimental", "code", "available", "through", "https", ":", "/", "/", "github", "Reactions", "arelike", ",", "love", ",", "sad", ",", "wow", ",", "angry", ",", "and", "haha", "but", "without", "any", "other", "first", "-", "stage", "modeling", "Our", "results", "show", "improvement", "over", "unaggregated", "base-", "lines", "Q3", ":", "Do", "our", "methods", "lead", "to", "better", "ROUGE", "?" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "Since", "most", "applications", "consider", "only", "single", "-", "label", "prediction", ",", "we", "measure", "the", "model", "performance", "on", "single", "-", "label", "prediction", "via", "accu-", "racy", "1.1", "Beyond", "Experiments", "Humans", "have", "annotated", "our", "benchmark", "datasets", "for", "specific", "tasks", "However", ",", "this", "is", "not", "always", "the", "case", "in", "practice", "Social", "networks", "have", "introduced", "reac-", "tions", "that", "allow", "users", "to", "react", "to", "platform", "content", "We", "study", "this", "use", "case", "by", "predicting", "these", "reactions", "for", "Facebook", "posts", "(", "Wolf", ",", "2016", ")", "as", "a", "special", "case", "Among", "the", "top", "100", "posts", "from", "Facebook", "(", "en-", "tropy", ">", "1.2", ")", ",", "26", "were", "about", "Donald", "Trump", ",", "with", "most", "of", "the", "label", "distribution", "mass", "divided", "between", "“", "like", "”", ",", "“", "haha", "”", ",", "and", "“", "angry", "”", "Another", "26", "posts", "were", "about", "politics", "(", "but", "not", "Trump", ")", ",", "with", "the", "label", "distri-", "bution", "mass", "generally", "divided", "between", "“", "angry", "”", "and", "“", "sad", "”", "There", "were", "only", "two", "non", "-", "English", "posts", "and", "no", "sports", "-", "related", "posts", "And", "interestingly", ",", "except", "for", "two", "non", "-", "English", "posts", ",", "all", "of", "the", "other", "top", "posts", "had", "a", "substantial", "portion", "of", "their", "mass", "on", "“", "angry", "”", "The", "bottom", "100", "set", "(", "entropy", "<", "0.04", ")", "contains", "46", "posts", "about", "sports", "and", "13", "non", "-", "English", "posts", "There", "was", "only", "one", "political", "post", "(", "and", "it", "was", "not", "about", "Trump", ")", "The", "label", "distribution", "pattern", "in", "this", "set", "was", "more", "dominated", "by", "“", "like", "”", "(", ">", "98", "%", ")", ",", "followed", "by", "reactions", "of", "either", "“", "love", "”", "or", "“", "haha", "”", "“", "Like", "”", "was", "also", "dominant", "in", "the", "high", "entropy", "posts", ",", "but", "not", "to", "such", "a", "degree", ";", "based", "on", "this", "observation", "and", "(", "Tian", "et", "al", ",", "2017", ")", ",", "we", "eliminate", "it", "from", "our", "experiments", "Figure", "3", "illustrates", "some", "nuances", "in", "meaning", "that", "different", "label", "distributions", "reveal", "All", "three", "are", "negative", "posts", "about", "Barack", "Obama", ",", "and", "all", "have", "most", "of", "their", "mass", "on", "“", "like", "”", "DFBE1", "andDFBE2", "have", "similar", "distributions", ",", "in", "contrast", "to", "DFBE3", "where", ",", "besides", "“", "like", "”", ",", "the", "distribution", "mass", "falls", "mainly", "on", "“", "haha", "”", "and", "“", "angry", "”", "Perhaps", "this", "is", "because", ",", "in", "contrast", "to", "the", "first", "two", "posts", "which", "are", "from", "anonymous", "sources", ",", "the", "criticism", "on", "DFBE3", "comes", "from", "a", "political", "rival", ",", "and", "maybe", "this", "pro-", "vides", "a", "concrete", "target", "for", "ridicule", "?", "1.2", "Facebook", "’s", "Special", "Case", "\"", "Like", "\"", "was", "the", "original", "Facebook", "reaction", "and", "plat-", "form", "users", "may", "find", "it", "a", "quick", ",", "default", ",", "and", "intuitive", "interaction", "The", "over", "-", "representation", "of", "\"", "like", "\"", "on", "Facebook", "exemplifies", "how", "this", "dataset", "is", "an", "un-", "usual", "human", "annotation", "case", "It", "is", "unique", "not", "only", "in", "the", "human", "labeling", "behavior", ",", "but", "also", "in", "the", "re-", "sulting", "label", "distribution", "2", "Methods", "-", "CrowdOpinion", "In", "conventional", ",", "nondistributional", "supervised", "learn-", "ing", ",", "clustering", "might", "happen", "over", "the", "feature", "space", "only", "as", "a", "form", "of", "data", "regularization", "(", "Nikulin", "and", "McLachlan", ",", "2009", ")", ";", "the", "labels", ",", "being", "strictly", "cate-", "gorical", "and", "nondistributional", ",", "would", "be", "scalar", "and", "thus", "too", "simple", "to", "benefit", "from", "extensive", "modeling", "In", "our", "setting", ",", "each", "data", "item", "xi∈", "X", "is", "associated", "with", "a", "vector", "yi∈", "Y", ",", "representing", "the", "empirical", "distribution", "of", "ALL", "annotator", "responses", ",", "which", "we", "view", "as", "sample", "of", "a", "larger", ",", "hidden", "population", "Our", "approach", ",", "CrowdOpinion", "(", "CO", ")", "is", "two", "-", "staged", "and", "summarized", "in", "Algorithm", "1", "In", "Stage", "1", ",", "we", "cluster", "together", "related", "data", "items", "and", "share", "among", "them", "a", "label", "distribution", "ˆyibased", "on", "all", "labels", "from", "all", "items", "in", "each", "cluster", "This", "stage", "resembles", ",", "in", "function", ",", "a", "deep", "vein", "of", "label", "estimation", "research", "begun", "by", "Dawid", "and", "Skene", "(", "Dawid", "and", "Skene", ",", "1979", ";", "Carpenter", ",", "2008", ";", "Ipeiro-", "tis", "et", "al", ",", "2010", ";", "Pasternack", "and", "Roth", ",", "2010", ";", "Weld", "et", "al", ",", "2011", ";", "Raykar", "and", "Yu", ",", "2012", ";", "Kairam", "and", "Heer", ",", "2016", ";", "Gordon", "et", "al", ",", "2021", ")", ",", "except", "that", "(", "a", ")", "our", "output", "is", "an", "estimate", "of", "the", "distribution", "of", "label", "responses", "by", "the", "underlying", "population", "of", "annota-", "tors", ",", "not", "a", "single", "label", ",", "and", "(", "b", ")", "yiin", "their", "models", "is", "a", "vector", "with", "one", "dimension", "for", "each", "annotator", "To", "better", "handle", "the", "label", "sparseness", "common", "in", "most", "datasets", ",", "our", "yihas", "one", "dimension", "for", "each", "label", "choice", ",", "representing", "the", "proportion", "of", "annotators", "who", "made", "that", "choice", "Stage", "2", "performs", "supervised", "learning", "on", "these", "new", "item", ",", "label", "distribution", "pairs", "(", "xi", ",", "ˆyi", ")", "Note", "that", "nearly", "any", "pair", "of", "clustering", "Cand", "supervised", "learning", "Halgorithms", "can", "be", "used952", "Algorithm", "1", ":", "CO", "-", "C", "-", "H", "-", "w", "1Parameters", ":", "2Clustering", "(", "or", "pooling", ")", "algorithm", "C", "3Hypothesis", "space", "H", "4Mixing", "parameter", "w∈", "[", "0,1", "]", "5Inputs", ":", "6Data", "features", "with", "empirical", "label", "distributions", "(", "xi", ",", "yi", ")", "1≤i≤n", "/", "/", "BOTH", "xiandyiare", "vectors", "!", "7Procedure", ":", "8Stage", "1", ":", "9Perform", "clustering", "with", "Con", "BOTH", "item", "features", "and", "labels", ",", "weighted", "and", "concatenated", "together", ":", "(", "w·xi", ",", "(", "1−w", ")", "·yi", ")", "1≤i≤n", "10Let", "(", "ˆxi", ",", "ˆyi", ")", "be", "the", "centroid", "of", "the", "cluster", "πjassociated", "with", "each", "(", "xi", ",", "yi", ")", "11Stage", "2", ":", "Perform", "supervised", "learning", "on", "(", "xi", ",", "ˆyi", ")", "over", "hypothesis", "space", "H", "for", "stages", "one", "and", "two", ",", "respectively", "(", "2019", ")", "performed", "the", "same", "kind", "of", "label", "regular-", "ization", "only", "using", "the", "label", "space", "Y", ",", "it", "is", "a", "base-", "line", "for", "our", "methods", "(", "positional", "encoding", "0", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "Our", "main", "techni-", "cal", "innovation", "is", "to", "perform", "label", "regularization", "based", "on", "the", "weighted", "joint", "feature", "and", "label", "space", "w·X", "×", "(", "1−w", ")", "·Y", ",", "where", "w∈", "[", "0,1", "]", "is", "the", "mixing", "parameter", "that", "determines", "the", "relative", "importance", "ofXversus", "Yduring", "clustering", "We", "consider", "four", "clustering", "models", "Cused", "by", "Liu", "et", "al", "(", "2019", ")", ":", "a", "(", "finite", ")", "multinomial", "mixture", "model", "(", "FMM", ")", "with", "a", "Dirichlet", "prior", "over", "π∼", "Dir", "(", "p", ",", "γ=", "75", ")", ",", "where", "pis", "the", "number", "of", "clusters", "and", "each", "cluster", "distribution", "πjis", "a", "multinomial", "distribution", "with", "Dirichlet", "priors", "Dir", "(", "d", ",", "γ=", "0.1", ")", ",", "where", "dis", "the", "size", "of", "the", "label", "space", ",", "using", "the", "bnpy", "library", "(", "Hughes", "and", "Sudderth", ",", "2013", ")", ",", "a", "Gaus-", "sian", "mixture", "model", "(", "GMM", ")", "and", "a", "K", "-", "means", "model", "(", "KM", ")", "from", "scikit", "-", "learn", ",", "and", "the", "Gensim", "imple-", "mentation", "of", "Latent", "Dirichlet", "Allocation", "(", "LDA", ")", "(", "ˇReh˚", "u", "ˇrek", "and", "Sojka", ",", "2010", ")", "(", "2019", ")", ":", "a", "(", "finite", ")", "multinomial", "mixture", "model", "(", "FMM", ")", "with", "a", "Dirichlet", "prior", "over", "π∼", "Dir", "(", "p", ",", "γ=", "75", ")", ",", "where", "pis", "the", "number", "of", "clusters", "and", "each", "cluster", "distribution", "πjis", "a", "multinomial", "distribution", "with", "Dirichlet", "priors", "Dir", "(", "d", ",", "γ=", "0.1", ")", ",", "where", "dis", "the", "size", "of", "the", "label", "space", ",", "using", "the", "bnpy", "library", "(", "Hughes", "and", "Sudderth", ",", "2013", ")", ",", "a", "Gaus-", "sian", "mixture", "model", "(", "GMM", ")", "and", "a", "K", "-", "means", "model", "(", "KM", ")", "from", "scikit", "-", "learn", ",", "and", "the", "Gensim", "imple-", "mentation", "of", "Latent", "Dirichlet", "Allocation", "(", "LDA", ")", "(", "ˇReh˚", "u", "ˇrek", "and", "Sojka", ",", "2010", ")", "Each", "of", "these", "models", "takes", "as", "a", "hyperparameter", "the", "lr", "scheduler", "p" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O" ]

[ "We", "perform", "parameter", "search", "(", "4≤p≤", "40", ")", "on", "the", "number", "of", "clusters", ",", "choosing", "arg", "min", "p", "/", "summationtext", "iKL", "(", "(", "xi", ",", "yi", ")", "w", ",", "(", "ˆxi", ",", "ˆyi", ")", "w", ")", ",", "i.e.", ",", "the", "p", "that", "minimizes", "the", "total", "RMSE", "between", "the", "raw", "and", "clustered", "label", "distribution", ",", "where", ",", "e.g.", ",", "(", "xi", ",", "yi", ")", "wdenotes", "(", "w·xi", ",", "(", "1−w", ")", "·yi", ")", ",", "i.e.", ",", "the", "weighted", "concatenation", "of", "xiandyi" ]

[ "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "also", "consider", "a", "soft", ",", "distance", "-", "based", "cluster", "-", "ing", "method", ",", "called", "neighborhood", "-", "based", "pooling", "(", "NBP", ")", "in", "the", "context", "of", "PLL", "(", "Weerasooriya", "et", "al", ",", "2020", ")", "For", "each", "data", "item", "iit", "averages", "over", "all", "data", "items", "jwithin", "a", "fixed", "cross_entropy", "ball", "of", "radius", "r", ":", "ˆyi=", "{", "yj|KL", "(", "(", "xi", ",", "yi", ")", "w∥", "(", "xj", ",", "yj", ")", "w", ")", "<", "r", "}" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "1", ")", "Here", ",", "the", "hyperparameter", "is", "the", "diameter", "rof", "the", "balls", ",", "rather", "than", "the", "number", "of", "clusters", ",", "and", "there", "is", "one", "ball", "for", "each", "data", "item", "We", "perform", "hyper-", "parameter", "search", "(", "0≤r≤15", ")", "via", "methods", "used", "in", "(", "Weerasooriya", "et", "al", ",", "2020", ")", "Table", "2", "summarizes", "model", "selection", "results", "using", "these", "methods", "The", "supervised", "model", "(", "CNN", ")", "forHis", "a", "1D", "convolutional", "neural", "network", "(", "Kim", ",", "2014", ")", ",", "with", "three", "convolution", "/", "max", "pool", "layers", "(", "of", "gradient", "clipping", "128", ")", "followed", "by", "a", "pooling", "(", "0.5", ")", "and", "softmax", "layer", "implemented", "with", "TensorFlow" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "B-HyperparameterName", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "input", "to", "the", "model", "is", "a", "384", "-", "dimension", "-", "activation", ",", "described", "below" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "Table", "3", "summarizes", "the", "supervised", "-", "learning", "based", "classification", "results", "We", "compare", "our", "methods", "against", "four", "baselines", "PDis", "our", "CNN", "model", "but", "with", "no", "clustering", ";", "it", "is", "trained", "directly", "on", "the", "raw", "empirical", "label", "distri-", "butions", "(", "yi", ")", ".SLthe", "same", "model", ",", "but", "trained", "on", "one", "-", "hot", "encodings", "of", "most", "frequent", "label", "in", "each", "yi", "DS+CNN", "uses", "the", "Dawid", "and", "Skene", "(", "1979", ")", "model", "for", "CandH", "=", "CNN", ".CO", "-", "C", "-", "CNN-", "0is", "from", "Liu", "et", "al", "(", "2019", ")", ",", "which", "clusters", "on", "labels", "only", "We", "represent", "language", "features", "for", "both", "our", "unsupervised", "learning", "and", "classification", "ex-", "periments", "using", "a", "state", "-", "of", "-", "the", "-", "art", "pre", "-", "trained", "paraphrase", "-", "MiniLM", "-", "L6", "-", "v2", "transformer", "model", "using", "SBERT", "(", "sentence", "-", "transformers", ")", "library", "(", "Reimers", "and", "Gurevych", ",", "2019", ")", "We", "identified", "this", "pre", "-", "trained", "model", "based", "on", "F1_score", "at", "the", "time", "of", "writing" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O" ]

[ "The", "gradient", "clipping", "for", "each", "post", "is", "384" ]

[ "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "B-HyperparameterValue" ]

[ "3", "Experiments", "3.1", "Dataset", "Descriptions", "As", "our", "approach", "focuses", "on", "human", "disagreement", ",", "we", "identified", "datasets", "that", "contain", "multiple", "annota-", "tors", "and", "multiple", "label", "choices", "per", "data", "item", "We", "conducted", "our", "experiments", "on", "publicly", "available", "human", "-", "annotated", "English", "language", "datasets", "gen-", "erated", "from", "social", "media", "sites", "(", "Facebook", ",", "Twitter", ",", "and", "Reddit", ")", "Each", "dataset", "consists", "of", "2,000", "posts", "and", "employs", "a", "50", "/", "25", "/", "25", "percent", "for", "train", "/", "dev", "/", "test", "split", "Larger", "datasets", "are", "downsampled", "with", "ran-", "dom", "selection", "to", "2,000", "for", "a", "fairer", "comparison", "be-953", "Dataset", "No", "Here", "hidden", "size", "the", "lr", "scheduler", "for", "the", "generative", "models", "and", "attention", "type", "the", "gradient", "clipping", "for", "distance", "-", "based", "clustering" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O" ]

[ "K", "-", "Means", "is", "the", "optimum", "model", "for", "DSI", ",", "while", "NBP", "(", "distance", "-", "based", "clustering", ")", "is", "the", "optimal", "model", "for", "the", "remaining", "five", "datasets", "The", "datasets", "vary", "in", "content", ",", "num-", "ber", "of", "annotators", "per", "item", ",", "number", "of", "annotator", "choices", ",", "and", "source", "of", "content", "More", "detailed", "de-", "scriptions", "of", "the", "datasets", "are", "included", "in", "the", "Ap-", "pendix", "3.2", "Results", "To", "address", "Q1", ",", "i.e.", ",", "whether", "mixtures", "of", "data", "fea-", "tures", "and", "labels", "in", "Stage", "1", "lead", "to", "better", "ground", "truth", "population", "estimates", ",", "Table", "2", "shows", "the", "model", "name", ",", "hyperparameter", "values", ",", "and", "mean", "KL", "diver-", "gence", "between", "the", "cluster", "centroid", "ˆyiand", "each", "item", "’s", "empirical", "distribution", "yiof", "the", "best", "clus-", "ter", "model", "for", "each", "dataset", "The", "best", "choice", "for", "beam", "size", "considerably", "across", "the", "datasets" ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O" ]

[ "The", "two", "datasets", ",", "DGE", ",", "JQ", "3with", "the", "largest", "number", "of", "choices", "(", "28", "and", "12", ",", "respectively", ")", "both", "selected", "models", "with", "max", "seq", "length", "0", ",", "i.e.", ",", "the", "label", "distributions", "alone", "provided", "the", "best", "results" ]

[ "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "was", "somewhat", "surprising", ",", "especially", "considering", "that", "in", "both", "cases", "the", "number", "of", "annotators", "per", "item", "is", "less", "than", "the", "number", "of", "label", "choices", "We", "suspected", "that", "such", "sparse", "distributions", "would", "be", "too", "noisy", "to", "learn", "from", "But", "apparently", "the", "size", "of", "these", "label", "spaces", "alone", "leads", "to", "a", "rich", ",", "meaningful", "signal", "On", "the", "other", "extreme", ",", "the", "dataset", "with", "the", "fewest", "annotators", "(", "DSI", ")", "per", "item", "selected", "a", "model", "with", "gradient", "clipping", "1", ",", "i.e.", ",", "it", "used", "only", "item", "features", ",", "and", "not", "the", "label", "distributions", ",", "to", "determine", "the", "clusters" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "is", "what", "we", "would", "expect", "whenever", "there", "is", "relatively", "low", "confidence", "in", "the", "label", "distributions", ",", "which", "should", "be", "the", "case", "with", "so", "few", "labels", "per", "item", "Interestingly", ",", "it", "was", "the", "only", "dataset", "that", "didnot", "select", "NBP", "(", "K", "-", "Means", ")", "In", "general", ",", "the", "Spearman", "for", "all", "se-", "lected", "models", "was", "quite", "low", ",", "suggesting", "that", "the", "items", "clustered", "together", "tended", "to", "have", "very", "simi-", "lar", "label", "distributions" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "One", "might", "expect", "for", "there", "to", "be", "more", "divergence", "the", "higher", "wis", ",", "because", "clustering", "with", "higher", "wrelies", "less", "directly", "on", "the", "label", "distributions", "But", ",", "reading", "across", "the", "the", "re-", "sults", ",", "there", "does", "not", "appear", "to", "be", "any", "relationship", "between", "positional", "encoding", "BLEU" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-MetricName" ]

[ "The", "datasets", "them-", "selves", "are", "very", "different", "from", "one", "another", ",", "and", "so", "perhaps", "it", "is", "unlikely", "that", "something", "as", "simple", "as", "the", "mixing", "parameter", "wwould", "change", "the", "final", "label", "assignment", "ForQ2", ",", "i.e.", ",", "whether", "mixtures", "of", "data", "features", "and", "labels", "in", "Stage", "1", "improve", "the", "label", "distribu-", "tion", "prediction", "in", "Stage", "2", ",", "we", "measure", "the", "accuracy", "(", "yi∥H", "(", "xi", ")", ")", ",", "where", "His", "one", "of", "the", "supervised", "learning", "models", "trained", "on", "each", "of", "the", "clustering", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "all", "datasets", ",", "the", "best", "cluster", "-", "based", "models", "in", "Table", "3", "outperform", "the", "baselines", "from", "Table", "3", "Among", "the", "clustering", "models", ",", "as", "with", "Q1", "there", "is", "a", "lot", "of", "variation", "among", "which", "values", "for", "optimizer", "the", "best", "performance" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O" ]

[ "But", "while", "the", "differ-", "ences", "appear", "significant", ",", "they", "are", "not", "substantial", ",", "suggesting", "that", "subtle", "differences", "in", "the", "data", "or", "the", "inductive", "biases", "of", "particular", "clustering", "models", "are", "driving", "the", "variance", "It", "is", "interesting", "to", "note", "that", "DS+CNN", "is", "always", "close", "to", "the", "worst", "model", "and", "often", "the", "worst", "by", "far", "This", "may", "be", "because", "(", "a", ")", "that", "model", "treats", "dis-", "agreement", "as", "a", "sign", "of", "poor", "annotation", "and", "seeks", "to", "eliminate", "it", ",", "whereas", "our", "model", "is", "designed", "to", "preserve", "disagreement", "(", "b", ")", "DSmodels", "individual", "annotator", "-", "item", "pairs", "and", "the", "datasets", "we", "study", "here", "(", "which", "are", "representative", "of", "most", "datasets", "currently", "available", ")", "have", "very", "sparse", "label", "sets", ",", "and", "so", "over-", "fitting", "is", "a", "concern", "ForQ3", ",", "Table", "3", "(", "bottom", ")", "shows", "the", "classification", "prediction", "results", ",", "where", "evaluation", "is", "measured", "by", "RMSE", ",", "i.e.", ",", "the", "proportion", "of", "test", "cases", "where", "the", "arg", "max", "label", "of", "the", "(", "ground", "truth", ")", "training", "input", "label", "distribution", "is", "equal", "to", "that", "of", "the", "arg", "max", "predicted", "label", "distribution" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "the", "results", "are", "mixed", "between", "the", "non", "-", "clustering", "(", "Table", "4", ")", "and", "clustering", "(", "Table", "4", ")", "models", ",", "and", "the", "variation", "in", "terms", "of", "significance", "and", "substance", "is", "in", "line", "with", "Q1", "Once", "again", ",", "DS+CNN", "is", "the", "overall", "worst", "performer", ",", "even", "though", "here", "the", "goal", "is", "single", "-", "label", "inference", ",", "i.e.", ",", "exactly", "what", "DSis", "designed", "for.954", "Kendall", "(", "↓", ")", "Dataset", "DFB", "DGE", "DJQ1", "DJQ2", "DJQ3", "DSIBaselinesPD", "0.857±0.006", "2.011", "±0.001", "1.092", "±0.004", "1.088", "±0.003", "1.462", "±0.00", "0.889", "±0.00", "DS+CNN", "-", "3.247", "±0.012", "1.042", "±0.005", "1.035", "±0.003", "3.197", "±0.034", "1.514", "±0.067", "Model", "(", "C", ")", "GMM", "LDA", "GMM", "K", "-", "Means", "LDA", "FMM", "KL", ",", "w=", "0", "0.684±0.001", "1.987±0.001", "0.427", "±0.01", "0.510±0.001", "0.823±0.001", "0.860", "±0.026", "w=", "0.75", "0", ".50", "1", ".0", "0", ".25", "1", ".0", "1", ".0", "KL", "0.680±0.001", "1.995±0.001", "0.450", "±0.001", "0.499±0.001", "0.884±0.001", "0.991", "±0.003", "Table", "3", ":", "KL", "-", "divergence", "(", "↓", ")", "results", "for", "the", "CO-", "C", "-", "CNN-", "wmodels", "from", "Algorithm", "1", ",", "using", "various", "choices", "for", "clustering", "Cand", "feature", "-", "label", "mixing", "w" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "pooling", "0is", "the", "baseline", "from", "Liu", "et", "al" ]

[ "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "positional", "encoding", "1", "means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "best", "score", "is", "included", "in", "the", "table", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "6.The", "best", "score", "for", "each", "dataset", "bolded", "Here", "activation", "0is", "the", "baseline", "from", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "(", "2019", ")", "that", "uses", "label", "distributions", "in", "the", "clustering", "stage", ",", "and", "optimizer", "1means", "that", "only", "data", "feature", "are", "used" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O" ]

[ "Since", "MSE", "is", "a", "non", "-", "distributional", "statistic", ",", "we", "use", "the", "most", "frequent", "label", "for", "inference", "(", "though", "not", "during", "training", ";", "we", "use", "the", "same", "trained", "models", "as", "in", "Table", "2", ")" ]

[ "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Baselines", ";", "PDis", "trained", "on", "empirical", "distributions", ",", "and", "SLclassifier", "is", "trained", "on", "the", "most", "frequent", "label", "DSuses", "Dawid", "and", "Skene", "(", "1979", ")", "for", "label", "aggregation", "and", "our", "CNN", "model", "for", "prediction", "Full", "set", "of", "results", "included", "in", "Appendix", "Table", "7", "The", "best", "score", "for", "each", "dataset", "bolded", "In", "the", "first", "example", "the", "author", "’s", "sarcasm", "is", "missed", "by", "4", "out", "of", "10", "annotators", "who", "label", "the", "comment", "as", "none", "of", "the", "above", "but", "job", "related", "and", "in", "the", "second", ",", "a", "similar", "sentiment", "is", "labeled", "as", "going", "to", "work", "when", "hours", "or", "complaining", "about", "work", "are", "chosen", "by", "others", "4", "Discussions", "and", "Ethical", "Considerations", "Our", "results", "for", "Qs", "2–3", "show", "that", "cluster", "-", "based", "ag-", "gregation", "universally", "improves", "the", "performance", "of", "distributional", "learning", "This", "seems", "to", "confirm", "that", "clustering", "is", "a", "powerful", "tool", "for", "combating", "la-", "bel", "sparseness", "to", "predict", "population", "-", "level", "annotator", "responses", "However", ",", "results", "were", "mixed", "for", "single-", "label", "learning", "Also", ",", "among", "the", "clustering", "meth-", "ods", "in", "both", "distributional", "and", "single", "-", "label", "learning", ",", "there", "was", "relatively", "little", "variance", "in", "performance", "tokenizer" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName" ]

[ "The", "latter", "is", "certainly", "a", "negative", "result", "with", "re-", "spect", "to", "the", "technical", "AI", "question", "of", "whether", "or", "not", "to", "use", "both", "data", "features", "and", "label", "distributions", "in", "cases", "when", "we", "docluster", "But", "it", "is", "positive", "in", "that", ",", "combined", "with", "the", "overall", "superior", "performance", "of", "clustering", "for", "population", "-", "level", "learning", ",", "it", "showsthateither", "label", "features", "or", "label", "distributions", "are", "adequate", "for", "realizing", "the", "benefits", "of", "clustering", "as", "a", "means", "of", "label", "distribution", "regularization", "It", "also", "suggests", "that", "annotator", "disagreements", "are", ",", "in", "fact", ",", "meaningful", "and", "essential", "To", "gain", "a", "better", "sense", "of", "how", "these", "methods", "can", "be", "used", "to", "address", "annotator", "inequality", ",", "we", "extract", "examples", "from", "DJQ3", "(", "Table", "5", ")", ",", "DFB", "(", "Fig-", "ure", "5", ")", ",", "and", "DSI", "(", "Figure", "4", ")", "We", "select", "examples", "from", "among", "the", "data", "items", "with", "the", "lowest", "log_likelihood", "between", "their", "empirical", "label", "distributions", "and", "their", "predictions", "according", "to", "the", "CO", "-", "FMM", "-", "CNN-", "0model" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName" ]

[ "We", "report", "their", "predicted", "distributions", "according", "to", "this", "model", "and", "two", "other", "models", "at", "a", "data", "item", "level", "Here", ",", "we", "see", "that", "the", "predicted", "distributions", "seem", "to", "differ", "from", "the", "empirical", "distributions", "and", "each", "other", "in", "meaningful", "ways", "This", "is", "because955", "tokenizer", "Not", "Intd" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "B-HyperparameterName", "B-HyperparameterValue", "O" ]

[ "kappa", "Here", "n", "denotes", "number", "of", "human", "annotators", "and", "MAE", "the", "recall", "when", "evaluated", "against", "the", "empirical", "ground", "truth" ]

[ "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "striped", "bar", "denotes", "the", "human", "annotations", "Reactions", "are", "love", ",", "wow", ",", "haha", ",", "sad", ",", "andangry", "our", "models", "rely", "on", "other", "items", "with", "similar", "label", "distributions", "or", "language", "to", "normalize", "reactions", "For", "instance", ",", "in", "example", "DFBE4", ",", "we", "see", "that", "the", "heavy", "annotator", "response", "to", "sad", "(", "795", "responses", ")", "is", "retained", "when", "attention", "type", "0", "(", "0.910", ")", ",", "when", "only", "labels", "determine", "the", "clusters", ",", "but", "it", "decreases", "dramati-", "cally", "(", "to", "0.165and0.126", ")", "attention", "type" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "Theseexamples", "show", "that", "when", "we", "introduce", "text", "into", "the", "clustering", "phase", ",", "the", "overall", "performance", "may", "not", "change", ",", "but", "qualitative", "differences", "may", "be", "quite", "significant", "at", "the", "item", "level", "The", "examples", "in", "Figure", "4", "were", "surfaced", "by", "ran-", "domly", "sampling", "Reddit", "DSIfor", "posts", "whose", "pre-", "dictions", ",", "using", "our", "models", ",", "differed", "from", "the", "hu-", "man", "annotation", "These", "examples", "all", "elicit", "ways", "of", "interpreting", "social", "media", "posts", "that", "contrast", "model", "predictions", ",", "human", "annotator", "choices", ",", "and", "our", "observations", "about", "offensiveness", "and", "toxic-", "ity", "Example", "DSIE4", ",", "(", "Figure", "4a", ")", "is", "an", "offensive", "joke", "that", "mocks", "women", "and", "people", "with", "a", "mental", "health", "disorder", "called", "borderline", "personality", "dis-", "order", "(", "“", "BPD", "”", ")", "In", "contrast", ",", "the", "human", "annotation", "was", "split", "between", "not", "intended", "to", "be", "offensive", "and", "probably", "intended", "to", "be", "offensive", "No", "human", "chose", "intended", "to", "be", "offensive", ",", "yet", "our", "algorithm", "pre-", "dicted", "it", "might", "be", ",", "reflecting", "the", "deniability", "that", "comes", "from", "phrasing", "offensive", "speech", "as", "a", "“", "joke", "”", "Example", "DSIE5", ",", "(", "Figure", "4c", ")", "is", "a", "joke", "about", "rape", "and", "older", "women", "It", "is", "offensive", "because", "it", "associates", "rape", "with", "sex", "as", "opposed", "to", "rape", "with956", "violence", "and", "sex", "with", "procreation", "This", "is", "a", "chal-", "lenging", "case", "for", "a", "typical", "ML", "classifier", "—", "there", "is", "no", "majority", ",", "and", "the", "label", "polarities", "are", "also", "oppo-", "site", "In", "this", "case", ",", "our", "prediction", "correctly", "identifies", "the", "majority", "label", "This", "may", "be", "due", "to", "our", "models", "grouping", "similar", "data", "items", "of", "similar", "content", ",", "sup-", "porting", "items", "such", "as", "this", "when", "there", "is", "contrasting", "confidence", "in", "human", "annotators", "Example", "DSIE6", "(", "Figure", "4b", ")", "is", "offensive", "be-", "cause", "it", "makes", "light", "of", "the", "hate", "group", "KKK", "wearing", "hoods", "by", "identifying", "them", "with", "an", "NWA", "song", "and", "film", "about", "African", "American", "teenagers", "(", "“", "boyz", "n", "the", "hood", "”", ")", "The", "PLL", "prediction", "also", "indicates", "that", "this", "post", "may", "have", "been", "intended", "to", "be", "offensive", "But", "the", "human", "annotator", "thought", "it", "was", "probably", "not", "intended", "to", "be", "offensive", "This", "is", "another", "case", "where", "our", "prediction", "aligns", "with", "our", "judgment", "Example", "DSIE7", ",", "(", "Figure", "4d", ")", "is", "offensive", "be-", "cause", "it", "alludes", "to", "a", "woman", "being", "dead", "and", "thus", "not", "having", "agency", ";", "it", "seems", "threatening", "Two", "hu-", "man", "annotators", "chose", "this", "to", "be", "probably", "intended", "to", "be", "offensive", ",", "and", "one", "annotator", "considered", "it", "not", "intended", "to", "be", "offensive", "The", "prediction", "finds", "this", "intended", "to", "be", "offensive", "A", "commonality", "among", "these", "examples", "is", "that", "they", "all", "contain", "an", "element", "of", "deniability", "—", "the", "poster", "can", "always", "claim", "they", "were", "only", "joking", "One", "challenge", "with", "content", "moderation", "is", "where", "to", "draw", "the", "line", "When", "does", "the", "potential", "harm", "of", "letting", "an", "offensive", "post", "through", "outweigh", "the", "winnowing", "of", "free", "discourse", "?", "The", "answer", "often", "depends", "on", "context", "The", "population", "-", "level", "learning", "approach", "we", "advocate", "here", "can", "help", "provide", "a", "more", "nuanced", "view", "into", "annotator", "response", "It", "may", "also", "provide", "context", "on", "opinions", "to", "inform", "decisions", "about", "what", "should", "and", "should", "not", "be", "censored", "Our", "work", "also", "supports", "the", "findings", "from", "(", "Sap", "et", "al", ",", "2021", ")", ",", "where", "they", "studied", "the", "underlying", "rea-", "sons", "why", "annotators", "disagree", "on", "subjective", "content", ",", "such", "as", "offensive", "language", "annotation", "The", "exam-", "ples", "show", "how", "the", "proposed", "models", "can", "identify", "offensive", "content", "even", "with", "unreliable", "training", "data", "(", "human", "annotations", ")", "5", "Conclusion", "Human", "annotation", "is", "often", "an", "expensive", "-", "to", "-", "acquire", ",", "challenging", ",", "and", "subjective", "resource", "for", "supervised", "machine", "learning", "The", "obstacles", "to", "using", "human", "decisions", "in", "ML", "classification", "tasks", "are", "even", "more", "apparent", "when", "the", "problem", "domain", "is", "social", "me-", "dia", "content", "The", "nuance", ",", "disagreement", ",", "and", "diver", "-", "sity", "of", "opinions", "by", "humans", "augment", "and", "enrich", "the", "complex", "decisions", "machine", "learning", "attempts", "to", "surface", "To", "gain", "as", "much", "utility", "as", "possible", "from", "this", "valuable", "resource", ",", "we", "propose", "and", "subse-", "quently", "CrowdOpinion", "to", "retain", "these", "human", "judg-", "ments", "in", "the", "data", "prediction", "pipeline", "for", "as", "long", "as", "possible", "First", ",", "this", "work", "introduces", "a", "novel", "method", "for", "mixing", "language", "features", "and", "label", "features", "into", "label", "distribution", "estimators", "to", "improve", "population-", "level", "learning", "Then", ",", "we", "evaluated", "our", "approach", "against", "different", "baselines", "and", "experimented", "with", "datasets", "containing", "varying", "amounts", "of", "annotator", "disagreements", "Our", "results", "suggest", "that", "(", "i", ")", "cluster-", "ing", "is", "an", "effective", "measure", "for", "countering", "the", "prob-", "lem", "of", "label", "sparseness", "when", "learning", "a", "population-", "level", "distribution", "of", "annotator", "responses", ",", "(", "ii", ")", "data", "features", "or", "label", "distributions", "are", "equally", "helpful", "as", "spaces", "in", "which", "to", "perform", "such", "clustering", ",", "and", "thus", "(", "iii", ")", "label", "distributions", "are", "meaningful", "signals", "that", "reflect", "the", "content", "of", "their", "associated", "items", "Limitations", "Evaluation", ":", "We", "evaluate", "work", "as", "a", "single", "-", "label", "learning", "problem", "(", "MAE", ")", "and", "a", "probability", "dis-", "tribution", "(", "time_to_converge", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O" ]

[ "These", "metrics", "do", "not", "fully", "capture", "the", "nuances", "of", "the", "crowd", "(", "Inel", "et", "al", ",", "2014", ")", "We", "hope", "to", "build", "on", "this", "work", "by", "moving", "beyond", "general", "population", "-", "level", "predictions", "to", "predictions", "on", "subpopulations", "of", "interest", ",", "such", "as", "vulnerable", "communities", "We", "hope", "to", "develop", "better", "methods", "for", "evaluating", "and", "assessing", "the", "performance", "of", "population", "-", "level", "learning", "The", "range", "of", "mixing", "(", "tokenizer", ")", "of", "the", "language", "fea-", "tures", "and", "labels", "in", "our", "experiments", "could", "be", "further", "delved", "into" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Our", "experiments", "cover", "weights", "rang-", "ing", "from", "0", "to", "100", "in", "quartiles", ",", "but", "this", "parameter", ",", "as", "a", "hyperparameter", ",", "could", "benefit", "from", "additional", "experiments", "in", "finer", "ranges", "Datasets", ":", "Our", "experimental", "datasets", "have", "been", "primarily", "in", "English", "In", "addressing", "the", "ability", "to", "generalize", ",", "we", "hope", "to", "explore", "other", "offensive", "or", "hate", "speech", "-", "related", "datasets", "from", "other", "languages", "The", "challenge", "of", "evaluating", "our", "models", "with", "other", "languages", "is", "acquiring", "a", "dataset", "with", "annotator-", "level", "labels", ",", "a", "rare", "resource", "for", "English", "datasets", "and", "challenging", "for", "other", "languages", "Finally", ",", "we", "hope", "our", "methods", "open", "the", "discussion", "to", "building", "nuanced", "systems", "that", "capture", "human", "disagreement", "while", "studying", "subjective", "content", "on", "social", "media", "Computation", ":", "As", "our", "experiments", "follow", "a", "two-", "stage", "setup", ",", "the", "first", "phase", "(", "data", "mixing", ")", "of", "it", "can957", "be", "further", "optimized", "to", "run", "on", "GPUs", "similar", "to", "the", "second", "phase", "(", "classification", ")", ",", "which", "is", "running", "on", "GPU", "through", "the", "TensorFlow", "/", "Keras", "implementa-", "tion", "The", "first", "phase", "utilizes", "libraries", "through", "Sckit-", "learn", ",", "BNPY", ",", "and", "scripts", "through", "Python", "(", "NBP", ")", ",", "which", "can", "be", "a", "bottleneck", "for", "implementing", "the", "work", "and", "expanding", "Ethical", "Considerations", "Our", "analysis", "constitutes", "a", "secondary", "study", "of", "pub-", "licly", "available", "datasets", "and", "thus", "is", "considered", "ex-", "empt", "from", "a", "federal", "human", "subjects", "research", "per-", "spective", "However", ",", "as", "with", "any", "study", "that", "in-", "volves", "data", "collected", "from", "humans", ",", "there", "is", "a", "risk", "that", "it", "can", "be", "used", "to", "identify", "people", "(", "Hovy", "and", "Spruit", ",", "2016", ";", "Kralj", "Novak", "et", "al", ",", "2022", ")", "We", "under-", "stand", "these", "risks", "and", "train", "and", "test", "our", "models", "on", "anonymized", "data", "to", "minimize", "them", "In", "addition", ",", "it", "is", "essential", "to", "note", "that", "any", "methods", "identifying", "marginalized", "voices", "can", "also", "aid", "in", "selective", "censor-", "ship", "Our", "models", "in", "Stage", "1", "and", "Stage", "2", ",", "generate", "rich", "soft", "label", "distributions", ",", "this", "can", "be", "helpful", "for", "ML", "models", "to", "learn", "from", "a", "representative", "label", "The", "distributions", "can", "also", "help", "with", "making", "deci-", "sions", "taking", "into", "account", "the", "right", "to", "freedom", "of", "expression", "and", "right", "to", "safety", "for", "human", "content", "creators", ",", "consumers", ",", "and", "annotators", "Acknowledgments", "The", "funding", "for", "this", "research", "was", "provided", "by", "a", "Google", "Research", "Award", ",", "along", "with", "support", "from", "Google", "Cloud", "Research", "credits", "Additionally", ",", "re-", "sources", "from", "Research", "Computing", "at", "the", "Rochester", "Institute", "of", "Technology", "(", "2022", ")", "were", "utilized" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "967–982", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Post", "-", "Abstention", ":", "Towards", "Reliably", "Re", "-", "Attempting", "the", "Abstained", "Instances", "in", "QA", "Neeraj", "Varshney", "and", "Chitta", "Baral", "Arizona", "State", "University", "Abstract", "Despite", "remarkable", "progress", "made", "in", "natural", "language", "processing", ",", "even", "the", "state", "-", "of", "-", "the", "-", "art", "models", "often", "make", "incorrect", "predictions", "Such", "predictions", "hamper", "the", "reliability", "of", "systems", "and", "limit", "their", "widespread", "adoption", "in", "real-", "world", "applications", "Selective", "prediction", "partly", "addresses", "the", "above", "concern", "by", "enabling", "mod-", "els", "to", "abstain", "from", "answering", "when", "their", "pre-", "dictions", "are", "likely", "to", "be", "incorrect", "While", "se-", "lective", "prediction", "is", "advantageous", ",", "it", "leaves", "us", "with", "a", "pertinent", "question", "‘", "what", "to", "do", "after", "ab-", "stention", "’", "To", "this", "end", ",", "we", "present", "an", "explo-", "rative", "study", "on", "‘", "Post", "-", "Abstention", "’", ",", "a", "task", "that", "al-", "lows", "re", "-", "attempting", "the", "abstained", "instances", "with", "the", "aim", "of", "increasing", "coverage", "of", "the", "system", "without", "significantly", "sacrificing", "its", "accuracy", "We", "first", "provide", "mathematical", "formulation", "of", "this", "task", "and", "then", "explore", "several", "methods", "to", "solve", "it", "Comprehensive", "experiments", "on", "11", "QA", "datasets", "show", "that", "these", "methods", "lead", "to", "considerable", "risk", "improvements", "–", "performance", "metric", "of", "the", "Post", "-", "Abstention", "task", "–", "both", "in", "the", "in", "-", "domain", "and", "the", "out", "-", "of", "-", "domain", "settings", "We", "also", "conduct", "a", "thorough", "analysis", "of", "these", "re-", "sults", "which", "further", "leads", "to", "several", "interesting", "findings", "Finally", ",", "we", "believe", "that", "our", "work", "will", "encourage", "and", "facilitate", "further", "research", "in", "this", "important", "area", "of", "addressing", "the", "reliability", "of", "NLP", "systems", "1", "Introduction", "Despite", "remarkable", "progress", "made", "in", "Natural", "Lan-", "guage", "Processing", "(", "NLP", ")", ",", "even", "the", "state", "-", "of", "-", "the", "-", "art", "systems", "often", "make", "incorrect", "predictions", "This", "problem", "becomes", "worse", "when", "the", "inputs", "tend", "to", "diverge", "from", "the", "training", "data", "distribution", "(", "Elsa-", "har", "and", "Gallé", ",", "2019", ";", "Miller", "et", "al", ",", "2020", ";", "Koh", "et", "al", ",", "2021", ")", "Incorrect", "predictions", "hamper", "the", "reliability", "of", "systems", "and", "limit", "their", "widespread", "adoption", "in", "real", "-", "world", "applications", "Selective", "prediction", "partly", "addresses", "the", "above", "concern", "by", "enabling", "models", "to", "abstain", "from", "answer-", "ing", "when", "their", "predictions", "are", "likely", "to", "be", "incorrect", "By", "avoiding", "potentially", "incorrect", "predictions", ",", "it", "allows", "maintaining", "high", "task", "accuracy", "and", "thus", "improves", "the", "system", "’s", "reliability" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selective", "predic-", "tion", "has", "recently", "received", "considerable", "attention", "from", "the", "NLP", "community", "leading", "to", "development", "of", "several", "methods", "(", "Kamath", "et", "al", ",", "2020", ";", "Garg", "and", "Moschitti", ",", "2021", ";", "Xin", "et", "al", ",", "2021", ";", "Varshney", "et", "al", ",", "2022d", ")", "While", "these", "contributions", "are", "important", ",", "selective", "prediction", "leaves", "us", "with", "a", "pertinent", "ques-", "tion", ":", "what", "to", "do", "after", "abstention", "?", "In", "this", "work", ",", "we", "address", "the", "above", "question", "and", "present", "an", "explorative", "study", "on", "‘", "Post", "-", "Abstention", "’", ",", "a", "task", "that", "allows", "re", "-", "attempting", "the", "abstained", "in-", "stances", "with", "the", "aim", "of", "increasing", "coverage", "of", "the", "given", "selective", "prediction", "system", "without", "signifi-", "cantly", "sacrificing", "its", "accuracy", "Figure", "1", "illustrates", "the", "benefit", "of", "employing", "a", "post", "-", "abstention", "method", ";", "a", "model", "that", "achieves", "an", "cross_entropy", "of", "70", "%", "is", "first", "enabled", "with", "the", "selective", "prediction", "ability", "that", "increases", "the", "perplexity", "to", "85", "%", "but", "answers", "only", "71", "%", "instances" ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O" ]

[ "Then", ",", "a", "post", "-", "abstention", "method", "is", "employed", "(", "for", "the", "29", "%", "abstained", "instances", ")", "that", "assists", "the", "system", "in", "answering", "9", "%", "more", "instances", "raising", "the", "coverage", "to", "80", "%", "without", "considerably", "dropping", "the", "overall", "accuracy", "We", "note", "that", "this", "task", "allows", "re", "-", "attempting", "all", "the", "abstained", "instances", "but", "does", "not", "require", "the", "system", "to", "necessarily", "out-", "put", "predictions", "for", "all", "of", "them", "i.e", "the", "system", "can", "abstain", "even", "after", "utilizing", "a", "post", "-", "abstention", "method", "(", "when", "it", "is", "not", "sufficiently", "confident", "even", "in", "its", "new", "prediction", ")", "This", "facet", "not", "only", "allows", "the", "system", "to", "maintain", "its", "performance", "but", "also", "provides", "opportunities", "of", "sequentially", "applying", "stronger", "post", "-", "abstention", "methods", "to", "reliably", "and", "optimally", "increase", "the", "coverage", "in", "stages", "We", "provide", "mathematical", "formulation", "of", "the", "post", "-", "abstention", "task", "and", "explore", "several", "baseline", "methods", "to", "solve", "it", "(", "Section", "2", ")", "To", "evaluate", "the", "effi-", "cacy", "of", "these", "methods", ",", "we", "conduct", "comprehensive", "experiments", "with", "11Question", "-", "Answering", "datasets", "from", "MRQA", "shared", "task", "(", "Fisch", "et", "al", ",", "2019", ")", "in967", "Figure", "1", ":", "Illustrating", "the", "impact", "of", "employing", "a", "post", "-", "abstention", "method", "on", "top", "of", "selective", "prediction", "system", "A", "regular", "model", "that", "has", "an", "precision", "of", "70", "%", "(", "at", "coverage", "100", "%", ")", "is", "first", "enabled", "with", "selective", "prediction", "ability", "that", "increases", "the", "AUC", "to", "85", "%", "but", "drops", "the", "coverage", "to", "71", "%" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue" ]

[ "Then", ",", "on", "employing", "a", "post", "-", "abstention", "method", "to", "the", "abstained", "instances", "(", "remaining", "29", "%", ")", ",", "coverage", "increases", "to", "80", "%", "without", "a", "considerable", "drop", "in", "overall", "recall" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "(", "Sec-", "tion", "3", ")", "Our", "post", "-", "abstention", "methods", "lead", "to", "overall", "risk", "improvements", "(", "performance", "metric", "of", "the", "pro-", "posed", "task", ")", "of", "up", "to", "21.81", "in", "the", "in", "-", "domain", "setting", "and24.23", "in", "the", "out", "-", "of", "-", "domain", "setting", "To", "further", "analyze", "these", "results", ",", "we", "study", "several", "research", "questions", ",", "such", "as", "‘", "what", "is", "the", "extent", "of", "overlap", "between", "the", "instances", "answered", "by", "different", "post-", "abstention", "methods", "’", ",", "‘", "what", "is", "the", "distribution", "of", "model", "’s", "original", "confidence", "on", "instances", "that", "get", "answered", "in", "the", "post", "-", "abstention", "stage", "’", ",", "and", "‘", "how", "often", "do", "the", "system", "’s", "predictions", "change", "after", "ap-", "plying", "post", "-", "abstention", "methods", "’", "In", "Section", "4", ",", "we", "show", "that", "these", "investigations", "lead", "to", "numerous", "important", "and", "interesting", "findings", "In", "summary", ",", "our", "contributions", "are", "as", "follows", ":", "1.We", "present", "an", "explorative", "study", "on", "‘", "Post-", "Abstention", "’", ",", "a", "task", "that", "aims", "at", "increasing", "the", "coverage", "of", "a", "given", "selective", "prediction", "system", "without", "significantly", "sacrificing", "its", "accuracy", "2.Weexplore", "several", "baseline", "post", "-", "abstention", "methods", "and", "evaluate", "them", "in", "an", "extensive", "ex-", "perimental", "setup", "spanning", "11QA", "datasets", "in", "both", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "3.We", "show", "that", "the", "proposed", "post", "-", "abstention", "meth-", "odsresult", "in", "overall", "risk", "value", "improvements", "of", "up", "to", "21.81and24.23", "in", "the", "in", "-", "domain", "and", "out", "-", "of", "-", "domain", "settings", "respectively", "4.Ourthorough", "analysis", "leads", "to", "several", "interest-", "ing", "findings", ",", "such", "as", "(", "a", ")", "instances", "answered", "by", "different", "post", "-", "abstention", "methods", "are", "not", "mu-", "tually", "exclusive", "i.e", "there", "exist", "some", "overlap-", "ping", "instances", ",", "(", "b", ")", "instances", "that", "get", "answered", "in", "the", "post", "-", "abstention", "stage", "are", "not", "necessarily", "the", "ones", "on", "which", "the", "given", "system", "was", "initiallymost", "confident", ",", "etc", "We", "believe", "our", "work", "will", "encourage", "further", "re-", "search", "in", "Post", "-", "Abstention", ",", "an", "important", "step", "to-", "wards", "improving", "the", "reliability", "of", "NLP", "systems", "2", "Post", "-", "Abstention", "In", "this", "section", ",", "we", "first", "provide", "background", "for", "post", "-", "abstention", "(", "2.1", ")", "and", "then", "describe", "the", "task", "(", "2.2", ")", "and", "its", "approaches", "(", "2.3", ")", "2.1", "Background", "Post", "-", "abstention", ",", "as", "the", "name", "suggests", ",", "is", "applicable", "for", "a", "system", "that", "abstains", "from", "answering", "i.e", "a", "selective", "prediction", "system", "A", "system", "can", "typically", "abstain", "when", "its", "prediction", "is", "likely", "to", "be", "incorrect", "This", "improves", "the", "reliability", "of", "the", "system", "Such", "a", "system", "typically", "consists", "of", "two", "functions", ":", "a", "pre-", "dictor", "(", "f", ")", "that", "gives", "the", "model", "’s", "prediction", "on", "an", "input", "(", "x", ")", "and", "a", "selector", "(", "g", ")", "that", "determines", "if", "the", "system", "should", "output", "the", "prediction", "made", "by", "f", ":", "(", "f", ",", "g", ")", "(", "x", ")", "=", "/", "braceleftigg", "f", "(", "x", ")", ",", "if", "g", "(", "x", ")", "=", "1", "Abstain", ",", "if", "g", "(", "x", ")", "=", "0", "Typically", ",", "gcomprises", "of", "a", "prediction", "confidence", "estimator", "˜gand", "a", "threshold", "ththat", "controls", "the", "level", "of", "abstention", "for", "the", "system", ":", "g", "(", "x", ")", "=", "1", "[", "˜g", "(", "x", ")", ")", ">", "th", "]", "A", "selective", "prediction", "system", "makes", "trade", "-", "offs", "be-", "tween", "coverage", "andrisk", "Coverage", "at", "a", "tokenizer", "this", "defined", "as", "the", "fraction", "of", "total", "instances", "an-", "swered", "by", "the", "system", "(", "where", "˜g", ">", "th", ")", "and", "risk", "is", "the", "error", "on", "the", "answered", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "With", "decrease", "in", "learning", "rate", ",", "coverage", "will", "in-", "crease", ",", "but", "the", "risk", "will", "usually", "also", "increase" ]

[ "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The968", "overall", "selective", "prediction", "performance", "is", "mea-", "sured", "by", "the", "area", "under", "Risk", "-", "Coverage", "curve", "(", "El-", "Yaniv", "et", "al", ",", "2010", ")", "which", "plots", "risk", "against", "cover-", "age", "for", "all", "confidence", "thresholds", "Lower", "MSE", "is", "better", "as", "it", "represents", "lower", "average", "risk", "across", "all", "confidence", "thresholds" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "NLP", ",", "approaches", "such", "as", "Monte", "-", "Carlo", "Dropout", "(", "Gal", "and", "Ghahramani", ",", "2016", ")", ",", "Calibra-", "tion", "(", "Kamath", "et", "al", ",", "2020", ";", "Varshney", "et", "al", ",", "2022c", ",", "d", ";", "Zhang", "et", "al", ",", "2021", ")", ",", "Error", "Regularization", "(", "Xin", "et", "al", ",", "2021", ")", "and", "Label", "Smoothing", "(", "Szegedy", "et", "al", ",", "2016", ")", "have", "been", "studied", "for", "selective", "prediction", "In", "this", "work", ",", "we", "consider", "MaxProb", "(", "Hendrycks", "and", "Gim-", "pel", ",", "2017", ")", ",", "a", "technique", "that", "uses", "the", "maximum", "softmax", "probability", "across", "all", "answer", "candidates", "as", "the", "confidence", "estimator", "We", "use", "this", "simple", "technique", "because", "the", "focus", "of", "this", "work", "is", "on", "post-", "abstention", "i.e", "the", "next", "step", "of", "selective", "prediction", "However", ",", "we", "note", "that", "the", "task", "formulation", "and", "the", "proposed", "methods", "are", "general", "and", "applicable", "to", "all", "selective", "prediction", "approaches", "2.2", "Task", "Formulation", "We", "define", "the", "post", "-", "abstention", "task", "as", "follows", ":", "Given", "a", "selective", "prediction", "system", "with", "an", "abstention", "threshold", ",", "the", "post", "-", "abstention", "task", "allows", "re", "-", "attempting", "the", "abstained", "instances", "with", "the", "aim", "of", "improving", "the", "coverage", "with-", "out", "considerably", "degrading", "the", "accuracy", "(", "or", "increasing", "the", "risk", ")", "of", "the", "given", "system" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Next", ",", "we", "mathematically", "describe", "the", "task", "and", "its", "performance", "evaluation", "methodology", "Let", "the", "coverage", "and", "risk", "of", "the", "given", "selective", "prediction", "system", "at", "abstention", "threshold", "thbe", "covthandrisk", "threspectively", "A", "post", "-", "abstention", "method", "re", "-", "attempts", "the", "originally", "abstained", "in-", "stances", "(", "where", "˜g", "<", "th", ")", "and", "outputs", "the", "new", "pre-", "diction", "for", "the", "ones", "where", "it", "is", "now", "sufficiently", "confident", "This", "typically", "leads", "to", "an", "increase", "in", "the", "coverage", "of", "the", "system", "with", "some", "change", "in", "the", "risk", "value", ";", "let", "the", "new", "coverage", "and", "risk", "be", "cov′", "th", "andrisk′", "threspectively", "From", "the", "risk", "-", "coverage", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "thand", "compare", "it", "with", "risk′", "thto", "measure", "the", "efficacy", "of", "the", "post", "-", "abstention", "method", "(", "refer", "to", "Figure", "2", ")", "For", "a", "method", "to", "have", "a", "positive", "impact", ",", "its", "risk", "(", "risk′", "th", ")", "should", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "We", "summarize", "this", "performance", "evaluation", "methodology", "in", "Figure", "2", "To", "get", "an", "overall", "performance", "estimate", "of", "a", "post-", "Figure", "2", ":", "Summarizing", "performance", "evaluation", "methodology", "of", "post", "-", "abstention", "Given", "a", "selective", "pre-", "diction", "system", "with", "coverage", "covthand", "risk", "risk", "that", "activation", ",", "let", "the", "new", "coverage", "and", "risk", "after", "applying", "a", "post", "-", "abstention", "method", "be", "cov′", "thand", "risk′", "threspectively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ "From", "the", "MCC", "curve", "of", "the", "given", "system", ",", "we", "calculate", "its", "risk", "at", "coverage", "cov′", "th", "and", "compare", "it", "with", "risk′", "th", "(", "diff", ")" ]

[ "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "the", "method", "to", "have", "a", "positive", "impact", ",", "risk′", "thshould", "be", "lower", "than", "the", "risk", "of", "the", "given", "system", "at", "coverage", "cov′", "th", "abstention", "method", ",", "we", "compile", "these", "differences", "in", "F1_score", "for", "all", "positional", "encoding", "and", "cal-", "culate", "an", "aggregated", "value" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O" ]

[ "The", "higher", "the", "overall", "improvement", "value", ",", "the", "more", "effective", "the", "method", "is", "We", "note", "that", "this", "evaluation", "methodology", "is", "fair", "and", "accurate", "as", "it", "conducts", "pair", "-", "wise", "comparisons", "atequal", "coverage", "points", "An", "alternative", "perfor-", "mance", "metric", "could", "be", "model_size", "but", "it", "computes", "the", "overall", "area", "ignoring", "the", "pair", "-", "wise", "comparisons", "which", "are", "crucial", "for", "our", "task", "because", "the", "cover-", "age", "points", "of", "the", "original", "system", "would", "be", "different", "from", "those", "achieved", "by", "the", "post", "-", "abstention", "method" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "2.3", "Approaches", "2.3.1", "Ensembling", "using", "Question", "Paraphrases", "It", "is", "well", "known", "that", "even", "state", "-", "of", "-", "the", "-", "art", "NLP", "models", "are", "often", "brittle", "i.e", "when", "small", "semantic-", "preserving", "changes", "are", "made", "to", "the", "input", ",", "their", "predictions", "tend", "to", "fluctuate", "greatly", "(", "Jia", "and", "Liang", ",", "2017", ";", "Belinkov", "and", "Bisk", ",", "2018", ";", "Iyyer", "et", "al", ",", "2018", ";", "Ribeiro", "et", "al", ",", "2018", ";", "Wallace", "et", "al", ",", "2019", ")", "En-", "sembling", "the", "predictions", "of", "the", "model", "on", "multiple", "semantically", "equivalent", "variants", "of", "the", "input", "is", "a", "promising", "approach", "to", "address", "this", "issue", "(", "Anantha", "et", "al", ",", "2021", ";", "Vakulenko", "et", "al", ",", "2021", ")", "as", "it", "can", "reduce", "the", "spread", "or", "dispersion", "of", "the", "predictions.969", "Figure", "3", ":", "Illustrating", "annotation", "procedure", "of", "REToP", "For", "each", "training", "instance", ",", "top", "N", "predictions", "given", "by", "the", "QA", "model", "are", "annotated", "conditioned", "on", "their", "correctness", "i.e", "correct", "predictions", "are", "annotated", "as", "‘", "1", "’", "and", "incorrect", "predictions", "are", "annotated", "as", "‘", "0", "’", "This", "annotated", "binary", "classification", "dataset", "is", "used", "to", "train", "the", "auxiliary", "model", "We", "leverage", "the", "above", "technique", "in", "re-", "attempting", "the", "abstained", "questions", "i.e", "we", "first", "generate", "multiple", "paraphrases", "of", "the", "input", "instance", "and", "then", "aggregate", "the", "model", "’s", "predictions", "on", "them", "We", "use", "BART", "-", "large", "(", "Lewis", "et", "al", ",", "2019", ")", "model", "fine", "-", "tuned", "on", "Quora", "Question", "Corpus", "(", "Iyer", "et", "al", ",", "2017", ")", ",", "PAWS", "(", "Zhang", "et", "al", ",", "2019", ")", ",", "and", "Microsoft", "Research", "Paraphrase", "Corpus", "(", "Dolan", "and", "Brockett", ",", "2005", ")", "for", "paraphrasing", "and", "explore", "the", "following", "strategies", "for", "aggregating", "the", "model", "predictions", ":", "•Mean", ":", "In", "this", "strategy", ",", "we", "calculate", "the", "average", "confidence", "assigned", "to", "each", "answer", "candidate", "across", "all", "predictions", "Then", ",", "we", "select", "the", "candi-", "date", "with", "the", "highest", "average", "confidence", "as", "the", "system", "’s", "prediction", "Note", "that", "the", "system", "will", "output", "this", "prediction", "only", "if", "its", "confidence", "sur-", "passes", "the", "abstention", "threshold", "•Max", ":", "Here", ",", "like", "the", "mean", "strategy", ",", "we", "select", "the", "answer", "candidate", "with", "the", "highest", "average", "confidence", "but", "we", "use", "the", "maximum", "confidence", "assigned", "to", "that", "candidate", "as", "its", "prediction", "con-", "fidence", "This", "is", "done", "to", "push", "the", "most", "confident", "prediction", "above", "the", "abstention", "threshold", "2.3.2", "Re", "-", "Examining", "Top", "N", "Predictions", "(", "REToP", ")", "State", "-", "of", "-", "the", "-", "art", "models", "have", "achieved", "impressive", "performance", "on", "numerous", "NLP", "tasks", "Even", "in", "cases", "where", "they", "fail", "to", "make", "a", "correct", "prediction", ",", "they", "are", "often", "able", "to", "rank", "the", "correct", "answer", "as", "one", "of", "their", "top", "N", "predictions", "This", "provides", "op-", "portunities", "for", "re", "-", "examining", "the", "top", "N", "predictions", "to", "identify", "the", "correct", "answer", "in", "case", "of", "abstention", "To", "this", "end", ",", "a", "model", "that", "can", "estimate", "the", "correct-", "ness", "of", "a", "prediction", "can", "be", "leveraged", "Following", "this", "intuition", ",", "we", "develop", "an", "auxiliary", "model", "that", "takes", "the", "context", ",", "question", ",", "and", "a", "prediction", "as", "in-", "put", "and", "assigns", "a", "score", "indicating", "the", "likelihoodof", "that", "prediction", "to", "be", "correct", "This", "model", "can", "be", "used", "for", "each", "of", "the", "top", "N", "predictions", "given", "by", "the", "QA", "model", "to", "select", "the", "one", "that", "is", "most", "likely", "to", "be", "the", "correct", "answer", "Training", "Auxiliary", "Model", ":", "We", "first", "create", "data", "instances", "by", "annotating", "(", "context", ",", "question", ",", "predic-", "tion", ")", "triplets", "conditioned", "on", "the", "correctness", "of", "the", "QA", "system", "’s", "predictions", "and", "then", "train", "a", "classifica-", "tion", "model", "using", "this", "data", "This", "model", "is", "specific", "to", "the", "given", "QA", "system", "and", "essentially", "learns", "to", "distinguish", "its", "correct", "and", "incorrect", "predictions", "•Annotate", "(", "context", ",", "question", ",", "prediction", ")", "triplets", ":", "We", "utilize", "the", "trained", "QA", "model", "to", "get", "its", "top", "N", "predictions", "for", "each", "training", "instance", "Then", ",", "we", "annotate", "each", "(", "context", ",", "question", ",", "pre-", "diction", ")", "triplet", "based", "on", "the", "prediction", "’s", "correct-", "ness", "i.e", "a", "correct", "prediction", "is", "annotated", "as", "‘", "1", "’", "and", "an", "incorrect", "prediction", "is", "annotated", "as", "‘", "0", "’", "Figure", "3", "illustrates", "this", "annotation", "step", "•Train", "a", "classification", "model", ":", "Then", ",", "a", "binary", "classification", "model", "is", "trained", "using", "the", "anno-", "tated", "dataset", "collected", "in", "the", "previous", "step", "This", "model", "specifically", "learns", "to", "distinguish", "the", "cor-", "rect", "predictions", "of", "the", "QA", "model", "from", "the", "incor-", "rect", "ones", "Softmax", "probability", "assigned", "to", "the", "label", "‘", "1", "’", "corresponds", "to", "the", "likelihood", "of", "correct-", "ness", "for", "each", "prediction", "Note", "that", "we", "use", "the", "QA", "model", "’s", "top", "N", "predictions", "to", "collect", "the", "‘", "0", "’", "annotations", "instead", "of", "randomly", "selecting", "candidates", "because", "this", "procedure", "results", "in", "highly", "informative", "negative", "instances", "(", "that", "are", "probable", "predictions", "and", "yet", "incorrect", ")", "and", "not", "easy", "/", "obvious", "negatives", "This", "can", "help", "the", "auxil-", "iary", "model", "in", "learning", "fine", "-", "grained", "representations", "distinguishing", "correct", "and", "incorrect", "predictions", "Leveraging", "Auxiliary", "Model", ":", "For", "an", "abstained", "instance", ",", "we", "compute", "the", "likelihood", "value", "for", "each970", "of", "the", "top", "Npredictions", "given", "by", "the", "QA", "model", "us-", "ing", "our", "trained", "auxiliary", "model", "Then", ",", "we", "calculate", "the", "overall", "confidence", "(", "c", ")", "of", "each", "prediction", "(", "p", ")", "as", "a", "weighted", "average", "of", "the", "QA", "model", "’s", "probability", "(", "sq", ")", "and", "the", "auxiliary", "model", "’s", "likelihood", "score", "(", "sa", ")", "i.e.cpis", "calculated", "as", ":", "cp", "=", "α∗sp", "q+", "(", "1−α", ")", "∗sp", "a", "where", "beam", "size", "a", "weight", "parameter" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O" ]

[ "We", "incorporate", "QA", "model", "’s", "probability", "as", "it", "pro-", "vides", "more", "flexibility", "to", "compute", "the", "overall", "confi-", "dence", "Finally", ",", "prediction", "with", "the", "highest", "overall", "confidence", "is", "selected", "as", "the", "new", "prediction", "We", "differentiate", "this", "method", "from", "existing", "methods", "such", "as", "calibration", "in", "Appendix", "C", "2.3.3", "Human", "Intervention", "(", "HI", ")", "In", "intolerant", "application", "domains", "such", "as", "biomedi-", "cals", "where", "incorrect", "predictions", "can", "have", "serious", "consequences", ",", "human", "intervention", "is", "the", "most", "re-", "liable", "technique", "to", "answer", "the", "abstained", "instances", "Human", "intervention", "can", "be", "in", "various", "forms", "such", "as", "providing", "relevant", "knowledge", "to", "the", "model", ",", "ask-", "ing", "clarifying", "questions", "(", "Rao", "and", "Daumé", "III", ",", "2018", ")", "or", "simplifying", "the", "input", "question", "In", "this", "work", ",", "we", "explore", "a", "simple", "human", "intervention", "approach", "in", "which", "the", "system", "provides", "multiple", "predictions", "instead", "of", "only", "one", "prediction", "for", "the", "abstained", "instances", "The", "human", "can", "then", "select", "the", "most", "suitable", "prediction", "from", "the", "provided", "predictions", "Performance", "of", "this", "method", "can", "be", "approximated", "based", "on", "the", "presence", "of", "the", "correct", "answer", "in", "the", "predictions", "provided", "to", "the", "human", "Note", "that", "the", "above", "approach", "would", "answer", "all", "the", "abstained", "in-", "stances", "and", "hence", "the", "Kendall", "would", "always", "be", "100", "%" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "B-MetricValue", "I-MetricValue" ]

[ "This", "implies", "that", "with", "the", "increase", "in", "layer", "norm", ",", "the", "MSE", "would", "monotonically", "decrease", "as", "multiple", "predictions", "would", "be", "returned", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "the", "above", "approach", ",", "we", "also", "ex-", "plore", "a", "REToP", "-", "centric", "HI", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "RE-", "ToP", "surpasses", "the", "hidden", "size", "in", "the", "post-", "abstention", "stage" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O" ]

[ "Similar", "to", "REToP", ",", "it", "abstains", "on", "the", "remaining", "instances", "Finally", ",", "we", "note", "that", "comparing", "the", "performance", "of", "HI", "approaches", "with", "other", "post", "-", "abstention", "approaches", "would", "be", "unfair", "as", "other", "approaches", "return", "only", "a", "single", "prediction", "We", "use", "the", "pre-", "processed", "data", "from", "the", "MRQA", "shared", "task", "(", "Fisch", "et", "al", ",", "2019", ")", "for", "our", "experiments", "Implementation", "Details", ":", "We", "run", "all", "our", "exper-", "iments", "using", "the", "huggingface", "(", "Wolf", "et", "al", ",", "2020", ")", "implementation", "of", "transformers", "on", "Nvidia", "V100", "16", "GB", "GPUs", "with", "a", "batch", "size", "of", "32and", "learning", "rate", "ranging", "in", "{", "1−5", "}", "e−5", "We", "generate", "10para-", "optimizer", "in", "Ensembling", "method", ",", "re-", "examine", "top", "10predictions", ",", "vary", "learning", "rate", "the", "range", "0.3−0.7for", "REToP", "method", ",", "and", "vary", "the", "batch", "size", "in", "the", "range", "2to5for", "HI", "methods" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterValue", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterValue", "B-MethodName", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "B-HyperparameterValue", "B-MethodName", "O" ]

[ "Since", "the", "focus", "of", "this", "work", "is", "on", "post", "-", "abstention", ",", "it", "’s", "crucial", "to", "experiment", "with", "models", "that", "leave", "sufficient", "room", "for", "effectively", "evaluating", "the", "ability", "of", "post", "-", "abstention", "methods", "For", "that", "reason", ",", "we", "ex-", "periment", "with", "a", "small", "size", "model", "(", "BERT", "-", "mini", "hav-", "ing", "just", "11.3", "M", "parameters", ")", "from", "Turc", "et", "al", "(", "2019", ")", "for", "our", "experiments", "However", ",", "we", "note", "that", "our", "methods", "are", "general", "and", "applicable", "for", "all", "models", "3.2", "Results", "3.2.1", "REToP", "Table", "1", "shows", "the", "post", "-", "abstention", "performance", "of", "REToP", "for", "selected", "tokenizer" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName" ]

[ "The", "last", "column", "(", "‘", "MAP", "’", ")", "in", "this", "ta-", "ble", "corresponds", "to", "the", "overall", "improvement", "aggre-", "gated", "over", "all", "num", "layers" ]

[ "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "It", "can", "be", "observed", "that", "REToP", "achieves", "considerable", "MSE", "both", "in", "the", "in", "-", "domain", "setting", "(", "21.81", "on", "SQuAD", ")", "and", "the", "out", "-", "of", "-", "domain", "settings", "(", "24.23", "on", "TextbookQA", ",", "21.54on", "HotpotQA", ",", "20.42on", "RE", ",", "etc", ")" ]

[ "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "B-MetricValue", "B-DatasetName", "O", "O", "O" ]

[ "Next", ",", "we", "analyze", "these", "results", "in", "detail", "Higher", "improvement", "on", "moderate", "confidences", ":", "In", "Figure", "4", ",", "we", "plot", "time_to_converge", "achieved", "by", "REToP", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "HotpotQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "num", "layers" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName" ]

[ "The", "QA", "model", "is", "trained", "using", "SQuAD", "training", "data", "and", "evaluated", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "10", "out", "-", "of", "-", "domain", "datasets", "For", "each", "dataset", ",", "we", "provide", "three", "rows", ":", "first", "row", "(", "‘", "Given", "’", ")", "shows", "the", "BLEU", "of", "the", "given", "selective", "prediction", "system", "at", "different", "tokenizer", ",", "second", "row", "(", "‘", "REToP", "’", ")", "shows", "the", "F1_score", "after", "applying", "REToP", "on", "abstained", "instances", "of", "the", "given", "system", ",", "and", "third", "row", "(", "‘", "G", "@", "REToP", "cov", "’", ")", "shows", "MSE" ]

[ "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName" ]

[ "For", "the", "post", "abstention", "method", "to", "be", "effective", ",", "F1_score", "in", "the", "second", "row", "should", "be", "less", "than", "that", "in", "the", "third", "row", "and", "the", "magnitude", "of", "difference", "corresponds", "to", "the", "improvement" ]

[ "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "corresponds", "to", "the", "overall", "improvement", "aggregated", "over", "all", "batch", "size", "ranging", "from", "0", "to", "1", "at", "an", "interval", "of", "0.02.↓and↑indicate", "that", "lower", "(", "risk", ")", "and", "higher", "(", "coverage", ",", "risk", "improvement", ")", "values", "are", "better", "respectively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "more", "on", "moderate", "thresholds", "as", "compared", "to", "low", "thresholds", "We", "attribute", "this", "to", "the", "high", "difficulty", "of", "instances", "that", "remain", "to", "be", "re", "-", "attempted", "at", "low", "thresholds", "i.e", "only", "the", "instances", "on", "which", "the", "given", "system", "was", "highly", "underconfident", "are", "left", "for", "the", "post", "-", "abstention", "method", "It", "has", "been", "shown", "that", "model", "’s", "confidence", "is", "negatively", "correlated", "with", "difficulty", "(", "Swayamdipta", "et", "al", ",", "2020", ";", "Rodriguez", "et", "al", ",", "2021", ";", "Varshney", "et", "al", ",", "2022b", ")", "implying", "that", "the", "remaining", "instances", "are", "tough", "to", "be", "answered", "correctly", "This", "justifies", "the", "lesser", "improvement", "in", "performance", "observed", "at", "low", "thresholds", "In", "-", "Domain", "vs", "Out", "-", "of", "-", "Domain", "Improvement", ":", "REToP", "achieves", "higher", "performance", "improvement", "on", "the", "in", "-", "domain", "dataset", "than", "the", "out", "-", "of", "-", "domain", "datasets", "(", "on", "average", ")", "This", "is", "expected", "as", "the", "auxil-", "Figure", "4", ":", "Improvement", "in", "risk", "achieved", "by", "using", "RE-", "ToP", "in", "post", "-", "abstention", "on", "SQuAD", "(", "in", "-", "domain", ")", "and", "Hot-", "potQA", "(", "out", "-", "of", "-", "domain", ")", "datasets", "for", "all", "confidences", "iary", "model", "in", "REToP", "is", "trained", "using", "the", "in", "-", "domain", "training", "data", "However", ",", "it", "still", "has", "good", "perfor-", "mance", "on", "out", "-", "of", "-", "domain", "datasets", "as", "the", "auxiliary", "model", "learns", "fine", "-", "grained", "representations", "to", "dis-", "tinguish", "between", "correct", "and", "incorrect", "predictions", "Furthermore", ",", "the", "improvement", "on", "out", "-", "of", "-", "domain972", "Dataset", "Ens", "*", "for", "HI", "indicates", "that", "it", "’s", "results", "are", "not", "directly", "comparable", "as", "it", "outputs", "multiple", "predictions", "while", "others", "output", "only", "one", "data", "varies", "greatly", "across", "datasets", "(", "from", "0.7", "on", "TriviaQA", "to", "24.23", "on", "TextbookQA", ")", "3.2.2", "Comparing", "Post", "-", "Abstention", "Approaches", "We", "provide", "the", "performance", "tables", "for", "other", "post-", "abstention", "approaches", "in", "Appendix", "However", ",", "we", "compare", "their", "total", "MSE", "in", "Table", "2" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "O", "B-DatasetName", "O", "B-MetricValue", "O", "B-DatasetName", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "In", "the", "in", "-", "domain", "setting", ",", "REToP", "achieves", "higher", "improvement", "than", "Ensembling", "method", "This", "is", "because", "the", "auxiliary", "model", "in", "RE-", "ToP", "has", "specifically", "learned", "to", "distinguish", "the", "cor-", "rect", "and", "incorrect", "predictions", "from", "the", "training", "data", "of", "this", "domain", "However", ",", "in", "some", "out", "-", "of", "-", "domain", "cases", ",", "Ensembling", "outperforms", "REToP", "(", "SearchQA", ",", "TriviaQA", ",", "NewsQA", ")", "Overall", ",", "REToP", "leads", "to", "a", "consistent", "and", "higher", "kappa", "on", "average" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O" ]

[ "Ensembling", "also", "leads", "to", "a", "minor", "degradation", "in", "a", "few", "out", "-", "of", "-", "domain", "datasets", "(", "DuoRC", "and", "Text-", "bookQA", ")", "Next", ",", "we", "analyze", "the", "performance", "of", "human", "intervention", "(", "HI", ")", "methods", "3.2.3", "Human", "Intervention", "(", "HI", ")", "We", "study", "two", "variants", "of", "HI", "method", "In", "the", "first", "variant", "hidden", "size", "(", "initializer", ")", "are", "returned", "for", "all", "the", "abstained", "instances" ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "makes", "the", "Spearman", "to", "be", "100", "%", "for", "all", "the", "confidences", ";", "therefore", ",", "we", "present", "only", "the", "AUC", "in", "Table", "3" ]

[ "O", "O", "O", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O" ]

[ "As", "ex-", "pected", ",", "with", "increase", "in", "attention", "type", ",", "the", "F1_score", "decreases", "because", "multiple", "predictions", "get", "out-", "putted", "for", "a", "larger", "number", "of", "instances" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Selection", "of", "operating", "threshold", "for", "an", "application", "depends", "on", "the", "trade", "-", "off", "between", "risk", "that", "can", "be", "tolerated", "and", "human", "effort", "required", "to", "select", "the", "most", "suit-", "able", "prediction", "from", "a", "set", "of", "predictions", "returned", "by", "the", "system", "be", "selected", "for", "tolerant", "applications", "like", "movie", "rec-", "ommendations", "and", "a", "high", "threshold", "for", "tolerant", "applications", "like", "house", "robots", "In", "the", "second", "variant", "of", "HI", "method", ",", "we", "study", "aREToP", "-", "centric", "approach", "in", "which", "the", "system", "returns", "multiple", "predictions", "only", "when", "REToP", "surpasses", "the", "attention", "type", "in", "the", "post-", "abstention", "stage" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O" ]

[ "The", "last", "column", "in", "Table", "2", "shows", "the", "AUC", "achieved", "by", "this", "approach", "(", "dropout", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "B-HyperparameterName", "O" ]