anlp/annotation2_wo_elimination · Datasets at Hugging Face

sentences sequence	ner_tags sequence
[ "Existing", "KBQA", "methods", "(", "Zhang", "et", "al", ".", ",", "2023", ")", "can", "be", "roughly", "categorized", "into", "retrieval-", "based", "and", "semantic", "-", "parsing", "(", "SP", ")", "based", "methods", "." ]	[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "former", "(", "Feng", "et", "al", ".", ",", "2021", ";", "He", "et", "al", ".", ",", "2021a", ";", "Zhang", "et", "al", ".", ",", "2022", ")", "directly", "scores", "the", "relevance", "between", "the", "question", "and", "answer", "candidates", ",", "thus", "it", "is", "difficult", "to", "resolve", "the", "complex", "questions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "On", "the", "contrary", ",", "some", "KBQA", "approaches", ",", "such", "as", "(", "Das", "et", "al", ".", ",", "2021", ";", "Kapanipathi", "et", "al", ".", ",", "2021", ";", "Qiu", "et", "al", ".", ",", "2020", ";", "Sun", "et", "al", ".", ",", "2020", ")", ",", "are", "based", "on", "semantic", "pars-", "ing", "(", "denoted", "as", "SP", "-", "based", ")", ",", "which", "can", "address", "com-", "plex", "questions", "and", "achieve", "promising", "results", "on", "i.i.d", "." ]	[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "datasets", "." ]	[ "O", "O" ]
[ "SP", "-", "based", "methods", "first", "translate", "the", "questions", "into", "logical", "expressions", "such", "as", "SPARQL", "and", "then", "execute", "them", "against", "KB", "to", "yield", "answers", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "∗Corresponding", "author", "." ]	[ "O", "O", "O" ]
[ "Figure", "1", ":", "Illustration", "of", "generalization", "tasks", "in", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]
[ "Each", "question", "is", "paired", "with", "a", "logical", "expression", "that", "consists", "of", "different", "components", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Components", "involved", "in", "the", "training", "data", "are", "colored", "in", "non", "-", "green", "color", ",", "while", "unseen", "components", "are", "colored", "in", "green", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "coarse", "-", "grained", "method", "directly", "matches", "the", "question", "with", "the", "logical", "expression", "(", "i.e.", ",", "the", "composition", "of", "components", ")", ",", "while", "the", "fine", "-", "grained", "method", "matches", "the", "question", "with", "each", "component", "candidate", "and", "then", "composes", "them", "to", "derive", "the", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "exact", "match", "accuracy", "of", "logical", "expressions", "on", "compositional", "generalization", "test", "data", "and", "zero", "-", "shot", "generalization", "test", "data", "is", "shown", "on", "the", "right", "of", "the", "figure", "." ]	[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "illustrated", "in", "Figure", "1", ",", "a", "logical", "expression", "con-", "sists", "of", "multiple", "components", "such", "as", "classes", "and", "relations", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Most", "existing", "SP", "-", "based", "approaches", "fail", "with", "logical", "expressions", "that", "contain", "unseen", "compo-", "sitions", "of", "components", "(", "called", "compositional", "gener-", "alization", ")", "or", "unseen", "components", "(", "called", "zero", "-", "shot", "generalization", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O" ]
[ "To", "address", "the", "above", "problem", ",", "GrailQA-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", "proposes", "a", "BERT", "-", "based", "rank", "model", "to", "match", "the", "given", "question", "with", "each", "logical", "expression", "candidate", ",", "which", "leverages", "the", "generalization", "abilities", "of", "the", "pre", "-", "trained", "language", "models", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "On", "top", "of", "that", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",1002", "2022", ")", "further", "uses", "a", "pre", "-", "trained", "generation", "model", ",", "which", "takes", "top-5", "ranked", "logical", "expressions", "as", "the", "additional", "input", "beyond", "the", "question", "to", "generate", "the", "target", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Behind", "these", "main-", "stream", "models", ",", "a", "logical", "expression", "is", "viewed", "as", "an", "inseparable", "unit", "during", "modeling", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Actually", ",", "logical", "expressions", "are", "coarse", "-", "grained", "because", "they", "can", "be", "decomposed", "into", "relatively", "fine", "-", "grained", "com-", "ponents", "including", "relations", ",", "classes", ",", "entities", ",", "and", "logical", "skeletons", "(", "See", "examples", "in", "Figure", "3", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "coarse", "-", "grained", "modeling", "entangles", "representations", "of", "fine", "-", "grained", "components", ",", "thereby", "overfitting", "the", "seen", "compositions", "during", "the", "training", "process", ",", "which", "weakens", "the", "model", "’s", "compositional", "general-", "ization", "ability", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Meanwhile", ",", "even", "though", "pre", "-", "trained", "language", "models", "can", "deal", "with", "zero", "-", "shot", "compo-", "nents", "to", "some", "extent", ",", "compositional", "overfit", "reduces", "their", "ability", "to", "identify", "individual", "unseen", "compo-", "nents", "with", "zero", "-", "shot", "generalization", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "To", "demonstrate", "the", "above", "idea", ",", "we", "perform", "a", "pilot", "study", "(", "Cf", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "the", "detailed", "settings", "in", "Section", "4.1", ")", "with", "two", "preliminary", "experiments", ":", "one", "calculates", "the", "similarity", "score", "between", "a", "question", "and", "each", "coarse", "-", "grained", "logical", "expression", "to", "obtain", "the", "most", "relevant", "one", ",", "and", "the", "other", "searches", "the", "most", "relevant", "fine", "-", "grained", "components", "to", "form", "the", "final", "logical", "expression", "of", "a", "question", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "observe", "that", "the", "fine", "-", "grained", "modeling", "derives", "more", "accurate", "logical", "expressions", "on", "both", "the", "compositional", "task", "and", "zero", "-", "shot", "task", "(", "Cf", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O" ]
[ "It", "could", "be", "explained", "that", "fine", "-", "grained", "modeling", "focuses", "ex-", "clusively", "on", "each", "component", ",", "avoiding", "overfitting", "of", "seen", "compositions", "in", "the", "training", "data", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Although", "some", "studies", "attempt", "to", "leverage", "fine", "-", "grained", "com-", "ponents", ",", "they", "only", "consider", "partial", "fine", "-", "grained", "components", "such", "as", "relations", ",", "classes", ",", "and", "entities", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "or", "suffer", "from", "inexecutability", "due", "to", "disconnected", "fine", "-", "grained", "components", "in", "real", "KBs", "(", "Shu", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Thus", ",", "to", "both", "ensure", "the", "generalization", "ability", "and", "executability", "of", "logical", "expressions", ",", "we", "pro-", "pose", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "(", "FC", "-", "KBQA", ")", ",", "which", "contains", "three", "sub-", "modules", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "overview", "of", "our", "model", "is", "shown", "in", "Figure", "4", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "first", "module", "is", "fine", "-", "grained", "com-", "ponent", "detection", ",", "which", "detects", "all", "kinds", "of", "fine-", "grained", "component", "candidates", "from", "Freebase", "by", "their", "semantic", "similarities", "with", "the", "question", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "component", "detection", "guarantees", "the", "generalization", "ability", "in", "both", "compositional", "and", "zero", "-", "shot", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "second", "module", "is", "the", "middle", "-", "grained", "compo", "-", "nent", "constraint", ",", "which", "efficiently", "prunes", "and", "com-", "poses", "the", "fine", "-", "grained", "component", "candidates", "by", "en-", "suring", "the", "components", "’", "connectivity", "in", "the", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "final", "module", "is", "the", "coarse", "-", "grained", "component", "com-", "position", ",", "which", "employs", "a", "seq", "-", "to", "-", "seq", "generation", "model", "to", "generate", "the", "executable", "coarse", "-", "grained", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "addition", "to", "encode", "the", "fine-", "grained", "components", ",", "the", "middle", "-", "grained", "compo-", "nents", "are", "also", "encoded", "to", "enhance", "the", "model", "’s", "rea-", "soning", "capacity", ",", "so", "as", "to", "improve", "the", "executability", "of", "the", "generated", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "In", "contrast", "to", "previous", "work", "(", "Cao", "et", "al", ".", ",", "2022b", ";", "Chen", "et", "al", ".", ",", "2021", ";", "Shu", "et", "al", ".", ",", "2022", ")", "that", "only", "uses", "the", "knowl-", "edge", "constraints", "to", "guide", "the", "decoding", "process", ",", "we", "emphasize", "injecting", "them", "into", "the", "encoding", "pro-", "cess", ",", "because", "the", "encoder", "which", "learns", "bidirec-", "tional", "context", "could", "better", "suit", "natural", "language", "understanding", "(", "Du", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "conduct", "extensive", "experiments", "on", "widely", "used", "GrailQA", ",", "WebQSP", ",", "and", "CWQ", "datasets", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O" ]
[ "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", "is", "a", "KBQA", "bench-", "mark", "focusing", "on", "generalization", "problems", "." ]	[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]
[ "FC-", "KBQA", "derives", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "on", "GrailQA", "-", "Dev", "(", "+7.6", "%", "F1", "gain", "and", "+7.0", "%", "EM", "gain", "respectively", ")", "." ]	[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O" ]
[ "Meanwhile", ",", "FC", "-", "KBQA", "also", "obtains", "good", "performance", "on", "WebQSP", "and", "CWQ", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O" ]
[ "Moreover", ",", "FC", "-", "KBQA", "runs", "4", "times", "faster", "than", "the", "state", "-", "of", "-", "the", "-", "art", "baseline", "RNG", "-", "KBQA", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]
[ "The", "abla-", "tion", "studies", "demonstrate", "the", "effect", "of", "our", "middle-", "grained", "encoding", "strategy", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Contributions", "." ]	[ "O", "O" ]
[ "(", "1", ")", "We", "conduct", "a", "pilot", "study", "to", "reveal", "an", "intriguing", "phenomenon", "—", "a", "fine", "-", "grained", "understanding", "of", "the", "logical", "expression", "helps", "en-", "hance", "the", "generalization", "ability", "of", "SP", "-", "based", "KBQA", "methods", ",", "which", "is", "rarely", "discussed", "before", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "2", ")", "We", "propose", "a", "fine", "-", "to", "-", "coarse", "composition", "framework", "FC", "-", "KBQA", "to", "address", "the", "generalization", "problem", ",", "which", "takes", "advantage", "of", "the", "idea", "of", "fine", "-", "grained", "modeling", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "3", ")", "We", "devise", "a", "middle", "-", "grained", "compo-", "nent", "constraint", "that", "is", "injected", "into", "both", "the", "encoder", "and", "the", "decoder", "to", "guide", "the", "seq", "-", "to", "-", "seq", "model", "in", "producing", "executable", "logical", "expressions", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "(", "4", ")", "FC", "-", "KBQA", "not", "only", "maintains", "efficiency", "but", "also", "achieves", "significant", "improvement", "on", "GrailQA", "." ]	[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]
[ "2", "Related", "Work", "Coarse", "-", "Grained", "SP", "-", "based", "Methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Many", "ef-", "forts", "are", "paid", "to", "solve", "generalization", "problems", "on", "SP", "-", "based", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Some", "approaches", ",", "such", "as", "(", "Lan", "and", "Jiang", ",", "2020", ";", "Gu", "et", "al", ".", ",", "2021", ")", ",", "use", "a", "rank", "-", "based", "model", "that", "takes", "advantage", "of", "a", "coarse", "-", "level", "match1003", "between", "the", "question", "and", "the", "logical", "expressions", "or", "query", "graphs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "They", "first", "enumerate", "numerous", "query", "graph", "candidates", "based", "on", "KBs", "and", "then", "they", "rank", "them", "according", "to", "how", "relevant", "they", "are", "to", "the", "ques-", "tion", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Another", "line", "of", "approaches", ",", "in", "addition", "to", "the", "rank", "-", "based", "ones", ",", "makes", "use", "of", "a", "generation", "model", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "KQAPro", "(", "Cao", "et", "al", ".", ",", "2022a", ")", "leverages", "BART", "to", "directly", "convert", "questions", "into", "logical", "expressions", "." ]	[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Additionally", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "further", "injects", "top", "-", "k", "ranked", "logical", "expressions", "as", "an", "ad-", "ditional", "input", "to", "the", "question", "." ]	[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "CBR", "-", "KBQA", "(", "Das", "et", "al", ".", ",", "2021", ")", "injects", "analogous", "questions", "and", "their", "corresponding", "logical", "expressions", "from", "the", "training", "data", "to", "increase", "the", "generalization", "." ]	[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "All", "of", "the", "afore-", "mentioned", "methods", "are", "pure", "coarse", "-", "level", "frame-", "works", "that", "treat", "each", "coarse", "-", "grained", "logical", "expres-", "sion", "as", "a", "separate", "unit", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Fine", "-", "Grained", "SP", "-", "based", "Methods", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Many", "re-", "searchers", "have", "been", "motivated", "to", "address", "the", "gen-", "eralization", "issue", "by", "the", "notion", "of", "utilizing", "decom-", "posed", "components", ",", "such", "as", "class", ",", "relation", ",", "and", "log-", "ical", "skeleton", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Some", "approaches", "(", "Wang", "et", "al", ".", ",", "2020", ";", "Zhao", "et", "al", ".", ",", "2022", ";", "Li", "et", "al", ".", ",", "2023", ")", "retrieve", "the", "rele-", "vant", "schema", "item", "such", "as", "relation", "and", "column", "as", "additional", "fine", "-", "grained", "input", "information", ",", "while", "an-", "other", "line", "of", "approaches", "(", "Dong", "and", "Lapata", ",", "2018", ")", "extracts", "the", "skeleton", "of", "logical", "expression", "as", "the", "de-", "coder", "guide", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Such", "methods", "primarily", "concentrate", "on", "the", "grammar", "of", "logical", "expression", "and", "often", "ignore", "the", "knowledge", "constraint", ",", "which", "is", "essen-", "tial", "in", "large", "-", "scale", "KB", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "They", "usually", "focus", "on", "KBs", "or", "DBs", "that", "contain", "a", "small", "number", "of", "relations", "where", "a", "logical", "expression", "can", "be", "easy", "to", "be", "exe-", "cutable", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Program", "Transfer", "(", "Cao", "et", "al", ".", ",", "2022b", ")", ",", "Re-", "Track", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "and", "TIARA", "(", "Shu", "et", "al", ".", ",", "2022", ")", "simply", "apply", "KB", "constraints", "to", "control", "the", "generation", "of", "the", "decoding", "process", "." ]	[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "As", "opposed", "to", "them", ",", "we", "make", "use", "of", "middle", "-", "grained", "KB", "con-", "straints", "during", "both", "the", "encoding", "and", "the", "decoding", "processes", "to", "help", "the", "model", "better", "adapt", "to", "KB", "and", "ensure", "executability", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "3", "Problem", "Definition", "Knowledge", "Base", "(", "KB", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "KB", "is", "comprised", "by", "ontology", "{", "(", "C×R×C", ")", "}", "and", "relational", "facts", "{", "(", "E×R×", "(", "E∪C", ")", ")", "}", ",", "where", "R", ",", "C", ",", "andEdenote", "relation", "set", ",", "class", "set", ",", "and", "entity", "set", "respectively", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Notably", ",", "we", "consider", "literal", "as", "a", "special", "type", "of", "en-", "tity", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Specifically", ",", "an", "ontology", "triple", "(", "cd", ",", "r", ",", "cr", ")", "con-", "sists", "of", "a", "relation", "r∈R", ",", "a", "domain", "class", "cdwhich", "denotes", "the", "class", "of", "the", "subject", "entities", ",", "and", "a", "rangeclasscrwhich", "denotes", "the", "class", "of", "the", "object", "enti-", "ties", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Each", "class", "has", "multiple", "entities", ",", "thus", "an", "ontol-", "ogy", "triplet", "can", "be", "instantiated", "as", "several", "relational", "facts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "example", ",", "both", "(", "e1", ",", "r", ",", "e", "2", ")", "and", "(", "e3", ",", "r", ",", "e", "4", ")", "correspond", "to", "(", "cd", ",", "r", ",", "cr", ")", ",", "where", "e1", ",", "e3∈cdand", "e2", ",", "e4∈cr", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Figure", "3", "illustrates", "a", "KB", "subgraph", "." ]	[ "O", "O", "O", "O", "O", "O", "O" ]
[ "SP", "-", "based", "KBQA", "." ]	[ "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]
[ "Given", "a", "natural", "question", "q", ",", "KBQA", "models", "aim", "to", "find", "a", "set", "of", "entities", "denoted", "byA⊆Efrom", "KB", "as", "the", "answers", "to", "q", "." ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Instead", "of", "directly", "predicting", "A", ",", "SP", "-", "based", "KBQA", "models", "translate", "qto", "an", "executable", "logical", "expression", "de-", "noted", "by", "ssuch", "as", "SPARQL", ",", "lambda", "-", "DCS", "(", "Liang", "et", "al", ".", ",", "2013", ")", ",", "query", "graph", "(", "Lan", "and", "Jiang", ",", "2020", ")", ",", "and", "s", "-", "expression", "(", "Gu", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "select", "s", "-", "expression", "as", "our", "used", "logical", "ex-", "pression", "since", "it", "could", "provide", "a", "good", "trade", "-", "off", "on", "compactness", ",", "compositionality", ",", "and", "readabil-", "ity", "(", "Gu", "et", "al", ".", ",", "2021", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "logical", "skeleton", "of", "an", "s", "-", "expression", "can", "be", "derived", "by", "removing", "all", "the", "relations", ",", "classes", ",", "and", "entities", "in", "the", "expression", "and", "only", "keeping", "function", "operators", "and", "parenthe-", "ses", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Specifically", ",", "we", "replace", "relations", ",", "classes", ",", "enti-", "ties", ",", "literals", "with", "special", "tokens", "“", "<", "rel", ">", "”", ",", "“", "<", "class", ">", "”", ",", "“", "<", "entity", ">", "”", ",", "“", "<", "literal", ">", "”", "respectively", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Figure", "3", "shows", "an", "executable", "logical", "expression", "on", "the", "KB", "and", "its", "corresponding", "logical", "skeleton", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "We", "unitedly", "name", "the", "relations", ",", "classes", ",", "entities", ",", "and", "logical", "skeleton", "in", "an", "s", "-", "expression", "as", "the", "fine", "-", "grained", "component", ",", "while", "the", "complete", "s", "-", "expression", "is", "thecoarse", "-", "grained", "logical", "expression", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "4", "Approach", "4.1", "Pilot", "Study", "As", "analyzed", "in", "Section", "1", ",", "considering", "the", "logical", "expression", "as", "a", "unit", "will", "lead", "to", "entangled", "represen-", "tations", "of", "fine", "-", "grained", "components", "and", "thus", "weak-", "ens", "generalization", "ability", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Here", "we", "study", "the", "ne-", "cessity", "of", "fine", "-", "grained", "modeling", "by", "testing", "how", "coarse", "-", "grained", "and", "fine", "-", "grained", "matching", "methods", "perform", "when", "selecting", "a", "question", "’s", "logical", "expres-", "sion", "from", "the", "corresponding", "candidate", "pool", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Dataset", "." ]	[ "O", "O" ]
[ "To", "simplify", "the", "experiment", ",", "we", "extract", "a", "toy", "dataset", "that", "only", "involves", "1", "-", "hop", "logical", "expres-", "sions", "from", "GrailQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]
[ "Then", ",", "for", "the", "relation", "rand", "the", "class", "cin", "such", "logical", "expressions", ",", "we", "study", "the", "compositional", "generalization", "where", "the", "compo-", "sition", "(", "r", ",", "c", ")", "is", "unseen", "or", "zero", "-", "shot", "generalization", "where", "the", "individual", "rorcis", "unseen", "in", "the", "training", "data", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "each", "question", "with", "its", "ground", "-", "truth", "logi-", "cal", "expression", ",", "we", "select", "100", "logical", "expressions1004", "Figure", "3", ":", "Illustration", "of", "a", "KB", "subgraph", "and", "an", "exe-", "cutable", "logical", "expression", ",", "where", "the", "ovals", "denote", "the", "entities", ",", "the", "rectangles", "denote", "the", "classes", ",", "the", "solid", "lines", "denote", "the", "relations", ",", "and", "the", "dashed", "lines", "connect", "the", "entities", "and", "their", "classes", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "upper", "part", "of", "the", "subgraph", "illustrates", "examples", "of", "ontology", "triplets", ",", "while", "the", "bot-", "tom", "illustrates", "relational", "facts", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "that", "share", "the", "same", "domain", "as", "the", "ground", "truth", "as", "the", "coarse", "-", "grained", "expression", "candidates", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "fair", "comparison", ",", "we", "separate", "all", "of", "the", "relations", ",", "classes", ",", "and", "logical", "skeletons", "from", "the", "coarse", "-", "grained", "can-", "didates", "as", "the", "fine", "-", "grained", "component", "candidates", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Methods", "." ]	[ "O", "O" ]
[ "We", "aim", "to", "find", "the", "target", "logical", "expres-", "sion", "of", "a", "given", "question", "by", "a", "ranking", "model", "trained", "with", "a", "contrastive", "loss", "(", "Chen", "et", "al", ".", ",", "2020", ")", ",", "which", "is", "also", "used", "by", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "coarse", "-", "grained", "method", "concatenates", "a", "question", "and", "a", "candidate", "logical", "expression", "to", "feed", "into", "BERT", ",", "then", "the", "output", "embedding", "of", "[", "CLS", "]", "is", "fed", "into", "a", "linear", "layer", "to", "compute", "the", "similarity", "score", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "fine", "-", "grained", "method", "follows", "the", "above", "pipeline", ",", "but", "the", "input", "is", "the", "concatenation", "of", "a", "question", "and", "a", "fine", "-", "grained", "candidate", "component", ",", "then", "scores", "each", "logical", "expression", "candidate", "by", "summing", "up", "the", "normalized", "question", "-", "component", "similarity", "scores", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "For", "both", "methods", ",", "we", "compute", "accuracy", "by", "evalu-", "ating", "whether", "the", "ground", "-", "truth", "logical", "expression", "owns", "the", "highest", "score", "in", "the", "candidate", "pool", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Observation", "—", "Fine", "-", "grained", "modeling", "can", "bet-", "ter", "solve", "the", "generalization", "problems", "on", "KBQA", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]
[ "The", "matching", "accuracy", "is", "reported", "in", "Figure", "2", "." ]	[ "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O" ]
[ "The", "fine", "-", "grained", "method", "outperforms", "the", "coarse-", "grained", "method", "in", "both", "composition", "generaliza-", "tion", "and", "zero", "-", "shot", "generalization", "tasks", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "A", "possi-", "ble", "explanation", "is", "the", "fine", "-", "grained", "matching", "fo", "-", "cuses", "solely", "on", "each", "component", "and", "is", "simple", "to", "learn", ",", "which", "better", "capture", "the", "semantic", "informa-", "tion", "of", "each", "component", "and", "also", "well", "adaptable", "to", "express", "the", "various", "compositions", "of", "components", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "The", "coarse", "-", "grained", "matching", ",", "on", "the", "other", "hand", ",", "at-", "tempts", "to", "describe", "all", "of", "the", "components", "as", "a", "whole", "composition", ",", "limiting", "the", "ability", "to", "express", "unseen", "compositions", "and", "components", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Inspired", "by", "this", ",", "we", "propose", "FC", "-", "KBQA", "in", "the", "next", "section", "." ]	[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O" ]
[ "4.2", "Model", "Overview", "We", "propose", "a", "fine", "-", "to", "-", "coarse", "composition", "frame-", "work", "FC", "-", "KBQA", "bridged", "by", "a", "middle", "-", "grained", "KB", "constraint", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Figure", "4", "illustrates", "the", "overall", "frame-", "work", ",", "which", "contains", "three", "parts", ":", "Fine", "-", "grained", "Component", "Detection", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Given", "a", "question", ",", "we", "extract", "relation", "candidates", "and", "class", "candidates", "from", "the", "whole", "KB", "based", "on", "seman-", "tic", "similarity", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Simultaneously", ",", "we", "adopt", "an", "entity", "linker", "to", "detect", "mentioned", "entities", "and", "use", "a", "seq", "-", "to-", "seq", "model", "to", "generate", "logical", "skeletons", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]
[ "Middle", "-", "grained", "Component", "Constraint", "." ]	[ "O", "O", "O", "O", "O", "O" ]
[ "Based", "on", "the", "detected", "components", ",", "we", "devise", "an", "efficient", "way", "to", "check", "the", "connectivity", "of", "component", "pairs", "on", "the", "KB", ",", "including", "class", "-", "relation", "pairs", ",", "relation-", "relation", "pairs", ",", "and", "relation", "-", "entity", "pairs", "." ]	[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Existing", "KBQA", "methods", "(", "Zhang", "et", "al", ".", ",", "2023", ")", "can", "be", "roughly", "categorized", "into", "retrieval-", "based", "and", "semantic", "-", "parsing", "(", "SP", ")", "based", "methods", "." ]

[ "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "former", "(", "Feng", "et", "al", ".", ",", "2021", ";", "He", "et", "al", ".", ",", "2021a", ";", "Zhang", "et", "al", ".", ",", "2022", ")", "directly", "scores", "the", "relevance", "between", "the", "question", "and", "answer", "candidates", ",", "thus", "it", "is", "difficult", "to", "resolve", "the", "complex", "questions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "the", "contrary", ",", "some", "KBQA", "approaches", ",", "such", "as", "(", "Das", "et", "al", ".", ",", "2021", ";", "Kapanipathi", "et", "al", ".", ",", "2021", ";", "Qiu", "et", "al", ".", ",", "2020", ";", "Sun", "et", "al", ".", ",", "2020", ")", ",", "are", "based", "on", "semantic", "pars-", "ing", "(", "denoted", "as", "SP", "-", "based", ")", ",", "which", "can", "address", "com-", "plex", "questions", "and", "achieve", "promising", "results", "on", "i.i.d", "." ]

[ "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "datasets", "." ]

[ "O", "O" ]

[ "SP", "-", "based", "methods", "first", "translate", "the", "questions", "into", "logical", "expressions", "such", "as", "SPARQL", "and", "then", "execute", "them", "against", "KB", "to", "yield", "answers", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "∗Corresponding", "author", "." ]

[ "O", "O", "O" ]

[ "Figure", "1", ":", "Illustration", "of", "generalization", "tasks", "in", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "Each", "question", "is", "paired", "with", "a", "logical", "expression", "that", "consists", "of", "different", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Components", "involved", "in", "the", "training", "data", "are", "colored", "in", "non", "-", "green", "color", ",", "while", "unseen", "components", "are", "colored", "in", "green", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "coarse", "-", "grained", "method", "directly", "matches", "the", "question", "with", "the", "logical", "expression", "(", "i.e.", ",", "the", "composition", "of", "components", ")", ",", "while", "the", "fine", "-", "grained", "method", "matches", "the", "question", "with", "each", "component", "candidate", "and", "then", "composes", "them", "to", "derive", "the", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "exact", "match", "accuracy", "of", "logical", "expressions", "on", "compositional", "generalization", "test", "data", "and", "zero", "-", "shot", "generalization", "test", "data", "is", "shown", "on", "the", "right", "of", "the", "figure", "." ]

[ "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "illustrated", "in", "Figure", "1", ",", "a", "logical", "expression", "con-", "sists", "of", "multiple", "components", "such", "as", "classes", "and", "relations", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Most", "existing", "SP", "-", "based", "approaches", "fail", "with", "logical", "expressions", "that", "contain", "unseen", "compo-", "sitions", "of", "components", "(", "called", "compositional", "gener-", "alization", ")", "or", "unseen", "components", "(", "called", "zero", "-", "shot", "generalization", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O" ]

[ "To", "address", "the", "above", "problem", ",", "GrailQA-", "Rank", "(", "Gu", "et", "al", ".", ",", "2021", ")", "proposes", "a", "BERT", "-", "based", "rank", "model", "to", "match", "the", "given", "question", "with", "each", "logical", "expression", "candidate", ",", "which", "leverages", "the", "generalization", "abilities", "of", "the", "pre", "-", "trained", "language", "models", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "On", "top", "of", "that", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",1002", "2022", ")", "further", "uses", "a", "pre", "-", "trained", "generation", "model", ",", "which", "takes", "top-5", "ranked", "logical", "expressions", "as", "the", "additional", "input", "beyond", "the", "question", "to", "generate", "the", "target", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Behind", "these", "main-", "stream", "models", ",", "a", "logical", "expression", "is", "viewed", "as", "an", "inseparable", "unit", "during", "modeling", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Actually", ",", "logical", "expressions", "are", "coarse", "-", "grained", "because", "they", "can", "be", "decomposed", "into", "relatively", "fine", "-", "grained", "com-", "ponents", "including", "relations", ",", "classes", ",", "entities", ",", "and", "logical", "skeletons", "(", "See", "examples", "in", "Figure", "3", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "coarse", "-", "grained", "modeling", "entangles", "representations", "of", "fine", "-", "grained", "components", ",", "thereby", "overfitting", "the", "seen", "compositions", "during", "the", "training", "process", ",", "which", "weakens", "the", "model", "’s", "compositional", "general-", "ization", "ability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "even", "though", "pre", "-", "trained", "language", "models", "can", "deal", "with", "zero", "-", "shot", "compo-", "nents", "to", "some", "extent", ",", "compositional", "overfit", "reduces", "their", "ability", "to", "identify", "individual", "unseen", "compo-", "nents", "with", "zero", "-", "shot", "generalization", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "demonstrate", "the", "above", "idea", ",", "we", "perform", "a", "pilot", "study", "(", "Cf", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "the", "detailed", "settings", "in", "Section", "4.1", ")", "with", "two", "preliminary", "experiments", ":", "one", "calculates", "the", "similarity", "score", "between", "a", "question", "and", "each", "coarse", "-", "grained", "logical", "expression", "to", "obtain", "the", "most", "relevant", "one", ",", "and", "the", "other", "searches", "the", "most", "relevant", "fine", "-", "grained", "components", "to", "form", "the", "final", "logical", "expression", "of", "a", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "observe", "that", "the", "fine", "-", "grained", "modeling", "derives", "more", "accurate", "logical", "expressions", "on", "both", "the", "compositional", "task", "and", "zero", "-", "shot", "task", "(", "Cf", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O" ]

[ "It", "could", "be", "explained", "that", "fine", "-", "grained", "modeling", "focuses", "ex-", "clusively", "on", "each", "component", ",", "avoiding", "overfitting", "of", "seen", "compositions", "in", "the", "training", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Although", "some", "studies", "attempt", "to", "leverage", "fine", "-", "grained", "com-", "ponents", ",", "they", "only", "consider", "partial", "fine", "-", "grained", "components", "such", "as", "relations", ",", "classes", ",", "and", "entities", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "or", "suffer", "from", "inexecutability", "due", "to", "disconnected", "fine", "-", "grained", "components", "in", "real", "KBs", "(", "Shu", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", ",", "to", "both", "ensure", "the", "generalization", "ability", "and", "executability", "of", "logical", "expressions", ",", "we", "pro-", "pose", "a", "Fine", "-", "to-", "Coarse", "composition", "framework", "for", "KBQA", "(", "FC", "-", "KBQA", ")", ",", "which", "contains", "three", "sub-", "modules", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "overview", "of", "our", "model", "is", "shown", "in", "Figure", "4", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "first", "module", "is", "fine", "-", "grained", "com-", "ponent", "detection", ",", "which", "detects", "all", "kinds", "of", "fine-", "grained", "component", "candidates", "from", "Freebase", "by", "their", "semantic", "similarities", "with", "the", "question", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "component", "detection", "guarantees", "the", "generalization", "ability", "in", "both", "compositional", "and", "zero", "-", "shot", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "second", "module", "is", "the", "middle", "-", "grained", "compo", "-", "nent", "constraint", ",", "which", "efficiently", "prunes", "and", "com-", "poses", "the", "fine", "-", "grained", "component", "candidates", "by", "en-", "suring", "the", "components", "’", "connectivity", "in", "the", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "module", "is", "the", "coarse", "-", "grained", "component", "com-", "position", ",", "which", "employs", "a", "seq", "-", "to", "-", "seq", "generation", "model", "to", "generate", "the", "executable", "coarse", "-", "grained", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "addition", "to", "encode", "the", "fine-", "grained", "components", ",", "the", "middle", "-", "grained", "compo-", "nents", "are", "also", "encoded", "to", "enhance", "the", "model", "’s", "rea-", "soning", "capacity", ",", "so", "as", "to", "improve", "the", "executability", "of", "the", "generated", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "contrast", "to", "previous", "work", "(", "Cao", "et", "al", ".", ",", "2022b", ";", "Chen", "et", "al", ".", ",", "2021", ";", "Shu", "et", "al", ".", ",", "2022", ")", "that", "only", "uses", "the", "knowl-", "edge", "constraints", "to", "guide", "the", "decoding", "process", ",", "we", "emphasize", "injecting", "them", "into", "the", "encoding", "pro-", "cess", ",", "because", "the", "encoder", "which", "learns", "bidirec-", "tional", "context", "could", "better", "suit", "natural", "language", "understanding", "(", "Du", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "conduct", "extensive", "experiments", "on", "widely", "used", "GrailQA", ",", "WebQSP", ",", "and", "CWQ", "datasets", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O", "O", "B-DatasetName", "O", "O" ]

[ "GrailQA", "(", "Gu", "et", "al", ".", ",", "2021", ")", "is", "a", "KBQA", "bench-", "mark", "focusing", "on", "generalization", "problems", "." ]

[ "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O" ]

[ "FC-", "KBQA", "derives", "new", "state", "-", "of", "-", "the", "-", "art", "performance", "on", "GrailQA", "-", "Dev", "(", "+7.6", "%", "F1", "gain", "and", "+7.0", "%", "EM", "gain", "respectively", ")", "." ]

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "B-MetricValue", "I-MetricValue", "B-MetricName", "O", "O", "O", "O" ]

[ "Meanwhile", ",", "FC", "-", "KBQA", "also", "obtains", "good", "performance", "on", "WebQSP", "and", "CWQ", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "O" ]

[ "Moreover", ",", "FC", "-", "KBQA", "runs", "4", "times", "faster", "than", "the", "state", "-", "of", "-", "the", "-", "art", "baseline", "RNG", "-", "KBQA", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "The", "abla-", "tion", "studies", "demonstrate", "the", "effect", "of", "our", "middle-", "grained", "encoding", "strategy", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Contributions", "." ]

[ "O", "O" ]

[ "(", "1", ")", "We", "conduct", "a", "pilot", "study", "to", "reveal", "an", "intriguing", "phenomenon", "—", "a", "fine", "-", "grained", "understanding", "of", "the", "logical", "expression", "helps", "en-", "hance", "the", "generalization", "ability", "of", "SP", "-", "based", "KBQA", "methods", ",", "which", "is", "rarely", "discussed", "before", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2", ")", "We", "propose", "a", "fine", "-", "to", "-", "coarse", "composition", "framework", "FC", "-", "KBQA", "to", "address", "the", "generalization", "problem", ",", "which", "takes", "advantage", "of", "the", "idea", "of", "fine", "-", "grained", "modeling", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "3", ")", "We", "devise", "a", "middle", "-", "grained", "compo-", "nent", "constraint", "that", "is", "injected", "into", "both", "the", "encoder", "and", "the", "decoder", "to", "guide", "the", "seq", "-", "to", "-", "seq", "model", "in", "producing", "executable", "logical", "expressions", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "4", ")", "FC", "-", "KBQA", "not", "only", "maintains", "efficiency", "but", "also", "achieves", "significant", "improvement", "on", "GrailQA", "." ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "2", "Related", "Work", "Coarse", "-", "Grained", "SP", "-", "based", "Methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Many", "ef-", "forts", "are", "paid", "to", "solve", "generalization", "problems", "on", "SP", "-", "based", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Some", "approaches", ",", "such", "as", "(", "Lan", "and", "Jiang", ",", "2020", ";", "Gu", "et", "al", ".", ",", "2021", ")", ",", "use", "a", "rank", "-", "based", "model", "that", "takes", "advantage", "of", "a", "coarse", "-", "level", "match1003", "between", "the", "question", "and", "the", "logical", "expressions", "or", "query", "graphs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "first", "enumerate", "numerous", "query", "graph", "candidates", "based", "on", "KBs", "and", "then", "they", "rank", "them", "according", "to", "how", "relevant", "they", "are", "to", "the", "ques-", "tion", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Another", "line", "of", "approaches", ",", "in", "addition", "to", "the", "rank", "-", "based", "ones", ",", "makes", "use", "of", "a", "generation", "model", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "KQAPro", "(", "Cao", "et", "al", ".", ",", "2022a", ")", "leverages", "BART", "to", "directly", "convert", "questions", "into", "logical", "expressions", "." ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Additionally", ",", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "further", "injects", "top", "-", "k", "ranked", "logical", "expressions", "as", "an", "ad-", "ditional", "input", "to", "the", "question", "." ]

[ "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "CBR", "-", "KBQA", "(", "Das", "et", "al", ".", ",", "2021", ")", "injects", "analogous", "questions", "and", "their", "corresponding", "logical", "expressions", "from", "the", "training", "data", "to", "increase", "the", "generalization", "." ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "All", "of", "the", "afore-", "mentioned", "methods", "are", "pure", "coarse", "-", "level", "frame-", "works", "that", "treat", "each", "coarse", "-", "grained", "logical", "expres-", "sion", "as", "a", "separate", "unit", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Fine", "-", "Grained", "SP", "-", "based", "Methods", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Many", "re-", "searchers", "have", "been", "motivated", "to", "address", "the", "gen-", "eralization", "issue", "by", "the", "notion", "of", "utilizing", "decom-", "posed", "components", ",", "such", "as", "class", ",", "relation", ",", "and", "log-", "ical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Some", "approaches", "(", "Wang", "et", "al", ".", ",", "2020", ";", "Zhao", "et", "al", ".", ",", "2022", ";", "Li", "et", "al", ".", ",", "2023", ")", "retrieve", "the", "rele-", "vant", "schema", "item", "such", "as", "relation", "and", "column", "as", "additional", "fine", "-", "grained", "input", "information", ",", "while", "an-", "other", "line", "of", "approaches", "(", "Dong", "and", "Lapata", ",", "2018", ")", "extracts", "the", "skeleton", "of", "logical", "expression", "as", "the", "de-", "coder", "guide", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Such", "methods", "primarily", "concentrate", "on", "the", "grammar", "of", "logical", "expression", "and", "often", "ignore", "the", "knowledge", "constraint", ",", "which", "is", "essen-", "tial", "in", "large", "-", "scale", "KB", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "They", "usually", "focus", "on", "KBs", "or", "DBs", "that", "contain", "a", "small", "number", "of", "relations", "where", "a", "logical", "expression", "can", "be", "easy", "to", "be", "exe-", "cutable", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Program", "Transfer", "(", "Cao", "et", "al", ".", ",", "2022b", ")", ",", "Re-", "Track", "(", "Chen", "et", "al", ".", ",", "2021", ")", ",", "and", "TIARA", "(", "Shu", "et", "al", ".", ",", "2022", ")", "simply", "apply", "KB", "constraints", "to", "control", "the", "generation", "of", "the", "decoding", "process", "." ]

[ "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "opposed", "to", "them", ",", "we", "make", "use", "of", "middle", "-", "grained", "KB", "con-", "straints", "during", "both", "the", "encoding", "and", "the", "decoding", "processes", "to", "help", "the", "model", "better", "adapt", "to", "KB", "and", "ensure", "executability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "3", "Problem", "Definition", "Knowledge", "Base", "(", "KB", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "KB", "is", "comprised", "by", "ontology", "{", "(", "C×R×C", ")", "}", "and", "relational", "facts", "{", "(", "E×R×", "(", "E∪C", ")", ")", "}", ",", "where", "R", ",", "C", ",", "andEdenote", "relation", "set", ",", "class", "set", ",", "and", "entity", "set", "respectively", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Notably", ",", "we", "consider", "literal", "as", "a", "special", "type", "of", "en-", "tity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "an", "ontology", "triple", "(", "cd", ",", "r", ",", "cr", ")", "con-", "sists", "of", "a", "relation", "r∈R", ",", "a", "domain", "class", "cdwhich", "denotes", "the", "class", "of", "the", "subject", "entities", ",", "and", "a", "rangeclasscrwhich", "denotes", "the", "class", "of", "the", "object", "enti-", "ties", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Each", "class", "has", "multiple", "entities", ",", "thus", "an", "ontol-", "ogy", "triplet", "can", "be", "instantiated", "as", "several", "relational", "facts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "both", "(", "e1", ",", "r", ",", "e", "2", ")", "and", "(", "e3", ",", "r", ",", "e", "4", ")", "correspond", "to", "(", "cd", ",", "r", ",", "cr", ")", ",", "where", "e1", ",", "e3∈cdand", "e2", ",", "e4∈cr", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Figure", "3", "illustrates", "a", "KB", "subgraph", "." ]

[ "O", "O", "O", "O", "O", "O", "O" ]

[ "SP", "-", "based", "KBQA", "." ]

[ "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Given", "a", "natural", "question", "q", ",", "KBQA", "models", "aim", "to", "find", "a", "set", "of", "entities", "denoted", "byA⊆Efrom", "KB", "as", "the", "answers", "to", "q", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Instead", "of", "directly", "predicting", "A", ",", "SP", "-", "based", "KBQA", "models", "translate", "qto", "an", "executable", "logical", "expression", "de-", "noted", "by", "ssuch", "as", "SPARQL", ",", "lambda", "-", "DCS", "(", "Liang", "et", "al", ".", ",", "2013", ")", ",", "query", "graph", "(", "Lan", "and", "Jiang", ",", "2020", ")", ",", "and", "s", "-", "expression", "(", "Gu", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "select", "s", "-", "expression", "as", "our", "used", "logical", "ex-", "pression", "since", "it", "could", "provide", "a", "good", "trade", "-", "off", "on", "compactness", ",", "compositionality", ",", "and", "readabil-", "ity", "(", "Gu", "et", "al", ".", ",", "2021", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "logical", "skeleton", "of", "an", "s", "-", "expression", "can", "be", "derived", "by", "removing", "all", "the", "relations", ",", "classes", ",", "and", "entities", "in", "the", "expression", "and", "only", "keeping", "function", "operators", "and", "parenthe-", "ses", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifically", ",", "we", "replace", "relations", ",", "classes", ",", "enti-", "ties", ",", "literals", "with", "special", "tokens", "“", "<", "rel", ">", "”", ",", "“", "<", "class", ">", "”", ",", "“", "<", "entity", ">", "”", ",", "“", "<", "literal", ">", "”", "respectively", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Figure", "3", "shows", "an", "executable", "logical", "expression", "on", "the", "KB", "and", "its", "corresponding", "logical", "skeleton", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "unitedly", "name", "the", "relations", ",", "classes", ",", "entities", ",", "and", "logical", "skeleton", "in", "an", "s", "-", "expression", "as", "the", "fine", "-", "grained", "component", ",", "while", "the", "complete", "s", "-", "expression", "is", "thecoarse", "-", "grained", "logical", "expression", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4", "Approach", "4.1", "Pilot", "Study", "As", "analyzed", "in", "Section", "1", ",", "considering", "the", "logical", "expression", "as", "a", "unit", "will", "lead", "to", "entangled", "represen-", "tations", "of", "fine", "-", "grained", "components", "and", "thus", "weak-", "ens", "generalization", "ability", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Here", "we", "study", "the", "ne-", "cessity", "of", "fine", "-", "grained", "modeling", "by", "testing", "how", "coarse", "-", "grained", "and", "fine", "-", "grained", "matching", "methods", "perform", "when", "selecting", "a", "question", "’s", "logical", "expres-", "sion", "from", "the", "corresponding", "candidate", "pool", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Dataset", "." ]

[ "O", "O" ]

[ "To", "simplify", "the", "experiment", ",", "we", "extract", "a", "toy", "dataset", "that", "only", "involves", "1", "-", "hop", "logical", "expres-", "sions", "from", "GrailQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O" ]

[ "Then", ",", "for", "the", "relation", "rand", "the", "class", "cin", "such", "logical", "expressions", ",", "we", "study", "the", "compositional", "generalization", "where", "the", "compo-", "sition", "(", "r", ",", "c", ")", "is", "unseen", "or", "zero", "-", "shot", "generalization", "where", "the", "individual", "rorcis", "unseen", "in", "the", "training", "data", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "each", "question", "with", "its", "ground", "-", "truth", "logi-", "cal", "expression", ",", "we", "select", "100", "logical", "expressions1004", "Figure", "3", ":", "Illustration", "of", "a", "KB", "subgraph", "and", "an", "exe-", "cutable", "logical", "expression", ",", "where", "the", "ovals", "denote", "the", "entities", ",", "the", "rectangles", "denote", "the", "classes", ",", "the", "solid", "lines", "denote", "the", "relations", ",", "and", "the", "dashed", "lines", "connect", "the", "entities", "and", "their", "classes", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "upper", "part", "of", "the", "subgraph", "illustrates", "examples", "of", "ontology", "triplets", ",", "while", "the", "bot-", "tom", "illustrates", "relational", "facts", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "that", "share", "the", "same", "domain", "as", "the", "ground", "truth", "as", "the", "coarse", "-", "grained", "expression", "candidates", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "fair", "comparison", ",", "we", "separate", "all", "of", "the", "relations", ",", "classes", ",", "and", "logical", "skeletons", "from", "the", "coarse", "-", "grained", "can-", "didates", "as", "the", "fine", "-", "grained", "component", "candidates", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Methods", "." ]

[ "O", "O" ]

[ "We", "aim", "to", "find", "the", "target", "logical", "expres-", "sion", "of", "a", "given", "question", "by", "a", "ranking", "model", "trained", "with", "a", "contrastive", "loss", "(", "Chen", "et", "al", ".", ",", "2020", ")", ",", "which", "is", "also", "used", "by", "RNG", "-", "KBQA", "(", "Ye", "et", "al", ".", ",", "2022", ")", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "coarse", "-", "grained", "method", "concatenates", "a", "question", "and", "a", "candidate", "logical", "expression", "to", "feed", "into", "BERT", ",", "then", "the", "output", "embedding", "of", "[", "CLS", "]", "is", "fed", "into", "a", "linear", "layer", "to", "compute", "the", "similarity", "score", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "fine", "-", "grained", "method", "follows", "the", "above", "pipeline", ",", "but", "the", "input", "is", "the", "concatenation", "of", "a", "question", "and", "a", "fine", "-", "grained", "candidate", "component", ",", "then", "scores", "each", "logical", "expression", "candidate", "by", "summing", "up", "the", "normalized", "question", "-", "component", "similarity", "scores", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "both", "methods", ",", "we", "compute", "accuracy", "by", "evalu-", "ating", "whether", "the", "ground", "-", "truth", "logical", "expression", "owns", "the", "highest", "score", "in", "the", "candidate", "pool", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Observation", "—", "Fine", "-", "grained", "modeling", "can", "bet-", "ter", "solve", "the", "generalization", "problems", "on", "KBQA", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "The", "matching", "accuracy", "is", "reported", "in", "Figure", "2", "." ]

[ "O", "B-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O" ]

[ "The", "fine", "-", "grained", "method", "outperforms", "the", "coarse-", "grained", "method", "in", "both", "composition", "generaliza-", "tion", "and", "zero", "-", "shot", "generalization", "tasks", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "possi-", "ble", "explanation", "is", "the", "fine", "-", "grained", "matching", "fo", "-", "cuses", "solely", "on", "each", "component", "and", "is", "simple", "to", "learn", ",", "which", "better", "capture", "the", "semantic", "informa-", "tion", "of", "each", "component", "and", "also", "well", "adaptable", "to", "express", "the", "various", "compositions", "of", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "coarse", "-", "grained", "matching", ",", "on", "the", "other", "hand", ",", "at-", "tempts", "to", "describe", "all", "of", "the", "components", "as", "a", "whole", "composition", ",", "limiting", "the", "ability", "to", "express", "unseen", "compositions", "and", "components", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Inspired", "by", "this", ",", "we", "propose", "FC", "-", "KBQA", "in", "the", "next", "section", "." ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O" ]

[ "4.2", "Model", "Overview", "We", "propose", "a", "fine", "-", "to", "-", "coarse", "composition", "frame-", "work", "FC", "-", "KBQA", "bridged", "by", "a", "middle", "-", "grained", "KB", "constraint", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Figure", "4", "illustrates", "the", "overall", "frame-", "work", ",", "which", "contains", "three", "parts", ":", "Fine", "-", "grained", "Component", "Detection", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Given", "a", "question", ",", "we", "extract", "relation", "candidates", "and", "class", "candidates", "from", "the", "whole", "KB", "based", "on", "seman-", "tic", "similarity", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Simultaneously", ",", "we", "adopt", "an", "entity", "linker", "to", "detect", "mentioned", "entities", "and", "use", "a", "seq", "-", "to-", "seq", "model", "to", "generate", "logical", "skeletons", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Middle", "-", "grained", "Component", "Constraint", "." ]

[ "O", "O", "O", "O", "O", "O" ]

[ "Based", "on", "the", "detected", "components", ",", "we", "devise", "an", "efficient", "way", "to", "check", "the", "connectivity", "of", "component", "pairs", "on", "the", "KB", ",", "including", "class", "-", "relation", "pairs", ",", "relation-", "relation", "pairs", ",", "and", "relation", "-", "entity", "pairs", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]