Datasets:

midas

/

cstr

like 1

Follow

MIDAS Research Laboratory, IIIT-Delhi 16

[ "FORSCHUNGSZENTRUM", "J", "?", "ULICH", "GmbH", "Zentralinstitut", "f", "?", "ur", "Angewandte", "Mathematik", "D", "?", "52425", "J", "?", "ulich", ",", "Tel.", "-LRB-", "02461", "-RRB-", "61", "?", "6402", "Interner", "Bericht", "Compiling", "SVM?Fortran", "for", "the", "Intel", "Paragon", "XP/S", "Rudolf", "Berrendorf", ",", "Michael", "Gerndt", "KFA?ZAM?IB", "?", "9601", "Januar", "1996", "-LRB-", "Stand", "30.01.96", "-RRB-", "Proceedings", "``", "Working", "Conference", "on", "Massively", "Parallel", "Programming", "Models", "-LRB-", "MPPM", "'", "95", "-RRB-", "''", "IEEE", "Press", ",", "Los", "Alamitos", ",", "1995", "Compiling", "SVM-Fortran", "for", "the", "Intel", "Paragon", "XP/S", "Rudolf", "Berrendorf", ",", "Michael", "Gerndt", "Zentralinstitut", "f?ur", "Angewandte", "Mathematik", "Forschungszentrum", "J?ulich", "GmbH", "-LRB-", "KFA", "-RRB-", "D-52425", "J?ulich", ",", "Germany", "fr.berrendorf,m.gerndtg@kfa-juelich.de", "Abstract", "SVM-Fortran", "is", "a", "language", "designed", "to", "program", "highly", "parallel", "systems", "with", "a", "global", "address", "space", ".", "A", "compiler", "for", "SVM-Fortran", "is", "described", "which", "generates", "code", "for", "parallel", "machines", ";", "our", "current", "target", "machine", "is", "the", "Intel", "Paragon", "XP/S", "with", "an", "SVM", "-", "extension", "called", "ASVM", ".", "Performance", "numbers", "are", "given", "for", "applications", "and", "compared", "to", "results", "obtained", "with", "corresponding", "HPF-versions", ".", "1", "Introduction", "Today", ",", "several", "programming", "models", "compete", "as", "the", "adequate", "model", "to", "program", "highly", "parallel", "systems", "with", "up", "to", "several", "thousands", "of", "processors", ".", "In", "the", "message", "passing", "approach", "-LCB-", "often", "used", "with", "an", "SPMD", "execution", "model", "-LSB-", "5", "-RSB-", "-LCB-", "the", "distributed", "memory", "is", "visible", "to", "the", "programmer", ";", "non-local", "data", "access", "has", "to", "be", "specified", "explicitly", "in", "the", "program", "with", "message", "passing", "operations", "for", "the", "requesting", "side", "as", "well", "as", "for", "the", "service", "side", ".", "Most", "programmers", "agree", "that", "message", "passing", "programs", "are", "difficult", "to", "write", ".", "Other", "programming", "models", "try", "to", "hide", "the", "distributed", "memory", "from", "the", "programmer", "and", "emulate", "a", "global", "address", "space", "either", "with", "special", "language", "constructs", ",", "through", "the", "compiler", ",", "as", "an", "operating", "system", "extension", ",", "or", "in", "hardware", ".", "On", "top", "of", "this", "global", "address", "space", ",", "an", "adequate", "execution", "model", "needs", "to", "be", "defined", ".", "In", "this", "paper", "we", "describe", "a", "compiler", "for", "SVM", "-", "Fortran", ";", "the", "language", "is", "designed", "to", "program", "highly", "parallel", "systems", "with", "a", "global", "address", "space", ".", "Currently", ",", "we", "use", "the", "Intel", "Paragon", "XP/S", "as", "our", "target", "machine", ".", "The", "global", "address", "space", "on", "this", "distributed", "memory", "computer", "is", "emulated", "by", "a", "shared", "virtual", "memory", "implementation", "called", "ASVM", "-LSB-", "15", "-RSB-", "which", "is", "integrated", "into", "the", "MACH-3", "kernel", ".", "Shared", "virtual", "memory", "-LRB-", "SVM", "-RRB-", "-LSB-", "8", "-RSB-", "emulates", "a", "global", "address", "space", "on", "top", "of", "the", "distributed", "real", "memory", "on", "a", "cache", "line", "or", "page", "base", ",", "similar", "to", "a", "virtual", "memory", ".", "Special", "protocols", "ensure", "a", "consistent", "view", "on", "all", "processors", ".", "The", "paper", "is", "organized", "as", "follows", ":", "The", "following", "section", "relates", "our", "work", "to", "other", "research", "in", "that", "field", ".", "In", "section", "3", ",", "an", "overview", "of", "SVM-Fortran", "is", "given", ".", "Section", "4", "gives", "details", "on", "the", "compiler", ".", "Finally", ",", "performance", "results", "for", "applications", "written", "in", "SVM-Fortran", "are", "given", "in", "section", "5", ".", "2", "Related", "Work", "Closely", "related", "to", "implementation", "aspects", "of", "the", "compiler", "is", "the", "underlying", "programming", "model", "and", "the", "language", "constructs", "the", "compilers", "translate", ".", "We", "will", "give", "an", "overview", "of", "relevant", "work", "on", "this", "field", ".", "HPF", "-LSB-", "7", "-RSB-", "is", "an", "extension", "to", "Fortran", "90", "with", "which", "the", "programmer", "specifies", "a", "distribution", "for", "data", "and", "the", "compiler", "generates", "appropriate", "message", "passing", "operations", ",", "usually", "following", "the", "owner-compute-rule", ".", "Parallelism", "is", "available", "in", "HPF", "in", "form", "of", "vector", "statements", "and", "forall-loops", ".", "With", "the", "current", "HPF", "language", "version", "there", "are", "considerable", "problems", "to", "handle", "irregular", "data", "accesses", ".", "Ongoing", "efforts", "try", "to", "extend", "HPF", "in", "several", "directions", ".", "There", "are", "several", "compilers", "for", "-LRB-", "a", "subset", "of", "-RRB-", "HPF", "available", ".", "Similar", "to", "our", "SVM-compiler", ",", "compilers", "for", "HPF", "need", "to", "handle", "templates", "to", "store", "either", "data", "distributions", "-LRB-", "HPF", "-RRB-", "or", "work", "distributions", "-LRB-", "SVM-Fortran", "-RRB-", ".", "Fortran-S", "-LSB-", "3", "-RSB-", "is", "a", "Fortran", "77", "extension", "which", "supports", "a", "SPMD", "execution", "model", ".", "In", "addition", "to", "features", "also", "available", "in", "Fortran-S", ",", "SVM-Fortran", "provides", "nested", "parallelism", ",", "dynamic", "loop", "scheduling", ",", "work", "distribution", "templates", ",", "and", "two", "execution", "modes", ".", "In", "Fortran-S", ",", "assignments", "to", "shared", "variables", "or", "variables", "of", "unknown", "sharing", "type", "need", "barrier", "synchronizations", "in", "front", "of", "and", "after", "the", "assignment", ".", "A", "major", "task", "for", "the", "compiler", "is", "therefore", "to", "reduce", "the", "number", "of", "barriers", "through", "intra", "-", "and", "interprocedural", "analysis", ".", "In", "the", "CRAFT", "Model", "of", "Cray", "Fortran", "-LSB-", "11", "-RSB-", ",", "shared", "data", "is", "distributed", "to", "processors", "via", "user-specified", "distribution", "directives", ";", "a", "global", "address", "space", "is", "implemented", "by", "the", "compiler", "based", "on", "the", "data", "distribution", "information", ".", "The", "execution", "model", "is", "based", "on", "a", "SPMD-model", "with", "work", "sharing", ".", "Inside", "a", "sequential", "region", ",", "there", "is", "no", "way", "to", "switch", "to", "parallel", "mode", ";", "thus", ",", "a", "real", "nesting", "of", "language", "constructs", "is", "not", "available", ".", "Locality", "within", "parallel", "loops", "can", "be", "reached", "with", "an", "aligned", "iteration", "distribution", "based", "on", "distribution", "information", "for", "a", "variable", ".", "KSR-Fortran", "-LSB-", "12", "-RSB-", "has", "several", "language", "constructs", "to", "specify", "parallelism", "based", "on", "a", "fork-join", "execution", "model", ":", "parallel", "loops", ",", "parallel", "sections", ",", "and", "parallel", "regions", ".", "As", "on", "other", "machines", ",", "data", "locality", "is", "a", "main", "issue", "on", "the", "KSR", ".", "As", "this", "is", "a", "problem", "global", "to", "a", "program", "rather", "than", "for", "a", "small", "section", "of", "code", ",", "work", "scheduling", "can", "be", "done", "on", "the", "KSR", "with", "thread", "teams", "and", "affinity", "regions", ".", "Thread", "teams", "are", "a", "named", "set", "of", "threads", "with", "which", "the", "user", "can", "tell", "the", "compiler", "or", "runtime", "system", "that", "only", "those", "threads", "belonging", "to", "the", "team", "should", "work", "on", "some", "piece", "of", "code", ".", "Affinity", "regions", "establish", "for", "a", "larger", "section", "of", "code", "a", "relationship", "between", "threads", "and", "iteration", "scheduling", "of", "parallel", "loops", ",", "i.e.", "the", "same", "iterations", "of", "different", "loops", "should", "be", "handled", "by", "the", "same", "threads", "within", "an", "affinity", "region", ".", "Due", "to", "the", "fork-join", "model", ",", "startup", "times", "on", "parallel", "constructs", "are", "quite", "high", "on", "the", "KSR", ".", "The", "ANSI", "X3H5", "Technical", "Committee", "on", "Parallel", "Processing", "Constructs", "for", "High", "Level", "Languages", "-LSB-", "6", "-RSB-", "has", "worked", "on", "an", "language-independent", "model", "for", "parallel", "processing", ".", "They", "proposed", "a", "general", "programming", "model", "conceptionally", "similar", "to", "PCF-Fortran", "-LSB-", "10", "-RSB-", "which", "is", "based", "on", "a", "fork-join", "execution", "model", ".", "3", "SVM-Fortran", "SVM-Fortran", "is", "an", "extension", "of", "Fortran", "77", "providing", "annotations", "for", "shared", "memory", "parallel", "programming", "on", "highly-parallel", "machines", "with", "a", "global", "address", "space", ".", "It", "supports", "the", "SPMD", "model", "and", ",", "moreover", ",", "provides", "nested", "parallelism", "and", "work", "distribution", "directives", ".", "Nested", "parallelism", "is", "useful", "for", "programming", "applications", "consisting", "of", "multiple", "coarse-grained", "parallel", "tasks", "which", "are", "themself", "data", "parallel", "codes", ".", "The", "work", "distribution", "directives", "allow", "to", "specify", "the", "mapping", "of", "parallel", "work", "onto", "processors", ".", "This", "mapping", "is", "responsible", "for", "the", "data", "locality", "of", "the", "parallel", "applications", ".", "Execution", "Model", "A", "SVM-Fortran", "program", "is", "executed", "by", "a", "set", "of", "abstract", "processors", "which", "are", "available", "from", "the", "beginning", "of", "the", "application", ".", "SVM-Fortran", "uses", "the", "term", "abstract", "processors", "instead", "of", "processes", "to", "reflect", "the", "assumption", "that", "there", "is", "a", "one-to-one", "correspondence", "of", "abstract", "and", "physical", "processors", "assigned", "to", "an", "application", ".", "A", "task", "is", "defined", "by", "a", "program", "region", ",", "either", "a", "whole", "subroutine", ",", "a", "section", "of", "a", "parallel", "section", "construct", ",", "or", "the", "body", "of", "a", "parallel", "loop", ".", "A", "task", "is", "executed", "by", "a", "set", "of", "abstract", "processors", ",", "called", "the", "task", "'s", "active", "processor", "set", "-LRB-", "APS", "-RRB-", ".", "At", "program", "start", "the", "whole", "program", "forms", "a", "single", "task", "with", "an", "APS", "consisting", "of", "all", "abstract", "processors", ".", "Tasks", "are", "either", "executed", "in", "exclusive", "or", "in", "replicated", "execution", "mode", ".", "In", "exclusive", "mode", ",", "only", "one", "processor", "of", "the", "APS", "executes", "the", "code", "while", "the", "others", "are", "suspended", "until", "the", "master", "processor", "encounters", "a", "parallel", "construct", "and", "the", "other", "processors", "resume", "execution", "at", "this", "construct", ".", "In", "replicated", "mode", ",", "all", "processors", "in", "the", "APS", "execute", "the", "task", "redundantly", ".", "Parallel", "constructs", "in", "SVM-Fortran", "are", "parallel", "loops", "and", "parallel", "sections", ".", "When", "the", "master", "processor", "encounters", "a", "parallel", "construct", ",", "the", "APS", "is", "split", "up", "into", "new", "derived", "processor", "sets", "according", "to", "the", "work", "distribution", ".", "A", "parallel", "construct", "defines", "new", "parallel", "tasks", ",", "i.e.", "loop", "iterations", "and", "individual", "sections", ",", "that", "are", "assigned", "to", "the", "derived", "processor", "sets", ".", "After", "all", "new", "tasks", "have", "been", "executed", ",", "the", "abstract", "processors", "continue", "the", "execution", "of", "the", "original", "task", "within", "the", "task", "'s", "APS", ".", "Work", "Distribution", "Directives", "Explicit", "distribution", "of", "tasks", "onto", "abstract", "processors", "is", "the", "main", "concept", "for", "creating", "data", "locality", ".", "The", "specification", "of", "a", "work", "distribution", "strategy", "in", "SVM", "-", "Fortran", "is", "based", "on", "processor", "arrangements", "and", "templates", ".", "This", "section", "outlines", "the", "basic", "features", ",", "details", "can", "be", "found", "in", "-LSB-", "2", "-RSB-", ".", "Processor", "arrangements", "are", "rectangular", "index", "spaces", "that", "are", "used", "to", "name", "abstract", "processors", ".", "Processor", "arrangements", "are", "declared", "with", "the", "PROCESSORS", "directive", ".", "Figure", "1", "illustrates", "the", "distribution", "of", "individual", "sections", "onto", "sets", "of", "abstract", "processors", ".", "Since", "multiple", "processors", "are", "assigned", "to", "each", "section", ",", "data", "parallelism", "can", "be", "exploited", "in", "each", "subroutine", ".", "CSVM$", "PROCESSORS", ":", ":", "P", "-LRB-", "10", "-RRB-", ",", "P1", "-LRB-", "10", "-RRB-", "CSVM$", "PSECTION", "CSVM$", "SECTION", "ON", "P", "CALL", "F", "-LRB-", "-RRB-", "CSVM$", "SECTION", "ON", "P1", "CALL", "G", "-LRB-", "-RRB-", "CSVM$", "PSECTION_END", "Figure", "1", ":", "Explicit", "distribution", "of", "parallel", "sections", ".", "CSVM$", "PROCESSORS", ":", ":", "P", "-LRB-", "NUMPROC", "-LRB-", "-RRB-", "-RRB-", "CSVM$", "TEMPLATE", ":", ":", "NODES", "-LRB-", "17000", "-RRB-", "CSVM$", "DISTRIBUTE", "-LRB-", "BLOCK", "-RRB-", "ONTO", "P", ":", ":", "NODES", "CSVM$", "TEMPLATE", ":", ":", "BOUNDARY_NODES", "-LRB-", "1000", "-RRB-", "CSVM$", "DISTRIBUTE", "-LRB-", "I", "-RRB-", "ONTO", "CSVM$", "+", "HOME", "-LRB-", "NODES", "-LRB-", "INDIRECT", "-LRB-", "I", "-RRB-", "-RRB-", "-RRB-", ":", ":", "BOUNDARY_NODES", "Figure", "2", ":", "Using", "linked", "distribution", "for", "irregular", "grids", ".", "The", "template", "concept", "of", "SVM-Fortran", "is", "used", "to", "specify", "the", "work", "distribution", "for", "parallel", "loops", "globally", ".", "A", "template", "is", "a", "rectangular", "index", "domain", "which", "reflects", "the", "iteration", "space", "of", "the", "parallel", "loops", ".", "Templates", "can", "be", "either", "declared", "statically", "or", "created", "dynamically", "according", "to", "the", "actual", "problem", "size", "of", "an", "application", ".", "Similar", "to", "templates", "in", "HPF", ",", "SVM", "-", "Fortran", "templates", "can", "be", "explicitly", "distributed", "onto", "abstract", "processors", ".", "In", "contrast", "to", "HPF", ",", "where", "it", "is", "very", "important", "that", "the", "compiler", "knows", "the", "distribution", "of", "templates", ",", "SVM-Fortran", "templates", "can", "be", "redistributed", "everywhere", "in", "the", "program", ".", "SVM-Fortran", "provides", "the", "standard", "distribution", "formats", "BLOCK", ",", "CYCLIC", ",", "GENERAL", "BLOCK", ",", "and", "indirect", "distribution", ",", "and", "linked", "distribution", ".", "While", "the", "standard", "distribution", "formats", "assign", "blocks", "of", "template", "indices", "to", "processors", "via", "a", "predefined", "strategy", ",", "both", "other", "strategies", "specify", "the", "target", "processor", "for", "each", "template", "element", "individually", ".", "The", "main", "application", "area", "for", "these", "two", "strategies", "are", "irregular-grid", "applications", "where", "the", "numbering", "of", "grid", "nodes", "does", "not", "reflect", "their", "spatial", "relation", ".", "Figure", "2", "illustrates", "the", "use", "of", "linked", "distribution", ".", "The", "computation", "for", "the", "boundary", "nodes", "of", "the", "finite", "element", "grids", "shall", "be", "distributed", "to", "the", "processors", "responsible", "for", "the", "finite", "element", "nodes", "in", "the", "regular", "numbering", "scheme.This", "construct", "does", "not", "introduce", "a", "permanent", "relationship", ",", "i.e.", "redistribution", "of", "NODES", "does", "not", "imply", "automatic", "redistribution", "of", "BOUND", "-", "ARY", "NODES", ".", "Figure", "3", "outlines", "global", "loop", "scheduling", "via", "tem", "-", "CSVM$", "PROCESSORS", ":", ":", "P", "-LRB-", "NUMPROC", "-LRB-", "-RRB-", "-RRB-", "CSVM$", "TEMPLATE", ":", ":", "T", "-LRB-", "N", "-RRB-", "CSVM$", "DISTRIBUTE", "-LRB-", "BLOCK", "-RRB-", "ONTO", "P", ":", ":", "T", "C", "--", "direct", "scheduling", "--", "CSVM$", "PDO", "-LRB-", "LOOPS", "-LRB-", "I", "-RRB-", ",", "STRATEGY", "-LRB-", "BLOCK", "-RRB-", "-RRB-", "DO", "I", "=", "1", ",", "N", "...", "ENDDO", "C", "--", "predefined", "scheduling", "--", "CSMV$", "PDO", "-LRB-", "LOOPS", "-LRB-", "I", "-RRB-", ",", "STRATEGY", "-LRB-", "ON_HOME", "-LRB-", "T", "-LRB-", "I", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "DO", "I", "=", "1", ",", "N", "...", "ENDDO", "Figure", "3", ":", "Template", "distribution", "and", "loop", "scheduling", ".", "plates", "called", "predefined", "scheduling", ".", "The", "ON", "HOME", "clause", "assigns", "an", "iteration", "to", "the", "home", "processor", "of", "the", "appropriate", "template", "element", ".", "Due", "to", "our", "implementation", "described", "in", "subsequent", "sections", ",", "predefined", "scheduling", "is", "not", "much", "more", "expensive", "than", "directly", "annotating", "loops", "with", "a", "work", "distribution", "strategy", "as", "described", "in", "the", "following", ".", "Thus", ",", "the", "comfort", "of", "programming", "can", "be", "exploited", "without", "severe", "performance", "penalty", ".", "In", "addition", "to", "predefined", "scheduling", ",", "loops", "can", "be", "annotated", "individually", "where", "the", "work", "distribution", "can", "be", "either", "direct", "or", "dynamic", ".", "Direct", "strategies", "are", "simple", "strategies", "like", "BLOCK", "and", "CYCLIC", "that", "assign", "the", "iterations", "to", "the", "processors", "in", "the", "APS", ".", "With", "dynamic", "strategies", "such", "as", "self", "scheduling", ",", "loop", "iterations", "are", "assigned", "to", "processors", "according", "to", "the", "current", "work", "load", ".", "Further", ",", "a", "combination", "of", "dynamic", "work", "distribution", "strategies", "and", "template", "distributions", "called", "semidynamic", "scheduling", "is", "available", ".", "This", "combination", "allows", "to", "store", "a", "schedule", "resulting", "from", "a", "dynamic", "strategy", "in", "form", "of", "a", "template", "distribution", ".", "4", "Compiling", "SVM-Fortran", "Currently", ",", "our", "primary", "target", "system", "is", "the", "Intel", "Paragon", "XP/S", "with", "a", "shared", "virtual", "memory", "extension", "called", "ASVM", "-LSB-", "15", "-RSB-", ".", "ASVM", "is", "integrated", "into", "the", "MACH-3", "micro-kernel", "of", "the", "operating", "system", ".", "There", "are", "other", "external", "servers", "available", "for", "the", "Intel", "Paragon", "XP/S", "as", "well", ",", "e.g.", "MYOAN", "-LSB-", "4", "-RSB-", ".", "The", "SVM-Fortran", "compiler", "is", "a", "source-to-source", "compiler", "generating", "intermediate", "Fortran", "77", "SPMD", "code", "with", "calls", "to", "a", "special", "runtime", "library", ".", "Currently", ",", "we", "are", "able", "to", "generate", "code", "for", "the", "Intel", "Paragon", "XP/S", "as", "well", "as", "for", "single", "and", "multi-processor", "Unix", "systems", ".", "The", "intermediate", "code", "is", "then", "translated", "by", "the", "native", "compiler", "of", "the", "target", "system", ".", "Processor", "Control", "A", "central", "point", "for", "the", "implementation", "of", "the", "language", "is", "the", "concept", "of", "a", "processor", "set", "which", "is", "a", "set", "of", "nodes", "working", "together", "on", "a", "part", "of", "the", "program", ".", "Processor", "sets", "and", "derived", "processor", "sets", "form", "a", "tree", "of", "processor", "sets", "with", "active", "processor", "sets", "on", "leave", "nodes", ".", "Often", "used", "operations", "on", "processor", "sets", "are", ":", "ffl", "Generate", "a", "new", "processor", "set", ",", "suspend", "the", "old", "one", ",", "and", "mark", "the", "new", "one", "as", "active", ",", "e.g.", "this", "is", "done", "on", "entering", "a", "parallel", "section", ".", "As", "our", "execution", "model", "is", "SPMD", ",", "the", "generation", "of", "processor", "sets", "can", "be", "done", "efficiently", "without", "the", "need", "to", "generate", "new", "processes", "or", "threads", ",", "or", "to", "signal", "other", "processors", "that", "the", "generation", "has", "to", "be", "done", ".", "ffl", "Delete", "a", "processor", "set", "and", "re-activate", "the", "old", "one", ".", "An", "example", "is", "the", "end", "of", "a", "parallel", "section", ".", "ffl", "Perform", "operations", "on", "a", "processor", "set", ",", "e.g.", "do", "a", "barrier", "on", "a", "processor", "set", ".", "Data", "structures", "necessary", "for", "processor", "sets", "are", "stored", "and", "locally", "administrated", "on", "every", "processor", ",", "i.e.", "the", "above", "mentioned", "operations", "are", "done", "locally", "on", "every", "processor", "without", "the", "need", "to", "synchronize", "or", "to", "exchange", "information", ".", "Exceptions", "to", "this", "asynchronous", "operation", "mode", "are", "the", "generation", "of", "processor", "sets", "where", "local", "information", "is", "not", "sufficient", "to", "determine", "which", "processors", "belong", "to", "a", "processor", "set", "e.g.", "if", "dynamic", "loop", "scheduling", "is", "used", "and", "more", "processors", "than", "iterations", "are", "available", ".", "As", "already", "pointed", "out", "in", "the", "description", "of", "the", "language", ",", "there", "are", "two", "execution", "modes", "possible", "for", "a", "part", "of", "a", "program", ":", "exclusive", "mode", "and", "replicated", "mode", ".", "Dependent", "on", "this", "execution", "mode", "either", "all", "or", "only", "one", "processor", "of", "a", "processor", "set", "execute", "the", "code", ".", "In", "replicated", "mode", "all", "processors", "of", "a", "processor", "set", "execute", "code", "with", "independent", "flow", "of", "control", ".", "As", "we", "generate", "SPMD-code", ",", "the", "original", "code", "needs", "no", "special", "handling", "concerning", "control", "flow", "for", "these", "sections", "of", "the", "program", ".", "The", "only", "exception", "are", "noncoordinated", "subprogram", "calls", ".", "Each", "such", "call", "is", "executed", "within", "a", "new", "processor", "set", "consisting", "of", "one", "processor", "only", ".", "In", "exclusive", "mode", ",", "a", "master", "processor", "of", "the", "active", "processor", "set", "executes", "the", "code", ".", "The", "master", "processor", "of", "a", "processor", "set", "is", "always", "the", "processor", "for", "which", "the", "function", "MYPROCSET", "-LRB-", "-RRB-", "returns", "0", ".", "Other", "processors", "of", "the", "active", "processor", "set", "are", "suspended", "and", "are", "reactivated", "on", "some", "language", "constructs", "-LRB-", "e.g.", "parallel", "loop", ",", "template", "distribution", "-RRB-", "to", "share", "work", ".", "We", "implement", "this", "with", "dispatch-operations", "-LRB-", "see", "Figure", "4", "-RRB-", "which", "let", "the", "master", "processor", "execute", "the", "code", "while", "the", "other", "processors", "of", "the", "processor", "set", "wait", "for", "a", "special", "message", "from", "the", "master", ".", "As", "can", "be", "seen", "in", "the", "figure", ",", "non-master", "processors", "are", "blocked", "at", "the", "begin", "of", "the", "subroutine", "by", "the", "call", "to", "SVM", "DISPATCH", "RECV", "-LRB-", "-RRB-", ".", "This", "function", "returns", "an", "integer", "value", "which", "is", "interpreted", "as", "a", "jump", "target", "where", "the", "non-master", "processors", "should", "continue", "their", "execution", ".", "Code", "for", "the", "master", "processor", "is", "inserted", "into", "the", "program", "to", "send", "appropriate", "messages", "-LRB-", "CALL", "SVM", "DISPATCH", "SEND", "-LRB-", "-RRB-", "-RRB-", "to", "non-master", "processors", "where", "the", "latter", "one", "should", "continue", "their", "work", ".", "Language", "constructs", "where", "non-master", "processors", "are", "reactivated", "are", ":", "ffl", "parallel", "loop", ",", "parallel", "section", "-LRB-", "R", "-RRB-", "ffl", "exclusive", "region", ",", "replicated", "region", "-LRB-", "R", "-RRB-", "ffl", "coordinated", "call", "ffl", "create", ",", "destroy", ",", "undef", ",", "redistribute", "ffl", "subprogram", "calls", "For", "those", "language", "constructs", "marked", "with", "an", "R", ",", "the", "code", "generation", "for", "control", "flow", "has", "to", "be", "done", "recursively", ".", "For", "example", ",", "inside", "a", "parallel", "section", "nonmaster", "processors", "wait", "on", "an", "additional", "dispatch", "loop", ",", "and", "for", "each", "of", "the", "above", "language", "constructs", "inside", "the", "section", ",", "continuation", "messages", "are", "sent", "to", "the", "nonmaster", "processors", "by", "the", "master", "processor", ".", "At", "the", "end", "of", "the", "section", ",", "the", "master", "sends", "a", "continuation", "message", "such", "that", "all", "processors", "of", "the", "processor", "set", "reach", "that", "point", "and", "can", "continue", "in", "the", "control", "flow", "of", "the", "upper", "hierarchical", "control", "flow", "level", ".", "Compared", "to", "active", "messages", "-LSB-", "14", "-RSB-", "our", "approach", "has", "the", "advantage", "that", "stack", "frames", "are", "set", "up", "correctly", ".", "The", "disadvantage", "compared", "to", "active", "messages", "is", "the", "overhead", "involved", "with", "dispatch", "operations", ".", "Data", "Handling", "SVM-Fortran", "distinguishes", "between", "shared", "and", "private", "data", ".", "Private", "data", "is", "replicated", "in", "a", "SPMD-model", "to", "each", "processor", "'s", "local", "memory", ".", "Shared", "data", "is", "allocated", "from", "a", "shared", "segment", ";", "the", "shared", "segment", "is", "requested", "from", "the", "SVM-subsystem", "during", "the", "initialization", "phase", ".", "Shared", "variables", "are", "allocated", "at", "the", "original", "code", ":", "intermediate", "code", ":", "PROGRAM", "dispatch", "CSVM$", "EXCLUSIVE_REGION", "i", "=", "1", "CALL", "sub", "i", "=", "2", "CSVM$", "EXCLUSIVE_REGION_END", "END", "PROGRAM", "dispatch", "C", "***", "dispatcher-loop", "for", "non-master", "processors", "45002", "IF", "-LRB-", "SVM_MYPROCSET", ".", "NE", ".0", "-RRB-", "+", "GOTO", "-LRB-", "45003,45004", "-RRB-", ",", "SVM_DISPATCH_RECV", "-LRB-", "-RRB-", "I", "=", "1", "C", "***", "master", "processor", "re-activates", "other", "processors", "CALL", "SVM_DISPATCH_SEND", "-LRB-", "2", "-RRB-", "45004", "CONTINUE", "CALL", "SUB", "c", "***", "non-masters", "go", "back", "to", "dispatcher", "loop", "IF", "-LRB-", "SVM_MYPROCSET", ".", "NE", ".0", "-RRB-", "GOTO", "45002", "I", "=", "2", "C", "***", "master", "processor", "re-activates", "other", "processors", "CALL", "SVM_DISPATCH_SEND", "-LRB-", "1", "-RRB-", "45003", "CONTINUE", "END", "Figure", "4", ":", "Dispatch", "operations", "in", "exclusive", "mode", ".", "beginning", "of", "every", "subprogram", "and", "freed", "before", "a", "return", "is", "executed", ".", "Incarnations", "of", "the", "same", "subroutine", "by", "different", "processor", "sets", "therefore", "do", "not", "conflict", ".", "Common", "blocks", "are", "allocated", "at", "the", "beginning", "of", "the", "main", "program", "and", "freed", "at", "the", "end", "of", "the", "main", "program", ".", "In", "general", ",", "freeing", "shared", "memory", "requires", "a", "barrier", "synchronization", "between", "all", "processors", "of", "the", "active", "processor", "set", ".", "Partially", "shared", "data", "is", "shared", "between", "processors", "of", "one", "processor", "set", "only", "and", "can", "be", "introduced", "with", "parallel", "loops", "and", "parallel", "sections", ".", "This", "type", "of", "data", "can", "be", "handled", "like", "shared", "data", "with", "a", "data", "scope", "of", "the", "language", "construct", "where", "the", "data", "was", "introduced", ",", "e.g.", "a", "parallel", "loop", ".", "Alignment", "of", "variables", "and", "common", "blocks", "on", "page", "boundaries", "is", "handled", "with", "compiler-generated", "padding", ".", "Templates", "Data", "structures", "for", "templates", "are", "stored", "locally", ".", "Every", "template", "gets", "from", "the", "compiler", "a", "unique", "identifier", "which", "is", "an", "index", "to", "a", "run-time", "descriptor", ".", "Templates", "used", "as", "a", "dummy", "argument", "get", "a", "unique", "identifier", ",", "too", ".", "Template", "descriptors", "contain", "among", "others", "fields", "the", "rank", ",", "dimensions", ",", "internal", "state", "-LRB-", "empty", ",", "declared", ",", "defined", "-RRB-", ",", "and", "the", "distribution", "for", "every", "dimension", ".", "On", "a", "template", "definition", ",", "the", "SVM-Fortran", "compiler", "writes", "the", "invariable", "information", "concerning", "the", "template", "to", "the", "compiler", "information", "file", ":", "template", "name", ",", "subprogram", "name", "of", "declaration", "environment", ",", "and", "rank", "of", "template", ".", "During", "the", "initialization", "phase", "of", "the", "run", "time", "system", ",", "those", "information", "is", "read", "and", "stored", "in", "the", "run", "time", "descriptor", "for", "each", "template", ".", "Similar", "to", "processor", "arrangements", ",", "constant", "dimension", "values", "are", "passed", "by", "the", "compiler", "to", "the", "run", "time", "system", "through", "the", "compiler", "information", "file", "while", "non-constant", "values", "are", "passed", "through", "special", "run", "time", "calls", ".", "The", "internal", "state", "of", "a", "template", "changes", "after", "certain", "operations", ":", "ffl", "After", "a", "create-directive", "a", "template", "has", "the", "state", "declared", ".", "ffl", "Also", ",", "after", "a", "template-directive", "in", "which", "the", "rank", "and", "all", "dimension", "values", "are", "specified", "the", "state", "is", "declared", ".", "ffl", "After", "a", "template-directive", "in", "which", "only", "the", "rank", "was", "specified", "the", "state", "is", "empty", ".", "Passing", "a", "template", "as", "an", "argument", "to", "a", "subprogram", "is", "handled", "similar", "to", "processor", "arrangements", ":", "An", "integer", "variable", "gets", "assigned", "the", "unique", "identifier", "for", "that", "template", ",", "and", "in", "the", "called", "subprogram", "a", "check", "is", "made", "if", "actual", "and", "formal", "argument", "agree", "in", "rank", "and", "dimensions", ".", "Template", "operations", "like", "define", ",", "create", ",", "undef", ",", "and", "destroy", "are", "local", "operations", "with", "respect", "to", "every", "processor", ",", "i.e.", "every", "processor", "does", "not", "need", "any", "information", "from", "other", "processors", ".", "Distribute", "and", "redistribute", "operations", "may", "need", "coordination", "between", "all", "processors", "in", "a", "processor", "set", "to", "exchange", "necessary", "data", ",", "e.g.", "with", "a", "linked", "distribution", ".", "To", "distribute", "or", "redistribute", "a", "template", ",", "it", "is", "necessary", "that", "the", "template", "has", "the", "state", "declared", "or", "defined", ";", "after", "such", "an", "operation", "the", "template", "has", "the", "state", "defined", ".", "Additionally", ",", "the", "current", "processor", "set", "is", "stored", "in", "the", "template", "descriptor", ".", "Dependent", "on", "the", "distribution", "type", "-LRB-", "e.g.", "block", "distribution", "or", "linked", "distribution", "-RRB-", ",", "different", "parameters", "describing", "the", "specific", "distribution", "are", "stored", ";", "they", "are", "chosen", "for", "every", "distribution", "strategy", "such", "that", "the", "runtime", "overhead", "for", "loop", "scheduling", "is", "kept", "small", ".", "The", "values", "for", "the", "describing", "parameters", "are", "determined", "at", "distribution", "time", ".", "Block", "distribution", ":", "For", "a", "block", "distribution", "with", "N", "template", "elements", "the", "lower", "and", "upper", "bound", "assigned", "to", "a", "processor", "p", "-LRB-", "1", "<", "=", "p", "<", "=", "P", "=", "number", "of", "processor", "in", "a", "processor", "set", "-RRB-", "is", "calculated", "according", "to", ":", "lower", "bound", "=", "?", "N", "P", "ss", "?", "-LRB-", "p", "?", "1", "-RRB-", "+", "1", "upper", "bound", "=", "min", "-LRB-", "lower", "bound", "+", "?", "N", "P", "ss", "?", "1", ";", "N", "-RRB-", "Then", ",", "to", "decide", "if", "a", "template", "element", "e", "is", "assigned", "to", "processor", "p", ",", "that", "processor", "has", "to", "determine", "only", "if", "e", "lies", "between", "the", "lower", "and", "upper", "bound", "-LRB-", "this", "test", "is", "necessary", "if", "the", "template", "is", "used", "in", "a", "linked", "distribution", "of", "another", "template", "-RRB-", ".", "Cyclic", "distribution", ":", "For", "a", "cyclic", "distribution", "with", "a", "segment", "size", "l", "the", "number", "of", "segments", "assigned", "to", "a", "processor", "p", ":", "num", "seg", "-LRB-", "p", "-RRB-", "=", "?", "N", "?", "-LRB-", "p", "?", "1", "-RRB-", "?", "l", "P", "?", "l", "ss", ":", "The", "lower", "bound", "and", "upper", "bound", "for", "segment", "i", "-LRB-", "1", "<", "=", "i", "<", "=", "num", "seg", "-LRB-", "p", "-RRB-", "-RRB-", "on", "processor", "p", "is", "then", ":", "lower", "bound", "-LRB-", "p", ";", "i", "-RRB-", "=", "-LRB-", "p", "?", "1", "-RRB-", "?", "l", "+", "1", "|", "-LCB-", "z", "-RCB-", "A", "+", "-LRB-", "i", "?", "1", "-RRB-", "?", "P", "?", "l", "|", "-LCB-", "z", "-RCB-", "B", ".", "upper", "bound", "-LRB-", "p", ";", "i", "-RRB-", "=", "min", "-LRB-", "lower", "bound", "-LRB-", "p", ";", "i", "-RRB-", "+", "l", "?", "1", ";", "N", "-RRB-", ".", "Each", "processor", "stores", "in", "its", "local", "template", "descriptor", "the", "values", "for", "l", ",", "num", "seg", "-LRB-", "p", "-RRB-", ",", "A", ",", "and", "B.", "With", "this", "information", "it", "is", "possible", "to", "list", "all", "template", "elements", "assigned", "to", "processor", "p", "-LRB-", "e.g.", "during", "loop", "scheduling", "-RRB-", ".", "To", "decide", "if", "a", "template", "element", "e", "is", "stored", "on", "processor", "p", ",", "the", "following", "formula", "has", "to", "be", "evaluated", "and", "is", "true", "if", "e", "is", "stored", "on", "p", ":", "p", "=", "MODULO", "-LRB-", "?", "e", "?", "1", "l", "?", ";", "P", "-RRB-", "+", "1", "Indirect", "distribution", ":", "Indirect", "distributions", ",", "e.g.", ":", "CSVM$", "PROCESSORS", ":", ":", "P", "-LRB-", "N", "-RRB-", "CSVM$", "TEMPLATE", ":", ":", "T", "-LRB-", "N", "-RRB-", "CSVM$", "DISTRIBUTE", "-LRB-", "I", "-RRB-", "ONTO", "P", "-LRB-", "MAP", "-LRB-", "I", "-RRB-", "-RRB-", ":", ":", "T", "Table", "1", ":", "Storage", "scheme", "used", "for", "inverted", "template", "distributions", "number", "of", "local", "blocks", ":", "n", "lower", "bound1", "upper", "bound1", "...", "...", "lower", "boundn", "upper", "boundn", "are", "stored", "in", "such", "a", "way", "that", "every", "processor", "stores", "locally", "only", "those", "iterations", "that", "are", "assigned", "to", "the", "processor", ".", "That", "means", "that", "the", "distribution", "function", "has", "to", "be", "inverted", "to", "compute", "the", "assigned", "elements", ".", "The", "data", "structure", "is", "a", "list", "of", "blocks", "each", "containing", "a", "lower", "and", "upper", "boundary", "for", "a", "block", ",", "i.e.", "a", "fromand", "to-value", "for", "every", "block", ".", "The", "advantage", "of", "this", "type", "of", "storage", "scheme", "is", "the", "efficiency", "with", "which", "loops", "can", "be", "executed", "as", "all", "information", "is", "available", "at", "loop", "execution", "time", ".", "The", "disadvantage", "is", "the", "-LRB-", "possible", "-RRB-", "memory", "overhead", "as", "every", "block", "needs", "two", "integer", "values", ".", "Every", "processor", "involved", "in", "the", "distribution", "process", "executes", "a", "loop", "over", "all", "possible", "values", "of", "I", "-LRB-", "e.g.", "1", ",", "...", ",", "N", "-RRB-", ".", "If", "MAP", "-LRB-", "I", "-RRB-", "is", "equal", "to", "the", "local", "processor", "number", ",", "I", "is", "attached", "to", "the", "local", "list", "of", "blocks", "to", "execute", ".", "As", "the", "iterations", "are", "executed", "in", "increasing", "order", "the", "insertion", "in", "the", "list", "of", "blocks", "is", "easy", ":", "If", "the", "new", "index", "which", "has", "to", "be", "inserted", "is", "one", "more", "than", "the", "upper", "value", "of", "the", "last", "local", "block", ",", "this", "upper", "value", "is", "increased", ";", "otherwise", "a", "new", "block", "is", "opened", "which", "contains", "the", "index", "as", "the", "lower", "and", "upper", "boundary", ".", "Linked", "distribution", ":", "Linked", "distributions", ",", "e.g.", ":", "CSVM$", "PROCESSORS", ":", ":", "P", "-LRB-", "3", "-RRB-", "CSVM$", "TEMPLATE", ":", ":", "T1", "-LRB-", "15", "-RRB-", ",", "T2", "-LRB-", "5", "-RRB-", "CSVM$", "DISTRIBUTE", "-LRB-", "BLOCK", "-RRB-", "ONTO", "P", ":", ":", "T1", "CSVM$", "DISTRIBUTE", "-LRB-", "I", "-RRB-", "ONTO", "HOME", "-LRB-", "T1", "-LRB-", "3", "*", "I", "-RRB-", "-RRB-", ":", ":", "T1", "are", "handled", "similar", "to", "indirect", "distributions", ".", "An", "iteration", "is", "inserted", "in", "the", "local", "list", "of", "iteration", "blocks", "if", "the", "template", "element", "specified", "in", "the", "HOME-clause", "is", "assigned", "to", "the", "processor", ",", "i.e.", "is", "in", "the", "local", "block", "list", "for", "template", "T1", ".", "Loop", "Scheduling", "SVM-Fortran", "has", "a", "rich", "set", "of", "loop", "scheduling", "strategies", "from", "low-overhead", "static", "strategies", "-LRB-", "e.g.", "block", ",", "cyclic", "-RRB-", "to", "locality-driven", "strategies", "where", "the", "runtime", "overhead", "might", "be", "higher", "-LRB-", "e.g.", "predefined", "scheduling", "or", "aligned", "scheduling", "-RRB-", ".", "For", "direct", "static", "strategies", "as", "block", "scheduling", "efficient", "inline", "code", "is", "generated", "if", "inside", "the", "loop", "body", "no", "processor", "set", "information", "is", "needed", "-LRB-", "which", "is", "true", "for", "many", "loops", "-RRB-", ".", "Dynamic", "strategies", "are", "still", "subject", "of", "our", "evaluation", ".", "For", "loops", "scheduled", "with", "predefined", "scheduling", ",", "the", "compiler", "usually", "does", "not", "know", "at", "compile", "time", "how", "template", "elements", "are", "distributed", "to", "processors", ".", "Therefore", ",", "code", "is", "generated", "which", "is", "able", "to", "handle", "any", "possible", "distribution", ".", "A", "detailed", "description", "on", "our", "scheduling", "can", "be", "found", "in", "-LSB-", "1", "-RSB-", ".", "Synchronization", "The", "programming", "model", "supports", "three", "forms", "of", "synchronization", ":", "barriers", "to", "ensure", "that", "every", "processor", "in", "a", "processor", "set", "has", "reached", "a", "point", ",", "critical", "sections", "to", "protect", "regions", "of", "code", ",", "and", "page", "locks", "to", "protect", "data", ".", "As", "the", "NX-Library", "on", "the", "Intel", "Paragon", "XP/S", "supports", "only", "barriers", "on", "all", "processors", "assigned", "to", "an", "application", ",", "we", "distinguish", "between", "the", "case", "that", "a", "processor", "set", "is", "identical", "with", "the", "initial", "processor", "set", "-LCB-", "in", "that", "case", "we", "use", "the", "system", "call", "-LCB-", "or", "if", "only", "a", "subset", "of", "the", "initial", "processor", "set", "is", "involved", "in", "the", "barrier", "-LCB-", "in", "that", "case", "we", "use", "our", "own", "barrier", "implementation", "with", "an", "hierarchical", "algorithm", "based", "on", "point-to-point", "message", "passing", ".", "Currently", ",", "we", "work", "on", "an", "efficient", "and", "scalable", "implementation", "for", "critical", "sections", "and", "page", "locks", ".", "5", "Performance", "Results", "In", "this", "section", "we", "present", "performance", "results", "for", "two", "applications", "parallelized", "with", "SVM-Fortran", ".", "To", "relate", "our", "results", "to", "other", "programming", "models", ",", "we", "give", "the", "corresponding", "performance", "numbers", "for", "an", "HPF", "version", "and", "-LCB-", "in", "one", "case", "-LCB-", "for", "a", "message", "passing", "version", ",", "too", ".", "Shallow", "Water", "Equations", "The", "Shallow-Water-Equations", "-LSB-", "13", "-RSB-", "is", "a", "small", "application", "program", "for", "the", "simulation", "of", "the", "atmospheric", "flow", "based", "on", "a", "finite", "difference", "scheme", ".", "We", "used", "a", "grid", "size", "of", "1024", "?", "1024", "which", "fits", "on", "8", "processors", "and", "more", "without", "paging", "to", "disk", ".", "The", "work", "is", "distributed", "with", "templates", "to", "processors", ".", "We", "used", "the", "highest", "available", "optimization", "for", "the", "target", "compiler", "-LRB-", "i.e.", "-", "O4", "-", "Knoieee", "-", "Mvect", "on", "the", "Intel", "Paragon", "XP/S", "-RRB-", ".", "For", "comparism", ",", "we", "ported", "the", "same", "program", "to", "HPF", "and", "used", "the", "PGI", "HPF-compiler", "available", "on", "the", "Intel", "Paragon", "XP/S", ".", "Table", "2", ":", "Performance", "of", "Shallow", "Water", "Equations", "-LRB-", "times", "in", "seconds", "-RRB-", "SVM-Fortran", "HPF", "proc", "time", "barrier", "time", "page", "fault", "time", "time", "8", "56.85", "2.67", "4.18", "56.25", "16", "31.07", "2.54", "2.92", "35.95", "32", "18.08", "2.37", "2.49", "29.83", "64", "11.54", "2.38", "2.10", "39.13", "128", "8.35", "2.68", "1.68", "75.23", "To", "estimate", "the", "overhead", "for", "the", "parallel", "version", "we", "run", "the", "same", "program", "with", "smaller", "array", "dimensions", "-LRB-", "256", "?", "256", "-RRB-", "such", "that", "all", "data", "fit", "into", "the", "memory", "of", "one", "processor", ".", "Then", ",", "the", "time", "for", "the", "parallel", "SVM-Fortran", "version", "run", "on", "one", "processor", "-LRB-", "25.86", "sec", "-RRB-", "was", "comparable", "to", "the", "time", "for", "the", "sequential", "version", "-LRB-", "25.22", "sec", "-RRB-", ".", "Crystal", "Growth", "Simulation", "The", "Crystal", "Growth", "Simulation", "-LSB-", "9", "-RSB-", "is", "an", "application", "developed", "at", "KFA", "for", "the", "optimization", "of", "the", "silicon", "production", "process", ".", "For", "the", "quality", "of", "the", "silicon", "crystal", "a", "constant", "convection", "in", "the", "melt", "is", "very", "important", ".", "The", "convection", "results", "from", "the", "heating", ",", "the", "rotation", "of", "the", "crucible", ",", "and", "the", "rotation", "of", "the", "crystal", ".", "The", "convection", "is", "modeled", "by", "a", "set", "of", "partial", "differential", "equations", "and", "determined", "by", "an", "explicit", "finite", "difference", "scheme", ".", "Table", "3", ":", "Performance", "of", "Crystal", "Growth", "Simulation", "-LRB-", "times", "in", "seconds", "-RRB-", "SVM-Fortran", "HPF", "MP", "proc", "time", "barrier", "time", "page", "f.", "time", "time", "time", "4", "104.8", "5.9", "2.5", "86", "67.0", "8", "56.2", "6.1", "3.4", "45", "35.5", "16", "31.2", "6.0", "3.4", "28", "18.1", "32", "20.4", "6.2", "4.0", "16", "11.2", "64", "16.2", "6.4", "4.1", "14", "7.4", "The", "selected", "work", "distribution", "assigns", "a", "part", "of", "the", "crucible", "to", "each", "processor", ".", "Due", "to", "the", "finite", "difference", "scheme", ",", "page", "faults", "occur", "mainly", "for", "accessing", "objects", "at", "the", "boundary", "of", "a", "neighbouring", "domain", ".", "Table", "3", "shows", "the", "performance", "results", ".", "Due", "to", "the", "size", "of", "the", "domain", ",", "the", "code", "could", "not", "be", "executed", "on", "less", "than", "four", "processors", "without", "paging", "to", "disk", ".", "The", "SVM-Fortran", "execution", "times", "can", "be", "compared", "to", "the", "execution", "times", "for", "the", "HPF-version", "compiled", "with", "the", "Portland", "Group", "HPF", "compiler", "and", "the", "execution", "of", "a", "hand-written", "message", "passing", "version", ".", "With", "respect", "to", "the", "much", "longer", "development", "time", "of", "the", "message", "passing", "implementation", ",", "almost", "half", "a", "year", ",", "the", "performance", "results", "of", "HPF", "and", "SVM", "are", "very", "good", ".", "Porting", "the", "code", "to", "the", "last", "two", "programming", "models", "was", "done", "in", "a", "few", "days", ".", "This", "example", "shows", "good", "speedups", "up", "to", "16", "processors", ".", "For", "more", "processors", "the", "problem", "size", "of", "42", "?", "92", "?", "202", "-LRB-", "60", "MB", "shared", "data", "-RRB-", "is", "too", "small", ".", "The", "main", "performance", "losses", "are", "the", "barrier", "synchronization", "and", "also", "the", "service", "time", "for", "page", "faults", ".", "6", "Conclusion", "SVM-Fortran", "is", "a", "language", "to", "program", "highly", "parallel", "systems", "with", "a", "global", "address", "space", ".", "The", "language", "supports", "nested", "parallelism", "and", "global", "work", "distribution", "through", "templates", ".", "Distinct", "from", "other", "approaches", ",", "we", "do", "not", "distribute", "data", "but", "rather", "work", "through", "the", "use", "of", "templates", ".", "The", "compiler", "for", "SVM-Fortran", "generates", "intermediate", "code", "which", "is", "translated", "by", "the", "native", "compiler", "of", "the", "target", "system", ".", "Currently", ",", "code", "generation", "for", "the", "Intel", "Paragon", "XP/S", "with", "a", "shared", "virtual", "memory", "extension", "called", "ASVM", "is", "done", ";", "additionally", ",", "compilation", "for", "and", "running", "on", "single", "or", "multi-processor", "Unix", "systems", "is", "possible", ".", "Efficient", "SPMD-like", "code", "is", "generated", "with", "low", "runtime", "overhead", ".", "To", "support", "the", "exclusive", "execution", "mode", ",", "dispatcher", "operations", "were", "introduced", ".", "Special", "emphasis", "was", "taken", "to", "handle", "-LRB-", "global", "-RRB-", "work", "distribution", "with", "templates", "and", "work", "sharing", "with", "a", "large", "set", "of", "distinct", "scheduling", "strategies", "on", "parallel", "loops", ".", "Performance", "numbers", "for", "two", "applications", "have", "shown", "good", "scalability", ".", "We", "expect", "to", "get", "better", "performance", "results", "when", "next-generation", "parallel", "systems", "are", "available", "which", "support", "a", "global", "address", "space", "efficiently", ".", "References", "-LSB-", "1", "-RSB-", "R.", "Berrendorf", "and", "M.", "Gerndt", ".", "Compiling", "Data", "Parallel", "Languages", "for", "Shared", "Virtual", "Memory", "Systems", ".", "Technical", "Report", "KFA-ZAM-IB-9517", ",", "Forschungszentrum", "J?ulich", "-LRB-", "KFA", "-RRB-", ",", "ZAM", ",", "1995", ".", "-LSB-", "2", "-RSB-", "R.", "Berrendorf", "and", "M.", "Gerndt", ".", "SVM-Fortran", "Reference", "Manual", ".", "Technical", "Report", "KFA-ZAM", "-", "IB-9510", ",", "Forschungszentrum", "J?ulich", "-LRB-", "KFA", "-RRB-", ",", "ZAM", ",", "April", "1995", ".", "-LSB-", "3", "-RSB-", "F.", "Bodin", ",", "L.", "Kervella", ",", "and", "T.", "Priol", ".", "Fortran-S", ":", "A", "Fortran", "Interface", "for", "Shared", "Virtual", "Memory", "Architectures", ".", "In", "Supercomputing", ".", "IEEE", ",", "1993", ".", "-LSB-", "4", "-RSB-", "G.", "Cabillic", ",", "T.", "Priol", ",", "and", "I.", "Puaut", ".", "MYOAN", ":", "An", "Implementation", "of", "the", "KOAN", "Shared", "Virtual", "Memory", "on", "the", "Intel", "Paragon", ".", "Technical", "Report", "812", ",", "INRIA-IRISA", ",", "Rennes", ",", "France", ",", "April", "1994", ".", "-LSB-", "5", "-RSB-", "F.", "Darema", ",", "D.A.", "George", ",", "V.A.", "Norton", ",", "and", "G.F.", "Pfister", ".", "A", "Single-Program-Multiple-Data", "Computational", "Model", "for", "EPEX/FORTRAN", ".", "Parallel", "Computing", ",", "7:11", "-LCB-", "24", ",", "1988", ".", "-LSB-", "6", "-RSB-", "Bruce", "Leasure", "-LRB-", "ed", ".", "-RRB-", ".", "Parallel", "Processing", "Model", "for", "High", "Level", "Programming", "Languages", ".", "ANSI", "Technical", "Committee", "X3H5", ",", "March", "1993", ".", "-LSB-", "7", "-RSB-", "High", "Performance", "Fortran", "Forum", ".", "High", "Performance", "Fortran", "Language", "Specification", ",", "1st", "edition", ",", "January", "1993", ".", "-LSB-", "8", "-RSB-", "K.", "Li", ".", "Shared", "Virtual", "Memory", "on", "Loosely", "Coupled", "Multiprocessors", ".", "PhD", "thesis", ",", "Yale", "University", ",", "September", "1986", ".", "-LSB-", "9", "-RSB-", "M.", "Mihelcic", ",", "H.", "Wenzl", ",", "and", "K.", "Wingerath", ".", "Flow", "in", "Czochralski", "Crystal", "Growth", "Melts", ".", "Technical", "Report", "2697", ",", "ISSN", "0366-0885", ",", "Forschungszentrum", "J?ulich", ",", "1992", ".", "-LSB-", "10", "-RSB-", "The", "Parallel", "Computing", "Forum", ".", "PCF", "Fortran", ":", "Language", "Definition", ",", "August", "1988", ".", "-LSB-", "11", "-RSB-", "D.M.", "Pase", ",", "T.", "McDonald", ",", "and", "A.", "Meltzer", ".", "MPP", "Fortran", "Programming", "Model", ".", "Technical", "report", ",", "Cray", "Research", ",", "Inc.", ",", "Eagan", ",", "Minnesota", ",", "1994", ".", "-LSB-", "12", "-RSB-", "Kendall", "Square", "Research", ".", "KSR", "Fortran", "Programming", ".", "Waltham", ",", "Massachusetts", ",", "1", "edition", ",", "1992", ".", "-LSB-", "13", "-RSB-", "R.", "Sadourny", ".", "The", "Dynamics", "of", "Finite-Difference", "Models", "of", "the", "Shallow-Water", "Equations", ".", "Journal", "Atm", ".", "Sci.", ",", "32", "-LRB-", "4", "-RRB-", ",", "April", "1975", ".", "-LSB-", "14", "-RSB-", "T.", "von", "Eicken", ",", "D.E.", "Culler", ",", "S.C.", "Goldstein", ",", "and", "K.E.", "Schauser", ".", "Active", "Messages", ":", "A", "Mechanism", "for", "Integrated", "Communication", "and", "Computation", ".", "In", "19th", "International", "Symposium", "on", "Computer", "Architecture", ",", "ACM", "Press", ",", "May", "1992", ".", "-LSB-", "15", "-RSB-", "S.", "Zeisset", ".", "Evaluation", "and", "Enhancement", "of", "the", "Paragon", "Multiprocessor", "'s", "Shared", "Virtual", "Memory", "System", ".", "Master", "'s", "thesis", ",", "TU", "M?unchen", ",", "1993", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Gray", "Codes", "from", "Antimatroids", "Gara", "Pruesse", "?", "Department", "of", "Computer", "Science", "University", "of", "Toronto", ",", "Toronto", ",", "Ontario", ",", "M5S", "1A1", ",", "Canada", "Frank", "Ruskey", "y", "Department", "of", "Computer", "Science", "University", "of", "Victoria", ",", "Victoria", ",", "B.C.", ",", "V8W", "2Y2", ",", "Canada", "May", "27", ",", "1993", "Abstract", "We", "show", "three", "main", "results", "concerning", "Hamiltonicity", "of", "graphs", "derived", "from", "antimatroids", ".", "These", "results", "provide", "Gray", "codes", "for", "the", "feasible", "sets", "and", "basic", "words", "of", "antimatroids", ".", "For", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", ",", "let", "J", "-LRB-", "F", "-RRB-", "denote", "the", "graph", "whose", "vertices", "are", "the", "sets", "of", "F", ",", "where", "two", "vertices", "are", "adjacent", "if", "the", "corresponding", "sets", "differ", "by", "one", "element", ".", "Define", "J", "-LRB-", "F", ";", "k", "-RRB-", "to", "be", "the", "subgraph", "of", "J", "-LRB-", "F", "-RRB-", "2", "induced", "by", "the", "sets", "in", "F", "with", "exactly", "k", "elements", ".", "Both", "graphs", "J", "-LRB-", "F", "-RRB-", "and", "J", "-LRB-", "F", ";", "k", "-RRB-", "are", "connected", ",", "and", "the", "former", "is", "bipartite", ".", "We", "show", "that", "there", "is", "a", "Hamiltonian", "cycle", "in", "J", "-LRB-", "F", "-RRB-", "?", "K2", ".", "As", "a", "consequence", ",", "the", "ideals", "of", "any", "poset", "P", "may", "be", "listed", "in", "such", "a", "way", "that", "successive", "ideals", "differ", "by", "at", "most", "two", "elements", ".", "We", "also", "show", "that", "J", "-LRB-", "F", ";", "k", "-RRB-", "has", "a", "Hamilton", "path", "if", "-LRB-", "E", ";", "F", "-RRB-", "is", "the", "poset", "antimatroid", "of", "a", "series-parallel", "poset", ".", "Similarly", ",", "we", "show", "that", "G", "-LRB-", "L", "-RRB-", "?", "K2", "is", "Hamiltonian", ",", "where", "G", "-LRB-", "L", "-RRB-", "is", "the", "\\", "basic", "word", "graph", "''", "of", "a", "language", "antimatroid", "-LRB-", "E", ";", "L", "-RRB-", ".", "This", "result", "was", "known", "previously", "for", "poset", "antimatroids", ".", "AMS", "Classification", ":", "05C45", ",", "06A05", ",", "06A06", ".", "?", "Research", "supported", "in", "part", "by", "NSERC", ".", "yResearch", "supported", "in", "part", "by", "the", "Natural", "Sciences", "and", "Engineering", "Research", "Council", "of", "Canada", "under", "Grant", "A3379", ".", "1", "Introduction", "Antimatroids", "provide", "a", "very", "general", "setting", "in", "which", "to", "consider", "problems", "of", "generating", "combinatorial", "objects", ".", "In", "the", "context", "of", "ordering", "and", "listing", "the", "feasible", "sets", "or", "feasible", "words", "of", "antimatroids", ",", "Hamiltonicity", "questions", "naturally", "arise", "in", "graphs", "that", "have", "these", "feasible", "objects", "as", "vertices", ".", "The", "purpose", "of", "this", "paper", "is", "to", "raise", "and", "answer", "some", "of", "these", "Hamiltonicity", "questions", ".", "A", "motivation", "for", "studying", "Hamiltonicity", "properties", "is", "their", "connections", "with", "combinatorial", "Gray", "Codes", ",", "that", "is", ",", "lists", "of", "combinatorial", "objects", "in", "which", "successive", "objects", "differ", "by", "a", "small", "amount", ".", "Such", "Gray", "Codes", "often", "form", "the", "basis", "of", "efficient", "algorithms", "for", "generating", "the", "objects", ".", "Some", "proofs", "rely", "on", "the", "connectedness", "of", "distributive", "lattices", "to", "prove", "statements", "of", "the", "form", "\\", "for", "every", "pair", "of", "objects", "x", "and", "y", "-LRB-", "lattice", "elements", "-RRB-", ",", "there", "is", "a", "sequence", "of", "elementary", "transformations", "-LRB-", "cover", "relations", "-RRB-", "that", "transform", "x", "into", "y", "''", ".", "For", "example", ",", "Propp", "-LSB-", "13", "-RSB-", "uses", "such", "a", "technique", "to", "prove", "that", "any", "perfect", "matching", "in", "a", "planar", "graph", "-LRB-", "subject", "to", "a", "mild", "condition", "-RRB-", "may", "be", "transformed", "into", "any", "other", "by", "a", "sequence", "of", "\\", "face", "rotations", "''", ".", "Using", "our", "results", ",", "any", "such", "statement", "implies", "a", "statement", "of", "the", "form", "\\", "there", "is", "a", "sequence", "of", "all", "the", "objects", "so", "that", "successive", "objects", "differ", "by", "one", "or", "two", "elementary", "transformations", "''", ".", "Antimatroids", "lend", "themselves", "to", "two", "different", "representations", ",", "ordered", "and", "unordered", ".", "The", "ordered", "version", "is", "a", "kind", "of", "language", ",", "and", "the", "unordered", "version", "is", "a", "kind", "of", "set", "system", ".", "A", "set", "system", "over", "a", "finite", "ground", "set", "E", "is", "a", "pair", "-LRB-", "E", ";", "F", "-RRB-", "where", "F", "?", "2E", ".", "A", "set", "system", "is", "an", "antimatroid", "if", "the", "following", "axioms", "hold", ".", "-LRB-", "A1", "-RRB-", "If", "F", "2", "F", "with", "F", "<", ">", ";", ",", "then", "there", "exists", "an", "x", "2", "F", "such", "that", "F", "n", "fxg", "2", "F", ".", "-LRB-", "A2", "-RRB-", "If", "A", ";", "B", "2", "F", ",", "then", "A", "-LSB-", "B", "2", "F", ".", "A", "set", "system", "satisfying", "-LRB-", "A1", "-RRB-", "is", "said", "to", "be", "accessible", ".", "A", "language", "over", "a", "finite", "alphabet", "E", "is", "a", "pair", "-LRB-", "E", ";", "L", "-RRB-", "with", "L", "?", "E", "?", ",", "where", "E", "?", "is", "the", "free", "monoid", "of", "words", "in", "the", "alphabet", "E", ".", "The", "length", "of", "2", "L", "-LRB-", "i.e.", ",", "the", "number", "of", "not", "necessarily", "distinct", "letters", "in", "-RRB-", "is", "denoted", "j", "j", ".", "The", "support", "~", "of", "is", "the", "set", "of", "letters", "of", ".", "A", "word", "is", "simple", "if", "it", "contains", "no", "repeated", "letter", "-LRB-", "i.e.", ",", "if", "j", "j", "=", "j", "~", "j", "-RRB-", ".", "By", "E", "-LRB-", "?", "-RRB-", "we", "denote", "the", "set", "of", "words", "in", "E", "?", "which", "are", "simple", ".", "A", "language", "-LRB-", "E", ";", "L", "-RRB-", "is", "simple", "if", "every", "word", "in", "L", "is", "simple", "-LRB-", "i.e.", ",", "if", "each", "word", "of", "L", "is", "in", "E", "-LRB-", "?", "-RRB-", "-RRB-", ".", "A", "simple", "language", "is", "a", "language", "antimatroid", "if", "the", "following", "axioms", "hold", ".", "-LRB-", "L1", "-RRB-", "If", "2", "L", ",", "then", "2", "L.", "-LRB-", "L2", "-RRB-", "If", "ff", ";", "2", "L", "with", "~", "6", "?", "~", ",", "then", "there", "is", "an", "x", "2", "~", "with", "x", "2", "L", ".", "The", "basic", "words", ",", "Basic", "-LRB-", "L", "-RRB-", ",", "of", "a", "language", "antimatroid", "are", "the", "words", "2", "L", "of", "maximal", "length", ".", "There", "is", "a", "one-to-one", "correspondence", "between", "antimatroid", "set", "systems", "and", "antimatroid", "languages", ".", "Given", "an", "antimatroid", "set", "system", "F", ",", "let", "L", "-LRB-", "F", "-RRB-", "be", "the", "language", "given", "by", "L", "-LRB-", "F", "-RRB-", "def", "=", "fx1x2", "?", "?", "?", "xk", ":", "fx1", ";", "x2", ";", ":", ":", ":", ";", "xig", "2", "F", "8i", ";", "1", "<", "=", "i", "<", "=", "kg", ":", "Given", "the", "antimatroid", "language", "L", ",", "let", "F", "-LRB-", "L", "-RRB-", "=", "f", "~", ":", "2", "Lg", ".", "It", "is", "easy", "to", "see", "that", "F", "-LRB-", "L", "-LRB-", "F", "-RRB-", "-RRB-", "=", "F", ",", "and", "L", "-LRB-", "F", "-LRB-", "L", "-RRB-", "-RRB-", "=", "L.", "Thus", "we", "may", "switch", "from", "one", "representation", "to", "the", "other", "when", "convenient", ".", "Every", "antimatroid", "is", "both", "a", "set", "system", "and", "a", "language", ",", "so", "in", "order", "to", "avoid", "confusion", "over", "which", "representation", "we", "are", "referring", "to", ",", "we", "will", "most", "often", "use", "F", "or", "L", "when", "we", "wish", "to", "treat", "the", "antimatroid", "as", "a", "set", "system", "or", "language", ",", "respectively", ".", "There", "are", "several", "alternate", "characterizations", "of", "antimatroids", ";", "one", "that", "is", "quite", "useful", "is", "in", "terms", "of", "\\", "alternative", "precedences", "''", ".", "Let", "E", "be", "a", "finite", "set", "and", "H", "be", "a", "mapping", "that", "associates", "with", "each", "x", "2", "E", "a", "set", "system", "H", "-LRB-", "x", "-RRB-", "?", "2Enfxg", ".", "The", "language", "LH", "def", "=", "fx1x2", "?", "?", "?", "xk", "2", "E", "-LRB-", "?", "-RRB-", ":", "8i", ";", "1", "<", "=", "i", "<", "=", "k", ";", "9", "A", "2", "H", "-LRB-", "xi", "-RRB-", "s.t.", ".", "A", "?", "fx1", ";", "x2", ";", ":", ":", ":", ";", "xi", "?", "1gg", "is", "called", "an", "alternative", "precedence", "language", ".", "A", "finite", "simple", "language", "is", "a", "language", "antimatroid", "if", "and", "only", "if", "it", "is", "an", "alternative", "precedence", "language", "-LRB-", "-LSB-", "11", "-RSB-", ",", "-LSB-", "4", "-RSB-", "-RRB-", ".", "An", "element", "a", "is", "an", "atom", "if", "fag", "2", "F", ";", "or", ",", "equivalently", ",", "if", "a", "2", "L", ";", "or", ",", "equivalently", ",", "if", "H", "-LRB-", "a", "-RRB-", "=", "f", ";", "g", ".", "In", "order", "to", "simplify", "the", "notation", "we", "sometimes", "use", "F", "to", "denote", "the", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", ",", "with", "the", "understanding", "that", "E", "=", "-LSB-", "F", ",", "where", "the", "union", "is", "over", "all", "F", "2", "F", ".", "Similarly", ",", "we", "will", "use", "L", "to", "denote", "the", "language", "antimatroid", "-LRB-", "E", ";", "L", "-RRB-", ",", "with", "the", "understanding", "that", "E", "=", "-LSB-", "~", ",", "where", "the", "union", "is", "over", "all", "2", "L", ".", "If", "F", "is", "an", "antimatroid", "and", "A", "2", "F", ",", "then", "we", "may", "obtain", "two", "new", "antimatroids", "by", "contraction", "and", "deletion", "as", "follows", ".", "F", "=", "A", "def", "=", "fF", ":", "F", "\\", "A", "=", ";", "and", "F", "-LSB-", "A", "2", "Fg", ":", "F", "n", "A", "def", "=", "fF", "2", "F", ":", "F", "\\", "A", "=", ";", "g", ":", "Note", "that", "these", "two", "antimatroids", "induce", "a", "partition", "of", "the", "feasible", "sets", "of", "F", "if", "jAj", "=", "1", ".", "Perhaps", "the", "most", "important", "class", "of", "antimatroids", "are", "the", "poset", "antimatroids", ".", "The", "set", "system", "-LRB-", "E", ";", "F", "-RRB-", "is", "a", "poset", "antimatroid", "if", "E", "is", "the", "set", "of", "elements", "of", "a", "poset", "P", "and", "F", "is", "the", "set", "of", "ideals", "of", "P", ".", "The", "basic", "words", "of", "the", "corresponding", "language", "antimatroid", "are", "the", "linear", "extensions", "of", "P", ".", "There", "are", "two", "standard", "\\", "sums", "''", "of", "antimatroids", ".", "Let", "-LRB-", "E1", ";", "F1", "-RRB-", "and", "-LRB-", "E2", ";", "F2", "-RRB-", "be", "antimatroids", "on", "distinct", "ground", "sets", ".", "The", "direct", "sum", "F1", "+", "F2", "is", "the", "antimatroid", "F1", "+", "F2", "def", "=", "fX1", "-LSB-", "X2", ":", "X1", "2", "F1", "and", "X2", "2", "F2g", ":", "The", "ordinal", "sum", "F1", "?", "F2", "is", "the", "antimatroid", "F1", "?", "F2", "def", "=", "F1", "-LSB-", "fE1", "-LSB-", "X2", ":", "X2", "2", "F2g", ":", "Observe", "that", "starting", "with", "isolated", "elements", "and", "then", "applying", "the", "operations", "of", "direct", "and", "ordinal", "sum", "results", "in", "poset", "antimatroids", "of", "series-parallel", "posets", ".", "We", "now", "define", "the", "graphs", "whose", "Hamiltonicity", "properties", "are", "investigated", "in", "the", "following", "sections", ".", "For", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", ",", "let", "J", "-LRB-", "F", "-RRB-", "denote", "the", "undirected", "covering", "graph", "of", "the", "sets", "of", "F", "ordered", "by", "inclusion", ".", "The", "square", "of", "a", "graph", "G", ",", "is", "the", "graph", "G2", "whose", "vertex", "set", "is", "the", "same", "as", "G", "and", "such", "that", "two", "vertices", "are", "adjacent", "in", "G2", "if", "they", "are", "of", "distance", "one", "or", "two", "in", "G.", "Define", "J", "-LRB-", "F", ";", "k", "-RRB-", "to", "be", "the", "subgraph", "of", "J", "-LRB-", "F", "-RRB-", "2", "induced", "by", "the", "sets", "in", "F", "with", "exactly", "k", "elements", ".", "Both", "graphs", "J", "-LRB-", "F", "-RRB-", "and", "J", "-LRB-", "F", ";", "k", "-RRB-", "are", "connected", ",", "and", "the", "former", "is", "bipartite", ".", "For", "some", "F", ",", "J", "-LRB-", "F", "-RRB-", "does", "not", "have", "a", "Hamilton", "path", ",", "even", "when", "the", "partite", "sets", "of", "J", "-LRB-", "F", "-RRB-", "are", "of", "the", "same", "cardinality", ";", "for", "example", ",", "consider", "the", "lattice", "of", "ideals", "of", "the", "seriesparallel", "poset", "1", "?", "-LRB-", "1", "+1", "-RRB-", "?", "1", "?", "-LRB-", "1", "+1", "-RRB-", "?", "1", ".", "The", "graph", "J", "-LRB-", "F", ";", "k", "-RRB-", "can", "fail", "to", "have", "Hamilton", "cycle", "but", "we", "know", "of", "no", "example", "where", "J", "-LRB-", "F", ";", "k", "-RRB-", "fails", "to", "have", "a", "Hamilton", "path", ".", "In", "fact", ",", "J", "-LRB-", "F", ";", "k", "-RRB-", "can", "be", "a", "path", ".", "If", "F", "is", "the", "poset", "antimatroid", "of", "a", "poset", "consisting", "of", "two", "disjoint", "chains", ",", "both", "containing", "n", "?", "1", "elements", ",", "then", "J", "-LRB-", "F", ";", "n", "-RRB-", "is", "a", "path", "of", "length", "n", ".", "A", "classic", "result", "of", "Ehrlich", "-LSB-", "5", "-RSB-", "and", "Bitner", ",", "Ehrlich", "and", "Reingold", "-LSB-", "2", "-RSB-", "is", "that", "J", "-LRB-", "P", ";", "k", "-RRB-", "is", "Hamiltonian", "if", "P", "is", "the", "poset", "antimatroid", "of", "an", "antichain", ".", "We", "extend", "this", "result", "to", "series-parallel", "posets", ".", "The", "basic", "word", "graph", "G", "-LRB-", "L", "-RRB-", "of", "the", "antimatroid", "L", "is", "the", "graph", "whose", "vertex", "set", "is", "Basic", "-LRB-", "L", "-RRB-", ",", "and", "such", "that", "two", "basic", "words", "are", "adjacent", "if", "they", "differ", "by", "the", "transposition", "of", "two", "adjacent", "elements", ".", "We", "show", "that", "G", "-LRB-", "L", "-RRB-", "?", "K2", "is", "Hamiltonian", "and", "thus", "the", "existence", "of", "a", "Gray", "Code", "for", "basic", "words", ",", "where", "each", "word", "differs", "from", "the", "previous", "one", "in", "the", "listing", "by", "one", "or", "two", "adjacent", "transpositions", ".", "We", "give", "an", "algorithm", "for", "generating", "the", "basic", "words", "which", ",", "for", "some", "antimatroids", ",", "runs", "in", "constant", "amortized", "time", ".", "Similar", "questions", "for", "the", "graph", "of", "linear", "extensions", "were", "considered", "by", "Pruesse", "and/or", "Ruskey", "-LSB-", "18", "-RSB-", ",", "-LSB-", "15", "-RSB-", ",", "-LSB-", "16", "-RSB-", ",", "-LSB-", "14", "-RSB-", "and", "Stachowiak", "-LSB-", "21", "-RSB-", ".", "The", "diameter", "of", "G", "-LRB-", "L", "-RRB-", "was", "investigated", "in", "-LSB-", "10", "-RSB-", "and", "-LSB-", "27", "-RSB-", ".", "In", "Section", "2", "we", "show", "that", "there", "is", "a", "Hamiltonian", "cycle", "in", "J", "-LRB-", "F", "-RRB-", "?", "K2", ".", "As", "a", "consequence", ",", "the", "ideals", "of", "any", "poset", "P", "may", "be", "listed", "in", "such", "a", "way", "that", "successive", "ideals", "differ", "by", "at", "most", "two", "elements", ".", "In", "section", "3", "we", "show", "that", "J", "-LRB-", "F", ";", "k", "-RRB-", "has", "a", "Hamilton", "path", "if", "-LRB-", "E", ";", "F", "-RRB-", "is", "the", "poset", "antimatroid", "of", "a", "series-parallel", "poset", ".", "In", "Section", "4", "we", "show", "that", "G", "-LRB-", "L", "-RRB-", "?", "K2", "is", "Hamiltonian", ".", "2", "The", "graph", "J", "-LRB-", "F", "-RRB-", "?", "K2", "is", "Hamiltonian", "We", "consider", "graphs", "of", "the", "form", "G", "?", "K2", ";", "that", "is", ",", "the", "product", "of", "a", "graph", "G", "with", "an", "edge", ".", "In", "other", "words", ",", "there", "are", "two", "copies", "of", "G", ",", "which", "we", "denote", "as", "+", "G", "and", "?", "G", ",", "with", "edges", "joining", "corresponding", "vertices", "in", "the", "two", "copies", ".", "Given", "a", "vertex", "v", "in", "G", ",", "denote", "the", "corresponding", "vertices", "in", "G?K2", "as", "+", "v", "and", "?", "v", ".", "If", "w", "is", "a", "vertex", "of", "G?K2", "then", "by", "w", "we", "denote", "the", "corresponding", "vertex", "in", "the", "other", "copy", "of", "G", ".", "The", "following", "lemma", "was", "proven", "in", "-LSB-", "16", "-RSB-", ".", "Lemma", "1", "If", "G", "is", "bipartite", "and", "G", "?", "K2", "is", "Hamiltonian", ",", "then", "G2", "is", "Hamiltonian", ".", "Theorem", "1", "For", "every", "antimatroid", "F", "and", "any", "atom", "x", "of", "F", ",", "the", "graph", "J", "-LRB-", "F", "-RRB-", "?", "K2", "has", "a", "Hamilton", "cycle", "that", "includes", "the", "edges", "-LSB-", "+", ";", ";", "?", ";]", "and", "-LSB-", "+", ";", ";", "+", "x", "-RSB-", ".", "Proof", ":", "Our", "proof", "is", "by", "induction", "on", "n", "=", "jEj", ".", "If", "n", "=", "1", "then", "J", "-LRB-", "F", "-RRB-", "?", "K2", "is", "the", "4-cycle", "+", ";", ";", "+", "fxg", ";", "?", "fxg", ";", "?", ";", ",", "where", "E", "=", "fxg", ".", "If", "n", ">", "1", ",", "then", "let", "fxg", "2", "F", "and", "consider", "the", "antimatroid", "F", "=", "x", ".", "We", "consider", "two", "cases", "depending", "upon", "the", "number", "of", "singleton", "sets", "in", "F", ".", "If", "x", "is", "the", "only", "atom", "of", "F", ",", "then", "inductively", "we", "may", "assume", "that", "there", "is", "a", "Hamilton", "cycle", "+", ";", "=", "X1", ";", "X2", ";", ":", ":", ":", ";", "Xp", "=", "?", ";", "in", "J", "-LRB-", "F", "=", "x", "-RRB-", ".", "This", "may", "be", "extended", "to", "the", "Hamilton", "cycle", "+", ";", ";", "X1", "-LSB-", "fxg", ";", "X2", "-LSB-", "fxg", ";", ":", ":", ":", ";", "Xp", "-LSB-", "fxg", ";", "?", ";", "in", "J", "-LRB-", "F", "-RRB-", ".", "Clearly", ",", "this", "cycle", "contains", "the", "edges", "-LSB-", "+", ";", ";", "?", ";]", "and", "-LSB-", "+", ";", ";", "+", "fxg", "-RSB-", ".", "If", "there", "are", "at", "least", "two", "distinct", "elements", "x", ";", "y", "2", "E", "such", "that", "fxg", ";", "fyg", "2", "F", ",", "then", "inductively", "there", "are", "Hamilton", "cycles", "+", ";", "=", "X1", ";", "X2", ";", ":", ":", ":", ";", "Xp", "=", "?", ";", "in", "J", "-LRB-", "F", "=", "x", "-RRB-", "and", "+", ";", "=", "Y1", ";", "Y2", ";", ":", ":", ":", ";", "Yq", "=", "?", ";", "in", "J", "-LRB-", "F", "n", "x", "-RRB-", ";", "where", "X2", "=", "Y2", "=", "fyg", ".", "The", "following", "is", "thus", "a", "Hamilton", "cycle", "in", "G", "-LRB-", "F", "-RRB-", ".", "Y1", ";", "X1", "-LSB-", "fxg", ";", "Xp", "-LSB-", "fxg", ";", "Xp", "?", "1", "-LSB-", "fxg", ";", ":", ":", ":", ";", "X2", "-LSB-", "fxg", ";", "Y2", ";", "Y3", ";", ":", ":", ":", ";", "Yq", "?", "1", ";", "Yq", "This", "cycle", "contains", "the", "edges", "-LSB-", "+", ";", ";", "?", ";]", "and", "-LSB-", "+", ";", ";", "+", "fxg", "-RSB-", ".", "2", "Observe", "that", "the", "preceeding", "proof", "maintains", "the", "following", "invariant", ":", "The", "Hamilton", "path", "in", "J", "-LRB-", "F", "-RRB-", "?", "K2", "has", "the", "property", "that", "any", "feasible", "set", "I", "between", "two", "signed", "feasible", "sets", "?", "F", "and", "?", "F", "on", "the", "path", "satisfies", "F", "ae", "I.", "Thus", "the", "list", "of", "feasible", "sets", "has", "the", "structure", "of", "a", "well-formed", "parentheses", "string", "with", "jF", "j", "types", "of", "parentheses", ".", "Corollary", "1", "For", "every", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", ",", "there", "is", "a", "listing", "X1", ";", "X2", ";", ":", ":", ":", ";", "XjFj", "of", "the", "feasible", "sets", "F", "such", "that", "successive", "sets", "-LRB-", "including", "the", "first", "and", "last", "-RRB-", "differ", "by", "at", "most", "two", "elements", ".", "Proof", ":", "Since", "J", "-LRB-", "F", "-RRB-", "is", "bipartite", ",", "we", "may", "apply", "Lemma", "1", "to", "conclude", "that", "J", "-LRB-", "F", "-RRB-", "2", "is", "Hamiltonian", ".", "2", "3", "Feasible", "sets", "of", "fixed", "size", "Recall", "that", "the", "Hamming", "distance", "between", "two", "bitstrings", "is", "the", "number", "of", "positions", "in", "which", "they", "differ", ".", "Regarding", "the", "bitstrings", "as", "the", "characteristic", "vectors", "of", "a", "set", "the", "Hamming", "distance", "D", "between", "two", "sets", "is", "D", "-LRB-", "A", ";", "B", "-RRB-", "=", "j", "-LRB-", "A", "-LSB-", "B", "-RRB-", "\\", "-LRB-", "A", "-LSB-", "B", "-RRB-", "j", ".", "In", "other", "words", ",", "the", "Hamming", "distance", "of", "two", "sets", "is", "the", "number", "of", "elements", "which", "are", "in", "one", "set", "but", "not", "in", "the", "other", ".", "We", "defined", "J", "-LRB-", "P", ";", "k", "-RRB-", "to", "be", "the", "subgraph", "of", "J", "-LRB-", "P", "-RRB-", "2", "induced", "by", "those", "vertices", "-LRB-", "feasible", "sets", "-RRB-", "with", "exactly", "k", "elements", ".", "In", "other", "words", ",", "J", "-LRB-", "P", ";", "k", "-RRB-", "=", "-LRB-", "V", ";", "E", "-RRB-", "where", "V", "=", "fA", "2", "F", ":", "jAj", "=", "kg", "and", "E", "=", "ffA", ";", "Bg", ":", "A", ";", "B", "2", "V", "and", "D", "-LRB-", "A", ";", "B", "-RRB-", "=", "2g", ".", "The", "graph", "J", "-LRB-", "F", ";", "k", "-RRB-", "is", "not", "bipartite", "in", "general", "-LRB-", "for", "example", ",", "the", "graph", "J", "-LRB-", "2f1", ";", "2", ";", ":", ":", ":", ";", "ng", ";", "1", "-RRB-", "is", "the", "complete", "graph", "Kn", "-RRB-", ",", "but", "it", "is", "always", "connected", ".", "Lemma", "2", "For", "every", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", ",", "the", "graph", "J", "-LRB-", "F", ";", "k", "-RRB-", "is", "connected", ".", "Proof", ":", "Our", "proof", "is", "by", "induction", "on", "jEj", ".", "The", "lemma", "is", "clearly", "true", "if", "k", "=", ";", "1", "or", "if", "jEj", "=", ";", "1", ".", "So", "assume", "that", "jEj", ">", "1", "and", "k", ">", "1", ".", "Let", "x", "be", "an", "atom", "of", "F", ".", "Inductively", ",", "J", "-LRB-", "F", "n", "x", ";", "k", "-RRB-", "and", "J", "-LRB-", "F", "=", "x", ";", "k", "?", "1", "-RRB-", "are", "connected", ".", "Thus", ",", "the", "vertices", "of", "J", "-LRB-", "F", ";", "k", "-RRB-", "which", "contain", "x", "are", "connected", ",", "as", "are", "those", "which", "do", "not", "contain", "x", ".", "If", "F", "2", "F", "n", "x", "with", "jF", "j", "=", "k", ",", "then", "there", "is", "a", "y", "2", "E", "n", "fxg", "such", "that", "F", "nfyg", "2", "F", "nx", ".", "By", "closure", "under", "union", "F", "=", "F", "nfyg", "-LSB-", "fxg", "2", "F", ";", "i.e.", ",", "F", "nfyg", "2", "F", "=", "x", ".", "Since", "F", "and", "F", "are", "adjacent", "in", "J", "-LRB-", "F", ";", "k", "-RRB-", ",", "all", "vertices", "in", "J", "-LRB-", "F", ";", "k", "-RRB-", "are", "connected", ".", "2", "If", "H", "is", "a", "Hamilton", "path", ",", "then", "first", "-LRB-", "H", "-RRB-", "and", "last", "-LRB-", "H", "-RRB-", "have", "the", "obvious", "meanings", "of", "the", "first", "and", "last", "vertices", "of", "H", ",", "respectively", ".", "Definition", "1", "The", "sequence", "H0", "-LRB-", "P", "-RRB-", ";", "H1", "-LRB-", "P", "-RRB-", ";", ":", ":", ":", ";", "Hn", "-LRB-", "P", "-RRB-", "is", "a", "complete", "set", "of", "Hamilton", "paths", "for", "the", "poset", "P", "if", "1", ".", "Each", "Hk", "-LRB-", "P", "-RRB-", "is", "a", "Hamilton", "path", "in", "J", "-LRB-", "P", ";", "k", "-RRB-", "for", "k", "=", "1", ";", "2", ";", ":", ":", ":", ";", "n.", "2", ".", "D", "-LRB-", "first", "-LRB-", "Hi", "-RRB-", ";", "first", "-LRB-", "Hi", "+1", "-RRB-", "-RRB-", "=", "1", "for", "i", "=", ";", "1", ";", ":", ":", ":", ";", "n", "?", "1", ".", "3", ".", "D", "-LRB-", "last", "-LRB-", "Hi", "-RRB-", ";", "last", "-LRB-", "Hi", "+1", "-RRB-", "-RRB-", "=", "1", "for", "i", "=", ";", "1", ";", ":", ":", ":", ";", "n", "?", "1", ".", "Theorem", "2", "If", "Q", "and", "R", "both", "have", "complete", "sets", "of", "Hamilton", "paths", "then", "P", "=", "Q?R", "has", "a", "complete", "set", "of", "Hamilton", "paths", ".", "Theorem", "3", "If", "Q", "and", "R", "both", "have", "complete", "sets", "of", "Hamilton", "paths", "then", "P", "=", "Q+R", "has", "a", "complete", "set", "of", "Hamilton", "paths", ".", "Corollary", "2", "Series-parallel", "posets", "have", "complete", "sets", "of", "Hamilton", "paths", ".", "Corollary", "3", "Forest", "posets", "have", "complete", "sets", "of", "Hamilton", "paths", ".", "Proof", "-LRB-", "of", "Theorem", "2", "-RRB-", ":", "Let", "p", "=", "jS", "-LRB-", "P", "-RRB-", "j", ",", "q", "=", "jS", "-LRB-", "Q", "-RRB-", "j", ",", "r", "=", "jS", "-LRB-", "R", "-RRB-", "j", ",", "and", "thus", "p", "=", "q", "+", "r.", "Given", "the", "complete", "sets", "of", "Hamilton", "paths", "Hk", "-LRB-", "Q", "-RRB-", "-LRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "q", "-RRB-", "and", "Hk", "-LRB-", "R", "-RRB-", "-LRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "r", "-RRB-", ",", "we", "need", "to", "show", "a", "complete", "set", "of", "Hamilton", "paths", "Hk", "-LRB-", "P", "-RRB-", "-LRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "p", "-RRB-", ".", "For", "k", "<", "=", "q", "set", "Hk", "-LRB-", "P", "-RRB-", "=", "Hk", "-LRB-", "Q", "-RRB-", ".", "For", "k", ">", "q", "set", "Hk", "-LRB-", "P", "-RRB-", "=", "S", "-LRB-", "Q", "-RRB-", "-LSB-", "Hk?q", "-LRB-", "R", "-RRB-", ",", "where", "the", "union", "is", "taken", "componentwise", ".", "2", "Proof", "-LRB-", "of", "Theorem", "3", "-RRB-", ":", "Let", "p", "=", "jS", "-LRB-", "P", "-RRB-", "j", ",", "q", "=", "jS", "-LRB-", "Q", "-RRB-", "j", ",", "r", "=", "jS", "-LRB-", "R", "-RRB-", "j", ",", "and", "assume", "without", "loss", "of", "generality", "that", "<", "r", "<", "=", "q", "<", "p", ".", "The", "complete", "set", "of", "Hamilton", "paths", "for", "Q", "is", "denoted", "Hk", "-LRB-", "Q", "-RRB-", "-LRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "q", "-RRB-", ",", "and", "similarly", "Hk", "-LRB-", "R", "-RRB-", "for", "R", ".", "We", "will", "show", "how", "to", "construct", "a", "complete", "set", "of", "Hamilton", "paths", "Hk", "-LRB-", "P", "-RRB-", "-LRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "p", "-RRB-", ".", "The", "global", "structure", "of", "the", "path", "for", "Hk", "-LRB-", "P", "-RRB-", "consists", "of", ",", "for", "increasing", "values", "of", "i", ",", "Hamilton", "paths", "pi", ";", "k?i", "in", "the", "subgraph", "Hi", "-LRB-", "Q", "-RRB-", "?", "Hk?i", "-LRB-", "R", "-RRB-", "of", "J", "-LRB-", "P", ";", "k", "-RRB-", ".", "In", "the", "forward", "direction", ",", "the", "-LRB-", "i", ";", "k", "?", "i", "-RRB-", "path", "starts", "with", "first", "-LRB-", "Hi", "-LRB-", "Q", "-RRB-", "-RRB-", "-LSB-", "first", "-LRB-", "Hk?i", "-LRB-", "R", "-RRB-", "-RRB-", "or", "first", "-LRB-", "Hi", "-LRB-", "Q", "-RRB-", "-RRB-", "-LSB-", "last", "-LRB-", "Hk?i", "-LRB-", "R", "-RRB-", "-RRB-", ";", "-LRB-", "1", "-RRB-", "and", "ends", "at", "last", "-LRB-", "Hi", "-LRB-", "Q", "-RRB-", "-RRB-", "-LSB-", "first", "-LRB-", "Hk?i", "-LRB-", "R", "-RRB-", "-RRB-", "or", "last", "-LRB-", "Hi", "-LRB-", "Q", "-RRB-", "-RRB-", "-LSB-", "last", "-LRB-", "Hk?i", "-LRB-", "R", "-RRB-", "-RRB-", ":", "-LRB-", "2", "-RRB-", "To", "be", "specific", ",", "let", "Hi", "-LRB-", "Q", "-RRB-", "=", "a1", ";", "a2", ";", ":", ":", ":", ";", "aM", "and", "Hk?i", "-LRB-", "R", "-RRB-", "=", "b1", ";", "b2", ";", ":", ":", ":", ";", "bN", "Starting", "in", "the", "forward", "direction", "from", "-LRB-", "1", "-RRB-", ",", "the", "Hamilton", "path", "in", "the", "subgraph", "J", "-LRB-", "Q", ";", "i", "-RRB-", "?", "J", "-LRB-", "R", ";", "k", "?", "i", "-RRB-", "starts", "out", "a1b1", ";", "a1b2", ";", ":", ":", ":", ";", "a1bN", ";", "a1bN", ";", "a1bN", "?", "1", ";", ":", ":", ":", ";", "a1b1", ";", "a2bN", ";", ":", ":", ":", ";", "a2b2", ";", "a2b1", ";", "a2b1", ";", ":", ":", ":", ";", "a2bN", "?", "1", ";", "a2bN", ";", "a3b1", ";", "a3b2", ";", ":", ":", ":", ";", "a3bN", ";", "or", "a3bN", ";", "a3bN", "?", "1", ";", ":", ":", ":", ";", "a3b1", ";", "a4bN", ";", ":", ":", ":", ";", "a4b2", ";", "a4b1", ";", "a4b1", ";", ":", ":", ":", ";", "a4bN", "?", "1", ";", "a4bN", ";", ":", ":", ":", ":", ":", ":", "and", "if", "M", "is", "odd", "ends", "at", "aMb1", ";", "aMb2", ";", ":", ":", ":", ";", "aMbN", "or", "aMbN", ";", "aMbN", "?", "1", ";", ":", ":", ":", ";", "aMb1", ";", "and", "if", "M", "is", "even", "ends", "at", "aMbN", ";", ":", ":", ":", ";", "aMb2", ";", "aMb1", "or", "aMb1", ";", "a1b2", ";", ":", ":", ":", ";", "aMbN", ":", "On", "this", "list", "successive", "feasible", "sets", "have", "the", "form", "asbt", ";", "asbt", "+1", "or", "asbt", ";", "as", "+1", "bt", "and", "thus", "have", "Hamming", "distance", "2", ".", "Thus", "for", "given", "values", "of", "i", "and", "k", ",", "there", "are", "two", "alternative", "lists", ".", "These", "two", "lists", "can", "be", "distinguished", "by", "their", "first", "elements", ".", "A", "-LRB-", "i", ";", "k", "?", "i", "-RRB-", "-", "list", "pi", ";", "k?i", "is", "first-first", "if", "it", "begins", "at", "a1b1", "-LRB-", "i.e.", ",", "first", "-LRB-", "Hi", "-LRB-", "Q", "-RRB-", "-RRB-", "-LSB-", "first", "-LRB-", "Hk?i", "-LRB-", "R", "-RRB-", "-RRB-", ";", "it", "is", "firstlast", "if", "it", "begins", "at", "a1bN", ".", "The", "lists", "can", "also", "be", "distinguished", "by", "their", "last", "elements", ".", "A", "-LRB-", "i", ";", "k", "?", "i", "-RRB-", "-", "list", "is", "last-last", "if", "it", "ends", "at", "aMbN", ";", "it", "is", "last-first", "if", "it", "ends", "at", "aMb1", ".", "If", "M", "is", "odd", ",", "a", "first-first", "path", "is", "also", "last-last", ";", "otherwise", ",", "it", "is", "last-first", ".", "We", "form", "the", "path", "Hk", "-LRB-", "P", "-RRB-", "by", "stringing", "together", "paths", "pi", ";", "k?i", "for", "all", "valid", "values", "of", "i", ",", "where", "each", "pi", ";", "k?i", "is", "a", "path", "of", "one", "of", "the", "two", "types", "described", "above", ",", "and", "may", "appear", "either", "in", "the", "forward", "direction", "or", "in", "reverse", ";", "the", "reverse", "direction", "will", "be", "denoted", "with", "the", "superscript", "R.", "For", "example", ",", "when", "k", "<", "=", "r", "<", "=", "q", ",", "Hk", "-LRB-", "P", "-RRB-", "=", "-LRB-", "pk", ";", "0", ";", "-LRB-", "pk", "?", "1", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "p0", ";", "k", "if", "k", "even", ",", "pk", ";", "0", ";", "-LRB-", "pk", "?", "1", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "-LRB-", "p0", ";", "k", "-RRB-", "R", "if", "k", "odd", ".", "In", "order", "for", "Hk", "-LRB-", "P", "-RRB-", "to", "be", "a", "path", "in", "J", "-LRB-", "P", ";", "k", "-RRB-", ",", "the", "type", "of", "each", "pi", ";", "k?i", "-LRB-", "i.e.", ",", "first-first", "or", "first-last", "-RRB-", "must", "be", "selected", "so", "that", "there", "is", "Hamming", "distance", "2", "in", "going", "from", "one", "path", "to", "the", "next", ".", "For", "example", "if", "pi", ";", "k?i", "is", "a", "first-first", "path", "and", "appears", "in", "reverse", "order", "in", "Hk", "-LRB-", "P", "-RRB-", ",", "then", "pi", "?", "1", ";", "k?i", "+1", "must", "be", "a", "first-first", "path", ".", "Note", "that", "the", "pi", ";", "k?i", "'s", "are", "not", "necessarily", "all", "of", "the", "same", "type", "for", "a", "given", "k", ",", "because", "the", "number", "M", "of", "ideals", "of", "size", "i", "of", "Q", "may", "be", "even", "for", "some", "values", "of", "i", ",", "odd", "for", "others", ".", "Observe", "that", "for", "any", "k", "and", "i", ",", "the", "type", "of", "pi", ";", "k?i", "can", "be", "selected", ",", "and", "that", "selection", "determines", "the", "type", "of", "pj", ";", "k?j", "for", "all", "other", "valid", "values", "of", "j.", "Thus", "we", "have", "shown", "how", "to", "construct", "a", "set", "of", "paths", "Hk", "-LRB-", "P", "-RRB-", "with", "Property", "1", ";", "i.e.", ",", "such", "that", "each", "Hk", "-LRB-", "P", "-RRB-", "is", "a", "Hamilton", "path", "in", "J", "-LRB-", "P", ";", "k", "-RRB-", "for", "k", "=", ";", "1", ";", ":", ":", ":", ";", "n", ".", "We", "now", "show", "inductively", "how", "to", "select", "the", "types", "for", "the", "paths", "pi", ";", "k?i", "in", "Hk", "-LRB-", "P", "-RRB-", "so", "that", "Properties", "2", "and", "3", "are", "maintained", ".", "Initially", ",", "H0", "-LRB-", "P", "-RRB-", "is", "the", "path", "on", "one", "vertex", ",", "the", "empty", "set", ".", "Suppose", "the", "paths", "H0", "-LRB-", "P", "-RRB-", ";", "H1", "-LRB-", "P", "-RRB-", ";", ":", ":", ":", ";", "Hk", "-LRB-", "P", "-RRB-", "have", "been", "constructed", "so", "as", "to", "satisfy", "all", "three", "properties", ".", "Then", "Hk", "+1", "-LRB-", "P", "-RRB-", "can", "be", "constructed", "so", "as", "to", "have", "Properties", "2", "and", "3", "in", "the", "following", "way", ".", "-LSB-", "Case", "where", "k", "<", "r", "<", "=", "q", ":]", "Assume", "for", "the", "sake", "of", "illustration", "that", "k", "is", "even", ";", "similar", "arguments", "hold", "when", "k", "is", "odd", ".", "Then", "Hk", "-LRB-", "P", "-RRB-", "=", "pk", ";", "0", ";", "-LRB-", "pk", "?", "1", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "p0", ";", "k", ";", "Hk", "+1", "-LRB-", "P", "-RRB-", "=", "pk", "+1", ";", "0", ";", "-LRB-", "pk", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "-LRB-", "p0", ";", "k", "+1", "-RRB-", "R", ":", "Note", "that", ",", "regardless", "of", "type", ",", "D", "-LRB-", "first", "-LRB-", "pk", ";", "0", "-RRB-", ";", "first", "-LRB-", "pk", "+1", ";", "0", "-RRB-", "-RRB-", "=", "1", ".", "If", "the", "type", "of", "p0", ";", "k", "is", "last-last", ",", "then", "set", "the", "type", "of", "p0", ";", "k", "+1", "to", "be", "first-last", ";", "otherwise", ",", "set", "it", "to", "be", "first-first", ".", "H0", "-LRB-", "Q", "-RRB-", "just", "contains", "the", "empty", "set", ",", "so", "a1", "=", "aM", ",", "and", "D", "-LRB-", "first", "-LRB-", "H0", "-LRB-", "Q", "-RRB-", "-RRB-", ";", "last", "-LRB-", "H0", "-LRB-", "Q", "-RRB-", "-RRB-", "-RRB-", "=", ":", "By", "definition", ",", "D", "-LRB-", "last", "-LRB-", "Hk", "-LRB-", "R", "-RRB-", "-RRB-", ";", "last", "-LRB-", "Hk", "+1", "-LRB-", "R", "-RRB-", "-RRB-", "-RRB-", "=", "1", ":", "Therefore", "D", "-LRB-", "last", "-LRB-", "Hk", "-LRB-", "P", "-RRB-", "-RRB-", ";", "last", "-LRB-", "Hk", "+1", "-LRB-", "P", "-RRB-", "-RRB-", "-RRB-", "=", "1", ":", "-LSB-", "Case", "where", "r", "<", "=", "k", "<", "q", ":]", "In", "this", "case", ",", "the", "number", "of", "paths", "strung", "together", "is", "r", "+", "1", ".", "Suppose", "r", "is", "even", ".", "Then", "Hk", "-LRB-", "P", "-RRB-", "=", "pk", ";", "0", ";", "-LRB-", "pk", "?", "1", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "pk?r", ";", "r", ";", "Hk", "+1", "-LRB-", "P", "-RRB-", "=", "pk", "+1", ";", "0", ";", "-LRB-", "pk", ";", "1", "-RRB-", "R", ";", ":", ":", ":", ";", "pk", "+1", "?", "r", ";", "r", ":", "By", "a", "similar", "argument", "as", "given", "in", "the", "first", "case", ",", "D", "-LRB-", "first", "-LRB-", "Hk", "-LRB-", "P", "-RRB-", "-RRB-", ";", "first", "-LRB-", "Hk", "+1", "-LRB-", "P", "-RRB-", "-RRB-", "-RRB-", "=", "D", "-LRB-", "last", "-LRB-", "Hk", "-LRB-", "P", "-RRB-", "-RRB-", ";", "last", "-LRB-", "Hk", "+1", "-LRB-", "P", "-RRB-", "-RRB-", "-RRB-", "=", "1", ";", "regardless", "of", "type", ".", "A", "similar", "argument", "holds", "when", "r", "is", "odd", ".", "-LSB-", "Case", "r", "<", "=", "q", "<", "k", ":]", "For", "q", "+", "r", "?", "k", "even", ",", "Hk", "-LRB-", "P", "-RRB-", "=", "pq", ";", "k?q", ";", "-LRB-", "pq", "?", "1", ";", "k", "+1", "?", "q", "-RRB-", "R", ";", ":", ":", ":", ";", "pk?r", ";", "r", ";", "Hk", "+1", "-LRB-", "P", "-RRB-", "=", "-LRB-", "pq", ";", "k", "+1", "?", "q", "-RRB-", "R", ";", "pq", "?", "1", ";", "k", "+2", "?", "r", ";", ":", ":", ":", ";", "pk", "+1", "?", "r", ";", "r", ":", "If", "pq", ";", "k?q", "is", "first-first", ",", "set", "pq", ";", "k", "+1", "?", "q", "to", "be", "last-first", ".", "It", "is", "easy", "to", "confirm", "that", "Properties", "2", "and", "3", "are", "upheld", ".", "A", "similar", "argument", "holds", "when", "q", "+", "r", "?", "k", "is", "odd", ".", "This", "completes", "the", "proof", ".", "2", "4", "The", "graph", "G", "-LRB-", "L", "-RRB-", "?", "K2", "is", "Hamiltonian", "In", "this", "section", ",", "we", "show", "the", "existence", "of", "a", "certain", "kind", "of", "Gray", "code", "for", "the", "basic", "words", "of", "an", "antimatroid", ".", "We", "begin", "with", "a", "definition", "and", "two", "lemmas", ".", "Definition", "2", "For", "a", "word", ",", "let", "?", "x", "be", "the", "word", ",", "where", "=", "xfl", ",", "or", "?", "x", "=", ",", "if", "x", "62", ".", "Note", "that", "if", "x", "is", "an", "atom", "that", "L", "=", "fxg", "=", "f", "?", "x", ":", "2", "Lg", ".", "Lemma", "3", "Let", "-LRB-", "E", ";", "L", "-RRB-", "be", "an", "antimatroid", "in", "which", "the", "elements", "of", "E", "are", "fa", ";", "x1", ";", "x2", ";", ":", ":", ":", ";", "xng", "where", "a", "is", "an", "atom", ".", "For", "all", "1", "<", "=", "i", "<", "=", "j", "<", "n", ",", "if", "ss", "=", "x1", "?", "?", "?", "xixi", "+1", "?", "?", "?", "xjaxj", "+1", "?", "?", "?", "xn", "2", "L", ";", "then", "ss0", "=", "x1", "?", "?", "?", "xiaxi", "+1", "?", "?", "?", "xjxj", "+1", "?", "?", "?", "xn", "2", "L", ":", "Proof", ":", "Let", "H", "be", "a", "alternative", "precedence", "mapping", "for", "L", ".", "Since", "a", "is", "an", "atom", ",", "H", "-LRB-", "a", "-RRB-", "=", "f", ";", "g", "and", "so", "a", "needs", "no", "precedent", "set", ".", "For", "the", "xl", "-LRB-", "1", "<", "=", "l", "<", "=", "n", "-RRB-", "elements", ",", "it", "is", "clear", "that", "the", "same", "precedent", "constraints", "met", "in", "ss", "are", "also", "met", "in", "ss0", ".", "2", "Definition", "3", "A", "B-poset", "is", "a", "poset", "P", "whose", "elements", "can", "be", "partitioned", "into", "two", "disjoint", "chains", ",", "x1", "OE", "x2", "OE", "?", "?", "?", "OE", "xn", "and", "y1", "OE", "y2", "OE", "?", "?", "?", "OE", "ym", ",", "such", "that", "yj", "6", "?", "xi", "for", "all", "i", "and", "j", ",", "where", "1", "<", "=", "i", "<", "=", "n", "and", "1", "<", "=", "j", "<", "=", "m", ".", "The", "following", "lemma", "was", "proved", "in", "-LSB-", "15", "-RSB-", ".", "Lemma", "4", "Let", "P", "be", "a", "B-poset", "as", "defined", "above", "and", "denote", "<", "=", "=", "x1x2", "?", "?", "?", "xny1y2", "?", "?", "?", "ym", ".", "There", "is", "a", "Hamiltonian", "cycle", "in", "G", "-LRB-", "P", "-RRB-", "?", "K2", "which", "uses", "the", "edge", "-LSB-", "+", "<", "=", ";", "?", "<=]", ".", "We", "now", "give", "the", "main", "theorem", "of", "this", "section", ".", "The", "theorem", "and", "proof", "given", "here", "are", "generalizations", "of", "the", "main", "theorem", "and", "proof", "in", "-LSB-", "16", "-RSB-", ",", "which", "showed", "the", "following", "result", "for", "poset", "antimatroids", ".", "Theorem", "4", "For", "every", "antimatroid", "L", ",", "the", "graph", "G", "-LRB-", "L", "-RRB-", "?", "K2", "is", "Hamiltonian", ".", "Proof", ":", "The", "proof", "of", "the", "theorem", "is", "by", "induction", "on", "jEj", ".", "For", "the", "base", "cases", "of", "the", "induction", ",", "L", "is", "the", "antimatroid", "on", "zero", "or", "one", "elements", ";", "in", "these", "cases", "G", "-LRB-", "F", "-RRB-", "?", "K2", "is", "an", "edge", ".", "Suppose", "jEj", ">", "1", ".", "If", "L", "has", "exactly", "one", "atom", "a", ",", "then", "G", "-LRB-", "L", "-RRB-", "?", "=", "G", "-LRB-", "L", "=", "fag", "-RRB-", ",", "and", "by", "the", "inductive", "hypothesis", "G", "-LRB-", "L", "=", "fag", "-RRB-", "?", "K2", "is", "Hamiltonian", ".", "Otherwise", ",", "let", "L", "have", "two", "atoms", "a", "and", "b.", "By", "the", "inductive", "hypothesis", ",", "the", "graph", "G", "-LRB-", "L", "=", "fa", ";", "bg", "-RRB-", "?", "K2", "has", "a", "Hamiltonian", "cycle", "H1", ".", "Replace", "each", "signed", "basic", "word", "+", "i", "on", "H1", "with", "abffi", ";", "replace", "each", "basic", "word", "?", "i", "with", "baffi", ".", "Call", "the", "resulting", "sequence", "H2", ".", "By", "Lemma", "3", ",", "both", "abffi", "and", "baffi", "are", "basic", "words", "of", "L", ";", "therefore", "H2", "is", "a", "cycle", "1", ";", "2", ";", ":", ":", ":", ";", "M", ",", "where", "M", "=", "2", "?", "e", "-LRB-", "L", "=", "fa", ";", "bg", "-RRB-", ",", "in", "G", "-LRB-", "L", "-RRB-", ",", "which", "visits", "exactly", "those", "basic", "words", "in", "L", "in", "which", "have", "the", "prefix", "ab", "or", "ba", ".", "For", "each", "i", "=", "xiyi?i", ",", "where", "fxi", ";", "yig", "=", "fa", ";", "bg", ",", "let", "Bi", "be", "the", "poset", "which", "consists", "of", "the", "two", "chains", ",", "xiyi", "and", "?", "i", ",", "plus", "the", "relations", "given", "-LRB-", "directly", "or", "transitively", "-RRB-", "by", "the", "following", "rule", ".", "For", "z", "2", "~", "?", "i", ",", "where", "oe", "and", "ae", "are", "such", "that", "?", "i", "=", "oezae", ",", "if", "xioezyiae", "62", "L", "then", "yi", "<", "Bi", "z", ";", "similarly", ",", "if", "oezxiyiae", "62", "L", "then", "xi", "<", "Bi", "z.", "Consider", "a", "linear", "extension", "!", "=", "ffixi", "yi", "ffl", "of", "Bi", ".", "By", "the", "construction", "of", "Bi", ",", "xiffi", "yiffl", "2", "L", ",", "and", "ffixiyi", "ffl", "2", "L.", "By", "Lemma", "3", ",", "!", "2", "L.", "Therefore", "every", "linear", "extension", "of", "Bi", "is", "a", "basic", "word", "of", "L", ".", "We", "observe", "also", "that", "Bi", "is", "a", "B-poset", ".", "Therefore", "by", "Lemma", "4", ",", "there", "is", "a", "Hamiltonian", "path", "through", "G", "-LRB-", "Bi", "-RRB-", "?", "K2", "from", "+", "i", "to", "?", "i", ".", "We", "substitute", "the", "occurrence", "of", "i", "with", "this", "path", "in", "H2", ",", "for", "each", "odd", "i.", "For", "each", "even", "i", ",", "we", "substitute", "the", "reverse", "of", "this", "path", "for", "the", "occurrence", "of", "i.", "Call", "the", "resulting", "walk", "H.", "For", "each", "Bi", ",", "every", "linear", "extension", "of", "Bi", "is", "a", "basic", "word", "of", "L", ";", "therefore", "H", "is", "a", "closed", "walk", "in", "G", "-LRB-", "L", "-RRB-", "?", "K2", ".", "To", "prove", "that", "H", "is", "a", "Hamiltonian", "cycle", "through", "G", "-LRB-", "L", "-RRB-", "?", "K2", ",", "it", "is", "necessary", "to", "show", "that", "for", "each", "basic", "word", "of", "L", ",", "+", "and", "?", "both", "occur", "exactly", "once", "on", "H.", "Let", "?", "=", "?", "a", "?", "b.", "Suppose", "induces", "the", "order", "xy", "on", "fa", ";", "bg", "and", "the", "order", "?", "on", "S", "-LRB-", "L", "-RRB-", "nfa", ";", "bg", ".", "Then", "xy", "?", "is", "a", "basic", "word", "of", "L", ",", "and", "therefore", "xy", "?", "=", "i", "is", "on", "the", "cycle", "H2", "of", "G", "-LRB-", "L", "-RRB-", ".", "Therefore", "is", "a", "linear", "extension", "of", "the", "Bi", ",", "and", "so", "both", "+", "and", "?", "are", "on", "the", "cycle", "H.", "Also", ",", "for", "every", "other", "B-poset", "Bj", "generated", ",", "where", "j", "<", ">", "i", ",", "one", "of", "xy", "or", "?", "is", "not", "a", "subword", "of", "Bj", ",", "as", "in", "that", "case", "i", "=", "j", ",", "which", "contradicts", "the", "construction", "of", "H2", ".", "Therefore", ",", "each", "of", "+", "and", "?", "are", "generated", "exactly", "once", ".", "2", "We", "call", "a", "pair", "a", ";", "b", "of", "elements", "of", "E", "siblings", "in", "a", "language", "L", "if", "for", "all", "basic", "words", "in", "L", ",", "transposing", "a", "and", "b", "yields", "another", "word", "in", "L.", "Let", "L", "+", "ab", "denote", "the", "language", "consisting", "of", "the", "words", "of", "L", "in", "which", "a", "precedes", "b", ".", "If", "L", "is", "an", "antimatroid", ",", "then", "so", "is", "L", "+", "ab", ":", "we", "may", "simply", "add", "a", "to", "each", "A", "2", "H", "-LRB-", "b", "-RRB-", "where", "H", "is", "the", "alternative", "precedence", "function", "of", "L", ",", "yielding", "an", "alternative", "precedence", "representation", "for", "L", "+", "ab", ".", "Let", "G0", "-LRB-", "L", "-RRB-", "be", "the", "graph", "with", "the", "basic", "words", "of", "L", "as", "the", "vertex", "set", ",", "and", "such", "that", "two", "basic", "words", "are", "adjacent", "in", "G0", "-LRB-", "L", "-RRB-", "if", "they", "differ", "by", "the", "transposition", "of", "two", "-LRB-", "not", "necessarily", "adjacent", "-RRB-", "elements", ".", "Thus", "G0", "-LRB-", "L", "-RRB-", "is", "a", "supergraph", "of", "G", "-LRB-", "L", "-RRB-", ",", "on", "the", "same", "vertex", "set", ".", "Corollary", "4", "If", "L", "is", "an", "antimatroid", "with", "a", "pair", "of", "siblings", ",", "then", "G0", "-LRB-", "L", "-RRB-", "is", "Hamiltonian", ".", "Proof", ":", "Suppose", "L", "has", "a", "pair", "of", "siblings", "a", ";", "b.", "By", "Theorem", "4", ",", "G", "-LRB-", "L", "+", "ab", "-RRB-", "?", "K2", "is", "Hamiltonian", ";", "therefore", "G0", "-LRB-", "L", "+", "ab", "-RRB-", "?", "K2", "is", "Hamiltonian", ".", "Note", "that", "G0", "-LRB-", "L", "-RRB-", "?", "=", "G0", "-LRB-", "L", "+", "ab", "-RRB-", "?", "K2", ".", "Therefore", "G0", "-LRB-", "L", "-RRB-", "is", "Hamiltonian", ".", "2", "It", "is", "an", "open", "problem", "to", "determine", "whether", "G", "-LRB-", "L", "-RRB-", "is", "Hamiltonian", ",", "where", "L", "is", "an", "antimatroid", "with", "a", "pair", "of", "siblings", ".", "The", "graph", "G", "-LRB-", "L", "-RRB-", "is", "bipartite", ";", "therefore", "applying", "Theorem", "4", "and", "Lemma", "1", ",", "we", "conclude", "the", "following", "corollary", ",", "which", "establishes", "a", "Gray", "Code", "for", "basic", "words", "of", "an", "antimatroid", ".", "Corollary", "5", "For", "any", "antimatroid", "L", ",", "there", "is", "a", "listing", "of", "the", "basic", "words", "of", "L", "such", "that", "each", "word", "differs", "from", "it", "predecessor", "in", "the", "list", "by", "one", "or", "two", "adjacent", "transpositions", ".", "This", "is", "the", "best", "possible", ",", "in", "that", "not", "all", "antimatroids", "admit", "a", "listing", "of", "the", "basic", "words", "such", "that", "each", "differs", "from", "its", "predecessor", "by", "one", "transposition", ".", "The", "seriesparallel", "poset", "antimatroid", "-LRB-", "1", "?", "1", "-RRB-", "+", "-LRB-", "1", "-RRB-", "?", "1", "-RRB-", "provides", "such", "an", "example", ".", "In", "that", "case", ",", "the", "difference", "in", "the", "cardinality", "of", "the", "two", "partite", "sets", "of", "G", "-LRB-", "L", "-RRB-", ",", "which", "quantity", "we", "will", "call", "the", "parity", "difference", "of", "L", ",", "exceeds", "one", "-LRB-", "i.e.", ",", "there", "are", "two", "more", "odd", "basic", "words", "than", "even", "-RRB-", ",", "so", "there", "can", "exist", "no", "Hamiltonian", "path", "or", "cycle", "in", "the", "basic", "word", "graph", ".", "The", "following", "conjecture", "of", "Ruskey", "-LSB-", "19", "-RSB-", "suggests", "a", "characterization", "of", "the", "posets", "which", "are", "generable", "by", "transpositions", ".", "Conjecture", "1", "For", "a", "poset", "P", ",", "if", "the", "parity", "difference", "of", "P", "does", "not", "exceed", "one", ",", "then", "G", "-LRB-", "P", "-RRB-", "has", "a", "Hamilton", "path", ";", "if", "the", "parity", "difference", "is", "zero", "and", "G", "-LRB-", "P", "-RRB-", "has", "no", "vertex", "of", "degree", "one", ",", "then", "G", "-LRB-", "P", "-RRB-", "is", "Hamiltonian", ".", "This", "conjecture", "can", "not", "be", "extended", "to", "all", "antimatroids", ";", "an", "antimatroid", "with", "zero", "parity", "difference", "for", "which", "G", "-LRB-", "L", "-RRB-", "has", "no", "Hamilton", "path", "is", "shown", "in", "Figure", "1", ".", "A", "generation", "algorithm", "runs", "in", "constant", "amortized", "time", "if", "its", "running", "time", "is", "O", "-LRB-", "e", "-RRB-", ",", "where", "e", "is", "the", "number", "of", "objects", "generated", ".", "An", "O", "-LRB-", "f", "-LRB-", "n", "-RRB-", "-RRB-", "transposition", "oracle", "of", "an", "antimatroid", "is", "an", "oracle", "which", "determines", "in", "time", "O", "-LRB-", "f", "-LRB-", "n", "-RRB-", "-RRB-", "whether", "ffxy", "is", "a", "basic", "word", "of", "L", ",", "given", "that", "ffyxfi", "is", "a", "basic", "word", "of", "L", ".", "The", "algorithm", "GenLE", "and", "the", "proof", "of", "its", "correctness", "given", "in", "-LSB-", "16", "-RSB-", "to", "generate", "linear", "extensions", "uses", "only", "those", "properties", "of", "posets", "that", "are", "shared", "by", "all", "antimatroid", "languages", ".", "The", "queries", "to", "the", "antimatroid", "are", "of", "the", "type", ",", "\\", "Is", "ffxy", "in", "L", "?", "''", ",", "where", "ffyxfi", "is", "in", "L.", "Therefore", ",", "given", "an", "antimatroid", "with", "an", "O", "-LRB-", "f", "-LRB-", "n", "-RRB-", "-RRB-", "transposition", "oracle", ",", "GenLE", "is", "a", "O", "-LRB-", "f", "-LRB-", "n", "-RRB-", "-RRB-", "amortized", "time", "generation", "algorithm", ".", "In", "particular", ",", "we", "have", "the", "following", "result", ".", "s", "s", "s", "s", "1", "2", "3", "4", "1423", "1243", "1234", "4123", "1432", "4132", "4312", "4321", "?", "?", "?", "?", "@@", "@@", "Figure", "1", ":", "The", "path", "P4", ",", "and", "G", "-LRB-", "L", "-RRB-", ",", "where", "L", "is", "the", "leaf", "shelling", "antimatroid", "for", "P4", ".", "Theorem", "5", "Let", "L", "be", "an", "antimatroid", "with", "an", "O", "-LRB-", "1", "-RRB-", "transposition", "oracle", ".", "Then", "the", "basic", "words", "of", "an", "antimatroid", "can", "be", "generated", "in", "constant", "amortized", "time", ",", "such", "that", "each", "word", "differs", "from", "the", "next", "by", "no", "more", "than", "two", "transpositions", ".", "Clearly", "poset", "antimatroids", "have", "O", "-LRB-", "1", "-RRB-", "transposition", "oracles", ".", "Another", "example", "of", "an", "antimatroid", "with", "an", "O", "-LRB-", "1", "-RRB-", "transposition", "oracle", "is", "given", "below", ".", "For", "a", "tree", "G", ",", "the", "leaf", "shelling", "sequence", "of", "G", "is", "a", "sequence", "v1", ";", "v2", ";", ":", ":", ":", ";", "vl", ",", "where", "vi", "2", "V", "-LRB-", "G", "-RRB-", ",", "for", "all", "1", "<", "=", "i", "<", "=", "l", ",", "and", "vi", "is", "a", "leaf", "of", "the", "subgraph", "of", "G", "which", "remains", "when", "the", "vertices", "fv1", ";", "v2", ";", ":", ":", ":", ";", "vi", "?", "1g", "are", "removed", ".", "I.e.", ",", "these", "are", "ways", "of", "removing", "the", "vertices", "of", "G", "such", "that", "we", "only", "ever", "remove", "a", "leaf", "from", "the", "current", "tree", ".", "It", "is", "easy", "to", "verify", "that", "leaf", "shelling", "sequences", "form", "an", "antimatroid", "language", ".", "Suppose", "that", "ffxy", "is", "a", "leaf", "shelling", "sequence", "of", "G", ".", "If", "is", "empty", ",", "or", "if", "x", "and", "y", "are", "non-adjacent", ",", "then", "ffyxfi", "is", "also", "a", "leaf", "shelling", "sequence", ";", "otherwise", "x", "and", "y", "are", "adjacent", ",", "and", "x", "and", "y", "are", "not", "that", "last", "two", "vertices", "to", "be", "removed", ",", "so", "removing", "y", "before", "removing", "x", "will", "disconnect", "x", "from", "the", "rest", "of", "the", "tree", ".", "Therefore", "ffyxfi", "is", "not", "a", "shelling", "sequence", ".", "Testing", "these", "conditions", "can", "be", "done", "in", "time", "O", "-LRB-", "1", "-RRB-", ",", "so", "by", "Theorem", "5", ",", "the", "complete", "shelling", "sequences", "of", "a", "tree", "-LRB-", "i.e.", ",", "the", "shelling", "sequences", "which", "contain", "all", "the", "vertices", "of", "G", "-RRB-", "can", "be", "generated", "in", "consant", "amortized", "time", ".", "Chordal", "graphs", "admit", "a", "decomposition", "sequence", ";", "i.e.", ",", "a", "sequence", "vi", ";", "v2", ";", ":", ":", ":", ";", "vn", ",", "where", "for", "each", "vi", ",", "its", "neighbourhood", "in", "the", "graph", "G", "induced", "on", "vi", "+1", ";", "vi", "+2", ";", ":", ":", ":", ";", "vn", "is", "a", "clique", ".", "The", "decomposition", "sequences", "of", "a", "chordal", "graph", "form", "an", "antimatroid", "language", ".", "However", ",", "a", "constant", "time", "transposition", "oracle", "is", "not", "known", "to", "exist", "for", "this", "language", ".", "5", "Final", "Remarks", "The", "remarks", "at", "the", "end", "of", "the", "last", "section", "show", "that", "there", "are", "efficient", "-LRB-", "constant", "amortized", "time", "-RRB-", "algorithms", "for", "generating", "the", "basic", "words", "of", "an", "antimatroid", ";", "but", "what", "about", "the", "efficient", "generation", "of", "feasible", "sets", "and", ",", "in", "particular", ",", "the", "ideals", "of", "a", "poset", "?", "Algorithms", "for", "generating", "the", "ideals", "of", "a", "poset", "were", "given", "by", "Schrage", "and", "Baker", "-LSB-", "20", "-RSB-", ",", "Lawler", "-LSB-", "12", "-RSB-", ",", "Ball", "and", "Provan", "-LSB-", "1", "-RSB-", ",", "and", "Steiner", "-LSB-", "22", "-RSB-", ".", "The", "best", "of", "these", "algorithms", "appears", "to", "be", "that", "of", "Steiner", ",", "whose", "running", "time", "is", "O", "-LRB-", "n", "?", "i", "-LRB-", "P", "-RRB-", "-RRB-", ",", "where", "n", "is", "the", "number", "of", "elements", "of", "the", "poset", "and", "i", "-LRB-", "P", "-RRB-", "is", "the", "number", "of", "ideals", "of", "P", ".", "We", "have", "developed", "an", "algorithm", "based", "on", "the", "results", "of", "Section", "2", "whose", "running", "time", "is", "O", "-LRB-", "i", "-LRB-", "P", "-RRB-", "-RRB-", ",", "but", "only", "on", "certain", "posets", ";", "in", "the", "worst", "case", "it", "is", "also", "O", "-LRB-", "n", "?", "i", "-LRB-", "P", "-RRB-", "-RRB-", ",", "so", "it", "remains", "an", "open", "problem", "to", "develop", "a", "constant", "amortized", "time", "algorithm", "for", "generating", "the", "ideals", "of", "a", "general", "poset", ".", "Beyer", "and", "Ruskey", "-LSB-", "3", "-RSB-", "and", "Koda", "and", "Ruskey", "-LSB-", "9", "-RSB-", "have", "shown", "that", "the", "ideals", "of", "a", "forest", "poset", "could", "be", "generated", "in", "time", "O", "-LRB-", "i", "-LRB-", "P", "-RRB-", "-RRB-", ";", "the", "latter", "paper", "contains", "a", "\\", "loopfree", "''", "algorithm", ".", "To", "end", "the", "paper", "we", "propose", "two", "conjectures", ".", "Conjecture", "2", "Let", "P", "be", "a", "poset", "and", "consider", "the", "subgraph", "G", "of", "J", "-LRB-", "P", "-RRB-", "induced", "by", "the", "vertices", "of", "J", "-LRB-", "P", ";", "k", "-RRB-", "-LSB-", "J", "-LRB-", "P", ";", "k", "+1", "-RRB-", ".", "The", "graph", "G", "is", "bipartite", ",", "say", "with", "bipartition", "-LRB-", "A", ";", "B", "-RRB-", ".", "If", "jAj", "=", "jBj", "then", "is", "there", "a", "Hamilton", "cycle", "in", "G", "?", "If", "jAj", "=", "jBj", "+", "1", "then", "is", "there", "a", "Hamilton", "path", "in", "G", "?", "We", "conjecture", "that", "the", "answer", "is", "yes", "in", "both", "cases", ".", "Note", "that", "this", "conjecture", "contains", "the", "famous", "\\", "middle", "two", "levels", "of", "the", "boolean", "algebra", "lattice", "problem", "''", "as", "a", "special", "case", "and", "so", "is", "most", "likely", "very", "difficult", "-LRB-", "e.g.", ",", "Kierstead", "and", "Trotter", "-LSB-", "8", "-RSB-", "or", "Hurlbert", "-LSB-", "6", "-RSB-", "-RRB-", ",", "if", "indeed", "it", "is", "true", ".", "Conjecture", "3", "For", "every", "antimatroid", "-LRB-", "E", ";", "F", "-RRB-", "and", "every", "k", ",", "the", "graph", "J", "-LRB-", "F", ";", "k", "-RRB-", "has", "a", "Hamilton", "path", ".", "This", "can", "not", "be", "strengthened", "to", "Hamilton", "cycle", "since", "J", "-LRB-", "F", ";", "k", "-RRB-", "is", "a", "path", "if", "F", "is", "the", "poset", "antimatroid", "of", "a", "poset", "consisting", "of", "two", "disjoint", "chains", ".", "References", "-LSB-", "1", "-RSB-", "M.O.", "Ball", "and", "J.S.", "Provan", ",", "\\", "Calculating", "bounds", "on", "reachability", "and", "connectedness", "in", "stochastic", "networks", "''", ",", "Networks", ",", "13", "-LRB-", "1983", "-RRB-", "253-278", ".", "-LSB-", "2", "-RSB-", "J.", "Bitner", ",", "G.", "Ehrlich", ",", "and", "E.", "Reingold", ",", "\\", "Efficient", "Generation", "of", "the", "Binary", "Reflected", "Gray", "Code", "and", "its", "Applications", ",", "''", "Communications", "of", "the", "ACM", ",", "19", "-LRB-", "1976", "-RRB-", "517-521", ".", "-LSB-", "3", "-RSB-", "T.", "Beyer", "and", "F.", "Ruskey", ",", "\\", "Constant", "Average", "Time", "Generation", "of", "Subtrees", "of", "Bounded", "Size", ",", "''", "unpublished", "manuscript", ",", "May", ",", "1989", ".", "-LSB-", "4", "-RSB-", "A.", "Bj?orner", "and", "G.M.", "Ziegler", ",", "\\", "Introduction", "to", "Greedoids", "''", ",", "in", "Matroid", "Applications", "-LRB-", "ed", ".", "N.", "White", "-RRB-", ",", "Cambridge", "University", "Press", ",", "1992", ".", "-LSB-", "5", "-RSB-", "G.", "Ehrlich", ",", "\\", "Loopless", "Algorithms", "for", "Generating", "Permutations", ",", "Combinations", ",", "and", "Other", "Combinatorial", "Configurations", ",", "''", "JACM", ",", "20", "-LRB-", "1973", "-RRB-", "500-513", ".", "-LSB-", "6", "-RSB-", "G.", "Hurlbert", ",", "\\", "The", "antipodal", "layers", "problem", "''", ",", "Discrete", "Math.", ",", "to", "appear", ".", "-LSB-", "7", "-RSB-", "J.T.", "Joichi", ",", "D.E.", "White", ",", "and", "S.G.", "Willamson", ",", "\\", "Combinatorial", "Gray", "Codes", ",", "''", "SIAM", "J.", "Computing", ",", "9", "-LRB-", "1980", "-RRB-", "130-141", ".", "-LSB-", "8", "-RSB-", "H.A.", "Kierstead", "and", "W.T.", "Trotter", ",", "\\", "Explicit", "matchings", "in", "the", "middle", "levels", "of", "the", "Boolean", "lattice", "''", ",", "Order", "5", "-LRB-", "1988", "-RRB-", "163-171", ".", "-LSB-", "9", "-RSB-", "Y.", "Koda", "and", "F.", "Ruskey", ",", "\\", "A", "Gray", "Code", "for", "the", "Ideals", "of", "a", "Forest", "Poset", "''", ",", "J.", "Algorithms", ",", "to", "appear", ".", "-LSB-", "10", "-RSB-", "B.", "Korte", "and", "L.", "Lovasz", ",", "\\", "Basis", "graphs", "of", "greedoids", "and", "two-connectivity", "''", ",", "Mathematical", "Programming", "Study", ",", "24", "-LRB-", "1985", "-RRB-", "158-165", ".", "-LSB-", "11", "-RSB-", "B.", "Korte", ",", "L.", "Lovasz", ",", "R.", "Schrader", ",", "Greedoids", ",", "Springer-Verlay", ",", "1991", ".", "-LSB-", "12", "-RSB-", "E.L.", "Lawler", ",", "\\", "Eficient", "implementation", "of", "dynamic", "programming", "algorithms", "for", "sequencing", "problems", "''", ",", "Report", "BW106/79", ",", "Stichting", "Mathematisch", "Centrum", ",", "Amsterdam", ",", "1979", ".", "-LSB-", "13", "-RSB-", "J.", "Propp", ",", "\\", "Partial", "Ordering", "for", "Matchings", "of", "Bipartite", "Planar", "Graphs", "''", ",", "23rd", "S.E.", "Intl.", ".", "Conference", "on", "Combinatorics", ",", "Graph", "Theory", "and", "Computing", ",", "1992", ".", "-LSB-", "14", "-RSB-", "G.", "Pruesse", ",", "\\", "Generating", "Linear", "Extensions", "of", "Series-Parallel", "Posets", "by", "Transpositions", "''", ",", "manuscript", ".", "-LSB-", "15", "-RSB-", "G.", "Pruesse", "and", "F.", "Ruskey", ",", "\\", "Generating", "the", "Linear", "Extensions", "of", "Certain", "Posets", "by", "Transpositions", "''", ",", "SIAM", "J.", "Discrete", "Math.", ",", "4", "-LRB-", "1991", "-RRB-", "413-422", ".", "-LSB-", "16", "-RSB-", "G.", "Pruesse", "and", "F.", "Ruskey", ",", "\\", "Generating", "Linear", "Extensions", "Fast", "''", ",", "to", "appear", "in", "SIAM", "J.", "Computing", ".", "-LSB-", "17", "-RSB-", "Reingold", ",", "Nievergelt", ",", "and", "Deo", ",", "Combinatorial", "Algorithms", ":", "Theory", "and", "Practice", ",", "Prentice", "Hall", ",", "1977", ".", "-LSB-", "18", "-RSB-", "F.", "Ruskey", ",", "\\", "Generating", "Linear", "Extensions", "of", "Posets", "by", "Transpositions", "''", ",", "J.", "Combinatorial", "Theory", "-LRB-", "B", "-RRB-", ",", "54", "-LRB-", "1992", "-RRB-", "77-101", ".", "-LSB-", "19", "-RSB-", "F.", "Ruskey", ",", "\\", "Research", "Problem", "90", "''", ",", "Discrete", "Math.", ",", "70", "-LRB-", "1988", "-RRB-", "111-112", ".", "-LSB-", "20", "-RSB-", "L.", "Schrage", "and", "K.R.", "Baker", ",", "\\", "Dynamic", "programming", "solution", "for", "sequencing", "problems", "with", "precedence", "constraints", "''", ",", "Operations", "Research", ",", "26", "-LRB-", "1978", "-RRB-", "444-449", ".", "-LSB-", "21", "-RSB-", "G.", "Stachowiak", ",", "\\", "Hamilton", "Paths", "in", "Graphs", "of", "Linear", "Extensions", "for", "Unions", "of", "Posets", "''", ",", "SIAM", "J.", "Discrete", "Math.", ",", "5", "-LRB-", "1992", "-RRB-", "199-206", ".", "-LSB-", "22", "-RSB-", "G.", "Steiner", ",", "\\", "An", "Algorithm", "to", "Generate", "the", "Ideals", "of", "a", "Partial", "Order", ",", "''", "Operations", "Research", "Letters", ",", "5", "-LRB-", "1986", "-RRB-", "317-320", ".", "-LSB-", "23", "-RSB-", "F.", "Ruskey", ",", "\\", "Listing", "and", "Counting", "Subtrees", "of", "a", "Tree", ",", "''", "SIAM", "J.", "Computing", ",", "10", "-LRB-", "1981", "-RRB-", "141-150", ".", "-LSB-", "24", "-RSB-", "F.", "Ruskey", ",", "\\", "Generating", "Linear", "Extensions", "of", "Posets", ",", "''", "J.", "Combinatorial", "Theory", "-LRB-", "B", "-RRB-", ",", "54", "-LRB-", "1992", "-RRB-", "77-101", ".", "-LSB-", "25", "-RSB-", "R.P.", "Stanley", ",", "Enumerative", "Combinatorics", ",", "Vol", ".", "I.", ",", "Wadsworth", ",", "1986", ".", "-LSB-", "26", "-RSB-", "H.S.", "Wilf", ",", "Combinatorial", "Algorithms", ":", "An", "Update", ",", "SIAM", ",", "CBMS", "55", ".", "-LSB-", "27", "-RSB-", "G.M.", "Ziegler", ",", "\\", "Branchings", "in", "rooted", "graphs", "and", "the", "diameter", "of", "greedoids", "''", ",", "Combinatorica", ",", "8", "-LRB-", "1988", "-RRB-", "217-234", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Report", "R96", ":04", "ISRN", ":", "SICS-R", "--", "96/04-SE", "ISSN", ":", "0283-3638", "Compensating", "for", "Bias", "in", "the", "SDM", "Fast", "Activation", "Mechanism", "Roland", "Karlsson", "-LRB-", "roland@sics.se", "-RRB-", "RWCP1", "Neuro", "SICS2", "Laboratory", "Box", "1263", ",", "S-164", "28", "Kista", ",", "Sweden", "May", "1996", "Abstract", "T", "he", "Kanerva", "Sparse", "Distributed", "Memory", "-LRB-", "SDM", "-RRB-", "is", "a", "mechanism", "for", "implementing", "a", "memory", "with", "a", "huge", "address", "space", ".", "The", "physical", "memory", "consists", "of", "substantially", "fewer", "locations", "than", "the", "virtual", "address", "space", ".", "The", "plain", "Kanerva", "SDM", "memory", "assumes", "address", "and", "data", "to", "be", "random", "bit", "vectors", "with", "equal", "probability", "for", "and", "1", ".", "To", "compensate", "for", "any", "bias", "in", "address", "or", "data", ",", "several", "more", "or", "less", "elaborate", "methods", "can", "be", "used", ".", "In", "this", "paper", "we", "describe", "one", "simple", "method", "for", "achieving", "this", "compensation", "within", "the", "framework", "of", "the", "\\", "Fast", "activation", "Mechanism", "''", "for", "SDM", ".", "Contents", "1", "Introduction", "1", "2", "Addressing", "2", "3", "Data", "retrieval", "2", "4", "Compensating", "for", "bias", "in", "data", "-LRB-", "and", "address", "-RRB-", "3", "5", "Parallelization", "4", "6", "Conclusions", "4", "1Real", "World", "Computing", "Partnership", "2Swedish", "Institute", "of", "Computer", "Science", "1", "Introduction", "T", "he", "Kanerva", "Sparse", "Distributed", "Memory", "-LRB-", "SDM", "-RRB-", "-LSB-", "4", ",", "5", "-RSB-", "is", "a", "clever", "mechanism", "for", "storing/retrieving", "data", "in/from", "a", "memory", "with", "a", "huge", "address", "space", ".", "The", "memory", "addresses", ",", "also", "called", "input", "addresses", ",", "are", "N-bit", "vectors", "-LRB-", "N", "is", "generally", "large", "-RRB-", ".", "The", "actual", "memory", "contains", "substantially", "fewer", "memory", "locations", "-LRB-", "called", "hard", "locations", "-RRB-", "than", "there", "are", "possible", "input", "addresses", ".", "When", "accessing", "the", "memory", ",", "a", "number", "of", "hard", "locations", "\\", "close", "to", "''", "the", "input", "address", "are", "activated", ".", "In", "the", "basic", "SDM", ",", "each", "hard", "location", "has", "an", "N-bit", "address", ",", "and", "the", "activation", "criterion", "is", ":", "\\", "close", "''", "according", "to", "Hamming", "distance", "-LRB-", "i.e.", ",", "the", "number", "of", "mismatched", "address", "bits", "-RRB-", "between", "the", "input", "address", "and", "the", "location", "'s", "address", ".", "Briefly", ",", "the", "write", "and", "read", "operations", "work", "as", "follow", ":", "The", "contents", "of", "a", "hard", "location", "is", "a", "vector", "of", "integers", "where", "each", "integer", "corresponds", "to", "one", "bit", "in", "the", "input", "data", ".", "When", "writing", "to", "the", "memory", ",", "the", "data", "bits", "-LRB-", "from", "the", "input", "data", "vector", "-RRB-", "are", "added", "-LRB-", "adding", "?", "1", "when", "the", "data", "bit", "is", "and", "adding", "+1", "when", "the", "data", "bit", "is", "1", "-RRB-", "to", "the", "contents", "of", "all", "activated", "hard", "locations", ".", "When", "reading", ",", "the", "content", "vectors", "of", "the", "activated", "hard", "locations", "are", "summed", "and", "the", "sum", "is", "converted", "to", "the", "output", "data", "by", "some", "threshold", "mechanism", ".", "The", "key", "idea", "is", "that", "data", "written", "sufficiently", "\\", "far", "away", "''", "-LRB-", "i.e.", ",", "having", "few", "common", "activated", "hard", "locations", "-RRB-", "from", "the", "address", "can", "be", "considered", "as", "noise", "that", "will", "more", "or", "less", "cancel", "out", ".", "Several", "activation", "mechanisms", "have", "been", "used", ",", "e.g.", ",", "Hamming", "distance", "or", "the", "Jaeckel", "Selected-Coordinates", "Design", "-LSB-", "1", ",", "2", "-RSB-", ".", "Two", "papers", "-LSB-", "6", ",", "7", "-RSB-", "introduced", "and", "tested", "an", "efficient", "mechanism", "for", "finding", "the", "hard", "locations", "that", "are", "\\", "close", "to", "''", "the", "input", "address", ".", "The", "proposed", "mechanism", "may", "be", "viewed", "as", "a", "fast", "implementation", "of", "a", "restricted", "Jaeckel", "design", ".", "The", "plain", "Kanerva", "SDM", "memory", "performs", "best", "if", "address", "and", "data", "are", "random", "bit", "vectors", "with", "equal", "probability", "for", "and", "1", ".", "To", "compensate", "for", "any", "bias", "in", "address", "or", "data", ",", "several", "more", "or", "less", "elaborate", "methods", "can", "be", "used", ".", "One", "implementation", "based", "on", "statistical", "methods", "is", "described", "in", "-LSB-", "3", "-RSB-", ".", "In", "this", "paper", "we", "describe", "one", "simple", "method", "for", "achieving", "similar", "results", ".", "2", "Addressing", "-", "Input", "address", "Activation", "pattern", "k", "4", ",", "23", ",", "37", "7", ",", "12", ",", "64", "...", "A", "aeaeaeae", ">", "????", ":", "...", "Table", "Hard", "locations", "2k", "M", "=", "A", "?", "2k", "-", "oe", "Data", "Figure", "1", ":", "The", "fast", "Selected-Coordinates", "Design", ".", "A", "table", "is", "used", "in", "the", "fast", "Selected-Coordinates", "Design", "-LRB-", "see", "Figure", "1", "-RRB-", ".", "The", "number", "of", "entries", "-LRB-", "A", "-RRB-", "in", "the", "table", "equals", "the", "number", "of", "desired", "activations", "when", "accessing", "the", "memory", "with", "an", "input", "address", ".", "Each", "entry", "in", "the", "table", "specifies", "a", "subset", "of", "k", "address", "bits", ".", "In", "the", "example", "in", "Figure", "1", "the", "selected", "address", "bits", "for", "the", "first", "table", "location", "are", "4", ",", "23", ",", "37", ".", "On", "access", ",", "the", "specified", "bits", "-LRB-", "in", "the", "input", "address", "-RRB-", "are", "used", "as", "an", "index", "to", "a", "block", "of", "2k", "hard", "locations", ".", "In", "the", "example", "this", "means", "that", "3", "bits", "in", "the", "address", "are", "used", "as", "an", "index", "to", "one", "of", "8", "positions", "in", "a", "block", ".", "The", "hard-location", "memory", "consists", "of", "A", "such", "blocks", ",", "i.e.", ",", "the", "size", "of", "the", "hard-location", "memory", "is", "therefore", "M", "=", "A", "?", "2k", ".", "3", "Data", "retrieval", "Briefly", ",", "the", "write", "and", "read", "operations", "work", "as", "follow", ":", "The", "contents", "of", "a", "hard", "location", "is", "a", "vector", "of", "integers", "where", "each", "integer", "corresponds", "to", "one", "bit", "in", "the", "input", "data", ".", "When", "writing", "to", "the", "memory", ",", "the", "data", "bits", "-LRB-", "from", "the", "input", "data", "vector", "-RRB-", "are", "added", "-LRB-", "adding", "?", "1", "when", "the", "data", "bit", "is", "and", "adding", "+1", "when", "the", "data", "bit", "is", "1", "-RRB-", "to", "the", "contents", "of", "all", "activated", "hard", "locations", ".", "When", "reading", ",", "the", "content", "vectors", "of", "the", "activated", "hard", "locations", "are", "summed", "and", "the", "sum", "is", "converted", "to", "the", "output", "data", "by", "some", "threshold", "mechanism", ".", "The", "key", "idea", "is", "that", "data", "written", "sufficiently", "\\", "far", "away", "''", "-LRB-", "i.e.", ",", "having", "few", "common", "activated", "hard", "locations", "-RRB-", "from", "the", "address", "can", "be", "considered", "as", "noise", "that", "will", "more", "or", "less", "cancel", "out", ".", "4", "Compensating", "for", "bias", "in", "data", "-LRB-", "and", "address", "-RRB-", "Input", "address", "-", "Activation", "pattern", "k", "1", ",", "4", ",", "23", ",", "37", "3", ",", "7", ",", "12", ",", "64", "...", "A", "Table", "HHHHj", "aeaeaeae", ">", "Hard", "locations", "M", "=", "2k", "-", "oe", "xor", "bits", "A", "-", "oe", "Data", "Figure", "2", ":", "The", "modified", "Design", ",", "compensating", "for", "bias", "in", "data", ".", "If", "there", "is", "some", "bias", "in", "the", "data", "-LRB-", "e.g.", ",", "the", "probability", "for", "in", "data", "bit", "27", "is", "higher", "than", "0.5", "-RRB-", ",", "then", "the", "mean", "value", "of", "the", "noise", "-LRB-", "adding", "-1", "for", "zeroes", "and", "1", "for", "ones", "-RRB-", "will", "not", "be", "zero", ".", "Using", "elaborate", "statistical", "methods", "-LRB-", "like", "those", "in", "-LSB-", "3", "-RSB-", "-RRB-", "another", "threshold", "-LRB-", "than", "0", "-RRB-", "can", "be", "found", "and", "used", ".", "Another", "possibility", "is", "to", "store", "the", "data", "in", "the", "SDM", "memory", "without", "any", "bias", ".", "One", "obvious", "method", "for", "doing", "so", "is", "to", "convert", "data", "with", "bias", "to", "unbiased", "data", "before", "storing", "it", ".", "This", "method", "is", "somewhat", "tricky", "as", "the", "converted", "data", "must", "preserve", "the", "\\", "nearness", "''", "property", "-LRB-", "similar", "data", "must", "still", "be", "similar", "-RRB-", "and", "the", "conversion", "may", "also", "be", "required", "to", "be", "reversible", ".", "We", "propose", "a", "simpler", "and", "more", "general", "mechanism", ",", "removing", "the", "bias", "when", "storing", "in", "the", "SDM", ".", "The", "method", "is", "based", "on", "inverting", "the", "data", "-LRB-", "when", "writing", "and", "reading", "-RRB-", "in", "such", "a", "way", "that", "noise", "-LRB-", "and", "only", "the", "noise", "-RRB-", "is", "-LRB-", "with", "a", "probability", "0.5", "-RRB-", "\\", "randomly", "''", "inverted", ".", "Instead", "of", "dividing", "the", "hard", "locations", "into", "A", "blocks", ",", "only", "one", "block", "is", "used", ".", "In", "order", "to", "get", "the", "same", "size", "of", "the", "hard", "location", "memory", ",", "log", "-LRB-", "A", "-RRB-", "more", "bits", "are", "therefore", "needed", "in", "the", "activation", "table", ".", "Figure", "2", "shows", "the", "modified", "implementation", ".", "All", "A", "activations", "use", "the", "same", "block", "-LRB-", "and", "some", "more", "activation", "bits", "-RRB-", ".", "For", "half", "of", "the", "activations", ",", "writing/reading", "to/from", "the", "memory", "is", "inverted", "-LRB-", "all", "bits", "in", "data", "XOR-ed", "with", "or", "1", ",", "according", "to", "the", "bit", "in", "the", "XOR", "table", "-RRB-", ".", "Input", "address", "-", "xor", "bitmaps", "A", "-", "Activation", "pattern", "k", "1", ",", "4", ",", "23", ",", "37", "3", ",", "7", ",", "12", ",", "64", "...", "A", "Table", "HHHHj", "aeaeaeae", ">", "Hard", "locations", "M", "=", "2k", "-", "oe", "xor", "bits", "A", "-", "oe", "Data", "Figure", "3", ":", "The", "modified", "design", ",", "also", "compenasting", "for", "bias", "in", "the", "address", ".", "It", "is", "possible", "to", "further", "modify", "this", "implementation", "to", "compensate", "for", "bias", "-LRB-", "i.e.", ",", "clustering", "-RRB-", "in", "the", "input", "address", ".", "Figure", "3", "shows", "how", "this", "can", "be", "made", ".", "The", "nonuni", "-", "form", "usage", "of", "the", "memory", "due", "to", "clustering", "is", "decreased", "by", "xoring", "the", "input", "address", "with", "random", "XOR-masks", "-LRB-", "one", "per", "activation", "-RRB-", "before", "using", "it", ".", "5", "Parallelization", "The", "possibility", "of", "parallelization", "of", "this", "modified", "implementation", "is", "somewhat", "constrained", ".", "In", "the", "original", "proposal", "for", "the", "fast", "activation", "mechanism", ",", "the", "memory", "could", "be", "divided", "into", "the", "activation", "blocks", ".", "This", "is", "not", "a", "severe", "problem", "as", "it", "is", "still", "possible", "to", "parallelize", "bitwise", ",", "which", "might", "be", "to", "prefer", "even", "in", "the", "original", "implementation", ".", "6", "Conclusions", "T", "he", "new", "proposed", "version", "of", "the", "Kanerva", "SDM", "memory", "is", "designed", "to", "be", "a", "simple", "solution", "to", "the", "problem", "of", "biased", "indata", ".", "It", "is", "not", "tested", ",", "but", "there", "is", "no", "reason", "why", "it", "should", "perform", "any", "worse", "than", "the", "original", "fast", "SDM", "implementation", ".", "It", "is", "somewhat", "slower", ",", "due", "to", "the", "fact", "that", "more", "activation", "bits", "are", "used", "and", "inverting", "of", "data", "and", "address", "is", "needed", ".", "References", "-LSB-", "1", "-RSB-", "Jaeckel", "L.", "A", ".", "An", "Alternative", "Design", "for", "a", "Sparse", "Distributed", "Memory", ".", "Technical", "report", ",", "Research", "Institute", "for", "Advanced", "Computer", "Science", ",", "NASA", "Ames", "Research", "Center", ",", "1989", ".", "-LSB-", "2", "-RSB-", "Jaekel", "L.", "A", ".", "A", "Class", "of", "Designs", "for", "a", "Sparse", "Distributed", "Memory", ".", "Technical", "report", ",", "Research", "Institute", "for", "Advanced", "Computer", "Science", ",", "NASA", "Ames", "Research", "Center", ",", "1989", ".", "-LSB-", "3", "-RSB-", "Sj?odin", "G.", "Improving", "the", "Capacity", "and", "Capabilities", "of", "SDM", ".", "SICS", "Research", "Report", "R95", ":12", ",", "Swedish", "Institute", "of", "Computer", "Science", ",", "1995", ".", "-LSB-", "4", "-RSB-", "Kanerva", "P.", "Sparse", "Distributed", "Memory", ".", "The", "MIT", "Press", ",", "1988", ".", "-LSB-", "5", "-RSB-", "Kanerva", "P.", "Sparse", "distributed", "memory", "and", "related", "models", ".", "In", "Mohamad", "H.", "Hassoun", ",", "editor", ",", "Associative", "Neural", "Memories", ".", "Oxford", "University", "Press", ",", "1993", ".", "-LSB-", "6", "-RSB-", "Karlsson", "R", ".", "A", "Fast", "Activation", "Mechanism", "for", "the", "Kanerva", "SDM", "Memory", ".", "In", "the", "Proceedings", "of", "the", "95", "RWC", "Symposium", ",", "RWC", "Technical", "Report", "-LRB-", "TR-95001", "-RRB-", ",", "pages", "69", "-LCB-", "70", ",", "Tokyo", ",", "June", "1995", ".", "-LSB-", "7", "-RSB-", "Karlsson", "R.", "Evaluation", "of", "a", "Fast", "Activation", "Mechanism", "for", "the", "Kanerva", "SDM", "Memory", ".", "SICS", "Research", "Report", "R95", ":10", ",", "Swedish", "Institute", "of", "Computer", "Science", ",", "December", "1995", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "Internet", "Software", "Visualization", "Laboratory1", "John", "Domingue", "Paul", "Mulholland", "Knowledge", "Media", "Institute", "The", "Open", "University", "Walton", "Hall", "Milton", "Keynes", ",", "UK", "MK7", "6AA", "+44", "1908", "65-5014", "-LCB-", "J.B.Domingue", ",", "P.Mulholland", "-RCB-", "@open", ".", "ac.uk", "ABSTRACT", "The", "Internet", "Software", "Visualization", "Laboratory", "-LRB-", "ISVL", "-RRB-", "combines", "our", "research", "in", "Software", "Visualization", "and", "teaching", "over", "the", "internet", "to", "tackle", "the", "problem", "of", "how", "computer", "programming", "can", "be", "effectively", "taught", "to", "students", "working", "from", "home", ".", "Our", "approach", "provides", "a", "rich", ",", "collaborative", "environment", "for", "exploring", "and", "demonstrating", "programming", "constructs", ".", "ISVL", "supports", "both", "asynchronous", "and", "synchronous", "working", ",", "and", "allows", "students", "to", "move", "seamlessly", "from", "a", "tutor-led", "teaching", "scenario", ",", "to", "personal", "or", "peer", "exploration", ".", "ISVL", "provides", "a", "rich", "source", "of", "empirical", "data", "which", "will", "shed", "light", "on", "how", "Software", "Visualization", "can", "be", "most", "effectively", "incorporated", "within", "a", "computer", "programming", "curriculum", ".", "INTRODUCTION", "Teaching", "computer", "computer", "programming", "has", "long", "been", "known", "to", "be", "a", "complex", "process", ".", "This", "problem", "is", "compounded", "on", "our", "own", "courses", "where", "teaching", "is", "carried", "out", "a", "distance", ",", "raising", "the", "following", "issues", ":", "1", "-RRB-", "The", "lack", "of", "face-to-face", "support", "-", "contact", "between", "student", "and", "tutor", "is", "either", "by", "telephone", "or", "email", ",", "meaning", "the", "tutor", "establishing", "the", "nature", "of", "the", "students", "?", "problem", "can", "take", "a", "great", "deal", "of", "time", "and", "be", "prone", "to", "misunderstanding", ".", "2", "-RRB-", "Students", "can", "rarely", "work", "together", "-", "as", "the", "students", "work", "part", "time", "and", "fit", "their", "studies", "around", "other", "committments", "it", "is", "impossible", "for", "them", "to", "work", "together", "synchronously", ".", "3", "-RRB-", "The", "lack", "of", "a", "computer", "laboratory", "-", "students", "work", "at", "home", "using", "a", "range", "of", "computers", ",", "many", "of", "fairly", "low", "specification", ",", "meaning", "a", "range", "of", "platforms", "have", "to", "be", "supported", ".", "The", "approach", "taken", "to", "alleviate", "these", "problems", "was", "to", "develop", "a", "software", "visualization", "laboratory", ".", "Software", "Visualization", "-LRB-", "SV", "-RRB-", "is", "the", "use", "of", "graphical", "and", "textual", "formalisms", "to", "describe", "the", "execution", "of", "computer", "programs", ".", "We", "view", "SV", "as", "having", "a", "valuable", "role", "within", "the", "teaching", "of", "computer", "programming", ",", "particularly", "for", "languages", "with", "a", "complex", "execution", "model", ".", "Our", "view", "is", "influenced", "by", "empirical", "work", "which", "found", "that", "a", "crucial", "objective", "when", "teaching", "programming", "was", "to", "provide", "a", "clear", "execution", "model", "-LRB-", "Eisenstadt", "et", "al.", "1985", "-RRB-", ".", "This", "fits", "well", "with", "the", "aims", "behind", "SV", ".", "A", "key", "role", "envisaged", "for", "SV", "is", "in", "computer", "science", "education", ".", "SV", "permits", "students", "to", "have", "an", "overall", "conceptual", "story", "of", "how", "the", "program", "works", ",", "explore", "and", "debug", "programs", ",", "and", "use", "the", "visualizations", "as", "a", "form", "of", "language", "in", "which", "to", "convey", "their", "understanding", ".", "The", "laboratory", "has", "the", "folowing", "characteristics", ":", "1", "-RRB-", "an", "internet", "client", "server", "architecture", "using", "platform", "independent", "software", "for", "the", "client", "-LRB-", "a", "java", "compliant", "browser", "-RRB-", "and", "placing", "most", "of", "the", "work", "on", "the", "server", "-LRB-", "to", "support", "low", "specification", "machines", "-RRB-", ",", "2", "-RRB-", "an", "environment", "that", "can", "provide", "a", "context", "for", "synchronous", "communication", ",", "so", "that", "the", "tutor", "can", "quickly", "establish", "what", "the", "student", "wishes", "to", "discuss", ",", "and", "3", "-RRB-", "a", "facility", "which", "enables", "asynchronous", "communication", "by", "allowing", "tutor", "and", "student", "explanations", "to", "be", "archived", "for", "future", "reference", ".", "The", "approach", "of", "using", "SV", "over", "a", "network", "as", "an", "educational", "tool", "raises", "futher", "issues", "as", "to", "how", "SV", "can", "be", "most", "appropriately", "included", "within", "a", "computer", "programming", "curriculum", ".", "The", "key", "theoretical", "issue", "we", "to", "address", "concerns", "the", "use", "of", "single", "or", "multiple", "representations", "to", "support", "learning", ".", "One", "one", "hand", "specific", "representations", "could", "be", "hand-picked", "to", "help", "student", "at", "particular", "stages", "of", "the", "course", "-LRB-", "i.e.", "a", "1Submitted", "to", "PPIG", "?", "97", ",", "Psychology", "of", "Programming", "Interest", "Group", "9th", "Annual", "Workshop", "Jan.", "3rd", "-", "5th", "1997", "Sheffield", "Hallam", "University", ",", "Sheffield", ",", "UK", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "2", "stage", "appropriate", "approach", "-RRB-", ".", "This", "means", "each", "representation", "will", "be", "carefully", "tailored", "to", "the", "students", "needs", "at", "that", "time", ",", "but", "will", "mean", "the", "student", "will", "have", "to", "learn", "a", "greater", "number", "of", "representations", ".", "On", "the", "other", "hand", "a", "single", "?", "best", "bet", "?", "representation", "could", "be", "used", "throughout", "-LRB-", "i.e.", "a", "cradle-to-grave", "approach", "-RRB-", ".", "Our", "new", "laboratory", "will", "allow", "us", "to", "investigate", "this", "issue", ".", "The", "next", "section", "describes", "the", "theoretical", "underpinnings", "of", "our", "approach", ".", "This", "is", "followed", "by", "an", "outline", "of", "the", "design", "requirements", "for", "the", "new", "environment", "and", "a", "tour", "of", "the", "ISVL", "environment", ".", "The", "final", "section", "contains", "a", "brief", "discussion", "on", "the", "benefits", "of", "ISVL", "and", "some", "conclusions", ".", "THEORETICAL", "BASIS", "Research", "into", "SV", "was", "inspired", "by", "the", "Sorting", "Out", "Sorting", "film", "-LRB-", "Baecker", "and", "Sherman", ",", "1981", "-RRB-", "which", "used", "animations", "to", "explain", "sorting", "algorithms", ".", "SVs", "can", "be", "used", "to", "present", "different", "perspectives", "of", "program", "execution", ",", "and", "are", "generally", "classified", "into", "two", "distinct", "groups", ":", "Algorithm", "Animation", "systems", "and", "Program", "Visualization", "systems", ".", "Algorithm", "Animation", "systems", "illustrate", "program", "execution", "in", "an", "algorithmic", "language", "independent", "way", ".", "Notable", "examples", "include", "BALSA", "-LRB-", "Brown", ",", "1987", "-RRB-", ",", "Zeus", "-LRB-", "Brown", ",", "1991", "-RRB-", "and", "AACE", "-LRB-", "Gloor", ",", "1992", "-RRB-", ".", "Program", "Visualizations", "such", "as", "the", "Transparent", "Prolog", "Machine", "-LRB-", "Eisenstadt", "and", "Brayshaw", ",", "1988", ";", "Brayshaw", "and", "Eisenstadt", ",", "1991", "-RRB-", "for", "Prolog", "and", "ZStep", "for", "Lisp", "-LRB-", "Lieberman", "and", "Fry", ",", "1995", "-RRB-", "present", "an", "account", "of", "execution", "at", "the", "code", "level", ".", "ISVL", "takes", "the", "form", "of", "a", "visualization", "framework", ",", "able", "to", "represent", "execution", "on", "both", "the", "algorithmic", "and", "code", "level", ".", "Such", "frameworks", "already", "exist", ",", "including", "TANGO", "-LRB-", "Stasko", ",", "1990", "-RRB-", "and", "Viz", "-LRB-", "Domingue", "et", "al", ",", "1992", "-RRB-", ",", "though", "ISVL", "is", "a", "platform", "independent", "internet-based", "environment", ",", "supporting", "other", "aspects", "of", "the", "educational", "experience", "including", "peer", "collaboration", ",", "tutorials", "and", "the", "handling", "of", "assignments", ".", "ISVL", "will", "form", "a", "central", "component", "of", "a", "new", "web-based", "programming", "course", ".", "Though", "many", "claims", "have", "been", "made", "by", "SV", "designers", "for", "the", "educational", "suitability", "of", "their", "product", ",", "little", "has", "been", "said", "as", "to", "the", "stage", "in", "the", "learning", "process", "when", "particular", "visualizations", "are", "most", "appropriate", ".", "Conversely", ",", "some", "SV", "designers", "have", "claimed", "their", "product", "applies", "equally", "well", "from", "novice", "through", "to", "expert", ".", "For", "example", ",", "this", "claim", "was", "made", "by", "Brayshaw", "and", "Eisenstadt", "-LRB-", "1991", "-RRB-", "for", "the", "Transparent", "Prolog", "Machine", "-LRB-", "TPM", "-RRB-", ".", "TPM", "presents", "program", "execution", "graphically", "as", "an", "AND/OR", "tree", ",", "in", "order", "to", "give", "the", "detailed", "account", "of", "execution", "an", "?", "at", "a", "glance", "?", "quality", "allowing", "information", "to", "accessed", "quickly", "-LRB-", "see", "figure", "1", "-RRB-", ".", "Figure", "1", ".", "The", "Transparent", "Prolog", "Machine", "-LRB-", "TPM", "-RRB-", "AND/OR", "tree", "showing", "an", "overall", "perspective", "of", "the", "execution", ",", "and", "a", "TPM", "fine-grained", "view", "of", "the", "top", "most", "node", "showing", "execution", "details", ".", "An", "alternative", "viewpoint", "would", "be", "that", "particular", "types", "of", "representation", "are", "appropriate", "for", "particular", "stages", "in", "the", "learning", "process", ".", "This", "debate", "can", "be", "summarised", "as", "a", "cradle", "to", "grave", "versus", "stage", "appropriate", "view", "of", "how", "SV", "should", "be", "integrated", "into", "the", "learning", "experience", ".", "There", "is", "a", "wealth", "of", "evidence", "to", "suggest", "that", "the", "kind", "of", "knowledge", "structures", "and", "strategies", "used", "by", "expert", "and", "novice", "computer", "programmers", "differ", "qualitatively", "rather", "than", "quantitatively", ",", "and", "this", "affects", "how", "they", "are", "able", "to", "use", "different", "kinds", "of", "SV", ".", "For", "example", ",", "Chi", "et", "al.", "-LRB-", "1981", "-RRB-", "found", "that", "novices", "tend", "to", "focus", "on", "the", "surface", "features", "of", "the", "language", "whereas", "experts", "tend", "to", "use", "higher", "level", "structural", "representations", ".", "Recent", "SV", "evaluation", "studies", "suggest", "important", "differences", "in", "the", "way", "novices", "and", "experts", "are", "able", "use", "SVs", "-LRB-", "Mulholland", ",", "1995", "-RRB-", ".", "The", "empirical", "work", "suggests", "that", "novices", "tend", "to", "utilise", "a", "fairly", "specific", "group", "of", "strategies", "which", "use", "core", "programming", "information", ".", "These", "were", "termed", "comprehension", "strategies", ".", "Three", "types", "of", "comprehension", "strategy", "were", "deemed", "central", "to", "the", "effective", "novice", "use", "of", "the", "SV", ".", "These", "were", "review", ",", "mapping", "and", "test", "strategies", ".", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "3", "A", "review", "strategy", "was", "defined", "as", "using", "the", "historical", "perspective", "present", "in", "the", "SV", "display", "to", "work", "out", "how", "the", "current", "position", "in", "the", "execution", "was", "reached", ".", "A", "test", "strategy", "was", "defined", "as", "predicting", "how", "the", "execution", "will", "develop", "during", "future", "steps", "of", "the", "SV", "and", "then", "moving", "forward", "to", "test", "this", "prediction", ".", "A", "mapping", "strategy", "was", "the", "process", "of", "mapping", "between", "the", "information", "contained", "in", "the", "SV", "and", "the", "source", "code", "being", "visualized", ".", "Novices", "were", "only", "able", "to", "use", "these", "strategies", "if", "the", "information", "on", "which", "they", "relied", "was", "explicit", ".", "Implicit", "information", ",", "using", "what", "Petre", "and", "Green", "-LRB-", "1990", "-RRB-", "term", "the", "secondary", "notation", ",", "could", "not", "be", "utilised", "effectively", "by", "the", "novices", ".", "These", "findings", "motivated", "the", "development", "of", "the", "Theseus", "SV", "for", "Prolog", ",", "which", "has", "been", "found", "to", "be", "very", "effective", "for", "a", "novice", "population", "-LRB-", "see", "figure", "2", "-RRB-", ".", "?", "?", "fun", "-LRB-", "What", "-RRB-", "?", "1", "fun", "-LRB-", "-LCB-", "What", "=", "X", "-RCB-", "-RRB-", "?", "bike", "-LRB-", "What", "-RRB-", "+1", "bike", "-LRB-", "-LCB-", "What", "=", "honda", "-RCB-", "-RRB-", "?", "blue", "-LRB-", "honda", "-RRB-", "-", "m", "blue", "-LRB-", "honda", "-RRB-", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "^", "?", ">", "2", "fun", "-LRB-", "-LCB-", "What", "=", "X", "-RCB-", "-RRB-", "?", "?", "car", "-LRB-", "What", "-RRB-", "?", "+1", "car", "-LRB-", "-LCB-", "What", "=", "mini", "-RCB-", "-RRB-", "?", "?", "red", "-LRB-", "mini", "-RRB-", "?", "+1", "red", "-LRB-", "mini", "-RRB-", "?", "+2", "fun", "-LRB-", "-LCB-", "What", "=", "mini", "-RCB-", "-RRB-", "Figure", "2", ".", "The", "Thesesus", "SV", "which", "shows", "execution", "near", "to", "the", "code", "level", ".", "Experts", ",", "on", "the", "other", "hand", ",", "will", "rely", "on", "explicit", "information", "when", "initially", "unfamiliar", "with", "the", "display", "but", "unlike", "novices", "are", "later", "able", "to", "use", "the", "secondary", "notation", "to", "draw", "out", "high", "level", "patterns", "-LRB-", "Mulholland", ",", "1995", "-RRB-", ".", "This", "indicates", "that", "experts", ",", "when", "using", "tools", "such", "as", "SVs", "are", "able", "to", "draw", "on", "a", "qualitatively", "distinct", "set", "of", "strategies", ".", "This", "leads", "to", "an", "interesting", "dilemma", "when", "considering", "how", "SV", "should", "be", "incorporated", "into", "a", "computer", "programming", "curriculum", ".", "As", "the", "student", "commences", "the", "course", "as", "a", "novice", "and", "-LRB-", "hopefully", "-RRB-", "completes", "the", "course", "as", "an", "expert", ";", "what", "kind", "-LRB-", "s", "-RRB-", "of", "SV", "should", "be", "used", "?", "On", "one", "hand", "the", "novice", "could", "start", "by", "using", "a", "?", "novice", "SV", "?", "-LRB-", "e.g.", "Theseus", "-RRB-", "and", "be", "introduced", "to", "an", "?", "expert", "SV", "?", "-LRB-", "e.g.", "TPM", "-RRB-", "at", "a", "later", "time", ",", "i.e.", "a", "stage", "appropriate", "approach", ".", "This", "has", "the", "advantage", "of", "using", "SVs", "appropriate", "to", "each", "learning", "stage", ",", "though", "the", "disadvantage", "of", "students", "being", "required", "to", "shift", "from", "one", "supporting", "representation", "to", "another", "at", "some", "intermediate", "stage", ".", "On", "the", "other", "hand", ",", "the", "novice", "could", "be", "initially", "introduced", "to", "the", "?", "expert", "SV", "?", "and", "helped", "to", "grow", "into", "it", ",", "i.e.", "a", "cradle", "to", "grave", "approach", ".", "This", "has", "the", "advantage", "of", "having", "only", "one", "supporting", "representation", "to", "learn", "during", "the", "course", ".", "It", "has", "the", "disadvantage", "of", "the", "students", "requiring", "extra", "support", "from", "day", "one", "in", "the", "use", "of", "a", "complex", "environment", ".", "This", "conundrum", "lead", "us", "to", "the", "development", "of", "the", "ISVL", "environment", ",", "whereby", "a", "range", "of", "SVs", "can", "be", "used", "under", "one", "roof", ",", "and", "different", "kinds", "of", "support", "can", "be", "provided", "to", "help", "the", "students", "integrate", "the", "SV", "into", "the", "wider", "learning", "experience", ".", "Support", "is", "provided", "by", "allowing", "the", "SV", "to", "be", "used", "collaboratively", "as", "well", "as", "individually", "within", "the", "same", "environment", ".", "This", "draws", "on", "the", "work", "of", "Chi", "et", "al.", "-LRB-", "1989", "-RRB-", "who", "have", "shown", "the", "beneficial", "effects", "of", "self", "explanation", "on", "learning", ".", "ISVL", "therefore", "redefines", "the", "role", "of", "SV", "as", "being", "a", "method", "by", "which", "students", "and", "the", "tutor", "can", "communicate", "their", "understanding", "of", "a", "program", ",", "as", "well", "as", "solitary", "working", ".", "The", "next", "section", "outlines", "the", "design", "requirements", "of", "ISVL", ".", "DESIGN", "REQUIREMENTS", "The", "design", "requirements", "underlying", "ISVL", "are", "taken", "from", "three", "sources", ":", "those", "governed", "by", "the", "pragmatics", "of", "the", "course", ",", "motivation", "from", "related", "empirical", "work", ",", "and", "practical", "issues", "relating", "to", "the", "underlying", "architecture", ".", "Requirements", "From", "Pragmatics", "Of", "Course", "Our", "students", "are", "studying", "part", "time", "and", "are", "required", "to", "fit", "their", "studies", "around", "other", "commitments", ",", "which", "means", "they", "will", "tend", "to", "study", "at", "different", "times", ".", "The", "Open", "University", "currently", "runs", "courses", "across", "wide", "areas", "of", "Europe", "and", "is", "starting", "to", "offer", "courses", "to", "non-European", "countries", ".", "Students", "therefore", "require", "systems", "which", "are", ":", "-LRB-", "i", "-RRB-", "easy", "to", "use", ",", "-LRB-", "ii", "-RRB-", "low", "cost", ",", "-LRB-", "iii", "-RRB-", "multiplatform", ",", "-LRB-", "iv", "-RRB-", "accessible", "from", "anywhere", "in", "the", "world", ",", "and", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "4", "-LRB-", "v", "-RRB-", "enables", "asynchronous", "communication", "with", "their", "tutor", "and", "peers", ".", "Principles", "From", "Experiments", "In", "the", "theoretical", "section", "we", "described", "how", "experts", "were", "able", "to", "identify", "and", "strategically", "use", "implicit", "information", "from", "the", "SV", "display", ".", "Novices", "were", "unable", "to", "use", "such", "strategies", ",", "but", "did", "show", "the", "seeds", "of", "such", "a", "strategy", "when", "using", "TPM", ",", "in", "the", "form", "of", "what", "was", "termed", "an", "overview", "strategy", ".", "When", "using", "an", "overview", "strategy", ",", "the", "student", "would", "try", "and", "look", "for", "patterns", "in", "the", "display", ",", "though", "with", "little", "success", ".", "The", "richer", "collaborative", "environment", "will", "be", "used", "to", "support", "the", "student", "in", "developing", "the", "simple", "overview", "strategy", "into", "a", "form", "allowing", "more", "complex", "and", "abstract", "patterns", "to", "be", "appreciated", ".", "Such", "a", "strategy", "will", "help", "the", "student", "to", "view", "the", "program", "in", "more", "abstract", "and", "diverse", "ways", ".", "This", "will", "be", "particularly", "important", "when", "the", "student", "moves", "onto", "larger", "programs", ",", "with", "correspondingly", "larger", "execution", "spaces", ".", "Eisenstadt", "-LRB-", "1993", "-RRB-", "found", "that", "many", "difficult", "bugs", "are", "due", "to", "the", "distance", "between", "the", "bug", "cause", "and", "bug", "symptom", ".", "Locating", "such", "bugs", "requires", "the", "programmer", "to", "be", "able", "to", "appreciate", "larger", "patterns", "in", "the", "display", ".", "Scaffolding", "the", "student?s", "use", "of", "TPM", "with", "annotated", "sound", "which", "draws", "the", "students", "?", "attention", "to", "such", "patterns", "will", "encourage", "them", "to", "develop", "these", "skills", ",", "which", "will", "be", "crucial", "at", "higher", "levels", "of", "expertise", ".", "ISVL", "also", "supports", "multiple", "representations", "of", "the", "execution", "to", "enable", "the", "student", "to", "take", "different", "perspectives", "depending", "on", "their", "task", ".", "Currently", ",", "ISVL", "features", "two", "SVs", ",", "TPM", "and", "Theseus", ",", "specifically", "chosen", "because", "of", "the", "different", "ways", "in", "which", "they", "present", "Prolog", "execution", ".", "Theseus", "shows", "a", "detailed", "textual", "account", "of", "execution", "near", "the", "code", "level", ".", "TPM", "provides", "more", "of", "a", "high", "level", "graphical", "account", ".", "Future", "studies", "aim", "to", "show", "how", "these", "two", "views", "can", "be", "used", "at", "various", "stages", "along", "the", "course", ",", "and", "how", "lessons", "learnt", "in", "one", "can", "be", "assimilated", "with", "the", "other", "view", ".", "ISVL", "also", "has", "a", "code", "highlighting", "option", "to", "emphasise", "the", "mapping", "between", "the", "visualization", "and", "the", "code", ".", "Design", "Principles", "from", "the", "Web-server", "based", "Architecture", "The", "fact", "the", "ISVL", "is", "composed", "of", "a", "central", "server", "and", "a", "client", "requires", "that", "we", "think", "about", "where", "the", "components", "should", "go", ".", "In", "general", "data", "which", "is", "on", "the", "client", "and", "is", "therefore", "local", "will", "be", "rapidly", "accessible", ".", "But", "local", "data", "increases", "start", "up", "time", "-LRB-", "because", "the", "Java", "code", "has", "to", "be", "downloaded", "-RRB-", ".", "Storing", "structures", "on", "the", "server", "reduces", "the", "student", "requirements", "for", "processor", "power", "and", "memory", "and", "facilitates", "collaboration", ".", "This", "has", "to", "be", "balanced", ",", "however", ",", "with", "the", "fact", "that", "access", "to", "server", "structures", "are", "slower", "and", "have", "a", "?", "dial-up", "?", "cost", ".", "The", "split", "we", "have", "used", "in", "ISVL", "is", "shown", "in", "figure", "3", ".", "The", "program", "execution", "history", "and", "views", "are", "stored", "on", "the", "server", ".", "The", "history", "is", "made", "up", "of", "events", "which", "cause", "players", "to", "change", "state", "-LRB-", "see", "-LRB-", "Domingue", "et", "al.", ",", "1992", "-RRB-", "for", "details", "-RRB-", ".", "A", "view", "consists", "of", "a", "series", "of", "locations", "-LRB-", "e.g.", "we", "have", "tree", "based", "and", "table", "based", "views", "-RRB-", ".", "A", "mapping", "maps", "a", "history", "structure", "to", "an", "icon/image", "class", ".", "The", "views", "and", "maps", "form", "the", "basis", "of", "the", "ISVL", "HTTP", "protocol", "which", "is", "used", "to", "transmit", "the", "SV", ".", "The", "client", "interprets", "the", "view", "and", "map", "data", "to", "produce", "the", "on", "screen", "images", "which", "the", "user", "manipulates", "through", "a", "navigator", ".", "The", "navigator", "allows", "large", "execution", "spaces", "to", "be", "viewed", "by", "using", "techniques", "such", "as", "scale", "and", "compression", ".", "Using", "a", "protocol", "specific", "to", "SV", "systems", "means", "that", "the", "amount", "of", "data", "transferred", "is", "minimal", ".", "Reproducing", "views", "and", "maps", "on", "the", "client", "means", "that", "an", "SV", "can", "be", "examined", "without", "the", "need", "for", "repeated", "accesses", "to", "the", "server", ".", "Program", "execution", "history", "-LRB-", "players", ",", "events", ",", "states", "-RRB-", "Views", "Mappings", "Images", "Navigator", "Client", "Server", "ISVL", "HTTP", "protocol", "Views", "Maps", "Figure", "3", ".", "The", "server/client", "split", "in", "ISVL", ".", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "5", "INTERNET", "SOFTWARE", "VISUALIZATION", "LABORATORY", "-LRB-", "ISVL", "-RRB-", "In", "this", "section", "we", "shall", "describe", "how", "ISVL", "embodies", "the", "approach", "outlined", "in", "the", "introduction", ",", "using", "a", "scenario", "involving", "a", "hypothetical", "student", "Bill", "Hoad", "and", "tutor", "Ingrid", "Johnson", ".", "Within", "the", "scenario", "we", "shall", "show", "how", "ISVL", "supports", "students", "debugging", "their", "programs", "and", "synchronous", "and", "asynchronous", "communication", "between", "students", "and", "their", "tutors", ".", "Bill", "is", "working", "on", "an", "exercise", "from", "his", "course", "workbook", ".", "The", "exercise", "asks", "students", "to", "write", "a", "sorting", "program", ",", "called", "qsort", ",", "which", "uses", "the", "quick", "sort", "algorithm", ".", "The", "quick", "sort", "algorithm", "works", "by", "splitting", "a", "list", "around", "an", "element", "into", "a", "list", "of", "lower", "numbers", "and", "a", "list", "of", "higher", "numbers", "which", "are", "then", "recursively", "sorted", ".", "The", "program", "should", "take", "an", "unsorted", "list", "and", "return", "a", "sorted", "list", ".", "For", "example", ",", "the", "query", ":", "qsort", "-LRB-", "-LSB-", "4", ",", "3", ",", "1", "-RSB-", ",", "_", "y", "-RRB-", "where", "_", "y", "represents", "an", "unbound", "variable", ",", "should", "return", ":", "YES", "_", "y", "=", "-LSB-", "1", ",", "3", ",", "4", "-RSB-", "signifying", "that", "the", "query", "has", "been", "proved", "and", "the", "value", "of", "_", "y", "is", "-LSB-", "1", ",", "3", ",", "4", "-RSB-", ".", "Bill", "loads", "his", "solution", "by", "copying", "it", "into", "the", "text", "area", "and", "clicking", "on", "the", "?", "Load", "?", "button", "in", "the", "control", "panel", "-LRB-", "see", "figure", "4", "below", "-RRB-", ".", "The", "following", "steps", "occur", "as", "numbered", "in", "figure", "4", ":", "1", ".", "Bill", "types", "his", "query", ":", "qsort", "-LRB-", "-LSB-", "4", ",", "3", ",", "1", "-RSB-", ",", "_", "y", "-RRB-", "and", "clicks", "on", "the", "?", "Evaluate", "?", "button", ",", "2", ".", "The", "result", "of", "the", "query", "?", "NO", "?", "-LRB-", "indicating", "that", "the", "query", "has", "failed", "-RRB-", "and", "a", "TPM", "visualization", "are", "returned", ".", "3", ".", "Bill", "steps", "through", "the", "execution", "using", "the", "button", "in", "the", "control", "panel", "until", "he", "reaches", "the", "point", "shown", "in", "figure", "4", "He", "notices", "the", "suspicious", "failure", "of", "the", "arrowed", "qsort", "node", "and", "investigates", "this", "further", "by", "clicking", "on", "the", "node", "to", "obtain", "a", "Theseus", "style", "fine-grained", "view", "-LRB-", "also", "arrowed", "-RRB-", ".", "The", "finegrained", "view", "tells", "Bill", "that", "there", "is", "no", "match", "when", "the", "list", "to", "be", "sorted", "is", "empty", ".", "He", "fixes", "his", "code", "and", "tries", "the", "query", "again", "-", "this", "time", "it", "is", "successful", ".", "Some", "time", "later", "Bill", "tries", "his", "code", "with", "the", "query", ":", "qsort", "-LRB-", "-LSB-", "4", ",", "2", ",", "3", ",", "1", "-RSB-", ",", "_", "y", "-RRB-", "and", "gets", "the", "result", ":", "YES", "_", "y", "=", "-LSB-", "2", ",", "1", ",", "3", ",", "4", "-RSB-", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "6", "Text", "Area", "Graphics", "Area", "Control", "Panel", "2", ".", "Result", "of", "Prolog", "Query", "1", ".", "Prolog", "Query", "3", ".", "Fine-grained", "view", "of", "Figure", "4", ".", "The", "ISVL", "code", "developement", "environment", ".", "Even", "with", "the", "visualization", "Bill", "fails", "to", "track", "down", "the", "bug", ",", "so", "he", "calls", "up", "his", "tutor", "Ingrid", ".", "Ingrid", "agrees", "to", "start", "up", "a", "collaborative", "tutoring", "session", ".", "To", "start", "a", "tutoring", "session", "Ingrid", "needs", "to", "move", "to", "Bill?s", "work", "area", "and", "then", "start", "broadcasting", ".", "Tutors", "can", "connect", "to", "any", "of", "their", "student?s", "work", "areas", "by", "choosing", "their", "identifier", "from", "their", "current", "students", "page", ".", "Ingrid?s", "current", "student", "page", "is", "shown", "in", "figure", "5", "below", ".", "Using", "the", "mouse", "she", "chooses", "?", "B.", "Hoad", "M251067", "?", "and", "her", "screen", "changes", "to", "one", "similar", "to", "figure", "4", ".", "She", "then", "starts", "broadcasting", "by", "clicking", "on", "the", "?", "Broadcast", "?", "button", "in", "the", "control", "panel", ".", "Bill", "puts", "his", "ISVL", "into", "receive", "mode", "by", "clicking", "on", "the", "?", "Receive", "?", "button", ".", "Ingrid?s", "interface", "actions", "are", "now", "replicated", "in", "Bill?s", "environment", ".", "Ingrid", "evaluates", "the", "query", ":", "qsort", "-LRB-", "-LSB-", "4", ",", "1", ",", "2", ",", "3", "-RSB-", ",", "_", "y", "-RRB-", "turns", "on", "the", "fine-grained", "trace", "option", "and", "plays", "forward", "to", "the", "point", "shown", "in", "figure", "6", ".", "She", "then", "says", "into", "her", "microphone", ":", "?", "Things", "have", "gone", "wrong", "in", "the", "highlighted", "region", "-LRB-", "Ingrid", "highlights", "the", "region", "by", "dragging", "the", "mouse", "-LRB-", "see", "figure", "7", "-RRB-", "-RRB-", ".", "Splitting", "the", "list", "-LSB-", "3", ",", "1", "-RSB-", "around", "2", "should", "yield", "the", "list", "-LSB-", "1", "-RSB-", "-LRB-", "numbers", "less", "than", "2", "-RRB-", "and", "the", "list", "-LSB-", "3", "-RSB-", "-LRB-", "numbers", "greater", "than", "2", "-RRB-", ".", "I", "can", "see", "that", "this", "is", "the", "first", "time", "that", "greater-than", "-LRB-", ">", "-RRB-", "has", "succeeded", ",", "here", "-LRB-", "Ingrid", "rings", "the", "white", "?", ">", "?", "node", "by", "clicking", "on", "the", "?", "Trail", "?", "button", "and", "then", "drawing", "a", "circle", "using", "the", "mouse", "-LRB-", "see", "figure", "8a", "-RRB-", "-RRB-", ",", "and", "that", "the", "first", "split", "clause", "has", "been", "tried", ".", "The", "split", "here", "-LRB-", "Ingrid", "rings", "the", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "7", "top", "split", "in", "red", "-LRB-", "dark", "in", "greyscale", "-RRB-", "-LRB-", "see", "figure", "8b", "-RRB-", "-RRB-", "has", "put", "1", "in", "the", "wrong", "place", "-", "this", "comes", "from", "this", "split", "-LRB-", "Ingrid", "rings", "the", "lower", "split", "in", "yellow", "-LRB-", "light", "in", "greyscale", "-RRB-", "-LRB-", "see", "figure", "8c", "-RRB-", "-RRB-", "so", "there?s", "probably", "a", "data", "flow", "problem", "in", "your", "second", "split", "clause", ".", "Let", "me", "check", "your", "code", ".", "Yes", ",", "if", "we", "compare", "your", "two", "split", "clauses", "-LRB-", "Ingrid", "brings", "up", "Bill?s", "source", "code", "-RRB-", "you", "can", "see", "that", "you?ve", "not", "been", "consistent", "in", "the", "order", "your", "two", "variables", "?", "Highs", "?", "and", "?", "Lows", "?", ".", "?", "Bill", "can", "now", "use", "this", "help", "to", "continue", "with", "the", "exercise", "unaided", ".", "ISVL", "automatically", "records", "and", "stores", "broadcast", "sessions", "allowing", "Bill", "to", "retrieve", "and", "replay", "the", "commented", "visualization", "at", "any", "time", ".", "Figure", "5", ".", "The", "ISVL", "interface", "for", "moving", "to", "a", "student", "work", "area", ".", "Figure", "6", ".", "The", "?", "crucial", "point", "?", "in", "the", "visualization", "which", "Ingrid", "plays", "to", ",", "so", "that", "she", "can", "explain", "Bill?s", "bug", "to", "him", ".", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "8", "Figure", "7", ".", "Ingrid", "highlights", "the", "problematic", "part", "of", "the", "execution", "on", "her", "machine", "and", "this", "is", "reflected", "on", "Bill?s", "interface", ".", "-LRB-", "a", "-RRB-", "-LRB-", "b", "-RRB-", "-LRB-", "c", "-RRB-", "Figure", "8", ".", "Three", "annotations", "Ingrid", "uses", "in", "her", "explanation", "of", "the", "buggy", "execution", "to", "Bill", ".", "ringing", "-LRB-", "a", "-RRB-", "the", "first", "successful", "?", ">", "?", "node", ",", "-LRB-", "b", "-RRB-", "the", "top", "split", "which", "returns", "an", "incorrect", "value", "-LRB-", "c", "-RRB-", "the", "lower", "split", "which", "has", "an", "incorrect", "call", ".", "DISCUSSION", "AND", "CONCLUSIONS", "The", "ISVL", "approach", "to", "integrating", "SV", "within", "the", "educational", "experience", "has", "a", "number", "of", "clear", "benefits", ":", "?", "collaboration", "-", "either", "between", "students", "or", "with", "a", "tutor", ",", "?", "synchronous", "and", "asynchronous", "communication", "-", "using", "live", "contact", "or", "archived", "material", ",", "?", "platform", "independent", "-", "the", "client", "software", "is", "written", "in", "Java", "and", "will", "run", "on", "any", "Java", "aware", "browser", ",", "?", "cost", "-", "no", "licensing", "costs", "for", "students", ",", "low", "distribution", "costs", "and", "no", "high", "specification", "machines", "required", "by", "students", ",", "?", "detailed/quick", "evaluation", "-", "all", "student", "activity", "within", "ISVL", "can", "be", "stored", "and", "analysed", "centrally", ",", "?", "reduce", "evaluation", "cycle", "-", "changes", "to", "ISVL", "in", "response", "to", "evaluation", "findings", "can", "be", "made", "quickly", ",", "?", "enhanced", "tutor", "contact", "-", "a", "rich", "collaborative", "context", "supplements", "email", "and", "telephone", "contact", ",", "?", "intelligent", "central", "server", "-", "provides", "options", "for", "semi-automated", "student", "support", "and", "data", "analysis", ".", "ISVL", "will", "allow", "us", "to", "continue", "our", "research", "into", "the", "evaluation", "of", "both", "SV", "and", "teaching", "over", "the", "internet", ".", "We", "have", "taught", "Prolog", ",", "Lisp", ",", "and", "Knowledge", "Engineering", "over", "the", "internet", "and", "have", "experimented", "with", "a", "virtual", "summer", "school", "for", "teaching", "psychology", "-LRB-", "Eisenstadt", "et", "al", ",", "1996", "-RRB-", ".", "Both", "the", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "9", "prolog", "and", "knowledge", "engineering", "have", "used", "visualizations", "-LRB-", "TPM", "and", "TRI", "-LRB-", "Domingue", "and", "Eisenstadt", ",", "1989", "-RRB-", "-RRB-", "as", "a", "key", "component", ",", "though", "never", "before", "delivered", "over", "the", "internet", ".", "This", "will", "extend", "our", "work", "to", "incorporate", "an", "enhanced", "level", "of", "collaboration", ".", "Similarly", ",", "Brown", "and", "Najork", "-LRB-", "1996", "-RRB-", "are", "working", "on", "an", "internet", "visualization", "called", "CAT", "-LRB-", "Collaborative", "Active", "Textbooks", "-RRB-", "which", "shows", "programs", "on", "an", "algorithmic", "level", ".", "Our", "own", "work", "is", "complementary", "to", "this", ",", "showing", "the", "execution", "at", "the", "code", "level", ",", "with", "the", "advantage", "that", "the", "user", "can", "more", "easily", "move", "from", "a", "tutoring", "to", "exploratory", "scenario", ",", "which", "is", "less", "possible", "with", "animations", "on", "the", "algorithmic", "level", "which", "require", "a", "working", "program", ".", "With", "the", "ISVL", "environment", "we", "will", "be", "able", "to", "undertake", "a", "more", "fine-grained", "evaluation", ",", "looking", "not", "only", "at", "usability", "issues", "but", "also", "deeper", "issues", "of", "external", "representations", "and", "how", "they", "impact", "on", "learning", "outcomes", ".", "The", "issues", "we", "intend", "our", "evaluation", "to", "address", "can", "be", "posed", "as", "three", "separate", "questions", ":", "1", "-RRB-", "What", "is", "the", "most", "effective", "use", "of", "SVs", "in", "education", ":", "cradle", "to", "grave", "or", "stage", "dependent", "?", "2", "-RRB-", "How", "will", "students", "collaborate", "and", "share", "resources", "when", "working", "in", "a", "virtual", "teaching", "environment", "?", "3", "-RRB-", "How", "will", "the", "tutor?s", "role", "differ", "when", "using", "ISVL", "compared", "to", "a", "traditional", "setting", "?", "We", "hope", "our", "forthcoming", "evaluation", "of", "the", "course", "using", "ISVL", "will", "illuminate", "these", "areas", ".", "ISVL", "is", "based", "on", "a", "decade", "of", "empirical", "work", "and", "software", "development", "and", "will", "be", "used", "and", "tested", "on", "a", "real", "course", ".", "Due", "to", "the", "localised", "nature", "of", "the", "materials", "on", "the", "ISVL", "server", ",", "empirical", "findings", "using", "ISVL", "will", "be", "able", "to", "feed", "directly", "into", "the", "future", "presentation", "of", "the", "course", ",", "as", "well", "as", "informing", "us", "as", "to", "how", "SV", "technology", "can", "be", "most", "appropriately", "incorporated", "into", "a", "computer", "programming", "curriculum", ".", "The", "Internet", "Software", "Visualization", "Laboratory", "Page", "10", "REFERENCES", "Baecker", ",", "R.", "M.", "and", "Sherman", ",", "D.", "-LRB-", "1981", "-RRB-", ".", "Sorting", "Out", "Sorting", ".", "Narrated", "colour", "videotape", ",", "30", "minutes", ",", "presented", "at", "ACM", "SIGGRAPH", "?", "81", ".", "Published", "by", "Morgan", "Kaufmann", ",", "Los", "Altos", ",", "CA", ".", "Brayshaw", ",", "M.", "and", "Eisenstadt", ",", "M.", "-LRB-", "1991", "-RRB-", ".", "A", "Practical", "Tracer", "for", "Prolog", ".", "International", "Journal", "of", "ManMachine", "Studies", ",", "42", ",", "597-631", ".", "Brown", ",", "M.", "H.", "-LRB-", "1987", "-RRB-", ".", "Algorithm", "Animation", ".", "Cambridge", ",", "MA", ":", "MIT", "Press", ".", "Brown", ",", "M.", "H.", "-LRB-", "1991", "-RRB-", ".", "Zeus", ":", "a", "system", "for", "algorithm", "animation", "and", "multi-view", "editing", ".", "In", "Proceedings", "of", "IEEE", "Workshop", "on", "Visual", "Languages", ".", "Kobe", ",", "Japan", ".", "Marc", "H.", "Brown", "and", "Marc", "A.", "Najork", ".", "-LRB-", "1996", "-RRB-", ".", "Collaborative", "Active", "Textbooks", ":", "A", "Web-Based", "Algorithm", "Animation", "System", "for", "an", "Electronic", "Classroom", ".", "Proceedings", "of", "the", "IEEE", "Symposium", "on", "Visual", "Languages", "-LRB-", "VL", "'", "96", "-RRB-", ",", "Boulder", ",", "CO", ",", "Sept", "3-6", ",", "1996", ".", "Chi", ",", "M.", "T.", "H.", ",", "Feltovich", ",", "P.J.", "and", "Glaser", ",", "R.", "-LRB-", "1981", "-RRB-", ".", "Categorisation", "and", "representation", "of", "physics", "problems", "by", "experts", "and", "novices", ".", "Cognitive", "Science", ",", "5", ",", "121-152", ".", "Chi", ",", "M.", "T.", "H.", ",", "Bassok", ",", "M.", ",", "Lewis", ",", "M.", "W.", ",", "Reimann", ",", "P.", "and", "Glaser", ",", "R.", "-LRB-", "1989", "-RRB-", ".", "Self", "explanations", ":", "how", "students", "study", "and", "use", "examples", "in", "learning", "to", "solve", "problems", ".", "Cognitive", "Science", ",", "13", ",", "145", "-", "182", ".", "Domingue", ",", "J.", "and", "Eisenstadt", ",", "M.", "-LRB-", "1989", "-RRB-", ".", "A", "New", "Metaphor", "for", "the", "Graphical", "Explanation", "of", "Forward", "Chaining", "Rule", "Execution", ".", "In", "Proceedings", "of", "The", "Twelfth", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "Detroit", ",", "MI", "-RRB-", ",", "129-134", ".", "Domingue", ",", "J.", ",", "Price", ",", "B.", "and", "Eisenstadt", ",", "M.", "-LRB-", "1992", "-RRB-", ".", "Viz", ":", "A", "Framework", "for", "Describing", "and", "Implementing", "Software", "Visualization", "Systems", ".", "In", "Proceedings", "of", "NATO", "Advanced", "Research", "Workshop", ":", "User-centred", "requirements", "for", "Software", "Engineering", "Environments", ",", "September", ",", "1991", ".", "Eisenstadt", ",", "M.", ",", "Breuker", ",", "J.", ",", "and", "Evertsz", ",", "R.", "-LRB-", "1985", "-RRB-", ".", "A", "cognitive", "account", "of", "?", "natural", "?", "looping", "constructs", ".", "In", "B.", "Shackel", "-LRB-", "Ed", ".", "-RRB-", ",", "Human-Computer", "Interaction", ".", "Amsterdam", ":", "Elsevier", "-LRB-", "NorthHolland", "-RRB-", ",", "1985", ".", "Eisenstadt", ",", "M.", "-LRB-", "1993", "-RRB-", ".", "Tales", "of", "Debugging", "from", "the", "Front", "Lines", ".", "Empirical", "Studies", "of", "Programmers", "V", ",", "Palo", "Alto", ",", "CA.", ",", "December", ",", "1993", ".", "Eisenstadt", ",", "M.", "and", "Brayshaw", ",", "M.", "-LRB-", "1988", "-RRB-", ".", "The", "Transparent", "Prolog", "Machine", "-LRB-", "TPM", "-RRB-", ":", "an", "execution", "model", "and", "graphical", "debugger", "for", "logic", "programming", ".", "Journal", "of", "Logic", "Programming", ",", "5", "-LRB-", "4", "-RRB-", ",", "277-342", ".", "Eisenstadt", ",", "M.", ",", "Bayshaw", ",", "M.", ",", "Hasemer", ",", "T.", "and", "Issroff", ",", "K.", "-LRB-", "1996", "-RRB-", ".", "Teaching", ",", "learning", "and", "collaborating", "at", "a", "virtual", "summer", "school", ".", "In", "A.", "Dix", "and", "R.", "Beale", "-LRB-", "Eds", ".", "-RRB-", "Remote", "cooperation", ":", "CSCW", "Issues", "for", "Mobile", "and", "Tele-workers", ".", "London", ":", "Springer", ".", "Gloor", ",", "P.", "A.", "-LRB-", "1992", "-RRB-", ".", "AACE", "-", "Algorithm", "animation", "for", "computer", "science", "education", ".", "In", "Proceedings", "of", "Visual", "Languages", "Workshop", ",", "Seattle", ",", "WA", ":", "IEEE", "Computer", ".", "Lieberman", ",", "H.", "and", "Fry", ",", "C.", "-LRB-", "1995", "-RRB-", ".", "Bridging", "the", "gap", "between", "code", "and", "behaviour", "in", "programming", ".", "In", "Proceedings", "of", "CHI", "?", "95", "Human", "Factors", "in", "Computing", "Systems", ".", "New", "York", ":", "ACM", "Press", ".", "Mulholland", ",", "P.", "-LRB-", "1995", "-RRB-", ".", "A", "framework", "for", "describing", "and", "evaluating", "Software", "Visualization", "Systems", ":", "A", "case-study", "in", "Prolog", ".", "PhD", "Thesis", ",", "Knowledge", "Media", "Institute", ",", "Open", "University", ".", "Petre", ",", "M.", "and", "Green", ",", "T.", "R.", "G.", "-LRB-", "1990", "-RRB-", ".", "Where", "to", "draw", "the", "line", "with", "text", ":", "some", "claims", "by", "logic", "designers", "about", "graphics", "in", "notation", ".", "In", "Human-computer", "interaction", "INTERACT", "?", "90", ".", "NorthHolland", ":", "Elsevier", ".", "Stasko", ",", "J.", "T.", "-LRB-", "1990", "-RRB-", ".", "Tango", ":", "A", "Framework", "and", "System", "for", "Algorithm", "Animation", ".", "IEEE", "Computer", ",", "27-39", "." ]

[ "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Using", "parallel", "simulated", "annealing", "in", "the", "mapping", "problem", "Borut", "Robi", "<", "=", "c", "and", "Jurij", "<", "=", "Silc", "Jo", "<", "=", "zef", "Stefan", "Institute", ",", "Computer", "Systems", "Department", "Jamova", "39", ",", "61111", "Ljubljana", ",", "Slovenia", "E-mail", ":", "borut.robic@ijs.si", "Technical", "Report", "CSD-94-4", "April", "1994", "Using", "parallel", "simulated", "annealing", "in", "the", "mapping", "problem", "?", "Borut", "Robi", "<", "=", "c", "and", "Jurij", "<", "=", "Silc", "Jo", "<", "=", "zef", "Stefan", "Institute", ",", "Computer", "Systems", "Department", "Jamova", "39", ",", "61111", "Ljubljana", ",", "Slovenia", "E-mail", ":", "borut.robic@ijs.si", "Abstract", "This", "paper", "presents", "a", "parallel", "simulated", "annealing", "algorithm", "for", "solving", "the", "problem", "of", "mapping", "irregular", "parallel", "programs", "onto", "homogeneous", "processor", "arrays", "with", "regular", "topology", ".", "The", "algorithm", "constructs", "and", "uses", "joint", "transformations", ".", "These", "transformations", "guarantee", "a", "high", "degree", "of", "parallelism", "that", "is", "bounded", "below", "by", "d", "jNpj", "deg", "-LRB-", "Gp", "-RRB-", "+1", "e", ",", "where", "jNpj", "is", "the", "number", "of", "task", "nodes", "in", "the", "mapped", "program", "graph", "Gp", "and", "deg", "-LRB-", "Gp", "-RRB-", "is", "the", "maximal", "degree", "of", "a", "node", "in", "Gp", ".", "The", "mapping", "algorithm", "provides", "good", "program", "mappings", "-LRB-", "in", "terms", "of", "program", "execution", "time", "and", "the", "number", "of", "processors", "used", "-RRB-", "in", "a", "reasonable", "number", "of", "steps", ".", "?", "This", "work", "has", "been", "supported", "by", "Ministry", "of", "Science", "and", "Technology", "of", "the", "Republic", "of", "Slovenia", "under", "Grant", "Numbers", "J2-5092-106", "and", "Z2-5509-106", ".", "This", "report", "will", "appear", "in", "the", "proceedings", "of", "the", "6th", "International", "PARLE", "Conference", ",", "Athens", ",", "Greece", ",", "July", "13-17", ",", "1994", ".", "-LRB-", "Lecture", "Notes", "in", "Computer", "Science", "817", "-RRB-", "Technical", "Report", "CSD-94-4", "April", "1994", "1", "The", "mapping", "problem", "Let", "Gp", "=", "-LRB-", "Np", ";", "Ap", "-RRB-", "be", "a", "program", "graph", ",", "where", "Np", "represents", "tasks", "and", "Ap", "represents", "data", "dependencies", "among", "them", ".", "Let", "a", "parallel", "computer", "be", "represented", "by", "a", "graph", "Gc", "=", "-LRB-", "Nc", ";", "Ec", "-RRB-", ",", "where", "Nc", "is", "the", "set", "of", "processors", "and", "Ec", "is", "a", "set", "of", "physical", "interconnections", ".", "A", "mapping", "of", "the", "program", "graph", "into", "the", "parallel", "computer", "associates", "a", "processor", "to", "each", "task", "and", "a", "sequence", "of", "interconnections", "to", "each", "data", "dependency", ".", "Formally", ",", "a", "mapping", "?", "of", "Gp", "into", "Gc", "is", "a", "pair", "-LRB-", "?", "N", ";", "?", "A", "-RRB-", "of", "functions", "?", "N", ":", "Np", "?!", "Nc", "and", "?", "A", ":", "Ap", "?!", "Sk", ">", "=", "1", "Ekc", ",", "such", "that", "for", "each", "a", "=", "-LRB-", "u", ";", "v", "-RRB-", "2", "Ap", ",", "?", "A", "-LRB-", "a", "-RRB-", "is", "a", "path", "in", "Gc", ",", "starting", "in", "?", "N", "-LRB-", "u", "-RRB-", "and", "ending", "in", "?", "N", "-LRB-", "v", "-RRB-", ".", "A", "mapping", "must", "be", "feasible", ",", "i.e.", ",", "it", "must", "satisfy", "all", "the", "constraints", "imposed", "by", "the", "target", "computer", ".", "The", "fundamental", "constraint", "is", "imposed", "by", "the", "topology", "of", "the", "computer", "architecture", ",", "i.e.", ",", "the", "set", "Ec", "of", "processor", "interconnections", ".", "Another", "limiting", "factor", "may", "be", "the", "load", "of", "the", "mapping", ",", "which", "is", "the", "maximum", "number", "of", "tasks", "that", "may", "be", "mapped", "to", "any", "single", "processor", ".", "Mapping", "may", "also", "take", "into", "consideration", "the", "congestion", ",", "which", "is", "the", "maximum", "number", "of", "arcs", "that", "are", "routed", "through", "any", "single", "interconnection", "link", ".", "We", "define", "the", "cost", "of", "the", "mapping", "?", "as", "follows", ".", "Let", "us", "define", "the", "dilation", "`", "-LRB-", "a", "-RRB-", "of", "an", "arc", "a", "2", "Ap", "to", "be", "the", "number", "of", "intermediate", "processors", "along", "the", "associated", "communication", "path", "in", "Gc", ",", "i.e.", ",", "`", "-LRB-", "a", "-RRB-", "=", "k", "?", "1", "if", "?", "A", "-LRB-", "a", "-RRB-", "2", "Ekc", ".", "Then", "we", "define", "the", "cost", "of", "the", "mapping", "to", "be", "Q", "-LRB-", "?", "-RRB-", "=", "Pa2Np", "`", "-LRB-", "a", "-RRB-", ".", "A", "mapping", "?", "is", "optimal", "if", "it", "minimizes", "Q", "-LRB-", "?", "-RRB-", ".", "The", "problem", "of", "minimizing", "Q", "-LRB-", "?", "-RRB-", "is", "NP-complete", ".", "Thus", ",", "heuristic", "techniques", "must", "be", "applied", "for", "finding", "suboptimal", "solutions", ".", "There", "are", "two", "basic", "approaches", "one", "can", "undertake", "when", "solving", "the", "mapping", "problem", ".", "In", "the", "direct", "approach", "a", "-LRB-", "sophisticated", "-RRB-", "mapping", "algorithm", "is", "constructed", "yielding", "results", "which", "are", "as", "good", "as", "possible", ".", "This", "may", "be", "a", "difficult", "task", "since", "one", "must", "consider", "as", "many", "characteristics", "of", "the", "program", "graphs", "and", "target", "architecture", "as", "possible", ".", "The", "indirect", "approach", ",", "however", ",", "fixes", "some", "-LRB-", "simple", "-RRB-", "initial", "mapping", "algorithm", "and", "then", "improves", "its", "results", "using", "heuristic", "techniques", ".", "Both", "approaches", "have", "been", "considered", ".", "In", "the", "first", "case", "a", "mapping", "algorithm", "from", "-LSB-", "2", "-RSB-", "was", "adopted", "and", "enhanced", "by", "three", "nontrivial", "improvements", "-LSB-", "5", "-RSB-", ".", "However", ",", "these", "improvements", "involve", "solving", "several", "NP-complete", "problems", ".", "In", "the", "second", "case", "several", "heuristic", "algorithms", "were", "applied", "and", "considerably", "improved", "the", "initial", "mappings", "-LSB-", "3,4", "-RSB-", ".", "Next", ",", "we", "will", "consider", "the", "parallelization", "of", "one", "of", "these", "indirect", "improvements", ".", "2", "Suboptimal", "mapping", "with", "parallel", "SA", "Let", "Gp", "and", "Gc", "be", "a", "program", "graph", "and", "a", "r-regular", "processor", "array", ",", "respectively", ".", "The", "configuration", "space", "M", "of", "Gp", "is", "the", "set", "of", "all", "possible", "mappings", "of", "Gp", "onto", "Gc", ",", "i.e.", ",", "M", "=", "fM", "jM", "=", "?", "-LRB-", "Gp", "-RRB-", "for", "some", "mapping", "?", ":", "Gp", "?!", "Gcg", ".", "If", "M", "2", "M", "for", "some", "?", ",", "then", "the", "cost", "of", "the", "configuration", "M", "is", "defined", "to", "be", "equal", "to", "Q", "-LRB-", "?", "-RRB-", "and", "is", "denoted", "by", "Q", "-LRB-", "M", "-RRB-", ".", "Furthermore", ",", "we", "say", "that", "a", "transformation", "ffl", ":", "M", "7", "!", "M", "2", "M", "is", "elementary", "if", "it", "moves", "a", "single", "node", "v", "to", "one", "of", "r", "neighboring", "processors", "and", "reroutes", "all", "incident", "paths", ",", "i.e.", ",", "if", "there", "is", "some", "v", "2", "Np", "such", "that", "?", "N", "-LRB-", "v", "-RRB-", "<", ">", "?", "0N", "-LRB-", "v", "-RRB-", "while", "?", "N", "-LRB-", "u", "-RRB-", "=", "?", "0N", "-LRB-", "u", "-RRB-", "for", "all", "u", ";", "u", "<", ">", "v", ".", "In", "this", "case", "the", "shifted", "node", "v", "will", "also", "be", "called", "ffl-node", ".", "The", "parallel", "SA", "algorithm", "will", "make", "use", "of", "joint", "transformations", "which", "are", "defined", "as", "follows", ".", "Given", "some", "configuration", "M", "2", "M", ",", "a", "joint", "transformation", "is", "a", "set", "fffl1", ";", "ffl2", ";", ":", ":", ":", ";", "fflk", "g", "of", "elementary", "transformations", "of", "M", "whose", "order", "of", "execution", "is", "not", "important", ",", "i.e.", ",", "fflk", "ffi", "fflk", "?", "1", "ffi", ":", ":", ":", "ffi", "ffl1", "-LRB-", "M", "-RRB-", "is", "the", "same", "for", "any", "permutation", "ikik", "?", "1", ":", ":", ":", "i1", "of", "indices", "1", ";", "2", ";", ":", ":", ":", ";", "k.", "Therefore", ",", "a", "joint", "transformation", "can", "be", "executed", "in", "parallel", ".", "Moreover", ",", "the", "cost", "variation", "?", "Q", "=", "Q", "-LRB-", "-LRB-", "M", "-RRB-", "-RRB-", "?", "Q", "-LRB-", "M", "-RRB-", "after", "the", "application", "of", "a", "joint", "transformation", "=", "fffl1", ";", "ffl2", ";", ":", ":", ":", ";", "fflkg", "can", "easily", "be", "determined", "since", "?", "Q", "=", "P", "1", "<", "=", "i", "<", "=", "k", "?", "ffli", "Q", ",", "where", "?", "ffli", "Q", "=", "Q", "-LRB-", "ffli", "-LRB-", "M", "-RRB-", "-RRB-", "?", "Q", "-LRB-", "M", "-RRB-", ".", "Joint", "transformations", "can", "be", "constructed", "by", "the", "following", "simple", "algorithm", "JT", "?", ".", "ffl-Nodes", ":", "=", ";", ";", "Destinations", ":", "=", ";", "repeat", "choose", "u", "in", "Gp", "ffl-Nodes", ":", "=", "ffl-Nodes", "-LSB-", "fug", "pick", "a", "free", "q", "in", "Gc", "such", "that", "q", "=", "2", "Destinations", "Destinations", ":", "=", "Destinations", "-LSB-", "fqg", "Gp", ":", "=", "Gp", "?", "-LRB-", "fug", "-LSB-", "fneighbors", "of", "u", "in", "Gpg", "-RRB-", "until", "Gp", "=", "Algorithm", "JT", "?", "returns", "a", "set", "ffl-Nodes", "of", "nodes", "that", "can", "be", "moved", "by", "a", "joint", "transformation", ",", "and", "a", "set", "Destinations", ",", "which", "is", "the", "set", "of", "corresponding", "processors", ",", "where", "the", "nodes", "will", "be", "moved", ".", "Hence", ",", "the", "constructed", "joint", "transformation", "can", "be", "described", "as", "a", "set", "of", "pairs", "-LRB-", "u", ";", "q", "-RRB-", ",", "with", "u", "2", "ffl-Nodes", "and", "q", "2", "Destinations", ".", "This", "transformation", "can", "be", "performed", "in", "parallel", "using", "k", "=", "jffl-Nodesj", "processing", "units", ",", "where", "each", "of", "the", "units", "takes", "one", "ffl-node", "u", ",", "performs", "the", "elementary", "transformation", "ffl", "represented", "by", "-LRB-", "u", ";", "q", "-RRB-", ",", "and", "computes", "the", "corresponding", "?", "fflQ", ".", "Note", ",", "that", "a", "processor", "is", "free", "if", "it", "does", "not", "host", "any", "of", "the", "nodes", "of", "Gp", ",", "or", "if", "it", "hosts", "an", "ffl-node", ".", "Joint", "transformations", "are", "constructed", "with", "Algorithm", "JT", "?", "and", "used", "in", "the", "following", "parallel", "simulated", "annealing", "algorithm", "PSA", ".", "let", "M", "=", "?", "-LRB-", "Gp", "-RRB-", "be", "initial", "configuration", "choose", "an", "initial", "temperature", "T", ">", "repeat", "construct", "joint", "transformation", "=", "fffl1", ";", "ffl2", ";", ":", ":", ":", ";", "fflk", "g", "applying", "Algorithm", "JT", "?", "Mold", ":", "=", "M", "forall", "ffli", "2", "in", "parallel", "?", "ffli", "Q", ":", "=", "Q", "-LRB-", "ffli", "-LRB-", "M", "-RRB-", "-RRB-", "?", "Q", "-LRB-", "M", "-RRB-", "if", "?", "ffli", "Q", "<", "then", "apply", "ffli", "on", "M", "else", "if", "random", "-LRB-", "0", ";", "1", "-RRB-", "<", "=", "e", "??", "ffliQ", "=", "T", "then", "apply", "ffli", "on", "M", "else", ":", "=", "?", "ffflig", "endforall", "?", "Q", ":", "=", "P", "ffl2", "?", "fflQ", "if", "random", "-LRB-", "0", ";", "1", "-RRB-", ">", "e", "??", "Q", "=", "T", "then", "M", ":", "=", "Mold", "if", "a", "long", "time", "no", "decrease", "in", "Q", "or", "too", "many", "iterations", "then", "lower", "T", "until", "some", "time", "no", "change", "in", "Q", "After", "the", "construction", "of", "a", "candidate", "joint", "transformation", ",", "its", "elementary", "transformations", "are", "probabilistically", "accepted", "in", "parallel", "using", "Metropolis", "test", ".", "The", "resulting", "joint", "transformation", "is", "then", "probabilistically", "accepted", "with", "a", "global", "acceptance", "test", ".", "Performing", "global", "tests", "results", "in", "the", "improved", "convergence", "of", "the", "algorithm", "as", "it", "was", "shown", "in", "-LSB-", "1", "-RSB-", ".", "We", "use", "the", "following", "annealing", "schedule", ".", "Initially", ",", "the", "temperature", "T", "is", "set", "to", "aQ", "-LRB-", "?", "-LRB-", "Gp", "-RRB-", "-RRB-", ",", "where", "a", ">", "is", "such", "that", "it", "guarantees", "high", "probability", "of", "accepting", "elementary", "transformations", "with", "?", "fflQ", ">", "0", ".", "At", "each", "T", "changes", "are", "attempted", "until", "cjNpj", "acceptances", "occur", ",", "or", "djNpj", "attempts", "are", "performed", ",", "where", "<", "c", "<", "=", "d", ".", "After", "that", ",", "the", "temperature", "is", "lowered", "to", "bT", ",", "<", "b", "<", "1", ".", "To", "conclude", ",", "Algorithm", "PSA", "generates", ",", "tests", "and", "accepts", "many", "elementary", "transformations", "in", "parallel", "and", "is", ",", "therefore", ",", "a", "member", "of", "the", "class", "of", "\\", "error", "''", "algorithms", ".", "It", "synchronizes", "after", "each", "joint", "transformation", "consisting", "of", "independent", "elementary", "transformations", ".", "Since", "there", "is", "no", "error", "accumulated", "it", "can", "also", "be", "termed", "as", "\\", "zeroerror", "''", "algorithm", ".", "3", "Performance", "analysis", "The", "convergence", "of", "the", "Algorithm", "PSA", "depends", "on", "the", "degree", "of", "its", "parallelism", "-LRB-", "and", ",", "of", "course", ",", "on", "the", "annealing", "schedule", "-RRB-", ".", "The", "only", "parallelism", "in", "the", "algorithm", "is", "available", "in", "the", "forall", ":", ":", ":", "endforall", "loop", ",", "so", "one", "immediately", "observes", "that", "the", "number", "of", "elementary", "transformations", "in", "each", "is", "crucial", ".", "Let", "us", "concentrate", "on", "Algorithm", "JT", "?", "since", "it", "is", "the", "task", "of", "this", "algorithm", "to", "construct", "joint", "transformation", ".", "The", "number", "of", "ffl-nodes", "is", "the", "same", "as", "the", "number", "of", "iterations", "of", "the", "repeat", ":", ":", ":", "until", "loop", "because", ",", "in", "each", "iteration", ",", "a", "node", "u", "is", "chosen", "in", "the", "current", "Gp", "and", "included", "in", "the", "set", "ffl-Nodes", ".", "Next", ",", "the", "node", "u", "and", "all", "its", "neighbors", "are", "excluded", "from", "current", "Gp", ".", "Since", "there", "are", "at", "most", "r", "neighbors", ",", "we", "find", "that", "d", "jNpj", "r", "+1", "e", "<", "=", "jffl-Nodesj", ":", "Note", ",", "however", ",", "that", "this", "lower", "bound", "can", "be", "improved", ".", "Let", "deg", "-LRB-", "Gp", "-RRB-", "be", "the", "degree", "of", "the", "program", "graph", "Gp", ",", "i.e.", ",", "the", "maximal", "degree", "of", "a", "node", "in", "Gp", ".", "Then", "an", "improved", "lower", "bound", "on", "the", "number", "of", "ffl-nodes", "is", "given", "by", "the", "relation", "d", "jNpj", "deg", "-LRB-", "Gp", "-RRB-", "+1", "e", "<", "=", "jffl-Nodesj", ":", "Generally", ",", "this", "lower", "bound", "is", "not", "tight", "-LRB-", "see", "example", "below", "-RRB-", ".", "For", "example", ",", "the", "number", "of", "ffl-nodes", "may", "be", "increased", "by", "choosing", "nodes", "with", "low", "degree", "first", ".", "4", "Conclusion", "In", "this", "paper", "we", "presented", "a", "parallel", "simulated", "annealing", "algorithm", "PSA", "for", "solving", "the", "problem", "of", "mapping", "parallel", "algorithms", "onto", "processor", "arrays", "with", "regular", "topol", "-", "ogy", ".", "The", "algorithm", "PSA", "takes", "an", "initial", "mapping", "and", "constructs", "a", "sequence", "of", "joint", "transformations", "to", "eventually", "produce", "an", "optimized", "mapping", ".", "Each", "joint", "transformation", "is", "a", "set", "of", "elementary", "transformations", "that", "can", "be", "applied", "in", "parallel", "to", "a", "given", "configuration", ".", "Hence", ",", "algorithm", "PSA", "is", "a", "member", "of", "the", "class", "of", "\\", "error", "''", "parallel", "SA", "algorithms", ".", "Moreover", ",", "these", "elementary", "transformations", "are", "independent", "in", "the", "sense", "that", "they", "change", "independent", "parts", "of", "a", "given", "configuration", ".", "Hence", ",", "the", "erroneous", "assumption", "that", "there", "are", "no", "other", "simultaneously", "performed", "elementary", "transformations", "has", "no", "impact", "on", "computing", "the", "total", "cost", "variation", "of", "a", "joint", "transformation", ".", "Since", "there", "is", "no", "error", "caused", "by", "this", "assumption", ",", "our", "PSA", "algorithm", "can", "be", "termed", "\\", "zero-error", "''", "parallel", "simulated", "annealing", "algorithm", ".", "References", "-LSB-", "1", "-RSB-", "N.", "Boissin", "and", "J.-L", ".", "Lutton", ".", "A", "parallel", "simulated", "annealing", "algorithm", ".", "Parallel", "Computing", ",", "19", "-LRB-", "8", "-RRB-", ":859", "-872", ",", "August", "1993", ".", "-LSB-", "2", "-RSB-", "I.", "Koren", ",", "B.", "Mendelson", ",", "I.", "Peled", "and", "G.", "M.", "Silberman", ".", "A", "data-driven", "VLSI", "array", "for", "arbitrary", "algorithms", ".", "IEEE", "Computer", ",", "21", "-LRB-", "1", "-RRB-", ":30", "-43", ",", "October", "1988", ".", "-LSB-", "3", "-RSB-", "B.", "Robi", "<", "=", "c", ",", "P.", "Kolbezen", "and", "J.", "<", "=", "Silc", ".", "Area", "optimization", "of", "dataflow-graph", "mappings", ".", "Parallel", "Computing", ",", "18", "-LRB-", "3", "-RRB-", ":297", "-311", ",", "March", "1992", ".", "-LSB-", "4", "-RSB-", "B.", "Robi", "<", "=", "c", "and", "J.", "<", "=", "Silc", ".", "High-performance", "computing", "on", "a", "honeycomb", "architecture", ".", "Lecture", "Notes", "in", "Computer", "Science", "734", ",", "pp", ".", "1-13", ",", "Springer-Verlag", ",", "1993", ".", "-LSB-", "5", "-RSB-", "B.", "Robi", "<", "=", "c.", "Optimization", "of", "parallel", "algorithm", "mappings", "onto", "regular", "processor", "arrays", ".", "PhD", "Thesis", ",", "University", "of", "Ljubljana", ",", "1993", "." ]

[ "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Determination", "of", "all", "coherent", "pairs", "of", "functionals", "Report", "95-41", "H.G.", "Meijer", "Technische", "Universiteit", "Delft", "Delft", "University", "of", "Technology", "Faculteit", "der", "Technische", "Wiskunde", "en", "Informatica", "Faculty", "of", "Technical", "Mathematics", "and", "Informatics", "ISSN", "0922-5641", "Copyright", "c", "1995", "by", "the", "Faculty", "of", "Technical", "Mathematics", "and", "Informatics", ",", "Delft", ",", "The", "Netherlands", ".", "No", "part", "of", "this", "Journal", "may", "be", "reproduced", "in", "any", "form", ",", "by", "print", ",", "photoprint", ",", "microfilm", ",", "or", "any", "other", "means", "without", "permission", "from", "the", "Faculty", "of", "Technical", "Mathematics", "and", "Informatics", ",", "Delft", "University", "of", "Technology", ",", "The", "Netherlands", ".", "Copies", "of", "these", "reports", "may", "be", "obtained", "from", "the", "bureau", "of", "the", "Faculty", "of", "Technical", "Mathematics", "and", "Informatics", ",", "Julianalaan", "132", ",", "2628", "BL", "Delft", ",", "phone", "+3115784568", ".", "A", "selection", "of", "these", "reports", "is", "available", "in", "PostScript", "form", "at", "the", "Faculty", "'s", "anonymous", "ftpsite", ",", "ftp.twi.tudelft.nl", ".", "They", "are", "located", "in", "directory", "/", "pub/publications/tech-reports", ".", "They", "can", "also", "be", "accessed", "on", "the", "World", "Wide", "Web", "at", ":", "http://www.twi.tudelft.nl/TWI/Publications/Overview.html", "Determination", "of", "all", "coherent", "pairs", "of", "functionals", "H.G.", "Meijer", "Delft", "University", "of", "Technology", "Faculty", "of", "Technical", "Mathematics", "and", "Informatics", "Mekelweg", "4", "2628", "CD", "Delft", "the", "Netherlands", "Abstract", "A", "pair", "of", "quasi-definite", "linear", "functionals", "fu0", ";", "u1g", "on", "the", "set", "of", "polynomials", "is", "called", "a", "coherent", "pair", "if", "their", "corresponding", "sequences", "of", "monic", "orthogonal", "polynomials", "fPng", "and", "fTng", "satisfy", "a", "relation", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "P", "n", "n", ";", "n", ">", "=", "1", ";", "with", "oen", "non-zero", "constants", ".", "We", "prove", "that", "if", "fu0", ";", "u1g", "is", "a", "coherent", "pair", ",", "then", "at", "least", "one", "of", "the", "functionals", "has", "to", "be", "classical", ",", "i.e.", "Hermite", ",", "Laguerre", ",", "Jacobi", "or", "Bessel", ".", "A", "similar", "result", "is", "derived", "for", "symmetrically", "coherent", "pairs", ".", "AMS", "Subject", "Classification", "-LRB-", "1991", "-RRB-", ":", "33C45", ".", "1", ".", "Introduction", "The", "concept", "of", "coherent", "pair", "was", "introduced", "by", "Iserles", "et", "al", "-LSB-", "4", "-RSB-", "in", "the", "study", "of", "polynomials", "orthogonal", "with", "respect", "to", "an", "inner", "product", "of", "the", "form", "-LRB-", "1:1", "-RRB-", "hf", ";", "giS", "=", "Z", "b", "a", "fg", "d", "?", "0", "+", ">", "=", "Z", "b", "a", "f", "g0d", "?", "1", ";", "where", "?", "0", "and", "?", "1", "are", "distribution", "functions", "and", ">", "=", ">", "=", "0", ".", "Let", "fPng", "denote", "the", "monic", "orthogonal", "polynomial", "sequence", "-LRB-", "MOPS", "-RRB-", "with", "respect", "to", "d", "?", "0", "and", "fTng", "the", "MOPS", "with", "respect", "to", "d", "?", "1", ",", "then", "fd", "?", "0", ";", "d", "?", "1g", "is", "called", "a", "coherent", "pair", "if", "there", "exist", "non-zero", "constants", "oen", "such", "that", "-LRB-", "1:2", "-RRB-", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "P", "n", "n", ";", "for", "all", "n", ">", "=", "1", ":", "Iserles", "et", "al.", "showed", "that", "if", "fd", "?", "0", ";", "d", "?", "1g", "is", "a", "coherent", "pair", ",", "then", "the", "sequence", "of", "polynomials", "fS", ">", "=", "ng", "orthogonal", "with", "respect", "to", "the", "inner", "product", "-LRB-", "1.1", "-RRB-", "has", "an", "attractive", "structure", ".", "See", "also", "-LSB-", "9", "-RSB-", ".", "Therefore", "it", "is", "interesting", "to", "investigate", "under", "what", "conditions", "fd", "?", "0", ";", "d", "?", "1g", "is", "a", "coherent", "pair", ".", "Marcell?an", "and", "Petronilho", "-LSB-", "6", "-RSB-", "studied", "this", "problem", "in", "a", "more", "general", "setting", "where", "u0", "and", "u1", "are", "quasi-definite", "linear", "functionals", "on", "the", "space", "of", "polynomials", "and", "the", "corresponding", "MOPS", "'", "satisfy", "a", "relation", "of", "the", "form", "-LRB-", "1.2", "-RRB-", ".", "They", "solve", "the", "problem", "completely", "for", "the", "case", "that", "one", "of", "the", "functionals", "u0", ";", "u1", "is", "a", "classical", "one", ",", "i.e.", "Hermite", ",", "Laguerre", ",", "Jacobi", "or", "Bessel", ".", "In", "a", "recent", "paper", "-LSB-", "5", "-RSB-", "Marcell?an", ",", "P?erez", ",", "Pi", "~", "nar", "showed", "that", "if", "fu0", ";", "u1g", "is", "a", "coherent", "pair", "of", "quasi-definite", "linear", "functionals", ",", "then", "both", "are", "semiclassical", ",", "i.e.", "there", "exist", "polynomials", "`", "i", ",", "i", "-LRB-", "i", "=", ";", "1", "-RRB-", "such", "that", "D", "-LRB-", "`", "iui", "-RRB-", "=", "iui", "-LRB-", "i", "=", ";", "1", "-RRB-", ",", "where", "D", "denotes", "the", "distributional", "differentiation", ".", "Moreover", "they", "showed", "that", "there", "exist", "polynomials", "A", "and", "B", ",", "such", "that", "Au0", "=", "Bu1", "with", "degree", "A", "<", "=", "3", ",", "degree", "B", "<", "=", "2", ".", "It", "is", "the", "aim", "of", "the", "present", "paper", "to", "solve", "the", "problem", "completely", "and", "to", "determine", "all", "coherent", "pairs", "fu0", ";", "u1g", "of", "quasi-definite", "linear", "functionals", ".", "We", "will", "prove", "that", "at", "least", "one", "of", "the", "functionals", "u0", ";", "u1", "has", "to", "be", "classical", ",", "so", "all", "coherent", "pairs", "of", "functionals", "fu0", ";", "u1g", "are", "already", "determined", "in", "-LSB-", "6", "-RSB-", ".", "We", "show", "that", "there", "are", "only", "two", "cases", ":", "I", ".", "The", "functional", "u1", "is", "classical", ";", "there", "exist", "polynomials", "'", ";", ";", "ae", ",", "degree", "'", "<", "=", "2", ",", "degree", "<", "=", "1", ",", "degree", "ae", "=", "1", ",", "such", "that", "D", "-LRB-", "`", "u1", "-RRB-", "=", "u1", "and", "`", "u0", "=", "aeu1", ".", "II", ".", "There", "exists", "a", "?", "such", "that", "~", "u1", "=", "-LRB-", "x", "?", "?", "-RRB-", "u1", "is", "classical", ";", "in", "that", "case", "there", "exist", "polynomials", "'", ";", ",", "degree", "'", "<", "=", "2", ",", "degree", "<", "=", "1", "and", "a", "constant", "ae", "such", "that", "D", "-LRB-", "'", "~", "u1", "-RRB-", "=", "~", "u1", "and", "`", "u0", "=", "ae", "~", "u1", ";", "then", "u0", "is", "classical", "with", "D", "-LRB-", "`", "u0", "-RRB-", "=", "-LRB-", "?", "'", "0", "-RRB-", "u0", ".", "The", "two", "cases", "are", "not", "completely", "disjoint", ",", "as", "will", "be", "shown", "by", "some", "examples", ".", "If", "fu0", ";", "u1g", "is", "a", "coherent", "pair", ",", "that", "is", "in", "the", "situation", "described", "under", "I", "as", "well", "as", "in", "the", "situation", "under", "II", ",", "then", "obviously", "u0", "and", "u1", "both", "are", "classical", ".", "In", "section", "2", "we", "give", "the", "basic", "definitions", ",", "notations", "and", "known", "results", "on", "functionals", "and", "coherent", "pairs", "of", "functionals", ".", "In", "section", "3", "we", "show", "that", "every", "coherent", "pair", "fu0", ";", "u1g", "belongs", "to", "case", "I", "or", "to", "case", "II", ".", "In", "section", "4", "we", "give", "all", "coherent", "pairs", "for", "linear", "functionals", "which", "can", "be", "represented", "by", "distribution", "functions", ".", "In", "section", "5", "the", "functionals", "are", "symmetric", ".", "A", "pair", "of", "symmetric", "functionals", "fu0", ";", "u1g", "is", "called", "a", "symmetrically", "coherent", "pair", "if", "their", "corresponding", "MOPS", "fPng", "and", "fTng", "satisfy", "a", "relation", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "?", "1", "P", "n", "?", "1", "n", "?", "1", "for", "n", ">", "=", "2", "with", "oen", "non-zero", "constants", ".", "We", "prove", "that", "if", "fu0", ";", "u1g", "is", "a", "symmetrically", "coherent", "pair", ",", "then", "at", "least", "one", "of", "the", "functionals", "has", "to", "be", "classical", ".", "Moreover", "a", "division", "in", "two", "cases", "as", "for", "the", "coherent", "pairs", "is", "given", ".", "2", ".", "Basic", "definitions", "and", "results", "Let", "u", "denote", "a", "linear", "functional", "defined", "on", "the", "space", "of", "polynomials", "P", ".", "A", "sequence", "of", "monic", "polynomials", "fPng", "is", "called", "a", "monic", "orthogonal", "polynomial", "sequence", "-LRB-", "MOPS", "-RRB-", "with", "respect", "to", "u", "if", "-LRB-", "i", "-RRB-", "degree", "Pn", "=", "n", ";", "n", "=", ";", "1", ";", "2", ";", "?", "?", "?", ",", "-LRB-", "ii", "-RRB-", "hu", ";", "PnPmi", "=", ";", "n", "<", ">", "m", ";", "n", ";", "m", "=", ";", "1", ";", "2", ";", "?", "?", "?", ",", "-LRB-", "iii", "-RRB-", "hu", ";", "P", "2n", "i", "=", "pn", "<", ">", ";", "n", "=", ";", "1", ";", "2", ";", "?", "?", "?", ".", "There", "exists", "a", "MOPS", "with", "respect", "to", "u", "if", "and", "only", "if", "u", "is", "quasi-definite", ";", "see", "-LSB-", "3", "-RSB-", ",", "Ch.I", "x3", ".", "In", "that", "case", "the", "MOPS", "is", "unique", ".", "In", "the", "sequel", "we", "always", "suppose", "the", "functionals", "to", "be", "quasi-definite", ".", "The", "MOPS", "fPng", "satisfies", "a", "three-term", "recurrence", "relation", "of", "the", "form", "-LRB-", "see", "-LSB-", "3", "-RSB-", ",", "p.", "18", "-RRB-", "Pn", "+1", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "n", "-RRB-", "Pn", "-LRB-", "x", "-RRB-", "?", "nPn", "?", "1", "-LRB-", "x", "-RRB-", ";", "n", ">", "=", "1", ";", "with", "n", "<", ">", "for", "n", ">", "=", "1", ".", "If", "A", "is", "a", "polynomial", "and", "u", "a", "functional", ",", "then", "Au", "is", "defined", "by", "hAu", ";", "pi", "=", "hu", ";", "Api", ";", "p", "2", "P", ":", "If", "the", "polynomial", "A", "is", "not", "the", "zero-polynomial", "then", "we", "can", "write", "A", "=", "nP", "k", "=", "0", "ckPk", ",", "with", "cn", "<", ">", "0", ",", "so", "hAu", ";", "Pni", "=", "cnpn", "<", ">", ":", "This", "implies", "that", "if", "A", "and", "B", "are", "polynomials", "with", "Au", "=", "Bu", ",", "then", "h", "-LRB-", "A", "?", "B", "-RRB-", "u", ";", "pi", "=", "for", "all", "p", "2", "P", "and", "A", "?", "B", "has", "to", "be", "the", "zero-polynomial", ",", "i.e.", ".", "A", "=", "B", ".", "The", "distributional", "derivative", "Du", "of", "the", "functional", "u", "is", "defined", "by", "hDu", ";", "pi", "=", "?", "hu", ";", "p0i", ";", "p", "2", "P", ":", "It", "is", "easy", "to", "check", "that", "we", "have", "for", "an", "arbitrary", "polynomial", "'", ":", "D", "-LRB-", "`", "u", "-RRB-", "=", "'", "0u", "+", "`", "Du", ":", "A", "functional", "u", "is", "called", "classical", "if", "it", "satisfies", "a", "relation", "D", "-LRB-", "`", "u", "-RRB-", "=", "u", ";", "with", "'", "and", "polynomials", ",", "degree", "'", "<", "=", "2", ",", "degree", "<", "=", "1", ".", "The", "classical", "functionals", "and", "corresponding", "orthogonal", "polynomial", "sequences", "are", "the", "following", "ones", ",", "see", "-LSB-", "8", "-RSB-", ",", "up", "to", "a", "linear", "transformation", "of", "the", "variable", ".", "-LRB-", "i", "-RRB-", "degree", "'", "=", ":", "Hermite", "polynomials", "fHng", "with", "'", "-LRB-", "x", "-RRB-", "?", "1", ";", "-LRB-", "x", "-RRB-", "=", "?", "2x", ".", "-LRB-", "ii", "-RRB-", "degree", "'", "=", "1", ":", "Laguerre", "polynomials", "fL", "-LRB-", "-RRB-", "n", "g", "with", "=", "2", "f", "?", "1", ";", "?", "2", ";", "?", "?", "?", "g", ";", "'", "-LRB-", "x", "-RRB-", "=", "x", ";", "-LRB-", "x", "-RRB-", "=", "?", "x", "+", "+", "1", ".", "-LRB-", "iii", "-RRB-", "degree", "'", "=", "2", "and", "'", "has", "two", "different", "roots", ":", "Jacobi", "polynomials", "fP", "ff", ";", "fi", "n", "g", "with", "ff", ";", ";", "+", "+", "1", "=", "2", "f", "?", "1", "?", "2", ";", "?", "?", "?", "g", ";", "'", "-LRB-", "x", "-RRB-", "=", "1", "?", "x2", ";", "-LRB-", "x", "-RRB-", "=", "?", "-LRB-", "+", "+", "2", "-RRB-", "x", "+", "?", ".", "-LRB-", "iv", "-RRB-", "degree", "'", "=", "2", "and", "'", "has", "a", "double", "root", ":", "Bessel", "polynomials", "fB", "-LRB-", "-RRB-", "n", "g", "with", "=", "2", "f", "?", "2", ";", "?", "3", ";", "?", "?", "?", "g", ";", "'", "-LRB-", "x", "-RRB-", "=", "x2", ";", "-LRB-", "x", "-RRB-", "=", "-LRB-", "+", "2", "-RRB-", "x", "+", "2", ".", "In", "the", "sequel", "we", "will", "use", "the", "following", "definition", "and", "notations", ":", "u0", "and", "u1", "denote", "quasi-definite", "linear", "functionals", "on", "P", ",", "fPng", "the", "MOPS", "with", "respect", "to", "u0", ",", "fTng", "the", "MOPS", "with", "respect", "to", "u1", ",", "hu0", ";", "P", "2n", "i", "=", "pn", "<", ">", ";", "n", "=", ";", "1", ";", "2", ";", "?", "?", "?", ";", "hu1", ";", "T", "2n", "i", "=", "tn", "<", ">", ";", "n", "=", ";", "1", ";", "2", ";", "?", "?", "?", ":", "The", "pair", "fu0", ";", "u1g", "is", "called", "a", "coherent", "pair", "if", "there", "exist", "non-zero", "constants", "oen", "such", "that", "-LRB-", "2:1", "-RRB-", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "P", "n", "n", "for", "n", ">", "=", "1", ":", "For", "a", "coherent", "pair", "we", "introduce", "the", "polynomials", "-LRB-", "2:2", "-RRB-", "Cn", "=", "oen", "Tn", "tn", "?", "Tn", "?", "1", "tn", "?", "1", ";", "n", "=", "1", ";", "2", ";", "?", "?", "?", ":", "The", "following", "two", "propositions", "are", "due", "to", "Marcell?an", ",", "P?erez", ",", "Pi", "~", "nar", "-LSB-", "5", "-RSB-", ".", "Since", "they", "are", "fundamental", "for", "the", "next", "sections", "we", "give", "here", "a", "somewhat", "different", "proof", "of", "them", ".", "Proposition", "1", ".", "Let", "fu0", ";", "u1g", "denote", "a", "coherent", "pair", ",", "then", ":", "nPn", "pn", "u0", "=", "D", "-LRB-", "Cnu1", "-RRB-", "for", "n", ">", "=", "1", ":", "Proof", "Relation", "-LRB-", "2.1", "-RRB-", "can", "be", "written", "as", "P", "n", "+1", "n", "+", "1", "=", "Tn", "+", "oen", "P", "n", "n", "and", "by", "repeated", "application", "and", "P", "1", "?", "1", "?", "T0", ",", "we", "have", "for", "n", ">", "=", "1", ",", "-LRB-", "2:3", "-RRB-", "P", "n", "+1", "n", "+", "1", "=", "Tn", "+", "oenTn", "?", "1", "+", "oenoen", "?", "1Tn", "?", "2", "+", "?", "?", "?", "+", "oenoen", "?", "1", "?", "?", "?", "oe1T0", ":", "This", "implies", "for", "n", ">", "=", "0", ",", "hu1", ";", "P", "n", "+1", "n", "+", "1", "Tk", "tk", "i", "=", "8", ">", "<", ">", ":", "if", "k", ">", "=", "n", "+", "1", ";", "1", "if", "k", "=", "n", ";", "oen", "?", "?", "?", "oek", "+1", "if", "<", "=", "k", "<", "=", "n", "?", "1", ":", "Then", "for", "n", ">", "=", "0", ",", "hu1", ";", "P", "n", "+1", "n", "+", "1", "-LRB-", "oek", "+1", "Tk", "+1", "tk", "+1", "?", "Tk", "tk", "-RRB-", "i", "=", "8", ">", "<", ">", ":", "if", "k", ">", "=", "n", "+", "1", ";", "?", "1", "if", "k", "=", "n", ";", "if", "<", "=", "k", "<", "=", "n", "?", "1", ":", "Using", "the", "notation", "-LRB-", "2.2", "-RRB-", "this", "can", "be", "rewritten", "as", "-LRB-", "n", ">", "=", ";", "k", ">", "=", "0", "-RRB-", "-LRB-", "2:4", "-RRB-", "hD", "-LRB-", "Ck", "+1", "u1", "-RRB-", ";", "Pn", "+1", "i", "=", "-LRB-", "n", "+", "1", "if", "k", "=", "n", "otherwise", ".", "Obviously", ",", "for", "n", ">", "=", ";", "k", ">", "=", "0", ",", "-LRB-", "2:5", "-RRB-", "h", "-LRB-", "k", "+", "1", "-RRB-", "Pk", "+1", "pk", "+1", "u0", ";", "Pn", "+1", "i", "=", "-LRB-", "n", "+", "1", "if", "k", "=", "n", "otherwise", ".", "As", "P0", "?", "1", "trivially", "for", "k", ">", "=", ":", "-LRB-", "2:6", "-RRB-", "hD", "-LRB-", "Ck", "+1", "u1", "-RRB-", ";", "P0i", "=", "?", "hCk", "+1", "u1", ";", "i", "=", "=", "h", "-LRB-", "k", "+", "1", "-RRB-", "Pk", "+1", "pk", "+1", "u0", ";", "P0i", ":", "Since", "fPng", "is", "a", "basis", "for", "P", ",", "we", "have", "by", "-LRB-", "2.4", "-RRB-", ",", "-LRB-", "2.5", "-RRB-", "and", "-LRB-", "2.6", "-RRB-", "D", "-LRB-", "Ck", "+1", "u1", "-RRB-", "=", "-LRB-", "k", "+", "1", "-RRB-", "Pk", "+1", "pk", "+1", "u0", ";", "k", ">", "=", ":", "?", "Proposition", "2", ".", "Let", "fu0", ";", "u1g", "denote", "a", "coherent", "pair", ".", "Then", "D", "-LRB-", "`", "u1", "-RRB-", "=", "u1", "and", "`", "u0", "=", "Bu1", ";", "with", "-LRB-", "2:7", "-RRB-", "'", "=", "2P2", "p2", "C1", "?", "P1", "p1", "C2", ";", "-LRB-", "2:8", "-RRB-", "=", "2P", "2", "p2", "C1", "?", "P", "1", "p1", "C2", ";", "-LRB-", "2:9", "-RRB-", "B", "=", "C1C", "2", "?", "C", "1C2", ";", "where", "degree", "'", "<", "=", "3", ",", "degree", "<", "=", "2", ",", "degree", "B", "=", "2", ".", "Proof", "Proposition", "1", "with", "n", "=", "1", "and", "n", "=", "2", "reads", ":", "P1", "p1", "u0", "=", "C", "1u1", "+", "C1Du1", ";", "2P2", "p2", "u0", "=", "C", "2u1", "+", "C2Du1", ";", "Elimination", "of", "u0", "gives", "the", "first", "result", "and", "elimination", "of", "Du1", "the", "second", "one", ".", "The", "coefficient", "of", "xn", "in", "the", "polynomial", "Cn", "defined", "by", "-LRB-", "2.2", "-RRB-", "is", "oentn", ";", "thus", "the", "coefficient", "of", "x2", "in", "the", "polynomial", "B", "defined", "in", "-LRB-", "2.9", "-RRB-", "is", "oe1oe2", "t1t2", ";", "then", "B", "has", "degree", "2", ".", "?", "We", "will", "extend", "the", "notation", "introduced", "in", "proposition", "2", "by", "-LRB-", "2:10", "-RRB-", "ss", "=", "?", "'", "0", "+", "=", "?", "2P2", "p2", "C", "1", "+", "P1", "p1", "C", "2", ";", "then", "degree", "ss", "<", "=", "2", "and", "-LRB-", "2:11", "-RRB-", "`", "Du1", "=", "ssu1", ":", "3", ".", "Determination", "of", "coherent", "pairs", "In", "this", "section", "we", "suppose", "that", "fu0", ";", "u1g", "is", "a", "coherent", "pair", "and", "we", "use", "the", "notations", "of", "section", "2", ".", "It", "follows", "from", "proposition", "1", "and", "2", "and", "-LRB-", "2.11", "-RRB-", "that", "for", "n", ">", "=", "1", ",", "nPn", "pn", "Bu1", "=", "nPn", "pn", "`", "u0", "=", "'D", "-LRB-", "Cnu1", "-RRB-", "=", "'", "C", "nu1", "+", "`", "CnDu1", "=", "-LRB-", "'", "C", "n", "+", "Cnss", "-RRB-", "u1", ":", "This", "gives", "the", "basic", "relation", "for", "our", "investigations", "-LRB-", "3:1", "-RRB-", "nPn", "pn", "B", "=", "C", "n", "'", "+", "Cnss", ";", "n", ">", "=", "1", ":", "We", "will", "prove", "that", "B", "and", "'", "have", "at", "least", "one", "zero", "in", "common", ".", "Theorem", "1", ".", "Suppose", "that", "B", "in", "-LRB-", "2.9", "-RRB-", "has", "two", "different", "zeros", ",", "then", "at", "least", "one", "of", "them", "is", "also", "a", "zero", "of", "'", ".", "Proof", "Let", "?", "denote", "a", "zero", "of", "B", "with", "'", "-LRB-", "?", "-RRB-", "<", ">", "0", ",", "then", "-LRB-", "3.1", "-RRB-", "implies", "-LRB-", "3:2", "-RRB-", "C", "n", "-LRB-", "?", "-RRB-", "'", "-LRB-", "?", "-RRB-", "+", "Cn", "-LRB-", "?", "-RRB-", "ss", "-LRB-", "?", "-RRB-", "=", ";", "n", ">", "=", "1", ":", "In", "particular", "for", "n", "=", "1", ",", "with", "C", "1", "-LRB-", "?", "-RRB-", "=", "oe1t1", "<", ">", "0", ",", "-LRB-", "3:3", "-RRB-", "oe1", "t1", "'", "-LRB-", "?", "-RRB-", "+", "C1", "-LRB-", "?", "-RRB-", "ss", "-LRB-", "?", "-RRB-", "=", ":", "Observe", "that", "since", "'", "-LRB-", "?", "-RRB-", "<", ">", "and", "oe1", "<", ">", "also", "C1", "-LRB-", "?", "-RRB-", "<", ">", "and", "ss", "-LRB-", "?", "-RRB-", "<", ">", "0", ".", "From", "-LRB-", "3.2", "-RRB-", "and", "-LRB-", "3.3", "-RRB-", "we", "obtain", "C1", "-LRB-", "?", "-RRB-", "C", "n", "-LRB-", "?", "-RRB-", "?", "oe1", "t1", "Cn", "-LRB-", "?", "-RRB-", "=", ";", "n", ">", "=", "1", ":", "Using", "the", "definition", "of", "Cn", "in", "-LRB-", "2.2", "-RRB-", "we", "get", "oen", "-LRB-", "C1", "-LRB-", "?", "-RRB-", "T", "n", "-LRB-", "?", "-RRB-", "tn", "?", "oe1", "t1", "Tn", "-LRB-", "?", "-RRB-", "tn", "-RRB-", "=", "C1", "-LRB-", "?", "-RRB-", "T", "n", "?", "1", "-LRB-", "?", "-RRB-", "tn", "?", "1", "?", "oe1", "t1", "Tn", "?", "1", "-LRB-", "?", "-RRB-", "tn", "?", "1", ";", "Put", "-LRB-", "3:4", "-RRB-", "hn", "-LRB-", "?", "-RRB-", "=", "C1", "-LRB-", "?", "-RRB-", "T", "n", "-LRB-", "?", "-RRB-", "tn", "?", "oe1", "t1", "Tn", "-LRB-", "?", "-RRB-", "tn", ";", "n", ">", "=", ";", "then", "-LRB-", "3:5", "-RRB-", "oenhn", "-LRB-", "?", "-RRB-", "=", "hn", "?", "1", "-LRB-", "?", "-RRB-", ";", "n", ">", "=", "1", ":", "Note", "that", "h0", "-LRB-", "?", "-RRB-", "=", "?", "oe1", "t1t0", "<", ">", "and", "-LRB-", "3.5", "-RRB-", "implies", "hn", "-LRB-", "?", "-RRB-", "<", ">", "for", "all", "n", ">", "=", "0", ".", "Now", "suppose", "that", "B", "has", "two", "different", "zeros", "?", "1", "and", "?", "2", "with", "'", "-LRB-", "?", "1", "-RRB-", "<", ">", "and", "'", "-LRB-", "?", "2", "-RRB-", "<", ">", "0", ".", "Then", "relation", "-LRB-", "3.5", "-RRB-", "holds", "with", "?", "=", "?", "1", "as", "well", "as", "with", "?", "=", "?", "2", ".", "We", "will", "show", "that", "this", "leads", "to", "a", "contradiction", ",", "so", "if", "B", "has", "two", "different", "zeros", ",", "then", "at", "least", "one", "of", "them", "is", "also", "a", "zero", "of", "'", ".", "It", "follows", "from", "-LRB-", "3.5", "-RRB-", "with", "?", "=", "?", "1", "and", "?", "=", "?", "2", "that", "hn", "-LRB-", "?", "2", "-RRB-", "hn", "-LRB-", "?", "1", "-RRB-", "=", "hn", "?", "1", "-LRB-", "?", "2", "-RRB-", "hn", "?", "1", "-LRB-", "?", "1", "-RRB-", ";", "n", ">", "=", "1", ";", "and", "by", "repeated", "application", "hn", "-LRB-", "?", "2", "-RRB-", "hn", "-LRB-", "?", "1", "-RRB-", "=", "h0", "-LRB-", "?", "2", "-RRB-", "h0", "-LRB-", "?", "1", "-RRB-", "=", "1", "or", "hn", "-LRB-", "?", "1", "-RRB-", "=", "hn", "-LRB-", "?", "2", "-RRB-", "for", "all", "n", ">", "=", ":", "But", "now", "-LRB-", "3.4", "-RRB-", "gives", "-LRB-", "3:6", "-RRB-", "C1", "-LRB-", "?", "1", "-RRB-", "T", "n", "-LRB-", "?", "1", "-RRB-", "?", "oe1", "t1", "Tn", "-LRB-", "?", "1", "-RRB-", "=", "C1", "-LRB-", "?", "2", "-RRB-", "T", "n", "-LRB-", "?", "2", "-RRB-", "?", "oe1", "t1", "Tn", "-LRB-", "?", "2", "-RRB-", "for", "all", "n", ">", "=", ":", "We", "will", "show", "that", ",", "since", "?", "1", "<", ">", "?", "2", ",", "such", "a", "relation", "can", "not", "hold", "for", "all", "n", ">", "=", "with", "gives", "the", "desired", "contradiction", ".", "Suppose", "that", "there", "exist", "constants", ",", "different", "from", "zero", ",", "ff", ";", ";", ";", "ffi", "such", "that", "-LRB-", "3:7", "-RRB-", "ffT", "n", "-LRB-", "?", "1", "-RRB-", "+", "Tn", "-LRB-", "?", "1", "-RRB-", "=", "T", "n", "-LRB-", "?", "2", "-RRB-", "+", "ffiTn", "-LRB-", "?", "2", "-RRB-", "for", "all", "n", ">", "=", ":", "Let", "fTng", "satisfy", "the", "recurrence", "relation", "Tn", "+1", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "n", "-RRB-", "Tn", "-LRB-", "x", "-RRB-", "?", "nTn", "?", "1", "-LRB-", "x", "-RRB-", ";", "n", ">", "=", "1", ":", "From", "the", "recurrence", "relation", "and", "-LRB-", "3.7", "-RRB-", "with", "n", "+1", ";", "n", "and", "n", "?", "1", "we", "obtain", "that", "also", "should", "hold", "-LRB-", "3:8", "-RRB-", "ff", "?", "1T", "n", "-LRB-", "?", "1", "-RRB-", "+", "-LRB-", "+", "?", "1", "-RRB-", "Tn", "-LRB-", "?", "1", "-RRB-", "=", "?", "2T", "n", "-LRB-", "?", "2", "-RRB-", "+", "-LRB-", "+", "ffi", "?", "2", "-RRB-", "Tn", "-LRB-", "?", "2", "-RRB-", ";", "n", ">", "=", "1", ":", "Starting", "with", "=", "C1", "-LRB-", "?", "1", "-RRB-", "<", ">", ";", "=", "C1", "-LRB-", "?", "2", "-RRB-", "<", ">", ";", "=", "ffi", "=", "?", "oe1t1", "<", ">", "and", "making", "the", "step", "from", "-LRB-", "3.7", "-RRB-", "to", "-LRB-", "3.8", "-RRB-", "three", "times", "we", "obtain", "a", "system", "of", "4", "equations", "which", "should", "be", "satisfied", "for", "Tn", "for", "all", "n", ">", "=", "3", ".", "The", "determinant", "of", "the", "system", ",", "however", ",", "is", "C1", "-LRB-", "?", "1", "-RRB-", "2C1", "-LRB-", "?", "2", "-RRB-", "2", "-LRB-", "?", "2", "?", "?", "1", "-RRB-", "4", "<", ">", ":", "Hence", "-LRB-", "3.6", "-RRB-", "can", "not", "hold", "and", "thus", "B", "and", "'", "must", "have", "a", "common", "zero", ".", "?", "Theorem", "2", ".", "Let", "?", "denote", "a", "double", "zero", "of", "B", "in", "-LRB-", "2.9", "-RRB-", ",", "then", "'", "-LRB-", "?", "-RRB-", "=", "0", ".", "Proof", "From", "-LRB-", "2.9", "-RRB-", "we", "obtain", "=", "B0", "-LRB-", "?", "-RRB-", "=", "C1", "-LRB-", "?", "-RRB-", "C", "002", "-LRB-", "?", "-RRB-", "=", "2", "oe2", "t2", "C1", "-LRB-", "?", "-RRB-", ":", "Hence", "C1", "-LRB-", "?", "-RRB-", "=", "0", ".", "Then", "applying", "again", "-LRB-", "2.9", "-RRB-", "we", "have", "=", "B", "-LRB-", "?", "-RRB-", "=", "?", "C", "1", "-LRB-", "?", "-RRB-", "C2", "-LRB-", "?", "-RRB-", "=", "?", "oe1", "t1", "C2", "-LRB-", "?", "-RRB-", ";", "so", "C2", "-LRB-", "?", "-RRB-", "=", ":", "Then", "-LRB-", "2.7", "-RRB-", "implies", "'", "-LRB-", "?", "-RRB-", "=", ":", "?", "We", "have", "seen", "in", "theorem", "1", "and", "theorem", "2", "that", "'", "and", "B", "in", "the", "relation", "`", "u0", "=", "Bu1", "from", "proposition", "2", "have", "at", "least", "one", "zero", "in", "common", ".", "So", "if", "fu0", ";", "u1g", "is", "a", "coherent", "pair", "a", "relation", "`", "u0", "=", "Bu1", "holds", "with", "polynomials", "'", "and", "B", "with", "degree", "'", "<", "=", "2", ",", "degree", "B", "<", "=", "1", ".", "The", "next", "theorem", "gives", "a", "more", "precise", "description", "of", "the", "situation", ".", "Theorem", "3", ".", "Let", "fu0", ";", "u1g", "denote", "a", "coherent", "pair", ".", "Let", "?", "denote", "a", "common", "zero", "of", "'", "and", "B.", "Put", "'", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "?", "-RRB-", "~", "'", "-LRB-", "x", "-RRB-", ".", "Then", "there", "are", "two", "possibilities", ":", "-LRB-", "i", "-RRB-", "u1", "is", "classical", ",", "D", "-LRB-", "~", "`", "u1", "-RRB-", "=", "1u1", "for", "some", "polynomial", "1", "of", "degree", "1", "<", "=", "1", "and", "~", "`", "u0", "=", "aeu1", ",", "with", "degree", "ae", "=", "1", ".", "-LRB-", "ii", "-RRB-", "~", "u1", "=", "-LRB-", "x", "?", "?", "-RRB-", "u1", "is", "classical", ",", "D", "-LRB-", "~", "'", "~", "u1", "-RRB-", "=", "~", "~", "u1", "for", "some", "polynomial", "~", "with", "degree", "~", "<", "=", "1", "and", "~", "`", "u0", "=", "oe1oe2", "t1t2", "~", "u1", ";", "u0", "is", "classical", "with", "D", "-LRB-", "~", "`", "u0", "-RRB-", "=", "-LRB-", "~", "?", "~", "'", "0", "-RRB-", "u0", ":", "Proof", "Put", "B", "-LRB-", "?", "-RRB-", "=", "'", "-LRB-", "?", "-RRB-", "=", "in", "-LRB-", "3.1", "-RRB-", "then", "Cn", "-LRB-", "?", "-RRB-", "ss", "-LRB-", "?", "-RRB-", "=", "for", "n", ">", "=", "1", ".", "Now", "we", "have", "to", "distinguish", "two", "possibilities", ":", "ss", "-LRB-", "?", "-RRB-", "=", "and", "ss", "-LRB-", "?", "-RRB-", "<", ">", ":", "-LRB-", "i", "-RRB-", "Suppose", "ss", "-LRB-", "?", "-RRB-", "=", "0", ".", "Write", "ss", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "?", "-RRB-", "~", "ss", "-LRB-", "x", "-RRB-", ".", "Then", "-LRB-", "2.11", "-RRB-", "reduces", "to", "~", "`", "Du1", "=", "~", "ssu1", "and", "D", "-LRB-", "~", "`", "u1", "-RRB-", "=", "~", "'", "0u1", "+", "~", "`", "Du1", "=", "-LRB-", "~", "'", "0", "+", "~", "ss", "-RRB-", "u1", "=", "1u1", ";", "with", "1", "=", "~", "'", "0", "+", "~", "ss", "and", "degree", "1", "<", "=", "1", ".", "Hence", "u1", "is", "classical", ".", "Write", "B", "=", "-LRB-", "x", "?", "?", "-RRB-", "ae", ",", "then", "degree", "ae", "=", "1", "and", "`", "u0", "=", "Bu1", "reduces", "to", "~", "`", "u0", "=", "aeu1", ".", "-LRB-", "ii", "-RRB-", "Suppose", "ss", "-LRB-", "?", "-RRB-", "<", ">", "0", ".", "Then", "Cn", "-LRB-", "?", "-RRB-", "=", "for", "all", "n", ">", "=", "1", ".", "It", "follows", "from", "-LRB-", "2.8", "-RRB-", "that", "-LRB-", "?", "-RRB-", "=", "0", ".", "Write", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "?", "-RRB-", "~", "-LRB-", "x", "-RRB-", ",", "then", "degree", "~", "<", "=", "1", "and", "D", "-LRB-", "`", "u1", "-RRB-", "=", "u1", "is", "equal", "to", "D", "-LRB-", "~", "'", "~", "u1", "-RRB-", "=", "~", "~", "u1", ",", "i.e.", "~", "u1", "is", "classical", ".", "Since", "C1", "-LRB-", "?", "-RRB-", "=", "C2", "-LRB-", "?", "-RRB-", "=", "it", "follows", "from", "-LRB-", "2.9", "-RRB-", "that", "B", "-LRB-", "?", "-RRB-", "=", "B0", "-LRB-", "?", "-RRB-", "=", "0", ",", "hence", "B", "-LRB-", "x", "-RRB-", "=", "oe1oe2", "t1t2", "-LRB-", "x", "?", "?", "-RRB-", "2", ":", "Then", "`", "u0", "=", "Bu1", "reduces", "to", "~", "`", "u0", "=", "oe1oe2", "t1t2", "~", "u1", ".", "Finally", "u0", "is", "classical", ",", "since", "D", "-LRB-", "~", "`", "u0", "-RRB-", "=", "oe1oe2", "t1t2", "D", "~", "u1", "=", "oe1oe2", "t1t2", "-LRB-", "~", "?", "~", "'", "0", "-RRB-", "~", "'", "~", "u1", "=", "-LRB-", "~", "?", "~", "'", "0", "-RRB-", "u0", ":", "?", "Remark", "The", "situations", "under", "-LRB-", "i", "-RRB-", "and", "-LRB-", "ii", "-RRB-", "in", "theorem", "3", "are", "not", "completely", "disjoint", ".", "It", "is", "possible", "that", "u1", "is", "classical", "and", "that", "-LRB-", "x", "?", "?", "-RRB-", "u1", "for", "some", "?", "is", "classical", "again", ".", "In", "that", "case", "both", "u0", "and", "u1", "are", "classical", ".", "For", "examples", "see", "section", "4", ".", "4", ".", "Coherent", "pairs", "of", "distribution", "functions", "A", "linear", "functional", "is", "positive-definite", "if", "and", "only", "if", "it", "can", "be", "represented", "by", "a", "distribution", "function", "?", "as", "-LRB-", "see", "-LSB-", "3", "-RSB-", ",", "Ch", "II", "-RRB-", "hu", ";", "pi", "=", "Z", "b", "a", "p", "-LRB-", "x", "-RRB-", "d", "?", "-LRB-", "x", "-RRB-", ";", "p", "2", "P", ":", "Then", "a", "coherent", "pair", "of", "positive-definite", "functionals", "fu0", ";", "u1g", "corresponds", "to", "a", "coherent", "pair", "of", "distribution", "functions", "fd", "?", "0", ";", "d", "?", "1g", ".", "In", "this", "section", "we", "mention", "all", "coherent", "pairs", "of", "distribution", "functions", "which", "follow", "from", "theorem", "3", ".", "The", "classical", "polynomials", "in", "this", "section", "are", "given", "in", "their", "usual", "notation", "-LRB-", "see", "e.g.", "Szego", "-LSB-", "10", "-RSB-", "-RRB-", "and", "not", "in", "their", "monic", "version", ";", "a", "linear", "change", "in", "the", "variable", "gives", "again", "a", "coherent", "pair", ".", "A.", "Laguerre", "case", ".", "The", "distribution", "function", "d", "?", "-LRB-", "x", "-RRB-", "=", "x", "e?xdx", "with", ">", "?", "1", "on", "-LRB-", "0", ";", "1", "-RRB-", "defines", "a", "positive-definite", "classical", "functional", "with", "'", "-LRB-", "x", "-RRB-", "=", "x.", "Theorem", "3", "-LRB-", "i", "-RRB-", "gives", "the", "coherent", "pair", "d", "?", "0", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x", "?", "?", "-RRB-", "x", "?", "1e", "?", "xdx", ";", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "x", "e?xdx", ":", "In", "order", "to", "ensure", "that", "?", "0", "and", "?", "1", "are", "distribution", "functions", "on", "-LSB-", "0", ";", "1", "-RRB-", "we", "have", "to", "take", "?", "<", ";", ">", "or", "?", "=", ";", ">", "?", "1", ".", "It", "is", "easy", "to", "check", "that", "this", "is", "indeed", "a", "coherent", "pair", "-LRB-", "see", "-LSB-", "6", "-RSB-", "-RRB-", ".", "By", "theorem", "3", "-LRB-", "ii", "-RRB-", "we", "have", "the", "coherent", "pair", "d", "?", "0", "-LRB-", "x", "-RRB-", "=", "x", "e?xdx", ";", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "1", "x", "?", "?", "x", "+1", "e?xdx", "+", "M", "ffi", "-LRB-", "?", "-RRB-", ";", "where", "we", "have", "to", "take", ">", "?", "1", ";", "?", "<", "=", ";", "M", ">", "=", "0", ".", "The", "spectrum", "of", "?", "0", "is", "-LSB-", "0", ";", "1", "-RRB-", ";", "d", "?", "1", "has", "to", "be", "interpretted", "as", "Z", "1", "?", "1", "f", "-LRB-", "x", "-RRB-", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "Z", "1", "f", "-LRB-", "x", "-RRB-", "1", "x", "?", "?", "x", "+1", "e?xdx", "+", "Mf", "-LRB-", "?", "-RRB-", ";", "so", "the", "spectrum", "of", "?", "1", "is", "-LSB-", "0", ";", "1", "-RRB-", "-LSB-", "f?g", ".", "As", "before", "it", "is", "easy", "to", "check", "that", "this", "is", "a", "coherent", "pair", "-LRB-", "see", "-LSB-", "6", "-RSB-", "-RRB-", ".", "Observe", "that", "if", "?", "=", "M", "=", "in", "the", "examples", "above", ",", "then", "we", "obtain", "the", "coherent", "pair", "d", "?", "0", "-LRB-", "x", "-RRB-", "=", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "x", "e?xdx", ";", ">", "?", "1", ",", "which", "is", "an", "example", "of", "theorem", "3", "-LRB-", "i", "-RRB-", "as", "well", "as", "of", "theorem", "3", "-LRB-", "ii", "-RRB-", ".", "It", "corresponds", "to", "the", "well-known", "relation", "L", "-LRB-", "-RRB-", "n", "-LRB-", "x", "-RRB-", "=", "?", "d", "dxL", "-LRB-", "-RRB-", "n", "+1", "-LRB-", "x", "-RRB-", "+", "d", "dxL", "-LRB-", "-RRB-", "n", "-LRB-", "x", "-RRB-", ":", "B.", "Jacobi", "case", ".", "The", "distribution", "function", "d", "?", "-LRB-", "x", "-RRB-", "=", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "dx", "with", ">", "?", "1", ";", ">", "?", "1", "on", "-LRB-", "?", "1", ";", "1", "-RRB-", "represents", "a", "positive-definite", "classical", "functional", "with", "'", "-LRB-", "x", "-RRB-", "=", "1", "?", "x2", ".", "Theorem", "3", "-LRB-", "i", "-RRB-", "gives", "the", "coherent", "pair", "of", "distribution", "functions", "on", "-LSB-", "?", "1", ";", "1", "-RSB-", "d", "?", "0", "-LRB-", "x", "-RRB-", "=", "jx", "?", "?", "j", "-LRB-", "1", "?", "x", "-RRB-", "?", "1", "-LRB-", "1", "+", "x", "-RRB-", "?", "1dx", ";", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "dx", ";", "with", "j?j", ">", "1", ";", ">", ";", ">", "0", ",", "or", "?", "=", "1", ";", ">", "?", "1", ";", ">", "0", ",", "or", "?", "=", "?", "1", ";", ">", ";", ">", "?", "1", ".", "On", "the", "other", "hand", "theorem", "3", "-LRB-", "ii", "-RRB-", "gives", "the", "coherent", "pair", "d", "?", "0", "-LRB-", "x", "-RRB-", "=", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "dx", ";", "d", "?", "1", "-LRB-", "x", "-RRB-", "=", "1", "jx", "?", "?", "j", "-LRB-", "1", "?", "x", "-RRB-", "+1", "-LRB-", "1", "+", "x", "-RRB-", "+1", "dx", "+", "M", "ffi", "-LRB-", "?", "-RRB-", ";", "with", "j?j", ">", "=", "1", ";", "M", ">", "=", ";", ">", "?", "1", ";", ">", "?", "1", ",", "?", "0", "has", "-LSB-", "?", "1", ";", "1", "-RSB-", "as", "its", "spectrum", ",", "the", "spectrum", "of", "?", "1", "is", "-LSB-", "?", "1", ";", "1", "-RSB-", "-LSB-", "f?g", ".", "Again", "it", "is", "easy", "to", "check", "that", "these", "pairs", "are", "indeed", "coherent", "pairs", ".", "Observe", "that", "the", "pairs", "fd", "?", "0", ";", "d", "?", "1g", "=", "f", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "dx", ";", "-LRB-", "1", "?", "x", "-RRB-", "+1", "-LRB-", "1", "+", "x", "-RRB-", "dxg", "and", "f", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "dx", ";", "-LRB-", "1", "?", "x", "-RRB-", "-LRB-", "1", "+", "x", "-RRB-", "+1", "dxg", "with", ">", "?", "1", ";", ">", "?", "1", "occur", "as", "special", "cases", "of", "both", "theorem", "3", "-LRB-", "i", "-RRB-", "and", "theorem", "3", "-LRB-", "ii", "-RRB-", ".", "They", "correspond", "to", "the", "relations", "-LRB-", "see", "e.g.", "-LSB-", "1", "-RSB-", ",", "p.", "782", "-RRB-", "-LRB-", "2n", "+", "+", "+", "2", "-RRB-", "P", "+1", ";", "fi", "n", "-LRB-", "x", "-RRB-", "=", "2", "d", "dxP", "ff", ";", "fi", "n", "+1", "-LRB-", "x", "-RRB-", "+", "2", "-LRB-", "n", "+", "+", "1", "-RRB-", "n", "+", "+", "+", "1", "d", "dxP", "ff", ";", "fi", "n", "-LRB-", "x", "-RRB-", "and", "-LRB-", "2n", "+", "+", "+", "2", "-RRB-", "P", "ff", ";", "fi", "+1", "n", "-LRB-", "x", "-RRB-", "=", "2", "d", "dxP", "ff", ";", "fi", "n", "+1", "-LRB-", "x", "-RRB-", "?", "2", "-LRB-", "n", "+", "+", "1", "-RRB-", "n", "+", "+", "+", "1", "d", "dxP", "ff", ";", "fi", "n", "-LRB-", "x", "-RRB-", ":", "C.", "Hermite", "case", ".", "In", "the", "Hermite", "case", "the", "distribution", "function", "is", "d", "?", "-LRB-", "x", "-RRB-", "=", "e?x2", "on", "-LRB-", "?", "1", ";", "1", "-RRB-", "with", "'", "-LRB-", "x", "-RRB-", "?", "1", ".", "Theorem", "3", "implies", "that", "there", "can", "not", "exist", "coherent", "pairs", ".", "5", ".", "Symmetrically", "coherent", "pairs", "In", "this", "section", "u0", "and", "u1", "denote", "symmetric", "functionals", "and", "fPng", "and", "fTng", "the", "corresponding", "MOPS", ".", "Since", "in", "this", "situation", "-LRB-", "2.1", "-RRB-", "only", "can", "hold", "with", "oen", "=", "for", "all", "n", ">", "=", "1", ",", "Iserles", "et", "al", "-LSB-", "4", "-RSB-", "introduced", "the", "concept", "of", "symmetrically", "coherent", "pair", ".", "The", "pair", "fu0", ";", "u1g", "of", "symmetric", "functionals", "is", "called", "a", "symmetrically", "coherent", "pair", "if", "there", "exist", "non-zero", "constants", "oen", "such", "that", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "?", "1", "P", "n", "?", "1", "n", "?", "1", "for", "n", ">", "=", "2", ":", "In", "this", "section", "we", "assume", "fu0", ";", "u1g", "to", "be", "a", "symmetrically", "coherent", "pair", "and", "we", "will", "prove", "that", "again", "at", "least", "one", "of", "the", "functionals", "has", "to", "be", "classical", ".", "Therefore", "we", "will", "use", "the", "polynomials", "Cn", "=", "oen", "?", "1", "Tn", "tn", "?", "Tn", "?", "2", "tn", "?", "2", ";", "n", ">", "=", "2", ":", "Proposition", "1", "is", "replaced", "by", "proposition", "3", "which", "can", "be", "proved", "in", "the", "same", "way", ".", "Proposition", "3", ".", "Let", "fu0", ";", "u1g", "denote", "a", "symmetrically", "coherent", "pair", ",", "then", "nPn", "pn", "u0", "=", "D", "-LRB-", "Cn", "+1", "u1", "-RRB-", "for", "n", ">", "=", "1", ":", "Observe", "that", "in", "proposition", "3", "the", "index", "of", "Cn", "+1", "is", "one", "greater", "than", "that", "of", "Cn", "in", "proposition", "1", ";", "the", "same", "should", "be", "done", "in", "the", "corollaries", "of", "proposition", "1", ".", "Proposition", "4", ".", "Let", "fu0", ";", "u1g", "denote", "a", "symmetrically", "coherent", "pair", ",", "then", "D", "-LRB-", "`", "u1", "-RRB-", "=", "u1", "and", "`", "u0", "=", "Bu1", "with", "-LRB-", "5:1", "-RRB-", "'", "=", "2P2", "p2", "C2", "?", "P1", "p1", "C3", ";", "-LRB-", "5:2", "-RRB-", "=", "2P", "2", "p2", "C2", "?", "P", "1", "p1", "C3", ";", "-LRB-", "5:3", "-RRB-", "B", "=", "C2C", "3", "?", "C", "2C3", "where", "degree", "'", "<", "=", "4", ",", "degree", "<", "=", "3", ",", "degree", "B", "=", "4", ".", "This", "result", "is", "also", "given", "in", "-LSB-", "7", "-RSB-", ".", "We", "will", "also", "use", "ss", "=", "?", "'", "0", "+", "=", "?", "2P2", "p2", "C", "2", "+", "P1", "p1", "C", "3", ":", "Then", "-LRB-", "5:4", "-RRB-", "`", "Du1", "=", "ssu1", "and", "ss", "is", "an", "odd", "polynomial", "of", "degree", "<", "=", "3", ";", "we", "often", "write", "ss", "-LRB-", "x", "-RRB-", "=", "xss2", "-LRB-", "x", "-RRB-", ",", "so", "that", "ss2", "is", "an", "even", "polynomial", "of", "degree", "<", "=", "2", ".", "The", "basic", "relation", "for", "our", "investigations", ",", "compare", "-LRB-", "3.1", "-RRB-", ",", "is", "-LRB-", "5:5", "-RRB-", "nPn", "pn", "B", "=", "C", "n", "+1", "'", "+", "Cn", "+1", "ss", ";", "n", ">", "=", "1", ":", "All", "above", "mentioned", "polynomials", "are", "either", "even", "or", "odd", ".", "Then", "all", "zeros", ",", "apart", "from", "x", "=", "in", "the", "odd", "polynomials", ",", "appear", "in", "pairs", "f", "??", ";", "?", "g.", "First", "we", "prove", "that", "the", "even", "polynomials", "B", "and", "'", "have", "at", "least", "one", "pair", "of", "zeros", "in", "common", ".", "Theorem", "4", ".", "Suppose", "that", "B", "in", "-LRB-", "5.3", "-RRB-", "has", "two", "different", "pairs", "of", "zeros", "f", "??", "1", ";", "?", "1g", "and", "f", "??", "2", ";", "?", "2g", ",", "then", "at", "least", "one", "of", "them", "is", "also", "a", "pair", "of", "zeros", "of", "'", ".", "Proof", "The", "proof", "follows", "the", "lines", "of", "the", "proof", "of", "theorem", "1", ".", "It", "follows", "from", "-LRB-", "5.5", "-RRB-", ",", "recall", "ss", "-LRB-", "x", "-RRB-", "=", "xss2", "-LRB-", "x", "-RRB-", ",", "-LRB-", "5:6", "-RRB-", "-LRB-", "2n", "+", "1", "-RRB-", "P2n", "+1", "xp2n", "+1", "B", "=", "C", "2n", "+2", "x", "'", "+", "C2n", "+2", "ss2", ";", "n", ">", "=", ":", "Let", "?", "denote", "a", "zero", "of", "B", "with", "'", "-LRB-", "?", "-RRB-", "<", ">", "0", ".", "Then", "-LRB-", "5:7", "-RRB-", "C", "2n", "+2", "-LRB-", "?", "-RRB-", "?", "'", "-LRB-", "?", "-RRB-", "+", "C2n", "+2", "-LRB-", "?", "-RRB-", "ss2", "-LRB-", "?", "-RRB-", "=", ";", "n", ">", "=", ":", "Here", "C", "2n", "+2", "is", "an", "odd", "polynomial", "and", "if", "?", "=", "0", ",", "then", "one", "has", "to", "read", "C", "2n", "+2", "-LRB-", "?", "-RRB-", "?", "=", "lim", "x", "!", "0", "C", "2n", "+2", "-LRB-", "x", "-RRB-", "x", ":", "For", "n", "=", "0", ",", "-LRB-", "5.7", "-RRB-", "becomes", "-LRB-", "5:8", "-RRB-", "2oe1", "t2", "'", "-LRB-", "?", "-RRB-", "+", "C2", "-LRB-", "?", "-RRB-", "ss2", "-LRB-", "?", "-RRB-", "=", ";", "also", "C2", "-LRB-", "?", "-RRB-", "<", ">", ";", "ss2", "-LRB-", "?", "-RRB-", "<", ">", "0", ".", "With", "-LRB-", "5.8", "-RRB-", "we", "can", "simplify", "-LRB-", "5.7", "-RRB-", "by", "eliminating", "'", "-LRB-", "?", "-RRB-", ".", "Put", "h2n", "-LRB-", "?", "-RRB-", "=", "C2", "-LRB-", "?", "-RRB-", "T", "2n", "-LRB-", "?", "-RRB-", "?", "t2n", "?", "2oe1", "t2", "T2n", "-LRB-", "?", "-RRB-", "t2n", ";", "n", ">", "=", ";", "then", "we", "obtain", "from", "-LRB-", "5.7", "-RRB-", ",", "compare", "the", "proof", "of", "theorem", "1", ",", "-LRB-", "5:9", "-RRB-", "oe2n", "+1", "h2n", "+2", "-LRB-", "?", "-RRB-", "=", "h2n", "-LRB-", "?", "-RRB-", ";", "n", ">", "=", ":", "Since", "h0", "-LRB-", "?", "-RRB-", "=", "?", "2oe1", "t2t0", "<", ">", "0", ",", "we", "have", "h2n", "-LRB-", "?", "-RRB-", "<", ">", "for", "all", "n", ">", "=", "0", ".", "Suppose", "that", "B", "has", "two", "zeros", "?", "1", "and", "?", "2", "with", "?", "1", "<", ">", "??", "2", ",", "such", "that", "'", "-LRB-", "?", "1", "-RRB-", "<", ">", "and", "'", "-LRB-", "?", "2", "-RRB-", "<", ">", "0", ".", "Then", "-LRB-", "5.9", "-RRB-", "should", "hold", "with", "?", "1", "as", "well", "as", "with", "?", "2", ",", "which", "should", "imply", "h2n", "-LRB-", "?", "1", "-RRB-", "=", "h2n", "-LRB-", "?", "2", "-RRB-", "for", "all", "n", ">", "=", "0", ".", "As", "in", "the", "proof", "of", "theorem", "1", "this", "leads", "to", "a", "contradiction", ",", "so", "at", "least", "one", "of", "the", "zeros", "?", "1", ";", "?", "2", "is", "also", "a", "zero", "of", "'", ".", "?", "Theorem", "5", ".", "Suppose", "that", "B", "in", "-LRB-", "5.3", "-RRB-", "is", "of", "the", "form", "B", "=", "oe1oe2", "t2t3", "-LRB-", "x2", "??", "2", "-RRB-", "2", ",", "then", "'", "-LRB-", "?", "-RRB-", "=", "0", ".", "Proof", "-LRB-", "i", "-RRB-", "Let", "?", "=", "0", ",", "i.e.", "B", "=", "oe1oe2", "t2t3", "x4", ".", "Then", "=", "B", "-LRB-", "0", "-RRB-", "=", "C2", "-LRB-", "0", "-RRB-", "C", "3", "-LRB-", "0", "-RRB-", "and", "=", "B00", "-LRB-", "0", "-RRB-", "=", "?", "C", "002", "-LRB-", "0", "-RRB-", "C", "3", "-LRB-", "0", "-RRB-", "+", "C2", "-LRB-", "0", "-RRB-", "C", "0003", "-LRB-", "0", "-RRB-", "give", "C2", "-LRB-", "0", "-RRB-", "=", "0", ".", "Now", "-LRB-", "5.1", "-RRB-", "gives", "'", "-LRB-", "0", "-RRB-", "=", "0", ".", "-LRB-", "ii", "-RRB-", "Let", "?", "<", ">", "0", ".", "Consider", "the", "basic", "relation", "-LRB-", "5.5", "-RRB-", "with", "n", "=", "2", "and", "n", "=", "4", "and", "eliminate", "the", "polynomial", "ss", ",", "then", "one", "obtains", "-LRB-", "4P4", "p4", "C3", "?", "2P2", "p2", "C5", "-RRB-", "B", "=", "'", "-LRB-", "C3C", "5", "?", "C5C", "3", "-RRB-", ":", "Put", "C3", "-LRB-", "x", "-RRB-", "=", "xE1", "-LRB-", "x2", "-RRB-", ";", "C5", "-LRB-", "x", "-RRB-", "=", "xE2", "-LRB-", "x2", "-RRB-", "where", "E1", "and", "E2", "are", "polynomials", "of", "degree", "1", "and", "2", "respectively", ",", "then", "-LRB-", "5:10", "-RRB-", "-LRB-", "2P4", "-LRB-", "x", "-RRB-", "p4", "E1", "-LRB-", "x2", "-RRB-", "?", "P2", "-LRB-", "x", "-RRB-", "p2", "E2", "-LRB-", "x2", "-RRB-", "-RRB-", "B", "-LRB-", "x", "-RRB-", "=", "x2", "'", "-LRB-", "x", "-RRB-", "-LRB-", "E1", "-LRB-", "x2", "-RRB-", "E02", "-LRB-", "x2", "-RRB-", "?", "E2", "-LRB-", "x2", "-RRB-", "E01", "-LRB-", "x2", "-RRB-", "-RRB-", ":", "Suppose", "'", "-LRB-", "?", "-RRB-", "<", ">", "0", ".", "We", "will", "show", "that", "this", "leads", "to", "a", "contradiction", ".", "From", "'", "-LRB-", "?", "-RRB-", "<", ">", "we", "conclude", "that", "f", "??", ";", "?", "g", "is", "not", "a", "pair", "of", "zeros", "of", "'", ",", "hence", "B", "-LRB-", "x", "-RRB-", "=", "const", "-LRB-", "E1", "-LRB-", "x2", "-RRB-", "E02", "-LRB-", "x2", "-RRB-", "?", "E2", "-LRB-", "x2", "-RRB-", "E01", "-LRB-", "x2", "-RRB-", "-RRB-", "or", ",", "with", "x2", "=", "t", ",", "-LRB-", "t", "?", "?", "2", "-RRB-", "2", "=", "const", "-LRB-", "E1", "-LRB-", "t", "-RRB-", "E02", "-LRB-", "t", "-RRB-", "?", "E2", "-LRB-", "t", "-RRB-", "E01", "-LRB-", "t", "-RRB-", "-RRB-", ":", "From", "the", "last", "relation", "it", "is", "easy", "to", "derive", ",", "compare", "the", "proof", "of", "theorem", "2", ",", "that", "E1", "-LRB-", "?", "2", "-RRB-", "=", "E2", "-LRB-", "?", "2", "-RRB-", "=", "0", ".", "Divide", "-LRB-", "5.10", "-RRB-", "by", "B", "-LRB-", "x", "-RRB-", "and", "substitute", "x", "=", "?", ",", "then", "it", "follows", "'", "-LRB-", "?", "-RRB-", "=", "0", ",", "which", "is", "a", "contradiction", ".", "Hence", "'", "-LRB-", "?", "-RRB-", "=", "0", ".", "?", "From", "theorem", "4", "and", "theorem", "5", "it", "follows", "that", "'", "and", "B", "in", "the", "relation", "`", "u0", "=", "Bu1", ",", "in", "proposition", "4", "have", "at", "least", "one", "pair", "of", "zeros", "in", "common", ".", "We", "will", "now", "prove", "that", "at", "least", "one", "of", "the", "functionals", "is", "a", "classical", "one", ".", "First", "we", "derive", "a", "lemma", "to", "discuss", "a", "special", "situation", ".", "Lemma", "Suppose", "'", "-LRB-", "0", "-RRB-", "=", "B", "-LRB-", "0", "-RRB-", "=", "and", "ss2", "-LRB-", "0", "-RRB-", "<", ">", "0", ",", "then", "B", "=", "oe1oe2", "t2t3", "x4", ".", "Proof", "It", "follows", "from", "-LRB-", "5.6", "-RRB-", "that", "C2n", "=", "for", "all", "n", ">", "=", "1", ".", "Take", "the", "basic", "relation", "-LRB-", "5.5", "-RRB-", "for", "n", "=", "1", "and", "n", "=", "3", "and", "eliminate", "the", "polynomial", "ss", ",", "then", "one", "obtains", "-LRB-", "5:11", "-RRB-", "-LRB-", "3P3", "p3", "C2", "?", "P1", "p1", "C4", "-RRB-", "B", "=", "-LRB-", "C2C", "4", "?", "C4C", "2", "-RRB-", "'", ":", "With", "C2", "-LRB-", "0", "-RRB-", "=", "C4", "-LRB-", "0", "-RRB-", "=", "0", ",", "it", "follows", "C2C", "4", "?", "C4C", "2", "=", "2oe1oe3", "t2t4", "x5", ":", "Since", "'", "-LRB-", "0", "-RRB-", "=", "B", "-LRB-", "0", "-RRB-", "=", "0", ",", "we", "can", "write", "B", "=", "x2B2", ",", "'", "=", "x2", "'", "2", ",", "where", "B2", "and", "'", "2", "are", "even", "polynomials", "of", "degree", "2", "respectively", "at", "most", "2", ".", "Then", "it", "follows", "from", "-LRB-", "5.11", "-RRB-", "that", "B2", "divides", "x5", "'", "2", ".", "There", "are", "two", "possibilities", ":", "i", "-RRB-", "B2", "=", "constx2", "or", "ii", "-RRB-", "B2", "=", "const", "'", "2", ".", "We", "will", "prove", "that", "the", "second", "case", "can", "not", "occur", ",", "which", "will", "prove", "the", "theorem", ".", "Relation", "-LRB-", "5.6", "-RRB-", "with", "n", "=", "reads", "1", "p1", "B", "=", "2", "oe1", "t2", "'", "+", "C2ss2", ":", "Since", "C2", "-LRB-", "0", "-RRB-", "=", "0", ",", "this", "reduces", "to", "1", "p1", "B2", "=", "2", "oe1", "t2", "'", "2", "+", "oe1", "t2", "ss2", ":", "Now", "suppose", "B2", "=", "const", "'", "2", ",", "then", "ss2", "=", "ff", "'", "2", "for", "some", "constant", ".", "But", "then", "relation", "-LRB-", "5.4", "-RRB-", ",", "`", "Du1", "=", "ssu1", ",", "reduces", "to", "xDu1", "=", "ffu1", ".", "When", "we", "apply", "this", "relation", "on", "x2n", "we", "conclude", "that", "all", "moments", "<", "u1", ";", "x2n", ">", "are", "zero", ",", "with", "exception", "of", "at", "most", "one", "moment", "and", "u1", "is", "not", "quasi-definite", ".", "?", "Now", "we", "can", "prove", "the", "main", "result", "of", "this", "section", ",", "which", "is", "similar", "to", "theorem", "3", "for", "coherent", "pairs", ".", "Theorem", "6", "Let", "fu0", ";", "u1g", "denote", "a", "symmetrically", "coherent", "pair", ".", "Let", "f", "??", ";", "?", "g", "denote", "a", "common", "pair", "of", "zeros", "of", "'", "and", "B.", "Put", "'", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x2", "?", "?", "2", "-RRB-", "~", "'", "-LRB-", "x", "-RRB-", ".", "Then", "there", "are", "two", "possibilities", ":", "-LRB-", "i", "-RRB-", "u1", "is", "classical", ",", "D", "-LRB-", "~", "`", "u1", "-RRB-", "=", "1u1", "for", "some", "odd", "polynomial", "1", "of", "degree", "1", "=", "1", "and", "~", "`", "u0", "=", "aeu1", ",", "where", "ae", "is", "an", "even", "polynomial", "with", "degree", "ae", "=", "2", ".", "-LRB-", "ii", "-RRB-", "~", "u1", "=", "-LRB-", "x2", "?", "?", "2", "-RRB-", "u1", "is", "classical", ",", "D", "-LRB-", "~", "'", "~", "u1", "-RRB-", "=", "~", "~", "u1", "for", "some", "odd", "polynomial", "~", "with", "degree", "~", "=", "1", "and", "~", "`", "u0", "=", "oe1oe2", "t2t3", "~", "u1", ";", "u0", "is", "classical", "with", "D", "-LRB-", "~", "`", "u0", "-RRB-", "=", "-LRB-", "~", "?", "~", "'", "0", "-RRB-", "u0", ".", "Proof", "Put", "B", "-LRB-", "?", "-RRB-", "=", "'", "-LRB-", "?", "-RRB-", "=", "in", "-LRB-", "5.5", "-RRB-", ",", "then", "Cn", "+1", "-LRB-", "?", "-RRB-", "?", "ss2", "-LRB-", "?", "-RRB-", "=", "for", "n", ">", "=", "1", ".", "Now", "we", "have", "to", "distinguish", "three", "possibilities", ":", "a", "-RRB-", "ss2", "-LRB-", "?", "-RRB-", "=", "0", ";", "b1", "-RRB-", "ss2", "-LRB-", "?", "-RRB-", "<", ">", ";", "?", "<", ">", "0", ";", "b2", "-RRB-", "ss2", "-LRB-", "0", "-RRB-", "<", ">", ";", "?", "=", "0", ".", "a", "Suppose", "ss2", "-LRB-", "?", "-RRB-", "=", "0", ",", "then", "ss2", "-LRB-", "x", "-RRB-", "=", "const", "-LRB-", "x2", "?", "?", "2", "-RRB-", ".", "Write", "ss", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x2", "?", "?", "2", "-RRB-", "~", "ss", "-LRB-", "x", "-RRB-", ",", "then", "-LRB-", "5.4", "-RRB-", "reduces", "to", "~", "`", "Du1", "=", "~", "ssu1", ",", "which", "implies", ",", "as", "in", "the", "proof", "of", "theorem", "3", "-LRB-", "i", "-RRB-", ",", "that", "u1", "is", "classical", ".", "Moreover", "write", "B", "=", "-LRB-", "x2", "?", "?", "2", "-RRB-", "ae", ",", "then", "`", "u0", "=", "Bu1", ",", "reduces", "to", "~", "`", "u0", "=", "aeu1", "and", "degree", "ae", "=", "2", ".", "b1", "Suppose", "ss2", "-LRB-", "?", "-RRB-", "<", ">", ";", "?", "<", ">", "0", ",", "then", "Cn", "+1", "-LRB-", "?", "-RRB-", "=", "for", "all", "n", ">", "=", "1", ".", "It", "follows", "from", "-LRB-", "5.2", "-RRB-", "that", "-LRB-", "?", "-RRB-", "=", "0", ".", "Write", "-LRB-", "x", "-RRB-", "=", "-LRB-", "x2", "?", "?", "2", "-RRB-", "~", "-LRB-", "x", "-RRB-", ",", "then", "~", "-LRB-", "x", "-RRB-", "=", "constx", ".", "Relation", "D", "-LRB-", "`", "u1", "-RRB-", "=", "u1", "is", "equal", "to", "D", "-LRB-", "~", "'", "~", "u1", "-RRB-", "=", "~", "~", "u1", "and", "~", "u1", "is", "classical", ".", "Moreover", "since", "C2", "-LRB-", "?", "-RRB-", "=", "C3", "-LRB-", "?", "-RRB-", "=", "0", ",", "also", "B0", "-LRB-", "?", "-RRB-", "=", "C2", "-LRB-", "?", "-RRB-", "C", "003", "-LRB-", "?", "-RRB-", "?", "C", "002", "-LRB-", "?", "-RRB-", "C3", "-LRB-", "?", "-RRB-", "=", "0", ",", "thus", "B", "=", "oe1oe2", "t2t3", "-LRB-", "x2", "?", "?", "2", "-RRB-", "2", ".", "Then", "`", "u0", "=", "Bu1", "reduces", "to", "~", "`", "u0", "=", "oe1oe2", "t2t3", "~", "u1", ".", "It", "follows", "as", "in", "the", "proof", "of", "theorem", "3", "-LRB-", "ii", "-RRB-", "that", "u0", "is", "classical", ".", "b2", "Suppose", "ss2", "-LRB-", "0", "-RRB-", "<", ">", ";", "?", "=", "0", ".", "Now", "we", "can", "apply", "the", "lemma", "and", "conclude", "B", "=", "oe1oe2", "t2t3", "x4", ".", "Then", "B", "-LRB-", "0", "-RRB-", "=", "B00", "-LRB-", "0", "-RRB-", "=", "implies", "C2", "-LRB-", "0", "-RRB-", "=", "C", "3", "-LRB-", "0", "-RRB-", "=", "0", ".", "Then", "-LRB-", "5.2", "-RRB-", "gives", "-LRB-", "0", "-RRB-", "=", "0", ",", "thus", "-LRB-", "x", "-RRB-", "=", "constx3", ".", "Write", "-LRB-", "x", "-RRB-", "=", "x2", "~", "-LRB-", "x", "-RRB-", ".", "Now", "we", "can", "proceed", "as", "under", "b1", "-RRB-", "with", "?", "=", "0", ".", "?", "Theorem", "6", "enables", "us", "to", "give", "all", "symmetrically", "coherent", "pairs", "which", "can", "be", "represented", "by", "distribution", "functions", ".", "In", "theorem", "6", "the", "?", "may", "be", "complex", ",", "in", "the", "distribution", "functions", "below", "we", "always", "assume", "the", "?", "to", "be", "real", ".", "D.", "Hermite", "case", ".", "The", "classical", "distribution", "function", "is", "d", "?", "-LRB-", "x", "-RRB-", "=", "e?x2dx", "on", "-LRB-", "?", "1", ";", "1", "-RRB-", "with", "'", "-LRB-", "x", "-RRB-", "?", "1", ".", "Theorem", "6", "gives", "the", "following", "symmetrically", "coherent", "pairs", "of", "distribution", "functions", "on", "-LRB-", "?", "1", ";", "1", "-RRB-", ":", "f", "-LRB-", "x2", "+", "?", "2", "-RRB-", "e?x2dx", ";", "e?x2dxg", ";", "and", "fe?x2dx", ";", "e?x2", "x2", "+", "?", "2", "dxg", "with", "?", "<", ">", ":", "E.", "Gegenbauer", "case", ".", "The", "classical", "distribution", "function", "is", "d", "?", "-LRB-", "x", "-RRB-", "=", "-LRB-", "1", "?", "x2", "-RRB-", "dx", "on", "-LRB-", "?", "1", ";", "1", "-RRB-", "with", ">", "?", "1", "and", "'", "-LRB-", "x", "-RRB-", "=", "1", "?", "x2", ".", "Theorem", "6", "gives", "the", "following", "symmetrically", "coherent", "pairs", "of", "distribution", "functions", "f", "-LRB-", "x2", "+", "?", "2", "-RRB-", "-LRB-", "1", "?", "x2", "-RRB-", "?", "1dx", ";", "-LRB-", "1", "?", "x2", "-RRB-", "dxg", ";", ">", "0", ";", "f", "-LRB-", "?", "2", "?", "x2", "-RRB-", "-LRB-", "1", "?", "x2", "-RRB-", "?", "1dx", ";", "-LRB-", "1", "?", "x2", "-RRB-", "dxg", ";", "with", "j?j", ">", "1", ";", ">", "or", "j?j", "=", "1", ";", ">", "?", "1", ";", "f", "-LRB-", "1", "?", "x2", "-RRB-", "?", "1dx", ";", "-LRB-", "1", "?", "x2", "-RRB-", "x2", "+", "?", "2", "dxg", ";", ">", ";", "?", "<", ">", ";", "and", "f", "-LRB-", "1", "?", "x2", "-RRB-", "?", "1dx", ";", "-LRB-", "1", "?", "x2", "-RRB-", "?", "2", "?", "x2", "dx", "+", "M", "ffi", "-LRB-", "?", "-RRB-", "+", "M", "ffi", "-LRB-", "??", "-RRB-", "g", ";", "with", ">", ";", "j?j", ">", "=", "1", ";", "M", ">", "=", "0", ".", "If", "M", "<", ">", "0", ",", "the", "last", "mentioned", "distribution", "function", "has", "?", "and", "??", "in", "its", "spectrum", ";", "all", "other", "distribution", "functions", "are", "only", "defined", "on", "-LSB-", "?", "1", ";", "1", "-RSB-", ".", "Remark", "In", "-LSB-", "2", "-RSB-", "the", "concept", "of", "generalized", "coherent", "pair", "has", "been", "introduced", ".", "It", "reads", "for", "linear", "functionals", ":", "let", "u0", "and", "u1", "denote", "quasi-definite", "linear", "functionals", "and", "let", "fPng", "and", "fTng", "denote", "their", "MOPS", ",", "then", "fu0", ";", "u1g", "is", "called", "a", "generalized", "coherent", "pair", "if", "there", "exist", "constants", "oen", ";", "on", "such", "that", "Tn", "=", "P", "n", "+1", "n", "+", "1", "?", "oen", "P", "n", "n", "?", "on", "P", "n", "?", "1", "n", "?", "1", "for", "n", ">", "=", "2", ":", "Let", ">", "?", "1", ";", "?", "1", "<", ";", "?", "2", "<", ";", "M", ">", "=", ",", "then", "-LRB-", "see", "section", "4", "-RRB-", "fx", "e?xdx", ";", "1", "x", "?", "?", "2", "x", "+1", "e?xdx", "+", "M", "ffi", "-LRB-", "?", "2", "-RRB-", "g", "and", "f", "-LRB-", "x", "?", "?", "1", "-RRB-", "x", "e?xdx", ";", "x", "+1", "e?xdxg", "are", "coherent", "pairs", ".", "From", "this", "observation", "it", "easily", "follows", "that", "f", "-LRB-", "x", "?", "?", "1", "-RRB-", "x", "e?xdx", ";", "1", "x", "?", "?", "2", "x", "+1", "e?xdx", "+", "M", "ffi", "-LRB-", "?", "2", "-RRB-", "g", "is", "a", "generalized", "coherent", "pair", ".", "-LRB-", "Obviously", "the", "dx-terms", "are", "distribution", "functions", "on", "-LSB-", "0", ";", "1", "-RRB-", "and", "if", "M", "<", ">", "the", "last", "term", "gives", "a", "contribution", "from", "?", "2", "outside", "-LRB-", "0", ";", "1", "-RRB-", ".", "-RRB-", "Here", "none", "of", "the", "distribution", "functions", "is", "a", "classical", "one", ",", "so", "the", "results", "of", "this", "paper", "can", "not", "be", "generalized", "to", "generalized", "coherent", "pairs", ".", "References", "-LSB-", "1", "-RSB-", "M.", "Abramowitz", ",", "I.A.", "Stegun", ":", "Handbook", "of", "Mathematical", "Functions", ",", "Dover", "Publications", ",", "New", "York", ",", "1970", ".", "-LSB-", "2", "-RSB-", "M.G.", "de", "Bruin", ",", "H.G.", "Meijer", ":", "Zeros", "of", "orthogonal", "polynomials", "in", "a", "non-discrete", "Sobolev", "space", ",", "Annals", "of", "Numerical", "Mathematics", "-LRB-", "1995", "-RRB-", ",", "to", "appear", ".", "-LSB-", "3", "-RSB-", "T.S.", "Chihara", ":", "An", "Introduction", "to", "Orthogonal", "Polynomials", ",", "Gordon", "and", "Breach", ",", "New", "York", ",", "1978", ".", "-LSB-", "4", "-RSB-", "A.", "Iserles", ",", "P.E.", "Koch", ",", "S.P.", "NOErsett", ",", "J.M.", "Sanz-Serna", ":", "On", "polynomials", "orthogonal", "with", "respect", "to", "certain", "Sobolev", "inner", "products", ",", "J.", "Approx", ".", "Theory", ",", "65", "-LRB-", "1991", "-RRB-", ",", "151-175", ".", "-LSB-", "5", "-RSB-", "F.", "Marcell?an", ",", "T.E.", "P?erez", ",", "M.A.", "Pi", "~", "nar", ":", "Orthogonal", "Polynomials", "on", "Weighted", "Sobolev", "Spaces", ":", "The", "semiclassical", "case", ",", "Annals", "of", "Numerical", "Mathematics", ",", "to", "appear", ".", "-LSB-", "6", "-RSB-", "F.", "Marcell?an", ",", "J.C.", "Petronilho", ":", "Orthogonal", "Polynomials", "and", "Coherent", "Pairs", ":", "The", "Classical", "Case", ",", "Indag", ".", "Math", ".", "N.S.", ",", "to", "appear", ".", "-LSB-", "7", "-RSB-", "F.", "Marcell?an", ",", "J.C.", "Petronilho", ",", "T.E.", "P?erez", ",", "M.A.", "Pi", "~", "nar", ":", "What", "is", "Beyond", "Coherent", "Pairs", "of", "Orthogonal", "Polynomials", "?", ",", "J.", "Comput", ".", "Appl", ".", "Math.", ",", "to", "appear", ".", "-LSB-", "8", "-RSB-", "P.", "Maroni", ":", "Une", "th?eorie", "algebrique", "des", "polyn", "^", "omes", "orthogonaux", ".", "Application", "aux", "polyn", "^", "omes", "orthogonaux", "semi-classiques", ".", "In", "Orthogonal", "Polynomials", "and", "their", "applications", ",", "C.", "Brezinski", ",", "L.", "Gori", ",", "A.", "Ronveaux", ".", "Eds", ".", "IMACS", "Annals", "on", "Comp", ".", "and", "Appl", ".", "Math", ".", "Vol", ".", "9", ",", "J.C.", "Baltzer", "AG", "Publ", ".", "Basel", "-LRB-", "1991", "-RRB-", ",", "95-130", ".", "-LSB-", "9", "-RSB-", "H.G.", "Meijer", ":", "Coherent", "pairs", "and", "zeros", "of", "Sobolev-type", "orthogonal", "polynomials", ",", "Indag", ".", "Math.", ",", "N.S.", ",", "4", "-LRB-", "1993", "-RRB-", ",", "163-176", ".", "-LSB-", "10", "-RSB-", "G.", "Szego", ":", "Orthogonal", "polynomials", ",", "Amer", ".", "Math", ".", "Soc", ".", "Colloq", ".", "Publ.", ",", "vol", ".", "23", ",", "Providence", ",", "R.I.", "-LRB-", "1975", "-RRB-", "." ]

[ "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Chapter", "10", "The", "effectiveness", "of", "recombination", "Antoine", "H.", "C.", "van", "Kampen", ",", "Lutgarde", "M.", "C.", "Buydens", "Laboratory", "for", "Analytical", "Chemistry", ",", "Catholic", "University", "of", "Nijmegen", "NL-6525", "ED", "the", "Netherlands", "E-mail", ":", "avkampen@sci.kun.nl", "Abstract", ".", "The", "determination", "of", "the", "spatial", "structure", "of", "biomacromolecules", "via", "optimisation", "of", "its", "internal", "coordinates", ",", "i.e.", ",", "torsion", "angles", ",", "comprises", "a", "complex", "optimisation", "problem", ".", "The", "search", "space", "contains", "many", "nearly", "optimal", "solutions", ",", "and", "the", "torsion", "angles", "are", "highly", "non-linearly", "correlated", ".", "The", "genetic", "algorithm", "and", "simulated", "annealing", "were", "applied", "to", "this", "problem", ",", "and", "there", "performances", "were", "compared", ".", "The", "contribution", "of", "the", "crossover", "operation", "to", "the", "performance", "of", "the", "genetic", "algorithm", "was", "examined", "by", "comparing", "a", "mutation-selection", "scheme", "to", "a", "crossover-mutation-selection", "scheme", ".", "Thereupon", ",", "the", "so-called", "random", "crossover", "operator", "was", "applied", "to", "reveal", "whether", "building", "blocks", "were", "recombined", "in", "a", "constructive", "way", ".", "It", "was", "shown", "that", "the", "current", "implementation", "of", "the", "genetic", "algorithm", "did", "not", "promote", "the", "recombination", "of", "building", "blocks", ",", "and", "therefore", "was", "easily", "outperformed", "by", "simulated", "annealing", ".", "The", "complete", "title", "of", "this", "article", ":", "\\", "The", "Effectiveness", "of", "Recombination", "in", "the", "Genetic", "Algorithm", "Methodology", ".", "A", "Comparison", "to", "Simulated", "Annealing", "''", ".", "The", "article", "is", "available", "via", "anonymous", "ftp", "at", "site", "ftp.uwasa.fi", "directory", "cs/2NWGA", "as", "file", "Kampen.ps.Z", ".", "115", "116", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "10.1", "Introduction", "Biological", "macromolecules", "comprise", "classes", "of", "large", "molecules", "like", "proteins", ",", "nucleic", "acids", ",", "polysaccharides", "and", "lipid-containing", "complexes", ",", "which", "have", "biological", "interest", ".", "Proteins", "and", "nucleic", "acids", "play", "a", "central", "role", "in", "all", "known", "life", "forms", ",", "and", "consequently", ",", "knowledge", "about", "their", "three", "dimensional", "structure", "and", "function", "is", "considered", "to", "be", "of", "importance", "as", "it", "contributes", "to", "a", "more", "thorough", "understanding", "of", "biological", "and", "chemical", "processes", "involving", "these", "molecules", ".", "Multidimensional", "NMR", "spectroscopy", "has", "become", "the", "state-of-the-art", "method", "for", "determining", "the", "spatial", "structure", "-LSB-", "127", ",", "598", ",", "490", "-RSB-", ".", "Distance", "constraints", "obtained", "from", "these", "experiments", ",", "complemented", "with", "knowledge", "about", "the", "covalent", "structure", "of", "the", "molecule", "may", "lead", "to", "a", "description", "of", "the", "structure", ".", "The", "determination", "of", "the", "spatial", "structure", "by", "optimisation", "comprises", "a", "difficult", "problem", "because", "the", "the", "search", "space", "may", "contain", "many", "nearly", "optimal", "solutions", ",", "and", "in", "addition", ",", "the", "set", "of", "experimental", "distance", "constraints", "may", "not", "be", "fully", "self-consistent", "due", "to", "experimental", "error", ",", "and", "flexibility", "of", "the", "molecule", "in", "solution", "during", "measurement", ".", "During", "the", "last", "few", "years", "the", "genetic", "algorithm", "-LRB-", "GA", "-RRB-", "-LSB-", "212", ",", "275", ",", "272", "-RSB-", "raised", "interest", "as", "an", "alternative", "method", "for", "structure", "elucidation", "-LSB-", "120", ",", "518", ",", "407", ",", "316", ",", "142", ",", "149", "-RSB-", ".", "Recent", "investigations", "revealed", "that", "a", "GA", "may", "not", "always", "be", "the", "best", "choice", "for", "solving", "complex", "optimisation", "problems", ",", "due", "to", "the", "ineffectiveness", "of", "the", "recombination", "operator", "-LSB-", "312", ",", "456", "-RSB-", ".", "Although", "it", "is", "relatively", "simple", "to", "test", "the", "effect", "of", "recombination", ",", "it", "is", "more", "difficult", "to", "change", "the", "design", "of", "the", "GA", "when", "crossover", "does", "not", "to", "contribute", "to", "the", "search", "performance", ".", "This", "paper", "presents", "a", "comparative", "study", "between", "a", "GA", "and", "simulated", "annealing", "applied", "to", "the", "elucidation", "of", "the", "spatial", "structure", "of", "a", "heptapeptide", "in", "torsion", "angle", "space", ".", "Different", "operators", "and", "values", "for", "the", "GA", "control", "parameters", "were", "tested", ",", "and", "the", "best", "found", "parametrisation", "was", "compared", "to", "the", "performance", "of", "a", "simulated", "annealing", "approach", ".", "Thereupon", ",", "the", "effectiveness", "of", "recombination", "was", "tested", ".", "This", "paper", "does", "not", "claim", "to", "make", "any", "generalisation", "of", "its", "conclusions", "to", "other", "GA", "applications", ",", "but", "emphasises", "an", "additional", "pitfall", "in", "the", "GA", "design", ".", "The", "functionality", "of", "the", "recombination", "operator", "should", "not", "be", "taken", "for", "granted", ".", "10.2", "Methods", "Building", "block", "processing", ".", "The", "crossover", "operation", "is", "the", "mechanism", "that", "distinguishes", "the", "GA", "from", "other", "-LRB-", "stochastic", "-RRB-", "global", "optimisation", "methods", ",", "like", "simulated", "annealing", ",", "that", "often", "comprise", "a", "sophisticated", "mutation", "and", "selection", "scheme", "-LSB-", "556", ",", "94", "-RSB-", ".", "The", "basic", "idea", "of", "crossover", "is", "to", "recombine", "trial", "solutions", "such", "that", "improved", "solutions", "emerge", ".", "More", "precisely", ",", "the", "crossover", "operator", "establishes", "the", "communication", "between", "strings", "via", "the", "exchange", "of", "the", "so-called", "building", "blocks", "-LRB-", "sub-solutions", "-RRB-", ",", "which", "are", "highly", "fit", "schemata", "of", "low", "order", "and", "short", "defining", "length", "-LSB-", "212", ",", "193", "-RSB-", ".", "A", "schema", "comprises", "a", "similarity", "template", "describing", "a", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "117", "subset", "of", "strings", "with", "similarities", "at", "certain", "string", "positions", ".", "A", "low", "order", "schema", "only", "specifies", "a", "few", "bits", ",", "and", "the", "defining", "length", "specifies", "the", "distance", "between", "the", "first", "and", "last", "specified", "string", "position", ".", "The", "defining", "length", "of", "a", "building", "block", "is", "of", "minor", "importance", "if", "uniform", "crossover", "is", "used", "because", "instead", "of", "choosing", "breaking", "points", "that", "easily", "disrupt", "building", "blocks", "of", "long", "defining", "length", ",", "bits", "are", "exchanged", "between", "mated", "strings", ".", "Consequently", ",", "building", "blocks", "of", "identical", "order", "have", "the", "same", "chance", "of", "being", "disrupted", "-LSB-", "533", "-RSB-", ".", "According", "to", "the", "building", "block", "hypothesis", ",", "low", "order", "-LRB-", "short", "defining", "length", "-RRB-", "and", "highly", "fit", "schemata", "are", "sampled", ",", "recombined", ",", "and", "resampled", "to", "form", "strings", "of", "potentially", "higher", "fitness", ".", "In", "a", "way", "by", "working", "with", "the", "particular", "schemata", "-LRB-", "building", "blocks", "-RRB-", ",", "the", "complexity", "of", "the", "optimisation", "problem", "is", "reduced", ";", "instead", "of", "building", "high-performance", "strings", "by", "trying", "every", "conceivable", "combination", ",", "the", "strings", "are", "constructed", "from", "the", "best", "partial", "solutions", "of", "past", "samplings", ".", "It", "is", "generally", "believed", "that", "this", "process", "of", "communication", "between", "solutions", "in", "the", "population", "should", "make", "the", "GA", "an", "efficient", "optimiser", "in", "comparison", "to", "other", "strategies", ".", "Deceptive", "optimisation", "problems", "-LSB-", "212", ",", "225", ",", "373", "-RSB-", "represent", "a", "class", "of", "problems", "in", "which", "recombination", "of", "low", "order", "-LRB-", "short", "defining", "length", "-RRB-", "building", "blocks", "lead", "to", "incorrect", "-LRB-", "sub-optimal", "-RRB-", "higher", "order", "building", "blocks", ".", "This", "is", "caused", "by", "non-linear", "interactions", "of", "the", "string", "elements", "e.g.", ",", "bits", "or", "parameters", ".", "As", "stated", "by", "Whitley", "-LSB-", "588", "-RSB-", ",", "deceptive", "problems", "are", "the", "only", "interesting", "problems", "for", "application", "of", "GAs", ".", "If", "no", "individual", "string", "element", "is", "affected", "by", "the", "value", "of", "other", "elements", ",", "a", "bit-wise", "optimisation", "with", "a", "more", "greedy", "algorithm", "will", "most", "likely", "perform", "more", "effectively", "than", "a", "GA.", ".", "However", ",", "a", "problem", "occurs", "when", "the", "deceptiveness", "of", "the", "optimisation", "problem", "becomes", "too", "severe", ",", "and", "none", "or", "only", "few", "combinations", "of", "fit", "building", "blocks", "lead", "to", "improvements", ".", "Consequently", ",", "the", "search", "degrades", "to", "an", "inefficient", "process", "in", "which", "trial", "solutions", "are", "only", "improved", "by", "accidental", "changes", ".", "In", "between", "these", "two", "extremes", "problem", "types", "exist", "for", "which", "a", "GA", "might", "be", "a", "good", "choice", ".", "It", "is", "important", "that", "constructive", "building", "blocks", "are", "contained", "in", "the", "string", ",", "which", "can", "be", "processed", "by", "the", "GA.", ".", "Accordingly", ",", "the", "combination", "of", "the", "fitness", "function", ",", "encoding", "of", "the", "problem", "parameters", "-LRB-", "e.g.", ",", "real", "or", "binary", "-RRB-", ",", "and", "type", "of", "crossover", "-LRB-", "e.g.", ",", "uniform", "or", "n-point", "-RRB-", "must", "ensure", "the", "presence", "of", "these", "building", "blocks", ".", "However", ",", "for", "complex", "non-linear", "problems", "these", "building", "blocks", "will", "not", "necessarily", "have", "a", "-LRB-", "physical", "-RRB-", "interpretation", ",", "and", "may", "therefore", "be", "difficult", "-LRB-", "if", "possible", "at", "all", "-RRB-", "to", "identify", ",", "which", "can", "make", "the", "design", "of", "a", "GA", "a", "laborious", "process", ".", "It", "should", "be", "noted", "that", "the", "non-linear", "correlations", "between", "the", "string", "elements", "are", "actually", "diminished", "to", "some", "extent", "by", "a", "proper", "choice", "of", "fitness", "function", ",", "encoding", "and", "crossover", "operator", ",", "i.e.", ",", "the", "building", "blocks", "become", "additive", ".", "For", "complex", "optimisation", "problems", "it", "is", "unlikely", "that", "these", "correlations", "can", "be", "diminished", "sufficiently", "by", "a", "transformation", "imposed", "by", "the", "GA", "design", ".", "Even", "if", "such", "a", "transformation", "exist", ",", "it", "will", "probably", "be", "quite", "difficult", "to", "find", "a", "suitable", "combination", ".", "Therefore", ",", "one", "should", "at", "least", "check", "the", "contribution", "of", "the", "crossover", "operator", ".", "To", "this", "end", "two", "experiments", "are", "available", ".", "The", "first", "one", "118", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "is", "a", "comparison", "of", "a", "CMS", "scheme", ",", "which", "comprises", "a", "GA", "with", "crossover", ",", "mutation", "and", "selection", ",", "to", "a", "MS", "scheme", ",", "which", "comprises", "a", "GA", "without", "crossover", ".", "If", "this", "experiment", "reveals", "no", "significant", "contribution", "of", "recombination", ",", "then", "the", "GA", "design", "should", "be", "changed", ".", "If", ",", "on", "the", "other", "hand", ",", "crossover", "does", "contribute", ",", "then", "a", "second", "experiment", "is", "needed", "to", "test", "whether", "solutions", "are", "really", "constructed", "from", "building", "blocks", ".", "For", "this", "experiment", "the", "so-called", "random", "crossover", "operator", "-LSB-", "312", "-RSB-", "can", "be", "used", ".", "If", "this", "experiment", "reveals", "that", "recombination", "is", "without", "the", "desired", "effect", ",", "the", "resulting", "algorithm", "is", "left", "with", "only", "mutation", "and", "selection", ",", "and", "consequently", ",", "will", "probably", "be", "easily", "outperformed", "by", "a", "more", "sophisticated", "mutation", "selection", "scheme", "like", "simulated", "annealing", ".", "The", "structure", "elucidation", "problem", ".", "The", "experiments", "presented", "in", "this", "paper", "describe", "the", "structure", "determination", "of", "the", "natural", "heptapeptide", "optoid", "?", "-", "selective", "dermorphin", "-LRB-", "Tyr-dAla-Phe-Gly-Tyr-Pro-Ser-NH2", "-RRB-", ",", "which", "consists", "of", "7", "amino", "acids", ",", "and", "is", "described", "by", "31", "torsion", "angles", "-LSB-", "457", ",", "96", ",", "427", "-RSB-", "-LRB-", "Figure", "10.2", "-RRB-", ".", "A", "set", "of", "19", "distance", "constraints", "was", "available", "from", "-LSB-", "520", "-RSB-", ",", "and", "used", "in", "the", "experiments", "presented", "in", "this", "paper", ".", "Figure", "10.1", ":", "The", "natural", "heptapeptide", "optoid", "?", "-", "selective", "dermorphin", "-LRB-", "Tyr-dAlaPhe-Gly-Tyr-Pro-Ser-NH2", "-RRB-", "A", "peptide", "consist", "of", "a", "sequence", "of", "amino", "acids", ",", "which", "may", "be", "represented", "by", "their", "internal", "coordinates", ",", "i.e.", ",", "torsion", "angles", "OE", ",", ",", "!", ",", "and", "a", "set", "of", "torsion", "angles", "O", "that", "describe", "the", "side", "chain", ".", "Figure", "10.2", "depicts", "a", "sequence", "of", "2", "amino", "acids", "in", "which", "the", "structure", "of", "the", "side", "chain", "R", "determines", "its", "type", ".", "The", "torsion", "angles", "give", "the", "angle", "between", "four", "atoms", ",", "and", "define", "the", "spatial", "conformation", "of", "the", "molecule", ".", "NMR", "experiments", "result", "in", "a", "set", "of", "distance", "constraints", ",", "which", "are", "defined", "between", "pairs", "of", "H-atoms", "of", "the", "molecule", ",", "which", "are", "in", "close", "proximity", "-LRB-", "<", "=", "5", "?", "A", "-RRB-", ".", "The", "torsion", "angles", "are", "the", "subject", "of", "optimisation", ",", "and", "an", "optimal", "set", "of", "values", "describe", "a", "structure", "that", "has", "a", "minimum", "of", "experimental", "distance", "constraint", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "119", "N", "C", "C", "N", "C", "C", "H", "H", "O", "H", "H", "R", "R", "i", "i", "+1", "c", "y", "wj", "O", "Figure", "10.2", ":", "A", "sequence", "of", "2", "amino", "acids", ".", "The", "torsion", "angles", "are", "indicated", "by", "OE", ",", ",", "!", "and", "O", ".", "The", "side", "chain", "R", "may", "contain", "multiple", "torsion", "angles", "O", ",", "and", "determines", "the", "amino", "acid", "type", ".", "violations", ",", "and", "simultaneously", "a", "minimum", "amount", "of", "atom", "overlap", ".", "Accordingly", ",", "the", "fitness", "function", "was", "defined", "as", ":", "F", "itness", "?", "1", "=", "Error", "=", "A", "?", "X", "-LRB-", "restraint", "violations", "-RRB-", "+", "B", "?", "X", "-LRB-", "atom", "overlap", "-RRB-", "2", "where", "A", "and", "B", "were", "weight", "factors", ",", "which", "were", "set", "to", "2.0", "and", "1.0", "respectively", ",", "restraint", "violation", "is", "the", "magnitude", "of", "a", "single", "violation", "of", "an", "experimental", "distance", "constraint", ",", "and", "atom", "overlap", "is", "the", "magnitude", "of", "the", "overlap", "between", "two", "atoms", ".", "The", "advantage", "of", "using", "torsion", "angles", "is", "that", "the", "covalent", "structure", ",", "i.e.", ",", "bond", "lengths", "and", "bond", "angles", "between", "connected", "atoms", ",", "is", "preserved", "during", "optimisation", ".", "Simulated", "annealing", ".", "Simulated", "annealing", "-LRB-", "SA", "-RRB-", "-LSB-", "339", ",", "138", ",", "361", "-RSB-", "is", "an", "alternative", "stochastic", "optimisation", "technique", "that", "mimics", "the", "physical", "process", "by", "which", "a", "crystal", "is", "grown", "from", "a", "melt", ".", "Physical", "systems", "may", "be", "coaxed", "into", "a", "minimum", "energy", "conformation", "-LRB-", "e.g.", ",", "crystal", "-RRB-", "by", "a", "slow", "annealing", "process", ".", "If", "the", "reduction", "of", "the", "temperature", "is", "slow", "enough", ",", "the", "system", "is", "able", "to", "pass", "out", "of", "local", "energy", "minima", ",", "and", "arrives", "at", "the", "global", "minimum", "configuration", ".", "This", "principle", "may", "be", "applied", "to", "solve", "optimisation", "problems", ".", "In", "contrast", "to", "the", "GA", ",", "which", "maintains", "a", "population", "of", "trial", "solutions", ",", "SA", "generates", "a", "trajectory", "through", "the", "search", "space", "by", "making", "incremental", "changes", "to", "a", "single", "set", "of", "problem", "parameters", ",", "i.e.", ",", "the", "torsion", "angles", ".", "At", "the", "start", "of", "the", "run", "these", "parameters", "are", "initialised", "at", "random", ".", "In", "the", "experiments", "discussed", "in", "this", "paper", ",", "the", "problem", "parameters", "were", "adjusted", "according", "to", "the", "principles", "of", "fast", "simulated", "annealing", "-LSB-", "543", "-RSB-", ".", "Each", "parameter", "was", "modified", "by", "increasing", "or", "decreasing", "its", "current", "value", "with", "an", "amount", "?", ",", "generated", "from", "a", "Cauchy", "distribution", ":", "pnew", "=", "pcurrent", "?", "?", "Subsequently", ",", "the", "modified", "set", "of", "parameters", "was", "evaluated", "by", "the", "objective", "function", ".", "The", "outcome", "of", "this", "evaluation", "determined", "whether", "the", "new", "set", "was", "accepted", "or", "rejected", ".", "If", "the", "error", "value", "-LRB-", "E", "-RRB-", "corresponding", "to", "the", "new", "set", "was", "lower", "120", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "than", "the", "error", "value", "for", "the", "current", "set", ",", "an", "improvement", "was", "obtained", ",", "and", "accordingly", ",", "the", "new", "set", "of", "parameters", "was", "accepted", ".", "In", "case", "of", "a", "detrimental", "step", ",", "the", "parameters", "were", "not", "immediately", "rejected", "but", "were", "accepted", "with", "a", "probability", "Paccept", "=", "e", "?", "-LRB-", "Enew?Ecurrent", "-RRB-", "=", "ct.", ".", "This", "ensured", "the", "possibility", "for", "uphill", "moves", "that", "allows", "the", "algorithm", "to", "escape", "from", "local", "minima", ".", "The", "control", "parameter", "ct", "is", "analog", "to", "the", "temperature", "of", "a", "real", "physical", "system", ",", "and", "a", "high", "value", "increases", "the", "probability", "of", "accepting", "detrimental", "moves", ".", "Consequently", ",", "a", "high", "initial", "value", "for", "ct", "in", "combination", "with", "a", "suitable", "parameter", "modification", "function", "ensures", "a", "sufficient", "exploration", "of", "the", "search", "space", ".", "At", "each", "`", "temperature", "'", "the", "algorithm", "is", "allowed", "to", "make", "N", "steps", ",", "after", "which", "the", "temperature", "is", "decreased", "according", "to", "cooling", "schedule", "ct", "+1", "=", "ct", "?", ".", "The", "parameter", "was", "taken", "0.95", "for", "the", "experiments", "described", "in", "this", "paper", ".", "Subsequently", ",", "a", "new", "trajectory", "was", "generated", ".", "Decreasing", "the", "temperature", "forces", "the", "algorithm", "to", "converge", "to", "a", "minimum", "that", ",", "hopefully", ",", "is", "the", "global", "minimum", "of", "the", "optimisation", "problem", ".", "The", "SA", "algorithm", "in", "this", "research", "was", "parameterised", "such", "that", "the", "c", "was", "decreased", "when", "N", "=", "50", "steps", "were", "accepted", ",", "or", "a", "maximum", "of", "250", "proposed", "moves", "was", "exceeded", ".", "The", "initial", "value", "of", "c", "was", "chosen", "such", "that", "the", "initial", "ratio", "between", "accepted", "moves", "and", "proposed", "moves", "was", "about", "0.9", ".", "Statistical", "evaluation", "of", "results", ".", "The", "resulting", "error", "values", "and", "number", "of", "function", "evaluations", "obtained", "from", "the", "experiments", ",", "were", "evaluated", "by", "the", "Kruskal-Wallis", "non-parametric", "analysis", "of", "variance", "-LRB-", "ANOVA", "-RRB-", "-LSB-", "353", ",", "354", ",", "240", "-RSB-", ".", "The", "p-values", "that", "result", "from", "such", "a", "calculation", "represents", "an", "increasing", "index", "of", "reliability", "that", "is", "involved", "in", "accepting", "the", "hypothesis", "that", "the", "tested", "groups", "of", "observations", "were", "sampled", "from", "an", "identical", "population", ".", "Typically", ",", "in", "many", "sciences", ",", "results", "that", "yield", "p", "<", "=", ":05", "are", "considered", "borderline", "statistically", "significant", ".", "Results", "that", "are", "significant", "at", "p", "<", "=", ":01", "are", "commonly", "considered", "statistically", "significant", ",", "and", "p", "<", "=", ":005", "or", "p", "<", "=", ":001", "are", "called", "highly", "significant", ".", "These", "categories", "were", "used", "for", "the", "interpretation", "of", "the", "data", "in", "this", "paper", ".", "Part", "of", "the", "results", "were", "visualized", "with", "box-whisker", "plots", "-LSB-", "559", "-RSB-", ".", "The", "box", "borders", "were", "defined", "by", "the", "25", "%", "and", "75", "%", "percentiles", ".", "The", "median", "value", "of", "the", "observations", "was", "indicated", "by", "a", "square", "inside", "the", "box", ",", "and", "the", "minimum", "and", "maximum", "values", "were", "indicated", "by", "the", "whiskers", ".", "Outliers", "were", "depicted", "by", "an", "open", "circle", ",", "and", "extreme", "values", "by", "a", "star", "-LRB-", "*", "-RRB-", ".", "A", "value", "was", "rated", "to", "be", "an", "outlier", "if", "the", "distance", "from", "the", "box", "border", "was", "larger", "than", "1.5", "times", "the", "length", "of", "the", "box", ".", "If", "the", "distance", "was", "larger", "than", "3.0", "times", "the", "length", "of", "the", "box", ",", "then", "that", "value", "was", "regarded", "as", "an", "extreme", "value", ".", "The", "values", "1.5", "and", "3.0", "were", "taken", "from", "-LSB-", "559", "-RSB-", ",", "and", "only", "served", "the", "visualisation", "of", "the", "results", ".", "The", "random", "crossover", "operator", "-LRB-", "RXO", "-RRB-", ".", "The", "RXO", "operator", "-LSB-", "312", "-RSB-", "was", "developed", "to", "examine", "whether", "building", "blocks", "are", "recombined", "productively", "by", "the", "crossover", "operator", ".", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "121", "Crossover", "Random", "string", "generator", "Parent", "Child", "Figure", "10.3", ":", "The", "random", "crossover", "operator", "-LRB-", "RXO", "-RRB-", "Figure", "10.2", "depicts", "the", "function", "of", "this", "operator", ".", "A", "parent", "string", "is", "selected", "from", "the", "population", ",", "and", "recombined", "with", "a", "string", "that", "was", "generated", "at", "random", ".", "Due", "to", "the", "application", "of", "this", "operator", ",", "communication", "between", "strings", "of", "the", "population", "is", "no", "longer", "possible", ",", "i.e.", ",", "no", "building", "blocks", "can", "be", "exchanged", ".", "Thereupon", ",", "no", "knowledge", "is", "available", "about", "potential", "building", "blocks", "on", "the", "random", "string", "because", "it", "was", "not", "evaluated", "by", "the", "fitness", "function", ".", "Consequently", ",", "this", "type", "of", "crossover", "is", "equivalent", "to", "a", "-LRB-", "macro", "-RRB-", "mutation", "operator", ".", "Suppose", "the", "following", "RXO", "operation", "with", "a", "2-point", "crossover", ",", "where", "the", "j", "'s", "denote", "the", "breaking", "points", ":", "random", "string", "100", "j", "001", "j", "1100", "parent", "string", "110", "j", "010", "j", "1001", "?!", "crossover", "?!", "110 001 1001", "The", "same", "result", "could", "be", "obtained", "by", "application", "of", "a", "macro-mutation", ",", "which", "only", "mutates", "bits", "between", "2", "randomly", "chosen", "points", ":", "parent", "string", "110", "j", "010", "j", "1001", "?!", "mutate", "?!", "110 001 1001", "Therefore", ",", "if", "RXO", "performs", "comparable", "to", "a", "regular", "crossover", "operator", ",", "it", "can", "be", "concluded", "that", "also", "the", "latter", "acts", "like", "a", "mutation", ",", "and", "solutions", "do", "not", "emerge", "from", "building", "block", "recombination", ",", "which", "should", "lead", "to", "a", "superior", "performance", ".", "It", "must", "be", "remarked", "that", "the", "mutation", "imposed", "by", "RXO", "is", "not", "precisely", "identical", "to", "a", "possible", "mutation", "imposed", "by", "a", "regular", "crossover", "operator", ".", "This", "is", "due", "to", "the", "fact", "that", "the", "strings", "in", "the", "GA", "population", "become", "more", "similar", "as", "optimisation", "proceeds", ",", "which", "diminishes", "the", "effective", "mutation", "rate", "caused", "by", "crossover", ".", "The", "mutation", "rate", "imposed", "by", "RXO", "remains", "constant", "because", "before", "every", "application", "a", "new", "random", "string", "is", "generated", ".", "Accordingly", ",", "interpretation", "of", "results", "obtained", "with", "RXO", "should", "be", "done", "carefully", ".", "10.3", "Results", "and", "discussion", "Prior", "to", "comparing", "the", "GA", "performance", "to", "simulated", "annealing", ",", "and", "determining", "the", "effect", "of", "recombination", ",", "the", "parametrisation", "of", "the", "GA", "was", "optimised", ".", "Experimental", "designs", "were", "setup", "to", "determine", "the", "effects", "of", "several", "control", "parameters", "122", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "and", "operators", ".", "The", "interactions", "between", "the", "GA", "parameters", "were", "neglected", "because", "their", "determination", "would", "require", "too", "many", "experiments", ".", "Consequently", ",", "the", "final", "parametrisation", "was", "at", "most", "near", "optimal", "if", "it", "is", "assumed", "that", "the", "interaction", "effects", "were", "small", "compared", "to", "the", "individual", "effects", ".", "The", "`", "number", "of", "function", "evaluations", "'", "for", "the", "GA", "experiments", "was", "calculated", "from", "the", "population", "size", "and", "the", "number", "of", "generations", "after", "which", "no", "further", "improvement", "of", "the", "best", "string", "in", "the", "population", "was", "observed", ".", "A", "maximum", "of", "1000", "generations", "was", "imposed", "on", "each", "GA", "run", ".", "The", "first", "experiment", "was", "set", "up", "to", "determine", "a", "suitable", "population", "size", ".", "Population", "sizes", "of", "50", "and", "200", "strings", "were", "tested", "with", "10", "experiments", "at", "each", "level", ",", "starting", "from", "different", "initial", "populations", ".", "During", "these", "experiments", "rank-based", "selection", "-LSB-", "380", "-RSB-", "was", "used", "with", "the", "threshold", "defining", "the", "best", "25", "%", "of", "the", "population", "from", "which", "strings", "were", "selected", "at", "random", ".", "Elitism", "selection", "was", "used", "to", "copy", "the", "best", "5", "%", "of", "the", "strings", "to", "the", "next", "population", ",", "which", "remained", "unaffected", "by", "crossover", "and", "mutation", ".", "The", "crossover", "and", "mutation", "probabilities", "were", "set", "to", "0.70", "and", "0.05", "respectively", ".", "Uniform", "crossover", "was", "used", ",", "and", "exchanged", "30", "%", "of", "the", "bits", "between", "the", "mated", "strings", "on", "application", ".", "A", "normal", "point", "mutation", "was", "used", ".", "Each", "problem", "parameter", "was", "encoded", "with", "a", "11", "bit", "Gray", "coding", ".", "The", "results", "are", "depicted", "in", "Figure", "10.3", ",", "which", "denotes", "the", "box-whisker", "plots", "for", "both", "levels", ".", "An", "ANOVA", "calculation", "revealed", "no", "significant", "difference", "-LRB-", "p", "=", "1.000", "-RRB-", "between", "the", "two", "population", "sizes", "for", "the", "error", "values", ".", "Consequently", ",", "the", "smaller", "population", "size", "was", "chosen", "for", "the", "remaining", "experiments", ",", "because", "it", "was", "about", "four", "times", "faster", ".", "Population", "size", "Error", "2", "2.4", "2.8", "3.2", "3.6", "4", "4.4", "4.8", "50", "200", "Population", "size", "Function", "evaluations", "20000", "40000", "60000", "80000", "100000", "120000", "140000", "160000", "180000", "200000", "50", "200", "Figure", "10.4", ":", "Effect", "of", "the", "population", "size", ".", "For", "each", "level", "10", "experiments", "were", "performed", "The", "elitism", "percentage", "and", "threshold", "fraction", "were", "optimised", "by", "using", "a", "full", "factorial", "design", "-LSB-", "123", "-RSB-", ",", "which", "is", "depicted", "in", "Table", "10.3", ".", "The", "effects", "of", "the", "number", "of", "encoding", "bits", ",", "type", "of", "crossover", ",", "and", "crossover", "probability", "were", "determined", "by", "using", "a", "3", "?", "3", "latin", "square", "design", "-LSB-", "123", "-RSB-", ",", "which", "is", "depicted", "in", "Table", "10.3", ".", "Each", "combination", "of", "levels", "was", "tested", "with", "2", "replicated", "experiments", ",", "giving", "a", "total", "of", "18", "experiments", ".", "From", "this", "each", "effect", "could", "be", "determined", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "123", "Threshold", "Elitism", "-LRB-", "%", "-RRB-", "#Exp", "fraction", "0.25", "5", "3", "0.25", "10", "3", "0.10", "5", "3", "0.10", "10", "3", "0.40", "5", "3", "0.40", "10", "3", "Table", "10.1", ":", "Full", "factorial", "design", "for", "determining", "the", "effects", "of", "the", "threshold", "fraction", "and", "elitism", "percentage", ".", "For", "every", "combination", "three", "experiments", "were", "conducted", ".", "from", "6", "experiments", ".", "Uniform", "1-point", "2-point", "7", "bits", "Pc", "=", ":5", "Pc", "=", ":7", "Pc", "=", ":9", "9", "bits", "Pc", "=", ":7", "Pc", "=", ":9", "Pc", "=", ":5", "11", "bits", "Pc", "=", ":9", "Pc", "=", ":5", "Pc", "=", ":7", "Table", "10.2", ":", "3", "?", "3", "latin", "square", "to", "determine", "the", "effects", "of", "the", "crossover", "type", ",", "crossover", "probability", ",", "and", "number", "of", "encoding", "bits", ".", "At", "each", "cell", "2", "replicate", "experiments", "were", "conducted", ".", "Subsequently", ",", "the", "type", "of", "encoding", "and", "number", "of", "bit", "exchanges", "for", "uniform", "crossover", ",", "were", "tested", "in", "a", "fractional", "factorial", "design", ",", "which", "is", "depicted", "in", "table", "10.3", ".", "Encoding", "type", "Bit", "exchange", "-LRB-", "%", "-RRB-", "#Exp", "Gray", "binary", "10", "4", "Gray", "binary", "30", "4", "Gray", "binary", "50", "4", "Regular", "binary", "10", "12", "Table", "10.3", ":", "Fractional", "factorial", "design", "to", "determine", "the", "effect", "of", "the", "encoding", "type", ",", "and", "the", "percentage", "of", "bits", "exchanges", "on", "application", "of", "uniform", "crossover", ".", "An", "ANOVA", "revealed", "that", "none", "of", "these", "factors", "were", "highly", "significant", ",", "i.e.", ",", "both", "the", "error", "values", "and", "the", "number", "of", "function", "evaluations", "were", "comparable", "for", "all", "tested", "levels", ".", "Table", "10.3", "depicts", "the", "p-values", "for", "each", "factor", "for", "the", "error", "values", "and", "function", "evaluations", ".", "Only", "an", "elitism", "fraction", "of", "10", "%", ",", "and", "the", "use", "of", "a", "7", "bit", "regular", "binary", "encoding", "were", "slightly", "better", ",", "and", "consequently", ",", "were", "used", "in", "the", "remaining", "experiments", ".", "124", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "Parameter", "p-value", "Error", "Evaluations", "Elitism", "percentage", "0.05", "0.60", "Threshold", "fraction", "0.19", "0.55", "#Bits", "0.72", "0.07", "Bit", "exchange", "fraction", "0.92", "0.90", "Type", "crossover", "0.58", "0.93", "Pc", "0.72", "0.93", "Encoding", "0.02", "0.69", "Table", "10.4", ":", "p-values", "for", "each", "tested", "control", "parameter", ".", "Next", "the", "effect", "of", "the", "mutation", "probability", "-LRB-", "Pm", "-RRB-", "was", "determined", ".", "Five", "different", "levels", "were", "tested", "with", "10", "experiments", "at", "each", "level", ".", "The", "levels", "ranged", "from", "Pm", "=", ":0", "-LRB-", "only", "crossover", ",", "i.e.", ",", "CS", "scheme", "-RRB-", "to", "Pm", "=", ":3", ".", "The", "results", "are", "depicted", "in", "Figure", "10.3", ",", "which", "clearly", "demonstrates", "the", "impact", "of", "the", "mutation", "probability", ".", "The", "performance", "of", "the", "CS", "scheme", "is", ",", "as", "expected", ",", "poor", "from", "which", "it", "is", "concluded", "that", "mutation", "is", "necessary", "to", "introduce", "new", "-LRB-", "lost", "-RRB-", "information", "in", "the", "population", ".", "A", "mutation", "rate", "that", "is", "too", "low", "or", "too", "large", "also", "produced", "poor", "results", ".", "A", "comparison", "of", "the", "levels", "Pm", "=", ":01", ",", "Pm", "=", ":05", ",", "and", "Pm", "=", ":1", "revealed", "that", "a", "mutation", "rate", "of", "0.05", "produced", "better", "results", "-LRB-", "p", "=", "0.007", "for", "the", "error", "value", ",", "p", "=", "0.040", "for", "the", "number", "of", "evaluations", "-RRB-", ".", "These", "results", "indicate", "that", "mutation", "may", "not", "considered", "to", "be", "a", "background", "operator", ",", "but", "plays", "an", "essential", "role", "during", "the", "search", "-LSB-", "532", "-RSB-", ".", "Mutation", "probability", "Error", "4", "8", "12", "16", "20", "24", "0.0", "0.001", "0.01", "0.05", "0.1", "0.3", "Mutation", "probability", "Function", "evaluations", "-5000", "5000", "15000", "25000", "35000", "45000", "55000", "0.0", "0.001", "0.01", "0.05", "0.1", "0.3", "Figure", "10.5", ":", "Effect", "of", "the", "mutation", "probability", ".", "A", "mutation", "probability", "of", "Pm", "=", ":0", "denotes", "the", "CS", "scheme", ".", "At", "each", "level", "10", "experiments", "were", "conducted", "The", "final", "parametrisation", "of", "the", "optimised", "GA", "is", "depicted", "in", "Table", "10.3", ".", "To", "test", "the", "performance", "of", "this", "GA", ",", "84", "experiments", "were", "carried", "out", "in", "which", "only", "the", "initial", "random", "population", "was", "varied", ".", "Figure", "10.3", "depicts", "the", "box-whisker", "plots", "for", "the", "error", "values", "and", "number", "of", "function", "evaluations", "-LRB-", "the", "actual", "values", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "125", "Range", "of", "each", "parameter", "?", "180ffi", "?", "+180", "ffi", "Encoding", "type", "Regular", "binary", "Number", "of", "bits", "per", "parameter", "7", "Selection", "method", "Rank-based", "selection", "Threshold", "fraction", "0.25", "Elitism", "fraction", "10", "%", "Crossover", "type", "Uniform", "Crossover", "probability", "0.7", "Number", "of", "bit", "exchanges", "30", "%", "Mutation", "type", "Point", "mutation", "Mutation", "probability", "0.05", "Table", "10.5", ":", "Parametrisation", "of", "optimised", "GA", "Error", "2", "2.5", "3", "3.5", "4", "4.5", "5", "5.5", "6", "6.5", "Function", "evaluations", "10000", "20000", "30000", "40000", "50000", "60000", "Figure", "10.6", ":", "Error", "values", "and", "function", "evaluations", ",", "resulting", "from", "84", "experiments", "with", "the", "optimised", "CMS", "scheme", ".", "are", "depicted", "in", "Table", "10.3", "-RRB-", ".", "It", "is", "clear", "that", "there", "is", "a", "large", "deviation", "for", "both", "quantities", "ranging", "from", "poor", "to", "well", "defined", "structures", ",", "which", "was", "determined", "by", "investigating", "the", "number", "of", "distance", "constraint", "violations", "and", "the", "amount", "of", "overlapping", "atoms", ".", "In", "order", "to", "reveal", "the", "effect", "of", "crossover", "on", "the", "search", "performance", ",", "10", "experiments", "were", "carried", "out", "without", "crossover", "-LRB-", "MS", "scheme", "-RRB-", ",", "and", "compared", "to", "the", "results", "of", "the", "CMS", "scheme", ".", "The", "results", "are", "shown", "in", "Figure", "10.3", ".", "An", "ANOVA", "revealed", "no", "significant", "difference", "between", "the", "CMS", "and", "MS", "scheme", "for", "the", "error", "values", "-LRB-", "p", "=", "0.740", "-RRB-", ",", "or", "number", "of", "function", "evaluations", "-LRB-", "p", "=", "0.880", "-RRB-", ".", "From", "this", "it", "seems", "fair", "to", "conclude", "that", "crossover", "did", "not", "contribute", "to", "the", "performance", "of", "the", "GA.", ".", "One", "could", "argue", "that", "the", "CMS", "scheme", "produced", "one", "solution", "-LRB-", "E", "=", "2:30", "-RRB-", "that", "was", "slightly", "better", "than", "the", "best", "solution", "obtained", "with", "the", "MS", "scheme", "-LRB-", "E", "=", "2:54", "-RRB-", ",", "and", "that", "this", "might", "be", "an", "effect", "of", "crossover", ".", "It", "is", ",", "however", ",", "more", "likely", "that", "this", "is", "an", "effect", "only", "of", "the", "initial", "population", ",", "and", "consequently", ",", "repeating", "the", "MS", "scheme", "more", "often", "is", "likely", "to", "result", "in", "an", "equally", "good", "solution", ".", "126", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "Even", "if", "one", "wishes", "to", "conclude", "that", "the", "CMS", "scheme", "gave", "slightly", "better", "results", ",", "this", "would", "not", "be", "of", "much", "use", "if", "one", "is", "not", "prepared", "to", "repeat", "the", "CMS", "scheme", "for", "many", "times", "in", "order", "to", "increase", "the", "probability", "that", "such", "a", "solution", "is", "included", ".", "Crossover", "probability", "Error", "2", "2.5", "3", "3.5", "4", "4.5", "5", "5.5", "6", "6.5", "0.0", "0.7", "Crossover", "probability", "Function", "evaluations", "10000", "20000", "30000", "40000", "50000", "60000", "0.0", "0.7", "Figure", "10.7", ":", "Effect", "of", "crossover", "operator", ".", "Comparison", "of", "the", "MS", "scheme", "-LRB-", "10", "experiments", "-RRB-", "to", "the", "CMS", "scheme", "-LRB-", "84", "experiments", "-RRB-", "Crossover", "type", "Error", "2", "3", "4", "5", "6", "7", "RXO", "Uniform", "Crossover", "type", "Function", "evaluations", "10000", "20000", "30000", "40000", "50000", "60000", "RXO", "Uniform", "Figure", "10.8", ":", "A", "comparison", "of", "a", "GA", "with", "RXO", "operator", "-LRB-", "40", "experiments", "-RRB-", ",", "and", "the", "optimised", "CMS", "scheme", "-LRB-", "84", "experiments", "-RRB-", ".", "An", "additional", "experiment", "with", "the", "RXO", "operator", "strengthens", "the", "conclusion", "that", "recombination", "was", "not", "effective", ".", "Figure", "10.3", "depicts", "the", "results", "of", "40", "experiments", "with", "the", "RXO", "operator", "in", "comparison", "to", "the", "CMS", "scheme", ".", "This", "figure", "indicates", "that", "RXO", "is", "capable", "of", "producing", "equally", "well-defined", "structures", ",", "but", "on", "average", "is", "inferior", "to", "uniform", "crossover", "-LRB-", "p", "=", "0.005", "-RRB-", ".", "Since", "the", "comparison", "of", "the", "CMS", "scheme", "to", "the", "MS", "scheme", "revealed", "no", "significant", "difference", ",", "it", "is", "likely", "that", "this", "is", "caused", "by", "the", "constant", "mutation", "rate", "imposed", "by", "RXO", "-LRB-", "see", "method", "section", "-RRB-", ".", "Furthermore", ",", "the", "presence", "of", "building", "block", "exchange", "should", "probably", "accelerate", "the", "convergence", "rate", "of", "the", "algorithm", ",", "which", "is", "not", "the", "case", "in", "the", "present", "experiment", ".", "Figure", "10.3", "depicts", "the", "error", "values", "of", "the", "best", "string", "for", "the", "first", "150", "generations", "the", "cms", ",", "ms", ",", "and", "RXO", "scheme", ".", "As", "expected", "no", "pronounced", "differences", "were", "observed", ".", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "127", "50 100 150", "10", "20", "30", "40", "50", "Generation", "Error", "RXO", "MS", "CMS", "Figure", "10.9", ":", "Evolution", "of", "the", "error", "values", "of", "the", "best", "string", "for", "the", "CMS", ",", "MS", "and", "RXO", "scheme", "for", "the", "first", "150", "generations", ".", "From", "these", "experiments", "it", "may", "be", "concluded", "that", "no", "building", "blocks", "are", "recombined", "productively", ".", "Consequently", ",", "one", "is", "left", "with", "a", "simple", "MS", "scheme", "that", "is", "likely", "to", "be", "outperformed", "by", "a", "more", "advanced", "MS", "scheme", "like", "SA", ".", "To", "test", "this", "hypothesis", ",", "thirty", "SA", "experiments", "were", "performed", ",", "and", "compared", "to", "the", "CMS", "scheme", "-LRB-", "Figure", "10.3", "-RRB-", ".", "There", "was", "no", "significant", "difference", "between", "the", "error", "values", "for", "the", "two", "search", "strategies", "-LRB-", "p", "=", ":200", "-RRB-", ".", "Table", "10.3", "depicts", "the", "actual", "values", "for", "the", "Box", "plots", ".", "The", "number", "of", "function", "evaluations", "for", "SA", "was", ",", "however", ",", "about", "a", "factor", "of", "3", "times", "less", "than", "the", "number", "of", "evaluations", "required", "by", "the", "GA.", ".", "Again", "one", "could", "argue", "that", "the", "GA", "produced", "one", "better", "solution", ",", "but", "again", "this", "is", "probably", "an", "effect", "of", "the", "initial", "starting", "point", "in", "the", "search", "space", ",", "and", "repeating", "SA", "is", "likely", "to", "result", "in", "a", "comparable", "solution", ".", "Furthermore", ",", "a", "simple", "and", "straightforward", "instance", "of", "the", "SA", "algorithm", "was", "applied", ",", "and", "not", "optimised", "like", "the", "GA.", ".", "An", "additional", "SA", "experiment", "was", "conducted", "to", "investigate", "if", "an", "improved", "solution", "could", "be", "found", "if", "the", "cooling", "rate", "was", "decreased", ",", "and", "longer", "trajectories", "were", "allowed", "at", "each", "temperature", ".", "Accordingly", ",", "the", "cooling", "schedule", "was", "parameterised", "with", "=", ":98", ",", "and", "the", "temperature", "was", "decreased", "when", "N", "=", "1000", "steps", "were", "accepted", ",", "or", "a", "maximum", "of", "2000", "proposed", "steps", "was", "exceeded", ".", "The", "final", "solution", "of", "this", "experiment", "-LRB-", "E", "=", "2:83", "-RRB-", "was", "no", "improvement", "of", "the", "previous", "SA", "experiments", ".", "Probably", ",", "the", "method", "for", "adjusting", "the", "problem", "parameters", "is", "more", "important", ",", "which", "was", ",", "however", ",", "not", "further", "investigated", ".", "To", "investigate", "whether", "the", "population", "size", "could", "be", "further", "reduced", "40", "GA", "experiments", "with", "a", "population", "size", "of", "25", "strings", "were", "conducted", ",", "and", "compared", "to", "the", "optimised", "CMS", "scheme", ".", "The", "resulting", "solutions", "for", "this", "small", "population", "size", "were", "inferior", "to", "those", "found", "with", "a", "population", "size", "of", "50", "strings", "-LRB-", "p", "=", "0.001", "-RRB-", ".", "128", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "Search", "strategy", "Error", "2", "2.5", "3", "3.5", "4", "4.5", "5", "5.5", "6", "6.5", "GA", "SA", "Search", "strategy", "Function", "evaluations", "10000", "20000", "30000", "40000", "50000", "60000", "GA", "SA", "Figure", "10.10", ":", "A", "comparison", "of", "the", "genetic", "algorithm", "-LRB-", "CMS", "scheme", "with", "84", "experiments", "-RRB-", "and", "simulated", "annealing", "-LRB-", "30", "experiments", "-RRB-", "GA", "SA", "Error", "Evaluations", "Error", "Evaluations", "Mean", "3.39", "40734", "3.45", "14461", "Median", "3.56", "44100", "3.07", "14093", "P25", "2.69", "37875", "2.71", "12620", "P75", "4.03", "47775", "4.00", "15869", "Minimum", "2.30", "7100", "2.69", "11283", "Maximum", "5.95", "49850", "6.14", "19073", "Table", "10.6", ":", "Comparison", "of", "the", "error", "values", "and", "function", "evaluations", "for", "the", "GA", "-LRB-", "optimised", "CMS", "scheme", "-RRB-", "and", "SA", "Thereupon", ",", "the", "number", "of", "function", "evaluations", "needed", "to", "derive", "at", "the", "final", "solutions", "was", "still", "significantly", "larger", "than", "for", "SA", ".", "From", "this", "it", "was", "concluded", "that", "decreasing", "the", "size", "of", "the", "population", "did", "not", "lead", "to", "results", "that", "were", "more", "comparable", "to", "SA", ",", "and", "the", "present", "choice", "for", "the", "population", "size", "is", "adequate", ".", "Since", "the", "present", "combination", "of", "fitness", "function", ",", "parameter", "encoding", ",", "and", "crossover", "type", "did", "not", "lead", "to", "an", "effective", "recombination", ",", "the", "binary", "parameter", "encoding", "was", "changed", "to", "a", "real-value", "encoding", ".", "A", "uniform", "crossover", ",", "similar", "to", "its", "binary", "analog", ",", "was", "applied", "to", "exchange", "5", "randomly", "selected", "parameters", "between", "the", "mated", "strings", ".", "A", "new", "mutation", "operator", "was", "designed", "which", "modified", "10", "randomly", "selected", "parameters", "on", "application", "according", "to", ":", "pnew", "=", "pcurrent", "+", "N", "-LRB-", "0", ";", "1", "-RRB-", "where", "N", "-LRB-", "0", ";", "1", "-RRB-", "denotes", "that", "standard", "normal", "distribution", ".", "Since", "the", "torsion", "angles", "were", "encoded", "as", "radials", "rather", "than", "degrees", ",", "the", "magnitude", "of", "the", "modification", "was", "reasonable", ".", "In", "order", "to", "be", "able", "to", "determine", "the", "effect", "of", "recombination", "for", "this", "type", "of", "encoding", ",", "this", "real-valued", "GA", "was", "applied", "in", "20", "experiments", "with", "Pc", "=", ":70", ",", "and", "20", "experiments", "with", "Pc", "=", ":0", ".", "An", "ANOVA", "calculation", "A.", "H.", "C.", "van", "Kampen", ":", "The", "effectiveness", "of", "recombination", ".", "129", "revealed", "no", "significant", "difference", "between", "the", "error", "values", "-LRB-", "p", "=", ":465", "-RRB-", "or", "number", "of", "function", "evaluations", "-LRB-", "p", "=", ":808", "-RRB-", ".", "The", "complete", "set", "of", "40", "experiments", "was", ",", "therefore", "compared", "to", "the", "binary", "encoded", "CMS", "scheme", ".", "The", "result", "is", "shown", "in", "Figure", "10.3", ".", "Again", "there", "was", "no", "significant", "difference", "between", "the", "error", "values", "-LRB-", "p", "=", ":423", "-RRB-", ",", "or", "number", "of", "function", "evaluations", "-LRB-", "p", "=", ":248", "-RRB-", ".", "Although", "for", "realencoded", "parameters", "many", "more", "sophisticated", "operators", "are", "available", ",", "no", "further", "attempts", "were", "made", "to", "optimise", "the", "GA", "for", "this", "type", "of", "encoding", ".", "Parameter", "encoding", "Error", "1.5", "2.5", "3.5", "4.5", "5.5", "6.5", "7.5", "real", "binary", "Parameter", "encoding", "Function", "evaluations", "10000", "20000", "30000", "40000", "50000", "60000", "real", "binary", "Figure", "10.11", ":", "A", "comparison", "of", "a", "real", "encoded", "GA", "-LRB-", "40", "experiments", "-RRB-", "with", "a", "binary", "encoded", "GA", "-LRB-", "CMS", "scheme", ",", "84", "experiments", "-RRB-", "The", "experiments", "in", "this", "paper", "demonstrated", "that", "the", "combination", "of", "fitness", "function", ",", "7", "bit", "regular", "binary", "encoding", "or", "real-valued", "encoding", ",", "and", "uniform", "crossover", ",", "did", "not", "lead", "to", "building", "blocks", "that", "could", "be", "recombined", "to", "improved", "solutions", ".", "Consequently", ",", "the", "GA", "was", "easily", "outperformed", "by", "SA", ".", "From", "this", "it", "seems", "fair", "to", "conclude", "that", "changes", "to", "the", "design", "of", "the", "GA", "are", "necessary", ".", "Although", "there", "are", "various", "possibilities", "to", "change", "the", "fitness", "function", ",", "encoding", ",", "or", "crossover", "operator", ",", "only", "few", "guidelines", "are", "available", "that", "may", "provide", "direction", "in", "this", "task", ",", "and", "thereupon", "these", "guidelines", "are", "not", "readily", "applicable", "to", "complex", "optimisation", "task", ".", "Consequently", ",", "experiments", "remain", "the", "main", "resource", "for", "setting", "up", "the", "GA.", ".", "Methods", "for", "finding", "an", "optimal", "mutation", "rate", "were", "suggested", "by", "Hesser", "and", "M?anner", "-LSB-", "266", "-RSB-", ",", "but", "were", "not", "tested", "for", "problems", "of", "large", "complexity", ".", "Davidor", "and", "Ben-Kiki", "-LSB-", "146", "-RSB-", "proposed", "the", "use", "of", "information", "theory", "to", "find", "optimal", "parameterizations", ",", "and", "to", "classify", "optimisation", "problems", "according", "to", "how", "efficiently/robustly", "a", "GA", "performs", ".", "This", "research", "also", "requires", "further", "investigations", "before", "it", "can", "be", "of", "assistance", "in", "designing", "a", "GA.", ".", "Manderick", "introduced", "the", "concept", "of", "forma", "analysis", "-LSB-", "477", "-RSB-", ",", "which", "might", "be", "helpful", "in", "designing", "operators", "for", "specific", "problems", "but", "is", "difficult", "to", "apply", ".", "Representational", "issues", "were", ",", "for", "instance", ",", "discussed", "by", "Liepins", "and", "Vose", "-LSB-", "372", "-RSB-", "and", "Tate", "and", "Smith", "-LSB-", "546", "-RSB-", ".", "Most", "promising", "seems", "the", "analysis", "of", "the", "search", "space", ",", "which", "might", "contribute", "to", "a", "better", "understanding", "of", "the", "GA", "search", ",", "and", "consequently", ",", "its", "design", ".", "However", ",", "this", "approach", "is", "still", "subject", "of", "many", "investigations", "-LSB-", "326", ",", "324", ",", "325", ",", "128", ",", "282", ",", "313", ",", "193", ",", "395", "-RSB-", ",", "and", "not", "yet", "applicable", "to", "real-world", "problems", ".", "130", "Proceedings", "of", "the", "2NWGA", ",", "Vaasa", ",", "Finland", ",", "19", "-", "23", "August", "1996", "The", "results", "of", "the", "present", "study", "are", "hard", "to", "generalise", "to", "other", "problem", "domains", ",", "or", "even", "to", "the", "same", "type", "of", "problems", ".", "Penersen", "and", "Moult", "-LSB-", "464", "-RSB-", "gave", "a", "brief", "overview", "of", "GA", "applications", "for", "protein", "structure", "determination", ",", "and", "discuss", "a", "comparison", "to", "molecular", "dynamics", "and", "Monte", "Carlo", "methods", ".", "They", "suggest", "that", "the", "GA", "may", "be", "preferable", "in", "some", "situations", ",", "but", "no", "details", "were", "given", "on", "the", "effectiveness", "of", "recombination", ",", "and", "no", "remarks", "were", "made", "about", "simulated", "annealing", ".", "Sun", "-LSB-", "540", "-RSB-", "also", "performed", "a", "comparative", "study", "on", "GAs", "and", "SA", "for", "protein", "structure", "determination", ",", "and", "showed", "that", "the", "GA", "was", "about", "a", "factor", "100-200", "times", "faster", "than", "SA", ".", "Again", "no", "details", "were", "given", "on", "the", "effectiveness", "of", "recombination", "or", "the", "implementation", "of", "SA", "From", "this", "research", "it", "should", "be", "evident", "that", "every", "GA", "application", "should", "at", "least", "be", "tested", "for", "the", "effectiveness", "of", "crossover", ".", "This", "provides", "more", "knowledge", "about", "applications", "in", "which", "the", "crossover", "operator", "does", "contribute", "to", "the", "search", "performance", ",", "and", "thereby", "may", "provide", "useful", "information", "for", "the", "design", "of", "new", "applications", ".", "It", "should", "be", "noted", "that", "evolutionary", "algorithms", "-LSB-", "109", "-RSB-", "that", "incooperate", "mutation", "only", "-LRB-", "and", "no", "crossover", "-RRB-", "have", "been", "investigated", "for", "many", "years", "in", "the", "fields", "of", "evolutionary", "programming", "-LSB-", "186", ",", "189", "-RSB-", ",", "and", "evolutionary", "strategies", "-LSB-", "481", "-RSB-", ".", "These", "techniques", "have", "been", "applied", "various", "problems", "with", "equal", "success", "as", "genetic", "algorithms", "-LSB-", "126", ",", "381", ",", "408", "-RSB-", ".", "Recombination", "might", "enhance", "the", "search", "but", "a", "comparative", "studies", "of", "GAs", "in", "which", "building", "blocks", "are", "exchanged", "are", "necessary", ".", "10.4", "Conclusion", "This", "research", "demonstrated", "the", "necessity", "for", "testing", "the", "effectiveness", "of", "recombination", ".", "If", "the", "crossover", "operator", "does", "not", "contribute", "to", "the", "performance", "of", "the", "GA", ",", "it", "may", "be", "outperformed", "by", "SA", ".", "The", "ineffectiveness", "of", "crossover", "is", "caused", "by", "an", "inappropriate", "combination", "of", "fitness", "function", ",", "parameter", "encoding", ",", "and", "crossover", "type", ",", "which", "should", "therefore", "be", "given", "special", "attention", "during", "the", "design", "of", "a", "GA.", ".", "Although", "finding", "the", "optimal", "parametrisation", "of", "the", "GA", "is", "subject", "of", "lively", "research", ",", "experiments", "remain", "the", "main", "resource", "for", "setting", "up", "GA", "applications", ".", "Acknowledgments", "F.F.A.", "Hollander", "is", "acknowledged", "for", "his", "contribution", "in", "writing", "a", "large", "part", "of", "the", "software", "to", "manipulate", "structures", "in", "torsion", "angle", "space", ".", "10.5", "Bibliography", "See", "chapter", "bibliography", "at", "the", "end", "of", "this", "proceedings", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "1", "Free-Text", "Answer", "Analysis", "on", "the", "Web", "Bertrand", "Ibrahim", ",", "Ph.D.", ".", "Computer", "Science", "Department1", ",", "University", "of", "Geneva2", "24", ",", "rue", "du", "G?n?ral", "Dufour", "CH-1211", "Geneva", "4", ",", "Switzerland", "E-mail", ":", "Bertrand.Ibrahim@cui.unige.ch", "URL", ":", "http://cuiwww.unige.ch/eao/www/Bertrand.html", "Stephen", "D.", "Franklin", ",", "Ph.D.", ".", "Office", "of", "Academic", "Computing3", ",", "University", "of", "California", ",", "Irvine4", "Irvine", ",", "California", "92717-2225", "E-mail", ":", "franklin@uci.edu", "URL", ":", "http://www.oac.uci.edu/indiv/franklin/", "Bernard", "Levrat", ",", "Ph.D.", ".", "Computer", "Science", "Department", ",", "University", "of", "Geneva", "24", ",", "rue", "du", "G?n?ral", "Dufour", "CH-1211", "Geneva", "4", ",", "Switzerland", "E-mail", ":", "Bernard.Levrat@cui.unige.ch", "Abstract", "The", "World-Wide", "Web", "is", "now", "widely", "used", "for", "educational", "purposes", ".", "Such", "use", "is", "conditioned", "by", "technical", ",", "educational", ",", "and", "social", "factors", "that", "include", "the", "expectations", "and", "understanding", "of", "educators", ".", "While", "many", "authors", "of", "educational", "materials", "are", "content", "to", "exploit", "only", "the", "Web", "'s", "basic", "remote", "document", "delivery", "capabilities", ",", "others", "feel", "that", "education", "involves", "greater", "interaction", "and", "are", "eager", "to", "create", "and", "present", "interactive", "materials", "on", "the", "Web", ".", "Along", "with", "tools", "which", "greatly", "simplify", "the", "preparation", "of", "such", "materials", ",", "one", "needs", "to", "develop", "an", "educationally-centered", "view", "of", "the", "Web", "'s", "technical", "capabilities", ".", "This", "paper", "first", "introduces", "the", "techniques", "that", "are", "currently", "used", "for", "learner", "assessment", ",", "then", "presents", "a", "method", "that", "allows", "educators", "to", "easily", "integrate", "free-text", "answer", "analysis", "to", "their", "Web", "documents", ".", "Various", "implementation", "choices", "are", "also", "discussed", ".", "R?sum", "?", "Le", "World-Wide", "Web", "est", "d?j", "?", "largement", "utilis", "?", "?", "des", "fins", "?", "ducatives", ".", "Cette", "utilisation", "est", "influenc?e", "par", "des", "facteurs", "techniques", ",", "?", "ducatifs", "et", "sociaux", ",", "y", "compris", "les", "attentes", "et", "les", "connaissances", "des", "?", "ducateurs", ".", "Alors", "que", "beaucoup", "d?auteurs", "de", "mat?riel", "?", "ducatif", "se", "contentent", "d?utiliser", "les", "possibilit?s", "de", "transfert", "?", "distance", "du", "Web", ",", "d?autres", "consid?rent", "que", "l", "??", "ducation", "1", ".", "http://cuiwww.unige.ch/ScDep/", "2", ".", "http://www.unige.ch/", "3", ".", "http://www.oac.uci.edu/", "4", ".", "http://www.uci.edu/", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "2", "n?cessite", "plus", "d?interaction", "et", "d?sirent", "cr?er", "et", "pr?senter", "du", "mat?riel", "interactif", "sur", "le", "Web", ".", "En", "plus", "des", "outils", "pour", "simplifier", "autant", "que", "possible", "la", "pr?paration", "de", "ce", "genre", "de", "mat?riel", ",", "il", "est", "n?cessaire", "de", "d?velopper", "une", "vision", "des", "possibilit?s", "techniques", "du", "Web", "qui", "se", "concentre", "sur", "les", "aspects", "?", "ducatifs", ".", "Cet", "article", "?", "num?re", "d?abord", "les", "techniques", "actuellement", "utilis?es", "pour", "l", "??", "valuation", "de", "l?apprenant", ",", "puis", "pr?sente", "une", "m?thode", "qui", "permet", "aux", "?", "ducateurs", "de", "facilement", "int", "?", "-", "grer", "de", "l?analyse", "de", "r?ponse", "en", "texte", "libre", "dans", "leurs", "documents", "WWW", ".", "Diverses", "possibilit?s", "d?implantations", "sont", "ensuite", "discut?es", ".", "Mots-cl", "?", "s", ":", "?", "ducation", ",", "WWW", ",", "World-Wide", "Web", ",", "documents", "interactifs", ",", "analyse", "de", "r?ponse", ",", "contr?le", "de", "connaissances", "1", ".", "Introduction", "The", "content", "of", "the", "World-Wide", "Web", "is", "growing", "at", "a", "more", "rapid", "rate", "than", "any", "previous", "information", "dissemination", "mechanism", ",", "and", "the", "tools", "and", "techniques", "available", "for", "providing", "and", "accessing", "such", "content", "appear", "to", "be", "growing", "at", "only", "a", "slightly", "slower", "rate", ".", "The", "Web", "is", "now", "widely", "appreciated", "and", "deployed", "within", "the", "educational", "community", "as", "a", "multimedia", "document", "delivery", "mechanism", ".", "There", "is", "also", "growing", "awareness", "of", "its", "very", "substantial", "capabilities", "for", "interactive", "use", ",", "coupling", "the", "computational", "and", "information", "processing", "capabilities", "of", "local", "personal", "computers", "with", "those", "of", "larger", "shared-use", "systems", ".", "It", "has", "long", "been", "recognized", ",", "within", "the", "computer-based", "learning", "community", "that", "the", "quality", "of", "computer-based", "educational", "material", "was", "highly", "dependent", "on", "the", "quality", "of", "the", "assessment", "of", "the", "learner", ".", "Indeed", ",", "good", "educational", "material", "needs", "to", "adapt", "to", "learners", "'", "misconceptions", ".", "One", "should", "thus", "develop", "and", "deliver", "interactive", "courses", "which", "go", "beyond", "multimedia", "course", "materials", "to", "incorporate", "assessment", "of", "student", "progress", ".", "2", ".", "Overview", "of", "current", "assessment", "techniques", "used", "on", "the", "Web", "As", "Ulrik", "Schroeder1", "stated", "in", "his", "``", "HyperScript", "-", "innovative", "educational", "use", "of", "WWW", "``", "2", "position", "paper", ",", "at", "the", "Teaching", "and", "Training", "Workshop3", "of", "the", "Third", "International", "World-Wide", "Web", "Conference4", ",", "educators", "are", "interested", "in", "using", "the", "Web", "for", "the", "following", "reasons", ":", "?", "one", "can", "build", "search", "and", "retrieval", "functions", "to", "search", "through", "the", "text", "of", "the", "educational", "material", ",", "?", "one", "can", "provide", "cross-referencing", "within", "the", "material", ",", "to", "connect", "semantically", "related", "sections", ",", "?", "one", "can", "provide", "different", "levels", "of", "details", "to", "let", "the", "learners", "focus", "on", "those", "parts", "they", "are", "most", "interested", "in", ",", "?", "one", "can", "integrate", "multimedia", "material", ",", "?", "one", "can", "include", "within", "documents", "information", "gathered", "in", "real", "time", ",", "?", "one", "can", "integrate", "the", "material", "with", "other", "campus-wide", "information", ",", "?", "the", "learner", "can", "interact", "via", "forms", "and", "server-side", "programs", ",", "?", "the", "educational", "material", "can", "use", "the", "wealth", "of", "information", "resources", "available", "worldwide", ".", "1", ".", "http://www.isa.informatik.th-darmstadt.de/~uli/ulrik.html", "2", ".", "http://vim.ecs.soton.ac.uk/workshop-h-ulrik.html", "3", ".", "http://vim.ecs.soton.ac.uk/workshop-h.html", "4", ".", "http://www.igd.fhg.de/www95.html", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "3", "A", "key", "point", "in", "this", "list", "is", "learner", "interaction", ",", "and", "educational", "material", "that", "is", "available", "on", "the", "Web", "is", "often", "weak", "on", "that", "aspect", ".", "As", "Schroeder", "points", "out", ",", "good", "educational", "material", "should", "provide", "for", "active", ",", "task-driven", "and", "goal-oriented", "learning", "and", "encourage", "active", "student", "participation", ".", "We", "would", "add", "to", "this", "that", "the", "material", "should", "provide", "for", "adequate", "help", "and", "individualized", "interaction", ",", "based", "on", "an", "extensive", "assessment", "of", "the", "learner", "'s", "abilities", ".", "Many", "educators", ",", "even", "those", "who", "have", "produced", "their", "own", "Web", "documents", ",", "do", "not", "see", "construction", "of", "such", "interactive", "materials", "on", "the", "Web", "as", "a", "realistic", "possibility", "for", "themselves", ".", "Part", "of", "the", "reason", "is", "that", "they", "view", "the", "Web", "as", "a", "document", "delivery", "mechanism", "and", "thus", "participate", "only", "as", "authors", "of", "particular", "documents", ".", "One", "can", "move", "beyond", "this", "both", "by", "improving", "understanding", "of", "the", "mechanisms", "of", "interactive", "documents", "and", "by", "using", "tools", "which", "help", "to", "create", "such", "materials", ".", "We", "turn", "first", "to", "the", "latter", "approach", ".", "The", "first", "step", "beyond", "simple", "document", "delivery", "on", "the", "Web", "is", "the", "use", "of", "interactive", "forms1", "and", "there", "are", "an", "impressive", "number", "of", "very", "good", "explanations2", "of", "this", "capability", ".", "Most", "of", "these", "explanations", ",", "however", ",", "fall", "short", "of", "educators", "'", "expectations", "in", "two", "respects", ".", "First", ",", "they", "presume", "that", "the", "creation", "of", "a", "CGI-compliant3", "program", "to", "handle", "the", "form", "input", "is", "a", "task", "the", "reader", "can", "reasonably", "undertake", ".", "Second", ",", "educationally", "effective", "feedback", "to", "the", "learner", "often", "must", "be", "based", "on", "input", "other", "than", "the", "learner", "'s", "most", "recent", "response", ".", "In", "both", "these", "cases", ",", "though", ",", "providing", "tools", "and", "explanations", "of", "those", "tools", "oriented", "to", "the", "needs", "and", "understanding", "of", "educators", "can", "overcome", "these", "obstacles", ".", "One", "way", "educators", "can", "incorporate", "interaction", "with", "the", "learner", "in", "the", "documents", "they", "author", "is", "through", "the", "use", "of", "special", "tools", "that", "allow", "for", "the", "automatic", "handling", "of", "answers", "to", "questions", "within", "Web", "documents", ".", "For", "instance", ",", "David", "A.", "Wheeler", "'s", "4", "Mklesson5", "downloadable", "tool", "lets", "one", "add", "multiple", "choice", "questions", "at", "the", "end", "of", "a", "document", ",", "with", "a", "different", "link", "attached", "to", "each", "possible", "answer", ".", "While", "the", "merit", "of", "multiple-choice", "test", "is", "debatable", ",", "it", "is", "certainly", "true", "that", "these", "tools", "lower", "the", "technological", "threshold", "for", "producing", "Web-based", "materials", "by", "those", "instructors", "who", "value", "such", "testing", "and", "that", "these", "tools", "open", "the", "door", "to", "other", "uses", "of", "the", "Web", "as", "well", ".", "A", "more", "educationally", "ambitious", "and", "effective", "collection", "of", "interactive", "techniques", "is", "facilitated", "by", "Neal", "M.", "Holtz", "'s", "6", "Tutorial", "Gateway7", ",", "which", "lets", "one", "include", "questions", "involving", "multiple", "choice", ",", "true/false", ",", "single", "numeric", ",", "and", "single", "algebraic", "expression", "answers", ".", "Numeric", "and", "algebraic", "answers", "require", "form", "support", "in", "the", "WWW", "browser", "and", "the", "answer", "analysis", "involves", "a", "gateway", "program", "that", "will", "return", "an", "appropriate", "URL", "based", "on", "the", "answer", ".", "It", "is", "however", "a", "common", "misconception", "that", "going", "beyond", "these", "answer", "handling", "techniques", "is", "much", "too", "difficult", "to", "be", "worth", "integrating", "in", "small", "scale", "educational", "material", ".", "Indeed", ",", "in", "spite", "of", "the", "fact", "that", "many", "educators", "recognize", "that", "certain", "objectives", "can", "only", "be", "reached", "by", "using", "open", "questions", "and", "free", "text", "answers", ",", "most", "people", "who", "tackle", "the", "problem", "of", "handling", "learner", "answers", "to", "questions", "consider", "that", "free", "text", "answer", "analysis", "is", "too", "complex", "a", "task", "to", "be", "manage", "-", "1", ".", "http://www.w3.org/hypertext/WWW/MarkUp/html-spec/html-spec_8.html#SEC7", "2", "2", ".", "http://www.stars.com/Vlib/Providers/Forms.html", "3", ".", "http://hoohoo.ncsa.uiuc.edu/cgi/overview.html", "4", ".", "http://lglwww.epfl.ch/Ada/Tutorials/Lovelace/dwheeler.html", "5", ".", "http://lglwww.epfl.ch/Ada/Tutorials/Lovelace/userg.html", "6", ".", "http://www.civeng.carleton.ca/People/Faculty/Neal_Holtz/Bio.html", "7", ".", "http://www.civeng.carleton.ca/~nholtz/tut/doc/doc.html", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "4", "able", "with", "current", "software", "technology", ",", "usually", "referring", "to", "artificial", "intelligence", "techniques", "to", "do", "lexical", ",", "syntactic", "and", "semantic", "analysis", "of", "the", "user", "input", ".", "We", "will", "demonstrate", "further", "in", "this", "paper", "that", "reasonably", "simple", "techniques", "can", "achieve", "assessments", "protocols", "that", "do", "not", "allow", "the", "learner", "to", "guess", "likely", "answers", "from", "the", "questions", "that", "are", "formulated", ",", "thus", "ensuring", "a", "more", "reliable", "assessment", "of", "the", "learner", "'s", "knowledge", ".", "3", ".", "The", "AnswerAnalysis", "module", "People", "tend", "to", "forget", "that", "rather", "simple", "pattern-matching", "techniques", "can", "be", "used", "to", "achieve", "freetext", "answer", "analysis", "with", "very", "reasonable", "effectiveness", ".", "For", "instance", ",", "the", "research", "group", "on", "computer", "assisted", "learning1", "at", "the", "Computer", "Science", "department", "of", "the", "University", "of", "Geneva", "has", "developed", ",", "and", "used", "in", "stand-alone", "CBL", "programs", ",", "pattern", "matching", "tools", "-LRB-", "Franklin", "et", "al.", ",", "1985", "-RRB-", "that", "make", "it", "rather", "easy", "to", "specify", ",", "in", "a", "symbolic", "formalism", ",", "criteria", "for", "various", "anticipated", "answer", "categories", ".", "The", "``", "rules", "``", "2", "used", "to", "specify", "answer", "analysis", "are", "stored", "separately", "from", "the", "actual", "educational", "material", "to", "ease", "translation", "and", "maintenance", ".", "This", "answer", "analysis", "uses", "simple", "string", "comparison", "to", "determine", "if", "the", "user", "input", "-LRB-", "representing", "the", "student", "'s", "response", "to", "a", "question", "-RRB-", "matches", "an", "expected", "response", "category", "as", "specified", "in", "the", "rules", "written", "by", "the", "designers", "of", "the", "material", ".", "These", "rules", "follow", "a", "syntax", "that", "can", "be", "easily", "mastered", "by", "teachers", "participating", "in", "the", "original", "design", ",", "or", "by", "those", "who", "may", "have", "to", "modify", "the", "rules", "to", "handle", "situations", "overlooked", "in", "the", "original", "design", ".", "The", "approach", "is", "easy", "enough", "to", "use", "to", "allow", "the", "educators", "to", "remain", "in", "control", "of", "all", "the", "various", "aspects", "that", "decide", "of", "the", "pedagogical", "value", "of", "the", "educational", "material", ".", "Basically", ",", "the", "rule", "formalism", "allows", "the", "designers", "to", "specify", "combination", "of", "words", "that", "should", "or", "should", "not", "be", "found", "in", "the", "learner", "'s", "answer", ".", "Lists", "of", "synonyms", ",", "as", "well", "as", "partial", "words", "can", "also", "be", "provided", ".", "A", "detailed", "description", "is", "available", "in", "the", "on-line", "documentation3", ".", "We", "will", "therefore", "only", "examine", "here", "a", "simple", "example", "that", "is", "used", "to", "check", "if", "a", "learner", "answered", "something", "equivalent", "to", "``", "yes", "''", ":", "_", "YES", "_", "|", "_", "YEP", "_", "|", "_", "OK", "_", "|", "_", "RIGHT", "_", "|", "_", "FINE", "_", "|", "_", "YEA", "|", "_", "OF", "COURSE", "_", "|", "_", "SURE", "_", "|", "and", "|", "not", "|", "_", "NO", "_", "|", "_", "NOT", "_", "|", "N'T", "_", "In", "this", "notation", ",", "all", "the", "words", "that", "should", "be", "matched", "against", "the", "learner", "'s", "answer", "are", "in", "upper", "case", ",", "the", "underline", "character", "stands", "for", "any", "character", "that", "is", "not", "a", "letter", "or", "a", "number", ",", "the", "vertical", "bar", "separates", "alternatives", "-LRB-", "equivalent", "to", "an", "or", "operator", "-RRB-", ",", "and", "''", "|", "and", "|", "not", "|", "''", "is", "an", "operator", "indicating", "that", "none", "of", "the", "alternatives", "that", "follow", "should", "be", "found", ".", "4", ".", "Adaptation", "to", "the", "Web", "In", "spite", "of", "its", "simplicity", ",", "this", "approach", "gives", "astonishingly", "good", "results", "with", "carefully", "chosen", "questions", "and", "well", "thought", "rules", "for", "expected", "answers", ".", "Its", "integration", "to", "WWW-based", "material", "can", "be", "done", "in", "various", "ways", ".", "The", "tools", "based", "on", "this", "mechanism", "are", "meant", "to", "be", "used", "by", "document", "authors", "who", "want", "to", "include", ",", "in", "their", "documents", ",", "input", "fields", "that", "the", "document", "reader", "-LRB-", "the", "learner", "-RRB-", "can", "fill", "in", ",", "and", "that", "will", "lead", "to", "different", "other", "documents", "based", "on", "the", "-LRB-", "free", "text", "-RRB-", "input", "that", "the", "learner", "has", "given", ".", "1", ".", "http://cuiwww.unige.ch/eao/www/CBL.papers/CBL.group.intro.e.html", "2", ".", "http://cuiwww.unige.ch/eao/www/FreeText/answeris.html", "3", ".", "http://cuiwww.unige.ch/eao/www/FreeText/answeris.html", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "5", "We", "have", "currently", "implemented", "two", "approaches", "involving", "server-side", "computing", ".", "Both", "approaches", "assume", "the", "use", "of", "a", "simple", "form", "with", "a", "text", "input", "widget", "for", "the", "learner", "input", ".", "The", "form", "contains", "the", "various", "analysis", "criteria", "and", "corresponding", "URLs", "in", "hidden", "fields", ".", "This", "information", "will", "be", "used", "by", "a", "cgi-bin", "script", "on", "an", "HTTP", "server", "to", "do", "the", "pattern", "matching", "and", "select", "the", "appropriate", "URL", "to", "send", "back", "a", "``", "Location", ":", "``", "1", "reply", "to", "the", "WWW", "client", "that", "will", ",", "in", "turn", ",", "display", "the", "corresponding", "document", ".", "Authors", "do", "not", "need", "to", "know", "how", "to", "put", "forms", "in", "their", "documents", ",", "as", "our", "tools", "will", "do", "it", "automatically", "for", "them", ".", "The", "author", "can", "specify", "the", "criteria", "that", "will", "be", "matched", "against", "the", "user", "input", "to", "classify", "this", "input", "in", "different", "categories", ".", "All", "the", "possible", "input", "that", "match", "a", "given", "category", "will", "trigger", "the", "same", "behavior", ",", "i.e.", "will", "lead", "to", "the", "same", "document", ".", "In", "this", "model", ",", "we", "are", "making", "the", "assumption", "that", "a", "document", "will", "usually", "contain", "only", "one", "such", "text", "input", "form", "or", ",", "if", "the", "document", "contains", "more", "than", "one", "form", ",", "only", "one", "will", "be", "used", "at", "a", "time", ",", "leading", "to", "one", "of", "many", "possible", "successor", "documents", ",", "based", "on", "the", "category", "of", "the", "user", "input", ".", "The", "two", "approaches", "we", "have", "implemented", "involve", "on-line", "form-based", "tools", "to", "automatically", "create", "such", "a", "user", "input", "form", "and", "embed", "it", "in", "an", "HTML", "document", ".", "An", "initial", "prototype2", "assumed", "that", "all", "the", "information", "necessary", "to", "create", "the", "answer", "form", "-LRB-", "with", "hidden", "fields", "containing", "the", "criteria", "and", "the", "corresponding", "URLs", "-RRB-", "would", "be", "entered", "via", "an", "on-line", "form3", ".", "This", "was", "easy", "to", "put", "in", "place", ",", "but", "was", "not", "very", "convenient", "for", "maintenance", ",", "as", "the", "content", "of", "the", "various", "fields", "of", "the", "form", "can", "not", "be", "saved", "by", "the", "designers", "for", "later", "modification", "and", "thus", "have", "to", "be", "re-entered", "every", "time", "the", "designers", "decide", "to", "change", "the", "analysis", "criteria", ",", "unless", "the", "filled", "form", "is", "still", "available", "within", "the", "history", "cache", "of", "the", "Web", "browser", ".", "The", "second", "prototype4", "assumes", "that", "the", "criteria", "are", "prepared", "in", "a", "www-accessible", "file5", "and", "that", "a", "form6", "is", "mainly", "used", "to", "give", "the", "URL", "of", "the", "original", "document", "-LRB-", "in", "which", "an", "answer", "form", "must", "be", "embedded", "-RRB-", "and", "the", "URL", "of", "the", "criteria", "file", ".", "This", "makes", "it", "easier", "to", "update", "and", "maintain", "the", "criteria", "for", "a", "whole", "set", "of", "documents", "with", "embedded", "answer", "forms", ".", "When", "an", "educator", "uses", "this", "second", "prototype", ",", "providing", "the", "two", "URLs", "and", "the", "symbol", "used", "as", "a", "placeholder", ",", "the", "server", "fetches", "both", "the", "original", "document", "and", "the", "criteria", "file", ",", "finds", "the", "analysis", "patterns", "in", "the", "latter", ",", "replaces", ",", "in", "the", "original", "document", ",", "the", "placeholder", "with", "the", "form", "that", "the", "learner", "will", "see", "and", "that", "contains", "all", "the", "pattern", "matching", "information", "in", "hidden", "fields", ".", "The", "resulting", "document", "is", "then", "returned", "to", "the", "educator", "'s", "browser", ",", "ready", "to", "be", "saved", "locally", "-LRB-", "e.g.", "using", "the", "File/Save", "As", "browser", "menu", "item", "-RRB-", "and", "integrated", "into", "a", "set", "of", "educational", "documents", ".", "When", "a", "learner", "uses", "the", "resulting", "document", "and", "fills", "in", "the", "form", ",", "the", "same", "pattern", "matching", "program", "is", "activated", "as", "with", "the", "first", "prototype", ".", "5", ".", "Client-side", "processing", "As", "powerful", "an", "educational", "tool", "as", "server-side", "computing", "can", "be", ",", "it", "is", "not", "without", "its", "limitations", ".", "Network", "bandwidth", "and", "cumulative", "system", "load", "on", "a", "server", "required", "to", "meet", "non-trivial", "computational", "demands", "from", "multiple", "simultaneous", "requests", "can", "easily", "turn", "``", "interactive", "''", "into", "``", "slow", "1", ".", "http://hoohoo.ncsa.uiuc.edu/docs/cgi/out.html", "2", ".", "http://cuiwww.unige.ch/eao/www/FreeText/Info.html", "3", ".", "http://cuiwww.unige.ch/eao/www/FreeText/DeveloperForm.html", "4", ".", "http://cuiwww.unige.ch/eao/www/FreeText/Info2.html", "5", ".", "http://cuiwww.unige.ch/eao/www/FreeText/TempCrit.txt", "6", ".", "http://cuiwww.unige.ch/eao/www/FreeText/DeveloperForm2.html", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "6", "batch", "processing", ".", "''", "The", "situation", "is", "aggravated", "by", "the", "comparison", "with", "the", "speed", "of", "local", "processing", "and", "by", "the", "importance", "of", "predictable-time-to-respond", "in", "an", "important", "and", "extensive", "range", "of", "educational", "applications", ".", "Educators", "can", "always", "install", "the", "pattern", "matching", "software", "on", "their", "local", "WWW", "server", ",", "to", "be", "less", "dependent", "on", "some", "remote", "machine", "over", "which", "they", "have", "no", "control", ",", "but", "this", "raises", "portability", "issues", "that", "are", "not", "necessarily", "obvious", "to", "solve", ".", "An", "alternative", "to", "the", "server-side", "pattern-matching", "approach", "described", "above", "is", "to", "use", "client-side", "computing", "to", "do", "all", "the", "pattern", "matching", "directly", "on", "the", "learner", "'s", "machine", ".", "Similarly", "to", "the", "server-side", "approach", ",", "the", "pattern", "matching", "information", "would", "be", "embedded", "in", "the", "document", "displayed", "to", "the", "learner", ",", "but", "this", "time", "as", "parameters", "to", "an", "applet", "that", "will", "handle", "both", "the", "learner", "'s", "input", "and", "the", "pattern", "matching", ".", "This", "solution", "would", "still", "require", "access", "to", "a", "remote", "server", "the", "first", "time", "the", "applet", "is", "loaded", ",", "but", "hopefully", "not", "the", "following", "times", ",", "assuming", "that", "the", "appletcapable", "browser", "caches", "it", "locally", "and", "reuses", "it", "whenever", "this", "same", "applet", "is", "used", "within", "other", "documents", ".", "Implementing", "this", "client-side", "approach", "mostly", "consists", "in", "translating", "the", "pattern", "matching", "code", "to", "whichever", "programming", "language", "appears", "to", "be", "supported", "by", "the", "widest", "range", "of", "Web", "browsers", ".", "We", "are", "currently", "working", "on", "an", "implementation", "based", "on", "the", "Ada", "to", "Java", "bytecode", "compiler1", "from", "Intermetrics", ",", "that", "will", "be", "compatible", "with", "Java2-enabled", "browsers", ".", "The", "cgi-bin", "script", "that", "currently", "substitutes", "a", "placeholder", "with", "an", "answer", "input", "form", "in", "a", "document", ",", "will", "simply", "be", "updated", "to", "embed", "an", "applet", "tag", "instead", ".", "The", "educators", "will", "not", "need", "to", "see", "any", "change", "in", "the", "way", "they", "prepare", "their", "documents", ",", "compared", "to", "the", "existing", "prototypes", "mentioned", "earlier", ".", "6", ".", "Comparison", "of", "the", "two", "approaches", "Even", "though", "in", "most", "cases", "it", "will", "be", "more", "expedient", "to", "do", "the", "pattern", "matching", "on", "the", "learner", "'s", "system", ",", "there", "can", "be", "cases", "where", "analyzing", "the", "answers", "on", "a", "server", "may", "make", "more", "sense", ".", "A", "centralized", "approach", "makes", "it", "indeed", "easier", "to", "collect", "statistics", "and", "keep", "a", "database", "of", "user", "profiles", "-LRB-", "assuming", "that", "the", "learners", "enter", "their", "name", "before", "they", "can", "start", "using", "the", "educational", "material", "-RRB-", ".", "On", "the", "other", "hand", ",", "the", "client-side", "approach", "makes", "it", "easier", "to", "keep", "the", "profile", "information", "directly", "in", "the", "learners", "'", "disk", "space", ",", "allowing", "the", "learners", "to", "remain", "anonymous", "if", "they", "wish", "so", ".", "Another", "major", "difference", "between", "the", "two", "approaches", "is", "the", "ability", "to", "time", "user", "input", ".", "With", "the", "server-side", "approach", ",", "a", "mechanism", "could", "be", "put", "in", "place", "to", "evaluate", "the", "time", "elapsed", "between", "the", "moment", "the", "document", "with", "the", "answer", "input", "form", "was", "sent", "to", "the", "learner", "and", "the", "time", "at", "which", "the", "answer", "is", "sent", "back", "by", "the", "learner", ",", "but", "it", "would", "be", "difficult", ",", "using", "the", "standard", "HTTP", "protocol3", ",", "to", "modify", "the", "document", "seen", "by", "the", "learner", "without", "any", "learner", "intervention", "-LRB-", "the", "authors", "are", ",", "of", "course", ",", "aware", "of", "the", "Netscape", "server-push", "technique4", ",", "but", "it", "is", "not", "a", "standard", "use", "of", "the", "HTTP", "protocol", "and", "it", "is", "not", "available", "with", "public-domain", "WWW", "server", "software", "-RRB-", ".", "On", "the", "other", "hand", ",", "it", "would", "be", "fairly", "easy", ",", "with", "the", "client-side", "approach", ",", "to", "implement", "in", "the", "user", "input", "applet", "a", "specific", "behavior", "based", "on", "the", "time", "elapsed", "since", "the", "applet", "started", ".", "The", "respective", "advantages", "and", "disadvantages", "of", "both", "approaches", "can", "be", "summarized", "as", "follows", ":", "1", ".", "http://www.inmet.com/java.html", "2", ".", "http://java.sun.com/", "3", ".", "http://www.w3.org/hypertext/WWW/Protocols/HTTP/HTTP2.html", "4", ".", "http://home.netscape.com/assist/net_sites/pushpull.html", "Free-text", "Answer", "Analysis", "on", "the", "Web", "B.", "Ibrahim", ",", "Stephen", "D.", "Franklin", ",", "B.", "Levrat", "7", "There", "is", "no", "need", "to", "choose", "between", "the", "two", "approaches", ".", "Indeed", ",", "it", "may", "be", "that", "one", "reverts", "to", "a", "server-based", "analysis", "if", "a", "client-side", "one", "is", "not", "possible", ".", "Or", "it", "may", "be", "that", "one", "falls", "back", "on", "client-side", "processing", "when", "server", "response", "is", "unacceptable", ".", "However", ",", "based", "on", "the", "above", "table", ",", "one", "can", "see", "that", "the", "two", "approaches", "are", "not", "completely", "equivalent", "and", "the", "choice", "an", "educator", "will", "make", "will", "depend", "on", "individual", "factors", "and", "the", "relative", "importance", "of", "the", "various", "advantages", "and", "disadvantages", "that", "we", "have", "listed", ".", "7", ".", "Conclusion", "We", "have", "described", ",", "in", "this", "paper", ",", "a", "method", "and", "various", "implementations", "that", "allow", "educators", "to", "embed", "free-text", "answer", "analysis", "within", "Web", "documents", ".", "This", "method", "allows", "for", "better", "assessment", "of", "the", "knowledge", "acquisition", "process", ",", "since", "there", "need", "not", "be", "any", "element", "of", "answer", "within", "the", "questions", "that", "are", "asked", "to", "the", "learners", ".", "This", "method", "has", "successfully", "been", "used", "in", "the", "past", "within", "stand-alone", "computer", "based", "learning", "material", "and", "we", "have", "shown", "that", "this", "method", "was", "applicable", "to", "today", "'s", "standard", "Web", "technology", "-LRB-", "forms", "-RRB-", "as", "well", "as", "to", "more", "experimental", "technology", "-LRB-", "applets", "-RRB-", ".", "Moreover", ",", "we", "have", "shown", "that", "the", "interface", "to", "the", "developers", "could", "be", "the", "same", "regardless", "of", "the", "technological", "choice", ".", "Balancing", "technical", "capabilities", "and", "educational", "realities", "has", "never", "been", "an", "easy", "task", ".", "The", "World", "Wide", "Web", "has", "opened", "a", "range", "of", "educational", "opportunities", "unprecedented", "in", "their", "scale", "and", "scope", ".", "Appreciable", "progress", "has", "already", "been", "made", "and", ",", "looking", "ahead", "to", "new", "possibilities", ",", "we", "see", "the", "importance", "of", "integrating", "Web", "technology", "-LRB-", "and", "limitations", "-RRB-", "with", "the", "educationallycentered", "perspective", "that", "is", "created", "through", "a", "focus", "on", "specific", "curricular", "challenges", ".", "8", ".", "References", "Franklin", "-LRB-", "Stephen", "D.", "-RRB-", ",", "Levrat", "-LRB-", "Bernard", "-RRB-", ":", "1985", ",", "``", "Portability", "of", "Computer", "Based", "Learning", "Materials", "across", "machines", "and", "across", "natural", "languages", "''", ",", "Computers", "In", "Education", ",", "K.", "Duncan", "and", "D.", "Harris", "-LRB-", "eds", ".", "-RRB-", ",", "Elsevier", "Science", "Publishers", "B.V.", "-LRB-", "North-Holland", "-RRB-", ",", "IFIP", ",", "pp.", "291-295", ".", "advantages", "disadvantages", "server-side", "pattern", "matching", "?", "easy", "to", "put", "in", "place", ".", "?", "easier", "to", "maintain", "a", "database", "of", "learner", "profiles", ".", "?", "usable", "with", "any", "browser", "supporting", "forms", ".", "?", "more", "network", "traffic", ".", "?", "slower", "response", "time", ".", "?", "no", "learner", "profile", "if", "anonymity", "has", "to", "be", "preserved", ".", "?", "individualization", "limited", "to", "varying", "the", "documents", "that", "are", "shown", "to", "the", "learner", ".", "?", "timing", "can", "not", "be", "used", "flexibly", "client-side", "pattern", "matching", "?", "less", "network", "traffic", "?", "instant", "response", "time", "?", "anonymity", "can", "be", "preserved", "while", "maintaining", "a", "local", "learner", "profile", ".", "?", "individualization", "can", "consist", "in", "more", "than", "just", "varying", "the", "documents", "that", "are", "shown", "to", "the", "learner", ".", "?", "timing", "can", "be", "used", "easily", "to", "vary", "the", "learning", "experience", ".", "?", "more", "difficult", "to", "maintain", "a", "database", "of", "learner", "profiles", ".", "?", "more", "complex", "to", "put", "in", "place", ".", "?", "requires", "a", "browser", "supporting", "applets", ".", "?", "may", "require", "to", "lower", "security", "protection", "for", "applets", ",", "unless", "all", "educators", "install", "a", "copy", "of", "the", "applet", "on", "the", "same", "server", "as", "the", "educational", "material", "." ]

[ "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Minimum-Length", "Fundamental-Cycle", "Set", "Problem", ":", "A", "New", "Heuristic", "and", "an", "SIMD", "Implementation", "?", "Narsingh", "Deo", "Nishit", "Kumar", "James", "Parsons", "Tech", ".", "Rep.", "CS-TR-95-04", "Department", "of", "Computer", "Science", "University", "of", "Central", "Florida", ",", "Orlando", ",", "FL", "32816", "?", "Research", "partially", "supported", "by", "NSF", "grant", "CDA-9115281", "Abstract", "Cycle", "basis", "is", "a", "useful", "tool", "for", "graph", "analysis", "and", "algorithms", ".", "One", "well-known", "method", "to", "obtain", "cycle", "basis", "of", "a", "-LRB-", "connected", "-RRB-", "graph", "is", "to", "generate", "the", "set", "of", "all", "fundamental", "cycles", "with", "respect", "to", "some", "spanning", "tree", ".", "For", "a", "given", "graph", ",", "finding", "the", "spanning", "tree", "for", "which", "the", "sum", "of", "the", "lengths", "of", "all", "the", "fundamental", "cycles", "is", "the", "smallest", "is", "called", "the", "Minimum-Length", "Fundamental-Cycle", "Set", "problem", "-LRB-", "MFS", "-RRB-", ".", "It", "is", "known", "to", "be", "NP-complete", ".", "Suboptimal", "solution", "to", "the", "MFS", "problem", "has", "been", "applied", "to", "speed", "up", "the", "algorithm", "for", "generating", "minimal", "perfect", "hash", "function", ".", "In", "this", "paper", "we", "propose", "a", "new", "heuristic", "for", "the", "MFS", "problem", ".", "We", "also", "implemented", "the", "new", "heuristic", "and", "the", "best", "published", "heuristic", "on", "a", "massively", "parallel", "SIMD", "machine", "-LRB-", "MasPar", "MP-1", "-RRB-", ".", "Programming", "on", "the", "MasPar", "machine", "involved", "a", "careful", "implementation", "of", "PRAM-type", "algorithms", "by", "exploiting", "the", "built-in", "routines", ".", "We", "compare", "the", "two", "heuristics", "on", "graphs", "of", "varying", "orders", "and", "densities", ";", "the", "largest", "of", "them", "has", "8192", "nodes", "and", "about", "16", "million", "edges", ".", "The", "runtime", "and", "the", "scalability", "issues", "of", "our", "parallel", "implementations", "are", "also", "addressed", ".", "1", "Introduction", "A", "set", "of", "cycles", "which", "forms", "the", "basis", "of", "the", "cycle", "subspace", "of", "a", "given", "graph", "is", "called", "its", "cycle", "basis", "-LSB-", "9", "-RSB-", ".", "It", "is", "used", "in", "analyzing", "the", "cyclic", "structure", "of", "a", "graph", "and", "other", "related", "properties", ".", "Depending", "on", "the", "application", ",", "cycle", "bases", "of", "various", "kinds", "are", "used", "-LRB-", "see", "Horton", "-LSB-", "15", "-RSB-", "for", "examples", "-RRB-", ".", "They", "have", "been", "used", "in", "solving", "electric", "networks", "since", "the", "time", "of", "Kirchoff", ".", "More", "recent", "applications", "include", "the", "graph-isomorphism", "problem", "-LSB-", "2", "-RSB-", ",", "the", "frequency", "analysis", "of", "computer", "programs", "-LSB-", "20", "-RSB-", ",", "coding", "ring", "compounds", "in", "organic", "chemistry", "-LSB-", "22", ",", "28", "-RSB-", ",", "and", "looking", "for", "blunders", "in", "survey", "data", "-LSB-", "3", ",", "27", "-RSB-", ".", "One", "well-known", "method", "to", "obtain", "a", "cycle", "basis", "is", "to", "generate", "a", "set", "of", "fundamental", "cycles", ".", "For", "a", "given", "undirected", ",", "unweighted", ",", "connected", "graph", ",", "a", "set", "of", "fundamental", "cycles", "with", "respect", "to", "a", "spanning", "tree", "is", "the", "set", "of", "those", "?", "simple", "cycles", "that", "contain", "exactly", "one", "nontree", "edge", "each", ".", "Here", ",", "?", ",", "the", "nullity", "of", "the", "graph", "with", "n", "nodes", "and", "m", "edges", ",", "is", "equal", "to", "m", "?", "n", "+", "1", ".", "A", "number", "of", "sequential", "algorithms", "for", "generating", "a", "set", "of", "fundamental", "cycles", "have", "been", "proposed", "and", "some", "implemented", "-LSB-", "9", ",", "12", ",", "13", ",", "14", ",", "19", ",", "21", ",", "23", ",", "24", ",", "29", ",", "30", ",", "32", "-RSB-", ".", "Parallel", "algorithms", "for", "the", "problem", "have", "also", "been", "discussed", "in", "the", "literature", "-LSB-", "1", ",", "26", ",", "31", "-RSB-", ".", "Finding", "the", "spanning", "tree", "for", "which", "the", "sum", "of", "the", "lengths", "of", "all", "fundamental", "cycles", "is", "the", "smallest", "is", "the", "Minimum-Length", "Fundamental-Cycle", "Set", "problem", "-LRB-", "MFS", "-RRB-", ".", "Johnson", "-LSB-", "18", "-RSB-", "in", "his", "\\", "NP-completeness", "Column", "''", "refers", "to", "it", "as", "the", "Minimum", "Cycle-Basis", "Spanning", "Tree", "problem", ".", "The", "MFS", "problem", "was", "first", "posed", "by", "Hubicka", "and", "Syslo", "-LSB-", "17", "-RSB-", ".", "It", "was", "later", "conjectured", "to", "be", "a", "NP-hard", "problem", "-LSB-", "10", "-RSB-", ".", "Deo", ",", "Prabhu", ",", "and", "Krishnamoorthy", "finally", "established", "its", "NP-completeness", "by", "transforming", "the", "Shortest", "Total", "Path-Length", "Spanning", "Tree", "problem", "to", "MFS", "-LSB-", "11", "-RSB-", ".", "They", "also", "proposed", "a", "number", "of", "polynomial-time", "heuristics", "and", "made", "a", "conjecture", "that", "the", "total-length", "of", "the", "shortest", "fundamental-cycle", "set", "was", "no", "more", "than", "32", "n2", ".", "-LRB-", "Interestingly", ",", "a", "polynomial-time", "algorithm", "is", "known", "for", "determining", "a", "cycle", "basis", "with", "the", "minimum", "total", "length", "-LSB-", "15", "-RSB-", ".", "It", "is", "also", "shown", "in", "-LSB-", "15", "-RSB-", "that", "the", "length", "of", "a", "shortest", "cycle", "basis", "of", "a", "graph", "is", "no", "more", "than", "32", "-LRB-", "n", "?", "1", "-RRB-", "-LRB-", "n", "?", "2", "-RRB-", ".", "Note", "that", "a", "cycle", "basis", "is", "not", "always", "a", "fundamental-cycle", "set", ",", "since", "it", "may", "not", "correspond", "to", "a", "spanning", "tree", ".", "-RRB-", "Czech", "et", ".", "al.", "encountered", "the", "MFS", "problem", "in", "generating", "minimal", "perfect", "hash", "functions", "-LSB-", "5", "-RSB-", ".", "By", "using", "suboptimal", "solutions", "to", "the", "MFS", "problem", ",", "they", "reported", "to", "have", "achieved", "an", "\\", "orders-of-magnitude", "improvement", "''", "over", "Sager", "'s", "mincycle", "algorithm", ",", "which", "had", "the", "best", "time-complexity", "for", "generating", "minimal", "perfect", "hash", "functions", "at", "that", "time", "-LSB-", "25", "-RSB-", ".", "All", "existing", "approximate", "solutions", "to", "the", "MFS", "problem", "use", "variations", "of", "the", "breadth-first", "search", ";", "the", "variation", "being", "in", "the", "criteria", "to", "select", "a", "new", "node", "to", "explore", "from", "-LRB-", "the", "partial", "tree", "-RRB-", "which", "is", "some", "function", "of", "the", "degrees", "-LRB-", "of", "nodes", "-RRB-", ".", "The", "attempt", "is", "to", "build", "the", "\\", "bushiest", "''", "-LRB-", "i.e.", ",", "internal", "nodes", "in", "the", "tree", "having", "large", "degree", "-RRB-", "and/or", "the", "shortest", "spanning", "tree", ".", "The", "best", "out", "of", "the", "four", "MFS", "heuristics", "proposed", "in", "-LSB-", "11", "-RSB-", ",", "namely", "UE", "-LRB-", "Unexplored", "Edges", "-RRB-", ",", "was", "further", "improved", "to", "yield", "a", "heuristic", "called", "UV", "-LRB-", "Unexplored", "Vertices", "-RRB-", "in", "-LSB-", "4", "-RSB-", ".", "In", "this", "paper", ",", "we", "develop", "a", "totally", "new", "heuristic", ",", "NT", ",", "abbreviating", "NonTree", "edges", ".", "At", "any", "stage", "of", "the", "tree-building", "process", ",", "heuristic", "NT", "explores", "from", "the", "node", "which", "induces", "the", "largest", "number", "of", "new", "nontree", "edges", "-LRB-", "or", "fundamental", "cycles", "-RRB-", "in", "order", "to", "let", "more", "cycles", "be", "formed", "early", "when", "they", "are", "likely", "to", "be", "shorter", ".", "We", "have", "implemented", "both", "heuristics", ",", "UV", "and", "NT", ",", "on", "a", "massively", "parallel", "SIMD", "machine", "-LRB-", "MasPar", "MP-1", "-RRB-", ".", "The", "organization", "of", "the", "rest", "of", "this", "paper", "is", "as", "follows", ":", "Section", "2", "gives", "a", "brief", "description", "of", "our", "implementational", "platform", ",", "MasPar", "MP-1", ".", "In", "Section", "3", "we", "describe", "the", "heuristics", "and", "their", "parallel", "implementations", ",", "which", "cleverly", "exploit", "library", "functions", "in", "the", "MasPar", ".", "Section", "4", "deals", "with", "the", "experimental", "results", ",", "and", "Section", "5", ",", "the", "application", "of", "the", "MFS", "problem", "to", "the", "generation", "of", "minimal", "perfect", "hash", "functions", ".", "Finally", "Section", "6", "gives", "the", "conclusions", ".", "2", "Implementation", "Environment", "The", "heuristics", "were", "implemented", "on", "an", "8192-processor", ",", "massively", "parallel", "SIMD", "machine", ",", "MasPar", "MP-1", ",", "in", "our", "Center", "for", "Parallel", "Computation", ".", "MasPar", "MP-1", "is", "a", "fine-grained", ",", "mesh-connected", "computer", "-LSB-", "7", "-RSB-", ".", "It", "has", "a", "front-end", "processor", "running", "on", "a", "Unix-like", "operating", "system", "-LRB-", "Ultrix", "-RRB-", "and", "a", "Data", "Parallel", "Unit", "-LRB-", "DPU", "-RRB-", "for", "the", "execution", "of", "parallel", "programs", ".", "The", "front-end", "machine", "is", "a", "micro-VAX", "workstation", ".", "The", "DPU", "consists", "of", "an", "Array", "Control", "Unit", "-LRB-", "ACU", "-RRB-", "and", "8192", "Processor", "Elements", "-LRB-", "PEs", "-RRB-", ",", "organized", "as", "a", "two-dimensional", "array", ",", "with", "128", "columns", "and", "64", "rows", ".", "-LRB-", "The", "number", "of", "PEs", "may", "vary", "from", "installation", "to", "installation", ".", "-RRB-", "The", "ACU", "is", "a", "special-purpose", "processor", "for", "controlling", "the", "execution", "of", "all", "the", "PEs", ".", "A", "program", "is", "stored", "in", "a", "special", "local", "memory", "bank", "of", "the", "ACU", ",", "from", "where", "it", "is", "broadcast", "to", "the", "PEs", ",", "simultaneously", ".", "Each", "PE", "consists", "of", "a", "4-bit", "processor", "and", "a", "bank", "of", "-LRB-", "64", "Kbytes", "-RRB-", "local", "memory", ".", "Each", "PE", "is", "connected", "to", "its", "8", "neighbors", "-LRB-", "wrapped", "around", "-RRB-", "in", "a", "connection", "scheme", "called", "xnet", "-LRB-", "i.e.", ",", "a", "PE", "is", "connected", "directly", "to", "its", "East", ",", "West", ",", "North", ",", "South", ",", "North-East", ",", "North-West", ",", "South-East", "and", "South-West", "neighbors", "-RRB-", ".", "The", "PEs", "are", "also", "connected", "through", "a", "global", "router", ".", "Local", "data", "in", "each", "PE", "can", "be", "exchanged", "through", "the", "global", "router", "as", "well", "as", "the", "local", "xnet", ";", "however", ",", "the", "xnet", "configuration", "is", "faster", ",", "but", "requires", "all", "PEs", "getting", "their", "data", "from", "the", "same", "direction", "and", "distance", "at", "a", "given", "time", ".", "MasPar", "MP-1", "also", "provides", "a", "global", "broadcast", "network", "and", "an", "OR-reduction", "network", "to", "allow", "efficient", "communication", "between", "the", "ACU", "and", "the", "array", "of", "PEs", ".", "We", "used", "the", "MasPar", "Parallel", "Language", "-LRB-", "MPL", "-RRB-", "-LSB-", "6", ",", "8", "-RSB-", "to", "implement", "the", "algorithms", ".", "The", "MPL", "is", "an", "extension", "of", "the", "C", "language", ",", "and", "has", "a", "primary", "feature", "of", "adding", "the", "keyword", "plural", "to", "a", "C", "data-declaration", "statement", ".", "A", "plural", "variable", "is", "allocated", "on", "each", "PE", ",", "and", "any", "expression", "that", "involves", "a", "plural", "variable", "is", "computed", "simultaneously", "on", "the", "PEs", ".", "Statements", "under", "a", "plural-if", "statement", "-LRB-", "the", "statement", "`", "if", "-LRB-", "cond", "-RRB-", "'", ",", "where", ",", "`", "cond", "'", "is", "a", "plural", "expression", "-RRB-", "is", "executed", "only", "by", "those", "processors", "which", "evaluate", "`", "cond", "'", "to", "true", ".", "In", "an", "MPL", "program", ",", "this", "statement", "can", "be", "used", "to", "selectively", "activate", "or", "deactivate", "processors", ".", "3", "Heuristics", "and", "Implementation", "3.1", "Definitions", "A", "graph", "is", "denoted", "by", "G", "=", "-LRB-", "V", ";", "E", "-RRB-", "where", ",", "V", "and", "E", "are", "the", "set", "of", "nodes", "and", "edges", ",", "respectively", ",", "with", "jV", "j", "=", "n", "and", "jEj", "=", "m", ".", "The", "minimum", "degree", "of", "all", "nodes", "of", "a", "graph", "is", "denoted", "by", "the", "symbol", ",", "ffi", ",", "and", "the", "maximum", "degree", "by", "?", ".", "Trees", "considered", "in", "rest", "of", "the", "paper", "are", "rooted", ".", "The", "height", "of", "a", "rooted", "tree", "is", "the", "length", "of", "the", "longest", "path", "from", "the", "root", "-LRB-", "to", "the", "farthest", "leaf", "-RRB-", ",", "and", "will", "be", "denoted", "by", "h", ".", "A", "regular", "graph", "of", "degree", "r", "is", "one", "in", "which", "ffi", "=", "?", "=", "r", ".", "A", "torus", "is", "a", "regular", "graph", "of", "degree", "4", "in", "which", "every", "node", "-LRB-", "i", ";", "j", "-RRB-", ",", "<", "=", "i", ";", "j", "<", "pn", ",", "is", "adjacent", "to", "four", "nodes", "given", "by", "-LRB-", "i", "?", "1", "mod", "pn", ";", "j", "-RRB-", "and", "-LRB-", "i", ";", "j", "?", "1", "mod", "pn", "-RRB-", ".", "It", "is", "defined", "only", "for", "those", "values", "of", "n", "which", "are", "perfect", "squares", "of", "integers", ".", "A", "hypercube", "is", "a", "regular", "graph", "of", "degree", "log", "n", "and", "every", "node", ",", "u", ",", "represented", "by", "a", "log", "n-bit", "binary", "string", ",", "is", "adjacent", "to", "nodes", "that", "differ", "from", "u", "in", "exactly", "a", "single", "bit", "position", ".", "It", "is", "defined", "for", "only", "those", "values", "of", "n", "which", "are", "powers", "of", "2", ".", "A", "graph", "generated", "randomly", "by", "letting", "every", "pair", "fu", ";", "vg", "of", "nodes", "to", "have", "an", "edge", "with", "probability", "t", ",", "is", "denoted", "by", "Gn", ";", "t", ",", "for", "a", "given", "value", "of", "n", "and", "t", ",", "3.2", "Heuristics", "UV", "and", "NT", "The", "heuristics", "have", "two", "phases", ",", "they", "are", ":", "-LRB-", "i", "-RRB-", "Tree-Construction", "and", "-LRB-", "ii", "-RRB-", "Cycle-Calculation", ".", "The", "first", "phase", "takes", "an", "input", "graph", "and", "produces", "its", "spanning", "tree", ".", "The", "Cycle-Calculation", "phase", "computes", "the", "total", "length", "of", "the", "fundamental", "cycles", "for", "the", "spanning", "tree", "-LRB-", "generated", "in", "the", "first", "phase", "-RRB-", ".", "In", "the", "Tree-Construction", "phase", ",", "both", "the", "heuristics", "start", "with", "a", "highest-degree", "node", "as", "the", "root", "and", "include", "all", "incident", "edges", "in", "the", "partial", "tree", ".", "Subsequently", ",", "the", "partial", "tree", "is", "grown", "by", "including", "all", "new", "edges", "incident", "to", "the", "node", "with", "the", "highest", "priority", ".", "The", "heuristics", "differ", "in", "determining", "the", "priority", "of", "a", "node", ".", "For", "heuristic", "UV", ",", "priority", "of", "a", "node", "u", ",", "is", "defined", "as", ":", "p", "-LSB-", "u", "-RSB-", "=", "dg", "-LSB-", "u", "-RSB-", ":", "n", "+", "-LRB-", "n", "?", "dist", "-LSB-", "u", "-RSB-", "-RRB-", ",", "where", "dg", "-LSB-", "u", "-RSB-", "is", "the", "number", "of", "nodes", "adjacent", "to", "u", "and", "not", "yet", "in", "the", "partial", "tree", ",", "and", "dist", "-LSB-", "u", "-RSB-", "is", "the", "distance", "from", "u", "to", "the", "root", "of", "the", "spanning", "tree", ".", "Priority", "of", "a", "node", "is", "a", "two-digit", "number", "written", "in", "radix-n", "positional", "notation", "as", "-LRB-", "a1a0", "-RRB-", ",", "where", ",", "a1", "=", "dg", "-LSB-", "u", "-RSB-", "and", "a0", "=", "n", "?", "dist", "-LSB-", "u", "-RSB-", ".", "The", "highest-priority", "node", "adds", "the", "largest", "number", "of", "new", "nodes", "in", "the", "partial", "tree", ".", "If", "this", "number", "is", "identical", "for", "more", "than", "one", "node", ",", "the", "node", "which", "is", "nearest", "to", "the", "root", "is", "chosen", ".", "Further", "ties", "can", "be", "broken", "by", "using", "the", "node", "labels", ".", "Such", "a", "strategy", "tends", "to", "produce", "a", "\\", "bushy", "''", "and", "short", "spanning", "tree", "|", "which", "is", "expected", "to", "yield", "shorter", "fundamental", "cycles", ".", "Heuristic", "NT", "defines", "the", "priority", "of", "a", "node", "u", "as", ":", "p", "-LSB-", "u", "-RSB-", "=", "nt", "-LSB-", "u", "-RSB-", ":", "m", "+", "-LRB-", "n", "?", "dist", "-LSB-", "u", "-RSB-", "-RRB-", ".", "Here", ",", "nt", "-LSB-", "u", "-RSB-", "is", "the", "number", "of", "new", "nontree", "edges", "-LRB-", "or", ",", "fundamental", "cycles", "-RRB-", "induced", "by", "exploring", "from", "node", "u", "and", "can", "be", "computed", "as", ":", "nt", "-LSB-", "u", "-RSB-", "=", "X", "v", "-LRB-", "d", "-LSB-", "v", "-RSB-", "?", "dg", "-LSB-", "v", "-RSB-", "?", "1", "-RRB-", "The", "summation", "is", "over", "all", "nodes", "that", "are", "adjacent", "to", "u", "and", "not", "yet", "in", "the", "partial", "tree", ",", "and", "d", "-LSB-", "v", "-RSB-", "is", "the", "degree", "of", "node", "v.", "Note", "that", "in", "the", "definition", "of", "p", "-LSB-", "u", "-RSB-", "-LRB-", "unlike", "for", "heuristic", "UV", "-RRB-", ",", "we", "use", "a", "radix-m", "notation", ",", "since", "the", "value", "of", "nt", "-LSB-", "u", "-RSB-", "may", "exceed", "n", ".", "At", "any", "stage", ",", "the", "highestpriority", "node", "induces", "the", "largest", "number", "of", "fundamental", "cycles", ".", "Such", "a", "strategy", "relies", "on", "the", "observation", "that", "the", "cycles", "which", "are", "formed", "earlier", "have", "a", "greater", "chance", "of", "being", "short", ".", "As", "an", "example", ",", "consider", "the", "9-node", "13-edge", "graph", "shown", "in", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "Both", "the", "heuristics", "start", "with", "node", "1", "as", "the", "root", "and", "include", "the", "four", "incident", "edges", "in", "the", "partial", "tree", ".", "In", "the", "second", "step", ",", "heuristic", "UV", "explores", "from", "node", "5", "-LRB-", "with", "dg", "-LSB-", "5", "-RSB-", "=", "2", "-RRB-", ",", "whereas", "heuristic", "NT", "explores", "from", "node", "2", "-LRB-", "with", "nt", "-LSB-", "2", "-RSB-", "=", "2", "-RRB-", ".", "Node", "2", "induces", "the", "two", "nontree", "edges", "-LRB-", "6,3", "-RRB-", "and", "-LRB-", "6,4", "-RRB-", ".", "-LRB-", "Note", "that", "there", "are", "three", "nodes", ",", "namely", ",", "2", ",", "3", "and", "4", "which", "have", "the", "same", "priority", ",", "but", "the", "tie", "is", "broken", "by", "selecting", "the", "node", "with", "the", "smallest", "label", ".", "-RRB-", "Carrying", "out", "the", "example", "further", ",", "the", "total", "cycle-lengths", "obtained", "by", "heuristics", "UV", "and", "NT", "are", "22", "and", "20", ",", "respectively", ",", "as", "sohwn", "in", "Figure", "1", "-LRB-", "b", "-RRB-", "and", "Figure", "1", "-LRB-", "c", "-RRB-", ".", "1", "5", "8", "432", "6", "1", "32", "7", "9", "4", "5", "87", "6", "9", "b", "-RRB-", "c", "-RRB-", "1", "2", "3", "4", "5", "86", "97", "a", "-RRB-", "nontree", "edge", "Figure", "1", ":", "An", "example", "a", "-RRB-", "Input", "graph", "b", "-RRB-", "Spanning", "tree", "for", "UV", "c", "-RRB-", "Spanning", "tree", "for", "NT", "3.3", "Parallel", "Implementation", "Traditionally", ",", "massively", "parallel", "SIMD", "machines", "like", "the", "MasPar", "have", "been", "found", "suitable", "for", "implementing", "algorithms", "which", "have", "well-structured", "computation-graphs", ",", "such", "as", "the", "ones", "for", "sorting", ",", "image-processing", ",", "raster", "graphics", ",", "and", "dense-matrix", "computations", ".", "Most", "of", "these", "algorithms", "are", "systolic", "-LRB-", "or", ",", "can", "be", "converted", "to", "one", "-RRB-", "and", "are", "therefore", "obvious", "SIMD", "candidates", ".", "On", "the", "other", "hand", ",", "graph", "problems", "-LRB-", "even", "when", "they", "have", "fast", "PRAM", "algorithms", "-RRB-", "do", "not", "usually", "lend", "themselves", "to", "conversion", "into", "neat", "systolic", "algorithms", ".", "The", "approach", "used", "in", "our", "parallel", "implementation", "is", "to", "first", "design", "a", "suitable", "PRAM", "algorithm", "and", "then", "directly", "implement", "it", "on", "the", "MasPar", "machine", ".", "Typical", "PRAM", "operations", ",", "such", "as", ",", "the", "concurrent-read", "or", "concurrent-write", "are", "replaced", "by", "suitable", "routines", "available", "in", "the", "MasPar", "library", ".", "Such", "an", "approach", "disregards", "-LRB-", "and", "does", "not", "exploit", "-RRB-", "the", "underlying", "-LRB-", "interconnection", "-RRB-", "architecture", "of", "the", "machine", "but", "retains", "the", "spirit", ",", "elegance", ",", "and", "the", "efficiency", "of", "the", "underlying", "PRAM", "algorithm", ".", "It", "is", "similar", "to", "the", "approach", "used", "by", "Hsu", ",", "Ramachandran", ",", "and", "Dean", ",", "who", "have", "implemented", "several", "elementary", "graph", "algorithms", "on", "the", "MasPar", "-LSB-", "16", "-RSB-", ".", "Given", "an", "n-node", "graph", ",", "n", "<", "=", "8192", ",", "we", "use", "the", "first", "n", "processors", ",", "Pi", ",", "-LRB-", "0", "<", "=", "i", "<", "=", "n", "?", "1", "-RRB-", ",", "of", "the", "MasPar", "mesh", ";", "the", "processors", "being", "numbered", "in", "a", "row-major", "order", ".", "The", "i-th", "node", "and", "all", "its", "incident", "edges", "are", "stored", "in", "the", "local", "memory", "of", "the", "i-th", "processor", ".", "Associated", "with", "every", "node", ",", "u", ",", "are", "the", "six", "variables", ":", "d", "-LRB-", "degree", "of", "node", "u", "-RRB-", ",", "dg", "-LRB-", "number", "of", "nodes", "adjacent", "to", "u", "and", "but", "not", "included", "in", "the", "partial", "tree", "-RRB-", ",", "dist", "-LRB-", "the", "distance", "of", "u", "from", "the", "root-node", "-RRB-", ",", "incl", "-LRB-", "stores", "6", "1", "if", "u", "is", "in", "the", "partial", "tree", ",", "or", "otherwise", "-RRB-", ",", "expl", "-LRB-", "stores", "1", "if", "u", "has", "already", "been", "explored", ",", "otherwise", "-RRB-", ",", "and", "pred", "-LRB-", "parent", "of", "node", "u", "in", "the", "spanning", "tree", "-RRB-", ".", "In", "an", "MPL", "program", "these", "six", "variables", "are", "declared", "as", "plural", ".", "Figure", "2", "shows", "the", "outline", "for", "the", "parallel", "algorithm", "used", "in", "the", "first", "phase", "of", "both", "the", "heuristics", ".", "After", "initializing", "the", "data", "structures", "-LRB-", "in", "Statement", "1", "-RRB-", "the", "root", "of", "the", "spanning", "tree", "is", "determined", "-LRB-", "Statement", "2", "-RRB-", "by", "a", "max-finding", "step", "which", "is", "implemented", "using", "the", "MasPar", "library", "routine", ",", "reduceMax", "-LRB-", "-RRB-", "-LRB-", "on", "the", "plural", "variable", "d", "-RRB-", ".", "Subsequently", ",", "in", "Statements", "5", "through", "10", ",", "the", "partial", "tree", "is", "grown", "by", "exploring", "from", "the", "node", "x", "in", "every", "iteration", ".", "In", "order", "to", "find", "a", "spanning", "tree", "the", "algorithm", "makes", "ne", "?", "1", "iterations", "of", "the", "loop", "-LRB-", "Statements", "5", "through", "10", "-RRB-", ",", "where", "ne", "denotes", "the", "number", "of", "nodes", "explored", ".", "The", "termination", "condition", "-LRB-", "Statement", "10", "-RRB-", "is", "implemented", "by", "using", "reduceAnd", "-LRB-", "-RRB-", "on", "the", "plural", "variable", "incl", ".", "Whenever", "the", "highest-priority", "node", "-LRB-", "i.e.", ",", "x", "-RRB-", "is", "found", ",", "it", "is", "marked", "explored", "-LRB-", "Statement", "7", "-RRB-", "and", "all", "its", "adjacent", "nodes", "not", "yet", "in", "the", "partial", "tree", ",", "are", "marked", "included", "-LRB-", "Statement", "9", "-RRB-", ".", "Furthermore", ",", "for", "all", "the", "newly", "included", "nodes", ",", "the", "parent", "and", "the", "distance", "from", "the", "root", "are", "initialized", "-LRB-", "Statement", "9", "-RRB-", ".", "Statement", "8", ",", "which", "is", "the", "dominant", "step", ",", "updates", "the", "dg-values", ".", "It", "involves", "concurrent-write", "operations", "-LRB-", "i.e.", ",", "multiple", "processors", ",", "Pu", ",", "decrement", "the", "same", "dg", "-LSB-", "v", "-RSB-", "-RRB-", "and", "is", "implemented", "by", "using", "the", "router-construct", "together", "with", "the", "routine", "connected", "-LRB-", "-RRB-", ".", "The", "routine", "connected", "-LRB-", "-RRB-", "resolves", "the", "multiple-write", "collisions", "by", "serializing", "them", "in", "an", "arbitrary", "-LRB-", "but", "a", "deterministic", "-RRB-", "fashion", ".", "It", "must", "also", "be", "pointed", "out", "that", "in", "determining", "the", "highestpriority", "node", "-LRB-", "Statement", "6", "-RRB-", ",", "heuristic", "NT", "requires", "an", "extra", "expensive", "summation", ",", "which", "is", "implemented", "by", "using", "the", "routine", "sendwith", "-LRB-", "-RRB-", ".", "An", "outline", "of", "the", "parallel", "algorithm", "for", "the", "-LRB-", "common", "-RRB-", "second", "phase", "is", "shown", "in", "Figure", "3", ".", "The", "spanning", "tree", ",", "T", ",", "-LRB-", "generated", "by", "the", "first", "phase", "-RRB-", "is", "stored", "implicitly", "by", "letting", "every", "Processor", "Pu", ",", "<", "=", "u", "<", "=", "n", "?", "1", ",", "except", "Proot", ",", "store", "the", "edge", ",", "-LRB-", "u", ";", "pred", "-LSB-", "u", "-RSB-", "-RRB-", ".", "Every", "processor", ",", "Pu", ",", "first", "builds", "the", "ancestry-list", "of", "node", "u", ",", "i.e.", ",", "the", "list", "pred", "-LSB-", "u", "-RSB-", ";", "pred", "-LSB-", "pred", "-LSB-", "u", "-RSB-", "-RSB-", ";", ":", ":", ":", ";", "root", ".", "This", "involves", "external", "references", "-LRB-", "concurrent-read", "operation", "-RRB-", "to", "the", "pred-values", "and", "is", "implemented", "by", "using", "the", "router-construct", ".", "In", "Statement", "2", ",", "every", "processor", "-LRB-", "in", "parallel", "-RRB-", "computes", "the", "fundamental-cycle", "lengths", "for", "those", "nontree", "edges", "that", "it", "is", "responsible", "for", ".", "Since", "every", "edge", ",", "-LRB-", "u", ";", "v", "-RRB-", ",", "is", "incident", "to", "two", "nodes", ",", "the", "condition", "`", "u", "<", "v", "'", "resolves", "which", "one", "of", "the", "two", "processors", "-LRB-", "i.e.", ",", "Pu", "or", "Pv", "-RRB-", "will", "compute", "the", "associated", "cycle-length", ".", "Local", "values", "of", "the", "ALGORITHM", "Tree-Construction", "-LRB-", "G", "-RRB-", "1", ".", "Processors", "Pu", "-LRB-", "0", "<", "=", "u", "<", "n", "-RRB-", "DOPAR", ":", "dg", "-LSB-", "u", "-RSB-", "d", "-LSB-", "u", "-RSB-", ";", "dist", "-LSB-", "u", "-RSB-", "0", ";", "incl", "-LSB-", "u", "-RSB-", "0", ";", "expl", "-LSB-", "u", "-RSB-", "0", ";", "2", ".", "root", "HighestDegreeNode", "-LRB-", "-RRB-", ";", "3", ".", "incl", "-LSB-", "root", "-RSB-", "1", ";", "expl", "-LSB-", "root", "-RSB-", "1", ";", "dg", "-LSB-", "root", "-RSB-", "0", ";", "4", ".", "Processors", "Pu", "-LRB-", "Edge", "-LRB-", "u", ";", "root", "-RRB-", "2", "E", "-RRB-", "DOPAR", ":", "dg", "-LSB-", "u", "-RSB-", "dg", "-LSB-", "u", "-RSB-", "?", "1", ";", "incl", "-LSB-", "u", "-RSB-", "1", ";", "5", ".", "LOOP", "6", ".", "x", "HighestPriorityNode", "-LRB-", "-RRB-", ";", "7", ".", "expl", "-LSB-", "x", "-RSB-", "1", ";", "8", ".", "Processors", "Pu", "-LRB-", "Edge", "-LRB-", "u", ",", "x", "-RRB-", "2", "E", "and", "incl", "-LSB-", "u", "-RSB-", "=", "0", "-RRB-", "DOPAR", ":", "FOR", "all", "v", "-LRB-", "Edge", "-LRB-", "u", ";", "v", "-RRB-", "2", "E", "-RRB-", "DO", ":", "dg", "-LSB-", "v", "-RSB-", "dg", "-LSB-", "v", "-RSB-", "?", "1", ";", "/", "*", "Pu", "decrements", "dg-value", "of", "node", "v", "*", "/", "9", ".", "Processors", "Pu", "-LRB-", "Edge", "-LRB-", "u", ",", "x", "-RRB-", "2", "E", "and", "incl", "-LSB-", "u", "-RSB-", "=", "0", "-RRB-", "DOPAR", ":", "incl", "-LSB-", "u", "-RSB-", "1", ";", "pred", "-LSB-", "u", "-RSB-", "x", ";", "dist", "-LSB-", "u", "-RSB-", "dist", "-LSB-", "x", "-RSB-", "+", "1", ";", "10", ".", "UNTIL", "-LRB-", "8u", ";", "incl", "-LSB-", "u", "-RSB-", "=", "1", "-RRB-", "Figure", "2", ":", "Parallel", "Algorithm", "for", "Tree-Construction", "cycle-lengths", ",", "cl", "-LSB-", "u", "-RSB-", ",", "are", "finally", "summed", "up", "-LRB-", "in", "Statement", "3", "-RRB-", "by", "using", "reduceAdd", "-LRB-", "-RRB-", "to", "get", "the", "total", "cycle-length", ",", "L", ",", "for", "the", "entire", "graph", ".", "4", "Experimental", "Results", "We", "used", "two", "classes", "of", "graphs", "to", "study", "the", "performance", "of", "the", "heuristics", "and", "their", "parallel", "implementations", ";", "they", "are", ",", "-LRB-", "i", "-RRB-", "two", "well-known", "families", "of", "regular", "graphs", "-LCB-", "the", "torus", "and", "the", "hypercube", ",", "and", ",", "-LRB-", "ii", "-RRB-", "random", "graphs", "Gn", ";", "t", "with", "extra", "edges", "added", "-LRB-", "whenever", "necessary", "-RRB-", "to", "ensure", "that", "there", "are", "no", "degree-one", "nodes", "since", "they", "have", "no", "effect", "on", "the", "solution", ".", "The", "random", "graphs", "used", "were", "grouped", "into", "six", "classes", ",", "depending", "on", "their", "densities", ".", "They", "have", "the", "number", "of", "edges", ",", "m", ",", "approximately", "equal", "to", ",", "1.43", "n", ",", "1.71", "n", ",", "2.11", "n", ",", "12", "n", "log", "n", ",", "12", "npn", ",", "and", "ALGORITHM", "Cycle-Calculation", "-LRB-", "G", ",", "T", "-RRB-", "1", ".", "Processors", "Pu", "-LRB-", "0", "<", "=", "u", "<", "n", "-RRB-", "DOPAR", ":", "initialize", "ancestry-list", "for", "u", "2", ".", "Processors", "Pu", "-LRB-", "0", "<", "=", "u", "<", "n", "-RRB-", "DOPAR", ":", "cl", "-LSB-", "u", "-RSB-", "=", "FOR", "all", "nontree", "edges", "-LRB-", "u", ";", "v", "-RRB-", "such", "that", "u", "<", "v", "DO", ":", "cl", "-LSB-", "u", "-RSB-", "=", "cl", "-LSB-", "u", "-RSB-", "+", "length", "of", "the", "cycle", "induced", "by", "-LRB-", "u", ";", "v", "-RRB-", "3", ".", "L", "=", "P0", "<", "=", "u", "<", "n", "cl", "-LSB-", "u", "-RSB-", "Figure", "3", ":", "Parallel", "Algorithm", "for", "Cycle-Calculation", "14", "n2", ",", "respectively", ".", "The", "first", "three", "classes", "were", "obtained", "from", "Gn", ";", "t", ",", "setting", "t", "equal", "to", "2n", "?", "1", ",", "3n", "?", "1", ",", "and", "4n", "?", "1", ",", "respectively", "-LRB-", "or", ",", "an", "average", "degree", "of", "2", ",", "3", ",", "and", "4", "-RRB-", "and", "adding", "edges", "-LRB-", "randomly", "-RRB-", "to", "ensure", "that", "there", "were", "no", "degree-one", "nodes", ".", "4.1", "Regular", "Graphs", "Table", "1", "compares", "the", "total", "cycle-lengths", "as", "well", "as", "heights", "of", "spanning", "trees", "for", "the", "two", "heuristics", "on", "tori", "and", "hypercubes", "of", "different", "orders", ".", "For", "the", "sake", "of", "brevity", "we", "have", "tabulated", "only", "a", "small", "sample", "-LRB-", "representative", "of", "the", "full", "set", "-RRB-", "of", "our", "results", ".", "We", "ran", "the", "two", "heuristics", "on", "all", "possible", "orders", "up", "to", "8192", ".", "Our", "new", "heuristic", "produces", "overwhelmingly", "better", "solutions", "-LRB-", "i.e.", ",", "cycle-lengths", "-RRB-", "than", "heuristic", "UV", ".", "The", "superior", "quality", "of", "solution", "-LRB-", "of", "heuristic", "NT", "-RRB-", "is", "also", "reflected", "in", "the", "height", "of", "the", "tree", ",", "which", "are", "considerably", "shorter", ".", "We", "expect", "the", "superiority", "of", "heuristic", "NT", "-LRB-", "over", "UV", "-RRB-", "to", "carry", "over", "to", "other", "regular", "graphs", "and", "\\", "nearly", "''", "regular", "graphs", ".", "Since", "heuristic", "UV", "chooses", "the", "next", "vertex", "to", "explore", "from", "on", "the", "basis", "of", "the", "degree", ",", "regular", "graphs", "-LRB-", "quoted", "as", "\\", "bad", "''", "classes", "of", "graphs", "in", "-LSB-", "11", "-RSB-", "-RRB-", "prevent", "it", "from", "exploiting", "the", "degree", "distribution", ".", "4.2", "Random", "Graphs", "Tables", "2", ",", "&", "3", "and", "Figures", "4", ",", "5", ",", "&", "6", "show", "the", "performance", "on", "random", "graphs", ".", "For", "a", "fixed", "order", "and", "density", ",", "the", "data", "presented", "are", "averages", "over", "100", "graphs", "-LRB-", "ensuring", "small", "standard", "deviations", "-RRB-", "Table", "2", "shows", "the", "mean", "values", "of", "the", "three", "graph-parameters", ",", "namely", ",", "the", "number", "of", "edges", "-LRB-", "m", "-RRB-", ",", "the", "minimum", "degree", "-LRB-", "ffi", "-RRB-", ",", "and", "the", "maximum", "degree", "-LRB-", "?", "-RRB-", ",", "of", "the", "random", "graphs", "used", ".", "In", "Table", "3", ",", "we", "present", "-LRB-", "for", "both", "the", "heuristics", "-RRB-", "the", "three", "significant", "parameters", "of", "the", "spanning", "tree", ",", "namely", ",", "the", "number", "of", "nodes", "explored", "or", "the", "number", "of", "non-leaf", "nodes", "-LRB-", "ne", "-RRB-", ",", "height", "of", "the", "spanning", "tree", "-LRB-", "h", "-RRB-", ",", "and", "the", "average", "cycle-length", "-LRB-", "^", "l", "=", "L", "m?n", "+1", "-RRB-", ".", "Here", ",", "L", "denotes", "the", "total", "cycle-length", ".", "The", "order", "of", "the", "graphs", "varies", "from", "256", "to", "8192", "in", "powers", "of", "2", ".", "Quality", "of", "Solutions", ":", "Figure", "4", "shows", "the", "percentage", "of", "inputs", "for", "which", "heuristic", "NT", "found", "a", "shorter", "cycle-length", "than", "heuristic", "UV", ".", "We", "call", "it", "the", "merit", "of", "heuristic", "NT", ".", "In", "those", "cases", "when", "the", "two", "tie", ",", "equal", "merit", "is", "assigned", "to", "each", ".", "Heuristic", "NT", "-LRB-", "as", "in", "Figure", "4", "-RRB-", "outperforms", "UV", "on", "extremely", "sparse", "graphs", ".", "When", "m", "is", "around", "2n", ",", "heuristic", "NT", "can", "almost", "always", "be", "expected", "to", "find", "a", "better", "solution", ",", "asymptotically", "for", "large", "n", ".", "This", "is", "apparent", "from", "the", "top", "three", "curves", "-LRB-", "in", "Figure", "4", "-RRB-", "which", "converge", "to", "a", "merit", "of", "100", "at", "n", "=", "8192", ".", "On", "extremely", "sparse", "graphs", "the", "number", "of", "nontree", "edges", "-LRB-", "or", ",", "fundamental", "cycles", "-RRB-", "are", "few", "and", "hence", "play", "a", "crucial", "role", "while", "constructing", "the", "spanning", "tree", ".", "Since", "heuristic", "NT", "builds", "the", "spanning", "tree", "by", "examining", "nontree", "edges", "-LRB-", "unlike", "heuristic", "UV", "-RRB-", ",", "it", "is", "expected", "to", "produce", "better", "solutions", ".", "Figure", "4", "also", "shows", "that", "for", "graphs", "with", "m", "=", "12", "n", "log", "n", ",", "heuristic", "UV", "found", "a", "better", "solution", "at", "a", "steady", "rate", "of", "80", "to", "85", "%", ".", "The", "difference", "in", "the", "performance", ",", "however", ",", "narrows", "down", "for", "denser", "graphs", ".", "This", "is", "also", "evidenced", "by", "the", "^", "l-values", ",", "in", "Table", "3", ".", "The", "cycle-lengths", "for", "heuristic", "UV", "are", "shorter", "than", "that", "for", "heuristic", "NT", ",", "approximately", "by", ",", "7", "to", "10", "%", "for", "graphs", "with", "m", "=", "12", "n", "log", "n", ",", "and", "only", "3.4", "to", "5.4", "%", "for", "m", "=", "12", "npn", ".", "For", "graphs", "with", "m", "=", "14", "n2", "the", "average", "cycle-lengths", "are", "equal", "up", "to", "the", "first", "decimal", "place", ".", "With", "the", "increase", "in", "density", ",", "the", "spanning", "trees", "produced", "by", "both", "heuristics", "tend", "to", "get", "shorter", "as", "evidenced", "by", "the", "h-values", "in", "Table", "3", ".", "Furthermore", "the", "average", "cycle-length", "-LRB-", "^", "l", "-RRB-", "approaches", "the", "lower", "bound", "of", "3", ",", "as", "expected", ".", "Also", ",", "note", "that", "for", "graphs", "for", "all", "densities", ",", "heuristic", "UV", "never", "explored", "more", "nodes", "than", "heuristic", "UV", "-LRB-", "see", ",", "ne-values", "in", "Table", "3", "-RRB-", ",", "which", "is", "consistent", "with", "its", "attempt", "to", "produce", "\\", "bushy", "''", "trees", ".", "Runtimes", ":", "The", "MasPar", "runtimes", "for", "the", "two", "phases", "of", "the", "heuristics", "are", "shown", "in", "Figures", "5", "and", "6", ".", "Heuristic", "UV", "is", "faster", "during", "the", "Tree-Construction", "phase", "-LRB-", "as", "in", "Figure", "5", "-RRB-", "because", "of", "the", "extra", "computation", "required", "by", "heuristic", "NT", "in", "determining", "the", "priorities", "of", "nodes", ".", "The", "parallel", "time", "of", "Algorithm", "Tree-Construction", "is", "predominantly", "governed", "by", "the", "number", "of", "iterations", "of", "Statements", "5", "through", "10", "-LRB-", "which", "is", "ne", "?", "1", "-RRB-", ",", "and", "-LRB-", "some", "function", "of", "-RRB-", "the", "average", "degree", "of", "nodes", "which", "approximates", "the", "time", "required", "by", "Statement", "8", ".", "We", "observe", "that", "for", "heuristic", "UV", ",", "the", "Tree-Construction", "time", "per", "iteration", "is", "nearly", "constant", "for", "graphs", "with", "m", "=", "O", "-LRB-", "n", "-RRB-", ",", "and", "grows", "slightly", "slower", "than", "the", "functions", ":", "log", "n", ",", "pn", ",", "and", "n", ",", "for", "graphs", "with", "O", "-LRB-", "n", "log", "n", "-RRB-", ",", "O", "-LRB-", "npn", "-RRB-", ",", "and", "O", "-LRB-", "n2", "-RRB-", "edges", ",", "respectively", ".", "On", "the", "other", "hand", ",", "for", "heuristic", "NT", "the", "time", "per", "iteration", "grows", "slightly", "faster", "than", "the", "constant-function", "for", "the", "first", "three", "families", ".", "For", "the", "latter", "three", ",", "it", "grows", "slightly", "faster", "than", "the", "logarithmic", ",", "square-root", ",", "and", "linear", "functions", ",", "respectively", ".", "Even", "though", "the", "heuristics", "have", "a", "common", "second", "phase", ",", "Figure", "6", "reveals", "distinct", "runtime", "differences", "betwen", "the", "two", ".", "The", "parallel", "time", "of", "Algorithm", "Cycle-Construction", "is", "closely", "related", "to", "the", "total", "cycle-length", "which", "explains", "why", "Heuristic", "NT", "took", "less", "time", "on", "extremely", "sparse", "graphs", "-LRB-", "i.e.", ",", "graphs", "with", "O", "-LRB-", "n", "-RRB-", "edges", "-RRB-", ".", "The", "runtimes", "for", "other", "densities", "also", "continue", "to", "follow", "an", "expected", "trend", "-LCB-", "the", "better", "the", "quality", "of", "solution", ",", "the", "shorter", "is", "the", "runtime", ".", "Also", ",", "note", "that", "for", "graphs", "with", "O", "-LRB-", "n", "-RRB-", "and", "O", "-LRB-", "n", "log", "n", "-RRB-", "edges", ",", "the", "runtimes", "for", "the", "second", "phase", "are", "small", "compared", "to", "those", "for", "the", "first", ".", "However", ",", "as", "expected", ",", "for", "dense", "graphs", "both", "the", "phases", "contribute", "significantly", "to", "the", "total", "runtime", ".", "5", "An", "Application", "A", "perfect", "hash", "function", "is", "an", "injection", "F", ":", "W", "!", "I", ",", "where", "W", "is", "a", "set", "of", "M", "words", "and", "I", "is", "an", "interval", "of", "integers", ",", "-LSB-", "0", ":", ":", "N", "?", "1", "-RSB-", ",", "N", ">", "=", "M", ".", "If", "N", "=", "M", ",", "then", "we", "say", "that", "F", "is", "a", "minimal", "perfect", "hash", "function", ",", "MPHF", ".", "Minimal", "perfect", "hash", "functions", "are", "used", "for", "memory", "efficient", "storage", "and", "fast", "retreival", "of", "sets", "of", "predetermined", "-LRB-", "static", "-RRB-", "items", ",", "such", "as", "reserved", "words", "in", "programming", "languages", ",", "command", "names", "in", "operating", "systems", ",", "commonly", "used", "words", "in", "natural", "language", ",", "etc.", ".", "In", "this", "section", "we", "will", "describe", "how", "the", "MFS", "problem", "arises", "in", "the", "MPHF", "problem", ".", "For", "details", "the", "readers", "are", "referred", "to", "-LSB-", "5", ",", "25", "-RSB-", ".", "In", "1985", ",", "Sager", "gave", "an", "O", "-LRB-", "M4", "-RRB-", "-", "time", "algorithm", "to", "the", "MPHF", "problem", "-LSB-", "25", "-RSB-", ".", "All", "the", "previously", "published", "algorithms", "had", "an", "expected", "execution-time", ",", "exponential", "in", "M", ".", "Sager", "'s", "mincycle", "algorithm", "-LRB-", "-LSB-", "25", "-RSB-", "-RRB-", "has", "three", "parts", "to", "it", ".", "In", "Part", "1", ",", "certain", "parameters", "are", "chosen", ":", "R1", "and", "R2", "|", "two", "disjoint", "finite", "sets", "of", "elements", "-LRB-", "let", ",", "R", "=", "R1", "SR2", "-RRB-", ";", "h0", ":", "W", "!", "-LSB-", "0", ":", ":", "N", "?", "1", "-RSB-", ",", "h1", ":", "W", "!", "R1", ",", "and", "h2", ":", "W", "!", "R2", ".", "The", "functions", "|", "h0", ",", "h1", ",", "and", "h2", "are", "three", "quickly", "computable", "pseudorandom", "functions", ".", "After", "determining", "the", "parameters", ",", "a", "function", "g", ":", "R", "!", "-LSB-", "0", ":", ":", "N", "?", "1", "-RSB-", "is", "desired", "which", "makes", "F", ":", "W", "!", "-LSB-", "0", ":", ":", "N", "?", "1", "-RSB-", "a", "perfect", "hash", "function", ",", "where", "F", "-LRB-", "w", "-RRB-", "=", "-LRB-", "h0", "-LRB-", "w", "-RRB-", "+", "g", "-LRB-", "h1", "-LRB-", "w", "-RRB-", "-RRB-", "+", "g", "-LRB-", "h2", "-LRB-", "w", "-RRB-", "-RRB-", "-RRB-", "mod", "N", ".", "Part", "2", "of", "the", "algorithm", "involves", "the", "construction", "of", "a", "monotonic", "tower", "of", "subsets", "of", "W", ",", "OE", "=", "W0", "ae", "W1", "ae", ":", ":", ":", "ae", "Wk", "?", "1", "ae", "Wk", "=", "W", "In", "Part", "3", "at", "each", "step", "for", "some", "i", "-LRB-", "1", "<", "=", "i", "<", "=", "k", "-RRB-", ",", "the", "desired", "function", "F", "is", "extended", "from", "the", "domain", "Wi", "?", "1", "to", "the", "domain", "Wi", ".", "In", "order", "to", "minimize", "the", "work", "necessary", "to", "extend", "F", "in", "all", "steps", ",", "the", "aim", "is", "to", "make", "Wi", "'s", "as", "large", "as", "possible", ".", "In", "Sager", "'s", "work", ",", "Part", "2", ",", "which", "is", "the", "dominant", "step", ",", "was", "implemented", "by", "using", "an", "expensive", "search", "requiring", "O", "-LRB-", "M4", "-RRB-", "steps", "-LSB-", "25", "-RSB-", ".", "Czech", "et", ".", "al.", ".", "instead", "formulated", "it", "as", "the", "MFS", "problem", "and", "used", "suboptimal", "heuristics", "to", "reduce", "the", "complexity", "of", "the", "overall", "MPHF", "algorithm", "to", "O", "-LRB-", "M2", "-RRB-", ".", "The", "underlying", "graphs", "on", "which", "the", "MFS", "problem", "were", "solved", "had", "multiple", "edges", ".", "They", "correspond", "to", "the", "biconnected", "components", "of", "the", "graph", "G", "=", "-LRB-", "R", ";", "E0", "-RRB-", ",", "where", "-LRB-", "h1", "-LRB-", "w", "-RRB-", ";", "h2", "-LRB-", "w", "-RRB-", "-RRB-", "2", "E0", "for", "w", "2", "W", ".", "After", "solving", "the", "MFS", "problem", ",", "what", "is", "important", "to", "the", "MPHF", "algorithm", "is", "a", "digital", "key", "indicating", "the", "lengths", "and", "number", "of", "fundamental", "cycles", "a", "tree-edge", ",", "e", ",", "lies", "on", ".", "Note", "that", "every", "edge", ",", "e", ",", "corresponds", "to", "some", "word", "w", "2", "W", ".", "In", "the", "implementation", "of", "-LSB-", "5", "-RSB-", "the", "digital", "key", "is", "a", "number", "represented", "by", "the", "positional", "notation", "in", "base", "b", ",", "i.e.", ",", "digkey", "-LSB-", "e", "-RSB-", "=", "n2", ":", "bmax", "?", "2", "+", "n3", ":", "bmax", "?", "3", "+", ":", ":", ":", "+", "nmax", ":", "b0", ",", "where", "max", "is", "the", "length", "of", "the", "longest", "fundamental", "cycle", "and", "b", "is", "one", "more", "than", "the", "maximum", "number", "of", "fundamental", "cycles", "of", "a", "particular", "length", ".", "The", "digital", "key", ",", "digkey", "-LSB-", "e", "-RSB-", "indicates", "that", "edge", ",", "e", ",", "lies", "on", "n2", "cycles", "of", "length", "2", ",", "n3", "cycles", "of", "length", "3", ",", "and", "so", "on", ".", "While", "building", "the", "tower", ",", "an", "edge", "e", "with", "the", "highest", "key", "is", "included", "in", "the", "tower", ".", "All", "cycles", "containing", "e", "are", "deleted", "and", "the", "keys", "for", "each", "-LRB-", "tree", "-RRB-", "edge", "is", "re-computed", ".", "In", "order", "that", "the", "runtime", "of", "the", "algorithm", "be", "minimized", "it", "is", "important", "that", "the", "digital", "keys", "are", "as", "small", "as", "possible", ",", "which", "as", "one", "can", "expect", ",", "is", "attained", "by", "solving", "the", "MFS", "problem", ".", "6", "Conclusion", "In", "this", "paper", "we", "developed", "a", "new", "heuristic", "-LRB-", "NT", "-RRB-", "for", "the", "MFS", "problem", ".", "We", "implemented", "our", "new", "heuristic", "and", "the", "heuristic", "UV", "-LRB-", "known", "to", "be", "the", "best", "-RRB-", ",", "on", "a", "massively", "parallel", "SIMD", "machine", ",", "MasPar", "MP-1", ".", "Our", "choice", "of", "the", "implementational", "platform", "was", "motivated", "not", "only", "by", "the", "desire", "to", "solve", "the", "problem", "for", "large", "graphs", ",", "but", "also", "to", "develop", "general", "techniques", "of", "solving", "graph", "optimization", "problems", "on", "an", "SIMD", "machine", ".", "Our", "parallel", "implementation", "involved", "first", "designing", "a", "simple", "and", "efficient", "PRAM-type", "algorithm", "and", "then", "implementing", "it", "by", "using", "the", "in-built", "MasPar", "routines", ".", "Such", "an", "approach", "-LRB-", "unlike", "traditional", "approaches", "of", "first", "obtaining", "systolic", "algorithms", "-RRB-", "can", "be", "used", "effectively", "to", "implement", "a", "large", "number", "of", "other", "graph", "algorithms", "as", "well", ",", "which", "may", "not", "appear", "suitable", "for", "SIMD", "implementations", ",", "otherwise", ".", "We", "have", "included", "details", "of", "our", "implementation", "with", "the", "hope", "that", "they", "would", "aid", "readers", "in", "implementing", "other", "graph", "algorithms", "on", "the", "MasPar", "machine", ".", "The", "new", "heuristic", "-LRB-", "NT", "-RRB-", "found", "overwhelmingly", "better", "solutions", "than", "heuristic", "UV", "on", "regular", "-LRB-", "and", "\\", "nearly", "''", "regular", "-RRB-", "graphs", "as", "well", "as", "on", "graphs", "that", "are", "extremely", "sparse", ".", "The", "MasPar", "runtimes", "of", "our", "implementations", "were", "found", "to", "conform", "to", "the", "theoretical", "analysis", "of", "the", "underlying", "parallel", "algorithms", ".", "All", "heuristics", "for", "the", "MFS", "problem", "-LRB-", "including", "ours", "-RRB-", "are", "variations", "of", "the", "breadth-first", "technique", ";", "it", "may", "be", "interesting", "to", "consider", "alternate", "approaches", ".", "The", "effect", "of", "node", "relabeling", "on", "the", "performance", "of", "various", "heuristics", "also", "need", "further", "investigation", ".", "References", "-LSB-", "1", "-RSB-", "P.", "Chaudhari", ".", "Distributed", "processing", "of", "graphs", ":", "Fundamental", "Cycles", "Algorithm", ".", "Information", "Sciences", ",", "60:41", "-LCB-", "50", ",", "1992", ".", "-LSB-", "2", "-RSB-", "D.", "B.", "Corneil", "and", "R.", "C.", "Read", ".", "The", "Graph", "Isomorphism", "Disease", ".", "Journal", "of", "Graph", "Theory", ",", "1:339", "-LCB-", "363", ",", "1977", ".", "-LSB-", "3", "-RSB-", "D.", "W.", "Cribb", ",", "R.", "D.", "Ringeisen", ",", "and", "D.", "R.", "Shier", ".", "On", "cycle", "bases", "of", "a", "graph", ".", "Cong", ".", "Numer.", ",", "32:221", "-LCB-", "229", ",", "1981", ".", "-LSB-", "4", "-RSB-", "Z.", "Czech", ",", "M.", "Konopka", ",", "and", "B.", "Majewski", ".", "Parallel", "algorithms", "for", "finding", "a", "sub-optimal", "fundamental", "cycle", "set", "in", "a", "graph", ".", "Parallel", "Computing", ",", "19:961", "-LCB-", "971", ",", "1993", ".", "-LSB-", "5", "-RSB-", "Z.", "Czech", "and", "B.", "Majewski", ".", "Generating", "a", "minimal", "perfect", "hash", "function", "in", "O", "-LRB-", "M2", "-RRB-", "time", ".", "Archiwum", "Informatyki", "Teoretycznej", "I", "Stosowanej", ",", "4:3", "-LCB-", "20", ",", "1992", ".", "-LSB-", "6", "-RSB-", "DECmpp", "Programming", "Language", "User", "'s", "Guide", ",", "1992", ".", "-LSB-", "7", "-RSB-", "DECmpp", "System", "Overview", "Manual", ",", "1992", ".", "-LSB-", "8", "-RSB-", "DECmpp", "Programming", "Language", "Reference", "Manual", ",", "1992", ".", "-LSB-", "9", "-RSB-", "N.", "Deo", ".", "Graph", "theory", "with", "applications", "to", "engineering", "and", "computer", "science", ".", "PrenticeHall", ",", "Englewood", "Cliffs", ",", "N.", "J.", ",", "1974", ".", "Chap", ".", "6", ".", "-LSB-", "10", "-RSB-", "N.", "Deo", ".", "Minimum", "length", "fundamental", "cycle", "set", ".", "IEEE", "Trans", ".", "Circ", ".", "Sys.", ",", "26:894", "-LCB-", "895", ",", "1979", ".", "-LSB-", "11", "-RSB-", "N.", "Deo", ",", "G.", "Prabhu", ",", "and", "M.", "Krishnamoorthy", ".", "Algorithms", "for", "generating", "fundamental", "cycles", "in", "a", "graph", ".", "ACM", "Transactions", "on", "Mathematical", "Software", ",", "8", "-LRB-", "1", "-RRB-", ":26", "-LCB-", "42", ",", "1982", ".", "-LSB-", "12", "-RSB-", "C.", "J.", "Egyhazy", ".", "An", "algorithm", "for", "generating", "the", "minimum", "length", "fundamental", "cycles", "in", "a", "graph", ".", "Cong", ".", "Numer.", ",", "50:219", "-LCB-", "230", ",", "1985", ".", "-LSB-", "13", "-RSB-", "N.", "W.", "Gibbs", ".", "Algorithm", "491", ":", "Basic", "cycle", "generation", ".", "Comm", ".", "ACM", ",", "18:275", "-LCB-", "276", ",", "1975", ".", "-LSB-", "14", "-RSB-", "C.", "C.", "Gotlieb", "and", "D.", "G.", "Corneil", ".", "Algorithms", "for", "finding", "a", "fundamental", "set", "of", "cycles", "for", "an", "undirected", "linear", "graph", ".", "Comm", ".", "ACM", ",", "10:780", "-LCB-", "783", ",", "1967", ".", "-LSB-", "15", "-RSB-", "J.", "D.", "Horton", ".", "A", "polynomial-time", "algorithm", "to", "find", "the", "shortest", "cycle", "basis", "of", "a", "graph", ".", "SIAM", "J.", "Comput.", ",", "16:358", "-LCB-", "366", ",", "1987", ".", "-LSB-", "16", "-RSB-", "T.", "S.", "Hsu", ",", "V.", "Ramachandran", ",", "and", "N.", "Dean", ".", "Implementation", "of", "parallel", "graph", "algorithms", "on", "MasPar", ".", "In", "DIMACS", "Series", "in", "Discrete", "Mathematics", "and", "Theoretical", "Computer", "Science", ",", "volume", "15", ",", "pages", "165", "-LCB-", "198", ",", "1994", ".", "-LSB-", "17", "-RSB-", "E.", "Hubicka", "and", "M.", "M.", "Syslo", ".", "Minimal", "bases", "of", "cycles", "of", "a", "graph", ".", "In", "Recent", "Advances", "in", "Graph", "Theory", ",", "pages", "283", "-LCB-", "293", ".", "Academia", "Praha", ",", "Prague", ",", "1974", ".", "-LSB-", "18", "-RSB-", "D.", "S.", "Johnson", ".", "The", "NP-completeness", "Column", ":", "An", "ongoing", "guide", ".", "J.", "Algorithms", ",", "6:145", "-LCB-", "159", ",", "1985", ".", "-LSB-", "19", "-RSB-", "A.", "D.", "Jovanovich", ".", "Note", "on", "the", "modification", "of", "the", "fundamental", "cycle", "finding", "algorithm", ".", "Info", ".", "Proc", ".", "Lett.", ",", "3:33", ",", "1974", ".", "-LSB-", "20", "-RSB-", "D.", "Knuth", ".", "The", "Art", "of", "Computer", "Programming", ",", "volume", "1", ".", "Addison-Wesley", ",", "Reading", ",", "Mass.", ",", "1968", ".", "pages", "363-368", ".", "-LSB-", "21", "-RSB-", "E.", "Kolasinska", ".", "On", "a", "minimal", "cycle", "basis", "of", "a", "graph", ".", "Zastosow", "Matem", ",", "16:631", "-LCB-", "639", ",", "1980", ".", "-LSB-", "22", "-RSB-", "J.", "Lederberg", ".", "Topology", "of", "Molecules", ".", "Mathematical", "Sciences", ".", "M.I.T.", "Press", ",", "Cambridge", ",", "Mass", ",", "1968", ".", "pages", "37-51", ".", "-LSB-", "23", "-RSB-", "K.", "Paton", ".", "An", "algorithm", "for", "finding", "a", "fundamental", "set", "of", "cycles", "of", "a", "graph", ".", "Comm", ".", "ACM", ",", "12:514", "-LCB-", "518", ",", "1969", ".", "-LSB-", "24", "-RSB-", "E.", "M.", "Reingold", ",", "J.", "Nievergelt", ",", "and", "N.", "Deo", ".", "Combinatorial", "Algorithms", ":", "Theory", "and", "Practice", ".", "Prentice-Hall", ",", "Englewood", "Cliffs", ",", "N.", "J.", ",", "1977", ".", "chap", ".", "8", ".", "-LSB-", "25", "-RSB-", "T.", "J.", "Sager", ".", "A", "polynomial", "time", "generator", "for", "minimal", "perfect", "hash", "functions", ".", "Comm", ".", "ACM", ",", "pages", "523", "-LCB-", "532", ",", "1985", ".", "-LSB-", "26", "-RSB-", "C.", "Savage", "and", "J.", "J?aJ?a", ".", "Fast", "efficient", "parallel", "algorithms", "for", "some", "graph", "problems", ".", "SIAM", "J.", "Comput.", ",", "10:682", "-LCB-", "691", ",", "1981", ".", "-LSB-", "27", "-RSB-", "P.", "Steeves", ".", "Numerical", "Processing", "of", "horizontal", "control", "data-economization", "by", "automation", ".", "PhD", "thesis", ",", "University", "of", "New", "Brunswick", ",", "1984", ".", "-LSB-", "28", "-RSB-", "E.", "Sussenguth", "Jr.", ".", "A", "graph-theoretical", "algorithm", "for", "matching", "chemical", "structures", ".", "J.", "Chem", ".", "Doc.", ",", "5", "-LRB-", "1", "-RRB-", ":36", "-LCB-", "43", ",", "1965", ".", "-LSB-", "29", "-RSB-", "M.", "M.", "Syslo", ".", "Fundamental", "set", "of", "cycles", "of", "a", "graph", ".", "Zastosow", ".", "Matem.", ",", "13:399", "-LCB-", "409", ",", "1973", ".", "-LSB-", "30", "-RSB-", "M.", "M.", "Syslo", ".", "Minimum-length", "cycle", "bases", "of", "a", "graph", "-LRB-", "Extended", "Abstract", "-RRB-", ".", "Methods", "Oper", ".", "Res.", ",", "37:385", "-LCB-", "390", ",", "1980", ".", "-LSB-", "31", "-RSB-", "Y.", "Tsin", "and", "F.", "Chin", ".", "Efficient", "parallel", "algorithms", "for", "a", "class", "of", "graph", "theoretic", "problems", ".", "SIAM", "J.", "Comput.", ",", "13:580", "-LCB-", "599", ",", "1984", ".", "-LSB-", "32", "-RSB-", "J.", "T.", "Welch", "Jr.", ".", "A", "mechanical", "analysis", "of", "the", "cyclic", "structure", "of", "undirected", "linear", "graphs", ".", "J.", "ACM", ",", "13:205", "-LCB-", "210", ",", "1966", ".", "T", "O", "R", "O", "I", "D", "S", "H", "Y", "P", "E", "R", "C", "U", "B", "E", "S", "Cycle-Lengths", "Tree-Heights", "Cycle-Lengths", "Tree-Heights", "n", "UV", "NT", "UV", "NT", "n", "UV", "NT", "UV", "NT", "256 3582 2758", "38 18 256 8744", "7412", "19", "13", "529", "10588", "7450", "62 29 512 25818", "19268", "32 16 1024 28888", "18894", "98", "42", "1024", "77006", "51200", "33 17 2025 81736", "50200", "150 63 2048 20733", "8", "124986", "44", "21", "4096 239374", "140254", "226 90 4096 74271", "0", "399212", "110 30 8100 67555", "2", "382552", "330 128 8192 25332", "30 1180808", "192", "47", "Table", "1", ":", "Quality", "of", "solutions", "on", "regular", "graphs", "Graph", "n", "?!", "Parameters", "256 512 1024 2048", "4096", "8192", "m", "-LRB-", "=", "1.43", "n", "-RRB-", "367 734 1463 2906", "5819", "11634", "ffi", ",", "?", "2", ",", "11", "2", ",", "17", "2", ",", "21", "2", ",", "17", "2", ",", "20", "2", ",", "28", "m", "-LRB-", "=", "1.71", "n", "-RRB-", "444", "882 1748 3486 6938", "13863", "ffi", ",", "?", "2", ",", "15", "2", ",", "22", "2", ",", "26", "2", ",", "31", "2", ",", "26", "2", ",", "36", "m", "-LRB-", "=", "2.11", "n", "-RRB-", "548 1094 2164 4319", "8585", "17136", "ffi", ",", "?", "2", ",", "18", "2", ",", "28", "2", ",", "31", "2", ",", "40", "2", ",", "32", "2", ",", "42", "m", "-LRB-", "=", "12n", "log", "n", "-RRB-", "1042 2368 5185 11328", "24674", "53355", "ffi", ",", "?", "2", ",", "25", "2", ",", "55", "2", ",", "63", "2", ",", "71", "2", ",", "99", "2", ",", "119", "m", "-LRB-", "=", "12npn", "-RRB-", "2063 5841 16514", "46560", "131405", "371236", "ffi", ",", "?", "3", ",", "40", "3", ",", "78", "3", ",", "148", "4", ",", "203", "4", ",", "294", "5", ",", "462", "m", "-LRB-", "=", "14n2", "-RRB-", "16404", "65591", "262306", "1048877", "4194949", "16777706", "ffi", ",", "?", "87", ",", "176", "162", ",", "363", "328", ",", "751", "692", ",", "1508", "1436", ",", "2977", "2543", ",", "5930", "Table", "2", ":", "Graph", "parameters", "for", "random", "graphs", "used", "Density", "n", "?!", "Class", "256 512 1024 2048", "4096", "8192", "UV", "NT", "UV", "NT", "UV", "NT", "UV", "NT", "UV", "NT", "UV", "NT", "ne", "118 142 239 287", "477 579 970 1181", "1937 2354 3875 4715", "m", "=", "1:43", "n", "h", "12.6", "8.4", "13.5", "9.1", "18.3", "10.4", "23.9", "11.6", "30.2", "12.5", "33.8", "13.3", "^", "l", "11.3", "10.2", "12.6", "11.1", "15.6", "12.7", "19.7", "14.7", "23.3", "15.9", "25.7", "17.0", "ne", "94 109 189 219", "383 446 770 896", "1548 1806 3103 3628", "m", "=", "1:71", "n", "h", "9.9", "8.8", "12.0", "10.3", "15.6", "12.6", "18.4", "14.3", "23.0", "16.9", "26.8", "18.4", "^", "l", "9.1", "9.0", "10.7", "10.2", "13.0", "11.9", "15.6", "13.4", "18.8", "15.0", "21.3", "16.0", "ne", "78 86 154 171", "316 351 634 705", "1277", "1421", "2565", "2858", "m", "=", "2:11", "n", "h", "8.6", "9.1", "10.6", "11.2", "13.3", "13.7", "16.4", "15.2", "21.1", "17.9", "25.4", "19.6", "^", "l", "8.1", "8.4", "9.5", "9.7", "11.5", "11.7", "13.8", "13.3", "17.0", "15.3", "19.4", "16.3", "ne", "46", "49", "82 86 153 161", "290 305 540 569", "1017", "1066", "m", "=", "12", "n", "log", "n", "h", "6.9", "8.4", "7.6", "9.6", "10.1", "12.0", "12.4", "14.9", "15.1", "17.4", "18.4", "20.1", "^", "l", "6.8", "7.3", "7.2", "7.9", "8.9", "9.6", "10.6", "11.7", "12.2", "13.3", "14.3", "15.5", "ne", "26", "27", "39", "41", "60", "61", "93", "95", "143", "144 218 220", "m", "=", "12", "npn", "h", "5.6", "6.4", "6.6", "7.6", "7.2", "8.4", "8.5", "9.8", "10.1", "11.4", "12.1", "13.1", "^", "l", "5.8", "6.0", "6.2", "6.5", "6.6", "6.9", "7.5", "7.9", "8.3", "8.8", "9.3", "9.8", "ne", "4", "4", "5", "5", "5", "5", "5", "7", "6", "8", "6", "11", "m", "=", "14", "n2", "h", "2.2", "2.4", "2.3", "2.5", "2.5", "2.6", "2.6", "2.6", "2.8", "2.8", "2.6", "3.0", "^", "l", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "3.5", "Table", "3", ":", "Quality", "of", "solutions", "on", "random", "graphs", "n", "n", "2", "m", "=", "0.5", "n", "m", "=", "0.25", "n", "m", "=", "0.5", "n", "log", "n", "m", "=", "2.11", "n", "m", "=", "1.71", "n", "m", "=", "1.43", "n", "80", "60", "40", "20", "100", "256 512 1024 2048", "4096", "8192", "merit", "-LRB-", "heuristic", "NT", "-RRB-", "Figure", "4", ":", "Winning", "merit", "of", "heuristic", "NT", "over", "heuristic", "UV", "8", "9", "13121110", "15", "12", "6", "9", "3", "8", "9", "13121110", "15", "12", "6", "9", "3", "8", "9", "13121110", "15", "12", "6", "9", "3", "8", "9", "13121110", "8", "9", "13121110", "15", "12", "6", "9", "3", "8", "9", "13121110", "4", "8", "16", "20", "12", "20", "40", "60", "100", "80", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "log", "n", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "log", "n", "log", "nlog", "n", "m", "=", "1.43", "n", "m", "=", "1.71", "n", "m", "=", "2.11", "n", "m", "=", "0.5", "n", "log", "n", "m", "=", "0.5", "n", "n", "UV", "NT", "log", "n", "log", "n", "m", "=", "0.25", "n", "2", "**", "log", "is", "to", "the", "base", "2", "Figure", "5", ":", "Tree-Construction", "time", "for", "random", "graphs", "8", "9", "13121110", "8", "9", "13121110", "8", "9", "13121110", "8", "9", "13121110", "8", "9", "13121110", "8", "9", "13121110", "log", "n", "log", "n", "log", "nlog", "n", "m", "=", "1.43", "n", "m", "=", "1.71", "n", "m", "=", "2.11", "n", "m", "=", "0.5", "n", "log", "n", "m", "=", "0.5", "n", "n", "UV", "0.48", "0.60", "0.12", "0.24", "0.36", "0.48", "0.60", "0.12", "0.24", "0.36", "0.00", "0.48", "0.60", "0.12", "0.24", "0.36", "0.000.00", "0.75", "1.25", "1.00", "0.50", "0.25", "0.00", "0.00", "0.80", "1.60", "2.40", "3.20", "4.00", "125", "75", "100", "50", "25", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "Time", "-LRB-", "in", "sec", "-RRB-", "log", "n", "m", "=", "0.25", "n", "2", "NT", "log", "n", "**", "log", "is", "to", "the", "base", "2", "Figure", "6", ":", "Cycle-Calculation", "time", "for", "random", "graphs", "Appendix", "/", "*******************************************************************", "/", "/", "*", "This", "program", "finds", "the", "approximate", "solutions", "to", "the", "*", "/", "/", "*", "minimum-length", "fundamental-cycles", "set", "problem", ".", "It", "uses", "*", "/", "/", "*", "two", "heuristics", "-LRB-", "namely", ",", "UV", "and", "NT", "-RRB-", "to", "solve", "the", "problem", ".", "*", "/", "/", "*", "At", "the", "end", ",", "related", "statistics", "are", "written", "in", "an", "output", "*", "/", "/", "*", "file", ".", "The", "program", "has", "a", "random", "graph", "generator", "which", "*", "/", "/", "*", "generates", "graphs", "G", "-LRB-", "n", ",", "p", "-RRB-", "for", "given", "seed", "values", ".", "The", "usage", "*", "/", "/", "*", "of", "this", "program", "is", "one", "of", "the", "following", ":", "*", "/", "/", "*", "*", "/", "/", "*", "$", "prog_name", "<n>", "<ad>", "<seed>", "<output-file>", "*", "/", "/", "*", "or", "*", "/", "/", "*", "$", "prog_name", "<name>", "<n>", "<output-file>", "*", "/", "/", "*", "*", "/", "/", "*", "where", ",", "*", "/", "/", "*", "<n>", "--", "order", "of", "the", "random", "graph", "*", "/", "/", "*", "<ad>", "--", "approximate", "average-degree", "of", "the", "graph", "*", "/", "/", "*", "-LRB-", "Note", ":", "p", "=", "ad", "/", "-LRB-", "n-1", "-RRB-", "-RRB-", "*", "/", "/", "*", "<seed>", "--", "seed", "for", "the", "random", "graph", "generator", "*", "/", "/", "*", "<name>", "--", "one", "of", "the", "names", "for", "regular", "graphs", "*", "/", "/", "*", "i.e.", ",", "T2", "-", "Toroid", "-LRB-", "2-D", "-RRB-", "*", "/", "/", "*", "T3", "-", "Toroid", "-LRB-", "3-D", "-RRB-", "*", "/", "/", "*", "T4", "-", "Toroid", "-LRB-", "4-D", "-RRB-", "*", "/", "/", "*", "HC", "-", "Hypercube", "*", "/", "/", "*", "*", "/", "/", "*", "For", "a", "given", "value", "of", "`", "n", "'", ",", "where", "n", "<", "=", "8192", ",", "`", "n", "'", "processors", "are", "*", "/", "/", "*", "employed", ".", "Each", "processor", "is", "responsible", "for", "a", "node", ",", "and", "all", "*", "/", "/", "*", "edges", "that", "are", "incident", ".", "*", "/", "/", "*******************************************************************", "/", "#include", "<mpl.h>", "#include", "<stdio.h>", "#include", "<stdlib.h>", "#include", "<string.h>", "#include", "<errno.h>", "#include", "<", "sys/time", ".", "h", ">", "#include", "<", "maspar/mp", "_", "libc.h", ">", "#include", "<mp_resource.h>", "#include", "<math.h>", "#define", "MAX_DEGREE", "3000", "#define", "microsec", "*", "0.000001", "/", "*****************", "Global", "Plural", "Variables", "**************************", "/", "plural", "short", "Pred", ";", "/", "*", "Predecessor", "of", "a", "node", "*", "/", "plural", "short", "Dist", ";", "/", "*", "Distance", "of", "a", "node", "from", "the", "root-node", "*", "/", "plural", "short", "Degree", ";", "/", "*", "Degree", "of", "nodes", "in", "the", "graph", "*", "/", "plural", "short", "Unexplored", ";", "/", "*", "Reset", "if", "a", "Tree", "Node", "has", "been", "explored", "*", "/", "plural", "short", "Active", ";", "/", "*", "All", "processors", "with", "iproc", "<", "n", "*", "/", "plural", "short", "Tree_degree", ";", "/", "*", "The", "degree", "of", "nodes", "in", "the", "tree", "*", "/", "plural", "short", "E", "-LSB-", "MAX_DEGREE", "-RSB-", ";", "/", "*", "Edge", "list", "for", "every", "node", "*", "/", "/", "*****************", "Global", "-LRB-", "Singular", "-RRB-", "Variables", "**************************", "/", "int", "root", ";", "/", "*", "The", "root-node", "number", "*", "/", "int", "Total_cycle_length", "=", "0", ";", "/", "*", "Total", "fundamental-cycle", "set", "length", "*", "/", "int", "n", ";", "/", "*", "Order", "of", "the", "graph", "*", "/", "float", "p", ";", "/", "*", "Parameter", "`", "p", "'", "for", "generating", "G", "-LRB-", "n", ",", "p", "-RRB-", "*", "/", "float", "ad", ";", "/", "*", "Average", "Degree", "of", "the", "graph", "*", "/", "int", "seed", ";", "/", "*", "Seed", "to", "generate", "random", "graph", ",", "G", "-LRB-", "n", ",", "p", "-RRB-", "*", "/", "long", "m", ";", "/", "*", "Number", "of", "edges", "in", "the", "graph", "*", "/", "float", "density", ";", "/", "*", "Precise", "density", "of", "the", "-LRB-", "input", "-RRB-", "graph", "*", "/", "int", "max_graph", ";", "/", "*", "Maximum-degree", "of", "the", "-LRB-", "input", "-RRB-", "graph", "*", "/", "int", "min_graph", ";", "/", "*", "Minimum-degree", "of", "the", "-LRB-", "input", "-RRB-", "graph", "*", "/", "int", "height", ";", "/", "*", "Height", "of", "the", "tree", "*", "/", "int", "Max_tree", ";", "/", "*", "Degree", "of", "the", "tree", "*", "/", "int", "num_explored", ";", "/", "*", "Number", "of", "nodes", "which", "were", "explored", "*", "/", "FILE", "*", "outptr", ";", "/", "*", "Output", "file", "-LRB-", "pointer", "-RRB-", "for", "STATISTICS", "*", "/", "void", "GenerateRandomGraph", "-LRB-", "-RRB-", ";", "/", "*", "Generates", "a", "random", "graph", "G", "-LRB-", "n", ",", "p", "-RRB-", "*", "/", "double", "Heuristic_UV", "-LRB-", "void", "-RRB-", ";", "/", "*", "Generates", "a", "tree", "by", "one", "of", "the", "heuristics", "*", "/", "double", "Heuristic_NT", "-LRB-", "void", "-RRB-", ";", "/", "*", "Generates", "a", "tree", "by", "one", "of", "the", "heuristics", "*", "/", "double", "CalculateCycles", "-LRB-", "void", "-RRB-", ";", "/", "*", "Calculates", "total", "length", "of", "the", "fundamentalcycles", "given", "a", "graph", "and", "its", "spanning", "tree", "*", "/", "void", "PrintGraph", "-LRB-", "void", "-RRB-", ";", "/", "*", "Prints", "the", "input", "graph", "*", "/", "void", "PrintTree", "-LRB-", "void", "-RRB-", ";", "/", "*", "Prints", "the", "spanning", "tree", "*", "/", "void", "Toroid2", "-LRB-", "-RRB-", ";", "/", "*", "Generates", "a", "2-D", "Torid", "*", "/", "void", "Toroid3", "-LRB-", "-RRB-", ";", "/", "*", "Generates", "a", "3-D", "Torid", "*", "/", "void", "Toroid4", "-LRB-", "-RRB-", ";", "/", "*", "Generates", "a", "4-D", "Torid", "*", "/", "void", "Hypercube", "-LRB-", "-RRB-", ";", "/", "*", "Generates", "a", "Hypercube", "*", "/", "main", "-LRB-", "argc", ",", "argv", "-RRB-", "int", "argc", ";", "char", "*", "argv", "-LSB-", "-RSB-", ";", "-LCB-", "int", "i", ",", "j", ",", "H", ";", "float", "treeTimeSTATS", "-LSB-", "2", "-RSB-", ",", "cycleTimeSTATS", "-LSB-", "2", "-RSB-", ",", "totalTimeSTATS", "-LSB-", "2", "-RSB-", ";", "long", "cycleLengthSTATS", "-LSB-", "2", "-RSB-", ";", "int", "treeHeightSTATS", "-LSB-", "2", "-RSB-", ";", "int", "minTreeSTATS", "-LSB-", "2", "-RSB-", ",", "maxTreeSTATS", "-LSB-", "2", "-RSB-", ";", "int", "num_exploredSTATS", "-LSB-", "2", "-RSB-", ";", "switch", "-LRB-", "argc", "-RRB-", "-LCB-", "case", "5", ":", "n", "=", "atoi", "-LRB-", "argv", "-LSB-", "1", "-RSB-", "-RRB-", ";", "ad", "=", "atof", "-LRB-", "argv", "-LSB-", "2", "-RSB-", "-RRB-", ";", "p", "=", "ad", "/", "-LRB-", "n-1", "-RRB-", ";", "seed", "=", "atoi", "-LRB-", "argv", "-LSB-", "3", "-RSB-", "-RRB-", ";", "outptr", "=", "-LRB-", "FILE", "*", "-RRB-", "fopen", "-LRB-", "argv", "-LSB-", "4", "-RSB-", ",", "``", "a", "''", "-RRB-", ";", "GenerateRandomGraph", "-LRB-", "n", ",", "p", ",", "seed", "-RRB-", ";", "break", ";", "case", "4", ":", "n", "=", "atoi", "-LRB-", "argv", "-LSB-", "2", "-RSB-", "-RRB-", ";", "outptr", "=", "-LRB-", "FILE", "*", "-RRB-", "fopen", "-LRB-", "argv", "-LSB-", "3", "-RSB-", ",", "``", "a", "''", "-RRB-", ";", "if", "-LRB-", "!", "strcmp", "-LRB-", "argv", "-LSB-", "1", "-RSB-", ",", "``", "T2", "''", "-RRB-", "-RRB-", "Toroid2", "-LRB-", "n", "-RRB-", ";", "else", "if", "-LRB-", "!", "strcmp", "-LRB-", "argv", "-LSB-", "1", "-RSB-", ",", "``", "T3", "''", "-RRB-", "-RRB-", "Toroid3", "-LRB-", "n", "-RRB-", ";", "ii", "else", "if", "-LRB-", "!", "strcmp", "-LRB-", "argv", "-LSB-", "1", "-RSB-", ",", "``", "T4", "''", "-RRB-", "-RRB-", "Toroid4", "-LRB-", "n", "-RRB-", ";", "else", "if", "-LRB-", "!", "strcmp", "-LRB-", "argv", "-LSB-", "1", "-RSB-", ",", "``", "HC", "''", "-RRB-", "-RRB-", "Hypercube", "-LRB-", "n", "-RRB-", ";", "else", "-LCB-", "printf", "-LRB-", "``", "Error", ":", "First", "Argument", "is", "T2", ",", "T3", ",", "T4", ",", "or", ",", "HC", "\\", "n", "''", "-RRB-", ";", "exit", "-LRB-", "1", "-RRB-", ";", "-RCB-", "break", ";", "default", ":", "printf", "-LRB-", "``", "Error", ":", "Usage", "is", "<prog_name>", "<n>", "<p>", "<seed>", "<outfile>", "\\", "n", "''", "-RRB-", ";", "printf", "-LRB-", "''", "or", ",", "<prog_name>", "<name>", "<n>", "<outfile>", "\\", "n", "''", "-RRB-", ";", "exit", "-LRB-", "1", "-RRB-", ";", "break", ";", "-RCB-", "/", "*", "PrintGraph", "-LRB-", "-RRB-", ";", "*", "/", "/", "*", "Running", "Heuristic", "UV", "*", "/", "treeTimeSTATS", "-LSB-", "0", "-RSB-", "=", "Heuristic_UV", "-LRB-", "-RRB-", ";", "cycleTimeSTATS", "-LSB-", "0", "-RSB-", "=", "CalculateCycles", "-LRB-", "-RRB-", ";", "totalTimeSTATS", "-LSB-", "0", "-RSB-", "=", "treeTimeSTATS", "-LSB-", "0", "-RSB-", "+", "cycleTimeSTATS", "-LSB-", "0", "-RSB-", ";", "treeHeightSTATS", "-LSB-", "0", "-RSB-", "=", "height", ";", "maxTreeSTATS", "-LSB-", "0", "-RSB-", "=", "Max_tree", ";", "cycleLengthSTATS", "-LSB-", "0", "-RSB-", "=", "Total_cycle_length", ";", "num_exploredSTATS", "-LSB-", "0", "-RSB-", "=", "num_explored", ";", "/", "*", "PrintTree", "-LRB-", "-RRB-", ";", "*", "/", "/", "*", "Running", "Heuristic", "NT", "*", "/", "treeTimeSTATS", "-LSB-", "1", "-RSB-", "=", "Heuristic_NT", "-LRB-", "-RRB-", ";", "cycleTimeSTATS", "-LSB-", "1", "-RSB-", "=", "CalculateCycles", "-LRB-", "-RRB-", ";", "totalTimeSTATS", "-LSB-", "1", "-RSB-", "=", "treeTimeSTATS", "-LSB-", "1", "-RSB-", "+", "cycleTimeSTATS", "-LSB-", "1", "-RSB-", ";", "treeHeightSTATS", "-LSB-", "1", "-RSB-", "=", "height", ";", "maxTreeSTATS", "-LSB-", "1", "-RSB-", "=", "Max_tree", ";", "cycleLengthSTATS", "-LSB-", "1", "-RSB-", "=", "Total_cycle_length", ";", "num_exploredSTATS", "-LSB-", "1", "-RSB-", "=", "num_explored", ";", "/", "*", "PrintTree", "-LRB-", "-RRB-", ";", "*", "/", "/", "*", "Writing", "Statistics", "*", "/", "fprintf", "-LRB-", "outptr", ",", "``", "TreeHeight", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "d", "''", ",", "treeHeightSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nMaxTree", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "d", "''", ",", "maxTreeSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nCycleLength", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "d", "''", ",", "cycleLengthSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nTreeTime", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "0.3", "f", "''", ",", "treeTimeSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nCycleTime", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "0.3", "f", "''", ",", "cycleTimeSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nTotalTime", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "0.3", "f", "''", ",", "totalTimeSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "nNumExplored", ":", "''", "-RRB-", ";", "for", "-LRB-", "H", "=", "0", ";", "H", "<", "2", ";", "H", "+", "+", "-RRB-", "fprintf", "-LRB-", "outptr", ",", "''", "%", "d", "''", ",", "num_exploredSTATS", "-LSB-", "H", "-RSB-", "-RRB-", ";", "fclose", "-LRB-", "outptr", "-RRB-", ";", "-RCB-", "iii", "double", "Heuristic_NT", "-LRB-", "void", "-RRB-", "-LCB-", "short", "tsize", "=", "0", ";", "/", "*", "Number", "of", "nodes", "in", "the", "tree", ",", "so", "far", "*", "/", "short", "new", ";", "/", "*", "New", "node", "added", "to", "the", "tree", "*", "/", "int", "i", ",", "j", ",", "temp", ";", "/", "*", "Counter", "&", "&", "temporraries", "*", "/", "struct", "mpRUsage_s", "st1", ",", "st2", ";", "/", "*", "Structures", "for", "measuring", "time", "*", "/", "double", "time", ";", "/", "*", "Returned", "by", "this", "routine", "*", "/", "plural", "short", "nontree_neighbor", ";", "/", "*", "Non-tree", "neighbors", "of", "the", "`", "new", "'", "node", "*", "/", "plural", "int", "ii", ",", "jj", ",", "kk", ";", "/", "*", "Plural", "counters", "&", "&", "temporaries", "*", "/", "plural", "short", "Deg", ";", "/", "*", "Degree", "of", "nodes", "-LRB-", "changes", "in", "the", "algorithm", "-RRB-", "*", "/", "plural", "short", "Vt", ";", "/", "*", "Set", "if", "a", "node", "has", "been", "included", "in", "the", "tree", "*", "/", "plural", "short", "nontree", ";", "/", "*", "The", "number", "of", "new", "non-tree", "edges", "induced", "*", "/", "/", "*", "Initialization", "*", "/", "Pred", "=", "-LRB-", "-1", "-RRB-", ";", "Dist", "=", "9999", ";", "Vt", "=", "0", ";", "Deg", "=", "Degree", ";", "root", "=", "0", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Unexplored", "=", "Active", "=", "1", ";", "else", "Unexplored", "=", "Active", "=", "0", ";", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st1", "-RRB-", ";", "/", "*", "Choosing", "the", "node", "with", "highest", "degree", ",", "as", "the", "root", "node", "*", "/", "if", "-LRB-", "Active", "-RRB-", "if", "-LRB-", "Degree", "==", "reduceMax16", "-LRB-", "Degree", "-RRB-", "-RRB-", "new", "=", "root", "=", "selectFirst", "-LRB-", "-RRB-", ";", "tsize", "+", "+", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Vt", "=", "1", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Pred", "=", "0", ";", "/", "*", "For", "the", "root", "of", "the", "tree", "*", "/", "proc", "-LSB-", "root", "-RSB-", ".", "Dist", "=", "0", ";", "/", "*", "Pred", "and", "Dist", "are", "*", "/", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "proc", "-LSB-", "root", "-RSB-", ".", "Degree", ";", "i", "+", "+", "-RRB-", "proc", "-LSB-", "proc", "-LSB-", "root", "-RSB-", ".", "E", "-LSB-", "i", "-RSB-", "-RSB-", ".", "Deg", "--", ";", "while", "-LRB-", "tsize", "<", "n", "-RRB-", "-LCB-", "/", "*", "Selecting", "the", "next", "node", "to", "explore", "*", "/", "if", "-LRB-", "tsize", ">", "1", "-RRB-", "-LCB-", "if", "-LRB-", "Vt", "&", "&", "Deg", ">", "0", "-RRB-", "if", "-LRB-", "nontree", "==", "reduceMax16", "-LRB-", "nontree", "-RRB-", "-RRB-", "if", "-LRB-", "Dist", "==", "reduceMin16", "-LRB-", "Dist", "-RRB-", "-RRB-", "new", "=", "selectFirst", "-LRB-", "-RRB-", ";", "proc", "-LSB-", "new", "-RSB-", ".", "Vt", "=", "1", ";", "/", "*", "This", "sets", "the", "tree-flag", "for", "new", "*", "/", "-RCB-", "/", "*", "End", "if", "*", "/", "proc", "-LSB-", "new", "-RSB-", ".", "Deg", "=", "0", ";", "proc", "-LSB-", "new", "-RSB-", ".", "Unexplored", "=", "0", ";", "nontree_neighbor", "=", "0", ";", "for", "-LRB-", "i", "=", "0", ";", "-LRB-", "temp", "=", "proc", "-LSB-", "new", "-RSB-", ".", "E", "-LSB-", "i", "-RSB-", "-RRB-", "!", "=", "-LRB-", "-1", "-RRB-", ";", "i", "+", "+", "-RRB-", "if", "-LRB-", "!", "proc", "-LSB-", "temp", "-RSB-", ".", "Vt", "-RRB-", "proc", "-LSB-", "temp", "-RSB-", ".", "nontree_neighbor", "=", "1", ";", "if", "-LRB-", "!", "reduceAdd16", "-LRB-", "nontree_neighbor", "-RRB-", "-RRB-", "-LCB-", "fprintf", "-LRB-", "outptr", ",", "``", "Error", ":", "Graph", "is", "disconnected", "-LRB-", "Aborting", "-RRB-", "\\", "n", "''", "-RRB-", ";", "exit", "-LRB-", "1", "-RRB-", ";", "-RCB-", "tsize", "+", "=", "reduceAdd16", "-LRB-", "nontree_neighbor", "-RRB-", ";", "iv", "if", "-LRB-", "nontree_neighbor", "-RRB-", "-LCB-", "Vt", "=", "1", ";", "Pred", "=", "new", ";", "Dist", "=", "proc", "-LSB-", "new", "-RSB-", ".", "Dist", "+1", ";", "-RCB-", "/", "*******", "Updating", "Deg", "********", "/", "if", "-LRB-", "nontree_neighbor", "-RRB-", "for", "-LRB-", "ii", "=", "0", ";", "ii", "<", "Degree", ";", "ii", "+", "+", "-RRB-", "if", "-LRB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Unexplored", "-RRB-", "while", "-LRB-", "-LRB-", "plural", "-RRB-", "1", "-RRB-", "if", "-LRB-", "connected", "-LRB-", "E", "-LSB-", "ii", "-RSB-", "-RRB-", "-RRB-", "-LCB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Deg", "--", ";", "break", ";", "-RCB-", "/", "*", "Calculating", "non-tree", "edges", "*", "/", "nontree", "=", "0", ";", "if", "-LRB-", "-LRB-", "Vt", "-RRB-", "&", "&", "-LRB-", "Unexplored", "-RRB-", "&", "&", "-LRB-", "Deg", ">", "0", "-RRB-", "-RRB-", "for", "-LRB-", "ii", "=", "0", ";", "ii", "<", "Degree", ";", "ii", "+", "+", "-RRB-", "if", "-LRB-", "!", "-LRB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Vt", "-RRB-", "-RRB-", "nontree", "+", "=", "-LRB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Degree", "-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Deg", "-", "1", "-RRB-", ";", "-RCB-", "/", "*", "End", "while", "*", "/", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st2", "-RRB-", ";", "time", "=", "-LRB-", "double", "-RRB-", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "sec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "sec", "-RRB-", "+", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "usec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "usec", "-RRB-", "microsec", ";", "Tree_degree", "=", "0", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "height", "=", "reduceMax16", "-LRB-", "Dist", "-RRB-", ";", "/", "*", "Calculating", "Degree", "of", "every", "node", "*", "/", "Tree_degree", "=", "sendwithAdd32", "-LRB-", "-LRB-", "plural", "int", "-RRB-", "1", ",", "Pred", "-RRB-", ";", "/", "*", "All", "-LRB-", "p", "-LRB-", "v", "-RRB-", ",", "v", "-RRB-", "*", "/", "Tree_degree", "+", "+", ";", "/", "*", "This", "corresponds", "to", "-LRB-", "v", ",", "p", "-LRB-", "v", "-RRB-", "-RRB-", "*", "/", "proc", "-LSB-", "0", "-RSB-", ".", "Tree_degree", "--", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Tree_degree", "--", ";", "Max_tree", "=", "reduceMax16", "-LRB-", "Tree_degree", "-RRB-", ";", "num_explored", "=", "reduceAdd16", "-LRB-", "-LRB-", "!", "-LRB-", "Unexplored", "-RRB-", "-RRB-", "-RRB-", ";", "-RCB-", "return", "time", ";", "-RCB-", "double", "Heuristic_UV", "-LRB-", "void", "-RRB-", "-LCB-", "short", "tsize", "=", "0", ";", "/", "*", "Number", "of", "nodes", "in", "the", "tree", ",", "so", "far", "*", "/", "short", "new", ";", "/", "*", "New", "node", "added", "to", "the", "tree", "*", "/", "int", "i", ",", "j", ",", "temp", ";", "/", "*", "Counter", "&", "&", "temporraries", "*", "/", "struct", "mpRUsage_s", "st1", ",", "st2", ";", "/", "*", "Structures", "for", "measuring", "time", "*", "/", "double", "time", ";", "/", "*", "Returned", "by", "this", "routine", "*", "/", "plural", "short", "nontree_neighbor", ";", "/", "*", "Non-tree", "neighbors", "of", "the", "`", "new", "'", "node", "*", "/", "plural", "int", "ii", ",", "jj", ",", "kk", ";", "/", "*", "Plural", "counters", "&", "&", "temporaries", "*", "/", "plural", "short", "Deg", ";", "/", "*", "Degree", "of", "nodes", "-LRB-", "changes", "in", "the", "algorithm", "-RRB-", "*", "/", "plural", "short", "Vt", ";", "/", "*", "Set", "if", "a", "node", "has", "been", "included", "in", "the", "tree", "*", "/", "/", "*", "Initialization", "*", "/", "Pred", "=", "-LRB-", "-1", "-RRB-", ";", "Dist", "=", "9999", ";", "Vt", "=", "0", ";", "v", "Deg", "=", "Degree", ";", "root", "=", "0", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Unexplored", "=", "Active", "=", "1", ";", "else", "Unexplored", "=", "Active", "=", "0", ";", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st1", "-RRB-", ";", "/", "*", "Choosing", "the", "node", "with", "highest", "degree", ",", "as", "the", "root", "node", "*", "/", "if", "-LRB-", "Active", "-RRB-", "if", "-LRB-", "Degree", "==", "reduceMax16", "-LRB-", "Degree", "-RRB-", "-RRB-", "new", "=", "root", "=", "selectFirst", "-LRB-", "-RRB-", ";", "tsize", "+", "+", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Vt", "=", "1", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Pred", "=", "0", ";", "/", "*", "For", "the", "root", "of", "the", "tree", "*", "/", "proc", "-LSB-", "root", "-RSB-", ".", "Dist", "=", "0", ";", "/", "*", "Pred", "and", "Dist", "are", "*", "/", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "proc", "-LSB-", "root", "-RSB-", ".", "Degree", ";", "i", "+", "+", "-RRB-", "proc", "-LSB-", "proc", "-LSB-", "root", "-RSB-", ".", "E", "-LSB-", "i", "-RSB-", "-RSB-", ".", "Deg", "--", ";", "while", "-LRB-", "tsize", "<", "n", "-RRB-", "-LCB-", "/", "*", "Selecting", "the", "next", "node", "to", "explore", "*", "/", "if", "-LRB-", "tsize", ">", "1", "-RRB-", "-LCB-", "if", "-LRB-", "Vt", "&", "&", "Deg", ">", "0", "-RRB-", "if", "-LRB-", "Deg", "==", "reduceMax16", "-LRB-", "Deg", "-RRB-", "-RRB-", "if", "-LRB-", "Dist", "==", "reduceMin16", "-LRB-", "Dist", "-RRB-", "-RRB-", "new", "=", "selectFirst", "-LRB-", "-RRB-", ";", "proc", "-LSB-", "new", "-RSB-", ".", "Vt", "=", "1", ";", "/", "*", "This", "sets", "the", "tree-flag", "for", "new", "*", "/", "-RCB-", "/", "*", "End", "if", "*", "/", "proc", "-LSB-", "new", "-RSB-", ".", "Deg", "=", "0", ";", "proc", "-LSB-", "new", "-RSB-", ".", "Unexplored", "=", "0", ";", "nontree_neighbor", "=", "0", ";", "for", "-LRB-", "i", "=", "0", ";", "-LRB-", "temp", "=", "proc", "-LSB-", "new", "-RSB-", ".", "E", "-LSB-", "i", "-RSB-", "-RRB-", "!", "=", "-LRB-", "-1", "-RRB-", ";", "i", "+", "+", "-RRB-", "if", "-LRB-", "!", "proc", "-LSB-", "temp", "-RSB-", ".", "Vt", "-RRB-", "proc", "-LSB-", "temp", "-RSB-", ".", "nontree_neighbor", "=", "1", ";", "if", "-LRB-", "!", "reduceAdd16", "-LRB-", "nontree_neighbor", "-RRB-", "-RRB-", "-LCB-", "fprintf", "-LRB-", "outptr", ",", "``", "Error", ":", "Graph", "is", "disconnected", "-LRB-", "Aborting", "-RRB-", "\\", "n", "''", "-RRB-", ";", "exit", "-LRB-", "1", "-RRB-", ";", "-RCB-", "tsize", "+", "=", "reduceAdd16", "-LRB-", "nontree_neighbor", "-RRB-", ";", "if", "-LRB-", "nontree_neighbor", "-RRB-", "-LCB-", "Vt", "=", "1", ";", "Pred", "=", "new", ";", "Dist", "=", "proc", "-LSB-", "new", "-RSB-", ".", "Dist", "+1", ";", "-RCB-", "/", "*******", "Updating", "Deg", "********", "/", "if", "-LRB-", "nontree_neighbor", "-RRB-", "for", "-LRB-", "ii", "=", "0", ";", "ii", "<", "Degree", ";", "ii", "+", "+", "-RRB-", "if", "-LRB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Unexplored", "-RRB-", "while", "-LRB-", "-LRB-", "plural", "-RRB-", "1", "-RRB-", "if", "-LRB-", "connected", "-LRB-", "E", "-LSB-", "ii", "-RSB-", "-RRB-", "-RRB-", "-LCB-", "router", "-LSB-", "E", "-LSB-", "ii", "-RSB-", "-RSB-", ".", "Deg", "--", ";", "break", ";", "-RCB-", "-RCB-", "/", "*", "End", "while", "*", "/", "vi", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st2", "-RRB-", ";", "time", "=", "-LRB-", "double", "-RRB-", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "sec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "sec", "-RRB-", "+", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "usec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "usec", "-RRB-", "microsec", ";", "Tree_degree", "=", "0", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "height", "=", "reduceMax16", "-LRB-", "Dist", "-RRB-", ";", "/", "*", "Calculating", "Degree", "of", "every", "node", "*", "/", "Tree_degree", "=", "sendwithAdd32", "-LRB-", "-LRB-", "plural", "int", "-RRB-", "1", ",", "Pred", "-RRB-", ";", "/", "*", "All", "-LRB-", "p", "-LRB-", "v", "-RRB-", ",", "v", "-RRB-", "*", "/", "Tree_degree", "+", "+", ";", "/", "*", "This", "corresponds", "to", "-LRB-", "v", ",", "p", "-LRB-", "v", "-RRB-", "-RRB-", "*", "/", "proc", "-LSB-", "0", "-RSB-", ".", "Tree_degree", "--", ";", "proc", "-LSB-", "root", "-RSB-", ".", "Tree_degree", "--", ";", "Max_tree", "=", "reduceMax16", "-LRB-", "Tree_degree", "-RRB-", ";", "num_explored", "=", "reduceAdd16", "-LRB-", "-LRB-", "!", "-LRB-", "Unexplored", "-RRB-", "-RRB-", "-RRB-", ";", "-RCB-", "return", "time", ";", "-RCB-", "void", "GenerateRandomGraph", "-LRB-", "n", ",", "p", ",", "seed", "-RRB-", "int", "n", ",", "seed", ";", "float", "p", ";", "-LCB-", "int", "i", ",", "j", ",", "k", ";", "plural", "short", "flag", ";", "plural", "short", "ii", ",", "jj", ",", "kk", ",", "temp", ";", "#define", "Largest", "2147483647.0", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "MAX_DEGREE", ";", "i", "+", "+", "-RRB-", "E", "-LSB-", "i", "-RSB-", "=-LRB-", "-1", "-RRB-", ";", "Degree", "=", "0", ";", "Active", "=", "Unexplored", "=", "0", ";", "p_srandom", "-LRB-", "seed", "*", "iproc", "-RRB-", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "-LCB-", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "-LCB-", "flag", "=", "0", ";", "if", "-LRB-", "iproc", ">", "i", "-RRB-", "if", "-LRB-", "p_random", "-LRB-", "-RRB-", "/", "Largest", "<", "p", "-RRB-", "-LCB-", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "i", ";", "flag", "=", "1", ";", "-RCB-", "if", "-LRB-", "flag", "-RRB-", "while", "-LRB-", "-LRB-", "plural", "-RRB-", "1", "-RRB-", "if", "-LRB-", "connected", "-LRB-", "-LRB-", "plural", "-RRB-", "i", "-RRB-", "-RRB-", "-LCB-", "router", "-LSB-", "-LRB-", "plural", "-RRB-", "i", "-RSB-", ".", "E", "-LSB-", "-LRB-", "proc", "-LSB-", "i", "-RSB-", ".", "Degree", "-RRB-", "+", "+", "-RSB-", "=", "iproc", ";", "break", ";", "-RCB-", "/", "*", "End", "if", "*", "/", "-RCB-", "/", "*", "End", "for", "*", "/", "-RCB-", "/", "*", "End", "if", "*", "/", "/", "*", "Adding", "more", "edges", "to", "degree-0", "and", "degree-1", "vertices", "*", "/", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "-LCB-", "switch", "-LRB-", "proc", "-LSB-", "i", "-RSB-", ".", "Degree", "-RRB-", "-LCB-", "case", "-LRB-", "0", "-RRB-", ":", "do", "-LCB-", "j", "=", "-LRB-", "random", "-LRB-", "-RRB-", "/", "Largest", "-RRB-", "*", "n", ";", "-RCB-", "while", "-LRB-", "j", "==", "i", "-RRB-", ";", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "j", ";", "proc", "-LSB-", "j", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "i", ";", "do", "-LCB-", "j", "=", "-LRB-", "random", "-LRB-", "-RRB-", "/", "Largest", "-RRB-", "*", "n", ";", "-RCB-", "while", "-LRB-", "-LRB-", "j", "==", "i", "-RRB-", "|", "|", "-LRB-", "j", "==", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "0", "-RSB-", "-RRB-", "-RRB-", ";", "vii", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "j", ";", "proc", "-LSB-", "j", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "i", ";", "break", ";", "case", "-LRB-", "1", "-RRB-", ":", "do", "-LCB-", "j", "=", "-LRB-", "random", "-LRB-", "-RRB-", "/", "Largest", "-RRB-", "*", "n", ";", "-RCB-", "while", "-LRB-", "-LRB-", "j", "==", "i", "-RRB-", "|", "|", "-LRB-", "j", "==", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "0", "-RSB-", "-RRB-", "-RRB-", ";", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "j", ";", "proc", "-LSB-", "j", "-RSB-", ".", "E", "-LSB-", "Degree", "+", "+", "-RSB-", "=", "i", ";", "break", ";", "default", ":", "break", ";", "-RCB-", "-RCB-", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "-LCB-", "for", "-LRB-", "ii", "=", "0", ";", "ii", "<", "Degree", ";", "ii", "+", "+", "-RRB-", "-LCB-", "jj", "=p", "_", "random", "-LRB-", "-RRB-", "%", "Degree", ";", "kk", "=p", "_", "random", "-LRB-", "-RRB-", "%", "Degree", ";", "temp", "=", "E", "-LSB-", "jj", "-RSB-", ";", "E", "-LSB-", "jj", "-RSB-", "=", "E", "-LSB-", "kk", "-RSB-", ";", "E", "-LSB-", "kk", "-RSB-", "=", "temp", ";", "-RCB-", "/", "*", "End", "for", "*", "/", "-RCB-", "/", "*", "End", "if", "*", "/", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "-LCB-", "m", "=", "reduceAdd32", "-LRB-", "Degree", "-RRB-", "/", "2", ";", "min_graph", "=", "reduceMin16", "-LRB-", "Degree", "-RRB-", ";", "max_graph", "=", "reduceMax16", "-LRB-", "Degree", "-RRB-", ";", "Unexplored", "=", "Active", "=", "1", ";", "-RCB-", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "n", "\\", "n", "##", "Random", "Graph", ":", "G", "-LRB-", "%", "d", ",", "%", "0.1", "f", ",", "%", "d", "-RRB-", ",", "m", "=", "%", "d", ",", "av", ".", "deg", "=", "%", "0.2", "f", ",", "maxd", "=", "%", "d", ",", "mind", "=", "%", "d", "\\", "n", "''", ",", "n", ",", "ad", ",", "seed", ",", "m", ",2.0", "*", "m/n", ",", "max_graph", ",", "min_graph", "-RRB-", ";", "-RCB-", "double", "CalculateCycles", "-LRB-", "void", "-RRB-", "-LCB-", "plural", "short", "ancestry", "-LSB-", "500", "-RSB-", ";", "plural", "int", "i", ";", "plural", "int", "j", ";", "plural", "lca_dist", ";", "plural", "int", "lca_flag", "=", "0", ";", "plural", "int", "temp_pred", "=", "9999", ";", "plural", "int", "temp", ";", "plural", "int", "local_cycle_ctr", "=", "0", ";", "plural", "int", "local_cycle_total", "=", "0", ";", "struct", "mpRUsage_s", "st1", ",", "st2", ";", "double", "time", ";", "int", "k", ";", "FILE", "*", "p", ";", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st1", "-RRB-", ";", "Total_cycle_length", "=", "0", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "/", "*", "First", "init", "local", "ancestry", "array", "to", "-LRB-", "-1", "-RRB-", "*", "/", "/", "*", "Then", "fill", "it", "with", "ancestry", "...", "*", "/", "i", "=", "0", ";", "temp_pred", "=", "Pred", ";", "while", "-LRB-", "temp_pred", "!", "=", "root", "-RRB-", "viii", "-LCB-", "ancestry", "-LSB-", "i", "+", "+", "-RSB-", "=", "temp_pred", ";", "temp_pred", "=", "router", "-LSB-", "temp_pred", "-RSB-", ".", "Pred", ";", "-RCB-", "ancestry", "-LSB-", "i", "+", "+", "-RSB-", "=", "temp_pred", ";", "ancestry", "-LSB-", "i", "+", "+", "-RSB-", "=", "-LRB-", "-1", "-RRB-", ";", "i", "=", "0", ";", "temp_pred", "=", "9999", ";", "/", "*", "At", "this", "point", ",", "Each", "proc", "has", "its", "own", "ancestry", "stored", "*", "/", "/", "*", "Now", "set", "up", "array", "walk", ",", "looking", "for", "non-tree", "edges", "*", "/", "for", "-LRB-", "i", "=", "0", ";", "-LRB-", "temp", "=", "E", "-LSB-", "i", "-RSB-", "-RRB-", "!", "=-LRB-", "-1", "-RRB-", ";", "i", "+", "+", "-RRB-", "-LCB-", "if", "-LRB-", "-LRB-", "temp", "!", "=", "Pred", "-RRB-", "&", "&", "-LRB-", "router", "-LSB-", "temp", "-RSB-", ".", "Pred", "!", "=", "iproc", "-RRB-", "&", "&", "-LRB-", "temp", ">", "iproc", "-RRB-", "-RRB-", "-LCB-", "local_cycle_ctr", "+", "+", ";", "lca_flag", "=", "0", ";", "temp_pred", "=", "router", "-LSB-", "temp", "-RSB-", ".", "Pred", ";", "while", "-LRB-", "temp_pred", "!", "=", "root", "-RRB-", "-LCB-", "j", "=", "0", ";", "while", "-LRB-", "ancestry", "-LSB-", "j", "-RSB-", "!", "=", "-LRB-", "-1", "-RRB-", "-RRB-", "-LCB-", "if", "-LRB-", "ancestry", "-LSB-", "j", "-RSB-", "==", "temp_pred", "-RRB-", "-LCB-", "lca_flag", "=", "1", ";", "break", ";", "-RCB-", "else", "j", "+", "+", ";", "-RCB-", "/", "*", "End", "ancestry", "check", "while", "loop", "*", "/", "if", "-LRB-", "lca_flag", "-RRB-", "/", "*", "This", "means", "we", "found", "lca", "early", "*", "/", "break", ";", "else", "temp_pred", "=", "router", "-LSB-", "temp_pred", "-RSB-", ".", "Pred", ";", "-RCB-", "/", "*", "End", "while", "temp_pred", "!", "=", "root", "...", "*", "/", "lca_dist", "=", "router", "-LSB-", "temp_pred", "-RSB-", ".", "Dist", ";", "local_cycle_total", "+", "=", "-LRB-", "-LRB-", "Dist", "+", "router", "-LSB-", "E", "-LSB-", "i", "-RSB-", "-RSB-", ".", "Dist", "-RRB-", "-", "-LRB-", "2", "*", "lca_dist", "-RRB-", "+1", "-RRB-", ";", "-RCB-", "/", "*", "End", "if", "...", "*", "/", "-RCB-", "/", "*", "end", "for", "...", "*", "/", "-RCB-", "/", "*", "end", "if", "Active", "*", "/", "Total_cycle_length", "+", "=", "reduceAdd32", "-LRB-", "local_cycle_total", "-RRB-", ";", "mpGetRUsage", "-LRB-", "RUSAGE_SELF", ",", "&", "st2", "-RRB-", ";", "time", "=", "-LRB-", "double", "-RRB-", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "sec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "sec", "-RRB-", "+", "-LRB-", "st2.dpu.dr", "_", "dputime.tv", "_", "usec", "-", "st1.dpu.dr", "_", "dputime.tv", "_", "usec", "-RRB-", "microsec", ";", "return", "time", ";", "-RCB-", "void", "PrintGraph", "-LRB-", "void", "-RRB-", "-LCB-", "int", "i", ",", "j", ";", "printf", "-LRB-", "''", "%", "d", "\\", "n", "''", ",", "n", "-RRB-", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "-LCB-", "printf", "-LRB-", "''", "%", "d", ":", "''", ",", "i", "-RRB-", ";", "for", "-LRB-", "j", "=", "0", ";", "j", "<", "proc", "-LSB-", "i", "-RSB-", ".", "Degree", ";", "j", "+", "+", "-RRB-", "printf", "-LRB-", "''", "%", "d", "''", ",", "proc", "-LSB-", "i", "-RSB-", ".", "E", "-LSB-", "j", "-RSB-", "-RRB-", ";", "ix", "printf", "-LRB-", "``", "9999", "\\", "n", "''", "-RRB-", ";", "-RCB-", "-RCB-", "void", "PrintTree", "-LRB-", "void", "-RRB-", "-LCB-", "int", "i", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "n", ";", "i", "+", "+", "-RRB-", "if", "-LRB-", "root", "!", "=", "i", "-RRB-", "printf", "-LRB-", "''", "-LRB-", "%", "d", ",", "%", "d", "-RRB-", ",", "''", ",", "i", ",", "proc", "-LSB-", "i", "-RSB-", ".", "Pred", "-RRB-", ";", "printf", "-LRB-", "''", "\\", "n", "''", "-RRB-", ";", "-RCB-", "void", "Toroid2", "-LRB-", "n", "-RRB-", "int", "n", ";", "-LCB-", "int", "r", ";", "int", "i", ";", "plural", "short", "ii", ",", "jj", ";", "double", "sqrt", "-LRB-", "-RRB-", ";", "#define", "IND2", "-LRB-", "ii", ",", "jj", "-RRB-", "-LRB-", "-LRB-", "-LRB-", "ii", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "+", "-LRB-", "-LRB-", "jj", "+", "r", "-RRB-", "%", "r", "-RRB-", "-RRB-", "r", "=", "sqrt", "-LRB-", "-LRB-", "double", "-RRB-", "n", "-RRB-", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "MAX_DEGREE", ";", "i", "+", "+", "-RRB-", "E", "-LSB-", "i", "-RSB-", "=-LRB-", "-1", "-RRB-", ";", "Degree", "=", "4", ";", "Active", "=", "Unexplored", "=", "0", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Active", "=", "1", ";", "ii", "=", "iproc/r", ";", "jj", "=", "iproc", "%", "r", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "E", "-LSB-", "0", "-RSB-", "=", "IND2", "-LRB-", "ii-1", ",", "jj", "-RRB-", ";", "E", "-LSB-", "1", "-RSB-", "=", "IND2", "-LRB-", "ii", "+1", ",", "jj", "-RRB-", ";", "E", "-LSB-", "2", "-RSB-", "=", "IND2", "-LRB-", "ii,jj-1", "-RRB-", ";", "E", "-LSB-", "3", "-RSB-", "=", "IND2", "-LRB-", "ii", ",", "jj", "+1", "-RRB-", ";", "-RCB-", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "n", "\\", "n", "##", "Toroid", "-LRB-", "2D", "-RRB-", ":", "T2", "-LRB-", "%", "d", "-RRB-", ",", "m", "=", "%", "d", ",", "av", ".", "deg", "=", "%", "0.2", "f", ",", "maxd", "=", "mind", "=", "%", "d", "\\", "n", "''", ",", "n", ",", "m", "=", "2", "*", "n", ",", "ad", "=", "2.0", "*", "m/n", ",", "max_graph", "=", "min_graph", "=", "4", "-RRB-", ";", "-RCB-", "void", "Toroid3", "-LRB-", "n", "-RRB-", "int", "n", ";", "-LCB-", "int", "r", ";", "int", "i", ";", "plural", "short", "ii", ",", "jj", ",", "kk", ";", "#define", "IND3", "-LRB-", "i", ",", "j", ",", "k", "-RRB-", "-LRB-", "-LRB-", "-LRB-", "i", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "*", "r", "+", "-LRB-", "-LRB-", "j", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "+", "-LRB-", "-LRB-", "k", "+", "r", "-RRB-", "%", "r", "-RRB-", "-RRB-", "for", "-LRB-", "r", "=", "2", ";", "r", "*", "r", "*", "r", "<", "n", ";", "r", "+", "+", "-RRB-", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "MAX_DEGREE", ";", "i", "+", "+", "-RRB-", "E", "-LSB-", "i", "-RSB-", "=-LRB-", "-1", "-RRB-", ";", "Degree", "=", "6", ";", "Active", "=", "Unexplored", "=", "0", ";", "x", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Active", "=", "1", ";", "ii", "=", "iproc", "/", "-LRB-", "r", "*", "r", "-RRB-", ";", "jj", "=", "-LRB-", "iproc", "%", "-LRB-", "r", "*", "r", "-RRB-", "-RRB-", "/", "r", ";", "kk", "=", "-LRB-", "iproc", "%", "-LRB-", "r", "*", "r", "-RRB-", "-RRB-", "%", "r", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "E", "-LSB-", "0", "-RSB-", "=", "IND3", "-LRB-", "ii-1", ",", "jj", ",", "kk", "-RRB-", ";", "E", "-LSB-", "1", "-RSB-", "=", "IND3", "-LRB-", "ii", "+1", ",", "jj", ",", "kk", "-RRB-", ";", "E", "-LSB-", "2", "-RSB-", "=", "IND3", "-LRB-", "ii,jj-1", ",", "kk", "-RRB-", ";", "E", "-LSB-", "3", "-RSB-", "=", "IND3", "-LRB-", "ii", ",", "jj", "+1", ",", "kk", "-RRB-", ";", "E", "-LSB-", "4", "-RSB-", "=", "IND3", "-LRB-", "ii,jj,kk-1", "-RRB-", ";", "E", "-LSB-", "5", "-RSB-", "=", "IND3", "-LRB-", "ii", ",", "jj", ",", "kk", "+1", "-RRB-", ";", "-RCB-", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "n", "\\", "n", "##", "Toroid", "-LRB-", "3D", "-RRB-", ":", "T3", "-LRB-", "%", "d", "-RRB-", ",", "m", "=", "%", "d", ",", "av", ".", "deg", "=", "%", "0.2", "f", ",", "maxd", "=", "mind", "=", "%", "d", "\\", "n", "''", ",", "n", ",", "m", "=", "3", "*", "n", ",", "ad", "=", "2.0", "*", "m/n", ",", "max_graph", "=", "min_graph", "=", "6", "-RRB-", ";", "-RCB-", "void", "Toroid4", "-LRB-", "n", "-RRB-", "int", "n", ";", "-LCB-", "int", "r", ";", "int", "i", ";", "plural", "short", "ii", ",", "jj", ",", "kk", ",", "ll", ";", "double", "sqrt", "-LRB-", "-RRB-", ";", "#define", "IND4", "-LRB-", "i", ",", "j", ",", "k", ",", "l", "-RRB-", "-LRB-", "-LRB-", "-LRB-", "i", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "*", "r", "*", "r", "+", "-LRB-", "-LRB-", "j", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "*", "r", "+", "-LRB-", "-LRB-", "k", "+", "r", "-RRB-", "%", "r", "-RRB-", "*", "r", "+", "-LRB-", "-LRB-", "l", "+", "r", "-RRB-", "%", "r", "-RRB-", "-RRB-", "r", "=", "sqrt", "-LRB-", "sqrt", "-LRB-", "-LRB-", "double", "-RRB-", "n", "-RRB-", "-RRB-", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "MAX_DEGREE", ";", "i", "+", "+", "-RRB-", "E", "-LSB-", "i", "-RSB-", "=-LRB-", "-1", "-RRB-", ";", "Degree", "=", "8", ";", "Active", "=", "Unexplored", "=", "0", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Active", "=", "1", ";", "ii", "=", "iproc", "/", "-LRB-", "r", "*", "r", "*", "r", "-RRB-", ";", "jj", "=", "-LRB-", "iproc", "%", "-LRB-", "r", "*", "r", "*", "r", "-RRB-", "-RRB-", "/", "-LRB-", "r", "*", "r", "-RRB-", ";", "kk", "=", "-LRB-", "-LRB-", "iproc", "%", "-LRB-", "r", "*", "r", "*", "r", "-RRB-", "-RRB-", "%", "-LRB-", "r", "*", "r", "-RRB-", "-RRB-", "/", "r", ";", "ll", "=", "-LRB-", "-LRB-", "iproc", "%", "-LRB-", "r", "*", "r", "*", "r", "-RRB-", "-RRB-", "%", "-LRB-", "r", "*", "r", "-RRB-", "-RRB-", "%", "r", ";", "if", "-LRB-", "Active", "-RRB-", "-LCB-", "E", "-LSB-", "0", "-RSB-", "=", "IND4", "-LRB-", "ii-1", ",", "jj", ",", "kk", ",", "ll", "-RRB-", ";", "E", "-LSB-", "1", "-RSB-", "=", "IND4", "-LRB-", "ii", "+1", ",", "jj", ",", "kk", ",", "ll", "-RRB-", ";", "E", "-LSB-", "2", "-RSB-", "=", "IND4", "-LRB-", "ii,jj-1", ",", "kk", ",", "ll", "-RRB-", ";", "E", "-LSB-", "3", "-RSB-", "=", "IND4", "-LRB-", "ii", ",", "jj", "+1", ",", "kk", ",", "ll", "-RRB-", ";", "E", "-LSB-", "4", "-RSB-", "=", "IND4", "-LRB-", "ii,jj,kk-1", ",", "ll", "-RRB-", ";", "E", "-LSB-", "5", "-RSB-", "=", "IND4", "-LRB-", "ii", ",", "jj", ",", "kk", "+1", ",", "ll", "-RRB-", ";", "E", "-LSB-", "6", "-RSB-", "=", "IND4", "-LRB-", "ii,jj,kk,ll-1", "-RRB-", ";", "E", "-LSB-", "7", "-RSB-", "=", "IND4", "-LRB-", "ii", ",", "jj", ",", "kk", ",", "ll", "+1", "-RRB-", ";", "-RCB-", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "n", "\\", "n", "##", "Toroid", "-LRB-", "4D", "-RRB-", ":", "T4", "-LRB-", "%", "d", "-RRB-", ",", "m", "=", "%", "d", ",", "av", ".", "deg", "=", "%", "0.2", "f", ",", "maxd", "=", "mind", "=", "%", "d", "\\", "n", "''", ",", "n", ",", "m", "=", "4", "*", "n", ",", "ad", "=", "2.0", "*", "m/n", ",", "max_graph", "=", "min_graph", "=", "8", "-RRB-", ";", "-RCB-", "void", "Hypercube", "-LRB-", "n", "-RRB-", "xi", "int", "n", ";", "-LCB-", "int", "r", ",", "x", ",", "i", ",", "j", ";", "for", "-LRB-", "r", "=", "2", ",", "x", "=", "4", ";", "x", "<", "n", ";", "x", "=", "x", "*", "2", ",", "r", "+", "+", "-RRB-", ";", "for", "-LRB-", "i", "=", "0", ";", "i", "<", "MAX_DEGREE", ";", "i", "+", "+", "-RRB-", "E", "-LSB-", "i", "-RSB-", "=-LRB-", "-1", "-RRB-", ";", "Degree", "=", "r", ";", "Active", "=", "Unexplored", "=", "0", ";", "if", "-LRB-", "iproc", "<", "n", "-RRB-", "Active", "=", "1", ";", "for", "-LRB-", "i", "=", "1", ",", "j", "=", "0", ";", "i", "<", "n", ";", "i", "=", "i", "*", "2", ",", "j", "+", "+", "-RRB-", "E", "-LSB-", "j", "-RSB-", "=", "iproc", "^", "i", ";", "fprintf", "-LRB-", "outptr", ",", "''", "\\", "n", "\\", "n", "##", "Hypercube", ":", "HC", "-LRB-", "%", "d", "-RRB-", ",", "m", "=", "%", "d", ",", "av", ".", "deg", "=", "%", "0.2", "f", ",", "maxd", "=", "mind", "=", "%", "d", "\\", "n", "''", ",", "n", ",", "m", "=", "r", "*", "n/2", ",", "ad", "=", "2.0", "*", "m/n", ",", "max_graph", "=", "min_graph", "=", "r", "-RRB-", ";", "-RCB-", "xii" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Design", "and", "Implementation", "of", "MaRS", ":", "A", "Routing", "Testbed", "?", "Cengiz", "Alaettino", ">", "=", "glu", ",", "A.", "Udaya", "Shankary", ",", "Klaudia", "Dussa-Zieger", ",", "Ibrahim", "Matta", "Department", "of", "Computer", "Science", "University", "of", "Maryland", "College", "Park", ",", "Maryland", "20742", "September", "1992", ".", "Revised", "June", "1993", ".", "Revised", "November", "1993", ".", "Summary", "MaRS", "is", "a", "discrete-event", "simulation", "testbed", "for", "developing", "routing", "algorithms", "for", "wide-area", "computer", "networks", ".", "It", "was", "developed", "as", "a", "modified", "and", "enhanced", "version", "of", "an", "existing", "simulator", ",", "NetSim", ".", "MaRS", "allows", "the", "user", "to", "define", "a", "network", "configuration", "consisting", "of", "physical", "network", ",", "routing", "algorithm", "and", "workload", ".", "The", "user", "can", "control", "its", "simulation", ",", "log", "the", "values", "of", "selected", "parameters", ",", "and", "save", ",", "load", "and", "modify", "network", "configurations", ".", "MaRS", "provides", "both", "steady-state", "and", "instantaneous", "performance", "measures", "to", "facilitate", "the", "study", "of", "the", "complex", "dynamics", "that", "arises", "in", "routing", "systems", "-LRB-", "due", "to", "delayed", "feedback", "-RRB-", ".", "We", "have", "used", "MaRS", "to", "evaluate", "and", "compare", "several", "next-hop", "routing", "algorithms", ".", "?", "This", "work", "is", "supported", "in", "part", "by", "Rome", "Labs", "and", "DARPA", "under", "contract", "F30602-90-C-0010", "to", "UMIACS", "at", "the", "University", "of", "Maryland", ",", "and", "by", "National", "Science", "Foundation", "Grant", "No", ".", "NCR", "89-04590", ".", "The", "views", ",", "opinions", ",", "and/or", "findings", "contained", "in", "this", "report", "are", "those", "of", "the", "author", "-LRB-", "s", "-RRB-", "and", "should", "not", "be", "interpreted", "as", "representing", "the", "official", "policies", ",", "either", "expressed", "or", "implied", ",", "of", "the", "Defense", "Advanced", "Research", "Projects", "Agency", ",", "RADC", ",", "or", "the", "U.S.", "Government", ".", "Computer", "facilities", "were", "provided", "in", "part", "by", "NSF", "grant", "CCR-8811954", ".", "yAlso", "with", "Institute", "for", "Advanced", "Computer", "Studies", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "MD", "20742", ".", "Contents", "1", "Introduction", "1", "2", "Desired", "Features", "and", "Implementation", "Considerations", "2", "3", "Structure", "of", "MaRS", "6", "4", "Interface", "Design", "and", "Implementation", "12", "4.1", "User", "Interfaces", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "12", "4.2", "Files", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "13", "5", "An", "Example", "Network", "Configuration", "15", "6", "Implementing", "a", "Component", "17", "6.1", "Interface", "to", "the", "Performance", "Monitor", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "23", "7", "Some", "Results", "using", "MaRS", "25", "8", "Concluding", "Remarks", "28", "9", "Acknowledgments", "29", "i", "1", "Introduction", "In", "a", "wide-area", "store-and-forward", "computer", "network", "-LRB-", "e.g.", "the", "Internet", "-RRB-", ",", "routing", "protocols", "are", "responsible", "for", "choosing", "routes", "for", "data", "packets", ",", "that", "yield", "good", "performance", "in", "terms", "of", "delay", ",", "throughput", ",", "etc.", ".", "The", "performance", "of", "a", "route", "changes", "with", "time", "because", "it", "depends", "on", "the", "amount", "of", "traffic", "flowing", "through", "the", "links", ",", "which", "depends", "on", "the", "time-varying", "external", "load", ".", "Consequently", ",", "a", "routing", "protocol", "must", "monitor", "link", "traffic", "changes", "and", "accordingly", "adapt", "its", "routes", ".", "Next-hop", "routing", "is", "a", "simple", "and", "robust", "way", "to", "do", "adaptive", "routing", ".", "Each", "node", "maintains", "for", "each", "destination", "a", "neighbor", "node", "id", ",", "referred", "to", "as", "the", "next-hop", ".", "Each", "data", "packet", "has", "its", "destination", "node", "id", "in", "its", "header", ".", "When", "a", "node", "receives", "a", "data", "packet", ",", "it", "forwards", "the", "packet", "to", "the", "next-hop", "for", "the", "packet", "'s", "destination", ".", "The", "objective", "is", "that", "the", "succession", "of", "next", "-LCB-", "hops", "for", "a", "destination", "leads", "to", "the", "destination", "and", "is", "an", "optimal", "path", ".", "To", "achieve", "this", "objective", ",", "a", "next-hop", "routing", "protocol", "does", "the", "following", "functions", ":", "-LRB-", "a", "-RRB-", "each", "node", "maintains", "for", "each", "of", "its", "outgoing", "links", "a", "dynamic", "link", "cost", "which", "is", "updated", "regularly", "according", "to", "the", "traffic", "flowing", "through", "the", "link", ";", "-LRB-", "b", "-RRB-", "link", "cost", "information", "is", "disseminated", "regularly", "to", "nodes", "of", "the", "network", ";", "-LRB-", "c", "-RRB-", "based", "on", "received", "link", "cost", "information", ",", "each", "node", "maintains", "and", "regularly", "updates", "a", "next-hop", "for", "each", "destination", ".", "The", "dynamics", "of", "such", "systems", "can", "be", "very", "complex", "due", "to", "the", "distributed", "nature", "of", "the", "network", "and", "the", "delayed", "feedback", "between", "route", "changes", "and", "link", "cost", "changes", "-LSB-", "1", "-RSB-", "-LRB-", "see", "below", "-RRB-", ".", "A", "testbed", "is", "essential", "to", "understanding", "their", "performance", ".", "We", "have", "built", "such", "a", "testbed", ",", "called", "MaRS", "-LRB-", "Maryland", "Routing", "Simulator", "-RRB-", ",", "and", "this", "paper", "describes", "its", "design", "and", "implementation", ".", "MaRS", "is", "developed", "as", "a", "modified", "and", "enhanced", "version", "of", "NetSim", ".", "Thus", "this", "paper", "also", "serves", "as", "a", "reference", "to", "some", "of", "NetSim", "'s", "features", ".", "MaRS", "is", "available", "publicly", "on", "the", "Internet", "at", "site", "ftp.cs.umd.edu", ",", "in", "the", "directory", "pub/MaRS", ".", "The", "first", "release", "was", "in", "June", "1991", ".", "There", "is", "a", "mailing", "list", ",", "mars-users@cs.umd.edu1,", "for", "discussing", "MaRS", "related", "issues", ".", "Currently", "there", "are", "around", "fifty", "subscribers", "on", "the", "mailing", "list", ",", "some", "of", "who", "are", "actively", "using", "MaRS", "-LRB-", "e.g.", "-LSB-", "2", "-RSB-", "-RRB-", ".", "The", "rest", "of", "the", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "motivates", "the", "desired", "features", "and", "describes", "our", "implementation", "considerations", ".", "Section", "3", "describes", "the", "structure", "and", "the", "components", "1", "To", "subscribe", "to", "this", "list", "send", "mail", "to", "mars-users-request@cs.umd.edu", ".", "of", "MaRS", ".", "Section", "4", "describes", "the", "user", "interfaces", "of", "MaRS", ".", "Section", "5", "demonstrates", "how", "a", "user", "builds", "a", "target", "system", "in", "MaRS", "and", "obtains", "performance", "measures", ".", "Section", "6", "describes", "how", "a", "component", "is", "implemented", "in", "MaRS", ",", "and", "how", "it", "interacts", "with", "other", "components", ".", "Section", "7", "describes", "some", "results", "obtained", "using", "MaRS", ".", "Section", "8", "contains", "concluding", "remarks", ".", "The", "reader", "who", "is", "not", "interested", "in", "the", "implementation", "details", "can", "skip", "Section", "6", ".", "2", "Desired", "Features", "and", "Implementation", "Considerations", "ABCD", "-LRB-", "b", "-RRB-", "ABCD", "-LRB-", "a", "-RRB-", "ABCD", "-LRB-", "c", "-RRB-", "ABCD", "-LRB-", "d", "-RRB-", "Figure", "1", ":", "Complex", "dynamics", "of", "routing", "systems", ".", "Consider", "the", "simple", "network", "topology", "of", "Figure", "1", "-LRB-", "a", "-RRB-", ".", "There", "are", "three", "connections", ":", "from", "A", "to", "D", ",", "from", "B", "to", "D", ",", "and", "from", "C", "to", "D", ".", "In", "each", "case", ",", "node", "D", "is", "the", "destination", "node", ".", "The", "directed", "dotted", "lines", "in", "the", "figure", "indicate", "the", "routes", "taken", "by", "the", "packets", "of", "the", "connections", ".", "Let", "us", "assume", "that", "the", "routes", "in", "Figure", "1", "-LRB-", "a", "-RRB-", "are", "optimal", "routes", ".", "Assume", "link", "hC", ";", "Di", "fails", ".", "Upon", "detecting", "this", ",", "C", "sets", "its", "next-hop", "to", "A", ".", "A", "loop", "between", "A", "and", "C", "is", "formed", ";", "that", "is", ",", "A", "'s", "next-hop", "is", "C", "and", "C", "'s", "next-hop", "is", "A", "-LRB-", "see", "Figure", "1", "-LRB-", "b", "-RRB-", "-RRB-", ".", "This", "degrades", "performance", "since", "all", "packets", "sent", "from", "A", "to", "C", "will", "be", "returned", "back", "until", "A", "receives", "and", "processes", "the", "information", "that", "the", "link", "hC", ";", "Di", "is", "down", ".", "The", "duration", "of", "the", "loop", "depends", "on", "the", "routing", "algorithm", ".", "In", "fact", ",", "some", "of", "the", "first", "routing", "algorithms", "-LSB-", "3", "-RSB-", "would", "allow", "C", "to", "set", "its", "next-hop", "to", "A", "even", "if", "there", "is", "no", "path", "to", "D", "through", "A", ",", "and", "furthermore", "allow", "the", "loop", "to", "stay", "forever", ".", "Once", "A", "learns", "that", "link", "hC", ";", "Di", "is", "down", ",", "it", "sets", "its", "next-hop", "to", "B", ".", "Now", "all", "three", "connections", "are", "routed", "over", "link", "hB", ";", "Di", "-LRB-", "see", "Figure", "1", "-LRB-", "c", "-RRB-", "-RRB-", ".", "This", "increases", "the", "cost", "of", "link", "hB", ";", "Di", ".", "When", "link", "hC", ";", "Di", "is", "repaired", ",", "its", "cost", "is", "low", "since", "no", "traffic", "is", "flowing", "through", "it", ".", "Links", "hB", ";", "Ai", "and", "hA", ";", "Ci", "also", "have", "low", "cost", "since", "no", "traffic", "is", "flowing", "in", "this", "direction", ".", "After", "the", "repair", ",", "due", "to", "the", "high", "cost", "of", "hB", ";", "Di", ",", "all", "three", "connections", "will", "be", "routed", "over", "link", "hC", ";", "Di", "-LRB-", "see", "Figure", "1", "-LRB-", "d", "-RRB-", "-RRB-", ",", "instead", "of", "the", "optimal", "routes", "-LRB-", "i.e.", "Figure", "1", "-LRB-", "a", "-RRB-", "-RRB-", ".", "When", "the", "link", "costs", "are", "next", "calculated", "-LRB-", "assuming", "simultaneous", "update", "of", "all", "link", "costs", "-RRB-", ",", "the", "cost", "of", "link", "hC", ";", "Di", "will", "be", "high", "and", "the", "cost", "of", "link", "hB", ";", "Di", "will", "be", "low", ".", "Hence", "all", "three", "connections", "will", "be", "routed", "over", "hB", ";", "Di", ".", "In", "the", "next", "round", ",", "all", "three", "connections", "will", "be", "routed", "over", "hC", ";", "Di", ",", "and", "so", "on", ".", "That", "is", ",", "instead", "of", "optimal", "routes", ",", "the", "routes", "taken", "by", "the", "three", "connections", "will", "oscillate", "between", "two", "non-optimal", "sets", "-LRB-", "in", "practice", ",", "to", "avoid", "this", ",", "link", "costs", "are", "subjected", "to", "exponential", "averaging", ",", "which", "causes", "link", "costs", "to", "change", "more", "slowly", "-RRB-", ".", "The", "dynamics", "are", "complex", "even", "for", "a", "simple", "four-node", "topology", ".", "With", "more", "realistic", "topologies", ",", "the", "system", "'s", "behavior", "can", "be", "even", "more", "complex", ",", "for", "example", ":", "loops", "can", "involve", "multiple", "hops", ";", "breaking", "one", "loop", "may", "cause", "another", "loop", ".", "In", "general", ",", "there", "are", "many", "kinds", "of", "topology", "changes", "-LRB-", "failures", "and", "repairs", "of", "nodes", "and", "links", ",", "start", "and", "termination", "of", "connections", "-RRB-", "that", "affect", "the", "optimality", "of", "routes", ".", "The", "effects", "of", "the", "topology", "changes", "can", "interfere", "with", "each", "other", "over", "time", ",", "resulting", "in", "very", "complex", "behaviors", ".", "Consider", "for", "example", "the", "loops", "which", "are", "established", "while", "trying", "to", "adapt", "to", "topology", "changes", ".", "There", "are", "routing", "algorithms", "which", "-LRB-", "1", "-RRB-", "allow", "long-lived", "loops", ",", "-LRB-", "2", "-RRB-", "allow", "only", "short-lived", "loops", "-LRB-", "as", "in", "the", "example", "-RRB-", ",", "and", "-LRB-", "3", "-RRB-", "do", "not", "allow", "any", "loops", ".", "It", "is", "well", "known", "that", "allowing", "long-lived", "loops", "severely", "degrades", "performance", "-LSB-", "3", "-RSB-", ".", "However", ",", "it", "is", "not", "clear", "whether", "avoiding", "loops", "completely", "is", "superior", "to", "allowing", "only", "short-lived", "loops", ".", "This", "is", "because", "routing", "algorithms", "that", "avoid", "loops", "completely", "usually", "require", "nodes", "to", "use", "old", "next-hops", "or", "have", "no", "next-hops", "during", "the", "period", "when", "new", "-LRB-", "loop-free", "-RRB-", "routes", "are", "calculated", ".", "A", "testbed", "is", "essential", "to", "understanding", "the", "complex", "dynamics", "of", "routing", "systems", ".", "Ideally", ",", "we", "would", "like", "the", "testbed", "to", "accurately", "model", "features", "that", "are", "important", "to", "routing", "performance", ",", "and", "for", "efficiency", "ignore", "or", "appropriately", "abstract", "away", "features", "which", "are", "not", "important", ".", "For", "example", ",", "if", "the", "link", "queueing", "discipline", "is", "not", "important", ",", "then", "instead", "of", "storing", "the", "sequence", "of", "packets", "awaiting", "transmission", ",", "we", "could", "just", "store", "the", "number", "of", "packets", "in", "the", "queue", ".", "However", ",", "it", "is", "not", "clear", "which", "features", "-LRB-", "e.g.", "flow", "control", ",", "link", "scheduling", ",", "buffer", "management", "-RRB-", "are", "important", "for", "routing", "performance", ".", "We", "opted", "to", "take", "a", "conservative", "approach", "by", "having", "easily", "extendible", "modules", "to", "represent", "these", "features", ".", "The", "testbed", "should", "have", "the", "following", "capabilities", ":", "ffl", "Adding", "new", "routing", "algorithms", "to", "the", "testbed", "should", "be", "easy", ",", "as", "also", "should", "adding", "new", "kinds", "of", "workload", ",", "nodes", "and", "links", "-LRB-", "e.g.", "new", "link", "scheduling", "disciplines", "-RRB-", ".", "Such", "additions", "require", "programming", ".", "Hence", "the", "testbed", "should", "be", "modular", ".", "ffl", "The", "user", "should", "be", "able", "to", "easily", "build", "arbitrary", "network", "topologies", "and", "define", "different", "workload", "distributions", ".", "This", "should", "not", "involve", "any", "programming", ".", "ffl", "The", "user", "should", "be", "able", "to", "specify", "various", "kinds", "of", "topology", "changes", "with", "various", "temporal", "characteristics", ",", "both", "aperiodic", "and", "recurrent", ",", "deterministic", "and", "stochastic", ".", "For", "example", ",", "the", "user", "should", "be", "able", "to", "fail", "or", "repair", "a", "link", "at", "a", "specified", "time", "and", "observe", "if", "and", "how", "the", "system", "converges", "to", "a", "new", "steady", "state", ".", "ffl", "It", "should", "provide", "standard", "performance", "measures", "such", "as", "average", "delay", ",", "average", "throughput", ",", "average", "load", ",", "as", "well", "as", "more", "specialized", "measures", "such", "as", "the", "current", "next-hops", "to", "a", "destination", ",", "the", "number", "of", "routing", "protocol", "messages", "used", ",", "the", "number", "of", "failed", "links", ".", "It", "should", "provide", "both", "average", "and", "instantaneous", "versions", "of", "these", "measures", ".", "Instantaneous", "measures", "-LRB-", "e.g.", "throughput", "during", "the", "last", "500msecs", "-RRB-", "are", "needed", "to", "observe", "the", "system", "adapting", "to", "radical", "changes", "-LRB-", "e.g.", "link", "failure", "-RRB-", ".", "We", "considered", "two", "approaches", "to", "a", "software", "testbed", ":", "process", "emulation", "and", "discrete-event", "simulation", ".", "In", "process", "emulation", ",", "every", "component", "of", "the", "computer", "network", "that", "is", "to", "be", "studied", ",", "henceforth", "called", "target", "system", ",", "is", "represented", "by", "a", "separate", "process", ".", "Each", "process", "executes", "code", "corresponding", "to", "the", "code", "of", "its", "component", ".", "An", "advantage", "of", "process", "emulation", "is", "that", "the", "actual", "code", "of", "the", "target", "system", "can", "be", "tested", ".", "However", ",", "in", "order", "to", "faithfully", "capture", "the", "dynamics", "of", "the", "target", "system", ",", "it", "is", "necessary", "to", "periodically", "synchronize", "all", "the", "processes", ".", "The", "overhead", "for", "this", "process", "synchronization", "is", "a", "serious", "disadvantage", ".", "In", "discrete-event", "simulation", ",", "the", "target", "system", "is", "abstracted", "by", "a", "set", "of", "state", "variables", "and", "a", "set", "of", "events", ".", "The", "behavior", "of", "the", "system", "is", "represented", "by", "a", "sequence", "of", "timed", "event", "occurrences", "-LRB-", "explained", "in", "Section", "3", "-RRB-", ".", "Each", "event", "occurrence", "updates", "the", "values", "of", "the", "state", "variables", "and", "the", "\\", "simulated", "time", "''", ".", "A", "major", "advantage", "of", "discrete-event", "simulation", "is", "that", "it", "is", "very", "flexible", ":", "more", "state", "variables", "and", "events", "can", "be", "introduced", "to", "make", "the", "simulation", "more", "realistic", "at", "the", "expense", "of", "increasing", "computational", "cost", ".", "We", "chose", "discrete-event", "simulation", "over", "process", "emulation", "because", "it", "offers", "the", "greatest", "flexibility", "in", "modeling", "the", "target", "system", ".", "In", "order", "to", "reduce", "programming", "work", ",", "we", "examined", "three", "discrete-event", "simulators", "that", "were", "available", "to", "us", ":", "NetSim", "from", "MIT", "-LSB-", "4", "-RSB-", ";", "COMNET", "II", ".5", "from", "CACI", "Products", "Company", "-LSB-", "5", "-RSB-", ";", "and", "DeNet", "-LRB-", "Discrete", "Event", "Network", "-RRB-", "from", "University", "of", "WisconsinMadison", "-LSB-", "6", "-RSB-", ".", "NetSim", "is", "designed", "for", "simulating", "a", "network", "of", "message-passing", "components", ".", "It", "is", "written", "in", "C", "and", "runs", "under", "UNIX", "and", "X", "windows", ".", "COMNET", "II", ".5", "is", "a", "commercial", "package", "similar", "to", "NetSim", ".", "DeNet", "is", "a", "general", "purpose", "simulator", "that", "simulates", "a", "set", "of", "communicating", "objects", ".", "It", "is", "written", "in", "Modula2", ".", "We", "found", "NetSim", "most", "suitable", "for", "our", "purposes", "for", "several", "reasons", ".", "First", ",", "the", "source", "code", "was", "readily", "available", ",", "and", "its", "style", "of", "coding", "and", "documentation", "is", "good", ".", "Thus", "modifications", "and", "expansions", "seemed", "easy", "to", "do", ".", "Second", ",", "it", "is", "written", "in", "a", "very", "portable", "form", "of", "C.", "Third", ",", "it", "does", "not", "enforce", "modular", "composition", "rules", ",", "unlike", "DeNet", ".", "Thus", ",", "modularity", "can", "be", "second", "to", "computational", "efficiency", ".", "NetSim", "is", "structured", "into", "three", "parts", ",", "a", "simulation", "engine", ",", "a", "user", "interface", ",", "and", "a", "set", "of", "components", "that", "simulate", "physical", "network", "-LRB-", "i.e.", "links", "and", "switches", ",", "etc.", "-RRB-", ",", "workload", ",", "and", "transport", "protocols", ".", "The", "set", "of", "components", "that", "came", "with", "NetSim", "is", "designed", "to", "study", "flow", "control", ",", "rather", "than", "routing", ".", "Most", "flow", "control", "studies", "consider", "a", "main", "connection", "over", "a", "-LRB-", "usually", "short", "-RRB-", "fixed", "route", ",", "with", "other", "fixed-route", "cross", "connections", "interfering", "with", "the", "main", "connection", ".", "Typically", ",", "the", "performance", "of", "the", "main", "connection", "-LRB-", "throughput", ",", "delay", ",", "etc.", "-RRB-", "is", "observed", "while", "the", "cross", "connections", "start", ",", "send", "packets", ",", "and", "terminate", ".", "NetSim", "supports", "only", "fixed", "routes", "which", "have", "to", "be", "hand-specified", "by", "the", "user", ".", "The", "routes", "are", "stored", "in", "a", "shared", "data", "structure", "accessible", "by", "all", "components", ".", "The", "user", "can", "not", "specify", "failures", "and", "repairs", "of", "links", "and", "nodes", ".", "Nodes", "-LRB-", "switches", "-RRB-", "do", "not", "maintain", "statistics", "essential", "for", "link", "cost", "calculation", ".", "The", "user", "can", "only", "specify", "a", "fixed", "number", "of", "connections", ".", "Each", "connection", "can", "be", "started", "at", "a", "specified", "time", ".", "But", "once", "it", "ends", "it", "can", "not", "be", "restarted", ",", "in", "contrast", "to", "a", "workload", "model", "where", "connections", "start", "and", "terminate", "continuously", ".", "NetSim", "can", "not", "model", "FTP", "and", "Telnet", "traffic", "directly", ".", "NetSim", "does", "not", "provide", "system", "wide", "performance", "measures", "-LRB-", "e.g.", "overall", "throughput", "-RRB-", ".", "It", "does", "provide", "per", "connection", "and", "per", "component", "performance", "measures", "-LRB-", "e.g.", "throughput", "of", "a", "connection", ",", "utilization", "of", "a", "link", "-RRB-", ",", "but", "these", "are", "not", "sufficient", "for", "our", "purposes", ".", "NetSim", "also", "has", "features", "which", "are", "not", "important", "for", "our", "purposes", ".", "Some", "features", "-LRB-", "e.g.", "a", "restricted", "flow", "control", "-RRB-", "could", "interact", "with", "routing", "in", "uncontrolled", "ways", ".", "Some", "features", "could", "slow", "down", "our", "simulations", "-LRB-", "e.g.", "probabilistically", "setting", "an", "error", "bit", "for", "each", "packet", "transmission", "to", "model", "channel", "errors", ",", "which", "involves", "random", "number", "generation", "-RRB-", ".", "In", "building", "MaRS", ",", "we", "replaced", "all", "the", "components", "that", "came", "with", "NetSim", "with", "our", "own", "components", ".", "We", "used", "the", "simulation", "engine", "of", "NetSim", ",", "but", "with", "extensive", "modifications", ".", "We", "built", "a", "much", "nicer", "new", "graphical", "user", "interface", "using", "Motif", "-LSB-", "7", "-RSB-", ".", "We", "kept", "the", "old", "X", "interface", "of", "NetSim", "for", "users", "of", "MaRS", "that", "do", "not", "have", "Motif", ",", "but", "did", "extensive", "modifications", "to", "the", "interface", "code", ".", "In", "implementing", "our", "components", ",", "we", "used", "the", "same", "programming", "structure", "as", "in", "NetSim", ".", "In", "terms", "of", "number", "of", "lines", ",", "MaRS", "extends", "NetSim", "from", "18K", "lines", "to", "40K", "lines", ".", "In", "our", "descriptions", "in", "this", "paper", ",", "we", "point", "out", "our", "use", "of", "NetSim", "'s", "code", "and", "concepts", ",", "and", "our", "modifications", ".", "3", "Structure", "of", "MaRS", "In", "discrete-event", "simulation", ",", "the", "target", "system", "is", "modeled", "by", "a", "set", "of", "variables", "and", "a", "set", "of", "events", ".", "Associated", "with", "each", "event", "is", "a", "routine", "that", "can", "update", "the", "variables", "and", "cause", "other", "event", "routine", "executions", ".", "A", "simulation", "of", "the", "target", "system", "corresponds", "to", "a", "succession", "of", "event", "occurrences", "over", "time", ",", "i.e.", "a", "sequence", "of", "the", "form", "-LRB-", "e1", ";", "t1", "-RRB-", ";", "-LRB-", "e2", ";", "t2", "-RRB-", ";", ":", ":", ":", ";", "-LRB-", "en", ";", "tn", "-RRB-", ",", "where", "-LRB-", "ei", ";", "ti", "-RRB-", "denotes", "the", "execution", "of", "event", "ei", "'s", "routine", "at", "time", "ti", ".", "The", "simulator", "executes", "a", "loop", ",", "with", "one", "event", "occurrence", "simulated", "in", "each", "iteration", ".", "It", "maintains", "the", "following", "two", "variables", ":", "simulated", "time", ",", "indicating", "the", "time", "of", "the", "last", "event", "simulated", ";", "and", "event", "list", ",", "consisting", "of", "a", "set", "of", "-LRB-", "e", ";", "t", "-RRB-", "pairs", ",", "where", "e", "is", "an", "event", "and", "t", "is", "a", "time", ".", "An", "-LRB-", "e", ";", "t", "-RRB-", "pair", "in", "the", "event", "list", "means", "that", "e", "is", "to", "be", "executed", "at", "time", "t", ".", "In", "each", "iteration", ",", "the", "simulator", "removes", "an", "-LRB-", "e", ";", "t", "-RRB-", "pair", "with", "the", "smallest", "t", "from", "the", "event", "list", ",", "updates", "the", "simulated", "time", "to", "t", ",", "and", "executes", "e", "'s", "routine", ".", "We", "refer", "to", "this", "as", "\\", "firing", "event", "e", "at", "time", "t", "''", ".", "The", "execution", "of", "e", "'s", "routine", "can", "schedule", "new", "events", ",", "i.e.", ",", "add", "new", "-LRB-", "e0", ";", "t0", "-RRB-", "pairs", "into", "the", "event", "list", ".", "MaRS", "has", "the", "same", "structure", "as", "NetSim", ":", "a", "simulation", "engine", ";", "a", "user", "interface", ";", "and", "a", "set", "of", "components", "which", "accommodates", "a", "variety", "of", "target", "systems", "and", "performance", "measures", ".", "The", "simulation", "engine", "manages", "the", "event", "list", "and", "the", "user", "interface", "-LRB-", "including", "X", "window", ",", "command", "line", "options", ",", "and", "files", "-RRB-", ".", "When", "MaRS", "is", "started", ",", "the", "simulation", "engine", "initializes", "variables", "of", "the", "user", "interface", ",", "processes", "command", "line", "options", "-LRB-", "including", "reading", "any", "files", "-RRB-", ",", "and", "then", "goes", "into", "the", "basic", "simulator", "loop", ".", "In", "each", "iteration", ",", "it", "processes", "inputs", "from", "the", "keyboard", "and", "mouse", ",", "executes", "the", "next", "event", "from", "the", "event", "list", ",", "and", "updates", "the", "graphical", "user", "display", ".", "The", "components", "are", "for", "modeling", "the", "target", "system", "and", "certain", "simulation", "functions", ".", "For", "modeling", "the", "physical", "nodes", "and", "links", "of", "the", "target", "system", ",", "MaRS", "has", "link", "components", "and", "node", "components", ".", "For", "modeling", "routing", "protocols", ",", "MaRS", "has", "a", "link-cost", "function", "component", "and", "three", "routing", "components", ",", "SPF", ",", "ExBF", ",", "and", "SEGAL", ",", "corresponding", "to", "three", "different", "routing", "algorithms", "-LSB-", "8", ",", "9", ",", "10", ",", "11", "-RSB-", ".", "For", "modeling", "application", "and", "transport", "protocols", "-LRB-", "e.g.", "user", "traffic", "and", "flow", "control", "-RRB-", ",", "MaRS", "has", "three", "types", "of", "workload", "components", ",", "FTP", ",", "TELNET", ",", "and", "Simple", "Traffic", ",", "corresponding", "to", "three", "different", "types", "of", "user", "traffic", ".", "Each", "type", "of", "workload", "component", "has", "two", "versions", ",", "a", "source", "and", "a", "sink", ".", "MaRS", "has", "one", "component", "concerned", "with", "simulation", "functions", ",", "the", "performance", "monitor", ",", "which", "collects", "statistics", ".", "A", "component", "in", "MaRS", "-LRB-", "and", "in", "NetSim", "-RRB-", "consists", "of", "a", "data", "structure", "and", "a", "set", "of", "events", ",", "each", "with", "an", "associated", "routine", ".", "A", "component", "can", "be", "instantiated", "by", "appropriately", "initializing", "its", "data", "structure", ".", "Multiple", "instances", "of", "a", "component", "are", "needed", "to", "model", "a", "target", "system", ".", "For", "example", ",", "each", "node", "-LRB-", "link", "-RRB-", "of", "the", "target", "system", "is", "represented", "by", "an", "instance", "of", "a", "node", "-LRB-", "link", "-RRB-", "component", ".", "By", "interconnecting", "multiple", "instances", "of", "various", "types", "of", "components", ",", "a", "target", "system", "of", "arbitrary", "topology", ",", "routing", "protocol", ",", "and", "workload", "can", "be", "obtained", ".", "For", "readability", ",", "we", "will", "often", "refer", "to", "a", "component", "instance", "as", "a", "component", ",", "when", "it", "causes", "no", "confusion", ".", "Figure", "2", "shows", "a", "target", "system", "of", "five", "node", "component", "instances", "and", "six", "link", "component", "instances", ".", "Each", "link", "component", "is", "connected", "to", "exactly", "two", "node", "components", ".", "A", "node", "component", "models", "the", "\\", "physical", "''", "aspects", "of", "a", "store-and-forward", "entity", "such", "as", "a", "host", "or", "a", "switch", ".", "Each", "node", "component", "is", "connected", "to", "an", "SPF", "routing", "component", "and", "zero", "or", "more", "workload", "components", ".", "Each", "workload", "component", "is", "either", "a", "source", "or", "a", "sink", "of", "some", "type", "-LRB-", "i.e.", "FTP", ",", "Telnet", ",", "or", "Simple", "Traffic", "-RRB-", ".", "For", "each", "source", "component", "instance", ",", "there", "is", "a", "corresponding", "\\", "peer", "''", "sink", "component", "instance", ".", "There", "is", "a", "single", "instance", "of", "a", "link-cost", "function", "component", ";", "it", "is", "not", "connected", "to", "any", "component", ".", "Figure", "2", ":", "Target", "system", ".", "Component", "instances", "can", "interact", "with", "each", "other", "by", "calling", "events", ",", "by", "scheduling", "events", ",", "or", "in", "some", "special", "cases", "by", "sharing", "variables", ".", "That", "is", ",", "if", "e", "and", "f", "are", "events", "of", "different", "component", "instances", ",", "e", "'s", "routine", "can", "-LRB-", "1", "-RRB-", "call", "f", "'s", "routine", ",", "or", "-LRB-", "2", "-RRB-", "schedule", "f", "with", "some", "time", "value", "t", ",", "or", "-LRB-", "3", "-RRB-", "access", "the", "variables", "of", "f", "'s", "routine", ".", "-LRB-", "Details", "in", "Section", "6", ".", "Option", "-LRB-", "1", "-RRB-", "is", "not", "possible", "in", "NetSim", ".", "-RRB-", "Component", "instances", "interact", "with", "the", "simulation", "engine", "as", "follows", ".", "A", "component", "instance", "can", "make", "file", "system", "calls", "to", "store", "performance", "measures", "that", "are", "to", "be", "logged", ".", "The", "simulation", "engine", "can", "access", "component", "data", "structures", "to", "determine", "the", "displays", "to", "be", "updated", ".", "The", "simulation", "engine", "can", "call", "events", "of", "a", "component", "in", "response", "to", "user", "interface", "commands", "-LRB-", "either", "from", "command", "line", ",", "input", "file", ",", "or", "mouse/keyboard", "-RRB-", ".", "In", "the", "rest", "of", "this", "section", ",", "we", "briefly", "describe", "each", "type", "of", "component", ".", "Full", "details", "can", "be", "found", "in", "-LSB-", "12", "-RSB-", ".", "Link", "A", "link", "component", "models", "a", "bidirectional", "transmission", "channel", "between", "two", "nodes", ".", "It", "contains", "two", "queues", "of", "packets", ",", "each", "representing", "the", "packets", "in", "transit", "in", "one", "direction", ".", "A", "link", "can", "be", "subject", "to", "failure", "and", "repair", ",", "with", "up-times", "and", "down-times", "described", "by", "-LRB-", "probability", "-RRB-", "distributions", ".", "When", "a", "link", "fails", ",", "all", "packets", "that", "are", "in", "transit", "are", "lost", ".", "Input", "parameters", "for", "a", "link", "component", "include", "propagation", "delay", ",", "bandwidth", ",", "distribution", "of", "up/down", "times", ",", "etc.", ".", "Output", "parameters", "include", "instantaneous", "utilizations", "of", "-LRB-", "workload", "and", "routing", "-RRB-", "packets", "for", "each", "direction", ".", "Link-cost", "function", "The", "link-cost", "function", "component", "maintains", "and", "periodically", "updates", "a", "cost", "for", "each", "link", "in", "the", "network", ".", "At", "each", "update", ",", "the", "link-cost", "value", "is", "calculated", "by", "applying", "a", "transformation", "to", "a", "statistic", "referred", "to", "as", "\\", "raw", "cost", "''", "which", "is", "observed", "on", "the", "link", "during", "the", "previous", "update", "period", ".", "The", "raw", "cost", "usually", "reflects", "the", "load", "on", "the", "link", ".", "MaRS", "currently", "supports", "the", "following", "raw", "link-cost", "functions", ":", "hop-count", ",", "utilization", ",", "-LRB-", "queueing", "and", "propagation", "-RRB-", "delay", ",", "and", "hop-normalized", "delay", "-LSB-", "13", "-RSB-", ".", "MaRS", "currently", "provides", "a", "transformation", "that", "includes", "exponential", "averaging", ",", "scaling", "with", "a", "slope", "and", "an", "offset", ",", "minimum", "and", "maximum", "bounds", ",", "and", "movement", "limit", ".", "Parameters", "include", "the", "link-cost", "update", "period", "and", "parameters", "of", "the", "transformation", ".", "Routing", "The", "routing", "component", "instances", "execute", "a", "routing", "algorithm", ".", "At", "each", "node", ",", "the", "attached", "routing", "component", "builds", "and", "maintains", "a", "routing", "table", ",", "which", "specifies", "a", "next-hop", "for", "each", "destination", ".", "The", "next-hop", "can", "take", "the", "value", "nil", "-LRB-", "e.g.", "because", "the", "destination", "is", "not", "reachable", "from", "the", "node", "-RRB-", ".", "The", "routing", "component", "also", "maintains", "additional", "information", "that", "is", "specific", "to", "the", "algorithm", "-LRB-", "e.g.", "cost", "of", "the", "route", "via", "each", "neighbor", ",", "costs", "of", "remote", "links", "-RRB-", ".", "The", "routing", "components", "regularly", "exchange", "information", "in", "the", "form", "of", "routing", "packets", ";", "more", "precisely", ",", "a", "routing", "component", "passes", "a", "routing", "packet", "to", "its", "local", "node", ",", "which", "then", "sends", "it", "to", "a", "neighboring", "node", "-LRB-", "via", "the", "link", "between", "them", "-RRB-", ",", "which", "then", "passes", "it", "to", "its", "local", "routing", "component", ".", "A", "routing", "component", "has", "input", "pa", "-", "rameters", "such", "as", "the", "topology", "broadcast", "period", "for", "SPF", "-LRB-", "see", "Section", "6", "-RRB-", ",", "and", "output", "parameters", "such", "as", "the", "routing", "table", ".", "Workload", "The", "workload", "components", "model", "the", "user", "traffic", "in", "the", "target", "system", ".", "In", "each", "workload", "source-sink", "pair", ",", "the", "source", "component", "produces", "workload", "packets", "and", "passes", "them", "to", "its", "node", "component", ".", "These", "packets", "are", "then", "forwarded", "by", "the", "node", "components", "-LRB-", "using", "their", "next-hops", "-RRB-", "until", "they", "reach", "their", "destination", "node", ",", "where", "they", "are", "consumed", "by", "the", "sink", "component", ".", "In", "FTP", "and", "TEL", "-", "NET", "workloads", ",", "each", "source-sink", "pair", "goes", "through", "a", "succession", "of", "connections", ".", "Each", "connection", "incorporates", "a", "send-window", "flow", "control", "mechanism", "and", "an", "acknowledgment-with-retransmission", "mechanism2", "using", "roundtrip", "time", "estimates", ".", "The", "Simple", "Traffic", "workload", "does", "not", "involve", "connections", ",", "flow", "control", ",", "or", "acknowledgment-and-retransmission", "mechanism", ".", "Here", ",", "the", "source", "produces", "packets", "with", "interpacket", "times", "distributed", "either", "exponentially", "or", "uniformly", ".", "Workload", "input", "parameters", "include", "average", "number", "of", "packets", "per", "connection", ",", "average", "delay", "between", "connections", ",", "packet", "size", ",", "delay", "between", "packets", ",", "window", "sizes", ",", "etc.", ";", "and", "output", "parameters", "include", "instantaneous", "throughput", "and", "delay", ".", "Node", "A", "node", "component", "has", "a", "separate", "queue", "of", "packets", "for", "each", "outgoing", "link", ",", "and", "a", "single", "common", "queue", "for", "all", "routing", "packets", "received", "on", "its", "incoming", "links", ".", "The", "node", "passes", "queued", "routing", "packets", "to", "the", "local", "routing", "component", ".", "For", "each", "incoming", "workload", "packet", "that", "is", "not", "destined", "for", "a", "local", "sink", ",", "the", "node", "consults", "the", "local", "routing", "table", "and", "appends", "the", "packet", "-LRB-", "after", "a", "processing", "delay", "-RRB-", "to", "an", "appropriate", "outgoing", "queue", ".", "A", "packet", "generated", "by", "a", "local", "source", "is", "treated", "similarly", ".", "In", "the", "outgoing", "links", ",", "routing", "packets", "have", "priority", "over", "workload", "packets", ".", "A", "received", "packet", "is", "dropped", "if", "there", "is", "no", "available", "buffer", "space", "-LRB-", "and", "this", "depends", "on", "the", "packet", "priority", "-RRB-", "or", "if", "it", "is", "a", "workload", "packet", "whose", "destination", "'s", "next-hop", "is", "nil", ".", "2", "Retransmissions", "are", "needed", "because", "packets", "can", "be", "lost", "due", "to", "node", "or", "link", "failures", ",", "buffer", "space", "limitation", ",", "or", "nil", "next-hop", ".", "A", "node", "can", "be", "subject", "to", "failure", "and", "repair", ",", "with", "up-times", "and", "down-times", "described", "by", "distributions", ".", "When", "a", "node", "fails", ",", "all", "packets", "that", "are", "stored", "in", "it", "are", "lost", ".", "Input", "parameters", "of", "a", "node", "component", "include", "total", "buffer", "space", ",", "distribution", "of", "up/down", "times", ",", "etc.", ",", "and", "its", "output", "parameters", "include", "node", "status", ",", "buffer", "utilization", ",", "queue", "lengths", ",", "etc.", ".", "Performance", "monitor", "The", "performance", "monitor", "component", "collects", "and", "evaluates", "statistics", "about", "the", "network", ".", "The", "performance", "measures", "provided", "by", "MaRS", "are", "measured", "in", "one", "of", "two", "ways", ":", "periodically-updated", "and", "event-updated", ".", "A", "periodically-updated", "performance", "measure", "is", "updated", "periodically", "at", "time", "instants", "separated", "by", "a", "fixed", "length", "interval", "called", "\\", "update", "period", "``", "3", ".", "An", "event-updated", "performance", "measure", "is", "updated", "whenever", "a", "related", "event", "occurs", ".", "For", "example", ",", "the", "total", "network", "throughput", "is", "updated", "periodically", ",", "while", "the", "current", "number", "of", "failed", "links", "in", "the", "network", "is", "updated", "whenever", "the", "status", "of", "a", "link", "changes", "from", "up", "to", "down", "or", "vice", "versa", ".", "A", "performance", "measure", "can", "be", "either", "an", "average", "measure", "or", "an", "instantaneous", "measure", ".", "An", "\\", "average", "measure", "''", "is", "computed", "based", "on", "statistics", "collected", "after", "a", "specified", "\\", "startup", "interval", "''", "from", "the", "beginning", "of", "the", "simulation", "-LRB-", "to", "reduce", "transient", "effects", "due", "to", "the", "network", "being", "initially", "empty", "-RRB-", ".", "An", "\\", "instantaneous", "measure", "''", "is", "computed", "based", "only", "on", "current", "state", "or", "statistics", "collected", "during", "the", "last", "update", "period", ".", "For", "many", "of", "these", "measures", ",", "time", "variance", "is", "also", "calculated", ".", "Periodically-updated", "performance", "measures", "include", "-LRB-", "average", "or", "instantaneous", "-RRB-", "network", "throughput", ",", "delay", "per", "data", "packet", ",", "data", "load", ",", "routing", "load", ",", "number", "of", "dropped", "workload", "packets", ",", "etc.", ".", "Event-updated", "performance", "measures", "include", "current", "number", "of", "active", "connections", ",", "average", "number", "of", "data", "packets", "in", "an", "FTP/TELNET", "connection", ",", "average", "life-time", "of", "an", "FTP/TELNET", "connection", ",", "maximum", "data", "packet", "delay", ",", "etc.", ".", "3", "Note", "that", "this", "period", "is", "different", "from", "the", "link-cost", "update", "period", ".", "4", "Interface", "Design", "and", "Implementation", "4.1", "User", "Interfaces", "Currently", "MaRS", "provides", "a", "command", "line", "interface", ".", "In", "addition", ",", "MaRS", "can", "be", "compiled", "with", "one", "of", "two", "optional", "graphical", "interfaces", ":", "a", "simple", "X", "interface", "-LRB-", "the", "user", "interface", "that", "came", "with", "NetSim", "-RRB-", "or", "an", "X-Motif", "interface", ".", "The", "command", "line", "options", "include", "the", "specification", "of", "the", "length", "of", "the", "simulation", "run", ",", "the", "seed", "for", "the", "random", "number", "generator", ",", "the", "name", "of", "the", "network", "file", ",", "the", "name", "of", "the", "record", "file", ",", "the", "length", "of", "the", "startup", "interval", ",", "and", "the", "performance", "monitor", "update", "period", "-LRB-", "network", "file", "and", "record", "file", "are", "explained", "below", "-RRB-", ".", "The", "simple", "X", "interface", "-LSB-", "12", "-RSB-", "is", "almost", "entirely", "mouse-driven", ".", "The", "display", "is", "divided", "into", "three", "parts", ":", "control", "section", ",", "network", "display", ",", "and", "text", "window", ".", "The", "control", "section", "is", "comprised", "of", "a", "clock", "and", "a", "set", "of", "control", "buttons", "which", "allow", "the", "user", "to", "load", "and", "save", "network", "files", "-LRB-", "described", "in", "Section", "4.2", "-RRB-", ",", "start", "and", "stop", "the", "simulation", ",", "change", "the", "execution", "mode", "of", "the", "simulator", "-LRB-", "continuous", "time", ",", "event", "step", ",", "time", "step", "-RRB-", ",", "record", "events", ",", "etc.", ".", "The", "user", "works", "in", "the", "network", "display", "to", "create", ",", "delete", ",", "move", "and", "connect", "component", "instances", ".", "Every", "component", "instance", "is", "created", "with", "a", "set", "of", "default", "parameters", ".", "To", "display", "the", "parameters", ",", "the", "user", "clicks", "on", "the", "component", "instance", "and", "a", "component", "information", "window", "opens", "up", ".", "Further", "clicking", "on", "a", "specific", "parameter", "allows", "the", "user", "to", "modify", "its", "value", "-LRB-", "if", "it", "is", "an", "input", "parameter", "-RRB-", "by", "entering", "a", "new", "value", "through", "the", "text", "window", ".", "Parameter", "values", "of", "a", "component", "can", "be", "logged", "into", "a", "file", "or", "displayed", "with", "a", "meter", ".", "The", "text", "window", "is", "used", "to", "enter", "parameter", "values", "and", "to", "display", "error", "messages", "and", "warnings", ".", "The", "X-Motif", "interface", "-LSB-", "14", "-RSB-", "provides", "some", "additional", "functionality", "over", "the", "simple", "X", "interface", ".", "Components", "can", "be", "clustered", "and", "displayed", "as", "groups", ".", "The", "grouping", "option", "provides", "the", "user", "with", "the", "possibility", "to", "display", "a", "more", "structured", "network", ",", "e.g.", "a", "hierarchical", "network", ".", "The", "size", "of", "the", "network", "display", "is", "dynamic", "and", "the", "network", "display", "can", "be", "scrolled", ".", "The", "meters", "are", "displayed", "in", "a", "separate", "window", "-LRB-", "the", "MaRSMeterWindow", "-RRB-", ".", "The", "X-Motif", "interface", "is", "easier", "to", "use", "and", "is", "more", "customizable", ".", "With", "both", "of", "the", "graphical", "interfaces", ",", "output", "parameters", "can", "be", "displayed", "with", "a", "meter", "by", "clicking", "on", "the", "meter", "field", "of", "the", "parameter", "in", "the", "component", "information", "window", ".", "Currently", "there", "are", "eight", "meter", "types", "available", "in", "MaRS", ":", "binary", "meter", ",", "bar", "graph", ",", "log", ",", "time", "history", "A", ",", "time", "history", "D", ",", "delta", "meter", ",", "histogram", "and", "text", "meter", ".", "The", "most", "commonly", "used", "meter", "types", "are", "time", "history", "A", ",", "time", "history", "D", "and", "text", "meter", ".", "Time", "history", "A", "displays", "the", "parameter", "value", "periodically", "versus", "time", ",", "whereas", "time", "history", "D", "displays", "the", "value", "-LRB-", "versus", "time", "-RRB-", "only", "when", "the", "parameter", "value", "changes", ".", "The", "text", "meter", "is", "used", "to", "display", "various", "tables", "such", "as", "routing", "tables", ".", "A", "detailed", "description", "of", "all", "meters", "can", "be", "found", "in", "-LSB-", "12", "-RSB-", ".", "The", "meter", "type", "and", "meter", "parameters", "can", "be", "changed", "by", "clicking", "on", "the", "meter", "and", "entering", "the", "new", "values", ".", "The", "meter", "window", "can", "be", "moved", ",", "resized", ",", "raised", "and", "lowered", "by", "clicking", "the", "appropriate", "mouse", "buttons", ".", "A", "graphical", "interface", "is", "very", "helpful", "in", "building", "a", "network", ",", "debugging", "a", "routing", "algorithm", ",", "etc.", ".", "However", ",", "it", "slows", "down", "the", "simulation", "considerably", ".", "For", "this", "reason", ",", "only", "the", "command", "line", "interface", "should", "be", "used", "when", "speed", "is", "important", "and", "the", "network", "display", "is", "not", "needed", ".", "Even", "when", "MaRS", "is", "compiled", "with", "the", "simple", "X", "interface", "or", "the", "X-Motif", "interface", ",", "it", "can", "still", "be", "executed", "with", "the", "command", "line", "interface", "and", "without", "the", "graphical", "interface", ".", "4.2", "Files", "MaRS", "works", "with", "four", "ASCII", "files", ";", "referred", "to", "as", "the", "network", "file", ",", "the", "snap", "file", ",", "the", "record", "file", "and", "the", "log", "file", ".", "We", "describe", "these", "next", ".", "A", "network", "file", "includes", "a", "description", "of", "the", "network", "to", "be", "simulated", ".", "It", "consists", "of", "three", "distinct", "parts", ".", "The", "first", "part", "is", "a", "list", "of", "all", "component", "instances", "with", "their", "input", "parameter", "values", ".", "The", "second", "part", "indicates", "the", "interconnection", "of", "the", "instances", ".", "The", "third", "part", "lists", "the", "peer", "components", "-LRB-", "e.g.", "the", "source-sink", "workload", "pairs", "-RRB-", ".", "The", "network", "file", "can", "be", "created", "either", "manually", ",", "or", "automatically", "by", "clicking", "on", "the", "save", "button", "when", "operating", "MaRS", "graphically", ".", "When", "running", "MaRS", ",", "the", "network", "file", "can", "be", "specified", "on", "the", "command", "line", ",", "or", "by", "using", "the", "load", "option", "of", "the", "graphical", "interfaces", ".", "The", "network", "file", "includes", "all", "information", "needed", "to", "carry", "out", "a", "simulation", ".", "Because", "the", "X-Motif", "interface", "provides", "additional", "functionality", ",", "some", "additional", "information", "is", "stored", "in", "a", "separate", "network", "file", "-LRB-", "named", "net.motif", "if", "the", "network", "file", "is", "named", "net", "-RRB-", ".", "By", "storing", "this", "information", "in", "a", "separate", "file", ",", "the", "network", "file", "-LRB-", "net", "-RRB-", "is", "compatible", "with", "all", "MaRS", "interfaces", ".", "A", "snap", "file", "is", "basically", "a", "network", "file", ",", "with", "the", "following", "additions", ":", "-LRB-", "1", "-RRB-", "the", "values", "of", "current", "output", "parameters", ";", "-LRB-", "2", "-RRB-", "the", "seed", "for", "the", "random", "number", "generator", ";", "-LRB-", "3", "-RRB-", "the", "time", "of", "the", "snapshot", ";", "and", "-LRB-", "4", "-RRB-", "flags", "to", "indicate", "the", "parameters", "that", "have", "meters", "or", "are", "logged", ".", "A", "snap", "file", "is", "created", "automatically", "after", "any", "simulation", "for", "which", "a", "stop", "time", "is", "specified", ",", "or", "by", "clicking", "on", "the", "snap", "button", "when", "operating", "MaRS", "interactively", ".", "We", "often", "need", "to", "simulate", "different", "routing", "algorithms", "subject", "to", "the", "same", "sequence", "of", "event", "occurrence", "times", "for", "a", "special", "set", "of", "events", ".", "For", "example", ",", "to", "compare", "how", "different", "routing", "algorithms", "respond", "to", "failures", "and", "repairs", "-LRB-", "of", "nodes", "and", "links", "-RRB-", ",", "we", "want", "simulations", "of", "the", "different", "algorithms", "where", "the", "sequence", "and", "occurrence", "times", "of", "failure", "and", "repair", "events", "is", "the", "same", "in", "all", "simulations", ".", "To", "achieve", "this", ",", "we", "can", "not", "generate", "failure", "and", "repair", "events", "in", "the", "usual", "way", "-LRB-", "using", "random", "numbers", "-RRB-", ".", "We", "classify", "a", "subset", "of", "the", "events", ",", "including", "link/node", "failures", "and", "repairs", ",", "connection", "coming", "up", ",", "etc.", ",", "as", "record-class", "events", ".", "MaRS", "provides", "record", "and", "play", "options", "which", "can", "be", "specified", "from", "the", "command", "line", "or", "from", "a", "graphical", "interface", ".", "With", "the", "record", "option", ",", "the", "occurrences", "of", "record-class", "events", "are", "written", "to", "a", "record", "file", "-LRB-", "the", "record", "file", "can", "also", "be", "created", "manually", "-RRB-", ".", "With", "the", "play", "option", ",", "the", "record-class", "events", "are", "read", "and", "scheduled", "from", "the", "record", "file", ".", "Each", "entry", "in", "a", "record", "file", "specifies", "an", "event", ",", "its", "occurrence", "time", ",", "the", "name", "of", "the", "concerned", "component", ",", "and", "other", "relevant", "parameters", ".", "Using", "this", "feature", ",", "one", "creates", "a", "record", "file", "with", "the", "first", "run", "of", "a", "series", "of", "simulations", ",", "and", "in", "all", "other", "runs", "the", "record-class", "events", "are", "played", "from", "this", "file", ".", "The", "record/play-back", "capability", "does", "not", "exist", "in", "NetSim", ".", "MaRS", "can", "write", "the", "values", "of", "selected", "parameters", "to", "a", "log", "file", ".", "The", "header", "of", "the", "log", "file", "contains", "a", "list", "of", "the", "parameters", "logged", ".", "The", "parameters", "are", "assigned", "unique", "numbers", ".", "A", "parameter", "value", "entry", "consists", "of", "the", "unique", "parameter", "number", ",", "the", "timestamp", "at", "which", "the", "parameter", "value", "was", "logged", "and", "the", "actual", "parameter", "value", ".", "The", "data", "written", "in", "the", "log", "file", "can", "be", "used", "for", "further", "post-processing", "and", "analysis", "of", "the", "simulation", ".", "The", "file", "interface", "is", "the", "same", "as", "in", "NetSim", ",", "except", "for", "the", "parts", "that", "deal", "with", "record/play-back", "capabilities", "and", "X-Motif", "interface", "'s", "parameters", ".", "5", "An", "Example", "Network", "Configuration", "To", "illustrate", "the", "use", "of", "MaRS", "we", "present", "a", "small", "example", ".", "To", "start", "MaRS", ",", "a", "user", "types", "\\", "mars", "''", "on", "the", "command", "line", "and", "hits", "return", ".", "A", "graphical", "interface", "pops", "up", ",", "in", "this", "example", ",", "the", "X-Motif", "interface", ".", "Clicking", "on", "the", "create", "option", "in", "the", "edit", "menu", "opens", "up", "a", "window", "displaying", "all", "available", "components", ".", "Dragging", "any", "component", "out", "of", "this", "window", "creates", "an", "instance", "of", "that", "particular", "component", "with", "default", "parameters", ".", "The", "components", "that", "define", "a", "physical", "network", "are", "the", "node", "component", "and", "the", "link", "component", ".", "Any", "arbitrary", "physical", "network", "can", "be", "built", "by", "creating", "node", "and", "link", "component", "instances", "and", "connecting", "them", "-LRB-", "by", "clicking", "on", "the", "components", "-RRB-", ".", "When", "a", "link", "is", "connected", "to", "a", "node", ",", "the", "link", "represents", "an", "outgoing", "and", "incoming", "channel", "of", "the", "node", ".", "Figure", "3", "illustrates", "a", "physical", "network", "with", "five", "nodes", "and", "six", "links", "-LRB-", "e.g.", "link", "between", "nodes", "3", "and", "4", "is", "identified", "as", "3-4", "-RRB-", ".", "Figure", "3", ":", "Physical", "network", ".", "To", "add", "a", "routing", "protocol", "to", "the", "physical", "network", ",", "a", "routing", "component", "instance", "has", "to", "be", "created", "for", "each", "node", "component", "instance", "and", "connected", "to", "it", ".", "The", "routing", "components", "that", "are", "currently", "available", "in", "MaRS", "are", "SPF", ",", "ExBF", "and", "SEGAL", ".", "All", "routing", "component", "instances", "in", "the", "physical", "network", "have", "to", "be", "of", "the", "same", "type", ".", "In", "addition", "a", "link", "-LCB-", "cost", "function", "component", "instance", "has", "to", "be", "created", ".", "It", "is", "not", "connected", "to", "any", "other", "components", ";", "it", "provides", "information", "about", "the", "link", "-LCB-", "cost", "function", "to", "all", "routing", "components", ".", "Figure", "4", ":", "Physical", "network", "with", "routing", "-LRB-", "after", "3.350", "seconds", "-RRB-", ".", "In", "Figure", "4", ",", "SPF", "is", "chosen", "as", "routing", "algorithm", ".", "The", "link", "-LCB-", "cost", "component", "is", "displayed", "in", "the", "left", "lower", "portion", "of", "the", "figure", ".", "By", "clicking", "on", "the", "start", "button", ",", "the", "simulation", "is", "started", ".", "Figure", "4", "shows", "the", "simulation", "after", "3.350", "seconds", "-LRB-", "time", "is", "shown", "in", "the", "upper", "right", "corner", "of", "the", "display", "border", "-RRB-", ".", "In", "the", "right", "lower", "portion", ",", "the", "routing", "table", "of", "SPF", "5", "displays", "entries", "for", "all", "nodes", "in", "the", "physical", "network", ".", "The", "workload", "components", "that", "are", "currently", "available", "are", "FTP", "SOURCE", ",", "FTP", "SINK", ",", "TEL", "-", "NET", "SOURCE", ",", "TELNET", "SINK", ",", "SIMPLE", "SOURCE", "and", "SIMPLE", "SINK", ".", "Workload", "source", "and", "sink", "components", "are", "connected", "to", "node", "components", ";", "for", "each", "workload", "source", "there", "has", "to", "be", "a", "workload", "sink", ".", "To", "inform", "a", "workload", "source", "about", "its", "workload", "sink", "-LRB-", "and", "vice", "versa", "-RRB-", ",", "the", "two", "components", "have", "to", "be", "made", "peers", "by", "appropriately", "clicking", "on", "them", ".", "Figure", "5", "shows", "four", "workload", "source", "component", "instances", "and", "four", "workload", "sink", "component", "instances", ".", "To", "obtain", "performance", "measures", "for", "the", "network", "simulated", ",", "an", "instance", "of", "the", "performance", "monitor", "has", "to", "be", "created", ".", "The", "performance", "monitor", "is", "not", "connected", "to", "any", "other", "component", ".", "Figure", "6", "shows", "the", "performance", "monitor", "together", "with", "some", "of", "its", "output", "parameters", ",", "and", "meters", "for", "two", "performance", "measures", ".", "The", "parameters", "of", "any", "component", "can", "be", "displayed", "by", "clicking", "on", "the", "component", ".", "Further", "clicking", "on", "the", "Meter", "option", "-LRB-", "M", "-RRB-", "of", "the", "parameter", "creates", "a", "meter", "for", "the", "parameter", ".", "Clicking", "on", "the", "Log", "option", "-LRB-", "L", "-RRB-", "causes", "the", "parameter", "values", "to", "be", "written", "to", "a", "log", "file", ".", "The", "parameters", "shown", "in", "the", "meters", "are", "the", "instantaneous", "network", "throughput", "and", "the", "instantaneous", "average", "delay", "per", "packet", ".", "At", "this", "point", "the", "simulation", "has", "progressed", "for", "4310.760", "milliseconds", ".", "6", "Implementing", "a", "Component", "In", "this", "section", ",", "we", "describe", "how", "to", "implement", "a", "new", "component", "in", "MaRS", ",", "and", "illustrate", "with", "the", "SPF", "component", ".", "This", "description", "in", "most", "parts", "applies", "to", "NetSim", "as", "well", ".", "We", "explicitly", "state", "additional", "requirements", "and", "features", "of", "MaRS", "that", "do", "not", "exist", "in", "NetSim", ".", "We", "also", "describe", "how", "components", "interact", "with", "each", "other", "and", "with", "the", "performance", "monitor", ".", "For", "brevity", ",", "we", "describe", "the", "highlights", "only", ".", "In", "many", "places", ",", "we", "replace", "C", "code", "by", "English", "sentences", ",", "omit", "variables", ",", "and", "use", "different", "but", "more", "descriptive", "names", "for", "variables", ".", "A", "more", "complete", "-LRB-", "and", "accurate", "-RRB-", "description", "of", "a", "routing", "component", "implementation", "can", "be", "found", "in", "-LSB-", "15", "-RSB-", ".", "We", "first", "describe", "the", "SPF", "routing", "protocol", ".", "Each", "node", "maintains", "a", "view", "of", "the", "network", "topology", "with", "a", "cost", "for", "each", "link", ".", "To", "keep", "these", "views", "up-to-date", ",", "each", "node", "periodically", "-LRB-", "or", "whenever", "a", "failure/repair", "occurs", "-RRB-", "broadcasts", "the", "link", "costs", "of", "its", "outgoing", "links", "to", "all", "other", "nodes", "using", "flooding", "-LRB-", "i.e.", "it", "sends", "link", "cost", "information", "to", "its", "neighbors", ",", "they", "forward", "this", "information", "to", "their", "neighbors", "and", "so", "on", "-RRB-", ".", "As", "a", "node", "receives", "this", "information", ",", "it", "updates", "its", "view", "of", "the", "network", "topology", "and", "applies", "Dijkstra", "'s", "shortest", "path", "algorithm", "-LSB-", "16", "-RSB-", "to", "choose", "its", "next-hop", "for", "each", "destination", ".", "Note", "that", "because", "of", "the", "store-and-forward", "nature", "of", "the", "network", ",", "a", "node", "may", "receive", "old", "link", "cost", "information", "after", "it", "has", "received", "new", "information", ".", "To", "avoid", "using", "old", "information", ",", "SPF", "uses", "sequence", "numbers", ".", "Figure", "5", ":", "Physical", "network", "with", "routing", "and", "workload", ".", "Figure", "6", ":", "Physical", "network", "with", "routing", ",", "workload", "and", "performance", "monitor", ".", "A", "component", "implementation", "consists", "of", "a", "data", "structure", "declaration", "and", "an", "action", "routine", ".", "typedef", "struct", "_", "SPF_t", "-LCB-", "/", "*", "Fields", "common", "to", "all", "components", "*", "/", "struct", "_", "SPF_t", "*", "next", ",", "*", "prev", ";", "/", "*", "To", "make", "link", "list", "of", "components", "*", "/", "short", "class", ";", "/", "*", "Class", "of", "component", "-LRB-", "``", "Routing", "''", "for", "SPF", "-RRB-", "*", "/", "short", "type", ";", "/", "*", "Type", "of", "component", "-LRB-", "``", "SPF", "''", "for", "SPF", "-RRB-", "*", "/", "char", "name", "-LSB-", "40", "-RSB-", ";", "/", "*", "Name", "of", "component", "instance", "*", "/", "PFP", "action", ";", "/", "*", "Pointer", "to", "action", "routine", "*", "/", "GRPH_OBJECT", "picture", ";", "/", "*", "Graphics", "object", "displaying", "component", "instance", "*", "/", "list", "*", "neighbors", ";", "/", "*", "List", "of", "neighbor", "component", "instances", "*", "/", "short", "menu_up", ";", "/", "*", "Text", "window", "up", "flag", "*", "/", "queue", "*", "params", ";", "/", "*", "Queue", "of", "parameters", "*", "/", "/", "*", "Fields", "common", "to", "all", "routing", "components", "*", "/", "PFI", "processing_time", ";", "/", "*", "function", "estimating", "proccesing", "time", "of", "routing", "events", ";", "used", "to", "schedule", "routing", "events", "*", "/", "int", "no_of_nodes", ";", "/", "*", "number", "of", "nodes", "in", "the", "network", "known", "to", "this", "SPF", "instance", "*", "/", "unsigned", "int", "link_cost_time", ";", "/", "*", "time", "local", "link", "costs", "are", "last", "calculated", "*", "/", "Component", "*", "node", ";", "/", "*", "pointer", "to", "local", "node", "*", "/", "Param", "*", "routing_table", ";", "/", "*", "routing", "table", ":", "stores", "the", "next-hop", "and", "the", "cost", "for", "each", "destination", ",", "*", "/", "Param", "*", "local_topology", ";", "/", "*", "local", "topology", "table", ":", "stores", "link", "costs", "and", "necessary", "statistics", "for", "each", "outgoing", "link", "*", "/", "/", "*", "SPF", "specific", "fields", "*", "/", "Param", "*", "global_topology", ";", "/", "*", "view", "of", "the", "network", "topology", "*", "/", "Param", "*", "seq_no", ";", "/", "*", "message", "sequence", "no", ".", "last", "used", "by", "this", "SPF", "instance", "*", "/", "Param", "*", "seq_no_table", ";", "/", "*", "last", "sequence", "no", ".", "received", "from", "other", "SPF", "instances", "*", "/", "Param", "*", "brdcast_period", ";", "/", "*", "average", "broadcast", "period", "length", "*", "/", "Param", "*", "brdcast_period_sd", ";", "/", "*", "broadcast", "period", "standard", "deviation", "*", "/", "-RCB-", "SPF_t", ";", "Figure", "7", ":", "SPF", "data", "structure", ".", "The", "data", "structure", "contains", "fields", "needed", "for", "the", "operation", "of", "the", "component", "and", "for", "the", "operation", "of", "the", "simulation", "engine", ".", "The", "action", "routine", "specifies", "the", "code", "to", "be", "executed", "when", "an", "event", "for", "this", "component", "occurs", ".", "The", "events", "either", "model", "the", "component", "'s", "behavior", "-LRB-", "e.g.", "send", ",", "receive", ",", "etc.", "-RRB-", "or", "are", "needed", "by", "the", "simulation", "engine", "-LRB-", "e.g.", "instance", "creation", ",", "connecting", "to", "a", "component", ",", "etc.", "-RRB-", ".", "Data", "Structure", "The", "data", "structure", "of", "SPF", "is", "shown", "in", "Figure", "7", ".", "It", "contains", "three", "sets", "of", "fields", ".", "The", "first", "set", "of", "fields", "is", "common", "to", "all", "components", ".", "These", "fields", "are", "needed", "to", "interface", "the", "component", "with", "the", "simulation", "engine", "and", "the", "user", "interfaces", ".", "The", "second", "set", "of", "fields", "is", "common", "to", "all", "routing", "components", "-LRB-", "hence", "these", "fields", "are", "not", "required", "by", "NetSim", "-RRB-", ".", "These", "fields", "are", "shared", "with", "other", "components", ";", "e.g.", "the", "routing", "table", "is", "shared", "with", "the", "local", "node", ".", "This", "set", "is", "empty", "for", "non-routing", "components", ".", "The", "last", "set", "of", "fields", "is", "specific", "to", "the", "SPF", "component", ".", "Each", "parameter", "of", "a", "component", "must", "be", "declared", "to", "be", "of", "type", "Param", "structure", ",", "and", "added", "to", "the", "params", "queue", ".", "The", "Param", "structure", "contains", "the", "following", ":", "fields", "indicating", "the", "parameter", "'s", "value", ",", "either", "integer", ",", "double", "or", "pointer", ";", "flags", "indicating", "the", "parameter", "'s", "type", "-LRB-", "i.e.", "input/output", "-RRB-", "and", "capabilities", "-LRB-", "e.g.", "can", "it", "have", "a", "meter", "or", "be", "logged", "-RRB-", ";", "status", "flags", "-LRB-", "e.g.", "dirty", "bit", "indicating", "whether", "the", "parameter", "is", "being", "logged", "-RRB-", ";", "and", "fields", "pointing", "to", "appropriate", "functions", "to", "input", ",", "log", ",", "display", ",", "etc.", "the", "value", "of", "the", "parameter", ".", "The", "parameters", "of", "a", "component", "can", "be", "accessed", "in", "two", "ways", ":", "by", "traversing", "the", "params", "queue", "-LRB-", "this", "is", "how", "the", "simulation", "engine", "accesses", "the", "parameters", "-RRB-", ";", "and", "by", "defining", "other", "fields", "-LRB-", "e.g.", "routing", "table", "in", "Figure", "7", "-RRB-", "in", "the", "data", "structure", "of", "the", "component", "that", "point", "to", "the", "entries", "in", "the", "params", "queue", ".", "Interaction", "with", "other", "Components", "The", "simulator", "time", "is", "maintained", "in", "units", "of", "\\", "ticks", "''", "in", "an", "unsigned", "32-bit", "integer", "variable", ".", "Currently", ",", "one", "tick", "is", "ten", "microseconds", ",", "so", "the", "simulator", "can", "run", "for", "almost", "12", "hours", "of", "simulated", "time", "before", "an", "overflow", "occurs", ".", "The", "components", "can", "access", "the", "current", "time", "by", "using", "the", "ev", "now", "-LRB-", "-RRB-", "function", ".", "Interaction", "between", "component", "instances", "is", "usually", "either", "by", "calling", "events", "or", "by", "scheduling", "events", ".", "The", "function", "ev", "enqueue", "-LRB-", "-RRB-", "schedules", "an", "event", "e", "by", "enqueueing", "the", "pair", "-LRB-", "e", ";", "t", "-RRB-", "in", "the", "event", "list", "where", "t", "is", "the", "event", "occurrence", "time", ".", "When", "the", "simulated", "time", "equals", "t", ",", "the", "action", "routine", "of", "the", "appropriate", "component", "is", "invoked", ".", "The", "function", "ev", "call", "-LRB-", "-RRB-", "executes", "the", "appropriate", "action", "routine", "immediately", ",", "after", "which", "control", "returns", "to", "the", "calling", "routine", ".", "Note", "that", "scheduling", "f", "with", "the", "current", "value", "of", "simulated", "time", "corresponds", "to", "\\", "asynchronously", "''", "calling", "the", "action", "routine", "of", "f", ".", "The", "headers", "of", "ev", "enqueue", "-LRB-", "-RRB-", "and", "ev", "call", "-LRB-", "-RRB-", "are", "given", "in", "Figure", "8", ".", "The", "ev", "call", "-LRB-", "-RRB-", "function", "int", "ev_call", "-LRB-", "event", ",", "source", ",", "dest", ",", "action", ",", "packet", ",", "argument", "-RRB-", "Event", "*", "ev_enqueue", "-LRB-", "event", ",", "source", ",", "dest", ",", "time", ",", "action", ",", "packet", ",", "argument", "-RRB-", "int", "event", ";", "/", "*", "Type", "of", "event", "to", "be", "fired", "*", "/", "Component", "*", "source", ",", "/", "*", "The", "component", "instance", "causing", "the", "event", "*", "/", "*", "dest", ";", "/", "*", "The", "component", "instance", "the", "event", "is", "for", "*", "/", "unsigned", "time", ";", "/", "*", "Time", "of", "event", "firing", "*", "/", "PFP", "action", ";", "/", "*", "Address", "of", "the", "action", "routine", "of", "dest", "*", "/", "Packet", "*", "packet", ";", "/", "*", "optional", ",", "packet", "to", "pass", "*", "/", "caddr_t", "argument", ";", "/", "*", "optional", ",", "extra", "arguments", "*", "/", "Figure", "8", ":", "Interface", ".", "does", "not", "exist", "in", "NetSim", ".", "We", "have", "observed", "that", "for", "many", "events", ",", "an", "occurence", "at", "time", "t", "schedules", "new", "events", "whose", "occurence", "time", "is", "also", "t.", "With", "ev", "enqueue", "-LRB-", "-RRB-", "function", ",", "the", "simulation", "engine", "inserts", "these", "event-time", "pairs", "into", "the", "event", "list", ",", "sorts", "the", "event", "list", ",", "and", "then", "removes", "and", "fires", "these", "events", ".", "By", "introducing", "the", "ev", "call", "-LRB-", "-RRB-", "function", ",", "this", "scheduling", "overhead", "is", "reduced", "to", "just", "firing", "events", ".", "Components", "can", "also", "interact", "by", "sharing", "data", "structures", ";", "typically", ",", "only", "one", "of", "the", "components", "has", "write", "access", "and", "all", "other", "components", "have", "read-only", "access", ".", "Sharing", "data", "structures", "is", "very", "limited", ",", "and", "done", "only", "when", "it", "is", "significantly", "more", "efficient", "than", "calling", "or", "scheduling", "events", ".", "Packets", "If", "any", "additional", "message", "types", "are", "introduced", "by", "the", "new", "component", "they", "should", "be", "defined", "in", "the", "packet.h", "file", ".", "The", "SPF", "component", "uses", "link", "state", "packets", "-LRB-", "of", "type", "LINK", "STATE", "PKT", "-RRB-", ",", "which", "contains", "the", "link", "costs", "of", "the", "outgoing", "links", "of", "the", "sender", ".", "In", "addition", ",", "the", "failure/repair", "of", "the", "local", "node", "and", "its", "links", "are", "reported", "to", "the", "routing", "component", "by", "the", "packets", "of", "the", "following", "special", "types", ":", "NODE", "SHUTDOWN", "PKT", ",", "NODE", "WAKEUP", "PKT", ",", "LINK", "SHUTDOWN", "PKT", ",", "and", "LINK", "WAKEUP", "PKT", ".", "caddr_t", "spf_action", "-LRB-", "source", ",", "spf", ",", "event", ",", "packet", ",", "argument", "-RRB-", "Component", "*", "source", ";", "/", "*", "Component", "that", "scheduled", "or", "called", "this", "event", "*", "/", "register", "SPF_t", "*", "this_spf", ";", "/", "*", "Component", "to", "which", "this", "event", "applies", "*", "/", "int", "event", ";", "/", "*", "Type", "of", "event", "*", "/", "Packet", "*", "packet", ";", "/", "*", "A", "packet", "-LRB-", "if", "required", "-RRB-", "*", "/", "caddr_t", "argument", ";", "/", "*", "Other", "parameters", "-LRB-", "if", "required", "-RRB-", "*", "/", "-LCB-", "switch", "-LRB-", "event", "-RRB-", "-LCB-", "/", "*", "A", "big", "switch", "statement", "on", "the", "event", "type", "*", "/", "/", "*", "Events", "generated", "by", "the", "simulation", "engine", "and", "user", "interfaces", "*", "/", "case", "EV_CREATE_INSTANCE", ":", "<event handler>", "case", "EV_DELETE_INSTANCE", ":", "<event handler>", "case", "EV_CONNECT", ":", "<event handler>", "case", "EV_DISCONNECT", ":", "<event handler>", "case", "EV_RESET", ":", "<event handler>", "case", "EV_STOP", ":", "<event handler>", "case", "EV_START", ":", "spf_start", "-LRB-", "spf", "-RRB-", ";", "break", ";", "case", "EV_STOP", ":", "<event handler>", "/", "*", "Events", "generated", "by", "components", "*", "/", "case", "EV_SPF_BROADCAST", ":", "spf_broadcast", "-LRB-", "spf", "-RRB-", ";", "break", ";", "case", "EV_RECEIVE", ":", "process", "the", "received", "packet", ";", "break", ";", "-RCB-", "return", "non-null", "if", "success", ";", "-RCB-", "Figure", "9", ":", "SPF", "action", "routine", ".", "Action", "Routine", "The", "action", "routine", "is", "invoked", "whenever", "an", "event", "for", "this", "component", "is", "fired", ".", "The", "action", "routine", "specifies", "the", "code", "to", "be", "executed", "for", "each", "event", "related", "to", "the", "component", ".", "The", "action", "routine", "must", "return", "NULL", "if", "an", "error", "occurs", ",", "and", "non-NULL", "otherwise", ".", "The", "action", "routine", "for", "SPF", "is", "specified", "in", "Figure", "9", ".", "The", "arguments", "are", "standard", "for", "other", "types", "of", "components", ".", "The", "code", "consists", "of", "a", "big", "switch", "statement", "with", "one", "case", "for", "each", "event", ".", "The", "events", "are", "divided", "into", "two", "sets", ".", "Events", "from", "the", "first", "set", "-LRB-", "i.e.", "EV", "CREATE", "INSTANCE", "to", "EV", "STOP", "-RRB-", "are", "generated", "by", "the", "simulation", "engine", "and", "the", "user", "interfaces", ".", "The", "event", "handlers", "for", "these", "events", "are", "standard", "for", "the", "most", "part", ".", "For", "example", ",", "on", "EV", "CREATE", "INSTANCE", ",", "the", "memory", "for", "the", "data", "structure", "of", "the", "instance", "and", "the", "memory", "for", "the", "parameters", "is", "allocated", "and", "initialized", ".", "On", "EV", "RESET", ",", "parameters", "are", "reset", "to", "their", "initial", "values", ".", "On", "EV", "START", ",", "error", "conditions", "are", "checked", ",", "if", "a", "periodic", "event", "exists", "for", "the", "component", "then", "its", "first", "occurrence", "is", "scheduled", ",", "etc.", ".", "Events", "from", "the", "second", "set", "-LRB-", "i.e.", "EV", "SPF", "BROADCAST", "and", "EV", "RECEIVE", "-RRB-", "are", "generated", "by", "component", "instances", ".", "The", "event", "handlers", "for", "these", "events", "capture", "the", "behavior", "of", "the", "target", "system", "simulated", "by", "this", "component", ".", "We", "expand", "the", "event", "handlers", "of", "EV", "START", "and", "EV", "SPF", "BROADCAST", "in", "Figure", "10", ".", "In", "spf", "start", "-LRB-", "the", "event", "handler", "of", "EV", "START", "-RRB-", ",", "note", "that", "the", "EV", "SPF", "BROADCAST", "event", "is", "scheduled", "rather", "than", "called", "even", "though", "its", "time", "-LRB-", "given", "by", "ev", "now", "-LRB-", "-RRB-", "-RRB-", "is", "0", ".", "This", "ensures", "that", "when", "the", "broadcast", "is", "actually", "done", "all", "components", "have", "been", "started", ".", "The", "event", "handler", "of", "EV", "SPF", "BROADCAST", ",", "spf", "broadcast", "-LRB-", "-RRB-", ",", "first", "schedules", "the", "next", "EV", "SPF", "BROADCAST", "event", "-LRB-", "remember", "that", "the", "broadcasts", "are", "periodic", "-RRB-", ".", "It", "checks", "the", "status", "of", "the", "local", "node", ",", "and", "cancels", "the", "broadcast", "if", "the", "node", "is", "down", ".", "If", "the", "node", "is", "up", ",", "the", "link", "costs", "of", "the", "outgoing", "links", "are", "computed", "using", "the", "statistics", "collected", "by", "the", "local", "node", "and", "the", "link", "cost", "function", "as", "specified", "by", "the", "link", "cost", "component", ".", "Then", ",", "a", "broadcast", "is", "done", "by", "creating", "a", "link", "state", "packet", "for", "each", "outgoing", "link", ",", "and", "passing", "it", "to", "the", "node", "for", "transmission", "-LRB-", "by", "calling", "EV", "NODE", "PRODUCE", "event", "-RRB-", ".", "Finally", ",", "new", "next", "-LCB-", "hops", "-LRB-", "and", "costs", "-RRB-", "are", "calculated", "by", "applying", "the", "Dijkstra", "'s", "shortest", "path", "algorithm", ".", "In", "the", "EV", "NODE", "PRODUCE", "call", "in", "ls", "broadcast", "-LRB-", "-RRB-", ",", "note", "that", "the", "outgoing", "link", "is", "also", "specified", "as", "an", "argument", "to", "the", "EV", "NODE", "PRODUCE", "event", ".", "On", "EV", "NODE", "PRODUCE", "event", "with", "the", "non-NULL", "argument", ",", "the", "local", "node", "skips", "the", "routing", "table", "lookup", "and", "uses", "the", "argument", "as", "the", "link", "to", "take", ".", "This", "is", "needed", "because", "the", "shortest", "path", "for", "the", "neighbor", "might", "not", "be", "through", "that", "link", ".", "6.1", "Interface", "to", "the", "Performance", "Monitor", "The", "performance", "monitor", "component", "-LRB-", "PERF", "MONITOR", "-RRB-", "provides", "performance", "measures", "to", "evaluate", "and", "compare", "different", "routing", "algorithms", "-LRB-", "this", "component", "does", "not", "exist", "in", "NetSim", "-RRB-", ".", "To", "calculate", "these", "measures", ",", "the", "performance", "monitor", "needs", "to", "obtain", "information", "from", "the", "components", "of", "the", "target", "system", ".", "The", "performance", "monitor", "gets", "this", "information", "either", "by", "read", "accessing", "the", "data", "structure", "of", "the", "components", "-LRB-", "e.g.", "by", "polling", "-RRB-", ",", "or", "by", "an", "interface", "function", "pm", "-LRB-", "see", "Figure", "11", "-RRB-", ",", "which", "static", "caddr_t", "spf_start", "-LRB-", "spf", "-RRB-", "register", "SPF_t", "*", "spf", ";", "-LCB-", "check", "for", "error", "conditions", "-LRB-", "e.g.", "no", "local", "node", "is", "connected", "-RRB-", ";", "/", "*", "schedule", "the", "first", "EV_SPF_BROADCAST", "event", "*", "/", "ev_enqueue", "-LRB-", "EV_SPF_BROADCAST", ",", "spf", ",", "spf", ",", "ev_now", "-LRB-", "-RRB-", ",", "spf", "-", ">", "action", ",", "NULL", ",", "NULL", "-RRB-", ";", "return", "success", ";", "-RCB-", "static", "caddr_t", "spf_broadcast", "-LRB-", "spf", "-RRB-", "register", "SPF_t", "*", "spf", ";", "-LCB-", "next_time", "=", "calculate", "next", "broadcast", "time", "using", "spf", "-", ">", "brdcast_period", "and", "spf", "-", ">", "brdcast_period_sd", ";", "ev_enqueue", "-LRB-", "EV_SPF_BROADCAST", ",", "spf", ",", "spf", ",", "next_time", ",", "spf", "-", ">", "action", ",", "NULL", ",", "NULL", "-RRB-", ";", "if", "-LRB-", "the", "node", "connected", "is", "down", "-RRB-", "return", "success", ";", "/", "*", "node", "is", "UP", "*", "/", "compute_link_costs", "-LRB-", "spf", "-RRB-", ";", "/", "*", "computes", "the", "new", "costs", "of", "the", "outgoing", "links", "*", "/", "ls_broadcast", "-LRB-", "spf", "-RRB-", ";", "/", "*", "broadcast", "the", "new", "link", "costs", "*", "/", "Dijkstra_spf", "-LRB-", "spf", "-RRB-", ";", "/", "*", "update", "next-hops", "and", "costs", "using", "Dijkstra", "'s", "shortest", "path", "first", "algorithm", "on", "spf", "-", ">", "global_topology", "*", "/", "return", "success", ";", "-RCB-", "static", "caddr_t", "ls_broadcast", "-LRB-", "spf", "-RRB-", "register", "SPF_t", "*", "spf", ";", "-LCB-", "for", "-LRB-", "link", "in", "spf", "-", ">", "local_topology", "&", "&", "link", "is", "UP", "-RRB-", "-LCB-", "create", "a", "packet", "of", "type", "LINK_STATE_PACKET", ";", "fill", "the", "packet", "with", "the", "link", "costs", "from", "spf", "-", ">", "local_topology", ";", "/", "*", "pass", "the", "packet", "to", "the", "node", ";", "it", "will", "do", "the", "sending", "*", "/", "ev_call", "-LRB-", "EV_NODE_PRODUCE", ",", "spf", ",", "spf", "-", ">", "node", ",", "spf", "-", ">", "node", "-", ">", "action", ",", "packet", ",", "link", "-RRB-", ";", "-RCB-", "-RCB-", "Figure", "10", ":", "spf", "broadcast", "-LRB-", "-RRB-", "and", "ls", "broadcast", "-LRB-", "-RRB-", "functions", ".", "is", "called", "by", "the", "components", "in", "an", "event-driven", "way", ".", "Some", "of", "the", "requests", "and", "their", "effects", "are", "the", "following", ":", "ACK", "RECEIVED", "The", "invoker", "is", "an", "application/transport", "source", "which", "received", "an", "acknowledgment", "packet", ".", "In", "this", "case", ",", "arg1", "contains", "the", "number", "of", "data", "bytes", "that", "are", "acknowledged", ",", "and", "arg2", "contains", "the", "roundtrip", "delay", "of", "the", "packet", ".", "The", "statistics", "for", "throughput", ",", "and", "delay", "are", "void", "pm", "-LRB-", "comp", ",", "comp_type", ",", "req_type", ",", "arg1", ",", "arg2", ",", "arg3", "-RRB-", "Component", "*", "comp", ";", "/", "*", "id", "of", "the", "invoking", "component", "*", "/", "int", "comp_type", ";", "/", "*", "type", "of", "the", "invoking", "component", "*", "/", "int", "req_type", ";", "/", "*", "request", "type", "*", "/", "int", "arg1", ",", "arg2", ",", "arg3", ";", "/", "*", "additional", "information", "if", "required", "*", "/", "Figure", "11", ":", "The", "syntax", "of", "pm", ".", "updated", ".", "LINK", "FAILURE", "-LRB-", "LINK", "WAKEUP", "-RRB-", "The", "invoker", "is", "a", "link", "that", "has", "failed", "-LRB-", "become", "repaired", "-RRB-", ".", "The", "current", "number", "of", "failed", "links", "in", "the", "target", "system", "is", "updated", ".", "ROUTING", "PKT", "The", "invoker", "is", "a", "routing", "component", "which", "created", "some", "routing", "packets", ".", "In", "this", "case", ",", "arg1", "contains", "the", "number", "of", "routing", "packets", "created", ".", "The", "total", "number", "of", "routing", "packets", "used", "is", "updated", ".", "NEW", "COMPONENT", "The", "invoker", "is", "just", "being", "created", ".", "This", "request", "is", "needed", "for", "efficient", "polling", ".", "It", "is", "the", "responsibility", "of", "the", "programmer", "to", "put", "appropriate", "calls", "to", "pm", "into", "the", "code", ".", "Otherwise", ",", "the", "performance", "measures", "calculated", "by", "performance", "monitor", "may", "not", "be", "correct", ".", "The", "performance", "monitor", "also", "collects", "information", "by", "polling", "-LRB-", "e.g.", "data", "load", "and", "routing", "load", "are", "calculated", "by", "polling", "the", "link", "components", "-RRB-", ".", "Performance", "monitor", "maintains", "poll", "lists", "in", "order", "to", "avoid", "polling", "and", "checking", "all", "components", "while", "only", "some", "components", "needs", "to", "be", "polled", ".", "When", "a", "component", "invokes", "pm", "with", "a", "NEW", "COMPONENT", "request", ",", "it", "is", "added", "to", "the", "appropriate", "poll", "lists", "depending", "on", "its", "type", ".", "7", "Some", "Results", "using", "MaRS", "We", "have", "found", "MaRS", "to", "be", "very", "useful", "in", "understanding", "the", "complex", "dynamics", "of", "routing", "algorithms", ".", "As", "described", "earlier", ",", "a", "routing", "algorithm", "may", "form", "loops", "in", "its", "routes", "while", "adapting", "to", "topology", "changes", ",", "which", "degrades", "performance", ".", "In", "-LSB-", "1", ",", "17", "-RSB-", ",", "we", "compared", "the", "performance", "of", "two", "new", "distance-vector", "routing", "algorithms", ",", "SEGAL", "-LSB-", "10", ",", "11", "-RSB-", "and", "ExBF", "-LSB-", "9", "-RSB-", ",", "and", "a", "link-state", "algorithm", ",", "SPF", "-LSB-", "8", "-RSB-", ".", "SPF", "and", "ExBF", "allow", "short-lived", "loops", ",", "whereas", "MS", "avoids", "loops", "entirely", ".", "-LRB-", "In", "response", "to", "a", "workload", "or", "topology", "change", ",", "to", "avoid", "loops", "MS", "starts", "a", "diffusion", "computation", "during", "which", "nodes", "keep", "their", "old", "routes", "until", "they", "obtain", "new", "loop-free", "routes", ".", "In", "case", "of", "a", "failure", ",", "affected", "nodes", "reset", "their", "next-hops", "to", "nil", "during", "the", "diffusion", "computation", ".", "-RRB-", "In", "-LSB-", "1", "-RSB-", ",", "we", "considered", "the", "NSFNET-T1-backbone", "network", "with", "varying", "uniform", "and", "skewed", "workloads", "and", "failure", "distributions", ".", "Our", "overall", "conclusion", "was", "that", "ExBF", "is", "as", "good", "as", "SPF", "for", "good", "link", "cost", "functions", ",", "whereas", "SEGAL", "is", "worse", ".", "In", "-LSB-", "17", "-RSB-", ",", "we", "examined", "the", "relationship", "between", "\\", "workload-independent", "''", "measures", "-LRB-", "such", "as", "number", "of", "messages", "needed", "to", "adapt", "routes", "after", "a", "link", "failure", "-RRB-", "and", "\\", "workload-dependent", "''", "measures", "-LRB-", "such", "as", "delay", "and", "throughput", "-RRB-", ".", "We", "examined", "both", "transient", "characteristics", "and", "steady-state", "characteristics", ".", "Our", "overall", "observation", "was", "that", "workload-independent", "measures", "are", "not", "good", "indicators", "of", "workload-dependent", "measures", ".", "In", "the", "rest", "of", "this", "section", ",", "we", "present", "some", "of", "our", "results", "from", "-LSB-", "17", "-RSB-", ".", "971397771598541458711162075Hotspot", "node", "-LRB-", "College", "Park", "-RRB-", "Failure", "link", "Figure", "12", ":", "NSFNET-T1-Backbone", "-LRB-", "14", "nodes", ",", "21", "bidirectional", "links", ",", "average", "degree", "3", "-RRB-", ".", "The", "physical", "network", "models", "the", "NSFNET-T1-Backbone", "illustrated", "in", "Figure", "12", ".", "Link", "propagation", "delays", "in", "milliseconds", "are", "indicated", ".", "All", "links", "have", "the", "same", "bandwidth", ",", "1.5", "Mbit/sec", ".", "All", "nodes", "have", "adequate", "buffer", "space", "for", "buffering", "packets", "awaiting", "processing", "and", "forwarding", ".", "Workload", "packets", "can", "be", "processed", "in", "parallel", ".", "The", "processing", "time", "for", "workload", "packets", "equals", "1", "msec", ".", "We", "compare", "SPF", ",", "MS", "and", "ExBF", "by", "examining", "the", "behavior", "after", "a", "link", "failure", "-LRB-", "at", "time", "100", "seconds", "-RRB-", "and", "repair", "-LRB-", "at", "time", "200", "seconds", "-RRB-", ".", "The", "failure", "link", "is", "indicated", "in", "Figure", "12", ".", "The", "link", "cost", "function", "used", "in", "this", "paper", "is", "the", "hop-normalized-delay", "function", "-LSB-", "13", "-RSB-", ".4", "4", "It", "monitors", "the", "average", "packet", "delay", "-LRB-", "queueing", "and", "transmission", "-RRB-", "and", "average", "packet", "transmission", "time", "for", "the", "link", "during", "the", "last", "update", "period", ".", "Assuming", "an", "M", "=", "M", "=", "1", "model", ",", "it", "calculates", "the", "link", "utilization", ".", "The", "link", "utilization", "is", "first", "exponentially", "averaged", "with", "the", "previous", "value", "of", "the", "average", "link", "utilization", ".", "The", "result", "is", "scaled", "with", "a", "Routing", "packets", "received", "at", "a", "node", "are", "processed", "sequentially", ".", "The", "processing", "time", "of", "an", "SPF", "packet", "is", "6msecs", ",", "the", "processing", "time", "of", "a", "MS", "packet", "is", "either", "2msecs", "or", "3msecs", "depending", "on", "the", "packet", "type", ",", "the", "processing", "time", "of", "an", "ExBF", "packet", "is", "4.5", "msecs", ".", "We", "consider", "a", "skewed", "workload", "referred", "to", "as", "hotspot-with-background", "workload", "with", "parameters", "H", "and", "B", ",", "where", "H", "is", "the", "average", "number", "of", "FTP", "connections", "from", "every", "node", "to", "the", "hotspot", "node", "-LRB-", "hotspot", "node", "is", "indicated", "in", "Figure", "12", "-RRB-", ",", "and", "B", "is", "the", "average", "number", "of", "FTP", "connections", "between", "every", "pair", "of", "nodes", "excluding", "the", "hotspot", "node", ".", "Each", "connection", "has", "data", "packet", "size", "equal", "to", "512", "bytes", ",", "inter-packet", "generation", "time", "equal", "to", "150", "msec", ",", "and", "window", "size", "for", "flow", "control", "equal", "to", "8", "packets", ".", "All", "connections", "start", "when", "the", "simulation", "begins", "and", "are", "unending", ".", "We", "observe", "transient", "performance", "measures", "such", "as", "overshoots", ",", "undershoots", ",", "and", "recovery", "times", "of", "various", "instantaneous", "measures", "after", "the", "link", "failure", "and", "repair", ".5", "We", "define", "recovery", "time", "of", "an", "instantaneous", "measure", "to", "be", "the", "time", "needed", "for", "the", "measure", "to", "reach", "its", "steady-state", "value", "after", "a", "link", "failure", ",", "or", "a", "link", "repair", ".", "The", "overshoot", "-LRB-", "undershoot", "-RRB-", "of", "an", "instantaneous", "measure", "is", "its", "maximum", "-LRB-", "minimum", "-RRB-", "value", "above", "-LRB-", "below", "-RRB-", "the", "steady-state", "value", "during", "the", "recovery", "time", ".", "Figure", "13", "shows", "the", "instantaneous", "delay", ",", "throughput", ",", "and", "routing", "load", "versus", "time", ",", "for", "B", "=", "1", "and", "H", "=", "4", ".", "Figure", "14", "shows", "the", "same", "for", "B", "=", "1", "and", "H", "=", "7", ".", "We", "begin", "our", "observations", "by", "examining", "the", "behavior", "of", "instantaneous", "delay", ".", "Before", "the", "failure", "-LRB-", "at", "time", "80", "seconds", "-RRB-", ",", "it", "is", "around", "a", "steady-state", "value", "-LRB-", "e.g.", "75", "msecs", "for", "H", "=", "4", "-RRB-", ".", "As", "a", "result", "of", "the", "link", "failure", "at", "time", "100", "seconds", ",", "it", "increases", "to", "a", "new", "steady-state", "value", "-LRB-", "e.g.", "95", "msecs", "for", "H", "=", "4", "-RRB-", ".", "The", "recovery", "time", "of", "the", "instantaneous", "delay", "after", "the", "failure", "is", "small", "-LRB-", "less", "than", "1", "second", "for", "H", "=", "4", ";", "7", "seconds", "for", "H", "=", "7", "-RRB-", ".", "There", "are", "no", "undershoots", "and", "overshoots", "for", "H", "=", "4", ".", "For", "H", "=", "7", ",", "there", "is", "an", "undershoot", "followed", "by", "an", "overshoot", ".", "When", "the", "link", "repairs", "at", "time", "200", "seconds", ",", "the", "instantaneous", "delay", "shoots", "up", "and", "decreases", "slowly", "to", "the", "same", "steady-state", "value", "before", "the", "link", "failure", ".", "Similar", "observations", "can", "be", "drawn", "for", "instantaneous", "throughput", ".", "Our", "explanation", "for", "the", "high", "overshoots", "and", "large", "recovery", "times", "after", "the", "link", "repair", "is", "that", "slope", "and", "an", "offset", "and", "then", "subjected", "to", "minimum", "and", "maximum", "bounds", ".", "Then", "its", "value", "is", "adjusted", "so", "that", "the", "difference", "from", "the", "previous", "value", "of", "the", "link", "cost", "is", "less", "than", "a", "movement", "limit", ".", "The", "resulting", "number", "is", "the", "new", "cost", "of", "the", "link", ".", "The", "parameters", "of", "hop-normalized-delay", "function", "used", "are", "as", "follows", ":", "offset", "equals", "0", ",", "slope", "equals", "10", ",", "minimum", "limit", "equals", "1", ",", "maximum", "limit", "equals", "10", ",", "and", "movement", "limit", "equals", "1", ".", "The", "link-cost", "update", "period", "is", "uniformly", "distributed", "with", "mean", "10", "seconds", "and", "standard", "deviation", "1", "second", ".", "5", "An", "instantaneous", "measure", "is", "a", "function", "of", "time", "updated", "periodically", "every", "500", "msec", ".", "the", "repaired", "link", "becomes", "very", "attractive", "to", "many", "source-destination", "pairs", "since", "it", "reports", "a", "low", "cost", ".", "Regarding", "the", "behavior", "of", "instantaneous", "routing", "load", ",", "after", "the", "link", "failure", ",", "it", "shoots", "up", "and", "falls", "down", "to", "the", "same", "steady-state", "value", "as", "before", ".", "The", "same", "happens", "after", "the", "link", "repair", "as", "well", ".", "The", "recovery", "time", "in", "instantaneous", "routing", "load", "for", "ExBF", "can", "be", "as", "high", "as", "50", "seconds", "whereas", "it", "is", "less", "than", "5", "seconds", "for", "SPF", "and", "MS.", "We", "observe", "no", "relation", "between", "the", "behavior", "of", "instantaneous", "routing", "load", "and", "the", "behaviors", "for", "instantaneous", "delay", "and", "throughput", ".", "In", "spite", "of", "allowing", "short-lived", "loops", ",", "SPF", "and", "ExBF", "perform", "better", "than", "MS", "in", "all", "the", "simulations", "-LRB-", "also", "with", "other", "H", "and", "B", "values", "-RRB-", "we", "have", "performed", ".", "The", "diffusion", "computation", "mechanism", "used", "by", "MS", "to", "avoid", "short-lived", "loops", "degrades", "its", "performance", "-LRB-", "e.g.", "causes", "MS", "to", "drop", "packets", "-RRB-", ".", "This", "implies", "that", "short-lived", "loops", "are", "preferable", ".", "8", "Concluding", "Remarks", "MaRS", "provides", "a", "flexible", "platform", "for", "the", "evaluation", "and", "comparison", "of", "routing", "algorithms", ".", "Several", "people", "are", "extending", "MaRS", "in", "various", "ways", ".", "It", "has", "been", "extended", "-LSB-", "18", "-RSB-", "to", "study", "type-of-service", "routing", "with", "two", "traffic", "classes", ":", "minimum", "delay", "and", "maximum", "bandwidth", ".", "For", "each", "outgoing", "link", ",", "there", "are", "two", "queues", ",", "one", "for", "each", "traffic", "class", ";", "a", "round-robin", "scheduling", "discipline", "is", "used", "to", "share", "the", "link", "between", "the", "two", "queues", ".", "The", "routing", "table", "is", "modified", "to", "maintain", "different", "routes", "for", "each", "traffic", "class", ".", "MaRS", "is", "being", "extended", "-LSB-", "19", "-RSB-", "to", "study", "multicasting", ".", "There", "is", "also", "recent", "work", "in", "building", "a", "commercial", "routing", "testbed", "based", "on", "MaRS", "-LSB-", "20", "-RSB-", ".", "The", "memory", "required", "by", "MaRS", "to", "simulate", "a", "network", "is", "linear", "in", "the", "number", "of", "nodes", "and", "links", ",", "the", "number", "of", "connections", ",", "and", "the", "number", "of", "packets", "in", "transit", ";", "the", "latter", "is", "limited", "by", "the", "number", "of", "connections", "and", "the", "window", "size", ".", "Thus", "the", "memory", "space", "is", "linear", "in", "the", "number", "of", "nodes", ",", "links", ",", "and", "the", "product", "of", "connections", "and", "window", "size", ".", "The", "CPU", "requirement", "of", "MaRS", "is", "best", "indicated", "by", "the", "number", "of", "events", "processed", "per", "second", "of", "simulated", "time", ".", "This", "too", "is", "linearly", "bounded", "by", "the", "number", "of", "nodes", ",", "links", ",", "and", "connectionswindow", "size", "product", ".", "One", "reason", "that", "the", "number", "of", "links", "and", "nodes", "comes", "in", "to", "the", "bound", "is", "the", "periodic", "calculation", "of", "some", "statistics", ".", "The", "connections-window", "size", "product", "comes", "in", "to", "the", "bound", "because", "each", "packet", "transmission", "or", "reception", "is", "an", "event", ".", "The", "performance", "realised", "in", "practice", "also", "depends", "on", "the", "machine", "architecture", ".", "We", "present", "numbers", "for", "two", "architectures", ":", "a", "Sun", "Sparc", "10/30", "with", "32M", "bytes", "of", "memory", ",", "and", "a", "DECStation", "5000", "with", "16M", "bytes", "of", "memory", ".", "A", "500-second", "simulation", "of", "NSFNET", "with", "182", "connections", "-LRB-", "one", "connection", "per", "every", "pair", "of", "nodes", "-RRB-", "required", "2.2", "M", "bytes", "of", "memory", ";", "it", "took", "2287", "seconds", "of", "user", "time", "on", "the", "Sparc", "and", "1926", "seconds", "of", "user", "time", "on", "the", "DECStation", ".", "A", "500-second", "simulation", "of", "NSFNET", "with", "1092", "connections", "-LRB-", "six", "connection", "per", "every", "pair", "of", "nodes", "-RRB-", "required", "10M", "bytes", "of", "memory", ";", "it", "took", "4453", "seconds", "of", "user", "time", "on", "the", "Sparc", "and", "3847", "seconds", "of", "user", "time", "on", "the", "DECStation", ".", "There", "were", "no", "page", "faults", "and", "swap", "outs", ",", "except", "for", "the", "experiment", "with", "1092", "connections", "on", "the", "DECStation", ",", "where", "there", "were", "35000", "page", "faults", "and", "14", "swap", "outs", "-LRB-", "other", "programs", "were", "running", "on", "these", "machines", "-RRB-", ".", "Note", "that", "even", "though", "the", "workload", "increased", "by", "a", "factor", "of", "6", "-LRB-", "from", "182", "connections", "to", "1092", "connections", "-RRB-", ",", "the", "CPU", "requirement", "increased", "by", "a", "factor", "of", "2", "only", ".", "Through", "usage", ",", "we", "have", "become", "aware", "of", "some", "of", "the", "limitations", "and", "deficiencies", "of", "MaRS", ".", "The", "error", "reporting", "is", "inadequate", ";", "for", "example", ",", "if", "all", "routing", "component", "instances", "are", "not", "of", "the", "same", "type", ",", "MaRS", "crashes", "without", "reporting", "an", "error", ".", "There", "is", "no", "mechanism", "to", "dump", "the", "core", "at", "the", "end", "of", "a", "simulation", "run", ",", "such", "that", "a", "new", "run", "of", "MaRS", "can", "be", "initialized", "to", "resume", "the", "simulation", "from", "the", "original", "run", "'s", "last", "state", ".", "We", "are", "currently", "investigating", "several", "extensions", "to", "MaRS", ",", "including", "a", "distributed", "simulation", "engine", "-LRB-", "to", "simulate", "large", "networks", "more", "efficiently", "-RRB-", ",", "hierarchical", "routing", "algorithms", "with", "type-ofservice", "and", "policy", "requirements", ",", "new", "traffic", "characterizations", "to", "model", "video", "and", "audio", "connections", ",", "nodes", "with", "packet", "scheduling", "capabilities", "-LRB-", "to", "guarantee", "real-time", "delivery", "-RRB-", ",", "and", "links", "modeling", "ethernets", "and", "token-ring", "networks", ".", "9", "Acknowledgments", "We", "gratefully", "acknowledge", "the", "use", "of", "the", "structuring", "concepts", ",", "its", "simulation", "engine", "code", ",", "and", "the", "simple", "X", "interface", "code", "of", "the", "MIT", "NetSim", ".", "We", "thank", "Eric", "Bull", "for", "implementing", "the", "X-Motif", "interface", ".", "We", "thank", "Jean", "Bolot", ",", "?", "Olafur", "Gudmundsson", ",", "and", "Ashok", "Agrawala", "for", "various", "discussions", "during", "the", "design", "and", "implementation", "of", "MaRS", ".", "References", "-LSB-", "1", "-RSB-", "A.U.", "Shankar", ",", "C.", "Alaettino", ">", "=", "glu", ",", "I.", "Matta", ",", "and", "K.", "Dussa-Zieger", ".", "Performance", "Comparison", "of", "Routing", "Protocols", "using", "MaRS", ":", "Distance-Vector", "versus", "Link-State", ".", "In", "Proc", ".", "ACM", "SIGMET", "-", "RICS/PERFORMANCE", ",", "volume", "20", ",", "pages", "181", "-LCB-", "192", ",", "Newport", ",", "Rhode", "Island", ",", "June", "1992", ".", "-LSB-", "2", "-RSB-", "Lee", "Breslau", ".", "Electronic", "mail", ",", "October", "1991", ".", "Department", "of", "Computer", "Science", ",", "University", "of", "Southern", "California", ".", "-LSB-", "3", "-RSB-", "J.", "M.", "McQuillan", ",", "G.", "Falk", ",", "and", "I.", "Richer", ".", "A", "Review", "of", "the", "Development", "and", "Performance", "of", "the", "ARPANET", "Routing", "Algorithm", ".", "IEEE", "Transactions", "on", "Communications", ",", "COM-26", ":1802", "-LCB-", "1811", ",", "Dec", "1978", ".", "-LSB-", "4", "-RSB-", "A.", "Heybey", ".", "The", "Network", "Simulator", ".", "Laboratory", "of", "Computer", "Science", ",", "Massachusetts", "Institute", "of", "Technology", ",", "October", "1989", ".", "-LSB-", "5", "-RSB-", "CACI", "Products", "Company", ".", "COMNET", "II", ".5", "Overview", ".", "Available", "from", "CACI", "Products", "Company", ",", "March", "1990", ".", "-LSB-", "6", "-RSB-", "M.", "Livny", ".", "DeNet", "Overview", ".", "Technical", "note", ",", "University", "of", "Madison-Wisconsin", ",", "November", "1989", ".", "-LSB-", "7", "-RSB-", "W.", "A.", "Parrette", ".", "Motif", "Programming", "in", "the", "X", "Window", "System", "Environment", ".", "McGraw-Hill", ",", "1993", ".", "-LSB-", "8", "-RSB-", "J.", "M.", "McQuillan", ",", "I.", "Richer", ",", "and", "E.", "C.", "Rosen", ".", "The", "New", "Routing", "Algorithm", "for", "the", "ARPANET", ".", "IEEE", "Transactions", "on", "Communications", ",", "COM-28", "-LRB-", "5", "-RRB-", ":711", "-LCB-", "719", ",", "May", "1980", ".", "-LSB-", "9", "-RSB-", "C.", "Cheng", ",", "R.", "Riley", ",", "S.", "P.", "R.", "Kumar", ",", "and", "J.", "J.", "Garcia-Luna-Aceves", ".", "A", "Loop-free", "Bellman-Ford", "Routing", "Protocol", "Without", "Bouncing", "Effect", ".", "In", "Proc", ".", "ACM", "SIGCOMM", "'", "89", ",", "pages", "224", "-LCB-", "237", ",", "September", "1989", ".", "-LSB-", "10", "-RSB-", "P.", "M.", "Merlin", "and", "A.", "Segall", ".", "A", "Failsafe", "Distributed", "Routing", "Protocol", ".", "IEEE", "Transactions", "on", "Communications", ",", "COM-27", "-LRB-", "9", "-RRB-", ":1280", "-LCB-", "1287", ",", "September", "1979", ".", "-LSB-", "11", "-RSB-", "A.", "Segall", ".", "Advances", "in", "Verifiable", "Fail-Safe", "Routing", "Procedures", ".", "IEEE", "Transactions", "on", "Communications", ",", "COM-29", "-LRB-", "4", "-RRB-", ":491", "-LCB-", "497", ",", "April", "1981", ".", "-LSB-", "12", "-RSB-", "C.", "Alaettino", ">", "=", "glu", ",", "K.", "Dussa-Zieger", ",", "I.", "Matta", ",", "and", "A.", "U.", "Shankar", ".", "MaRS", "-LRB-", "Maryland", "Routing", "Simulator", "-RRB-", "-LCB-", "Version", "1.0", "User", "'s", "Manual", ".", "Technical", "Report", "UMIACS-TR-91-80", ",", "CS-TR-2687", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "June", "1991", ".", "-LSB-", "13", "-RSB-", "A.", "Khanna", "and", "J.", "Zinky", ".", "A", "Revised", "ARPANET", "Routing", "Metric", ".", "In", "Proc", ".", "ACM", "SIGCOMM", "'", "89", ",", "pages", "45", "-LCB-", "56", ",", "September", "1989", ".", "-LSB-", "14", "-RSB-", "Eric", "Bull", ".", "MaRS", "-LRB-", "Maryland", "Routing", "Simulator", "-RRB-", "-LCB-", "Version", "2.0", "X-Motif", "Interface", "Manual", ".", "Available", "by", "anonymous", "ftp", "at", "ftp.cs.umd.edu", ":", "pub/MaRS", ",", "August", "1992", ".", "-LSB-", "15", "-RSB-", "C.", "Alaettino", ">", "=", "glu", ",", "K.", "Dussa-Zieger", ",", "I.", "Matta", ",", "?", "O.", "Gudmundsson", ",", "and", "A.", "U.", "Shankar", ".", "MaRS", "-LRB-", "Maryland", "Routing", "Simulator", "-RRB-", "-LCB-", "Version", "1.0", "Programmer", "'s", "Manual", ".", "Technical", "Report", "UMIACS-TR-91-107", ",", "CS", "-", "TR-2723", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "July", "1991", ".", "-LSB-", "16", "-RSB-", "E.", "Dijkstra", ".", "A", "Note", "on", "Two", "Problems", "in", "Connection", "with", "Graphs", ".", "Numer", ".", "Math.", ",", "1:269", "-LCB-", "271", ",", "1959", ".", "-LSB-", "17", "-RSB-", "C.", "Alaettino", ">", "=", "glu", ",", "A.", "U.", "Shankar", ",", "K.", "Dussa-Zieger", ",", "and", "I.", "Matta", ".", "Responsiveness", "of", "Routing", "Protocols", "to", "Link", "Failures", "and", "Repairs", ".", "Technical", "Report", "UMIACS-TR-92", "-LCB-", "76", ",", "CS-TR-2928", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "September", "1992", ".", "-LSB-", "18", "-RSB-", "I.", "Matta", "and", "A.U.", "Shankar", ".", "Type-Of-Service", "in", "Adaptive", "Next-Hop", "Routing", ".", "Technical", "Report", "CS-TR", "-", "2963", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "September", "1992", ".", "-LSB-", "19", "-RSB-", "Danny", "J.", "Mitzel", ".", "Electronic", "mail", ",", "October", "1992", ".", "Department", "of", "Computer", "Science", ",", "University", "of", "Southern", "California", ".", "-LSB-", "20", "-RSB-", "Sam", "Steppel", ".", "Private", "Communication", ".", "Computer", "Sciences", "Corporation", ".", "50", "100", "150", "200", "250", "300", "350", "400", "450", "500", "550", "600", "80 100 150 200", "250", "300", "Delay", "-LRB-", "msec", "-RRB-", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "DELAY", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "4", "-RRB-", "SPF", "MS", "ExBF", "620", "640", "660", "680", "700", "720", "740", "760", "780", "80 100 150 200", "250", "300", "Throughput", "-LRB-", "bytes/msec", "-RRB-", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "THROUGHPUT", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "4", "-RRB-", "SPF", "MS", "ExBF", "0.0002", "0.0004", "0.0006", "0.0008", "0.001", "0.0012", "0.0014", "0.0016", "0.0018", "80 100 150 200", "250", "300", "Routing", "Load", "%", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "ROUTING", "LOAD", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "4", "-RRB-", "SPF", "MS", "ExBF", "Figure", "13", ":", "Responsiveness", "to", "a", "link", "failure", "and", "repair", "for", "B", "=", "1", "and", "H", "=", "4", ".", "Each", "curve", "is", "average", "of", "15", "experiemnts", ".", "100", "200", "300", "400", "500", "600", "700", "800", "80 100 150 200", "250", "300", "Delay", "-LRB-", "msec", "-RRB-", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "DELAY", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "7", "-RRB-", "SPF", "MS", "ExBF", "600", "650", "700", "750", "800", "850", "900", "80 100 150 200", "250", "300", "Throughput", "-LRB-", "bytes/msec", "-RRB-", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "THROUGHPUT", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "7", "-RRB-", "SPF", "MS", "ExBF", "0.0002", "0.0004", "0.0006", "0.0008", "0.001", "0.0012", "0.0014", "0.0016", "0.0018", "80 100 150 200", "250", "300", "Routing", "Load", "%", "Time", "-LRB-", "secs", "-RRB-", "INSTANTANEOUS", "ROUTING", "LOAD", "vs", "TIME", "-LRB-", "B", "=", "1", ",", "H", "=", "7", "-RRB-", "SPF", "MS", "ExBF", "Figure", "14", ":", "Responsiveness", "to", "a", "link", "failure", "and", "repair", "for", "B", "=", "1", "and", "H", "=", "7", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Final", "Report", "on", "Research", "in", "Parallel", "Computing", ":", "1990-95", "Very", "Large", "Scale", "Operating", "Systems", "The", "Gigabit", "Nectar", "Project", "Network-Based", "Multicomputers", "Dale", "James", "and", "C.", "Roy", "Taylor", ",", "Eds", ".", "CMU-CS-96-100", "12", "January", "1996", "School", "of", "Computer", "Science", "Carnegie", "Mellon", "University", "Pittsburgh", ",", "PA", "15213", "Richard", "F.", "Rashid", ",", "Brian", "Bershad", ",", "Carl", "Love", "Peter", "Steenkiste", "Thomas", "Gross", "This", "research", "was", "sponsored", "by", "the", "Advanced", "Research", "Projects", "Agency", ",", "DoD", ",", "through", "ARPA", "Order", "7330", ",", "and", "monitored", "by", "the", "Space", "and", "Naval", "Warfare", "Systems", "Command", "under", "contract", "MDA972-90-C-0035", ".", "Views", "and", "conclusions", "contained", "in", "this", "document", "are", "those", "of", "the", "authors", "and", "should", "not", "be", "interpreted", "as", "representing", "official", "policies", ",", "either", "expressed", "or", "implied", ",", "of", "the", "Advanced", "Research", "Projects", "Agency", "or", "the", "United", "States", "Government", ".", "Abstract", "The", "first", "section", "of", "this", "report", "documents", "progress", "Carnegie", "Mellon", "'s", "Mach", "Group", "made", "in", "research", "in", "very", "large", "scale", "operating", "systems", ",", "for", "the", "period", "1990-1993", ".", "Parts", "of", "the", "Mach", "Operating", "system", "have", "been", "incorporated", "in", "a", "number", "of", "commercial", "operating", "systems", ",", "including", "Encore", "'s", "Multimax", ",", "NeXT", "OS", ",", "MachTen", "for", "the", "Macintoshes", ",", "Omron", "'s", "Luna", ",", "OSF/1", "for", "the", "DEC", "Alpha", ",", "and", "IBM", "'s", "OS/2", "for", "the", "RS6000", "based", "machines", ".", "Multicomputers", "consisting", "of", "off-the-shelf", "computers", "connected", "by", "commercial", "high-speed", "networks", "form", "an", "economically", "attractive", "computing", "platform", "for", "a", "large", "class", "of", "applications", ".", "However", ",", "while", "high-speed", "networks", "are", "fairly", "widely", "available", "-LRB-", "e.g.", ",", "HIPPI", "and", "ATM", "-RRB-", ",", "many", "computer", "systems", "have", "problems", "delivering", "this", "high", "bandwidth", "to", "the", "applications", ",", "thus", "limiting", "the", "class", "of", "applications", "that", "multicomputers", "can", "support", "effectively", ".", "The", "Gigabit", "Nectar", "project", "has", "developed", "a", "network", "interface", "architecture", "that", "supports", "efficient", "high-bandwidth", "end-end", "communication", ".", "This", "architecture", "has", "been", "implemented", "for", "workstations", "-LRB-", "DEC", "Alpha", "-RRB-", "and", "distributedmemory", "systems", "-LRB-", "iWarp", "-RRB-", "and", "has", "been", "deployed", "in", "the", "Gigabit", "Nectar", "testbed", ".", "The", "second", "section", "of", "this", "report", "describes", "the", "Nectar", "network", "interface", ",", "its", "implementation", "and", "performance", ",", "and", "summarizes", "our", "application", "experience", "in", "the", "testbed", ".", "No", "existing", "parallel", "architecture", "-LRB-", "including", "SIMD", "machines", ",", "MIMD", "machines", ",", "vector", "processors", ",", "machines", "with", "a", "common", ",", "globally-addressable", "memory", ",", "machines", "with", "private", "memories", "-RRB-", "has", "demonstrated", "its", "superiority", "for", "all", "possible", "applications", ".", "That", "is", ",", "given", "different", "applications", ",", "different", "parallel", "machines", "may", "deliver", "the", "highest", "absolute", "performance", "or", "the", "best", "price-performance", ".", "A", "good", "solution", "to", "this", "problem", "is", "to", "link", "a", "number", "of", "different", "systems", "-LRB-", "ranging", "from", "workstations", "to", "parallel", "supercomputers", "-RRB-", "with", "a", "high-speed", "network", "to", "build", "a", "single", ",", "heterogeneous", "system", ".", "The", "final", "section", "of", "this", "report", "details", "our", "research", "to", "address", "this", "issue", "during", "the", "period", "1990-95", "." ]

[ "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Configuration", "design", "for", "sensor", "integration", "S.", "F.", "El-Hakim", "and", "J.-A", ".", "Beraldin", "Institute", "for", "Information", "Technology", ",", "National", "Research", "Council", ",", "Ottawa", ",", "Ontario", ",", "Canada", "K1A", "0R6", "Abstract", "Due", "to", "the", "nature", "of", "many", "applications", ",", "it", "is", "difficult", "with", "present", "technology", "to", "use", "a", "single", "type", "of", "sensor", "to", "automatically", ",", "accurately", ",", "reliably", ",", "and", "completely", "measure", "or", "map", ",", "in", "three-dimensions", ",", "objects", ",", "sites", ",", "or", "scenes", ".", "Therefore", ",", "a", "combination", "of", "various", "sensor", "technologies", "is", "usually", "the", "obvious", "solution", ".", "There", "are", "several", "3-D", "technologies", ",", "two", "of", "which", ";", "digital", "photogrammetry", "and", "triangulation", "laser", "scanning", ",", "are", "dealt", "with", "in", "this", "paper", ".", "The", "final", "accuracy", "achieved", "by", "the", "combination", "of", "various", "sensors", "is", "a", "factor", "of", "many", "sensor", "parameters", "and", "the", "quality", "of", "the", "image", "coordinate", "measurements", "of", "each", "sensor", ".", "The", "effect", "of", "those", "parameters", "must", "be", "determined", "to", "maximize", "the", "overall", "quality", "within", "the", "constraints", "imposed", "by", "the", "requirements", "of", "the", "application", ".", "The", "parameters", "affecting", "the", "accuracy", "of", "measurement", ",", "the", "test", "laboratory", ",", "and", "test", "results", "using", "intensity", "and", "range", "data", ",", "are", "presented", ".", "The", "configuration", "design", "of", "intensity", "and", "range", "sensors", "is", "discussed", "based", "on", "the", "results", "presented", "here", "and", "in", "two", "previous", "papers", ".", "1", ".", "INTRODUCTION", "1.1", ".", "Previous", "Work", "The", "work", "presented", "in", "this", "paper", "is", "a", "follow-up", "on", "two", "previous", "papers", ".", "In", "the", "first1", "we", "presented", "the", "rational", "behind", "integrating", "range", "and", "intensity", "data", "for", "dimensional", "measurement", "purposes", ".", "A", "procedure", "for", "integrating", "the", "data", "was", "also", "presented", "along", "with", "some", "results", ".", "In", "the", "second", "paper2", "accuracy", "analysis", "based", "on", "extensive", "testing", "on", "various", "types", "of", "objects", "and", "features", "using", "different", "sensors", "were", "presented", ".", "The", "findings", "of", "the", "previous", "work", "are", "summarized", "as", "follows", ":", "l", "Range", "cameras", "using", "scanning", "light", "-LRB-", "laser", "-RRB-", "spot", "may", "produce", "erroneous", "results", "when", "sudden", "changes", "in", "surface", "height", "occur", ",", "on", "surfaces", "with", "large", "reflectance", "variations", ",", "and", "on", "rough", "surfaces", ".", "This", "is", "explained", "by", "the", "fact", "that", "in", "practice", ",", "the", "laser", "ray", "projected", "onto", "a", "scene", "is", "not", "infinitesimal", "in", "diameter", ".", "Hence", ",", "when", "the", "laser", "spot", "crosses", "a", "transition", "the", "imaged", "spot", "will", "lose", "most", "of", "its", "symmetry", ".", "As", "the", "laser", "spot", "crosses", "the", "reflectance", "transition", ",", "the", "centroid", "of", "the", "light", "distribution", "will", "shift", "to", "indicate", "for", "example", "longer", "distances", "between", "the", "camera", "and", "the", "object", "being", "inspected", ".", "The", "result", "is", "a", "small", "height", "bump", "in", "the", "range", "map", "near", "the", "transition", ".", "Similarly", ",", "when", "a", "height", "step", "is", "crossed", ",", "the", "laser", "spot", "on", "the", "position", "detector", "will", "provide", "erroneous", "range", "data", ".", "We", "have", "demonstrated", "that", "the", "use", "of", "the", "registered", "intensity", "image", "generated", "by", "a", "regular" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Integration", "of", "Location", "Services", "in", "the", "Open", "Distributed", "Office", "Mike", "Rizzo", ",", "Peter", "F.", "Linington", ",", "and", "Ian", "A.", "Utting", "Computing", "Laboratory", ",", "University", "of", "Kent", "Canterbury", ",", "Kent", "CT2", "7NF", "United", "Kingdom", "Abstract", "There", "has", "recently", "been", "much", "interest", "in", "location", "systems", "which", "enable", "people", "and", "equipment", "to", "be", "tracked", "as", "they", "move", "within", "and", "across", "buildings", ".", "Thus", "far", ",", "such", "systems", "have", "been", "used", "in", "isolation", "with", "the", "result", "that", ",", "although", "there", "are", "often", "several", "sources", "of", "location", "information", "available", "at", "any", "one", "site", ",", "users", "have", "to", "consult", "each", "system", "individually", ".", "Additionally", ",", "it", "is", "difficult", "for", "services", "requiring", "location", "information", "to", "take", "advantage", "of", "all", "these", "sources", ".", "In", "this", "paper", ",", "we", "put", "forward", "the", "notion", "of", "a", "master", "location", "system", "to", "co-ordinate", "the", "location", "process", "so", "that", "available", "sources", "of", "information", "are", "used", "automatically", "in", "as", "efficient", "a", "manner", "as", "possible", ".", "We", "discuss", "a", "number", "of", "factors", "that", "are", "of", "concern", "to", "the", "design", "of", "such", "a", "system", ",", "and", "describe", "a", "particular", "implementation", "which", "we", "worked", "on", "as", "part", "of", "an", "office", "automation", "project", ".", "1", "Introduction", "There", "has", "recently", "been", "much", "interest", "in", "location", "systems", "which", "enable", "people", "and", "equipment", "to", "be", "tracked", "as", "they", "move", "within", "and", "across", "buildings", ".", "Perhaps", "one", "of", "the", "more", "innovative", "of", "these", "is", "the", "ORL", "active", "badge", "location", "system", "-LSB-", "WHFG92", "-RSB-", ",", "where", "tracking", "is", "done", "by", "means", "of", "IR", "communication", "between", "badges", "and", "a", "network", "of", "sensors", ".", "Potential", "applications", "include", "replacing", "telephone", "numbers", "with", "personal", "codes", ",", "recording", "a", "history", "of", "events", "to", "aid", "one", "'s", "memory", "-LSB-", "McC94", "-RSB-", ",", "teleporting", "user", "interace", "environments", "-LSB-", "BRH94", "-RSB-", ",", "and", "tracking", "a", "moving", "object", "through", "a", "video", "camera", "network", ".", "There", "are", "often", "several", "sources", "of", "location", "information", "available", "at", "any", "one", "site", ".", "Examples", "include", "system", "login", "information", ",", "and", "personal", "diary", "systems", ".", "Additionally", ",", "people", "tend", "to", "have", "known", "habits", "that", "others", "may", "become", "accustomed", "to", ".", "For", "example", ",", "Mike", "often", "forgets", "to", "wear", "his", "active", "badge", ",", "but", "normally", "works", "in", "his", "room", "-LRB-", "S25", "-RRB-", "and", "goes", "for", "a", "coffee", "break", "at", "15:30", ".", "Or", "a", "particular", "OHP", "projector", "may", "be", "kept", "in", "one", "specific", "room", "most", "of", "the", "time", ",", "but", "is", "sometimes", "borrowed", "for", "use", "in", "the", "adjacent", "room", ".", "Of", "course", ",", "it", "is", "possible", "that", "not", "every", "object", "will", "be", "traceable", "by", "any", "one", "particular", "location", "system", "within", "an", "organisation", ".", "For", "example", ",", "one", "person", "may", "choose", "not", "to", "wear", "a", "badge", ",", "and", "the", "tea", "trolley", "is", "unlikely", "to", "log", "in", "to", "the", "computer", "system", "!", "In", "the", "light", "of", "the", "above", ",", "we", "propose", "that", "a", "location", "system", "should", "not", "rely", "solely", "on", "one", "specific", "mechanism", ",", "but", "should", "try", "to", "use", "and", "combine", "information", "from", "as", "many", "sources", "as", "possible", ".", "It", "would", "be", "useful", "then", ",", "to", "have", "some", "kind", "of", "master", "location", "system", "-LRB-", "MLS", "-RRB-", "which", "co-ordinates", "all", "location", "systems", "available", "within", "an", "organisation", ".", "In", "this", "model", ",", "all", "such", "location", "systems", "are", "treated", "as", "slaves", "and", "are", "invoked", "by", "the", "MLS", "as", "it", "deems", "necessary", ".", "Applications", "requiring", "location", "information", "are", "clients", "of", "the", "MLS", "and", "do", "not", "communicate", "with", "the", "slaves", "directly", ".", "It", "is", "also", "worth", "pointing", "out", "that", "the", "notion", "of", "an", "MLS", "is", "also", "useful", "as", "an", "abstraction", "for", "federating", "locators", "across", "sites", ".", "A", "person", "from", "site", "A", "may", "query", "the", "location", "of", "a", "person", "at", "another", "site", "B", "without", "needing", "to", "know", "anything", "about", "the", "specifics", "of", "location", "mechanisms", "employed", "by", "site", "B.", "Related", "to", "this", "is", "the", "issue", "of", "control", "over", "information", "release", ";", "individuals", ",", "or", "indeed", "organisations", ",", "may", "wish", "to", "restrict", "access", "to", "their", "location", "systems", ".", "In", "this", "paper", "we", "discuss", "the", "issues", "that", "need", "to", "be", "taken", "into", "consideration", "in", "the", "design", "of", "such", "a", "location", "system", ".", "We", "also", "describe", "the", "location", "system", "developed", "as", "part", "of", "the", "Open", "Distributed", "Office", "-LRB-", "ODO", "-RRB-", "project", "-LSB-", "RLU94", "-RSB-", ".", "2", "Factors", "influencing", "the", "design", "of", "an", "MLS", "The", "availability", "of", "multiple", ",", "independent", "slave", "locators", "can", "be", "extremely", "useful", ",", "but", "requires", "a", "carefully", "designed", "mechanism", "to", "harness", "their", "potential", "effectively", ".", "This", "section", "identifies", "the", "issues", "that", "must", "be", "taken", "into", "consideration", "by", "such", "a", "design", ".", "2.1", "Uncertainty", "There", "may", "be", "a", "degree", "of", "uncertainty", "associated", "with", "a", "returned", "location", ".", "For", "example", ",", "a", "user", "may", "be", "known", "to", "be", "logged", "on", "a", "particular", "host", "from", "a", "particular", "terminal", ",", "but", "is", "reported", "to", "have", "been", "idle", "for", "2", "minutes", ".", "Depending", "on", "the", "user", "'s", "habits", ",", "there", "may", "or", "may", "not", "be", "a", "very", "good", "chance", "that", "he", "or", "she", "is", "still", "sitting", "at", "the", "terminal", ".", "With", "active", "badges", ",", "a", "person", "may", "have", "his", "back", "temporarily", "turned", "to", "the", "sensor", "so", "that", "the", "badge", "is", "not", "picked", "up", "for", "a", "short", "time", ".", "Thus", "a", "last", "sighting", "time", "of", "2", "minutes", "could", "mean", "that", "the", "person", "may", "still", "actually", "be", "in", "the", "room", ",", "though", "obviously", "with", "less", "likelihood", "than", "for", "a", "last", "sighting", "time", "of", "a", "few", "seconds", ".", "We", "stipulate", "therefore", ",", "that", "whenever", "a", "locator", "suggests", "a", "location", ",", "it", "should", "also", "supply", "a", "confidence", "value", "to", "give", "some", "indication", "of", "the", "likelihood", "of", "that", "location", "being", "correct", ".", "The", "master", "locator", "can", "then", "use", "this", "value", "in", "its", "decision-making", "process", "as", "will", "be", "made", "clearer", "in", "the", "coming", "sections", ".", "2.2", "Returning", "multiple", "locations", "A", "locator", "may", "be", "capable", "of", "returning", "more", "than", "one", "location", "for", "the", "same", "target", "object", ".", "For", "example", ",", "a", "person", "may", "have", "overlapping", "appointments", "in", "a", "personal", "diary", ",", "or", "may", "be", "logged", "in", "from", "more", "than", "one", "terminal", "on", "the", "local", "network", ".", "In", "such", "circumstances", ",", "the", "confidence", "value", "described", "in", "the", "previous", "section", "would", "normally", "-LRB-", "but", "not", "necessarily", "-RRB-", "be", "different", "for", "each", "location", ".", "For", "example", ",", "if", "a", "user", "is", "logged", "in", "on", "host", "A", "with", "an", "idle", "time", "of", "3", "minutes", ",", "and", "on", "host", "B", "with", "an", "idle", "time", "of", "a", "few", "seconds", ",", "then", "one", "would", "expect", "the", "confidence", "value", "associated", "with", "host", "B", "to", "be", "at", "least", "as", "strong", "as", "host", "A", ".", "In", "fact", "a", "typical", "`", "confidence", "function", "'", "would", "indicate", "a", "much", "stronger", "likelihood", "for", "host", "B", "in", "this", "case", ".", "Ultimately", ",", "however", ",", "an", "appropriate", "confidence", "function", "must", "be", "based", "on", "the", "habits", "of", "each", "individual", "user", "or", "entity", ",", "and", "therefore", "it", "is", "not", "desirable", ",", "nor", "is", "it", "necessary", ",", "to", "impose", "constraints", "on", "the", "choice", "of", "such", "functions", ".", "The", "master", "locator", "itself", "is", "capable", "of", "returning", "multiple", "locations", ".", "Clients", "of", "the", "master", "locator", "would", "be", "expected", "to", "try", "locations", "in", "order", "of", "decreasing", "likelihood", ".", "2.3", "Corroboration", "and", "conflict", "A", "location", "indicated", "by", "one", "slave", "locator", "may", "conflict", "with", "or", "corroborate", "that", "returned", "by", "another", ".", "In", "the", "case", "of", "corroboration", ",", "it", "might", "be", "useful", "to", "combine", "the", "confidence", "values", "in", "some", "appropriate", "way", "that", "reflected", "the", "strength", "of", "the", "combined", "support", "for", "that", "location", ".", "As", "is", "the", "case", "with", "locators", "returning", "multiple", "conflicting", "locations", ",", "confidence", "values", "are", "needed", "to", "determine", "which", "location", "should", "be", "tried", "first", "whenever", "two", "slave", "locators", "give", "conflicting", "results", ".", "However", ",", "there", "is", "a", "subtle", "difference", "in", "that", "the", "confidence", "values", "are", "now", "being", "computed", "by", "different", "locators", ".", "The", "respective", "confidence", "functions", "must", "therefore", "be", "chosen", "carefully", "so", "as", "to", "ensure", "that", "it", "makes", "sense", "to", "compare", "values", "returned", "by", "different", "locators", ".", "Failure", "to", "do", "so", "will", "result", "in", "situations", "where", "one", "locator", "is", "`", "overconfident", "'", "relative", "to", "another", ".", "2.4", "What", "is", "a", "location", "?", "If", "a", "locator", "-LRB-", "be", "it", "master", "or", "slave", "-RRB-", "is", "to", "return", "a", "location", ",", "then", "some", "kind", "of", "representation", "for", "locations", "is", "needed", ".", "This", "is", "not", "a", "trivial", "problem", "as", "there", "is", "often", "more", "than", "one", "way", "of", "identifying", "a", "location", "in", "space", ".", "For", "example", ",", "three", "different", "ways", "of", "identifying", "the", "multimedia", "lab", "at", "UKC", "are", ":", "ffl", "room", "SW103", ",", "ffl", "the", "room", "with", "telephone", "extension", "3813", ",", "ffl", "the", "room", "where", "the", "host", "rowan.ukc.ac.uk", "is", "situated", ".", "A", "slave", "locator", "may", "very", "well", "be", "capable", "of", "reporting", "one", "or", "more", "of", "these", ".", "In", "particular", ",", "the", "master", "locator", "should", "attempt", "to", "return", "as", "much", "knowledge", "about", "the", "location", "as", "possible", ",", "as", "this", "increases", "the", "options", "available", "to", "the", "client", ".", "For", "example", ",", "in", "the", "ODO", "project", ",", "the", "client", "may", "contact", "a", "person", "via", "the", "phone", "or", "via", "a", "workstation", "'s", "audio", "hardware", ".", "The", "problem", "of", "location", "comparison", "is", "also", "an", "imporant", "issue", ".", "If", "we", "are", "to", "establish", "whether", "one", "returned", "location", "corroborates", "or", "conflicts", "with", "another", ",", "then", "some", "means", "of", "effectively", "comparing", "locations", "is", "needed", ".", "In", "the", "above", "example", ",", "the", "master", "locator", "for", "UKC", "should", "be", "able", "to", "establish", "that", "room", "SW103", "is", "the", "same", "as", "the", "room", "with", "extension", "3813", ",", "which", "is", "the", "same", "as", "the", "room", "that", "houses", "rowan.ukc.ac.uk", ".", "2.5", "Efficiency", "and", "Strategy", "In", "many", "circumstances", "it", "is", "highly", "desirable", "that", "the", "location", "system", "should", "respond", "as", "quickly", "as", "possible", ".", "A", "typical", "example", "where", "performance", "is", "an", "issue", "is", "the", "setting", "up", "of", "phone", "calls", ".", "There", "is", "no", "point", "in", "keeping", "the", "caller", "waiting", "for", "all", "slaves", "to", "respond", "if", "at", "least", "one", "of", "them", "has", "already", "established", "the", "location", "of", "the", "target", "with", "a", "high", "enough", "level", "of", "confidence", ".", "Thus", "a", "strategy", "is", "needed", "to", "determine", "the", "sequencing", "of", "slave", "locator", "requests", ".", "A", "good", "strategy", "would", "take", "the", "following", "factors", "into", "consideration", ":", "ffl", "known", "characteristics", "and", "habits", "of", "the", "target", "person", ":", "if", "the", "person", "is", "known", "not", "to", "wear", "a", "badge", ",", "then", "there", "is", "little", "point", "in", "trying", "the", "badge", "slave", "locator", "first", ".", "On", "the", "other", "hand", ",", "the", "badge", "locator", "would", "probably", "be", "a", "good", "first", "choice", "for", "those", "known", "to", "wear", "one", "regularly", ";", "ffl", "confidence", "level", ":", "if", "the", "confidence", "level", "for", "a", "returned", "location", "is", "below", "some", "threshold", ",", "then", "it", "would", "probably", "be", "worth", "consulting", "some", "other", "slave", "locator", "first", ".", "This", "may", "result", "in", "corroboration", "of", "the", "first", "location", ",", "or", "might", "return", "some", "other", "location", ",", "possibly", "with", "a", "higher", "confidence", "value", ";", "ffl", "failed", "trials", ":", "assuming", "that", "the", "MLS", "only", "returns", "one", "location", "at", "a", "time", ",", "if", "the", "MLS", "returns", "a", "location", "which", "the", "client", "finds", "to", "be", "incorrect", ",", "then", "subsequent", "invocations", "by", "the", "client", "should", "not", "receive", "that", "location", "again", ",", "even", "if", "another", "slave", "corroborates", "it", ";", "ffl", "slave", "locator", "delay", "characteristics", ":", "some", "slave", "locators", "may", "take", "longer", "to", "respond", "than", "others", ".", "The", "availability", "of", "expected", "response", "times", "for", "slave", "locators", "is", "useful", "in", "the", "formulation", "of", "efficient", "location", "policies", ".", "2.6", "Location", "policy", "Many", "of", "the", "factors", "discussed", "so", "far", "will", "be", "influenced", "by", "policies", "defined", "at", "both", "the", "organisation", "and", "individual", "level", ".", "The", "confidence", "function", "for", "badges", "may", "well", "be", "defined", "at", "the", "organisation", "level", ",", "whereas", "location", "strategy", "depends", "very", "much", "on", "the", "characteristics", "of", "the", "target", "entity", ".", "While", "organisation", "policy", "could", "be", "hard-wired", "into", "the", "master", "locator", "or", "supplied", "via", "a", "designated", "interface", ",", "a", "mechanism", "is", "needed", "whereby", "individuals", "can", "specify", "and", "alter", "their", "own", "policies", ".", "A", "good", "organisation", "policy", "would", "give", "individuals", "a", "lot", "of", "flexibility", "in", "areas", "where", "their", "habits", "tend", "to", "differ", ".", "An", "individual", "'s", "policy", "must", "be", "interpreted", "in", "the", "context", "of", "the", "constraints", "imposed", "by", "the", "organisation", "'s", "policy", ".", "For", "example", ",", "if", "an", "organisation", "possesses", "a", "slave", "locator", "which", "it", "knows", "to", "be", "highly", "reliable", "and", "efficient", "in", "locating", "all", "locatable", "entities", "within", "the", "organisation", ",", "then", "it", "can", "impose", "that", "this", "slave", "locator", "be", "tried", "first", ",", "regardless", "of", "the", "policies", "supplied", "for", "those", "entities", ".", "2.7", "Extensibility", "By", "ensuring", "that", "all", "slave", "locators", "present", "identical", "interfaces", ",", "a", "`", "plug-and-play", "'", "location", "system", "can", "be", "built", ".", "This", "will", "allow", "slaves", "to", "be", "added", "and", "withdrawn", "dynamically", ".", "If", "the", "master", "locator", "also", "has", "the", "same", "interface", ",", "then", "it", "can", "itself", "be", "used", "as", "a", "slave", "to", "a", "higher-level", "master", ",", "thereby", "facilitating", "federation", "of", "location", "systems", ".", "One", "case", "where", "this", "might", "be", "useful", "is", "when", "a", "remote", "site", "'s", "master", "locator", "needs", "to", "be", "consulted", "as", "part", "of", "a", "local", "location", "request", ".", "For", "example", ",", "an", "individual", "may", "specify", "that", ",", "as", "a", "last", "resort", ",", "an", "attempt", "should", "be", "made", "to", "locate", "him", "at", "some", "other", "site", "where", "he", "will", "be", "with", "some", "other", "specified", "person", ".", "Location", "Directory", "Master", "Locator", "System", "info", "Locator", "DiaryLocator", "Client", "OtherLocator", "Badge", "Locator", "Figure", "1", ":", "The", "ODO", "Location", "System", "3", "The", "ODO", "Location", "System", "The", "ODO", "location", "system", "was", "designed", "taking", "all", "the", "above", "factors", "into", "consideration", ".", "Figure", "1", "illustrates", "the", "relationship", "between", "master", "and", "slave", "locators", "and", "introduces", "a", "new", "component", ",", "namely", "the", "location", "directory", ",", "which", "is", "used", "to", "store", "information", "needed", "for", "the", "location", "process", ".", "3.1", "Location", "representation", "A", "location", "is", "represented", "as", "a", "list", "of", "name-value", "pairs", "-LRB-", "known", "as", "an", "attribute", "list", "in", "ODO", "-RRB-", ".", "There", "are", "standard", "names", "for", "attributes", "such", "as", "room", "number", ",", "extension", "number", "and", "resident", "user", "terminal1", ".", "Where", "necessary", "a", "value", "may", "in", "fact", "consist", "of", "a", "list", "e.g.", "there", "may", "be", "more", "than", "one", "phone", "in", "the", "room", ".", "Two", "location", "representations", "are", "taken", "to", "refer", "to", "the", "same", "location", "if", "-LRB-", "i", "-RRB-", "they", "have", "at", "least", "one", "attribute", "name", "in", "commmon", "and", ",", "-LRB-", "ii", "-RRB-", "for", "every", "name", "in", "common", ",", "the", "values", "are", "either", "equal", ",", "or", "in", "the", "case", "of", "list", "values", ",", "share", "at", "least", "ONE", "common", "list", "member", ".", "If", "-LRB-", "i", "-RRB-", "is", "not", "satisfied", "then", "nothing", "can", "be", "inferred", "about", "the", "equivalence", "of", "the", "two", "locations", ".", "If", "-LRB-", "i", "-RRB-", "is", "satisfied", "but", "-LRB-", "ii", "-RRB-", "is", "not", ",", "then", "the", "locations", "are", "taken", "to", "be", "distinct2", ".", "One", "of", "the", "roles", "of", "the", "location", "directory", "is", "as", "an", "aid", "to", "comparing", "location", "representations", ".", "This", "directory", "contains", "full", "location", "representations", "for", "all", "locations", "at", "a", "site", ".", "1Examples", "of", "user", "terminals", "include", "workstation", "consoles", "and", "X", "terminals", ".", "2The", "underlying", "assumption", "here", "is", "that", "any", "location", "representation", "returned", "by", "a", "locator", "represents", "a", "unique", "location", ".", "Whenever", "a", "location", "is", "returned", "by", "a", "slave", ",", "the", "master", "can", "expand", "this", "representation", "using", "data", "from", "the", "directory", "so", "that", "condition", "-LRB-", "i", "-RRB-", "is", "always", "satisfied", "when", "comparing", "locations", ".", "Expanding", "representations", "in", "this", "way", "serves", "to", "maximise", "the", "options", "available", "to", "the", "client", ".", "For", "example", ",", "if", "a", "slave", "returns", "a", "location", "in", "terms", "of", "a", "terminal", "name", ",", "then", "an", "expanded", "representation", "will", "probably", "also", "contain", "a", "room", "number", "and", "an", "extension", "number", ".", "3.2", "Location", "policy", "The", "location", "directory", "also", "serves", "as", "a", "repository", "for", "individuals", "'", "location", "policies", ".", "A", "directory", "entry", "corresponding", "to", "an", "individual", "will", "contain", "attributes", "which", "collectively", "specify", "that", "individual", "'s", "location", "policy", ".", "Where", "no", "policy", "is", "specified", "by", "an", "individual", ",", "a", "default", "organisation", "policy", "is", "assumed", ".", "A", "directory", "entry", "pertaining", "to", "an", "individual", "may", "also", "contain", "data", "that", "is", "needed", "by", "one", "or", "more", "of", "the", "slaves", ".", "For", "example", ",", "a", "capability3", "to", "read", "an", "individual", "'s", "diary", "may", "be", "left", "in", "that", "individual", "'s", "directory", "entry", "so", "that", "it", "may", "be", "passed", "on", "to", "the", "diary", "slave", "locator", ".", "At", "the", "organisation", "level", ",", "policy", "can", "be", "hard-wired", "into", "the", "master", "locator", ".", "For", "example", ",", "the", "corroboration", "function", "used", "to", "calculate", "a", "new", "confidence", "level", "when", "two", "slave", "locators", "agree", "on", "a", "location", "is", "established", "uniquely", "in", "the", "master", "locator", ".", "3.3", "Access", "control", "Control", "over", "access", "to", "location", "services", "is", "also", "by", "the", "use", "of", "capabilities", ".", "Each", "locator", "requires", "presentation", "of", "a", "valid", "capability", "before", "it", "can", "start", "to", "provide", "service", ".", "Access", "control", "is", "therefore", "achieved", "by", "limiting", "the", "availability", "of", "such", "capabilities", ".", "In", "ODO", ",", "capabilities", "are", "stored", "as", "attributes", "in", "directory", "entries", ".", "Users", "have", "their", "own", "personal", "directories", "where", "they", "can", "store", "information", ",", "including", "capabilities", ",", "pertaining", "to", "other", "users", "and", "services", ".", "Capabilities", "may", "also", "be", "made", "available", "in", "shared", "or", "public", "directories", ".", "Placing", "a", "capability", "in", "a", "directory", "effectively", "grants", "that", "capability", "to", "any", "user", "who", "has", "access", "to", "that", "directory", ".", "Access", "to", "directories", "is", ",", "in", "turn", ",", "also", "controlled", "by", "capabilities", ".", "This", "approach", "is", "extremely", "flexible", ",", "making", "it", "possible", "to", "limit", "access", "to", "designated", "individuals", ",", "groups", ",", "and/or", "organisations", ".", "Turning", "back", "to", "the", "location", "directory", ",", "whilst", "maintenance", "of", "directory", "entries", "for", "locations", "is", "best", "left", "to", "the", "system", "administrator", ",", "maintenance", "of", "directory", "entries", "for", "individuals", "is", "best", "left", "to", "the", "individuals", "themsleves", ".", "Individuals", "are", "given", "sufficently", "powerful", "capabilities", "corresponding", "to", "their", "respective", "location", "directory", "entries", ",", "allowing", "them", "to", "change", "their", "location", "policies", "and", "other", "attributes", "that", "may", "influence", "the", "location", "process", ".", "3.4", "Location", "session", "In", "order", "for", "a", "client", "to", "use", "the", "location", "system", "it", "must", "first", "establish", "a", "location", "session", "via", "the", "MLS", ".", "This", "is", "necessary", "because", "the", "MLS", "needs", "to", "maintain", "state", "pertaining", "to", "the", "client", "'s", "request", ",", "and", "because", "the", "client", "may", "need", "to", "communicate", "with", "the", "MLS", "several", "times", "before", "it", "obtains", "the", "information", "that", "it", "needs", "-LRB-", "or", "gives", "up", "-RRB-", ".", "For", "example", ",", "the", "MLS", "might", "first", "suggest", "one", "location", "which", "the", "client", "finds", "to", "be", "incorrect", ".", "Subsequently", ",", "the", "3Capabilities", "are", "used", "extensively", "for", "access", "control", "in", "ODO", ".", "For", "an", "introduction", "to", "capability-based", "protection", "see", "-LSB-", "Mul89", "-RSB-", ".", "client", "asks", "the", "MLS", "whether", "it", "can", "come", "up", "with", "another", "location", ".", "In", "order", "to", "do", "this", ",", "the", "MLS", "must", "have", "knowledge", "of", "the", "prior", "invocation", "and", "take", "the", "associated", "result", "into", "account", "i.e.", "it", "must", "remember", "the", "first", "incorrect", "location", "and", "must", "ensure", "that", "it", "is", "not", "proposed", "to", "the", "client", "again", ".", "For", "similar", "reasons", ",", "the", "MLS", "must", "itself", "initiate", "a", "session", "with", "each", "of", "the", "slave", "locators", "that", "it", "uses", ".", "Like", "the", "MLS", ",", "slave", "locators", "are", "also", "capable", "of", "proposing", "one", "more", "than", "one", "location", ",", "and", "the", "MLS", "may", "need", "to", "interact", "with", "them", "several", "times", ".", "This", "similarity", "is", "useful", "because", "it", "fits", "in", "nicely", "with", "the", "idea", "of", "using", "the", "same", "interface", "for", "both", "the", "MLS", "and", "its", "slaves", ".", "3.5", "Locator", "interface", "In", "accordance", "with", "the", "desire", "for", "a", "`", "plug-and-play", "'", "environment", ",", "the", "ODO", "location", "system", "uses", "the", "same", "interface", "for", "all", "locators", ",", "be", "they", "slave", "or", "master", ".", "Figure", "2", "shows", "the", "ANSAware", "IDL", "-LSB-", "Arc", "-RSB-", "specification", "for", "the", "Locator", "interface", ".", "The", "Locate", "operation", "receives", "a", "locator", "capability", "-LRB-", "a", "client", "can", "only", "invoke", "a", "locator", "if", "it", "has", "a", "capability", "for", "it", "-RRB-", "and", "a", "specification", "of", "the", "target", "individual", "-LRB-", "in", "ODO", ",", "individuals", "are", "also", "represented", "by", "attribute", "lists", "-RRB-", ".", "If", "successful", ",", "this", "operation", "opens", "a", "new", "location", "session", "and", "returns", ":", "ffl", "the", "location", "perceived", "most", "likely", "to", "be", "correct", "by", "the", "locator", ";", "ffl", "an", "integer", "confidence", "level", "between", "and", "100", ",", "where", "indicates", "that", "the", "locator", "has", "no", "confidence", "in", "the", "returned", "location", "at", "all", "-LRB-", "but", "does", "not", "know", "it", "to", "be", "impossible", "-RRB-", "and", "100", "indicates", "absolute", "certainty", ";", "ffl", "a", "session", "voucher", "which", "can", "be", "used", "to", "carry", "on", "with", "the", "location", "process", "if", "the", "returned", "location", "turns", "out", "to", "be", "wrong", ".", "In", "the", "event", "that", "a", "client", "finds", "the", "returned", "location", "to", "be", "incorrect", ",", "it", "can", "present", "the", "session", "voucher", "to", "NextLocation", "in", "order", "that", "it", "may", "obtain", "the", "next", "most", "likely", "location", ".", "If", "the", "list", "of", "all", "possible", "locations", "is", "exhausted", ",", "the", "locator", "returns", "L", "ListExhausted", "and", "closes", "the", "location", "session", ".", "If", "a", "client", "finds", "a", "returned", "location", "to", "be", "correct", ",", "it", "should", "terminate", "the", "location", "session", "by", "calling", "Release", ".", "Finally", "the", "GetInfo", "operation", "can", "be", "used", "to", "return", "the", "current", "status", "of", "a", "session", ".", "3.6", "Master", "locator", "algorithm", "In", "short", ",", "the", "algorithm", "works", "by", "placing", "possible", "locations", "on", "a", "priority", "queue", "on", "the", "basis", "of", "confidence", "level", ".", "When", "the", "topmost", "entry", "has", "a", "confidence", "level", "above", "a", "session", "threshold", ",", "this", "entry", "is", "returned", ".", "After", "all", "slaves", "have", "been", "exhausted", ",", "entries", "from", "the", "queue", "are", "returned", "until", "success", "is", "reported", "or", "the", "queue", "is", "exhausted", ".", "The", "remainder", "of", "this", "section", "describes", "the", "algorithm", "in", "greater", "detail", "using", "C++", "-", "like", "pseudo-code", ".", "For", "simplicity", ",", "the", "description", "of", "the", "state", "and", "pseudo-code", "assume", "a", "single", "session", ".", "In", "practice", ",", "multiple", "instances", "of", "the", "state", "and", "corresponding", "multiple", "threads", "of", "execution", "can", "exist", "simultaneously", ",", "and", "references", "to", "state", "should", "therefore", "be", "interpreted", "as", "being", "relative", "to", "a", "session", ".", "Another", "simplification", "is", "that", "details", "pertaining", "to", "locator", "capabilities", "are", "omitted", ".", "Locator", ":", "INTERFACE", "=", "NEEDS", "Types", ";", "BEGIN", "L_OpReason", ":", "TYPE", "=", "-LCB-", "L_LocatorFailure", ",", "L_ListExhausted", ",", "L_InvalidVoucher", "-RCB-", ";", "L_LocateResult", ":", "TYPE", "=", "CHOICE", "OpStatus", "OF", "-LCB-", "OpSuccess", "=", ">", "RECORD", "-LSB-", "voucher", ":", "odo_Datum", ",", "--", "location", "voucher", "loc", ":", "odo_DirEntry", ",", "conf", ":", "CARDINAL", "-RSB-", ",", "OpFailure", "=", ">", "L_OpReason", "-RCB-", ";", "Locate", ":", "OPERATION", "-LSB-", "sc", ":", "odo_SCapability", ";", "who", ":", "odo_DirEntry", "-RSB-", "RETURNS", "-LSB-", "L_LocateResult", "-RSB-", ";", "NextLocation", ":", "OPERATION", "-LSB-", "voucher", ":", "odo_Datum", "-RSB-", "RETURNS", "-LSB-", "L_LocateResult", "-RSB-", ";", "Release", ":", "OPERATION", "-LSB-", "voucher", ":", "odo_Datum", "-RSB-", "RETURNS", "-LSB-", "-RSB-", ";", "L_GetInfoResult", ":", "TYPE", "=", "CHOICE", "OpStatus", "OF", "-LCB-", "OpSuccess", "=", ">", "RECORD", "-LSB-", "who", ":", "odo_DirEntry", ",", "loc", ":", "odo_DirEntry", ",", "conf", ":", "CARDINAL", "-RSB-", ",", "OpFailure", "=", ">", "L_OpReason", "-RCB-", ";", "GetInfo", ":", "OPERATION", "-LSB-", "voucher", ":", "odo_Datum", "-RSB-", "RETURNS", "-LSB-", "L_GetInfoResult", "-RSB-", ";", "END", ".", "Figure", "2", ":", "IDL", "specification", "for", "Locator", "interface", "exhausted", "=", "FALSE", ";", "loc_queue", ".", "clear", "-LRB-", "-RRB-", ";", "tried_list", ".", "clear", "-LRB-", "-RRB-", ";", "cur_slave", "=", "loc_policy", ".", "list.first", "-LRB-", "-RRB-", ";", "voucher", "=", "NULL", ";", "Figure", "3", ":", "Session", "initialisation", "Session", "state", "For", "each", "session", ",", "the", "following", "state", "variables", "are", "maintained", ":", "ffl", "a", "target", "specification", "target", ",", "which", "is", "an", "attribute", "list", "that", "describes", "the", "entity", "to", "be", "located", ";", "ffl", "a", "location", "policy", "loc", "policy", ",", "which", "consists", "of", "two", "fields", ",", "namely", "list", ",", "a", "list", "of", "references", "to", "slave", "locators", ",", "and", "threshold", ",", "a", "threshold", "confidence", "value", ";", "ffl", "a", "priority", "queue", "loc", "queue", ",", "which", "is", "used", "to", "store", "the", "results", "of", "invocations", "on", "slave", "locators", ".", "Every", "element", "in", "the", "queue", "is", "a", "LocationEntry", "structure", "containing", "the", "fields", "loc", "for", "the", "location", ",", "and", "conf", "for", "the", "confidence", "level", ".", "The", "queue", "is", "ordered", "by", "decreasing", "confidence", "level", ";", "ffl", "a", "list", "tried", "list", ",", "that", "records", "all", "locations", "returned", "by", "the", "master", "locator", "as", "the", "session", "progresses", ";", "ffl", "a", "slave", "reference", "cur", "slave", ",", "that", "keeps", "track", "of", "the", "current", "slave", ",", "and", "a", "session", "voucher", "voucher", ",", "which", "stores", "the", "voucher", "that", "needs", "to", "be", "presented", "to", "the", "current", "slave", "in", "order", "to", "obtain", "the", "next", "location", ".", "The", "latter", "is", "initialised", "to", "NULL", "each", "time", "cur", "slave", "is", "updated", ".", "Subsequently", ",", "values", "are", "assigned", "to", "it", "from", "the", "results", "of", "invocations", "to", "Locate", "and", "NextLocation", "on", "the", "current", "slave", "locator", "interface", ";", "ffl", "a", "flag", "exhausted", ",", "which", "is", "used", "to", "indicate", "that", "the", "policy", "'s", "list", "of", "slaves", "has", "been", "exhausted", ".", "For", "all", "lists", "-LRB-", "including", "loc", "queue", ",", "which", "is", "described", "in", "terms", "of", "a", "list", "-RRB-", ",", "it", "is", "assumed", "that", "the", "following", "operations", "exist", ":", "empty", "-LRB-", "-RRB-", "returns", "TRUE", "if", "the", "list", "is", "empty", ",", "FALSE", "otherwise", ";", "contains", "-LRB-", "i", "-RRB-", "returns", "TRUE", "if", "the", "list", "contains", "i", ",", "FALSE", "otherwise", ";", "first", "-LRB-", "-RRB-", "initialises", "an", "internal", "counter", "to", "point", "to", "the", "first", "item", "in", "the", "list", "and", "returns", "this", "item", "or", "NULL", "if", "the", "list", "is", "empty", ";", "next", "-LRB-", "-RRB-", "advances", "the", "internal", "counter", "and", "returns", "the", "current", "item", "or", "NULL", "if", "the", "end", "of", "the", "list", "has", "been", "reached", ";", "clear", "-LRB-", "-RRB-", "removes", "all", "items", "in", "the", "list", ";", "append", "-LRB-", "i", "-RRB-", "adds", "the", "item", "i", "to", "the", "end", "of", "the", "list", ";", "insert", "before", "-LRB-", "i", ",", "j", "-RRB-", "inserts", "the", "item", "j", "before", "item", "i", "in", "the", "list", ";", "remove", "-LRB-", "i", "-RRB-", "removes", "the", "item", "i", "from", "the", "list", ".", "The", "label", "NULL", "is", "used", "to", "denote", "null", "-LRB-", "or", "zero", "-RRB-", "values", "and", "can", "assume", "any", "type", "as", "required", "by", "the", "context", "in", "which", "it", "is", "used", ".", "Session", "behaviour", "A", "master", "location", "session", "is", "automatically", "created", "when", "the", "Locate", "operation", "is", "invoked", "on", "the", "master", "locator", "interface", ".", "Assuming", "the", "location", "policy", "has", "been", "obtained", "-LRB-", "using", "the", "done", "=", "FALSE", ";", "while", "-LRB-", "!", "exhausted", "&", "&", "!", "done", "-RRB-", "-LCB-", "if", "-LRB-", "voucher", "==", "NULL", "-RRB-", "-LCB-", "/", "/", "No", "current", "session", "if", "-LRB-", "cur_slave", "!", "=", "NULL", "-RRB-", "-LCB-", "/", "/", "Have", "n't", "reached", "end", "of", "the", "policy", "rloc", "=", "cur_slave", ".", "Locate", "-LRB-", "target", "-RRB-", ";", "/", "/", "Call", "Locate", "on", "current", "slave", "-RCB-", "else", "-LCB-", "/", "/", "No", "more", "slaves", "listed", "in", "policy", "exhausted", "=", "TRUE", ";", "-RCB-", "-RCB-", "else", "-LCB-", "/", "/", "Session", "already", "open", "rloc", "=", "cur_slave", ".", "NextLocation", "-LRB-", "voucher", "-RRB-", ";", "/", "/", "Call", "NextLocation", "on", "cur", "slave", "-RCB-", "if", "-LRB-", "!", "exhausted", "-RRB-", "-LCB-", "/", "/", "If", "we", "have", "a", "result", "if", "-LRB-", "rloc", "denotes", "success", "-RRB-", "-LCB-", "/", "/", "containing", "a", "loc", "add_queue", "-LRB-", "rloc.loc", ",", "rloc.conf", "-RRB-", ";", "/", "/", "add", "the", "loc", "to", "loc", "queue", "voucher", "=", "rloc.voucher", ";", "/", "/", "update", "session", "voucher", "-RCB-", "else", "-LCB-", "/", "/", "This", "slave", "is", "no", "longer", "useful", "voucher", "=", "NULL", ";", "/", "/", "Reset", "session", "voucher", "cur_slave", "=", "loc_policy", ".", "list.next", "-LRB-", "-RRB-", ";", "/", "/", "Advance", "cur_slave", "-RCB-", "-RCB-", "/", "/", "We", "'ve", "found", "next", "likely", "loc", "if", "the", "loc", "queue", "has", "something", "in", "it", ",", "and", "/", "/", "one", "loc", "'s", "confidence", "value", "is", "above", "the", "threshold", "done", "=", "-LRB-", "!", "loc_queue", ".", "empty", "-LRB-", "-RRB-", "&", "&", "-LRB-", "loc_queue", ".", "first", "-LRB-", "-RRB-", ".", "conf", ">", "=", "loc_policy", ".", "threshold", "-RRB-", "-RRB-", ";", "-RCB-", "if", "-LRB-", "!", "loc_queue", ".", "empty", "-LRB-", "-RRB-", "-RRB-", "-LCB-", "/", "/", "If", "we", "have", "a", "loc", "to", "return", "LocationEntry", "le", "=", "loc_queue", ".", "first", "-LRB-", "-RRB-", ";", "/", "/", "extract", "it", "loc_queue", ".", "remove", "-LRB-", "le", "-RRB-", ";", "/", "/", "remove", "it", "from", "loc", "queue", "tried_list", ".", "append", "-LRB-", "le.loc", "-RRB-", ";", "/", "/", "append", "it", "to", "tried", "list", "succeed", "-LRB-", "le", "-RRB-", ";", "/", "/", "return", "this", "loc", "-RCB-", "else", "-LCB-", "fail", "-LRB-", "L_ListExhausted", "-RRB-", ";", "/", "/", "Fail", "with", "reason", "L_ListExhausted", "-RCB-", "Figure", "4", ":", "Obtaining", "the", "next", "location", "add_queue", "-LRB-", "Location", "loc", ",", "int", "conf", "-RRB-", "-LCB-", "Expand", "loc", "using", "location", "directory", "if", "-LRB-", "!", "tried_loc", ".", "contains", "-LRB-", "loc", "-RRB-", "-RRB-", "-LCB-", "/", "/", "If", "loc", "not", "returned", "already", "LocationEntry", "i", ";", "/", "/", "Scan", "loc_queue", ",", "searching", "for", "an", "occurence", "of", "the", "same", "location", "for", "-LRB-", "i", "=", "loc_queue", ".", "first", "-LRB-", "-RRB-", ";", "i", "!", "=", "NULL", ";", "i", "=", "loc_queue", ".", "next", "-LRB-", "-RRB-", "-RRB-", "-LCB-", "if", "-LRB-", "loc", "and", "i.loc", "describe", "the", "same", "place", "-RRB-", "-LCB-", "conf", "=", "corroborate", "-LRB-", "conf", ",", "i.conf", "-RRB-", ";", "locqueue.remove", "-LRB-", "i", "-RRB-", ";", "break", ";", "-RCB-", "-RCB-", "/", "/", "Create", "a", "new", "location", "entry", "for", "the", "new", "location", "LocationEntry", "*", "le", "=", "new", "LocationEntry", "-LRB-", "loc", ",", "conf", "-RRB-", ";", "/", "/", "Scan", "loc_queue", ",", "searching", "for", "appropriate", "place", "to", "insert", "le", "for", "-LRB-", "i", "=", "loc_queue", ".", "first", "-LRB-", "-RRB-", ";", "i", "!", "=", "NULL", ";", "i", "=", "loc_queue", ".", "next", "-LRB-", "-RRB-", "-RRB-", "-LCB-", "if", "-LRB-", "i.conf", "<", "=", "conf", "-RRB-", "-LCB-", "break", ";", "-RCB-", "-RCB-", "/", "/", "Insert", "le", "before", "first", "entry", "with", "a", "lower", "confidence", "value", "loc_queue", ".", "insert_before", "-LRB-", "i", ",", "*", "le", "-RRB-", ";", "-RCB-", "-RCB-", "Figure", "5", ":", "The", "procedure", "add", "queue", ".", "supplied", "target", "entity", "specification", "and", "the", "master", "locator", "directory", ",", "or", "by", "copying", "the", "default", "location", "policy", "if", "the", "target", "entity", "has", "not", "provided", "a", "location", "policy", "-RRB-", "and", "is", "stored", "in", "loc", "policy", ",", "figure", "3", "illustrates", "the", "steps", "needed", "to", "initialise", "a", "master", "locator", "session", ".", "Once", "the", "session", "has", "been", "initialised", ",", "the", "Locate", "operation", "returns", "the", "first", "most", "likely", "location", "using", "the", "routine", "described", "in", "figure", "4", ".", "This", "routine", "is", "also", "used", "to", "obtain", "the", "next", "most", "likely", "location", "in", "the", "case", "of", "the", "NextLocation", "operation", ".", "The", "routine", "makes", "use", "of", "an", "additional", "local", "flag", "done", "to", "indicate", "that", "the", "next", "most", "likely", "location", "has", "been", "determined", ",", "and", "a", "variable", "rloc", "to", "receive", "the", "results", "of", "Locate", "and", "NextLocation", "invocations", ".", "add", "queue", "-LRB-", "-RRB-", "-LRB-", "figure", "5", "-RRB-", "inserts", "a", "location", "entry", "at", "the", "right", "place", "in", "the", "priority", "queue", ",", "but", "only", "if", "the", "location", "has", "not", "been", "tried", "already", ".", "If", "the", "location", "is", "already", "present", "in", "the", "queue", ",", "then", "its", "confidence", "level", "and", "position", "are", "updated", "if", "necessary", ".", "The", "new", "confidence", "level", "is", "calculated", "by", "applying", "a", "corroboration", "function", ".", "Note", "that", "this", "algorithm", "makes", "it", "impossible", "for", "the", "same", "location", "to", "appear", "in", "the", "queue", "more", "than", "once", ".", "Corroboration", "function", ":", "corroborate", "-LRB-", "-RRB-", "The", "corroboration", "function", "is", "determined", "by", "the", "organisation", "policy", ".", "Some", "possible", "choices", "are", "described", "here", ",", "highlighting", "a", "couple", "of", "important", "issues", "in", "the", "process", ".", "Given", "two", "confidence", "levels", "l1", "and", "l2", ",", "the", "corroboration", "function", "defined", "by", "l", "=", "max", "-LRB-", "l1", ";", "l2", "-RRB-", "represents", "a", "`", "quality", "rules", "over", "quantity", "'", "policy", ".", "For", "example", ",", "if", "two", "slave", "locators", "both", "return", "confidence", "levels", "of", "60", "%", "for", "a", "location", "A", ",", "and", "another", "returns", "a", "confidence", "level", "of", "61", "%", "for", "location", "B", ",", "then", "the", "master", "locator", "returns", "B", "before", "A", "because", "the", "confidence", "level", "for", "B", "is", "higher", "than", "the", "combined", "levels", "for", "A", ",", "which", "is", "60", "%", ".", "A", "better", "function", "would", "increase", "a", "confidence", "level", "by", "some", "appropriate", "amount", "each", "time", "a", "locator", "expressed", "some", "confidence", "in", "the", "corresponding", "location", ".", "One", "possibility", "is", ":", "lmax", "=", "max", "-LRB-", "l1", ";", "l2", "-RRB-", "lmin", "=", "min", "-LRB-", "l1", ";", "l2", "-RRB-", "l", "=", "lmax", "+", "trunc", "-LRB-", "-LRB-", "lmin", "=", "100", "-RRB-", "?", "-LRB-", "100", "?", "lmax", "-RRB-", "-RRB-", "With", "this", "function", ",", "two", "60", "%", "'s", "for", "A", "would", "win", "over", "one", "61", "%", "for", "B", "because", "the", "corroboration", "function", "yields", "a", "confidence", "level", "of", "84", "%", "for", "A.", "However", ",", "because", "this", "function", "relies", "on", "min", "-LRB-", "-RRB-", "and", "max", "-LRB-", "-RRB-", ",", "it", "is", "sensitive", "to", "the", "order", "of", "arrival", "of", "confidence", "values", ".", "Finally", ",", "the", "function", "defined", "by", ":", "l", "=", "100", "?", "-LRB-", "100", "?", "l1", "-RRB-", "?", "-LRB-", "100", "?", "l2", "-RRB-", "=", "100", "preserves", "the", "intention", "of", "the", "previous", "one", "but", "remains", "insensitive", "to", "arrival", "order4", ".", "4", "Tuning", "and", "performance", "indicators", "The", "framework", "encompasses", "several", "tuning", "points", "which", "can", "be", "used", "to", "make", "the", "system", "more", "effective", ".", "Suitable", "choices", "for", "confidence", "functions", ",", "thresholds", ",", "corroboration", "functions", ",", "and", "location", "policies", "can", "only", "be", "made", "on", "the", "basis", "of", "experience", "with", "a", "working", "system", ".", "However", ",", "the", "framework", "can", "provide", "some", "level", "of", "support", "by", "providing", "performance", "indicators", ".", "Such", "indicators", "can", "be", "compiled", "by", "the", "master", "locator", "by", "having", "it", "record", "a", "log", "for", "every", "location", "session", ".", "Each", "log", "is", "effectively", "a", "indication", "of", "how", "successful", "the", "client", "found", "the", "location", "results", "to", "be", ".", "Each", "time", "a", "client", "asks", "for", "the", "next", "possible", "location", ",", "this", "can", "be", "interpreted", "to", "mean", "that", "the", "previously", "returned", "location", "was", "found", "to", "be", "incorrect", ".", "On", "the", "other", "hand", ",", "an", "invocation", "of", "Release", "can", "be", "taken", "to", "indicate", "that", "the", "client", "found", "the", "last", "returned", "location", "to", "be", "correct", ".", "If", ",", "over", "a", "period", "of", "time", ",", "the", "total", "number", "of", "failures", "exceeds", "some", "chosen", "threshold", "then", "this", "indicates", "that", "some", "parameters", "may", "require", "adjustment", ".", "Detailed", "logging", ",", "such", "as", "recording", "the", "identity", "of", "slave", "locators", "and", "the", "confidence", "values", "they", "return", ",", "coupled", "with", "a", "comprehensive", "statistics", "reporting", "system", ",", "facilitates", "the", "4The", "reasoning", "behind", "this", "function", "is", "as", "follows", ":", "let", "pA", "denote", "the", "probability", "that", "the", "location", "returned", "by", "locator", "A", "is", "correct", ",", "let", "pB", "denote", "the", "probability", "that", "the", "location", "returned", "by", "locator", "B", "is", "correct", ".", "Then", "the", "probability", "that", "both", "A", "and", "B", "are", "wrong", "is", "-LRB-", "1", "?", "pA", "-RRB-", "-LRB-", "1", "?", "pB", "-RRB-", ".", "We", "are", "interested", "in", "the", "probability", "that", "this", "does", "not", "happen", "i.e.", "that", "it", "is", "not", "the", "case", "that", "both", "A", "and", "B", "get", "it", "wrong", ".", "This", "probability", "is", "given", "by", "1", "?", "-LRB-", "1", "?", "pA", "-RRB-", "-LRB-", "1", "?", "pB", "-RRB-", ".", "task", "of", "pin-pointing", "the", "parameters", "that", "need", "adjusting", ".", "For", "example", ",", "if", "the", "performance", "of", "the", "system", "as", "a", "whole", "is", "satisfactory", ",", "but", "is", "extremely", "poor", "for", "one", "particular", "entity", ",", "then", "a", "parameter", "pertaining", "to", "that", "specific", "entity", "-LRB-", "such", "as", "its", "location", "policy", "-RRB-", "may", "need", "adjusting", ".", "Or", "if", "it", "can", "be", "determined", "that", "one", "particular", "slave", "is", "not", "being", "very", "effective", ",", "regardless", "of", "the", "entity", "being", "located", ",", "then", "its", "confidence", "function", "might", "need", "to", "be", "changed", ".", "Is", "should", "be", "noted", "that", "`", "optimum", "performance", "'", "can", "mean", "different", "things", "to", "different", "users", ".", "One", "possible", "definition", "of", "optimum", "performance", "might", "relate", "to", "the", "number", "of", "slave", "locators", "used", "in", "a", "any", "one", "session", ",", "wherein", "the", "smaller", "the", "number", "of", "slaves", "used", ",", "the", "better", "the", "performance", "is", "considered", "to", "be", ".", "Another", "definition", "might", "relate", "to", "the", "time", "taken", "to", "locate", "an", "individual", "during", "office", "hours", ".", "It", "is", "therefore", "not", "possible", "to", "guage", "the", "performance", "implications", "of", "an", "individual", "'s", "policy", "without", "a", "reference", "context", ".", "A", "more", "sophisticated", "master", "locator", "might", "allow", "individuals", "to", "specify", "how", "performance", "is", "to", "be", "measured", "for", "their", "particular", "requirements", "so", "that", "it", "can", "warn", "them", "when", "their", "policy", "does", "not", "live", "up", "to", "their", "expectations", ".", "5", "Discussion", "Location", "systems", "are", "becoming", "of", "increasing", "importance", "in", "office", "automation", "-LSB-", "Hop94", "-RSB-", "and", "universal", "personal", "telecommunications", "-LRB-", "UPT", "-RRB-", "-LSB-", "Lau94", "-RSB-", "services", ".", "They", "are", "also", "useful", "in", "shared", "media-spaces", "such", "as", "Xerox", "'s", "RAVE", "-LSB-", "G", "+92", "-RSB-", ",", "virtual", "reality", "systems", ",", "and", "memoryaid", "systems", ".", "There", "are", "often", "several", "potential", "sources", "of", "location", "and", "different", "approaches", "to", "location", "may", "be", "required", "for", "different", "locatable", "entities", ",", "depending", "on", "their", "habits", "and", "characteristics", ".", "In", "this", "paper", "we", "have", "described", "a", "framework", "for", "the", "integration", "of", "location", "services", "which", "allows", "multiple", "location", "mechanisms", "to", "co-exist", "and", "co-operate", ".", "The", "framework", "also", "gives", "the", "locatable", "entities", "some", "control", "over", "the", "approach", "used", "to", "locate", "them", ",", "so", "that", "each", "may", "choose", "an", "effective", "strategy", "to", "match", "its", "own", "mobility", "characteristics", ".", "We", "have", "also", "described", "how", "the", "framework", "provides", "support", "for", "performace", "tuning", "via", "indicators", "that", "report", "on", "the", "success", "rate", "of", "the", "locator", ",", "both", "on", "an", "individual", "entity", "basis", "and", "on", "a", "system-wide", "basis", ".", "We", "have", "built", "a", "prototype", "of", "the", "ODO", "location", "system", ",", "using", "ANSAware", "-LSB-", "Arc92", "-RSB-", "as", "an", "engineering", "platform", ",", "and", "using", "the", "ORL", "active", "badge", "system", "and", "computer", "system", "login", "information", "as", "slave", "locators", ".", "This", "has", "been", "useful", "to", "demonstrate", "the", "principles", "behind", "our", "framework", ".", "We", "are", "using", "the", "prototype", "in", "order", "to", "determine", "what", "kinds", "of", "functions", ",", "values", "and", "policies", "are", "likely", "to", "be", "most", "useful", ".", "Acknowledgments", "This", "work", "was", "funded", "by", "EPSRC", "grant", "GR/G57864", ".", "Mike", "Rizzo", "is", "currently", "sponsored", "by", "the", "University", "of", "Malta", ".", "We", "are", "grateful", "to", "Olivetti", "Research", "Limited", "for", "supplying", "us", "with", "an", "active", "badge", "system", ".", "References", "-LSB-", "Arc", "-RSB-", "Architecture", "Projects", "Management", "Limited", ",", "Poseidon", "House", ",", "Castle", "Park", ",", "Cambridge", "CB3", "0RD", ",", "United", "Kingdom", "-LRB-", "apm@ansa.co.uk", "-RRB-", ".", "ANSAware", "4.1", "Application", "Programmer", "'s", "Manual", ".", "-LSB-", "Arc92", "-RSB-", "Architecture", "Projects", "Management", "Limited", ",", "Poseidon", "House", ",", "Castle", "Park", ",", "Cambridge", "CB3", "0RD", ",", "United", "Kingdom", "-LRB-", "apm@ansa.co.uk", "-RRB-", ".", "RM", ".099.02", ":", "An", "Overview", "of", "ANSAware", "4.1", ",", "May", "1992", ".", "-LSB-", "BRH94", "-RSB-", "Frazer", "Bennett", ",", "Tristan", "Richardson", ",", "and", "Andy", "Harter", ".", "Teleporting", "|", "making", "applications", "mobile", ".", "In", "Proceedings", "of", "1994", "Workshop", "on", "Mobile", "Computing", "Systems", "and", "Applications", ",", "Santa", "Cruz", ",", "December", "1994", ".", "-LSB-", "G", "+92", "-RSB-", "William", "Gaver", "et", "al.", ".", "Realizing", "a", "video", "environment", ":", "EuroPARC", "'s", "RAVE", "system", ".", "In", "Proceedings", "of", "CHI", "'", "92", ",", "Monterey", ",", "California", ".", "ACM", "SIGCHI", ",", "ACM", "Press", ",", "New", "York", ",", "May", "1992", ".", "-LSB-", "Hop94", "-RSB-", "Andy", "Hopper", ".", "Communications", "at", "the", "desktop", ".", "Computer", "Networks", "and", "ISDN", "Systems", ",", "26:1253", "-LCB-", "1265", ",", "1994", ".", "-LSB-", "Lau94", "-RSB-", "Gregory", "S.", "Lauer", ".", "IN", "architectures", "for", "implementing", "universal", "personal", "telecommunications", ".", "IEEE", "Network", ",", "8", "-LRB-", "2", "-RRB-", ":6", "-LCB-", "16", ",", "March", "1994", ".", "-LSB-", "McC94", "-RSB-", "John", "McCrone", ".", "Do", "n't", "forget", "your", "memory", "aide", ".", "New", "Scientist", ",", "pages", "32", "-LCB-", "36", ",", "February", "1994", ".", "-LSB-", "Mul89", "-RSB-", "S.J.", "Mullender", ".", "Protection", ".", "In", "Sape", "Mullender", ",", "editor", ",", "Distributed", "Systems", "1st", "ed", ",", "chapter", "7", ".", "Addison-Wesley", ",", "1989", ".", "-LSB-", "RLU94", "-RSB-", "Mike", "Rizzo", ",", "Peter", "F.", "Linington", ",", "and", "Ian", "A.", "Utting", ".", "The", "ODO", "project", ":", "a", "case", "study", "in", "integration", "of", "multimedia", "services", ".", "Technical", "Report", "12-94", ",", "Computing", "Laboratory", ",", "University", "of", "Kent", "at", "Canterbury", ",", "Canterbury", ",", "Kent", "CT2", "7NF", ",", "United", "Kingdom", ",", "August", "1994", ".", "-LSB-", "WHFG92", "-RSB-", "Roy", "Want", ",", "Andy", "Hopper", ",", "Veronica", "Falcao", ",", "and", "Johnathon", "Gibbons", ".", "The", "active", "badge", "location", "system", ".", "ACM", "Transactions", "on", "Information", "Systems", ",", "10", "-LRB-", "1", "-RRB-", ":91", "-LCB-", "102", ",", "January", "1992", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "R", "u", "t", "c", "o", "r", "Research", "R", "e", "p", "o", "r", "t", "RUTCOR", "ffl", "Rutgers", "Center", "for", "Operations", "Research", "ffl", "Rutgers", "University", "ffl", "P.O.", "Box", "5062", "ffl", "New", "Brunswick", "New", "Jersey", "ffl", "08903-5062", "Telephone", ":", "908-932-3804", "Telefax", ":", "908-932-5472", "Email", ":", "rrr@rutcor.rutgers.edu", "Decompositions", "of", "Positive", "Self-Dual", "Boolean", "Functions", "Jan", "C.", "Bioch", "a", "Toshihide", "Ibaraki", "b", "RRR", "24-93", ",", "May", "1993", "aDepartment", "of", "Computer", "Science", ",", "AI-section", ",", "Erasmus", "University", "Rotterdam", ",", "P.O.", "Box", "1738", ",", "3000", "DR", "Rotterdam", ",", "The", "Netherlands", ".", "bioch@cs.few.eur.nl", "bDepartment", "of", "Applied", "Mathematics", "and", "Physics", ",", "Faculty", "of", "Engineering", ",", "Kyoto", "University", ",", "Kyoto", ",", "Japan", "606", ".", "ibaraki@kuamp.kyoto-u.ac.jp", "Rutcor", "Research", "Report", "RRR", "24-93", ",", "May", "1993", "Decompositions", "of", "Positive", "Self-Dual", "Boolean", "Functions", "Jan", "C.", "Bioch", "Toshihide", "Ibaraki", "Abstract", ".", "A", "coterie", ",", "which", "is", "used", "to", "realize", "mutual", "exclusion", "in", "a", "distributed", "system", ",", "is", "a", "family", "C", "of", "subsets", "such", "that", "any", "pair", "of", "subsets", "in", "C", "has", "at", "least", "one", "element", "in", "common", ",", "and", "such", "that", "no", "subset", "in", "C", "contains", "any", "other", "subset", "in", "C.", "Associate", "with", "a", "family", "of", "subsets", "C", "a", "positive", "Boolean", "function", "fC", "such", "that", "fC", "-LRB-", "x", "-RRB-", "=", "1", "if", "the", "Boolean", "vector", "x", "is", "equal", "to", "or", "greater", "than", "the", "characteristic", "vector", "of", "some", "subset", "in", "C", ",", "and", "otherwise", ".", "It", "is", "known", "that", "C", "is", "a", "coterie", "if", "and", "only", "if", "fC", "is", "dual-minor", ",", "and", "is", "a", "non-dominated", "-LRB-", "ND", "-RRB-", "coterie", "if", "and", "only", "if", "fC", "is", "self-dual", ".", "We", "study", "in", "this", "paper", "the", "decomposition", "of", "a", "positive", "self-dual", "function", "into", "smaller", "positive", "self-dual", "functions", ",", "as", "it", "explains", "how", "to", "represent", "and", "how", "to", "construct", "the", "corresponding", "ND", "coterie", ".", "A", "key", "step", "is", "how", "to", "decompose", "a", "positive", "dual-minor", "function", "f", "into", "a", "conjunction", "of", "positive", "self-dual", "functions", "f1", ";", "f2", ";", ":", ":", ":", ";", "fk", ".", "In", "addition", "to", "the", "general", "condition", "for", "this", "decomposition", ",", "we", "clarify", "the", "condition", "for", "the", "decomposition", "into", "two", "functions", "f1", "and", "f2", ",", "and", "introduce", "the", "concept", "of", "canonical", "decomposition", ".", "Then", "we", "present", "an", "algorithm", "that", "determines", "a", "minimal", "canonical", "decomposition", ",", "and", "a", "very", "simple", "algorithm", "that", "usually", "gives", "a", "decomposition", "close", "to", "minimal", ".", "The", "decomposition", "of", "a", "general", "self-dual", "function", "is", "also", "discussed", ".", "Acknowledgements", ":", "This", "paper", "was", "completed", "while", "the", "first", "author", "visited", "Kyoto", "University", "in", "April", "1993", ",", "the", "support", "for", "which", "is", "greatly", "appreciated", ".", "RRR", "24-93", "Page", "1", "1", "Introduction", "1.1", "Motivation", "and", "Results", "A", "coterie", "C", ",", "originally", "defined", "in", "-LSB-", "12", ",", "7", "-RSB-", ",", "is", "a", "family", "of", "subsets", "of", "an", "underlying", "set", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", ",", "such", "that", "each", "pair", "of", "subsets", "in", "C", "has", "at", "least", "one", "element", "in", "common", ",", "and", "no", "subset", "in", "C", "contains", "any", "other", "subset", "in", "C", ".", "It", "is", "used", "as", "a", "mechanism", "to", "realize", "mutual", "exclusion", "-LSB-", "12", ",", "5", "-RSB-", "in", "a", "distributed", "system", ";", "a", "task", "can", "enter", "the", "critical", "section", "only", "if", "it", "can", "get", "agreements", "from", "all", "the", "members", "in", "a", "subset", "S", "2", "C", ",", "where", "members", "1", ";", "2", ";", ":", ":", ":", ";", "n", "represent", "the", "sites", "in", "the", "distributed", "system", ".", "By", "the", "intersecting", "property", "of", "a", "coterie", "C", ",", "it", "is", "guaranteed", "that", "at", "most", "one", "task", "can", "enter", "the", "critical", "section", "at", "a", "time", "if", "each", "site", "is", "allowed", "to", "issue", "at", "most", "one", "agreement", "-LRB-", "this", "property", "is", "called", "mutual", "exclusion", "-RRB-", ".", "Associate", "with", "a", "family", "of", "subsets", "C", "a", "positive", "Boolean", "function", "fC", "such", "that", "fC", "-LRB-", "x", "-RRB-", "=", "1", "if", "and", "only", "if", "the", "Boolean", "vector", "x", "2", "f0", ";", "1gn", "is", "equal", "to", "or", "greater", "than", "the", "characteristic", "vector", "of", "some", "subset", "in", "C", ".", "It", "is", "known", "-LSB-", "9", ",", "10", "-RSB-", "that", "C", "is", "a", "coterie", "if", "and", "only", "if", "fC", "is", "dualminor", ",", "and", "is", "a", "non-dominated", "-LRB-", "ND", "-RRB-", "coterie", "if", "and", "only", "if", "fC", "is", "self-dual", "-LRB-", "see", "Section", "1.2", "for", "the", "definitions", "of", "these", "terms", "-RRB-", ".", "Self-dual", "functions", "play", "an", "important", "role", "also", "in", "threshold", "logic", "-LSB-", "13", "-RSB-", ",", "regular", "Boolean", "functions", "-LSB-", "15", ",", "4", "-RSB-", ",", "circuit", "theory", "-LSB-", "16", "-RSB-", "and", "other", "areas", "of", "Boolean", "functions", ".", "The", "class", "of", "positive", "self-dual", "functions", "is", "closed", "under", "compositions", ".", "Therefore", "one", "of", "the", "fundamental", "problems", "in", "this", "field", "is", "how", "to", "decompose", "a", "given", "positive", "self-dual", "function", "into", "smaller", "positive", "self-dual", "functions", ",", "as", "it", "explains", "how", "to", "represent", "and", "how", "to", "construct", "the", "corresponding", "coterie", "by", "using", "simpler", "elements", ".", "It", "was", "shown", "in", "-LSB-", "9", ",", "10", "-RSB-", "that", "any", "positive", "self-dual", "function", "can", "be", "decomposed", "into", "a", "set", "of", "basic", "majority", "functions", "-LRB-", "the", "basic", "majority", "function", "is", "the", "only", "self-dual", "function", "containing", "three", "variables", "-RRB-", ".", "However", ",", "the", "argument", "in", "-LSB-", "9", ",", "10", "-RSB-", "was", "only", "to", "show", "the", "existence", "of", "such", "a", "decomposition", ",", "and", "the", "resulting", "decomposition", "may", "be", "far", "from", "the", "minimum", ".", "Other", "types", "of", "decompositions", "are", "also", "found", "in", "-LSB-", "14", ",", "10", "-RSB-", ".", "In", "this", "paper", ",", "we", "study", "the", "decomposition", "of", "a", "positive", "self-dual", "function", "in", "a", "more", "systematic", "manner", ".", "As", "will", "be", "discussed", "in", "Section", "2.1", ",", "a", "key", "step", "in", "this", "procedure", "is", "how", "to", "decompose", "a", "given", "positive", "dual-minor", "function", "f", "into", "a", "conjunction", "of", "positive", "self-dual", "functions", ":", "f", "=", "f1f2", "?", "?", "?", "fk", ":", "We", "first", "derive", "in", "Section", "2.2", "the", "general", "condition", "for", "this", "decomposition", ",", "and", "then", "give", "in", "Section", "2.3", "a", "necessary", "and", "sufficient", "condition", "for", "the", "decomposition", "into", "two", "functions", "f1", "and", "f2", ".", "The", "concept", "of", "canonical", "decomposition", "is", "then", "introduced", "in", "Section", "3.1", "by", "restricting", "the", "above", "self-dual", "functions", "fi", "to", "a", "certain", "type", ",", "and", "an", "algorithm", "to", "find", "a", "minimal", "canonical", "decomposition", "is", "given", "in", "Section", "3.2", ".", "In", "addition", "to", "these", ",", "we", "give", "in", "Section", "3.3", "a", "very", "simple", "and", "efficient", "algorithm", "that", "decomposes", "a", "given", "positive", "self-dual", "function", "into", "basic", "majority", "functions", ".", "The", "decomposition", "of", "a", "general", "self-dual", "function", "-LRB-", "not", "necessarily", "positive", "-RRB-", "into", "smaller", "self-dual", "functions", "is", "also", "discussed", "in", "Section", "3.4", ",", "and", "a", "relation", "between", "2-coloring", "and", "some", "functions", "used", "in", "the", "minimal", "canonical", "decomposition", "is", "briefly", "considered", "in", "Section", "Page", "2", "RRR", "24-93", "3.5", ".", "The", "complexity", "issues", "related", "to", "these", "problems", "are", "mentioned", "in", "the", "last", "section", ".", "All", "the", "above", "algorithms", "are", "of", "polynomial", "time", "in", "the", "length", "of", "input", "and", "output", "if", "dualization", "of", "a", "positive", "Boolean", "function", "can", "be", "done", "in", "time", "polynomial", "in", "the", "length", "of", "its", "input", "and", "output", ".", "However", ",", "the", "latter", "problem", "is", "still", "not", "solved", ",", "and", "it", "is", "related", "to", "other", "wellknown", "open", "problems", "such", "as", "deciding", "the", "NDness", "of", "a", "coterie", "-LSB-", "7", "-RSB-", "and", "2-coloring", "a", "simple", "hypergraph", "-LSB-", "6", "-RSB-", ".", "More", "detailed", "discussion", "on", "these", "subjects", "can", "be", "found", "in", "the", "accompanying", "paper", "-LSB-", "2", "-RSB-", ".", "1.2", "Definitions", "and", "Basic", "Properties", "Coteries", "Let", "C", "be", "a", "non-empty", "family", "of", "subsets", "of", "the", "non-empty", "finite", "set", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", ".", "Then", "C", "is", "called", "a", "coterie", "if", "the", "following", "conditions", "are", "satisfied", "for", "all", "S", ";", "S0", "2", "C", ":", "-LRB-", "i", "-RRB-", "S", "<", ">", ";", "-LRB-", "ii", "-RRB-", "S", "6ae", "S0", "-LRB-", "minimality", "-RRB-", "-LRB-", "iii", "-RRB-", "S", "\\", "S0", "<", ">", ";", "-LRB-", "intersection", "property", "-RRB-", ".", "A", "coterie", "C", "dominates", "a", "coterie", "D", "if", "C", "<", ">", "D", "and", "for", "each", "S", "2", "D", "there", "exists", "a", "S0", "2", "C", "such", "that", "S0", "?", "S", ".", "A", "coterie", "C", "is", "called", "non-dominated", "-LRB-", "ND", "-RRB-", "if", "no", "coterie", "dominates", "C.", "ND", "coteries", "are", "important", "in", "practice", ",", "since", "those", "are", "the", "coteries", "with", "maximal", "efficiency", "when", "implemented", "to", "realize", "mutual", "exclusion", ".", "Positive", "Boolean", "functions", "A", "Boolean", "function", ",", "or", "in", "short", "a", "function", "is", "a", "mapping", "f", ":", "f0", ";", "1gn", "7", "!", "f0", ";", "1g", ".", "Let", "x", "2", "f0", ";", "1gn", "be", "a", "Boolean", "vector", ",", "or", "in", "short", "a", "vector", ".", "If", "f", "-LRB-", "x", "-RRB-", "=", "1", "-LRB-", "resp", ".", "0", "-RRB-", ",", "then", "x", "is", "called", "a", "true", "-LRB-", "resp", ".", "false", "-RRB-", "vector", "of", "f", ".", "The", "set", "of", "all", "true", "vectors", "is", "denoted", "by", "T", "-LRB-", "f", "-RRB-", ".", "For", "a", "function", "f", ",", "the", "minimal", "elements", "in", "T", "-LRB-", "f", "-RRB-", "are", "called", "the", "minimal", "true", "vectors", "of", "f", ",", "and", "the", "set", "of", "all", "minimal", "true", "vectors", "is", "denoted", "by", "minT", "-LRB-", "f", "-RRB-", ".", "A", "function", "f", "is", "called", "positive", "or", "monotone", "if", "x", "<", "=", "y", "always", "implies", "f", "-LRB-", "x", "-RRB-", "<", "=", "f", "-LRB-", "y", "-RRB-", ".", "It", "is", "known", "that", "a", "positive", "function", "f", "is", "uniquely", "determined", "by", "minT", "-LRB-", "f", "-RRB-", ",", "and", "that", "f", "has", "the", "unique", "minimal", "disjunctive", "form", "-LRB-", "MDF", "-RRB-", "consisting", "of", "all", "the", "prime", "implicants", "of", "f", ",", "in", "which", "all", "the", "literals", "of", "each", "prime-implicant", "are", "uncomplemented", ".", "There", "is", "a", "one-to-one", "correspondence", "between", "minT", "-LRB-", "f", "-RRB-", "and", "the", "set", "of", "all", "prime", "implicants", "of", "f", ",", "such", "that", "a", "vector", "v", "corresponds", "to", "the", "monomial", "mv", "defined", "by", "mv", "=", "xi1xi2", "?", "?", "?", "xik", "if", "vij", "=", "1", ";", "j", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", "and", "vi", "=", "otherwise", ".", "For", "example", ",", "vector", "-LRB-", "101", "-RRB-", "corresponds", "to", "the", "monomial", "x1x3", ".", "Throughout", "this", "paper", ",", "the", "constant", "functions", "f", "?", "0", ",", "and", "f", "?", "1", "are", "denoted", "respectively", "by", "?", "and", ">", ".", "Also", "the", "MDF", "of", "a", "positive", "function", "such", "as", "f", "=", "x1x2", "+", "x2x3", "+", "x3x1", "is", "represented", "by", "a", "simplified", "form", "f", "=", "12", "+", "23", "+", "31", ",", "by", "using", "only", "the", "subscripts", "of", "literals", ",", "where", "the", "operator", "+", "is", "used", "as", "an", "alias", "for", "the", "Boolean-or", "operator", "_", ".", "The", "Boolean-and", "operator", "^", "will", "be", "denoted", "by", "?", "-LRB-", "or", "omitted", "if", "no", "confusion", "occurs", "-RRB-", ".", "The", "set", "of", "minimal", "RRR", "24-93", "Page", "3", "true", "vectors", "of", "the", "above", "function", "is", "minT", "-LRB-", "f", "-RRB-", "=", "f", "-LRB-", "110", "-RRB-", ";", "-LRB-", "011", "-RRB-", ";", "-LRB-", "101", "-RRB-", "g", ".", "In", "the", "subsequent", "discussion", ",", "the", "operator", "_", "+", "is", "used", "to", "denote", "the", "disjoint", "disjunction", ":", "h", "=", "f", "_", "+", "g", ",", "h", "=", "f", "+", "g", "and", "fg", "=", "?", ".", "Dual-comparable", "functions", "The", "dual", "of", "a", "function", "f", ",", "denoted", "fd", ",", "is", "defined", "by", "fd", "-LRB-", "x", "-RRB-", "=", "?", "f", "-LRB-", "?", "x", "-RRB-", ";", "where", "?", "f", "and", "?", "x", "denote", "the", "complement", "of", "f", "and", "x", ",", "respectively", ".", "As", "is", "well-known", ",", "the", "MDF", "expression", "defining", "fd", "is", "obtained", "from", "that", "of", "f", "by", "exchanging", "+", "-LRB-", "or", "-RRB-", "and", "?", "-LRB-", "and", "-RRB-", ",", "as", "well", "as", "the", "constants", "and", "1", ".", "Denote", "f", "<", "=", "g", "if", "these", "functions", "satisfy", "f", "-LRB-", "x", "-RRB-", "<", "=", "g", "-LRB-", "x", "-RRB-", "for", "all", "x", "2", "f0", ";", "1gn", ".", "It", "is", "easy", "to", "see", "that", "-LRB-", "f", "+", "g", "-RRB-", "d", "=", "fdgd", ";", "-LRB-", "fg", "-RRB-", "d", "=", "fd", "+", "gd", ";", "f", "<", "=", "g", "implies", "fd", ">", "=", "gd", ",", "and", "so", "on", ".", "A", "function", "is", "called", "dual-minor", "if", "f", "<", "=", "fd", "and", "dual-major", "if", "f", ">", "=", "fd", ".", "f", "is", "called", "dual-comparable", "if", "f", "<", "=", "fd", "or", "f", ">", "=", "fd", "holds", ",", "and", "self-dual", "if", "fd", "=", "f", ".", "For", "example", ",", "f", "=", "123", "is", "dual-minor", "since", "fd", "=", "1", "+", "2", "+", "3", "satisfies", "f", "<", "=", "fd", ".", "Similarly", ",", "the", "dual", "of", "f", "=", "12", "+", "23", "+", "31", "is", "fd", "=", "-LRB-", "1", "+", "2", "-RRB-", "-LRB-", "2", "+", "3", "-RRB-", "-LRB-", "3", "+", "1", "-RRB-", "=", "12", "+", "23", "+", "31", ":", "This", "function", "f", "is", "self-dual", ",", "and", "is", "called", "the", "basic", "majority", "function", ";", "it", "is", "known", "to", "be", "the", "only", "positive", "self-dual", "function", "containing", "three", "variables", ".", "The", "basic", "majority", "function", "of", "three", "variables", "x", ";", "y", ";", "z", "is", "sometimes", "denoted", "by", "-LSB-", "x", ";", "y", ";", "z", "-RSB-", "in", "the", "subsequent", "discussion", ".", "There", "is", "no", "positive", "self-dual", "function", "of", "two", "variables", ".", "However", ",", "each", "function", "f", "=", "x", "is", "a", "positive", "self-dual", "function", "of", "one", "variable", ".", "Coteries", "and", "Boolean", "functions", "Let", "C", "be", "a", "family", "of", "subsets", "of", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", "satisfying", "the", "minimality", "condition", "-LRB-", "ii", "-RRB-", ".", "With", "C", "we", "associate", "a", "positive", "function", "fC", "defined", "by", "fC", "-LRB-", "x", "-RRB-", "=", "1", "if", "and", "only", "if", "there", "exists", "a", "subset", "S", "2", "C", "such", "that", "cv", "-LRB-", "S", "-RRB-", "<", "=", "x", ",", "where", "the", "characteristic", "vector", "y", "=", "cv", "-LRB-", "S", "-RRB-", "of", "S", "is", "defined", "by", "yi", "=", "1", "if", "i", "2", "S", "and", "if", "i", "=", "2", "S", ".", "It", "is", "easy", "to", "verify", "that", "the", "correspondence", "C", "$", "minT", "-LRB-", "fC", "-RRB-", "is", "one-to-one", ".", "Further", "it", "is", "known", "-LSB-", "9", ",", "10", "-RSB-", "that", "C", "is", "a", "coterie", "if", "and", "only", "if", "fC", "is", "dual-minor", ",", "and", "that", "C", "is", "an", "ND-coterie", "if", "and", "only", "if", "fC", "is", "self-dual", ".", "Contra-dual", "functions", "The", "contra-dual", "f", "?", "of", "f", "is", "defined", "by", "f", "?", "-LRB-", "x", "-RRB-", "=", "f", "-LRB-", "?", "x", "-RRB-", ":", "For", "example", ",", "the", "contra-dual", "of", "f", "=", "12", "+", "23", "+", "31", "is", "f", "?", "=", "?", "1", "?", "2", "+", "?", "2", "?", "3", "+", "?", "3", "?", "1", ",", "where", "?", "i", "stands", "for", "literal", "?", "xi", ".", "By", "definition", ",", "T", "-LRB-", "f", "?", "-RRB-", "=", "f?xjx", "2", "T", "-LRB-", "f", "-RRB-", "g", ",", "and", "hence", "jT", "-LRB-", "f", "-RRB-", "j", "=", "jT", "-LRB-", "f", "?", "-RRB-", "j", ".", "It", "is", "known", "-LSB-", "8", "-RSB-", "that", "the", "four", "operations", ":", "identity", ",", "d", ",", "?", "and", "complementation", "?", "form", "Klein", "'s", "four-group", ".", "This", "Page", "4", "RRR", "24-93", "means", "that", "these", "operations", "commute", ",", "are", "idempotent", "and", "satisfy", "the", "relation", "=", ",", "where", ",", ",", "are", "three", "different", "operations", ":", "-LRB-", "?", "f", "-RRB-", "d", "=", "-LRB-", "fd", "-RRB-", "=", "f", "?", ";", "-LRB-", "?", "f", "-RRB-", "?", "=", "-LRB-", "f", "?", "-RRB-", "=", "fd", ";", "-LRB-", "fd", "-RRB-", "?", "=", "-LRB-", "f", "?", "-RRB-", "d", "=", "?", "f", "and", "so", "on", ".", "It", "is", "also", "trivial", "to", "see", "that", ":", "-LRB-", "fg", "-RRB-", "?", "=", "f?g", "?", ";", "-LRB-", "f", "+", "g", "-RRB-", "?", "=", "f", "?", "+", "g", "?", ";", "f", "<", "=", "g", "-RRB-", "f", "?", "<", "=", "g", "?", ",", "and", "so", "on", ".", "If", "f", "is", "dual-minor", "-LRB-", "resp", ".", "dual-major", "-RRB-", ",", "then", "so", "is", "f", "?", ",", "since", "f", "<", "=", "fd", "-LRB-", "resp", ".", "f", ">", "=", "fd", "-RRB-", "implies", "f", "?", "<", "=", "-LRB-", "fd", "-RRB-", "?", "=", "-LRB-", "f", "?", "-RRB-", "d", "-LRB-", "resp", ".", "f", "?", ">", "=", "-LRB-", "f", "?", "-RRB-", "d", "-RRB-", ".", "If", "f", "is", "dual-minor", ",", "the", "areas", "of", "T", "-LRB-", "f", "-RRB-", ";", "T", "-LRB-", "fd", "-RRB-", "and", "T", "-LRB-", "f", "?", "-RRB-", "can", "be", "illustrated", "as", "in", "Fig.", "1", ",", "in", "which", "notation", "T", "-LRB-", "?", "-RRB-", "is", "omitted", "for", "simplicity", ".", "In", "the", "case", "of", "a", "dual-major", "function", ",", "the", "relation", "between", "f", "and", "fd", "should", "be", "switched", ".", "A", "function", "f", "is", "called", "anti-dual", "-LRB-", "or", "self-contra-dual", "-RRB-", "if", "f", "?", "=", "f", ".", "It", "is", "easy", "to", "see", "that", "functions", "ff", "?", "-LRB-", "=", "f", "n", "fd", "-RRB-", ",", "fd", "?", "f", "-LRB-", "=", "fd", "n", "f", "-RRB-", "and", "f", "+", "f", "?", "are", "all", "anti-dual", ".", "Characterization", "of", "function", "classes", "The", "following", "lemmas", "characterize", "the", "above", "classes", "of", "functions", ".", "Most", "of", "their", "proofs", "are", "straightforward", "and", "omitted", "-LRB-", "see", "-LSB-", "10", ",", "1", "-RSB-", "for", "details", "-RRB-", ".", "Lemma", "1", "Let", "f", "be", "a", "Boolean", "function", ".", "-LRB-", "i", "-RRB-", "f", "is", "dual-minor", "if", "and", "only", "if", "one", "of", "the", "following", "holds", ":", "1", ".", "ff", "?", "=", "?", "2", ".", "x", "2", "T", "-LRB-", "f", "-RRB-", "-RRB-", "?", "x", "62", "T", "-LRB-", "f", "-RRB-", "-LRB-", "ii", "-RRB-", "f", "is", "dual-major", "if", "and", "only", "if", "one", "of", "the", "following", "holds", ":", "1", ".", "f", "+", "f", "?", "=", ">", "2", ".", "x", "=", "2", "T", "-LRB-", "f", "-RRB-", "-RRB-", "?", "x", "2", "T", "-LRB-", "f", "-RRB-", "-LRB-", "iii", "-RRB-", "f", "is", "self-dual", "if", "and", "only", "if", "one", "of", "the", "following", "holds", ":", "1", ".", "f", "?", "=", "?", "f", "2", ".", "f", "_", "+", "f", "?", "=", ">", "-LRB-", "disjoint", "disjunction", "-RRB-", "3", ".", "x", "2", "T", "-LRB-", "f", "-RRB-", ",", "?", "x", "=", "2", "T", "-LRB-", "f", "-RRB-", "-LRB-", "iv", "-RRB-", "f", "is", "anti-dual", "if", "and", "only", "if", "one", "of", "the", "following", "holds", ":", "1", ".", "fd", "=", "?", "f", "2", ".", "x", "2", "T", "-LRB-", "f", "-RRB-", ",", "?", "x", "2", "T", "-LRB-", "f", "-RRB-", "3", ".", "9h", "such", "that", "f", "=", "h", "_", "+", "h", "?", "and", "h", "-LRB-", "thus", "h", "?", "-RRB-", "is", "dual-minor", ".", "2", "Lemma", "2", "Let", "f", "be", "a", "positive", "function", ".", "Then", "f", "is", "dual-minor", "if", "and", "only", "if", "every", "pair", "of", "prime", "implicants", "mi", "and", "mj", "in", "its", "MDF", "has", "at", "least", "one", "literal", "in", "common", ".", "2", "Other", "properties", "of", "these", "classes", "of", "functions", ",", "particularly", "some", "types", "of", "decompositions", ",", "are", "discussed", "in", "-LSB-", "1", "-RSB-", ".", "RRR", "24-93", "Page", "5", "2", "Decomposition", "of", "Positive", "Self-Dual", "Functions", "2.1", "Shannon", "'s", "Decomposition", "of", "Self-Dual", "Functions", "The", "so-called", "Shannon", "'s", "decomposition", "expands", "a", "given", "function", "f", "on", "a", "variable", "x", "as", "follows", ":", "f", "=", "f", "-LRB-", "x", "=", "0", "-RRB-", "?", "x", "+", "f", "-LRB-", "x", "=", "1", "-RRB-", "x", ":", "-LRB-", "1", "-RRB-", "If", "f", "is", "positive", "and", "self-dual", ",", "this", "formula", "becomes", "f", "=", "g", "+", "gdx", ";", "-LRB-", "2", "-RRB-", "where", "g", "=", "f", "-LRB-", "x", "=", "0", "-RRB-", "is", "positive", "and", "dual-minor", ",", "and", "gd", "=", "-LRB-", "f", "-LRB-", "x", "=", "0", "-RRB-", "-RRB-", "d", "=", "f", "-LRB-", "x", "=", "1", "-RRB-", "is", "positive", "and", "dual-major", "-LSB-", "9", ",", "10", "-RSB-", ".", "It", "is", "also", "known", "that", "any", "positive", "dual-minor", "function", "g", "is", "the", "conjunction", "of", "positive", "self-dual", "functions", "f1", ";", "f2", ";", ":", ":", ":", ";", "fk", ":", "g", "=", "f1f2", "?", "?", "?", "fk", ":", "-LRB-", "3", "-RRB-", "In", "this", "case", ",", "gd", "can", "be", "given", "by", "gd", "=", "f1", "+", "f2", "+", "?", "?", "?", "+", "fk", ":", "-LRB-", "4", "-RRB-", "Let", "-LSB-", "x", ";", "y", ";", "z", "-RSB-", "denote", "the", "basic", "majority", "function", "of", "three", "variables", "x", ";", "y", ";", "z", ".", "Then", "decomposition", "-LRB-", "2", "-RRB-", "can", "be", "expressed", "by", "g", "=", "f1f2", "?", "?", "?", "fk", "+", "-LRB-", "f1", "+", "f2", "+", "?", "?", "?", "+", "fk", "-RRB-", "x", "=", "-LSB-", "x", ";", "f1", ";", "-LSB-", "x", ";", "f2", ";", "-LSB-", "?", "?", "?", "-LSB-", "x", ";", "fk", "?", "1", ";", "fk", "-RSB-", "?", "?", "?", "-RSB-", "-RSB-", "-RSB-", ";", "-LRB-", "5", "-RRB-", "as", "easily", "proved", "by", "induction", "starting", "from", "the", "case", "of", "k", "=", "2", ":", "g", "=", "f1f2", "+", "-LRB-", "f1", "+", "f2", "-RRB-", "x", "=", "-LSB-", "x", ";", "f1", ";", "f2", "-RSB-", ":", "If", "we", "illustrate", "the", "basic", "majority", "function", "-LSB-", "x", ";", "y", ";", "z", "-RSB-", "as", "in", "Fig", ".", "2", "-LRB-", "a", "-RRB-", ",", "the", "above", "expression", "-LRB-", "5", "-RRB-", "becomes", "as", "in", "Fig.", "2", "-LRB-", "b", "-RRB-", ".", "Since", "the", "functions", "f1", ";", "f2", ";", ":", ":", ":", ";", "fk", "do", "not", "contain", "the", "variable", "x", ",", "and", "are", "positive", "and", "self-dual", ",", "these", "decompositions", "can", "be", "repeatedly", "applied", "to", "the", "generated", "functions", "until", "only", "functions", "of", "one", "variable", "remain", ".", "If", "we", "interpret", "each", "such", "decomposition", "as", "-LRB-", "5", "-RRB-", ",", "the", "entire", "process", "yields", "a", "tree", "shaped", "decomposition", "of", "the", "original", "positive", "self-dual", "function", "f", "into", "basic", "majority", "functions", ".", "This", "is", "called", "the", "B-decomposition", "of", "f", "in", "-LSB-", "9", ",", "10", "-RSB-", ",", "where", "B", "stands", "for", "\\", "binary", "tree", "''", ".", "A", "key", "step", "in", "the", "B-decomposition", "is", "decomposition", "-LRB-", "3", "-RRB-", "of", "a", "positive", "dual-minor", "function", "into", "positive", "self-dual", "functions", ".", "Call", "the", "number", "k", "in", "-LRB-", "3", "-RRB-", "the", "size", "of", "the", "decomposition", ".", "If", "the", "size", "of", "each", "decomposition", "is", "small", ",", "the", "resulting", "B-decomposition", "will", "become", "small", ".", "However", ",", "no", "attention", "was", "paid", "in", "-LSB-", "9", ",", "10", "-RSB-", "to", "minimize", "size", "k", ",", "but", "only", "the", "existence", "of", "a", "finite", "k", "was", "shown", ".", "In", "the", "following", ",", "therefore", ",", "we", "carry", "out", "a", "more", "careful", "study", "so", "that", "decompositions", "-LRB-", "3", "-RRB-", "with", "small", "sizes", "can", "be", "realized", "in", "a", "systematic", "manner", ".", "Page", "6", "RRR", "24-93", "2.2", "Decomposition", "of", "a", "Dual-Minor", "Function", "Before", "discussing", "the", "general", "decomposition", "-LRB-", "3", "-RRB-", ",", "we", "consider", "a", "decomposition", "into", "two", "selfdual", "functions", ",", "which", "may", "not", "be", "positive", ".", "Let", "f", "be", "a", "dual-minor", "function", ".", "Then", "fd", "=", "f", "_", "+", "fd", "?", "f", ".", "Since", "fd", "?", "f", "is", "anti-dual", ",", "as", "mentioned", "in", "Section", "1.2", ",", "it", "has", "expression", "fd", "?", "f", "=", "h", "_", "+", "h", "?", ",", "by", "Lemma", "1", "-LRB-", "iv", "-RRB-", "3", ",", "and", "hence", "fd", "=", "f", "_", "+", "h", "_", "+", "h", "?", ".", "Now", "let", "f1", "=", "f", "_", "+", "h", "and", "f2", "=", "f", "_", "+", "h", "?", ";", "-LRB-", "6", "-RRB-", "which", "are", "illustrated", "in", "Fig.", "3", ".", "Then", "f1", "is", "self-dual", ",", "since", "fd1", "=", "fdhd", "=", "fd", "-LRB-", "h", "+", "f", "+", "f", "?", "-RRB-", "=", "fdh", "+", "f", "=", "h", "+", "f", "=", "f1", ";", "where", "the", "properties", "fd", ">", "=", "f", ";", "hd", "=", "?", "h", "?", "=", "h", "_", "+", "f", "_", "+", "f", "?", "and", "fdf", "?", "=", "?", "-LRB-", "see", "Fig.", "3", "-RRB-", "are", "used", ".", "Similarly", ",", "it", "can", "be", "shown", "that", "fd2", "=", "f2", ".", "Lemma", "3", "Let", "a", "function", "f", "be", "dual-minor", ".", "Then", "f", "has", "a", "decomposition", "f", "=", "f1f2", "into", "self-dual", "functions", "f1", "and", "f2", ",", "which", "are", "given", "by", "-LRB-", "6", "-RRB-", ".", "Conversely", ",", "if", "f", "=", "f1f2", "for", "self-dual", "functions", "f1", "and", "f2", ",", "then", "f1", "and", "f2", "are", "given", "by", "-LRB-", "6", "-RRB-", "for", "some", "function", "h", "with", "fd", "?", "f", "=", "h", "_", "+", "h", "?", ".", "2", "Proof", "The", "first", "part", "was", "already", "proved", ".", "To", "prove", "the", "second", "part", ",", "note", "that", "f", "<", "=", "f1", "and", "f", "<", "=", "f2", "by", "f", "=", "f1f2", ".", "Also", "note", "that", "fd", "=", "f1", "+", "f2", "and", "hence", "fd", "?", "f", "=", "f1", "?", "f", "+", "f2", "?", "f", ".", "Let", "f1", "=", "f", "_", "+", "h", ",", "i.e.", ",", "h", "=", "f1", "?", "f", ".", "Since", "fd", "?", "f", "is", "anti-dual", "and", "f1", "is", "self-dual", ",", "x", "2", "T", "-LRB-", "h", "-RRB-", ",", "?", "x", "2", "T", "-LRB-", "f2", "?", "f", "-RRB-", "holds", ".", "This", "implies", "f2", "?", "f", "=", "h", "?", "-LRB-", "i.e.", ",", "f2", "=", "f", "_", "+", "h", "?", "-RRB-", ".", "2", "In", "this", "lemma", ",", "none", "of", "f", ";", "f1", "and", "f2", "is", "assumed", "to", "be", "positive", ".", "If", "f", "is", "dual-minor", "and", "positive", ",", "then", "we", "can", "show", "that", "one", "of", "the", "f1", "and", "f2", ",", "say", "f1", ",", "can", "be", "positive", ".", "To", "see", "this", ",", "let", "s", "be", "any", "positive", "self-dual", "function", ".", "Since", "s", "_", "+", "s", "?", "=", ">", "-LRB-", "see", "Lemma", "1", "-LRB-", "iii", "-RRB-", "2", "-RRB-", "and", "jT", "-LRB-", "s", "-RRB-", "j", "=", "jT", "-LRB-", "s", "?", "-RRB-", "j", ",", "the", "set", "T", "-LRB-", "s", "-RRB-", "occupies", "exactly", "half", "of", "the", "set", "of", "all", "Boolean", "vectors", "and", "also", "exactly", "half", "of", "the", "set", "T", "-LRB-", "fd", "?", "f", "-RRB-", "-LRB-", "see", "Fig.", "4", "-RRB-", ".", "Now", "we", "choose", "h", "=", "fd", "?", "f", "s", ",", "so", "h", "?", "=", "?", "f", "fds", "?", "and", "h", "+", "h", "?", "=", "fd", "?", "f", ".", "Then", "f1", "=", "f", "+", "h", "=", "f", "+", "fd", "?", "f", "s", "=", "f", "+", "fds", "is", "positive", "and", "self-dual", ",", "and", "f2", "=", "f", "+", "h", "?", "=", "f", "+", "fds", "?", "is", "self-dual", ".", "Theorem", "4", "A", "positive", "dual-minor", "function", "f", "has", "a", "decomposition", "f", "=", "f1f2", ",", "where", "f1", "and", "f2", "are", "self-dual", ",", "and", "f1", "is", "positive", ".", "2", "Unfortunately", ",", "the", "self-dual", "function", "f2", "is", "not", "generally", "positive", ".", "For", "example", ",", "it", "can", "be", "proved", "that", "the", "positive", "dual-minor", "function", "f", "=", "123", "can", "not", "be", "the", "conjunction", "of", "two", "positive", "self-dual", "functions", ".", "We", "shall", "clarify", "in", "Section", "2.3", "when", "such", "decomposition", "into", "two", "positive", "self-dual", "functions", "is", "possible", ".", "Now", ",", "in", "order", "to", "consider", "decomposition", "-LRB-", "3", "-RRB-", "into", "k", "self-dual", "functions", ",", "we", "introduce", "the", "next", "definition", ".", "For", "functions", "f", "and", "g", ",", "define", "the", "extension", "of", "f", "with", "respect", "to", "g", "by", "f", "''", "g", "=", "f", "+", "fdg", ":", "-LRB-", "7", "-RRB-", "If", "g", "is", "self-dual", "and", "f", "is", "dual-minor", "then", "f", "''", "g", "is", "self-dual", ",", "since", "-LRB-", "f", "''", "g", "-RRB-", "d", "=", "fd", "-LRB-", "f", "+", "gd", "-RRB-", "=", "fd", "-LRB-", "f", "+", "g", "-RRB-", "=", "f", "+", "fdg", "=", "f", "''", "g", ":", "RRR", "24-93", "Page", "7", "Expression", "-LRB-", "7", "-RRB-", "may", "be", "considered", "as", "an", "extension", "of", "Shannon", "'s", "decomposition", "-LRB-", "2", "-RRB-", "in", "the", "sense", "that", "the", "positive", "self-dual", "function", "x", "in", "-LRB-", "2", "-RRB-", "is", "now", "replaced", "by", "a", "general", "positive", "selfdual", "function", "g", ".", "It", "is", "also", "easy", "to", "see", "that", "if", "g", "is", "self-dual", ",", "then", "the", "function", "f", "''", "g", "is", "always", "dual-major", ",", "and", "that", "if", "g", "is", "self-dual", "and", "f", "is", "dual-major", ",", "then", "f", "''", "g", "=", "f", ":", "Obviously", "f", "''", "g", "is", "positive", "if", "so", "are", "both", "f", "and", "g", ".", "If", "we", "have", "more", "than", "one", "self-dual", "function", ",", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", ",", "then", "f", "''", "-LRB-", "g1g2", ":", ":", ":", "gk", "-RRB-", "=", "-LRB-", "f", "''", "g1", "-RRB-", "-LRB-", "f", "''", "g2", "-RRB-", "?", "?", "?", "-LRB-", "f", "''", "gk", "-RRB-", "holds", "for", "any", "f", ".", "From", "this", ",", "we", "see", "that", ",", "for", "any", "function", "f", ",", "f", "=", "-LRB-", "f", "''", "g1", "-RRB-", "-LRB-", "f", "''", "g2", "-RRB-", "?", "?", "?", "-LRB-", "f", "''", "gk", "-RRB-", ",", "fdg1g2", "?", "?", "?", "gk", "<", "=", "f", ";", "where", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", "are", "all", "assumed", "to", "be", "self-dual", ".", "The", "latter", "condition", "can", "be", "further", "written", "as", "follows", ":", "fdg1g2", "?", "?", "?", "gk", "<", "=", "f", ",", "g1g2", "?", "?", "?", "gk", "<", "=", "f", "+", "f", "?", ";", "since", "it", "is", "easy", "to", "see", "in", "general", "that", "fg", "<", "=", "h", ",", "g", "<", "=", "h", "+", "?", "f", ":", "-LRB-", "8", "-RRB-", "Combining", "these", "properties", ",", "we", "establish", "the", "next", "theorem", ".", "Theorem", "5", "-LRB-", "i", "-RRB-", "Let", "f", "be", "a", "dual-minor", "function", ".", "Then", "f", "can", "be", "decomposed", "into", "k", "self-dual", "functions", "-LRB-", "f", "''", "gi", "-RRB-", ";", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", ":", "f", "=", "-LRB-", "f", "''", "g1", "-RRB-", "-LRB-", "f", "''", "g2", "-RRB-", "?", "?", "?", "-LRB-", "f", "''", "gk", "-RRB-", ";", "-LRB-", "9", "-RRB-", "defined", "by", "self-dual", "functions", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", ",", "if", "and", "only", "if", "g1g2", "?", "?", "?", "gk", "<", "=", "f", "+", "f", "?", ":", "-LRB-", "10", "-RRB-", "-LRB-", "ii", "-RRB-", "Let", "f", "be", "a", "positive", "dual-minor", "function", ".", "Then", "f", "can", "be", "decomposed", "into", "k", "positive", "self-dual", "functions", "in", "the", "manner", "of", "-LRB-", "9", "-RRB-", ",", "where", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", "are", "positive", "self-dual", "functions", ",", "if", "and", "only", "if", "condition", "-LRB-", "10", "-RRB-", "holds", ".", "2", "In", "decomposition", "-LRB-", "9", "-RRB-", ",", "each", "self-dual", "function", "-LRB-", "f", "''", "gi", "-RRB-", "is", "called", "a", "component", "of", "it", ".", "Note", "that", "decomposition", "-LRB-", "9", "-RRB-", "does", "not", "lose", "any", "generality", "in", "comparison", "with", "the", "previous", "decomposition", "-LRB-", "3", "-RRB-", ",", "since", "any", "positive", "self-dual", "function", "fi", "with", "fi", ">", "=", "f", "-LRB-", "hence", "fi", "<", "=", "fd", "-RRB-", "can", "obviously", "be", "represented", "as", "fi", "=", "f", "''", "fi", ".", "Example", "1", "f", "=", "123", "+", "124", "+", "134", "+", "234", "fd", "=", "12", "+", "13", "+", "14", "+", "23", "+", "24", "+", "34", "f", "?", "=", "?", "1", "?", "2", "?", "3", "+", "?", "1", "?", "2", "?", "4", "+", "?", "1", "?", "3", "?", "4", "+", "?", "2", "?", "3", "?", "4", ";", "Page", "8", "RRR", "24-93", "where", "this", "f", "is", "positive", "and", "dual-minor", ",", "as", "easily", "checked", "by", "Lemma", "2", ".", "A", "set", "of", "positive", "self-dual", "functions", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", "satisfying", "condition", "-LRB-", "10", "-RRB-", "is", "for", "example", "given", "by", "g1", "=", "12", "+", "23", "+", "31", "g2", "=", "4", ":", "In", "fact", ",", "f1", "=", "f", "''", "g1", "=", "f", "+", "fdg1", "=", "12", "+", "23", "+", "31", "f2", "=", "f", "''", "g2", "=", "14", "+", "24", "+", "34", "+", "123", "are", "both", "positive", "and", "self-dual", ",", "and", "it", "is", "immediate", "to", "see", "that", "f", "=", "f1f2", ".", "2", "In", "Section", "3", ",", "we", "shall", "find", "more", "systematically", "the", "positive", "self-dual", "functions", "g1", ";", "g2", ";", ":", ":", ":", ";", "gk", "that", "satisfy", "Theorem", "5", ".", "2.3", "Decomposition", "into", "Two", "Positive", "Self-Dual", "Functions", "As", "shown", "in", "Lemma", "3", "and", "Theorem", "4", ",", "a", "positive", "dual-minor", "function", "f", "can", "be", "decomposed", "into", "f", "=", "f1f2", ",", "where", "f1", "=", "f", "_", "+", "h", "and", "f2", "=", "f", "_", "+", "h", "?", "are", "self-dual", ".", "We", "derive", "here", "the", "condition", "for", "these", "two", "functions", "to", "be", "positive", ".", "Assume", "that", "the", "above", "f1", "and", "f2", "-LRB-", "see", "Fig.", "3", "-RRB-", "are", "both", "positive", "and", "consider", "the", "set", "M", "of", "minimal", "true", "vectors", "in", "minT", "-LRB-", "fd", "-RRB-", ",", "which", "are", "not", "in", "minT", "-LRB-", "f", "-RRB-", ",", "i.e.", ",", "M", "=", "minT", "-LRB-", "fd", "-RRB-", "n", "minT", "-LRB-", "f", "-RRB-", ":", "-LRB-", "11", "-RRB-", "-LRB-", "An", "interpretation", "of", "set", "M", "will", "be", "given", "in", "Section", "3.2", "as", "Theorem", "14", ".", "-RRB-", "Then", "each", "x", "2", "M", "belongs", "to", "exactly", "one", "of", "T", "-LRB-", "h", "-RRB-", "and", "T", "-LRB-", "h", "?", "-RRB-", "-LRB-", "recall", "that", "M", "?", "T", "-LRB-", "fd", "?", "f", "-RRB-", "and", "fd", "?", "f", "=", "h", "_", "+", "h", "?", "-RRB-", ".", "Call", "two", "vectors", "x", "and", "y", "disjoint", "if", "there", "is", "no", "i", "such", "that", "xi", "=", "yi", "=", "1", ".", "If", "x", "and", "y", "in", "M", "are", "disjoint", ",", "then", "exactly", "one", "of", "them", "belongs", "to", "T", "-LRB-", "h", "-RRB-", "and", "the", "other", "belongs", "to", "T", "-LRB-", "h", "?", "-RRB-", ".", "To", "prove", "this", ",", "assume", "for", "example", "that", "x", ";", "y", "2", "T", "-LRB-", "h", "-RRB-", ".", "Since", "x", "and", "y", "are", "disjoint", ",", "x", "<", "=", "?", "y", "holds", "and", "?", "y", "2", "T", "-LRB-", "f1", "-RRB-", "by", "the", "positivity", "of", "f1", "=", "f", "_", "+", "h", ".", "Then", "T", "-LRB-", "f1", "-RRB-", "contains", "both", "y", "and", "?", "y", ",", "and", "is", "not", "self-dual", "-LRB-", "see", "Lemma", "1", "-LRB-", "iii", "-RRB-", "3", "-RRB-", ",", "a", "contradiction", ".", "Therefore", ",", "M", "has", "a", "partition", "into", "M1", "=", "M", "\\", "T", "-LRB-", "h", "-RRB-", "and", "M2", "=", "M", "\\", "T", "-LRB-", "h", "?", "-RRB-", "such", "that", "neither", "of", "them", "contains", "a", "disjoint", "pair", "of", "vectors", ".", "Theorem", "6", "A", "positive", "dual-minor", "function", "f", "has", "a", "decomposition", "f", "=", "f1f2", "into", "two", "positive", "self-dual", "functions", "f1", "and", "f2", "if", "and", "only", "if", "set", "M", "of", "-LRB-", "11", "-RRB-", "has", "a", "partition", "into", "M1", "and", "M2", "such", "that", "neither", "of", "them", "contains", "a", "disjoint", "pair", "of", "vectors", ".", "Proof", "The", "necessity", "was", "already", "proved", ".", "To", "prove", "the", "sufficiency", ",", "define", "two", "positive", "functions", "f1", "and", "f2", "by", "minT", "-LRB-", "fi", "-RRB-", "=", "MinSet", "-LRB-", "Mi", "-LSB-", "minT", "-LRB-", "f", "-RRB-", "-RRB-", ";", "i", "=", "1", ";", "2", ";", "where", "MinSet", "-LRB-", "A", "-RRB-", "gives", "the", "set", "of", "all", "minimal", "vectors", "in", "A", ".", "It", "easily", "follows", "from", "the", "definition", "that", "f", "<", "=", "f1", ",", "f", "<", "=", "f2", "and", "fd", "=", "f1", "+", "f2", ".", "As", "illustrated", "in", "Fig.", "3", ",", "x", "2", "T", "-LRB-", "f", "-RRB-", ",", "?", "x", "2", "T", "-LRB-", "f", "?", "-RRB-", "RRR", "24-93", "Page", "9", "and", "x", "2", "T", "-LRB-", "fd", "?", "f", "-RRB-", ",", "?", "x", "2", "T", "-LRB-", "fd", "?", "f", "-RRB-", ".", "That", "is", ",", "for", "any", "x", ",", "either", "exactly", "one", "of", "x", "and", "?", "x", "belongs", "to", "T", "-LRB-", "f", "-RRB-", ",", "or", "both", "of", "x", "and", "?", "x", "belong", "to", "T", "-LRB-", "fd", "?", "f", "-RRB-", ".", "Now", "take", "a", "vector", "x", "2", "T", "-LRB-", "f1", "?", "f", "-RRB-", ".", "Then", "?", "x", "2", "T", "-LRB-", "f2", "?", "f", "-RRB-", "holds", ",", "for", "otherwise", "there", "is", "y", "2", "M1", "such", "that", "y", "<", "=", "?", "x", ",", "but", "y", "and", "x", "are", "disjoint", "and", "contradict", "the", "assumption", "on", "M1", ".", "A", "symmetric", "argument", "also", "applies", "to", "x", "2", "T", "-LRB-", "f2", "?", "f", "-RRB-", ".", "Consequently", ",", "for", "any", "x", ",", "exactly", "one", "of", "x", "and", "?", "x", "belongs", "to", "T", "-LRB-", "f1", "-RRB-", "and", "hence", "f1", "is", "self-dual", ".", "Similarly", ",", "f2", "is", "also", "self-dual", ".", "This", "argument", "also", "shows", "that", "f", "=", "f1f2", ".", "2", "The", "existence", "of", "the", "above", "partition", "M1", "and", "M2", "can", "be", "found", "by", "constructing", "an", "undirected", "graph", "Gf", "=", "-LRB-", "V", ";", "E", "-RRB-", "such", "that", "V", "=", "M", "E", "=", "f", "-LRB-", "x", ";", "y", "-RRB-", "j", "x", ";", "y", "2", "M", ";", "x", "and", "y", "are", "disjointg", ":", "It", "is", "easy", "to", "see", "that", "M", "satisfies", "the", "condition", "of", "Theorem", "6", "if", "and", "only", "if", "Gf", "has", "two", "independent", "subsets", "M1", "and", "M2", "such", "that", "M1", "\\", "M2", "=", ";", "and", "M1", "-LSB-", "M2", "=", "M", ":", "This", "condition", "can", "be", "stated", "as", "follows", ".", "Corollary", "7", "A", "positive", "dual-minor", "function", "f", "has", "a", "decomposition", "M1", "and", "M2", "of", "Theorem", "6", "if", "and", "only", "if", "Gf", "is", "bipartite", ".", "2", "It", "is", "also", "possible", "to", "define", "Gf", "over", "the", "node", "set", "minT", "-LRB-", "fd", "-RRB-", "instead", "of", "M", ",", "since", "any", "x", "2", "minT", "-LRB-", "fd", "-RRB-", "\\", "minT", "-LRB-", "f", "-RRB-", "and", "any", "y", "2", "M", "are", "not", "disjoint", "-LRB-", "by", "the", "definition", "of", "fd", "-RRB-", ",", "implying", "that", "such", "x", "has", "nothing", "to", "do", "with", "the", "bipartiteness", "of", "Gf", ".", "Example", "2", "-LRB-", "i", "-RRB-", "Consider", "the", "following", "f", "and", "fd", ":", "f", "=", "123", "+", "125", "+", "134", "+", "145", "+", "2345", "fd", "=", "12", "+", "13", "+", "14", "+", "15", "+", "24", "+", "35", ":", "Its", "Gf", "is", "shown", "in", "Fig.", "5", "-LRB-", "a", "-RRB-", ",", "in", "which", "each", "vector", "x", "2", "M", "is", "represented", "by", "the", "corresponding", "monomial", ".", "This", "Gf", "is", "obviously", "bipartite", ",", "and", "M", "has", "a", "partition", "into", "the", "following", "two", "independent", "sets", ":", "M1", "=", "f12", ";", "14", ";", "24g", ";", "M2", "=", "f13", ";", "15", ";", "35g", ":", "Therefore", ",", "f", "has", "a", "decomposition", "f", "=", "f1f2", "into", "two", "positive", "self-dual", "functions", "f1", "=", "12", "+", "14", "+", "24", "f2", "=", "13", "+", "15", "+", "35", ":", "-LRB-", "ii", "-RRB-", "Consider", "the", "following", "f", "and", "fd", ":", "f", "=", "124", "+", "134", "+", "135", "+", "235", "+", "245", "fd", "=", "12", "+", "15", "+", "23", "+", "34", "+", "45", ":", "Its", "Gf", "is", "shown", "in", "Fig.", "5", "-LRB-", "b", "-RRB-", ",", "but", "is", "not", "bipartite", ",", "i.e.", ",", "this", "f", "does", "not", "have", "a", "decomposition", "into", "two", "positive", "self-dual", "functions", ".", "2", "Page", "10", "RRR", "24-93", "3", "Canonical", "Decomposition", "of", "Positive", "Self-Dual", "Func", "-", "tions", "3.1", "Canonical", "Decomposition", "Recall", "that", "every", "variable", "xj", "itself", "is", "a", "positive", "self-dual", "function", ".", "If", "gi", "=", "xji", "are", "used", "for", "all", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", ",", "the", "decomposition", "-LRB-", "9", "-RRB-", "of", "f", "is", "called", "a", "canonical", "decomposition", ".", "A", "canonical", "decomposition", "is", "called", "minimal", "if", "none", "of", "its", "components", "can", "be", "deleted", ".", "For", "any", "positive", "function", "f", ",", "it", "always", "holds", "that", "x1x2", "?", "?", "?", "xn", "<", "=", "f", "+", "f", "?", ";", "and", "hence", "by", "Theorem", "5", "we", "have", "a", "canonical", "decomposition", "f", "=", "f1f2", "?", "?", "?", "fn", "fi", "=", "f", "''", "xi", ";", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "n", ":", "In", "other", "words", ",", "any", "positive", "dual-minor", "function", "f", "of", "n", "-LRB-", ">", "0", "-RRB-", "variables", "can", "always", "be", "decomposed", "into", "n", "positive", "self-dual", "functions", ".", "However", ",", "we", "usually", "have", "a", "smaller", "canonical", "decomposition", ":", "Theorem", "8", "Let", "f", "be", "positive", "and", "dual-minor", ",", "and", "let", "m", "=", "xj1xj2", "?", "?", "?", "xjk", "be", "one", "of", "its", "prime", "implicants", ".", "Then", "there", "is", "the", "corresponding", "canonical", "decomposition", ":", "f", "=", "fj1fj2", "?", "?", "?", "fjk", "fji", "=", "f", "''", "xji", ";", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", ":", "Proof", "Immediate", "from", "Theorem", "5", ",", "since", "m", "<", "=", "f", "+", "f", "?", ".", "2", "Example", "3", "Consider", "a", "positive", "dual-minor", "function", "and", "its", "dual", ":", "f", "=", "123", "+", "234", "+", "235", "+", "145", "fd", "=", "12", "+", "13", "+", "24", "+", "25", "+", "34", "+", "35", "+", "145", "Then", ",", "by", "Lemma", "8", ",", "we", "have", "canonical", "decompositions", "f", "=", "f1f2f3", "=", "f2f3f4", "=", "f2f3f5", "=", "f1f4f5", ";", "where", "fj", "=", "f", "''", "xj", ".", "However", "some", "of", "these", "are", "not", "minimal", ",", "since", "there", "is", "another", "canonical", "decomposition", "f", "=", "f2f3", ";", "as", "easily", "checked", "-LRB-", "see", "also", "Example", "4", "-RRB-", ".", "2", "This", "example", "shows", "that", "the", "canonical", "decompositions", "of", "Theorem", "8", ",", "corresponding", "to", "prime", "implicants", ",", "are", "not", "generally", "minimal", ",", "though", "these", "usually", "give", "small", "decompositions", ".", "We", "consider", "in", "the", "next", "section", "how", "to", "compute", "minimal", "canonical", "decompositions", ".", "RRR", "24-93", "Page", "11", "3.2", "Minimal", "Canonical", "Decomposition", "In", "order", "to", "derive", "a", "condition", "for", "minimal", "canonical", "decompositions", ",", "we", "examine", "the", "condition", "-LRB-", "10", "-RRB-", "of", "Theorem", "5", "more", "carefully", ".", "Since", "the", "function", "f", "+", "f", "?", "in", "-LRB-", "10", "-RRB-", "is", "not", "positive", ",", "we", "define", "the", "positive", "core", "of", "f", "by", "<", "=", "f", "=", "_", "fh", "j", "h", "<", "=", "f", "+", "f", "?", ";", "h", ":", "positiveg", ":", "-LRB-", "12", "-RRB-", "The", "dual", "of", "<", "=", "f", "is", "denoted", "by", "^", "f", ",", "and", "is", "called", "the", "positive", "closure", "of", "f", ".", "It", "is", "easy", "to", "see", "that", "this", "<", "=", "f", "is", "unique", ",", "since", "the", "disjunction", "of", "two", "positive", "functions", "contained", "in", "f", "+", "f", "?", "is", "also", "positive", "and", "contained", "in", "f", "+", "f", "?", ".", "Obviously", "f", "<", "=", "<", "=", "f", ",", "and", "for", "any", "positive", "function", "h", ",", "h", "<", "=", "f", "+", "f", "?", ",", "h", "<", "=", "<", "=", "f", ",", "i.e.", ",", "<", "=", "f", "is", "the", "unique", "maximal", "positive", "function", "contained", "in", "f", "+", "f", "?", ".", "Therefore", ",", "we", "have", "the", "following", "corollary", "to", "Theorem", "5", ".", "Corollary", "9", "Let", "f", "be", "a", "positive", "dual-minor", "function", ".", "Then", "f", "has", "a", "canonical", "decomposition", "f", "=", "fj1fj2", "?", "?", "?", "fjk", "with", "fji", "=", "f", "''", "xji", ";", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", ",", "if", "and", "only", "if", "xj1xj2", "?", "?", "?", "xjk", "<", "=", "<", "=", "f", ":", "2", "Furthermore", ",", "there", "is", "a", "one-to-one", "correspondence", "between", "the", "minimal", "canonical", "decompositions", "of", "f", "and", "the", "prime", "implicants", "of", "<", "=", "f", ".", "Theorem", "10", "Let", "f", "be", "a", "positive", "dual-minor", "function", ".", "Then", "f", "=", "fj1fj2", "?", "?", "?", "fjk", "is", "a", "minimal", "decomposition", "of", "f", "if", "and", "only", "if", "xj1xj2", "?", "?", "?", "xjk", "is", "a", "prime", "implicant", "of", "<", "=", "f", ".", "Proof", "This", "directly", "follows", "from", "Corollary", "9", ".", "The", "correspondence", "between", "the", "minimality", "and", "the", "prime", "implicant", "is", "obvious", "from", "their", "definitions", ".", "2", "Now", "we", "turn", "our", "attention", "to", "how", "to", "compute", "the", "prime", "implicants", "of", "<", "=", "f", ",", "starting", "from", "the", "next", "lemma", ".", "Lemma", "11", "Let", "f", "be", "a", "positive", "function", ".", "The", "following", "conditions", "are", "all", "equivalent", ".", "-LRB-", "i", "-RRB-", "g", "is", "the", "positive", "core", "of", "f", ".", "-LRB-", "ii", "-RRB-", "g", "is", "the", "maximal", "positive", "function", "such", "that", "g", "+", "g", "?", "=", "f", "+", "f", "?", ".", "-LRB-", "iii", "-RRB-", "g", "is", "the", "maximal", "positive", "function", "such", "that", "fdg", "=", "f", ".", "-LRB-", "iv", "-RRB-", "g", "is", "the", "maximal", "positive", "function", "such", "that", "gd?g", "=", "fd", "?", "f", ".", "-LRB-", "v", "-RRB-", "gd", "is", "the", "minimal", "positive", "function", "such", "that", "gd", ">", "=", "fd", "?", "f", ".", "Proof", "-LRB-", "i", "-RRB-", "-RRB-", "-LRB-", "ii", "-RRB-", ":", "Since", "g", "<", "=", "f", "+", "f", "?", "and", "function", "f", "+", "f", "?", "is", "anti-dual", ",", "we", "have", "g", "?", "<", "=", "f", "+", "f", "?", "and", "hence", "g", "+", "g", "?", "<", "=", "f", "+", "f", "?", ".", "Further", ",", "f", "<", "=", "g", "implies", "f", "+", "f", "?", "<", "=", "g", "+", "g", "?", "and", "hence", "f", "+", "f", "?", "=", "g", "+", "g", "?", ".", "If", "h", "is", "a", "positive", "function", "such", "that", "h", "+", "h", "?", "=", "f", "+", "f", "?", ",", "then", "h", "<", "=", "f", "+", "f", "?", "and", "by", "the", "maximality", "of", "the", "positive", "core", "g", "we", "conclude", "h", "<", "=", "g.", "-LRB-", "ii", "-RRB-", "-RRB-", "-LRB-", "iii", "-RRB-", ":", "Let", "g", "be", "the", "maximal", "positive", "function", "such", "that", "g", "+", "g", "?", "=", "f", "+", "f", "?", ".", "Then", "fdg", "<", "=", "f", ",", "for", "g", "+", "g", "?", "<", "=", "f", "+", "f", "?", "implies", "fd", "-LRB-", "g", "+", "g", "?", "-RRB-", "<", "=", "f", "-LRB-", "see", "-LRB-", "8", "-RRB-", "-RRB-", ".", "By", "the", "maximality", "of", "g", "in", "-LRB-", "ii", "-RRB-", ",", "we", "have", "f", "<", "=", "g.", "From", "these", "we", "conclude", "that", "fdg", "=", "f", ".", "It", "is", "easy", "to", "show", "that", "g", "is", "also", "maximal", "with", "respect", "to", "this", "property", ".", "-LRB-", "iii", "-RRB-", "-RRB-", "-LRB-", "i", "-RRB-", ":", "Obvious", "since", "fdg", "=", "f", "implies", "g", "<", "=", "f", "+", "f", "?", "by", "property", "-LRB-", "8", "-RRB-", ".", "Page", "12", "RRR", "24-93", "The", "equivalences", "-LRB-", "ii", "-RRB-", ",", "-LRB-", "iv", "-RRB-", "-LRB-", "recall", "that", "gd?g", "=", "fd", "?", "f", "is", "the", "dual", "form", "of", "g", "+", "g", "?", "=", "f", "+", "f", "?", "-RRB-", "and", "-LRB-", "i", "-RRB-", ",", "-LRB-", "v", "-RRB-", "-LRB-", "recall", "that", "gd", ">", "=", "fd", "?", "f", "is", "the", "dual", "form", "of", "g", "<", "=", "f", "+", "f", "?", "-RRB-", "can", "be", "proved", "similarly", ".", "2", "Lemma", "11", "-LRB-", "v", "-RRB-", "states", "that", "the", "positive", "closure", "^", "f", "is", "given", "by", "the", "dual", "form", "of", "-LRB-", "12", "-RRB-", ":", "^", "f", "=", "^", "fh", "j", "h", ">", "=", "fd", "?", "f", ";", "h", ":", "positiveg", ":", "Lemma", "12", "Let", "f", "be", "a", "positive", "function", ".", "Then", "its", "positive", "closure", "^", "f", "satisfies", "minT", "-LRB-", "^", "f", "-RRB-", "=", "minT", "-LRB-", "fd", "?", "f", "-RRB-", ":", "Proof", "By", "^", "f", ">", "=", "fd", "?", "f", "-LRB-", "Lemma", "11", "-LRB-", "v", "-RRB-", "-RRB-", ",", "there", "is", "a", "y", "2", "minT", "-LRB-", "^", "f", "-RRB-", "such", "that", "y", "<", "=", "x", "for", "any", "x", "2", "minT", "-LRB-", "fd", "?", "f", "-RRB-", ".", "If", "y", "<", ">", "x", ",", "then", "take", "all", "x", "-LRB-", "i", "-RRB-", "2", "minT", "-LRB-", "fd", "?", "f", "-RRB-", ",", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "p", ",", "such", "that", "y", "<", "=", "x", "-LRB-", "i", "-RRB-", "and", "z", "6", "<", "=", "x", "-LRB-", "i", "-RRB-", "for", "any", "z", "-LRB-", "6", "=", "y", "-RRB-", "2", "minT", "-LRB-", "^", "f", "-RRB-", ".", "Define", "a", "positive", "function", "g", "by", "minT", "-LRB-", "g", "-RRB-", "=", "-LRB-", "minT", "-LRB-", "^", "f", "-RRB-", "?", "fyg", "-RRB-", "-LSB-", "fx", "-LRB-", "i", "-RRB-", "j", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "pg", ".", "This", "g", "satisfies", "g", "<", ">", "^", "f", "and", "^", "f", ">", "=", "g", ">", "=", "fd", "?", "f", ",", "contradicting", "the", "minimality", "of", "^", "f", ".", "Therefore", "y", "=", "x", "must", "hold", ",", "and", "hence", "minT", "-LRB-", "^", "f", "-RRB-", "?", "minT", "-LRB-", "fd", "?", "f", "-RRB-", ".", "Furthermore", ",", "if", "minT", "-LRB-", "^", "f", "-RRB-", "<", ">", "minT", "-LRB-", "fd", "?", "f", "-RRB-", ",", "then", "take", "y", "2", "minT", "-LRB-", "^", "f", "-RRB-", "n", "minT", "-LRB-", "fd", "?", "f", "-RRB-", "and", "define", "a", "positive", "function", "h", "by", "minT", "-LRB-", "h", "-RRB-", "=", "-LRB-", "minT", "-LRB-", "^", "f", "-RRB-", "?", "fyg", "-RRB-", ".", "This", "h", "again", "satisfies", "h", "<", ">", "^", "f", "and", "^", "f", ">", "=", "h", ">", "=", "fd", "?", "f", ",", "a", "contradiction", ".", "This", "proves", "the", "lemma", ".", "2", "Lemma", "13", "Let", "f", "and", "g", "be", "positive", "functions", "such", "that", "f", "<", "=", "g", ".", "Then", "minT", "-LRB-", "g", "?", "f", "-RRB-", "=", "minT", "-LRB-", "g", "-RRB-", "n", "minT", "-LRB-", "f", "-RRB-", ":", "Proof", "It", "is", "first", "shown", "that", "minT", "-LRB-", "g", "?", "f", "-RRB-", "=", "minT", "-LRB-", "g", "-RRB-", "n", "T", "-LRB-", "f", "-RRB-", ";", "-LRB-", "13", "-RRB-", "for", "any", "positive", "functions", "f", "and", "g", ".", "Since", "minT", "-LRB-", "g", "?", "f", "-RRB-", "?", "minT", "-LRB-", "g", "-RRB-", "nT", "-LRB-", "f", "-RRB-", "is", "obvious", ",", "we", "only", "need", "to", "prove", "minT", "-LRB-", "g", "?", "f", "-RRB-", "?", "minT", "-LRB-", "g", "-RRB-", "n", "T", "-LRB-", "f", "-RRB-", ".", "Assume", "that", "w", "2", "minT", "-LRB-", "g", "?", "f", "-RRB-", "but", "w", "62", "minT", "-LRB-", "g", "-RRB-", "n", "T", "-LRB-", "f", "-RRB-", ",", "i.e.", ",", "there", "is", "y", "2", "minT", "-LRB-", "g", "-RRB-", "with", "y", "<", "w.", "However", ",", "y", "2", "T", "-LRB-", "g", "-RRB-", "and", "y", "62", "T", "-LRB-", "g", "?", "f", "-RRB-", "imply", "y", "2", "T", "-LRB-", "f", "-RRB-", ",", "which", "in", "turn", "implies", "w", "2", "T", "-LRB-", "f", "-RRB-", ",", "a", "contradiction", ".", "Hence", "-LRB-", "13", "-RRB-", "is", "proved", ".", "Next", ",", "minT", "-LRB-", "g", "-RRB-", "n", "T", "-LRB-", "f", "-RRB-", "?", "minT", "-LRB-", "g", "-RRB-", "n", "minT", "-LRB-", "f", "-RRB-", "is", "obvious", "by", "T", "-LRB-", "f", "-RRB-", "?", "minT", "-LRB-", "f", "-RRB-", ".", "Finally", ",", "if", "we", "assume", "f", "<", "=", "g", ",", "minT", "-LRB-", "g", "-RRB-", "n", "minT", "-LRB-", "f", "-RRB-", "?", "minT", "-LRB-", "g", "-RRB-", "n", "T", "-LRB-", "f", "-RRB-", "is", "also", "obvious", "since", "any", "x", "2", "minT", "-LRB-", "g", "-RRB-", "\\", "T", "-LRB-", "f", "-RRB-", "satisfies", "x", "2", "minT", "-LRB-", "f", "-RRB-", ".", "2", "Theorem", "14", "Let", "f", "be", "a", "positive", "dual-minor", "function", ".", "Then", "its", "positive", "closure", "^", "f", "satisfies", "minT", "-LRB-", "^", "f", "-RRB-", "=", "minT", "-LRB-", "fd", "-RRB-", "n", "minT", "-LRB-", "f", "-RRB-", ":", "Proof", "Immediate", "from", "Lemmas", "12", "and", "13", ".", "2", "Noting", "that", "<", "=", "f", "is", "the", "dual", "of", "^", "f", ",", "we", "now", "have", "the", "following", "algorithm", "to", "compute", "all", "prime", "implicants", "of", "the", "positive", "core", "<", "=", "f", ".", "Algorithm", "POSITIVE-CORE", "RRR", "24-93", "Page", "13", "Input", ":", "A", "positive", "dual-minor", "function", "f", ".", "Output", ":", "All", "prime", "implicants", "of", "<", "=", "f", ".", "1", ".", "Dualize", "f", "to", "compute", "all", "prime", "implicants", "of", "fd", ".", "2", ".", "Remove", "all", "prime", "implicants", "of", "fd", "that", "are", "also", "prime", "implicants", "of", "f", "-LRB-", "by", "Theorem", "14", ",", "the", "resulting", "set", "gives", "all", "prime", "implicants", "of", "^", "f", "-RRB-", ".", "3", ".", "Dualize", "^", "f", ".", "This", "yields", "all", "prime", "implicants", "of", "<", "=", "f", ".", "2", "Example", "4", "We", "apply", "this", "algorithm", "to", "the", "positive", "dual-minor", "function", "f", "of", "Example", "3", ":", "f", "=", "123", "+", "234", "+", "235", "+", "145", "fd", "=", "12", "+", "13", "+", "24", "+", "25", "+", "34", "+", "35", "+", "145", "^", "f", "=", "12", "+", "13", "+", "24", "+", "25", "+", "34", "+", "35", "<", "=", "f", "=", "23", "+", "145", ":", "Therefore", ",", "by", "Theorem", "10", ",", "f", "has", "the", "following", "two", "minimal", "canonical", "decompositions", "and", "no", "others", ".", "f", "=", "f2f3", "and", "f", "=", "f1f4f5", ":", "2", "Before", "concluding", "this", "subsection", ",", "we", "apply", "Algorithm", "POSITIVE-CORE", "to", "the", "function", "f", "of", "Example", "2", "-LRB-", "i", "-RRB-", ".", "Then", "^", "f", "=", "fd", ",", "and", "hence", "<", "=", "f", "=", "f", ".", "Therefore", ",", "any", "minimal", "canonical", "decomposition", "has", "at", "least", "three", "components", ".", "However", ",", "as", "we", "have", "seen", "in", "Example", "2", "-LRB-", "i", "-RRB-", ",", "this", "f", "has", "a", "decomposition", "into", "two", "components", ",", "showing", "that", "canonical", "decompositions", "do", "not", "generally", "contain", "a", "decomposition", "into", "the", "smallest", "number", "of", "components", ".", "The", "problem", "of", "finding", "a", "decomposition", "with", "the", "smallest", "number", "of", "components", "appears", "to", "be", "very", "difficult", ",", "except", "for", "the", "case", "of", "two", "components", ",", "which", "was", "discussed", "in", "Section", "2.3", ".", "3.3", "A", "Simple", "B-Decomposition", "Algorithm", "Given", "a", "positive", "self-dual", "function", "f", ",", "one", "of", "its", "B-decomposition", "-LRB-", "explained", "in", "Section", "2.1", "-RRB-", "can", "be", "obtained", "by", "recursively", "applying", "canonical", "decompositions", "to", "all", "the", "positive", "dualminor", "functions", "generated", "by", "Shannon", "'s", "decomposition", ".", "The", "entire", "algorithm", "is", "described", "by", "two", "procedures", "SD", "-LRB-", "f", "-RRB-", "and", "DM", "-LRB-", "f", "-RRB-", ".", "SD", "-LRB-", "f", "-RRB-", "outputs", "a", "positive", "dual-minor", "function", "g", "obtained", "by", "Shannon", "'s", "decomposition", "-LRB-", "2", "-RRB-", "applied", "to", "f", ",", "where", "f", "is", "assumed", "without", "loss", "of", "generality", "to", "contain", "at", "least", "three", "variables", ".", "Given", "a", "positive", "dual-minor", "function", "g", ",", "DM", "-LRB-", "g", "-RRB-", "then", "computes", "a", "canonical", "decomposition", "g", "=", "fj1fj2", "?", "?", "?", "fjk", ",", "obtains", "positive", "dual-minor", "functions", "gji", "=", "fji", "-LRB-", "xji", "=", "0", "-RRB-", "=", "g", "-LRB-", "xji", "=", "0", "-RRB-", ";", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "k", ",", "and", "then", "recursively", "calls", "DM", "-LRB-", "gji", "-RRB-", "if", "gji", "<", ">", "?", ".", "Algorithm", "SD", "-LRB-", "f", "-RRB-", "1", ".", "Choose", "a", "variable", "x", "of", "f", ".", "2", ".", "Apply", "Shannon", "'s", "decomposition", "f", "=", "g", "+", "gdx", ",", "where", "g", "=", "f", "-LRB-", "x", "=", "0", "-RRB-", ".", "3", ".", "Call", "DM", "-LRB-", "g", "-RRB-", ".", "-LRB-", "Note", "that", "gd", "in", "step", "2", "is", "not", "explicitly", "required", ",", "since", "only", "g", "is", "used", "in", "this", "step", ".", "-RRB-", "2", "Page", "14", "RRR", "24-93", "Algorithm", "DM", "-LRB-", "g", "-RRB-", "1", ".", "Find", "a", "monomial", "m", "=", "xj1xj2", "?", "?", "?", "xjk", "such", "that", "m", "<", "=", "<", "=", "g", "-LRB-", "i.e.", ",", "the", "condition", "of", "Corollary", "9", "-RRB-", ",", "and", "derive", "the", "corresponding", "canonical", "decomposition", "g", "=", "fj1fj2", "?", "?", "?", "fjk", "fji", "=", "g", "''", "xji", ";", "i", "=", "1", ";", "2", ";", ";", ":", ":", ":", ";", "k", ":", "2", ".", "For", "each", "of", "the", "positive", "dual-minor", "functions", "gji", "=", "fji", "-LRB-", "xji", "=", "0", "-RRB-", "=", "g", "-LRB-", "xji", "=", "0", "-RRB-", ";", "i", "=", "1", ";", "2", ";", ";", ":", ":", ":", ";", "k", ";", "call", "DM", "-LRB-", "gji", "-RRB-", "if", "gji", "<", ">", "?", ".", "2", "Example", "5", "Let", "us", "compute", "a", "B-decomposition", "of", "f", "=", "123", "+", "234", "+", "235", "+", "145", "+", "126", "+", "136", "+", "246", "+", "256", "+", "346", "+", "356", ";", "which", "is", "positive", "and", "self-dual", ".", "We", "first", "execute", "SD", "-LRB-", "f", "-RRB-", ".", "In", "step", "1", "of", "SD", "-LRB-", "f", "-RRB-", ",", "choose", "variable", "x", "=", "x6", ",", "and", "we", "have", "g", "=", "f", "-LRB-", "x6", "=", "0", "-RRB-", "=", "123", "+", "234", "+", "235", "+", "145", ":", "Then", "we", "execute", "DM", "-LRB-", "g", "-RRB-", ".", "In", "step", "1", "of", "DM", "-LRB-", "g", "-RRB-", ",", "choose", "monomial", "m", "=", "23", "since", "it", "satisfies", "23", "<", "=", "<", "=", "g", ",", "as", "discussed", "in", "Example", "4", ".", "This", "gives", "the", "canonical", "decomposition", "g", "=", "f2f3", "fi", "=", "g", "''", "xi", ";", "i", "=", "2", ";", "3", "and", "g2", "=", "g", "-LRB-", "x2", "=", "0", "-RRB-", "=", "145", "g3", "=", "g", "-LRB-", "x3", "=", "0", "-RRB-", "=", "145", ":", "In", "step", "2", "of", "DM", "-LRB-", "g", "-RRB-", ",", "we", "first", "call", "DM", "-LRB-", "g2", "-RRB-", ".", "In", "step", "1", "of", "DM", "-LRB-", "g2", "-RRB-", ",", "choose", "m2", "=", "145", ",", "i.e.", ",", "g2", "=", "f21f24f25", "with", "f2i", "=", "g2", "''", "xi", ".", "Then", "g2", "-LRB-", "x1", "=", "0", "-RRB-", "=", "g2", "-LRB-", "x4", "=", "0", "-RRB-", "=", "g2", "-LRB-", "x5", "=", "0", "-RRB-", "=", "?", ";", "and", "no", "new", "call", "to", "DM", "is", "necessary", ".", "Since", "g3", "=", "g2", ",", "the", "call", "to", "DM", "-LRB-", "g3", "-RRB-", "gives", "the", "same", "result", ",", "and", "the", "entire", "computation", "halts", ".", "As", "discussed", "in", "Section", "2.1", ",", "each", "Shannon", "'s", "decomposition", "g", "=", "f1f2", "?", "?", "?", "fk", "+", "-LRB-", "f1", "+", "f2", "+", "?", "?", "?", "+", "fk", "-RRB-", "x", "can", "be", "realized", "by", "basic", "majority", "functions", "in", "the", "manner", "of", "Fig", ".", "2", "-LRB-", "b", "-RRB-", ".", "Therefore", ",", "by", "tracing", "the", "decompositions", "conducted", "in", "the", "above", "computation", ",", "we", "can", "obtain", "the", "corresponding", "B-decomposition", "of", "f", ",", "which", "is", "shown", "in", "Fig.", "6", ".", "2", "RRR", "24-93", "Page", "15", "In", "the", "above", "description", ",", "the", "selection", "rules", "in", "step", "1", "of", "SD", "and", "DM", "are", "not", "specified", ".", "We", "may", "employ", "the", "following", "heuristic", "rules", ".", "-LRB-", "i", "-RRB-", "In", "step", "1", "of", "SD", "-LRB-", "f", "-RRB-", ",", "choose", "a", "variable", "x", "that", "is", "not", "contained", "in", "all", "the", "shortest", "prime", "implicants", "of", "f", ".", "-LRB-", "As", "a", "result", "of", "this", "rule", ",", "g", "=", "f", "-LRB-", "x", "=", "0", "-RRB-", "contains", "a", "shortest", "prime", "implicant", "of", "f", ",", "and", "it", "may", "then", "be", "chosen", "in", "DM", "-LRB-", "g", "-RRB-", "as", "the", "monomial", "for", "decomposing", "g.", "-RRB-", "-LRB-", "ii", "-RRB-", "In", "step", "1", "of", "DM", "-LRB-", "g", "-RRB-", ",", "choose", "one", "of", "the", "shortest", "prime", "implicants", "m", "of", "g.", "-LRB-", "Such", "m", "always", "gives", "a", "canonical", "decomposition", "by", "Theorem", "8", ".", "-RRB-", "The", "rule", "-LRB-", "ii", "-RRB-", "is", "attractive", "for", "its", "simplicity", ",", "since", "the", "computation", "of", "a", "minimal", "canonical", "decomposition", ",", "as", "described", "in", "Section", "3.2", ",", "requires", "the", "dualization", "operation", "twice", ".", "On", "the", "contrary", ",", "computation", "with", "rule", "-LRB-", "ii", "-RRB-", "uses", "no", "dualization", "operation", "but", "repeats", "the", "following", "two", "operations", ".", "1", ".", "Find", "a", "shortest", "prime", "implicant", "m", "=", "xj1xj2", "?", "?", "?", "xjk", "of", "a", "given", "function", "g", "-LRB-", "instead", "of", "<", "=", "g", "-RRB-", ".", "2", ".", "Compute", "g", "-LRB-", "xji", "=", "0", "-RRB-", ";", "i", "=", "1", ";", "2", ";", ";", ":", ":", ":", ";", "k.", "However", ",", "this", "may", "result", "in", "a", "larger", "B-decomposition", ",", "compared", "with", "the", "one", "obtainable", "from", "minimal", "canonical", "decompositions", ".", "Example", "6", "Consider", "the", "same", "function", "f", "as", "discussed", "in", "Example", "5", ".", "SD", "-LRB-", "f", "-RRB-", "chooses", "the", "same", "variable", "x", "=", "x6", ",", "and", "we", "have", "the", "same", "g", "as", "that", "of", "Example", "5", ".", "However", ",", "in", "DM", "-LRB-", "g", "-RRB-", ",", "step", "1", "chooses", ",", "say", ",", "m", "=", "123", ",", "since", "this", "is", "one", "of", "the", "shortest", "prime", "implicants", ".", "Then", "we", "obtain", "g", "=", "f1f2f3", "fi", "=", "g", "''", "xi", ";", "i", "=", "1", ";", "2", ";", "3", "g1", "=", "234", "+", "235", ";", "g2", "=", "145", ";", "g3", "=", "145", ";", "where", "gi", "=", "fi", "-LRB-", "xi", "=", "0", "-RRB-", "=", "g", "-LRB-", "xi", "=", "0", "-RRB-", ".", "DM", "-LRB-", "g1", "-RRB-", "then", "chooses", "m1", "=", "234", "and", "obtains", "g1", "=", "f12f13f14", "f1i", "=", "g1", "''", "xi", ";", "i", "=", "2", ";", "3", ";", "4", "g12", "=", "?", ";", "g13", "=", "?", ";", "g14", "=", "235", ";", "where", "g1i", "=", "f1i", "-LRB-", "xi", "=", "0", "-RRB-", "=", "g1", "-LRB-", "xi", "=", "0", "-RRB-", ".", "Finally", "DM", "-LRB-", "g2", "-RRB-", ",", "DM", "-LRB-", "g3", "-RRB-", "and", "DM", "-LRB-", "g14", "-RRB-", "all", "choose", "their", "unique", "prime", "implicants", ",", "and", "halt", "by", "producing", "only", "functions", "?", ".", "This", "computation", "gives", "the", "B-decomposition", "of", "Fig.", "7", ".", "Note", "that", "it", "is", "larger", "than", "that", "of", "Fig.", "6", ",", "since", "the", "first", "function", "f", "is", "decomposed", "into", "three", "functions", "in", "this", "case", ",", "while", "it", "was", "decomposed", "into", "two", "functions", "in", "Example", "5", ".", "2", "Page", "16", "RRR", "24-93", "3.4", "Decomposition", "of", "General", "Self-Dual", "Functions", "We", "show", "here", "that", "the", "B-decomposition", "into", "basic", "majority", "functions", "can", "be", "extended", "to", "a", "general", "self-dual", "function", "f", ",", "which", "may", "not", "be", "positive", ".", "First", "note", "that", "Shannon", "'s", "decomposition", "-LRB-", "1", "-RRB-", "in", "this", "case", "yields", "f", "=", "g?x", "+", "gdx", ";", "where", "g", "=", "f", "-LRB-", "x", "=", "0", "-RRB-", "and", "gd", "=", "-LRB-", "f", "-LRB-", "x", "=", "0", "-RRB-", "-RRB-", "d", "=", "f", "-LRB-", "x", "=", "1", "-RRB-", ".", "Since", "g?x", "is", "dual-minor", "-LRB-", "in", "the", "sense", "of", "the", "condition", "in", "Lemma", "1", "-LRB-", "i", "-RRB-", "2", ",", "i.e.", ",", "w", "2", "T", "-LRB-", "g?x", "-RRB-", "-RRB-", "?", "w", "62", "T", "-LRB-", "g?x", "-RRB-", "-RRB-", ",", "it", "can", "be", "decomposed", "into", "two", "self-dual", "functions", "f1", "and", "f2", ":", "g?x", "=", "f1f2", "f1", "=", "g?x", "''", "?", "y", "=", "g?x", "+", "-LRB-", "gd", "+", "?", "x", "-RRB-", "?", "y", "=", "gd?y", "+", "-LRB-", "g", "+", "?", "y", "-RRB-", "?", "x", "f2", "=", "g?x", "''", "y", "=", "g?x", "+", "-LRB-", "gd", "+", "?", "x", "-RRB-", "y", "=", "gdy", "+", "-LRB-", "g", "+", "y", "-RRB-", "?", "x", ";", "where", "y", "is", "a", "variable", "of", "f", ".", "Note", "that", "m", "=", "y?y", "=", "?", "always", "satisfies", "condition", "-LRB-", "10", "-RRB-", "of", "Theorem", "5", ".", "Therefore", ",", "by", "-LRB-", "5", "-RRB-", ",", "we", "get", "f", "=", "-LSB-", "x", ";", "f1", ";", "f2", "-RSB-", ".", "However", ",", "f1", "and", "f2", "may", "still", "contain", "variable", "?", "x.", "To", "get", "rid", "of", "?", "x", ",", "we", "again", "apply", "the", "above", "decomposition", "to", "gd?y", "of", "f1", "and", "to", "gdy", "of", "f2", ",", "i.e.", ",", "gd?y", "=", "f11f12", "f11", "=", "gd?y", "''", "?", "y", "=", "?", "y", ";", "f12", "=", "gd?y", "''", "y", "=", "gd?y", "+", "gy", ";", "gdy", "=", "f21f22", "f21", "=", "gdy", "''", "?", "y", "=", "gdy", "+", "g?y", ";", "f22", "=", "gdy", "''", "y", "=", "y", ":", "This", "yields", "f1", "=", "-LSB-", "?", "x", ";", "f11", ";", "f12", "-RSB-", "and", "f2", "=", "-LSB-", "?", "x", ";", "f21", ";", "f22", "-RSB-", ",", "and", "hence", "f", "=", "-LSB-", "x", ";", "-LSB-", "?", "x", ";", "f11", ";", "f12", "-RSB-", ";", "-LSB-", "?", "x", ";", "f21", ";", "f22", "-RSB-", "-RSB-", ":", "-LRB-", "14", "-RRB-", "Note", "that", "functions", "f11", ";", "f12", ";", "f21", ";", "f22", "are", "again", "self-dual", ",", "and", "do", "not", "contain", "x", "or", "?", "x.", "Therefore", ",", "it", "is", "possible", "to", "repeat", "the", "same", "operation", "to", "the", "generated", "self-dual", "functions", "until", "only", "functions", "of", "one", "variable", "remain", ".", "The", "whole", "process", "gives", "a", "B-decomposition", "of", "f", ".", "Example", "7", "The", "odd", "parity", "function", ":", "f", "=", "?", "1", "?", "23", "+", "?", "12", "?", "3", "+", "1", "?", "2", "?", "3", "+", "123", "=", "-LRB-", "?", "12", "+", "1", "?", "2", "-RRB-", "?", "3", "+", "-LRB-", "?", "1", "?", "2", "+", "12", "-RRB-", "3", "can", "be", "decomposed", "into", "f1", "=", "-LRB-", "?", "12", "+", "1", "?", "2", "-RRB-", "?", "3", "''", "?", "2", "=", "-LRB-", "?", "12", "+", "1", "?", "2", "-RRB-", "?", "3", "+", "-LRB-", "?", "1", "?", "2", "+", "12", "+", "?", "3", "-RRB-", "?", "2", "=", "?", "1", "?", "2", "+", "-LRB-", "?", "12", "+", "?", "2", "-RRB-", "?", "3", "f2", "=", "-LRB-", "?", "12", "+", "1", "?", "2", "-RRB-", "?", "3", "''", "2", "=", "12", "+", "-LRB-", "1", "?", "2", "+", "2", "-RRB-", "?", "3", "f11", "=", "?", "1", "?", "2", "''", "?", "2", "=", "?", "2", "f12", "=", "?", "1", "?", "2", "''", "2", "=", "?", "1", "f21", "=", "12", "''", "?", "2", "=", "1", "f22", "=", "12", "''", "2", "=", "2", ";", "RRR", "24-93", "Page", "17", "where", "y", "=", "2", "is", "used", ".", "From", "these", ",", "we", "get", "a", "B-decomposition", ":", "f", "=", "-LSB-", "3", ";", "-LSB-", "?", "3", ";", "?", "2", ";", "?", "1", "-RSB-", ";", "-LSB-", "?", "3", ";", "1", ";", "2", "-RSB-", "-RSB-", ":", "2", "Since", "all", "self-dual", "functions", "of", "at", "most", "three", "variables", "are", "unate", "-LRB-", "i.e.", ",", "its", "MDF", "form", "contains", "only", "complemented", "literals", "or", "only", "uncomplemented", "literals", "for", "each", "variable", "-RRB-", ",", "the", "above", "discussion", "shows", "that", "any", "self-dual", "function", "can", "be", "composed", "of", "unate", "self-dual", "functions", ".", "3.5", "An", "Interpretation", "of", "<", "=", "f", "In", "concluding", "Section", "3", ",", "we", "point", "out", "that", "fd", "?", "f", "and", "<", "=", "f", "of", "a", "positive", "function", "f", "have", "an", "interesting", "interpretation", ".", "Let", "F", "be", "a", "family", "of", "subsets", "S", "?", "V", ",", "where", "V", "=", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", ".", "In", "other", "words", ",", "-LRB-", "V", ";", "F", "-RRB-", "is", "a", "hypergraph", "with", "node", "set", "V", "and", "edge", "set", "F", ".", "A", "function", "c", ":", "V", "!", "fr", ";", "bg", "is", "called", "a", "2-coloring", "if", "each", "S", "2", "F", "satisfies", "c", "-LRB-", "S", "-RRB-", "\\", "frg", "<", ">", ";", "and", "c", "-LRB-", "S", "-RRB-", "\\", "fbg", "<", ">", ";", ".", "In", "discussing", "a", "2-coloring", ",", "it", "is", "easy", "to", "show", "that", "any", "T", "2", "F", "such", "that", "T", "oe", "S", "for", "some", "S", "2", "F", "can", "be", "deleted", "without", "affecting", "the", "existence", "of", "a", "2-coloring", ".", "Hence", "we", "assume", "without", "loss", "of", "generality", "that", "no", "T", "2", "F", "contains", "other", "S", "2", "F", "as", "a", "subset", ",", "i.e.", ",", "hypergraph", "-LRB-", "V", ";", "F", "-RRB-", "is", "simple", ".", "Define", "the", "positive", "function", "fF", "from", "F", ",", "as", "discussed", "in", "Section", "1.2", ",", "and", "represent", "a", "2", "-", "coloring", "c", "by", "a", "vector", "x", "defined", "by", "xi", "=", "if", "c", "-LRB-", "i", "-RRB-", "=", "r", ",", "and", "1", "if", "c", "-LRB-", "i", "-RRB-", "=", "b", ".", "Then", "it", "is", "not", "difficult", "to", "see", "that", "x", "is", "a", "2", "?", "coloring", "of", "F", ",", "y", "6", "<", "=", "x", "and", "y", "6", "<", "=", "?", "x", "for", "any", "y", "2", "T", "-LRB-", "fF", "-RRB-", ",", "fF", "-LRB-", "x", "-RRB-", "=", "and", "fF", "-LRB-", "?", "x", "-RRB-", "=", "-LRB-", "by", "the", "positivity", "of", "fF", "-RRB-", ",", "x", "2", "T", "-LRB-", "fdF", "?", "fF", "-RRB-", "-LRB-", "by", "the", "definition", "of", "fdF", "and", "?", "fF", "-RRB-", ":", "Therefore", ",", "function", "fdF", "?", "fF", "represents", "the", "set", "of", "all", "2-colorings", "of", "F", ".", "Now", "consider", "the", "positive", "core", "<", "=", "fF", "of", "fF", ".", "By", "Lemma", "11", "-LRB-", "iv", "-RRB-", ",", "g", "=", "<", "=", "fF", "satisfies", "gd?g", "=", "fd", "?", "f", ".", "That", "is", ",", "the", "family", "of", "sets", "<", "=", "F", "corresponding", "to", "<", "=", "fF", "has", "the", "same", "set", "of", "2-colorings", "as", "the", "original", "F", ".", "Furthermore", ",", "by", "the", "maximality", "of", "g", "=", "<", "=", "fF", ",", "an", "addition", "of", "any", "subset", "T", "to", "<", "=", "F", ",", "such", "that", "no", "S", "2", "<", "=", "F", "satisfies", "S", "?", "T", ",", "destroys", "this", "property", ",", "i.e.", ",", "changes", "the", "set", "of", "2-colorings", ".", "In", "this", "sense", ",", "such", "<", "=", "F", "is", "saturated", "with", "respect", "to", "2-colorings", ".", "4", "Discussion", "We", "have", "not", "discussed", "so", "far", "the", "complexity", "issues", "of", "the", "problems", "introduced", "in", "this", "paper", ".", "Those", "problems", "include", ":", "1", ".", "To", "decide", "if", "a", "positive", "function", "f", "is", "self-dual", "-LRB-", "i.e.", ",", "if", "a", "coterie", "is", "non-dominated", "-RRB-", ",", "2", ".", "To", "compute", "the", "extension", "f", "''", "g", "of", "a", "positive", "dual-minor", "function", "f", "with", "respect", "to", "a", "positive", "self-dual", "function", "g", ",", "Page", "18", "RRR", "24-93", "3", ".", "To", "construct", "graph", "Gf", "of", "a", "positive", "dual-minor", "function", "f", ",", "defined", "in", "Section", "2.3", "-LRB-", "i.e.", ",", "to", "decide", "if", "there", "is", "a", "decomposition", "into", "two", "positive", "self-dual", "functions", "-RRB-", ",", "4", ".", "To", "compute", "the", "positive", "core", "<", "=", "f", "of", "a", "given", "positive", "dual-minor", "function", "-LRB-", "i.e.", ",", "Algorithm", "POSITIVE-CORE", "-RRB-", "in", "order", "to", "obtain", "a", "minimal", "canonical", "decomposition", ",", "5", ".", "To", "compute", "minT", "-LRB-", "^", "f", "-RRB-", "=", "minT", "-LRB-", "fd", "?", "f", "-RRB-", "-LRB-", "i.e.", ",", "to", "obtain", "all", "2-colorings", "of", "the", "family", "of", "subsets", "defined", "by", "f", "-RRB-", ".", "It", "is", "obvious", "that", "these", "problems", "can", "be", "solved", "in", "time", "polynomial", "in", "the", "length", "of", "its", "input", "and", "output", ",", "if", "dualization", "of", "a", "positive", "function", "is", "possible", "in", "polynomial", "time", "with", "respect", "to", "its", "output", "length", "jfdj", "as", "well", "as", "its", "input", "length", "jf", "j", ",", "where", "j", "?", "j", "denotes", "the", "length", "of", "its", "MDF", "form", ".", "Unfortunately", "it", "is", "not", "known", "yet", "whether", "this", "dualization", "can", "be", "done", "in", "polynomial", "time", "or", "not", ".", "It", "is", "known", "however", "that", "the", "dualization", "of", "a", "general", "Boolean", "function", "is", "NP-hard", ",", "and", "that", "some", "special", "classes", "of", "positive", "functions", "have", "polynomial", "time", "dualization", "algorithms", "-LRB-", "e.g.", ",", "-LSB-", "4", ",", "11", ",", "15", "-RSB-", "-RRB-", ".", "Problem", "1", "above", "is", "also", "a", "well-known", "open", "problem", ",", "first", "stated", "in", "-LSB-", "7", "-RSB-", ".", "The", "reader", "may", "find", "many", "related", "topics", "on", "these", "problems", "in", "such", "references", "as", "-LSB-", "3", ",", "4", ",", "6", ",", "7", ",", "9", ",", "10", ",", "15", "-RSB-", ".", "Also", "in", "our", "accompanying", "paper", "-LSB-", "2", "-RSB-", ",", "the", "equivalences", "among", "some", "of", "these", "problems", "and", "several", "problems", "taken", "from", "different", "areas", "such", "as", "computational", "learning", "theory", "are", "discussed", ".", "It", "is", "known", ",", "however", ",", "that", "deciding", "if", "a", "positive", "function", "f", "is", "dual-minor", "can", "be", "done", "in", "polynomial", "time", "by", "using", "Lemma", "2", ",", "and", "that", "deciding", "if", "a", "positive", "function", "f", "is", "dual-major", "is", "coNP-complete", "-LRB-", "e.g.", ",", "-LSB-", "2", "-RSB-", ";", "equivalent", "results", "can", "also", "be", "found", "in", "-LSB-", "7", ",", "6", "-RSB-", "and", "others", "-RRB-", ".", "Note", "that", "the", "latter", "does", "not", "imply", "that", "problem", "1", "is", "coNP-complete", ",", "since", "it", "essentially", "asks", "if", "a", "positive", "dual-minor", "function", "f", "is", "simultaneously", "dual-major", ".", "However", ",", "for", "general", "Boolean", "functions", ",", "it", "is", "proved", "in", "-LSB-", "2", "-RSB-", "that", "the", "problem", "of", "dediding", "whether", "a", "dual-minor", "function", "is", "dual-major", "is", "coNP-complete", ",", "and", "that", "the", "computation", "of", "<", "=", "f", "is", "NP-hard", ".", "It", "is", "also", "obvious", "that", "Algorithms", "SD", "-LRB-", "f", "-RRB-", "and", "DM", "-LRB-", "g", "-RRB-", "in", "Section", "3.3", "run", "in", "polynomial", "time", "if", "the", "simplified", "rules", "-LRB-", "i", "-RRB-", "and", "-LRB-", "ii", "-RRB-", "are", "employed", ".", "Finally", ",", "the", "functions", "fd", "?", "f", ";", "^", "f", "and", "<", "=", "f", "defined", "in", "this", "paper", "may", "deserve", "further", "attention", ".", "We", "gave", "an", "interesting", "interpretation", "of", "these", "functions", "in", "Section", "3.5", ".", "They", "may", "play", "an", "important", "role", "also", "in", "other", "applications", ".", "Acknowledgments", "The", "authors", "appreciate", "the", "discussion", "with", "Hiroshi", "Nagamochi", "and", "Kazuhisa", "Makino", "of", "Kyoto", "University", ",", "and", "thank", "Patrick", "van", "der", "Laag", "of", "Erasmus", "University", "for", "getting", "things", "right", "in", "LaTEX", ".", "This", "work", "was", "partially", "supported", "by", "a", "Grant", "in", "Aid", "by", "the", "Ministry", "of", "Education", ",", "Science", "and", "Culture", "of", "Japan", ".", "The", "second", "author", "gratefully", "acknowledges", "the", "partial", "support", "given", "to", "Rutcor", "by", "the", "Office", "of", "Naval", "Research", "-LRB-", "grants", "N0001492F1375", "and", "N0001492F4083", "-RRB-", "and", "by", "the", "Air", "Force", "Office", "of", "Scientific", "Research", "-LRB-", "grant", "F49620-93-1-0041", "-RRB-", ".", "RRR", "24-93", "Page", "19", "References", "-LSB-", "1", "-RSB-", "J.C.", "Bioch", ",", "Decompositions", "of", "coteries", "and", "Boolean", "functions", ",", "Tech", ".", "Rep.", "Dept.", "of", "Computer", "Science", "No.", "2", ",", "Erasmus", "University", "Rotterdam", ",", "The", "Netherlands", ",", "January", "1993", ".", "-LSB-", "2", "-RSB-", "J.C.", "Bioch", "and", "T.", "Ibaraki", ",", "Complexity", "of", "dualization", "and", "identification", "of", "positive", "Boolean", "functions", ",", "Tech", ".", "Rep.", "Dept.", "of", "Computer", "Science", ",", "Erasmus", "University", "Rotterdam", ",", "The", "Netherlands", ",", "to", "appear", ".", "-LSB-", "3", "-RSB-", "E.", "Boros", ",", "P.L.", "Hammer", ",", "T.", "Ibaraki", "and", "K.", "Kawakami", ",", "Identifying", "2-monotonic", "positive", "Boolean", "functions", "in", "polynomial", "time", ",", "ISA", "'91", "Algorithms", ",", "edited", "by", "W.", "L.", "Hsu", "and", "R.C.T.", "Lee", ",", "Springer", "Lecture", "Notes", "in", "Computer", "Science", "557", "-LRB-", "1991", "-RRB-", "104-115", ".", "-LSB-", "4", "-RSB-", "Y.", "Crama", ",", "Dualization", "of", "regular", "Boolean", "functions", ",", "Discrete", "Applied", "Mathematics", ",", "16", "-LRB-", "1987", "-RRB-", "79-85", ".", "-LSB-", "5", "-RSB-", "S.B.", "Davidson", ",", "Replicated", "data", "and", "Partition", "Failures", ".", "In", ":", "S.", "Mullender", "-LRB-", "ed", ".", "-RRB-", ",", "Distributed", "Systems", ",", "Ch", ".13", ",", "Addison", "Wesley", ",", "1989", ".", "-LSB-", "6", "-RSB-", "T.", "Eiter", "and", "G.", "Gottlob", ",", "Identifying", "the", "minimal", "transversals", "of", "a", "hypergraph", "and", "related", "problems", ",", "Technical", "Report", "CD-TR", "91/16", ",", "Christial", "Doppler", "Labor", "f?ur", "Expertensysteme", ",", "Technische", "Universit?at", "Wien", ",", "January", "1991", ".", "-LSB-", "7", "-RSB-", "H.", "Garcia-Molina", "and", "D.", "Barbara", ",", "How", "to", "assign", "votes", "in", "a", "distributed", "system", ",", "J.", "ACM", ",", "32", "-LRB-", "1985", "-RRB-", "841-860", ".", "-LSB-", "8", "-RSB-", "P.R.", "Halmos", ",", "Lectures", "on", "Boolean", "Algebras", ",", "Princeton", ",", "NJ", ",", "Van", "Nostrand", ",", "1963", ".", "-LSB-", "9", "-RSB-", "T.", "Ibaraki", "and", "T.", "Kameda", ",", "A", "boolean", "theory", "of", "coteries", ",", "Proc", ".", "3rd", "IEEE", "Symp", ".", "on", "Parallel", "and", "Distributed", "Processing", ",", "Dallas", ",", "Texas", "-LRB-", "1991", "-RRB-", "150-157", ".", "-LSB-", "10", "-RSB-", "T.", "Ibaraki", "and", "T.", "Kameda", ",", "Theory", "of", "coteries", ":", "Mutual", "exclusion", "in", "distributed", "systems", ",", "Tech", ".", "Rep.", "CSS/LCCR", "TR", "90-09", ",", "Simon", "Fraser", "University", ",", "1990", ";", "to", "appear", "in", "IEEE", "Trans", ".", "on", "Parallel", "and", "Distributed", "Systems", ".", "-LSB-", "11", "-RSB-", "D.S.", "Johnson", ",", "M.", "Yannakakis", "and", "C.H.", "Papadimitriou", ",", "On", "generating", "all", "maximal", "independent", "sets", ",", "Information", "Processing", "Letters", ",", "27", "-LRB-", "1988", "-RRB-", "119-123", ".", "-LSB-", "12", "-RSB-", "L.", "Lamport", ",", "Time", ",", "clocks", ",", "and", "the", "ordering", "of", "events", "in", "a", "distributed", "system", ",", "Comm", ".", "of", "the", "ACM", ",", "21", "-LRB-", "1978", "-RRB-", "558-565", ".", "-LSB-", "13", "-RSB-", "S.", "Muroga", ",", "Threshold", "Logic", "and", "Its", "Applications", ",", "Wiley-Interscience", ",", "1971", ".", "-LSB-", "14", "-RSB-", "M.L.", "Neilsen", "and", "M.", "Mizuno", ",", "Coterie", "join", "algorithm", ",", "IEEE", "Trans", ".", "on", "Parallel", "and", "Distributed", "Systems", ",", "to", "appear", ".", "Page", "20", "RRR", "24-93", "-LSB-", "15", "-RSB-", "U.N.", "Peled", "and", "B.", "Simeone", ",", "Polynomial-time", "algorithm", "for", "regular", "set-covering", "and", "threshold", "synthesis", ",", "Discrete", "Applied", "Mathematics", ",", "12", "-LRB-", "1985", "-RRB-", "57-69", ".", "-LSB-", "16", "-RSB-", "I.", "Wegener", ",", "The", "Complexity", "of", "Boolean", "Functions", ",", "Wiley-Teubner", ",", "1987", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "??", "??", "??", "McGill", "University", "School", "of", "Computer", "Science", "On", "the", "Limits", "of", "Program", "Parallelism", "and", "its", "Smoothability", "ACAPS", "Technical", "Memo", "40", "June", "26", ",", "1992", "Kevin", "B.", "Theobald", "Guang", "R.", "Gao", "Laurie", "J.", "Hendren", "Advanced", "Compilers", ",", "Architectures", "and", "Parallel", "Systems", "Group", "ACAPS", "ffl", "School", "of", "Computer", "Science", "ffl", "3480", "University", "St.", "ffl", "Montr?eal", "ffl", "Canada", "ffl", "H3A", "2A7", "Some", "recent", "studies", "of", "the", "so-called", "\\", "limits", "on", "instruction", "parallelism", "''", "in", "application", "programs", "have", "reported", "limits", "that", "are", "surprisingly", "low", "-LRB-", "3-7", "instructions", "-RRB-", "for", "well-known", "benchmark", "programs", ".", "In", "this", "paper", ",", "we", "report", "results", "of", "a", "new", "study", "of", "instruction-level", "parallelism", "and", "the", "smoothability", "of", "this", "parallelism", ".", "In", "addition", "to", "showing", "a", "strikingly", "high", "limit", "of", "parallelism", "for", "an", "oracle", "machine", "model", ",", "we", "also", "study", "the", "following", "new", "aspects", "of", "parallelism", "and", "smoothability", ".", "Parallelism", "Limits", ":", "In", "addition", "to", "confirming", "some", "results", "recently", "reported", "-LRB-", "i.e.", "by", "Wilson", "and", "Lam", "-LSB-", "LW92", "-RSB-", "-RRB-", ",", "our", "work", "also", "provides", "answers", "to", "the", "following", "important", "questions", "for", "architects", "and", "compiler", "writters", "which", "were", "left", "open", ":", "ffl", "What", "are", "the", "most", "important", "characteristics", "of", "the", "oracle", "machine", "models", "?", "ffl", "What", "happens", "if", "we", "allow", "each", "test", "program", "to", "run", "to", "full", "completion", "instead", "of", "stopping", "after", "a", "limited", "number", "of", "instructions", "?", "ffl", "Do", "these", "results", "apply", "to", "other", "real", "programs", "-LRB-", "run", "to", "completion", "-RRB-", "in", "addition", "to", "the", "selected", "benchmark", "programs", "?", "ffl", "How", "do", "various", "restrictions", "on", "the", "use", "and", "reuse", "of", "memory", "impact", "the", "potential", "parallelism", "?", "Smoothability", ":", "In", "our", "study", ",", "smoothability", "is", "measured", "quantitatively", "and", "compared", "for", "a", "number", "of", "programs", ".", "Our", "results", "indicate", "that", "the", "parallelism", "obtained", "has", "a", "relatively", "smooth", "temporal", "profile", ",", "although", "different", "programs", "may", "have", "different", "smoothabilities", ".", "In", "particular", ",", "our", "results", "indicate", "that", "machine", "models", "with", "speculative", "multithreading", "exhibit", "impressive", "levels", "of", "instruction-level", "parallelism", "with", "high", "smoothability", ".", "Contents", "1", "Introduction", "4", "2", "Methodology", "and", "Models", "5", "2.1", "Our", "Trace", "Simulation", "Methodology", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "5", "2.1.1", "Memory", "Disambiguation", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "7", "2.1.2", "Register", "and", "Memory", "Renaming", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "7", "2.1.3", "Control", "Barrier", "Elimination", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "8", "2.1.4", "Finite", "Windows", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "9", "2.1.5", "Unrolling", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "10", "2.2", "Experimental", "Models", "Used", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "10", "3", "Smoothability", "11", "4", "Experimental", "Results", "13", "4.1", "Effects", "of", "Branch", "and", "Jump", "Prediction", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "15", "4.2", "Finite", "Scheduling", "Windows", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "16", "4.3", "Frugal", "Oracles", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "17", "4.4", "Unrolling", "Results", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "18", "4.5", "Smoothability", "Results", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "19", "4.6", "Compiler", "Optimization", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "20", "5", "Previous", "Studies", "21", "6", "Conclusions", "22", "A", "Experimental", "Testbed", "25", "List", "of", "Figures", "1", "Packing", "parallelizable", "instructions", ":", "An", "example", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "7", "2", "Standard", "smoothability", "profile", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "12", "3", "Standard", "processor", "utilization", "profile", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "13", "List", "of", "Tables", "1", "Oracle", "and", "Machine", "Models", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "10", "2", "Benchmarks", "and", "test", "cases", "used", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "14", "3", "A", "summary", "of", "results", ".", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "15", "4", "The", "effects", "of", "finite", "window", "sizes", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "17", "5", "The", "effect", "of", "frugal", "use", "of", "memory", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "18", "6", "The", "effects", "of", "unrolling", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "19", "7", "The", "effect", "of", "finite", "processors", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", ":", "20", "1", "Introduction", "At", "the", "current", "rate", "of", "progress", "in", "VLSI", "technology", ",", "it", "will", "be", "possible", "by", "the", "turn", "of", "the", "century", "to", "produce", "a", "single", "chip", "with", "tens", "to", "hundreds", "of", "millions", "of", "transistors", ".", "This", "level", "of", "integration", "can", "be", "used", "to", "implement", "a", "high-density", ",", "high-performance", "processor", "on", "a", "single", "chip", ",", "perhaps", "one", "based", "on", "advanced", "architectural", "ideas", "such", "as", "multithreaded", "architectures", "-LSB-", "A", "+90", ",", "ALKK90", ",", "KS88", ",", "NA89", ",", "HF88", ",", "DCC", "+87", ",", "ND91", ",", "WG89", "-RSB-", ".", "Such", "processors", "can", "then", "become", "the", "building", "blocks", "of", "an", "advanced", ",", "massively-parallel", "computer", ".", "Those", "contemplating", "the", "design", "of", "these", "highly-parallel", "machines", "must", "ask", "two", "fundamental", "questions", ":", "Question", "1", "-LRB-", "Limits", "of", "Parallelism", "-RRB-", ":", "How", "much", "parallelism", "exists", "in", "the", "target", "applications", "?", "Question", "2", "-LRB-", "Smoothness", "of", "Parallelism", "-RRB-", ":", "Is", "the", "available", "parallelism", "smooth", "enough", "to", "be", "effectively", "exploited", "?", "In", "order", "to", "justify", "having", "machines", "supporting", "extensive", "parallelism", ",", "there", "must", "be", "enough", "useful", "work", "to", "do", "at", "any", "point", "in", "time", "to", "keep", "most", "of", "the", "processors", "usefully", "busy", ".", "This", "means", "that", "not", "only", "must", "there", "be", "enough", "parallelism", "in", "the", "application", "to", "be", "exploited", "by", "these", "processors", ",", "but", "the", "parallelism", "must", "also", "be", "smoothable", ",", "to", "be", "fairly", "evenly", "distributed", "over", "time", ".", "Otherwise", ",", "Amdahl", "'s", "Law", "will", "take", "effect", "and", "prevent", "the", "computer", "from", "achieving", "a", "good", "speed-up", ".", "There", "have", "been", "many", "experiments", ",", "involving", "a", "wide", "variety", "of", "machine", "models", "and", "target", "applications", ",", "to", "measure", "the", "limits", "of", "parallelism", "that", "may", "be", "exploited", "in", "a", "program", "-LSB-", "JW89", ",", "LW92", ",", "BYP", "+91", ",", "Wal91", "-RSB-", ".", "Some", "have", "reported", "limits", "that", "are", "surprisingly", "low", "-LRB-", "3-7", "instructions", "-RRB-", "for", "well-known", "benchmark", "programs", "even", "under", "their", "best", "machine", "model", "-LSB-", "Wal91", "-RSB-", ".", "In", "-LSB-", "LW92", "-RSB-", ",", "it", "has", "been", "demonstrated", "that", "such", "limits", "can", "become", "substantially", "higher", "if", "more", "powerful", "machine", "models", "are", "considered", "which", "can", "exploit", "parallelism", "by", "eliminating", "constraints", "due", "to", "sequential", "control", "flow", ".", "Most", "previous", "studies", "are", "interested", "in", "Question", "1", "above", ".", "In", "this", "paper", ",", "we", "are", "interested", "in", "answers", "to", "both", "Questions", "1", "and", "2", ",", "and", "we", "report", "results", "of", "our", "study", "which", "are", "unique", "in", "the", "following", "aspects", ":", "Limits", "of", "Parallelism", ":", "In", "answering", "Question", "1", ",", "our", "results", "have", "shown", "a", "strikingly", "high", "limit", "of", "parallelism", "for", "oracle", "machine", "models", ".", "In", "addition", "to", "SPEC", "benchmark", "programs", ",", "we", "are", "also", "interested", "in", "a", "wider", "variety", "of", "real", "programs", ",", "and", "to", "that", "end", "we", "have", "added", "an", "interesting", "program", "for", "large-vocabulary", "speech", "recognition", "which", "we", "received", "from", "industry", ".", "For", "our", "experiments", "we", "allow", "each", "test", "program", "to", "run", "to", "its", "completion", ",", "in", "some", "cases", "the", "traces", "have", "lengths", "of", "over", "3", "billion", "instructions", "!", "This", "may", "turn", "out", "to", "be", "critical", "in", "providing", "measurement", "of", "smoothness", "over", "the", "entire", "execution", "of", "a", "program", "-LRB-", "See", "Section", "4.6", "-RRB-", ".", "We", "also", "study", "the", "impact", "of", "various", "restrictions", "on", "the", "use", "of", "memory", "to", "the", "potential", "parallelism", ".", "Thus", ",", "our", "results", "provide", "answers", "to", "some", "unanswered", "questions", "in", "previous", "studies", ".", "Smoothability", "of", "Parallelism", ":", "We", "introduce", "smoothability", "as", "a", "measure", "to", "characterize", "instructionlevel", "parallelism", ".", "Smoothability", "is", "measured", "quantitatively", "and", "compared", "for", "a", "number", "of", "programs", ".", "Our", "results", "indicate", "that", "the", "parallelism", "obtained", "has", "a", "relatively", "smooth", "temporal", "profile", ".", "In", "particular", ",", "under", "speculative", "multithreading", ",", "our", "collection", "of", "both", "scientific", "and", "non-scientific", "programs", "not", "only", "exhibit", "impressive", "instruction-level", "parallelism", ",", "but", "also", "exhibit", "a", "high", "degree", "of", "uniformity", "in", "the", "parallelism", ".", "To", "search", "for", "the", "limits", "of", "parallelism", "and", "measure", "their", "smoothability", "under", "different", "architectural", "ideas", ",", "we", "have", "developed", "an", "experimental", "testbed", ".", "This", "testbed", "is", "based", "on", "a", "trace", "simulation", "method", "similar", "to", "previous", "experiments", "-LSB-", "AS92", ",", "LW92", ",", "Wal91", "-RSB-", ".", "The", "tool", "allows", "us", "to", "analyze", "the", "execution", "of", "real", "code", "and", "calculates", ",", "under", "various", "architecture", "models", ",", "how", "much", "parallelism", "could", "potentially", "be", "attained", "for", "a", "given", "model", ".", "Using", "this", "tool", ",", "we", "begin", "with", "a", "true", "\\", "Omniscient", "Oracle", "''", "machine", "model", "and", "measure", "the", "idealized", "limit", "of", "parallelism", ".", "We", "then", "examine", "the", "degradation", "in", "performance", "as", "we", "selectively", "remove", "key", "features", "from", "the", "Omniscient", "Oracle", "and", "move", "it", "towards", "more", "realistic", "machine", "models", "at", "different", "levels", ".", "A", "total", "of", "13", "models", "are", "used", "in", "the", "study", ",", "including", "the", "oracle", ".", "Parallelism", "smoothness", "was", "measured", "for", "some", "models", "in", "order", "to", "study", "the", "\\", "smoothability", "''", "aspect", "described", "later", "in", "the", "paper", ".", "Our", "oracle", "machine", "models", "ignore", "control", "dependencies", "entirely", "-LRB-", "in", "this", "sense", "similar", "to", "the", "oracle", "proposed", "in", "-LSB-", "NF84", "-RSB-", "-RRB-", ".", "While", "the", "results", "obtained", "from", "the", "oracle", "are", "an", "upper", "bound", ",", "and", "may", "be", "unrealistically", "high", ",", "we", "believe", "that", "they", "give", "a", "good", "indication", "of", "the", "parallelism", "that", "may", "be", "achieved", "with", "suitably-designed", "parallel", "algorithms", ".", "It", "is", "not", "the", "goal", "of", "this", "research", "to", "design", "a", "machine", "which", "can", "execute", "the", "benchmarks", "in", "a", "manner", "corresponding", "to", "the", "analysis", "in", "our", "experiments", ".", "Rather", ",", "we", "are", "interested", "in", "studying", "the", "upper", "bounds", "of", "potential", "parallelism", "inherent", "in", "the", "application", ".", "Our", "objective", "in", "this", "paper", "is", "not", "to", "provide", "a", "recipe", "for", "the", "design", "of", "specific", "architectures", "and", "measure", "the", "possible", "parallelism", "achievable", ".", "Rather", ",", "we", "study", "what", "effects", "of", "the", "limitations", "of", "each", "architecture", "model", "make", "it", "impossible", "to", "achieve", "the", "parallelism", "limits", ".", "In", "the", "next", "section", ",", "we", "describe", "how", "trace", "analysis", "works", "and", "develop", "the", "models", "used", "in", "our", "study", ".", "Smoothability", "is", "defined", "and", "discussed", "in", "Section", "3", ".", "The", "experimental", "results", "and", "their", "ramifications", "are", "presented", "in", "4.6", ".", "In", "Section", "5", "we", "compare", "our", "work", "to", "previous", "studies", ".", "The", "final", "section", ",", "Section", "6", ",", "summarizes", "the", "paper", ",", "discusses", "the", "conclusions", "that", "may", "be", "drawn", "from", "this", "study", ",", "and", "describes", "how", "we", "plan", "to", "extend", "this", "analysis", "tool", "in", "the", "future", ".", "We", "briefly", "describe", "implementation", "of", "the", "tool", "in", "an", "appendix", ".", "2", "Methodology", "and", "Models", "This", "section", "describes", "the", "trace", "simulation", "techniques", "and", "machine", "models", "used", "in", "our", "study", ".", "First", "we", "show", "conceptually", "how", "our", "trace", "analysis", "reveals", "parallelism", "in", "a", "program", ",", "and", "how", "various", "features", "added", "to", "a", "model", "affect", "potential", "parallelism", ".", "These", "effects", "are", "illustrated", "using", "a", "simple", "loop", ".", "Next", ",", "we", "present", "the", "13", "basic", "machine", "models", "used", "in", "this", "study", ".", "and", "discuss", "what", "the", "use", "of", "these", "models", "to", "measure", "parallelism", "can", "tell", "us", "about", "exploiting", "parallelism", "in", "real", "computers", ".", "2.1", "Our", "Trace", "Simulation", "Methodology", "Trace", "analysis", "begins", "with", "a", "trace", "of", "the", "execution", "of", "a", "program", ".", "This", "trace", "consists", "of", "a", "stream", "of", "operations", "representing", "the", "actual", "order", "of", "instructions", "executed", "-LRB-", "not", "the", "static", "object", "code", "-RRB-", ".", "For", "each", "executed", "operation", ",", "the", "trace", "gives", "the", "opcode", ",", "PC", "address", ",", "memory-access", "address", "-LRB-", "if", "any", "-RRB-", ",", "and", "the", "destination", "of", "a", "branch", "or", "jump", ".", "The", "analyzer", "reads", "the", "operations", "from", "the", "stream", "and", "packs", "them", "into", "parallel", "instructions", "-LRB-", "PI", "-RRB-", ".", "As", "the", "analyzer", "reads", "each", "operation", "in", "the", "trace", ",", "it", "inserts", "the", "operation", "into", "the", "earliest", "PI", "possible", ",", "while", "simultaneously", "respecting", "the", "dependencies", "between", "that", "operation", "and", "all", "previous", "operations", ".", "The", "following", "types", "of", "dependency", "between", "operations", "may", "exist", ":", "ffl", "Data", "dependency", ":", "if", "an", "operation", "S2", "reads", "a", "storage", "location1", "which", "was", "most", "recently", "written", "by", "operation", "S1", ",", "and", "if", "S1", "was", "packed", "into", "PI", "p", ",", "then", "S2", "can", "be", "scheduled", "no", "earlier", "than", "PI", "p", "+", "1", ".", "ffl", "Anti-dependency", ":", "if", "an", "operation", "S2", "writes", "a", "storage", "location", "which", "was", "most", "recently", "read", "by", "operation", "S1", ",", "and", "if", "S1", "was", "packed", "into", "PI", "p", ",", "then", "S2", "can", "be", "scheduled", "no", "earlier", "than", "PI", "p.", "-LRB-", "It", "is", "assumed", "that", "the", "write", "and", "read", "can", "occur", "simultaneously", ",", "and", "S1", "will", "read", "the", "proper", "value", ".", "-RRB-", "ffl", "Output", "dependency", ":", "if", "an", "operation", "S2", "writes", "a", "storage", "location", "which", "was", "most", "recently", "written", "by", "operation", "S1", ",", "and", "if", "S1", "was", "packed", "into", "PI", "p", ",", "then", "S2", "can", "be", "scheduled", "no", "earlier", "than", "PI", "p", "+", "1", ".", "ffl", "Control", "dependency", ":", "if", "operation", "S1", "is", "the", "most", "recent", "conditional", "branch", "prior", "to", "a", "given", "operation", "S2", "in", "the", "trace", ",", "and", "if", "S1", "was", "packed", "into", "PI", "p", ",", "then", "S2", "can", "be", "scheduled", "no", "earlier", "than", "PI", "p", "+", "1", ".", "In", "this", "study", ",", "we", "assume", "that", "all", "operations", "-LRB-", "including", "memory", "references", "-RRB-", "take", "a", "single", "cycle", "to", "execute", ".", "Memory", "is", "global", "with", "unlimited", "access", ",", "and", "there", "are", "no", "caches", ".", "In", "our", "13", "basic", "models", ",", "infinitely", "many", "functional", "units", "are", "available", "to", "execute", "all", "operations", "which", "can", "be", "packed", "into", "one", "PI", "-LRB-", "we", "limit", "the", "number", "of", "processors", "later", "when", "we", "study", "smoothability", ",", "discussed", "in", "the", "next", "section", "-RRB-", ".", "In", "most", "cases", ",", "we", "also", "allow", "operations", "arbitrarily", "far", "apart", "in", "the", "dynamic", "trace", "to", "be", "packed", "into", "the", "same", "PI", ",", "so", "long", "as", "all", "other", "dependency", "constraints", "are", "obeyed", ".", "-LRB-", "Real", "machines", "may", "not", "be", "so", "generous", ",", "but", "this", "study", "aims", "to", "determine", "how", "much", "parallelism", "is", "truly", "inherent", "in", "a", "program", ",", "independent", "of", "any", "particular", "hardware", "limitations", ".", "-RRB-", "To", "illustrate", "the", "basic", "principle", ",", "consider", "this", "simple", "loop", "fragment", "for", "multiplying", "two", "vectors", "componentwise", ":", "S1", ":", "ld", "-LSB-", "%", "2", "+", "%", "1", "-RSB-", ",", "%", "f0", "S2", ":", "ld", "-LSB-", "%", "3", "+", "%", "1", "-RSB-", ",", "%", "f1", "S3", ":", "fmuls", "%", "f0", ",", "%", "f1", ",", "%", "f2", "S4", ":", "st", "%", "f2", ",", "-LSB-", "%", "4", "+", "%", "1", "-RSB-", "S5", ":", "subcc", "%", "1,4", ",", "%", "1", "S6", ":", "bg", "S1", "S7", ":", "nop", "A", "dynamic", "trace", "would", "have", "the", "sequence", "S1-S7", "repeated", "many", "times", ".", "The", "left", "half", "of", "Figure", "1", "shows", "how", "our", "trace", "analyzer", "would", "pack", "these", "operations", "into", "PI", "'s", "if", "all", "four", "dependency", "types", "listed", "above", "were", "obeyed", ".", "Arcs", "are", "drawn", "to", "show", "the", "data", "dependencies", "between", "operations", ".", "The", "arc", "with", "a", "small", "tick", "mark", "drawn", "from", "S4", "to", "S5", "represents", "an", "anti-dependency", ".", "The", "dashed", "line", "indicates", "a", "barrier", "caused", "by", "the", "conditional", "branch", "at", "S6", ",", "which", "prevents", "all", "future", "operations", "from", "being", "scheduled", "before", "that", "barrier", ".", "One", "iteration", "of", "the", "loop", "can", "be", "initiated", "every", "4", "cycles", ",", "so", "the", "parallelism", "is", "1.5", ".", "Other", "models", ",", "described", "later", ",", "relax", "the", "dependency", "constraints", ",", "or", "tighten", "the", "resource", "limitations", ".", "The", "following", "subsections", "describe", "how", "these", "constraints", "may", "be", "modified", ",", "through", "such", "means", "as", "register", "renaming", "and", "branch", "prediction", ",", "and", "the", "effects", "such", "changes", "will", "have", "on", "overall", "parallelism", ".", "1A", "\\", "storage", "location", "''", "means", "either", "a", "register", "or", "a", "memory", "cell", ".", "?", ">", "=", "?", "<", "=", "S4", "?", ">", "=", "?", "<", "=", "S3", "?", ">", "=", "?", "<", "=", "S1", "?", ">", "=", "?", "<", "=", "S10", "?", ">", "=", "?", "<", "=", "S2", "?", ">", "=", "?", "<", "=", "S5", "?", ">", "=", "?", "<", "=", "S6", "?", ">", "=", "?", "<", "=", "S20", "...", "?", "?", "?", "?", "?", "??", "-", "?", "?", "?", "??", "?", "?", "?", "?", "?", "??", "P", "Ii", "P", "Ii", "+1", "P", "Ii", "+2", "P", "Ii", "+3", "P", "Ii", "+4", "?", ">", "=", "?", "<", "=", "S4", "?", ">", "=", "?", "<", "=", "S3", "?", ">", "=", "?", "<", "=", "S1", "?", ">", "=", "?", "<", "=", "S2", "?", ">", "=", "?", "<", "=", "S6", "?", ">", "=", "?", "<", "=", "S5", "?", ">", "=", "?", "<", "=", "S10", "?", ">", "=", "?", "<", "=", "S20", "?", ">", "=", "?", "<", "=", "S50", "?", ">", "=", "?", "<", "=", "S30", "?", ">", "=", "?", "<", "=", "S40", "?", ">", "=", "?", "<", "=", "S60", "?", ">", "=", "?", "<", "=", "S100", "...", "?", "?", "?", "?", "?", "??", "?", "?", "?", "??", "?", "?", "?", "?", "?", "??", "?", "?", "?", "??", "?", "?", "?", "?", "?", "??", "@", "@", "@", "@@", "R", "P", "Ii", "P", "Ii", "+1", "P", "Ii", "+2", "P", "Ii", "+3", "P", "Ii", "+4", "Figure", "1", ":", "Packing", "parallelizable", "instructions", ":", "An", "example", "2.1.1", "Memory", "Disambiguation", "Memory", "references", "ca", "n't", "always", "be", "determined", "at", "compile-time", ",", "due", "to", "indirect", "addressing", ".", "A", "conservative", "analysis", "would", "assume", "that", "any", "two", "memory", "references", "could", "refer", "to", "the", "same", "memory", "location", ",", "so", "that", "a", "dependency", "would", "exist", "between", "them", ".", "Thus", ",", "a", "conservative", "scheduler", "would", "have", "to", "assume", "that", "an", "anti-dependency", "might", "exist", "between", "S2", "and", "S4", ",", "making", "it", "impossible", "to", "overlap", "separate", "iterations", "of", "the", "loop", ".", "However", ",", "since", "the", "actual", "addresses", "of", "memory", "accesses", "appear", "in", "the", "trace", ",", "the", "analyzer", "can", "determine", "at", "run-time", "whether", "two", "memory", "references", "really", "conflict", ".", "This", "would", "model", "the", "potential", "effects", "of", "perfect", "compiler", "alias-analysis", "and/or", "special", "hardware", "to", "check", "for", "memory", "conflicts", "at", "runtime", ".", "It", "can", "also", "model", "an", "architecture", "with", "a", "more", "disciplined", "use", "of", "memory", "that", "makes", "such", "conflicts", "more", "explicit", "-LRB-", "hence", "easier", "to", "detect", "-RRB-", ".", "Our", "analyzer", "supports", "this", "feature", "-LRB-", "run-time", "memory", "disambiguation", "-RRB-", "as", "an", "option", ".", "2.1.2", "Register", "and", "Memory", "Renaming", "A", "false", "dependency", "-LRB-", "anti", "or", "output", "-RRB-", "exists", "between", "two", "operations", "when", "one", "must", "follow", "the", "other", ",", "not", "because", "the", "latter", "requires", "data", "produced", "by", "the", "former", ",", "but", "merely", "because", "the", "latter", "needs", "to", "reuse", "a", "storage", "location", "-LRB-", "register", "or", "memory", "cell", "-RRB-", "used", "by", "the", "former", ".", "An", "example", "of", "this", "in", "the", "code", "sample", "is", "the", "use", "of", "register", "%", "1", "for", "the", "loop", "index", ",", "which", "can", "not", "be", "updated", "-LRB-", "by", "S5", "-RRB-", "before", "being", "used", "to", "construct", "a", "memory", "address", "-LRB-", "by", "S4", "-RRB-", ".", "Thus", ",", "overlapping", "the", "iterations", "of", "the", "loop", "body", ",", "as", "in", "software", "pipelining", ",", "is", "impossible", ".", "False", "dependencies", "also", "exist", "in", "references", "to", "main", "memory", ".", "This", "can", "limit", "parallelism", "in", "two", "ways", ":", "1", ".", "Many", "sequential", "programs", "reuse", "data", "structures", "-LRB-", "such", "as", "arrays", "-RRB-", "to", "optimize", "the", "use", "of", "memory", ".", "Such", "optimization", "may", "be", "a", "good", "idea", "in", "programs", "with", "a", "single", "thread", "of", "control", ".", "In", "parallel", "machines", ",", "however", ",", "reusing", "memory", "in", "this", "way", "means", "that", "available", "processors", "can", "not", "start", "operating", "on", "an", "updated", "version", "of", "a", "data", "structure", "while", "other", "processors", "continue", "to", "read", "the", "old", "version", ",", "because", "the", "update", "must", "wait", "until", "all", "processors", "are", "finished", "with", "the", "old", "copy", ".", "2", ".", "Under", "the", "conventional", "stack", "architecture", ",", "procedure", "calls", "at", "the", "same", "level", "in", "a", "program", "reuse", "the", "same", "portion", "of", "the", "stack", ",", "leading", "to", "contention", "for", "that", "part", "of", "the", "stack", ".", "For", "instance", ",", "when", "executing", "object", "code", "corresponding", "to", "x", "=", "sin", "-LRB-", "y", "-RRB-", "+", "cos", "-LRB-", "z", "-RRB-", ";", "the", "processor", "can", "not", "push", "z", "onto", "the", "stack", "and", "call", "cos", "until", "it", "has", "popped", "the", "return", "value", "of", "sin", "-LRB-", "y", "-RRB-", "off", "the", "stack", ",", "even", "though", "these", "two", "function", "calls", "are", "independent", "and", "could", "run", "in", "parallel", ".", "The", "inhibiting", "effects", "of", "false", "dependencies", "can", "be", "eliminated", "by", "ensuring", "that", "each", "register", "or", "memory", "location", "is", "written", "only", "once", ".", "In", "a", "real", "processor", ",", "false", "dependencies", "can", "be", "reduced", "by", "creating", "a", "sufficiently", "large", "register", "file", ",", "coupled", "with", "other", "techniques", "such", "as", "register", "renaming", ".", "The", "architecture", "provides", "additional", "registers", "that", "are", "not", "programmer-visible", ",", "and", "dynamically", "allocates", "them", "to", "store", "each", "new", "value", "generated", ".", "This", "will", "enforce", "a", "single-assignment", "rule", "and", "hence", "resolves", "the", "anti-", "and", "output-dependences", ".2", "False", "dependencies", "in", "the", "heap", "can", ",", "in", "principle", ",", "be", "eliminated", "by", "adhering", "to", "the", "single-assignment", "rule", ",", "either", "explicitly", "in", "the", "programming", "language", "or", "by", "using", "memory", "renaming", ".", "Conventional", "architectures", "do", "not", "presently", "perform", "memory", "renaming", ",", "although", "dynamic", "dataflow", "machines", "with", "\\", "colored", "tokens", "''", "employ", "a", "form", "of", "renaming", ".", "False", "dependencies", "in", "the", "stack", "can", "be", "caused", "by", "the", "linear", "stack", "model", ",", "the", "standard", "runtime", "memory", "organization", "for", "supporting", "nested", "procedure", "invocations", "on", "sequential", "machines", ".", "Such", "false", "dependencies", "can", "be", "eliminated", ",", "for", "example", ",", "by", "organizing", "the", "memory", "frames", "for", "procedure", "invocation", "in", "a", "tree-like", "structure", ",", "as", "proposed", "in", "several", "multithreaded", "architecture", "models", "-LSB-", "CSS", "+91", ",", "NA89", "-RSB-", ".", "Infinite", "renaming", ",", "in", "which", "a", "register", "or", "memory", "location", "can", "be", "renamed", "any", "number", "of", "times", ",", "is", "equivalent", "to", "ignoring", "all", "false", "dependencies", "between", "objects", "of", "a", "particular", "type", ".", "For", "instance", ",", "if", "register", "renaming", "is", "applied", "to", "the", "dependence", "graph", "in", "Figure", "1", ",", "then", "S5", "can", "be", "executed", "in", "parallel", "with", "S1", "and", "S2", "of", "the", "same", "iteration", ",", "as", "the", "anti-dependency", "with", "S4", "no", "longer", "exists", ".", "This", "moves", "operation", "S6", "up", "as", "well", ",", "so", "the", "conditional-branch", "barrier", "has", "moved", "up", "by", "2", "PI", "'s", ".", "If", "perfect", "alias", "analysis", "is", "also", "used", ",", "then", "the", "iteration", "issue", "rate", "has", "increased", "to", "once", "every", "other", "cycle", ",", "raising", "parallelism", "to", "3", ",", "as", "the", "right", "half", "of", "Figure", "1", "shows", ".3", "2.1.3", "Control", "Barrier", "Elimination", "2For", "example", ",", "The", "IBM", "RISC", "6000", "superscalar", "machine", "implements", "a", "form", "of", "register", "renaming", "in", "its", "floating", "point", "unit", "-LRB-", "FPU", "-RRB-", ".", "3This", "assumes", "the", "input", "and", "output", "arrays", "do", "not", "overlap", ".", "If", "memory", "disambiguation", "is", "not", "included", "in", "the", "model", ",", "then", "S1", "and", "S2", "can", "not", "execute", "until", "S4", "of", "the", "previous", "iteration", "has", "finished", ",", "because", "there", "might", "be", "a", "data", "dependence", "between", "them", ".", "Previous", "parallelism", "experiments", "in", "which", "conditional", "branches", "were", "barriers", "to", "upward", "motion", "of", "operations", "generally", "had", "low", "parallelism", ",", "especially", "in", "non-numerical", "programs", ".", "This", "is", "because", "conditional", "branches", "occur", "quite", "frequently", "in", "most", "programs", ",", "which", "limits", "the", "search", "for", "parallelism", "to", "small", "\\", "basic", "blocks", "''", "in", "the", "code", ".", "To", "get", "better", "parallelism", "results", ",", "one", "must", "consider", "models", "representing", "possible", "architectures", "which", "reduce", "the", "deleterious", "effects", "of", "conditional", "branches", ".", "The", "oracle", ",", "introduced", "in", "-LSB-", "NF84", "-RSB-", ",", "makes", "the", "most", "optimistic", "assumptions", "by", "ignoring", "control", "dependencies", "entirely", ".", "Our", "oracles", ",", "like", "most", "others", ",", "also", "ignore", "output", "and", "anti-dependencies", ",", "so", "that", "parallelism", "is", "only", "limited", "by", "true", "data", "dependencies", "in", "the", "program", ".", "It", "is", "possible", "to", "use", "more", "conservative", "models", "between", "the", "extremes", "of", "having", "an", "oracle", "and", "forcing", "barriers", "at", "every", "conditional", "branch", ".", "One", "method", "is", "branch", "prediction", ",", "in", "which", "the", "processor", "tries", "to", "decide", "which", "branch", "is", "most", "likely", "to", "be", "taken", ",", "and", "takes", "that", "branch", ".", "When", "a", "predicted", "branch", "is", "taken", ",", "and", "it", "later", "turns", "out", "that", "that", "branch", "should", "not", "have", "been", "taken", ",", "then", "all", "instructions", "executed", "after", "the", "incorrect", "branch", "must", "be", "aborted", "and", "their", "side-effects", "reversed", ".", "There", "can", "be", "more", "branches", "in", "between", "the", "time", "when", "a", "mis-predicted", "branch", "is", "taken", "and", "the", "time", "at", "which", "this", "error", "is", "discovered", ",", "which", "means", "that", "at", "any", "time", "there", "may", "be", "multiple", "active", "machine", "states", ",", "only", "one", "of", "which", "is", "valid", ".", "Branch", "prediction", "is", "modeled", "by", "the", "trace", "analyzer", "by", "ignoring", "barriers", "created", "by", "correctlypredicted", "branches", ",", "and", "keeping", "barriers", "created", "by", "incorrectly-predicted", "branches", ".", "Wall", "describes", "a", "method", "of", "dynamic", "branch", "prediction", "in", "which", "the", "prediction", "of", "which", "way", "to", "branch", "comes", "from", "a", "2-bit", "count", "which", "is", "based", "on", "the", "history", "of", "previous", "executions", "of", "that", "branch", ".", "Jump", "prediction", "is", "done", "simply", "by", "predicting", "that", "the", "processor", "will", "jump", "to", "the", "previous", "jump", "destination", ".", "Branch", "prediction", "counts", "and", "jump", "prediction", "addresses", "are", "stored", "in", "tables", "hashed", "by", "the", "lower", "bits", "of", "the", "PC", "address", "of", "the", "branch", "or", "jump", ".", "In", "our", "experiments", ",", "the", "hash", "tables", "are", "large", "enough", "to", "give", "each", "PC", "address", "a", "unique", "table", "entry", ".", "A", "more", "conservative", "assumption", ",", "which", "does", "not", "involve", "much", "speculation", ",", "is", "to", "assume", "a", "form", "of", "coarse-grain", "parallelism", "in", "which", "the", "barriers", "produced", "by", "branches", "in", "one", "procedure", "do", "not", "affect", "the", "scheduling", "of", "operations", "within", "other", "procedures", ".", "We", "call", "this", "feature", "procedure", "separation", ".", "Procedure", "separation", "allows", "procedures", "with", "no", "data", "dependencies", "to", "execute", "in", "parallel", ",", "which", "they", "probably", "would", "be", "unable", "to", "do", "otherwise", "if", "no", "branch", "prediction", "were", "used", ".", "-LRB-", "Some", "previous", "studies", "-LSB-", "Kum88", ",", "LW92", "-RSB-", "extract", "more", "parallelism", "by", "analyzing", "the", "code", "to", "look", "for", "instructions", "that", "are", "really", "not", "control-dependent", "on", "one", "another", ",", "even", "though", "they", "are", "separated", "by", "conditional", "branches", ".", "This", "would", "allow", ",", "for", "instance", ",", "two", "consecutive", "but", "independent", "DO-loops", "to", "run", "concurrently", ".", "We", "have", "not", "implemented", "this", "feature", "at", "present", ".", "-RRB-", "2.1.4", "Finite", "Windows", "So", "far", ",", "we", "have", "assumed", "that", "an", "operation", "from", "anywhere", "in", "the", "trace", "can", "be", "placed", "in", "the", "earliest", "PI", "possible", ",", "subject", "to", "data", "and", "control", "dependencies", ".", "In", "theory", ",", "the", "last", "operation", "in", "the", "sequential", "trace", "could", "be", "packed", "into", "the", "first", "PI", ".", "However", ",", "we", "may", "place", "limitations", "on", "how", "far", "apart", "two", "operations", "can", "be", "packed", ".", "One", "possible", "limitation", "is", "to", "assume", "that", "the", "parallel", "machine", "can", "only", "look", "so", "far", "ahead", "of", "the", "program", "counter", "when", "looking", "for", "operations", "that", "are", "ready", "to", "be", "executed", ".", "With", "a", "limited", "window", "size", ",", "the", "analyzer", "conceptually", "keeps", "future", "operations", "from", "the", "trace", "stream", "in", "the", "window", "and", "packs", "them", "into", "PI", "'s", "from", "the", "window", ".", "When", "the", "trace", "stream", "fills", "the", "window", ",", "the", "analyzer", "must", "``", "issue", "''", "the", "lowest-numbered", "unissued", "PI", ",", "thereby", "making", "it", "unavailable", "for", "further", "packing", ",", "and", "remove", "the", "operations", "in", "that", "PI", "from", "the", "window", ".", "This", "limitation", "was", "adopted", "by", "Wall", ",", "who", "used", "2K-operation", "windows", ".", "This", "models", "how", "a", "real", "superscalar", "could", "schedule", "instructions", "at", "run-time", ",", "though", "in", "practice", ",", "Model", "Rename", "Rename", "Branch", "Jump", "Proc", ".", "Window", "Unroll", "Name", "Regs", ".", "Memory", "Predict", "Predict", "Sep.", ".", "Length", "Omniscient", "Oracle", "yes", "all", "perfect", "perfect", "yes", "1", "no", "Unrolling", "Omni", ".", "Or", ".", "yes", "all", "perfect", "perfect", "yes", "1", "yes", "Myopic", "Oracle", "yes", "all", "perfect", "perfect", "yes", "2048", "pre", "no", "Short", "Oracle", "yes", "all", "perfect", "perfect", "yes", "2048", "post", "no", "Tree", "Oracle", "yes", "stack", "perfect", "perfect", "yes", "1", "no", "Linear", "Oracle", "yes", "heap", "perfect", "perfect", "yes", "1", "no", "Frugal", "Oracle", "yes", "disambig", ".", "perfect", "perfect", "yes", "1", "no", "Speculative", "Multithreaded", "yes", "all", "table", "table", "yes", "1", "no", "Unrolling", "Spec", ".", "Mult", ".", "yes", "all", "table", "table", "yes", "1", "yes", "Multithreaded", "yes", "all", "none", "none", "yes", "1", "no", "Unrolling", "Multithreaded", "yes", "all", "none", "none", "yes", "1", "yes", "Smart", "Superscalar", "yes", "all", "none", "none", "no", "1", "no", "Stupid", "Superscalar", "no", "none", "none", "none", "no", "1", "no", "Table", "1", ":", "Oracle", "and", "Machine", "Models", "the", "window", "size", "of", "current", "superscalars", "is", "very", "small", ".", "Another", "limitation", "is", "to", "place", "a", "finite", "window", "after", "the", "scheduling", ".", "In", "this", "case", ",", "the", "analyzer", "keeps", "a", "finite", "queue", "of", "PI", "'s", "available", "for", "packing", ".", "An", "arbitrary", "number", "of", "operations", "from", "the", "trace", "can", "be", "packed", "into", "these", "PI", "'s", ",", "but", "if", "a", "new", "PI", "is", "initiated", "and", "this", "causes", "the", "PI", "'s", "to", "exceed", "the", "window", "length", ",", "the", "analyzer", "must", "``", "issue", "''", "the", "lowest-numbered", "unissued", "PI", ",", "again", "making", "it", "unavailable", "for", "further", "packing", ".", "2.1.5", "Unrolling", "Even", "when", "false", "dependencies", "and", "control", "dependencies", "are", "ignored", ",", "parallelism", "in", "loops", "may", "be", "restricted", "because", "there", "are", "true", "data", "dependencies", "between", "successive", "versions", "of", "the", "loop", "index", "variables", ".", "In", "other", "words", ",", "in", "a", "FOR", "loop", ",", "only", "one", "iteration", "of", "the", "loop", "can", "be", "initiated", "every", "cycle", ",", "since", "the", "index", "variable", "can", "only", "be", "incremented", "once", "per", "cycle", ".", "It", "is", "conceivable", "that", "a", "processor", "could", "initiate", "all", "iterations", "of", "a", "loop", "simultaneously", "by", "generating", "the", "entire", "set", "of", "indexes", "simultaneously", ",", "provided", "they", "were", "related", "in", "a", "simple", "way", ",", "such", "as", "a", "constant", "difference", ".", "To", "measure", "how", "such", "a", "feature", "could", "affect", "parallelism", ",", "we", "provide", "an", "option", "which", "models", "this", "feature", "by", "eliminating", "the", "normal", "1-cycle", "execution", "time", "of", "any", "operation", "that", "increments", "or", "decrements", "a", "register", "by", "a", "constant", ".", "2.2", "Experimental", "Models", "Used", "We", "used", "13", "models", "in", "our", "study", ".", "We", "chose", "the", "models", "by", "deciding", "which", "architectural", "features", "we", "believe", "are", "important", "for", "a", "high-performance", "parallel", "architecture", "to", "have", ",", "and", "created", "models", "in", "which", "these", "features", "were", "adjusted", ",", "in", "order", "to", "measure", "how", "the", "given", "feature", "-LRB-", "or", "lack", "thereof", "-RRB-", "changed", "the", "amount", "of", "available", "parallelism", ".", "The", "models", "are", "summarized", "in", "Table", "1", ".", "In", "general", ",", "we", "chose", "a", "top-down", "approach", ".", "From", "the", "previous", "discussion", ",", "it", "is", "clear", "that", "the", "most", "ideal", "oracle", "model", ",", "which", "we", "call", "the", "Omniscient", "Oracle", ",", "should", "have", "the", "following", "features", ":", "ffl", "Infinite", "processors", "ffl", "No", "barriers", "due", "to", "control", "dependences", "ffl", "Perfect", "memory", "disambiguation", "ffl", "Infinite", "register", "renaming", "ffl", "Infinite", "memory", "renaming", "ffl", "No", "window", "limitations", "We", "then", "created", "models", "in", "which", "one", "or", "more", "features", "are", "restricted", ",", "to", "measure", "their", "importance", ".", "Thus", ",", "five", "additional", "oracles", ",", "which", "retain", "the", "first", "four", "features", "in", "the", "list", "above", ",", "but", "are", "limited", "in", "some", "other", "way", ",", "were", "added", ".", "The", "Myopic", "Oracle", "and", "Short", "Oracle", "measure", "the", "effect", "of", "allowing", "only", "local", "parallelism", "to", "be", "used", ",", "by", "imposing", "a", "size", "limit", "of", "2048", "on", "one", "of", "the", "two", "scheduling", "windows", "-LRB-", "see", "Section", "2.1.4", "-RRB-", ".", "The", "Myopic", "Oracle", "has", "a", "2K", "limit", "on", "the", "pre-scheduling", "window", "and", "the", "Short", "Oracle", "has", "a", "2K", "limit", "on", "the", "post-scheduling", "window", ".", "The", "Omniscient", ",", "Myopic", ",", "and", "Short", "Oracles", "have", "unlimited", "memory", "renaming", ".", "The", "other", "limited", "oracles", "measure", "what", "happens", "when", "memory", "renaming", "is", "selectively", "removed", ".", "The", "Tree", "Oracle", "allows", "renaming", "of", "stack", "variables", ",", "to", "measure", "the", "limits", "of", "parallelism", "exploitable", "by", "a", "machine", "using", "a", "tree", "of", "stacks", "or", "some", "equivalent", "implementation", ",", "but", "does", "not", "allow", "renaming", "in", "the", "heap", ".", "The", "Linear", "Oracle", "retains", "the", "linear", "stack", "model", ",", "by", "not", "allowing", "stack", "elements", "to", "be", "renamed", ",", "but", "allows", "renaming", "in", "the", "heap", ".", "The", "Frugal", "Oracle", "has", "no", "memory", "renaming", ".", "The", "other", "machines", "do", "not", "have", "perfect", "branch", "prediction", ".", "The", "Multithreaded", "Machine", "has", "procedure", "separation", ",", "but", "no", "speculation", ".", "This", "machine", "is", "so", "named", "because", "its", "behavior", "models", "what", "might", "occur", "on", "an", "idealized", "multithreaded", "machine", "-LRB-", "with", "infinite", "renaming", "-RRB-", "executing", "a", "sequential", "benchmark", "without", "the", "algorithm", "modifications", "that", "would", "be", "necessary", "to", "achieve", "the", "oracles", "'", "levels", "of", "performance", ".", "The", "Speculative", "Multithreaded", "Machine", "has", "procedure", "separation", ",", "and", "also", "has", "branch", "and", "jump", "prediction", "capabilities", ",", "using", "a", "separate", "table", "for", "each", ",", "as", "described", "in", "Section", "2.1.3", ".", "The", "Smart", "Superscalar", "has", "neither", ",", "but", "still", "has", "unlimited", "memory/register", "renaming", "and", "disambiguation", ".", "The", "Stupid", "Superscalar", "has", "none", "of", "these", "features", ".4", "The", "two", "superscalar", "machines", "can", "only", "find", "parallelism", "within", "basic", "blocks", ".", "Finally", ",", "we", "have", "unrolling", "versions", "-LRB-", "see", "Section", "2.1.5", "-RRB-", "of", "the", "Omniscient", "Oracle", ",", "Speculative", "Multithreaded", "Machine", ",", "and", "Multithreaded", "Machine", ".", "3", "Smoothability", "As", "highlighted", "in", "the", "introduction", ",", "an", "important", "question", "to", "ask", "about", "programs", "with", "high", "degrees", "of", "parallelism", "is", "how", "evenly", "can", "this", "parallelism", "be", "distributed", ".", "If", "a", "program", "'s", "parallelism", "is", "concentrated", "in", "short", "bursts", "of", "massive", "parallelism", "separated", "by", "long", "sequential", "sections", ",", "then", "Amdahl", "'s", "Law", "will", "take", "over", "and", "the", "machine", "will", "need", "many", "more", "processors", "than", "the", "average", "to", "achieve", "the", "theoretical", "4This", "model", "is", "similar", "to", "Wall", "'s", "\\", "Stupid", "''", "model", "-LSB-", "Wal91", "-RSB-", ",", "except", "that", "Wall", "'s", "model", "was", "limited", "to", "64", "processors", ",", "and", "could", "only", "schedule", "operations", "from", "within", "a", "window", "of", "2K", "instructions", ".", "These", "limitations", ",", "however", ",", "have", "almost", "no", "impact", "on", "the", "Stupid", "model", ",", "since", "parallelism", "is", "limited", "to", "that", "within", "basic", "blocks", ".", "n", "P", "-LRB-", "n", "-RRB-", "P", "-LRB-", "1", "-RRB-", "dP", "-LRB-", "1", "-RRB-", "e", "npeak", "nmax", "P", "-LRB-", "dP", "-LRB-", "1", "-RRB-", "e", "-RRB-", "Figure", "2", ":", "Standard", "smoothability", "profile", "parallelism", "limits", ".", "Furthermore", ",", "the", "utilization", "of", "these", "processors", "is", "poor", "during", "the", "sequential", "sections", "of", "the", "execution", ".", "If", "the", "number", "of", "processors", "is", "limited", ",", "then", "some", "operations", "will", "be", "delayed", ",", "but", "this", "delay", "will", "add", "to", "the", "total", "execution", "time", "only", "if", "the", "delayed", "operations", "are", "in", "critical", "paths", ".", "In", "this", "section", ",", "we", "describe", "how", "our", "analyzer", "can", "measure", "this", "effect", ",", "and", "we", "define", "a", "value", "called", "smoothability", "which", "quantifies", "this", "property", ".", "Our", "analyzer", "has", "the", "option", "of", "limiting", "the", "number", "of", "operations", "which", "can", "be", "packed", "into", "one", "PI", ".", "This", "limitation", "puts", "an", "upper", "bound", "on", "the", "maximum", "attainable", "parallelism", ",", "and", "may", "cause", "some", "operations", "to", "be", "delayed", "-LRB-", "scheduled", "into", "later", "PI", "'s", "-RRB-", "because", "the", "PI", "'s", "in", "which", "they", "first", "could", "be", "packed", "are", "already", "full", ".", "Because", "the", "analyzer", "'s", "scheduler", "processes", "operations", "in", "the", "order", "in", "which", "they", "appear", "in", "the", "dynamic", "trace", ",", "it", "is", "always", "the", "later", "instructions", "which", "will", "be", "delayed", ".", "For", "a", "given", "architectural", "model", ",", "and", "a", "given", "benchmark", "program", ",", "we", "can", "define", "P", "-LRB-", "n", "-RRB-", ",", "the", "\\", "parallelism", "''", "function", ",", "which", "gives", "the", "average", "parallelism", "when", "the", "width", "of", "each", "PI", "is", "limited", "to", "n", "operations", "-LRB-", "i.e.", ",", "there", "are", "n", "processors", "-RRB-", ".", "We", "use", "P", "-LRB-", "1", "-RRB-", "to", "denote", "the", "parallelism", "when", "the", "number", "of", "processors", "is", "infinite", ".", "A", "plot", "of", "P", "-LRB-", "n", "-RRB-", "will", "look", "something", "like", "Figure", "2", ".", "This", "curve", "is", "bounded", "above", "by", "two", "factors", ".", "For", "small", "values", "of", "n", ",", "P", "-LRB-", "n", "-RRB-", "is", "bounded", "by", "n", ",", "since", "we", "ca", "n't", "have", "greater", "than", "linear", "speedup", ".", "This", "is", "represented", "by", "the", "diagonal", "dashed", "line", "in", "Figure", "2", ".", "Once", "n", "reaches", "P", "-LRB-", "1", "-RRB-", ",", "that", "value", "becomes", "the", "new", "bound", ",", "since", "P", "-LRB-", "n", "-RRB-", "can", "never", "be", "greater", "than", "P", "-LRB-", "1", "-RRB-", ",", "as", "shown", "by", "the", "horizontal", "dashed", "line", ".", "P", "-LRB-", "n", "-RRB-", "is", "guaranteed", "to", "reach", "P", "-LRB-", "1", "-RRB-", "if", "n", "equals", "or", "exceeds", "npeak", ",", "the", "largest", "number", "of", "operations", "packed", "into", "any", "single", "PI", ",", "i.e.", ",", "the", "peak", "instantaneous", "parallelism", ",", "because", "above", "that", "point", ",", "all", "operations", "are", "executed", "immediately", "and", "there", "are", "no", "delays", ".", "Under", "the", "more", "optimistic", "models", ",", "npeak", "may", "be", "quite", "high", ",", "since", "many", "operations", "not", "dependent", "on", "previous", "operations", "will", "be", "packed", "into", "the", "first", "PI", ".", "Usually", ",", "P", "-LRB-", "n", "-RRB-", "will", "reach", "P", "-LRB-", "1", "-RRB-", "at", "some", "lower", "value", "of", "n", ",", "called", "nmax", ".", "When", "n", "is", "between", "nmax", "and", "npeak", ",", "some", "operations", "are", "delayed", ",", "but", "the", "delays", "do", "not", "affect", "critical", "paths", ",", "so", "the", "total", "number", "of", "PI", "'s", "does", "n't", "increase", ".", "If", "a", "program", "is", "ideally", "-LRB-", "evenly", "-RRB-", "distributed", "over", "time", ",", "then", "the", "number", "of", "operations", "performed", "in", "every", "cycle", "is", "either", "bP", "-LRB-", "1", "-RRB-", "c", "or", "dP", "-LRB-", "1", "-RRB-", "e", "-LRB-", "since", "P", "-LRB-", "1", "-RRB-", "may", "be", "non-integral", ",", "and", "each", "PI", "has", "an", "integral", "number", "of", "operations", "-RRB-", ".", "Thus", ",", "dP", "-LRB-", "1", "-RRB-", "e", "processors", "are", "sufficient", "to", "guarantee", "that", "every", "operation", "in", "the", "trace", "is", "executed", "as", "early", "as", "possible", ".", "A", "program", "that", "is", "not", "as", "smooth", ",", "however", ",", "will", "have", "-LRB-", "with", "infinite", "processors", "-RRB-", "some", "PI", "'s", "with", "more", "than", "dP", "-LRB-", "1", "-RRB-", "e", "operations", ".", "With", "only", "dP", "-LRB-", "1", "-RRB-", "e", "processors", ",", "some", "of", "these", "operations", "will", "need", "to", "be", "deferred", "until", "a", "later", "PI", "in", "which", "not", "so", "many", "operations", "are", "packed", ".", "If", "the", "deferred", "operation", "is", "not", "on", "a", "critical", "path", ",", "and", "its", "results", "are", "not", "immediately", "needed", ",", "then", "this", "delay", "wo", "n't", "increase", "the", "total", "number", "of", "PI", "'s", "needed", "to", "execute", "the", "program", ".", "However", ",", "if", "the", "operation", "is", "in", "n", "U", "-LRB-", "n", "-RRB-", "1", "dP", "-LRB-", "1", "-RRB-", "e", "npeak", "nmax", "U", "-LRB-", "dP", "-LRB-", "1", "-RRB-", "e", "-RRB-", "Figure", "3", ":", "Standard", "processor", "utilization", "profile", "a", "critical", "path", ",", "and", "it", "is", "delayed", "by", "k", "cycles", ",", "it", "is", "possible", "that", "every", "future", "operation", "dependent", "on", "that", "operation", "will", "be", "delayed", "by", "k", "cycles", ",", "increasing", "the", "total", "number", "of", "PI", "'s", "by", "k", ".", "Since", "P", "-LRB-", "n", "-RRB-", "is", "bounded", "above", "in", "the", "manner", "previously", "described", ",", "we", "can", "define", "another", "function", "to", "represent", "how", "well", "the", "processors", "are", "utilized", "compared", "to", "the", "ideal", "case", ":", "U", "-LRB-", "n", "-RRB-", "=", "8", ">", "<", ">", ":", "P", "-LRB-", "n", "-RRB-", "n", "if", "n", "<", "=", "P", "-LRB-", "1", "-RRB-", "P", "-LRB-", "n", "-RRB-", "P", "-LRB-", "1", "-RRB-", "if", "n", ">", "P", "-LRB-", "1", "-RRB-", "A", "utilization", "curve", "corresponding", "to", "the", "curve", "in", "Figure", "2", "is", "shown", "in", "Figure", "3", ".", "We", "define", "smoothability", "to", "be", "the", "processor", "utilization", "at", "the", "critical", "value", "n", "=", "dP", "-LRB-", "1", "-RRB-", "e", ",", "i.e.", ",", "S", "=", "U", "-LRB-", "dP", "-LRB-", "1", "-RRB-", "e", "-RRB-", "=", "P", "-LRB-", "dP", "-LRB-", "1", "-RRB-", "e", "-RRB-", "P", "-LRB-", "1", "-RRB-", "Our", "analyzer", "can", "keep", "a", "record", "of", "how", "many", "operations", "are", "in", "each", "PI", ",", "and", "can", "delay", "operations", "whenever", "a", "PI", "becomes", "full", ".", "To", "measure", "the", "smoothability", "for", "a", "given", "model", ",", "we", "first", "compute", "P", "-LRB-", "1", "-RRB-", "for", "that", "model", ",", "round", "it", "to", "the", "next", "integer", ",", "and", "rerun", "the", "program", "with", "the", "resulting", "value", "as", "the", "PI", "width", "limit", ".", "We", "compute", "smoothability", "for", "both", "the", "Omniscient", "Oracle", "and", "the", "Speculative", "Multithreaded", "Machine", ".", "We", "also", "take", "parallelism", "profiles", "for", "both", ",", "and", "record", "the", "average", "number", "of", "cycles", "each", "operation", "must", "be", "deferred", ".", "This", "gives", "us", "an", "idea", "whether", "the", "smoothability", "is", "mostly", "due", "to", "a", "genuinely", "even", "distribution", "of", "operations", "over", "time", ",", "or", "to", "the", "ability", "to", "defer", "operations", "without", "excessively", "slowing", "down", "the", "execution", "of", "critical", "paths", ".", "4", "Experimental", "Results", "To", "measure", "the", "parallelism", "available", "under", "the", "various", "models", ",", "a", "testbed", "was", "developed", "to", "implement", "the", "trace", "analyzer", ".", "Since", "programs", "can", "show", "significant", "differences", "in", "behavior", "when", "run", "on", "short", "inputs", "and", "on", "larger", "inputs", ",", "we", "required", "our", "testbed", "to", "handle", "traces", "for", "realistic", "input", "sizes", ".", "Also", ",", "we", "stipulated", "that", "all", "programs", "tested", "should", "run", "to", "completion", ",", "giving", "the", "analyzer", "enough", "opportunity", "to", "extract", "parallelism", "from", "all", "parts", "of", "the", "code", ".", "Implementation", "details", "are", "provided", "in", "Appendix", "A", ".", "We", "decided", "to", "base", "the", "analysis", "on", "traces", "of", "programs", "executed", "on", "Sun", "SparcStations", ".", "The", "Sparc", "architecture", "was", "chosen", "for", "the", "testbed", "because", "it", "is", "representative", "of", "present-day", "RISC", "processors", ".", "Also", ",", "the", "Sparc", "processor", "has", "a", "special", "feature", "facilitating", "procedure", "calls", ",", "the", "partitioning", "of", "registers", "into", "sets", "which", "are", "selectively", "visible", "to", "the", "processor", "via", "\\", "register", "windows", ".", "''", "The", "mundane", "task", "of", "saving", "and", "restoring", "local", "registers", "and", "passing", "parameters", "is", "much", "more", "efficient", ".", "This", "avoids", "inflating", "the", "parallelism", "numbers", "with", "the", "pushes", "and", "pops", "which", "the", "analyzer", "would", "schedule", "in", "parallel", ".", "Finally", ",", "some", "of", "the", "recent", "trace-driven", "experiments", "have", "used", "MIPS", "workstations", ",", "and", "we", "decided", "to", "confirm", "the", "generality", "of", "the", "results", "by", "using", "a", "different", "RISC", "processor", ".", "We", "ran", "our", "analysis", "tool", "on", "9", "benchmarks", "comprising", "a", "total", "of", "20", "test", "cases", ",", "under", "each", "of", "the", "13", "models", ".", "We", "chose", "problems", "that", "we", "felt", "are", "representative", "of", "the", "types", "of", "computations", "that", "are", "likely", "to", "be", "performed", "on", "future", "high-performance", "architectures", ".", "We", "looked", "for", "programs", "large", "enough", "to", "give", "figures", "suggestive", "of", "what", "can", "be", "achieved", "with", "\\", "grand", "challenge", "''", "problems", ",", "without", "being", "so", "large", "as", "to", "overwhelm", "our", "analyzer", ".", "The", "benchmarks", "consist", "of", "three", "regular", "FP-intensive", "scientific", "programs", "written", "in", "FORTRAN", ",", "one", "irregular", "FP-intensive", "FORTRAN", "program", ",", "and", "five", "symbolic", "applications", "written", "in", "C.", "All", "are", "from", "standard", "benchmark", "test", "suites", ",", "except", "for", "a", "speech-recognition", "program", "taken", "from", "an", "actual", "industrial", "application", ".", "The", "tests", "are", "summarized", "in", "Table", "2", ".", "Source", "Program", "Description", "Test", "Case", "Useful", "Call", "%", "of", "ops", ".", "Operations", "Dep", ".", "FP", "Ld", "St", "DLX", "tex", "Text", "formatting", "man.tex", "-LRB-", "1", "p.", "-RRB-", "15,184,459", "19", ".01", "16", "18", "suite", "draft.tex", "-LRB-", "11", "-RRB-", "108,543,512", "23", ".04", "15", "8.0", "Indust", ".", "speech", "Speech", "recognit", ".", "551,267,528", "12", "4.5", "14", "2.8", "li", "Lisp", "interpreter", "-LRB-", "queens", "7", "-RRB-", "204,921,097", "75103", "22", "8.6", "SPEC", "espresso", "Boolean", "bca.in", "468,808,718", "33", "<", ":01", "23", "2.5", "test", "minimization", "cps.in", "624,184,555", "41", "<", ":01", "21", "3.9", "suite", "ti.in", "729,302,047", "43", "<", ":01", "20", "4.6", "tial.in", "1,190,056,688", "30", "<", ":01", "22", "4.5", "eqntott", "Truth-table", "gen.", "int", "pri", "3", ".", "eqn", "1,769,805,904", "18", "33", "0.7", "DLX", "spice", "Analog", "circuit", "small", "26,026,482", "17", "10", "30", "9.9", "suite", "simulation", "large", "1,032,185,404", "17", "12", "32", "10", "tomcatv", "Mesh", "N", "=", "33", "46,850,826", "17", "16", "46", "13", "generation", "N", "=", "65", "187,962,609", "17", "17", "47", "13", "N", "=", "129", "751,099,835", "17", "17", "47", "13", "SPEC", "N", "=", "257", "3,018,222,124", "17", "17", "48", "13", "test", "doduc", "Hydrocode", "tiny", "103,371,553", "14", "14", "36", "10", "suite", "simulation", "small", "522,997,889", "14", "14", "36", "10", "ref", "3,018,328,348", "14", "14", "36", "10", "fpppp", "Quantum", "NATOMS", "=", "4", "276,896,598", "14", "19", "43", "10", "chemistry", "NATOMS", "=", "6", "1,257,591,073", "14", "19", "43", "10", "Table", "2", ":", "Benchmarks", "and", "test", "cases", "used", "In", "cases", "where", "benchmarks", "had", "more", "than", "one", "input", "case", ",", "we", "ran", "all", "available", "cases", "to", "see", "how", "parallelism", "might", "vary", "for", "different", "sizes", "and", "types", "of", "inputs", ".", "We", "used", "the", "standard", "input", "cases", "listed", ",", "except", "that", "we", "reduced", "the", "size", "of", "the", "Queens", "problem", "run", "on", "the", "Lisp", "interpreter", "from", "9", "to", "7", "queens", ",", "and", "the", "number", "of", "atoms", "in", "fpppp", "from", "8", "to", "6", ".", "One", "of", "the", "goals", "of", "our", "study", "was", "to", "analyze", "complete", "program", "executions", ",", "rather", "than", "stopping", "at", "some", "point", "as", "in", "some", "previous", "studies", ".", "Our", "experiments", "confirmed", "the", "wisdom", "of", "this", "choice", ",", "as", "some", "of", "the", "programs", "showed", "long-term", "changes", "in", "parallelism", "over", "time", ".", "By", "programming", "our", "analyzer", "to", "print", "intermediate", "results", "at", "regular", "intervals", ",", "we", "found", ",", "for", "instance", ",", "that", "parallelism", "of", "eqntott", "under", "the", "Multithreaded", "model", "was", "over", "6", "after", "100", "million", "operations", ",", "but", "dropped", "below", "2", "after", "half", "a", "billion", "operations", ".", "Each", "of", "the", "next", "three", "subsections", "discusses", "the", "observed", "effects", "of", "one", "type", "of", "architectural", "limitation", "on", "parallelism", ".", "This", "is", "followed", "by", "a", "presentation", "of", "the", "smoothability", "results", ",", "and", "a", "discussion", "of", "the", "role", "of", "compiler", "optimization", ".", "4.1", "Effects", "of", "Branch", "and", "Jump", "Prediction", "Benchmark", "Omniscient", "Speculative", "Multithreaded", "Smart", "Stupid", "Oracle", "Multithreaded", "Superscalar", "Superscalar", "tex", "-LRB-", "man", "-RRB-", "99.1", "22.2", "5.28", "2.04", "1.74", "tex", "-LRB-", "draft", "-RRB-", "192", "12.2", "3.04", "2.08", "1.66", "speech", "8,104", "129", "6.30", "1.80", "1.62", "li", "-LRB-", "queens", "7", "-RRB-", "1,544", "41.3", "3.88", "1.67", "1.43", "espresso", "-LRB-", "bca", "-RRB-", "1,224", "9.65", "1.78", "1.47", "1.37", "espresso", "-LRB-", "cps", "-RRB-", "541", "10.8", "2.18", "1.58", "1.43", "espresso", "-LRB-", "ti", "-RRB-", "403", "11.8", "2.31", "1.64", "1.47", "espresso", "-LRB-", "tial", "-RRB-", "371", "10.3", "2.12", "1.59", "1.45", "eqntott", "43,298", "300", "1.66", "1.46", "1.43", "spice", "-LRB-", "small", "-RRB-", "76.5", "27.2", "8.18", "3.53", "2.00", "spice", "-LRB-", "large", "-RRB-", "62.8", "22.4", "6.11", "3.90", "2.04", "tomcatv", "-LRB-", "N", "=", "33", "-RRB-", "1,058", "51.4", "19.4", "14.1", "2.69", "tomcatv", "-LRB-", "N", "=", "65", "-RRB-", "2,108", "52.6", "20.1", "18.3", "2.76", "tomcatv", "-LRB-", "N", "=", "129", "-RRB-", "4,197", "53.6", "19.2", "18.7", "2.74", "tomcatv", "-LRB-", "N", "=", "257", "-RRB-", "8,418", "54.2", "19.2", "19.1", "2.74", "doduc", "-LRB-", "tiny", "-RRB-", "562", "158", "31.0", "4.88", "2.33", "doduc", "-LRB-", "small", "-RRB-", "617", "174", "32.8", "4.92", "2.33", "doduc", "-LRB-", "ref", "-RRB-", "621", "202", "33.2", "4.92", "2.33", "fpppp", "-LRB-", "NATOMS", "=", "4", "-RRB-", "4,977", "297", "52.7", "30.1", "2.88", "fpppp", "-LRB-", "NATOMS", "=", "6", "-RRB-", "11,296", "311", "54.1", "30.9", "2.88", "Table", "3", ":", "A", "summary", "of", "results", ".", "A", "summary", "of", "the", "parallelism", "results", "for", "5", "base", "models", "is", "given", "in", "Table", "3", ".", "Examining", "this", "table", ",", "we", "note", "that", "the", "results", "vary", "from", "surprisingly", "high", "parallelism", "results", "for", "the", "Omniscient", "Oracle", "to", "the", "expectedly", "poor", "parallelism", "results", "for", "the", "stupid", "superscalar", "model", ".", "In", "the", "case", "of", "the", "Omniscient", "Oracle", ",", "we", "find", "impressive", "parallelism", "for", "speech", "-LRB-", "8,104", "-RRB-", ",", "eqntott", "-LRB-", "43,298", "-RRB-", ",", "tomcatv", "-LRB-", "1,058", "-LCB-", "8,418", "-RRB-", ",", "and", "fpppp", "-LRB-", "4,977", "-LCB-", "11,296", "-RRB-", ".", "In", "addition", ",", "all", "other", "programs", "but", "spice", "and", "tex", "show", "parallelism", "results", "greater", "than", "300", ".", "A", "comparison", "of", "the", "first", "four", "models", "shows", "the", "importance", "of", "branch", "and", "jump", "prediction", ".", "The", "Speculative", "Multithreaded", "machine", "is", "just", "like", "the", "Omniscient", "Oracle", ",", "except", "it", "does", "not", "know", "the", "outcomes", "of", "branches", "and", "indirect", "jumps", ".", "Therefore", ",", "it", "must", "predict", "them", ",", "and", "sometimes", "makes", "mistakes", ".", "The", "Multithreaded", "model", "is", "a", "further", "restriction", "that", "has", "no", "jump", "or", "branch", "prediction", ".", "It", "does", ",", "however", ",", "allow", "instructions", "separated", "by", "a", "conditional", "branch", "to", "execute", "concurrently", "if", "they", "are", "in", "different", "procedure", "instances", ".", "The", "Smart", "Superscalar", "does", "n't", "even", "make", "this", "allowance", ".", "From", "Table", "3", "we", "can", "make", "the", "following", "observations", ":", "ffl", "For", "some", "programs", "like", "li", ",", "espresso", ",", "eqntott", ",", "and", "tomcatv", ",", "the", "power", "to", "predict", "jumps", "and", "branches", "perfectly", "is", "extremely", "important", ".", "As", "expected", ",", "for", "scientific", "programs", "that", "have", "regular", ",", "data-independent", "behavior", "like", "doduc", ",", "branch", "predication", "is", "much", "less", "important", ".", "ffl", "There", "is", "a", "substantial", "parallelism", "loss", "between", "the", "Speculative", "Multithreaded", "model", "and", "the", "Multithreaded", "model", ".", "This", "result", "indicates", "that", "for", "programs", "with", "irregular", "control", "flow", ",", "speculative", "execution", "may", "be", "very", "important", ".", "4.2", "Finite", "Scheduling", "Windows", "In", "order", "to", "study", "what", "characteristics", "of", "the", "Omniscient", "Oracle", "give", "such", "good", "parallelism", "results", ",", "we", "performed", "a", "series", "of", "experiments", "where", "we", "constrained", "other", "selected", "features", "of", "the", "oracle", ".", "In", "Table", "4", ",", "we", "compare", "the", "parallelism", "results", "of", "the", "Omniscient", "Oracle", "and", "Myopic", "Oracle", ".", "These", "two", "oracles", "are", "identical", ",", "except", "the", "Myopic", "Oracle", "schedules", "operations", "from", "a", "window", "whose", "maximum", "length", "is", "2048", ".", "The", "comparison", "is", "quite", "startling", ",", "and", "leads", "to", "the", "following", "observations", ":", "ffl", "For", "all", "programs", "but", "spice", ",", "the", "Myopic", "Oracle", "performs", "significantly", "worse", ".", "In", "many", "cases", ",", "part", "of", "the", "loss", "is", "due", "to", "the", "fact", "that", "the", "size", "of", "the", "window", "-LRB-", "2,048", "-RRB-", "is", "an", "upper", "bound", "on", "the", "maximum", "parallelism", ".", "However", ",", "in", "no", "case", "did", "the", "parallelism", "on", "the", "Myopic", "Oracle", "even", "come", "close", "to", "this", "bound", ".", "ffl", "For", "symbolic", "programs", "like", "eqntott", "and", "speech", ",", "and", "numeric", "programs", "like", "fpppp", ",", "the", "Myopic", "Oracle", "gives", "less", "than", "2", "%", "of", "the", "Omniscient", "Oracle", "'s", "parallelism", ".", "Thus", ",", "we", "can", "conclude", "that", "parallel", "operations", "in", "these", "programs", "may", "be", "separated", "by", "large", "distances", "in", "the", "trace", ".", "ffl", "For", "most", "applications", ",", "the", "Myopic", "Oracle", "'s", "performance", "on", "a", "given", "program", "declined", "as", "the", "problem", "size", "increased", ".", "As", "the", "problem", "size", "increases", ",", "many", "loops", "become", "longer", ",", "pushing", "parallel", "operations", "further", "apart", ".", "This", "effect", "is", "most", "noticable", "with", "tomcatv", "and", "fpppp", ".", "We", "tried", "another", "variation", "of", "a", "fixed-window", "oracle", ",", "by", "placing", "the", "2K-window", "after", "the", "operation", "scheduler", ".", "The", "Short", "Oracle", "can", "see", "operations", "across", "an", "infinite", "distance", ",", "but", "can", "only", "reach", "a", "short", "distance", "when", "scheduling", "them", ".", "This", "removes", "the", "2K", "upper", "bound", "on", "parallelism", ",", "and", "the", "Short", "Oracle", "will", "always", "perform", "at", "least", "as", "well", "as", "the", "Myopic", "Oracle", ".", "However", ",", "this", "model", "still", "shows", "the", "extent", "to", "which", "concurrent", "operations", "are", "separated", "in", "the", "instruction", "trace", ".", "We", "found", ":", "ffl", "For", "all", "numerical", "programs", "except", "fpppp", ",", "and", "for", "spice", ",", "the", "finite", "window", "limit", "has", "little", "or", "no", "impact", "on", "parallelism", ".", "This", "suggests", "that", "most", "of", "the", "parallelism", "comes", "from", "loops", ",", "which", "ca", "n't", "be", "parallelized", "so", "effectively", "if", "the", "window", "comes", "before", "the", "scheduler", ".", "ffl", "For", "symbolic", "programs", "like", "speech", ",", "li", "and", "eqntott", ",", "the", "Short", "Oracle", "is", "almost", "as", "bad", "as", "the", "Myopic", "Oracle", ",", "suggesting", "that", "most", "parallelism", "comes", "from", "widely-separated", "locations", "in", "the", "program", ",", "and", "not", "from", "within", "loops", ".", "Benchmark", "Omniscient", "Myopic", "%", "of", "Short", "%", "of", "Oracle", "Oracle", "Omni", "Oracle", "Omni", "tex", "-LRB-", "man", "-RRB-", "99.1", "34.0", "34.3", "39.4", "39.8", "tex", "-LRB-", "draft", "-RRB-", "192", "62.1", "32.3", "123", "63.8", "speech", "8,104", "90.5", "1.12", "146", "1.80", "li", "-LRB-", "queens", "7", "-RRB-", "1,544", "64.0", "4.14", "92.6", "6.00", "espresso", "-LRB-", "bca", "-RRB-", "1,224", "35.1", "2.86", "103", "8.42", "espresso", "-LRB-", "cps", "-RRB-", "541", "59.6", "11.0", "312", "57.7", "espresso", "-LRB-", "ti", "-RRB-", "403", "66.7", "16.5", "317", "78.6", "espresso", "-LRB-", "tial", "-RRB-", "371", "55.3", "14.9", "256", "68.9", "eqntott", "43,298", "141", "0.32", "1,314", "3.03", "spice", "-LRB-", "small", "-RRB-", "76.5", "40.1", "52.4", "74.0", "96.8", "spice", "-LRB-", "large", "-RRB-", "62.8", "28.8", "45.8", "61.1", "97.3", "tomcatv", "-LRB-", "N", "=", "33", "-RRB-", "1,058", "159", "15.0", "1,058", "100", "tomcatv", "-LRB-", "N", "=", "65", "-RRB-", "2,108", "125", "5.93", "2,108", "100", "tomcatv", "-LRB-", "N", "=", "129", "-RRB-", "4,197", "101", "2.40", "4,197", "100", "tomcatv", "-LRB-", "N", "=", "257", "-RRB-", "8,418", "86.4", "1.03", "8,418", "100", "doduc", "-LRB-", "tiny", "-RRB-", "562", "103", "18.3", "550", "98.0", "doduc", "-LRB-", "small", "-RRB-", "617", "104", "16.9", "614", "99.6", "doduc", "-LRB-", "ref", "-RRB-", "621", "104", "16.7", "621", "99.9", "fpppp", "-LRB-", "NATOMS", "=", "4", "-RRB-", "4,977", "75.6", "1.52", "3,455", "69.4", "fpppp", "-LRB-", "NATOMS", "=", "6", "-RRB-", "11,296", "75.8", "0.67", "4,976", "44.0", "Table", "4", ":", "The", "effects", "of", "finite", "window", "sizes", "4.3", "Frugal", "Oracles", "Having", "established", "that", "window", "limitations", "are", "usually", "bad", ",", "we", "next", "experimented", "with", "frugal", "oracles", ".", "The", "results", "of", "these", "experiments", "are", "given", "in", "Table", "5", ".", "In", "this", "table", "we", "give", "the", "parallelism", "measurements", "for", "the", "Tree", "Oracle", "-LRB-", "stack", "renaming", ",", "but", "no", "heap", "renaming", "-RRB-", ",", "the", "Linear", "Oracle", "-LRB-", "heap", "renaming", ",", "but", "no", "stack", "renaming", "-RRB-", ",", "and", "the", "truly", "Frugal", "Oracle", "-LRB-", "no", "stack", "or", "heap", "renaming", "-RRB-", ".", "For", "each", "result", ",", "we", "give", "the", "percentage", "of", "parallelism", "relative", "to", "the", "Omniscient", "Oracle", ".", "Studying", "these", "results", ",", "we", "can", "make", "the", "following", "observations", ":", "ffl", "Stack", "renaming", "is", "very", "important", "for", "numeric", "programs", ",", "and", "for", "symbolic", "programs", "like", "speech", "and", "eqntott", ".", "This", "is", "probably", "due", "to", "overlapping", "of", "successive", "iterations", "that", "call", "the", "same", "procedure", "in", "numeric", "programs", ",", "and", "concurrent", "execution", "of", "separate", "procedure", "calls", "in", "symbolic", "programs", ".", "ffl", "Heap", "renaming", "is", "extremely", "important", "for", "li", ",", "speech", ",", "and", "eqntott", ",", "irrelevant", "to", "fpppp", ",", "and", "almost", "irrelevant", "to", "doduc", ".", "In", "the", "case", "of", "the", "symbolic", "programs", ",", "this", "reflects", "the", "fact", "that", "the", "programs", "are", "computing", "with", "large", "dynamically-allocated", "data", "structures", ".", "espresso", "and", "tomcatv", "show", "variations", "in", "performance", "with", "problem", "size", ",", "but", "in", "opposite", "directions", ".", "ffl", "Every", "program", "shows", "marked", "loss", "of", "parallelism", "with", "the", "Frugal", "Oracle", ".", "Thus", ",", "it", "appears", "that", "renaming", "of", "both", "stack-allocated", "data", "structures", "and", "heap-allocated", "data", "structures", "is", "an", "important", "characteristic", "of", "the", "Omniscient", "Oracle", ".", "Usually", ",", "one", "or", "the", "other", "is", "the", "limiting", "case", "for", "a", "given", "application", ".", "In", "all", "cases", ",", "the", "Frugal", "Oracle", "performs", "as", "well", "or", "almost", "as", "well", "as", "the", "worst", "of", "the", "Tree", "Oracle", "and", "Linear", "Oracle", ".", "Benchmark", "Omniscient", "Tree", "%", "of", "Linear", "%", "of", "Frugal", "%", "of", "Oracle", "Oracle", "Omni", "Oracle", "Omni", "Oracle", "Omni", "tex", "-LRB-", "man", "-RRB-", "99.1", "32.1", "32.4", "79.2", "79.9", "32.0", "32.3", "tex", "-LRB-", "draft", "-RRB-", "192", "75.8", "39.4", "167", "86.9", "71.5", "37.2", "speech", "8,104", "136", "1.68", "57.1", "0.70", "53.6", "0.66", "li", "-LRB-", "queens", "7", "-RRB-", "1,544", "58.5", "3.79", "336", "21.8", "58.3", "3.78", "espresso", "-LRB-", "bca", "-RRB-", "1,224", "126", "10.3", "906", "74.0", "124", "10.1", "espresso", "-LRB-", "cps", "-RRB-", "541", "86.9", "16.1", "523", "96.6", "86.9", "16.0", "espresso", "-LRB-", "ti", "-RRB-", "403", "84.5", "21.0", "403", "100", "84.5", "21.0", "espresso", "-LRB-", "tial", "-RRB-", "371", "138", "37.1", "370", "99.8", "138", "37.1", "eqntott", "43,298", "1,742", "4.02", "1,314", "3.03", "1,314", "3.03", "spice", "-LRB-", "small", "-RRB-", "76.5", "58.8", "76.9", "27.6", "36.1", "25.6", "33.5", "spice", "-LRB-", "large", "-RRB-", "62.8", "36.0", "57.3", "20.1", "32.0", "19.7", "31.4", "tomcatv", "-LRB-", "N", "=", "33", "-RRB-", "1,058", "423", "40.0", "161", "15.2", "161", "15.2", "tomcatv", "-LRB-", "N", "=", "65", "-RRB-", "2,108", "443", "21.0", "157", "7.45", "157", "7.45", "tomcatv", "-LRB-", "N", "=", "129", "-RRB-", "4,197", "451", "10.7", "155", "3.69", "155", "3.69", "tomcatv", "-LRB-", "N", "=", "257", "-RRB-", "8,418", "457", "5.43", "155", "1.84", "155", "1.84", "doduc", "-LRB-", "tiny", "-RRB-", "562", "554", "98.6", "25.8", "4.59", "25.8", "4.58", "doduc", "-LRB-", "small", "-RRB-", "617", "615", "99.7", "25.0", "4.06", "25.0", "4.06", "doduc", "-LRB-", "ref", "-RRB-", "621", "621", "99.9", "25.0", "4.02", "25.0", "4.02", "fpppp", "-LRB-", "NATOMS", "=", "4", "-RRB-", "4,977", "4,977", "100", "71.0", "1.43", "70.9", "1.43", "fpppp", "-LRB-", "NATOMS", "=", "6", "-RRB-", "11,296", "11,296", "100", "72.8", "0.65", "72.8", "0.64", "Table", "5", ":", "The", "effect", "of", "frugal", "use", "of", "memory", "Our", "studies", "show", ",", "however", ",", "that", "for", "irregular", "code", ",", "memory", "renaming", "by", "itself", "produces", "little", "benefit", ".", "Our", "experiments", "showed", "little", "difference", "between", "the", "Smart", "Superscalar", "and", "the", "Stupid", "Superscalar", "for", "such", "applications", "-LRB-", "refer", "to", "Table", "3", "-RRB-", ".", "Thus", ",", "to", "achieve", "further", "improvements", ",", "we", "must", "go", "to", "more", "aggressive", "models", ",", "like", "the", "Multithreading", "and", "Speculative", "Multithreading", "models", ".", "4.4", "Unrolling", "Results", "We", "performed", "a", "final", "set", "of", "experiments", "to", "see", "how", "more", "parallelism", "could", "be", "extracted", "from", "programs", "through", "static", "unrolling", ",", "as", "described", "in", "Section", "2.1.5", ".", "We", "reran", "the", "programs", "on", "the", "Omniscient", "Oracle", ",", "Speculative", "Multithreading", "Machine", ",", "and", "Multithreading", "Machine", ",", "allowing", "the", "instructions", "that", "add", "constants", "to", "registers", "to", "execute", "instantaneously", "rather", "than", "taking", "the", "usual", "one-cycle", "delay", ".", "The", "results", "are", "in", "Table", "6", ".", "From", "this", "we", "can", "see", "ffl", "With", "the", "exception", "of", "speech", ",", "unrolling", "had", "little", "impact", "on", "parallelism", "under", "the", "Omniscient", "Oracle", "model", ".", "While", "statically", "unrolling", "a", "loop", "may", "allow", "all", "iterations", "to", "commence", "simultaneously", ",", "this", "apparently", "does", "n't", "decrease", "the", "lengths", "of", "critical", "paths", "very", "much", ".", "ffl", "Unrolling", "was", "n't", "a", "much", "greater", "benefit", "to", "the", "Multithreaded", "Machine", ".", "Only", "tomcatv", "had", "more", "than", "a", "7", "%", "improvement", ".", "ffl", "Unrolling", "was", "a", "significant", "benefit", "to", "the", "Speculative", "Multithreading", "Machine", ".", "Many", "programs", "saw", "improvements", "of", "one-third", ",", "and", "tomcatv", "programs", "nearly", "doubled", "in", "speed", ".", "This", "is", "because", "the", "elimination", "of", "the", "one-cycle", "delay", "between", "successive", "loop", "iterations", "shortens", "the", "total", "time", "needed", "to", "execute", "an", "entire", "loop", ".", "Since", "the", "last", "iteration", "of", "a", "loop", "is", "typically", "followed", "by", "a", "mispredicted", "branch", ",", "which", "creates", "a", "barrier", "for", "all", "succeeding", "operations", "inside", "the", "procedure", "containing", "the", "loop", ",", "packing", "the", "loop", "in", "fewer", "PI", "'s", "reduces", "the", "total", "number", "of", "PI", "'s", "needed", "for", "the", "whole", "procedure", ".", "Benchmark", "Omniscient", "Oracle", "Speculative", "Multithr", ".", "Multithreaded", "Orig", ".", "Unr", ".", "%", "Inc.", ".", "Orig", ".", "Unr", ".", "%", "Inc.", ".", "Orig", ".", "Unr", ".", "%", "Inc.", ".", "tex", "-LRB-", "man", "-RRB-", "99.1", "101", "1.47", "22.2", "24.2", "9.19", "5.28", "5.55", "5.21", "tex", "-LRB-", "draft", "-RRB-", "192", "200", "3.90", "12.2", "12.6", "3.36", "3.04", "3.10", "1.91", "speech", "8,104", "12,225", "50.8", "129", "130", "1.34", "6.30", "6.48", "2.73", "li", "-LRB-", "queens", "7", "-RRB-", "1,544", "1,566", "1.43", "41.3", "46.3", "12.0", "3.88", "3.97", "2.24", "espresso", "-LRB-", "bca", "-RRB-", "1,224", "1,224", "0.01", "9.65", "11.5", "21.9", "1.78", "1.85", "3.82", "espresso", "-LRB-", "cps", "-RRB-", "541", "542", "0.08", "10.8", "13.8", "28.0", "2.18", "2.32", "6.70", "espresso", "-LRB-", "ti", "-RRB-", "403", "403", "<", "0:00", "11.8", "15.8", "33.9", "2.31", "2.48", "7.09", "espresso", "-LRB-", "tial", "-RRB-", "371", "371", "0.04", "10.3", "11.7", "13.7", "2.12", "2.20", "3.44", "eqntott", "43,298", "43,298", "<", "0:01", "300", "388", "29.4", "1.66", "1.66", "0.18", "spice", "-LRB-", "small", "-RRB-", "76.5", "78.7", "2.90", "27.2", "28.1", "3.62", "8.18", "8.46", "3.39", "spice", "-LRB-", "large", "-RRB-", "62.8", "64.0", "1.86", "22.4", "23.1", "3.07", "6.11", "6.23", "1.91", "tomcatv", "-LRB-", "N", "=", "33", "-RRB-", "1,058", "1,059", "0.07", "51.4", "96.1", "86.9", "19.4", "23.7", "22.7", "tomcatv", "-LRB-", "N", "=", "65", "-RRB-", "2,108", "2,109", "0.07", "52.6", "104", "98.1", "20.1", "24.5", "21.9", "tomcatv", "-LRB-", "N", "=", "129", "-RRB-", "4,197", "4,200", "0.07", "53.6", "111", "107", "19.2", "23.6", "23.0", "tomcatv", "-LRB-", "N", "=", "257", "-RRB-", "8,418", "8,424", "0.07", "54.2", "114", "111", "19.2", "23.7", "23.0", "doduc", "-LRB-", "tiny", "-RRB-", "562", "563", "0.28", "158", "168", "6.28", "31.0", "32.0", "3.30", "doduc", "-LRB-", "small", "-RRB-", "617", "619", "0.32", "174", "186", "6.65", "32.8", "33.9", "3.38", "doduc", "-LRB-", "ref", "-RRB-", "621", "623", "0.33", "202", "216", "7.26", "33.2", "34.3", "3.37", "fpppp", "-LRB-", "NATOMS", "=", "4", "-RRB-", "4,977", "4,996", "0.37", "297", "315", "5.89", "52.7", "54.4", "3.22", "fpppp", "-LRB-", "NATOMS", "=", "6", "-RRB-", "11,296", "11,317", "0.18", "311", "331", "6.34", "54.1", "55.8", "3.05", "Table", "6", ":", "The", "effects", "of", "unrolling", "4.5", "Smoothability", "Results", "In", "all", "of", "the", "models", "that", "we", "have", "presented", "so", "far", ",", "we", "have", "assumed", "an", "infinite", "number", "of", "processors", ".", "It", "is", "therefore", "interesting", "to", "study", "the", "effect", "of", "limiting", "the", "number", "of", "processors", ".", "That", "is", ",", "if", "we", "really", "had", "a", "limited", "number", "of", "processors", ",", "is", "the", "parallelism", "profile", "smooth", "enough", "to", "be", "effectively", "mapped", "to", "those", "processors", "?", "In", "Table", "7", "we", "list", "the", "parallelism", "results", "for", "the", "Omniscient", "Oracle", "and", "the", "Speculative", "Multithreaded", "Machine", ".", "For", "each", "model", ",", "we", "present", "the", "smoothability", "-LRB-", "defined", "in", "Section", "3", "-RRB-", ".", "In", "all", "cases", "under", "both", "models", ",", "the", "smoothability", "is", "better", "than", "50", "%", ".", "We", "also", "list", "the", "average", "operation", "delay", ",", "i.e.", ",", "the", "average", "number", "of", "PI", "'s", "by", "which", "each", "operation", "is", "delayed", "before", "it", "can", "be", "executed", ".", "-LRB-", "The", "average", "includes", "instructions", "which", "are", "executed", "as", "soon", "as", "they", "are", "ready", ",", "which", "are", "counted", "as", "0", ".", "-RRB-", "Low", "numbers", ",", "as", "with", "li", "and", "fpppp", ",", "indicate", "that", "the", "application", "is", "already", "fairly", "evenly", "distributed", "in", "time", ",", "so", "not", "much", "\\", "smoothing", "''", "is", "needed", ".", "High", "numbers", ",", "as", "with", "doduc", "-LRB-", "Speculative", "Multithreaded", "Machine", "-RRB-", "suggest", "that", "many", "operations", "are", "being", "delayed", "a", "long", "time", "before", "being", "executed", ".", "The", "high", "smoothability", "numbers", ",", "however", ",", "suggest", "that", "these", "delays", "do", "not", "significantly", "increase", "the", "lengths", "of", "critical", "paths", ".", "Benchmark", "Omni", ".", "%", "Smooth", "-", "Average", "Speculative", "%", "Smooth", "-", "Average", "Oracle", "ability", "Delay", "Multithread", ".", "ability", "Delay", "tex", "-LRB-", "man", "-RRB-", "99.1", "93.6", "12.4", "22.2", "75.7", "264", "tex", "-LRB-", "draft", "-RRB-", "192", "98.3", "23.3", "12.2", "75.4", "75.2", "speech", "8,104", "65.3", "9.70", "129", "61.0", "440", "li", "-LRB-", "queens", "7", "-RRB-", "1,544", "94.9", "0.24", "41.3", "72.2", "5.24", "espresso", "-LRB-", "bca", "-RRB-", "1,224", "92.6", "4.66", "9.65", "71.2", "63.4", "espresso", "-LRB-", "cps", "-RRB-", "541", "79.7", "7.88", "10.8", "75.5", "78.4", "espresso", "-LRB-", "ti", "-RRB-", "403", "93.0", "6.74", "11.8", "75.5", "57.2", "espresso", "-LRB-", "tial", "-RRB-", "371", "92.3", "30.6", "10.3", "79.3", "258", "eqntott", "43,298", "62.6", "73.5", "300", "64.3", "26.4", "spice", "-LRB-", "small", "-RRB-", "76.5", "92.2", "2.40", "27.2", "75.8", "16.6", "spice", "-LRB-", "large", "-RRB-", "62.8", "97.4", "19.4", "22.4", "78.0", "78.9", "tomcatv", "-LRB-", "N", "=", "33", "-RRB-", "1,058", "87.1", "6.38", "51.4", "71.8", "1.54", "tomcatv", "-LRB-", "N", "=", "65", "-RRB-", "2,108", "85.5", "13.8", "52.6", "71.9", "2.38", "tomcatv", "-LRB-", "N", "=", "129", "-RRB-", "4,197", "84.7", "29.0", "53.6", "73.5", "4.07", "tomcatv", "-LRB-", "N", "=", "257", "-RRB-", "8,418", "84.4", "59.1", "54.2", "73.9", "7.53", "doduc", "-LRB-", "tiny", "-RRB-", "562", "99.2", "1.84", "158", "76.8", "501", "doduc", "-LRB-", "small", "-RRB-", "617", "99.4", "1.82", "174", "77.2", "544", "doduc", "-LRB-", "ref", "-RRB-", "621", "99.4", "1.79", "202", "80.8", "518", "fpppp", "-LRB-", "NATOMS", "=", "4", "-RRB-", "4,977", "98.2", "6.00", "297", "59.1", "0.97", "fpppp", "-LRB-", "NATOMS", "=", "6", "-RRB-", "11,296", "98.7", "3.93", "311", "59.0", "0.912", "Table", "7", ":", "The", "effect", "of", "finite", "processors", "4.6", "Compiler", "Optimization", "We", "wish", "to", "make", "one", "final", "point", "concerning", "optimization", ".", "All", "programs", "were", "compiled", "at", "maximum", "optimization", ",", "except", "for", "three", "of", "the", "FORTRAN", "programs", ".", "In", "these", "cases", ",", "optimization", "level", "had", "a", "significant", "impact", "on", "program", "parallelism", ".", "Optimization", "level", "-LCB-", "O2", "was", "used", "on", "tomcatv", "because", "that", "yielded", "the", "best", "results", "for", "executing", "the", "sequential", "program", ",", "in", "terms", "of", "total", "instruction", "count", "and", "the", "numbers", "of", "memory", "accesses", ".", "However", ",", "what", "is", "more", "significant", "is", "that", "the", "Omniscient", "Oracle", "parallelism", "dropped", "from", "1,058", "to", "38", "when", "optimization", "was", "increased", "to", "-", "O3", "!", "This", "is", "surprising", ",", "since", "the", "Omniscient", "Oracle", "only", "accounts", "for", "true", "data", "dependencies", ",", "and", "we", "would", "not", "expect", "automatic", "compiler", "optimizations", "to", "change", "the", "overall", "pattern", "of", "data", "dependences", "in", "a", "program", ".", "We", "presently", "have", "no", "explanation", "for", "this", "anomaly", ".", "Two", "other", "FORTRAN", "programs", "were", "compiled", "at", "sub-maximum", "levels", "because", "the", "increase", "in", "parallelism", "was", "far", "greater", "than", "the", "sequential", "instruction", "count", ".", "When", "-LCB-", "O2", "was", "used", "for", "spice", ",", "the", "total", "number", "of", "PI", "'s", "decreased", "by", "16", "%", "even", "though", "there", "were", "9", "%", "more", "sequential", "instructions", ".", "Using", "-LCB-", "O1", "for", "doduc", "reduced", "total", "PI", "'s", "by", "more", "than", "a", "factor", "of", "8", ",", "even", "though", "there", "were", "52", "%", "more", "sequential", "instructions", ".", "In", "these", "two", "cases", ",", "one", "may", "wish", "to", "multiply", "the", "parallelism", "figures", "reported", "by", "the", "reciprocal", "factors", "91", "%", "-LRB-", "spice", "-RRB-", "and", "66", "%", "-LRB-", "doduc", "-RRB-", "for", "a", "fair", "comparison", "with", "the", "optimized", "sequential", "program", ".", "5", "Previous", "Studies", "Most", "previous", "studies", "on", "the", "limits", "of", "instruction-level", "parallelism", "have", "taken", "one", "of", "two", "approaches", ".", "One", "approach", "is", "to", "analyze", "the", "selected", "benchmark", "at", "either", "the", "source-code", "or", "object-code", "level", ",", "usually", "with", "a", "special", "interpreter", "that", "is", "based", "on", "a", "certain", "parallel", "machine", "model", ".", "The", "other", "approach", ",", "used", "in", "our", "study", ",", "is", "to", "schedule", "machine", "instructions", "from", "a", "trace", "generated", "by", "an", "actual", "execution", "of", "the", "object", "code", ".", "The", "following", "presents", "some", "of", "the", "previous", "work", "along", "both", "paths", ".", "An", "early", "experimental", "tool", "designed", "by", "Kuck", ",", "et", "al", "-LSB-", "KMC72", "-RSB-", ",", "compiled", "small", "Fortran", "programs", "to", "run", "on", "an", "abstract", "parallel", "machine", ".", "By", "recognizing", "parallelism", "at", "the", "source", "code", "level", "-LRB-", "e.g.", ",", "parallel", "iterations", "of", "DO", "loops", "-RRB-", "and", "by", "aggressively", "reordering", "complex", "expressions", ",", "they", "were", "able", "to", "speed", "up", "most", "programs", "by", "a", "factor", "of", "2-7", ",", "and", "speed", "up", "some", "by", "as", "much", "as", "25", ".", "Tjaden", "and", "Flynn", "built", "a", "simulator", "based", "on", "the", "superscalar", "model", "-LSB-", "TF70", "-RSB-", ".", "Their", "simulator", "could", "execute", "ordinary", "IBM", "7094", "machine", "code", ",", "but", "attempted", "to", "reschedule", "operations", "dynamically", "using", "a", "look-ahead", "window", "of", "between", "2", "and", "10", "operations", ".", "They", "obtained", "speedups", "of", "up", "to", "3", "on", "a", "suite", "of", "31", "library", "routines", ".", "Both", "studies", "got", "modest", "results", "because", "they", "only", "looked", "for", "parallelism", "within", "small", "blocks", ",", "and", "could", "not", "execute", "independent", "instructions", "from", "separate", "blocks", ".", "These", "blocks", "are", "typically", "separated", "by", "conditional", "branches", ",", "and", "if", "the", "decision", "whether", "to", "execute", "one", "block", "is", "controlled", "by", "the", "outcome", "of", "a", "conditional", "branch", "in", "another", "block", ",", "the", "first", "block", "ca", "n't", "begin", "execution", "until", "the", "branch", "has", "been", "resolved", ".", "Nicolau", "and", "Fisher", "wrote", "an", "interpreter", "for", "intermediate", "code", "generated", "by", "a", "compiler", "front-end", ",", "and", "a", "tool", "to", "analyze", "the", "instruction", "trace", "generated", "by", "the", "interpreter", "-LSB-", "NF84", "-RSB-", ".", "They", "addressed", "the", "shortcomings", "of", "the", "previous", "studies", "by", "allowing", "operations", "from", "many", "parts", "of", "the", "program", "to", "execute", "concurrently", ".", "They", "introduced", "the", "oracle", "model", ",", "which", "they", "added", "to", "their", "analysis", "tool", ".", "The", "analyzer", "also", "ignored", "any", "dependency", "which", "was", "not", "a", "\\", "true", "''", "data", "dependency", ".", "They", "were", "able", "to", "obtain", "respectable", "speedups", "from", "small", "scientific", "routines", ".", "The", "previous", "work", "discussed", "so", "far", "only", "studied", "small", "programs", ",", "primarily", "small", "numerical", "routines", ".", "To", "give", "a", "better", "idea", "of", "how", "large", "programs", "will", "fare", "on", "parallel", "machines", ",", "there", "have", "been", "several", "recent", "studies", "on", "this", "subjects", "-LSB-", "Kum88", ",", "BYP", "+91", ",", "Wal91", ",", "LW92", ",", "AS92", "-RSB-", ".", "Below", "we", "briefly", "survey", "work", "which", "are", "most", "relevant", "to", "ours", ".", "Kumar", "-LSB-", "Kum88", "-RSB-", "developed", "a", "tool", "that", "automatically", "added", "statistics-gathering", "statements", "to", "FORTRAN", "source-code", ".", "By", "running", "the", "modified", "FORTRAN", "programs", ",", "he", "was", "able", "to", "measure", "parallelism", "figures", "for", "scientific", "applications", ".", "The", "tool", "also", "performed", "control-dependence", "analysis", ",", "so", "that", "independent", "FORTRAN", "statements", "separated", "by", "barriers", "could", "still", "run", "concurrently", ".", "Kunar", "found", "the", "potential", "for", "high", "levels", "of", "parallelism", "in", "regular", "numerical", "code", ".", "Wall", "-LSB-", "Wal91", "-RSB-", "analyzed", "benchmarks", "-LRB-", "SPEC", "programs", "plus", "some", "real", "programs", "and", "toy", "benchmarks", "-RRB-", "in", "which", "the", "number", "of", "executed", "operations", "ranged", "from", "1", "million", "to", "2", "billion", ".", "He", "developed", "a", "series", "of", "models", "representing", "various", "levels", "of", "optimism", "about", "what", "the", "hardware", "and", "compiler", "could", "do", ".", "He", "then", "ran", "the", "benchmarks", "on", "a", "MIPS", "R3000", "processor", ",", "and", "analyzed", "the", "instruction", "traces", "in", "a", "manner", "similar", "to", "Tjaden", "and", "Flynn", ",", "and", "Nicolau", "and", "Fisher", ".", "Even", "under", "his", "\\", "perfect", "''", "model", ",", "with", "oracle-like", "branch", "prediction", ",", "parallelism", "rarely", "exceeded", "40", ".", "This", "is", "because", "his", "schedule", "used", "a", "finite", "-LRB-", "2K", "-RRB-", "input", "window", "from", "which", "to", "fill", "parallel", "instructions", ",", "and", "because", "he", "did", "not", "allow", "for", "memory", "renaming", ".", "Recently", ",", "Wilson", "and", "Lam", "have", "reported", "their", "study", "of", "the", "way", "control", "flow", "limits", "parallelism", ".", "They", "have", "demonstrated", "that", "substantially", "higher", "parallelism", "can", "be", "achieved", "by", "relaxing", "the", "constraints", "imposed", "by", "control", "flow", "on", "parallelism", "using", "control-dependence", "analysis", ",", "executing", "multiple", "flows", "of", "control", "simultaneously", ",", "and", "speculative", "execution", "-LSB-", "LW92", "-RSB-", ".", "They", "used", "six", "SPEC", "programs", "and", "4", "other", "programs", "as", "the", "test", "suite", ",", "and", "each", "program", "was", "simulated", "for", "100", "million", "instructions", ".", "6", "Conclusions", "In", "this", "paper", ",", "we", "have", "presented", "a", "study", "of", "the", "instruction", "level", "parallelism", "and", "provided", "some", "answers", "to", "questions", "regarding", "the", "limits", "of", "parallelism", "and", "its", "smoothability", ".", "We", "have", "reported", "on", "the", "construction", "of", "a", "testbed", "that", "was", "used", "to", "work", "with", "a", "wide", "variety", "of", "architecture", "models", ".", "This", "testbed", "allowed", "us", "to", "experiment", "with", "both", "standard", "benchmark", "programs", "and", "a", "real", "speech", "application", ".", "The", "testbed", "was", "implemented", "in", "such", "a", "way", "as", "to", "allow", "us", "to", "perform", "experiments", "on", "complete", "traces", "for", "reasonably", "large", "input", "data", "sets", ".", "By", "examining", "an", "Omniscient", "Oracle", "and", "specializations", "of", "this", "oracle", ",", "we", "were", "able", "to", "study", "the", "key", "features", "that", "are", "important", "in", "finding", "large", "amounts", "of", "fine-grain", "parallelism", ".", "These", "results", "showed", "that", "restricting", "the", "oracle", "by", "making", "it", "myopic", "-LRB-", "finite", "instruction", "window", "-RRB-", "or", "frugal", "-LRB-", "no", "memory", "renaming", "-RRB-", "resulted", "in", "reducing", "the", "parallelism", "dramatically", ".", "As", "part", "of", "the", "Frugal", "Oracle", "test", "we", "looked", "at", "the", "effect", "of", "allowing", "only", "stack", "renaming", ",", "and", "showed", "that", "this", "is", "a", "useful", "feature", "for", "many", "programs", ".", "However", ",", "for", "other", "programs", "stack", "renaming", "is", "not", "enough", ",", "and", "heap", "renaming", "is", "also", "required", ".", "This", "indicates", "that", "further", "work", "at", "both", "the", "compiler", "and", "architecture", "level", "must", "be", "undertaken", "to", "remove", "the", "memory", "reuse", "bottleneck", ".", "We", "also", "showed", "that", "the", "power", "of", "branch", "and", "jump", "prediction", "is", "very", "important", ",", "especially", "for", "programs", "with", "irregular", "control", "flow", ".", "This", "confirms", "the", "results", "of", "previous", "experiments", ".", "In", "particular", ",", "we", "found", "disappointingly", "low", "amounts", "of", "parallelism", "-LRB-", "<", "9", "-RRB-", "for", "the", "irregular", "programs", "under", "the", "Multithreaded", "model", ".", "Other", "studies", "have", "seen", "the", "same", "results", ",", "even", "when", "they", "performed", "control-dependence", "analysis", "-LRB-", "see", "Section", "2.1.3", "-RRB-", "to", "increase", "parallelism", "within", "a", "procedure", ".", "However", ",", "some", "applications", ",", "like", "tex", ",", "intuitively", "seem", "to", "have", "much", "more", "potential", "parallelism", "than", "found", "by", "our", "Multithreaded", "model", "-LRB-", "3.04", "-RRB-", "or", "Lam", "and", "Wilson", "'s", "model", "with", "control-dependence", "analysis", "-LRB-", "6.18", "-RRB-", ".", "This", "has", "important", "implications", "for", "future", "directions", "in", "architecture", ".", "It", "is", "sometimes", "believed", "that", "to", "exploit", "maximum", "parallelism", ",", "we", "only", "need", "to", "rewrite", "existing", "algorithms", "in", "a", "better", "language", ",", "such", "as", "a", "functional", "language", ",", "so", "that", "an", "efficient", "compiler", "can", "extract", "all", "the", "available", "parallelism", "without", "being", "burdened", "by", "such", "sequential", "artifacts", "as", "memory", "reuse", ".", "But", "the", "Multithreaded", "model", "gets", "poor", "results", ",", "even", "though", "it", "eliminates", "false", "data", "dependencies", ",", "and", "represents", "what", "could", "be", "achieved", "by", "an", "efficient", "dataflow", "machine", "running", "well-compiled", "programs", ".", "This", "would", "suggest", "that", "in", "many", "cases", ",", "large-scale", "parallelism", "will", "not", "be", "achieved", "merely", "by", "rewriting", "existing", "imperative-language", "programs", "in", "different", "languages", ".", "They", "must", "be", "redesigned", "completely", ",", "starting", "at", "the", "algorithmic", "level", ".", "Whether", "this", "will", "require", "the", "programmer", "to", "write", "programs", "with", "an", "explicit", "parallel", "machine", "model", "in", "mind", ",", "or", "to", "use", "a", "more", "abstract", "programming", "paradigm", "such", "as", "logic", "programming", ",", "is", "an", "interesting", ",", "but", "entirely", "different", "area", "of", "research", ".", "If", "such", "changes", "are", "impractical", ",", "then", "one", "should", "consider", "some", "sort", "of", "speculation", "for", "programs", "with", "irregular", "control", "flow", ".", "We", "showed", "that", "this", "can", "significantly", "improve", "program", "performance", ".", "We", "also", "showed", "that", "if", "such", "speculation", "is", "used", ",", "simultaneous", "initiation", "of", "multiple", "loop", "iterations", "usually", "can", "boost", "program", "execution", "speed", "even", "more", ".", "Smoothability", "has", "been", "demonstrated", "to", "be", "an", "interesting", "measure", "of", "the", "program", "parallelism", ".", "We", "reported", "the", "observation", "that", "all", "programs", "under", "test", "demonstrated", "smoothability", "better", "than", "50", "%", ".", "Furthermore", ",", "different", "programs", "may", "exhibit", "different", "smoothabilities", ".", "Thus", ",", "there", "is", "good", "hope", "for", "mapping", "the", "available", "parallelism", "onto", "finite", "resources", ".", "Our", "analyzer", "has", "proven", "to", "be", "a", "valuable", "experimental", "tool", ",", "and", "many", "useful", "extensions", "are", "possible", ".", "For", "future", "work", ",", "we", "plan", "to", "extend", "our", "existing", "testbed", "in", "the", "following", "directions", ":", "ffl", "Add", "control-dependence", "analysis", "-LRB-", "see", "Section", "2.1.3", "to", "extract", "more", "parallelism", "from", "the", "nonoracle", "models", ".", "ffl", "Add", "a", "memory", "latency", "model", "to", "the", "various", "experimental", "architectures", ".", "ffl", "Connect", "the", "testbed", "with", "our", "compiler", "so", "that", "we", "can", "add", "measurements", "relative", "to", "the", "real", "alias", "analyses", "that", "can", "be", "performed", "by", "a", "parallelizing", "compiler", ".", "ffl", "Add", "more", "programs", "to", "the", "test", "suite", ".", "ffl", "Experiment", "with", "various", "multithreading", "scheduling", "strategies", ".", "References", "-LSB-", "A", "+90", "-RSB-", "Robert", "Alverson", "et", "al.", ".", "The", "Tera", "computer", "system", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "1", "-LCB-", "6", ",", "Seattle", ",", "Washington", ",", "May", "28", "-LCB-", "31", ",", "1990", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "18", "-LRB-", "2", "-RRB-", ",", "June", "1990", ".", "-LSB-", "ALKK90", "-RSB-", "A.", "Agarwal", ",", "B.", "H.", "Lim", ",", "D.", "Kranz", ",", "and", "J.", "Kubiatowicz", ".", "APRIL", ":", "A", "processor", "architecture", "for", "multiprocessing", ".", "In", "Proceedings", "of", "the", "17th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "104", "-LCB-", "114", ",", "Seattle", ",", "Washington", ",", "May", "28", "-LCB-", "31", ",", "1990", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "18", "-LRB-", "2", "-RRB-", ",", "June", "1990", ".", "-LSB-", "AS92", "-RSB-", "T.", "M.", "Austin", "and", "G.", "S.", "Sohi", ".", "Dynamic", "dependence", "analysis", "of", "ordinary", "programs", ".", "In", "Proceedings", "of", "the", "19th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "342", "-LCB-", "351", ",", "Gold", "Coast", ",", "Australia", ",", "May", "19", "-LCB-", "21", ",", "1992", ".", "ACM", "SIGARCH", "and", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "20", "-LRB-", "2", "-RRB-", ",", "May", "1992", ".", "-LSB-", "BYP", "+91", "-RSB-", "M.", "Butler", ",", "T-Y", ".", "Yeh", ",", "Y.", "Patt", ",", "M.", "Alsup", ",", "H.", "Scales", ",", "and", "M.", "Shebanow", ".", "Single", "instruction", "stream", "parallelism", "is", "greater", "than", "two", ".", "In", "Proceedings", "of", "the", "18th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "276", "-LCB-", "286", ",", "Toronto", ",", "Ontario", ",", "May", "28", "-LCB-", "30", ",", "1991", ".", "ACM", "SIGARCH", "and", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "19", "-LRB-", "3", "-RRB-", ",", "May", "1991", ".", "-LSB-", "CSS", "+91", "-RSB-", "David", "E.", "Culler", ",", "Anurag", "Sah", ",", "Klaus", "Eric", "Schauser", ",", "Thorsten", "von", "Eiken", ",", "and", "John", "Wawrzynek", ".", "Fine-grain", "parallelism", "with", "minimal", "hardware", "support", ":", "A", "compiler-controlled", "threaded", "abstract", "machine", ".", "In", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "pages", "164", "-LCB-", "175", ",", "Santa", "Clara", ",", "California", ",", "April", "8", "-LCB-", "11", ",", "1991", ".", "ACM", "SIGARCH", ",", "SIGPLAN", ",", "SIGOPS", ",", "and", "the", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "19", "-LRB-", "2", "-RRB-", ",", "April", "1991", ";", "Operating", "Systems", "Review", ",", "25", ",", "April", "1991", ";", "SIGPLAN", "Notices", ",", "26", "-LRB-", "4", "-RRB-", ",", "April", "1991", ".", "-LSB-", "DCC", "+87", "-RSB-", "W.", "J.", "Dally", ",", "L.", "Chao", ",", "A.", "Chien", ",", "S.", "Hassoun", ",", "W.", "Horwat", ",", "J.", "Kaplan", ",", "P.", "Song", ",", "B.", "Totty", ",", "and", "W.", "Wills", ".", "Architecture", "of", "a", "message-driven", "processor", ".", "In", "Proceedings", "of", "the", "14th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "189", "-LCB-", "195", ",", "Pittsburgh", ",", "Pennsylvania", ",", "June", "2", "-LCB-", "5", ",", "1987", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "15", "-LRB-", "2", "-RRB-", ",", "June", "1987", ".", "-LSB-", "HF88", "-RSB-", "R.", "H.", "Halstead", "Jr", "and", "T.", "Fujita", ".", "MASA", ":", "A", "multithreaded", "processor", "architecture", "for", "parallel", "symbolic", "computing", ".", "In", "Proceedings", "of", "the", "15th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "443", "-LCB-", "451", ",", "Honolulu", ",", "Hawaii", ",", "May", "30", "-LCB-", "June", "2", ",", "1988", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "16", "-LRB-", "2", "-RRB-", ",", "May", "1988", ".", "-LSB-", "JW89", "-RSB-", "N.", "P.", "Jouppi", "and", "D.", "W.", "Wall", ".", "Available", "instruction-level", "parallelism", "for", "superscalar", "and", "superpipelined", "machines", ".", "In", "Proceedings", "of", "the", "Third", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "pages", "272", "-LCB-", "282", ",", "Boston", ",", "Massachusetts", ",", "April", "3", "-LCB-", "6", ",", "1989", ".", "ACM", "SIGARCH", ",", "SIGPLAN", ",", "SIGOPS", ",", "and", "the", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "17", "-LRB-", "2", "-RRB-", ",", "April", "1989", ";", "Operating", "Systems", "Review", ",", "23", ",", "April", "1989", ";", "SIGPLAN", "Notices", ",", "24", ",", "May", "1989", ".", "-LSB-", "KMC72", "-RSB-", "D.", "J.", "Kuck", ",", "Y.", "Muraoka", ",", "and", "S.", "C.", "Chen", ".", "On", "the", "number", "of", "operations", "simultaneously", "executable", "in", "FORTRAN-like", "programs", "and", "their", "resulting", "speed-up", ".", "IEEE", "Transactions", "on", "Computers", ",", "C-21", "-LRB-", "12", "-RRB-", ":1293", "-LCB-", "1310", ",", "December", "1972", ".", "-LSB-", "KS88", "-RSB-", "J.", "T.", "Kuehn", "and", "B.", "J.", "Smith", ".", "The", "horizon", "supercomputing", "system", ":", "Architecture", "and", "software", ".", "In", "Proceedings", "of", "Supercomputing", "'", "88", ",", "pages", "28", "-LCB-", "34", ",", "Orlando", ",", "Florida", ",", "November", "1988", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "-LSB-", "Kum88", "-RSB-", "M.", "Kumar", ".", "Measuring", "parallelism", "in", "computation-intensive", "scientific/engineering", "applications", ".", "IEEE", "Transactions", "on", "Computers", ",", "C-37", "-LRB-", "9", "-RRB-", ":1088", "-LCB-", "1098", ",", "September", "1988", ".", "-LSB-", "LW92", "-RSB-", "M.", "S.", "Lam", "and", "R.", "P.", "Wilson", ".", "Limits", "of", "control", "flow", "on", "parallelism", ".", "In", "Proceedings", "of", "the", "19th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "46", "-LCB-", "57", ",", "Gold", "Coast", ",", "Australia", ",", "May", "19", "-LCB-", "21", ",", "1992", ".", "ACM", "SIGARCH", "and", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "20", "-LRB-", "2", "-RRB-", ",", "May", "1992", ".", "-LSB-", "NA89", "-RSB-", "R.", "Nikhil", "and", "Arvind", ".", "Can", "dataflow", "subsume", "von", "Neumann", "computing", "?", "In", "Proceedings", "of", "the", "16th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "262", "-LCB-", "272", ",", "Jerusalem", ",", "Israel", ",", "May", "28", "-LCB-", "June", "1", ",", "1989", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "17", "-LRB-", "3", "-RRB-", ",", "June", "1989", ".", "-LSB-", "ND91", "-RSB-", "P.", "R.", "Nuth", "and", "W.", "J.", "Dally", ".", "A", "mechanism", "for", "efficient", "context", "switching", ".", "Proceedings", "of", "the", "IEEE", "International", "Conference", "on", "Computer", "Design", ",", "1991", ".", "-LSB-", "NF84", "-RSB-", "Alexandru", "Nicolau", "and", "J.", "A.", "Fisher", ".", "Measuring", "the", "parallelism", "available", "for", "very", "long", "instruction", "word", "architectures", ".", "IEEE", "Transactions", "on", "Computers", ",", "C-33", "-LRB-", "11", "-RRB-", ":968", "-LCB-", "976", ",", "November", "1984", ".", "-LSB-", "TF70", "-RSB-", "G.", "S.", "Tjaden", "and", "M.", "J.", "Flynn", ".", "Detection", "and", "parallel", "execution", "of", "independent", "instructions", ".", "IEEE", "Transactions", "on", "Computers", ",", "C-19", "-LRB-", "10", "-RRB-", ":889", "-LCB-", "895", ",", "October", "1970", ".", "-LSB-", "Wal91", "-RSB-", "D.", "W.", "Wall", ".", "Limits", "of", "instruction-level", "parallelism", ".", "In", "Proceedings", "of", "the", "Fourth", "International", "Conference", "on", "Architectural", "Support", "for", "Programming", "Languages", "and", "Operating", "Systems", ",", "pages", "176", "-LCB-", "188", ",", "Santa", "Clara", ",", "California", ",", "April", "8", "-LCB-", "11", ",", "1991", ".", "ACM", "SIGARCH", ",", "SIGPLAN", ",", "SIGOPS", ",", "and", "the", "IEEE", "Computer", "Society", ".", "Also", "in", "Computer", "Architecture", "News", ",", "19", "-LRB-", "2", "-RRB-", ",", "April", "1991", ";", "Operating", "Systems", "Review", ",", "25", ",", "April", "1991", ";", "SIGPLAN", "Notices", ",", "26", "-LRB-", "4", "-RRB-", ",", "April", "1991", ".", "-LSB-", "WG89", "-RSB-", "W.", "D.", "Weber", "and", "A.", "Gupta", ".", "Exploring", "the", "benefits", "of", "multiple", "contexts", "in", "a", "multiprocessor", "architecture", ":", "Preliminary", "results", ".", "In", "Proceedings", "of", "the", "16th", "Annual", "International", "Symposium", "on", "Computer", "Architecture", ",", "pages", "273", "-LCB-", "280", ",", "Jerusalem", ",", "Israel", ",", "May", "28", "-LCB-", "June", "1", ",", "1989", ".", "IEEE", "Computer", "Society", "and", "ACM", "SIGARCH", ".", "Also", "in", "Computer", "Architecture", "News", ",", "17", "-LRB-", "3", "-RRB-", ",", "June", "1989", ".", "A", "Experimental", "Testbed", "The", "analyzer", "consists", "of", "two", "parts", ".", "The", "first", "part", ",", "the", "decoder", ",", "takes", "the", "stream", "output", "from", "an", "existing", "trace", "generator", ",", "and", "decodes", "the", "opcode", "and", "other", "information", ",", "performing", "basic", "block", "flow", "analysis", ",", "and", "deriving", "the", "relevant", "dependence", "data", ".", "The", "second", "part", ",", "the", "scheduler", ",", "packs", "the", "operations", "into", "PI", "'s", "based", "on", "this", "data", ".", "The", "scheduler", "can", "run", "multiple", "models", "simultaneously", ",", "provided", "there", "is", "enough", "memory", ".", "Section", "2.1", "talks", "about", "building", "a", "dependence", "graph", "for", "the", "entire", "program", ".", "Such", "an", "undertaking", "would", "be", "out", "of", "the", "question", "for", "benchmarks", "involving", "billions", "of", "operations", ".", "Fortunately", ",", "since", "the", "trace", "is", "generated", "by", "a", "sequential", "thread", "of", "control", ",", "it", "is", "only", "necessary", "to", "store", "the", "dependence", "information", "relative", "to", "the", "last", "access", "of", "each", "storage", "location", ".", "Thus", ",", "the", "amount", "of", "memory", "needed", "to", "record", "and", "compute", "dependences", "is", "proportional", "to", "the", "total", "number", "of", "locations", "used", ",", "not", "the", "total", "number", "of", "times", "they", "are", "used", ".", "A", "table", "records", "the", "earliest", "PI", "in", "which", "a", "given", "storage", "location", "can", "be", "read", "and", "written", ".", "The", "following", "shows", "what", "the", "table", "would", "look", "like", "after", "the", "execution", "of", "the", "branch", "at", "the", "end", "of", "the", "first", "iteration", "the", "left", "half", "of", "Figure", "1", ".", "Note", "that", "integer", "registers", "2", "-LCB-", "4", "are", "defined", "prior", "to", "entering", "this", "loop", ".", "Register", "Read", "Write", "Int", ".", "register", "1", "i", "+", "3", "i", "+", "3", "Int", ".", "register", "2", "?", "i", "Int", ".", "register", "3", "?", "i", "Int", ".", "register", "4", "?", "i", "+", "2", "...", "...", "...", "Int", ".", "cond", ".", "codes", "i", "+", "3", "i", "+", "3", "FP", "register", "i", "+", "1", "i", "+", "1", "FP", "register", "1", "i", "+", "1", "i", "+", "1", "FP", "register", "2", "i", "+", "2", "i", "+", "2", "...", "...", "...", "When", "the", "second", "occurrence", "of", "S1", "is", "encountered", "in", "the", "trace", ",", "the", "decoder", "will", "see", "that", "it", "is", "dependent", "on", "writing", "%", "f0", ",", "and", "reading", "%", "1", ",", "%", "2", ",", "and", "the", "memory", "location", "read", "by", "the", "load", ".", "The", "maximum", "of", "all", "the", "corresponding", "entries", "in", "the", "table", "is", "i", "+", "3", ".", "If", "the", "branch", "were", "predicted", "correctly", ",", "then", "the", "operation", "could", "be", "packed", "into", "PI", "i", "+", "3", ".", "Without", "branch", "prediction", ",", "the", "operation", "would", "have", "to", "go", "into", "PI", "i", "+", "4", ",", "because", "the", "scheduler", "also", "keeps", "track", "of", "the", "most", "recent", "barrier", ".", "Once", "the", "operation", "has", "been", "packed", ",", "the", "read", "and", "write", "entries", "for", "%", "f0", "are", "updated", "with", "either", "i", "+", "4", "-LRB-", "branch", "predicted", "-RRB-", "or", "i", "+", "5", "-LRB-", "branch", "not", "predicted", "-RRB-", ".", "If", "there", "is", "no", "memory", "disambiguation", ",", "then", "a", "single", "entry", "in", "the", "table", "represents", "all", "memory", "accesses", ".", "Otherwise", ",", "there", "must", "be", "a", "separate", "entry", "for", "each", "unit", "of", "memory", ".", "This", "is", "done", "using", "a", "hash", "table", "of", "linked", "lists", "of", "tables", "representing", "individual", "pages", "of", "memory", ".", "Renaming", ",", "for", "both", "register", "and", "memory", "use", ",", "is", "done", "by", "ignoring", "the", "write", "component", "of", "the", "table", "entries", ".", "For", "models", "with", "partial", "memory", "renaming", "-LRB-", "e.g.", ",", "the", "Tree", "Oracle", "-RRB-", ",", "the", "decoder", "uses", "the", "memory", "address", "to", "determine", "if", "it", "is", "in", "the", "stack", "or", "the", "heap", ".", "The", "scheduler", "keeps", "track", "of", "the", "most", "recent", "barrier", "encountered", ",", "unless", "an", "oracle", "is", "used", ".", "If", "non-oracle", "branch", "prediction", "is", "used", ",", "the", "branching", "hash", "table", "is", "used", "to", "derive", "the", "predicted", "branch", "outcome", ",", "which", "is", "compared", "to", "the", "actual", "outcome", "revealed", "in", "the", "trace", ".", "If", "a", "misprediction", "results", ",", "the", "barrier", "is", "updated", ".", "If", "procedure", "separation", "is", "used", ",", "then", "barriers", "are", "kept", "on", "a", "stack", ".", "When", "a", "procedure", "is", "called", ",", "a", "new", "barrier", "is", "allocated", "on", "the", "stack", ",", "and", "starts", "with", "the", "barrier", "of", "the", "calling", "procedure", ".", "When", "a", "procedure", "is", "exited", ",", "its", "barrier", "is", "discarded", "and", "the", "calling", "procedure", "'s", "barrier", "again", "becomes", "the", "current", "barrier", ".", "Finite", "processor", "and", "window", "length", "limits", "require", "keeping", "a", "table", "of", "how", "many", "operations", "are", "packed", "into", "each", "PI", ".", "Because", "this", "table", "can", "become", "quite", "large", ",", "it", "was", "necessary", "to", "perform", "optimizations", "such", "as", "freeing", "up", "space", "whenever", "a", "long", "contiguous", "series", "of", "PI", "'s", "is", "filled", "to", "the", "limits", ".", "If", "a", "finite", "window", "length", "is", "used", ",", "as", "in", "the", "Myopic", "Oracle", ",", "then", "an", "additional", "barrier", "is", "needed", "to", "mark", "the", "first", "unissued", "PI", ".", "The", "analyzer", "frees", "up", "storage", "as", "this", "barrier", "moves", "forward", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "OEFAI", "Reports", "1990", "1", "OEFAI-TR-90-1", "Extended", "version", "of", "a", "paper", "that", "appeared", "in", "Proc", ".", "European", "Working", "Session", "on", "Learning", ",", "EWSL-89", ",", "Montpellier", ",", "France", ",", "1989", ",", "Pitman", ".", "Incremental", "Knowledge-Intensive", "Learning", ":", "A", "Case", "Study", "Based", "on", "an", "Extension", "to", "Bergadano", "&", "Giordana", "'s", "Integrated", "Learning", "Strategy", "Gerhard", "Widmer", "Bergadano", "&", "Giordana", "'s", "learning", "algorithm", "is", "an", "attractive", "method", "for", "knowledge-intensive", "learning", "in", "domains", "with", "background", "theories", "that", "are", "both", "incomplete", "and", "inconsistent", ".", "The", "paper", "presents", "an", "algorithm", "that", "extends", "this", "method", "by", "enabling", "it", "to", "learn", "incrementally", ".", "The", "algorithm", "has", "been", "compared", "to", "three", "other", "incremental", "variants", "of", "the", "Bergadano", "&", "Giordana", "method", "and", "has", "been", "applied", "to", "two", "test", "domains", ".", "Preliminary", "performance", "data", "show", "that", "the", "algorithm", "behaves", "quite", "well", "and", "still", "retains", "most", "of", "the", "advantages", "of", "the", "original", "-LRB-", "non-incremental", "-RRB-", "method", ".", "In", "the", "appendix", ",", "detailed", "results", "of", "some", "recent", "experiments", "are", "presented", ";", "they", "provide", "further", "evidence", "for", "the", "utility", "and", "robustness", "of", "the", "incremental", "algorithm", ".", "OEFAI-TR-90-2", "Metastructures", "as", "a", "Basis", "for", "the", "Implementation", "of", "Constraint", "Logic", "Programming", "Techniques", "Christian", "Holzbaur", "The", "aim", "of", "this", "paper", "is", "to", "show", "that", "a", "simple", "extension", "to", "ordinary", "unification", "is", "sufficient", "to", "implement", "a", "variety", "of", "constraint", "programming", "techniques", ".", "The", "nonstandard", "part", "of", "the", "extended", "unification", "algorithm", "is", "formulated", "in", "PROLOG", "as", "opposed", "to", "most", "of", "the", "current", "implementations", "of", "extensions", "-", "which", "are", "either", "emulated", "by", "metainterpreters", "or", "are", "coded", "in", "the", "implementation", "language", "of", "the", "corresponding", "PROLOG", "system", ".", "The", "proposed", "extension", "is", "conservative", "in", "the", "sense", "that", ",", "given", "the", "hook", "into", "unification", "is", "installed", "properly", ",", "it", "entails", "virtually", "no", "costs", "to", "programs", "that", "do", "n't", "use", "the", "extension", ".", "The", "extension", "does", "not", "disable", "standard", "optimization", "techniques", "like", "clause", "indexing", "and", "last", "call", "optimization", ".", "A", "definition", "of", "a", "metainterpreter", "is", "presented", "to", "be", "used", "as", "a", "specification", "of", "the", "extension", ".", "Unfortunately", "it", "can", "not", "be", "used", "directly", "or", "folded", "into", "application", "programs", ",", "because", "it", "rests", "so", "deep", "in", "the", "bowels", "of", "the", "computation", "and", "has", "to", "be", "applied", "to", "each", "and", "every", "predicate", ".", "As", "the", "proposed", "implementation", "provides", "just", "a", "hook", "into", "unification", ",", "the", "efforts", "to", "provide", "it", "should", "be", "modest", "on", "a", "variety", "of", "PROLOG", "implementations", ".", "The", "extensions", "to", "syntactical", "unification", "are", "specified", "in", "the", "language", "the", "user", "is", "already", "familiar", "with", ".", "The", "implementation", "of", "fully", "general", "nondeterministic", "unification", "and/or", "the", "implementation", "of", "CLP", "solvers", "should", "become", "more", "portable", ",", "more", "reliable", "and", "easier", "to", "debug", "and", "maintain", ".", "Keywords", ":", "Constraints", ",", "Unification", ",", "Metaprogramming", ".", "OEFAI-TR-90-3", "International", "Journal", "of", "Man-Machine", "Studies", "35", "-LRB-", "3", "-RRB-", ",", "pp.", "329-362", ",", "1991", ".", "Also", "in", "Readings", "in", "Model-based", "Diagnosis", "-LRB-", "W.C.", "Hamscher", ",", "L.", "Console", ",", "J.", "de", "Kleer", ",", "Eds", ".", "-RRB-", ",", "pp.", "354-372", ",", "Morgan", "Kaufmann", ",", "San", "Mateo", ",", "CA", ",", "1992", ".", "Hierarchical", "Model-Based", "Diagnosis", "Igor", "Mozeti", "<", "=", "c", "Model-based", "reasoning", "about", "a", "system", "requires", "an", "explicit", "representation", "of", "the", "system", "'s", "components", "and", "their", "connections", ".", "Diagnosing", "such", "a", "system", "consists", "of", "locating", "those", "components", "whose", "abnormal", "behavior", "accounts", "for", "the", "faulty", "system", "behavior", ".", "In", "order", "to", "increase", "the", "efficiency", "of", "model-based", "diagnosis", ",", "we", "propose", "a", "model", "representation", "at", "several", "levels", "of", "detail", ",", "and", "define", "three", "refinement", "-LRB-", "abstraction", "-RRB-", "operators", ".", "We", "specify", "formal", "conditions", "that", "have", "to", "be", "satisfied", "by", "the", "hierarchical", "representation", ",", "and", "emphasize", "that", "the", "multi-level", "scheme", "is", "independent", "of", "any", "particular", "single-level", "model", "representation", ".", "The", "hierarchical", "diagnostic", "algorithm", "which", "we", "define", "turns", "out", "to", "be", "very", "general", ".", "We", "show", "that", "it", "emulates", "the", "bisection", "method", ",", "and", "can", "be", "used", "for", "hierarchical", "constraint", "satisfaction", ".", "We", "apply", "the", "hierarchical", "modeling", "principle", "and", "diagnostic", "algorithm", "to", "a", "medium-scale", "medical", "problem", ".", "The", "performance", "of", "a", "four-level", "qualitative", "model", "of", "the", "heart", "is", "compared", "to", "other", "representations", "in", "terms", "of", "diagnostic", "efficiency", "and", "space", "requirements", ".", "The", "hierarchical", "model", "does", "not", "reach", "the", "time/space", "performance", "of", "dedicated", "diagnostic", "rules", ",", "but", "it", "speeds", "up", "the", "diagnostic", "efficiency", "of", "a", "one-level", "model", "for", "a", "factor", "of", "20", ".", "OEFAI-TR-90-4", "Proc", ".", "Automatic", "Generation", "of", "Approximations", "and", "Abstractions", ",", "AAAI-90", "Workshop", ",", "pp.", "64-75", ",", "Boston", ",", "July", "30", ",", "1990", ".", "Abstractions", "in", "Model-Based", "Diagnosis", "Igor", "Mozeti", "<", "=", "c", "Most", "of", "the", "research", "on", "abstractions", "with", "a", "sound", "formal", "basis", "was", "applied", "to", "theorem", "proving", "and", "planning", ",", "and", "only", "a", "few", "results", "which", "show", "some", "computational", "advantage", "of", "abstractions", "are", "known", ".", "The", "paper", "presents", "an", "application", "of", "abstractions", "to", "model-based", "reasoning", ",", "with", "the", "goal", "to", "improve", "the", "efficiency", "of", "diagnosis", ".", "Model-based", "reasoning", "about", "a", "system", "requires", "an", "explicit", "representation", "-LRB-", "a", "model", "-RRB-", "of", "the", "system", "'s", "components", "and", "their", "connections", ".", "Diagnosing", "such", "a", "system", "consists", "of", "finding", "abnormal", "states", "of", "components", ",", "so", "that", "the", "faulty", "system", "behavior", "is", "accounted", "for", ".", "Our", "approach", "is", "not", "restricted", "to", "qualitative", "models", ",", "but", "requires", "an", "explicit", "fault", "model", ".", "We", "define", "three", "abstraction", "operators", "which", "map", "a", "detailed", ",", "complex", "model", "to", "an", "abstract", ",", "simpler", "one", ".", "A", "formal", "consistency", "condition", "which", "must", "be", "satisfied", "by", "any", "pair", "of", "adjacent", "mod", "-", "OEFAI", "Reports", "1990", "2", "els", "in", "a", "hierarchy", "is", "specified", ".", "We", "define", "a", "diagnostic", "algorithm", "and", "prove", "its", "correctness", "and", "completeness", ".", "Abstractions", "and", "the", "algorithm", "were", "applied", "to", "a", "complex", "medical", "problem", ":", "ECG", "interpretation", "based", "on", "the", "model", "of", "the", "heart", "'s", "electrical", "activity", ".", "Results", "show", "that", "hierarchical", "diagnosis", "has", "logarithmic", "time", "complexity", "when", "compared", "to", "a", "one-level", "diagnosis", "|", "specifically", ",", "a", "speedup", "of", "a", "factor", "of", "20", "was", "achieved", ".", "OEFAI-TR-90-5", "Artificial", "Intelligence", "in", "Medicine", "3", "-LRB-", "1", "-RRB-", ",", "pp.", "21-39", ",", "1991", ".", "Utilizing", "Detailed", "Anatomical", "Knowledge", "for", "Hypotheses", "Formation", "and", "Hypotheses", "Testing", "in", "Rheumatological", "Decision", "Support", "Werner", "Horn", "Diagnostic", "decisions", "in", "rheumatology", "are", "based", "to", "a", "large", "extent", "on", "a", "good", "understanding", "of", "the", "anatomy", "of", "the", "human", "body", ".", "A", "decision", "support", "system", "for", "rheumatology", "has", "to", "represent", "this", "fundamental", "anatomical", "knowledge", "in", "order", "to", "be", "able", "to", "reason", "about", "causal", "relationships", "between", "disturbances", "affecting", "the", "musculoskeletal", "system", ".", "We", "have", "built", "a", "knowledge-based", "system", "incorporating", "a", "detailed", "representation", "of", "the", "anatomy", ".", "This", "yields", "two", "main", "advantages", ":", "1", "-RRB-", "it", "enabled", "us", "to", "build", "disease", "descriptions", "of", "generic", "format", ".", "Instantiation", "automatically", "constructs", "specific", "disease", "descriptions", "by", "filling", "in", "the", "anatomical", "details", "which", "describe", "the", "situation", "of", "the", "patient", ";", "2", "-RRB-", "the", "system", "provides", "a", "user", "interface", "showing", "all", "the", "anatomical", "details", "within", "the", "context", "of", "the", "patient", "'s", "problem", ".", "This", "is", "essential", "for", "the", "intended", "field", "of", "application", ",", "namely", ",", "primary", "medical", "care", ".", "This", "paper", "concentrates", "on", "the", "usage", "of", "the", "anatomical", "knowledge", "during", "hypotheses", "formation", "and", "during", "hypotheses", "testing", ".", "Keywords", ":", "Anatomical", "Knowledge", ",", "Causal", "Reasoning", ",", "Deep", "Knowledge", ",", "Rheumatology", ",", "Diagnostic", "Decision", "Support", ",", "Medical", "Expert", "System", ".", "OEFAI-TR-90-6", "Artificial", "Intelligence", "in", "Medicine", "2", "-LRB-", "2", "-RRB-", ",", "pp.", "67-83", ",", "1990", ".", "Diagnostic", "Efficiency", "of", "Deep", "and", "Surface", "Knowledge", "in", "KARDIO", "Igor", "Mozeti", "<", "=", "c", "The", "KARDIO", "system", "deals", "with", "the", "problem", "of", "diagnosing", "cardiac", "arrhythmias", "from", "symbolic", "descriptions", "of", "electrocardiograms", ".", "The", "system", "incorporates", "a", "qualitative", "model", "which", "simulates", "the", "electrical", "activity", "of", "the", "heart", ".", "In", "the", "paper", "we", "outline", "two", "methods", "for", "an", "efficient", "application", "of", "a", "simulation", "model", "to", "diagnosis", ".", "First", ",", "through", "abstractions", "and", "refinements", ",", "the", "model", "is", "represented", "at", "several", "levels", "of", "detail", ".", "Second", ",", "the", "model", "is", "`", "compiled", "'", "into", "surface", "diagnostic", "rules", ".", "Through", "simulation", ",", "a", "relational", "table", "is", "generated", "and", "subsequently", "compressed", "into", "efficient", "diagnostic", "rules", "by", "inductive", "learning", ".", "A", "novel", "contribution", "to", "the", "KAR", "-", "DIO", ",", "presented", "here", ",", "includes", "a", "comparison", "of", "diagnostic", "efficiency", "and", "space", "complexity", "of", "four", "types", "of", "knowledge", ":", "a", "simulation", "model", "of", "the", "heart", ",", "a", "hierarchical", "four-level", "model", ",", "a", "relational", "table", ",", "and", "compressed", "diagnostic", "rules", ".", "Keywords", ":", "Qualitative", "Modeling", ",", "Diagnosis", ",", "Abstractions", ",", "Machine", "Learning", ".", "OEFAI-TR-90-7", "Proc", ".", "13th", "Intl.", ".", "Conf", ".", "on", "Computational", "Linguistics", ",", "COLING-90", ",", "Univ.", ".", "of", "Helsinki", ",", "Finland", ",", "1990", ".", "Integrating", "Stress", "and", "Intonation", "into", "a", "Conceptto-Speech", "System", "Georg", "Dorffner", ",", "Ernst", "Buchberger", ",", "Markus", "Kommenda", "The", "paper", "deals", "with", "the", "integration", "of", "intonation", "algorithms", "into", "a", "concept-to-speech", "system", "for", "German", ".", "The", "algorithm", "for", "computing", "the", "stress", "hierarchy", "of", "a", "sentence", "introduced", "by", "Kiparski", "'s", "``", "Ueber", "den", "deutschen", "Akzent", "''", "-LRB-", "in", ":", "Studia", "Grammatica", "VII", ",", "Berlin", ",", "3rd", "ed.", ",", "1973", "-RRB-", "and", "the", "theory", "of", "syntactic", "grouping", "for", "intonation", "patterns", "developed", "by", "Bierwisch", "-LRB-", "``", "Regeln", "fuer", "die", "Intonation", "deutscher", "Saetze", "''", ",", "in", ":", "Studia", "Grammatica", "VII", ",", "Berlin", ",", "3rd", "ed.", ",", "1973", "-RRB-", "have", "been", "studied", "extensively", ",", "but", "they", "have", "never", "been", "implemented", "in", "a", "concept-tospeech", "system", "like", "the", "one", "presented", "here", ".", "We", "describe", "the", "back", "end", "of", "this", "concept-to-speech", "system", ":", "The", "surface", "generator", "transfers", "a", "hierarchical", "dependency", "structure", "of", "a", "sentence", "into", "a", "phoneme", "string", "by", "traversing", "it", "in", "a", "recursive-descent", "manner", ".", "Surface", "structures", "unfold", "while", "generation", "proceeds", ",", "which", "means", "that", "at", "no", "point", "of", "the", "process", "does", "the", "full", "syntactic", "tree", "structure", "exist", ".", "As", "they", "depend", "on", "syntactic", "features", ",", "both", "the", "indices", "introduced", "by", "the", "Kiparski", "-LRB-", "degrees", "of", "stress", "-RRB-", "and", "the", "Bierwisch", "-LRB-", "indexed", "border", "markers", "-RRB-", "formalism", "have", "to", "be", "inserted", "by", "the", "generator", ".", "This", "implies", "some", "changes", "to", "the", "original", "algorithms", ",", "which", "are", "demonstrated", "in", "this", "paper", ".", "The", "generator", "has", "been", "tested", "in", "the", "domain", "of", "an", "expert", "system", "that", "helps", "to", "debug", "electronic", "circuits", ".", "The", "synthesized", "utterances", "of", "the", "test", "domain", "show", "significant", "improvements", "over", "monotonous", "forms", "of", "speech", "produced", "by", "systems", "not", "making", "use", "of", "intonation", "information", ".", "Keywords", ":", "Natural", "Language", "Generation", ",", "Speech", "Synthesis", ",", "Intonation", ".", "OEFAI-TR-90-8", "Implementation", "of", "Constraint", "Based", "Inference", "Mechanisms", "through", "Semantic", "Unification", "Christian", "Holzbaur", "We", "present", "an", "extension", "to", "unification", "as", "a", "general", "means", "to", "smoothly", "integrate", "a", "variety", "of", "control", "and", "constraint-based", "inference", "mechanisms", "into", "PROLOG", ":", "freeze", ",", "forward", "checking", ",", "CLP", "-LRB-", "B", "-RRB-", ",", "CLP", "-LRB-", "R", "-RRB-", ",", "...", "The", "proposed", "extension", "entails", "virtually", "no", "overhead", "to", "programs", "which", "do", "not", "use", "it", ",", "provided", "the", "hook", "into", "unification", "is", "installed", "properly", ".", "The", "extension", "does", "not", "OEFAI", "Reports", "1990", "3", "disable", "the", "standard", "optimization", "techniques", "like", "clause", "indexing", "and", "last", "call", "optimization", ".", "A", "distinguishing", "feature", "of", "our", "approach", "is", "that", "extended", "theories", "themselves", "are", "implemented", "in", "PROLOG", "-", "in", "contrast", "to", "the", "majority", "of", "current", "implementations", "in", "C", ".", "The", "advantages", "are", "obvious", "-", "the", "time", "needed", "for", "implementation", "and", "modification", "is", "reduced", ",", "and", "the", "resulting", "programs", "are", "in", "a", "high-level", ",", "transparent", "language", ".", "On", "the", "other", "hand", ",", "the", "efficiency", "reduction", "is", "much", "lower", "then", "expected", ".", "We", "outline", "our", "implementation", "of", "the", "extended", "unification", "in", "a", "standard", "PROLOG", "interpreter", ",", "and", "an", "implementation", "of", "two", "extended", "theories", ":", "forward", "checking", "and", "CLP", "-LRB-", "R", "-RRB-", ".", "Our", "experiments", "with", "a", "partial", "implementation", "of", "CLP", "-LRB-", "R", "-RRB-", "indicate", "that", "a", "modern", "compiler", "with", "decent", "garbage", "collection", "would", "achieve", "almost", "the", "same", "efficiency", "as", "a", "dedicated", "implementation", "in", "C.", "OEFAI-TR-90-9", "Integration", "of", "Extended", "Unification", "into", "a", "Prolog", "Interpreter", "Christian", "Holzbaur", "This", "paper", "reports", "on", "the", "practical", "experiences", "collected", "during", "the", "implementation", "of", "constraint", "logic", "programming", "techniques", "via", "metaterms", "and", "extended", "unification", ".", "During", "the", "actual", "implementation", "of", "extended", "unification", "in", "a", "concrete", "PROLOG", "implementation", "some", "minor", "refinements", "to", "a", "specification", "proposed", "earlier", "-LRB-", "Holzbaur", "1990", "-RRB-", "had", "to", "be", "taken", "care", "of", ".", "Further", ",", "a", "convention", "related", "to", "the", "interpretation", "of", "the", "meaning", "of", "metaterms", "has", "been", "moved", "into", "the", "specification", ".", "This", "paper", "is", "also", "thought", "as", "a", "supplement", "to", "the", "C-Prolog", "manual", ",", "describing", "the", "additional", "predicates", "and", "conventions", "for", "the", "implementation", "of", "extended", "unification", ".", "OEFAI-TR-90-10", "Proc", ".", "First", "Intl.", ".", "Workshop", "on", "Principles", "of", "Diagnosis", ",", "pp.", "102-111", ",", "Stanford", "University", ",", "Palo", "Alto", ",", "CA", ",", "July", "23-25", ",", "1990", ".", "Reduction", "of", "Diagnostic", "Complexity", "through", "Model", "Abstractions", "Igor", "Mozeti", "<", "=", "c", "The", "paper", "presents", "an", "application", "of", "abstractions", "to", "model-based", "reasoning", "with", "the", "goal", "to", "improve", "the", "efficiency", "of", "diagnosis", ".", "We", "define", "three", "abstraction", "operators", "which", "map", "a", "detailed", ",", "complex", "model", "to", "an", "abstract", ",", "simpler", "one", ".", "Our", "approach", "is", "not", "restricted", "to", "discrete", ",", "qualitative", "models", ".", "We", "define", "a", "provably", "correct", "and", "complete", "diagnostic", "algorithm", "and", "analyse", "its", "complexity", ".", "Abstractions", "and", "the", "algorithm", "were", "applied", "to", "a", "complex", "medical", "problem", ":", "ECG", "interpretation", "based", "on", "the", "model", "of", "the", "heart", "'s", "electrical", "activity", ".", "Results", "show", "that", "hierarchical", "diagnosis", "has", "logarithmic", "time", "complexity", "when", "compared", "to", "a", "one-level", "diagnosis", "|", "in", "particular", ",", "a", "speedup", "of", "a", "factor", "of", "20", "was", "achieved", ".", "OEFAI-TR-90-11", "Realization", "of", "Forward", "Checking", "in", "Logic", "Programming", "via", "Extended", "Unification", "Christian", "Holzbaur", "Forward", "checking", "is", "one", "of", "the", "most", "promising", "a", "priori", "pruning", "techniques", "for", "Constraint", "Satisfaction", "Problems", "-LRB-", "Mackworth", "1977", ",", "Mackworth", "and", "Freuder", "1985", "-RRB-", ".", "In", "the", "past", "some", "schemes", "for", "the", "incorporation", "of", "forward", "checking", "and", "other", "consistency", "techniques", "over", "finite", "domains", "into", "Prolog", "have", "been", "introduced", "in", "-LRB-", "Hentenryck", "1989", "-RRB-", ".", "This", "work", "resulted", "in", "the", "implementation", "of", "a", "new", "prototype", "Prolog", "interpreter", ".", "In", "this", "paper", "we", "present", "an", "implementation", "of", "forward", "checking", "in", "Prolog", ".", "This", "implementation", "is", "based", "on", "a", "very", "general", "scheme", "for", "the", "incorporation", "of", "semantic", "unification", "into", "Prolog", "-LRB-", "Holzbaur", "1990", ",", "Neumerkel", "1990", "-RRB-", ".", "Constraint", "Satisfaction", "Problems", "can", "be", "formulated", "declaratively", "in", "Prolog", ".", "The", "problem", "with", "the", "standard", "backtracking", "evaluation", "strategy", "however", "is", "that", "it", "does", "not", "execute", "this", "specification", "efficiently", ".", "Therefore", ",", "the", "Prolog", "implementation", "of", "forward", "checking", "serves", "at", "least", "two", "purposes", ":", "the", "set", "of", "effectively", "executable", "declarative", "specifications", "in", "Prolog", "is", "enlarged", ";", "the", "choice", "of", "Prolog", "as", "implementation", "language", "results", "in", "more", "declarative", ",", "reliable", ",", "maintainable", ",", "accessible", ",", "and", "extendible", "code", ".", "OEFAI-TR-90-12", "A", "Qualitative", "Model", "of", "the", "Perception", "of", "Melodies", "and", "Harmonizations", "Gerhard", "Widmer", "The", "paper", "presents", "a", "qualitative", "model", "that", "identifies", "the", "most", "important", "factors", "underlying", "the", "perception", "of", "harmonized", "melodies", ".", "Relationships", "among", "these", "factors", "are", "described", "via", "qualitative", "dependency", "relations", ".", "The", "model", "is", "stated", "in", "a", "general", ",", "declarative", ",", "purpose-free", "form", ".", "The", "objective", "of", "this", "research", "is", "the", "development", "of", "a", "general", "computational", "model", "of", "music", "perception", ",", "which", "will", "allow", "a", "computer", "to", "`", "understand", "'", "music", "in", "a", "similar", "way", "as", "experienced", "listeners", "understand", ",", "i.e.", ",", "perceive", "it", ".", "This", "will", "enable", "the", "computer", "to", "reason", "about", "music", ",", "to", "communicate", "its", "deliberations", "to", "musicians", "in", "intelligible", ",", "`", "common-sense", "'", "terms", ",", "and", "to", "learn", "musical", "concepts", "effectively", ".", "This", "paper", "describes", "the", "structure", "of", "the", "qualitative", "model", ",", "discusses", "the", "underlying", "assumptions", ",", "and", "demonstrates", "the", "usefulness", "of", "the", "model", "by", "identifying", "the", "types", "of", "inference", "supported", "by", "the", "model", ".", "Keywords", ":", "Music", ",", "Artificial", "Intelligence", ",", "Qualitative", "Modelling", ",", "Cognitive", "Modelling", ",", "Plausible", "Reasoning", ",", "Learning", ".", "OEFAI", "Reports", "1990", "4", "OEFAI-TR-90-13", "Using", "a", "Qualitative", "Perception", "Model", "to", "Learn", "Harmonization", "Rules", "for", "Melodies", "Gerhard", "Widmer", "The", "paper", "presents", "a", "learning", "strategy", "and", "an", "implemented", "computer", "program", "that", "can", "learn", "to", "harmonize", "-LRB-", "i.e.", ",", "place", "chord", "symbols", "underneath", "-RRB-", "given", "melodies", ".", "The", "system", "learns", "from", "specific", "harmonization", "examples", "provided", "by", "a", "teacher", ",", "but", "also", "brings", "its", "own", "general", "knowledge", "of", "music", "to", "bear", "on", "this", "task", ".", "The", "musical", "knowledge", "is", "a", "general", "qualitative", "model", "of", "the", "perception", "of", "harmonized", "melodies", ".", "It", "is", "meant", "to", "capture", "roughly", "what", "we", "believe", "ordinary", "listeners", "`", "know", "'", "about", "tonal", "music", ".", "The", "system", "presented", "here", "demonstrates", "the", "beneficial", "effect", "of", "general", "musical", "knowledge", "for", "learning", "systems", ".", "The", "learning", "scenario", "and", "algorithm", "are", "described", ",", "and", "an", "extended", "example", "of", "the", "system", "at", "work", "is", "presented", ".", "In", "the", "appendix", ",", "an", "experiment", "with", "the", "system", "is", "described", ".", "Keywords", ":", "Music", ",", "Artificial", "Intelligence", ",", "Learning", ",", "Qualitative", "Modelling", ",", "Plausible", "Reasoning", ".", "OEFAI-TR-90-14", "Art/ificial", "Intelligence", ":", "A", "Short", "Bibliography", "on", "AI", "and", "the", "Arts", "Richard", "K.", "Zach", ",", "Gerhard", "Widmer", ",", "Robert", "Trappl", "This", "report", "is", "the", "first", "-LRB-", "printed", "-RRB-", "result", "of", "a", "seminar", "entitled", "\\", "Art/ificial", "Intelligence", ":", "Die", "Beziehung", "zwischen", "Kunst", "und", "AI", "-LRB-", "The", "relation", "between", "Art", "and", "AI", "-RRB-", "''", ",", "held", "in", "the", "spring", "term", "of", "1990", "as", "a", "joint", "endeavour", "by", "the", "Department", "of", "Medical", "Cybernetics", "and", "Artificial", "Intelligence", "of", "the", "University", "of", "Vienna", ",", "and", "the", "Department", "of", "Visual", "Media", "of", "the", "Academy", "of", "Applied", "Arts", ",", "Vienna", ".", "The", "bibliography", "presented", "in", "this", "report", "lists", "publications", "that", "are", "situated", "in", "the", "intersection", "of", "Artificial", "Intelligence", "and", "Art", ".", "They", "are", "very", "broadly", "grouped", "into", "four", "classes", ":", "1", "-RRB-", "papers", "and", "books", "dealing", "with", "general", "considerations", "and", "ideas", "for", "combining", "Art", "and", "Artificial", "Intelligence", ";", "2", "-RRB-", "publications", "describing", "research", "in", "Artificial", "Intelligence", "and", "Music", "-LRB-", "this", "is", "the", "area", "that", "has", "seen", "the", "most", "interest", "so", "far", "-RRB-", ";", "3", "-RRB-", "a", "somewhat", "inhomogeneous", "collection", "centering", "around", "literature", "and", "the", "performing", "arts", ";", "this", "includes", "such", "endeavours", "as", "poetry", ",", "theater", "and", "drama", ",", "dance", ",", "etc.", ";", "4", "-RRB-", "and", "finally", ",", "a", "substantial", "number", "of", "publications", "dealing", "with", "the", "use", "of", "Artificial", "Intelligence", "methods", "in", "the", "visual", "arts", ".", "Some", "of", "the", "references", "include", "short", "descriptions", "or", "abstracts", ".", "OEFAI-TR-90-15", "To", "appear", "in", "CSLI", "Lecture", "Notes", ",", "Stanford", ",", "CA", ",", "Proc", ".", "of", "the", "Workshop", "on", "Semantic-Pragmatic", "Processing", "of", "Plurals", "and", "Quantors", "in", "NLP", "at", "GWAI-90", ".", "A", "Framework", "for", "Treating", "Non-singular", "Terms", "in", "a", "Natural", "Language", "Consulting", "System", "John", "Matiasek", ",", "Wolfgang", "Heinz", "For", "use", "in", "an", "NLU", "system", "the", "domain", "of", "individuals", "has", "to", "be", "structured", "to", "encompass", "concepts", "like", "plurality", "or", "group", "formation", ".", "We", "present", "an", "analysis", "of", "non-singular", "terms", "in", "the", "framework", "of", "situation", "semantics", ".", "Our", "treatment", "also", "covers", "contextual", "aspects", "and", "accounts", "for", "phenomena", "linking", "groups", "and", "their", "members", ".", "The", "semantics", "is", "coupled", "with", "syntactic", "structures", "that", "split", "the", "traditional", "noun", "phrase", "into", "a", "determiner", "phrase", "and", "its", "complement", "-LRB-", "the", "DP-analysis", "-RRB-", ".", "The", "approach", "facilitates", "implementation", "in", "a", "unification-based", "system", ".", "OEFAI-TR-90-16", "Proc", ".", "European", "Working", "Session", "on", "Learning", ",", "EWSL", "-", "91", ",", "pp.", "282-297", ",", "Porto", ",", "Portugal", ",", "March", "6-8", ",", "1991", ",", "Springer-Verlag", ".", "Extending", "Explanation-Based", "Generalization", "by", "Abstraction", "Operators", "Igor", "Mozeti", "<", "=", "c", ",", "Christian", "Holzbaur", "We", "present", "two", "contributions", "to", "the", "explanation-based", "generalization", "techniques", ".", "First", ",", "the", "operationality", "criterion", "is", "extended", "by", "abstraction", "operators", ".", "These", "allow", "for", "the", "goal", "concept", "to", "be", "reformulated", "not", "only", "in", "terms", "of", "operational", "predicates", ",", "but", "also", "allow", "to", "delete", "irrelevant", "arguments", ",", "and", "to", "collapse", "indistinguishable", "constants", ".", "The", "abstraction", "algorithm", "is", "presented", "and", "illustrated", "by", "an", "example", ".", "Second", ",", "the", "domain", "theory", "is", "not", "restricted", "to", "variables", "with", "finite", "-LRB-", "discrete", "-RRB-", "domains", ",", "but", "can", "deal", "with", "infinite", "-LRB-", "e.g.", ",", "real-valued", "-RRB-", "domains", "as", "well", ".", "The", "interpretation", "and", "abstraction", "are", "effectively", "handled", "through", "constraint", "logic", "programming", "mechanisms", ".", "In", "the", "paper", "we", "concentrate", "on", "the", "role", "of", "CLP", "-LRB-", "R", "-RRB-", "-", "a", "solver", "for", "systems", "of", "linear", "equations", "and", "inequalities", "over", "reals", ".", "OEFAI-TR-90-17", "Applied", "Artificial", "Intelligence", "5", "-LRB-", "1", "-RRB-", ",", "pp.", "47-56", ",", "1991", ".", "The", "Challenge", "of", "Deep", "Models", ",", "Inference", "Structures", ",", "and", "Abstract", "Tasks", "Werner", "Horn", "The", "paper", "discusses", "methodological", "achievements", "which", "have", "been", "incorporated", "into", "second", "generation", "expert", "systems", ".", "The", "key", "ideas", "are", "-LRB-", "1", "-RRB-", "to", "incorporate", "more", "principled", "knowledge", "about", "the", "domain", "into", "a", "knowledge", "based", "system", "and", "to", "reason", "from", "these", "-LRB-", "first", "-RRB-", "principles", ",", "-LRB-", "2", "-RRB-", "to", "define", "the", "conceptual", "model", "explicitly", ",", "and", "-LRB-", "3", "-RRB-", "to", "do", "some", "abstraction", ".", "Abstraction", "is", "done", "on", "three", "levels", ":", "the", "factual", "knowledge", "level", ",", "the", "level", "of", "inference", "steps", ",", "and", "the", "task", "level", ".", "The", "challenges", "of", "these", "methods", "are", "discussed", "from", "the", "viewpoint", "of", "medical", "and", "technical", "applications", ".", "Keywords", ":", "Second", "Generation", "Expert", "Systems", ",", "Deep", "Models", ",", "Inference", "Structures", ",", "Generic", "Tasks", ".", "OEFAI", "Reports", "1990", "5", "OEFAI-TR-90-18", "Proc", ".", "European", "Working", "Session", "on", "Learning", ",", "EWSL", "-", "91", ",", "pp.", "33-43", ",", "Porto", ",", "Portugal", ",", "March", "6-8", ",", "1991", ",", "Springer-Verlag", ".", "Using", "Plausible", "Explanations", "to", "Bias", "Empirical", "Generalization", "in", "Weak", "Theory", "Domains", "Gerhard", "Widmer", "The", "paper", "argues", "for", "the", "usefulness", "of", "plausible", "explanations", "not", "just", "for", "analytical", "learning", ",", "but", "also", "for", "empirical", "generalization", ".", "The", "larger", "context", "is", "an", "implemented", "system", "that", "learns", "complex", "rules", "-LRB-", "for", "a", "musical", "task", "-RRB-", "on", "the", "basis", "of", "a", "qualitative", "theory", "of", "the", "domain", ".", "It", "learns", "by", "generalizing", "and", "compiling", "plausible", "explanations", ",", "but", "it", "can", "also", "incrementally", "modify", "learned", "rules", "in", "reaction", "to", "new", "evidence", ".", "The", "paper", "shows", "how", "this", "incremental", "modification", "-LRB-", "generalization", "-RRB-", "becomes", "more", "effective", "if", "it", "is", "based", "on", "an", "analysis", "of", "the", "explanations", "underlying", "learned", "rules", ";", "these", "explanations", "support", "a", "notion", "of", "`", "deep", "'", "similarity", "and", "can", "provide", "substantial", "bias", "on", "the", "empirical", "modification", "of", "concepts", ".", "Several", "criteria", "that", "implement", "this", "bias", "are", "described", ",", "and", "an", "extended", "example", "illustrates", "how", "they", "lead", "to", "highly", "intelligent", "generalization", "behaviour", ".", "OEFAI-TR-90-19", "Proc", ".", "AISB-91", ",", "pp.", "129-135", ",", "Leeds", ",", "UK", ",", "April", "16-19", ",", "1991", ",", "Springer-Verlag", ".", "Constraintpropagation", "in", "Qualitative", "Modelling", ":", "Domain", "Variables", "Improve", "Diagnostic", "Efficiency", "Bernhard", "Pfahringer", "This", "paper", "shows", "how", "a", "specific", "constraint", "propagation", "technique", "-", "namely", "domain", "variables", "-", "can", "speed", "up", "qualitative", "diagnosis", "considerably", ".", "We", "are", "using", "the", "KAR", "-", "DIO", "system", ",", "a", "qualitative", "simulation", "model", "of", "the", "electrical", "activity", "of", "the", "heart", ",", "to", "exemplify", "our", "points", ".", "Furthermore", "we", "describe", "how", "the", "domain", "handling", "mechanism", "itself", "can", "be", "implemented", "in", "PROLOG", "efficiently", ".", "For", "a", "class", "of", "applications", ",", "where", "the", "constraint", "solver", "only", "performs", "a", "minor", "part", "of", "the", "computation", "our", "approach", "is", "comparable", "to", "or", "better", "than", "specialised", "constraint", "logic", "programming", "systems", "with", "regard", "to", "overall", "runtime", ".", "Additionally", "we", "gain", "the", "benefit", "of", "being", "able", "to", "specify", "all", "of", "the", "system", "in", "a", "single", "language", ".", "Keywords", ":", "Constraint", "Propagation", ",", "Unification", ",", "Qualitative", "Modelling", ",", "Implementation", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Submitted", "to", "International", "Conference", "on", "Machine", "Learning", "-LRB-", "ICML", "?", "97", "-RRB-", ",", "1997", ".", "Instance", "Pruning", "Techniques", "D.", "Randall", "Wilson", "Tony", "R.", "Martinez", "Computer", "Science", "Department", "Brigham", "Young", "University", "Provo", ",", "UT", "84058", "Abstract", ".", "The", "nearest", "neighbor", "algorithm", "and", "its", "derivatives", "are", "often", "quite", "successful", "at", "learning", "a", "concept", "from", "a", "training", "set", "and", "providing", "good", "generalization", "on", "subsequent", "input", "vectors", ".", "However", ",", "these", "techniques", "often", "retain", "the", "entire", "training", "set", "in", "memory", ",", "resulting", "in", "large", "memory", "requirements", "and", "slow", "execution", "speed", ",", "as", "well", "as", "a", "sensitivity", "to", "noise", ".", "This", "paper", "provides", "a", "discussion", "of", "issues", "related", "to", "reducing", "the", "number", "of", "instances", "retained", "in", "memory", "while", "maintaining", "-LRB-", "and", "sometimes", "improving", "-RRB-", "generalization", "accuracy", ",", "and", "mentions", "algorithms", "other", "researchers", "have", "used", "to", "address", "this", "problem", ".", "It", "presents", "three", "intuitive", "noise-tolerant", "algorithms", "that", "can", "be", "used", "to", "prune", "instances", "from", "the", "training", "set", ".", "In", "experiments", "on", "29", "applications", ",", "the", "algorithm", "that", "achieves", "the", "highest", "reduction", "in", "storage", "also", "results", "in", "the", "highest", "generalization", "accuracy", "of", "the", "three", "methods", ".", "Email", ":", "randy@axon.cs.byu.edu,", "martinez@cs.byu.edu", "Phone", ":", "1-801-378-6464", "Fax", ":", "1-801-378-7555", "Instance", "Pruning", "Techniques", "Abstract", ".", "The", "nearest", "neighbor", "algorithm", "and", "its", "derivatives", "are", "often", "quite", "successful", "at", "learning", "a", "concept", "from", "a", "training", "set", "and", "providing", "good", "generalization", "on", "subsequent", "input", "vectors", ".", "However", ",", "these", "techniques", "often", "retain", "the", "entire", "training", "set", "in", "memory", ",", "resulting", "in", "large", "memory", "requirements", "and", "slow", "execution", "speed", ",", "as", "well", "as", "a", "sensitivity", "to", "noise", ".", "This", "paper", "provides", "a", "discussion", "of", "issues", "related", "to", "reducing", "the", "number", "of", "instances", "retained", "in", "memory", "while", "maintaining", "-LRB-", "and", "sometimes", "improving", "-RRB-", "generalization", "accuracy", ",", "and", "mentions", "algorithms", "other", "researchers", "have", "used", "to", "address", "this", "problem", ".", "It", "presents", "three", "intuitive", "noise-tolerant", "algorithms", "that", "can", "be", "used", "to", "prune", "instances", "from", "the", "training", "set", ".", "In", "experiments", "on", "29", "applications", ",", "the", "algorithm", "that", "achieves", "the", "highest", "reduction", "in", "storage", "also", "results", "in", "the", "highest", "generalization", "accuracy", "of", "the", "three", "methods", ".", "1", ".", "Introduction", "The", "nearest", "neighbor", "algorithm", "-LSB-", "Cover", "&", "Hart", ",", "1967", ";", "Dasarathy", ",", "1991", "-RSB-", "has", "been", "used", "successfully", "for", "pattern", "classification", "on", "many", "applications", ".", "Each", "pattern", "has", "an", "input", "vector", "with", "one", "value", "for", "each", "of", "several", "input", "attributes", ".", "An", "instance", "has", "an", "input", "vector", "and", "an", "output", "class", ".", "A", "training", "set", "T", "is", "a", "collection", "of", "instances", "with", "known", "output", "classes", ".", "A", "new", "pattern", "x", "is", "classified", "in", "the", "basic", "nearest", "neighbor", "algorithm", "by", "finding", "the", "instance", "y", "in", "T", "that", "is", "closest", "to", "x", ",", "and", "using", "the", "output", "class", "of", "y", "as", "the", "predicted", "classification", "for", "x", ".", "The", "instance", "that", "is", "closest", "to", "x", "is", "taken", "to", "be", "the", "one", "with", "minimum", "distance", ",", "using", "some", "distance", "function", ".", "The", "distance", "function", "can", "have", "a", "significant", "impact", "on", "the", "ability", "of", "the", "classifier", "to", "generalize", "correctly", ".", "The", "nearest", "neighbor", "algorithm", "learns", "very", "quickly", "-LRB-", "O", "-LRB-", "n", "-RRB-", "-RRB-", "because", "it", "need", "only", "read", "in", "the", "training", "set", "without", "further", "processing", ".", "It", "can", "also", "generalize", "accurately", "for", "many", "applications", "because", "it", "can", "learn", "complex", "concept", "descriptions", ",", "and", "provides", "an", "appropriate", "bias", "for", "many", "applications", ".", "The", "nearest", "neighbor", "algorithm", "also", "has", "several", "shortcomings", ".", "Since", "it", "stores", "all", "training", "instances", ",", "it", "has", "large", "-LRB-", "O", "-LRB-", "n", "-RRB-", "-RRB-", "memory", "requirements", ".", "Since", "it", "must", "search", "through", "all", "available", "instances", "to", "classify", "a", "new", "input", "vector", ",", "it", "is", "slow", "-LRB-", "O", "-LRB-", "n", "-RRB-", "-RRB-", "during", "classification", ".", "Since", "it", "stores", "every", "instance", "in", "the", "training", "set", ",", "noisy", "instances", "-LRB-", "i.e.", ",", "those", "with", "errors", "in", "the", "input", "vector", "or", "output", "class", ",", "or", "those", "not", "representative", "of", "typical", "cases", "-RRB-", "are", "stored", "as", "well", ",", "which", "can", "degrade", "generalization", "accuracy", ".", "Techniques", "such", "as", "k-d", "trees", "-LSB-", "Sproull", ",", "1991", "-RSB-", "and", "projection", "-LSB-", "Papadimitriou", "&", "Bentley", ",", "1980", "-RSB-", "can", "reduce", "the", "time", "required", "to", "find", "the", "nearest", "neighbor", "-LRB-", "s", "-RRB-", "of", "an", "input", "vector", ",", "but", "they", "do", "not", "reduce", "storage", "requirements", ",", "do", "not", "address", "the", "problem", "of", "noise", ",", "and", "often", "become", "much", "less", "effective", "as", "the", "dimensionality", "of", "the", "problem", "-LRB-", "i.e.", ",", "the", "number", "of", "input", "attributes", "-RRB-", "grows", ".", "On", "the", "other", "hand", ",", "when", "some", "of", "the", "instances", "are", "removed", "-LRB-", "or", "pruned", "-RRB-", "from", "the", "training", "set", ",", "the", "storage", "requirements", "and", "time", "necessary", "for", "generalization", "are", "correspondingly", "reduced", ".", "This", "paper", "focuses", "on", "the", "problem", "of", "reducing", "the", "size", "of", "the", "stored", "set", "of", "instances", "while", "trying", "to", "maintain", "or", "even", "improve", "generalization", "accuracy", ".", "Much", "research", "has", "been", "done", "in", "this", "area", ",", "and", "an", "overview", "of", "this", "research", "is", "given", "in", "Section", "2", ".", "Section", "3", "discusses", "several", "issues", "related", "to", "the", "problem", "of", "instance", "set", "reduction", ",", "and", "provides", "motivation", "for", "further", "algorithms", ".", "Section", "4", "presents", "four", "new", "instance", "reduction", "techniques", "that", "were", "hypothesized", "to", "provide", "substantial", "instance", "reduction", "while", "continuing", "to", "generalize", "accurately", ",", "even", "in", "the", "presence", "of", "noise", ".", "The", "first", "is", "similar", "to", "the", "Reduced", "Nearest", "Neighbor", "-LRB-", "RNN", "-RRB-", "algorithm", "-LSB-", "Gates", "1972", "-RSB-", ".", "The", "second", "changes", "the", "order", "in", "which", "instances", "are", "considered", "for", "removal", ",", "and", "the", "third", "adds", "a", "noise-reduction", "step", "similar", "to", "that", "done", "by", "Wilson", "-LSB-", "1972", "-RSB-", "before", "proceeding", "with", "the", "main", "reduction", "algorithm", ".", "Section", "5", "describes", "experiments", "on", "29", "datasets", "that", "compare", "the", "performance", "of", "each", "of", "these", "three", "reduction", "techniques", "to", "a", "basic", "k-nearest", "neighbor", "algorithm", ".", "The", "results", "indicate", "that", "these", "algorithms", "achieve", "substantial", "storage", "reduction", ",", "while", "maintaining", "good", "generalization", "accuracy", ".", "Section", "6", "provides", "conclusions", "and", "future", "research", "directions", ".", "2", ".", "Related", "Work", "Several", "researchers", "have", "addressed", "the", "problem", "of", "training", "set", "size", "reduction", ".", "This", "section", "reviews", "previous", "work", "in", "reduction", "algorithms", ".", "2.1", ".", "Nearest", "Neighbor", "Editing", "Rules", "Hart", "-LSB-", "1968", "-RSB-", "made", "one", "of", "the", "first", "attempts", "to", "reduce", "the", "size", "of", "the", "training", "set", "with", "his", "Condensed", "Nearest", "Neighbor", "Rule", "-LRB-", "CNN", "-RRB-", ".", "This", "algorithm", "begins", "by", "randomly", "selecting", "one", "instance", "belonging", "to", "each", "output", "class", "from", "the", "training", "set", "T", "and", "putting", "it", "in", "a", "subset", "S", ".", "Then", "each", "instance", "in", "T", "is", "classified", "using", "only", "the", "instances", "in", "S", ".", "If", "an", "instance", "is", "misclassified", ",", "it", "is", "added", "to", "S", ",", "thus", "ensuring", "that", "it", "will", "be", "classified", "correctly", ".", "This", "algorithm", "is", "especially", "sensitive", "to", "noise", ",", "because", "noisy", "instances", "will", "usually", "be", "misclassified", "by", "their", "neighbors", ",", "and", "thus", "will", "be", "retained", ".", "Rittler", "et", ".", "al.", "-LSB-", "1975", "-RSB-", "extended", "the", "condensed", "NN", "method", "in", "their", "Selective", "Nearest", "Neighbor", "Rule", "-LRB-", "SNN", "-RRB-", "such", "that", "every", "member", "of", "T", "must", "be", "closer", "to", "a", "member", "of", "S", "of", "the", "same", "class", "than", "to", "a", "member", "of", "T", "-LRB-", "instead", "of", "S", "-RRB-", "of", "a", "different", "class", ".", "Further", ",", "the", "method", "ensures", "a", "minimal", "subset", "satisfying", "these", "conditions", ".", "This", "algorithm", "resulted", "in", "greater", "reduction", "in", "the", "training", "set", "size", "as", "well", "as", "slightly", "higher", "accuracy", "than", "CNN", "in", "their", "experiments", ",", "though", "it", "is", "still", "sensitive", "to", "noise", ".", "Gates", "-LSB-", "1972", "-RSB-", "modified", "this", "algorithm", "in", "his", "Reduced", "Nearest", "Neighbor", "Rule", "-LRB-", "RNN", "-RRB-", ".", "The", "reduced", "NN", "algorithm", "starts", "with", "S", "?", "=", "?", "T", "and", "removes", "each", "instance", "from", "S", "if", "such", "a", "removal", "does", "not", "cause", "any", "other", "instances", "in", "T", "to", "be", "misclassified", ".", "Since", "the", "instance", "being", "removed", "is", "not", "guaranteed", "to", "be", "classified", "correctly", ",", "this", "algorithm", "is", "able", "to", "remove", "noisy", "instances", "and", "internal", "instances", "while", "retaining", "border", "points", ".", "Wilson", "-LSB-", "1972", "-RSB-", "developed", "an", "algorithm", "which", "removes", "instances", "that", "do", "not", "agree", "with", "the", "majority", "of", "their", "k", "nearest", "neighbors", "-LRB-", "with", "k", "=", "3", ",", "typically", "-RRB-", ".", "This", "edits", "out", "noisy", "instances", "as", "well", "as", "close", "border", "cases", ",", "leaving", "smoother", "decision", "boundaries", ".", "It", "also", "retains", "all", "internal", "points", ",", "which", "keeps", "it", "from", "reducing", "the", "storage", "requirements", "as", "much", "as", "many", "other", "algorithms", ".", "Tomek", "-LSB-", "1976", "-RSB-", "extended", "Wilson?s", "algorithm", "with", "his", "?", "all", "k-NN", "?", "method", "of", "editing", "by", "calling", "Wilson?s", "algorithm", "repeatedly", "with", "k", "=", "1", ".", ".", "k", ",", "though", "this", "still", "retains", "internal", "points", ".", "2.2", ".", "?", "Instance-Based", "?", "Learning", "Algorithms", "Aha", "et", ".", "al.", "-LSB-", "1991", "-RSB-", "presented", "a", "series", "of", "instance-based", "learning", "algorithms", "that", "reduce", "storage", ".", "IB2", "is", "quite", "similar", "to", "the", "Condensed", "Nearest", "Neighbor", "-LRB-", "CNN", "-RRB-", "rule", "-LSB-", "Hart", ",", "1968", "-RSB-", ",", "and", "suffers", "from", "the", "same", "sensitivity", "to", "noise", ".", "IB3", "-LSB-", "Aha", "et", "al.", "1991", "-RSB-", "addresses", "IB2?s", "problem", "of", "keeping", "noisy", "instances", "by", "using", "a", "statistical", "test", "to", "retain", "only", "acceptable", "misclassified", "instances", ".", "In", "their", "experiments", ",", "IB3", "was", "able", "to", "achieve", "greater", "reduction", "in", "the", "number", "of", "instances", "stored", "and", "also", "achieved", "higher", "accuracy", "than", "IB2", ",", "due", "to", "its", "reduced", "sensitivity", "to", "noise", "on", "the", "applications", "on", "which", "it", "was", "tested", ".", "Zhang", "-LSB-", "1992", "-RSB-", "used", "a", "different", "approach", "called", "the", "Typical", "Instance", "Based", "Learning", "-LRB-", "TIBL", "-RRB-", "algorithm", ",", "which", "attempted", "to", "save", "instances", "near", "the", "center", "of", "clusters", "rather", "than", "on", "the", "border", ".", "Cameron-Jones", "-LSB-", "1995", "-RSB-", "used", "an", "encoding", "length", "heuristic", "to", "determine", "how", "good", "the", "subset", "S", "is", "in", "describing", "T", ".", "After", "a", "growing", "phase", "similar", "to", "IB3", ",", "a", "random", "mutation", "hill", "climbing", "method", "called", "Explore", "is", "used", "to", "search", "for", "a", "better", "subset", "of", "instances", ",", "using", "the", "encoding", "length", "heuristic", "as", "a", "guide", ".", "2.3", ".", "Prototypes", "and", "other", "Modifications", "of", "the", "Instances", "Some", "algorithms", "seek", "to", "reduce", "storage", "requirements", "and", "speed", "up", "classification", "by", "modifying", "the", "instances", "themselves", ",", "instead", "of", "just", "deciding", "which", "ones", "to", "keep", ".", "Chang", "-LSB-", "1974", "-RSB-", "introduced", "an", "algorithm", "in", "which", "each", "instance", "in", "T", "is", "initially", "treated", "as", "a", "prototype", ".", "The", "nearest", "two", "instances", "that", "have", "the", "same", "class", "are", "merged", "into", "a", "single", "prototype", "-LRB-", "using", "a", "weighted", "averaging", "scheme", "-RRB-", "that", "is", "located", "somewhere", "between", "the", "two", "prototypes", ".", "This", "process", "is", "repeated", "until", "classification", "accuracy", "starts", "to", "suffer", ".", "Domingos", "-LSB-", "1995", "-RSB-", "introduced", "the", "RISE", "2.0", "system", "which", "treats", "each", "instance", "in", "T", "as", "a", "rule", "in", "R", ",", "and", "then", "generalizes", "rules", "until", "classification", "accuracy", "starts", "to", "suffer", ".", "Salzberg", "-LSB-", "1991", "-RSB-", "introduced", "the", "nested", "generalized", "exemplar", "-LRB-", "NGE", "-RRB-", "theory", ",", "in", "which", "hyperrectangles", "are", "used", "to", "take", "the", "place", "of", "one", "or", "more", "instances", ",", "thus", "reducing", "storage", "requirements", ".", "Wettschereck", "&", "Dietterich", ",", "-LSB-", "1995", "-RSB-", "introduced", "a", "hybrid", "nearest-neighbor", "and", "nearest-hyperrectangle", "algorithm", "that", "used", "hyperrectangles", "to", "classify", "input", "vectors", "if", "they", "fell", "inside", "the", "hyperrectangle", ",", "and", "kNN", "to", "classify", "inputs", "that", "were", "not", "covered", "by", "any", "hyperrectangle", ".", "This", "algorithm", "must", "therefore", "store", "the", "entire", "training", "set", "T", ",", "but", "accelerates", "classification", "by", "using", "relatively", "few", "hyperrectangles", "whenever", "possible", ".", "3", ".", "Instance", "Reduction", "Issues", "From", "the", "above", "learning", "models", ",", "several", "observations", "can", "be", "made", "regarding", "the", "issues", "involved", "in", "training", "set", "reduction", ".", "This", "section", "covers", "the", "issues", "of", "instance", "representation", ",", "the", "order", "of", "the", "search", ",", "the", "choice", "of", "distance", "function", ",", "the", "general", "intuition", "of", "which", "instances", "to", "keep", ",", "and", "how", "to", "evaluate", "the", "different", "strategies", ".", "3.1", ".", "Representation", "One", "choice", "in", "designing", "a", "training", "set", "reduction", "algorithm", "is", "to", "decide", "whether", "to", "retain", "a", "subset", "of", "the", "original", "instances", "or", "whether", "to", "modify", "the", "instances", "using", "a", "new", "representation", ".", "For", "example", ",", "NGE", "-LSB-", "Salzberg", ",", "1991", "-RSB-", "and", "its", "derivatives", "-LSB-", "Wettschereck", "&", "Dietterich", ",", "1995", "-RSB-", "use", "hyperrectangles", "to", "represent", "collections", "of", "instances", ";", "RISE", "-LSB-", "Domingos", ",", "1995", "-RSB-", "generalizes", "instances", "into", "rules", ";", "and", "prototypes", "-LSB-", "Chang", "1974", "-RSB-", "can", "be", "used", "to", "represent", "a", "cluster", "of", "instances", ",", "even", "if", "no", "original", "instance", "occurred", "at", "the", "point", "where", "the", "prototype", "is", "located", ".", "On", "the", "other", "hand", ",", "many", "models", "seek", "to", "retain", "a", "subset", "of", "the", "original", "instances", ",", "including", "the", "Condensed", "NN", "rule", "-LRB-", "CNN", "-RRB-", "-LSB-", "Hart", ",", "1968", "-RSB-", ",", "the", "Reduced", "NN", "rule", "-LRB-", "RNN", "-RRB-", "-LSB-", "Gates", "1972", "-RSB-", ",", "the", "Selective", "NN", "rule", "-LRB-", "SNN", "-RRB-", "-LSB-", "Rittler", "et", ".", "al.", ",", "1975", "-RSB-", ",", "Wilson?s", "rule", "-LSB-", "Wilson", ",", "1972", "-RSB-", ",", "the", "?", "all", "k-NN", "?", "method", "-LSB-", "Tomek", ",", "1976", "-RSB-", ",", "InstanceBased", "-LRB-", "IBL", "-RRB-", "Algorithms", "-LSB-", "Aha", "et", ".", "al.", ".", "1991", "-RSB-", ",", "and", "the", "Typical", "Instance", "Based", "Learning", "-LRB-", "TIBL", "-RRB-", "algorithm", "-LSB-", "Zhang", ",", "1992", "-RSB-", ".", "Another", "decision", "that", "affects", "the", "concept", "description", "for", "many", "algorithms", "is", "the", "choice", "of", "k", ",", "which", "is", "the", "number", "of", "neighbors", "used", "to", "decide", "the", "output", "class", "of", "an", "input", "vector", ".", "The", "value", "of", "k", "is", "typically", "a", "small", "integer", "-LRB-", "e.g.", ",", "1", ",", "3", "or", "5", "-RRB-", "that", "is", "odd", "so", "as", "to", "avoid", "?", "ties", "?", "in", "the", "voting", "of", "neighbors", ".", "The", "value", "of", "k", "is", "often", "determined", "from", "cross-validation", ".", "3.2", ".", "Direction", "of", "Search", "When", "searching", "for", "a", "subset", "S", "of", "instances", "to", "keep", "from", "training", "set", "T", ",", "there", "are", "different", "directions", "the", "search", "can", "proceed", ".", "We", "call", "these", "search", "directions", "incremental", ",", "decremental", ",", "and", "batch", ".", "Incremental", ".", "The", "incremental", "search", "begins", "with", "an", "empty", "subset", "S", ",", "and", "adds", "each", "instance", "in", "T", "to", "S", "if", "it", "fulfills", "the", "criteria", ".", "Using", "such", "a", "search", "direction", ",", "the", "order", "of", "presentation", "of", "instances", "can", "be", "very", "important", ".", "In", "particular", ",", "the", "first", "few", "instances", "may", "have", "a", "very", "different", "probability", "of", "being", "included", "in", "S", "than", "they", "would", "if", "they", "were", "visited", "later", ".", "For", "example", ",", "CNN", "begins", "by", "selecting", "one", "instance", "from", "each", "class", "at", "random", ",", "which", "gives", "these", "instances", "a", "100", "%", "chance", "of", "being", "included", ".", "The", "next", "instances", "visited", "are", "classified", "only", "by", "the", "few", "instances", "that", "are", "already", "in", "S", ",", "while", "instances", "chosen", "near", "the", "end", "of", "the", "algorithm", "are", "classified", "by", "a", "much", "larger", "number", "of", "instances", "that", "have", "been", "included", "in", "S", ".", "Other", "incremental", "schemes", "include", "IB2", "and", "IB3", ".", "One", "advantage", "to", "an", "incremental", "scheme", "is", "that", "if", "instances", "are", "made", "available", "later", ",", "after", "training", "is", "complete", ",", "they", "can", "continue", "to", "be", "added", "to", "S", "according", "to", "the", "same", "criteria", ".", "Decremental", ".", "Decremental", "searches", "begins", "with", "S", "=", "T", ",", "and", "then", "search", "for", "instances", "to", "remove", "from", "S.", "Again", "the", "order", "of", "presentation", "can", "be", "important", ",", "but", "unlike", "the", "incremental", "process", ",", "all", "of", "the", "training", "examples", "are", "available", "for", "examination", "at", "any", "time", ",", "so", "a", "search", "can", "be", "made", "to", "determine", "which", "instance", "would", "be", "best", "to", "remove", "during", "each", "step", "of", "the", "algorithm", ".", "Decremental", "algorithms", "include", "RNN", ",", "SNN", ",", "and", "Wilson?s", "-LSB-", "1972", "-RSB-", "rule", ".", "NGE", "and", "RISE", "can", "also", "be", "viewed", "as", "decremental", "algorithms", ",", "except", "that", "instead", "of", "simply", "removing", "instances", "from", "S", ",", "they", "are", "instead", "generalized", "into", "hyperrectangles", "or", "rules", ".", "Similarly", ",", "Chang?s", "prototype", "rule", "operates", "in", "a", "decremental", "order", ",", "but", "prototypes", "are", "merged", "into", "each", "other", "instead", "of", "being", "simply", "removed", ".", "One", "disadvantage", "with", "the", "decremental", "rule", "is", "that", "it", "is", "often", "computationally", "more", "expensive", "than", "incremental", "algorithms", ".", "For", "example", ",", "in", "order", "to", "find", "the", "nearest", "neighbor", "in", "T", "of", "an", "instance", ",", "n", "distance", "calculations", "must", "be", "made", ".", "On", "the", "other", "hand", ",", "there", "are", "fewer", "than", "n", "instances", "in", "S", "-LRB-", "zero", "initially", ",", "and", "some", "fraction", "of", "T", "eventually", "-RRB-", ",", "so", "finding", "the", "nearest", "neighbor", "in", "S", "of", "an", "instance", "takes", "less", "computation", ".", "However", ",", "if", "the", "application", "of", "a", "decremental", "algorithm", "can", "result", "in", "greater", "storage", "reduction", "and/or", "increased", "generalization", "accuracy", ",", "then", "the", "extra", "computation", "during", "learning", "-LRB-", "which", "is", "done", "just", "once", "-RRB-", "can", "be", "well", "worth", "the", "computational", "savings", "during", "execution", "thereafter", ".", "Batch", ".", "A", "final", "way", "to", "apply", "a", "training", "set", "reduction", "rule", "is", "in", "batch", "mode", ".", "This", "involves", "deciding", "if", "each", "instance", "meets", "the", "removal", "criteria", "before", "removing", "any", ",", "and", "then", "removing", "all", "of", "them", "at", "once", ".", "For", "example", ",", "the", "?", "allkNN", "?", "rule", "operates", "this", "way", ".", "This", "can", "relieve", "the", "algorithm", "from", "having", "to", "constantly", "update", "lists", "of", "nearest", "neighbors", "and", "other", "information", "when", "instances", "are", "individually", "removed", ",", "but", "there", "are", "also", "dangers", "in", "batch", "processing", ".", "For", "example", ",", "assume", "we", "apply", "a", "rule", "such", "as", "?", "Remove", "an", "instance", "if", "it", "has", "the", "same", "output", "class", "as", "its", "k", "nearest", "neighbors", "?", "to", "a", "training", "set", ".", "This", "could", "result", "in", "entire", "clusters", "disappearing", "if", "there", "are", "no", "instances", "of", "a", "different", "class", "nearby", ".", "If", "done", "in", "decremental", "mode", ",", "however", ",", "some", "instances", "would", "remain", ",", "because", "eventually", "enough", "neighbors", "would", "be", "removed", "that", "one", "of", "the", "k", "nearest", "neighbors", "of", "an", "instance", "would", "have", "to", "be", "of", "another", "class", ",", "even", "if", "it", "was", "originally", "surrounded", "by", "those", "of", "its", "own", "class", ".", "3.3", ".", "Border", "points", "vs.", "central", "points", "Another", "factor", "that", "distinguishes", "instance", "reduction", "techniques", "is", "whether", "they", "seek", "to", "retain", "border", "points", ",", "central", "points", ",", "or", "some", "other", "set", "of", "points", ".", "The", "intuition", "behind", "retaining", "border", "points", "is", "that", "?", "internal", "?", "points", "do", "not", "affect", "the", "decision", "boundaries", "as", "much", "as", "the", "border", "points", ",", "and", "thus", "can", "be", "removed", "with", "relatively", "little", "effect", "on", "classification", ".", "Algorithms", "which", "tend", "to", "retain", "border", "points", "include", "CNN", ",", "RNN", ",", "IB2", ",", "and", "IB3", ".", "On", "the", "other", "hand", ",", "some", "algorithms", "instead", "seek", "to", "remove", "border", "points", ".", "Wilson?s", "rule", "and", "the", "?", "all", "kNN", "?", "rule", "are", "examples", "of", "this", ".", "They", "remove", "points", "that", "are", "noisy", "or", "do", "not", "agree", "with", "their", "neighbors", ".", "This", "removes", "close", "border", "points", ",", "leaving", "smoother", "decision", "boundaries", "behind", ".", "This", "may", "help", "generalization", "in", "some", "cases", ",", "but", "typically", "keeps", "most", "of", "the", "instances", ".", "Some", "algorithms", "retain", "center", "points", "instead", "of", "border", "points", ".", "For", "example", ",", "the", "Typical", "Instance", "Based", "Learning", "algorithm", "attempts", "to", "retain", "center", "points", "and", "can", "achieve", "very", "dramatic", "reduction", "-LRB-", "ideally", "one", "instance", "per", "class", "-RRB-", "when", "conditions", "are", "right", ".", "However", ",", "when", "decision", "boundaries", "are", "complex", ",", "it", "may", "take", "nearly", "as", "many", "instances", "to", "define", "the", "boundaries", "using", "center", "points", "as", "it", "would", "using", "boundary", "points", ".", "Current", "research", "is", "addressing", "this", "question", ".", "3.4", ".", "Distance", "Function", "The", "nearest", "neighbor", "algorithm", "and", "its", "derivatives", "usually", "use", "the", "Euclidean", "distance", "function", ",", "which", "is", "defined", "as", ":", "E", "-LRB-", "x", ",", "y", "-RRB-", "=", "-LRB-", "x", "i", "-", "y", "i", "-RRB-", "2", "i", "=", "1", "m", "?", "-LRB-", "1", "-RRB-", "where", "x", "and", "y", "are", "the", "two", "input", "vectors", ",", "m", "is", "the", "number", "of", "input", "attributes", ",", "and", "xi", "and", "yi", "are", "the", "input", "values", "for", "input", "attribute", "i", ".", "This", "function", "is", "appropriate", "when", "all", "the", "input", "attributes", "are", "numeric", "and", "have", "ranges", "of", "approximately", "equal", "width", ".", "When", "the", "attributes", "have", "substantially", "different", "ranges", ",", "the", "attributes", "can", "be", "normalized", "by", "dividing", "the", "individual", "attribute", "distances", "by", "the", "range", "or", "standard", "deviation", "of", "the", "attribute", ".", "When", "nominal", "-LRB-", "discrete", ",", "unordered", "-RRB-", "attributes", "are", "included", "in", "an", "application", ",", "a", "distance", "metric", "is", "needed", "that", "can", "handle", "them", ".", "We", "use", "a", "distance", "function", "based", "upon", "the", "Value", "Difference", "Metric", "-LRB-", "VDM", "-RRB-", "-LSB-", "Stanfill", "&", "Waltz", ",", "1986", "-RSB-", "for", "nominal", "attributes", ".", "A", "simplified", "version", "of", "the", "VDM", "defines", "the", "distance", "between", "two", "values", "x", "and", "y", "of", "a", "single", "attribute", "a", "as", ":", "vdm", "a", "-LRB-", "x", ",", "y", "-RRB-", "=", "N", "a", ",", "x", ",", "c", "N", "a", ",", "x", "-", "N", "a", ",", "y", ",", "c", "N", "a", ",", "y", "?", "?", "?", "?", "?", "?", "c", "=", "1", "C", "?", "2", "-LRB-", "2", "-RRB-", "where", "Na", ",", "x", "is", "the", "number", "of", "times", "attribute", "a", "had", "value", "x", ";", "Na", ",", "x", ",", "c", "is", "the", "number", "of", "times", "attribute", "a", "had", "value", "x", "and", "the", "output", "class", "was", "c", ";", "and", "C", "is", "the", "number", "of", "output", "classes", ".", "Using", "this", "distance", "measure", ",", "two", "values", "are", "considered", "to", "be", "closer", "if", "they", "have", "more", "similar", "classifications", ",", "regardless", "of", "the", "order", "of", "the", "values", ".", "In", "order", "to", "handle", "heterogeneous", "applications?those", "with", "both", "numeric", "and", "nominal", "attributes?we", "use", "the", "heterogeneous", "distance", "function", "HVDM", "-LSB-", "Wilson", "&", "Martinez", ",", "1997", "-RSB-", ",", "which", "is", "defined", "as", ":", "HVDM", "-LRB-", "x", ",", "y", "-RRB-", "=", "d", "a", "2", "-LRB-", "x", "a", ",", "y", "a", "-RRB-", "a", "=", "1", "m", "?", "-LRB-", "3", "-RRB-", "where", "the", "function", "da", "-LRB-", "x", ",", "y", "-RRB-", "is", "the", "distance", "for", "attribute", "a", "and", "is", "defined", "as", ":", "d", "a", "-LRB-", "x", ",", "y", "-RRB-", "=", "vdm", "a", "-LRB-", "x", ",", "y", "-RRB-", ",", "if", "a", "is", "nominal", "x", "-", "y", "4s", "a", ",", "if", "a", "is", "numeric", "?", "?", "?", "?", "?", "-LRB-", "4", "-RRB-", "where", "vdma", "-LRB-", "x", ",", "y", "-RRB-", "is", "the", "function", "given", "in", "-LRB-", "2", "-RRB-", ",", "and", "sa", "is", "the", "standard", "deviation", "of", "the", "values", "occurring", "for", "attribute", "a", "in", "the", "instances", "in", "the", "training", "set", "T", ".", "This", "function", "handles", "unknown", "input", "values", "by", "assigning", "them", "a", "large", "distance", "-LRB-", "1.0", "-RRB-", ",", "and", "provides", "appropriate", "normalization", "between", "numeric", "and", "nominal", "attributes", ",", "as", "well", "as", "between", "numeric", "attributes", "of", "different", "scales", ".", "4", ".", "New", "Instance", "Set", "Reduction", "Algorithms", "This", "section", "presents", "a", "collection", "of", "new", "heuristics", "or", "rules", "used", "to", "decide", "which", "instances", "to", "keep", "and", "which", "instances", "to", "remove", "from", "a", "training", "set", ".", "In", "order", "to", "avoid", "repeating", "lengthy", "definitions", ",", "some", "notation", "is", "introduced", "here", ":", "A", "training", "set", "T", "consists", "of", "n", "instances", "-LRB-", "or", "prototypes", "-RRB-", "P1", ".", ".", "n.", "Each", "instance", "P", "has", "k", "nearest", "neighbors", "P.N1", ".", ".", "k", "-LRB-", "ordered", "from", "nearest", "to", "furthest", "-RRB-", ",", "where", "k", "is", "a", "small", "odd", "integer", "such", "as", "1", ",", "3", "or", "5", ".", "P", "also", "has", "a", "nearest", "enemy", ",", "P.E", ",", "which", "is", "the", "nearest", "instance", "with", "a", "different", "output", "class", ".", "Those", "instances", "that", "have", "P", "as", "one", "of", "their", "k", "nearest", "neighbors", "are", "called", "associates", "of", "P", ",", "and", "are", "notated", "as", "P.A1", ".", ".", "a", "-LRB-", "sorted", "from", "nearest", "to", "furthest", "-RRB-", "where", "a", "is", "the", "number", "of", "associates", "that", "P", "has", ".", "Given", "the", "issues", "in", "Section", "3", "to", "consider", ",", "our", "research", "is", "directed", "towards", "finding", "instance", "reduction", "techniques", "that", "provide", "noise", "tolerance", ",", "high", "generalization", "accuracy", ",", "insensitivity", "to", "the", "order", "of", "presentation", "of", "instances", ",", "and", "significant", "storage", "reduction", ",", "which", "in", "turn", "improves", "generalization", "speed", ".", "Sections", "4.1-4", ".3", "present", "three", "rules", ",", "called", "RT1-RT3", ",", "respectively", ",", "that", "seek", "to", "meet", "these", "goals", ".", "4.1", ".", "Reduction", "Technique", "1", "-LRB-", "RT1", "-RRB-", "The", "first", "reduction", "technique", "we", "present", ",", "RT1", ",", "uses", "the", "following", "basic", "rule", "to", "decide", "if", "it", "is", "safe", "to", "remove", "an", "instance", "from", "the", "instance", "set", "S", "-LRB-", "where", "S", "?", "=", "?", "T", "originally", "-RRB-", ":", "Remove", "P", "if", "at", "least", "as", "many", "of", "its", "associates", "in", "S", "would", "be", "classified", "correctly", "without", "it", ".", "To", "see", "if", "an", "instance", "can", "be", "removed", "using", "this", "rule", ",", "each", "associate", "is", "checked", "to", "see", "what", "effect", "the", "removal", "of", "P", "would", "have", "on", "it", ".", "Removing", "P", "causes", "each", "associate", "P.Ai", "to", "use", "its", "k", "+1", "st", "nearest", "neighbor", "-LRB-", "P.Ai.Nk", "+1", "-RRB-", "in", "place", "of", "P", ".", "If", "P", "has", "the", "same", "class", "as", "P.Ai", ",", "and", "P.Ai.Nk", "+1", "has", "a", "different", "class", "than", "P.Ai", ",", "this", "weakens", "its", "classification", ",", "and", "could", "cause", "P.Ai", "to", "be", "misclassified", "by", "its", "neighbors", ".", "On", "the", "other", "hand", ",", "if", "P", "is", "a", "different", "class", "than", "P.Ai", "and", "the", "P.Ai.Nk", "+1", "is", "the", "same", "class", "as", "P.Ai", ",", "the", "removal", "of", "P?could", "cause", "a", "previously", "misclassified", "instance", "to", "be", "classified", "correctly", ".", "In", "essence", ",", "this", "rule", "tests", "to", "see", "if", "removing", "P", "would", "degrade", "leave-one-out", "cross-validation", "generalization", "accuracy", ",", "which", "is", "an", "estimate", "of", "the", "true", "generalization", "ability", "of", "the", "resulting", "classifier", ".", "An", "instance", "is", "removed", "when", "it", "results", "in", "the", "same", "level", "of", "generalization", "with", "lower", "storage", "requirements", ".", "The", "algorithm", "for", "RT1", "proceeds", "as", "shown", "in", "Figure", "1", ".", "1", "RT1", "-LRB-", "Training", "set", "T", "-RRB-", ":", "Instance", "set", "S.", "2", "Let", "S", "=", "T.", "3", "For", "each", "instance", "P", "in", "S", ":", "4", "Find", "P.N1", ".", ".", "k", "+1", ",", "the", "k", "+1", "nearest", "neighbors", "of", "P?in", "S.", "5", "Add", "P?to", "each", "of", "its", "neighbors", "?", "lists", "of", "associates", ".", "6", "For", "each", "instance", "P", "in", "S", ":", "7", "Let", "with", "=", "#", "of", "associates", "of", "P", "classified", "correctly", "with", "P", "as", "a", "neighbor", ".", "8", "Let", "without", "=", "#", "of", "associates", "of", "P", "classified", "correctly", "without", "P.", "9", "If", "-LRB-", "without", "-", "with", "-RRB-", "?", "0", "10", "Remove", "P", "from", "S.", "11", "Remove", "P", "from", "its", "associates", "?", "lists", "of", "nearest", "neighbors", ",", "and", "find", "12", "the", "next", "nearest", "neighbor", "for", "each", "of", "these", "associates", ".", "13", "Remove", "P", "from", "its", "neighbors", "?", "lists", "of", "associates", ".", "14", "Endif", "15", "Return", "S.", "Figure", "1", ".", "Pseudo-code", "for", "RT1", ".", "This", "algorithm", "begins", "by", "building", "a", "list", "of", "nearest", "neighbors", "for", "each", "instance", ",", "as", "well", "as", "a", "list", "of", "associates", ".", "Then", "each", "instance", "in", "S", "is", "removed", "if", "its", "removal", "does", "not", "hurt", "the", "classification", "of", "the", "instances", "remaining", "in", "S", ".", "This", "algorithm", "removes", "noisy", "instances", ",", "because", "a", "noisy", "instance", "P", "usually", "has", "associates", "that", "are", "mostly", "of", "a", "different", "class", ",", "and", "such", "associates", "will", "be", "at", "least", "as", "likely", "to", "be", "classified", "correctly", "without", "P.", "RT1", "also", "removes", "instances", "in", "the", "center", "of", "clusters", ",", "because", "associates", "there", "are", "not", "near", "their", "enemies", ",", "and", "thus", "continue", "to", "be", "classified", "correctly", "without", "P.", "Near", "the", "border", ",", "the", "removal", "of", "some", "instances", "sometimes", "causes", "others", "to", "be", "classified", "incorrectly", "because", "the", "majority", "of", "their", "neighbors", "can", "become", "enemies", ".", "Thus", "this", "algorithm", "tends", "to", "keep", "non-noisy", "border", "points", ".", "At", "the", "limit", ",", "there", "is", "typically", "a", "collection", "of", "border", "instances", "such", "that", "the", "majority", "of", "the", "k", "nearest", "neighbors", "of", "each", "of", "these", "instances", "is", "the", "correct", "class", ".", "4.2", ".", "Reduction", "Technique", "2", "-LRB-", "RT2", "-RRB-", "There", "is", "a", "potential", "problem", "that", "can", "arise", "in", "RT1", "with", "regards", "to", "noisy", "instances", ".", "A", "noisy", "instance", "will", "typically", "have", "associates", "of", "a", "different", "class", ",", "and", "will", "thus", "be", "contained", "to", "a", "somewhat", "small", "portion", "of", "the", "input", "space", ".", "However", ",", "if", "its", "associates", "are", "removed", "by", "the", "above", "criteria", ",", "the", "noisy", "instance", "may", "cover", "more", "and", "more", "of", "the", "input", "space", ".", "Eventually", "it", "is", "hoped", "that", "the", "noisy", "instance", "itself", "will", "be", "removed", ".", "However", ",", "if", "many", "of", "its", "neighbors", "are", "removed", "first", ",", "its", "associates", "may", "eventually", "include", "instances", "of", "the", "same", "class", "from", "the", "other", "side", "of", "the", "original", "decision", "boundary", ",", "and", "it", "is", "possible", "that", "removing", "the", "noisy", "instance", "at", "that", "point", "could", "cause", "some", "of", "its", "distant", "associates", "to", "be", "classified", "incorrectly", ".", "RT2", "solves", "this", "problem", "by", "considering", "the", "effect", "of", "the", "removal", "of", "an", "instance", "on", "all", "the", "instances", "in", "the", "original", "training", "set", "T", "instead", "of", "considering", "only", "those", "instances", "remaining", "in", "S", ".", "In", "other", "words", ",", "an", "instance", "P", "is", "removed", "from", "S", "only", "if", "at", "least", "as", "many", "of", "its", "associates", "-LRB-", "including", "those", "that", "may", "have", "already", "been", "pruned", "-RRB-", "are", "classified", "correctly", "without", "it", ".", "Using", "this", "modification", ",", "each", "instance", "in", "the", "original", "training", "set", "T", "continues", "to", "maintain", "a", "list", "of", "its", "k", "?", "+", "?", "1", "nearest", "neighbors", "in", "S", ",", "even", "after", "it", "is", "removed", "from", "S", ".", "This", "in", "turn", "means", "that", "instances", "in", "S", "have", "associates", "that", "are", "both", "in", "and", "out", "of", "S", ",", "while", "instances", "that", "have", "been", "removed", "from", "S", "have", "no", "associates", "-LRB-", "because", "they", "are", "no", "longer", "a", "neighbor", "of", "any", "instance", "-RRB-", ".", "This", "modification", "makes", "use", "of", "additional", "information", "that", "is", "available", "for", "estimating", "generalization", "accuracy", ",", "and", "also", "avoids", "some", "problems", "that", "can", "occur", "with", "RT1", "such", "as", "removing", "entire", "clusters", ".", "This", "change", "is", "made", "by", "removing", "line", "13", "from", "the", "pseudo-code", "for", "RT1", "so", "that", "pruned", "instances", "will", "still", "be", "associates", "of", "their", "nearest", "neighbors", "in", "S.", "RT2", "also", "changes", "the", "order", "of", "removal", "of", "instances", ".", "It", "initially", "sorts", "the", "instances", "in", "S", "by", "the", "distance", "to", "their", "nearest", "enemy", ".", "Instances", "are", "then", "checked", "for", "removal", "beginning", "at", "the", "instance", "furthest", "from", "its", "nearest", "enemy", ".", "This", "tends", "to", "remove", "instances", "furthest", "from", "the", "decision", "boundary", "first", ",", "which", "in", "turn", "increases", "the", "chance", "of", "retaining", "border", "points", ".", "4.3", ".", "Reduction", "Technique", "3", "-LRB-", "RT3", "-RRB-", "RT2", "sorts", "S", "in", "an", "attempt", "to", "remove", "center", "points", "before", "border", "points", ".", "One", "problem", "with", "this", "method", "is", "that", "noisy", "instances", "are", "also", "?", "border", "?", "points", ",", "and", "cause", "the", "order", "of", "removal", "to", "be", "drastically", "changed", ".", "One", "noisy", "point", "in", "the", "center", "of", "a", "cluster", "causes", "many", "points", "in", "that", "cluster", "to", "be", "considered", "border", "points", ",", "and", "some", "of", "these", "can", "remain", "in", "S", "even", "after", "the", "noisy", "point", "is", "removed", ".", "Two", "passes", "through", "S", "can", "remove", "the", "dangling", "center", "points", ",", "but", "unfortunately", ",", "by", "that", "time", "some", "border", "points", "may", "have", "already", "been", "removed", "that", "should", "have", "been", "kept", ".", "RT3", "therefore", "uses", "a", "noise-filtering", "pass", "before", "sorting", "the", "instances", "in", "S", ".", "This", "is", "done", "using", "a", "rule", "similar", "to", "Wilson?s", "Rule", "-LSB-", "Wilson", ",", "1972", "-RSB-", ":", "Any", "instance", "misclassified", "by", "its", "k", "nearest", "neighbors", "is", "removed", ".", "This", "removes", "noisy", "instances", ",", "as", "well", "as", "close", "border", "points", ",", "which", "can", "in", "turn", "smooth", "the", "decision", "boundary", "slightly", ".", "This", "helps", "to", "avoid", "?", "overfitting", "?", "the", "data", ",", "i.e.", ",", "using", "a", "decision", "surface", "that", "goes", "beyond", "modeling", "the", "underlying", "function", "and", "starts", "to", "model", "the", "data", "sampling", "distribution", "as", "well", ".", "After", "removing", "noisy", "instances", "from", "S", "in", "this", "manner", ",", "the", "instances", "are", "sorted", "by", "distance", "to", "their", "nearest", "enemy", "remaining", "in", "S", ",", "and", "thus", "points", "far", "from", "the", "real", "decision", "boundary", "are", "removed", "first", ".", "This", "allows", "points", "internal", "to", "clusters", "to", "be", "removed", "early", "in", "the", "process", ",", "even", "if", "there", "were", "noisy", "points", "nearby", ".", "5", ".", "Experimental", "Results", "The", "reduction", "algorithms", "RT1", ",", "RT2", "and", "RT3", "were", "implemented", "using", "k", "?", "=", "?", "3", ",", "and", "using", "the", "HVDM", "distance", "function", "described", "in", "Section", "3.4", ".", "These", "algorithms", "were", "tested", "on", "29", "data", "sets", "from", "the", "University", "of", "California", ",", "Irvine", "Machine", "Learning", "Database", "Repository", "-LSB-", "Merz", "&", "Murphy", ",", "1996", "-RSB-", "and", "compared", "to", "a", "k-nearest", "neighbor", "classifier", "that", "was", "identical", "to", "RT1", "except", "that", "it", "does", "not", "remove", "any", "instances", "from", "the", "instance", "set", "-LRB-", "i.e.", ",", "S", "=", "T", "-RRB-", ".", "Database", "Anneal", "Australian", "Breast", "Cancer", "WI", "Bridges", "Crx", "Echocardiogram", "Flag", "Glass", "Heart", "Heart.Cleveland", "Heart.Hungarian", "Heart.Long", "Beach", "VA", "Heart.More", "Heart.Swiss", "Hepatitis", "Horse-Colic", "Image.Segmentation", "Ionosphere", "Iris", "LED-Creator", "+17", "LED-Creator", "Liver.Bupa", "Pima", "Indians", "Diabetes", "Promoters", "Sonar", "Soybean-Large", "Vehicle", "Vowel", "Wine", "Average", "kNN", "93.11", "84.78", "96.28", "66.09", "83.62", "94.82", "61.34", "73.83", "81.48", "81.19", "79.22", "70.00", "74.17", "92.69", "80.62", "57.84", "93.10", "84.62", "94.00", "67.10", "60.60", "65.57", "73.56", "93.45", "87.55", "88.59", "71.76", "96.57", "94.93", "80.78", "-LRB-", "size", "-RRB-", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "100", "RT1", "87.85", "82.61", "94.00", "55.64", "81.01", "93.39", "58.13", "60.30", "79.26", "77.85", "78.92", "73.00", "73.20", "91.15", "76.21", "65.09", "84.76", "84.91", "89.33", "68.80", "64.00", "59.66", "70.96", "85.00", "69.81", "79.81", "66.21", "88.98", "91.05", "76.93", "-LRB-", "size", "-RRB-", "9.11", "7.67", "2.56", "20.86", "6.70", "9.01", "24.51", "26.11", "12.96", "14.26", "11.38", "11.78", "11.20", "2.08", "8.67", "10.89", "10.21", "5.67", "11.70", "17.50", "7.78", "27.28", "20.12", "8.18", "24.04", "24.03", "24.00", "43.14", "8.55", "14.55", "RT2", "95.36", "84.64", "96.14", "59.18", "84.93", "85.18", "62.34", "64.98", "81.11", "79.87", "79.22", "72.00", "74.50", "93.46", "82.00", "66.17", "92.38", "88.32", "95.33", "70.50", "67.00", "65.80", "73.31", "87.91", "81.86", "84.99", "68.91", "91.46", "93.79", "80.09", "-LRB-", "size", "-RRB-", "11.42", "15.41", "5.79", "24.11", "14.11", "7.51", "32.30", "31.52", "21.60", "20.61", "15.98", "16.33", "16.98", "2.89", "13.98", "17.98", "13.76", "12.09", "16.89", "26.23", "11.20", "37.55", "28.11", "17.82", "30.82", "27.94", "31.60", "46.91", "15.23", "20.16", "RT3", "93.49", "84.35", "96.14", "58.27", "85.80", "93.39", "61.29", "65.02", "83.33", "80.84", "79.95", "73.50", "76.25", "93.46", "81.87", "71.08", "92.62", "87.75", "95.33", "70.40", "68.20", "60.84", "75.01", "86.82", "78.00", "85.62", "65.85", "89.56", "94.93", "80.31", "-LRB-", "size", "-RRB-", "8.63", "5.93", "3.58", "18.66", "5.46", "9.01", "20.45", "23.88", "13.62", "12.76", "10.43", "4.22", "9.10", "1.81", "7.81", "7.42", "10.98", "7.06", "14.81", "12.66", "11.57", "24.99", "16.90", "16.67", "26.87", "25.73", "23.00", "45.22", "16.11", "14.32", "Table", "1", ".", "Generalization", "accuracy", "and", "storage", "requirements", "of", "kNN", ",", "RT1", ",", "RT2", ",", "and", "RT3", ".", "Each", "test", "consisted", "of", "ten", "trials", ",", "each", "using", "one", "of", "ten", "partitions", "of", "the", "data", "randomly", "selected", "from", "the", "data", "sets", ",", "i.e.", ",", "10-fold", "cross-validation", ".", "For", "each", "trial", ",", "90", "%", "of", "the", "training", "instances", "were", "used", "for", "T", ",", "the", "subset", "S", "was", "determined", "using", "each", "reduction", "technique", "-LRB-", "except", "for", "the", "kNN", "algorithm", ",", "which", "keeps", "all", "the", "instances", "-RRB-", ",", "and", "the", "remaining", "10", "%", "of", "the", "instances", "were", "classified", "using", "only", "the", "instances", "remaining", "in", "S", ".", "The", "average", "generalization", "accuracy", "over", "the", "ten", "trials", "for", "each", "test", "is", "given", "in", "Table", "1", ".", "The", "average", "percentage", "of", "instances", "retained", "in", "S", "is", "shown", "in", "the", "table", "as", "well", ".", "From", "the", "results", "in", "this", "table", ",", "several", "observations", "can", "be", "made", ".", "RT1", "had", "very", "good", "storage", "reduction", "on", "average", ",", "but", "also", "dropped", "in", "generalization", "accuracy", "by", "an", "average", "of", "almost", "4", "%", ".", "This", "is", "likely", "due", "to", "the", "fact", "that", "this", "algorithm", "ignores", "those", "instances", "that", "have", "already", "been", "pruned", "from", "S", "when", "deciding", "whether", "to", "remove", "additional", "instances", ".", "It", "therefore", "prunes", "too", "many", "instances", ",", "thus", "reducing", "generalization", "accuracy", ".", "Also", ",", "it", "prunes", "them", "in", "a", "random", "order", ",", "thus", "causing", "some", "border", "points", "to", "be", "removed", "too", "early", ".", "RT2", "had", "better", "generalization", "accuracy", "than", "RT1", "because", "of", "its", "use", "of", "the", "additional", "information", "provided", "by", "pruned", "instances", "in", "determining", "whether", "to", "remove", "others", ".", "However", ",", "it", "also", "has", "higher", "storage", "requirements", ",", "due", "at", "least", "in", "part", "to", "the", "fact", "that", "noisy", "instances", "sometimes", "cause", "nearby", "instances", "to", "be", "retained", "even", "after", "the", "noisy", "instance", "is", "removed", ".", "RT3", "had", "a", "higher", "average", "generalization", "accuracy", "than", "RT1", "or", "RT2", ",", "and", "also", "had", "the", "lowest", "storage", "requirements", "of", "the", "three", ".", "Its", "generalization", "accuracy", "was", "within", "one-half", "of", "a", "percent", "of", "the", "kNN", "algorithm", "that", "retained", "100", "%", "of", "the", "instances", ",", "and", "yet", "it", "retained", "on", "average", "only", "14.32", "%", "of", "the", "instances", ".", "Some", "datasets", "seem", "to", "be", "especially", "well", "suited", "for", "these", "reduction", "techniques", ".", "For", "example", ",", "RT3", "required", "less", "than", "2", "%", "storage", "for", "the", "Heart.Swiss", "dataset", ",", "yet", "it", "achieved", "even", "higher", "generalization", "accuracy", "than", "the", "kNN", "algorithm", ".", "On", "the", "other", "hand", ",", "some", "datasets", "were", "not", "so", "appropriate", ".", "On", "the", "Vowel", "dataset", ",", "for", "example", ",", "RT3", "required", "over", "45", "%", "of", "the", "data", ",", "and", "dropped", "in", "generalization", "accuracy", "by", "7", "%", ",", "suggesting", "that", "RT3", "is", "inappropriate", "for", "this", "particular", "dataset", ".", "Empirical", "results", "were", "not", "available", "for", "all", "of", "the", "reduction", "algorithms", "mentioned", "in", "Section", "2", ",", "but", "comparisons", "with", "IB3", "-LSB-", "Aha", ",", "Kibler", "&", "Albert", ",", "1991", "-RSB-", "were", "possible", "on", "some", "datasets", ".", "Results", "reported", "by", "Zarndt", "-LSB-", "1995", "-RSB-", "on", "IB3", "include", "21", "datasets", "overlapping", "with", "those", "presented", "in", "Table", "1", ".", "On", "these", "datasets", ",", "IB3", "had", "an", "average", "accuracy", "of", "74", "%", "while", "RT3", "had", "an", "accuracy", "of", "82", "%", ".", "Unfortunately", ",", "storage", "requirements", "were", "not", "reported", "by", "Zarndt", ".", "However", ",", "results", "reported", "by", "Cameron-Jones", "for", "IB3", "included", "three", "datasets", "that", "were", "used", "in", "our", "experiments", ".", "On", "these", "datasets", "-LRB-", "Heart.Cleveland", ",", "Heart.Hungarian", ",", "Iris", "-RRB-", ",", "IB3", "used", "an", "average", "of", "about", "half", "the", "storage", "-LRB-", "5.9", "%", "compared", "to", "12.7", "%", "-RRB-", "required", "by", "RT3", ",", "but", "had", "a", "slightly", "lower", "average", "accuracy", ".", "Additional", "comparisons", "are", "necessary", "to", "draw", "any", "substantial", "conclusions", "on", "storage", "requirements", ".", "One", "reason", "for", "the", "larger", "storage", "requirements", "of", "RT3", "in", "our", "experiments", "is", "due", "to", "the", "use", "of", "k", "?", "=", "?", "3", ".", "This", "causes", "some", "instances", "to", "be", "retained", "that", "could", "be", "removed", "with", "k", "?", "=", "?", "1", ".", "Initial", "experiments", "suggest", "that", "the", "smaller", "value", "of", "k", "results", "in", "more", "dramatic", "storage", "reduction", ",", "but", "may", "reduce", "generalization", "accuracy", "slightly", "in", "RT3", ".", "One", "area", "of", "future", "research", "is", "in", "the", "use", "of", "a", "dynamic", "value", "of", "k", ",", "where", "k", "starts", "out", "with", "a", "value", "of", "3", "or", "5", "and", "is", "reduced", "as", "pruning", "continues", "until", "it", "is", "eventually", "reduced", "to", "a", "value", "of", "1", ".", "We", "were", "interested", "to", "see", "how", "fast", "generalization", "accuracy", "drops", "as", "instances", "are", "removed", "from", "S", ",", "and", "to", "see", "if", "it", "drops", "off", "more", "slowly", "when", "using", "an", "intelligent", "reduction", "technique", "than", "it", "does", "when", "removing", "instances", "randomly", ".", "65", "70", "75", "80", "60", "50", "100", "%", "Accuracy", "%", "Storage", "Random", "RT3", "Figure", "2", ".", "Generalization", "Accuracy", "for", "RT3", "vs.", "Randomly", "removing", "instances", ".", "In", "order", "to", "test", "this", ",", "the", "experiments", "described", "above", "were", "modified", "as", "follows", ".", "When", "instances", "were", "removed", "from", "S", ",", "the", "order", "of", "their", "removal", "was", "recorded", "so", "that", "the", "training", "set", "T", "could", "be", "sorted", "by", "order", "of", "removal", "-LRB-", "with", "the", "instances", "in", "S", "at", "the", "beginning", "in", "random", "order", ",", "since", "they", "were", "not", "removed", "-RRB-", ".", "Then", "the", "instances", "in", "the", "test", "set", "were", "classified", "using", "only", "the", "first", "1", "%", "of", "the", "data", ",", "then", "2", "%", ",", "and", "so", "on", "up", "to", "100", "%", "of", "the", "data", ".", "Figure", "2", "shows", "the", "average", "generalization", "accuracy", "-LRB-", "over", "all", "10", "trials", "on", "all", "29", "datasets", "-RRB-", "as", "a", "function", "of", "the", "percentage", "of", "the", "training", "set", "that", "was", "used", "for", "generalization", ".", "As", "can", "be", "seen", "from", "the", "figure", ",", "the", "average", "generalization", "accuracy", "drops", "off", "more", "quickly", "if", "instances", "are", "randomly", "removed", "than", "if", "they", "are", "removed", "using", "RT3", ",", "indicating", "that", "the", "order", "of", "removal", "is", "improved", "by", "RT3", ".", "This", "can", "be", "useful", "if", "more", "storage", "is", "available", "than", "that", "required", "by", "RT3", ".", "For", "example", ",", "if", "an", "instance", "set", "of", "10", "million", "instances", "is", "reduced", "to", "just", "100", ",", "but", "there", "is", "sufficient", "storage", "and", "computational", "resources", "to", "handle", "1000", "instances", ",", "then", "by", "using", "the", "sorted", "list", "of", "pruned", "instances", ",", "the", "best", "1000", "instances", "can", "be", "used", ".", "The", "user", "is", "thus", "allowed", "to", "manually", "trade", "off", "storage", "for", "accuracy", "without", "the", "higher", "loss", "in", "accuracy", "that", "random", "removal", "would", "cause", ".", "6", ".", "Conclusions", "and", "Future", "Research", "Directions", "Nearest", "neighbor", "algorithms", "and", "their", "derivatives", "are", "often", "appropriate", "and", "can", "provide", "high", "generalization", "accuracy", "for", "real-world", "applications", ",", "but", "often", "the", "storage", "and", "computational", "requirements", "are", "restrictive", "when", "the", "size", "of", "the", "training", "set", "is", "large", ".", "This", "paper", "introduced", "three", "new", "instance", "reduction", "techniques", "which", "are", "intuitive", "and", "provide", "good", "storage", "reduction", ".", "In", "experiments", "on", "29", "datasets", ",", "the", "third", "technique", ",", "RT3", ",", "provided", "higher", "generalization", "accuracy", "and", "lower", "storage", "requirements", "than", "the", "other", "two", "methods", ",", "and", "its", "accuracy", "was", "within", "0.5", "%", "of", "that", "of", "a", "nearest", "neighbor", "classifier", "that", "retained", "all", "of", "the", "instances", ".", "On", "average", "it", "retained", "under", "15", "%", "of", "the", "original", "training", "set", ".", "RT3", "-LRB-", "and", "to", "a", "lesser", "extent", "the", "other", "algorithms", "-RRB-", "is", "designed", "to", "be", "robust", "in", "the", "presence", "of", "noise", "and", "use", "an", "estimate", "of", "generalization", "accuracy", "in", "making", "decisions", ",", "which", "helps", "it", "avoid", "removing", "instances", "that", "would", "be", "helpful", "in", "generalization", ".", "Since", "RT3", "makes", "use", "of", "all", "the", "instances", "in", "the", "training", "set", "in", "making", "its", "decision", ",", "it", "is", "not", "sensitive", "to", "the", "order", "of", "presentation", "of", "the", "instances", "-LRB-", "as", "are", "incremental", "approaches", "-RRB-", ",", "and", "is", "able", "to", "choose", "a", "good", "order", "of", "removal", "regardless", "of", "how", "the", "instances", "were", "ordered", "in", "the", "original", "training", "set", ".", "These", "reduction", "algorithms", "were", "also", "among", "the", "first", "to", "use", "heterogeneous", "distance", "functions", "appropriate", "for", "applications", "with", "both", "nominal", "and", "continuous", "attributes", "-LSB-", "Wilson", "&", "Martinez", ",", "1997", "-RSB-", ".", "Future", "research", "will", "focus", "on", "determining", "the", "conditions", "under", "which", "these", "algorithms", "are", "not", "appropriate", "-LRB-", "such", "as", "the", "Vowel", "dataset", "-RRB-", ",", "and", "will", "seek", "to", "overcome", "weaknesses", "in", "such", "areas", ".", "These", "reduction", "algorithms", "will", "also", "be", "integrated", "with", "feature", "selection", "algorithms", "and", "weighting", "techniques", "in", "order", "to", "produce", "comprehensive", "instance-based", "learning", "systems", "that", "are", "robust", "in", "the", "presence", "of", "irrelevant", "attributes", "and", "other", "difficult", "circumstances", ",", "thus", "providing", "more", "accurate", "learning", "algorithms", "for", "a", "wide", "variety", "of", "problems", ".", "References", "Aha", ",", "David", "W.", ",", "Dennis", "Kibler", ",", "Marc", "K.", "Albert", ",", "-LRB-", "1991", "-RRB-", ".", "?", "Instance-Based", "Learning", "Algorithms", ",", "?", "Machine", "Learning", ",", "vol", ".", "6", ",", "pp.", "37-66", ".", "Cameron-Jones", ",", "R.", "M.", ",", "-LRB-", "1995", "-RRB-", ".", "Instance", "Selection", "by", "Encoding", "Length", "Heuristic", "with", "Random", "Mutation", "Hill", "Climbing", ".", "In", "Proceedings", "of", "the", "Eighth", "Australian", "Joint", "Conference", "on", "Artificial", "Intelligence", ",", "pp", ".", "99-106", ".", "Chang", ",", "Chin-Liang", ",", "-LRB-", "1974", "-RRB-", ".", "?", "Finding", "Prototypes", "for", "Nearest", "Neighbor", "Classifiers", ",", "?", "IEEE", "Transactions", "on", "Computers", ",", "vol", ".", "23", ",", "no.", "11", ",", "November", "1974", ",", "pp.", "1179-1184", ".", "Cover", ",", "T.", "M.", ",", "and", "P.", "E.", "Hart", ",", "-LRB-", "1967", "-RRB-", ".", "?", "Nearest", "Neighbor", "Pattern", "Classification", ",", "?", "Institute", "of", "Electrical", "and", "Electronics", "Engineers", "Transactions", "on", "Information", "Theory", ",", "vol", ".", "13", ",", "no.", "1", ",", "January", "1967", ",", "pp", ".", "21-27", ".", "Dasarathy", ",", "Belur", "V.", ",", "-LRB-", "1991", "-RRB-", ".", "Nearest", "Neighbor", "-LRB-", "NN", "-RRB-", "Norms", ":", "NN", "Pattern", "Classification", "Techniques", ".", "Los", "Alamitos", ",", "CA", ":", "IEEE", "Computer", "Society", "Press", ".", "Domingos", ",", "Pedro", ",", "-LRB-", "1995", "-RRB-", ".", "?", "Rule", "Induction", "and", "Instance-Based", "Learning", ":", "A", "Unified", "Approach", ",", "?", "to", "appear", "in", "The", "1995", "International", "Joint", "Conference", "on", "Artificial", "Intelligence", "-LRB-", "IJCAI-95", "-RRB-", ".", "Gates", ",", "G.", "W.", "-LRB-", "1972", "-RRB-", ".", "?", "The", "Reduced", "Nearest", "Neighbor", "Rule", ",", "?", "IEEE", "Transactions", "on", "Information", "Theory", ",", "vol", ".", "IT-18", ",", "no.", "3", ",", "pp.", "431-433", ".", "Hart", ",", "P.", "E.", ",", "-LRB-", "1968", "-RRB-", ".", "?", "The", "Condensed", "Nearest", "Neighbor", "Rule", ",", "?", "Institute", "of", "Electrical", "and", "Electronics", "Engineers", "Transactions", "on", "Information", "Theory", ",", "vol", ".", "14", ",", "pp.", "515-516", ".", "Merz", ",", "C.", "J.", ",", "and", "P.", "M.", "Murphy", ",", "-LRB-", "1996", "-RRB-", ".", "UCI", "Repository", "of", "Machine", "Learning", "Databases", ".", "Irvine", ",", "CA", ":", "University", "of", "California", "Irvine", ",", "Department", "of", "Information", "and", "Computer", "Science", ".", "Internet", ":", "http://www.ics.uci.edu/~mlearn/", "MLRepository.html", ".", "Papadimitriou", ",", "Christos", "H.", ",", "and", "Jon", "Louis", "Bentley", ",", "-LRB-", "1980", "-RRB-", ".", "A", "Worst-Case", "Analysis", "of", "Nearest", "Neighbor", "Searching", "by", "Projection", ".", "Lecture", "Notes", "in", "Computer", "Science", ",", "Vol", ".", "85", ",", "Automata", "Languages", "and", "Programming", ",", "pp.", "470", "-", "482", ".", "Rittler", ",", "G.", "L.", ",", "H.", "B.", "Woodruff", ",", "S.", "R.", "Lowry", ",", "and", "T.", "L.", "Isenhour", ",", "-LRB-", "1975", "-RRB-", ".", "?", "An", "Algorithm", "for", "a", "Selective", "Nearest", "Neighbor", "Decision", "Rule", ",", "?", "IEEE", "Transactions", "on", "Information", "Theory", ",", "vol", ".", "21", ",", "no.", "6", ",", "November", "1975", ",", "pp", ".", "665", "-", "669", ".", "Salzberg", ",", "Steven", ",", "-LRB-", "1991", "-RRB-", ".", "?", "A", "Nearest", "Hyperrectangle", "Learning", "Method", ",", "?", "Machine", "Learning", ",", "vol", ".", "6", ",", "pp.", "277-309", ".", "Sproull", ",", "Robert", "F.", ",", "-LRB-", "1991", "-RRB-", ".", "Refinements", "to", "Nearest-Neighbor", "Searching", "in", "kDimensional", "Trees", ".", "Algorithmica", ",", "Vol", ".", "?", "6", ",", "pp.", "579-589", ".", "Stanfill", ",", "C.", ",", "and", "D.", "Waltz", ",", "-LRB-", "1986", "-RRB-", ".", "?", "Toward", "memory-based", "reasoning", ",", "?", "Communications", "of", "the", "ACM", ",", "vol", ".", "29", ",", "December", "1986", ",", "pp.", "1213-1228", ".", "Tomek", ",", "Ivan", ",", "-LRB-", "1976", "-RRB-", ".", "?", "An", "Experiment", "with", "the", "Edited", "Nearest-Neighbor", "Rule", ",", "?", "IEEE", "Transactions", "on", "Systems", ",", "Man", ",", "and", "Cybernetics", ",", "vol", ".", "6", ",", "no", ".", "6", ",", "June", "1976", ",", "pp.", "448-452", ".", "Wettschereck", ",", "Dietrich", ",", "-LRB-", "1994", "-RRB-", ".", "?", "A", "Hybrid", "Nearest-Neighbor", "and", "NearestHyperrectangle", "Algorithm", "?", ",", "To", "appear", "in", "the", "Proceedings", "of", "the", "7th", "European", "Conference", "on", "Machine", "Learning", ".", "Wettschereck", ",", "Dietrich", ",", "and", "Thomas", "G.", "Dietterich", ",", "-LRB-", "1995", "-RRB-", ".", "?", "An", "Experimental", "Comparison", "of", "Nearest-Neighbor", "and", "Nearest-Hyperrectangle", "Algorithms", ",", "?", "Machine", "Learning", ",", "vol", ".", "19", ",", "no.", "1", ",", "pp.", "5-28", ".", "Wilson", ",", "D.", "Randall", ",", "and", "Tony", "R.", "Martinez", ",", "-LRB-", "1997", "-RRB-", ".", "?", "Improved", "Heterogeneous", "Distance", "Functions", ",", "?", "Journal", "of", "Artificial", "Intelligence", "Research", "-LRB-", "JAIR", "-RRB-", ",", "vol", ".", "6", ",", "no.", "1", ",", "pp.", "1-34", ".", "Wilson", ",", "Dennis", "L.", ",", "-LRB-", "1972", "-RRB-", ".", "?", "Asymptotic", "Properties", "of", "Nearest", "Neighbor", "Rules", "Using", "Edited", "Data", ",", "?", "IEEE", "Transactions", "on", "Systems", ",", "Man", ",", "and", "Cybernetics", ",", "vol", ".", "2", ",", "no.", "3", ",", "pp.", "408-421", ".", "Zarndt", ",", "Frederick", ",", "-LRB-", "1995", "-RRB-", ".", "A", "Comprehensive", "Case", "Study", ":", "An", "Examination", "of", "Connectionist", "and", "Machine", "Learning", "Algorithms", ",", "Master?s", "Thesis", ",", "Brigham", "Young", "University", ".", "Zhang", ",", "Jianping", ",", "-LRB-", "1992", "-RRB-", ".", "?", "Selecting", "Typical", "Instances", "in", "Instance-Based", "Learning", ",", "?", "Proceedings", "of", "the", "Ninth", "International", "Conference", "on", "Machine", "Learning", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Structured", "Interviews", "on", "the", "Object-Oriented", "Paradigm", "RR/95/182", "-LSB-", "EFoCS-7-95", "-RSB-", "J", "Daly", ",", "M", "Wood", ",", "A", "Brooks", ",", "J", "Miller", ",", "and", "M", "Roper", "Empirical", "Foundations", "of", "Computer", "Science", "-LRB-", "EFoCS", "-RRB-", "?", "Abstract", "The", "method", "of", "structured", "interviewing", "is", "an", "appropriate", "means", "of", "conducting", "a", "primary", "investigation", "when", "beginning", "a", "programme", "of", "research", "involving", "different", "empirical", "techniques", "because", "-LRB-", "i", "-RRB-", "interviewing", "experienced", "users", "from", "academia", "and", "industry", "should", "determine", "if", "academics", "are", "exploring", "issues", "that", "industrialists", "deem", "important", ",", "-LRB-", "ii", "-RRB-", "interviewing", "users", "from", "industry", "helps", "provide", "external", "validity", ",", "-LRB-", "iii", "-RRB-", "users", "of", "object-oriented", "systems", "have", "their", "own", "views", "on", "the", "benefits", "and", "drawbacks", "of", "the", "paradigm", ".", "These", "opinions", "could", "then", "be", "used", "as", "evidence", "to", "decide", "whether", "an", "empirically", "unsupported", "practice", "is", "justified", "and", "warrants", "further", ",", "more", "controlled", "investigation", ",", "and", "-LRB-", "iv", "-RRB-", "these", "views", "can", "identify", "issues", "that", "have", "not", "been", "previously", "considered", ".", "Structured", "interviews", ",", "each", "based", "on", "a", "template", "of", "23", "questions", ",", "were", "carried", "out", "with", "13", "experienced", "object-oriented", "users", "to", "explore", "problems", "discussed", "in", "the", "object-oriented", "literature", "concerned", "with", "high", "level", "system", "understanding", ",", "inheritance", ",", "software", "maintenance", ",", "and", "other", "issues", ".", "Interviews", "lasted", "between", "30", "minutes", "and", "2", "hours", ".", "Analysis", ",", "undertaken", "by", "transcripting", "and", "summarizing", "each", "interview", "and", "tabulating", "subject", "'s", "answers", "to", "each", "question", ",", "discovered", "opinions", "similar", "to", "those", "expressed", "in", "the", "literature", ".", "These", "include", "the", "steepness", "of", "the", "learning", "curve", ",", "the", "difficulties", "of", "understanding", "created", "by", "inheritance", ",", "missing", "documentation", ",", "and", "inappropriate", "design", ",", "the", "tendency", "of", "systems", "to", "degrade", "as", "a", "consequence", "of", "software", "maintenance", ",", "and", "the", "view", "that", "C++", "is", "inferior", "to", "purer", "OO", "languages", ".", "Computer", "Science", ",", "University", "of", "Strathclyde", ",", "Livingstone", "Tower", ",", "Richmond", "Street", ",", "Glasgow", "G1", "1XH", ",", "U.K.", ",", "+44", "-LRB-", "0", "-RRB-", "141 552 4400", ",", "jd@cs.strath.ac.uk", "1", "Introduction", "Performing", "empirical", "work", "is", "a", "way", "of", "building", "a", "cohesive", "body", "of", "knowledge", "within", "software", "engineering", ".", "Fenton", "et", "al", "-LSB-", "8", "-RSB-", ",", "for", "example", ",", "recently", "argued", "the", "importance", "of", "experimentation", "to", "provide", "empirical", "evidence", "for", "proposed", "new", "software", "development", "and", "maintenance", "practices", ".", "Brooks", "et", "al", "-LSB-", "2", "-RSB-", ",", "Jones", "-LSB-", "12", "-RSB-", ",", "and", "Henry", "et", "al", "-LSB-", "11", "-RSB-", "make", "similar", "arguments", ".", "Evidence", "may", "be", "derived", "from", "any", "empirical", "technique", ",", "for", "example", ",", "through", "controlled", "laboratory", "experiments", ",", "introspection", ",", "questionnaires", ",", "structured", "interviews", ",", "or", "thinking-aloud", "protocol", "analysis", ".", "Although", "each", "technique", "provides", "different", "empirical", "data", "-LRB-", "for", "example", ",", "the", "structured", "interview", "promotes", "detailed", "expert", "knowledge", "elicitation", "whilst", "a", "laboratory", "based", "experiment", "yields", "raw", "performance", "data", "concerned", "with", "time", "and", "accuracy", "-RRB-", "it", "is", "argued", ",", "that", "these", "techniques", "can", "complement", "one", "another", ".", "If", "an", "effect", "has", "been", "demonstrated", "by", "two", "or", "more", "different", "empirical", "techniques", "it", "is", "more", "likely", "that", "the", "findings", "-LRB-", "a", "-RRB-", "are", "reliable", "and", "-LRB-", "b", "-RRB-", "will", "be", "accepted", "by", "the", "software", "engineering", "community", ".", "When", "the", "results", "are", "consistent", ",", "the", "empirical", "techniques", "are", "said", "to", "have", "confirmatory", "power", ".", "Another", "approach", "views", "a", "series", "of", "different", "empirical", "techniques", "as", "evolutionary", ":", "the", "important", "issues", "discovered", "by", "the", "initial", "exploratory", "study", "are", "investigated", "further", "by", "the", "next", "study", ",", "and", "so", "forth", ".", "Eventually", ",", "hypotheses", "are", "tested", "by", "more", "focused", "empirical", "inquiry", ".", "It", "is", "the", "intention", "of", "our", "programme", "of", "research", "to", "conduct", "an", "exploratory", "investigation", "through", "structured", "interviews", ",", "followed", "by", "questionnaires", "to", "confirm", "the", "findings", "across", "a", "wider", "user", "group", ",", "followed", "by", "laboratory", "experiments", "to", "test", "the", "findings", "in", "a", "more", "controlled", "setting", ".", "Of", "course", ",", "in", "an", "evolutionary", "programme", "of", "research", ",", "the", "results", "from", "each", "technique", "may", "turn", "out", "to", "confirm", "one", "another", ".", "Confirmatory", "power", "can", "also", "be", "achieved", "through", "external", "replication", ":", "a", "researcher", "independently", "attempts", "to", "repeat", "the", "results", "of", "an", "empirical", "study", ".", "If", "successful", ",", "the", "replication", "provides", "supporting", "evidence", ",", "if", "unsuccessful", "it", "may", "have", "the", "ability", "to", "challenge", "the", "original", "findings", "-LRB-", "see", "-LSB-", "3", "-RSB-", "and", "-LSB-", "2", "-RSB-", "for", "details", "-RRB-", ".", "Advocates", "of", "the", "object-oriented", "paradigm", "have", "made", "many", "claims", "about", "the", "benefits", "of", "the", "paradigm", ",", "most", "of", "which", "remain", "empirically", "unsubstantiated", ".", "Jones", "-LSB-", "12", "-RSB-", ",", "for", "example", ",", "details", "a", "visible", "lack", "of", "empirical", "data", "to", "support", "the", "assertions", "of", "substantial", "gains", "in", "software", "productivity", "and", "quality", ",", "reduction", "in", "defect", "potential", "and", "improving", "defect", "removal", "efficiency", ",", "and", "software", "design", "and", "component", "reuse", ".", "Evidence", "is", "slowly", "beginning", "to", "filter", "through", "in", "certain", "areas", ",", "but", "is", "by", "no", "means", "thoroughly", "conclusive", ".", "For", "example", ",", "Wilde", "and", "Huitt", "-LSB-", "24", "-RSB-", "quote", "Mancl", "and", "Havanas", "-LSB-", "16", "-RSB-", "as", "providing", "evidence", "\\", "for", "extensive", "reuse", "of", "software", "objects", "and", "easier", "maintenance", "through", "better", "data", "encapsulation", "''", "but", "their", "study", "lacks", "the", "reported", "detail", "to", "convince", "the", "strongest", "skeptics", ".", "In", "contrast", ",", "problems", "with", "object-oriented", "software", "are", "now", "beginning", "to", "be", "realised", ".", "For", "example", ",", "an", "empirical", "study", "by", "Dvorak", "-LSB-", "6", "-RSB-", "provides", "initial", "evidence", "of", "a", "degradation", "effect", "identified", "as", "conceptual", "entropy", "of", "class", "hierarchies", ",", "something", "which", "requires", "further", "investigation", ".", "So", "there", "is", "a", "need", "to", "provide", "stronger", "empirical", "evidence", "than", "currently", "exists", ".", "Structured", "interviewing", "is", "an", "appropriate", "method", "to", "initiate", "evidence", "gathering", "for", "several", "reasons", ".", "First", ",", "interviewing", "experienced", "users", "from", "academia", "and", "industry", "should", "determine", "if", "academics", "are", "exploring", "issues", "that", "industrialists", "deem", "important", ",", "i.e.", ",", "do", "academics", "and", "industrialists", "have", "similar", "or", "differing", "opinions", "on", "object-oriented", "issues", "?", "Second", ",", "interviewing", "users", "from", "industry", "provides", "external", "validity", "in", "the", "form", "of", "real", "world", "data", ",", "something", "which", "in", "more", "controlled", "experimentation", "is", "difficult", "to", "provide", ".", "Third", ",", "object-oriented", "users", "have", "their", "own", "opinions", "on", "the", "advantages", "and", "disadvantages", "of", "the", "paradigm", ";", "these", "opinions", "could", "be", "used", "as", "evidence", "to", "decide", "whether", "an", "empirically", "unsupported", "practice", "is", "justified", "and", "warrants", "further", ",", "more", "controlled", "investigation", ".", "And", "fourth", ",", "these", "views", "can", "identify", "issues", "that", "have", "not", "been", "previously", "considered", ".", "The", "structured", "interview", "requires", "a", "template", "from", "which", "the", "interview", "can", "be", "directed", ".", "The", "subject", "may", "give", "an", "answer", "which", "is", "deemed", "worthy", "of", "pursuing", ",", "and", "the", "interviewer", "can", "then", "ask", "supplementary", "questions", "-LRB-", "though", "care", "must", "be", "taken", "not", "to", "bias", "the", "the", "interview", "direction", "-RRB-", ".", "Once", "satisfied", ",", "the", "interviewer", "returns", "to", "the", "next", "question", "on", "the", "template", ".", "The", "remainder", "of", "this", "paper", "is", "partitioned", "as", "follows", ":", "Section", "2", "discusses", "some", "of", "the", "advantages", "and", "disadvantages", "of", "structured", "interviewing", ",", "Section", "3", "presents", "the", "detailed", "motivation", "for", "carrying", "out", "this", "work", ",", "with", "Section", "4", "detailing", "the", "actual", "interview", "method", ".", "Section", "5", "provides", "analysis", "and", "discussion", "of", "the", "data", "and", "Section", "6", "draws", "conclusions", ".", "2", "Interviewing", "as", "an", "empirical", "technique", "Interviewing", "is", "an", "appropriate", "means", "for", "conducting", "a", "primary", "investigation", "which", "offers", "many", "positive", "aspects", ":", "First", ",", "there", "is", "the", "issue", "of", "external", "validity", ".", "Interviewing", "experienced", "subjects", "allows", "gathering", "of", "real", "world", "data", "which", "is", "of", "extreme", "importance", "for", "drawing", "real", "world", "conclusions", ".", "For", "example", ",", "if", "a", "number", "of", "experienced", "users", "hold", "the", "same", "opinion", "on", "a", "particular", "issue", ",", "the", "likelihood", "is", "an", "effect", "of", "some", "kind", "exists", ";", "further", "investigation", "is", "warranted", ".", "Second", ",", "as", "noted", "by", "Sinclair", "-LSB-", "21", "-RSB-", ",", "interviewing", "is", "a", "flexible", "technique", ",", "for", "example", ",", "it", "does", "not", "have", "the", "rigidness", "of", "a", "questionnaire", "survey", ",", "and", "it", "allows", "data", "to", "be", "gathered", "relatively", "quickly", "and", "unhindered", ".", "Interesting", "points", "made", "by", "the", "subject", "can", "be", "explored", "in", "depth", "by", "efficient", "question", "probing", ".", "Furthermore", ",", "feedback", "from", "initial", "interviews", "can", "be", "used", "to", "refine", "the", "template", "to", "concentrate", "on", "issues", "that", "were", "not", "previously", "considered", ".", "Conversely", ",", "refinement", "can", "also", "remove", "issues", "which", "were", "initially", "considered", "to", "be", "important", ",", "but", "which", "on", "discussion", "appear", "less", "significant", ",", "i.e.", ",", "the", "interview", "template", "can", "be", "re-oriented", "if", "necessary", "without", "major", "disruption", "to", "the", "study", ",", "as", "long", "as", "the", "detail", "is", "reported", "in", "the", "findings", ".", "Third", ",", "again", "noted", "by", "Sinclair", "-LSB-", "21", "-RSB-", ",", "there", "is", "ability", "of", "the", "interviewer", "to", "motivate", "the", "subject", "to", "give", "more", "information", "about", "a", "topic", "as", "well", "as", "being", "able", "to", "direct", "and", "accelerate", "the", "information", "flow", ".", "Finally", ",", "there", "is", "the", "advantage", "of", "being", "able", "to", "re-interview", "the", "subject", "to", "further", "investigate", "points", "made", "previously", ".", "This", "allows", "clarification", "of", "opinions", "and", ",", "as", "such", ",", "is", "an", "advantage", "that", "other", "empirical", "techniques", ",", "e.g.", ",", "questionnaires", ",", "do", "not", "readily", "allow", ".", "As", "important", ",", "however", ",", "is", "to", "realise", "that", "there", "exists", "problems", "in", "collecting", "and", "analysing", "data", "from", "structured", "interviews", ".", "First", ",", "there", "is", "the", "danger", "of", "subjects", "saying", "what", "they", "think", "is", "appropriate", "to", "say", ".", "For", "example", ",", "if", "the", "subject", "being", "interviewed", "thinks", "that", "the", "listener", "is", "superior", "then", ",", "according", "to", "Bainbridge", "-LSB-", "1", "-RSB-", "there", "may", "be", "pressures", "to", "appear", "rational", ",", "knowledgeable", "and", "correct", ",", "or", "inversely", "the", "subject", "may", "become", "uncooperative", "or", "present", "a", "particular", "attitude", "to", "the", "topic", ".", "Moreover", ",", "there", "is", "also", "the", "problem", "that", "while", "an", "experienced", "subject", "may", "be", "opinionated", "and", "talk", "freely", "on", "the", "topic", ",", "they", "may", "not", "mention", "what", "they", "think", "should", "appear", "obvious", ".", "Second", ",", "most", "people", "think", "more", "quickly", "than", "they", "talk", "-LRB-", "especially", "if", "time", "pressures", "exist", "on", "the", "subject", ",", "e.g.", ",", "the", "subject", "is", "being", "asked", "to", "speak", "their", "thoughts", "while", "performing", "a", "task", "of", "some", "description", "-RRB-", ":", "this", "underlies", "the", "general", "point", "that", "verbally", "communicated", "data", "may", "only", "give", "a", "limited", "sample", "of", "the", "total", "knowledge", "of", "the", "subject", "under", "study", ",", "that", "is", "only", "a", "subset", "of", "their", "cognitive", "activity", "may", "be", "reported", ".", "Third", ",", "there", "might", "be", "social", "influences", ":", "if", "the", "subject", "thinks", "what", "they", "say", "can", "be", "held", "against", "them", "then", "they", "may", "report", "what", "they", "think", "the", "interviewer", "wishes", "to", "hear", ".", "And", "fourth", ",", "the", "interviewer", "must", "have", "a", "good", "working", "knowledge", "of", "the", "domain", "being", "questioned", ":", "without", "it", ",", "important", "aspects", "of", "the", "interview", "may", "be", "left", "as", "ambiguous", ",", "unresolved", "or", ",", "simply", ",", "unnoticed", ".", "Unfortunately", ",", "there", "are", "no", "objective", "independent", "techniques", "for", "doing", "analyses", "on", "such", "data", ".", "Consequently", ",", "this", "may", "lead", "to", "problems", "for", "the", "analyser", "who", "may", "have", "to", "make", "assumptions", "when", "interpreting", "what", "the", "subject", "has", "mentioned", ",", "or", "use", "their", "own", "knowledge", "of", "the", "domain", "to", "make", "particular", "inferences", ".", "For", "these", "reasons", ",", "again", "according", "to", "Bainbridge", "-LSB-", "1", "-RSB-", ",", "many", "academic", "psychologists", "feel", "strongly", "that", "verbal", "data", "has", "limited", "importance", ":", "interviewer", "'s", "bias", "can", "creep", "in", ".", "Also", ",", "there", "are", "high", "costs", "involved", "in", "terms", "of", "time", "and", "effort", "to", "fully", "analyse", "verbal", "data", ",", "for", "example", ",", "Neilson", "-LSB-", "18", "-RSB-", "cites", "Marchioni", "-LSB-", "17", "-RSB-", "as", "quoting", "the", "need", "to", "spend", "about", "25", "hours", "for", "each", "hour", "of", "subject", "observation", "on", "tasks", "such", "as", "transcribing", "video", "tapes", "and", "coding", "detailed", "protocol", "analysis", ".", "Neilson", "refutes", "this", "however", "and", "reckons", "in", "realistic", "development", "situations", "each", "hour", "of", "thinking-aloud", "observation", "only", "needs", "half", "an", "hour", "of", "combined", "analysis", "and", "report", "writing", ".", "In", "our", "experiences", "of", "transcripting", "and", "analysing", "structured", "interviews", "we", "found", "Marchioni", "'s", "estimate", "reasonably", "accurate", ".", "As", "a", "consequence", ",", "although", "conclusions", "drawn", "are", "unlikely", "to", "stand", "firm", "unless", "large", "numbers", "of", "users", "are", "interviewed", ",", "it", "is", "important", "to", "emphasize", "that", "this", "technique", "is", "helpful", "-LRB-", "i", "-RRB-", "for", "gaining", "insight", "into", "others", "'", "knowledge", ",", "-LRB-", "ii", "-RRB-", "for", "gaining", "insight", "into", "users", "'", "opinions", "about", "published", "problems", "and", "advocates", "claims", ",", "and", "-LRB-", "iii", "-RRB-", "as", "initial", "evidence", "for", "justifying", "further", "empirical", "investigation", ".", "Papers", "in", "the", "literature", "have", "used", "similar", "techniques", ",", "such", "as", "thinking-aloud", "protocols", "and", "knowledge", "acquisition", "through", "video", "recording", ",", "apparently", "with", "success", "-LRB-", "see", "for", "example", "-LSB-", "23", "-RSB-", "and", "-LSB-", "5", "-RSB-", "-RRB-", ".", "However", ",", "as", "Lashley", ",", "quoted", "in", "Ericsson", "and", "Simon", "-LSB-", "7", "-RSB-", ",", "states", ",", "\\", "introspection", "may", "make", "the", "preliminary", "survey", ",", "but", "it", "must", "be", "followed", "by", "the", "chain", "and", "transit", "of", "objective", "measurement", ".", "''", "We", "strongly", "agree", "with", "this", "statement", "and", "believe", "it", "can", "also", "be", "applied", "to", "the", "concept", "of", "interviewing", ";", "we", "therefore", "discuss", "future", "work", "from", "this", "primary", "research", "in", "the", "conclusions", ".", "For", "a", "more", "comprehensive", "discussion", "of", "the", "pros", "and", "cons", "of", "verbal", "data", "see", "-LSB-", "7", "-RSB-", ",", "-LSB-", "9", "-RSB-", ",", "and", "-LSB-", "20", "-RSB-", ".", "3", "Motivation", "and", "related", "work", "Many", "unsupported", "claims", "have", "been", "made", "for", "the", "object-oriented", "paradigm", ",", "for", "example", ",", "gains", "in", "software", "productivity", "and", "quality", ",", "reduction", "of", "development", "time", ",", "enables", "better", "prototyping", "and", "iterative", "development", ",", "ease", "of", "software", "design", "and", "component", "reuse", ",", "facilitates", "change", ",", "ease", "of", "understanding", ",", "ease", "of", "maintenance", ",", "and", "reduction", "in", "defect", "potential", "and", "improving", "defect", "removal", "efficiency", ".", "Henry", "et", "al", "-LSB-", "11", "-RSB-", "provide", "a", "list", "of", "references", "which", "they", "state", "have", "made", "claims", "as", "having", "qualitative", "appeal", ",", "but", "little", "supporting", "quantitative", "data", ".", "In", "contrast", ",", "recent", "research", "has", "started", "to", "discover", "problems", "with", "the", "object-oriented", "approach", "particularly", "in", "the", "areas", "of", "software", "maintenance", ",", "inheritance", ",", "polymorphism", "and", "dynamic", "binding", ".", "These", "problems", "are", "now", "discussed", ".", "Wilde", "and", "Huitt", "-LSB-", "24", "-RSB-", "present", "a", "comprehensive", "report", "on", "what", "they", "see", "as", "several", "failings", "of", "object-oriented", "programming", ":", "First", ",", "object-oriented", "languages", "complicate", "the", "tracing", "of", "dependencies", "by", "making", "use", "of", "dynamic", "binding", "of", "messages", "to", "specific", "methods", ".", "Second", ",", "inheritance", ",", "it", "is", "argued", ",", "can", "make", "understanding", "a", "single", "line", "of", "code", "a", "difficult", "task", "because", "it", "may", "require", "tracing", "a", "line", "of", "method", "invocations", ".", "Furthermore", ",", "inheritance", "can", "cause", "modification", "problems", ",", "e.g.", ",", "if", "modifying", "a", "class", "X", "then", "a", "maintainer", "must", "be", "concerned", "with", "possible", "side", "effects", "in", "subclass", "Y.", "Third", ",", "the", "dispersion", "of", "functionality", "into", "different", "object", "classes", "may", "make", "the", "process", "of", "software", "reuse", "and", "maintenance", "inefficient", "because", "of", "difficulty", "in", "locating", "all", "the", "required", "code", ".", "Fourth", ",", "polymorphism", "can", "introduce", "subtle", "errors", "through", "inconsistent", "naming", ",", "e.g.", ",", "if", "a", "system", "has", "several", "implementations", "of", "a", "method", "which", "have", "significantly", "different", "effects", "then", "a", "maintainer", "may", "be", "mislead", "when", "interpreting", "the", "code", ",", "and", "then", "introduce", "errors", "when", "changes", "are", "being", "made", ".", "Finally", ",", "it", "is", "argued", "that", "high", "level", "system", "understanding", "can", "be", "hampered", "because", "the", "traditional", "module", "calling", "hierarchy", "is", "replaced", "by", "a", "hierarchy", "of", "methods", ".", "A", "hierarchy", "of", "methods", "offers", "several", "difficulties", "because", "of", "the", "dynamic", "binding", "problem", "mentioned", "above", ";", "there", "may", "be", "no", "main", "or", "controlling", "system", "method", "which", "is", "usually", "a", "good", "starting", "point", ";", "and", "a", "hierarchy", "of", "methods", "detracts", "from", "the", "grouping", "of", "methods", "within", "objects", ".", "These", "points", "assume", "that", "only", "the", "source", "code", "is", "available", ",", "however", ",", "there", "is", "no", "mention", "of", "documentation", "which", ",", "if", "availble", ",", "is", "likely", "to", "ease", "these", "problems", ".", "In", "a", "similar", "paper", ",", "Wilde", "et", "al", "-LSB-", "25", "-RSB-", "report", "that", "while", "object-orientation", "facilitates", "change", "it", "can", "also", "make", "programs", "harder", "to", "understand", "for", "maintainers", ".", "The", "issues", "addressed", "in", "-LSB-", "24", "-RSB-", "are", "reexamined", ",", "and", "the", "authors", "state", "\\", "...", "-LSB-", "the", "-RSB-", "different", "appearance", "and", "organization", "of", "object-oriented", "code", "may", "startle", "many", "programmers", ",", "and", "their", "traditional", "approaches", "to", "program", "understanding", "may", "break", "down", ".", "''", "-LSB-", "25", "-RSB-", "They", "conclude", "that", "it", "will", "take", "years", "to", "identify", "all", "the", "problems", "with", "maintenance", "of", "object-oriented", "software", "systems", "and", ",", "as", "such", ",", "any", "likely", "problem", "areas", "should", "be", "closely", "monitored", ".", "Kung", "et", "al", "-LSB-", "13", "-RSB-", "reiterate", "some", "of", "the", "problems", "reported", "by", "Wilde", "et", "al", "-LSB-", "24", "-RSB-", ",", "-LSB-", "25", "-RSB-", "arguing", "that", "the", "new", "characteristics", "of", "object-orientation", "-LRB-", "namely", "inheritance", ",", "polymorphism", ",", "and", "dynamic", "binding", "-RRB-", "introduce", "new", "problems", "in", "software", "testing", "and", "maintenance", ".", "Lejter", "et", "al", "-LSB-", "14", "-RSB-", "also", "report", "on", "the", "problems", "of", "inheritance", "and", "dynamic", "binding", "with", "respect", "to", "software", "maintenance", ".", "Additionally", ",", "they", "discuss", "the", "problems", "of", "attempting", "to", "answer", "questions", "such", "as", "\\", "what", "is", "the", "definition", "of", "this", "function", "?", "''", ",", "or", "\\", "where", "is", "the", "declaration", "of", "this", "symbol", "?", "''", ":", "without", "the", "use", "of", "good", "tools", "function", "and", "operator", "overloading", ",", "they", "argue", ",", "confuse", "such", "questions", "because", "names", "are", "no", "longer", "unique", "in", "object-oriented", "systems", ".", "Ponder", "and", "Bush", "-LSB-", "19", "-RSB-", "discuss", "the", "issue", "of", "polymorphism", "considered", "harmful", "using", "the", "Smalltalk", "compiler", "source", "code", "listings", "as", "an", "example", "polymorphism", "causing", "understanding", "difficulties", ".", "While", "the", "authors", "feel", "that", "it", "is", "not", "necessary", "to", "know", "the", "implementations", "of", "polymorphic", "methods", "to", "understand", "their", "function", ",", "they", "report", "that", "several", "problems", "arise", ":", "first", ",", "inferring", "the", "generic", "meaning", "of", "a", "complex", "and", "obscurely", "named", "function", "from", "just", "a", "few", "instances", "is", "difficult", ".", "Second", ",", "the", "reader", "can", "inadvertently", "be", "encouraged", "to", "infer", "similarities", "from", "different", "generic", "operations", "which", "share", "the", "same", "method", "name", ".", "And", ",", "third", ",", "the", "nature", "of", "object-oriented", "systems", "dispersing", "operations", "across", "a", "large", "number", "of", "relatively", "small", "methods", "can", "make", "it", "difficult", "to", "understand", "their", "collective", "effect", ".", "Further", ",", "polymorphism", ",", "they", "argue", ",", "compounds", "this", "problem", "because", "if", "a", "method", "performs", "few", "operations", ",", "there", "is", "little", "basis", "for", "inferring", "the", "types", "of", "its", "variables", ".", "Ponder", "and", "Bush", "conclude", "that", "while", "polymorphism", "can", "be", "both", "a", "flexible", "and", "powerful", "programming", "tool", ",", "it", "presents", "opportunity", "for", "abuse", "which", "can", "ruin", "program", "understanding", ".", "Finally", ",", "Dvorak", "-LSB-", "6", "-RSB-", "presents", "the", "property", "of", "conceptual", "entropy", "of", "class", "hierarchies", ":", "the", "deeper", "the", "hierarchy", "the", "more", "likely", "a", "subclass", "does", "not", "consistently", "extend", "or", "specialize", "its", "parent", "'s", "abstraction", ".", "The", "concept", "was", "demonstrated", "to", "exist", "by", "an", "empirical", "study", "using", "seven", "experienced", "software", "engineers", ",", "each", "with", "on", "average", "one", "years", "objectoriented", "experience", ",", "as", "subjects", ".", "Dvorak", "concluded", "that", "if", "conceptual", "entropy", "was", "left", "unchecked", "it", "would", "eventually", "reach", "a", "stage", "where", "the", "class", "hierarchy", "would", "have", "to", "be", "restructured", ".", "In", "conclusion", ",", "there", "are", "theoretical", "arguments", "for", "the", "advantages", "of", "the", "objectoriented", "paradigm", ",", "but", "various", "disadvantages", "have", "been", "reported", "as", "above", ".", "In", "our", "programme", "of", "research", "our", "first", "step", "has", "been", "to", "conduct", "structured", "interviews", "to", "explore", "these", ".", "4", "The", "interview", "method", "The", "interview", "questions", "were", "designed", "to", "elicit", "information", "on", "three", "aspects", "of", "the", "users", "'", "object-oriented", "knowledge", ":", "information", "on", "their", "background", ",", "e.g.", ",", "experience", ",", "language", "familiarity", ",", "their", "opinions", "on", "the", "perceived", "advantages", "and", "disadvantages", "of", "the", "paradigm", ",", "and", "their", "opinions", "on", "existing", "object-oriented", "technology", ",", "e.g.", ",", "software", "tools", ",", "languages", "such", "as", "C++", ",", "and", "class", "libraries", ".", "The", "interview", "was", "structured", "in", "such", "a", "way", "that", "factual", "questions", "-LRB-", "requiring", "just", "one", "or", "two", "sentence", "answers", "-RRB-", "were", "asked", "first", ",", "followed", "by", "questions", "requiring", "answers", "based", "on", "opinions", "from", "experience", ".", "This", "approach", "was", "taken", "to", "allow", "the", "subject", "time", "to", "settle", "and", "relax", "before", "asking", "the", "more", "thought", "provoking", "questions", ".", "A", "draft", "interview", "template", "was", "written", "and", "prototyped", "by", "conducting", "an", "initial", "interview", "with", "an", "experienced", "industrial", "employee", "to", "receive", "reactions", "on", "the", "structured", "interview", "technique", "and", "the", "questions", "asked", ".", "Only", "a", "minor", "point", "was", "made", "and", "this", "was", "then", "taken", "into", "consideration", ",", "i.e.", ",", "the", "subject", "felt", "not", "enough", "about", "software", "tools", "was", "asked", ",", "and", "he", "stressed", "that", "tools", "were", "an", "important", "part", "of", "object-oriented", "programming", ".", "The", "draft", "template", "was", "then", "revised", "to", "take", "account", "of", "this", "noted", "point", ";", "the", "other", "interviews", "were", "conducted", "with", "this", "refined", "template", "as", "their", "basis", ".", "Appendix", "A", "contains", "a", "copy", "of", "this", "template", ".", "Twelve", "subjects", ",", "all", "of", "whom", "were", "individually", "approached", ",", "agreed", "to", "be", "interviewed", "using", "the", "refined", "template", ".", "Seven", "of", "these", "subjects", "were", "industrial", "employees", "and", "five", "were", "academics", ",", "four", "of", "whom", "had", "industrial", "experience", "of", "producing", "or", "working", "with", "object-oriented", "systems", ".", "The", "subjects", "were", "given", "no", "prior", "knowledge", "of", "the", "content", "of", "the", "interview", "except", "that", "it", "was", "based", "on", "the", "object-oriented", "paradigm", ",", "but", "were", "told", "that", "any", "replies", "given", "would", "be", "treated", "confidentially", "to", "reduce", "concern", "about", "how", "their", "answers", "might", "be", "used", ".", "The", "interview", "process", "was", "kept", "as", "informal", "as", "possible", ",", "e.g.", ",", "the", "subjects", "were", "drinking", "coffee", "before", "and", "during", "the", "interview", "to", "help", "them", "relax", "and", "answer", "questions", "freely", ".", "The", "interviews", "were", "carried", "out", "during", "the", "working", "day", "and", "lasted", "between", "30", "minutes", "to", "almost", "2", "hours", ".", "The", "entire", "interview", ",", "recorded", "using", "a", "hand", "held", "recorder", ",", "was", "transcripted", "onto", "paper", "to", "enable", "a", "thorough", "analysis", ".", "It", "should", "be", "noted", "that", "the", "initial", "interview", "was", "also", "included", "in", "this", "analysis", "as", "there", "was", "only", "a", "minor", "difference", "between", "the", "two", "templates", "used", ".", "It", "was", "hoped", "that", "the", "interview", "template", "was", "comprehensive", ",", "but", "as", "a", "safeguard", "each", "subject", "was", "asked", "the", "final", "question", "Has", "there", "been", "anything", "that", "you", "have", "not", "been", "asked", "that", "you", "feel", "is", "important", "and", "should", "be", "addressed", "?", "The", "majority", "of", "subjects", "answered", "no", "to", "this", ",", "or", "mentioned", "something", "specific", "about", "their", "own", "work", "which", "they", "would", "have", "enjoyed", "talking", "about", ".", "In", "all", ",", "the", "subjects", "appeared", "to", "think", "the", "interview", "was", "a", "\\", "pretty", "full", "questionnaire", "''", ".", "Object-Oriented", "Languages", "Subject", "Pos", ".", "Exp", ".", "C++", "C-Flavours", "Eiffel", "Objective-C", "OO-Pascal", "Simula", "Smalltalk", "A", "I", "10", "p", "p", "p", "p", "B", "I", "0.5", "p", "C", "I", "3", "p", "p", "D", "I", "4", "p", "p", "p", "E", "A", "2", "p", "F", "I", "1", "p", "G", "I", "3.5", "p", "p", "H", "I", "5", "p", "p", "I", "A", "5", "p", "p", "p", "J", "A", "3", "p", "p", "p", "K", "I", "1.5", "p", "p", "L", "A", "2", "p", "p", "M", "A", "3", "p", "p", "p", "Table", "1", ":", "Subjects", "position", ",", "experience", "-LRB-", "years", "-RRB-", ",", "and", "OO", "languages", "familiarity", "5", "Analysis", "and", "discussion", "Analysis", "was", "undertaken", "by", "summarizing", "each", "interview", "transcript", ",", "and", "tabulating", "answers", "-LRB-", "paraphrased", "-RRB-", "for", "each", "question", "to", "compare", "and", "contrast", "them", "-LRB-", "see", "Appendix", "B", "-RRB-", ".", "This", "method", "of", "analysis", "has", "the", "advantage", "of", "allowing", "the", "data", "to", "be", "easily", "visualized", ",", "bearing", "in", "mind", "that", "13", "subjects", "were", "interviewed", ".", "Table", "1", "summarizes", "the", "object-oriented", "experience", "of", "the", "subjects", ",", "their", "position", "-LRB-", "either", "an", "academic", "or", "industrialist", "-RRB-", ",", "and", "their", "knowledge", "of", "object-oriented", "languages", ".", "The", "level", "of", "object-oriented", "experience", "varied", "from", "6", "months", "to", "10", "years", ",", "but", "note", "that", "the", "least", "experienced", "used", "it", "every", "working", "day", ".", "So", "we", "feel", "justified", "in", "describing", "all", "these", "subjects", "as", "experienced", "object-oriented", "users", "-LRB-", "only", "I", ",", "J", ",", "and", "L", "were", "not", "daily", "users", "-RRB-", ".", "5.1", "Learning", "curve", ",", "documentation", ",", "time", "pressures", "and", "quick", "fixes", "First", ",", "several", "subjects", "mentioned", "the", "learning", "curve", "as", "an", "influencing", "feature", "when", "changing", "from", "the", "structured", "design", "paradigm", "to", "that", "of", "object-orientation", ".", "Subjects", "A", ",", "I", ",", "J", ",", "and", "L", "made", "the", "point", "that", "the", "learning", "curve", "was", "steep", ".", "Additionally", ",", "subject", "J", "commented", "\\", "you", "really", "have", "to", "think", "differently", "...", "I", "'m", "still", "thinking", "in", "structured", "C", "in", "some", "ways", "''", "-LRB-", "repeating", "the", "point", "made", "in", "-LSB-", "25", "-RSB-", "-RRB-", "and", "subject", "L", "reckoned", "to", "fully", "make", "the", "transition", "can", "take", "as", "much", "as", "two", "years", ".", "Regarding", "the", "transition", "from", "structured", "to", "object-oriented", "programming", "subjects", "B", ",", "K", ",", "L", ",", "and", "M", "said", "the", "use", "of", "hybrid", "languages", ",", "e.g.", ",", "C++", ",", "has", "a", "detrimental", "influence", ":", "while", "C++", "allows", "the", "programmer", "to", "write", "C", "code", "providing", "several", "advantages", ",", "e.g.", ",", "use", "of", "existing", "C", "libraries", ",", "familiarity", "with", "C", ",", "and", "not", "all", "problems", "are", "suited", "to", "an", "object-oriented", "solution", ",", "according", "to", "subject", "K", "\\", "it", "'s", "a", "language", "which", "does", "n't", "really", "encourage", "to", "think", "in", "terms", "of", "objects", "''", "-LRB-", "subjects", "B", ",", "L", ",", "and", "M", "agreed", "-RRB-", ".", "Consequently", ",", "according", "to", "subject", "B", "\\", "someone", "...", "might", "just", "regress", "into", "doing", "something", "in", "a", "C", "fashion", "when", "they", "should", "be", "doing", "it", "in", "an", "object-oriented", "fashion", ".", "''", "Subject", "M", "said", "\\", "being", "forced", "to", "be", "object-oriented", "I", "'m", "sure", "actually", "helped", "me", ".", "''", "Lozinski", "-LSB-", "15", "-RSB-", "details", "many", "of", "the", "limitations", "of", "C++", "and", "provides", "some", "excellent", "accompanying", "discussion", "by", "comparing", "it", "to", "Objective-C", ".", "-LRB-", "Tables", "14", ",", "25", ",", "and", "26", "provide", "individual", "comments", ".", "-RRB-", "Second", ",", "ten", "subjects", ",", "including", "all", "industrial", "subjects", ",", "mentioned", "that", "they", "had", "had", "trouble", "with", "the", "availability", "of", "design", "documentation", ":", "either", "it", "did", "not", "exist", "or", "it", "was", "inadequate", ".", "Additionally", ",", "subject", "K", "mentioned", "when", "time", "constraints", "become", "a", "factor", "documentation", "is", "the", "first", "thing", "that", "suffers", "-LRB-", "subjects", "A", "and", "D", "made", "similar", "statements", "-RRB-", ".", "Moreover", ",", "subject", "L", "mentioned", "that", "documentation", "for", "object-oriented", "systems", "is", "a", "more", "important", "aid", "to", "understanding", "than", "it", "is", "for", "other", "systems", ".", "Subject", "G", "qualified", ",", "\\", "design", "documentation", "is", "important", "otherwise", "you", "are", "back", "to", "where", "you", "were", "before", "-LSB-", "with", "structured", "designed", "systems", "-RSB-", "''", ".", "The", "subject", "made", "the", "point", "that", "object-oriented", "systems", "are", "not", "easier", "to", "understand", "than", "other", "systems", "unless", "the", "design", "documentation", "fully", "captures", "class", "relationships", ",", "class", "member", "functions", ",", "member", "variables", ",", "and", "so", "on", ".", "Subject", "M", "supported", "this", "claiming", ",", "\\", "documentation", "is", "essential", ".", "''", "However", ",", "according", "to", "subject", "H", "\\", "...", "on", "the", "last", "project", "I", "worked", "on", "there", "was", "n't", "any", "decent", "documentation", "anyway", ",", "...", "you", "might", "find", "that", ",", "that", "'s", "by", "far", "the", "most", "common", "case", "that", "there", "'s", "no", "good", "up", "to", "date", "design", "documentation", ".", "''", "-LRB-", "Tables", "21", "and", "28", "provide", "individual", "comments", ".", "-RRB-", "Third", ",", "eleven", "subjects", "thought", "it", "was", "possible", "to", "perform", "quick", "fixes", "on", "objectoriented", "code", ",", "e.g.", ",", "\\", "yes", ",", "particularly", "in", "C++", "''", ",", "\\", "it", "'s", "too", "easy", "in", "C++", "''", ",", "\\", "in", "C++", "it", "'s", "a", "lot", "easier", "''", ",", "\\", "it", "'s", "all", "too", "easy", ",", "it", "'s", "really", "easy", ",", "and", "the", "temptation", "is", "always", "there", "''", ".", "Subject", "L", "qualified", "this", "as", "\\", "one", "of", "the", "dangers", "in", "these", "hybrid", "languages", "''", ",", "while", "subject", "G", "stated", "\\", "yes", ",", "but", "that", "'s", "bad", "maintenance", "rather", "than", "bad", "design", "''", ".", "Subjects", "A", ",", "C", ",", "D", ",", "F", ",", "and", "K", "mentioned", "a", "quick", "fix", "can", "be", "the", "result", "of", "time", "pressures", ".", "In", "a", "previous", "paper", "-LSB-", "4", "-RSB-", ",", "the", "authors", "have", "discovered", "pragmatic", "maintenance", "-LRB-", "performing", "the", "minimal", "amount", "possible", "to", "complete", "the", "required", "task", "-RRB-", "under", "controlled", "laboratory", "conditions", ".", "-LRB-", "Tables", "27", "and", "28", "provide", "individual", "comments", ".", "-RRB-", "The", "problems", "mentioned", "above", "appear", "indicative", "of", "Kung", "et", "al", "'s", "-LSB-", "13", "-RSB-", "experience", ",", "who", "state", "\\", "Our", "experience", "indicates", "that", "it", "is", "extremely", "time", "consuming", "and", "tedious", "to", "test", "and", "maintain", "an", "OO", "software", "system", ".", "This", "becomes", "even", "more", "acute", "when", "documentation", "is", "either", "missing", "or", "inadequate", ".", "''", "5.2", "Inheritance", "and", "high", "level", "understanding", "First", ",", "subjects", "A", ",", "C", ",", "F", ",", "G", ",", "I", ",", "and", "L", "made", "the", "point", "that", "if", "inheritance", "is", "designed", "properly", "-LRB-", "the", "hierarchy", "is", "structured", "using", "the", "appropriate", "abstractions", "-RRB-", "then", "it", "will", "not", "cause", "understanding", "difficulties", ".", "Additionally", ",", "5", "of", "these", "subjects", "agreed", "that", "if", "designed", "properly", "inheritance", "should", "aid", "understanding", ".", "On", "the", "other", "hand", ",", "subjects", "D", ",", "E", ",", "H", ",", "J", ",", "K", ",", "and", "M", "mentioned", "that", "inheritance", "can", "make", "understanding", "difficult", ":", "subject", "D", "said", "that", "it", "can", "be", "difficult", "to", "trace", "the", "flow", "of", "control", ",", "while", "subjects", "J", ",", "K", ",", "and", "M", "mentioned", "that", "tracing", "a", "line", "of", "method", "invocations", "to", "determine", "which", "method", "is", "performing", "the", "work", "is", "difficult", "-LRB-", "repeating", "two", "of", "the", "points", "in", "-LSB-", "24", "-RSB-", "-RRB-", ".", "Subjects", "H", "and", "K", "agreed", "it", "can", "be", "difficult", "to", "understand", "what", "functionality", "a", "line", "of", "code", "is", "performing", "until", "it", "is", "realised", "it", "calls", "an", "inherited", "member", "function", ".", "Subjects", "H", "and", "K", "also", "agreed", "inheritance", "can", "cause", "confusion", "when", "interacting", "with", "inherited", "member", "variables", "-", "where", "have", "they", "been", "inherited", "from", "?", "-LRB-", "repeating", "two", "of", "the", "points", "in", "-LSB-", "14", "-RSB-", "-RRB-", ".", "However", ",", "subject", "C", "'s", "statement", ",", "made", "in", "the", "context", "of", "design", ",", "appears", "to", "best", "fit", "the", "general", "opinion", "\\", "I", "think", "on", "the", "whole", ",", "it", "comes", "back", "slightly", "to", "how", "well", "written", "the", "code", "is", "...", "I", "think", "once", "you", "get", "into", "the", "way", "of", "thinking", "about", "inheritance", "it", "does", "not", "make", "it", "more", "difficult", "to", "understand", "and", "in", "fact", "often", "makes", "it", "a", "lot", "simpler", ",", "and", "if", "your", "code", "is", "badly", "written", "then", "it", "'s", "a", "nightmare", ".", "''", "-LRB-", "Table", "7", "provides", "individual", "comments", ".", "-RRB-", "Second", ",", "regarding", "the", "effect", "of", "spreading", "method", "functionality", "over", "the", "inheritance", "hierarchy", "on", "system", "understanding", "almost", "every", "subject", "commented", "that", "if", "the", "inheritance", "hierarchy", "is", "designed", "properly", "then", "it", "would", "not", "be", "detrimental", "to", "understanding", ".", "Additionally", ",", "subject", "A", "said", "that", "it", "was", "a", "natural", "way", "of", "writing", "and", "understanding", "code", ",", "subject", "C", "declared", "that", "\\", "it", "'s", "likely", "to", "aid", "understanding", "''", ",", "and", "subject", "H", "stated", "\\", "it", "simplifies", "things", ";", "it", "simplifies", "your", "design", "''", ".", "-LRB-", "Table", "8", "provides", "individual", "comments", ".", "-RRB-", "Third", ",", "an", "issue", "discussed", "was", "the", "depth", "of", "inheritance", ",", "and", "how", "it", "affects", "system", "understanding", ".", "Subjects", "were", "asked", "to", "define", "how", "many", "levels", "of", "inheritance", "it", "took", "before", "their", "understanding", "began", "to", "become", "constrained", ".", "These", "definitions", "are", "summarised", "in", "Table", "2", ".", "Subject", "C", "said", "that", "10", "levels", "of", "inheritance", "-LRB-", "including", "multiple", "inheritance", "-RRB-", "would", "be", "a", "deep", "and", "complex", "hierarchy", ".", "The", "subject", "added", "that", "Depth", "of", "inheritance", "-LRB-", "levels", "-RRB-", "Subject", "3-4", "5-6", ">", "6", "Not", "relevant", "A", "p", "B", "p", "C", "p", "+", "MI", "D", "p", "E", "p", "F", "p", "G", "p", "H", "p", "I", "p", "J", "p", "K", "p", "+", "MI", "L", "M", "p", "Table", "2", ":", "Subject", "opinions", "on", "a", "deep", "inheritance", "hierarchy", "\\", "you", "want", "to", "avoid", "using", "a", "depth", "of", "nesting", "that", "you", "do", "n't", "need", "and", "it", "'s", "therefore", "inappropriate", ".", "''", "The", "subject", "made", "the", "point", "that", "the", "hierarchy", "must", "be", "properly", "designed", ".", "Subject", "H", "also", "noted", "that", "10", "levels", "of", "inheritance", "is", "a", "deep", "hierarchy", ".", "In", "contrast", ",", "subject", "I", "stated", "that", "depth", "was", "not", "an", "issue", "he", "ever", "considered", "and", ",", "therefore", ",", "the", "question", "was", "not", "relevant", ".", "The", "remaining", "subjects", "mainly", "noted", "3-4", "levels", "of", "inheritance", "as", "deep", ".", "Comparison", "of", "Tables", "1", "and", "2", "shows", "no", "significant", "relationship", "between", "experience", "or", "the", "language", "used1", "and", "the", "depth", "of", "inheritance", ".", "Fourth", ",", "subjects", "B", ",", "C", ",", "G", ",", "H", ",", "I", ",", "and", "K", "mentioned", "that", "multiple", "inheritance", "is", "more", "complex", "than", "single", "inheritance", ".", "Additionally", ",", "subject", "L", "was", "concerned", "that", "multiple", "inheritance", "allowed", "for", "a", "sloppy", "approach", "-LRB-", "inappropriate", "inheritance", "-RRB-", ".", "He", "stated", "his", "reluctance", "to", "use", "multiple", "inheritance", "by", "mentioning", "anything", "designed", "using", "multiple", "inheritance", "can", "be", "designed", "using", "single", "inheritance", ".", "Subjects", "B", "and", "H", "agreed", "mentioning", "that", "multiple", "inheritance", "makes", "your", "design", "more", "complex", ".", "On", "the", "other", "hand", ",", "subjects", "C", ",", "E", ",", "and", "K", "stated", "multiple", "inheritance", "had", "benefits", ".", "Subject", "C", "reckoned", "it", "is", "easier", "to", "reuse", "with", "multiple", "inheritance", "and", "it", "can", "also", "make", "maintenance", "changes", "easier", ".", "Subject", "E", "mentioned", "it", "maps", "the", "reality", "of", "systems", "being", "modelled", ",", "and", "subject", "K", "agreed", "reporting", "that", "if", "you", "have", "a", "real", "case", "for", "multiple", "inheritance", "then", "it", "is", "advantageous", "to", "use", "it", ".", "Subjects", "B", ",", "G", ",", "and", "L", "disagreed", "however", ".", "Both", "B", "and", "L", "stated", "multiple", "inheritance", "is", "more", "tightly", "coupled", "than", "single", ",", "and", "therefore", "reuse", "it", "harder", ",", "1Although", "most", "subjects", "talked", "in", "the", "context", "of", "C++", "for", "the", "majority", "of", "the", "interview", ".", "Inheritance", "Advantages", "Disadvantages", "Allows", "design", "at", "the", "highest", "level", "of", "abstraction", "Understanding", "is", "difficult", "if", "not", "well", "designed", "Provides", "modularity", "Overuse", "or", "inappropriate", "use", "of", "inheritance", "leads", "Prevents", "code", "redundancy", "to", "more", "complex", "code", "that", "'s", "harder", "to", "follow", "Aid", "to", "understanding", "if", "designed", "well", "Multiple", "inheritance", "can", "complicate", "the", "design", "Information", "hiding", "through", "encapsulation", "Tracing", "flow", "of", "control", "and", "dependencies", "can", "be", "Quick", "prototyping", "difficult", "Single", "inheritance", "encourages", "good", "design", "New", "concept", "to", "learn", "Multiple", "inheritance", "for", "complex", "designs", "Deep", "hierarchies", "can", "cause", "understanding", "difficulties", "Table", "3", ":", "Summary", "of", "inheritance", "advantages", "and", "disadvantages", "while", "subject", "G", "stated", "\\", "single", "inheritance", "is", "the", "way", "to", "do", "it", ".", "''", "-LRB-", "Table", "12", "provides", "individual", "comments", ".", "-RRB-", "Finally", ",", "Table", "3", "summarizes", "the", "discussed", "advantages", "and", "disadvantages", "of", "inheritance", ".", "-LRB-", "Tables", "10", "and", "11", "provide", "individual", "comments", ".", "-RRB-", "5.3", "Maintenance", "of", "object-oriented", "programs", "First", ",", "regarding", "the", "effect", "of", "making", "changes", "to", "object-oriented", "programs", "in", "comparison", "to", "equivalent", "structured", "programs", ",", "subjects", "A", ",", "B", ",", "C", ",", "D", ",", "E", ",", "F", ",", "G", ",", "H", ",", "K", ",", "and", "L", "stressed", "that", "if", "well", "designed", "changes", "are", "made", "to", "a", "well", "designed", "object-oriented", "system", ",", "the", "effects", "of", "these", "changes", "are", "likely", "to", "be", "more", "localized", "with", "object-oriented", "code", "than", "with", "structured", "code", ".", "In", "contrast", ",", "if", "the", "changes", "are", "not", "well", "designed", "changes", "then", "they", "are", "just", "as", "likely", "to", "propagate", "through", "an", "object-oriented", "system", "as", "much", "as", "any", "other", ".", "Although", "subjects", "D", ",", "H", ",", "J", ",", "and", "K", "agreed", "that", "changes", "are", "more", "localized", "in", "an", "objectoriented", "system", ",", "these", "4", "subjects", "also", "noted", "that", "changes", "can", "also", "have", "a", "bigger", "global", "effect", "because", "any", "changes", "made", "will", "affect", "subclasses", "which", "inherit", "them", "-LRB-", "repeating", "the", "point", "in", "-LSB-", "13", "-RSB-", "and", "-LSB-", "24", "-RSB-", "-RRB-", ".", "On", "the", "other", "hand", ",", "subjects", "D", ",", "H", ",", "and", "K", "noted", "that", "this", "concept", "has", "the", "benefit", "of", "being", "able", "to", "\\", "fix", "it", "for", "one", ",", "fix", "it", "for", "all", "''", ":", "if", "class", "X", "has", "a", "corrective", "maintenance", "change", "made", "then", "any", "subclass", "Y", "has", "that", "change", "made", "automatically", "through", "inheritance", "-LRB-", "a", "benefit", "not", "mentioned", "in", "-LSB-", "13", "-RSB-", "or", "-LSB-", "25", "-RSB-", "-RRB-", ".", "Subjects", "B", ",", "D", ",", "G", ",", "J", ",", "and", "L", "raised", "the", "issue", "of", "tracing", "of", "method", "dependencies", "through", "the", "class", "hierarchy", "as", "\\", "problematic", "''", "-LRB-", "repeating", "the", "points", "in", "-LSB-", "24", "-RSB-", "and", "-LSB-", "14", "-RSB-", "-RRB-", ".", "According", "to", "subject", "K", "\\", "just", "seeing", "where", "a", "piece", "of", "code", "does", "that", "work", "...", "from", "the", "point", "of", "view", "of", "understandability", "can", "be", "quite", "tricky", ".", "''", "The", "subjects", "agreed", "this", "is", "compounded", "when", "the", "hierarchy", "is", "deep", ".", "-LRB-", "Tables", "5", ",", "7", "and", "9", "provide", "individual", "comments", ".", "-RRB-", "Second", ",", "regarding", "object-oriented", "programs", "causing", "problems", "for", "software", "maintainers", ".", "Subject", "A", "related", "it", "to", "the", "learning", "curve", ":", "understanding", "the", "way", "an", "object-oriented", "program", "works", "is", "not", "easy", "to", "begin", "with", "and", "takes", "time", "to", "acquire", "the", "correct", "method", "of", "thinking", ",", "\\", "learning", "by", "osmosis", "''", "-LRB-", "repeating", "the", "point", "made", "in", "-LSB-", "25", "-RSB-", "-RRB-", ".", "Subject", "J", "repeated", "that", "missing", "documentation", "could", "cause", "maintainers", "difficulty", ".", "Subjects", "B", "and", "K", "mentioned", "the", "one", "class", "per", "file", "style", "promoted", "by", "Stroustrup", "-LSB-", "22", "-RSB-", "as", "undesirable", ":", "it", "can", "make", "tracing", "of", "dependencies", "extremely", "difficult", "without", "good", "tool", "support", "-LRB-", "repeating", "the", "point", "in", "-LSB-", "14", "-RSB-", "-RRB-", ".", "The", "general", "opinion", "was", ",", "however", ",", "that", "there", "is", "more", "structure", "to", "a", "well", "designed", "object-oriented", "system", "and", ",", "as", "such", ",", "it", "is", "easier", "to", "maintain", "than", "a", "non", "object-oriented", "system", ",", "although", "subject", "L", "felt", "that", "few", "object-oriented", "systems", "have", "had", "sufficient", "maintenance", "to", "be", "able", "to", "say", ".", "-LRB-", "Tables", "13", ",", "14", ",", "and", "19", "provide", "individual", "comments", ".", "-RRB-", "Third", ",", "subjects", "were", "asked", "if", "they", "thought", "that", "continual", "maintenance", "would", "eventually", "lead", "to", "unmaintainability", ".", "The", "majority", "of", "subjects", "commented", "that", "this", "would", "be", "the", "case", "although", "in", "comparison", "to", "an", "equivalent", "structured", "program", "there", "is", "a", "lesser", "tendency", "for", "this", "to", "happen", ",", "i.e.", ",", "it", "would", "still", "happen", "but", "over", "a", "longer", "of", "period", "time", ".", "Subject", "A", "stated", "this", "would", "happen", "\\", "without", "a", "doubt", "''", ":", "the", "rate", "of", "entropy", "increases", "over", "time", "and", "everything", "tends", "to", "disorder", ".", "Subject", "D", "also", "discussed", "the", "rate", "of", "entropy", "and", "conceded", "it", "is", "reduced", "for", "object-oriented", "systems", ".", "Subject", "E", "agreed", ",", "but", "only", "on", "the", "condition", "that", "programmers", "\\", "maintain", "the", "object", "mindset", "for", "making", "changes", "''", "to", "the", "system", ".", "Subject", "J", "made", "a", "similar", "statement", ".", "Subject", "H", "concluded", "that", "as", "with", "anything", ",", "if", "ad", "hoc", "changes", "are", "made", "then", "unmaintainability", "will", "ensue", ".", "-LRB-", "Table", "15", "provides", "individual", "comments", ".", "-RRB-", "Fourth", ",", "subjects", "mentioned", "that", "tools", "are", "helpful", "for", "understanding", "and", "maintaining", "object-oriented", "programs", ".", "Differences", "of", "opinion", "did", "arise", "about", "whether", "they", "are", "a", "necessity", "or", "not", ":", "subjects", "E", ",", "F", ",", "H", ",", "J", ",", "K", ",", "L", ",", "and", "M", "all", "declaring", "they", "are", ",", "the", "remainder", "declaring", "they", "are", "not", ".", "All", "the", "subjects", ",", "however", ",", "did", "agree", "that", "tools", "do", "alleviate", "some", "of", "the", "understanding", "problems", "that", "can", "occur", "when", "performing", "object-oriented", "software", "maintenance", ".", "Subject", "I", "reckoned", "that", "more", "object-oriented", "tools", "are", "needed", ".", "-LRB-", "Table", "6", "provides", "individual", "comments", ".", "-RRB-", "Finally", ",", "subjects", "A", ",", "B", ",", "C", ",", "D", ",", "G", ",", "K", ",", "and", "M", "mentioned", "that", "it", "would", "be", "difficult", "for", "a", "maintainer", "to", "tell", "if", "any", "changes", "made", "had", "degraded", "the", "system", "code", "quality", "-LRB-", "repeating", "the", "point", "made", "in", "-LSB-", "13", "-RSB-", "-RRB-", ".", "Code", "reviews", "and", "walk-throughs", "performed", "by", "a", "panel", "of", "programmers", "are", "recommended", "practice", "by", "these", "subjects", "as", "a", "reliable", "safety", "net", "for", "catching", "any", "introduced", "bugs", ".", "-LRB-", "Table", "20", "provides", "individual", "comments", ".", "-RRB-", "5.4", "Other", "issues", "First", ",", "regarding", "small", "methods", "as", "good", "object-oriented", "programming", "practice", ",", "subject", "A", "concluded", "that", "methods", "\\", "can", "be", "one", "line", "...", "but", "as", "much", "as", "50", "lines", "for", "`", "real", "'", "methods", "''", "depending", "on", "their", "function", ".", "Subject", "F", "stated", ",", "\\", "I", "try", "to", "keep", "them", "small", ".", "''", "However", ",", "subjects", "B", ",", "C", ",", "D", ",", "and", "K", "all", "mentioned", "methods", "of", "size", "in", "excess", "of", "100", "lines", "of", "code", "-LRB-", "subject", "C", "had", "worked", "with", "a", "method", "of", "2500", "lines", "-RRB-", "although", "this", "was", "not", "regarded", "as", "good", "programming", "practice", ".", "In", "general", ",", "the", "subjects", "felt", "that", "small", "methods", "are", "good", "programming", "practice", ".", "-LRB-", "Table", "4", "provides", "individual", "comments", ".", "-RRB-", "Second", ",", "subjects", "were", "asked", "if", "they", "had", "ideas", "on", "good", "and", "bad", "object-oriented", "programming", "practices", ".", "Once", "more", "the", "importance", "of", "design", "was", "stressed", ".", "Subjects", "A", ",", "C", ",", "F", ",", "I", ",", "K", ",", "and", "M", "mentioned", "that", "good", "design", "usually", "means", "good", "code", ";", "conversely", "bad", "design", "produces", "bad", "code", ".", "According", "to", "subject", "C", "\\", "it", "is", "almost", "less", "the", "coding", "style", "than", "the", "design", "style", "that", "is", "important", "''", ".", "Additionally", ",", "subjects", "C", "and", "D", "agreed", "that", "not", "too", "deep", "an", "inheritance", "tree", "was", "good", "style", "-LRB-", "although", "from", "Table", "2", "it", "can", "be", "seen", "their", "definitions", "of", "deep", "differ", "-RRB-", ".", "Subject", "H", "added", "\\", "there", "seems", "to", "be", "few", "points", "of", "reference", "for", "object-oriented", "code", "quality", "''", ".", "The", "rules", "and", "recommendations", "produced", "by", "Henricson", "and", "Nyquist", "-LSB-", "10", "-RSB-", "is", "one", "programming", "standard", "for", "object-oriented", "programming", "which", "may", "help", "to", "reduce", "any", "inconsistencies", "that", "exist", ".", "-LRB-", "Table", "19", "provides", "individual", "comments", ".", "-RRB-", "Third", ",", "every", "subject", "interviewed", "thought", "that", "polymorphism", "is", "a", "useful", "concept", "in", "object-oriented", "programming", "and", "they", "agreed", "it", "can", "produce", "generic", "code", ".", "However", ",", "subjects", "B", ",", "C", ",", "E", ",", "G", ",", "I", ",", "and", "J", "mentioned", "that", "polymorphism", ",", "especially", "if", "semantic", "consistency", "is", "not", "maintained", ",", "can", "cause", "confusion", "and", "make", "it", "difficult", "to", "understand", "how", "the", "system", "works", ".", "In", "particular", ",", "subject", "B", "stated", ",", "\\", "Yes", ",", "it", "'s", "a", "great", "benefit", "in", "some", "cases", "...", "In", "some", "cases", ",", "it", "makes", "things", "really", "difficult", "to", "understand", "...", "Used", "properly", "and", "used", "reasonably", "sparingly", ",", "it", "can", "be", "really", "advantageous", ".", "''", "-LRB-", "This", "reiterates", "the", "conclusions", "drawn", "in", "-LSB-", "19", "-RSB-", ".", "-RRB-", "-LRB-", "Tables", "23", "and", "24", "provide", "individual", "comments", ".", "-RRB-", "Similarly", ",", "regarding", "dynamic", "binding", ",", "while", "every", "subject", "thought", "that", "it", "a", "clearly", "defined", "benefit", "-LRB-", "subject", "A", "remarked", "\\", "without", "it", "there", "is", "no", "object-oriented", "programming", "''", "-RRB-", "subjects", "C", ",", "E", ",", "L", ",", "and", "M", "felt", "that", "there", "can", "be", "understanding", "difficulties", "if", "the", "programmer", "was", "\\", "careless", "''", "when", "using", "it", ".", "Subjects", "C", "and", "L", "mentioned", "that", "one", "of", "the", "big", "problems", "is", "the", "calling", "of", "non-existent", "methods", ".", "However", ",", "if", "managed", "carefully", "then", "according", "to", "subject", "D", "\\", "it", "simplifies", "the", "code", "...", "It", "'s", "a", "more", "intuitive", "way", "of", "working", ".", "''", "-LRB-", "these", "points", "do", "not", "directly", "support", "the", "points", "made", "in", "-LSB-", "24", "-RSB-", "or", "-LSB-", "14", "-RSB-", "-RRB-", ".", "-LRB-", "Table", "22", "provides", "individual", "comments", ".", "-RRB-", "Fourth", ",", "regarding", "software", "reuse", "only", "subject", "E", "had", "not", "made", "any", "use", "of", "class", "libraries", ".", "The", "remaining", "subjects", "all", "made", "use", "of", "commercially", "produced", "libraries", ",", "however", ",", "subjects", "A", ",", "D", ",", "I", ",", "K", "and", "L", "were", "the", "only", "frequent", "users", "of", "local", "class", "libraries", ".", "No", "generalization", "can", "be", "made", ",", "but", "it", "does", "support", "asking", "the", "question", "is", "object-orientation", "meeting", "its", "reputation", "for", "ease", "of", "software", "reuse", "?", "-LRB-", "Tables", "16", ",", "17", ",", "and", "18", "provide", "individual", "comments", "-RRB-", "Finally", ",", "subjects", "were", "asked", "to", "complete", "the", "interview", "with", "a", "conclusion", "on", "the", "utility", "of", "the", "object-oriented", "paradigm", "-LRB-", "is", "it", "beneficial", "?", "-RRB-", ".", "Every", "subject", "answered", "yes", ",", "for", "example", "\\", "no", "doubt", "about", "it", "''", ",", "\\", "the", "only", "way", "''", ",", "\\", "the", "right", "thing", "to", "do", "''", ",", "\\", "where", "it", "'s", "appropriate", "it", "'s", "the", "way", "forward", "''", ".", "Again", ",", "no", "generalization", "can", "be", "made", ",", "but", "it", "does", "deserve", "recognition", "as", "of", "some", "importance", ".", "6", "Conclusions", "and", "future", "work", "Interviewing", "users", "on", "the", "advantages", "and", "disadvantages", "of", "aspects", "of", "software", "engineering", "can", "be", "rewarding", ":", "it", "can", "help", "to", "identify", "-LRB-", "i", "-RRB-", "problems", "not", "yet", "considered", ",", "-LRB-", "ii", "-RRB-", "conditions", "under", "which", "existing", "problems", "are", "compounded", "or", "alleviated", "or", "not", "applicable", ",", "and", "-LRB-", "iii", "-RRB-", "claims", "which", "appear", "worthy", "of", "further", "empirical", "inquiry", "and", "those", "that", "do", "not", ".", "Furthermore", ",", "the", "structured", "interview", "can", "be", "an", "effective", "method", "of", "exploratory", "or", "primary", "investigation", "when", "undertaking", "a", "multi-method", "programme", "of", "empirical", "research", ".", "We", "warn", ",", "however", ",", "against", "generalising", "the", "results", "of", "this", "study", "due", "to", "its", "limited", "sample", "size", ".", "It", "is", "believed", "that", "the", "weaknesses", "of", "the", "structured", "interview", "technique", "were", "not", "a", "major", "influence", "on", "this", "study", "because", "-LRB-", "a", "-RRB-", "anonymity", "of", "subjects", "and", "the", "interview", "setting", "encouraged", "them", "to", "speak", "freely", ",", "-LRB-", "b", "-RRB-", "the", "interviewer", "'s", "experience", "in", "the", "domain", "meant", "further", "investigation", "of", "important", "points", ",", "and", "-LRB-", "c", "-RRB-", "clarification", "of", "elicitated", "knowledge", "could", "be", "made", "after", "the", "interview", "transcript", "was", "available", ".", "The", "analysis", "was", "performed", "by", "transcripting", "and", "summarizing", "each", "interview", "and", "tabulating", "subjects", "'", "answers", "to", "each", "question", ".", "Interview", "transcripts", "were", "read", "several", "times", "and", "it", "is", "unlikely", "that", "any", "important", "points", "were", "overlooked", ".", "Analysis", "of", "the", "collected", "interview", "data", "uncovered", "several", "aspects", "of", "marked", "interest", ".", "First", ",", "the", "learning", "curve", "was", "mentioned", "as", "being", "steep", "when", "switching", "to", "the", "objectoriented", "paradigm", "from", "another", ",", "different", "paradigm", ";", "the", "figure", "of", "almost", "two", "years", "was", "mentioned", "to", "make", "the", "transition", ".", "Second", ",", "depth", "of", "inheritance", "was", "discussed", ":", "excessive", "inheritance", "depth", "or", "inappropriate", "use", "of", "inheritance", "can", "cause", "understanding", "difficulties", "and", "is", "therefore", "something", "to", "be", "avoided", "-LRB-", "any", "initial", "time", "saved", "will", "be", "outweighed", "by", "the", "difficulties", "the", "inappropriate", "inheritance", "causes", "-RRB-", ".", "In", "contrast", ",", "inheritance", ",", "when", "designed", "and", "implemented", "appropriately", ",", "is", "more", "likely", "to", "aid", "understanding", "than", "compound", "it", ".", "Understanding", "difficulties", "are", "created", "by", "dependencies", "caused", "by", "inheritance", ",", "however", ".", "Tracing", "a", "line", "of", "dependencies", "through", "inheritance", "hierarchies", "to", "find", "where", "the", "work", "is", "being", "performed", "can", "be", "a", "time-consuming", "task", ".", "Third", ",", "object-oriented", "systems", "are", "as", "prone", ",", "if", "not", "more", "so", ",", "to", "the", "problems", "of", "missing", "documentation", ".", "Several", "subjects", "mentioned", "that", "time", "constraints", "can", "cause", "documentation", "to", "suffer", ".", "The", "drawbacks", "of", "missing", "documentation", "should", "be", "considered", "carefully", "from", "a", "maintenance", "perspective", ".", "If", "the", "documentation", "captures", "the", "correct", "information", "it", "could", "reduce", "future", "time", "pressures", ":", "subsequent", "changes", "may", "be", "properly", "designed", ",", "reducing", "system", "degradation", ";", "if", "not", "then", "the", "reverse", "might", "be", "true", ".", "Fourth", ",", "the", "design", "of", "an", "object-oriented", "system", "appears", "to", "be", "extremely", "important", ":", "subjects", "continually", "mentioned", "design", "when", "discussing", "the", "problems", "of", "inheritance", ",", "software", "maintenance", ",", "polymorphism", ",", "and", "dynamic", "binding", ",", "stating", "that", "if", "the", "design", "was", "appropriate", "then", "understanding", "was", "not", "constrained", ".", "In", "contrast", ",", "however", ",", "if", "not", "well", "designed", "then", "the", "system", "could", "be", "a", "\\", "nightmare", "''", "to", "understand", ".", "Fifth", ",", "as", "a", "consequence", "of", "software", "maintenance", ",", "object-oriented", "systems", "are", "still", "prone", "to", "degradation", ".", "The", "consensus", ",", "however", ",", "was", "that", "object-oriented", "software", "would", "resist", "software", "degradation", "through", "maintenance", "better", "than", "other", "software", "systems", ",", "but", "only", "if", "the", "object", "mindset", "is", "kept", "when", "performing", "maintenance", ":", "`", "quick", "fixes", "'", "are", "likely", "to", "increase", "software", "degradation", "-LRB-", "or", "the", "rate", "of", "entropy", ",", "as", "referred", "to", "by", "2", "subjects", "-RRB-", "to", "that", "of", "any", "other", "software", ".", "Trainees", ",", "therefore", ",", "are", "not", "the", "best", "people", "to", "perform", "maintenance", ".", "Finally", ",", "subjects", "indicated", "a", "lack", "of", "enthusiasm", "towards", "C++", "and", "viewed", "it", "inferior", "in", "many", "aspects", "to", "`", "purer", "'", "object-oriented", "languages", ".", "Finally", ",", "as", "discussed", "in", "the", "introduction", ",", "a", "programme", "of", "research", "using", "different", "empirical", "techniques", "is", "more", "likely", "to", "allow", "conclusions", "which", "hold", "weight", "if", "an", "effect", "has", "been", "consistently", "demonstrated", ".", "Conducting", "the", "structured", "interviews", "was", "the", "first", "technique", "in", "our", "planned", "multi-method", "approach", ".", "The", "next", "stage", "in", "this", "research", "was", "designing", "a", "questionnaire", "from", "the", "structured", "interview", "findings", "to", "gather", "quantitative", "data", "on", "a", "wider", "user", "group", ".", "Analysis", "of", "this", "survey", "data", "is", "currently", "being", "undertaken", ".", "Acknowledgments", "Thanks", "must", "be", "extended", "to", "those", "who", "agreed", "to", "be", "interviewed", ".", "Thanks", "are", "also", "given", "to", "Mrs", "Fiona", "Ferguson", "Smith", "who", "helped", "with", "the", "interview", "transcripts", ".", "Finally", ",", "thanks", "go", "to", "Dr", "Kevin", "Waite", "who", "helped", "organise", "the", "interview", "sessions", "and", "provided", "feedback", "on", "an", "earlier", "draft", "of", "this", "document", ".", "References", "-LSB-", "1", "-RSB-", "L", "Bainbridge", ".", "Verbal", "protocol", "analysis", ".", "In", "J", "Wilson", "and", "E", "Corlett", ",", "editors", ",", "Evaluation", "of", "Human", "Work", ",", "A", "practical", "ergonomics", "methodology", ",", "pages", "161", "-LCB-", "179", ".", "Taylor", "and", "Francis", ",", "1990", ".", "-LSB-", "2", "-RSB-", "A", "Brooks", ",", "J", "Daly", ",", "J", "Miller", ",", "M", "Roper", ",", "and", "M", "Wood", ".", "Replication", "of", "experimental", "results", "in", "software", "engineering", ".", "submitted", "to", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "1995", ".", "-LSB-", "3", "-RSB-", "H", "Collins", ".", "CHANGING", "ORDER", "Replication", "and", "Induction", "in", "Scientific", "Practice", ".", "SAGE", "Publications", ",", "1985", ".", "-LSB-", "4", "-RSB-", "J", "Daly", ",", "A", "Brooks", ",", "J", "Miller", ",", "M", "Roper", ",", "and", "M", "Wood", ".", "Verification", "of", "results", "in", "software", "maintenance", "through", "external", "replication", ".", "In", "Proceedings", "of", "the", "IEEE", "International", "Conference", "on", "Software", "Maintenance", ",", "pages", "50", "-LCB-", "57", ",", "September", "1994", ".", "-LSB-", "5", "-RSB-", "S", "Denning", ",", "D", "Hoiem", ",", "M", "Simpson", ",", "and", "K", "Sullivan", ".", "The", "value", "of", "thinking", "aloud", "protocols", "in", "industry", ":", "A", "case", "study", "at", "Microsoft", "Corporation", ".", "In", "Proceedings", "of", "the", "Human", "Factors", "Society", "34th", "Annual", "Meeting", ",", "pages", "1285", "-LCB-", "1289", ",", "1990", ".", "-LSB-", "6", "-RSB-", "J", "Dvorak", ".", "Conceptual", "entropy", "and", "its", "effect", "on", "class", "hierarchies", ".", "IEEE", "Computer", ",", "27", "-LRB-", "6", "-RRB-", ":59", "-LCB-", "63", ",", "June", "1994", ".", "-LSB-", "7", "-RSB-", "A", "Ericsson", "and", "H", "Simon", ".", "Protocol", "Analysis", ".", "The", "MIT", "Press", ",", "1st", "edition", ",", "1984", ".", "-LSB-", "8", "-RSB-", "N", "Fenton", ",", "S", "Pfleeger", ",", "and", "R", "Glass", ".", "Science", "and", "substance", ":", "A", "challenge", "to", "software", "engineers", ".", "IEEE", "Software", ",", "11", "-LRB-", "4", "-RRB-", ":86", "-LCB-", "95", ",", "July", "1994", ".", "-LSB-", "9", "-RSB-", "J", "Goguen", "and", "C", "Linde", ".", "Techniques", "for", "requirements", "elicitation", ".", "In", "Proceedings", "of", "the", "IEEE", "International", "Symposium", "on", "Requirements", "Engineering", ",", "pages", "152", "-LCB-", "164", ",", "1993", ".", "-LSB-", "10", "-RSB-", "M", "Henricson", "and", "E", "Nyquist", ".", "Programming", "in", "C++", "Rules", "and", "Recommendations", ".", "Ellemtel", "Telecommunications", "Systems", "Laboratories", ",", "1992", ".", "-LSB-", "11", "-RSB-", "S", "Henry", ",", "M", "Humphrey", ",", "and", "J", "Lewis", ".", "Evaluation", "of", "the", "maintainability", "of", "object", "oriented", "software", ".", "In", "IEEE", "Region", "10", "Conference", "on", "Computer", "and", "Communication", "Systems", ",", "pages", "404", "-LCB-", "409", ",", "September", "1990", ".", "-LSB-", "12", "-RSB-", "C", "Jones", ".", "Gaps", "in", "the", "object-oriented", "paradigm", ".", "IEEE", "Computer", ",", "27", "-LRB-", "6", "-RRB-", ":90", "-LCB-", "91", ",", "June", "1994", ".", "-LSB-", "13", "-RSB-", "D", "Kung", ",", "J", "Gao", ",", "P", "Hsia", ",", "F", "Wen", ",", "Y", "Toyoshima", ",", "and", "C", "Chen", ".", "Change", "impact", "identification", "in", "object-oriented", "software", "maintenance", ".", "In", "Proceedings", "of", "the", "IEEE", "International", "Conference", "on", "Software", "Maintenance", ",", "pages", "202", "-LCB-", "211", ",", "September", "1994", ".", "-LSB-", "14", "-RSB-", "M", "Lejter", ",", "S", "Meyers", ",", "and", "S", "Reiss", ".", "Support", "for", "maintaining", "object-oriented", "programs", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "SE-18", "-LRB-", "12", "-RRB-", ":1045", "-LCB-", "1052", ",", "December", "1992", ".", "-LSB-", "15", "-RSB-", "C", "Lozinski", ".", "Why", "I", "need", "Objective-C", ".", "Journal", "of", "Object-Oriented", "Programming", ",", "pages", "21", "-LCB-", "28", ",", "September", "1991", ".", "-LSB-", "16", "-RSB-", "D", "Mancl", "and", "W", "Havanas", ".", "A", "study", "of", "the", "impact", "of", "C++", "on", "software", "maintenance", ".", "In", "Proceedings", "of", "the", "IEEE", "Conference", "on", "Software", "Maintenance", ",", "pages", "63", "-LCB-", "69", ",", "1990", ".", "-LSB-", "17", "-RSB-", "G", "Marchionini", ".", "Evaluating", "hypermedia-based", "learning", ".", "In", "D", "Jonassen", "and", "H", "Mandel", ",", "editors", ",", "Designing", "hypertext/hypermedia", "for", "learning", ",", "pages", "355", "-LCB-", "373", ".", "Springer-Verlag", ",", "1990", ".", "-LSB-", "18", "-RSB-", "J", "Neilson", ".", "Evaluating", "the", "thinking-aloud", "technique", "for", "use", "by", "computer", "scientists", ".", "In", "R", "Hartson", ",", "editor", ",", "Advances", "in", "Human", "Computer", "Interaction", ",", "volume", "3", ",", "pages", "69", "-LCB-", "82", ".", "Ablex", "Publishing", "Corporation", ",", "1992", ".", "-LSB-", "19", "-RSB-", "C", "Ponder", "and", "B", "Bush", ".", "Polymorphism", "considered", "harmful", ".", "ACM", "SIGSOFT", ",", "Software", "Engineering", "Notes", ",", "19", "-LRB-", "2", "-RRB-", ":35", "-LCB-", "37", ",", "April", "1994", ".", "-LSB-", "20", "-RSB-", "N", "Shadbolt", "and", "M", "Burton", ".", "Knowledge", "elicitation", ".", "In", "J", "Wilson", "and", "E", "Corlett", ",", "editors", ",", "Evaluation", "of", "Human", "Work", ",", "A", "practical", "ergonomics", "methodology", ",", "pages", "321", "-LCB-", "345", ".", "Taylor", "and", "Francis", ",", "1990", ".", "-LSB-", "21", "-RSB-", "M", "Sinclair", ".", "Subjective", "assessment", ".", "In", "J", "Wilson", "and", "E", "Corlett", ",", "editors", ",", "Evaluation", "of", "Human", "Work", ":", "A", "practical", "ergonomics", "methodology", ",", "pages", "58", "-LCB-", "88", ".", "Taylor", "and", "Francis", ",", "1990", ".", "-LSB-", "22", "-RSB-", "B", "Stroustrup", ".", "The", "C++", "Programming", "Language", ".", "Addison-Wesley", ",", "2nd", "edition", ",", "1991", ".", "-LSB-", "23", "-RSB-", "D", "Walz", ",", "J", "Elam", ",", "and", "B", "Curtis", ".", "Inside", "a", "software", "design", "team", ":", "Knowledge", "acquisition", ",", "sharing", "and", "integration", ".", "Communications", "of", "the", "ACM", ",", "36", "-LRB-", "10", "-RRB-", ":63", "-LCB-", "76", ",", "1993", ".", "-LSB-", "24", "-RSB-", "N", "Wilde", "and", "R", "Huitt", ".", "Maintenance", "support", "for", "object-oriented", "programs", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "SE-18", "-LRB-", "12", "-RRB-", ":1038", "-LCB-", "1044", ",", "December", "1992", ".", "-LSB-", "25", "-RSB-", "N", "Wilde", ",", "P", "Mathews", ",", "and", "R", "Huitt", ".", "Maintaining", "object-oriented", "software", ".", "IEEE", "Software", ",", "10", "-LRB-", "1", "-RRB-", ":75", "-LCB-", "80", ",", "1993", ".", "A", "Interview", "template", "Introduction", "Thanks", "for", "taking", "the", "time", "to", "be", "interviewed", "on", "this", "subject", ".", "The", "questions", "I", "'ll", "ask", "will", "start", "off", "as", "relatively", "simple", "and", "should", "mainly", "be", "one", "or", "two", "sentence", "answers", ".", "Later", "questions", "move", "into", "more", "complicated", "areas", "and", "will", "mainly", "ask", "for", "opinions", "gained", "from", "actual", "experience", ",", "reading", "and/or", "conferring", "with", "your", "colleagues", ".", "1", ".", "To", "what", "extent", "is", "your", "knowledge", "of", "object-oriented", "programming", ";", "that", "is", "how", "long", "have", "you", "used", "it", ",", "and", "how", "often", "do", "you", "use", "it", "?", "2", ".", "Which", "language", "or", "languages", "are", "you", "most", "familiar", "with", "?", "3", ".", "What", "size", "in", "executable", "lines", "of", "code", "are", ",", "on", "average", ",", "a", "single", "object", "'s", "method", "-LRB-", "you", "may", "give", "a", "range", "if", "you", "wish", "-RRB-", "?", "4", ".", "Compared", "to", "structured", "programs", ",", "what", "would", "you", "say", "the", "effect", "of", "changes", "are", "in", "object-oriented", "programs", ".", "For", "example", ",", "are", "changes", "likely", "to", "cause", "`", "ripples", "'", "to", "propagate", "through", "the", "system", ",", "or", "be", "localised", "to", "particular", "objects", "?", "5", ".", "Do", "you", "use", "the", "inheritance", "facilities", "of", "your", "language", "-LRB-", "s", "-RRB-", "?", "No", ":", "why", "not", "?", "Yes", ":", "how", "often", "?", "6", ".", "Do", "you", "think", "inheritance", "can", "cause", "difficulties", "when", "-LRB-", "a", "-RRB-", "trying", "to", "understand", "the", "code", "as", "a", "whole", "?", "-LRB-", "b", "-RRB-", "trying", "to", "understanding", "small", "segments", "of", "code", "-LRB-", "eg", "as", "a", "s/w", "maintenance", "engineer", "might", "do", "-RRB-", "?", "No", ":", "what", "about", "when", "the", "inheritance", "hierarchy", "is", "particularly", "deep", "?", "No", ":", "why", "not", "?", "Yes", ":", "see", "next", "question", ".", "Yes", ":", "As", "a", "consequence", "do", "you", "think", "that", "software", "tools", "are", "a", "necessity", "for", "understanding", "and", "maintaining", "object-oriented", "programs", ".", "No", ":", "why", "not", "?", "Yes", ":", "Why", "?", "Any", "particular", "types", "you", "find", "useful", ",", "e.g.", ",", "a", "cross", "reference", "browser", ",", "etc", "?", "7", ".", "Inheritance", "can", "spread", "the", "functionality", "of", "particular", "methods", "over", "the", "system", ".", "What", "do", "you", "think", "is", "the", "impact", "of", "this", "from", "an", "understanding", "point", "of", "view", "?", "What", "do", "you", "think", "is", "the", "impact", "of", "this", "from", "a", "maintenance", "point", "of", "view", "?", "8", ".", "What", "benefits", ",", "except", "for", "reuse", ",", "do", "you", "think", "inheritance", "provides", "?", "9", ".", "What", "disadvantages", "do", "you", "think", "inheritance", "introduces", "-LRB-", "apart", "from", "the", "ones", "already", "discussed", "-RRB-", "?", "10", ".", "The", "argument", "of", "inheritance", "versus", "multiple", "inheritance", "has", "existed", "for", "some", "time", "now", ".", "What", "are", "your", "opinions", "on", "this", "discussion", "?", "Which", "option", "do", "you", "think", "is", "best", "?", "11", ".", "Without", "discussing", "inheritance", ",", "can", "object-oriented", "code", ",", "in", "your", "opinion", ",", "cause", "problems", "to", "software", "maintenance", "engineers", "?", "Yes", ":", "Expand", "on", "these", "problems", "?", "No", ":", "What", "makes", "it", "easy", "to", "maintain", "then", "?", "12", ".", "It", "is", "possible", "to", "maintain", "imperative", "code", "to", "death", ";", "that", "is", "the", "quality", "of", "the", "code", "deteriorates", "as", "it", "is", "continually", "maintained", ",", "until", "it", "becomes", "unmaintainable", ".", "Do", "you", "think", "that", "this", "can", "happen", "to", "object-oriented", "code", ",", "given", "changes", "are", "performed", "in", "an", "object", "oriented", "fashion", "?", "No", ":", "why", "not", "?", "Yes", ":", "why", "?", "13", ".", "How", "much", "use", "do", "you", "make", "of", "the", "class", "libraries", "-", "which", "language", "?", "14", ".", "Do", "you", "ever", "maintain", "these", "libraries", "by", "updating", "them", "?", "No", ":", "why", "not", "?", "Yes", ":", "What", "is", "the", "procedure", "for", "this", "?", "15", ".", "Do", "you", "think", "as", "class", "libraries", "increase", "in", "size", ",", "and", "are", "used", "more", "often", ",", "the", "maintenance", "overhead", "spent", "on", "them", "will", "be", "greater", "than", "the", "maintenance", "overhead", "of", "the", "actual", "product", "?", "16", ".", "Do", "you", "have", "any", "opinions", "on", "what", "is", "good", "or", "bad", "programming", "style", "when", "concerned", "with", "object-oriented", "code", "quality", "?", "Has", "your", "company", "produced", "guidelines", "you", "should", "adhere", "to", "?", "17", ".", "Given", "that", "a", "software", "maintenance", "engineer", "makes", "changes", "on", "a", "small", "scale", ",", "for", "example", "modifying", "a", "method", ",", "or", "adding", "a", "new", "method", ",", "is", "it", "possible", "to", "know", "whether", "the", "changes", "made", "have", "degraded", "the", "system", "code", "quality", "?", "18", ".", "Would", ",", "in", "your", "opinion", ",", "a", "software", "maintenance", "engineer", "consult", "any", "design", "documentation", "to", "help", "him/her", "understand", "specific", "pieces", "of", "code", "causing", "difficulty", "?", "19", ".", "Do", "you", "think", "that", "dynamic", "binding", "causes", "more", "problems", "than", "advantages", "?", "Yes", ":", "Expand", "on", "the", "specific", "disadvantages", "you", "feel", "are", "the", "worst", ".", "No", ":", "Expand", "on", "the", "specific", "advantages", "you", "feel", "are", "the", "best", ".", "20", ".", "Polymorphism", "has", "been", "said", "to", "be", "a", "great", "strength", "of", "oo", "languages", ",", "but", "is", "also", "said", "to", "introduce", "difficulties", "in", "program", "analysis", "and", "understanding", ".", "Would", "you", "agree", "with", "this", "statement", "?", "Yes", ":", "Why", "?", "No", ":", "Why", "not", "?", "21", ".", "Polymorphism", ",", "however", ",", "requires", "consistent", "use", "of", "method", "names", "within", "a", "system", ".", "Have", "you", "experienced", "any", "particular", "problems", "with", "consistent", "naming", "in", "this", "manner", "?", "What", "about", "the", "case", "of", "operator", "overloading", "?", "Yes", ":", "What", "kind", "of", "problems", "?", "No", ":", "Why", "is", "this", "?", "22", ".", "Are", "you", "aware", "of", "the", "C++", "language", "?", "Yes", ":", "What", "do", "you", "feel", "are", "the", "disadvantages", "of", "this", "language", "when", "compared", "to", "other", "object-oriented", "languages", "?", "What", "advantages", "does", "C++", "hold", "over", "other", "OO", "languages", ".", "No", ":", "nothing", "further", ".", "23", ".", "When", "a", "software", "maintenance", "engineer", "makes", "modifications", "is", "it", "possible", "that", "he", "might", "`", "hack", "in", "a", "quick", "fix", "'", "instead", "of", "trying", "to", "maintain", "object-orientedness", "?", "Yes", ":", "Have", "you", "done", "this", "yourself", "?", "Have", "seen", "this", "done", "by", "any", "of", "your", "colleagues", "?", "Why", "is", "this", "quicker", "?", "No", ":", "Why", "not", "?", "24", ".", "To", "conclude", ",", "do", "you", "believe", "that", "the", "object-oriented", "paradigm", ",", "taking", "everything", "into", "consideration", ",", "is", "beneficial", "?", "25", ".", "Has", "there", "been", "anything", "that", "you", "have", "not", "been", "asked", "that", "you", "feel", "is", "important", "and", "should", "be", "addressed", ",", "or", "anything", "you", "would", "like", "to", "reiterate", "?", "B", "Subject", "responses", "This", "section", "details", "a", "summary", "of", "the", "remarks", "that", "individual", "subjects", "made", "to", "specific", "questions", "and", "issues", ".", "The", "data", "are", "presented", "in", "paraphrased", "form", "-LRB-", "although", "quotes", "indicates", "the", "subjects", "own", "words", "-RRB-", ".", "No", "mention", "of", "a", "subject", "'s", "response", "means", "that", "nothing", "significant", "was", "mentioned", ".", "Tables", "are", "ordered", "by", "interview", "template", "questions", "-LRB-", "Appendix", "A", "-RRB-", ".", "Remarks", "made", "by", "a", "subject", "related", "to", "a", "topic", "but", "not", "given", "directly", "to", "the", "specific", "question", "are", "indicated", "and", "are", "tabulated", "in", "the", "appropriate", "table", ".", "Subject", "Remark", "A", "Small", "but", "up", "to", "50", "B", "1", "-", "100", "C", "100", "+", "-LRB-", "C-Flavours", "-RRB-", "D", "2-50", "E", "1-40", "F", "1-50", ";", "keep", "them", "small", "G", "1-30", "H", "1-20", "I", "5-10", "J", "6", "lines", "K", "1-100", "L", "<", "12", "lines", "M", "1", "-", "screenful", "Table", "4", ":", "Answers", "and", "remarks", "to", "Q.", "4", "Subject", "Remark", "A", "Changes", "are", "localized", ",", "but", "hard", "to", "tell", "if", "system", "quality", "is", "degraded", ".", "Good", "design", "is", "the", "key", "B", "Depends", "on", "the", "design", ":", "changes", "localized", "if", "good", "design", ",", "but", "will", "affect", "the", "whole", "system", "if", "not", "C", "It", "depends", "on", "how", "well", "written", "and", "designed", "they", "are", ":", "less", "implications", "if", "this", "is", "done", "well", ",", "but", "difficult", "to", "maintain", "otherwise", "D", "Must", "be", "well", "designed", ":", "if", "they", "are", "then", "changes", "more", "localized", "E", "Localized", ",", "but", "design", "very", "important", "F", "Design", "very", "important", ":", "have", "classes", "correct", "-LRB-", "good", "abstractions", "-RRB-", "then", "more", "localized", "G", "Well", "designed", "code", "then", "changes", "are", "localized", ";", "bad", "code", "then", "they", "'re", "not", "H", "Good", "design", "important", ":", "if", "good", "design", "then", "changes", "more", "localized", "I", "More", "modular", "code", "with", "object-orientation", "and", "less", "like", "to", "require", "changes", "J", "Localized", ",", "but", "can", "have", "a", "bigger", "global", "effect", ":", "affect", "all", "subclasses", "K", "More", "localized", ",", "design", "important", "L", "Localized", ",", "again", "design", "is", "important", "M", "Objects", "are", "structured", "pieces", "of", "code", ",", "more", "adaptable", "to", "change", "and", "easier", "to", "maintain", "Table", "5", ":", "Answers", "and", "remarks", "to", "Q.", "4", "and", "various", "other", "questions", "Subject", "Remark", "A", "Tools", "are", "useful", "but", "not", "a", "necessity", ";", "class", "browser", "B", "Not", "a", "necessity", ",", "if", "you", "do", "n't", "need", "tools", "to", "understand", "a", "non", "OO", "program", "then", "you", "do", "n't", "need", "them", "for", "an", "OO", "program", "C", "Not", "a", "necessity", ",", "but", "useful", "D", "Not", "a", "necessity", ",", "but", "very", "helpful", "E", "Yes", "a", "necessity", ",", "you", "need", "them", "for", "visibility", "of", "whole", "maintenance", "process", "F", "Yes", "a", "necessity", ",", "but", "that", "'s", "the", "case", "with", "everything", "G", "Not", "a", "necessity", ",", "but", "a", "definite", "benefit", "H", "Yes", "a", "necessity", ":", "it", "'s", "hard", "to", "know", "the", "relationships", "between", "classes", "without", "them", "I", "Tools", "are", "very", "important", ";", "more", "are", "needed", "J", "I", "think", "they", "are", "a", "necessity", ",", "if", "dealing", "with", "something", "big", "then", "yes", "K", "A", "necessity", ":", "they", "help", "to", "visualize", "things", "you", "might", "not", "have", "realised", "L", "A", "necessity", ",", "yes", "I", "think", "so", "M", "A", "necessity", ",", "a", "good", "browser", "is", "essential", "Table", "6", ":", "Answers", "and", "remarks", "from", "Q.", "6", "Subject", "Remark", "A", "Makes", "it", "easier", "if", "abstractions", "are", "designed", "and", "implemented", "properly", "B", "It", "should", "n't", "make", "understanding", "difficult", ":", "inherited", "classes", "should", "implement", "same", "sort", "of", "function", ":", "understand", "the", "base", "class", "method", "to", "know", "what", "it", "'s", "doing", "C", "Inheritance", "makes", "understanding", "easier", ",", "but", "it", "must", "be", "well", "designed", "and", "well", "written", "D", "Inheritance", "causes", "difficulties", "for", "tracing", "the", "flow", "of", "control", "particularly", "with", "multiple", "inheritance", ";", "\\", "you", "do", "n't", "know", "where", "you", "are", "going", "to", "end", "up", ".", "''", "E", "Yes", "without", "fully", "appreciating", "repercussions", "in", "terms", "of", "dynamics", "F", "Yes", ",", "but", "only", "if", "it", "'s", "wrong", ",", "if", "the", "inheritance", "is", "inappropriate", "G", "It", "means", "tracing", "through", "more", "code", ",", "but", "if", "done", "well", "then", "no", "problems", "H", "It", "can", "when", "methods", "are", "overloaded", ",", "e.g.", ",", "where", "does", "this", "member", "variable", "get", "inherited", "?", "is", "hard", "to", "answer", "I", "No", "difficulty", ":", "ca", "n't", "see", "why", "it", "would", "J", "Can", "be", "difficult", "to", "trace", "which", "method", "is", "being", "called", ":", "tools", "help", "K", "Sometimes", ".", "Having", "to", "hunt", "through", "all", "the", "source", "code", "for", "implementation", "is", "problematic", "L", "Depth", "of", "inheritance", "an", "issue", ";", "easy", "to", "understand", "if", "designed", "well", "M", "related", "to", "depth", ",", "e.g.", ",", "if", "you", "have", "to", "trace", "back", "through", "a", "great", "number", "of", "objects", "to", "see", "what", "method", "is", "implemented", "then", "yes", "Table", "7", ":", "Answers", "and", "remarks", "to", "Q.", "6", "Subject", "Remark", "A", "If", "using", "abstraction", "properly", "then", "a", "natural", "way", "of", "writing", "and", "understanding", "code", "B", "If", "designed", "properly", "then", "understanding", "ok", "C", "If", "designed", "and", "written", "well", "then", "ok", ",", "it", "'s", "likely", "to", "aid", "understanding", "D", "No", "great", "impact", "on", "understanding", "E", "No", "more", "understanding", "difficulties", "than", "with", "structured", "programs", "F", "If", "the", "abstractions", "are", "clear", "then", "understanding", "should", "be", "ok", "G", "If", "done", "well", "then", "understanding", "should", "be", "ok", "H", "Inheritance", "simplifies", "things", "hence", "better", "understanding", ";", "\\", "it", "simplifies", "your", "design", ".", "''", "I", "No", "impact", "on", "understanding", ",", "it", "causes", "no", "difficulty", "J", "No", "problem", ",", "you", "do", "n't", "have", "to", "deal", "with", "it", "at", "that", "level", "K", "No", "real", "problem", "L", "The", "hierarchy", "should", "be", "defined", "well", "so", "no", "understanding", "problem", "M", "I", "do", "n't", "really", "know", ":", "it", "goes", "back", "to", "the", "design", ",", "the", "functionality", "spread", "should", "not", "affect", "me", "that", "much", "Table", "8", ":", "Answers", "and", "remarks", "to", "Q.", "7", "Subject", "Remark", "A", "If", "abstraction", "is", "enforced", "then", "it", "should", "be", "ok", ";", "if", "it", "is", "n't", "then", "there", "could", "be", "trouble", ";", "tracing", "of", "dependencies", "can", "be", "difficult", "but", "tools", "help", "B", "Can", "be", "difficult", "if", "inheritance", "is", "deep", ":", "difficult", "to", "trace", "dependencies", "C", "If", "well", "written", "then", "ok", ",", "life", "is", "easier", "D", "Good", "because", "fix", "it", "for", "one", ",", "fix", "it", "for", "all", "subclasses", "E", "Not", "qualified", "to", "answer", "F", "No", "experience", "of", "maintenance", "G", "Tracing", "up", "the", "hierarchy", "can", "be", "a", "problem", "H", "No", "more", "difficult", "than", "tracing", "C", "function", "calls", ",", "in", "fact", "its", "more", "structured", "so", "no", "specific", "problems", ";", "fix", "it", "for", "one", "fix", "it", "for", "all", "I", "No", "impact", ":", "programmers", "do", "n't", "think", "like", "that", "J", "Depth", "of", "inheritance", "is", "an", "issue", ":", "the", "deeper", "the", "hierarchy", "the", "more", "tracing", "required", "therefore", "tools", "are", "important", "K", "Can", "cause", "problems", "because", "it", "may", "break", "subclasses", "who", "use", "the", "method", "that", "'s", "been", "changed", "L", "No", "experience", "of", "maintenance", "M", "Inherent", "object-orientation", "has", "made", "it", "easy", "to", "the", "find", "way", "round", "a", "system", ",", "to", "find", "which", "bit", "was", "requiring", "maintenance", "Table", "9", ":", "Answers", "and", "remarks", "to", "Q.", "7", "Subject", "Remark", "A", "Able", "to", "design", "at", "highest", "level", "of", "abstraction", "B", "Provides", "modularity", "and", "prevents", "code", "redundancy", "C", "Aid", "to", "understanding", "and", "avoids", "code", "duplication", "D", "Simplifies", "control", "structure", "of", "methods", "E", "Provides", "focus", "for", "powerful", "abstraction", "F", "Reduces", "redundancy", ";", "allows", "abstraction", "G", "Helps", "produce", "nice", "designs", "at", "the", "conceptual", "level", "and", "aids", "understanding", "H", "No", "duplication", "of", "functionality", ",", "simplifies", "design", "I", "Reuse", "of", "specification", "J", "Information", "hiding", "and", "encapsulation", "K", "Better", "encapsulation", ",", "quick", "prototyping", ",", "high", "levels", "of", "abstraction", ",", "aid", "to", "understanding", ",", "simulates", "the", "real", "world", "L", "Quick", "prototyping", ",", "single", "inheritance", "good", "for", "design", "M", "\\", "None", ",", "inheritance", "is", "a", "kind", "of", "implementation", "thing", "''", "Table", "10", ":", "Answers", "and", "remarks", "to", "Q.", "8", "Subject", "Remark", "A", "If", "the", "design", "is", "not", "good", "then", "understanding", "inheritance", "is", "a", "problem", "B", "Speed", ";", "the", "deeper", "hierarchy", "then", "the", "more", "complexity", "C", "If", "over", "used", "then", "it", "can", "result", "in", "code", "that", "'s", "harder", "to", "follow", "D", "Tracing", "the", "flow", "of", "control", "E", "Misrepresenting", "abstractions", "is", "a", "problem", "F", "None", "G", "New", "concept", "to", "learn", "H", "None", "experienced", "I", "Multiple", "inheritance", "and", "inappropriate", "use", "of", "inheritance", "J", "Tracing", "dependencies", ";", "what", "method", "is", "this", "attached", "to", "?", "can", "be", "hard", "to", "answer", "K", "If", "not", "designed", "properly", "then", "BIG", "problems", "L", "Multiple", "inheritance", "M", "Losing", "your", "way", "in", "the", "hierarchy", "-LRB-", "related", "to", "depth", "-RRB-", "Table", "11", ":", "Answers", "and", "remarks", "to", "Q.", "9", "Subject", "Remark", "A", "Single", "inheritance", "far", "more", "useful", "B", "Multiple", "inheritance", "complicates", "things", "and", "software", "reuse", "is", "harder", "C", "Use", "multiple", "inheritance", "for", "complex", "applications", ";", "reuse", "and", "maintenance", "is", "easier", "with", "MI", ".", "D", "Multiple", "inheritance", "useful", "at", "the", "coding", "level", "E", "Multiple", "inheritance", "maps", "the", "reality", "of", "the", "system", "F", "Try", "to", "avoid", "multiple", "inheritance", "G", "Multiple", "inheritance", "a", "big", "problem", "-", "it", "'s", "harder", ";", "SI", "is", "the", "way", "to", "do", "it", "H", "Multiple", "inheritance", "a", "trojan", "horse", ":", "it", "makes", "the", "design", "more", "complex", "I", "Multiple", "inheritance", "is", "n't", "worth", "the", "extra", "effort", ";", "it", "'s", "more", "complex", "J", "Multiple", "inheritance", "comes", "very", "naturally", "K", "Multiple", "inheritance", "can", "be", "messy", ":", "it", "'s", "an", "advantage", "but", "you", "must", "have", "a", "solid", "case", "for", "using", "it", "L", "Multiple", "inheritance", "allows", "for", "sloppy", "approach", ";", "you", "do", "n't", "really", "need", "it", "more", "tightly", "coupled", ",", "and", "reuse", "is", "harder", "M", "\\", "Multiple", "inheritance", "helped", "to", "underline", "the", "different", "functionality", "the", "object", "was", "inheriting", "''", "Table", "12", ":", "Answers", "and", "remarks", "to", "Q.", "10", "Subject", "Remark", "A", "Yes", "it", "can", ",", "but", "it", "'s", "related", "to", "the", "learning", "curve", ":", "these", "do", "disappear", "B", "No", "more", "problems", "than", "structured", "code", ";", "difficult", "for", "those", "who", "do", "n't", "know", "the", "code", ";", "splitting", "each", "class", "into", "a", "single", "file", "does", "n't", "help", "C", "Problems", "if", "people", "doing", "maintenance", "do", "n't", "have", "good", "object-oriented", "skills", ",", "but", "if", "these", "skills", "are", "possessed", "then", "it", "'s", "easier", "D", "No", "problems", ",", "need", "knowledge", "of", "basic", "architecture", "but", "that", "'s", "all", ";", "use", "of", "contractors", "easier", "for", "OO", "systems", ":", "they", "can", "get", "up", "to", "speed", "quicker", "E", "If", "only", "partial", "knowledge", "of", "the", "system", "then", "maintenance", "difficulties", "F", "No", ":", "it", "'s", "the", "same", "as", "any", "other", "paradigm", ";", "abstraction", "aids", "maintenance", "G", "If", "personnel", "trained", "properly", "then", "they", "should", "n't", "have", "problems", "H", "Less", "problems", "that", "straight", "C", ":", "OO", "has", "more", "structure", "I", "If", "designed", "properly", "then", "objects", "should", "n't", "need", "maintenance", ",", "just", "specialization", "of", "existing", "classes", "J", "If", "poorly", "documented", "K", "One", "file", "per", "class", "idea", "can", "make", "it", "harder", "but", "tools", "help", "L", "Few", "systems", "mature", "enough", "for", "this", "to", "be", "decided", "M", "Ca", "n't", "envisage", "any", "great", "problems", "from", "it", ",", "my", "experience", "is", "than", "it", "is", "easier", "to", "maintain", "object-oriented", "code", "Table", "13", ":", "Answers", "and", "remarks", "to", "Q.", "11", "Subject", "Remark", "A", "\\", "Getting", "into", "OO", "way", "of", "thinking", "takes", "time", "''", "\\", "learning", "by", "osmosis", "''", "I", "\\", "Learning", "curve", "is", "really", "fierce", "''", "J", "\\", "You", "really", "have", "to", "think", "differently", ";", "I", "'m", "still", "thinking", "in", "structured", "C", "in", "some", "ways", "''", "L", "Almost", "2", "years", "to", "become", "a", "fully", "conversant", "object-oriented", "programmer", "Table", "14", ":", "Remarks", "made", "about", "the", "learning", "curve", "Subject", "Remark", "A", "\\", "Without", "a", "doubt", "''", "The", "rate", "of", "entropy", "leads", "to", "disorder", "and", "abstraction", "will", "eventually", "be", "lost", "B", "Quick", "fixes", "lead", "to", "unmaintainability", ".", "C", "Yes", "but", "process", "is", "slower", "than", "with", "structured", "programs", ".", "D", "Rate", "of", "entropy", "reduced", ":", "it", "'s", "slower", "for", "object-oriented", "systems", "E", "There", "is", "a", "lesser", "tendency", "but", "must", "keep", "object-oriented", "mindset", "F", "Yes", "but", "depends", "on", "the", "design", "of", "the", "changes", ":", "must", "keep", "abstractions", "G", "Slower", "for", "object-oriented", "programs", "H", "If", "quick", "fixes", "unmaintainability", "ensues", ":", "corruption", "of", "the", "design", "I", "Much", "less", "tendency", "for", "object-oriented", "programs", "J", "Not", "as", "easily", "for", "object-oriented", "programs", ":", "changes", "made", "are", "object-oriented", "then", "the", "systems", "should", "n't", "become", "a", "mess", "K", "Less", "likely", "than", "with", "structured", "programs", "L", "Less", "so", "with", "object-oriented", "programs", "M", "Yes", ",", "I", "could", "envisage", "that", "situation", "occurring", "Table", "15", ":", "Answers", "and", "remarks", "to", "Q.", "12", "Subject", "Remark", "A", "A", "lot", ",", "all", "the", "time", "B", "Very", "limited", "use", "C++", "C", "None", "for", "C-flavours", ",", "RogueWave", "for", "C++", "D", "Extensive", "in", "past", ",", "limited", "at", "present", "E", "None", "to", "date", "F", "Pretty", "limited", "G", "RogueWave", "H", "A", "lot", "for", "Objective-C", ",", "limited", "for", "C++", ":", "easier", "to", "write", "general", "purpose", "classes", "in", "Objective-C", "I", "A", "lot", "J", "Use", "bought", "libraries", "all", "the", "time", "K", "All", "the", "time", ";", "we", "build", "our", "own", "libraries", "L", "Extensive", "use", "of", "own", "libraries", "M", "Depends", "on", "what", "'s", "available", "-", "beginning", "to", "in", "C++", ",", "all", "the", "time", "in", "Objective-C", "Table", "16", ":", "Answers", "and", "remarks", "to", "Q.", "13", "Subject", "Remark", "A", "Yes", ",", "take", "code", "from", "another", "programmer", "and", "modify", "it", "for", "new", "requirements", ";", "no", "for", "commercial", "libraries", "B", "No", "for", "commercial", "libraries", ";", "very", "limited", "maintenance", "and", "limited", "reuse", "otherwise", "C", "No", "for", "bought", "libraries", ",", "code", "is", "robust", "D", "Avoid", "it", ",", "perhaps", "specialization", "but", "not", "modifying", "the", "original", "code", "E", "No", "experience", "of", "maintaining", "class", "libraries", "F", "Definitely", ",", "change", "someone", "else", "'s", "code", "to", "meet", "your", "requirements", "H", "A", "little", "maintenance", "but", "nothing", "major", "I", "No", ",", "class", "libraries", "tend", "to", "change", "very", "little", "J", "No", "K", "Yes", ",", "all", "the", "time", "through", "a", "revision", "control", "procedure", "L", "More", "so", "than", "a", "single", "programmer", "might", "do", ";", "trying", "to", "make", "code", "generic", "as", "possible", "in", "order", "to", "allow", "reuse", "M", "No", "Table", "17", ":", "Answers", "and", "remarks", "to", "Q.", "14", "Subject", "Remark", "A", "No", ",", "there", "is", "no", "distinction", "between", "libraries", "and", "application", "B", "Possible", ",", "but", "if", "well", "written", "then", "libraries", "do", "n't", "need", "much", "maintenance", "C", "Less", "maintenance", ":", "likely", "to", "be", "more", "robust", "than", "new", "code", "if", "used", "before", ",", "but", "need", "good", "version", "and", "configuration", "control", "D", "No", ",", "being", "tested", "by", "a", "large", "user", "group", "and", "this", "irons", "out", "the", "bugs", "quickly", ":", "stability", "E", "Depends", "on", "scaleability", "of", "class", "libraries", ":", "need", "version", "and", "configuration", "control", "F", "Class", "libraries", "are", "static", "and", "hence", "reliable", ",", "so", "no", "G", "Class", "libraries", "are", "stable", "once", "they", "'ve", "been", "debugged", ",", "so", "no", "H", "In", "my", "experience", "class", "libraries", "once", "stable", "are", "changed", "very", "little", "I", "No", ",", "little", "maintenance", "of", "class", "libraries", "once", "stable", "J", "It", "'s", "a", "possible", "scenario", ",", "but", "it", "'s", "not", "happening", "at", "the", "moment", "K", "Problems", "get", "ironed", "out", "as", "you", "use", "it", ",", "so", "no", "L", "Should", "n't", "have", "to", "maintain", "libraries", "-LRB-", "Cox", "'s", "maturity", "index", "a", "good", "idea", "-RRB-", ":", "well", "used", "then", "well", "stressed", "and", "exercised", "M", "Depth", "of", "library", "an", "issue", ";", "incremental", "development", "with", "maturity", "index", "should", "prevent", "maintenance", "being", "required", "Table", "18", ":", "Answers", "and", "remarks", "to", "Q.", "15", "Subject", "Remark", "A", "Code", "must", "be", "put", "through", "code", "review", ",", "guidelines", "are", "subjective", ",", "e.g.", ",", "do", "n't", "use", "gotos", ",", "global", "variables", ",", "but", "bad", "design", "produces", "bad", "code", "B", "One", "file", "for", "one", "class", "is", "not", "good", "style", ";", "inconsistency", "C", "Long", "methods", "are", "a", "sign", "that", "something", "wants", "thinking", "about", ";", "excessive", "inheritance", "depth", ";", "\\", "it", "'s", "almost", "less", "the", "coding", "style", "than", "the", "design", "style", "that", "'s", "important", "''", "D", "Short", "methods", ",", "protected", "instead", "of", "public", "inheritance", "where", "possible", ";", "not", "too", "deep", "an", "inheritance", "tree", "E", "I", "'ve", "not", "enough", "programming", "experience", ",", "it", "'s", "vital", "that", "common", "programming", "guidelines", "are", "accepted", "though", "F", "Good", "design", "usually", "means", "good", "code", ":", "we", "have", "code", "reviews", "earlier", "now", "G", "I", "do", "n't", "like", "overloading", ",", "it", "complicates", "things", "too", "much", "H", "Should", "have", "code", "reviews", "to", "sort", "things", "out", ",", "seems", "to", "be", "few", "points", "of", "reference", "for", "OO", "code", "quality", "I", "Identification", "of", "correct", "objects", ";", "inappropriate", "use", "of", "inheritance", ":", "all", "at", "the", "design", "level", "J", "Small", "methods", ";", "mixing", "object-oriented", "code", "with", "procedural", "code", "is", "sloppy", "K", "\\", "Mechanism", "not", "policy", "''", "-LRB-", "based", "on", "good", "design", "-RRB-", "L", "Question", "not", "asked", "M", "Good", "design", "then", "good", "code", ",", "bad", "design", "then", "bad", "code", "Table", "19", ":", "Answers", "and", "remarks", "to", "Q.", "16", "Subject", "Remark", "A", "Difficult", "to", "say", ",", "changes", "should", "be", "localized", ":", "only", "when", "encapsulation", "is", "broken", "is", "there", "a", "worry", ",", "code", "reviews", "help", "B", "Difficult", "to", "know", ",", "code", "reviews", "help", "C", "Its", "no", "more", "impossible", "than", "under", "the", "procedural", "type", "of", "method", ";", "breaking", "encapsulation", "is", "a", "bad", "idea", ",", "code", "reviews", "help", "D", "No", ",", "but", "this", "is", "true", "of", "any", "system", "E", "It", "depends", "on", "the", "utility", "of", "the", "method", "changed", "F", "Use", "metrics", "and", "code", "reviews", "to", "check", "so", "yes", "it", "is", "possible", "G", "No", ",", "but", "a", "code", "review", "should", "spot", "it", "H", "It", "'s", "subjective", ",", "but", "code", "reviews", "spot", "these", "things", "I", "Question", "not", "asked", "J", "Yes", ",", "the", "changes", "should", "be", "tested", "adequately", "and", "encapsulated", "K", "No", ",", "difficult", "to", "tell", ";", "code", "reviews", "help", "L", "Encapsulation", "so", "it", "should", "not", "have", "degraded", "M", "Very", "difficult", "to", "tell", "Table", "20", ":", "Answers", "and", "remarks", "to", "Q.", "17", "Subject", "Remark", "A", "Trouble", "with", "availability", "and", "quality", "of", "design", "documentation", "Subjects", "B", ",", "C", ",", "D", ",", "F", ",", "G", ",", "H", ",", "J", ",", "K", ",", "&", "M", "made", "similar", "statements", "E", "Documentation", "is", "usually", "available", "G", "\\", "Design", "documentation", "is", "important", "otherwise", "you", "are", "back", "to", "where", "you", "were", "before", "''", "L", "Documentation", "for", "OO", "programs", "more", "important", "aid", "to", "understanding", "than", "documentation", "for", "non", "OO", "systems", "M", "\\", "The", "documentation", "is", "essential", "''", "Table", "21", ":", "Answers", "and", "remarks", "to", "Q.", "18", "Subject", "Remark", "A", "No", ",", "without", "dynamic", "binding", "no", "object-oriented", "programming", "B", "No", ",", "really", "useful", ";", "Objective-C", "far", "better", "than", "C++", "for", "it", "C", "No", ",", "it", "allows", "very", "elegant", "code", ",", "but", "there", "can", "be", "problems", "of", "finding", "methods", "bound", "at", "run-time", "D", "No", ",", "it", "'s", "a", "big", "help", ":", "simplifies", "the", "code", ";", "it", "'s", "more", "intuitive", "E", "No", ",", "if", "managed", "well", "it", "maps", "reality", "F", "No", ",", "good/clear", "abstractions", "are", "aided", "by", "it", "G", "If", "you", "understand", "it", ",", "then", "it", "causes", "few", "problems", "H", "No", ",", "it", "makes", "your", "design", "simpler", "I", "Question", "not", "asked", "J", "No", ",", "it", "allows", "generic", "code", ",", "no", "switches", "etc", "K", "No", ",", "it", "provides", "lots", "of", "advantages", "L", "No", ",", "only", "problem", "is", "calling", "a", "non", "existent", "method", "M", "Yes", "if", "you", "are", "careless", ",", "no", "if", "you", "are", "not", "Table", "22", ":", "Answers", "and", "remarks", "to", "Q.", "19", "Subject", "Remark", "A", "No", ",", "using", "a", "message", "should", "have", "the", "same", "effect", "on", "any", "object", "that", "responds", "to", "it", ";", "abstraction", "B", "Yes", ",", "it", "'s", "a", "great", "benefit", ",", "but", "it", "can", "make", "things", "difficult", "to", "understand", ".", "If", "used", "properly", "and", "sparingly", "it", "'s", "advantageous", "C", "Yes", ",", "it", "produces", "generic", "code", ",", "but", "easy", "to", "lose", "track", "of", "what", "'s", "going", "on", "D", "No", ",", "it", "simplifies", "things", "rather", "than", "making", "them", "more", "difficult", ":", "you", "are", "looking", "at", "the", "behaviour", "of", "each", "object", "but", "not", "the", "details", "E", "Maintain", "semantic", "consistency", "and", "no", "problem", ",", "otherwise", "problems", "F", "No", ",", "methods", "with", "same", "name", "should", "achieve", "the", "same", "aim", "G", "Yes", "but", "related", "to", "learning", "the", "concept", "H", "It", "simplifies", "things", ";", "I", "think", "it", "'s", "wonderful", "I", "It", "'s", "the", "most", "important", "property", "in", "OO", "systems", ",", "but", "must", "maintain", "high", "level", "semantics", "J", "It", "can", "cause", "confusion", ":", "you", "just", "have", "to", "be", "careful", "K", "No", "problem", ",", "it", "improves", "understanding", "L", "It", "'s", "an", "aid", "to", "human", "understanding", ",", "it", "'s", "more", "intuitive", "M", "No", "problem", "with", "the", "size", "of", "systems", "I", "'ve", "looked", "at", "Table", "23", ":", "Answers", "and", "remarks", "to", "Q.", "20", "Subject", "Remark", "A", "No", "problems", ",", "perhaps", "with", "operator", "overloading", ",", "but", "tools", "help", "this", "B", "No", "problems", ",", "but", "I", "avoid", "operator", "overloading", "as", "it", "is", "not", "predictable", "C", "No", "problems", ",", "no", "operator", "overloading", "experience", "D", "Yes", ",", "naming", "is", "big", "issue", "in", "object-oriented", "programming", ",", "no", "great", "problems", "with", "operator", "overloading", ",", "but", "no", "great", "experience", "either", "E", "No", "real", "experience", "of", "any", "such", "problems", "F", "Not", "with", "polymorphism", ",", "but", "experience", "of", "operator", "overloading", "not", "pleasant", "G", "No", ",", "but", "little", "use", ";", "operator", "overloading", "used", "sensibly", "then", "useful", "H", "Yes", ",", "it", "'s", "hard", "to", "know", "the", "best", "time", "to", "use", "the", "same", "names", "I", "This", "is", "one", "of", "the", "major", "hidden", "problems", "in", "object-oriented", "systems", ",", "programmers", "must", "understand", "about", "consistent", "naming", ".", "Operator", "overloading", "for", "thoroughly", "defined", "operators", "only", "J", "None", "experienced", ";", "no", "use", "of", "operator", "overloading", "K", "Yes", ",", "easily", "make", "a", "mistake", "renaming", "a", "member", "function", ",", "and", "this", "can", "lead", "to", "subtle", "errors", "that", "are", "hard", "to", "find", "because", "everything", "looks", "ok", "L", "Not", "personally", "M", "No", "Table", "24", ":", "Answers", "and", "remarks", "to", "Q.", "21", "Subject", "Remark", "A", "It", "'s", "been", "hacked", "together", "without", "much", "thought", "B", "Syntax", "of", "it", ",", "can", "be", "very", "obscure", "C", "Same", "pitfalls", "as", "C", ",", "easy", "to", "write", "C", "in", "C++", ".", "\\", "Regress", "back", "into", "doing", "something", "in", "a", "C", "fashion", "when", "they", "should", "be", "doing", "it", "in", "OO", "fashion", "''", "D", "Complicated", ",", "tries", "to", "do", "everything", ",", "inconsistent", "E", "Unit", "of", "modularity", ",", "the", "class", ",", "has", "not", "been", "scaled", "up", "F", "Same", "problems", "as", "C", ",", "strong", "typing", ",", "write", "C", "instead", "of", "C++", "G", "All", "of", "the", "C", "problems", "H", "Huge", "monster", "of", "a", "language", ",", "strongly", "typed", ",", "obscure", "I", "Time", "bomb", "on", "wheels", ",", "allows", "bad", "programmers", "to", "write", "bad", "object-oriented", "code", "J", "Almost", "programming", "in", "C", ";", "mixing", "and", "matching", "paradigms", "is", "sloppy", "K", "Undefined", "areas", "-LRB-", "e.g.", ",", "protected", "inheritance", "-RRB-", ",", "does", "n't", "look", "object-oriented", ",", "does", "n't", "encourage", "object-oriented", "way", "of", "thinking", "L", "Does", "n't", "encourage", "object-oriented", "programming", ":", "you", "may", "write", "C", "instead", "of", "C++", ";", "it", "'s", "strongly", "typed", "M", "Strong", "typing", ";", "sold", "as", "a", "better", "C", ":", "allows", "you", "to", "feel", "as", "if", "you", "are", "an", "object-oriented", "programmer", ",", "but", "you", "are", "not", ",", "allows", "you", "to", "write", "C", ";", "not", "forced", "to", "write", "object-oriented", "code", "Table", "25", ":", "Answers", "and", "remarks", "to", "Q.", "22", "Subject", "Remark", "A", "Its", "efficiency", "and", "popularity", "B", "Its", "fast", "C", "Its", "performance", "D", "Familiarity", "with", "C", "and", "speed", "E", "Difficult", "to", "say", "if", "it", "has", "any", "F", "Control", "over", "everything", "G", "Its", "performance", "H", "Its", "performance", "I", "Allows", "use", "existing", "C", "libraries", "and", "OO", "is", "taking", "off", "because", "of", "C++", "J", "Its", "efficiency", ";", "existing", "C", "libraries", "K", "More", "efficient", "L", "Efficiency", "and", "it", "'s", "street", "credibility", "M", "Efficient", ";", "backed", "by", "AT&T", "Table", "26", ":", "Answers", "and", "remarks", "to", "Q.", "22", "Subject", "Remark", "A", "\\", "Yes", ",", "without", "a", "doubt", ".", "It", "'s", "common", "practice", "''", "\\", "Time", "pressure", "does", "exist", "''", "B", "It", "depends", "on", "the", "maintainer", ".", "It", "'s", "\\", "easier", "in", "C++", "''", "C", "\\", "Entirely", "possible", "''", "\\", "Only", "thing", "you", "can", "do", "in", "the", "time", "''", "D", "\\", "Absolutely", ",", "someone", "pushed", "in", "a", "hurry", "will", "do", "it", "the", "easiest", "way", "''", "E", "\\", "It", "'s", "too", "easy", "in", "C++", "''", "F", "Yes", "because", "of", "time", "pressures", "G", "\\", "Yes", ",", "but", "that", "'s", "bad", "maintenance", "rather", "than", "design", "''", "H", "\\", "There", "'s", "a", "good", "chance", "it", "might", "happen", "''", "I", "'ve", "only", "done", "it", "once", "I", "\\", "Yes", "particularly", "in", "C++", "''", "J", "In", "C++", "a", "lot", "easier", "to", "do", "quick", "fix", ";", "depends", "on", "nature", "of", "the", "project", "as", "well", "as", "individual", "K", "\\", "Yes", "absolutely", "''", "L", "\\", "One", "of", "the", "dangers", "in", "these", "hybrid", "languages", "''", "M", "\\", "It", "'s", "all", "too", "easy", ",", "it", "'s", "really", "easy", ",", "and", "the", "temptation", "is", "always", "there", "Table", "27", ":", "Answers", "and", "remarks", "to", "Q.", "23", "Subject", "Remark", "A", "time", "constraints", "have", "caused", "quick", "fixes", "to", "OO", "code", "in", "the", "past", "Subjects", "C", ",", "D", ",", "F", ",", "and", "K", "made", "similar", "statements", "D", "Must", "try", "to", "remain", "competitive", "and", "that", "can", "cause", "quick", "fixes", "K", "Documentation", "is", "the", "first", "thing", "that", "suffers", "because", "of", "time", "constraints", "Table", "28", ":", "Remarks", "about", "time", "constraints", "when", "performing", "quick", "fixes" ]

[ "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "appear", "in", "Journal", "of", "Artificial", "Neural", "Networks", ",", "1995", ".", "?", "This", "research", "is", "funded", "in", "part", "by", "grants", "from", "Novell", "Inc.", "and", "Word", "Perfect", "Corp.", ".", "An", "Efficient", "Transformation", "for", "Implementing", "Two-layer", "Feedforward", "Neural", "Networks", "George", "L.", "Rudolph", "Tony", "R.", "Martinez", "Computer", "Science", "Department", "Brigham", "Young", "University", "Provo", ",", "Utah", "84602", "Abstract", "?", "Most", "Artificial", "Neural", "Networks", "-LRB-", "ANNs", "-RRB-", "have", "a", "fixed", "topology", "during", "learning", ",", "and", "often", "suffer", "from", "a", "number", "of", "short-comings", "as", "a", "result", ".", "Variations", "of", "ANNs", "that", "use", "dynamic", "topologies", "have", "shown", "ability", "to", "overcome", "many", "of", "these", "problems", ".", "This", "paper", "introduces", "Location-Independent", "Transformations", "-LRB-", "LITs", "-RRB-", "as", "a", "general", "strategy", "for", "implementing", "distributed", "feedforward", "networks", "that", "use", "dynamic", "topologies", "-LRB-", "dynamic", "ANNs", "-RRB-", "efficiently", "in", "parallel", "hardware", ".", "A", "LIT", "creates", "a", "set", "of", "location-independent", "nodes", ",", "where", "each", "node", "computes", "its", "part", "of", "the", "network", "output", "independent", "of", "other", "nodes", ",", "using", "local", "information", ".", "This", "type", "of", "transformation", "allows", "efficient", "support", "for", "adding", "and", "deleting", "nodes", "dynamically", "during", "learning", ".", "In", "particular", ",", "this", "paper", "presents", "an", "LIT", "for", "dynamic", "Backpropagation", "networks", "with", "a", "single", "hidden", "layer", ".", "The", "complexity", "of", "both", "learning", "and", "execution", "algorithms", "is", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "for", "a", "single", "pattern", ",", "where", "n?is", "the", "number", "of", "inputs", ",", "p", "is", "the", "number", "of", "outputs", ",", "and", "m", "is", "the", "number", "of", "hidden", "nodes", "in", "the", "original", "network", ".", "I.", "INTRODUCTION", "Hardware", "support", "for", "ANNs", "is", "important", "for", "handling", "large", ",", "complex", "problems", "in", "real", "time", ".", "Learning", "times", "can", "exceed", "tolerable", "limits", "for", "applications", "of", "large", "size", "and", "complexity", "using", "conventional", "computing", "schemes", ".", "Furthermore", ",", "hardware", "is", "becoming", "cheaper", "and", "easier", "to", "design", ".", "The", "Location-Independent", "Transformation", "-LRB-", "LIT", "-RRB-", "is", "a", "general", "implementation", "strategy", "for", "ANNs", "that", "overcomes", "several", "weaknesses", "of", "current", "hardware", "implementation", "methods", ".", "Most", "ANNs", "use", "static", "topologies?the", "topology", "is", "fixed", "initially", ",", "and", "remains", "the", "same", "throughout", "learning", ".", "ANNs", "with", "static", "topologies", "often", "suffer", "from", "the", "following", "short-comings", ":", "?", "sensitivity", "to", "user-supplied", "parameters", ":", "learning", "rate", "-LRB-", "s", "-RRB-", ",", "etc.", ",", "?", "local", "error", "minima", "during", "learning", ",", "?", "there", "is", "no", "mechanism", "for", "deciding", "on", "an", "effective", "initial", "topology", "-LRB-", "number", "of", "nodes", ",", "number", "of", "layers", ",", "etc.", "-RRB-", ".", "Current", "research", "is", "demonstrating", "the", "use", "of", "dynamic", "topologies", "in", "overcoming", "these", "problems", "-LSB-", "2-5", "-RSB-", ",", "-LSB-", "10-13", "-RSB-", ",", "-LSB-", "16", "-RSB-", ".", "A", "dynamic", "topology", "is", "one", "which", "allows", "adding", "and", "deleting", "both", "nodes", "and", "weighted", "connections", "during", "learning", ".", "Early", "ANN", "hardware", "implementations", "are", "model-specific", ",", "and", "are", "intended", "to", "support", "static", "topologies", "-LSB-", "6-7", "-RSB-", ",", "-LSB-", "13", "-RSB-", ".", "More", "recent", "neurocomputer", "systems", "have", "specialized", "neural", "hardware", ",", "and", "seek", "to", "support", "more", "general", "classes", "of", "ANNs", "-LSB-", "8", "-RSB-", ",", "-LSB-", "15", "-RSB-", ",", "-LSB-", "21", "-RSB-", ".", "Although", "some", "neurocomputers", "could", "potentially", "support", "dynamic", "topologies", "more", "directly", "in", "hardware", ",", "rather", "than", "in", "software", ",", "they", "currently", "do", "not", ".", "Of", "course", ",", "general", "parallel", "machines", ",", "like", "the", "Connection", "Machine", "-LSB-", "9", "-RSB-", "and", "the", "CRAY", "-LSB-", "1", "-RSB-", ",", "can", "simulate", "the", "desired", "dynamics", "in", "software", ",", "but", "these", "machines", "are", "not", "optimized", "for", "neural", "computation", ".", "LIT", "supports", "general", "classes", "of", "ANNs", "and", "dynamic", "topologies", "in", "an", "efficient", "parallel", "hardware", "implementation", ".", "LIT", "redesigns", "the", "original", "network", "into", "a", "hierarchical", ",", "parallel", "network", "of", "LocationIndependent", "nodes", "-LRB-", "LI-nodes", "-RRB-", ".", "A", "LI-node", "contains", "enough", "information", "locally", "to", "compute", "its", "function", "independent", "of", "any", "other", "node", "in", "the", "network", ".", "The", "set", "of", "LI-nodes", "is", "then", "embedded", "in", "a", "uniform", "tree", "topology", ".", "Figure", "1", "gives", "a", "general", "view", "of", "LIT", ".", "Execution", "-LRB-", "running", "the", "network", "-RRB-", "and", "learning", "are", "based", "on", "efficient", "broadcast/gather", "operations", "in", "the", "tree", ".", "Because", "the", "nodes", "are", "location-independent", ",", "they", "can", "be", "placed", "anywhere", "in", "the", "tree", ",", "and", "dynamic", "topologies", "can", "be", "efficiently", "and", "easily", "supported", ":", "Adding", "nodes", "is", "as", "simple", "as", "allocating", "free", "nodes", "in", "the", "tree", ";", "deleting", "nodes", "is", "as", "simple", "as", "de-allocating", "the", "desired", "nodes", ".", "LITs", "have", "been", "developed", "for", "counterpropagation", "and", "competitive", "learning", "-LSB-", "18", "-RSB-", ",", "and", "Adaptive", "Self-Organizing", "Concurrent", "Systems", "?", "Adaptive", "Algorithm", "2", "-LSB-", "12", "-RSB-", ",", "-LSB-", "17", "-RSB-", ".", "LITs", "can", "potentially", "support", "a", "broad", "set", "of", "ANNs", ",", "thus", "allowing", "one", "efficient", "implementation", "strategy", "to", "support", "dynamic", "variations", "of", "many", "ANNs", ".", "This", "paper", "presents", "the", "transformation", "for", "backpropagation", "-LRB-", "BP", "-RRB-", "networks", "with", "a", "single", "hidden", "layer", ",", "though", "the", "same", "basic", "transformation", "applies", "to", "networks", "with", "an", "arbitrary", "number", "of", "layers", "-LSB-", "19", "-RSB-", ".", "Many", "dynamic", "extensions", "to", "BP", "have", "been", "proposed", "in", "the", "literature", "-LSB-", "3-5", "-RSB-", ",", "-LSB-", "10", "-", "11", "-RSB-", ",", "-LSB-", "14", "-RSB-", ",", "-LSB-", "22", "-RSB-", ".", "The", "dynamic", "BP", "algorithm", "presented", "in", "this", "paper", "borrows", "ideas", "from", "-LSB-", "14", "-RSB-", ".", "However", ",", "the", "reader", "should", "not", "assume", "that", "this", "is", "the", "only", "model", "supported", "by", "LIT?rather", "it", "is", "an", "illustrative", "example", "of", "the", "LIT", "strategy", ".", "Section", "II", "presents", "a", "general", "overview", "of", "LIT", ";", "section", "III", "demonstrates", "the", "transformation", "of", "2-layer", "BP", "models", ",", "and", "gives", "the", "?", "transformed", "?", "versions", "of", "algorithms", "for", "the", "standard", "BP", "model", "-LSB-", "20", "-RSB-", ";", "section", "IV", "presents", "an", "overview", "of", "the", "dynamic", "BP", "model", "of", "-LSB-", "14", "-RSB-", ",", "and", "extends", "the", "learning", "algorithm", "of", "section", "III", "accordingly", ";", "section", "V", "gives", "a", "complexity", "analysis", "of", "the", "algorithms", "in", "section", "III", "and", "IV", ";", "section", "VI", "is", "the", "conclusion", ".", "1", ".", "Transform", "the", "ANN", "2", ".", "Embed", "the", "LI-nodes", "in", "a", "tree", "arbitrary", "number", "of", "hidden", "layers", "LI-Nodes", "m", "m", "Figure", "1", ".", "General", "LIT", "Transformation", "II", ".", "THE", "TRANSFORMED", "NETWORK", "A", "transformation", "redesigns", "the", "network", "so", "that", "each", "node", "contains", "enough", "information", "locally", "to", "compute", "its", "part", "of", "the", "network", "output", ",", "independent", "of", "any", "other", "node", ".", "A", "network", "whose", "nodes", "have", "this", "property", "is", "said", "to", "be", "location-independent", ".", "The", "nodes", "also", "are", "locationindependent?regardless", "of", "the", "physical", "location", "of", "any", "node", "in", "the", "network", ",", "the", "relative", "order", "in", "which", "they", "compute", "results", ",", "or", "the", "order", "in", "which", "those", "results", "are", "gathered", ",", "the", "individual", "computations", "are", "the", "same", ",", "and", "the", "network", "output", "is", "the", "same", ".", "Furthermore", ",", "because", "a", "node?s", "information", "is", "local", ",", "adding", "or", "deleting", "nodes", "from", "the", "network", "can", "be", "done", "without", "affecting", "any", "other", "nodes", ".", "Thus", ",", "location-independence", "allows", "efficient", "support", "for", "dynamic", "topologies", ".", "Intuitively", ",", "the", "transformation", "is", "applied", "to", "the", "intial", "topology", "of", "the", "original", "network", ",", "before", "any", "learning", "has", "taken", "place", ";", "however", ",", "it", "can", "be", "viewed", "as", "being", "applied", "to", "some", "``", "snapshot", "''", "of", "the", "network", ",", "at", "any", "time", ",", "and", "the", "process", "is", "still", "the", "same", ".", "In", "this", "paper", ",", "the", "term", "Control", "Unit?refers", "to", "a", "mechanism", "that", "broadcasts", "inputs", "to", "a", "network", ",", "and", "gathers", "results", "from", "it", ".", "The", "term", "original", "refers", "to", "a", "network", "before", "it", "is", "transformed", ",", "and", "the", "term", "transformed", "refers", "to", "a", "network", "after", "it", "has", "been", "transformed", ".", "These", "terms", "apply", "similarly", "to", "the", "nodes", "as", "well", ".", "The", "number", "of", "layers", "refers", "to", "the", "number", "of", "weight", "layers", ".", "LIT", "is", "a", "two-step", "process", ":", "1", ".", "Construct", "a", "set", "of", "location-independent", "nodes", "based", "on", "the", "original", "model", ".", "2", ".", "Embed", "the", "nodes", "in", "a", "tree", ".", "This", "process", "is", "outlined", "in", "figure", "2", ".", "Based", "on", "an", "original", "ANN", "model", "-LRB-", "left", "-RRB-", ",", "a", "set", "of", "LI-nodes", "is", "constructed", "-LRB-", "middle", "-RRB-", ",", "and", "the", "nodes", "are", "embedded", "in", "a", "tree", "-LRB-", "right", "-RRB-", ".", "LIT", "is", "not", "simply", "a", "reorganization", "of", "the", "original", "network", ",", "but", "rather", "involves", "redesigning", "the", "basic", "structure", ".", "The", "4x5x3", "original", "network", "in", "figure", "2", "is", "transformed", "to", "a", "network", "with", "five", "4x3", "nodes", "in", "a", "tree", ".", "A", "construction", "typically", "also", "involves", "reformulating", "the", "network", "equations", ",", "in", "order", "to", "more", "particularly", "describe", "the", "behavior", "of", "the", "transformed", "network", ".", "Although", "the", "original", "and", "transformed", "networks", "compute", "equivalent", "functions", ",", "correspondences", "between", "the", "two", "are", "not", "always", "direct", ",", "nor", "obvious", ".", "Details", "of", "a", "construction", "vary", "across", "different", "ANNs", ".", "1", "2", "3", "4", "5", "2", "3", "54", "1", "2", "4", "1", "5", "3", "1", ".", "Transform", "the", "ANN", "2", ".", "Embed", "the", "LI-nodes", "in", "a", "tree", "Figure", "2", ".", "An", "Example", "Location-Independent", "Transformation", "A", "communication", "topology", "can", "be", "chosen", "as", "a", "matter", "of", "speed", ",", "cost", "and", "reliability", ".", "The", "same", "topology", "can", "be", "used", "with", "many", "models", ".", "A", "binary", "tree", "topology", "is", "specified", "in", "the", "second", "step", "in", "figures", "1", "and", "2", ".", "It", "is", "a", "simple", ",", "fast", ",", "regular", ",", "hierarchical", "topology", "that", "naturally", "supports", "broadcast", "and", "gather", "operations", ".", "It", "provides", "a", "basis", "for", "applying", "the", "transformation", "and", "explaining", "the", "associated", "execution", "and", "learning", "algorithms", ",", "without", "obscuring", "the", "details", "with", "a", "complex", "interconnect", ".", "However", ",", "a", "hypercube", ",", "or", "some", "other", "more", "fault-tolerant", "topology", ",", "could", "also", "be", "used", ".", "Hierarchical", "topologies", "allow", "adding", "or", "deleting", "nodes", "with", "time", "logarithmic", "in", "the", "number", "of", "nodes", "in", "the", "network", ",", "while", "limiting", "connectivity", "among", "nodes", ".", "The", "connectivity", "of", "a", "binary", "tree", "does", "not", "explode", "because", "each", "node", "is", "connected", "to", "one", "parent", "and", "zero", "to", "two", "children", ".", "The", "algorithms", "for", "the", "transformed", "network", "show", "explicitly", "how", "the", "required", "communication", "can", "take", "place", ".", "An", "example", "illustrates", "the", "support", "for", "dynamic", "topologies", ".", "When", "a", "node", "is", "added", "to", "-LRB-", "deleted", "from", "-RRB-", "an", "original", "network", ",", "both", "the", "node", "and", "its", "connections", "to", "other", "nodes", "are", "added", "-LRB-", "deleted", "-RRB-", ".", "If", "a", "hidden", "node", "6", "were", "added", "to", "the", "original", "network", "in", "figure", "2", ",", "four", "connections", "to", "the", "input", "and", "three", "connections", "to", "the", "output", "nodes", "would", "also", "be", "added", ".", "This", "is", "accomplished", "in", "the", "transformed", "network", "by", "allocating", "a", "free", "node", ",", "such", "as", "the", "left", "child", "of", "node", "3", ",", "and", "initializing", "it", "as", "a", "4x3", "node", "with", "the", "corresponding", "weights", ".", "The", "deletion", "of", "a", "hidden", "node", "in", "the", "original", "network", ",", "such", "as", "node", "5", ",", "is", "accomplished", "in", "the", "transformed", "network", "by", "marking", "the", "corresponding", "node", "as", "?", "free", "?", ".", "No", "other", "nodes", "are", "affected", ".", "III", ".", "TRANSFORMATION", "OF", "A", "2-LAYER", "BP", "NETWORK", "It", "is", "assumed", "that", "the", "reader", "is", "familiar", "with", "the", "standard", "BP", "model", "-LSB-", "20", "-RSB-", ",", "however", "some", "necessary", "definitions", "are", "given", "here", ".", "Following", "that", "is", "a", "discussion", "of", "the", "structure", "and", "operation", "of", "a", "transformed", "node", ".", "In", "this", "description", ",", "variables", "are", "introduced", ",", "used", "and", "defined", "informally", ".", "Formal", "definitions", "of", "variables", "are", "given", "in", "sections", "III.C", "and", "III.D", ",", "which", "give", "the", "execution", "and", "learning", "algorithms", ",", "respectively", ".", "A.", "BP", "Definitions", "In", "a", "BP", "network", ",", "there", "are", "typically", "three", "groups", "of", "nodes?input", "nodes", ",", "output", "nodes", ",", "and", "hidden", "nodes", "-LRB-", "see", "figure", "3", "-RRB-", ".", "In", "the", "standard", "BP", "model", ",", "the", "input", "nodes", "act", "as", "place-holders", "only", ",", "and", "do", "not", "perform", "any", "function", "on", "the", "values", "they", "receive", "-LRB-", "some", "BP", "models", "may", "use", "the", "nodes", "for", "preprocessing", "such", "as", "normalization", ",", "but", "this", "is", "not", "part", "of", "the", "basic", "model", "-RRB-", ".", "A", "network", "may", "have", "an", "arbitrary", "number", "of", "layers", "of", "weights", ",", "but", "2-layer", "and", "3-layer", "networks", "-LRB-", "counting", "by", "the", "number", "of", "weight", "layers", "-RRB-", "are", "the", "most", "common", ",", "and", "in", "this", "paper", ",", "only", "the", "LIT", "for", "2-layer", "networks", "is", "presented", ".", "The", "LIT", "for", "networks", "with", "more", "than", "two", "layers", "is", "presented", "in", "-LSB-", "19", "-RSB-", ".", "Here", ",", "and", "throughout", "the", "rest", "of", "this", "paper", ",", "given", "a", "node", "j", ",", "all", "the", "nodes", "in", "the", "same", "node", "layer", "as", "j", "are", "referred", "to", "collectively", "as", "the", "current", "layer", ".", "The", "nodes", "in", "the", "node", "layer", "labeled", "with", "k", "are", "referred", "to", "as", "the", "subsequent", "layer", ".", "The", "nodes", "in", "the", "node", "layer", "labeled", "with", "i", "?", "are", "referred", "to", "as", "the", "previous", "layer", ".", "This", "terminology", "is", "straightforward", "in", "execution", "mode", "or", "in", "the", "feedforward", "phase", "of", "learning", ".", "Note", "that", "the", "names", "remain", "the", "same", "during", "the", "backpropagation", "phase", "of", "learning", ".", "From", "the", "point", "of", "view", "of", "a", "hidden", "node", "j", ",", "the", "weights", "on", "its", "inputs", "are", "referred", "to", "collectively", "as", "uj", ",", "and", "the", "weights", "on", "its", "output", "as", "wj", ".", "i", "i", "i", "i", "kkk", "j", "Figure", "3", ".", "Use", "of", "the", "BP", "equations", "for", "an", "arbitrary", "hidden", "node", "j.", "B.", "Transformation", "Figure", "4", "shows", "the", "transformation", "of", "the", "4x5x3", "network", "into", "a", "6-node", "location-independent", "network", "-LRB-", "from", "figure", "2", "-RRB-", ".", "There", "are", "five", "nodes", "in", "the", "new", "network", ",", "one", "node", "in", "the", "transformed", "network", "for", "each", "node", "in", "the", "original", "hidden", "layer", ",", "plus", "one", "bias", "node", ".", "Figure", "5", "shows", "a", "node", "in", "the", "transformed", "network", "-LRB-", "transformed", "node", "-RRB-", "in", "more", "detail?the", "left", "side", "shows", "a", "node", "operating", "during", "execution", "mode", "and", "the", "forward", "phase", "of", "learning", ",", "while", "the", "right", "side", "shows", "the", "backpropagation", "phase", "of", "learning", ".", "The", "structure", "and", "operation", "of", "a", "transformed", "node", "-LRB-", "except", "the", "bias", "node", "-RRB-", "and", "transformed", "network", "is", "best", "introduced", "by", "informal", "comparison", "with", "an", "original", "hidden", "node", ",", "node", "2", "in", "figure", "4", ",", "for", "example", ".", "The", "original", "node", "2", "has", "four", "weights", "from", "the", "input", "layer", ",", "and", "three", "weights", "to", "the", "output", "layer", ".", "A", "transformed", "BP", "node", "therefore", "stores", "two", "vectors", "-LRB-", "layers", "-RRB-", "of", "weights?one", "on", "inputs", "-LRB-", "hereafter", "uj", "-RRB-", "and", "one", "on", "outputs", "-LRB-", "hereafter", "wj", "-RRB-", ".", "The", "transformed", "node", "2", "has", "four", "weights", "in", "uj", "and", "three", "weights", "in", "wj", ".", "Each", "weight", "in", "the", "transformed", "node", ",", "uij", "or", "wjk", ",", "has", "the", "value", "of", "the", "corresponding", "original", "weight", ".", "Each", "transformed", "node", "also", "stores", "a", "bias", "value", "qj", ",", "which", "corresponds", "to", "the", "bias", "value", "in", "the", "respective", "original", "hidden", "node", ".", "For", "purposes", "of", "execution", "and", "learning", ",", "qj", "can", "be", "treated", "as", "a", "component", "of", "uj", ".", "The", "bias", "node", "is", "like", "the", "other", "transformed", "nodes", ",", "with", "some", "exceptions", ".", "It", "needs", "no", "uj", ",", "because", "its", "activation", "is", "always", "1", ".", "The", "elements", "of", "its", "wj", "each", "correspond", "to", "one", "of", "the", "biases", "from", "the", "nodes", "in", "the", "original", "output", "layer", ".", "It", "has", "no", "additional", "bias", "values", "of", "its", "own", ".", "In", "all", "other", "respects", ",", "the", "bias", "node", "behaves", "like", "the", "other", "transformed", "nodes", ".", "1", "2", "3", "4", "5", "2", "3", "4", "1", "2", "4", "1", "5", "3", "1", ".", "Transform", "the", "ANN", "2", ".", "Embed", "the", "LI-nodes", "in", "a", "tree", "6", "6", "5", "Figure", "4", ".", "Transforming", "a", "2-layer", "BP", "Network", "B.", "1", ".", "Execution", "Mode", "in", "the", "Transformed", "Network", "The", "network", "executes", "as", "follows", ":", "The", "Control", "Unit", "sends", "the", "inputs", "to", "the", "root", "node", ",", "which", "passes", "those", "values", "onto", "each", "of", "its", "children", ",", "and", "they", "to", "theirs", ",", "and", "so", "on", ".", "Each", "node", "-LRB-", "except", "the", "bias", "node", "-RRB-", "receives", "the", "broadcast", ",", "multiplies", "each", "input", "by", "the", "corresponding", "weight", "on", "the", "input", ",", "and", "sums", "the", "results", "together", "with", "each", "node?s", "bias", ".", "The", "result", "of", "this", "summation", "is", "the", "same", "as", "the", "original", "netj", ".", "f", "-LRB-", "netj", "-RRB-", ",", "the", "sigmoid", "of", "each", "netj", ",", "is", "then", "computed", "at", "each", "node", ".", "This", "corresponds", "to", "the", "scalar", "Oj", "for", "a", "hidden", "node", "j", "in", "the", "original", "network", ".", "In", "the", "bias", "node", ",", "f", "-LRB-", "netj", "-RRB-", "is", "not", "computed", ",", "but", "is", "always", "1", ".", "The", "weights", "on", "output", "are", "each", "multiplied", "by", "f", "-LRB-", "netj", "-RRB-", ",", "to", "produce", "an", "output", "vector", "which", "is", "the", "new", "Oj", ".", "O2", ",", "the", "output", "vector", "for", "the", "transformed", "node", "2", ",", "corresponds", "to", "the", "weights", "out", "of", "the", "original", "node", "2", "each", "multiplied", "by", "the", "scalar", "O2", ".", "The", "vector", "summation", "of", "the", "transformed", "nodes", "?", "output", "vectors", "is", "accomplished", "by", "a", "gather", "operation", ".", "Node", "2", "receives", "O4", "and", "O5", "from", "its", "children", ",", "does", "the", "vector", "sum", "of", "these", "with", "O2", ",", "and", "sends", "the", "result", "to", "the", "root", "node", ",", "for", "example", ".", "The", "components", "of", "the", "vector", "Y", "-LRB-", "the", "vector", "sum", "of", "all", "Oj", "including", "the", "Oj", "of", "the", "bias", "node", "-RRB-", "at", "the", "root", "node", "correspond", "to", "netj", "in", "each", "of", "the", "output", "nodes", "in", "the", "original", "network", ".", "Output", "Input", "wj1", "dw1", "d", "u", "j", "backpropagation", "phase", "of", "learning", "dw2", "dw3", "wj2", "wjp", "uj1", "uj2", "u", "jn", "Output", "x1", "x2", "Input", "u1j", "u2j", "wj1", "wj2", "xn", "wjp", "Ojp", "j1", "O", "Oj2", "s", "-LRB-", "-RRB-", "net", "j", "execution", "mode", "&", "forward", "phase", "of", "learning", "unj", "Figure", "5", ".", "Two", "Views", "of", "a", "Node", "in", "the", "Transformed", "Network", ".", "The", "left", "shows", "a", "node", "operating", "in", "execution", "mode", "and/or", "the", "forward", "phase", "of", "learning", ".", "The", "right", "shows", "a", "node", "during", "the", "backpropagation", "phase", "of", "learning", ".", "At", "this", "point", "Y", "resides", "at", "the", "root", "node", ".", "Now", "however", ",", "the", "sigmoid", "of", "each", "component", "of", "Y", "needs", "to", "be", "computed", ",", "in", "order", "to", "produce", "values", "corresponding", "to", "the", "output", "values", "of", "the", "original", "output", "nodes", ".", "This", "vector", "of", "output", "values", "is", "called", "Z.", "Z", "can", "be", "computed", "in", "parallel", "fashion", "in", "two", "ways", ":", "1", ".", "by", "a", "pipelined", "computation", "executed", "as", "the", "root", "node", "sends", "Y", "to", "the", "Control", "Unit", ",", "or", "2", ".", "by", "distributing", "-LRB-", "through", "rebroadcasting", "-RRB-", "Y", "to", "the", "nodes", "in", "the", "network", ",", "where", "each", "node", "computes", "zi", "from", "a", "component", "yi", ",", "and", "then", "gathering", "Z", ".", "There", "are", "two", "main", "factors", "involved", "in", "deciding", "how", "to", "compute", "Z?from", "Y", ":", "computation", "time", "and", "communication", "time", ".", "If", "computation", "time", "is", "fast", "relative", "to", "communication", "time", ",", "then", "method", "1", "is", "more", "efficient", ".", "If", ",", "on", "the", "other", "hand", ",", "communication", "is", "fast", "relative", "to", "computation", ",", "the", "second", "method", "is", "more", "efficient", ".", "For", "BP", ",", "computation", "of", "the", "sigmoid", "is", "very", "fast", "compared", "to", "the", "time", "needed", "to", "send", "values", "to", "the", "Control", "Unit", ",", "or", "to", "broadcast", "back", "to", "the", "network?thus", ",", "for", "the", "BP", "model", ",", "the", "method", "using", "the", "pipe", "is", "preferable", ".", "Using", "the", "piped", "scheme", "then", ",", "Z", "is", "computed", "as", "the", "root", "node", "sends", "Y", "to", "the", "Control", "Unit", ",", "at", "which", "point", "the", "Control", "Unit", "has", "the", "network", "output", ".", "For", "execution", ",", "this", "pipe", "has", "only", "one", "computation?the", "sigmoid?but", "the", "pipe", "for", "learning", "-LRB-", "below", "-RRB-", "has", "more", "steps", ".", "B.", "2", ".", "Learning", "Mode", "in", "the", "Transformed", "Network", "-LRB-", "Standard", "BP", "-RRB-", "As", "in", "the", "original", "model", ",", "learning", "iterates", "over", "a", "series", "of", "patterns", ",", "until", "convergence", "is", "reached", ".", "As", "each", "pattern", "is", "presented", "for", "learning", ",", "the", "network", "proceeds", "through", "a", "forward", "phase", "and", "then", "a", "backpropagation", "phase", ",", "as", "follows", ":", "First", ",", "present", "the", "training", "pattern", "to", "the", "network", "as", "above", "for", "execution", ",", "up", "to", "the", "point", "at", "which", "Y", "resides", "at", "the", "root", "node", ".", "This", "is", "the", "forward", "phase", ".", "Second", ",", "the", "backpropagation", "phase", "begins", ".", "The", "first", "step", "of", "the", "backpropagation", "phase", "is", "to", "compute", "an", "error", "value", "-LRB-", "d", "-RRB-", "for", "each", "of", "the", "output", "values", ",", "and", "from", "that", ",", "to", "compute", "psse", ",", "the", "single", "value", "representing", "the", "pattern", "sumsquared", "error", "for", "the", "current", "pattern", ".", "This", "first", "step", "is", "accomplished", "by", "a", "pipe", "like", "the", "one", "at", "the", "end", "of", "execution", ",", "but", "with", "some", "additional", "computations", ".", "First", ",", "Z", "is", "computed", "from", "Y", "as", "above", ".", "Second", ",", "Z", "and", "T", "are", "used", "to", "compute", "the", "error", "vector", "dw", ",", "which", "will", "be", "sent", "back", "to", "the", "nodes", ".", "-LRB-", "Target", "outputs", "T", "are", "at", "the", "Control", "Unit", ",", "and", "therefore", "are", "directly", "available", "to", "the", "pipe", ".", "-RRB-", "Third", ",", "dwk", "-LRB-", "each", "component", "of", "dw", "-RRB-", "is", "squared", "to", "produce", "dwk2", "-LRB-", "for", "calculating", "sum-squared", "pattern", "error", "-RRB-", ".", "Fourth", ",", "each", "dwk2", "value", "is", "summed", "into", "psse", "at", "the", "``", "end", "''", "of", "the", "pipeline", "-LRB-", "psse?is", "used", "only", "to", "check", "for", "convergence", "during", "learning", ".", "-RRB-", "Each", "dwk", "in", "dw", "corresponds", "to", "the", "dk", "computed", "by", "the", "respective", "output", "node", "in", "the", "original", "network", ".", "The", "second", "step", "of", "the", "backpropagation", "phase", "propagates", "the", "error", "backward", "-LRB-", "see", "the", "right", "half", "of", "figure", "5", "-RRB-", ".", "The", "vector", "dw", "is", "broadcast", "to", "the", "nodes", ".", "This", "value", "is", "then", "used", "to", "compute", "the", "required", "weight", "change", "on", "each", "weight", "-LRB-", "the", "other", "information", "already", "exists", "at", "the", "node", "-RRB-", ".", "Also", "at", "each", "node", ",", "like", "node", "2", ",", "each", "wjk", "is", "multiplied", "by", "the", "corresponding", "component", "of", "dw", ",", "and", "the", "results", "are", "summed", ".", "This", "new", "value", "is", "used", "to", "create", "a", "d", "value", ",", "duj", ",", "with", "which", "to", "calculate", "changes", "for", "each", "uij", "-LRB-", "except", "in", "the", "bias", "node", ",", "which", "has", "no", "u", "j", "-RRB-", ".", "Once", "the", "appropriate", "computations", "are", "completed", ",", "all", "weights", "can", "be", "updated", ",", "and", "the", "backward", "phase", "ends", ".", "The", "network", "is", "ready", "to", "move", "on", "to", "the", "next", "pattern", ".", "There", "are", "a", "variety", "of", "potential", "location-independent", "sets", "of", "nodes", "that", "could", "be", "constructed", ".", "The", "construction", "given", "here", "results", "in", "a", "node", "structure", "that", "is", "very", "similar", "to", "the", "original", "model", ".", "An", "analysis", "of", "the", "original", "equations", "and", "structures", "reveals", "a", "symmetry", "both", "in", "the", "information", "used", "for", "computation", ",", "and", "in", "the", "behavior", "during", "forward", "and", "backpropagation", "phases", ".", "The", "LIT", "structure", "reflects", "that", "symmetry", ",", "as", "well", "as", "achieving", "the", "other", "goals", "of", "LIT", ".", "C.", "Execution", "Algorithm", "The", "following", "equations", "describe", "execution", "mode", "for", "the", "2-layer", "LIT", "BP", ".", "They", "are", "essentially", "the", "original", "equations", ",", "but", "altered", "to", "show", "the", "behavior", "of", "the", "LIT", "model", ".", "Definitions", "q", "number", "of", "weight", "layers", "in", "the", "original", "network", ".", "q", "=", "2", ".", "n", "number", "of", "nodes", "in", "the", "original", "input", "layer", ",", "size", "of", "uj", ".", "m", "number", "of", "nodes", "in", "the", "original", "hidden", "layer", ",", "number", "of", "nodes", "in", "the", "transformed", "network", ".", "p", "number", "of", "nodes", "in", "the", "original", "output", "layer", ",", "size", "of", "wj", ".", "a", "real-valued", "number", ",", "it", "will", "be", "either", "netj", "or", "yk", ".", "Oj", "output", "vector", "of", "new", "node", "j.", "Oj", "intermediate", "activation", "value", "for", "new", "node", "j", ",", "it", "corresponds", "to", "Oj", "for", "an", "original", "node", "j.", "netj", "real-valued", "sum", "of", "the", "inputs", "to", "node", "j", "-LSB-", "equation", "-LRB-", "4", "-RRB-", "-RSB-", ".", "f", "sigmoid", "function", ".", "X", "pattern", "clamped", "on", "inputs", ",", "has", "size", "n.", "xi", "ith", "real-valued", "component", "of", "X.", "uj", "vector", "of", "weights", "on", "inputs", "in", "a", "new", "node", "j", ",", "has", "size", "n.", "uij", "real-valued", "ith", "component", "of", "uj", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "weight", "from", "input", "node", "i", "to", "hidden", "node", "j.", "ojk", "real-valued", "kth", "component", "of", "Oj", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "weight", "from", "hidden", "node", "j", "to", "output", "node", "k", ",", "multiplied", "by", "the", "original", "Oj", ".", "wj", "vector", "of", "weights", "on", "output", "in", "a", "new", "node", "j", ",", "has", "size", "p.", "wjk", "real-valued", "kth", "component", "of", "wj", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "weight", "from", "hidden", "node", "j", "to", "output", "node", "k.", "Y", "vector", "of", "intermediate", "activation", "values", ",", "the", "sum", "of", "all", "Oj", ".", "yk", "real-valued", "kth", "component", "of", "Y", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "netj", "of", "output", "node", "k.", "Z", "vector", "of", "network", "output", "values", ".", "zk", "real-valued", "-LRB-", "always", "between", "0", "and", "1", "-RRB-", "kth", "component", "of", "Z", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "output", "Ok", "of", "output", "node", "k.", "Equations", "f", "-LRB-", "a", "-RRB-", "=", "1", "1", "+", "e", "-", "a", "-LRB-", "1", "-RRB-", "Oj", "=", "f", "-LRB-", "netj", "-RRB-", "-LRB-", "2", "-RRB-", "netj", "=", "x", "i", "u", "ij", "i", "=", "1", "n", "?", "+", "qj", "-LRB-", "3", "-RRB-", "ojk", "=", "Ojwjk", "-LRB-", "4", "-RRB-", "yk", "=", "o", "jk", "j", "=", "1", "m", "?", "-LRB-", "5", "-RRB-", "zk", "=", "f", "-LRB-", "yk", "-RRB-", "-LRB-", "6", "-RRB-", "The", "main", "steps", "of", "the", "execution", "algorithm", "-LRB-", "italics", "-RRB-", ",", "numbered", "for", "convenient", "reference", ",", "describe", "the", "basic", "BP", "algorithm", ".", "The", "sub-steps", "-LRB-", "1.1", ",", "2.1", ",", "etc.", "-RRB-", "specify", "the", "details", "of", "how", "the", "LIT", "network", "accomplishes", "these", "steps", ".", "The", "algorithm", "is", "as", "follows", ":", "-LRB-", "1", "-RRB-", "Clamp", "an", "input", "pattern", "on", "the", "input", "nodes", ".", "1.1", "Broadcast", "input", "vector", "X", "to", "the", "nodes", ".", "-LRB-", "2", "-RRB-", "Each", "node", "takes", "the", "sigmoid", "of", "the", "sum-of-products", "of", "its", "weights", "and", "inputs", ".", "2.1", "Each", "node", "computes", "its", "netj", ",", "according", "to", "equation", "-LRB-", "4", "-RRB-", ",", "and", "then", "computes", "Oj", "according", "to", "equation", "-LRB-", "3", "-RRB-", ".", "Oj", "for", "the", "bias", "node", "is", "1", ".", "2.2", "Each", "node", "'s", "weight", "vector", "wj", "is", "multiplied", "by", "its", "-LRB-", "scalar", "-RRB-", "Oj", "to", "produce", "its", "output", "vector", "Oj", "-LSB-", "equation", "-LRB-", "5", "-RRB-", "-RSB-", ".", "2.3", "Each", "node", "computes", "the", "vector", "sum", "of", "its", "Oj", "with", "the", "result", "from", "each", "child", ",", "and", "the", "sum", "-LRB-", "a", "vector", "-RRB-", "is", "sent", "to", "its", "parent", ".", "-LRB-", "The", "Control", "Unit", "is", "the", "parent", "of", "the", "root", "node", ".", "-RRB-", ".", "This", "implements", "equation", "-LRB-", "6", "-RRB-", ".", "The", "result", "is", "the", "vector", "Y.", "-LRB-", "3", "-RRB-", "Wait", "until", "the", "activation", "values", "on", "the", "output", "nodes", "are", "valid", ".", "3.1", "Y", "is", "sent", "-LRB-", "through", "the", "sigmoid", "pipe", "-RRB-", "to", "the", "Control", "Unit", ".", "The", "result", "Z", "is", "the", "output", "of", "the", "network", ".", "D.", "Learning", "Algorithm", "-LRB-", "Standard", "BP", "-RRB-", "Below", "are", "additional", "equations", "that", "describe", "the", "learning", "mode", "for", "the", "LIT", "BP", ".", "The", "forward", "phase", "of", "learning", "is", "identical", "to", "execution", "mode", ",", "and", "so", "follows", "the", "equations", "given", "above", ".", "Additional", "Definitions", "a", "weight", "change", "momentum", "constant", ".", "dw", "vector", "of", "error", "values", "for", "all", "wj", ".", "It", "has", "size", "p.", "dwk", "real-valued", "jth", "component", "of", "dw", ".", "It", "corresponds", "in", "the", "original", "network", "to", "dk", "for", "output", "node", "k.", "duj", "real-valued", "error", "value", "for", "uj", "in", "node", "j", ".", "It", "corresponds", "in", "the", "original", "network", "to", "dj", "for", "hidden", "node", "j.", "T", "vector", "of", "target", "values", "for", "the", "current", "pattern", "being", "presented", ".", "It", "has", "size", "p.", "tk", "target", "value", "for", "zk", ".", "It", "corresponds", "in", "the", "original", "network", "to", "the", "target", "value", "for", "Ok", "for", "output", "node", "k.", "psse", "pattern", "sum-squared", "error", "for", "the", "current", "pattern", "being", "presented", ".", "tsse", "total", "sum-squared", "error", "over", "all", "patterns", "in", "the", "current", "learning", "epoch", ".", "ecrit", "maximum", "error", "tolerance", "for", "learning", ".", "s", "number", "of", "patterns", "in", "the", "training", "set", "-LRB-", "epoch", "-RRB-", ".", "r", "simple", "index", ",", "used", "to", "avoid", "confusion", "with", "i", ",", "j", ",", "k", ",", "etc.", ".", "c", "current", "training", "cycle", "number", ".", "h", "a", "real-valued", "learning", "constant", ".", "Equations", "f", "'", "-LRB-", "a", "-RRB-", "=", "?", "f", "-LRB-", "a", "-RRB-", "?", "a", "=", "f", "-LRB-", "a", "-RRB-", "-LRB-", "1-f", "-LRB-", "a", "-RRB-", "-RRB-", "-LRB-", "7", "-RRB-", "Dwjk", "-LRB-", "c", "-RRB-", "=", "hFjdwk", "+", "aDwjk", "-LRB-", "c-1", "-RRB-", "Duij", "-LRB-", "c", "-RRB-", "=", "hxiduj", "+", "aDuij", "-LRB-", "c-1", "-RRB-", "-LRB-", "8", "-RRB-", "dwk", "=", "-LRB-", "tk-zk", "-RRB-", "f", "'", "-LRB-", "yk", "-RRB-", "-LRB-", "9", "-RRB-", "duj", "=", "-LRB-", "-LRB-", "dw", "k", "w", "jk", "k", "=", "1", "p", "?", "-RRB-", "-RRB-", "f", "'", "-LRB-", "Oj", "-RRB-", "-LRB-", "10", "-RRB-", "tsse", "=", "psse", "r", "r", "=", "1", "s", "?", "-LRB-", "11", "-RRB-", "psser", "=", "dw", "k", "2", "k", "=", "1", "p", "?", "-LRB-", "12", "-RRB-", "As", "with", "the", "execution", "algorithm", "above", ",", "the", "steps", "of", "the", "learning", "algorithm", "are", "numbered", "for", "convenient", "reference", ".", "The", "sub-steps", "give", "the", "details", "of", "how", "LIT", "accomplishes", "each", "step", ".", "The", "learning", "algorithm", "is", "as", "follows", ":", "Until", "Convergence", "-LRB-", "tsse", "<", "ecrit", "at", "the", "end", "of", "an", "epoch", "-RRB-", "-LRB-", "1", "-RRB-", "Present", "a", "training", "pattern", "to", "the", "network", "1.1", "Forward", "phase", "of", "learning?this", "is", "same", "as", "execution", "above", ",", "up", "to", "-LRB-", "and", "including", "-RRB-", "step", "2.3", ".", "-LRB-", "2", "-RRB-", "Calculate", "the", "error", "d", "of", "the", "output", "units", "-LRB-", "T", "-", "O", "-RRB-", "2.1", "As", "each", "yk", "is", "sent", "to", "the", "Control", "Unit", ",", "the", "following", "occurs", ":", "2.1.1", "zk", "is", "computed", "-LSB-", "equation", "-LRB-", "6", "-RRB-", "-RSB-", ",", "and", "received", "by", "the", "Control", "Unit", ".", "2.1.2", "zk", "and", "tk", "are", "used", "to", "compute", "dwk", "-LSB-", "equation", "-LRB-", "9", "-RRB-", "-RSB-", ",", "which", "is", "received", "by", "the", "Control", "Unit", ".", "2.1.3", "dwk", "is", "used", "to", "compute", "dwk2", ".", "2.1.4", "Each", "dwk2", "is", "summed", "with", "the", "value", "of", "psse", "so", "far", "-LSB-", "equation", "-LRB-", "12", "-RRB-", "-RSB-", ".", "-LRB-", "3", "-RRB-", "For", "each", "hidden", "layer", "Calculatedj", "using", "dk", "from", "the", "subsequent", "layer", "3.1", "The", "vector", "dw", "is", "broadcast", "to", "the", "nodes", ".", "3.2", "duj", "is", "calculated", "according", "to", "equation", "-LRB-", "10", "-RRB-", ".", "-LRB-", "4", "-RRB-", "Update", "the", "weights", "4.1", "Calculate", "Dwjk", "and", "Duij", "according", "to", "equation", "-LRB-", "8", "-RRB-", ".", "4.2", "Change", "the", "weights", ".", "-LRB-", "5", "-RRB-", "Update", "tsse", "according", "to", "equation", "-LRB-", "11", "-RRB-", "end", "Step", "5", "may", "actually", "be", "computed", "any", "time", "after", "the", "end", "of", "step", "2", "?", "independent", "of", "steps", "3", "or", "4", ".", "Most", "algorithms", "assume", "that", "psse", "and", "tsse", "can", "be", "maintained", ",", "but", "give", "no", "explicit", "mechanism", "for", "doing", "so?LIT", "provides", "a", "mechanism", ".", "IV", ".", "THE", "DYNAMIC", "BP", "MODEL", "This", "section", "gives", "an", "overview", "the", "dynamic", "BP", "-LRB-", "hereafter", "DBP", "-RRB-", "model", "proposed", "by", "Odri", ",", "et", "al", "-LSB-", "14", "-RSB-", ",", "then", "formally", "extends", "the", "learning", "algoirthm", "of", "section", "III", "to", "support", "these", "dynamics", ".", "The", "DBP", "model", "of", "-LSB-", "14", "-RSB-", "is", "of", "interest", "because", "it", "allows", "the", "addition", "and", "deletion", "of", "both", "nodes", "and", "individual", "weights", "dynamically", "during", "learning", ".", "Some", "dynamic", "BP", "models", "use", "pruning", "as", "a", "basic", "technique", ",", "while", "some", "both", "grow", "and", "prune", "structures", "during", "learning", ".", "Some", "use", "global", "state", "information", ",", "and", "change", "the", "topology", "only", "after", "learning", "is", "complete", ",", "while", "some", "use", "partial", ",", "localized", "information", "and", "attempt", "to", "change", "the", "topology", "incrementally", "as", "learning", "proceeds", ".", "The", "algorithm", "of", "-LSB-", "14", "-RSB-", "can", "be", "outlined", "as", "follows", ".", "Details", "are", "discussed", "after", "the", "outline", ".", "The", "steps", "are", "numbered", "to", "correspond", "with", "the", "algorithm", "of", "section", "III", ",", "for", "convenience", ".", "Until", "Convergence", "-LRB-", "tsse", "<", "ecrit", "-RRB-", "1", ".", "Present", "a", "pattern", "to", "the", "network", ".", "2-5", ".", "Perform", "standard", "BP", "learning", ",", "including", "adjusting", "the", "weights", ".", "6", ".", "Perform", "probabilistic", "weight", "deletion", ".", "6.1", "Each", "weight", "computes", "a", "probability", "of", "self-deletion", "in", "the", "range", "0-1", ".", "6.2", "Each", "weight", "generates", "a", "random", "value", "in", "the", "range", "0-1", ".", "6.3", "If", "the", "probability", "is", "greater", "than", "the", "random", "value", ",", "then", "the", "weight", "is", "deleted", ".", "7", ".", "Perform", "node", "deletion", "on", "the", "hidden", "nodes", "-LRB-", "the", "number", "of", "input", "and", "output", "nodes", "remains", "fixed", "-RRB-", ".", "7.1", "If", "uj", "=", "0", ",", "or", "wj", "=", "0", ",", "then", "node", "j", "self-deletes", ".", "7.2", "In", "the", "case", "that", "uj", "=", "0", ",", "and", "the", "bias", "qj", "?", "0", ",", "then", "adjust", "the", "biases", "of", "the", "remaining", "nodes", "to", "compensate", ".", "8", ".", "Check", "for", "node", "addition", "-LRB-", "by", "probabilistic", "node", "division", "-RRB-", ".", "8.1", "Each", "node", "computes", "a", "probability", "of", "dividing", ",", "in", "the", "range", "0-1", ".", "8.2", "Each", "weight", "generates", "a", "random", "value", "in", "the", "range", "0-1", ".", "8.3", "If", "the", "probability", "is", "less", "than", "the", "random", "value", ",", "then", "the", "node", "does", "not", "divide", "?", "skip", "step", "9", ".", "9", ".", "Do", "node", "division", "-LRB-", "only", "if", "at", "least", "one", "node", "divides", "-RRB-", "9.1", "Two", "descendant", "nodes", "are", "created", "from", "the", "node", ":", "The", "uj", "for", "both", "remain", "the", "same", "as", "the", "parent", ",", "but", "wj", "are", "mutated", "in", "order", "to", "guarantee", "that", "the", "nodes", "are", "unique", ".", "end", "Conceptually", ",", "step", "9", "could", "be", "done", "at", "the", "end", "of", "step", "8", ".", "However", ",", "for", "algorithmic", "purposes", ",", "it", "is", "more", "convenient", "to", "check", "for", "the", "possibility", "of", "node", "division", "separate", "from", "actually", "performing", "node", "division", ".", "Three", "ideas", "need", "to", "be", "discussed", "in", "connection", "with", "this", "algorithm", ":", "?", "Node", "Addition", "and", "Deletion", ",", "?", "Weight", "Addition", "and", "Deletion", ",", "?", "Termination", "of", "Topological", "Dynamics", ".", "The", "following", "definitions", "are", "used", "in", "the", "rest", "of", "section", "IV", ":", "m", "a", "real-valued", "weight", "mutation", "constant", ".", "nij", "random", "real", "value", "generated", "by", "-LRB-", "for", "-RRB-", "each", "wij", "in", "checking", "for", "weight", "deletion", "-LRB-", "njk", "for", "wjk", "-RRB-", ".", "It", "has", "range", "0-1", ".", "nj", "random", "real", "value", "generated", "by", "each", "node", "j", "in", "checking", "for", "node", "division", ".", "It", "has", "range", "0-1", ".", "Pijd", "probability", "that", "wij", "will", "self-delete", "-LRB-", "Pjkd", "for", "wjk", "-RRB-", ".", "Pjg", "probability", "that", "node", "j", "will", "divide", ".", "kg", "number", "of", "cycles", "since", "last", "node", "division", "-LRB-", "by", "any", "node", "-RRB-", ".", "kd", "number", "of", "cycles", "since", "last", "weight", "was", "deleted", "-LRB-", "in", "any", "node", "-RRB-", ".", "bj", "-LRB-", "c", "-RRB-", "average", "cumulative", "change", "in", "cell", "output", "error", "at", "time", "c", ",", "ranging", "from", "0-1", ".", "A.", "Node", "Addition", "and", "Deletion", "Nodes", "are", "added", "through", "a", "process", "of", "probabilistic", "node", "division", ".", "As", "learning", "proceeds", ",", "from", "some", "time", "0", "to", "time", "c", ",", "various", "d", "values", "are", "computed", "by", "each", "node", ".", "At", "each", "node", "j", ",", "these", "values", "are", "used", "to", "track", "and", "compute", "bj", "-LRB-", "c", "-RRB-", ",", "the", "average", "cumulative", "change", "in", "node", "output", "error", "at", "time", "c.", "bj", "-LRB-", "c", "-RRB-", "is", "directly", "proportional", "to", "the", "probability", "that", "a", "node", "will", "divide", "at", "time", "c", "during", "learning", ",", "according", "to", "the", "equation", "Pjg", "-LRB-", "c", "-RRB-", "=", "P0gj", "-LRB-", "kg", "-RRB-", "bj", "-LRB-", "c", "-RRB-", ".", "-LRB-", "13", "-RRB-", "P0g", "is", "the", "base", "probability", "of", "division", "-LRB-", "user-specified", "-RRB-", ".", "kg", "is", "a", "counter", "-LRB-", "same", "value", "at", "every", "node", "-RRB-", "that", "counts", "the", "number", "of", "cycles", "-LRB-", "each", "pattern", "presentation", "is", "a", "cycle", "-RRB-", "since", "the", "last", "time", "any", "node", "divided", ".", "j", "-LRB-", "kg", "-RRB-", "is", "a", "?", "recovery", "control", "?", "function", ",", "in", "the", "range", "0-1", ".", "It", "is", "near", "zero", "immediately", "following", "a", "division", ",", "and", "near", "1", "at", "some", "user-specified", "number", "of", "cycles", "after", "the", "last", "division", ",", "increasing", "asymptotically", ".", "When", "a", "node", "divides", ",", "two", "?", "descendant", "?", "nodes", "are", "created", ",", "and", "the", "?", "parent", "?", "deletes", "itself", "from", "the", "network", ".", "The", "uj", "for", "both", "remain", "the", "same", "as", "the", "parent", ",", "but", "wj", "are", "mutated", "according", "to", "the", "equations", "wjkd1", "=", "-LRB-", "1", "+", "m", "-RRB-", "wjkp", ",", "and", "wjkd2", "=", "-", "mwjkp", ".", "-LRB-", "14", "-RRB-", "d1", "and", "d2?denote", "the", "new", "weight", "values", "in", "the", "children", ",", "and", "p", "denotes", "the", "original", "value", "in", "the", "parent", ".", "The", "bias", "values", "are", "the", "same", "as", "the", "parent?s", ".", "These", "initial", "values", "guarantee", "that", "the", "division", "does", "not", "perturb", "the", "network", ",", "as", "the", "net", "effect", "of", "the", "descendants", "is", "the", "same", "as", "the", "original", "parent", "at", "the", "time", "of", "division", ".", "However", ",", "as", "learning", "proceeds", ",", "the", "two", "descendants", "will", "diverge", "toward", "different", "?", "hyperplanes", "?", "across", "which", "the", "parent", "was", "oscillating", ".", "This", "increases", "the", "overall", "stability", "of", "the", "network", ".", "Nodes", "delete", "themselves", "in", "two", "cases", ":", "1", ".", "When", "ui", "is", "0", ",", "or", "2", ".", "when", "wj", "is", "0", ".", "In", "case", "1", ",", "the", "threshold", "or", "bias", "value", "may", "not", "be", "0", ",", "even", "if", "all", "of", "the", "other", "weights", "are", "0", ".", "-LSB-", "14", "-RSB-", "gives", "a", "simple", "transformation", "which", "adjusts", "the", "biases", "of", "nodes", "in", "the", "subsequent", "layer", "to", "compensate", "for", "deleting", "a", "node", "with", "a", "non-zero", "bias", "q", "`", "k", "=", "qk", "+", "wjkf", "-LRB-", "qj", "-RRB-", ".", "-LRB-", "15", "-RRB-", "j", "indicates", "the", "node", "that", "is", "deleted", ",", "and", "k", "indicates", "the", "nodes", "in", "the", "subsequent", "layer", ".", "Even", "though", "the", "criteria", "for", "deleting", "a", "node", "is", "deterministic", ",", "the", "deletion", "of", "a", "node", "is", "a", "probabilistic", "event", ".", "It", "depends", "on", "the", "deletion", "of", "weights", ",", "which", "individually", "delete", "in", "probabilistic", "fashion", "-LRB-", "see", "below", "-RRB-", ".", "B.", "Weight", "Addition", "and", "Deletion", "New", "weights", "are", "added", "to", "the", "network", "automatically", "when", "a", "new", "node", "is", "created", ".", "Just", "as", "the", "output", "error", "values", "and", "changes", "can", "be", "tracked", "over", "time", ",", "the", "contribution", "of", "a", "particular", "weight", "to", "a", "node?s", "overall", "activity", "can", "be", "tracked", "over", "time", ".", "The", "authors", "call", "this", "value", "Fij", "at", "some", "time", "c", "the", "factor", "of", "action", "between", "node", "i", "and", "node", "j", ".", "This", "factor", "is", "computed", "using", "the", "the", "previous", "factor", "value", ",", "the", "current", "weight", "value", ",", "and", "the", "values", "of", "outputs", "from", "the", "previous", "layer", "at", "the", "current", "time", "and", "at", "one", "time", "step", "earlier", ".", "This", "factor", ",", "and", "its", "normalized", "equivalent", "-RRB-", "Fij", "are", "then", "used", "to", "compute", "the", "probability", "that", "a", "weight", "will", "self-delete", ":", "Pijd", "-LRB-", "c", "-RRB-", "=", "?????", "P0dj", "-LRB-", "kd", "-RRB-", "???", "??", "1", "-", "?", "1", "1-e-g", "?", "-LSB-", "1-e-vFij", "-LRB-", "c", "-RRB-", "-RSB-", ",", "if", "?", "-RRB-", "Fij", "-LRB-", "c", "-RRB-", "??", "F0", "0", ",", "if", "?", "-RRB-", "Fij", "-LRB-", "c", "-RRB-", ">", "?", "F0", ".", "-LRB-", "16", "-RRB-", "F0", "is", "the", "?", "activity", "threshold", "?", "for", "a", "weight", ".", "Any", "weight", "whose", "-RRB-", "Fij", "remains", "above", "this", "threshold", "will", "never", "self-delete", ".", "Over", "time", ",", "this", "means", "that", "only", "weights", "that", "contribute", "significantly", "to", "network", "activity", "remain", ",", "whereas", "all", "others", "will", "be", "forced", "to", "0", ".", "-LRB-", "A", "0", "weight", "is", "the", "equivalent", "of", "being", "deleted", ".", "-RRB-", "P0d", "is", "the", "base", "probability", "that", "a", "weight", "will", "self-delete", ".", "kd", "is", "the", "number", "of", "cycles", "since", "the", "last", "weight", "was", "deleted", ",", "analogous", "to", "kg", "for", "the", "nodes", ".", "g", "is", "a", "sensitivity", "parameter", ",", "and", "the", "authors", "do", "not", "explain", "the", "role", "ofv", ",", "though", "clearly", "it", "is", "analogous", "to", "g.", "C.", "Termination", "of", "Topological", "Dynamics", "The", "division", "of", "nodes", "is", "linked", "to", "the", "amount", "of", "error", "remaining", "in", "the", "network", ".", "As", "the", "error", "decreases", "over", "learning", ",", "the", "probability", "that", "a", "node", "-LRB-", "and", "thus", "any", "node", "-RRB-", "will", "divide", "will", "also", "decrease", "-LRB-", "and", "can", "reach", "zero", "-RRB-", ".", "This", "effectively", "halts", "the", "addition", "of", "new", "nodes", ",", "and", "by", "implication", ",", "weights", "as", "well", ".", "As", "mentioned", "above", ",", "weights", "are", "not", "continually", "deleted", "from", "the", "network", ".", "Sufficiently", "active", "weights", "remain", "in", "the", "network", ",", "while", "others", "are", "deleted", ".", "Once", "the", "addition", "of", "new", "nodes", "ceases", ",", "a", "point", "will", "be", "reached", "at", "which", "the", "only", "remaining", "weights", "in", "the", "network", "are", "all", "above", "the", "activity", "threshold", ",", "and", "will", "never", "be", "deleted", ".", "This", "also", "halts", "the", "deletion", "of", "nodes", ",", "for", "reasons", "explained", "in", "section", "IV.B", ".", "D.", "Dynamic", "Extensions", "to", "the", "Learning", "algorithm", "of", "III.D", ".", "-LRB-", "6", "-RRB-", "Check", "for", "self-deletion", "of", "weights", "6.1", "Every", "weight", "calculates", "the", "probability", "of", "self-deletingPijd", "for", "uij", ",", "or", "Pjkd", "for", "wjk", ",", "respectively", ",", "according", "to", "equation", "-LRB-", "16", "-RRB-", ".", "6.2", "Each", "weight", "generates", "a", "random", "value", "between", "0", "and", "1", ",", "n", "ij", "or", "njk", ",", "respectively", ".", "6.3", "Any", "weight", "uij", "for", "which", "Pijd", "?", "n", "ij", "self-deletes", ".", "Any", "weight", "wjk", ",", "for", "which", "Pjkd?njk", "self-deletes", ".", "6.4", "If", "a", "node", "has", "at", "least", "one", "weight", "self-delete", ",", "it", "sets", "a", "deletion", "flag", "to", "1", ";", "otherwise", "the", "flag", "is", "set", "to", "0", ".", "6.5", "Each", "leaf", "node", "sends", "its", "deletion", "flag", "value", "to", "its", "parent", ";", "each", "parent", "ORs", "its", "deletion", "flag", "with", "those", "received", "from", "its", "children", ",", "and", "sends", "the", "result", "to", "its", "parent", ".", "6.6", "If", "the", "Control", "Unit", "receives", "a", "1", ",", "then", "kd", "is", "reset", "to", "0", ";", "otherwise", "kd", "is", "incremented", "by", "1", ".", "-LRB-", "7", "-RRB-", "Check", "for", "self-deletion", "of", "nodes", "7.1", "Any", "node", "j", "for", "which", "uj", "=", "0", "or", "wj", "=", "0", "self-deletes", ".", "7.2", "If", "a", "node", "self-deletes", "because", "uj", "=", "0", ",", "it", "sets", "a", "deletion", "flag", "to", "1", ";", "otherwise", "the", "flag", "is", "set", "to", "0", ".", "7.3", "Adjustment", "values", "to", "compensate", "for", "deleted", "nodes", "with", "non-zero", "biases", "are", "computed", "according", "to", "equation", "-LRB-", "15", "-RRB-", ".", "-LRB-", "Only", "nodes", "that", "are", "currently", "self-deleting", "compute", "non-zero", "results", ".", "-RRB-", "7.4", "Each", "leaf", "node", "sends", "its", "deletion", "flag", "and", "adjustment", "values", "to", "its", "parent", ".", "Each", "parent", "ORs", "its", "deletion", "flag", "with", "those", "received", "from", "children", ";", "each", "parent", "sums", "its", "adjustment", "values", "with", "those", "received", "from", "its", "children", ";", "the", "resulting", "values", "are", "sent", "up", "to", "its", "parent", ".", "7.5", "If", "the", "Control", "Unit", "receives", "a", "deletion", "flag", "of", "0", ",", "ignore", "adjustment", "values", "and", "go", "to", "step", "8", ".", "7.6", "The", "Control", "Unit", "broadcasts", "the", "adjustment", "values", "to", "the", "nodes", ".", "7.7", "Each", "node", "adjusts", "its", "bias", "according", "to", "the", "equation", "-LRB-", "15", "-RRB-", ".", "-LRB-", "8", "-RRB-", "Check", "for", "node", "division", "8.1", "Each", "node", "j", "calculates", "the", "probability", "of", "division", "Pjg", ",", "according", "to", "equation", "-LRB-", "13", "-RRB-", ".", "8.2", "Each", "node", "generates", "a", "random", "value", "between", "0", "and", "1", ",", "nj", ".", "8.3", "Any", "node", "j", "for", "which", "Pjg?n", "j", ",", "sets", "its", "division", "flag", "to", "1", ";", "otherwise", "the", "flag", "is", "set", "to", "0", ".", "8.4", "Each", "leaf", "node", "sends", "its", "division", "flag", "to", "its", "parent", ";", "the", "parent", "ORs", "its", "division", "flag", "with", "those", "received", "from", "its", "children", ";", "the", "result", "is", "sent", "to", "its", "parent", ".", "8.5", "If", "the", "Control", "Unit", "receives", "a", "division", "flag", "of", "0", ":", "?", "increment", "division", "counterkg", "by", "1", ",", "and", "?", "skip", "step", "9", ".", "-LRB-", "9", "-RRB-", "If", "the", "Control", "Unit", "receives", "a", "division", "flag", "of", "1", "-LRB-", "i.e.", ",", "at", "least", "one", "node", "divides", "-RRB-", ":", "9.1", "Reset", "the", "division", "counter", "kg", "to", "0", ".", "9.2", "Broadcast", "permission", "to", "divide", "to", "the", "nodes", ".", "9.3", "Each", "node", "which", "previously", "set", "its", "division", "flag", "generates", "two", "descendants", ",", "according", "to", "equation", "-LRB-", "14", "-RRB-", ".", "9.4", "The", "parent", "node", "is", "initialized", "to", "match", "one", "of", "the", "children", "nodes", "-LRB-", "thus", "deleting", "the", "parent", "-RRB-", ";", "the", "information", "for", "the", "other", "child", "is", "sent", "to", "the", "nearest", "free", "child", "in", "the", "subtree", "of", "the", "parent", ".", "Step", "9", ",", "node", "division", ",", "is", "potentially", "the", "most", "expensive", "of", "all", "steps", "in", "terms", "of", "complexity", "and", "performance", ".", "However", ",", "it", "is", "important", "to", "realize", "that", "node", "division", "is", "a", "rare", "event", "in", "the", "operation", "of", "the", "network", ";", "when", "it", "does", "occur", ",", "it", "is", "highly", "unlikely", "to", "tax", "the", "resources", "of", "the", "network?particularly", "large", "networks", ".", "First", ",", "only", "highly", "unstable", "nodes", "have", "high", "probabilities", "of", "dividing", ".", "Second", ",", "as", "training", "time", "increases", "and", "the", "network", "becomes", "more", "stable", ",", "it", "is", "less", "likely", "for", "any", "particular", "node", "to", "become", "unstable", ",", "and", "correspondingly", "more", "remote", "that", "even", "a", "few", "nodes", "will", "simultaneously", "divide", ".", "V.", "COMPLEXITY", "AND", "PERFORMANCE", "The", "complexity", "of", "the", "algorithms", "in", "section", "IV", "can", "be", "characterized", "by", "pipelined", "broadcast", "and", "gather", "in", "a", "tree", "of", "nodes", ".", "The", "width", "of", "a", "broadcast", "block", "is", "assumed", "to", "be", "the", "size", "of", "a", "single", "variable", ".", "The", "tree", "has", "m", "+1", "nodes", ",", "one", "for", "each", "hidden", "node", "in", "the", "original", "network", ",", "plus", "a", "bias", "node", ",", "and", "the", "nodes", "operate", "in", "parallel", ".", "Assume", "that", "each", "node", "has", "n", "inputs", "and", "p", "outputs", ".", "Given", "these", "assumptions", ",", "analysis", "gives", "an", "overall", "complexity", "of", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "?", "for", "both", "execution", "and", "learning", ",", "for", "a", "single", "pattern", ".", "The", "complexity", "of", "the", "steps", "of", "the", "execution", "algorithm", "is", "summarized", ",", "followed", "by", "elaboration", "where", "necessary", ".", "The", "numbers", "correspond", "to", "the", "steps", "from", "the", "algorithms", "in", "section", "III", ".", "The", "complexity", "of", "the", "learning", "algorithm", "is", "presented", "in", "the", "same", "format", ",", "including", "the", "dynamic", "extensions", ".", "Execution", "Algorithm", "1", ".", "Broadcast", "O", "-LRB-", "n", "+", "logm", "-RRB-", "2-2", ".2", ".", "Node", "Computation", "O", "-LRB-", "n", "-RRB-", "2.3-3", ".", "Gather", "O", "-LRB-", "p", "+", "logm", "-RRB-", "total", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "Broadcast", "or", "gather", "for", "a", "single", "variable", "is", "clearly", "O", "-LRB-", "logm", "-RRB-", ".", "For", "n?variables", ",", "one", "might", "expect", "a", "complexity", "of", "O", "-LRB-", "nlogm", "-RRB-", ",", "but", "the", "pipelined", "tree", "reduces", "this", "to", "O", "-LRB-", "n", "+", "logm", "-RRB-", ",", "since", "different", "levels", "of", "the", "tree", "operate", "on", "different", "variables", "simultaneously", ".", "The", "node", "computation", "is", "an", "O", "-LRB-", "n", "-RRB-", "operation", "for", "n", "variables", ",", "but", "can", "be", "overlapped", "with", "broadcast", ".", "The", "sigmoid", "pipeline", "at", "the", "end", "of", "the", "gather", "is", "O", "-LRB-", "p", "-RRB-", ",", "one", "for", "each", "output", "variable", ",", "but", "this", "is", "overlapped", "with", "the", "gather", "of", "variables", "up", "the", "tree", ".", "Learning", "Algorithm", "1", ".", "Forward", "Phase", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "2", ".", "Compute", "dw", "O", "-LRB-", "p", "-RRB-", "3.1", "Broadcast", "dw", "O", "-LRB-", "p", "+", "logm", "-RRB-", "3.2", "Calculate", "duj", "O", "-LRB-", "p", "-RRB-", "4", ".", "Update", "weights", "O", "-LRB-", "n", "+", "p", "-RRB-", "5", ".", "Partial", "sum", "tsse", "constant", "6.1-6", ".4", "Weight", "deletion", "O", "-LRB-", "n", "+", "p", "-RRB-", "6.5-6", ".6", "Gather", "deletion", "flags", "O", "-LRB-", "logm", "-RRB-", "7.1-7", ".2", "Node", "deletion", "check", "O", "-LRB-", "n", "+", "p", "-RRB-", "7.3", "Compute", "Adjustments", "O", "-LRB-", "p", "-RRB-", "7.4-7", ".5", "Gather", "Adjustments", "O", "-LRB-", "p", "+", "logm", "-RRB-", "7.6", "Broadcast", "Adjustments", "O", "-LRB-", "p", "+", "logm", "-RRB-", "7.7", "Adjust", "biases", "O", "-LRB-", "p", "-RRB-", "8.1-8", ".3", "Node", "division", "check", "O", "-LRB-", "n", "-RRB-", "8.4-8", ".5", "Gather", "division", "flags", "O", "-LRB-", "logm", "-RRB-", "9.1-9", ".2", "Broadcast", "divide", "flag", "O", "-LRB-", "logm", "-RRB-", "9.3-9", ".4", "Allocate", "new", "node", "-LRB-", "s", "-RRB-", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "total", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "Step", "2", "is", "O", "-LRB-", "p", "-RRB-", "because", "the", "is", "one", "d", "value", "for", "each", "output", "variable", ".", "Step", "4", "is", "O", "-LRB-", "n", "+", "p", "-RRB-", "assuming", "that", "a", "node", "can", "update", "only", "one", "weight", "at", "a", "time", ".", "Steps", "6.1-6", ".4", "and", "7.1-7", ".2", "also", "assume", "that", "only", "one", "weight", "can", "be", "checked", "at", "a", "time", ".", "Step", "7.3", "is", "O", "-LRB-", "p", "-RRB-", "because", "each", "node", "generates", "one", "value", "for", "each", "of", "its", "weights", "in", "wj", ".", "Steps", "7.4-7", ".5", "have", "the", "same", "character", "as", "the", "gather", "for", "execution", ",", "only", "the", "data", "is", "different", ".", "Step", "7.7", "is", "O", "-LRB-", "p", "-RRB-", "because", "p", "summations", "are", "performed", "at", "each", "node", ".", "Steps", "8.1-8", ".3", "is", "O", "-LRB-", "n", "-RRB-", "because", "the", "cumulative", "error", "values", "from", "each", "of", "the", "weights", "in", "uj", "is", "used", "to", "compute", "bj", "-LRB-", "c", "-RRB-", ",", "etc.", ".", "Steps", "9.3-9", ".4", "are", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", "assuming", "that", "there", "is", "a", "free", "node", "in", "the", "subtree", "of", "the", "parent", "to", "hold", "each", "new", "node?n?input", "variables", "and", "p", "output", "variables", "have", "to", "be", "sent", "to", "each", "new", "node", ".", "Probabilistically", "speaking", ",", "only", "one", "node", "will", "likely", "divide", "at", "any", "given", "time", "c.", "However", ",", "if", "more", "than", "one", "node", "does", "divide", ",", "and", "free", "nodes", "exist", "but", "are", "not", "guaranteed", "to", "be", "in", "the", "respective", "subtrees", ",", "then", "they", "could", "be", "added", "sequentially", ",", "one", "by", "one", ".", "In", "this", "case", ",", "Steps", "9.3-9", ".4", "are", "O", "-LRB-", "d", "-LRB-", "n", "+", "p", "-RRB-", "logm", "-RRB-", ",", "where", "d", "is", "the", "number", "of", "nodes", "that", "simultaneously", "divide", ".", "The", "analysis", "in", "this", "section", "shows", "that", "the", "complexity", "of", "execution", "and", "learning", "for", "the", "algorithms", "of", "section", "V", "is", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", ".", "In", "concluding", "this", "section", ",", "it", "is", "interesting", "to", "speculate", "on", "the", "relationship", "between", "n", ",", "p", ",", "and", "m", ",", "and", "the", "depth", "of", "the", "network", "logm", ".", "Assume", "that", "any", "set", "of", "variables", "-LRB-", "input", "or", "output", "-RRB-", "can", "be", "represented", "as", "strings", "of", "binary", "digits", ".", "For", "present", "purposes", ",", "a", "single", "variable", "can", "be", "a", "binary", "digit", ".", "If", "the", "inputs", "to", "a", "node", "have", "length", "n", ",", "and", "the", "outputs", "have", "length", "p", ",", "then", "there", "are", "2n", "possible", "input", "?", "strings", "?", ",", "and", "2p", "possible", "output", "strings", ".", "The", "maximum", "number", "of", "nodes", "needed", "to", "represent", "all", "of", "these", "is", "the", "cross", "product", ",", "namely", "2n", "2p", ",", "or", "2", "-LRB-", "n", "+", "p", "-RRB-", ".", "Thus", ",", "m", "?", "2", "-LRB-", "n", "+", "p", "-RRB-", ",", "and", "logm", "?", "n", "+", "p", ",", "where", "m", "is", "the", "actual", "number", "of", "nodes", "used", ".", "In", "practice", ",", "for", "an", "application", ",", "it", "is", "hoped", "that", "at", "least", "m", "?", "2", "-LRB-", "n", "+", "p-1", "-RRB-", ",", "and", "most", "often", "that", "m", "?", "2", "-LRB-", "n", "+", "p-1", "-RRB-", ",", "otherwise", "no", "significant", "generalization", "is", "taking", "place", "as", "the", "network", "learns", ".", "This", "does", "not", "mean", "that", "logm", "?", "n", "+", "p-1", ",", "only", "that", "logm", "<", "n", "+", "p", ",", "because", "the", "relationship", "between", "m", "and", "logm", "is", "exponential", ".", "The", "above", "might", "seem", "to", "suggest", "that", "the", "number", "of", "input/output", "variables", "dominates", "the", "performance", ".", "However", ",", "there", "are", "other", "factors", "to", "consider", ".", "Except", "when", "adding", "a", "new", "node", "to", "the", "network", ",", "the", "total", "size", "of", "any", "broadcast", "data", "is", "O", "-LRB-", "n", "-RRB-", ".", "-LRB-", "When", "adding", "a", "node", ",", "the", "broadcast", "size", "is", "O", "-LRB-", "n", "+", "p", "-RRB-", ".", "-RRB-", "The", "total", "size", "of", "any", "gather", "data", "is", "O", "-LRB-", "p", "-RRB-", ".", "Given", "that", "n", "<", "n", "+", "p", ",", "and", "n", "<", "n", "+", "p", ",", "is", "there", "a", "meaningful", "relationship", "between", "n", ",", "p", ",", "and", "logm", "-LRB-", "or", "the", "depth", "of", "the", "network", "-RRB-", "?", "It", "is", "tempting", "to", "state", "that", "both", "n", "and", "p", "<", "logm", "<", "n", "+", "p", ",", "under", "the", "assumption", "that", "for", "applications", "of", "any", "size", ",", "logm", "will", "be", "near", "n", "+", "p", ".", "It", "is", "easy", "to", "come", "up", "with", "examples", ",", "in", "terms", "of", "numbers", ",", "which", "make", "the", "left", "half", "of", "that", "relationship", "false", ",", "i.e.", "for", "which", "n", ">", "logm", ".", "Often", ",", "p", "<", "n", ",", "so", "that", "p", "<", "logm", "<", "n", "<", "n", "+", "p", ".", "In", "such", "cases", ",", "the", "number", "of", "input", "variables", "will", "dominate", "broadcast", ",", "while", "the", "depth", "of", "the", "network", "will", "dominate", "gather", ".", "The", "previous", "two", "paragraphs", "indicate", "that", "there", "are", "clear", "upper", "bounds", "on", "complexity", "and", "performance", ",", "as", "presented", "here", ".", "Lower", "bounds", ",", "or", "bounds", "on", "actual", "performance", ",", "however", ",", "seem", "to", "be", "problem-specific", ".", "VI", ".", "CONCLUSION", "ANNs", "that", "use", "a", "static", "topology", ",", "i.e.", "a", "topology", "that", "remains", "fixed", "throughout", "learning", ",", "suffer", "from", "a", "number", "of", "short-comings", ".", "Current", "research", "is", "demonstrating", "the", "use", "of", "dynamic", "topologies", "in", "overcoming", "some", "of", "these", "problems", ".", "The", "Location-Independent", "Transformation", "-LRB-", "LIT", "-RRB-", "is", "a", "general", "strategy", "for", "implementing", "variations", "of", "ANNs", "that", "use", "dynamic", "topologies", "during", "learning", ".", "This", "paper", "introduced", "ideas", "for", "LITs", "for", "static", "and", "dynamic", "feedforward", ",", "distributed", "neural", "networks", ".", "An", "LIT", "with", "associated", "execution", "and", "learning", "algorithms", "for", "backpropagation", "were", "formally", "defined", ",", "as", "an", "example", ".", "Analysis", "gives", "overall", "complexities", "for", "both", "execution", "and", "learning", "as", "O", "-LRB-", "n", "+", "p", "+", "logm", "-RRB-", ",", "where", "n", "is", "the", "number", "of", "inputs", ",", "p?is", "the", "number", "of", "outputs", ",", "and", "m", "is", "the", "number", "of", "hidden", "nodes", "in", "the", "original", "network", ".", "Current", "work", "includes", "the", "following", ":", "?", "LITs", "for", "other", "ANNs", ",", "aside", "from", "those", "for", "which", "transformations", "have", "been", "developed", ".", "?", "VLSI", "design", "and", "fabrication", "of", "LIT", "models", ".", "REFERENCES", "-LSB-", "1", "-RSB-", "G.", "S.", "Almasi", ",", "A.", "Gottlieb", ",", "Highly", "Parallel", "Computing", ",", "The", "Benjamin/Cummings", "Publishing", "Company", ",", "Inc", ",", "Redwood", "City", ",", "CA", ",", "1989", ".", "-LSB-", "2", "-RSB-", "P.", "T.", "Baffes", ",", "J.", "M.", "Zelle", ",", "?", "Growing", "Layers", "of", "Perceptrons", ":", "Introducing", "the", "Extentron", "Algorithm", "?", ",", "Proceedings", "of", "1992", "IEEE/INNS", "International", "Joint", "Conference", "on", "Neural", "Networks?Baltimore", ",", "Vol", ".", "2", ",", "pp", "4979-4984", ",", "1992", ".", "-LSB-", "3", "-RSB-", "T.", "Denoeux", ",", "R.", "Lengelle", ",", "?", "Initializing", "Back", "Propagation", "Networks", "With", "Prototypes", "?", "Neural", "Networks", ",", "Vol", ".", "6", ",", "#", "3", ",", "pp", "351-363", ",", "Pergamon", "Press", "Ltd", ",", "New", "York", ",", "1993", ".", "-LSB-", "4", "-RSB-", "S.", "Fahlmann", ",", "?", "Faster-Learning", "Variations", "on", "Back-Propagation", ":", "An", "Empirical", "Study", "?", ",", "Proceedings", "of", "the", "1988", "Connectionist", "Models", "Summer", "School", ",", "pp", "38-51", ",", "1988", ".", "-LSB-", "5", "-RSB-", "S.", "Fahlmann", ",", "C.", "Lebiere", ",", "?", "The", "Cascade-Correlation", "Learning", "Architecture", "?", ",", "Advances", "in", "Neural", "Information", "Processing", "2", ",", "pp", "524-532", ",", "Morgan", "Kaufmann", "Publishers", ":", "Los", "Altos", ",", "CA", ".", "-LSB-", "6", "-RSB-", "Farhat", ",", "N.", ",", "D.", "Psaltis", ",", "A.", "Prata", ",", "and", "E.", "Paek", ".", "Optical", "Implementation", "of", "the", "Hopfield", "Model", ".", "Applied", "Optics", ",", "Vol", ".", "24", ",", "#", "10", ".", "pp.1469-1475", ".", "1985", ".", "-LSB-", "7", "-RSB-", "Graf", ",", "H.", ",", "L.", "Jackel", ",", "W.", "Hubbard", ".", "VLSI", "Implementation", "of", "a", "Neural", "Network", "Model", ".", "In", "Artificial", "Neural", "Networks", ":", "Electronic", "Implementations", ",", "Nelson", "Morgan", ",", "Ed", ".", "pp.", "34-42", ".", "1990", ".", "-LSB-", "8", "-RSB-", "Hammerstrom", ",", "D.", ",", "W.", "Henry", ",", "M.", "Kuhn", ".", "Neurocomputer", "System", "for", "Neural-Network", "Applications", ".", "In", "Parallel", "Digital", "Implementations", "of", "Neural", "Networks", ".", "K.", "Przytula", ",", "V.", "Prasanna", ",", "Eds", ".", "Prentice-Hall", ",", "Inc.", ".", "1991", ".", "-LSB-", "9", "-RSB-", "Hillis", ",", "W.", "Daniel", ".", "The", "Connection", "Machine", ".", "Cambridge", ",", "Mass.", ":", "MIT", "Press", ",", "1985", ".", "-LSB-", "10", "-RSB-", "E.", "Karnin", ",", "?", "A", "Simple", "Procedure", "for", "Pruning", "Back-Propagation", "Trained", "Neural", "Networks", "?", ",", "IEEE", "Transactions", "On", "Neural", "Networks", ",", "Vol", ".", "1", ",", "#", "2", ",", "pp", "239-242", ",", "June", ",", "1990", ".", "-LSB-", "11", "-RSB-", "C.", "Lee", ",", "?", "A", "Simple", "Procedure", "for", "Pruning", "Back-Propagation", "Trained", "Neural", "Networks", "?", ",", "Neural", "Networks", ",", "Vol", ".", "6", ",", "#", "3", ",", "pp", "385-392", ".", "-LSB-", "12", "-RSB-", "T.", "Martinez", ",", "D.", "Campbell", ",", "?", "A", "Self-Adjusting", "Dynamic", "Logic", "Module", "?", ",", "Journal", "of", "Parallel", "and", "Distributed", "Computing", ",", "Vol", ".", "11", ",", "#", "4", ",", "pp", "303-313", ",", "1991", ".", "-LSB-", "13", "-RSB-", "C.", "Mead", ",", "Analog", "VLSI", "and", "Neural", "Systems", ",", "Addison-Wesley", "Publishing", "Company", ",", "Inc", ",", "1991", ".", "-LSB-", "14", "-RSB-", "S.", "Odri", ",", "D.", "Petrovacki", ",", "G.", "Krstonosic", ",", "?", "Evolutional", "Development", "of", "a", "Multilevel", "Neural", "Network", "?", ",", "Neural", "Networks", ",", "Vol", ".", "6", ",", "#", "4", ".", "pp", "583-595", ",", "Pergamon", "Press", "Ltd", ",", "New", "York", ",", "1993", ".", "-LSB-", "15", "-RSB-", "Ramacher", ",", "U.", ",", "W.", "Raab", ",", "J.", "Anlauf", ",", "U.", "Hachmann", ",", "J.", "Beichter", ",", "N.", "Br?ls", ",", "M.", "Wei?ling", ",", "E.", "Schneider", ",", "R.", "M?nner", ",", "J.", "Gl", "??", ".", "Multiprocessor", "and", "Memory", "Architecture", "of", "the", "Neurocomputer", "SYNAPSE-1", ".", "Proceedings", ",", "World", "Congress", "on", "Neural", "Networks", "1993", ",", "Vol", ".", "4", ".", "pp.", "775-778", ".", "INNS", "Press", ",", "1993", ".", "-LSB-", "16", "-RSB-", "D.", "Reilly", ",", "L.", "Cooper", ",", "C.", "Erlbaum", ",", "?", "A", "Neural", "Model", "Category", "Learning", "?", ",", "Biological", "Cybernetics", ",", "Vol", ".", "45", ",", "pp", "35-41", ",", "1982", ".", "-LSB-", "17", "-RSB-", "G.", "Rudolph", ",", "T.", "Martinez", ",", "?", "An", "Efficient", "Static", "Topology", "for", "Modeling", "ASOCS", "?", ",", "Artificial", "Neural", "Networks", ",", "Editors", ",", "Kohonen", "et", "al", ",", "pp", "279-734", ",", "Elsevier", "Publishers", ",", "North", "Holland", ",", "1991", ".", "-LSB-", "18", "-RSB-", "G.", "Rudolph", ",", "T.", "Martinez", ",", "?", "A", "Transformation", "for", "Implementing", "Localist", "Neural", "Networks", "?", ",", "Submitted", ",", "1994", ".", "-LSB-", "19", "-RSB-", "Rudolph", "G.", ",", "Martinez", ",", "T.", "R.", "?", "A", "Transformation", "for", "Implementing", "Multiple-Hidden-Layer", "FeedForward", "Networks", "?", ",", "Submitted", ",", "1994", ".", "-LSB-", "20", "-RSB-", "Rumelhart", ",", "D.", ",", "J.", "McClelland", ",", "et", ".", "al.", ".", "Parallel", "Distributed", "Processing", ":", "Explorations", "in", "the", "Microstructure", "of", "Cognition", ",", "VOL", ".", "1", ",", "MIT", "Press", ",", "1986", ".", "-LSB-", "21", "-RSB-", "Shams", ",", "S.", "Dream", "Machine?A", "Platform", "for", "Efficient", "Implementation", "of", "Neural", "Networks", "with", "Arbitrarily", "Complex", "Interconnect", "Structures", ".", "Technical", "Report", "CENG", "92-23", ".", "PhD", "Dissertation", ",", "USC", ",", "1992", ".", "-LSB-", "22", "-RSB-", "A.", "Sperduti", ",", "A.", "Starita", ".", "?", "Speed", "Up", "Learning", "and", "Network", "Optimization", "With", "Extended", "Back", "Propagation", "?", ",", "Neural", "Networks", ",", "Vol", ".", "6", ",", "#", "3", ",", "pp", "365-383", ",", "Pergamon", "Press", "Ltd", ",", "New", "York", ",", "1993", "." ]

[ "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "I", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Triangular", "Heaps", "Henk", "J.M.", "Goeman", "Walter", "A.", "Kosters", "Department", "of", "Mathematics", "and", "Computer", "Science", ",", "Leiden", "University", ",", "P.O.", "Box", "9512", ",", "2300", "RA", "Leiden", ",", "The", "Netherlands", "Email", ":", "fgoeman,kostersg@wi.LeidenUniv.nl", "Abstract", "In", "this", "paper", "we", "introduce", "the", "triangular", "heap", ",", "a", "heap", "with", "the", "special", "property", "that", "for", "every", "father", "node", "its", "right", "child", "-LRB-", "if", "present", "-RRB-", "is", "smaller", "than", "its", "left", "child", ".", "We", "show", "how", "triangular", "heaps", "can", "be", "applied", "to", "the", "traditional", "problem", "of", "sorting", "an", "array", "in", "situ", "in", "ways", "quite", "similar", "to", "well-known", "methods", "using", "ordinary", "heaps", ".", "An", "average", "case", "analysis", "is", "presented", "for", "the", "construction", "and", "for", "the", "sorting", "process", "of", "both", "ordinary", "and", "triangular", "heaps", ".", "1", "Introduction", "In", "this", "paper", "we", "propose", "the", "triangular", "heap", ",", "a", "heap", "with", "the", "special", "property", "that", "for", "every", "father", "node", "-LRB-", "the", "key", "of", "-RRB-", "its", "right", "child", "|", "if", "present", "|", "is", "smaller", "than", "-LRB-", "the", "key", "of", "-RRB-", "its", "left", "child", ".", "Whereas", "in", "a", "heap", "the", "largest", "node", "always", "takes", "the", "first", "position", "-LRB-", "i.e.", "the", "root", "-RRB-", ",", "in", "a", "triangular", "heap", "both", "the", "largest", "and", "the", "second", "largest", "node", "can", "always", "be", "found", "in", "first", "and", "second", "position", "-LRB-", "i.e.", "in", "the", "root", "and", "in", "the", "left", "child", "of", "the", "root", "-RRB-", ".", "The", "heap", "and", "its", "use", "for", "sorting", "an", "array", "in", "situ", "were", "first", "introduced", "by", "Williams", "and", "Floyd", ",", "see", "-LSB-", "11", "-RSB-", "and", "-LSB-", "3", "-RSB-", ".", "An", "important", "part", "of", "the", "algorithm", "|", "the", "procedure", "siftdown", "|", "builds", "a", "heap", "from", "a", "rootnode", "and", "two", "smaller", "heaps", ",", "represented", "in", "its", "two", "subtrees", ",", "by", "repeatedly", "interchanging", "the", "node", "with", "the", "largest", "of", "its", "children", "until", "the", "node", "eventually", "reaches", "a", "position", "where", "it", "is", "larger", "than", "its", "children", "-LRB-", "if", "any", "-RRB-", ".", "This", "requires", "two", "comparisons", "for", "each", "level", "encountered", ".", "The", "heap", "construction", "algorithm", "consists", "of", "a", "bottom-up", "series", "of", "these", "operations", ".", "Repeatedly", "removing", "the", "largest", "node", "and", "re-establishing", "the", "heap", "structure", "for", "the", "remaining", "nodes", ",", "again", "with", "the", "procedure", "siftdown", ",", "gives", "rise", "to", "a", "sorting", "method", "called", "heapsort", ".", "Efficient", "and", "improved", "implementations", "of", "this", "method", "were", ",", "for", "instance", ",", "given", "in", "-LSB-", "1", "-RSB-", ",", "-LSB-", "7", "-RSB-", ",", "-LSB-", "9", "-RSB-", "and", "-LSB-", "10", "-RSB-", ".", "These", "implementations", "contain", "more", "and", "more", "efficient", "realisations", "of", "the", "procedure", "siftdown", "-LRB-", "effectively", "resulting", "in", "the", "same", "heap", "-RRB-", "where", "first", "a", "vacant", "position", "is", "sent", "down", "to", "the", "lowest", "level", "at", "a", "cost", "of", "only", "one", "comparison", "per", "level", ",", "and", "then", "the", "new", "node", "is", "inserted", "in", "its", "proper", "place", "in", "a", "bottom-up", "fashion", ",", "again", "at", "a", "cost", "of", "only", "one", "comparison", "for", "each", "level", ".", "The", "name", "trickledown", "is", "commonly", "used", "to", "refer", "to", "these", "improved", "realisations", "of", "siftdown", ".", "Note", "that", "in", "a", "triangular", "heap", "more", "relations", "between", "the", "nodes", "of", "the", "tree", "are", "|", "in", "a", "sense", "|", "remembered", "in", "the", "tree", "structure", ".", "Thus", "the", "triangular", "heap", "structure", "reveals", "more", "information", "on", "the", "ordering", "of", "its", "nodes", "than", "the", "ordinary", "heap", "structure", ".", "Yet", "it", "turns", "out", "that", "this", "extra", "information", "can", "be", "easily", "maintained", ".", "The", "central", "question", "here", "is", ":", "is", "it", "possible", "to", "exploit", "the", "extra", "available", "information", "in", "applications", "of", "the", "triangular", "heap", "in", "such", "a", "way", "that", "this", "outweighs", "the", "extra", "effort", "to", "maintain", "the", "stronger", "structure", "?", "In", "this", "paper", "we", "shall", "consider", "that", "question", "applying", "the", "triangular", "heap", "to", "the", "traditional", "problem", "of", "sorting", "an", "array", "in", "situ", ".", "This", "will", "result", "in", "several", "new", "sorting", "algorithms", "using", "procedures", "quite", "similar", "to", "those", "often", "used", "for", "the", "ordinary", "heap", "structure", ".", "2", "Definitions", "and", "Prerequisites", "A", "heap", "is", "a", "finite", "binary", "tree", "on", "a", "totally", "ordered", "set", "such", "that", "each", "node", "is", "larger", "than", "its", "children", ".", "Whenever", "a", "finite", "binary", "tree", "is", "a", "heap", "we", "will", "say", "that", "the", "tree", "satisfies", "the", "heap", "property", ".", "Note", "that", "for", "a", "heap", "the", "underlying", "complete", "binary", "tree", "corresponds", "directly", "to", "the", "Hasse", "diagram", "of", "the", "partial", "order", "of", "known", "relations", "between", "the", "nodes", "as", "implied", "by", "the", "heap", "structure", ".", "To", "obtain", "the", "Hasse", "diagram", "one", "should", "just", "ignore", "the", "partitioning", "of", "outgoing", "edges", "in", "left", "and", "right", "ones", ".", "When", "applying", "the", "heap", "structure", "to", "the", "problem", "of", "sorting", "in", "situ", "an", "array", "A", "with", "indexset", "f1", ":", ":", ":", "ng", ",", "the", "heaps", "are", "usually", "represented", "within", "the", "array", "itself", "where", "node", "i", "-LRB-", "1", "<", "=", "i", "<", "=", "n", "-RRB-", "has", "2i", "as", "its", "left", "child", "-LRB-", "if", "2i", "<", "=", "n", "-RRB-", "and", "2i", "+", "1", "as", "its", "right", "child", "-LRB-", "if", "2i", "+", "1", "<", "=", "n", "-RRB-", ".", "For", "the", "whole", "array", "to", "be", "a", "heap", "we", "should", "have", "A", "-LSB-", "i", "-RSB-", "<", "A", "-LSB-", "i", "div", "2", "-RSB-", "for", "every", "i", "with", "1", "<", "i", "<", "=", "n.", "Indeed", ",", "for", "every", "node", "i", "with", "1", "<", "i", "<", "=", "n", "its", "parent", "is", "node", "i", "div", "2", ".", "With", "this", "representation", "a", "heap", "is", "always", "a", "complete", "binary", "tree", ".", "Here", "complete", "means", "that", "nodes", "may", "be", "absent", "only", "at", "the", "bottom", "level", "of", "the", "tree", "and", "there", "only", "as", "far", "to", "the", "right", "as", "possible", ".", "Now", ",", "a", "triangular", "heap", "is", "a", "heap", "with", "the", "special", "property", "that", "for", "every", "father", "node", ",", "having", "two", "children", ",", "its", "right", "child", "is", "smaller", "than", "its", "left", "child", ".", "Whenever", "a", "finite", "binary", "tree", "is", "a", "triangular", "heap", "we", "will", "say", "that", "the", "tree", "satisfies", "the", "triangular", "heap", "property", ".", "For", "a", "triangular", "heap", "the", "underlying", "complete", "binary", "tree", "does", "not", "correspond", "directly", "to", "the", "Hasse", "diagram", "of", "the", "partial", "order", "of", "known", "relations", "between", "the", "nodes", "as", "implied", "by", "the", "triangular", "heap", "structure", ".", "However", ",", "as", "we", "shall", "see", "shortly", ",", "we", "can", "easily", "construct", "another", "heap", "for", "the", "same", "set", "of", "nodes", ",", "whose", "corresponding", "Hasse", "diagram", "will", "also", "be", "the", "Hasse", "diagram", "of", "implied", "relations", "for", "the", "original", "triangular", "heap", ".", "There", "is", "a", "well-known", "and", "important", "construction", ",", "that", "establishes", "a", "1-1", "correspondence", "between", "ordered", "forests", "and", "binary", "trees", ".", "To", "get", "the", "corresponding", "binary", "tree", "from", "a", "given", "ordered", "forest", "one", "should", "just", "remove", "all", "the", "original", "edges", "and", "then", "install", "a", "left", "outgoing", "edge", "for", "each", "original", "parent", "node", "to", "its", "original", "left-most", "child", "and", "a", "right", "outgoing", "edge", "for", "each", "node", "to", "its", "original", "next", "sibling", "-LRB-", "if", "it", "had", "any", "-RRB-", ".", "This", "construction", "is", "sometimes", "called", "the", "left-child", ",", "right", "sibling", "representation", ".", "If", "we", "apply", "this", "construction", "to", "a", "forest", ",", "containing", "just", "one", "binary", "tree", "T", ",", "we", "will", "get", "another", "binary", "tree", ",", "which", "will", "be", "called", "its", "stretched", "form", ".", "The", "new", "binary", "tree", "will", "be", "a", "heap", "if", "and", "only", "if", "the", "original", "tree", "is", "a", "triangular", "heap", ",", "and", "its", "Hasse", "diagram", "is", "just", "the", "Hasse", "diagram", "for", "the", "original", "triangular", "heap", ".", "So", ",", "to", "be", "a", "triangular", "heap", ",", "the", "complete", "binary", "tree", ",", "represented", "as", "above", "in", "the", "array", "A", "with", "indexset", "f1", ":", ":", ":", "ng", ",", "should", "have", "for", "every", "i", "with", "1", "<", "i", "<", "=", "n", ",", "A", "-LSB-", "i", "-RSB-", "<", "A", "-LSB-", "i", "div", "2", "-RSB-", "if", "even", "-LRB-", "i", "-RRB-", ",", "and", "A", "-LSB-", "i", "-RSB-", "<", "A", "-LSB-", "i", "?", "1", "-RSB-", "if", "odd", "-LRB-", "i", "-RRB-", ".", "Its", "stretched", "form", "is", "then", "easily", "recognised", "to", "be", "a", "binary", "tree", ",", "again", "satisfying", "the", "heap", "property", ",", "where", "node", "i", "-LRB-", "1", "<", "=", "i", "<", "=", "n", "-RRB-", "has", "2i", "as", "its", "left", "child", "-LRB-", "if", "2i", "<", "=", "n", "-RRB-", ",", "and", "i", "+", "1", "as", "its", "right", "child", "-LRB-", "if", "i", "+", "1", "<", "=", "n", "and", "even", "-LRB-", "i", "-RRB-", "-RRB-", ".", "And", ",", "indeed", ",", "every", "node", "i", "with", "1", "<", "i", "<", "=", "n", "now", "has", "node", "i", "div", "2", "as", "its", "parent", "if", "even", "-LRB-", "i", "-RRB-", "and", "it", "has", "node", "i", "?", "1", "as", "its", "parent", "if", "odd", "-LRB-", "i", "-RRB-", ".", "Of", "course", ",", "for", "n", ">", "2", "the", "resulting", "tree", "is", "not", "complete", "any", "more", ",", "although", "it", "still", "occupies", "just", "the", "indexset", "f1", ":", ":", ":", "ng", ".", "Throughout", "this", "paper", "lg", "will", "denote", "the", "binary", "logarithm", ".", "The", "height", "of", "a", "tree", "is", "defined", "in", "a", "usual", "way", ":", "the", "height", "of", "an", "empty", "tree", "equals", "0", ",", "and", "the", "height", "of", "a", "non-empty", "tree", "is", "equal", "to", "1", "plus", "the", "maximum", "of", "the", "heights", "of", "the", "subtrees", "of", "the", "root", ".", "3", "Implementations", "and", "Algorithms", "In", "this", "section", "we", "will", "present", "our", "algorithms", "in", "a", "procedural", "notation", "using", "a", "call", "by", "value", "parameter", "mechanism", ".", "The", "algorithms", "will", "be", "given", "in", "a", "clear", "and", "compact", "form", ".", "Several", "obvious", "variants", "and", "optimisations", "could", "have", "been", "chosen", "as", "well", ",", "without", "a", "significant", "effect", "on", "the", "analysis", ".", "For", "instance", ",", "when", "we", "count", "the", "number", "of", "swaps", "in", "the", "procedure", "SiftDown", "below", ",", "it", "can", "also", "be", "read", "as", "counting", "the", "number", "of", "data", "movements", "in", "an", "obvious", "variant", "for", "this", "procedure", "SiftDown", ",", "where", "a", "cyclic", "exchange", "is", "done", "instead", "of", "the", "repetition", "of", "swaps", ".", "Let", "an", "integer", "m", "and", "an", "array", "A", ":", "array", "1", ":", ":", ":", "m", "of", "SomeType", "be", "given", ",", "where", "m", ">", "and", "where", "SomeType", "is", "a", "totally", "ordered", "set", ".", "We", "will", "assume", "that", "elements", "in", "different", "positions", "of", "the", "array", "are", "always", "different", ".", "3.1", "Procedures", "for", "HeapSort", "We", "first", "present", "and", "explain", "the", "program", "HeapSort", "which", "sorts", "an", "array", "in", "situ", "using", "ordinary", "heaps", ".", "Obviously", ",", "the", "following", "procedure", "Swap", "-LRB-", "k", ";", "j", "-RRB-", "interchanges", "two", "elements", "of", "the", "array", "A", ",", "whenever", "1", "<", "=", "k", "<", "=", "m", ",", "1", "<", "=", "j", "<", "=", "m", "and", "k", "<", ">", "j.", "Swap", "-LRB-", "k", ";", "j", "-RRB-", ":", "A", "-LRB-", "k", "-RRB-", ";", "A", "-LRB-", "j", "-RRB-", ":", "=", "A", "-LRB-", "j", "-RRB-", ";", "A", "-LRB-", "k", "-RRB-", "For", "1", "<", "=", "k", "<", "=", "n", "<", "=", "m", ",", "the", "procedure", "SiftDown", "-LRB-", "k", ";", "n", "-RRB-", "reorders", "the", "subtree", "in", "the", "array", "A", ",", "rooted", "at", "node", "k", "and", "restricted", "to", "the", "indexset", "1", ":", ":", ":", "n", ",", "into", "a", "heap", ",", "whenever", "both", "of", "its", "subtrees", "rooted", "at", "node", "2k", "and", "at", "node", "2k", "+", "1", ",", "again", "restricted", "to", "the", "indexset", "1", ":", ":", ":", "n", ",", "are", "heaps", "already", "-LRB-", "they", "can", "be", "empty", "-RRB-", ".", "SiftDown", "-LRB-", "k", ";", "n", "-RRB-", ":", "while", "k", "<", "=", "n", "div", "2", "do", "j", ":", "=", "2", "?", "k", ";", "if", "j", "<", "n", "then", "if", "A", "-LRB-", "j", "-RRB-", "<", "A", "-LRB-", "j", "+", "1", "-RRB-", "then", "j", ":", "=", "j", "+", "1", ";", "if", "A", "-LRB-", "k", "-RRB-", "<", "A", "-LRB-", "j", "-RRB-", "then", "Swap", "-LRB-", "k", ";", "j", "-RRB-", ";", "k", ":", "=", "j", "else", "k", ":", "=", "n", "od", "Then", ",", "the", "procedure", "MakeHeap", "establishes", "the", "heap", "property", "for", "the", "array", "A", ".", "This", "will", "also", "be", "called", "the", "construction", "phase", "of", "the", "sorting", "process", ".", "MakeHeap", ":", "k", ":", "=", "m", "div", "2", ";", "while", "k", ">", "do", "SiftDown", "-LRB-", "k", ";", "m", "-RRB-", ";", "k", ":", "=", "k", "?", "1", "od", "Now", ",", "finally", ",", "the", "procedure", "HeapSort", "sorts", "the", "array", "A", "in", "situ", ".", "HeapSort", ":", "n", ":", "=", "m", ";", "MakeHeap", ";", "while", "n", ">", "1", "do", "Swap", "-LRB-", "1", ";", "n", "-RRB-", ";", "n", ":", "=", "n", "?", "1", ";", "SiftDown", "-LRB-", "1", ";", "n", "-RRB-", "od", "The", "procedure", "TrickleDown", "-LRB-", "k", ";", "n", "-RRB-", ",", "a", "trickledown", "version", "of", "SiftDown", ",", "may", "replace", "SiftDown", "everywhere", "above", ",", "and", "can", "be", "given", "as", "follows", ":", "TrickleDown", "-LRB-", "k", ";", "n", "-RRB-", ":", "t", ":", "=", "A", "-LRB-", "k", "-RRB-", ";", "l", ":", "=", "k", ";", "while", "k", "<", "=", "n", "div", "2", "do", "j", ":", "=", "2", "?", "k", ";", "if", "j", "<", "n", "then", "if", "A", "-LRB-", "j", "-RRB-", "<", "A", "-LRB-", "j", "+", "1", "-RRB-", "then", "j", ":", "=", "j", "+", "1", ";", "A", "-LRB-", "k", "-RRB-", ":", "=", "A", "-LRB-", "j", "-RRB-", ";", "k", ":", "=", "j", "od", ";", "i", ":", "=", "k", ";", "while", "k", ">", "l", "do", "j", ":", "=", "k", "div", "2", ";", "if", "t", ">", "A", "-LRB-", "j", "-RRB-", "then", "A", "-LRB-", "k", "-RRB-", ":", "=", "A", "-LRB-", "j", "-RRB-", ";", "k", ":", "=", "j", ";", "i", ":", "=", "k", "else", "k", ":", "=", "l", "od", ";", "A", "-LRB-", "i", "-RRB-", ":", "=", "t", "3.2", "Procedures", "for", "Triangular", "HeapSort", "We", "can", "now", "present", "and", "explain", "the", "program", "TriangularHeapSort", "which", "sorts", "an", "array", "in", "situ", "using", "triangular", "heaps", ".", "For", "1", "<", "=", "k", "<", "=", "n", "<", "=", "m", ",", "the", "procedure", "TriangularSiftDown", "-LRB-", "k", ";", "n", "-RRB-", "reorders", "for", "the", "stretched", "form", "of", "the", "tree", "in", "array", "A", ",", "the", "subtree", "rooted", "at", "node", "k", "into", "a", "heap", ",", "whenever", "its", "subtrees", "are", "heaps", "already", ".", "As", "we", "explained", "earlier", ",", "now", "every", "node", "involved", "is", "larger", "than", "its", "right", "sibling", "and", "its", "left-most", "child", "-LRB-", "if", "present", "-RRB-", "as", "seen", "in", "the", "original", "unstretched", "form", "of", "the", "tree", "in", "array", "A.", "TriangularSiftDown", "-LRB-", "k", ";", "n", "-RRB-", ":", "while", "k", "<", "=", "n", "div", "2", "_", "-LRB-", "even", "-LRB-", "k", "-RRB-", "^", "k", "<", "n", "-RRB-", "do", "if", "k", "<", "=", "n", "div", "2", "then", "j", ":", "=", "2", "?", "k", ";", "if", "even", "-LRB-", "k", "-RRB-", "then", "if", "A", "-LRB-", "j", "-RRB-", "<", "A", "-LRB-", "k", "+", "1", "-RRB-", "then", "j", ":", "=", "k", "+", "1", "else", "j", ":", "=", "k", "+", "1", ";", "if", "A", "-LRB-", "k", "-RRB-", "<", "A", "-LRB-", "j", "-RRB-", "then", "Swap", "-LRB-", "k", ";", "j", "-RRB-", ";", "k", ":", "=", "j", "else", "k", ":", "=", "n", "od", "Then", ",", "the", "analogon", "of", "the", "procedure", "MakeHeap", "is", "the", "procedure", "MakeTriangularHeap", "establishing", "the", "triangular", "heap", "property", "for", "the", "array", "A.", "Note", "especially", "that", "it", "is", "necessary", "here", "to", "start", "at", "m", "?", "1", ",", "instead", "of", "m", "div", "2", ".", "MakeTriangularHeap", ":", "k", ":", "=", "m", "?", "1", ";", "while", "k", ">", "do", "TriangularSiftDown", "-LRB-", "k", ";", "m", "-RRB-", ";", "k", ":", "=", "k", "?", "1", "od", "Again", ",", "finally", ",", "the", "procedure", "TriangularHeapSort", "sorts", "the", "array", "A", "in", "situ", ".", "This", "algorithm", "is", "an", "easy", "analogon", "of", "the", "well-known", "algorithm", "for", "HeapSort", ".", "TriangularHeapSort", ":", "n", ":", "=", "m", ";", "MakeTriangularHeap", ";", "while", "n", ">", "1", "do", "Swap", "-LRB-", "1", ";", "n", "-RRB-", ";", "n", ":", "=", "n", "?", "1", ";", "TriangularSiftDown", "-LRB-", "1", ";", "n", "-RRB-", "od", "We", "also", "have", "a", "TrickleDown", "version", "of", "TriangularSiftDown", ",", "namely", "the", "procedure", "TriangularTrickleDown", "-LRB-", "k", ";", "n", "-RRB-", ",", "which", "can", "be", "given", "as", "follows", ":", "TriangularTrickleDown", "-LRB-", "k", ";", "n", "-RRB-", ":", "t", ":", "=", "A", "-LRB-", "k", "-RRB-", ";", "l", ":", "=", "k", ";", "while", "k", "<", "=", "n", "div", "2", "_", "-LRB-", "even", "-LRB-", "k", "-RRB-", "^", "k", "<", "n", "-RRB-", "do", "if", "k", "<", "=", "n", "div", "2", "then", "j", ":", "=", "2", "?", "k", ";", "if", "even", "-LRB-", "k", "-RRB-", "then", "if", "A", "-LRB-", "j", "-RRB-", "<", "A", "-LRB-", "k", "+", "1", "-RRB-", "then", "j", ":", "=", "k", "+", "1", "else", "j", ":", "=", "k", "+", "1", ";", "A", "-LRB-", "k", "-RRB-", ":", "=", "A", "-LRB-", "j", "-RRB-", ";", "k", ":", "=", "j", "od", ";", "i", ":", "=", "k", ";", "while", "k", ">", "l", "do", "if", "odd", "-LRB-", "k", "-RRB-", "then", "j", ":", "=", "k", "?", "1", "else", "j", ":", "=", "k", "div", "2", ";", "if", "t", ">", "A", "-LRB-", "j", "-RRB-", "then", "A", "-LRB-", "k", "-RRB-", ":", "=", "A", "-LRB-", "j", "-RRB-", ";", "k", ":", "=", "j", ";", "i", ":", "=", "k", "else", "k", ":", "=", "l", "od", ";", "A", "-LRB-", "i", "-RRB-", ":", "=", "t", "All", "these", "algoritms", "will", "be", "compared", "and", "analysed", "in", "the", "following", "sections", ".", "4", "Counting", "Heaps", "and", "Triangular", "Heaps", "If", "f", "-LRB-", "n", "-RRB-", "denotes", "the", "number", "of", "heaps", "on", "n", "distinct", "keys", ",", "then", "-LRB-", "see", "-LSB-", "8", "-RSB-", ",", "p.", "79", "-RRB-", "f", "-LRB-", "n", "-RRB-", "=", "n", "!", "=", "Y", "1", "<", "=", "k", "<", "=", "n", "S", "-LRB-", "k", ";", "n", "-RRB-", ";", "where", "for", "1", "<", "=", "k", "<", "=", "n", ",", "S", "-LRB-", "k", ";", "n", "-RRB-", "is", "the", "size", "of", "the", "subtree", "rooted", "at", "k.", "Analogous", "to", "the", "formula", "for", "f", "-LRB-", "n", "-RRB-", "we", "can", "compute", "g", "-LRB-", "n", "-RRB-", ",", "the", "number", "of", "triangular", "heaps", "on", "n", "distinct", "keys", ".", "It", "is", "easily", "seen", "that", "g", "-LRB-", "n", "-RRB-", "-LRB-", "n", "?", "1", "-RRB-", "!", "=", "1", "-LRB-", "n", "?", "1", "-RRB-", "s2", "g", "-LRB-", "s1", "-RRB-", "-LRB-", "s1", "?", "1", "-RRB-", "!", "g", "-LRB-", "s2", "-RRB-", "-LRB-", "s2", "?", "1", "-RRB-", "!", ";", "where", "s1", "and", "s2", "are", "the", "sizes", "of", "the", "subtrees", "of", "the", "root", ",", "S", "-LRB-", "2", ";", "n", "-RRB-", "resp", ".", "S", "-LRB-", "3", ";", "n", "-RRB-", ".", "They", "satisfy", "s1", "+", "s2", "=", "n", "?", "1", ".", "This", "formula", "leads", "to", "g", "-LRB-", "n", "-RRB-", "=", "-LRB-", "n", "?", "1", "-RRB-", "!", "=", "Y", "1", "<", "=", "k", "<", "=", "-LRB-", "n", "?", "1", "-RRB-", "div", "2", "-LRB-", "S", "-LRB-", "k", ";", "n", "-RRB-", "?", "1", "-RRB-", "S", "-LRB-", "2k", "+", "1", ";", "n", "-RRB-", ":", "If", "we", "take", "the", "tree", "in", "its", "stretched", "form", "and", "interpret", "S", "-LRB-", "k", ";", "n", "-RRB-", "as", "the", "size", "of", "the", "subtree", "rooted", "at", "k", "in", "that", "tree", ",", "then", "we", "have", "again", ",", "as", "should", "be", "expected", ",", "g", "-LRB-", "n", "-RRB-", "=", "n", "!", "=", "Y", "1", "<", "=", "k", "<", "=", "n", "S", "-LRB-", "k", ";", "n", "-RRB-", ":", "If", "n", "=", "2t", "?", "1", "for", "some", "integer", "t", "then", "g", "-LRB-", "n", "-RRB-", "=", "f", "-LRB-", "n", "-RRB-", "=", "2", "-LRB-", "n", "?", "1", "-RRB-", "=", "2", ".", "This", "last", "result", "also", "follows", "easily", "if", "one", "notes", "that", "an", "ordinary", "heap", "with", "2t", "?", "1", "elements", "can", "be", "turned", "into", "a", "triangular", "heap", "in", "a", "unique", "way", "by", "interchanging", "subtrees", "whenever", "the", "roots", "of", "these", "subtrees", "are", "not", "in", "correct", "order", ".", "If", "n", "=", "2t", "?", "1", "one", "can", "not", "lose", "completeness", "here", ".", "5", "An", "Analysis", "of", "the", "Algorithms", "In", "this", "section", "we", "will", "analyse", "the", "algorithms", "we", "have", "given", "before", ".", "Sorting", "an", "array", "in", "situ", "using", "heaps", "consists", "of", "two", "parts", ":", "the", "construction", "phase", "and", "the", "sorting", "phase", ".", "We", "will", "examine", "these", "phases", "in", "separate", "sections", ".", "5.1", "The", "Construction", "Phase", "Since", "every", "triangular", "heap", "is", "an", "\\", "ordinary", "''", "heap", ",", "it", "is", "clear", "that", "in", "general", "the", "construction", "requires", "more", "comparisons", "of", "array", "elements", ",", "and", "also", "more", "data", "movements", ".", "It", "is", "easy", "to", "show", "that", "the", "number", "of", "comparisons", "needed", "to", "construct", "a", "heap", "from", "a", "random", "permutation", "of", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", "-LRB-", "where", "n", "=", "2k", "?", "1", "for", "some", "integer", "k", ">", "0", "-RRB-", ",", "using", "the", "siftdown", "algorithm", ",", "is", "always", "between", "n", "?", "1", "and", "2n", "?", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", ".", "Using", "the", "trickledown", "version", "of", "this", "algorithm", ",", "the", "number", "of", "comparisons", "is", "between", "32", "n", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "12", "and", "2n", "?", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", ".", "The", "number", "of", "data", "movements", "-LRB-", "or", "swaps", "-RRB-", "is", "between", "and", "n", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", ",", "both", "for", "the", "siftdown", "version", "and", "the", "trickledown", "version", "-LRB-", "the", "arrays", "elements", "are", "only", "moved", "when", "the", "correct", "place", "for", "the", "\\", "new", "node", "''", "|", "which", "is", "the", "same", "for", "both", "algorithms", "|", "is", "found", "-RRB-", ".", "In", "the", "following", "the", "next", "lemma", "will", "be", "used", "frequently", ".", "Lemma", ".", "-LRB-", "i", "-RRB-", "Suppose", "that", "real", "numbers", "a", ",", "b", "and", "c", ",", "and", "a", "function", "G", "are", "given", ".", "The", "solution", "of", "the", "recurrence", "M", "-LRB-", "n", "-RRB-", "=", "2", "M", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "a", "lg", "-LRB-", "n", "+", "1", "-RRB-", "+", "b", "+", "G", "-LRB-", "n", "-RRB-", ";", "M", "-LRB-", "3", "-RRB-", "=", "c", ";", "where", "n", "=", "2k", "?", "1", "for", "integer", "k", ">", "=", "3", ",", "is", "given", "by", "M", "-LRB-", "n", "-RRB-", "=", "8", "<", ":", "lg", "-LRB-", "n", "+1", "-RRB-", "X", "l", "=", "3", "G", "-LRB-", "2l", "?", "1", "-RRB-", "2l", "+", "a", "+", "b", "+", "c", "4", "9", "=", ";", "-LRB-", "n", "+", "1", "-RRB-", "?", "a", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "-LRB-", "2a", "+", "b", "-RRB-", ":", "-LRB-", "ii", "-RRB-", "Suppose", "that", "real", "numbers", "a", ",", "b", ",", "c", "and", "d", "are", "given", ".", "Let", ",", "for", "n", "=", "2k", "?", "1", "with", "integer", "k", ">", "0", ",", "L", "-LRB-", "n", "-RRB-", "=", "lg", "-LRB-", "n", "+", "1", "-RRB-", "n", "-LRB-", "an", "+", "b", "-RRB-", "+", "c", "+", "d", "n", "and", "G", "-LRB-", "n", "-RRB-", "=", "-LRB-", "a", "?", "b", "-RRB-", "lg", "-LRB-", "n", "+", "1", "-RRB-", "n", "+", "?", "a", "+", "2b", "+", "c", "?", "d", "n", "+", "a", ":", "Then", "L", "-LRB-", "n", "-RRB-", "satisfies", "the", "recurrence", "L", "-LRB-", "n", "-RRB-", "=", "G", "-LRB-", "n", "-RRB-", "+", "n", "?", "1", "n", "L", "-LRB-", "n", "?", "1", "2", "-RRB-", ":", "Proof", ".", "Straightforward", ".", "2", "For", "triangular", "heaps", "we", "have", ":", "Theorem", ".", "The", "number", "of", "comparisons", "needed", "to", "construct", "a", "triangular", "heap", "from", "a", "random", "permutation", "of", "f1", ";", "2", ";", ":", ":", ":", ";", "ng", "-LRB-", "where", "n", "=", "2k", "?", "1", "for", "some", "integer", "k", ">", "0", "-RRB-", ",", "using", "the", "staightforward", "algorithm", ",", "is", "between", "n", "?", "1", "and", "134", "n", "?", "3", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "34", ",", "and", "using", "the", "trickledown", "version", "between", "32", "n", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "12", "and", "134", "n", "?", "3", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "34", ".", "If", "n", "=", "1", "both", "upper", "bounds", "are", "0", ".", "Proof", ".", "For", "the", "siftdown", "algorithm", ",", "a", "siftdown", "at", "a", "node", "that", "is", "the", "root", "of", "a", "subtree", "of", "height", "h", ">", "1", "takes", "between", "2", "and", "3h", "?", "2", "comparisons", "if", "the", "node", "is", "a", "left", "child", "in", "the", "original", "tree", ",", "and", "between", "1", "and", "3h", "?", "4", "comparisons", "if", "the", "node", "is", "a", "right", "child", "in", "-LRB-", "or", "the", "root", "of", "-RRB-", "the", "original", "tree", ".", "For", "leaves", "the", "values", "are", "1", ",", "1", ",", "and", "respectively", ".", "For", "the", "trickledown", "version", "the", "lower", "bounds", "are", "h", "for", "left", "children", "and", "h", "?", "1", "for", "right", "children", ";", "the", "upper", "bounds", "are", "the", "same", "as", "those", "for", "the", "siftdown", "algorithm", ".", "The", "lower", "bound", "for", "the", "number", "of", "comparisons", "needed", "for", "the", "construction", "of", "a", "triangular", "heap", "using", "the", "siftdown", "algorithm", "follows", "by", "solving", "the", "recurrence", "B", "-LRB-", "n", "-RRB-", "=", "2", "B", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "2", ";", "B", "-LRB-", "1", "-RRB-", "=", ":", "The", "upper", "bounds", "for", "the", "construction", "of", "a", "triangular", "heap", "using", "the", "two", "algorithms", "coincide", ".", "Let", "U", "-LRB-", "n", "-RRB-", "denote", "this", "upper", "bound", ".", "In", "order", "to", "construct", "a", "triangular", "heap", ",", "the", "left", "and", "right", "subtrees", "of", "the", "root", "have", "to", "be", "triangular", "heaps", "-LRB-", "requiring", "at", "most", "U", "-LRB-", "n", "?", "12", "-RRB-", "+2", "resp", ".", "U", "-LRB-", "n", "?", "12", "-RRB-", "comparisons", ";", "remember", "that", "a", "siftdown", "at", "the", "left", "child", "may", "involve", "the", "right", "subtree", "-RRB-", ",", "and", "we", "should", "add", "3", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "4", "comparisons", "for", "the", "siftdown", "at", "the", "root", ".", "We", "are", "led", "to", "the", "recurrence", "U", "-LRB-", "n", "-RRB-", "=", "2", "U", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "3", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "2", ";", "with", "boundary", "value", "U", "-LRB-", "3", "-RRB-", "=", "3", ",", "from", "which", "the", "formula", "for", "the", "upper", "bound", "follows", ",", "using", "the", "Lemma", ".", "The", "lower", "bound", "for", "the", "trickledown", "version", "is", "derived", "in", "a", "similar", "way", ".", "-LRB-", "As", "we", "will", "see", "shortly", ",", "it", "is", "also", "possible", "to", "proceed", "in", "a", "more", "general", "manner", ".", "-RRB-", "2", "Doberkat", "-LRB-", "see", "-LSB-", "2", "-RSB-", "or", "-LSB-", "4", "-RSB-", ",", "p.", "213", "-RRB-", "proved", "that", "the", "number", "of", "comparisons", "for", "the", "siftdown", "algorithm", "is", "approximately", "1:88", "n", "in", "the", "average", "case", ".", "Using", "this", "result", "Wegener", "-LRB-", "see", "-LSB-", "9", "-RSB-", "-RRB-", "showed", "that", "for", "the", "trickledown", "version", "it", "is", "approximately", "1:65", "n", ".", "We", "shall", "now", "give", "similar", "results", "for", "triangular", "heaps", ".", "Our", "methods", "are", "also", "applicable", "to", "ordinary", "heaps", ",", "where", "they", "confirm", "the", "results", "of", "Doberkat", "and", "Wegener", ".", "We", "need", "a", "result", "that", "holds", "in", "a", "more", "general", "setting", ".", "Let", "us", "consider", "ordered", "oriented", "trees", "-LRB-", "this", "means", "that", "the", "children", "of", "a", "node", "are", "ordered", "from", "left", "to", "right", "-RRB-", ".", "In", "order", "to", "establish", "the", "heap", "property", "for", "such", "a", "tree", "we", "use", "an", "obvious", "generalisation", "of", "the", "siftdown", "algorithm", ":", "in", "a", "bottom-up", "fashion", "all", "subtrees", "are", "heapified", "by", "repeatly", "interchanging", "-LRB-", "as", "long", "as", "necessary", "-RRB-", "the", "root", "of", "the", "subtree", "with", "its", "largest", "child", ".", "In", "a", "similar", "way", "we", "have", "an", "obvious", "generalisation", "of", "the", "trickledown", "version", ".", "We", "let", "M1", "-LRB-", "T", "-RRB-", "resp", ".", "M2", "-LRB-", "T", "-RRB-", "denote", "the", "average", "number", "of", "comparisons", "needed", "to", "establish", "the", "heap", "property", "for", "the", "ordered", "oriented", "tree", "T", "using", "the", "generalisation", "of", "the", "siftdown", "version", "resp", ".", "the", "trickledown", "version", ".", "Here", "we", "suppose", "that", "all", "permutations", "of", "f1", ";", "2", ";", ":", ":", ":", ";", "tg", "are", "equally", "likely", "-LRB-", "where", "t", "is", "the", "number", "of", "nodes", "in", "T", "-RRB-", ".", "Let", "L1", "-LRB-", "T", "-RRB-", "resp", ".", "L2", "-LRB-", "T", "-RRB-", "denote", "the", "average", "number", "of", "comparisons", "during", "the", "final", "siftdown", "resp", ".", "trickledown", "at", "the", "root", "for", "the", "siftdown", "version", "resp", ".", "the", "trickledown", "version", ",", "and", "let", "H", "-LRB-", "T", "-RRB-", "be", "the", "average", "number", "of", "comparisons", "needed", "-LRB-", "for", "the", "trickledown", "version", ",", "again", "during", "the", "final", "trickledown", "-RRB-", "when", "the", "root", "of", "T", "already", "contains", "t", ",", "the", "largest", "number", "in", "T", ".", "For", "empty", "trees", "T", "we", "define", "Mj", "-LRB-", "T", "-RRB-", "=", "Lj", "-LRB-", "T", "-RRB-", "=", "-LRB-", "j", "=", "1", ";", "2", "-RRB-", ".", "We", "have", ":", "Proposition", ".", "Let", "T", "be", "an", "ordered", "oriented", "tree", "with", "t", ">", "1", "nodes", ",", "where", "the", "root", "has", "w", ">", "=", "1", "-LRB-", "non-empty", "-RRB-", "subtrees", "T1", ",", "T2", ",", "...", ",", "Tw", ".", "Suppose", "that", "Ti", "has", "ti", "nodes", "-LRB-", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "w", "-RRB-", ".", "Then", ",", "for", "j", "=", "1", ";", "2", ",", "we", "have", "Mj", "-LRB-", "T", "-RRB-", "=", "wX", "i", "=", "1", "Mj", "-LRB-", "Ti", "-RRB-", "+", "Lj", "-LRB-", "T", "-RRB-", ";", "Lj", "-LRB-", "T", "-RRB-", "=", "Gj", "-LRB-", "T", "-RRB-", "+", "wX", "i", "=", "1", "ti", "t", "L1", "-LRB-", "Ti", "-RRB-", ";", "G1", "-LRB-", "T", "-RRB-", "=", "w", "and", "G2", "-LRB-", "T", "-RRB-", "=", "w", "?", "1", "+", "1", "t", "+", "1", "t", "H", "-LRB-", "T", "-RRB-", ";", "where", "H", "-LRB-", "T", "-RRB-", "satisfies", "H", "-LRB-", "T", "-RRB-", "=", "w", "+", "wX", "i", "=", "1", "ti", "t", "?", "1H", "-LRB-", "Ti", "-RRB-", "with", "boundary", "value", "H", "-LRB-", "T", "-RRB-", "=", "if", "T", "has", "one", "node", ".", "If", "T", "has", "one", "node", "we", "have", "M1", "-LRB-", "T", "-RRB-", "=", "M2", "-LRB-", "T", "-RRB-", "=", "L1", "-LRB-", "T", "-RRB-", "=", "L2", "-LRB-", "T", "-RRB-", "=", "0", ".", "Proof", ".", "The", "probability", "that", "just", "before", "the", "final", "siftdown", "t", "is", "in", "the", "root", "of", "T", "equals", "1", "=", "t", ".", "If", "a", "node", "has", "w", "children", ",", "it", "takes", "w", "?", "1", "comparisons", "to", "find", "its", "largest", "child", ".", "If", "t", "is", "in", "the", "root", ",", "the", "siftdown", "algorithm", "needs", "w", "comparisons", ",", "whereas", "the", "trickledown", "version", "needs", "|", "by", "definition", "|", "H", "-LRB-", "T", "-RRB-", "comparisons", ".", "Key", "t", "is", "with", "probability", "ti", "=", "t", "in", "subtree", "Ti", ",", "just", "before", "the", "final", "siftdown", ".", "In", "this", "case", "the", "siftdown", "algorithm", "takes", "-LRB-", "in", "the", "average", "case", "-RRB-", "w", "+", "L1", "-LRB-", "Ti", "-RRB-", "comparisons", ".", "In", "fact", ",", "the", "numbers", "in", "Ti", "turn", "out", "to", "be", "random", ".", "For", "the", "trickledown", "version", "the", "argument", "is", "a", "little", "more", "intricate", ".", "In", "this", "case", ",", "if", "t", "happens", "to", "be", "in", "subtree", "Ti", ",", "we", "need", "w", "?", "1", "+", "L2", "-LRB-", "Ti", "-RRB-", "comparisons", ",", "except", "for", "the", "case", "when", "the", "original", "root", "of", "the", "tree", "turns", "out", "to", "be", "the", "largest", "number", "in", "Ti", "-LRB-", "after", "the", "removal", "of", "t", "from", "this", "tree", "-RRB-", ";", "this", "happens", "with", "probability", "1", "=", "ti", ".", "We", "then", "have", "one", "extra", "comparison", ",", "leading", "to", "a", "total", "of", "L2", "-LRB-", "T", "-RRB-", "=", "1", "t", "H", "-LRB-", "T", "-RRB-", "+", "wX", "i", "=", "1", "ti", "t", "-LRB-", "L2", "-LRB-", "Ti", "-RRB-", "+", "w", "?", "1", "+", "1", "ti", "-RRB-", "=", "1", "t", "H", "-LRB-", "T", "-RRB-", "+", "wX", "i", "=", "1", "ti", "t", "L2", "-LRB-", "Ti", "-RRB-", "+", "-LRB-", "w", "?", "1", "-RRB-", "-LRB-", "t", "?", "1", "-RRB-", "+", "w", "t", "comparisons", ";", "the", "desired", "formula", "easily", "follows", ".", "The", "recursion", "for", "H", "-LRB-", "T", "-RRB-", "can", "be", "proved", "in", "the", "following", "way", ".", "At", "the", "root", "level", "we", "need", "w", "?", "1", "comparisons", "to", "find", "the", "largest", "child", ",", "which", "is", "the", "root", "of", "subtree", "Ti", "with", "probability", "ti", "=", "-LRB-", "t", "?", "1", "-RRB-", "-LRB-", "note", "that", "the", "denominator", "is", "t", "?", "1", "instead", "of", "t", ",", "since", "the", "root", "value", "t", "is", "already", "fixed", "-RRB-", ".", "In", "this", "subtree", "we", "use", "L2", "-LRB-", "Ti", "-RRB-", "comparisons", "on", "average", ".", "Finally", ",", "key", "t", "returns", "to", "the", "root", "using", "one", "extra", "comparison", ".", "2", "One", "should", "be", "aware", "of", "the", "fact", "that", "all", "these", "quantities", "depend", "on", "the", "shape", "of", "T", ".", "As", "a", "degenerate", "case", "we", "have", "lists", ":", "all", "father", "nodes", "in", "T", "have", "exactly", "one", "child", ".", "Then", "one", "can", "compute", "L1", "-LRB-", "T", "-RRB-", "=", "L2", "-LRB-", "T", "-RRB-", "=", "1", "2t", "-LRB-", "t", "?", "1", "-RRB-", "-LRB-", "t", "+", "2", "-RRB-", "and", "M1", "-LRB-", "T", "-RRB-", "=", "M2", "-LRB-", "T", "-RRB-", "=", "1", "4", "-LRB-", "t", "?", "1", "-RRB-", "-LRB-", "t", "+", "4", "-RRB-", "?", "Ht", "+", "1", "=", "1", "4t2", "+", "O", "-LRB-", "t", "-RRB-", ";", "where", "the", "harmonic", "numbers", "Ht", "are", "defined", "by", "Ht", "=", "Pti", "=", "1", "1", "=", "i", ".", "This", "result", "is", "not", "surprising", ":", "for", "lists", "both", "algorithms", "boil", "down", "to", "insertion", "sort", ".", "Note", "that", "in", "a", "similar", "way", "formulas", "can", "be", "given", "for", "the", "average", "number", "of", "data", "movements", "or", "swaps", ".", "Now", "we", "define", "Ak", "and", "Bk", "for", "integer", "k", ">", "=", "by", "Ak", "=", "kX", "l", "=", "1", "l", "2l", "-LRB-", "2l", "?", "1", "-RRB-", "and", "Bk", "=", "kX", "l", "=", "1", "1", "2l", "-LRB-", "2l", "?", "1", "-RRB-", ";", "so", "A0", "=", "B0", "=", "1", ",", "A1", "=", "B1", "=", "1", "=", "2", ",", "A2", "=", "2", "=", "3", "and", "B2", "=", "7", "=", "12", ".", "Let", "A", "=", "limk", "!", "1", "Ak", "ss", ":744", "and", "B", "=", "limk", "!", "1", "Bk", "ss", ":607", ".", "In", "-LSB-", "2", "-RSB-", "and", "-LSB-", "9", "-RSB-", "the", "numbers", "1", ",", "2", "and", "are", "defined", "by", ":", "1", "=", "1X", "l", "=", "1", "1", "2l", "?", "1", ";", "2", "=", "1X", "l", "=", "1", "1", "-LRB-", "2l", "?", "1", "-RRB-", "2", "and", "=", "B", "?", "12", ".", "They", "can", "also", "be", "defined", "as", "certain", "basic", "hypergeometric", "series", ".", "Note", "that", "=", "1X", "l", "=", "2", "1", "2l", "-LRB-", "2l", "?", "1", "-RRB-", "=", "1X", "l", "=", "2", "1", "2l", "?", "1", "?", "1X", "l", "=", "2", "1", "2l", "=", "1", "?", "3", "2", ":", "Furthermore", "A", "=", "1", "+", "2", "?", "2", ",", "since", "1", "+", "2", "=", "1X", "l", "=", "1", "2l", "-LRB-", "2l", "?", "1", "-RRB-", "2", "=", "1X", "l", "=", "1", "1", "=", "2l", "-LRB-", "1", "?", "1", "=", "2l", "-RRB-", "2", "=", "1X", "l", "=", "1", "1X", "j", "=", "1", "j", "-LRB-", "1", "=", "2l", "-RRB-", "j", "=", "1X", "j", "=", "1", "j", "1X", "l", "=", "1", "-LRB-", "1", "=", "2j", "-RRB-", "l", "=", "1X", "j", "=", "1", "j", "1", "=", "2j", "1", "?", "1", "=", "2j", "=", "1X", "l", "=", "1", "l", "2l", "?", "1", "=", "1X", "l", "=", "1", "l", "2l", "-LRB-", "2l", "?", "1", "-RRB-", "+", "1X", "l", "=", "1", "l", "2l", "=", "A", "+", "2", ";", "where", "we", "used", "1X", "l", "=", "1", "xl", "=", "x", "1", "?", "x", "and", "1X", "l", "=", "1", "l", "xl", "=", "x", "-LRB-", "1", "?", "x", "-RRB-", "2", "for", "real", "x", "with", "?", "1", "<", "x", "<", "1", ".", "As", "a", "consequence", "of", "the", "proposition", "we", "have", "Theorem", ".", "The", "construction", "of", "a", "heap", "on", "n", "=", "2k", "?", "1", "-LRB-", "integer", "k", ">", "0", "-RRB-", "elements", "using", "the", "siftdown", "algorithm", "takes", "-LRB-", "1", "+", "2Ak", "?", "Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "1", "comparisons", "in", "the", "average", "case", ".", "For", "the", "trickledown", "version", "it", "takes", "-LRB-", "3", "?", "Ak", "?", "Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "3", "comparisons", "in", "the", "average", "case", ".", "For", "triangular", "heaps", "the", "siftdown", "algorithm", "takes", "-LRB-", "9", "8", "+", "5", "2Ak", "?", "3", "4Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "5", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "7", "4", "comparisons", "in", "the", "average", "case", "-LRB-", "if", "n", ">", "=", "3", "-RRB-", "and", "the", "trickledown", "version", "between", "-LRB-", "77", "24", "?", "3", "2Ak", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "25", "6", "and", "-LRB-", "37", "12", "?", "3", "2Ak", "?", "9", "40Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "503", "120", "comparisons", "-LRB-", "again", "for", "n", ">", "=", "3", "-RRB-", ".", "Proof", ".", "Let", "us", "first", "examine", "ordinary", "heaps", ",", "so", "all", "trees", "considered", "are", "complete", "binary", "trees", ".", "We", "write", "Lj", "-LRB-", "n", "-RRB-", "=", "Lj", "-LRB-", "T", "-RRB-", "and", "Mj", "-LRB-", "n", "-RRB-", "=", "Mj", "-LRB-", "T", "-RRB-", "-LRB-", "j", "=", "1", ";", "2", "-RRB-", ",", "where", "n", "=", "2k", "?", "1", "is", "the", "number", "of", "nodes", "in", "T", ".", "Using", "the", "proposition", ",", "we", "get", "L1", "-LRB-", "n", "-RRB-", "=", "2", "+", "n", "?", "1", "n", "L1", "-LRB-", "n", "?", "1", "2", "-RRB-", ";", "L1", "-LRB-", "1", "-RRB-", "=", ";", "with", "solution", "L1", "-LRB-", "n", "-RRB-", "=", "2", "n", "lg", "-LRB-", "n", "+", "1", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "3", "?", "1", "n", ":", "We", "arrive", "at", "M1", "-LRB-", "n", "-RRB-", "=", "2", "M1", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "2", "n", "lg", "-LRB-", "n", "+", "1", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "3", "?", "1", "n", ";", "M1", "-LRB-", "1", "-RRB-", "=", ":", "In", "case", "of", "the", "trickledown", "version", "we", "have", "to", "compute", "H", "-LRB-", "T", "-RRB-", ",", "but", "for", "a", "complete", "binary", "tree", "T", "of", "height", "h", "this", "is", "easy", ":", "H", "-LRB-", "T", "-RRB-", "=", "2", "-LRB-", "h", "?", "1", "-RRB-", ".", "We", "are", "led", "to", "L2", "-LRB-", "n", "-RRB-", "=", "1", "+", "1", "n", "-LRB-", "1", "+", "2", "-LRB-", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "1", "-RRB-", "-RRB-", "+", "n", "?", "1", "n", "L2", "-LRB-", "n", "?", "1", "2", "-RRB-", ";", "L2", "-LRB-", "1", "-RRB-", "=", ";", "with", "solution", "L2", "-LRB-", "n", "-RRB-", "=", "-LRB-", "lg", "-LRB-", "n", "+", "1", "-RRB-", "+", "1", "-RRB-", "-LRB-", "1", "?", "1", "n", "-RRB-", ";", "leading", "to", "M2", "-LRB-", "n", "-RRB-", "=", "2", "M2", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "-LRB-", "lg", "-LRB-", "n", "+", "1", "-RRB-", "+", "1", "-RRB-", "-LRB-", "1", "?", "1", "n", "-RRB-", ";", "M2", "-LRB-", "1", "-RRB-", "=", ":", "Using", "the", "Lemma", "we", "get", "the", "solutions", "mentioned", "above", ".", "These", "formulas", "support", "the", "intuition", "that", "most", "keys", "have", "to", "sink", "down", "to", "one", "of", "the", "lowest", "levels", ",", "thereby", "favouring", "the", "trickledown", "version", ":", "L1", "-LRB-", "n", "-RRB-", "ss", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "3", ",", "whereas", "L2", "-LRB-", "n", "-RRB-", "ss", "lg", "-LRB-", "n", "+", "1", "-RRB-", "+", "1", ".", "For", "triangular", "heaps", "we", "have", "to", "do", "more", ".", "We", "apply", "the", "proposition", "to", "the", "stretched", "form", "of", "the", "tree", ".", "In", "the", "following", "we", "will", "examine", "Mj", "-LRB-", "T", "-RRB-", ",", "where", "T", "is", "now", "the", "stretched", "form", "of", "the", "original", "tree", ".", "We", "will", "also", "write", "Mj", "-LRB-", "n", "-RRB-", "instead", "of", "Mj", "-LRB-", "T", "-RRB-", ",", "if", "T", "has", "n", "nodes", ";", "remember", "that", "in", "general", "the", "shape", "of", "the", "tree", "can", "not", "be", "inferred", "from", "the", "number", "n", ",", "but", "this", "will", "be", "clear", "from", "the", "context", ".", "For", "the", "moment", "we", "drop", "the", "index", "j", ".", "In", "the", "following", "we", "shall", "derive", "different", "recurrences", "for", "M", "-LRB-", "n", "-RRB-", "and", "M", "-LRB-", "n", "?", "1", "-RRB-", "-LRB-", "n", "=", "2k", "?", "1", "-RRB-", ",", "reflecting", "the", "fact", "that", "in", "triangular", "heaps", "left", "and", "right", "children", "play", "an", "asymmetric", "role", ".", "We", "shall", "always", "try", "to", "rephrase", "our", "recurrences", "in", "such", "a", "way", "that", "they", "are", "restricted", "to", "left", "children", "only", ":", "we", "eliminate", "the", "terms", "corresponding", "to", "right", "children", ".", "We", "have", "M", "-LRB-", "n", "-RRB-", "=", "M", "-LRB-", "n", "?", "1", "-RRB-", "+", "L", "-LRB-", "n", "-RRB-", "and", "M", "-LRB-", "n", "?", "1", "-RRB-", "=", "M", "-LRB-", "n", "?", "32", "-RRB-", "+", "M", "-LRB-", "n", "?", "12", "-RRB-", "+", "L", "-LRB-", "n", "?", "1", "-RRB-", "-LRB-", "n", ">", "=", "3", "-RRB-", ".", "Of", "course", ",", "M", "-LRB-", "1", "-RRB-", "=", "L", "-LRB-", "1", "-RRB-", "=", "0", ".", "From", "these", "equations", "it", "follows", "that", "M", "-LRB-", "n", "-RRB-", "=", "2M", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "-LRB-", "L", "-LRB-", "n", "-RRB-", "+", "L", "-LRB-", "n", "?", "1", "-RRB-", "?", "L", "-LRB-", "n", "?", "1", "2", "-RRB-", "-RRB-", ":", "For", "L", "-LRB-", "n", "-RRB-", "we", "have", "L", "-LRB-", "n", "-RRB-", "=", "G", "-LRB-", "n", "-RRB-", "+", "n", "?", "1", "n", "L", "-LRB-", "n", "?", "1", "-RRB-", "and", "L", "-LRB-", "n", "?", "1", "-RRB-", "=", "G", "-LRB-", "n", "?", "1", "-RRB-", "+", "n", "?", "3", "2", "-LRB-", "n", "?", "1", "-RRB-", "L", "-LRB-", "n", "?", "3", "2", "-RRB-", "+", "1", "2L", "-LRB-", "n", "?", "1", "2", "-RRB-", ":", "From", "these", "equations", "it", "follows", "that", "L", "-LRB-", "n", "-RRB-", "=", "G", "-LRB-", "n", "-RRB-", "+", "n", "?", "1", "n", "ae", "G", "-LRB-", "n", "?", "1", "-RRB-", "?", "1", "2G", "-LRB-", "n", "?", "1", "2", "-RRB-", "oe", "+", "n", "?", "1", "n", "L", "-LRB-", "n", "?", "1", "2", "-RRB-", "and", "L", "-LRB-", "n", "?", "1", "-RRB-", "?", "L", "-LRB-", "n", "?", "1", "2", "-RRB-", "=", "G", "-LRB-", "n", "?", "1", "-RRB-", "?", "1", "2G", "-LRB-", "n", "?", "1", "2", "-RRB-", ":", "Now", "we", "look", "at", "the", "triangular", "siftdown", "algorithm", ".", "For", "L", "=", "L1", "we", "have", "G", "-LRB-", "n", "-RRB-", "=", "1", "and", "G", "-LRB-", "n", "?", "1", "-RRB-", "=", "2", ".", "Note", "that", "G", "-LRB-", "2", "-RRB-", "=", "1", ".", "We", "find", "L1", "-LRB-", "n", "-RRB-", "=", "5n", "?", "3", "2n", "+", "n", "?", "1", "n", "L1", "-LRB-", "n", "?", "1", "2", "-RRB-", ";", "L1", "-LRB-", "3", "-RRB-", "=", "5", "=", "3", ":", "Using", "the", "Lemma", "we", "get", "L1", "-LRB-", "n", "-RRB-", "=", "5", "lg", "-LRB-", "n", "+", "1", "-RRB-", "2n", "-LRB-", "n", "+", "1", "-RRB-", "?", "19", "4", "?", "3", "4n", ";", "so", "-LRB-", "note", "the", "term", "?", "134", "-RRB-", ":", "M1", "-LRB-", "n", "-RRB-", "=", "2M1", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "5", "lg", "-LRB-", "n", "+", "1", "-RRB-", "2n", "-LRB-", "n", "+", "1", "-RRB-", "?", "13", "4", "?", "3", "4n", ";", "M1", "-LRB-", "3", "-RRB-", "=", "8", "=", "3", ";", "and", "finally", ",", "again", "using", "the", "Lemma", ",", "we", "arrive", "at", "M1", "-LRB-", "n", "-RRB-", "=", "-LRB-", "9", "8", "+", "5", "2Ak", "?", "3", "4Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "5", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "7", "4", ":", "For", "L", "=", "L2", "we", "have", "to", "compute", "H", "-LRB-", "T", "-RRB-", "=", "H", "-LRB-", "n", "-RRB-", ",", "since", "here", "G", "-LRB-", "n", "-RRB-", "=", "1", "n", "-LRB-", "H", "-LRB-", "n", "-RRB-", "+", "1", "-RRB-", "and", "G", "-LRB-", "n", "?", "1", "-RRB-", "=", "1", "+", "1", "n", "?", "1", "-LRB-", "H", "-LRB-", "n", "?", "1", "-RRB-", "+", "1", "-RRB-", ":", "The", "H", "-LRB-", "n", "-RRB-", "satisfy", "the", "recurrence", "H", "-LRB-", "n", "-RRB-", "=", "5", "2", "+", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "+", "H", "-LRB-", "n", "?", "1", "2", "-RRB-", "-LRB-", "use", "H", "-LRB-", "n", "-RRB-", "=", "1", "+", "H", "-LRB-", "n", "?", "1", "-RRB-", "and", "H", "-LRB-", "n", "?", "1", "-RRB-", "=", "2", "+", "n", "?", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "H", "-LRB-", "n", "?", "12", "-RRB-", "+", "n", "?", "3", "2", "-LRB-", "n", "?", "2", "-RRB-", "H", "-LRB-", "n", "?", "32", "-RRB-", "-RRB-", ",", "leading", "to", "H", "-LRB-", "n", "-RRB-", "=", "5", "2", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "3", "+", "1", "2", "k", "?", "3", "X", "i", "=", "0", "1", "=", "-LRB-", "2k", "?", "i", "?", "3", "-RRB-", "-LRB-", "remember", "n", "=", "2k", "?", "1", "-RRB-", ",", "with", "H", "-LRB-", "1", "-RRB-", "=", "and", "H", "-LRB-", "3", "-RRB-", "=", "2", ".", "So", "we", "have", "L2", "-LRB-", "n", "-RRB-", "=", "-LRB-", "5", "lg", "-LRB-", "n", "+", "1", "-RRB-", "2n", "+", "1", "+", "1", "n", "``", "n", "+", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "?", "3", "2", "!", "-RRB-", "+", "n", "?", "1", "n", "L2", "-LRB-", "n", "?", "1", "2", "-RRB-", "-LRB-", "n", ">", "=", "7", "-RRB-", ";", "where", "``", "n", "=", "1", "2", "k", "?", "3", "X", "i", "=", "0", "1", "=", "-LRB-", "2k", "?", "i", "?", "3", "-RRB-", ":", "The", "boundary", "value", "is", "L2", "-LRB-", "3", "-RRB-", "=", "5", "=", "3", ".", "Now", "for", "n", ">", "=", "7", "1", "=", "6", "<", "=", "``", "n", "+", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "<", "=", "1", "=", "5", ":", "This", "leads", "to", "a", "lower", "bound", "recurrence", "and", "an", "upper", "bound", "recurrence", "for", "L2", "-LRB-", "n", "-RRB-", ":", "L2", "-LRB-", "n", "-RRB-", "=", "-LRB-", "5", "lg", "-LRB-", "n", "+", "1", "-RRB-", "2n", "+", "1", "?", "n", "-RRB-", "+", "n", "?", "1", "n", "L2", "-LRB-", "n", "?", "1", "2", "-RRB-", "-LRB-", "n", ">", "=", "7", "-RRB-", ";", "L2", "-LRB-", "3", "-RRB-", "=", "5", "=", "3", ";", "where", "=", "4", "=", "3", "for", "the", "lower", "bound", "and", "=", "13", "=", "10", "for", "the", "upper", "bound", ",", "with", "solutions", "-LRB-", "again", "using", "the", "Lemma", "-RRB-", "L", "?", "2", "-LRB-", "n", "-RRB-", "=", "lg", "-LRB-", "n", "+", "1", "-RRB-", "n", "-LRB-", "n", "?", "3", "=", "2", "-RRB-", "+", "7", "6", "?", "3", "2n", "as", "a", "lower", "bound", "and", "L", "+2", "-LRB-", "n", "-RRB-", "=", "lg", "-LRB-", "n", "+", "1", "-RRB-", "n", "-LRB-", "n", "?", "3", "=", "2", "-RRB-", "+", "47", "40", "?", "61", "40n", "as", "an", "upper", "bound", ".", "Again", "we", "can", "see", "the", "positive", "effect", "of", "the", "trickledown", "operation", ":", "L1", "-LRB-", "n", "-RRB-", "ss", "52", "lg", "-LRB-", "n", "+", "1", "-RRB-", "?", "194", ",", "whereas", "L2", "-LRB-", "n", "-RRB-", "ss", "lg", "-LRB-", "n", "+", "1", "-RRB-", "+", "1:2", ":", "In", "a", "similar", "way", "we", "can", "handle", "M2", ".", "We", "get", "M2", "-LRB-", "n", "-RRB-", "=", "2", "M2", "-LRB-", "n", "?", "1", "2", "-RRB-", "+", "8", "<", ":", "L2", "-LRB-", "n", "-RRB-", "+", "1", "+", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "+", "3", "=", "2", "n", "?", "1", "9", "=", ";", "with", "boundary", "value", "M2", "-LRB-", "3", "-RRB-", "=", "8", "=", "3", ".", "Now", "we", "can", "use", "3", "2n", "<", "=", "1", "2", "-LRB-", "n", "?", "2", "-RRB-", "+", "3", "=", "2", "n", "?", "1", "<", "=", "1", "60", "+", "7", "4n", "-LRB-", "n", ">", "=", "7", "-RRB-", ";", "the", "bounds", "for", "L2", "and", "the", "Lemma", "to", "show", "that", "-LRB-", "77", "24", "?", "3", "2Ak", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "25", "6", "<", "=", "M2", "-LRB-", "n", "-RRB-", "+", "lg", "-LRB-", "n", "+", "1", "-RRB-", "<", "=", "-LRB-", "37", "12", "?", "3", "2Ak", "+", "9", "40Bk", "-RRB-", "-LRB-", "n", "+", "1", "-RRB-", "?", "503", "120", ";", "thereby", "finishing", "the", "proof", ".", "2", "Note", "that", ",", "as", "k", "!", "1", ",", "1", "+", "2Ak", "?", "Bk", "!", "1", "+", "2A", "?", "B", "=", "1", "+", "2", "2", "?", "2", "ss", "1:88", "-LRB-", "Doberkat", "'s", "result", "-RRB-", ",", "3", "?", "Ak", "?", "Bk", "!", "3", "?", "A", "?", "B", "=", "9", "2", "?", "1", "?", "2", "?", "ss", "1:65", "-LRB-", "Wegener", "'s", "result", "-RRB-", "and", "9", "8", "+", "5", "2Ak", "?", "3", "4Bk", "!", "9", "8", "+", "5", "2A", "?", "3", "4B", "ss", "2:53", ":", "Thus", "it", "takes", "approximately", "2:53", "n", "comparisons", "to", "construct", "a", "triangular", "heap", "on", "n", "nodes", "using", "the", "siftdown", "algorithm", ".", "For", "the", "trickledown", "version", ",", "77", "24", "?", "3", "2Ak", "!", "77", "24", "?", "3", "2A", "ss", "2:09", ";", "whereas", "37", "12", "?", "3", "2Ak", "+", "9", "40Bk", "!", "37", "12", "?", "3", "2A", "+", "9", "40B", "ss", "2:10", ";", "so", "it", "takes", "approximately", "2:1", "n", "comparisons", "to", "construct", "a", "triangular", "heap", "using", "this", "algorithm", ".", "Again", ",", "formulas", "for", "the", "average", "number", "of", "data", "movements", "or", "swaps", "can", "be", "given", "in", "a", "similar", "way", ".", "We", "conclude", "that", "with", "little", "extra", "work", "a", "much", "stronger", "structure", "can", "be", "accomplished", ".", "5.2", "The", "Sorting", "Phase", "So", "let", "us", "now", "pay", "attention", "to", "the", "sorting", "phase", ".", "In", "-LSB-", "8", "-RSB-", "Schaffer", "and", "Sedgewick", "show", "that", "the", "average", "number", "of", "data", "movements", "-LRB-", "in", "fact", ",", "assignments", "between", "array", "elements", "-RRB-", "required", "to", "sort", "a", "random", "permutation", "of", "n", "distinct", "keys", "using", "ordinary", "heapsort", "is", "approximately", "n", "lg", "n", "-LRB-", "for", "large", "n", "-RRB-", ".", "Our", "implementation", "of", "the", "ordinary", "heapsort", "uses", "swaps", ",", "but", "these", "can", "easily", "be", "replaced", "with", "data", "movements", ".", "Then", ",", "counting", "the", "number", "of", "swaps", "in", "our", "version", "is", "exactly", "the", "same", "as", "counting", "the", "number", "of", "data", "movements", "in", "the", "terminology", "of", "-LSB-", "8", "-RSB-", ".", "This", "justifies", "a", "direct", "comparison", "of", "our", "results", "with", "those", "of", "-LSB-", "8", "-RSB-", ".", "As", "is", "easily", "seen", ",", "the", "siftdown", "algorithm", "for", "triangular", "heaps", "never", "does", "more", "than", "2n", "lg", "n", "swaps", ".", "As", "usual", "we", "assume", "that", "all", "permutations", "are", "equally", "likely", ".", "We", "will", "show", ":", "Theorem", ".", "The", "average", "number", "of", "swaps", "needed", "to", "sort", "a", "random", "permutation", "of", "n", "distinct", "keys", "-LRB-", "where", "n", "=", "2k", "?", "1", "for", "some", "integer", "k", ">", "0", "-RRB-", "using", "the", "siftdown", "algorithm", "for", "triangular", "heaps", "is", "bounded", "from", "below", "by", "-LRB-", "1", "=", "lg", "OE", "-RRB-", "n", "lg", "n", ",", "where", "OE", "=", "12", "-LRB-", "1", "+", "p5", "-RRB-", ";", "1", "=", "lg", "OE", "ss", "1:44", ".", "This", "bound", "holds", "for", "sufficiently", "large", "n.", "Proof", ".", "The", "proof", "proceeds", "analogous", "to", "that", "of", "Theorem", "3", "in", "-LSB-", "8", "-RSB-", ",", "where", "so-called", "pulldown", "sequences", "are", "used", ";", "for", "triangular", "heaps", "they", "can", "be", "defined", "in", "a", "similar", "way", ".", "As", "we", "will", "see", ",", "it", "is", "also", "possible", "to", "argue", "without", "these", "sequences", ".", "We", "already", "know", "that", "the", "construction", "phase", "takes", "a", "linear", "number", "of", "swaps", ";", "indeed", ",", "in", "Section", "5.1", "we", "proved", "that", "the", "number", "of", "comparisons", "is", "at", "most", "134", "n", ",", "and", "the", "number", "of", "swaps", "is", "at", "most", "equal", "to", "the", "number", "of", "comparisons", ".", "So", "we", "may", "restrict", "our", "attention", "to", "the", "sorting", "phase", ".", "The", "next", "observation", "is", "that", "in", "a", "triangular", "heap", "the", "number", "of", "keys", "that", "may", "have", "reached", "their", "position", "-LRB-", "during", "a", "fixed", "siftdown", "at", "the", "root", "-RRB-", "at", "the", "cost", "of", "l", "swaps", "is", "bounded", "from", "above", "by", "OEl", ".", "-LRB-", "For", "\\", "ordinary", "''", "heaps", "this", "upper", "bound", "is", "2l", ",", "the", "maximal", "number", "of", "keys", "at", "level", "l", "+", "1", ".", "-RRB-", "This", "follows", "from", "the", "fact", "that", "in", "a", "triangular", "heap", "with", "height", "larger", "than", "l", "+", "1", "there", "are", "exactly", "fib", "-LRB-", "l", "-RRB-", "of", "those", "keys", ";", "here", "fib", "-LRB-", "l", "-RRB-", "denotes", "the", "lth", "Fibonacci", "number", ",", "defined", "by", "fib", "-LRB-", "l", "-RRB-", "=", "fib", "-LRB-", "l", "?", "1", "-RRB-", "+", "fib", "-LRB-", "l", "?", "2", "-RRB-", "for", "l", ">", "=", "2", "and", "fib", "-LRB-", "0", "-RRB-", "=", "fib", "-LRB-", "1", "-RRB-", "=", "1", ".", "It", "is", "well-known", "that", "fib", "-LRB-", "l", "-RRB-", "=", "Round", "-LRB-", "OEp5", "OEl", "-RRB-", "<", "=", "OEl", ".", "Any", "possible", "value", "for", "l", "is", "bounded", "from", "above", "by", "2blg", "nc", ",", "being", "the", "length", "of", "the", "longest", "\\", "search", "path", "''", "in", "a", "triangular", "heap", "with", "n", "nodes", ".", "Now", "suppose", "that", "the", "sorting", "phase", "requires", "li", "swaps", "during", "the", "ith", "siftdown", "-LRB-", "i", "=", "1", ";", "2", ";", ":", ":", ":", ";", "n", "-RRB-", ".", "These", "numbers", "are", "uniquely", "determined", "by", "the", "key", "that", "is", "sifted", "down", ".", "Summing", "over", "all", "sequences", "l1", ";", "l2", ";", ":", ":", ":", ";", "ln", "with", "Pi", "li", "<", "M", "-LRB-", "this", "sum", "being", "the", "total", "number", "of", "swaps", "-RRB-", "we", "may", "conclude", "that", "there", "are", "at", "most", "-LRB-", "2", "lg", "n", "-RRB-", "n", "1OE", "?", "1", "OEM", "triangular", "heaps", "that", "require", "fewer", "than", "M", "swaps", "to", "sort", ".", "In", "fact", ",", "from", "our", "observations", "it", "follows", "that", "there", "are", "at", "most", "2", "lg", "n", "OEli", "triangular", "heaps", "requiring", "exactly", "li", "swaps", "during", "the", "ith", "siftdown", ".", "Now", "let", "M", "=", "n", "-LRB-", "logOEn", "?", "logOE", "-LRB-", "2", "lg", "n", "-RRB-", "?", "4", "-RRB-", ".", "We", "have", "seen", "that", "the", "number", "of", "triangular", "heaps", "that", "require", "fewer", "than", "M", "swaps", "to", "sort", "is", "bounded", "from", "above", "by", "A", "-LRB-", "n", "-RRB-", "=", "1OE", "?", "1", "-LRB-", "n", "=", "OE4", "-RRB-", "n.", "Therefore", "the", "number", "of", "swaps", "required", "by", "the", "siftdown", "algorithm", "in", "the", "average", "case", "is", "bounded", "from", "below", "by", "g", "-LRB-", "n", "-RRB-", "?", "A", "-LRB-", "n", "-RRB-", "g", "-LRB-", "n", "-RRB-", "M", "=", "M", "?", "nA", "-LRB-", "n", "-RRB-", "g", "-LRB-", "n", "-RRB-", "-LRB-", "logOEn", "?", "logOE", "-LRB-", "2", "lg", "n", "-RRB-", "?", "4", "-RRB-", ":", "In", "order", "to", "complete", "the", "proof", "it", "is", "sufficient", "to", "show", "that", "g", "-LRB-", "n", "-RRB-", ",", "the", "number", "of", "triangular", "heaps", "on", "n", "keys", ",", "is", "exponentially", "larger", "than", "A", "-LRB-", "n", "-RRB-", ".", "We", "have", "g", "-LRB-", "n", "-RRB-", "=", "f", "-LRB-", "n", "-RRB-", "=", "2", "-LRB-", "n", "?", "1", "-RRB-", "=", "2", ",", "which", "is", "larger", "than", "-LRB-", "n", "=", "4ep2", "-RRB-", "n", "-LRB-", "use", "the", "fact", "that", "f", "-LRB-", "n", "-RRB-", ">", "-LRB-", "n", "=", "4e", "-RRB-", "n", "-RRB-", ",", "and", "finally", "note", "that", "4ep2", "<", "OE4", ".", "2", "Experiments", "suggest", "that", "this", "lower", "bound", "is", "rather", "tight", ".", "Therefore", ",", "the", "number", "of", "swaps", "is", "somewhat", "larger", "than", "that", "for", "ordinary", "heapsort", ".", "6", "Discussion", "In", "this", "paper", "we", "introduced", "the", "triangular", "heap", "and", "examined", "some", "of", "its", "properties", ".", "We", "have", "applied", "triangular", "heaps", "to", "the", "traditional", "problem", "of", "sorting", "an", "array", "in", "situ", ".", "Several", "interesting", "and", "efficient", "sorting", "algorithms", "are", "described", ".", "The", "stronger", "structure", "of", "the", "triangular", "heap", "can", "be", "established", "and", "maintained", "with", "only", "little", "extra", "work", ".", "Good", "bounds", "for", "the", "average", "number", "of", "comparisons", "for", "the", "construction", "phase", "and", "for", "the", "average", "number", "of", "data", "movements", "for", "the", "sorting", "phase", "are", "derived", ".", "Still", "many", "questions", "can", "be", "asked", "and", "remain", "to", "be", "investigated", ".", "It", "would", "be", "interesting", ",", "for", "instance", ",", "to", "find", "applications", "of", "heaps", ",", "where", "the", "stronger", "structure", "of", "the", "triangular", "heap", "is", "particularly", "useful", ".", "Conjectures", "like", "those", "in", "-LSB-", "9", "-RSB-", "can", "also", "be", "formulated", "for", "triangular", "heaps", ":", "experiments", "suggest", "that", "the", "average", "number", "of", "comparisons", "used", "by", "the", "trickledown", "algorithm", "for", "triangular", "heaps", "is", "approximately", "n", "lg", "n", "+", ":30", "n", ",", "outbeating", "its", "ordinary", "heap", "counterpart", "-LRB-", "that", "uses", "less", "swaps", "-RRB-", ".", "It", "would", "also", "be", "interesting", "to", "examine", "the", "expected", "height", "-LRB-", "or", "position", "-RRB-", "of", "a", "given", "number", "in", "a", "triangular", "heap", "-LRB-", "cf.", "-LSB-", "5", "-RSB-", "-RRB-", ".", "References", "-LSB-", "1", "-RSB-", "S.", "Carlsson", ",", "A", "Variant", "of", "Heapsort", "with", "Almost", "Optimal", "Number", "of", "Comparisons", ",", "Information", "Processing", "Letters", "24", "-LRB-", "1987", "-RRB-", ",", "247", "-LCB-", "250", ".", "-LSB-", "2", "-RSB-", "E.E.", "Doberkat", ",", "An", "Average", "Case", "Analysis", "of", "Floyd", "'s", "Algorithm", "to", "Construct", "Heaps", ",", "Information", "and", "Control", "61", "-LRB-", "1984", "-RRB-", ",", "114", "-LCB-", "131", ".", "-LSB-", "3", "-RSB-", "R.W.", "Floyd", ",", "Algorithm", "245", ":", "Treesort", "3", ",", "Communications", "of", "the", "ACM", "7", "-LRB-", "1964", "-RRB-", ",", "701", ".", "-LSB-", "4", "-RSB-", "G.H.", "Gonnet", "and", "R.", "Baeza-Yates", ",", "Handbook", "of", "Algorithms", "and", "Data", "Structures", ",", "Second", "edition", ",", "Addison-Wesley", ",", "1991", ".", "-LSB-", "5", "-RSB-", "J.M.", "de", "Graaf", "and", "W.A.", "Kosters", ",", "Expected", "Heights", "in", "Heaps", ",", "BIT", "32", "-LRB-", "1992", "-RRB-", ",", "570", "-LCB-", "579", ".", "-LSB-", "6", "-RSB-", "D.E.", "Knuth", ",", "The", "Art", "of", "Computer", "Programming", ",", "Volume", "3", ",", "Sorting", "and", "Searching", ",", "Addison-Wesley", ",", "1973", ".", "-LSB-", "7", "-RSB-", "C.J.H.", "McDiarmid", "and", "B.A.", "Reed", ",", "Building", "Heaps", "Fast", ",", "Journal", "of", "Algorithms", "10", "-LRB-", "1989", "-RRB-", ",", "352", "-LCB-", "365", ".", "-LSB-", "8", "-RSB-", "R.", "Schaffer", "and", "R.", "Sedgewick", ",", "The", "Analysis", "of", "Heapsort", ",", "Journal", "of", "Algorithms", "15", "-LRB-", "1993", "-RRB-", ",", "76", "-LCB-", "100", ".", "-LSB-", "9", "-RSB-", "I.", "Wegener", ",", "Bottom-up-heap", "Sort", ",", "a", "New", "Variant", "of", "Heap", "Sort", "Beating", "on", "Average", "Quick", "Sort", ",", "p.", "516", "-LCB-", "522", "in", "Proceedings", "Mathematical", "Foundations", "of", "Computer", "Science", ",", "LNCS", "452", ",", "Springer-Verlag", ",", "1990", ".", "-LSB-", "10", "-RSB-", "I.", "Wegener", ",", "A", "Simple", "Modification", "of", "Xunrang", "and", "Yuzhang", "'s", "HEAPSORT", "Variant", "Improving", "its", "Complexity", "Significantly", ",", "The", "Computer", "Journal", "36", "-LRB-", "1993", "-RRB-", ",", "286", "-LCB-", "288", ".", "-LSB-", "11", "-RSB-", "J.W.J.", "Williams", ",", "Algorithm", "232", ":", "HEAPSORT", ",", "Communications", "of", "the", "ACM", "7", "-LRB-", "1964", "-RRB-", ",", "347", "-LCB-", "348", ".", "Leiden", ",", "December", "1994" ]

[ "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "UMIACS-TR-93-68", ".1", "February", ",", "1994", "CS-TR-3109", ".1", "Simplifying", "Polynomial", "Constraints", "Over", "Integers", "to", "Make", "Dependence", "Analysis", "More", "Precise", "Vadim", "Maslov", "William", "Pugh", "vadik@cs.umd.edu", "pugh@cs.umd.edu", "Institute", "for", "Advanced", "Computer", "Studies", "Dept.", "of", "Computer", "Science", "Dept.", "of", "Computer", "Science", "Univ.", "of", "Maryland", ",", "College", "Park", ",", "MD", "20742", "Abstract", "Why", "do", "existing", "parallelizing", "compilers", "and", "environments", "fail", "to", "parallelize", "many", "re", "-", "alistic", "FORTRAN", "programs", "?", "One", "of", "the", "reasons", "is", "that", "these", "programs", "contain", "a", "number", "of", "linearized", "array", "references", ",", "such", "as", "A", "-LRB-", "M", "*", "N", "*", "i", "+", "N", "*", "j", "+", "k", "-RRB-", "or", "A", "-LRB-", "i", "*", "-LRB-", "i", "+1", "-RRB-", "/", "2", "+", "j", "-RRB-", ".", "Performing", "exact", "dependence", "analysis", "for", "these", "references", "requires", "testing", "polynomial", "constraints", "for", "integer", "solutions", ".", "Most", "existing", "dependence", "analysis", "systems", ",", "however", ",", "restrict", "them", "-", "selves", "to", "solving", "affine", "constraints", "only", ",", "so", "they", "have", "to", "make", "worst-case", "assumptions", "whenever", "they", "encounter", "a", "polynomial", "constraint", ".", "In", "this", "paper", "we", "introduce", "an", "algorithm", "which", "exactly", "and", "efficiently", "solves", "a", "class", "of", "polynomial", "constraints", "which", "arise", "in", "dependence", "testing", ".", "Another", "important", "application", "of", "our", "algorithm", "is", "to", "generate", "code", "for", "loop", "transformation", "known", "as", "symbolic", "blocking", "-LRB-", "tiling", "-RRB-", ".", "This", "work", "is", "supported", "by", "an", "NSF", "PYI", "grant", "CCR-9157384", "and", "by", "a", "Packard", "Fellowship", ".", "Simplifying", "Polynomial", "Constraints", "Over", "Integers", "to", "Make", "Dependence", "Analysis", "More", "Precise", "Vadim", "Maslov", "William", "Pugh", "vadik@cs.umd.edu,", "301-405-2726", "pugh@cs.umd.edu,", "301-405-2705", "Dept.", "of", "Computer", "Science", "Univ.", "of", "Maryland", ",", "College", "Park", ",", "MD", "20742", "February", "26", ",", "1994", "Abstract", "Why", "do", "existing", "parallelizing", "compilers", "and", "environments", "fail", "to", "parallelize", "many", "realistic", "FORTRAN", "programs", "?", "One", "of", "the", "reasons", "is", "that", "these", "programs", "contain", "a", "number", "of", "linearized", "array", "references", ",", "such", "as", "A", "-LRB-", "M", "*", "N", "*", "i", "+", "N", "*", "j", "+", "k", "-RRB-", "or", "A", "-LRB-", "i", "*", "-LRB-", "i", "+1", "-RRB-", "/", "2", "+", "j", "-RRB-", ".", "Performing", "exact", "dependence", "analysis", "for", "these", "references", "requires", "testing", "polynomial", "constraints", "for", "integer", "solutions", ".", "Most", "existing", "dependence", "analysis", "systems", ",", "however", ",", "restrict", "themselves", "to", "solving", "affine", "constraints", "only", ",", "so", "they", "have", "to", "make", "worst-case", "assumptions", "whenever", "they", "encounter", "a", "polynomial", "constraint", ".", "In", "this", "paper", "we", "introduce", "an", "algorithm", "which", "exactly", "and", "efficiently", "solves", "a", "class", "of", "polynomial", "constraints", "which", "arise", "in", "dependence", "testing", ".", "Another", "important", "application", "of", "our", "algorithm", "is", "to", "generate", "code", "for", "loop", "transformation", "known", "as", "symbolic", "blocking", "-LRB-", "tiling", "-RRB-", ".", "1", "Introduction", "In", "this", "paper", "we", "describe", "techniques", "for", "simplifying", "polynomial", "constraints", ".", "This", "work", "supersedes", "our", "previous", "work", "on", "dependence", "testing", "of", "non-linear", "subscripts", "-LSB-", "Mas92", "-RSB-", "and", "allows", "us", "to", "handle", "polynomial", "constraints", "that", "arise", "in", "a", "number", "of", "situations", ".", "This", "work", "is", "also", "an", "extension", "of", "the", "Omega", "test", "-LSB-", "Pug92", ",", "PW92", ",", "PW93", "-RSB-", "|", "the", "system", "that", "simplifies", "conjunctions", "of", "affine", "constraints", "over", "integers", "and", "performs", "exact", "elimination", "of", "existentially", "quantified", "variables", ".", "Polynomial", "constraints", "arise", "in", "a", "number", "of", "situations", ":", "ffl", "Dependence", "between", "references", "with", "linearized", "subscripts", ",", "ffl", "Complicated", "terms", "in", "subscript", "functions", "arising", "from", "induction", "variable", "recognition", ",", "ffl", "Tiling", "with", "symbolic", "block", "sizes", "-LRB-", "i.e.", ",", "block", "sizes", "specified", "by", "a", "variable", "and", "not", "a", "constant", "-RRB-", ".", "Let", "'s", "consider", "some", "examples", "of", "problems", "with", "polynomial", "constraints", ".", "All", "the", "problems", "are", "taken", "from", "the", "real-life", "programs", "and", "simplifying", "them", "exactly", "is", "crucial", "for", "our", "ability", "to", "parallelize", "these", "programs", ".", "do", "i", "=p", ",", "p", "+", "L-1", "do", "j", "=", "q", ",", "q", "+", "M-1", "do", "k", "=", "r", ",", "r", "+", "N-1", "S1", ":", "A", "-LRB-", "M", "*", "N", "*", "i", "+", "N", "*", "j", "+", "k", "-RRB-", "=", "...", "S2", ":", "...", "=", "A", "-LRB-", "M", "*", "N", "*", "i", "+", "N", "*", "j", "+", "k", "-RRB-", "enddo", "enddo", "enddo", "MN", "iw", "+", "Njw", "+", "kw", "=", "MN", "ir", "+", "Njr", "+", "kr", "p", "<", "=", "iw", ";", "ir", "<", "=", "p", "+", "L", "?", "1", "q", "<", "=", "jw", ";", "jr", "<", "=", "q", "+", "M", "?", "1", "r", "<", "=", "kw", ";", "kr", "<", "=", "r", "+", "N", "?", "1", "-LRB-", "1", "-RRB-", "p", "<", "=", "iw", "=", "ir", "<", "=", "p", "+", "L", "?", "1", "q", "<", "=", "jw", "=", "jr", "<", "=", "q", "+", "M", "?", "1", "r", "<", "=", "kw", "=", "kr", "<", "=", "r", "+", "N", "?", "1", "M", ">", "=", "1", "^", "N", ">", "=", "1", "-LRB-", "2", "-RRB-", "Figure", "1", ":", "Product", "of", "variable", "and", "symbolic", "constant", "-LRB-", "s", "-RRB-", "do", "i", "=", "0,N-1", "do", "j", "=", "0", ",", "i", "S1", ":", "A", "-LRB-", "i", "*", "-LRB-", "i", "+1", "-RRB-", "/", "2", "+", "j", "-RRB-", "=", "...", "enddo", "do", "j", "=", "0", ",", "i", "S2", ":", "...", "=", "A", "-LRB-", "i", "*", "-LRB-", "i", "+1", "-RRB-", "/", "2", "+", "j", "-RRB-", "enddo", "enddo", "iw", "-LRB-", "iw", "+1", "-RRB-", "2", "+", "jw", "=", "ir", "-LRB-", "ir", "+1", "-RRB-", "2", "+", "jr", "<", "=", "iw", ";", "ir", "<", "=", "N", "?", "1", "<", "=", "jw", "<", "=", "iw", "<", "=", "jr", "<", "=", "ir", "-LRB-", "3", "-RRB-", "<", "=", "jw", "=", "jr", "<", "=", "iw", "=", "ir", "<", "=", "N", "?", "1", "-LRB-", "4", "-RRB-", "Figure", "2", ":", "Product", "of", "two", "variables", ":", "triangular", "linearization", "do", "i", "=", "1", ",", "M", "do", "j", "=", "1", ",", "i", "S1", ":", "A", "-LRB-", "i", ",", "j", "-RRB-", "=", "A", "-LRB-", "j", ",", "i", "-RRB-", "enddo", "enddo", "9io", ";", "jo", ";", "in", ";", "jn", ";", "t", ";", "s", ":", "t", ":", "1", "<", "=", "jo", "<", "=", "io", "<", "=", "M", "ib", "=", "tN", "+", "1", "tN", "+", "=", "io", "?", "1", "<", "=", "<", "=", "N", "?", "1", "jn", "=", "jo", "^", "in", "=", "io", "-LRB-", "5", "-RRB-", "do", "iB", "=", "1", ",", "M", ",", "N", "do", "jn", "=", "1", ",", "MIN", "-LRB-", "iB", "+", "N-1", ",", "M", "-RRB-", "do", "in", "=", "MAX", "-LRB-", "iB", ",", "jn", "-RRB-", ",", "MIN", "-LRB-", "iB", "+", "N-1", ",", "M", "-RRB-", "S1", ":", "A", "-LRB-", "in", ",", "jn", "-RRB-", "=", "A", "-LRB-", "jn", ",", "in", "-RRB-", "enddo", "enddo", "enddo", "9t", "s", ":", "t", ":", "ib", "=", "tN", "+", "1", "2", "?", "N", "<", "=", "ib", "<", "=", "M", "M", ">", "=", "1", "^", "N", ">", "=", "1", "t", ">", "=", "-LRB-", "6", "-RRB-", "Figure", "3", ":", "Symbolic", "blocking", "example", "1.1", "Rectangular", "symbolic", "linearization", "The", "program", "in", "Figure", "1", "is", "one", "of", "many", "loop", "nests", "from", "the", "oil", "reservoir", "simulation", "program", "BOAST", "in", "the", "RiCEPS", "benchmark", "suite", ".", "This", "is", "rather", "typical", "example", "of", "loop", "nest", "with", "linearized", "references", ",", "which", "are", "met", "quite", "often", "in", "real", "programs", ",", "and", "-LSB-", "Mas92", "-RSB-", "discusses", "in", "length", "why", "linearization", "is", "used", ".", "To", "be", "able", "to", "parallelize", "the", "i", ",", "j", "and", "k", "loops", ",", "we", "need", "to", "prove", "that", "the", "flow", "dependence", "from", "the", "statement", "instance", "S1", "-LSB-", "iw", ";", "jw", ";", "kw", "-RSB-", "to", "the", "statement", "instance", "S2", "-LSB-", "ir", ";", "jr", ";", "kr", "-RSB-", "is", "loop-independent", ".", "This", "dependence", "is", "described", "by", "the", "set", "of", "constraints", "-LRB-", "1", "-RRB-", "that", "we", "want", "to", "be", "able", "to", "simplify", "to", "-LRB-", "2", "-RRB-", ".", "All", "existing", "dependence", "analysis", "techniques", "-LRB-", "that", "we", "know", "of", "-RRB-", "except", "for", "one", "fail", "to", "prove", "that", "this", "dependence", "is", "loop-independent", ".", "Symbolic", "delinearization", "-LSB-", "Mas92", "-RSB-", "can", "prove", "this", ",", "but", "it", "has", "serious", "limitations", "discussed", "in", "Section", "8", ".", "1.2", "Triangular", "linearization", "Consider", "the", "program", "in", "Figure", "2", ".", "Since", "the", "one-dimensional", "array", "A", "is", "a", "linearized", "version", "of", "a", "triangular", "matrix", "A", ",", "a", "reference", "to", "A", "-LRB-", "i", ";", "j", "-RRB-", "is", "expressed", "as", "A", "-LRB-", "i", "*", "-LRB-", "i", "+1", "-RRB-", "/", "2", "+", "j", "-RRB-", ".", "Linearized", "triangular", "matrices", "are", "used", "quite", "often", "in", "scientific", "codes", ".", "Loop", "i", "can", "not", "be", "parallelized", "unless", "we", "know", "that", "flow", "dependence", "from", "S1", "-LSB-", "iw", ";", "jw", "-RSB-", "to", "S2", "-LSB-", "ir", ";", "jr", "-RSB-", "is", "loopindependent", ",", "that", "is", ",", "iw", "=", "ir", ".", "No", "existing", "dependence", "test", "-LRB-", "that", "we", "know", "of", "-RRB-", "can", "automatically", "prove", "this", ".", "The", "problem", "describing", "this", "dependence", "is", "-LRB-", "3", "-RRB-", "and", "our", "techniques", "simplify", "it", "to", "-LRB-", "4", "-RRB-", ",", "which", "proves", "that", "the", "dependence", "is", "loop-independent", ".", "Since", "we", "also", "know", "that", "jw", "=", "jr", ",", "we", "can", "fuse", "the", "two", "j", "loops", "if", "we", "need", "to", ",", "and", "since", "existing", "techniques", "can", "not", "establish", "that", "jw", "=", "jr", ",", "they", "can", "not", "perform", "fusion", "for", "this", "example", ".", "1.3", "Code", "generation", "for", "symbolic", "blocking", "-LRB-", "tiling", "-RRB-", "Consider", "the", "program", "fragment", "in", "the", "left", "column", "of", "Figure", "3", ".", "To", "improve", "locality", "-LRB-", "that", "is", ",", "to", "better", "use", "the", "memory", "cache", "-RRB-", "the", "loop", "transformation", "known", "as", "blocking", "or", "tiling", "-LSB-", "AK87", "-RSB-", "is", "applied", "to", "this", "loop", "nest", ".", "The", "idea", "of", "transformation", "is", "to", "block", "-LRB-", "tile", "-RRB-", "the", "iteration", "space", "into", "blocks", "such", "that", "each", "block", "requires", "data", "which", "fits", "into", "cache", ".", "We", "perform", "loop", "blocking", "using", "a", "framework", "of", "Uniform", "Loop", "Transformations", "1", "2", "3", "4", "5", "6", "1", "2", "3", "4", "5", "6", "7", "8", "9", "10", "y", "x", "xy", "=", "5", "xy", ">", "=", "5", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "?", "x", ">", "=", "1", "y", ">", "=", "1", "y", ">", "=", "?", "2x", "+", "7", "x", ">", "=", "?", "2y", "+", "7", "y", ">", "=", "?", "x", "+", "5", "Figure", "4", ":", "Affinizing", "inequality", "xy", ">", "=", "5", "-LSB-", "KP93", "-RSB-", ".", "The", "mapping", "from", "the", "old", "iteration", "space", "to", "the", "new", "iteration", "space", "is", "described", "by", "a", "relation", "S1", ":", "-LSB-", "io", ";", "jo", "-RSB-", "!", "-LSB-", "ib", ";", "jn", ";", "in", "-RSB-", "j", "ib", "=", "b", "-LRB-", "io", "?", "1", "-RRB-", "=", "NcN", "+", "1", "^", "jn", "=", "jo", "^", "in", "=", "io", "-LRB-", "7", "-RRB-", "where", "io", ",", "jo", "are", "old", "loop", "variables", "and", "ib", ",", "jn", ",", "in", "are", "new", "loop", "variables", ".", "If", "the", "blocking", "factor", "N", "is", "a", "known", "integer", "constant", ",", "then", "we", "have", "a", "pseudo-affine", "schedule", "and", "blocked", "code", "is", "generated", "without", "difficulty", ".", "However", ",", "if", "N", "is", "a", "symbolic", "constant", ",", "then", "our", "schedule", "becomes", "nonaffine", ".", "So", "to", "generate", "the", "blocked", "code", "shown", "in", "the", "right", "column", "of", "Figure", "3", ",", "we", "-LRB-", "among", "other", "things", "-RRB-", "have", "to", "compute", "loop", "parameters", "for", "the", "new", "loop", "iB", ".", "The", "constraints", "on", "ib", "are", "described", "by", "the", "problem", "-LRB-", "5", "-RRB-", ".", "Our", "algorithm", "simplifies", "it", "to", "the", "problem", "-LRB-", "6", "-RRB-", "and", "then", "we", "extract", "the", "initial", "value", "of", "ib", "and", "upper", "bound", "of", "ib", ".", "2", "Our", "approach", "Our", "basic", "approach", "is", "to", "try", "to", "transform", "a", "general", "polynomial", "constraint", "into", "a", "conjunction", "of", "affine", "constraints", "and", "one", "of", "the", "special", "forms", "that", "we", "later", "affinize", ":", "xy", ">", "=", "c", "A", "hyperbolic", "inequality", "xy", "=", "c", "A", "hyperbolic", "equality", "axx2", "+", "ayy2", ">", "=", "c", "An", "elliptical", "inequality", "axx2", "+", "ayy2", "=", "c", "An", "elliptical", "equality", "-LRB-", "8", "-RRB-", "Here", "x", "and", "y", "are", "variables", "and", "ax", ",", "ay", "and", "c", "are", "constants", ".", "These", "transformations", "are", "mostly", "factoring", "and", "they", "are", "discussed", "in", "detail", "in", "Section", "4", ".", "Then", "we", "affinize", "the", "special", "form", "constraints", ".", "For", "example", ",", "xy", ">", "=", "5", "is", "equivalent", "to", "-LRB-", "the", "first", "conjunction", "of", "this", "is", "shown", "in", "Figure", "4", "-RRB-", ":", "-LRB-", "x", ">", "=", "1", "^", "2x", "+", "y", ">", "=", "7", "^", "x", "+", "y", ">", "=", "5", "^", "x", "+2", "y", ">", "=", "7", "^", "y", ">", "=", "1", "-RRB-", "_", "-LRB-", "x", "<", "=", "?", "1", "^", "2x", "+", "y", "<", "=", "?", "7", "^", "x", "+", "y", "<", "=", "?", "5", "^", "x", "+2", "y", "<", "=", "?", "7", "^", "y", "<", "=", "?", "1", "-RRB-", "This", "is", ",", "perhaps", ",", "one", "of", "the", "few", "places", "where", "the", "fact", "that", "we", "are", "working", "with", "integers", "makes", "things", "easier", "than", "if", "we", "were", "working", "with", "reals", "-LRB-", "it", "is", "not", "possible", "to", "convert", "polynomial", "constraints", "over", "real", "variables", "into", "affine", "form", "-RRB-", ".", "Details", "of", "affinization", "are", "given", "in", "Section", "6", ".", "Of", "course", ",", "not", "all", "polynomial", "constraints", "are", "of", "the", "form", "that", "we", "can", "factor", "and", "affinize", ".", "The", "details", "of", "the", "algorithm", "that", "systematically", "applies", "factoring", "and", "affinization", "are", "given", "in", "Section", "3", ".", "3", "Problem", "SimplifyPolynomial", "-LRB-", "Problem", "p", "-RRB-", "Begin", "Boolean", "change", ":", "=", "True", "Integer", "n", ":", "=", "pn", "=", "p", "Do", "while", "-LRB-", "problem", "pn", "has", "polynomial", "constraints", "^", "change", "-RRB-", "change", ":", "=", "False", "v", ":", "=", "affine", "variables", "of", "pn", "pn", "+1", ":", "=", "9v", "s", ":", "t", ":", "pn", "qn", "+1", ":", "=", "gist", "pn", "+1", "given", "pn", "n", ":", "=", "n", "+", "1", "If", "we", "can", "determine", "that", "pn", "is", "unsatisfiable", "then", "Return", "-LRB-", "False", "-RRB-", "For", "each", "constraint", "c", "in", "polynomial", "constraints", "of", "pn", "Try", "to", "factor", "and", "affinize", "constraint", "c", "If", "-LRB-", "factoring", "and/or", "affinization", "succeeds", "-RRB-", "change", ":", "=", "True", "EndFor", "EndDo", "p", "=", "pn", "^", "qn", "^", "qn", "?", "1", "^", "?", "?", "?", "^", "q1", "If", "polynomial", "constraints", "remain", "in", "p", "Use", "affine", "equalities", "in", "p", "to", "derive", "substitutions", "Try", "to", "simplify", "or", "eliminate", "polynomial", "constraints", "using", "substitutions", "If", "this", "produces", "additional", "affine", "equalities", ",", "repeat", "EndIf", "Return", "-LRB-", "p", "-RRB-", "End", "Figure", "5", ":", "Polynomial", "constraints", "simplification", "algorithm", "3", "Algorithm", "to", "simplify", "polynomial", "constraints", "In", "this", "section", "we", "present", "our", "top-level", "algorithm", "to", "simplify", "the", "conjunction", "of", "a", "set", "of", "polynomial", "and", "affine", "constraints", ".", "Representing", "polynomial", "constraints", ".", "We", "use", "the", "following", "extension", "of", "the", "Omega", "test", "framework", "to", "represent", "polynomial", "constraints", ".", "For", "each", "product", "of", "regular", "variables", "that", "we", "encounter", "in", "a", "polynomial", "constraint", "we", "create", "a", "product", "variable", "that", "represents", "it", ".", "Then", "we", "divide", "polynomial", "problem", "in", "two", "parts", ":", "ffl", "Affine", "part", "that", "is", "original", "problem", "in", "which", "products", "were", "replaced", "with", "product", "variables", ",", "ffl", "Product", "part", "that", "essentially", "is", "a", "definition", "of", "product", "variables", "in", "terms", "of", "regular", "variables", ".", "For", "example", ",", "polynomial", "problem", "Njw", "+", "kw", "=", "Njr", "+", "kr", "^", "1", "<", "=", "jwN", "?", "Njr", "+", "N", "^", "q", "<", "=", "jw", ";", "jr", "<", "=", "q", "+", "M", "?", "1", "is", "represented", "as", "-LRB-", "product", "part", "uses", ":", "=", "for", "defining", "product", "variables", "-RRB-", ":", "v1", "+", "kw", "=", "v2", "+", "kr", "^", "1", "<", "=", "v1", "?", "v2", "+", "N", "^", "q", "<", "=", "jw", ";", "jr", "<", "=", "q", "+", "M", "?", "1", "v1", ":", "=", "Njw", ";", "v2", ":", "=", "Njr", "Please", "note", ",", "that", "products", "Njw", "and", "jwN", "are", "the", "same", "and", "therefore", "are", "referred", "to", "as", "one", "variable", "v1", ".", "We", "further", "classify", "regular", "variables", "as", ":", "ffl", "Affine", "variables", ".", "These", "are", "variables", "that", "do", "not", "appear", "in", "products", ".", "We", "single", "them", "out", "because", "when", "we", "can", "eliminate", "affine", "variables", "using", "the", "Omega", "test", "without", "losing", "precision", ".", "ffl", "Semi-affine", "variables", ".", "These", "are", "regular", "variables", "that", "appear", "in", "products", ".", "We", "can", "not", "project", "them", "out", "using", "the", "Omega", "test", ",", "because", "they", "are", "involved", "in", "polynomial", "constraints", ".", "In", "the", "above", "example", "affine", "variables", "are", "kw", ";", "kr", ";", "q", ";", "M", ",", "semi-affine", "variables", "are", "jw", ";", "jr", ";", "N", "and", "product", "variables", "are", "v1", ";", "v2", ".", "We", "can", "simplify", "the", "affine", "part", "of", "a", "polynomial", "problem", "using", "the", "Omega", "test", ".", "However", ",", "when", "it", "comes", "to", "factoring", "and", "affinization", ",", "we", "use", "definitions", "of", "the", "product", "variables", "from", "the", "product", "part", "of", "the", "problem", ".", "Product", "variables", "that", "become", "unused", ",", "are", "removed", ".", "Algorithm", "itself", ".", "We", "present", "the", "algorithm", "that", "simplifies", "a", "polynomial", "problem", "in", "Figure", "5", ".", "The", "algorithm", "applies", "factoring", "and", "affinization", "as", "many", "times", "as", "it", "can", ".", "Each", "affinization", "lowers", "the", "order", "of", "polynomial", "constraint", "by", "1", ".", "So", "finally", "we", "either", "get", "affine", "problem", "or", "stop", "because", "no", "affinization", "nor", "factoring", "can", "be", "done", ".", "Therefore", "algorithm", "always", "terminates", ".", "To", "satisfy", "conditions", "for", "factoring", "and", "affinization", "we", "eliminate", "affine", "variables", "that", "stand", "in", "the", "way", "of", "factoring", ".", "Basically", "our", "goal", "is", "to", "get", "polynomial", "constraint", "that", "has", "less", "variables", "than", "original", "constraint", ",", "to", "factor", "out", "the", "common", "term", "-LRB-", "or", "apply", "more", "intricate", "factoring", ",", "as", "in", "triangular", "delinearization", "example", "-RRB-", "and", "to", "affinize", "it", ".", "Variables", "that", "are", "removed", "as", "a", "result", "of", "projecting", "out", "affine", "variables", "and", "constraints", "involving", "these", "variables", "are", "memorized", "in", "qi", "problems", ".", "When", "simplification", "is", "finished", ",", "we", "use", "qi", "problems", "to", "restore", "the", "original", "problem", ".", "As", "restoration", "goes", "on", ",", "we", "use", "new", "equalities", "and", "inequalities", "produced", "by", "affinization", "to", "simplify", "restored", "polynomial", "constraints", ".", "4", "Factoring", "We", "use", "several", "techniques", "to", "transform", "a", "polynomial", "constraint", "to", "one", "of", "the", "forms", "-LRB-", "8", "-RRB-", ".", "These", "techniques", "are", "described", "for", "inequality", "constraints", ",", "but", "they", "work", "equally", "well", "for", "equalities", ".", "Common", "term", ".", "If", "a", "factor", "x", "occurs", "in", "all", "terms", "of", "a", "constraint", ",", "except", "for", "a", "constant", "term", ",", "we", "can", "factor", "this", "constraint", ".", "That", "is", ",", "we", "transform", "the", "constraint", "n", "X", "i", "=", "1", "aixRi", ">", "=", "c", "where", "ai", "and", "c", "are", "integer", "constants", ",", "x", "is", "a", "variable", ",", "each", "Ri", "is", "a", "product", "of", "variables", "or", "the", "constant", "1", "to", "9", "y", "s", ":", "t", ":", "y", "=", "Pni", "=", "1", "aiRi", "xy", ">", "=", "c", "So", "we", "reduce", "the", "order", "of", "the", "original", "polynomial", "constraint", "by", "1", ",", "hopefully", "making", "it", "affine", ",", "and", "we", "produce", "a", "hyperbolic", "constraint", "that", "can", "be", "affinized", ".", "Breaking", "quadratic", "constraint", ".", "As", "a", "more", "specialized", "case", ",", "a", "constraint", "of", "the", "form", ":", "a2xx2", "+", "bxx", "?", "a2yy2", "?", "byy", "+", "c", ">", "=", "where", "ax", ">", "0", ",", "ay", ">", "0", ",", "bx", ",", "by", "and", "c", "are", "known", "integer", "constants", ",", "x", "and", "y", "are", "variables", ",", "is", "transformed", "to", "the", "following", "equivalent", "constraint", "-LRB-", "that", "involves", "hyperbolic", "equality", "or", "inequality", "-RRB-", ":", "9", "ff", ";", "s", ":", "t", ":", "=", "2a2xayx", "?", "2axa2yy", "+", "bxay", "?", "byax", "=", "2a2xayx", "+", "2axa2yy", "+", "bxay", "+", "byax", ">", "=", "a2yb2x", "?", "a2xb2y", "?", "4a2xa2yc", "If", "the", "coefficient", "of", "x2", "-LRB-", "that", "is", ",", "a2x", "-RRB-", "is", "not", "the", "square", "of", "some", "integer", ",", "we", "should", "multiply", "the", "whole", "constraint", "by", "a", "positive", "integer", "constant", "which", "makes", "the", "coefficient", "of", "x", "a", "square", ".", "If", "after", "this", "the", "coefficient", "of", "y2", "-LRB-", "that", "is", ",", "a2y", "-RRB-", "is", "not", "a", "square", ",", "factoring", "can", "not", "be", "done", "in", "integers", ",", "and", "therefore", "we", "give", "up", "on", "this", "constraint", ".", "Completing", "square", ".", "A", "constraint", "of", "the", "form", ":", "axx2", "+", "bxx", "+", "ayy2", "+", "byy", "+", "c", ">", "=", "where", "ax", ">", "0", ",", "ay", ">", "0", ",", "bx", ",", "by", "and", "c", "are", "known", "integer", "constants", ",", "x", "and", "y", "are", "variables", ",", "is", "transformed", "to", "the", "following", "equivalent", "set", "of", "constraints", "-LRB-", "involving", "elliptical", "equality", "or", "inequality", "-RRB-", ":", "9", "ff", ";", "s", ":", "t", ":", "=", "2axx", "+", "bx", "=", "2ayy", "+", "by", "ay", "2", "+", "ax", "2", ">", "=", "ayb2x", "+", "axb2y", "?", "4axayc", "5", "Representing", "integer", "division", ".", "We", "transform", "constraint", "L", "that", "involves", "integer", "division", "-LRB-", "here", "E", "and", "F", "are", "affine", "expressions", "-RRB-", ":", "L", "-LRB-", "bE", "=", "F", "c", ";", ":", ":", ":-RRB-", "to", "polynomial", "constraint", ":", "9", "t", ";", "s", ":", "t", ":", "L", "-LRB-", "t", ";", ":", ":", ":-RRB-", "^", "tF", "+", "=", "E", "^", "<", "=", "<", "=", "F", "?", "1", "6", "Affinization", "Let", "'s", "consider", "the", "area", "described", "by", "a", "constraint", "-LRB-", "we", "discuss", "only", "<", "=", "-", "inequalities", "here", ";", "inequalities", "with", "<", ",", ">", ",", "or", ">", "=", "operators", "can", "be", "converted", "into", "<", "=", "-", "inequalities", "-RRB-", ":", "xb", "<", "=", "x", "<", "=", "xe", "^", "y", "<", "=", "f", "-LRB-", "x", "-RRB-", "-LRB-", "9", "-RRB-", "We", "require", "this", "area", "to", "be", "convex", ",", "that", "is", ",", "8x", ":", "xb", "<", "=", "x", "<", "=", "xe", "-RRB-", "f", "00", "-LRB-", "x", "-RRB-", "<", "=", "0", ".", "If", "it", "is", "not", "so", ",", "we", "can", "break", "the", "segment", "-LSB-", "xb", ";", "xe", "-RSB-", "into", "several", "segments", ",", "such", "that", "this", "requirement", "is", "satisfied", "in", "each", "segment", ",", "and", "consider", "these", "segments", "separately", ".", "When", "we", "have", "the", "convex", "area", ",", "the", "derivative", "of", "f", "-LRB-", "x", "-RRB-", "steadily", "decreases", "as", "x", "increases", ",", "so", "we", "can", "break", "interval", "-LSB-", "xb", ";", "xe", "-RSB-", "into", "4", "intervals", "-LRB-", "some", "of", "them", "can", "be", "empty", "-RRB-", ":", "xb", "<", "=", "x", "<", "=", "x1", "-RRB-", "1", "<", "=", "f", "-LRB-", "x", "-RRB-", "x1", "<", "=", "x", "<", "=", "x0", "-RRB-", "<", "=", "f", "-LRB-", "x", "-RRB-", "<", "=", "1", "x0", "<", "=", "x", "<", "=", "x", "?", "1", "-RRB-", "?", "1", "<", "=", "f", "-LRB-", "x", "-RRB-", "<", "=", "x", "?", "1", "<", "=", "x", "<", "=", "xe", "-RRB-", "f", "-LRB-", "x", "-RRB-", "<", "=", "?", "1", "Affinization", "Theorem", ".", "If", "the", "above", "conditions", "are", "satisfied", ",", "the", "non-affine", "constraint", "-LRB-", "9", "-RRB-", "is", "equivalent", "to", "a", "conjunction", "of", "affine", "constraints", ":", "dxbe", "<", "=", "x", "<", "=", "bxec", "^", "y", "<", "=", "bf", "-LRB-", "x0", "-RRB-", "c", "^", "bx1c", "^", "i", "=", "dxbe", "line", "-LRB-", "hi", ";", "bf", "-LRB-", "i", "-RRB-", "ci", ";", "hi", "+", "1", ";", "bf", "-LRB-", "i", "+", "1", "-RRB-", "ci", "-RRB-", "<", "=", "^", "bf", "-LRB-", "x0", "-RRB-", "?", "1c", "^", "i", "=", "df", "-LRB-", "x1", "-RRB-", "e", "line", "-LRB-", "hdf", "?", "1", "+", "-LRB-", "i", "-RRB-", "e", ";", "ii", ";", "hdf", "?", "1", "+", "-LRB-", "i", "+", "1", "-RRB-", "e", ";", "i", "+", "1i", "-RRB-", "<", "=", "^", "b", "-LRB-", "x0", "-RRB-", "?", "1c", "^", "i", "=", "df", "-LRB-", "x", "?", "1", "-RRB-", "e", "line", "-LRB-", "hbf", "?", "1", "?", "-LRB-", "i", "-RRB-", "c", ";", "ii", ";", "hbf", "?", "1", "?", "-LRB-", "i", "+", "1", "-RRB-", "c", ";", "i", "+", "1i", "-RRB-", ">", "=", "^", "bxec", "^", "i", "=", "dx", "?", "1e", "line", "-LRB-", "hi", "?", "1", ";", "bf", "-LRB-", "i", "?", "1", "-RRB-", "ci", ";", "hi", ";", "bf", "-LRB-", "i", "-RRB-", "ci", "-RRB-", "<", "=", "-LRB-", "10", "-RRB-", "Here", "the", "function", "f", "?", "1", "+", "-LRB-", "y", "-RRB-", "is", "inverse", "function", "of", "f", "-LRB-", "x", "-RRB-", "for", "x1", "<", "=", "x", "<", "=", "x0", "and", "f", "?", "1", "?", "-LRB-", "y", "-RRB-", "is", "inverse", "function", "of", "f", "-LRB-", "x", "-RRB-", "for", "x0", "<", "=", "x", "<", "=", "x", "?", "1", ".", "The", "function", "line", "-LRB-", "hx1", ";", "y1i", ";", "hx2", ";", "y2i", "-RRB-", "gives", "back", "an", "expression", "that", "is", "zero", "along", "the", "straight", "line", "passing", "through", "the", "points", "hx1", ";", "y1i", "and", "hx2", ";", "y2i", ",", "positive", "to", "the", "left", "of", "that", "line", "-LRB-", "as", "we", "move", "from", "hx1", ";", "y1i", "to", "hx2", ";", "y2i", "-RRB-", "and", "negative", "to", "the", "right", "of", "that", "line", ":", "line", "-LRB-", "hx1", ";", "y1i", ";", "hx2", ";", "y2i", "-RRB-", "=", "-LRB-", "x2", "?", "x1", "-RRB-", "-LRB-", "y", "?", "y1", "-RRB-", "?", "-LRB-", "y2", "?", "y1", "-RRB-", "-LRB-", "x", "?", "x1", "-RRB-", "In", "the", "rest", "of", "this", "section", "we", "show", "how", "the", "affinization", "theorem", "is", "applied", "to", "hyperbolic", "and", "elliptical", "inequalities", ".", "6.1", "Affinizing", "inequalities", "Hyperbolic", "inequalities", "with", "positive", "constant", ".", "To", "affinize", "the", "inequality", "xy", ">", "=", "c", "where", "c", ">", "=", "1", ",", "we", "break", "the", "domain", "of", "f", "-LRB-", "x", "-RRB-", "=", "c", "=", "x", "into", "2", "convex", "areas", ":", "xy", ">", "=", "c", ">", "=", "1", "?", "-LRB-", "x", "<", "=", "?", "1", "^", "y", "<", "=", "c", "=", "x", "-RRB-", "_", "-LRB-", "x", ">", "=", "1", "^", "y", ">", "=", "c", "=", "x", "-RRB-", ".", "Applying", "the", "affinization", "theorem", "to", "the", "each", "area", ",", "we", "get", "that", "the", "inequality", "xy", ">", "=", "c", ">", "=", "1", "is", "equivalent", "to", ":", "x", ">", "=", "1", "^", "y", ">", "=", "1", "^", "dpc", "?", "1e", "^", "i", "=", "1", "-LRB-", "line", "-LRB-", "hi", ";", "lc", "i", "m", "i", ";", "hi", "+", "1", ";", "?", "c", "i", "+", "1", "ss", "i", "-RRB-", ">", "=", "^", "line", "-LRB-", "h", "l", "c", "i", "m", ";", "ii", ";", "h", "?", "c", "i", "+", "1", "ss", ";", "i", "+", "1i", "-RRB-", "<", "=", "0", "-RRB-", "_", "x", "<", "=", "?", "1", "^", "y", "<", "=", "?", "1", "^", "?", "1", "^", "i", "=", "b1?pcc", "-LRB-", "line", "-LRB-", "hi", ";", "jc", "i", "k", "i", ";", "hi", "?", "1", ";", "?", "c", "i", "?", "1", "?", "i", "-RRB-", ">", "=", "^", "line", "-LRB-", "h", "jc", "i", "k", ";", "ii", ";", "h", "?", "c", "i", "?", "1", "?", ";", "i", "?", "1i", "-RRB-", "<", "=", "0", "-RRB-", "Hyperbolic", "inequalities", "with", "non-positive", "constant", ".", "The", "inequality", "xy", ">", "=", "is", "equivalent", "to", "-LRB-", "x", ">", "=", "^", "y", ">", "=", "0", "-RRB-", "_", "-LRB-", "x", "<", "=", "^", "y", "<", "=", "0", "-RRB-", ".", "If", "c", "<", "=", "?", "1", ",", "then", "the", "inequality", "xy", ">", "=", "c", "describes", "non-convex", "area", "between", "two", "hyperbola", "branches", ".", "We", "transform", "this", "inequality", "to", "negation", "of", "positive-constant", "hyperbolic", "inequality", ":", "xy", ">", "=", "c", "?", ":", "-LRB-", "x0y0", ">", "=", "c0", "-RRB-", "where", "x0", "=", "?", "x", ";", "y0", "=", "y", ";", "c0", "=", "1", "?", "c", ">", "=", "1", "Negation", "of", "conjunct", "produces", "disjunction", "of", "several", "constraints", ".", "Elliptical", "inequalities", ".", "Affinizing", "elliptical", "inequalities", "is", "similar", "to", "affinizing", "hyperbolic", "inequalities", ".", "6.2", "Affinization", "of", "equalities", "An", "equality", "constraint", "of", "the", "form", "xy", "=", "c", "or", "axx2", "+", "ayy2", "=", "c", "has", "a", "finite", "number", "of", "integer", "solutions", ".", "We", "convert", "this", "constraint", "to", "affine", "form", "by", "enumerating", "these", "solutions", ".", "Hyperbolic", "equalities", ".", "Let", "'s", "consider", "the", "hyperbolic", "equality", "xy", "=", "c", ".", "We", "replace", "it", "with", "a", "disjunction", "of", "several", "constraints", ".", "For", "each", "t", "=", "1", "up", "to", "b", "p", "jcjc", ",", "if", "t", "divides", "c", "then", "we", "add", "to", "the", "disjunction", "constraints", ":", "-LRB-", "x", "=", "t", "^", "y", "=", "c", "=", "t", "-RRB-", "_", "-LRB-", "x", "=", "c", "=", "t", "^", "y", "=", "t", "-RRB-", "_", "-LRB-", "x", "=", "?", "t", "^", "y", "=", "?", "c", "=", "t", "-RRB-", "_", "-LRB-", "x", "=", "?", "c", "=", "t", "^", "y", "=", "?", "t", "-RRB-", "For", "example", ",", "the", "equality", "xy", "=", "5", "is", "equivalent", "to", ":", "-LRB-", "x", "=", "1", "^", "y", "=", "5", "-RRB-", "_", "-LRB-", "x", "=", "5", "^", "y", "=", "1", "-RRB-", "_", "-LRB-", "x", "=", "?", "1", "^", "y", "=", "?", "5", "-RRB-", "_", "-LRB-", "x", "=", "?", "5", "^", "y", "=", "?", "1", "-RRB-", ".", "Elliptical", "equalities", ".", "Similar", "to", "hyperbolic", "equalities", ".", "6.3", "Number", "of", "constraints", "generated", "For", "hyperbolic", "inequalities", "and", "equalities", "number", "of", "constraints", "generated", "is", "O", "-LRB-", "pc", "-RRB-", "where", "c", "is", "constant", "from", "-LRB-", "8", "-RRB-", ".", "As", "our", "preliminary", "study", "shows", ",", "c", "values", "are", "usually", "small", ",", "and", "that", "means", "that", "few", "constraints", "need", "to", "be", "generated", ".", "Affinizing", "polynomial", "constraint", "only", "over", "the", "feasible", "domain", ".", "Often", ",", "we", "can", "further", "restrict", "number", "of", "constraints", "generated", "if", "we", "know", "the", "range", "of", "the", "participating", "variables", "is", "limited", ".", "Before", "generating", "affine", "constraints", ",", "we", "find", "the", "rectangular", "bounding", "box", "for", "x", "and", "y", "-LRB-", "the", "Omega", "test", "has", "this", "capability", "-RRB-", ":", "Lx", "=", "minx", ";", "Ly", "=", "miny", ";", "Ux", "=", "max", "x", ";", "Uy", "=", "maxy", "Then", "constraints", "that", "do", "not", "intersect", "with", "the", "bounding", "box", "are", "not", "generated", "at", "all", ".", "For", "example", ",", "if", "we", "know", "that", "x", "is", "non-negative", ",", "then", "xy", ">", "=", "2", "is", "equivalent", "to", "affine", "set", "of", "constraints", "x", ">", "=", "1", "^", "x", "+", "y", ">", "=", "3", "^", "y", ">", "=", "1", ".", "7", "Examples", "7.1", "Rectangular", "delinearization", "We", "start", "with", "computing", "p1", ",", "the", "projection", "of", "-LRB-", "1", "-RRB-", "onto", "variables", "involved", "in", "products", "-LRB-", "iw", ";", "ir", ";", "jw", ";", "jr", ";", "M", "and", "N", "-RRB-", ",", "and", "q1", ",", "everything", "else", ":", "p1", "?", "1", "?", "N", "<", "=", "MN", "iw", "+", "Njw", "?", "MN", "ir", "?", "Njr", "<", "=", "N", "?", "1", "1", "?", "M", "<", "=", "jw", "?", "jr", "<", "=", "M", "?", "1", ";", "q1", "?", "MN", "iw", "+", "Njw", "+", "kw", "=", "MN", "ir", "+", "Njr", "+", "kr", "p", "<", "=", "iw", ";", "ir", "<", "=", "p", "+", "L", "?", "1", "q", "<", "=", "jw", ";", "jr", "<", "=", "q", "+", "M", "?", "1", "r", "<", "=", "kw", ";", "kr", "<", "=", "r", "+", "N", "?", "1", "We", "can", "factor", "and", "affinize", "the", "polynomial", "constraints", ".", "The", "constraints", "in", "p1", "imply", "N", ">", "=", "1", ",", "so", "we", "generate", "only", "one", "branch", "of", "hyperbola", ":", "1", "<", "=", "N", "-LRB-", "M", "iw", "?", "M", "ir", "+", "jw", "?", "jr", "+", "1", "-RRB-", "1", "<", "=", "N", "-LRB-", "M", "ir", "?", "M", "iw", "+", "jr", "?", "jw", "+", "1", "-RRB-", "1", "?", "M", "<", "=", "jw", "?", "jr", "<", "=", "M", "?", "1", "?", "1", "<", "=", "N", "1", "<", "=", "M", "iw", "?", "M", "ir", "+", "jw", "?", "jr", "+", "1", "1", "<", "=", "M", "ir", "?", "M", "iw", "+", "jr", "?", "jw", "+", "1", "1", "?", "M", "<", "=", "jw", "?", "jr", "<", "=", "M", "?", "1", "?", "1", "<", "=", "N", "M", "iw", "+", "jw", "=", "M", "ir", "+", "jr", "1", "?", "M", "<", "=", "jw", "?", "jr", "<", "=", "M", "?", "1", "We", "again", "eliminate", "all", "affine", "variables", "-LRB-", "N", ";", "jw", ";", "jr", "-RRB-", ":", "p2", "?", "1", "?", "M", "<", "=", "M", "ir", "?", "M", "iw", "<", "=", "M", "?", "1", "?", "1", "<", "=", "M", "-LRB-", "iw", "?", "ir", "+", "1", "-RRB-", "1", "<", "=", "M", "-LRB-", "ir", "?", "iw", "+", "1", "-RRB-", ";", "q2", "?", "1", "<", "=", "N", "M", "iw", "+", "jw", "=", "M", "ir", "+", "jr", "Affinizing", "we", "get", "p2", "?", "1", "<", "=", "M", "^", "iw", "=", "ir", ".", "Having", "reduced", "p", "to", "affine", "form", ",", "we", "restore", "constraints", "involving", "eliminated", "variables", "and", "simplify", ":", "p", "?", "p2", "^", "q2", "^", "q1", "?", "iw", "=", "ir", "M", "iw", "+", "jw", "=", "M", "ir", "+", "jr", "MN", "iw", "+", "Njw", "+", "kw", "=", "MN", "ir", "+", "Njr", "+", "kr", "p", "<", "=", "iw", ";", "ir", "<", "=", "p", "+", "L", "?", "1", "q", "<", "=", "jw", ";", "jr", "<", "=", "q", "+", "M", "?", "1", "r", "<", "=", "kw", ";", "kr", "<", "=", "r", "+", "N", "?", "1", "Substituting", "ir", "for", "iw", "allows", "us", "to", "derive", "jw", "=", "jr", ",", "which", "in", "turn", "allows", "us", "to", "substitute", "jr", "for", "jw", "deriving", "kw", "=", "kr", ":", "p", "<", "=", "iw", "=", "ir", "<", "=", "p", "+", "L", "?", "1", "q", "<", "=", "jw", "=", "jr", "<", "=", "q", "+", "M", "?", "1", "r", "<", "=", "kw", "=", "kr", "<", "=", "r", "+", "N", "?", "1", "7.2", "Triangular", "delinearization", "Before", "applying", "our", "algorithm", "to", "the", "problem", "-LRB-", "3", "-RRB-", ",", "we", "convert", "integer", "division", "by", "2", "to", "integer", "multiplication", ":", "p", "?", "9", "t1", ";", "t2", ";", "ff", ";", "s", ":", "t", ":", "2t1", "+", "=", "i21", "+", "i1", "^", "<", "=", "<", "=", "1", "2t2", "+", "=", "i22", "+", "i2", "^", "<", "=", "<", "=", "1", "t1", "+", "j1", "=", "t2", "+", "j2", "^", "<", "=", "i1", ";", "i2", "<", "=", "N", "?", "1", "<", "=", "j1", "<", "=", "i1", "^", "<", "=", "j2", "<", "=", "i2", "?", "<", "=", "j2", "<", "=", "i2", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "i2", "+", "2j2", "+", "i22", "<", "=", "1", "+", "i1", "+", "2j1", "+", "i21", "i1", "+", "2j1", "+", "i21", "<", "=", "1", "+", "i2", "+", "2j2", "+", "i22", "We", "now", "compute", "p1", ",", "the", "projection", "of", "p", "onto", "variables", "involved", "in", "products", ",", "and", "q1", ",", "everything", "else", "needed", "so", "that", "p", "=", "p1", "^", "q1", ":", "p1", "?", "<", "=", "i1", "<", "=", "i2", "i2", "+", "i22", "<", "=", "1", "+", "3i1", "+", "i21", "i1", "+", "i21", "<", "=", "1", "+", "3i2", "+", "i22", "q1", "?", "<", "=", "j2", "<", "=", "i2", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "i2", "+", "2j2", "+", "i22", "<", "=", "1", "+", "i1", "+", "2j1", "+", "i21", "i1", "+", "2j1", "+", "i21", "<", "=", "1", "+", "i2", "+", "2j2", "+", "i22", "We", "factor", "the", "polynomial", "constraints", "in", "p1", ":", "i21", "+", "3i1", "?", "i22", "?", "i2", ">", "=", "?", "-LRB-", "i1", "?", "i2", "+", "1", "-RRB-", "-LRB-", "i1", "+", "i2", "+", "2", "-RRB-", ">", "=", "2", "i22", "+", "3i2", "?", "i21", "?", "i1", ">", "=", "?", "-LRB-", "i2", "?", "i1", "+", "1", "-RRB-", "-LRB-", "i2", "+", "i1", "+", "2", "-RRB-", ">", "=", "2", "and", "affinize", "the", "factored", "forms", ":", "-LRB-", "i1", "?", "i2", "+", "1", "-RRB-", "-LRB-", "i1", "+", "i2", "+", "2", "-RRB-", ">", "=", "2", "?", "i1", "?", "i2", "+", "1", ">", "=", "1", "^", "i1", "+", "i2", "+", "2", ">", "=", "1", "^", "-LRB-", "i1", "?", "i2", "+", "1", "-RRB-", "+", "-LRB-", "i1", "+", "i2", "+", "2", "-RRB-", ">", "=", "3", "-LRB-", "i2", "?", "i1", "+", "1", "-RRB-", "-LRB-", "i2", "+", "i1", "+", "2", "-RRB-", ">", "=", "2", "?", "i2", "?", "i1", "+", "1", ">", "=", "1", "^", "i2", "+", "i1", "+", "2", ">", "=", "1", "^", "-LRB-", "i2", "?", "i1", "+", "1", "-RRB-", "+", "-LRB-", "i2", "+", "i1", "+", "2", "-RRB-", ">", "=", "3", "Replacing", "these", "two", "polynomial", "constraints", "with", "their", "affine", "equivalent", "and", "simplifying", "yields", ":", "p1", "?", "<", "=", "i1", "=", "i2", "Since", "p1", "is", "completely", "affine", ",", "we", "are", "done", ".", "We", "combine", "p1", "and", "q1", "and", "simplify", ",", "yielding", ":", "p", "?", "p1", "^", "q1", "?", "i1", "=", "i2", "<", "=", "j2", "<", "=", "i2", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "i2", "+", "2j2", "+", "i22", "<", "=", "1", "+", "i1", "+", "2j1", "+", "i21", "i1", "+", "2j1", "+", "i21", "<", "=", "1", "+", "i2", "+", "2j2", "+", "i22", "By", "substituting", "i1", "for", "i2", ",", "we", "get", ":", "p", "?", "i2", ":", "=", "i1", "<", "=", "j2", "<", "=", "i1", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "i1", "+", "2j2", "+", "i21", "<", "=", "1", "+", "i1", "+", "2j1", "+", "i21", "i1", "+", "2j1", "+", "i21", "<", "=", "1", "+", "i1", "+", "2j2", "+", "i21", "?", "i2", ":", "=", "i1", "<", "=", "j2", "<", "=", "i1", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "2j2", "<", "=", "1", "+", "2j1", "2j1", "<", "=", "1", "+", "2j2", "?", "i2", ":", "=", "i1", "<", "=", "j2", "<", "=", "i1", "<", "N", "<", "=", "j1", "<", "=", "i1", "<", "N", "j2", "<", "=", "j1", "j1", "<", "=", "j2", "?", "<", "=", "j1", "<", "=", "i1", "<", "N", "i2", "=", "i1", "j2", "=", "j1", "This", "is", "the", "final", "result", "-LRB-", "4", "-RRB-", ".", "7.3", "Symbolic", "blocking", "Using", "our", "algorithm", "we", "can", "simplify", "polynomial", "problems", "that", "arise", "in", "code", "generation", "for", "symbolic", "blocking", ".", "Let", "'s", "consider", "code", "generation", "for", "program", "in", "Figure", "3", ".", "The", "constraints", "on", "old", "loop", "variables", "are", "IS", "=", "1", "<", "=", "jo", "<", "=", "io", "<", "=", "M", "We", "use", "them", "and", "schedule", "-LRB-", "7", "-RRB-", "to", "compute", "constraints", "on", "new", "loop", "variables", ".", "First", ",", "we", "convert", "the", "equality", "ib", "=", "b", "-LRB-", "io", "?", "1", "-RRB-", "=", "NcN", "+", "1", "used", "in", "the", "schedule", "to", "polynomial", "constraint", "9", "t", "s", ":", "t", ":", "ib", "=", "tN", "+", "1", "^", "tN", "+", "=", "io", "?", "1", "^", "<", "=", "<", "=", "N", "?", "1", "So", "constraints", "on", "new", "variables", "ib", ";", "jn", ";", "in", "are", ":", "IS0", "=", "9", "io", ";", "jo", ";", "t", ";", "s", ":", "t", ":", "1", "<", "=", "jo", "<", "=", "io", "<", "=", "M", "ib", "=", "tN", "+", "1", "tN", "+", "=", "io", "?", "1", "<", "=", "<", "=", "N", "?", "1", "jn", "=", "jo", "^", "in", "=", "io", "We", "use", "the", "problem", "IS0", "to", "generate", "new", "loop", "bounds", ",", "proceeding", "from", "the", "outer", "loop", "ib", "to", "the", "inner", "loop", "in", ":", "ffl", "To", "compute", "bounds", "on", "ib", "we", "should", "eliminate", "from", "IS0", "all", "affine", "variables", "except", "ib", "and", "symbolic", "constants", ".", "First", ",", "we", "use", "our", "polynomial", "algorithm", "to", "simplify", "IS0", ".", "Eliminating", "all", "affine", "variables", "and", "affinizing", "produces", ":", "p1", "?", "N", "+", "tN", ">", "=", "1", "^", "N", ">", "=", "1", "?", "N", "-LRB-", "t", "+", "1", "-RRB-", ">", "=", "1", "^", "N", ">", "=", "1", "?", "t", ">", "=", "^", "N", ">", "=", "1", "Adding", "p1", "to", "the", "original", "problem", "and", "simplifying", "produces", ":", "IS0", "=", "9", "t", "s", ":", "t", ":", "1", "<", "=", "jn", "<", "=", "in", "<", "=", "M", "ib", "=", "tN", "+", "1", "tN", "<", "in", "<", "=", "N", "+", "tN", "t", ">", "=", "Projecting", "IS0", "onto", "ib", "and", "symbolic", "constants", "produces", ":", "pib", "?", "9t", "s", ":", "t", ":", "ib", "=", "tN", "+", "1", "2", "?", "N", "<", "=", "ib", "<", "=", "M", "M", ">", "=", "1", "^", "N", ">", "=", "1", "t", ">", "=", "-LRB-", "11", "-RRB-", "Having", "these", "bounds", ",", "code", "generation", "routine", "determines", "that", "ib", "is", "step-N", "variable", "and", "that", "the", "step", "is", "positive", ".", "Now", "we", "should", "extract", "an", "initial", "value", "of", "ib", "from", "these", "constraints", ".", "The", "initial", "value", "of", "ib", "is", "the", "lowest", "possible", "number", "that", "satisfies", "IS0", ".", "As", "long", "as", "we", "have", "polynomial", "equality", ",", "we", "can", "not", "be", "sure", "that", "the", "inequality", "expr", "<", "=", "ib", "means", "that", "expr", "is", "the", "initial", "value", ",", "because", "it", "'s", "possible", "that", "expr", "does", "not", "satisfy", "the", "polynomial", "equality", "-LRB-", "in", "this", "example", "2", "?", "N", "is", "not", "divided", "by", "N", ",", "so", "2", "?", "N", "is", "not", "the", "initial", "value", "-RRB-", ".", "To", "circumvent", "this", "difficulty", ",", "we", "instead", "compute", "the", "lower", "bound", "on", "the", "iteration", "counter", "t", ".", "We", "project", "out", "variable", "ib", "and", "affinize", "pib", "to", "get", "constraints", "on", "t", ":", "9ib", "s", ":", "t", ":", "ib", "=", "tN", "+", "1", "2", "?", "N", "<", "=", "ib", "<", "=", "M", "M", ">", "=", "1", "^", "N", ">", "=", "1", "t", ">", "=", "?", "2", "?", "N", "<", "=", "N", "+", "1", "<", "=", "M", "M", ">", "=", "1", "^", "N", ">", "=", "1", "t", ">", "=", "?", "<", "=", "t", "tN", "<", "=", "M", "?", "1", "M", ">", "=", "1", "^", "N", ">", "=", "1", "-LRB-", "12", "-RRB-", "Here", "we", "have", "no", "equality", "constraints", ",", "so", "we", "are", "sure", "that", "the", "initial", "value", "of", "t", "is", "0", ",", "and", "therefore", "the", "initial", "value", "of", "ib", "is", "t", "?", "+", "1", "=", "1", ".", "The", "iB", "loop", "second", "parameter", "-LRB-", "\\", "final", "''", "value", "of", "ib", "-RRB-", "does", "not", "have", "to", "be", "tight", ",", "so", "we", "can", "use", "the", "inequality", "ib", "<", "=", "M", "to", "decide", "that", "M", "is", "the", "\\", "final", "''", "value", "of", "ib", ".", "ffl", "Bounds", "on", "jn", "are", ":", "gist", "ssM", ";", "N", ";", "ib", ";", "jn", ";", "t", ";", "tN", "-LRB-", "IS0", "-RRB-", "given", "-LRB-", "11", "-RRB-", ".", "Simplifying", "we", "get", ":", "1", "<", "=", "jn", "<", "=", "M", "^", "jn", "<", "=", "N", "+", "ib", "?", "1", "-LRB-", "13", "-RRB-", "ffl", "Bounds", "on", "in", "are", "gist", "ssM", ";", "N", ";", "ib", ";", "jn", ";", "in", ";", "t", ";", "tN", "-LRB-", "IS0", "-RRB-", "given", "-LRB-", "11", "-RRB-", "^", "-LRB-", "13", "-RRB-", ".", "Simplification", "produces", ":", "jn", "<", "=", "in", "<", "=", "M", "^", "ib", "<", "=", "in", "<", "=", "N", "+", "ib", "?", "1", "-LRB-", "14", "-RRB-", "Having", "constraints", "-LRB-", "12", "-RRB-", "and", "-LRB-", "13", "-RRB-", "and", "-LRB-", "14", "-RRB-", ",", "uniform", "methods", "loop", "generation", "routine", "generates", "loops", "as", "shown", "in", "the", "right", "column", "of", "the", "Figure", "3", ".", "8", "Related", "Work", "Polynomial", "constraints", "simplification", "vs", "delinearization", ".", "In", "this", "paragraph", "we", "compare", "our", "polynomial", "constraints", "simplification", "algorithm", "with", "symbolic", "delinearization", "-LSB-", "Mas92", "-RSB-", ".", "First", ",", "we", "prove", "that", "our", "algorithm", "exactly", "simplifies", "all", "problems", "that", "can", "be", "handled", "by", "symbolic", "delinearization", ".", "The", "essence", "of", "delinearization", "is", "transforming", "the", "constraints", ":", "Ne1", "+", "e2", "=", "1", "?", "N", "<", "=", "e2", "<", "=", "N", "?", "1", "to", "e1", "=", "e2", "=", "where", "e1", ",", "e2", "are", "expressions", ",", "and", "N", "is", "a", "variable", ".", "Using", "our", "algorithm", ",", "we", "substitute", "e2", "=", "?", "Ne1", "into", "the", "inequality", "1", "?", "N", "<", "=", "e2", "<", "=", "N", "?", "1", ".", "Factoring", "and", "simplifying", "produces", ":", "N", "-LRB-", "1", "?", "e1", "-RRB-", ">", "=", "1", "^", "N", "-LRB-", "1", "+", "e1", "-RRB-", ">", "=", "1", ".", "Affinizing", "both", "inequalities", "we", "get", "e1", ">", "=", "^", "e1", "<", "=", "and", "therefore", "e1", "=", "0", ".", "Substituting", "this", "equality", "to", "the", "original", "problem", ",", "we", "finally", "prove", "that", "e1", "=", "e2", "=", "0", ".", "Symbolic", "delinearization", "has", "several", "serious", "restrictions", "that", "are", "not", "present", "in", "our", "algorithm", ":", "ffl", "It", "can", "handle", "only", "subscript", "functions", "linearized", "according", "to", "FORTRAN", "rules", ":", "reference", "A", "-LRB-", "i1", ";", "i2", ";", ":", ":", ":", ";", "in", "-RRB-", "to", "array", "A", "-LRB-", "0", ":", "D1", ";", ":", "D2", ";", ":", ":", ":", ";", ":", "Dn", "-RRB-", "is", "converted", "to", "A", "-LRB-", "i1", "+", "D1i2", "+", "?", "?", "?", "+", "D1", "?", "?", "?", "Dn", "?", "1in", "-RRB-", ".", "We", "call", "this", "rectangular", "linearization", ".", "Triangular", "linearization", "-LRB-", "see", "Section", "1.2", "-RRB-", "that", "is", "used", "quite", "often", "in", "scientific", "codes", "is", "not", "handled", ".", "ffl", "Even", "for", "the", "case", "of", "rectangular", "linearization", "it", "can", "not", "handle", "constraints", "imposed", "by", "triangular", "iteration", "space", ".", "Parafrase-2", ".", "In", "-LSB-", "HP91", "-RSB-", "the", "authors", "propose", "to", "use", "a", "symbolic", "version", "of", "Banerjee", "'s", "inequalities", "for", "dependence", "testing", ",", "but", "it", "is", "known", "that", "Banerjee", "'s", "inequalities", "do", "not", "detect", "independence", "in", "case", "of", "linearized", "subscript", "functions", "-LSB-", "Mas92", "-RSB-", ".", "To", "alleviate", "the", "inexactness", "of", "Banerjee", "'s", "inequalities", ",", "Haghighat", "and", "Polychronopoulos", "propose", "to", "detect", "monotonically", "increasing", "and", "decreasing", "subscript", "function", "using", "the", "finite", "differences", "method", "-LSB-", "HP93", "-RSB-", ".", "When", "the", "subscript", "function", "is", "monotonically", "changing", ",", "the", "reference", "can", "not", "hit", "the", "same", "memory", "cell", "on", "the", "next", "iteration", ",", "and", "therefore", "no", "output", "dependence", "can", "exist", "from", "the", "reference", "to", "itself", ".", "Our", "induction", "variable", "recognition", "system", "also", "can", "discover", "that", "the", "closed", "form", "of", "induction", "variable", "is", "monotonically", "changing", "and", "we", "are", "able", "to", "use", "this", "fact", "to", "prove", "the", "absence", "of", "the", "output", "dependence", ".", "However", ",", "when", "monotonicity", "can", "not", "be", "proven", "|", "it", "happens", ",", "for", "example", ",", "for", "program", "in", "Figure", "2", "|", "Haghighat", "and", "Polychronopoulos", "finite", "difference", "method", "can", "not", "be", "used", "and", "their", "techniques", "can", "not", "prove", "that", "the", "flow", "dependence", "in", "this", "example", "is", "loop-independent", "and", "output", "dependence", "does", "not", "exist", ".", "Other", "approaches", ".", "A", "number", "of", "computer", "algebra", "books", "and", "papers", "-LSB-", "KL92", ",", "Buc85", ",", "DST88", "-RSB-", "are", "devoted", "to", "solving", "polynomial", "constraints", "over", "the", "complex", "and", "real", "numbers", ".", "Since", "we", "are", "interested", "in", "polynomial", "constraints", "over", "the", "integers", ",", "we", "can", "not", "directly", "use", "their", "results", ".", "However", ",", "we", "should", "study", "adaptation", "of", "their", "factoring", "techniques", "to", "our", "needs", ".", "9", "Conclusion", "We", "have", "presented", "an", "algorithm", "that", "exactly", "simplifies", "conjunctions", "of", "affine", "and", "polynomial", "constraints", "over", "integers", ".", "This", "algorithm", "is", "not", "capable", "of", "affinizing", "arbitrary", "polynomial", "constraint", ".", "However", ",", "we", "do", "not", "always", "need", "complete", "affinization", ".", "For", "example", ",", "in", "the", "symbolic", "blocking", "example", "we", "produce", "simplified", "polynomial", "problems", "that", "can", "be", "directly", "used", "for", "generating", "loop", "bounds", "for", "the", "loop", "iB", ".", "Our", "algorithm", "for", "simplifying", "polynomial", "constraints", "is", "expandable", ":", "we", "can", "add", "more", "sophisticated", "factoring", "techniques", "to", "it", ",", "and", "we", "can", "consider", "affinization", "of", "more", "complicated", "constraints", "than", "2-variable", "hyperbolic", "and", "elliptical", "inequalities", "and", "equalities", "-LRB-", "8", "-RRB-", ".", "We", "think", "that", "expansion", "of", "the", "algorithm", "should", "be", "guided", "by", "practical", "needs", "of", "the", "concrete", "application", ".", "More", "experiments", "are", "needed", "to", "prove", "that", "this", "set", "of", "techniques", "can", "affinize", "most", "of", "the", "polynomial", "problems", "that", "arise", "in", "dependence", "testing", "and", "other", "parallelizing", "compiler", "analyses", ".", "Preliminary", "investigation", "shows", "that", "we", "can", "affinize", "polynomial", "constraints", "that", "arise", "due", "to", "rectangular", "and", "triangular", "linearization", "of", "subscript", "functions", "which", "seems", "to", "be", "a", "primary", "source", "of", "polynomial", "constraints", ".", "References", "-LSB-", "AK87", "-RSB-", "J.", "R.", "Allen", "and", "K.", "Kennedy", ".", "Automatic", "translation", "of", "Fortran", "programs", "to", "vector", "form", ".", "ACM", "Transactions", "on", "Programming", "Languages", "and", "Systems", ",", "9", "-LRB-", "4", "-RRB-", ":491", "-LCB-", "542", ",", "October", "1987", ".", "-LSB-", "Buc85", "-RSB-", "B.", "Buchberger", ".", "Grobner", "bases", ":", "an", "algorithmic", "method", "in", "polynomial", "ideal", "theory", ".", "In", "N.", "K.", "Bose", ",", "editor", ",", "Multidimensional", "Systems", "Theory", ".", "D.", "Reidel", "Publishing", "Co.", ",", "1985", ".", "-LSB-", "DST88", "-RSB-", "J.", "H.", "Davenport", ",", "Y.", "Siret", ",", "and", "E.", "Tournier", ".", "Computer", "Algebra", ",", "Systems", "and", "Algorithms", "for", "Algebraic", "Computation", ".", "Academic", "Press", ",", "1988", ".", "-LSB-", "HP91", "-RSB-", "M.", "Haghighat", "and", "C.", "Polychronopoulos", ".", "Symbolic", "dependence", "analysis", "for", "high-performance", "parallelizing", "compilers", ".", "In", "Advances", "In", "Languages", "And", "Compilers", "for", "Parallel", "Processing", ",", "August", "1991", ".", "-LSB-", "HP93", "-RSB-", "M.", "Haghighat", "and", "C.", "Polychronopoulos", ".", "Symbolic", "analysis", ":", "A", "basis", "for", "parallelization", ",", "optimization", "and", "scheduling", "of", "programs", ".", "In", "Sixth", "Annual", "Workshop", "on", "Programming", "Languages", "and", "Compilers", "for", "Parallel", "Computing", ",", "Portland", ",", "OR", ",", "August", "1993", ".", "-LSB-", "KL92", "-RSB-", "Deepak", "Kapur", "and", "Yagiti", "Lakshman", ".", "Elimination", "methods", ":", "an", "introduction", ".", "In", "Bruce", "Donald", ",", "Deepak", "Kapur", ",", "and", "Joseph", "Mundy", ",", "editors", ",", "Symbolic", "and", "Numerical", "Computation", "for", "Artificial", "Intelligence", ".", "Academic", "Press", ",", "1992", ".", "-LSB-", "KP93", "-RSB-", "Wayne", "Kelly", "and", "William", "Pugh", ".", "A", "framework", "for", "unifying", "reordering", "transformations", ".", "Technical", "Report", "CS-TR-3193", ",", "Dept.", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "April", "1993", ".", "-LSB-", "Mas92", "-RSB-", "Vadim", "Maslov", ".", "Delinearization", ":", "an", "efficient", "way", "to", "break", "multiloop", "dependence", "equations", ".", "In", "ACM", "SIGPLAN", "'92", "Conf", ".", "on", "Programming", "Language", "Design", "and", "Implementation", ",", "San", "Francisco", ",", "California", ",", "June", "1992", ".", "-LSB-", "Pug92", "-RSB-", "WilliamPugh", ".", "The", "Omega", "test", ":", "a", "fast", "and", "practical", "integer", "programming", "algorithm", "for", "dependence", "analysis", ".", "Communications", "of", "the", "ACM", ",", "8:102", "-LCB-", "114", ",", "August", "1992", ".", "-LSB-", "PW92", "-RSB-", "William", "Pugh", "and", "David", "Wonnacott", ".", "Going", "beyond", "integer", "programming", "with", "the", "Omega", "test", "to", "eliminate", "false", "data", "dependences", ".", "Technical", "Report", "CS-TR-3191", ",", "Dept.", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "December", "1992", ".", "An", "earlier", "version", "of", "this", "paper", "appeared", "at", "the", "SIGPLAN", "PLDI", "'92", "conference", ".", "-LSB-", "PW93", "-RSB-", "William", "Pugh", "and", "David", "Wonnacott", ".", "An", "evaluation", "of", "exact", "methods", "for", "analysis", "of", "value-based", "array", "data", "dependences", ".", "In", "Sixth", "Annual", "Workshop", "on", "Programming", "Languages", "and", "Compilers", "for", "Parallel", "Computing", ",", "Portland", ",", "OR", ",", "August", "1993", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "First", "International", "Workshop", "on", "Multistrategy", "Learning", ",", "Harpers", "Ferry", ",", "WV", ",", "November", ",", "1991", ".", "217", "Using", "Introspective", "Reasoning", "to", "Select", "Learning", "Strategies", "Michael", "Cox", "and", "Ashwin", "Ram", "cox@cc.gatech.edu", "?", "ashwin@cc.gatech.edu", "Georgia", "Institute", "of", "Technology", "?", "College", "of", "Computing", "Atlanta", ",", "GA", "30332-0280", "Abstract", "In", "order", "to", "learn", "effectively", ",", "a", "system", "must", "not", "only", "possess", "knowledge", "about", "the", "world", "and", "be", "able", "to", "improve", "that", "knowledge", ",", "but", "it", "also", "must", "introspectively", "reason", "about", "how", "it", "performs", "a", "given", "task", "and", "what", "particular", "pieces", "of", "knowledge", "it", "needs", "to", "improve", "its", "performance", "at", "the", "current", "task", ".", "Introspection", "requires", "a", "declarat?ive", "representation", "of", "the", "reasoning", "performed", "by", "the", "system", "during", "the", "performance", "task", ".", "This", "paper", "presents", "a", "taxonomy", "of", "possible", "reasoning", "failures", "that", "can", "occur", "during", "this", "task", ",", "their", "declarative", "representations", ",", "and", "their", "associations", "with", "particular", "learning", "strategies", ".", "We", "propose", "a", "theory", "of", "Meta-XPs", ",", "which", "are", "explanation", "structures", "that", "help", "the", "system", "identify", "failure", "types", "and", "choose", "appropriate", "learning", "strategies", "in", "order", "to", "avoid", "similar", "mistakes", "in", "the", "future", ".", "A", "program", "called", "Meta-AQUA", "embodies", "the", "theory", "and", "processes", "examples", "in", "the", "domain", "of", "drug", "smuggling", ".", "1", "Introduction", "In", "order", "to", "learn", "effectively", ",", "a", "system", "must", "not", "only", "possess", "knowledge", "about", "the", "world", "and", "be", "able", "to", "improve", "that", "knowledge", ",", "but", "it", "also", "must", "introspectively", "reason", "about", "how", "it", "performs", "a", "given", "task", "and", "what", "particular", "pieces", "of", "knowledge", "it", "needs", "to", "improve", "its", "performance", "at", "the", "current", "task", ".", "In", "addition", ",", "the", "learner", "needs", "to", "focus", "its", "learning", "if", "it", "is", "to", "avoid", "the", "combinatorial", "explosion", "of", "inferences", "and", "search", "necessary", "in", "complex", ",", "unrestricted", "situations", ".", "The", "approach", "to", "learning", "taken", "in", "this", "research", "is", "failure-driven", ".", "``", "Failures", "''", "are", "not", "simply", "performance", "errors", ",", "but", "include", "expectation", "failures", ",", "or", "anomalous", "situations", "which", "do", "not", "match", "the", "constraints", "on", "a", "given", "concept", ".", "-LRB-", "In", "fact", ",", "an", "expectation", "failure", "could", "occur", "even", "if", "the", "performance", "task", "is", "successful", ".", "-RRB-", "When", "such", "a", "failure", "occurs", ",", "the", "system", "posts", "a", "knowledge", "goal", "which", "drives", "the", "reasoner", "to", "explain", "or", "otherwise", "resolve", "the", "gaps", "in", "its", "knowledge", ".", "The", "knowledge", "goals", "of", "a", "system", "are", "the", "questions", "that", "a", "system", "poses", "about", "the", "world", "and", "events", "within", "the", "world", ".", "In", "order", "to", "learn", "from", "a", "failure", "and", "to", "avoid", "repeating", "the", "mistake", ",", "the", "system", "needs", "to", "identify", "the", "cause", "of", "the", "failure", "and", "then", ",", "depending", "upon", "the", "cause", ",", "apply", "a", "given", "learning", "strategy", ".", "In", "this", "paper", ",", "we", "propose", "a", "theory", "of", "Meta", "-", "218", "XPs1", ",", "which", "are", "causal", "explanation", "structures", "that", "explain", "how", "and", "why", "an", "agent", "reasons", ",", "and", "that", "help", "the", "system", "in", "the", "learning", "task", ".", "Our", "theory", "of", "reasoning", "and", "learning", "is", "based", "on", "these", "structures", ".", "There", "are", "two", "broad", "classes", "of", "Meta-XPs", ".", "General", "Meta-XPs", "record", "a", "trace", "of", "the", "reasoning", "performed", "by", "a", "system", ".", "Introspective", "MetaXPs", "are", "structures", "used", "to", "explain", "and", "learn", "from", "a", "reasoning", "failure", ".", "They", "associate", "a", "failure", "type", "with", "a", "particular", "set", "of", "learning", "strategies", "and", "point", "to", "likely", "sources", "of", "the", "failure", "within", "the", "general", "Meta-XP", ".", "Our", "theory", "deals", "with", "three", "types", "of", "reasoning", "failures", ":", "Novel", "Situation", "-", "An", "expectation", "failure", "can", "arise", "when", "the", "reasoner", "does", "not", "have", "the", "appropriate", "knowledge", "structures", "to", "deal", "with", "a", "situation", ".", "The", "situation", "is", "said", "to", "be", "anomalous", "with", "respect", "to", "the", "current", "knowledge", "in", "the", "system", ".", "In", "such", "a", "situation", ",", "the", "reasoner", "could", "use", "a", "variety", "of", "learning", "strategies", ",", "including", "explanation-based", "generalization", ",", "refinement", ",", "and", "index", "learning", ".", "Incorrect", "World", "Model", "-", "Even", "if", "the", "reasoner", "has", "knowledge", "structures", "that", "are", "applicable", "to", "the", "situation", ",", "these", "knowledge", "structures", "may", "be", "incomplete", "or", "incorrect", ".", "Learning", "in", "such", "situations", "is", "usually", "incremental", ",", "and", "involves", "strategies", "such", "as", "elaborative", "question", "asking", "applied", "to", "the", "reasoning", "chain", "and", "generalization", "techniques", "in", "conceptual", "memory", ".", "Mis-Indexed", "Structure", "-", "The", "reasoner", "may", "have", "an", "applicable", "knowledge", "structure", ",", "but", "it", "may", "not", "be", "indexed", "in", "memory", "such", "that", "it", "can", "be", "retrieved", "using", "the", "particular", "cues", "provided", "by", "the", "context", ".", "In", "this", "case", "the", "system", "must", "add", "a", "new", "index", ",", "or", "generalize", "an", "existing", "index", "based", "on", "the", "context", ".", "If", "on", "the", "1Meta-XPs", "are", "based", "on", "explanation", "patterns", "-LRB-", "XPs", "-RRB-", "described", "in", "Kass", ",", "Leake", ",", "&", "Owens", "-LRB-", "1986", "-RRB-", ",", "Ram", "-LRB-", "1990a", "-RRB-", ",", "and", "Schank", "-LRB-", "1986", "-RRB-", ".", "other", "hand", ",", "the", "reasoner", "retrieves", "a", "structure", "that", "later", "proves", "inappropriate", ",", "it", "must", "specialize", "the", "indices", "to", "this", "structure", "so", "the", "retrieval", "will", "not", "recur", "in", "similar", "situations", ".", "We", "propose", "a", "multi-strategy", "learning", "approach", "in", "which", "the", "reasoning", "system", "records", "a", "declarative", "trace", "of", "its", "own", "reasoning", "process", "using", "a", "general", "Meta-XP", ".", "The", "data", "structure", "holds", "explicit", "information", "concerning", "the", "manner", "in", "which", "knowledge", "gaps", "are", "identified", ",", "the", "reasons", "why", "hypotheses", "are", "generated", ",", "how", "hypotheses", "are", "verified", ",", "and", "the", "basis", "for", "choosing", "particular", "reasoning", "methods", "for", "each", "of", "these", ".", "If", "the", "system", "encounters", "a", "reasoning", "failure", ",", "it", "then", "uses", "introspective", "Meta-XPs", "to", "examine", "the", "declarative", "reasoning", "chain", ".", "The", "introspective", "Meta-XP", "performs", "two", "functions", ":", "it", "aids", "in", "blame", "assignment", "-LRB-", "determining", "which", "knowledge", "structures", "are", "missing", ",", "incorrect", "or", "inappropriately", "applied", "-RRB-", ",", "and", "it", "aids", "in", "the", "selection", "of", "appropriate", "learning", "algorithms", "to", "recover", "and", "learn", "from", "the", "reasoning", "error", ".", "Such", "self-explanations", "augment", "a", "system", "'s", "ability", "to", "introspectively", "reason", "about", "its", "own", "knowledge", ",", "gaps", "within", "this", "knowledge", ",", "and", "the", "reasoning", "processes", "which", "attempt", "to", "fill", "these", "gaps", ".", "The", "use", "of", "explicit", "Meta-XP", "structures", "allow", "direct", "inspection", "of", "the", "reasons", "by", "which", "knowledge", "goals", "are", "posted", "and", "processed", ",", "thus", "enabling", "a", "system", "to", "improve", "its", "ability", "to", "reason", "and", "learn", ".", "Section", "2", "first", "presents", "an", "implemented", "example", "to", "motivate", "the", "problem", ".", "Next", "the", "methodology", "used", "to", "support", "introspective", "reasoning", "is", "outlined", "in", "section", "3", ".", "Section", "4", "explains", "the", "reasoning", "model", "upon", "which", "representations", "for", "reasoning", "traces", "are", "based", ".", "Section", "5", "covers", "the", "representation", "of", "introspective", "structures", "that", "capture", "the", "three", "failure", "types", "listed", "above", ",", "whereas", "section", "6", "illustrates", "how", "learning", "is", "associated", "with", "the", "structures", ".", "The", "paper", "closes", "with", "discussion", "and", "future", "direction", "for", "research", ".", "219", "2", "Motivational", "Example", ":", "The", "Drug", "Bust", "This", "research", "implements", "an", "introspective", "version", "of", "AQUA", "-LRB-", "Ram", ",", "1989", ",", "1991", "-RRB-", ",", "called", "Meta-AQUA", ".", "AQUA", "is", "a", "question-driven", "story", "understanding", "system", "that", "learns", "about", "Middle", "Eastern", "terrorist", "activities", ".", "Its", "performance", "task", "is", "to", "``", "understand", "''", "the", "story", "by", "building", "causal", "explanations", "that", "link", "the", "individual", "events", "into", "a", "coherent", "whole", ".", "The", "Meta-AQUA", "version", "adds", "introspective", "reasoning", "and", "learning", "using", "Meta-XP", "structures", ".", "Unlike", "AQUA", ",", "Meta-AQUA", "does", "not", "actually", "parse", "the", "sentences", ";", "since", "this", "research", "does", "not", "deal", "with", "the", "natural", "language", "understanding", "problem", ",", "we", "assume", "that", "input", "sentences", "are", "already", "represented", "conceptually", ".", "To", "illustrate", "the", "type", "of", "introspection", "Meta-AQUA", "performs", "and", "the", "type", "of", "learning", "that", "results", ",", "consider", "the", "following", "passage", ":", "S1", ":", "A", "police", "dog", "sniffed", "at", "a", "passenger", "'s", "luggage", "in", "the", "Atlanta", "airport", "terminal", ".", "S2", ":", "The", "dog", "suddenly", "began", "to", "bark", "at", "the", "luggage", ".", "S3", ":", "At", "this", "point", "the", "authorities", "arrested", "the", "passenger", ",", "charging", "him", "with", "smuggling", "drugs", ".", "S4", ":", "The", "dog", "barked", "because", "it", "detected", "two", "kilograms", "of", "marijuana", "in", "the", "luggage", ".", "A", "number", "of", "inferences", "can", "be", "made", "from", "this", "story", ",", "many", "of", "which", "may", "be", "incorrect", ",", "depending", "on", "the", "knowledge", "of", "the", "reader", ".", "Meta-AQUA", "'s", "knowledge", "includes", "general", "facts", "about", "dogs", "and", "sniffing", ",", "including", "the", "fact", "that", "dogs", "bark", "when", "threatened", ",", "but", "it", "has", "no", "knowledge", "of", "police", "drug", "dogs", "in", "particular", ".", "It", "also", "knows", "of", "past", "terrorist", "smuggling", "cases", ",", "but", "has", "never", "seen", "a", "case", "of", "drug", "interdiction", ".", "Nonetheless", "the", "program", "is", "able", "to", "recover", "and", "learn", "from", "the", "erroneous", "inferences", "this", "story", "generates", ".", "The", "line", "of", "reasoning", "that", "Meta-AQUA", "produces", "by", "processing", "this", "story", "is", "as", "follows", ":", "S1", "produces", "no", "inferences", "other", "than", "the", "observation", "that", "sniffing", "is", "a", "normal", "event", "in", "the", "life", "of", "a", "dog", ".", "However", ",", "S2", "produces", "an", "anomaly", "because", "the", "system", "'s", "definition", "of", "bark", "specifies", "that", "the", "object", "of", "the", "bark", "is", "animate", ".", "In", "this", "example", ",", "the", "program", "-LRB-", "incorrectly", "-RRB-", "believes", "that", "dogs", "bark", "only", "when", "threatened", "by", "animate", "objects", ".", "Since", "luggage", "is", "inanimate", ",", "there", "is", "a", "contradiction", ",", "leading", "to", "an", "expectation", "failure", ".", "This", "anomaly", "causes", "the", "understander", "to", "ask", "why", "the", "dog", "barked", "at", "an", "inanimate", "object", ".", "This", "question", "may", "lead", "the", "system", "to", "learn", "something", "useful", "about", "dogs", "at", "some", "point", "in", "the", "future", ".", "Until", "this", "question", "is", "answered", ",", "however", ",", "the", "system", "can", "only", "assume", "-LRB-", "again", ",", "incorrectly", "-RRB-", "that", "the", "luggage", "somehow", "threatened", "the", "dog", ".", "S3", "asserts", "an", "arrest", "scene", "which", "reminds", "Meta-AQUA", "of", "a", "prior", "incident", "of", "weapons", "smuggling", "by", "terrorists", ".", "The", "system", "then", "infers", "the", "existence", "of", "a", "smuggling", "bust", "that", "includes", "detection", ",", "confiscation", ",", "and", "arrest", "scenes", ".", "Because", "baggage", "searches", "are", "the", "only", "detection", "method", "the", "system", "knows", ",", "the", "sniffing", "event", "remains", "unconnected", "to", "the", "rest", "of", "the", "story", ".", "Finally", ",", "S4", "causes", "the", "question", "generated", "by", "S2", "``", "Why", "did", "the", "dog", "bark", "?", "''", "to", "be", "retrieved", ",", "and", "the", "understanding", "task", "is", "resumed", ".", "Instead", "of", "revealing", "the", "anticipated", "threatening", "situation", ",", "S4", "produces", "another", "hypothesis", ".", "The", "program", "prefers", "the", "explanation", "given", "by", "S4", "over", "the", "earlier", "one", ",", "because", "it", "links", "more", "of", "the", "story", "together", "-LRB-", "e.g.", ",", "see", "Alterman", ",", "1985", ";", "Ng", "&", "Mooney", ",", "1990", ";", "Thagard", ",", "1989", "-RRB-", ".", "220", "The", "system", "uses", "the", "trace", "of", "its", "reasoning", "process", "-LRB-", "stored", "in", "a", "general", "Meta-XP", "-RRB-", "to", "review", "the", "understanding", "process", ".", "It", "characterizes", "the", "reasoning", "error", "as", "one", "in", "which", "there", "is", "an", "expectation", "failure", "caused", "by", "the", "incorrect", "retrieval", "of", "a", "known", "explanation", "-LRB-", "``", "dogs", "bark", "when", "threatened", "by", "animate", "objects", "''", ",", "erroneously", "assumed", "to", "be", "applicable", "-RRB-", ",", "and", "a", "missing", "explanation", "-LRB-", "``", "the", "dog", "barked", "because", "it", "detected", "marijuana", "''", ",", "the", "correct", "explanation", "in", "this", "case", "-RRB-", ".", "Using", "this", "characterization", "as", "an", "index", ",", "the", "system", "retrieves", "the", "introspective", "Meta-XP", "XP", "-", "Novel-Situation-AlternativeRefuted", ".", "This", "composite", "Meta-XP", "consists", "of", "three", "primitive", "Meta-XPs", ":", "XP-NovelSituation", ",", "XP-Mis-IndexedStructure", ",", "and", "XP-IncorrectWorld-Model", ".", "The", "XP-NovelSituation", "directs", "an", "explanation-based", "generalization", "-LRB-", "EBG", "-RRB-", "algorithm", "-LRB-", "DeJong", "&", "Mooney", ",", "1986", ";", "Mitchell", ",", "Keller", ",", "&", "KedarCabelli", ",", "1986", "-RRB-", "to", "be", "applied", "to", "the", "node", "representing", "the", "explanation", "of", "the", "bark", ".", "Since", "the", "detection", "scene", "of", "the", "drug-bust", "case", "and", "the", "node", "representing", "the", "sniffing", "are", "unified", "due", "to", "the", "explanation", "given", "in", "S4", ",", "the", "explanation", "is", "generalized", "to", "drug", "busts", "in", "general", ".", "The", "general", "explanation", "is", "then", "indexed", "in", "memory", ".", "The", "XP-MisIndexed-Structure", "directs", "an", "indexing", "algorithm", "to", "the", "defensive", "barking", "explanation", ".", "It", "recommends", "that", "the", "explanation", "be", "re-indexed", "so", "that", "it", "is", "not", "retrieved", "in", "similar", "situations", "in", "the", "future", ".", "Thus", "the", "index", "for", "this", "XP", "is", "specialized", "so", "that", "retrieval", "occurs", "only", "on", "animate", "objects", ",", "not", "physical", "objects", "in", "general", ".", "The", "XP", "-", "Incorrect-World-Model", "directs", "the", "system", "to", "examine", "the", "source", "of", "the", "story", "'s", "anomaly", ".", "The", "solution", "is", "to", "alter", "the", "conceptual", "memory", "representation", "so", "that", "the", "constraint", "on", "the", "object", "of", "dog-barking", "instantiations", "is", "generalized", "to", "physical", "objects", ",", "not", "just", "animate", "objects", ".", "Though", "the", "program", "is", "directly", "provided", "an", "explanation", "which", "links", "the", "story", "together", ",", "Meta-AQUA", "performs", "more", "than", "mere", "rote", "learning", ".", "It", "learns", "to", "avoid", "the", "mistakes", "made", "during", "the", "processing", "of", "the", "story", ".", "The", "application", "of", "Meta-XPs", "allows", "the", "system", "to", "use", "the", "appropriate", "learning", "strategy", "-LRB-", "or", "multiple", "strategies", "-RRB-", "to", "learn", "exactly", "that", "which", "the", "system", "needs", "to", "know", "to", "process", "similar", "situations", "in", "the", "future", "correctly", ".", "This", "is", "essentially", "a", "case-based", "or", "experience-based", "approach", ",", "which", "relies", "on", "the", "assumption", "that", "it", "is", "worth", "learning", "about", "one", "'s", "experiences", "since", "one", "is", "likely", "to", "have", "similar", "experiences", "in", "the", "future", "-LRB-", "see", ",", "e.g.", ",", "Hammond", ",", "1986", ";", "Kolodner", "&", "Simpson", ",", "1984", ";", "Ram", ",", "1990b", ";", "Schank", ",", "1982", "-RRB-", ".", "3", "Methodology", "We", "assume", "that", "understanding", "involves", "building", "causal", "explanations", "of", "the", "input", ",", "which", "provide", "conceptual", "coherence", "to", "the", "story", "by", "tying", "the", "pieces", "of", "the", "story", "together", ".", "Explanations", "are", "built", "by", "applying", "known", "explanation", "patterns", "to", "the", "events", "in", "the", "story", ".", "Expectation", "failures", "arise", "when", "the", "world", "differs", "from", "the", "system", "'s", "expectations", ".", "For", "example", ",", "the", "system", "may", "be", "faced", "with", "an", "anomalous", "situation", "in", "which", "the", "explanation", "pattern", "that", "the", "system", "believes", "to", "be", "applicable", "turns", "out", "to", "be", "contradicted", "in", "the", "story", ".2", "When", "the", "system", "encounters", "an", "anomalous", "situation", ",", "it", "tries", "to", "retrieve", "and", "apply", "a", "known", "explanation", "to", "the", "anomalous", "concept", ".", "The", "process", "of", "explanation", "generates", "questions", ",", "or", "knowledge", "goals", ",", "representing", "what", "the", "system", "needs", "to", "know", "in", "order", "to", "be", "able", "to", "explain", "similar", "situations", "in", "the", "future", ",", "thus", "avoiding", "repeated", "similar", "failures", "-LRB-", "Ram", ",", "2", "If", "the", "system", "predicts", "a", "performance", "failure", "in", "a", "situation", "which", "turns", "out", "to", "be", "successful", ",", "we", "still", "say", "that", "the", "system", "has", "encountered", "a", "-LRB-", "prediction", "-RRB-", "failure", ".", "221", "1990a", ",", "1991", "-RRB-", ".", "Explanation", "patterns", "-LRB-", "XPs", "-RRB-", "are", "similar", "to", "justification", "trees", ",", "linking", "antecedent", "conditions", "to", "their", "consequences", ".", "The", "XP", "is", "essentially", "a", "directed", ",", "acyclic", "graph", "of", "concepts", ",", "connected", "with", "RESULTS", ",", "ENABLES", "and", "INITIATES", "links", ".", "A", "RESULTS", "link", "connects", "a", "process", "with", "a", "state", ",", "while", "an", "ENABLES", "link", "connects", "a", "precondition", "state", "to", "a", "process", ".", "An", "INITIATES", "link", "connects", "two", "states", ".", "The", "set", "of", "sink", "nodes", "in", "the", "graph", "is", "called", "the", "PRE-XP-NODES", ".", "These", "nodes", "represent", "what", "must", "be", "present", "in", "the", "current", "situation", "for", "the", "XP", "to", "apply", ".", "One", "distinguished", "node", "in", "this", "set", "is", "called", "the", "EXPLAINS", "node", ".", "It", "is", "bound", "to", "the", "concept", "which", "is", "being", "explained", ".", "Source", "nodes", "are", "termed", "XP-ASSERTED", "-", "NODES", ".", "All", "other", "nodes", "are", "INTERNAL", "-", "XP-NODES", ".", "For", "an", "XP", "to", "apply", "to", "a", "given", "situation", ",", "all", "PRE-XP-NODES", "must", "be", "in", "the", "current", "set", "of", "beliefs", ".", "If", "they", "are", "not", ",", "then", "the", "explanation", "is", "not", "appropriate", "to", "the", "situation", ".", "If", "the", "structure", "is", "not", "rejected", ",", "then", "all", "XP-ASSERTED", "-", "NODES", "are", "checked", ".", "For", "each", "XP", "-", "ASSERTED", "node", "verified", ",", "all", "INTERNAL", "-", "NODES", "connected", "to", "it", "are", "verified", ".", "If", "all", "XP", "-", "ASSERTED-NODES", "can", "be", "verified", ",", "then", "the", "entire", "explanation", "is", "verified", ".", "Gaps", "in", "the", "explanation", "occur", "when", "one", "or", "more", "XP", "-", "ASSERTED-NODE", "remains", "unverified", ".", "Each", "gap", "results", "in", "a", "question", ",", "which", "provides", "the", "system", "with", "a", "focus", "for", "reasoning", "and", "learning", ",", "and", "limits", "the", "inferences", "pursued", "by", "the", "system", ".", "Thus", "a", "question", "or", "knowledge", "goal", "can", "be", "viewed", "as", "a", "goal", "to", "learn", ".", "The", "background", "knowledge", "used", "in", "the", "current", "implementation", "consists", "of", "a", "framebased", "conceptual", "hierarchy", ",", "a", "case", "library", "of", "past", "episodes", ",", "and", "an", "indexed", "collection", "of", "XPs", ".", "For", "the", "task", "of", "story", "understanding", ",", "MetaAQUA", "employs", "the", "algorithm", "outlined", "in", "figure", "1", ".", "First", ",", "the", "outer", "loop", "inputs", "a", "sentence", "representation", "and", "checks", "to", "see", "if", "the", "concept", "can", "answer", "a", "prior", "question", ".", "If", "it", "can", ",", "the", "reasoning", "associated", "with", "the", "question", "is", "resumed", ".", "Otherwise", ",", "the", "concept", "is", "passed", "on", "to", "the", "understanding", "algorithm", ".", "The", "understanding", "algorithm", "consists", "of", "four", "phases", ":", "Question", "identification", ",", "hypothesis", "generation", ",", "verification", ",", "and", "review/learning", ".", "Input", "Sentence", "Suspend", "Task", "More", "Input", "?", "Answers", "Previous", "Question", "?", "Pose", "Question", "Interesting", "?", "Can", "Generate", "Hypothesis", "?", "Skim", "Resume", "Previous", "Task", "Start", "N", "Y", "N", "N", "Y", "Y", "Generate", "Hypothesis", "Y", "Suspend", "Task", "Can", "Verify", "?", "N", "Verify", "Hypothesis", "Learn", "Is", "there", "an", "appropritate", "Meta-XP", "?", "Y", "Y", "N", "Halt", "N", "Figure", "1", ".", "Meta-AQUA", "control", "flow", "The", "first", "phase", "looks", "for", "questions", "associated", "with", "the", "concept", "by", "checking", "the", "concept", "for", "interesting", "characteristics", ".", "Meta-AQUA", "considers", "explanations", ",", "violent", "acts", ",", "and", "anomalies", "to", "be", "interesting", ".", "Explanations", "and", "violent", "acts", "are", "detected", "by", "the", "concept", "type", "of", "the", "input", ".", "Anomaly", "checking", "is", "performed", "by", "comparing", "the", "input", "to", "the", "conceptual", "222", "definitions", "found", "in", "the", "conceptual", "hierarchy", ".", "If", "a", "concept", "contradicts", "a", "constraint", ",", "then", "an", "anomaly", "exists3", "and", "a", "question", "is", "posed", ".", "Such", "questions", "will", "represent", "the", "knowledge", "goals", "of", "the", "program", ".", "If", "no", "anomaly", "is", "detected", ",", "then", "the", "concept", "is", "instantiated", "and", "control", "passes", "back", ".", "If", "a", "knowledge", "goal", "is", "posted", ",", "then", "the", "understander", "attempts", "to", "answer", "the", "question", "by", "generating", "a", "hypothesis", ".", "The", "basis", "of", "this", "decision", ",", "i.e.", ",", "what", "knowledge", "is", "relevant", "in", "making", "the", "determination", ",", "is", "then", "recorded", "in", "the", "Meta-XP", ".", "Strategies", "for", "hypothesis", "generation", "include", "application", "of", "known", "explanation", "patterns", "-LRB-", "``", "XP", "application", "''", "-RRB-", ",", "casebased", "reasoning", "-LRB-", "Hammond", ",", "1986", ";", "Kolodner", "&", "Simpson", ",", "1984", "-RRB-", ",", "and", "analogy", ".", "If", "none", "of", "these", "applies", ",", "then", "the", "process", "is", "suspended", "until", "a", "later", "opportunity", ".", "When", "a", "hypothesis", "is", "generated", "it", "is", "passed", "to", "the", "verification", "subsystem", ".", "Strategies", "for", "hypothesis", "verification", "include", "devising", "a", "test", "-LRB-", "currently", "not", "implemented", "-RRB-", ",", "comparison", "to", "known", "concepts", ",", "and", "suspension", "of", "the", "reasoning", "task", ".", "The", "system", "reviews", "the", "chain", "of", "reasoning", "after", "the", "verification", "phase", "is", "complete", ".", "The", "review", "process", "examines", "the", "general", "Meta-XP", "trace", "to", "see", "if", "there", "was", "a", "reasoning", "failure", ".", "If", "a", "failure", "occurred", ",", "then", "the", "review", "process", "searches", "for", "an", "introspective", "explanation", ".", "If", "a", "Meta-XP", "is", "retrieved", ",", "then", "it", "is", "applied", "to", "the", "error", ".", "Meta-AQUA", "then", "checks", "to", "see", "if", "all", "XP-ASSERTED-NODES", "are", "in", "the", "set", "of", "current", "beliefs", ".", "If", "so", ",", "the", "learning", "algorithm", "associated", "with", "the", "XP", "is", "executed", ".", "If", "there", "are", "XP-ASSERTED-NODES", "not", "in", "the", "set", "of", "current", "beliefs", ",", "then", "a", "question", "is", "posed", "on", "the", "Meta-XP", "itself", ".", "3See", "Leake", "-LRB-", "1989", "-RRB-", "and", "Ram", "-LRB-", "1989", "-RRB-", "for", "more", "sophisticated", "XP-based", "approaches", "to", "anomaly", "detection", ".", "Since", "learning", "is", "moderated", "by", "the", "XP", "application", "algorithm", ",", "it", "is", "necessary", "to", "represent", "the", "understanding", "process", "outlined", "above", "in", "a", "declarative", "manner", ".", "This", "allows", "matching", "and", "syntactic", "functions", "to", "be", "applied", "to", "the", "prior", "reasoning", ".", "Further", ",", "it", "allows", "the", "system", "to", "pose", "knowledge", "goals", "about", "aspects", "of", "the", "reasoning", "process", "itself", ".", "4", "A", "model", "of", "reasoning", "about", "knowledge", "goals", "The", "AQUA", "system", "embodies", "a", "theory", "of", "motivational", "explanation", "based", "on", "decision", "models", "-LRB-", "Ram", ",", "1990a", "-RRB-", "which", "model", "the", "decision", "process", "that", "an", "agent", "goes", "through", "in", "deciding", "whether", "to", "perform", "an", "action", ".", "For", "example", ",", "the", "religious", "fanatic", "explanation", "for", "suicide", "bombing", "is", "a", "decision", "model", "describing", "why", "a", "bomber", "should", "choose", "to", "perform", "a", "terrorist", "strike", "in", "which", "the", "bomber", "dies", ".", "AQUA", "'s", "model", "claims", "that", "an", "agent", "first", "considers", "its", "goals", ",", "goal", "priorities", ",", "and", "the", "expected", "outcome", "of", "performing", "the", "action", ".", "The", "agent", "then", "makes", "a", "decision", "whether", "or", "not", "to", "enter", "into", "such", "a", "role", ",", "and", "if", "so", ",", "performs", "the", "action", ".", "This", "paper", "extends", "the", "model", "to", "account", "for", "reasoning", "about", "knowledge", "goals", ".", "Reasoning", "about", "knowledge", "goals", "is", "performed", "in", "a", "similar", "manner", ".", "A", "set", "of", "states", ",", "priorities", ",", "and", "the", "expected", "strategy", "outcome", "prompt", "the", "reasoner", "to", "make", "a", "strategy", "decision", ".", "Based", "on", "its", "general", "knowledge", ",", "current", "representation", "of", "the", "story", ",", "and", "any", "inferences", "that", "can", "be", "drawn", "from", "this", "knowledge", ",", "the", "reasoner", "chooses", "a", "particular", "reasoning", "strategy", ".", "Once", "executed", ",", "a", "strategy", "may", "produce", "further", "questions", "and", "hypotheses", ".", "Each", "execution", "node", "explicitly", "represents", "its", "main", "result", "-LRB-", "structure", "returned", "by", "the", "function", "-RRB-", "and", "its", "side-effect", ".", "These", "decide-compute", "combinations", "are", "chained", "into", "threads", "of", "reasoning", "such", "that", "223", "each", "one", "initiates", "the", "goal", "which", "drives", "the", "next", ".", "Though", "the", "chains", "can", "vary", "widely", ",", "in", "the", "task", "of", "question-driven", "story", "understanding", ",", "the", "chains", "take", "the", "form", "shown", "in", "figure", "2", ".", "Learn/Review", "G", "G", "G", "G", "Understanding", "Question", "Identification", "Generate", "Hypothesis", "-", "Case-Based", "Reasoning", "-", "Explanation", "-", "Analogy", "-", "Suspend", "Available", "Strategies", ":", "Available", "Strategies", ":", "-", "Question", "Posing", "-", "Skimming", "Alternative", "Strategies", ":", "Verify", "Hypothesis", "-", "Test", "Hypothesis", "-", "Compare", "To", "Input", "-", "Suspend", "Available", "Strategies", ":", "Dependent", "on", "Introspective", "Meta-XP", "Available", "Strategies", ":", "Figure", "2", ".", "Phases", "of", "understanding", "This", "reasoning", "process", "is", "recursive", "in", "nature", ".", "For", "example", ",", "if", "a", "hypothesis", "generates", "a", "new", "question", ",", "then", "the", "reasoner", "will", "spawn", "a", "recursive", "regeneration", "of", "the", "sequence", ".", "When", "insufficient", "knowledge", "exists", "on", "which", "to", "base", "a", "decision", ",", "a", "useful", "strategy", "is", "to", "simply", "defer", "making", "the", "decision", ".", "The", "reasoning", "task", "is", "suspended", "and", "later", "continued", "if", "and", "when", "the", "requisite", "knowledge", "appears", ".", "This", "is", "a", "form", "of", "opportunistic", "reasoning", "-LRB-", "Birnbaum", "&", "Collins", ",", "1984", ";", "Hammond", ",", "1988", ";", "Hayes-Roth", "&", "Hayes-Roth", ",", "1979", ";", "Ram", ",", "1989", "-RRB-", ".", "A", "general", "Meta-XP", ",", "representing", "the", "trace", "of", "the", "reasoning", "process", ",", "is", "a", "chain", "of", "decidecompute-nodes", "-LRB-", "D-C-NODES", "-RRB-", ".", "These", "nodes", "record", "the", "processes", "that", "formulate", "the", "knowledge", "goals", "of", "a", "system", ",", "together", "with", "the", "results", "and", "reasons", "for", "performing", "such", "mental", "actions", ".", "As", "such", ",", "the", "trace", "of", "reasoning", "is", "similar", "to", "a", "derivational", "analogy", "trace", "as", "described", "by", "Carbonell", "-LRB-", "1986", "-RRB-", ".", "Such", "a", "MetaXP", "is", "a", "specific", "explanation", "of", "why", "a", "reasoner", "chooses", "a", "particular", "reasoning", "method", "and", "what", "results", "from", "the", "strategy", ".", "Like", "an", "XP", ",", "the", "Meta-XP", "can", "be", "a", "general", "structure", "applied", "to", "a", "wide", "range", "of", "contexts", ",", "or", "a", "specific", "instantiation", "which", "records", "a", "particular", "thought", "process", ".", "One", "distinguishing", "property", "of", "general", "MetaXPs", "is", "the", "notion", "that", "a", "decision", "at", "one", "stage", "is", "often", "based", "on", "features", "in", "previous", "stages", ".", "For", "example", ",", "the", "decision", "of", "how", "to", "verify", "a", "hypothesis", "may", "be", "based", "on", "knowledge", "used", "to", "initially", "construct", "the", "hypothesis", ".", "This", "property", "is", "particularly", "true", "of", "the", "learning", "stage", ",", "which", "by", "definition", "is", "based", "on", "prior", "processing", ".", "An", "understanding", "system", "may", "attempt", "to", "retrieve", "and", "apply", "a", "Meta-XP", ",", "much", "the", "way", "standard", "XPs", "are", "used", "in", "explanation", ".", "If", "the", "antecedent", "conditions", "of", "the", "Meta-XP", "exist", ",", "then", "the", "structure", "will", "point", "to", "an", "appropriate", "learning", "algorithm", "without", "having", "to", "analyze", "all", "current", "states", "in", "the", "story", "representation", ".", "This", "approach", "provides", "significant", "speedup", "learning", ",", "relying", "on", "past", "successes", "and", "failures", "instead", "of", "reasoning", "from", "first", "principles", ".", "For", "example", ",", "even", "though", "some", "subquestions", "on", "an", "erroneous", "hypothesis", "are", "verified", ",", "Meta-XPs", "will", "direct", "the", "search", "for", "the", "blame", "on", "the", "basis", "of", "the", "decision", "to", "use", "a", "given", "hypothesis", "generation", "strategy", ",", "not", "on", "224", "the", "basis", "of", "the", "verification", "strategy", ".", "5", "Representation", "of", "Introspective", "Meta-XPs", "A", "Meta-XP", "is", "similar", "to", "a", "standard", "XP", "in", "that", "it", "is", "an", "explanatory", "causal", "structure", ".", "The", "major", "difference", "between", "the", "two", "is", "that", "instead", "of", "presenting", "a", "causal", "justification", "for", "a", "physical", "relation", "-LRB-", "such", "as", "why", "people", "look", "like", "their", "ancestors", "-RRB-", "or", "a", "volitional", "role", "relation", "-LRB-", "such", "as", "why", "a", "person", "performs", "a", "given", "action", "-RRB-", ",", "a", "Meta-XP", "explains", "how", "and", "why", "an", "agent", "reasons", "in", "a", "particular", "manner", ".", "Thus", "the", "representation", "of", "a", "Meta-XP", "must", "be", "able", "to", "account", "for", "reasoning", "failures", "and", "successes", ".", "The", "three", "types", "of", "failures", "discussed", "in", "the", "introduction", "-LRB-", "novel", "situations", ",", "incorrect", "or", "incomplete", "world", "knowledge", ",", "and", "mis-indexed", "knowledge", "structures", "-RRB-", "can", "be", "accounted", "for", "with", "the", "complementary", "notions", "of", "expectation", "failure", "and", "retrieval", "failure", ".", "Though", "successful", "predictions", "produce", "no", "learning", "in", "Meta-AQUA", ",", "the", "mental", "event", "has", "a", "representation", ".", "To", "illustrate", "the", "representation", ",", "let", "node", "A", "be", "an", "actual", "occurrence", "of", "an", "event", "in", "the", "world", ",", "an", "explanation", ",", "or", "an", "arbitrary", "proposition", ".", "Let", "node", "E", "be", "the", "expected", "occurrence", ".", "Now", "if", "the", "two", "propositions", "are", "identical", "so", "that", "A", "=", "E", ",", "or", "A", "is", "a", "superset", "of", "E", ",", "then", "a", "successful", "prediction", "has", "occurred", ".", "If", "on", "the", "other", "hand", ",", "A", "is", "a", "subset", "of", "E", ",", "then", "there", "are", "more", "questions", "remaining", "on", "the", "predicted", "node", "E", ".", "If", "there", "are", "unanswered", "questions", ",", "then", "the", "system", "will", "wait", "for", "more", "information", "before", "it", "introspects", ".", "Such", "cases", "are", "not", "represented", "in", "our", "current", "implementation", ",", "though", "there", "are", "cases", "in", "which", "one", "would", "want", "to", "reason", "about", "partial", "computations", ".", "Failures", "occur", "when", "A", "?", "E", ".", "This", "state", "exists", "when", "either", "A", "and", "E", "are", "disjoint", "or", "there", "are", "conflicting", "assertions", "within", "the", "two", "nodes", ".", "For", "example", ",", "A", "and", "E", "may", "be", "persons", ",", "but", "E", "contains", "a", "slot", "specifying", "gender", "=", "male", ",", "whereas", "A", "contains", "the", "slot", "gender", "=", "female", ".", "A", "E", "Successful", "Prediction", "=", "Actual", "Outcome", "Expected", "Outcome", "Mentally", "Initiates", "Mentally", "Results", "Mentally", "Results", "New", "Input", "Reasoning", "Chain", "domain", "domain", "co-domain", "co-domain", "domain", "co-domain", "Figure", "3", ".", "Successful", "prediction", "The", "representation", "of", "a", "successful", "prediction", "is", "shown", "in", "figure", "34", ".", "The", "EXPLAINS", "node", "of", "the", "XP", "is", "the", "node", "marked", "``", "Successful", "Prediction", "''", ".", "It", "is", "mentally-initiated", "by", "the", "equals", "relation", "between", "A", "and", "E", ".", "The", "node", "A", "results", "from", "either", "a", "mental", "calculation", "or", "an", "input", "concept", ".", "The", "expected", "node", "E", "mentallyresults", "from", "some", "reasoning", "trace", ".", "Expectation", "failures", "occur", "when", "the", "reasoner", "predicts", "one", "event", "or", "feature", ",", "but", "another", "occurs", "instead", ".", "The", "structure", "representing", "such", "a", "failure", "is", "nearly", "identical", "to", "the", "representation", "for", "successful", "prediction", ",", "except", "that", "the", "outcome", "is", "initiated", "by", "a", "notequals", "relation", "instead", "of", "the", "equals", "relation", ".", "Figure", "4", "shows", "the", "representation", "of", "an", "expectation", "failure", ".", "4One", "should", "note", "that", "figures", "depict", "network", "representations", "of", "equivalent", "frame", "structures", "used", "in", "the", "implementations", ".", "Slot-filler", "and", "other", "relations", "are", "often", "represented", "explicitly", "as", "frame", "structures", ".", "Thus", "the", "ACTOR", "slot", "of", "event", "X", "with", "value", "Y", "is", "equivalent", "to", "the", "relation", "frame", "ACTOR", "having", "domain", "X", "and", "co-domain", "Y.", "225", "A", "E", "Expectation", "Failure", "?", "Actual", "Outcome", "Expected", "Outcome", "Mentally", "Initiates", "Mentally", "Results", "Mentally", "Results", "New", "Input", "Reasoning", "Chain", "domain", "domain", "co-domain", "co-domain", "domain", "co-domain", "Figure", "4", ".", "Expectation", "failure", "Retrieval", "failure", "has", "the", "same", "possibilities", ",", "although", "the", "difference", "here", "is", "that", "instead", "of", "an", "expectation", "-LRB-", "E", "-RRB-", "being", "present", ",", "it", "is", "instead", "absent", "due", "to", "the", "inability", "of", "the", "system", "to", "retrieve", "the", "knowledge", "structures", "that", "would", "predict", "E", "-LRB-", "see", "figure", "5", "-RRB-", ".", "To", "represent", "these", "conditions", "Meta-AQUA", "uses", "standard", "nonmonotonic", "logic", "values", "of", "in", "-LRB-", "in", "the", "current", "set", "of", "beliefs", "-RRB-", "and", "out", "-LRB-", "out", "of", "the", "current", "set", "of", "beliefs", "-RRB-", "-LRB-", "Doyle", ",", "1979", "-RRB-", ".", "Added", "to", "these", "are", "the", "values", "hypothesized-in", "-LRB-", "weakly", "assumed", "in", "-RRB-", ",", "hypothesized-out", "-LRB-", "weakly", "assumed", "out", "-RRB-", ",", "and", "hypothesized", "-LRB-", "unknown", "-RRB-", "-LRB-", "Ram", ",", "1989", "-RRB-", ".", "Thus", "absolute", "retrieval", "failure", "is", "represented", "by", "A", "-LSB-", "truth", "=", "in", "-RSB-", "=", "E", "-LSB-", "truth", "=", "out", "-RSB-", ".", "Cuts", "across", "links", "in", "the", "figure", "signify", "causal", "relations", "for", "which", "the", "truth", "slot", "of", "the", "frame", "is", "out", ".", "A", "novel", "situation", "is", "structurally", "like", "a", "retrieval", "failure", ",", "except", "the", "node", "M", "has", "a", "truth", "value", "of", "out", ".", "That", "is", ",", "there", "is", "no", "item", "in", "memory", "that", "can", "be", "retrieved", "and", "reasoned", "with", "to", "produce", "the", "expectation", "of", "a", "concept", "like", "A.", "Using", "this", "notation", ",", "the", "system", "can", "represent", "five", "possible", "combinations", ".", "They", "are", ":", "novel", "situation", ",", "novel", "situation", "with", "expectation", "failure", ",", "retrieval", "failure", ",", "and", "expectation", "failure", "combined", "with", "retrieval", "failure", ".", "A", "E", "Retrieval", "Failure", "=", "Actual", "Outcome", "Expected", "Outcome", "Mentally", "Initiates", "Mentally", "Results", "Mentally", "Results", "New", "Input", "Reasoning", "Chain", "domain", "domain", "co-domain", "co-domain", "domain", "co-domain", "truth", "=", "out", "M", "Mentally", "Initiates", "truth", "=", "out", "truth", "=", "out", "truth", "=", "out", "Figure", "5", ".", "Retrieval", "failure", "Table", "1", "summarizes", "the", "possibilities", "along", "with", "the", "associated", "learning", "to", "be", "applied", ".", "Note", "that", "the", "node", "A", "is", "assumed", "in", "for", "all", "entries", ".", "In", "addition", ",", "for", "the", "two", "combination", "Meta-XPs", "in", "the", "table", ",", "E", "?", "represents", "the", "concept", "that", "should", "have", "been", "predicted", ",", "but", "was", "not", ".", "M", "?", "is", "the", "memory", "item", "that", "should", "have", "triggered", "its", "retrieval", ",", "but", "did", "not", ".", "6", "Associating", "Learning", "Strategies", "with", "Introspective", "Meta-XPs", "Novel", "situations", "occur", "when", "A", "?", "E", "and", "the", "E", "node", "'s", "truth", "slot", "is", "either", "hypothesizedin", "or", "out", ".", "In", "the", "case", "of", "E", "being", "hypothesized-in", ",", "there", "is", "an", "accompanying", "expectation", "failure", ".", "When", "a", "novel", "situation", "is", "identified", ",", "Meta-AQUA", "performs", "EBG", "on", "the", "node", "A", "so", "that", "the", "frame", "can", "be", "applied", "to", "a", "wider", "set", "of", "future", "events", ".", "The", "Meta-XP", "for", "novel", "situations", "also", "directs", "an", "indexing", "algorithm", "to", "the", "same", "node", "so", "that", "it", "will", "be", "retrieved", "in", "similar", "situations", ".", "226", "Table", "1", ".", "Truth", "values", "on", "Meta-XP", "nodes", "There", "are", "two", "instances", "of", "XP-MisIndexed-Structure", ".", "One", "is", "the", "case", "in", "which", "the", "EXPLAINS", "node", "is", "an", "expectation", "failure", ".", "In", "the", "other", "instance", ",", "the", "EXPLAINS", "node", "is", "a", "retrieval", "failure", ".", "In", "the", "former", ",", "the", "Meta-XP", "directs", "a", "specialization", "algorithm", "to", "assure", "that", "the", "retrieval", "will", "not", "recur", "given", "similar", "situations", ".", "The", "latter", "case", "has", "an", "XP", "-", "ASSERTED-NODE", "pointing", "to", "a", "node", "in", "memory", "-LRB-", "M", "-RRB-", "that", "must", "be", "in", ".", "If", "this", "can", "be", "verified", ",", "then", "the", "Meta-XP", "directs", "an", "indexing", "algorithm", "to", "examine", "the", "indices", "of", "M", ",", "looking", "for", "an", "index", "compatible", "with", "the", "index", "calculated", "for", "A", ".", "If", "found", ",", "this", "index", "is", "generalized", "so", "that", "the", "current", "cues", "provided", "by", "the", "context", "of", "A", "will", "retrieve", "E", ".", "If", "no", "such", "index", "is", "found", "then", "a", "new", "index", "is", "computed", ".", "If", "M", "can", "not", "be", "found", ",", "then", "a", "reasoning", "question", "is", "raised", "concerning", "the", "possibility", "that", "M", "exists", ".", "The", "question", "is", "represented", "as", "a", "knowledge", "goal", "and", "indexed", "by", "the", "context", "of", "A", ",", "and", "the", "process", "is", "suspended", ".", "For", "the", "failure", "type", "XP-IncorrectWorld-Model", ",", "only", "one", "instance", "is", "currently", "represented", "-LRB-", "see", "figure", "6", "-RRB-", ".", "The", "instance", "of", "this", "type", "of", "failure", "is", "an", "inconsistency", "with", "a", "known", "fact", "and", "a", "constraint", "on", "the", "isa-hierarchy", ".", "This", "constraint", "is", "one", "that", "previously", "caused", "an", "anomaly", "during", "the", "question", "identification", "phase", "of", "reasoning", ".", "When", "the", "program", "invokes", "the", "Meta-XP", ",", "it", "will", "check", "if", "the", "two", "assertions", "are", "siblings", "in", "the", "hierarchy", ".", "If", "this", "is", "true", ",", "then", "the", "program", "will", "generalize", "the", "constraint", "to", "its", "parent", "on", "the", "basis", "of", "induction", ".", "The", "constraint", "is", "then", "marked", "as", "being", "hypothesized-in", ".", "The", "reasoning", "chain", "which", "led", "to", "this", "hypothesis", "is", "then", "indexed", "off", "the", "hypothesis", "so", "that", "it", "can", "be", "retrieved", "when", "the", "constraint", "is", "used", "in", "future", "stories", ".", "If", "the", "anomalous", "assertion", "is", "re-encountered", "in", "another", "situation", ",", "then", "the", "hypothesis", "is", "verified", ".", "E", "E", "?", "M", "M", "?", "RC", "SP", "EF", "RF", "Learning", "Successful", "Prediction", "in", "?", "in", "?", "in", "in", "out", "out", "No", "Learning", ".", "Novel", "EBG", "on", "A.", "Situation", "out", "?", "out", "?", "out", "out", "out", "in", "Index", "A", "by", "context", ".", "Retrieval", "Failure", "out", "?", "in", "?", "out", "out", "out", "in", "Generalize", "index", "on", "M.", "Novel", "Sit", ".", "+", "hypo", "EBG", "on", "A.", "Expectation", "-", "in", "out", "in", "out", "out", "out", "in", "in", "Index", "A", "by", "context", ".", "Failure", "Specialize", "index", "on", "M.", "Expectation", "hypo", "Specialize", "index", "on", "M.", "Failure", "+", "-", "in", "out", "in", "in", "in", "out", "in", "in", "Generalize", "index", "on", "M", "?", ".", "Retrieval", "Failure", "Key", ":", "?", "=", "do", "n't", "care", ";", "hypo-in", "=", "hypothesized-in", ";", "RC", "=", "Reasoning", "Chain", ";", "SP", "=", "Successful", "Prediction", ";", "EF", "=", "Expectation", "Failure", ";", "RF", "=", "Retrieval", "Failure", ".", "227", "A", "failure", "may", "also", "be", "due", "to", "the", "inferences", "used", "to", "base", "a", "decision", "in", "the", "hypothesis", "generation", "phase", ".", "The", "error", "is", "found", "by", "searching", "all", "hypothesis", "generation", "D-C", "-", "NODES", "on", "the", "path", "from", "the", "EXPLAINS", "node", "of", "A", "to", "E", "performing", "elaborative", "question", "asking", "-LRB-", "Ram", ",", "1990b", "-RRB-", ".", "This", "case", "has", "not", "yet", "been", "represented", "declaratively", ".", "MetaAQUA", "reasons", "about", "it", "using", "a", "general", "search", "heuristic", "for", "blame", "assignment", ".", "?", "A", "Falsifies", "domain", "co-domain", "Constraint", "isa", "isa", "Parent", "Figure", "6", ".", "XP-Incorrect-World-Model", "Figure", "7", "shows", "the", "composite", "Meta-XP", "which", "is", "used", "to", "direct", "learning", "in", "the", "example", "from", "section", "2", ".", "The", "XP", "combines", "an", "XP-NovelSituation", ",", "an", "XP-Mis-IndexedStructure", ",", "and", "an", "XP-IncorrectWorld-Model", ".", "A", ",", "the", "actual", "outcome", ",", "is", "bound", "to", "the", "explanation", "from", "S4", ",", "whereas", "E", ",", "the", "expected", "outcome", ",", "is", "bound", "to", "the", "explanation", "that", "dogs", "bark", "at", "objects", "which", "threaten", "them", ".", "C", "is", "bound", "to", "the", "constraint", "that", "dogs", "bark", "at", "animate", "objects", ".", "The", "concept", "in", "memory", ",", "M", ",", "is", "bound", "with", "the", "index", "used", "to", "retrieve", "E", ".", "A", "E", "Expectation", "Failure", "?", "Actual", "Outcome", "Expected", "Outcome", "Mentally", "Initiates", "Mentally", "Results", "Mentally", "Results", "New", "Input", "domain", "domain", "co-domain", "co-domain", "domain", "co-domain", "Actual", "Outcome", "Expected", "Outcome", "domain", "domain", "=", "co-domain", "Mentally", "Initiates", "domain", "E", "?", "co-domain", "Retrieval", "Failure", "Hypothesis", "Generation", "Question", "Identification", "Question", "Mentally", "Results", "Mentally", "Enables", "Explains", "domain", "co-domain", "Decision", "Basis", "domain", "domain", "Decision", "Basis", "C", "co-domain", "Falsifies", "domain", "co-domain", "truth", "=", "out", "truth", "=", "hypothesized-in", "co-domain", "M", "co-domain", "Figure", "7", ".", "XP-Novel-Situation-Alternative-Refuted", "7", "Discussion", "and", "Future", "Research", "Although", "the", "implementation", "presented", "here", "is", "preliminary", ",", "we", "have", "demonstrated", "that", "use", "of", "introspection", "by", "applying", "Meta-XPs", "to", "declarative", "representations", "of", "the", "reasoning", "process", "can", "aid", "a", "reasoner", "'s", "ability", "to", "perform", "blame", "assignment", ",", "and", "direct", "the", "learning", "algorithms", "which", "allow", "a", "reasoner", "to", "recover", "from", "failures", "and", "to", "learn", "not", "to", "repeat", "the", "failure", ".", "The", "use", "of", "Meta-XP", "structures", "aids", "in", "the", "blame", "assignment", "problem", ",", "since", "all", "points", "in", "the", "reasoning", "chain", "do", "not", "have", "to", "be", "inspected", ".", "This", "helps", "in", "controlling", "the", "search", "process", ".", "Because", "answers", "may", "not", "be", "available", "at", "the", "time", "questions", "are", "posed", ",", "an", "opportunistic", "approach", "allows", "the", "system", "to", "improve", "its", "knowledge", "incrementally", "and", "to", "228", "answer", "its", "questions", "at", "the", "time", "the", "information", "it", "needs", "becomes", "available", ".", "The", "representation", "also", "allows", "the", "system", "to", "pose", "questions", "about", "its", "own", "reasoning", ".", "The", "use", "of", "Meta-XPs", "in", "reasoning", "about", "knowledge", "goals", "during", "story", "understanding", "provides", "a", "number", "of", "benefits", ".", "Because", "general", "Meta-XPs", "make", "the", "trace", "of", "reasoning", "explicit", ",", "an", "intelligent", "system", "can", "directly", "inspect", "the", "reasons", "supporting", "specific", "conclusions", ".", "This", "avoids", "hiding", "knowledge", "used", "by", "the", "system", "in", "procedural", "code", ".", "Instead", "there", "exists", "an", "explicit", "declarative", "expression", "of", "the", "reasons", "a", "given", "piece", "of", "code", "is", "executed", ".", "With", "these", "reasons", "enumerated", ",", "a", "system", "can", "explain", "how", "it", "reached", "a", "given", "failure", "and", "can", "retrieve", "an", "introspective", "explanation", "of", "such", ".", "One", "of", "the", "greatest", "benefits", "of", "using", "introspective", "Meta-XPs", "is", "their", "ability", "to", "apply", "learning", "tasks", "that", "are", "appropriate", "to", "a", "given", "situation", "without", "having", "to", "blindly", "search", "all", "possible", "learning", "choices", ".", "Many", "current", "multi-strategy", "systems", "-LRB-", "e.g.", ",", "Genest", "et", "al.", ",", "1990", ";", "Tecuci", "&", "Michalski", ",", "1991", "-RRB-", "apply", "learning", "algorithms", "in", "a", "predefined", "order", ".", "If", "the", "first", "fails", ",", "then", "the", "next", "strategy", "is", "tried", ".", "Much", "effort", "may", "be", "wasted", "in", "worst-case", "scenarios", ".", "Much", "work", "remains", "to", "be", "done", "with", "the", "failure", "type", "of", "Incorrect-World-Model", ",", "including", "the", "formulation", "of", "a", "representation", "for", "deciding", "when", "to", "use", "the", "heuristic", "search", "briefly", "mentioned", "in", "the", "paper", ".", "Other", "strategies", "remain", "to", "be", "created", ".", "The", "task", "of", "knowing", "when", "an", "assertion", "is", "incorrect", ",", "not", "just", "incomplete", ",", "is", "a", "difficult", "but", "interesting", "research", "problem", ".", "Another", "effort", "under", "way", "is", "to", "represent", "failures", "in", "choosing", "the", "correct", "reasoning", "strategy", "to", "use", "in", "understanding", ".", "We", "propose", "to", "extend", "Meta-AQUA", "to", "learn", "control", "information", "by", "representing", "Meta-XPs", "that", "point", "to", "potential", "problems", "with", "the", "reasoning", "choices", "made", "in", "each", "phase", ".", "The", "failure", "type", "Incorrect", "Reasoning", "Choice", "occurs", "when", "the", "reasoner", "has", "an", "appropriate", "knowledge", "structure", "to", "reason", "with", "and", "index", "to", "the", "structure", "in", "memory", ",", "but", "incorrectly", "chooses", "the", "wrong", "knowledge", "because", "the", "reasoning", "method", "it", "decided", "to", "use", "turned", "out", "to", "be", "inappropriate", "or", "inapplicable", ".", "An", "analysis", "of", "the", "choice", "of", "reasoning", "methods", "will", "result", "in", "learning", "control", "strategies", "designed", "to", "modify", "the", "heuristics", "used", "in", "this", "choice", ".", "Most", "systems", "assume", "noise-free", "input", ".", "Those", "that", "deal", "with", "noise", "seldom", "analyze", "the", "source", "or", "causes", "of", "the", "noise", ".", "A", "robust", "story", "understander", "should", "be", "able", "to", "reason", "about", "the", "validity", "of", "input", "concepts", ",", "including", "the", "possibility", "of", "intentional", "deception", "by", "characters", "in", "a", "story", ".", "Thus", "an", "interesting", "extension", "of", "this", "research", "currently", "being", "pursued", "is", "combining", "story", "understanding", "with", "problem", "solving", "in", "the", "domain", "of", "detective", "investigations", ".", "Declarative", "process", "representations", "similar", "to", "that", "of", "story", "understanding", "are", "being", "developed", ".", "Parallel", "to", "story", "understanding", "sequences", "of", ":", "identify", "question", "fi", "generate", "hypothesis", "fi", "verify", "fi", "learn/review", ",", "problem-solving", "sequences", "would", "be", "represented", "as", ":", "identify", "problem", "fi", "generate", "solution", "fi", "test", "fi", "learn/review", ".", "Meta-XPs", "would", "then", "be", "used", "to", "reason", "about", "and", "improve", "the", "problem-solving", "process", "of", "the", "reasoner", ".", "Acknowledgements", "This", "research", "was", "supported", "by", "the", "National", "Science", "Foundation", "under", "grant", "IRI-9009710", ".", "The", "authors", "thank", "Joel", "Martin", "for", "insightful", "comments", "and", "criticism", ",", "and", "Sue", "Farrell", "for", "proofing", "an", "earlier", "draft", "of", "the", "paper", ".", "229", "References", "Alterman", ",", "R", ".", "A", "Dictionary", "Based", "on", "Concept", "Coherence", ",", "Artificial", "Intelligence", ",", "Vol", ".", "25", ",", "pp.", "153-186", ",", "1985", ".", "?", "Birnbaum", ",", "L.", ",", "and", "Collins", ",", "G.", "Opportunistic", "Planning", "and", "Freudian", "Slips", ",", "Proceedings", "of", "the", "Sixth", "Annual", "Conference", "of", "the", "Cognitive", "Science", "Society", ",", "Boulder", ",", "CO", ",", "1984", ".", "Carbonell", ",", "J.G.", "Derivational", "Analogy", ":", "A", "theory", "of", "reconstructive", "problem", "solving", "and", "expertise", "acquisition", ",", "in", "Machine", "Learning", ":", "An", "Artificial", "Intelligence", "Approach", ",", "R.", "Michalski", ",", "J.", "Carbonell", ",", "and", "T.", "Mitchell", "-LRB-", "Eds", ".", "-RRB-", ",", "Morgan", "Kaufmann", "Publishers", ",", "San", "Mateo", ",", "CA.", ",", "1986", ".", "DeJong", ",", "G.", ",", "and", "Mooney", ",", "R.", "ExplanationBased", "Learning", ":", "An", "alternative", "view", ",", "Machine", "Learning", ",", "Vol", ".", "1", ",", "No.", "2", ",", "pp.", "145", "-", "176", ",", "1986", ".", "Doyle", ",", "J", ".", "A", "Truth", "Maintenance", "System", ",", "Artificial", "Intelligence", ",", "Vol", ".", "12", ",", "pp.", "231-272", ".", "1979", ".", "Genest", ",", "J.", ",", "Matwin", ",", "S.", ",", "and", "Plante", ",", "B.", "Explanation-Based", "Learning", "with", "Incomplete", "Theories", ":", "A", "three-step", "approach", ",", "in", "Proceedings", "of", "Seventh", "International", "Conference", "on", "Machine", "Learning", ",", "Austin", ",", "TX", ",", "-LRB-", "June", "-RRB-", ",", "pp", ".", "286-294", ",", "1990", ".", "Hammond", ",", "K.J.", "``", "Case-Based", "Planning", ":", "An", "integrated", "theory", "of", "planning", ",", "learning", "and", "Memory", ".", "''", "Ph.D.", "thesis", ",", "Research", "Report", "488", ",", "Yale", "University", ",", "New", "Haven", ",", "CT", ",", "-LRB-", "October", "-RRB-", ",", "1986", ".", "Hammond", ",", "K.J.", "Opportunistic", "Memory", ":", "Storing", "and", "recalling", "suspended", "goals", ",", "in", "Proceedings", "of", "a", "Workshop", "on", "Case-Based", "Reasoning", ",", "Clearwater", "Beach", ",", "FL", ",", "-LRB-", "May", "-RRB-", ",", "pp.", "154-168", ",", "1988", ".", "Hayes-Roth", ",", "B.", ",", "and", "Hayes-Roth", "F.", "A.", "Cognitive", "Model", "of", "Planning", ",", "Cognitive", "Science", ",", "Vol", ".", "2", ",", "pp.", "275-310", ",", "1979", ".", "Kass", ",", "A.", ",", "Leake", ",", "D.", ",", "and", "Owens", ",", "C.", "``", "SWALE", ":", "A", "program", "that", "explains", ",", "''", "in", "Schank", ",", "1986", ".", "Kolodner", ",", "J.L.", ",", "and", "Simpson", ",", "R.L.", ".", "A", "Case", "for", "Case-Based", "Reasoning", ",", "in", "Proceedings", "of", "the", "Sixth", "Annual", "Conference", "of", "the", "Cognitive", "Science", "Society", ",", "Boulder", ",", "CO", ",", "1984", ".", "Leake", ",", "D.", "Anomaly", "Detection", "Strategies", "for", "Schema-Based", "Story", "Understanding", ",", "in", "Proceedings", "of", "the", "Eleventh", "Annual", "Conference", "of", "the", "Cognitive", "Science", "Society", ",", "Hillsdale", ",", "NJ", ":", "Lawrence", "Erlbaum", "Associates", ",", "pp.", "490-497", ",", "1989", ".", "Mitchell", ",", "T.", ",", "Keller", ",", "R.", ",", "and", "Kedar-Cabelli", ",", "S.", "Explanation-Based", "Generalization", ":", "A", "unifying", "view", ",", "Machine", "Learning", ",", "Vol", ".", "1", ",", "No.", "1", ",", "1986", ".", "Ng", ",", "H.", ",", "and", "Mooney", ",", "R.", "On", "the", "Role", "of", "Coherence", "in", "Abductive", "Explanation", ".", "in", "Proceedings", "of", "the", "8th", "National", "Conference", "on", "Artificial", "Intelligence", ",", "pp.", "337", "--", "342", ",", "Boston", ",", "MA", ".", "1990", ".", "Ram", ",", "A.", "``", "Question-driven", "Understanding", ":", "An", "integrated", "theory", "of", "story", "understanding", ",", "memory", "and", "learning", ",", "''", "PhD", ".", "Thesis", ",", "Research", "Report", "710", ",", "Yale", "University", ",", "New", "Haven", ",", "CT", "-LRB-", "May", "-RRB-", ",", "1989", ".", "Ram", ",", "A.", "Decision", "Models", ":", "A", "theory", "of", "volitional", "explanation", ",", "in", "Proceedings", "of", "Twelfth", "Annual", "Conference", "of", "the", "Cognitive", "Science", "Society", ",", "Cambridge", ",", "MA", ",", "-LRB-", "July", "-RRB-", ",", "pp.", "198-205", ",", "1990a", ".", "Ram", ",", "A.", "Incremental", "Learning", "of", "Explanation", "Patterns", "and", "Their", "Indices", ",", "in", "Proceedings", "of", "Seventh", "International", "Conference", "on", "Machine", "Learning", ",", "Austin", ",", "TX", ",", "-LRB-", "June", "-RRB-", ",", "pp.", "313-320", ",", "1990b", ".", "230", "Ram", ",", "A", ".", "A", "Theory", "of", "Questions", "and", "Question", "Asking", ",", "The", "Journal", "of", "the", "Learning", "Sciences", ",", "Vol", ".", "1", ",", "No.", "3", "&", "4", ",", "in", "press.", ",1991", ".", "Schank", ",", "R.", "C.", "Dynamic", "Memory", ":", "A", "theory", "of", "reminding", "and", "learning", "in", "computers", "and", "people", ",", "Cambridge", "University", "Press", ",", "Cambridge", ",", "MA", ",", "1982", ".", "Schank", ",", "R.", "C.", "Explanation", "Patterns", ":", "Understanding", "mechanically", "and", "creatively", ",", "Lawrence", "Erlbaum", "Associates", ",", "Hillsdale", ",", "NJ", ",", "1986", ".", "Tecuci", ",", "G.", ",", "and", "Michalski", ",", "R", ".", "A", "Method", "for", "Multistrategy", "Task-Adaptive", "Learning", "Based", "on", "Plausible", "Justifications", ",", "in", "Proceedings", "of", "the", "the", "Eighth", "International", "Conference", "on", "Machine", "Learning", ",", "Chicago", ",", "IL", ",", "July", ",", "1991", ".", "Thagard", ",", "P.", "Explanatory", "Coherence", ".", "Behavioral", "and", "Brain", "Sciences", ",", "Vol", ".", "12", ",", "No", "3", ",", "pp.", "435", "--", "502", ",", "1989", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Specifying", "and", "Adapting", "Object", "Behavior", "during", "System", "Evolution", "Linda", "Keszenheimer", "Northeastern", "University", ",", "College", "of", "Computer", "Science", "Cullinane", "Hall", ",", "360", "Huntington", "Avenue", ",", "Boston", "MA", "02115", "seiter@ccs.neu.edu", "Abstract", "Object-Oriented", "software", "engineering", "must", "address", "new", "issues", "during", "system", "evolution", ",", "namely", "the", "effects", "of", "class", "evolution", "on", "existing", "class", "methods", ".", "A", "Class", "Dictionary", "Graph", "describes", "the", "class", "structure", "and", "relationships", "of", "a", "given", "domain", ".", "A", "Propagation", "Pattern", "defines", "object", "behavior", "by", "describing", "responsibilities", "among", "a", "group", "of", "collaborating", "classes", ".", "The", "behavior", "described", "in", "a", "Propagation", "Pattern", "is", "mapped", "onto", "the", "class", "structure", "defined", "in", "a", "Class", "Dictionary", "Graph", ",", "and", "the", "appropriate", "C++", "code", "is", "generated", ".", "Class", "structures", "evolve", "in", "many", "ways", ".", "This", "paper", "details", "the", "effects", "of", "class", "evolution", "on", "the", "object", "behavior", "defined", "in", "existing", "Propagation", "Patterns", ",", "and", "describes", "the", "requirements", "for", "adapting", "Propagation", "Patterns", "during", "class", "evolution", ",", "as", "compared", "to", "the", "efforts", "of", "maintaining", "C++", "code", ".", "1", "Introduction", "Evolution", "of", "business", "processes", "and", "organization", "is", "a", "major", "force", "to", "contend", "with", "during", "the", "software", "life-cycle", ".", "Object-oriented", "software", "development", "addresses", "the", "demand", "for", "continual", "change", ".", "By", "modeling", "the", "structure", "and", "behavior", "of", "objects", "found", "in", "the", "enterprise", ",", "and", "incorporating", "the", "object", "model", "into", "class", "structures", ",", "systems", "developed", "using", "object-oriented", "methods", "are", "more", "flexibly", "implemented", "and", "thus", "better", "support", "change", ".", "While", "the", "use", "of", "object-oriented", "programming", "languages", "may", "help", "build", "better", "structured", "systems", ",", "evolving", "these", "systems", "continues", "to", "be", "a", "challenge", ".", "The", "effects", "of", "schema", "evolution", "on", "existing", "classes", "and", "objects", "have", "been", "well", "studied", "and", "described", ",", "-LRB-", "-LSB-", "1", "-RSB-", ",", "-LSB-", "13", "-RSB-", ",", "-LSB-", "14", "-RSB-", ",", "-LSB-", "9", "-RSB-", "-RRB-", "while", "the", "issues", "relevant", "to", "maintaining", "object", "behavior", "have", "only", "begun", "to", "be", "addressed", ".", "-LRB-", "-LSB-", "5", "-RSB-", ",", "-LSB-", "2", "-RSB-", ",", "-LSB-", "6", "-RSB-", "-RRB-", ".", "Utilizing", "a", "high-level", "descriptive", "language", "to", "define", "class", "structure", "and", "behavior", "enables", "development", "of", "systems", "which", "can", "support", "evolution", ",", "as", "well", "as", "maintain", "consistency", "between", "documentation", "and", "code", ".", "Use", "of", "a", "CASE", "tool", "to", "define", "the", "system", "and", "generate", "the", "corresponding", "code", "should", "minimize", "the", "amount", "of", "effort", "required", "to", "support", "change", ".", "This", "paper", "describes", "some", "of", "the", "approaches", "utilized", "in", "the", "Demeter", "Method", ",", "-LSB-", "7", "-RSB-", "and", "demonstrates", "its", "ability", "to", "support", "evolution", "during", "the", "software", "life-cycle", ".", "Demeter", "is", "an", "adaptive", "software", "development", "method", "which", "encompasses", "both", "an", "object-oriented", "software", "engineering", "model", "as", "well", "as", "a", "CASE", "toolset", "to", "support", "the", "model", ".", "A", "Class", "Dictionary", "Graph", "is", "created", "to", "describe", "class", "structure", ".", "A", "Propagation", "Pattern", "-LSB-", "10", "-RSB-", "is", "developed", "to", "describe", "the", "collaboration", "within", "and", "between", "classes", "to", "accomplish", "a", "task", ".", "System", "evolution", "is", "supported", "through", "the", "use", "of", "class", "dictionary", "graphs", "and", "propagation", "patterns", ",", "which", "are", "high-level", "specifications", "of", "classes", "and", "behavior", ",", "from", "which", "code", "can", "be", "generated", ".", "The", "ideas", "presented", "in", "this", "paper", "on", "adapting", "propagation", "patterns", "during", "class", "evolution", "are", "based", "upon", "experiences", "gained", "while", "working", "for", "CitiCorp", "with", "the", "Global", "Finance", "Application", "Architecture", "Team", "-LRB-", "GFAAT", "-RRB-", ",", "within", "the", "Technology", "Planning", "Division", ".", "The", "goal", "of", "the", "team", "is", "to", "provide", "an", "architecture", "for", "future", "system", "development", ",", "taking", "advantage", "of", "object-oriented", "technology", "in", "redefining", "their", "corporate", "business", "model", ".", "This", "paper", "discusses", "the", "evolution", "experiences", "obtained", "while", "building", "a", "tool", "to", "simulate", "the", "GFAAT", "business", "model", ".", "Class", "dictionary", "graphs", "and", "propagation", "patterns", "were", "developed", "and", "continuously", "evolved", "during", "the", "production", "of", "the", "simulation", "tool", ".", "The", "requirements", "for", "maintaining", "propagation", "patterns", "during", "system", "evolution", "are", "detailed", ".", "1.1", "Class", "notation", "and", "class", "dictionary", "graphs", "There", "exist", "many", "object-oriented", "data", "modeling", "notations", ".", "-LRB-", "-LSB-", "3", "-RSB-", ",", "-LSB-", "4", "-RSB-", ",", "-LSB-", "8", "-RSB-", "-RRB-", ".", "This", "paper", "uses", "the", "Deme", "-", "ter", "class", "model", "and", "notation", "-LSB-", "10", "-RSB-", "which", "defines", "several", "kinds", "of", "classes", ":", "ffl", "Construction", "class", "A", "construction", "class", "denotes", "a", "concrete", "definition", "of", "some", "entity", ",", "such", "as", "a", "car", ",", "person", "or", "chair", ".", "A", "construction", "class", "consists", "of", "zero", "or", "more", "component", "classes", ",", "or", "parts", ".", "Construction", "classes", "can", "be", "instantiated", ",", "but", "can", "not", "be", "used", "for", "inheritance", ".", "ffl", "Alternation", "class", "An", "alternation", "class", "is", "a", "superclass", "of", "other", "classes", ".", "It", "is", "an", "abstraction", "of", "the", "common", "attributes", "and", "behavior", "found", "among", "a", "group", "of", "classes", ".", "An", "example", "would", "be", "an", "automobile", ",", "which", "could", "either", "be", "a", "car", "or", "a", "truck", ".", "Both", "car", "and", "truck", "inherit", "attributes", "and", "behaviors", "from", "automobile", ",", "while", "adding", "or", "refining", "some", "within", "their", "own", "classes", ".", "ffl", "Repetition", "class", "A", "repetition", "class", "is", "a", "container", "used", "to", "aggregate", "multiple", "instances", "of", "another", "class", ".", "A", "repetition", "class", "is", "analogous", "to", "a", "List", "structure", ".", "ffl", "Terminal", "class", "A", "terminal", "class", "is", "a", "building", "block", "from", "which", "other", "classes", "are", "constructed", ".", "Terminal", "classes", "encapsulate", "the", "basic", "data", "types", ".", "Standard", "terminal", "classes", "are", ":", "Ident", ",", "String", ",", "Number", ",", "Real", ",", "Text", ".", "The", "relationships", "among", "a", "group", "of", "classes", "can", "be", "visually", "described", "in", "a", "Class", "Dictionary", "Graph", ".", "A", "class", "dictionary", "graph", "is", "a", "directed", "graph", "whose", "vertices", "represent", "the", "classes", "of", "the", "domain", "being", "modeled", ",", "and", "whose", "edges", "represent", "the", "isa", ",", "part-of", "and", "uses", "relationships", "among", "the", "classes", ".", "The", "construction", "and", "terminal", "classes", "are", "represented", "as", "rectangles", ",", "the", "alternation", "classes", "are", "hexagons", ",", "and", "the", "repetition", "classes", "are", "hexagons", "containing", "rectangles", ".", "A", "single-line", "edge", "between", "two", "vertices", "represents", "a", "partof", "or", "uses", "relation", ",", "while", "a", "double-line", "edge", "represents", "an", "isa", "or", "inheritance", "relation", ".", "Figure", "1", "contains", "a", "class", "dictionary", "graph", "which", "details", "the", "organization", "of", "several", "classes", ".", "It", "describes", "a", "Company", "class", ",", "which", "has", "a", "name", "and", "departments", ".", "Each", "Department", "class", "has", "a", "name", "and", "employees", ".", "The", "Employee", "class", "is", "an", "abstract", "class", "which", "is", "either", "FullTime", "or", "PartTime", ".", "The", "Employee", "class", "has", "a", "name", "and", "salary", ".", "These", "attributes", "are", "inherited", "by", "the", "FullTime", "and", "PartTime", "classes", ".", "The", "formal", "definition", "of", "a", "class", "dictionary", "graph", "is", "described", "in", "-LSB-", "12", "-RSB-", ".", "A", "class", "dictionary", "graph", "?", "is", "a", "NumberDepartmentemployeesIdentnameIdentEmployeeListIdentnameCompanyDep", "artmentListdepartmentsEmployeeFullTimePartTimesalaryname", "Figure", "1", ":", "A", "Class", "dictionary", "graph", "defining", "a", "class", "organization", "for", "companies", ".", "directed", "graph", "defined", "as", ":", "?", "=", "-LRB-", "V", "C", ";", "V", "A", ";", "V", "R", ";", "V", "T", ";", "?", ";", "EC", ";", "EA", ";", "ER", "-RRB-", "where", "ffl", "VC", "is", "a", "finite", "set", "of", "construction", "vertices", "VA", "is", "a", "finite", "set", "of", "alternation", "vertices", "VR", "is", "a", "finite", "set", "of", "repetition", "vertices", "VT", "is", "a", "finite", "set", "of", "terminal", "vertices", "ffl", "?", "is", "a", "finite", "set", "of", "edge", "labels", ".", "ffl", "EC", "is", "a", "relation", "on", "-LRB-", "V", "C", "-LSB-", "V", "A", "-RRB-", "?", "V", "C", "??", "describing", "the", "labeled", "construction", "edges", "in", "the", "graph", ".", "For", "each", "-LRB-", "v", ";", "w", ";", "l", "-RRB-", "2", "EC", ";", "there", "exists", "a", "construction", "edge", "from", "v", "to", "w", "labeled", "l", ".", "Class", "v", "then", "has", "a", "part", ",", "or", "relationship", ",", "named", "l", "of", "class", "w", ".", "ffl", "EA", "is", "a", "relation", "on", "V", "A", "?", "-LRB-", "V", "C", "-LSB-", "VA", "-RRB-", "describing", "the", "alternation", "edges", ".", "For", "each", "-LRB-", "v", ";", "w", "-RRB-", "2", "EA", ";", "there", "exists", "an", "alternation", "edge", "from", "v", "to", "w", ".", "Class", "v", "then", "has", "an", "alternative", "w", ",", "and", "class", "w", "inherits", "attributes", "and", "behavior", "from", "class", "v", ".", "Only", "alternation", "vertices", "can", "have", "outgoing", "alternation", "edges", ".", "ffl", "ER", "is", "a", "relation", "on", "V", "R", "?", "-LRB-", "V", "C", "-LSB-", "V", "A", "-LSB-", "VR", "-LSB-", "V", "T", "-RRB-", "describing", "repetition", "edges", ".", "For", "each", "-LRB-", "v", ";", "w", "-RRB-", "2", "ER", "there", "exists", "a", "repetition", "edge", "from", "v", "to", "w", ".", "Class", "v", "is", "a", "container", "class", "of", "instances", "of", "class", "w", ".", "VC", "=", "fCompany", ",", "Department", ",", "PartTime", ",", "FullTimeg", "VR", "=", "fDepartmentlist", ",", "Employeelistg", "VA", "=", "fEmployeeg", "VT", "=", "fIdent", ",", "Numberg", "Lambda", "=", "fname", ",", "departments", ",", "employees", ",", "salaryg", "EC", "=", "f", "-LRB-", "Company", ",", "Ident", ",", "name", "-RRB-", ",", "-LRB-", "Company", ",", "Departmentlist", ",", "departments", "-RRB-", ",", "-LRB-", "Department", ",", "Ident", ",", "name", "-RRB-", ",", "-LRB-", "Department", ",", "Employeelist", ",", "employees", "-RRB-", ",", "-LRB-", "Employee", ",", "Ident", ",", "name", "-RRB-", ",", "-LRB-", "Employee", ",", "Number", ",", "salary", "-RRB-", "g", "EA", "=", "f", "-LRB-", "Employee", ",", "PartTime", "-RRB-", ",", "-LRB-", "Employee", ",", "FullTime", "-RRB-", "g", "ER", "=", "f", "-LRB-", "Departmentlist", ",", "Department", "-RRB-", ",", "-LRB-", "Employeelist", ",", "Employee", "-RRB-", "g.", "Figure", "2", ":", "Class", "definitions", "of", "the", "Company", "class", "dictionary", "graph", "Figure", "2", "shows", "the", "components", "of", "the", "class", "dictionary", "graph", "for", "the", "Company", "class", "structure", ".", "Given", "a", "class", "dictionary", "graph", ",", "Demeter", "generates", "C++", "code", "to", "represent", "the", "organization", "of", "classes", ".", "It", "is", "easy", "to", "evolve", "the", "class", "structure", "by", "simply", "reorganizing", "the", "class", "dictionary", "graph", ".", "The", "corresponding", "C++", "code", "will", "then", "be", "regenerated", "to", "adapt", "to", "the", "new", "class", "structure", ".", "2", "Describing", "object", "behavior", "An", "object", "such", "as", "an", "employee", "has", "certain", "behavior", "and", "responsibilities", ",", "and", "can", "make", "requests", "of", "other", "objects", ".", "One", "task", "that", "could", "be", "requested", "of", "a", "company", "object", "is", "to", "sum", "the", "salaries", "of", "its", "employees", ".", "To", "accomplish", "this", ",", "the", "Company", "class", "would", "have", "a", "method", "named", "sumSal", "to", "implement", "the", "behavior", "of", "traversing", "through", "its", "departments", "to", "determine", "its", "payroll", "obligations", ".", "The", "Department", "class", "would", "be", "responsible", "for", "determining", "the", "salary", "total", "of", "its", "employees", ".", "The", "Employee", "class", "would", "be", "responsible", "for", "adding", "its", "salary", "value", "to", "the", "total", ".", "When", "developing", "code", "to", "implement", "a", "task", ",", "it", "is", "important", "to", "follow", "the", "guidelines", "of", "information", "hiding", "and", "delegation", "so", "existing", "code", "will", "be", "easy", "to", "evolve", "when", "class", "structures", "change", ".", "Well", "written", "programs", "which", "follow", "the", "Law", "of", "Demeter", "-LSB-", "11", "-RSB-", "will", "contain", "many", "small", "methods", "each", "having", "the", "purpose", "of", "propagating", "a", "message", "request", "from", "one", "class", "to", "another", "using", "existing", "class", "relationships", ".", "A", "request", "is", "passed", "along", "a", "path", "of", "relationships", "until", "the", "class", "possessing", "the", "responsibility", "and", "attributes", "necessary", "to", "accomplish", "the", "task", "receives", "the", "message", ".", "DepartmentemployeesEmployeeListCompanyDepartmentListdepartmentsEmploye", "e", "Figure", "3", ":", "Propagation", "Graph", "of", "the", "path", "from", "Company", "to", "Employee", "To", "sum", "the", "salaries", "of", "employees", "in", "a", "company", ",", "a", "sumSal", "request", "is", "propagated", "along", "a", "path", "or", "subgraph", "of", "the", "class", "dictionary", "graph", "contained", "between", "the", "Company", "and", "Employee", "class", ".", "This", "path", "is", "shown", "in", "Figure", "3", ".", "Edges", "in", "the", "class", "dictionary", "graph", "that", "do", "not", "lead", "to", "the", "Employee", "class", "are", "not", "shown", "in", "this", "Propagation", "Graph", "since", "paths", "along", "those", "edges", "will", "not", "contribute", "to", "the", "desired", "behavior", ".", "The", "responsibility", "each", "class", "has", "along", "the", "propagation", "graph", "involves", "passing", "the", "request", "from", "one", "class", "to", "another", ",", "with", "only", "the", "Employee", "class", "possessing", "the", "responsibility", "of", "incrementing", "the", "salary", "total", "variable", ".", "When", "writing", "code", ",", "the", "programmer", "should", "concentrate", "only", "on", "the", "important", "classes", "involved", "in", "accomplishing", "a", "task", ".", "One", "wants", "to", "concentrate", "on", "the", "classes", "which", "have", "the", "major", "responsibilities", "involved", "in", "the", "task", ",", "namely", "the", "classes", "which", "possess", "the", "data", "relevant", "to", "the", "task", ",", "while", "avoiding", "writing", "the", "trivial", "message", "passing", "code", "which", "propagates", "a", "request", "from", "one", "class", "to", "another", "along", "the", "class", "hierarchy", ".", "-LSB-", "15", "-RSB-", "The", "implementation", "details", "of", "writing", "methods", "for", "each", "class", "responsible", "for", "propagating", "a", "message", "along", "a", "path", "can", "be", "time", "consuming", "to", "write", "and", "difficult", "to", "maintain", ".", "Given", "several", "classes", ",", "it", "is", "desirable", "to", "abstract", "out", "of", "an", "existing", "class", "dictionary", "the", "communication", "path", "between", "these", "classes", ".", "This", "is", "done", "by", "utilizing", "the", "parts", "and", "relationships", "among", "the", "classes", ".", "If", "there", "exist", "several", "relationships", "or", "paths", "through", "which", "the", "initial", "sender", "of", "a", "message", "can", "access", "the", "final", "receiver", "of", "the", "message", ",", "the", "path", "can", "be", "restricted", "by", "specifying", "which", "parts", "and", "relationships", "to", "utilize", "or", "avoid", "to", "accomplish", "the", "task", ".", "2.1", "Propagation", "patterns", "A", "Propagation", "Pattern", "-LSB-", "10", "-RSB-", "is", "used", "to", "alleviate", "the", "need", "to", "write", "trivial", "message", "passing", "code", ",", "allowing", "one", "to", "concentrate", "on", "the", "important", "aspects", "of", "the", "task", ".", "Propagation", "patterns", "support", "a", "style", "of", "coding", "which", "focuses", "on", "the", "important", "classes", "involved", "in", "accomplishing", "a", "task", ",", "with", "emphasis", "on", "minimizing", "reprogramming", "effort", "when", "the", "class", "structure", "changes", ".", "They", "provide", "a", "necessary", "level", "of", "abstraction", "when", "implementing", "object", "behavior", "which", "can", "accommodate", "class", "evolution", ".", "The", "propagation", "pattern", "to", "accomplish", "the", "salary", "summation", "task", "is", "shown", "in", "Figure", "4", ".", "*", "interface", "*", "void", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "*", "from", "*", "Company", "*", "to", "*", "Employee", "*", "primary", "*", "Employee", "-LRB-", "@", "totalSal", "-", ">", "add", "-LRB-", "salary", "-RRB-", ";", "@", "-RRB-", "Figure", "4", ":", "A", "propagation", "pattern", "for", "summing", "the", "salaries", "of", "employees", "in", "a", "company", ".", "The", "structure", "of", "this", "propagation", "pattern", "contains", "an", "interface", "statement", "with", "the", "method", "name", "sumSal", ",", "its", "return", "type", "void", ",", "and", "the", "parameters", "to", "the", "method", "-LRB-", "Number", "*", "totalSal", "-RRB-", ".", "An", "example", "of", "some", "the", "C++", "code", "that", "is", "generated", "by", "the", "propagation", "pattern", "to", "accomplish", "this", "task", "is", "shown", "in", "Figure", "5", ".", "The", "sumSal", "request", "is", "sent", "from", "the", "Company", "class", "to", "the", "Employee", "class", ".", "Each", "class", "on", "the", "path", "between", "Company", "and", "Employee", "will", "have", "the", "responsibility", "of", "passing", "the", "request", "to", "any", "parts", "which", "can", "reach", "the", "Employee", "class", ".", "The", "Company", "class", "has", "two", "parts", ",", "name", "and", "departments", ".", "The", "sumSal", "method", "for", "Company", "should", "send", "a", "sumSal", "message", "to", "its", "departments", "part", "but", "not", "to", "the", "name", "part", ".", "This", "is", "because", "there", "is", "a", "path", "following", "the", "departments", "edge", "in", "the", "class", "dictionary", "graph", "to", "the", "Employee", "class", ",", "but", "there", "is", "not", "one", "following", "the", "name", "edge", ".", "Construction", ",", "alternation", ",", "inheritance", "and", "repetition", "edges", "are", "utilized", "in", "determining", "if", "one", "class", "is", "reachable", "from", "another", ".", "The", "Employee", "class", "will", "have", "special", "behavior", "for", "its", "sumSal", "method", ".", "This", "behavior", "is", "found", "in", "the", "*", "primary", "*", "Employee", "clause", ",", "which", "states", "that", "it", "should", "add", "its", "salary", "value", "to", "the", "variable", "totalSal", ".", "At", "runtime", ",", "Employee", "objects", "will", "be", "instances", "of", "either", "the", "FullTime", "or", "PartTime", "class", ",", "both", "of", "which", "inherit", "the", "void", "Company", ":", ":", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "-LCB-", "departments", "-", ">", "sumSal", "-LRB-", "totalSal", "-RRB-", ";", "-RCB-", "void", "Department_List", ":", ":", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "-LCB-", "Department_list_iterator", "next_arg", "-LRB-", "*", "this", "-RRB-", ";", "Department", "*", "each_arg", ";", "while", "-LRB-", "each_arg", "=", "next_arg", "-LRB-", "-RRB-", "-RRB-", "each_arg", "-", ">", "sumSal", "-LRB-", "totalSal", "-RRB-", ";", "-RCB-", "void", "Department", ":", ":", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "-LCB-", "employees", "-", ">", "sumSal", "-LRB-", "totalSal", "-RRB-", ";", "-RCB-", "void", "Employee_List", ":", ":", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "-LCB-", "Employee_list_iterator", "next_arg", "-LRB-", "*", "this", "-RRB-", ";", "Employee", "*", "each_arg", ";", "while", "-LRB-", "each_arg", "=", "next_arg", "-LRB-", "-RRB-", "-RRB-", "each_arg", "-", ">", "sumSal", "-LRB-", "totalSal", "-RRB-", ";", "-RCB-", "void", "Employee", ":", ":", "sumSal", "-LRB-", "Number", "*", "totalSal", "-RRB-", "-LCB-", "totalSal", "-", ">", "add", "-LRB-", "salary", "-RRB-", ";", "-RCB-", "Figure", "5", ":", "C++", "code", "for", "summing", "the", "salaries", "of", "employees", "in", "a", "company", ".", "Employee", "class", "code", "of", "adding", "the", "salary", "to", "the", "total", "salary", "variable", ".", "The", "definition", "of", "a", "Propagation", "Pattern", "for", "a", "given", "class", "dictionary", "graph", "?", "is", "a", "tuple", "of", "the", "form", "-LRB-", "M", ";", "PD", ";", "CF", "-RRB-", ".", "ffl", "M", "is", "a", "method", "interface", "of", "the", "form", "-LRB-", "r", ";", "n", ";", "s", "-RRB-", "where", "-LCB-", "r", "is", "the", "return", "type", "of", "the", "method", ",", "-LCB-", "n", "is", "the", "name", "of", "the", "method", ",", "-LCB-", "s", "is", "the", "signature", "of", "the", "method", "of", "the", "form", "-LRB-", "t1v1", ";", ":", ":", ":", ";", "tnvn", "-RRB-", "where", "?", "t", "is", "the", "type", "of", "the", "variable", "argument", "?", "v", "is", "the", "name", "of", "the", "variable", "argument", "ffl", "PD", "is", "a", "propagation", "directive", "of", "the", "form", "-LRB-", "F", ";", "I", ";", "X", ";", "T", "-RRB-", "where", "-LCB-", "F", "is", "a", "non-empty", "set", "of", "vertices", "in", "the", "class", "dictionary", "graph", "specifying", "the", "starting", "vertices", "in", "the", "propagation", "graph", ",", "or", "*", "from", "*", "classes", ".", "-LCB-", "T", "is", "a", "set", "of", "vertices", "in", "the", "class", "dictionary", "graph", "specifying", "the", "ending", "vertices", "in", "the", "propagation", "graph", ",", "or", "*", "to", "*", "classes", ".", "-LCB-", "I", "is", "a", "set", "of", "edges", "in", "the", "class", "dictionary", "graph", "which", "the", "propagation", "graph", "must", "include", ".", "These", "are", "the", "*", "through", "*", "edges", ".", "-LCB-", "X", "is", "a", "set", "of", "edges", "in", "the", "class", "dictionary", "graph", "which", "the", "propagation", "graph", "must", "not", "include", ".", "These", "are", "the", "*", "bypassing", "*", "edges", ".", "ffl", "CF", "is", "a", "Code", "Fragment", ",", "which", "is", "of", "the", "form", "-LRB-", "v", ";", "cf", "-RRB-", ",", "where", "v", "is", "a", "vertex", "in", "the", "propagation", "graph", "and", "cf", "is", "a", "string", "describing", "the", "behavior", "for", "vertex", "v", ".", "Propagation", "Patterns", "have", "a", "textual", "form", ",", "like", "the", "example", "in", "Figure", "4", ".", "The", "method", "interface", "M", "can", "be", "described", "as", ":", "*", "interface", "*", "M", "The", "code", "fragments", "-LRB-", "v", ";", "cf", "-RRB-", "are", "described", "as", ":", "*", "primary", "*", "v", "-LRB-", "@", "cf", "@", "-RRB-", "A", "propagation", "directive", "can", "be", "described", "using", "the", "following", "textual", "form", ":", "?", "from", "?", "f1", ":", ":", ":", "fn", "?", "through", "?", "i1", ":", ":", ":", "ip", "?", "bypassing", "?", "x1", ":", ":", ":", "xo", "?", "to", "?", "t1", ":", ":", ":", "tm", "Each", "fi", "is", "a", "vertex", "in", "F", ",", "the", "from", "vertices", ";", "ti", "is", "a", "vertex", "in", "T", ",", "the", "to", "vertices", ";", "ii", "is", "an", "edge", "in", "I", "which", "the", "message", "must", "pass", "through", "and", "xi", "is", "an", "edge", "in", "X", "which", "must", "be", "bypassed", ".", "Given", "a", "class", "dictionary", "graph", "?", "and", "propagation", "directive", "PD", ",", "the", "corresponding", "Propagation", "Graph", "PG", "is", "abstracted", ".", "A", "vertex", "v", "or", "edge", "e", "is", "included", "in", "the", "propagation", "graph", "if", "it", "is", "located", "along", "the", "path", "defined", "between", "the", "*", "from", "*", "vertices", "to", "the", "*", "to", "*", "vertices", ",", "avoiding", "edges", "given", "in", "the", "*", "bypassing", "*", "clause", "and", "following", "edges", "in", "the", "*", "through", "*", "clause", ".", "Demeter", "implements", "the", "propagation", "pattern", "functionality", "by", "generating", "the", "appropriate", "code", "to", "perform", "the", "behavior", "defined", "for", "the", "classes", "involved", "in", "the", "propagation", ".", "For", "each", "vertex", "in", "the", "propagation", "graph", ",", "a", "C++", "member", "function", "is", "created", "which", "has", "the", "method", "interface", "defined", "in", "the", "propagation", "pattern", ",", "and", "which", "contains", "a", "message", "request", "for", "each", "edge", "of", "the", "vertex", "contained", "in", "the", "propagation", "graph", ".", "In", "the", "example", ",", "Department", "is", "contained", "within", "the", "propagation", "graph", "defined", "by", "the", "propagation", "directive", ",", "since", "it", "is", "located", "along", "the", "path", "from", "Company", "to", "Employee", ".", "It", "will", "have", "a", "sumSal", "method", "generated", "for", "it", ",", "which", "contains", "code", "to", "send", "a", "sumSal", "message", "to", "each", "of", "its", "parts", "which", "can", "reach", "Employee", ".", "There", "will", "be", "a", "message", "sent", "to", "its", "employees", "part", "with", "the", "appropriate", "arguments", "passed", ",", "since", "this", "part", "corresponds", "to", "an", "edge", "that", "reaches", "Employee", ".", "The", "method", "for", "Department", "will", "not", "send", "a", "message", "to", "its", "name", "part", ",", "since", "there", "is", "no", "path", "from", "that", "part", "that", "could", "reach", "Employee", ".", "If", "a", "vertex", "v", "is", "contained", "in", "a", "code", "fragment", "pair", "-LRB-", "v", ";", "cf", "-RRB-", ",", "then", "the", "code", "generated", "for", "class", "v", "is", "not", "the", "standard", "message", "propagation", "code", ",", "but", "rather", "is", "the", "code", "described", "in", "the", "code", "fragment", "cf", ".", "In", "the", "example", ",", "the", "sumSal", "method", "for", "class", "Employee", "will", "not", "be", "the", "generated", "message", "passing", "code", ",", "it", "will", "be", "the", "code", "described", "in", "the", "*", "primary", "*", "clause", "for", "Employee", ",", "which", "increments", "the", "salary", "total", "variable", ".", "2.2", "Propagation", "patterns", "supporting", "system", "evolution", "The", "true", "strength", "of", "propagation", "patterns", "becomes", "evident", "when", "the", "class", "structure", "evolves", "during", "the", "software", "life", "cycle", ".", "Because", "propagation", "patterns", "allow", "the", "developer", "to", "describe", "high-level", "collaborations", "among", "classes", "to", "accomplish", "behavior", ",", "when", "the", "class", "structure", "defined", "by", "the", "class", "dictionary", "graph", "evolves", ",", "the", "amount", "of", "work", "needed", "to", "restructure", "a", "propagation", "pattern", "is", "often", "minimal", "as", "compared", "to", "maintaining", "actual", "C++", "code", ".", "As", "an", "example", ",", "assume", "the", "class", "dictionary", "graph", "is", "modified", "to", "define", "companies", "that", "contain", "divisions", ",", "which", "are", "made", "up", "of", "departments", ",", "as", "described", "in", "Figure", "6", ".", "The", "propagation", "pattern", "which", "sums", "the", "salaries", "of", "employees", "in", "a", "company", "does", "not", "need", "to", "be", "modified", "to", "support", "this", "new", "class", "structure", ".", "A", "new", "propagation", "graph", "is", "abstracted", "from", "the", "propagation", "directive", ",", "and", "the", "corresponding", "C++", "code", "is", "generated", "to", "support", "this", "new", "class", "structure", ".", "There", "are", "several", "situations", "that", "occur", "when", "evolving", "a", "class", "dictionary", "graph", "which", "may", "require", "changes", "to", "an", "existing", "propagation", "pattern", ".", "When", "the", "class", "structure", "changes", ",", "the", "propagation", "graph", "may", "change", "and", "it", "may", "be", "necessary", "to", "evolve", "the", "propagation", "pattern", "to", "support", "the", "new", "class", "structure", ".", "Observing", "the", "changes", "in", "the", "class", "dictionary", "graph", ",", "and", "the", "affect", "on", "the", "corresponding", "propagation", "graph", ",", "helps", "identify", "the", "potential", "ways", "to", "restructure", "the", "propagation", "pattern", "to", "ensure", "that", "the", "behavior", "remains", "consistent", ".", "Evolution", "of", "the", "GFAAT", "Simulation", "tool", "identified", "the", "following", "types", "of", "transformations", "as", "commonly", "occurring", ":", "ffl", "In", "the", "example", "of", "partitioning", "companies", "into", "divisions", ",", "the", "class", "dictionary", "graph", "is", "evolved", "to", "elongate", "the", "path", "between", "two", "vertices", ",", "implying", "a", "single", "edge", "between", "two", "vertices", "is", "replaced", "by", "a", "sequence", "of", "edges", ".", "This", "transformation", "occurs", "either", "when", "it", "is", "desirable", "to", "further", "partition", "the", "objects", "in", "the", "domain", "or", "when", "a", "direct", "relationship", "between", "objects", "is", "transformed", "into", "a", "sequence", "of", "relationships", ".", "In", "either", "case", "the", "source", "vertex", "must", "go", "through", "a", "longer", "sequence", "of", "edges", ",", "or", "relationships", ",", "to", "reach", "the", "target", "vertex", ".", "This", "type", "of", "change", "in", "a", "class", "dictionary", "graph", "causes", "the", "depth", "of", "the", "corresponding", "propagation", "graph", "to", "increase", ".", "This", "is", "the", "case", "in", "the", "example", "that", "was", "just", "presented", "by", "adding", "the", "Division", "and", "DivisionList", "classes", "into", "the", "class", "dictionary", "graph", ".", "This", "increase", "in", "depth", "of", "the", "propagation", "graph", "is", "exactly", "what", "is", "desired", "and", "the", "propagation", "pattern", "does", "not", "need", "to", "be", "modified", "to", "accommodate", "the", "new", "objects", ",", "but", "is", "simply", "regenerated", "to", "produce", "the", "correct", "C++", "code", ".", "ffl", "Sometimes", "it", "is", "decided", "that", "the", "class", "structure", "has", "been", "overdefined", ",", "or", "there", "exist", "performance", "requirements", "which", "require", "a", "collapse", "of", "object", "structure", "to", "a", "simpler", "structure", "with", "less", "detail", ".", "A", "decrease", "in", "depth", "of", "the", "propagation", "graph", "is", "due", "to", "a", "collapse", "of", "a", "group", "of", "edges", "into", "a", "single", "edge", ".", "This", "occurs", "either", "if", "there", "existed", "too", "much", "partitioning", "and", "the", "class", "structure", "is", "being", "simplified", ",", "or", "when", "it", "is", "desirable", "for", "a", "vertex", "to", "have", "a", "more", "direct", "communication", "path", "with", "another", "vertex", ",", "rather", "than", "going", "through", "a", "sequence", "of", "edges", ".", "As", "long", "as", "none", "of", "the", "intermediate", "edges", "being", "replaced", "are", "referenced", "in", "a", "*", "through", "*", "or", "*", "bypassing", "*", "clause", ",", "there", "is", "no", "additional", "work", "to", "be", "done", ".", "ffl", "It", "is", "decided", "that", "a", "relationship", "between", "two", "classes", "should", "not", "exist", ",", "and", "this", "may", "cause", "a", "deletion", "of", "an", "edge", "from", "the", "class", "dictionary", "graph", "that", "is", "used", "in", "a", "*", "bypassing", "*", "or", "*", "through", "*", "clause", ".", "This", "can", "be", "easily", "detected", ",", "and", "the", "corresponding", "clause", "removed", "so", "that", "the", "propagation", "graph", "does", "not", "become", "disconnected", ",", "implying", "other", "relationships", "are", "to", "be", "used", "if", "they", "are", "available", ".", "However", ",", "the", "semantics", "of", "the", "propagation", "pattern", "may", "no", "longer", "be", "correct", ".", "The", "propagation", "directive", "should", "be", "looked", "at", "to", "determine", "if", "the", "behavior", "is", "properly", "implemented", "using", "alternative", "relationships", ".", "ffl", "A", "particular", "relationship", "between", "two", "classes", "no", "longer", "exists", ",", "requiring", "a", "change", "in", "the", "class", "dictionary", "graph", "which", "removes", "an", "edge", "between", "vertices", ".", "The", "propagation", "graph", "may", "then", "become", "disconnected", ".", "As", "in", "the", "example", "of", "removing", "an", "edge", "that", "is", "found", "in", "a", "*", "bypassing", "*", "or", "*", "through", "*", "clause", ",", "the", "propagation", "pattern", "may", "need", "to", "be", "rebuilt", "to", "try", "to", "use", "other", "relationships", "or", "class", "structures", "to", "accomplish", "the", "task", ",", "or", "the", "behavior", "it", "was", "supporting", "may", "simply", "no", "longer", "be", "valid", "in", "which", "case", "it", "should", "be", "discarded", ".", "DepartmentemployeesIdentnameEmployeeListIdentnameCompanyDepartmentList", "departmentsIdentnamedivisionsDivisionListDivisionNumberIdentEmployeeFu", "llTimePartTimesalaryname", "Figure", "6", ":", "Class", "Dictionary", "Graph", "for", "Companies", "consisting", "of", "Divisions", ".", "ffl", "An", "additional", "relationship", "is", "established", "between", "two", "classes", "found", "in", "the", "propagation", "graph", ",", "meaning", "a", "construction", "edge", "was", "added", "between", "the", "vertices", "in", "the", "class", "dictionary", "graph", ".", "For", "example", ",", "the", "Company", "class", "is", "modified", "to", "have", "an", "additional", "part", "named", "president", "which", "causes", "a", "direct", "link", "from", "the", "Company", "class", "to", "the", "Employee", "class", ",", "in", "addition", "to", "the", "previously", "existing", "link", "through", "the", "employees", "part", ".", "The", "change", "in", "the", "class", "dictionary", "graph", "causes", "the", "width", "of", "the", "propagation", "graph", "to", "increase", ",", "where", "the", "source", "vertex", ",", "Company", ",", "has", "an", "additional", "branch", "that", "it", "previously", "did", "not", "have", "which", "can", "reach", "the", "target", "vertex", ",", "Employee", ".", "The", "propagation", "graph", "now", "has", "an", "additional", "path", ".", "This", "may", "or", "may", "not", "require", "a", "change", "in", "the", "propagation", "pattern", ",", "depending", "on", "the", "semantics", "of", "the", "task", "being", "implemented", ".", "If", "it", "is", "acceptable", "to", "allow", "multiple", "access", "paths", "between", "objects", ",", "then", "no", "modification", "to", "the", "propagation", "pattern", "is", "required", ".", "If", ",", "however", ",", "there", "should", "be", "only", "a", "single", "path", ",", "then", "it", "is", "simple", "enough", "to", "add", "a", "*", "bypassing", "*", "clause", "for", "the", "new", "edge", "or", "a", "*", "through", "*", "clause", "for", "the", "old", "edge", "and", "the", "propagation", "graph", "would", "remain", "as", "it", "previously", "was", "defined", ".", "ffl", "If", "the", "company", "class", "dictionary", "graph", "were", "modified", "to", "describe", "conglomerates", ",", "which", "contain", "companies", ",", "then", "there", "exists", "a", "path", "from", "the", "conglomerate", "class", "to", "the", "company", "class", ".", "The", "existing", "propagation", "directive", "defines", "a", "propagation", "graph", "*", "from", "*", "Company", "*", "to", "*", "Employee", ".", "The", "propagation", "directive", "potentially", "should", "be", "modified", "to", "indicate", "that", "propagation", "should", "start", "at", "the", "conglomerate", "class", "rather", "than", "the", "company", "class", "by", "changing", "the", "propagation", "directive", "to", "specify", "*", "from", "*", "Conglomerate", "*", "to", "*", "Employee", ".", "The", "change", "in", "the", "class", "dictionary", "graph", "occurs", "in", "a", "portion", "of", "the", "graph", "outside", "of", "that", "specified", "by", "the", "propagation", "directive", "and", "thus", "does", "not", "appear", "to", "directly", "affect", "the", "propagation", "graph", ".", "However", ",", "the", "propagation", "pattern", "may", "need", "to", "be", "modified", "to", "expand", "the", "behavior", "to", "include", "more", "objects", ".", "If", "an", "edge", ",", "or", "sequence", "of", "edges", ",", "is", "added", "to", "the", "class", "dictionary", "graph", "which", "allows", "some", "vertex", "v", "to", "reach", "a", "vertex", "w", "contained", "in", "the", "original", "propagation", "graph", ",", "then", "the", "propagation", "pattern", "might", "need", "to", "evolve", "to", "include", "behavioral", "definitions", "for", "instances", "of", "v", ".", "The", "*", "from", "*", "clause", "should", "possibly", "be", "changed", "to", "begin", "propagation", "at", "v", ".", "The", "other", "situation", "which", "may", "occur", "is", "that", "edges", "are", "added", "which", "allow", "some", "vertex", "w", "in", "the", "propagation", "graph", "to", "reach", "a", "vertex", "v", "outside", "of", "the", "propagation", "graph", ".", "It", "may", "be", "necessary", "to", "evolve", "the", "propagation", "pattern", "to", "utilize", "v", "in", "the", "implementation", "of", "the", "behavior", ",", "by", "modifying", "the", "*", "to", "*", "clause", "to", "reach", "v", ".", "ffl", "A", "class", "renaming", "of", "vertices", "or", "edge", "labels", "in", "the", "class", "dictionary", "graph", "occurs", ".", "This", "is", "easily", "automated", "to", "rename", "occurrences", "of", "the", "vertices", "and", "edges", "in", "the", "propagation", "patterns", ".", "Notice", "in", "the", "simple", "situation", "of", "class", "renaming", ",", "if", "the", "class", "were", "used", "in", "the", "method", "interface", "as", "a", "parameter", ",", "only", "the", "interface", "statement", "would", "need", "to", "be", "updated", ".", "All", "methods", "defined", "by", "the", "propagation", "pattern", "would", "be", "regenerated", "with", "the", "new", "class", "name", "in", "the", "interface", ".", "This", "is", "certainly", "less", "effort", "than", "manually", "having", "to", "change", "a", "class", "name", "in", "many", "existing", "method", "interfaces", "if", "they", "are", "written", "by", "hand", ".", "ffl", "An", "additional", "subclass", "is", "added", "to", "an", "superclass", ",", "thus", "adding", "an", "additional", "alternation", "edge", "to", "the", "graph", ".", "If", "the", "superclass", "were", "contained", "in", "the", "original", "propagation", "graph", ",", "then", "the", "new", "subclass", "that", "has", "been", "added", "is", "contained", ".", "This", "is", "very", "handy", "since", "it", "is", "easy", "to", "add", "subclasses", "and", "automatically", "have", "behavior", "propagated", "to", "them", "without", "reprogramming", "effort", ".", "If", ",", "however", ",", "the", "new", "subclass", "should", "not", "have", "behavior", "propagated", "to", "it", ",", "then", "a", "*", "bypassing", "*", "clause", "is", "added", "to", "prevent", "the", "new", "subclass", "from", "inheriting", "the", "behavior", ".", "As", "many", "of", "these", "cases", "indicate", ",", "there", "may", "be", "work", "to", "be", "done", "to", "existing", "propagation", "patterns", "when", "the", "class", "dictionary", "graph", "evolves", ",", "but", "the", "work", "required", "to", "evolve", "a", "propagation", "pattern", "is", "often", "minimal", "and", "easier", "to", "identify", "than", "implementing", "straight", "C++", "code", ".", "Because", "class", "dictionary", "graphs", "and", "propagation", "patterns", "work", "as", "high", "level", "descriptions", "to", "implement", "the", "system", "intent", ",", "it", "is", "easier", "to", "work", "with", "them", "to", "evolve", "a", "system", ".", "The", "effects", "of", "class", "evolution", "on", "existing", "behavior", "are", "more", "easily", "identified", "by", "viewing", "the", "effect", "of", "evolution", "on", "existing", "propagation", "graphs", ".", "3", "Conclusion", "Propagation", "Patterns", "have", "been", "used", "in", "industry", "in", "situations", "where", "the", "class", "structure", "was", "under", "continuous", "change", ".", "The", "effort", "required", "to", "maintain", "existing", "propagation", "patterns", "was", "minimal", "as", "compared", "to", "maintenance", "of", "C++", "code", ".", "In", "many", "cases", ",", "the", "propagation", "directive", "was", "consistent", "with", "the", "new", "class", "structure", "and", "no", "change", "was", "required", ",", "the", "code", "was", "simply", "regenerated", "to", "fit", "the", "new", "structure", ".", "The", "situations", "which", "required", "change", "to", "the", "propagation", "directive", "involved", "the", "need", "to", "restrict", "a", "new", "class", "from", "the", "propagation", "graph", ",", "and", "this", "is", "easily", "accomplished", "by", "adding", "a", "*", "bypassing", "*", "clause", ".", "Adaptive", "system", "development", "using", "object-oriented", "techniques", "provides", "a", "foundation", "for", "building", "flexible", "systems", ".", "Attention", "is", "paid", "to", "the", "entities", "of", "the", "domain", "being", "modeled", ".", "Their", "similarities", "and", "differences", "are", "scrutinized", "in", "order", "to", "capitalize", "upon", "reuse", "poten", "-", "tial", ".", "Utilizing", "high-level", "abstractions", "like", "class", "dictionary", "graphs", "and", "propagation", "patterns", "further", "expands", "the", "benefits", "of", "object-oriented", "technology", "by", "minimizing", "the", "amount", "of", "effort", "required", "when", "systems", "need", "to", "change", ".", "The", "ability", "to", "support", "and", "encourage", "change", "is", "a", "necessary", "part", "of", "any", "software", "development", "model", ".", "Acknowledgements", "I", "would", "like", "to", "thank", "Ted", "Seiter", ",", "Karl", "Lieberherr", "and", "Karl", "Frank", "for", "providing", "valuable", "input", "during", "the", "production", "of", "this", "paper", ".", "References", "-LSB-", "1", "-RSB-", "J.", "Banerjee", ",", "W.", "Kim", ",", "H.J.", "Kim", ",", "and", "H.F.", "Korth", ".", "Semantics", "and", "implementation", "of", "schema", "evolution", "in", "object-oriented", "data", "bases", ",", "San", "Francisco", ",", "California", ".", "In", "Proceedings", "of", "ACM/SIGMOD", "Annual", "Conference", "on", "Management", "of", "Data", ",", "May", "1987", ".", "-LSB-", "2", "-RSB-", "Gilles", "Barbedette", ".", "Schema", "modifications", "in", "the", "lispo2", "persistent", "object-oriented", "language", ".", "In", "European", "Conference", "on", "Object-Oriented", "Programming", "ECOOP", "'", "91", ".", "Springer-Verlag", ",", "1991", ".", "-LSB-", "3", "-RSB-", "Grady", "Booch", ".", "Object-Oriented", "Design", "With", "Applications", ".", "Benjamin/Cummings", "Publishing", "Company", ",", "Inc.", ",", "1991", ".", "-LSB-", "4", "-RSB-", "Peter", "Coad", "and", "Edward", "Yourdon", ".", "ObjectOriented", "Analysis", ".", "Yourdon", "Press", ",", "1990", ".", "second", "edition", ".", "-LSB-", "5", "-RSB-", "Christine", "Delcourt", "and", "Roberto", "Zicari", ".", "The", "design", "of", "an", "integrity", "consistency", "checker", "-LRB-", "ICC", "-RRB-", "for", "an", "object-oriented", "database", "system", ".", "In", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "pages", "377", "-LCB-", "396", ",", "Geneva", ",", "Switzerland", ",", "1991", ".", "Springer", "Verlag", ".", "-LSB-", "6", "-RSB-", "Mohammed", "Erradi", ",", "Gregor", "Bochmann", ",", "and", "Rachida", "Dssouli", ".", "A", "framework", "for", "dynamic", "evolution", "of", "object-oriented", "specifications", ".", "In", "Proceedings", "of", "the", "Conference", "on", "Software", "Maintenance", ".", "IEEE", "Computer", "Society", ",", "1992", ".", "-LSB-", "7", "-RSB-", "Walter", "L.", "H?ursch", ",", "Linda", "M.", "Seiter", ",", "and", "Cun", "Xiao", ".", "In", "any", "CASE", ":", "Demeter", ".", "The", "American", "Programmer", ",", "4", "-LRB-", "10", "-RRB-", ":46", "-LCB-", "56", ",", "October", "1991", ".", "-LSB-", "8", "-RSB-", "Ivar", "Jacobsen", ",", "Mangus", "Christerson", ",", "Patrik", "Jonsson", ",", "and", "Gunnar", "Overgaard", ".", "Object-Oriented", "Software", "Engineering", "-", "A", "Use", "Case", "Driven", "Approach", ".", "ACM", "Press", ",", "Addison-Wesley", ",", "1992", ".", "-LSB-", "9", "-RSB-", "Barbara", "Staudt", "Lerner", "and", "A.", "Nico", "Habermann", ".", "Beyond", "schema", "evolution", "to", "database", "reorganization", ".", "Object-Oriented", "Programming", "Systems", ",", "Languages", "and", "Applications", "Conference", ",", "in", "Special", "Issue", "of", "SIGPLAN", "Notices", ",", "25", "-LRB-", "10", "-RRB-", ":67", "-LCB-", "76", ",", "October", "1990", ".", "-LSB-", "10", "-RSB-", "Karl", "J.", "Lieberherr", ".", "The", "Art", "of", "Growing", "Adaptive", "Object-Oriented", "Software", ".", "PWS", "Publishing", "Company", ",", "a", "Division", "of", "Wadsworth", ",", "Inc.", ",", "1994", ".", "-LSB-", "11", "-RSB-", "Karl", "J.", "Lieberherr", "and", "Ian", "Holland", ".", "Assuring", "good", "style", "for", "object-oriented", "programs", ".", "IEEE", "Software", ",", "pages", "38", "-LCB-", "48", ",", "September", "1989", ".", "-LSB-", "12", "-RSB-", "Karl", "J.", "Lieberherr", "and", "Cun", "Xiao", ".", "Formal", "Foundations", "for", "Object-Oriented", "Data", "Modeling", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "5", "-LRB-", "3", "-RRB-", ":462", "-LCB-", "478", ",", "June", "1993", ".", "-LSB-", "13", "-RSB-", "D.", "Jason", "Penney", "and", "Jacob", "Stein", ".", "Class", "modification", "in", "the", "GemStone", "object-oriented", "DBMS", ".", "In", "Object-Oriented", "Programming", "Systems", ",", "Languages", "and", "Applications", "Conference", ",", "in", "Special", "Issue", "of", "SIGPLAN", "Notices", ",", "pages", "111", "-LCB-", "125", ",", "Orlando", ",", "Florida", ",", "1987", ".", "ACM", "Press", ".", "-LSB-", "14", "-RSB-", "Markus", "Tresch", ".", "A", "framework", "for", "schema", "evolution", "by", "meta", "object", "manipulation", ".", "In", "Proceedings", "of", "the", "3rd", "International", "Workshop", "on", "Foundations", "of", "Models", "and", "Languages", "for", "Data", "and", "Objects", ",", "Aigen", ",", "Austria", ",", "September", "1991", ".", "-LSB-", "15", "-RSB-", "Norman", "Wilde", "and", "Ross", "Huitt", ".", "Maintenance", "support", "for", "object-oriented", "programs", ".", "IEEE", "Transactions", "on", "Software", "Engineering", ",", "18", "-LRB-", "12", "-RRB-", ",", "1992", "." ]

[ "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compilation", "of", "a", "Highly", "Parallel", "Actor-Based", "Language", "WooYoung", "Kim?and", "Gul", "Aghay", "Department", "of", "Computer", "Science", "University", "of", "Illinois", "at", "Urbana-Champaign", "Urbana", ",", "IL", "61801", ",", "USA", "Email", ":", "fwooyoung", "j", "aghag@cs.uiuc.edu", "June", "23", ",", "1992", "Abstract", "Hal", "incorporates", "a", "number", "of", "high-level", "language", "constructs", "such", "as", "the", "incremental", "specialization", "of", "synchronization", "constraints", "to", "maintain", "the", "consistency", "of", "actors", "at", "run-time", ",", "the", "inheritance", "of", "both", "code", "and", "synchronization", "constraints", ",", "and", "limited", "reflective", "capabilities", "to", "customize", "the", "system", "with", "respect", "to", "fault", "tolerance", ".", "This", "paper", "describes", "some", "issues", "in", "compiling", "Hal", ",", "and", ",", "in", "particular", ",", "three", "source", "level", "transformations", "used", "by", "the", "compiler", "for", "Hal", ".", "Two", "of", "the", "transformations", "translate", "RPC-style", "message", "sending", "into", "asynchronous", "message", "sending", ".", "The", "third", "transformation", "performs", "code", "motion", "to", "optimize", "the", "implementation", "of", "replacement", "behavior", ".", "This", "optimization", "results", "in", "the", "reduction", "of", "object", "code", "size", "as", "well", "as", "execution", "time", ".", "yThe", "work", "described", "in", "this", "paper", "has", "been", "made", "possible", "by", "generous", "support", "provided", "by", "a", "Young", "Investigator", "Award", "from", "the", "Office", "of", "Naval", "Research", "-LRB-", "ONR", "contract", "number", "N00014-90-J-1899", "-RRB-", ",", "by", "an", "Incentives", "for", "Excellence", "Award", "from", "the", "Digital", "Equipment", "Corporation", ",", "and", "by", "joint", "support", "from", "the", "Defense", "Advanced", "Research", "Projects", "Agency", "and", "the", "National", "Science", "Foundation", "-LRB-", "NSF", "CCR", "90-07195", "-RRB-", ".", "1", "Introduction", "A", "number", "of", "efforts", "have", "been", "made", "to", "build", "parallelizing", "or", "vectorizing", "compilers", "which", "attempt", "to", "extract", "parallelism", "from", "code", "written", "in", "traditional", "sequential", "programming", "languages", "such", "as", "FORTRAN", "-LSB-", "26", ",", "5", ",", "27", "-RSB-", ".", "Others", "have", "concentrated", "on", "compiling", "specialized", "languages", "which", "are", "inherently", "concurrent", ",", "such", "as", "functional", "languages", "-LSB-", "18", "-RSB-", "and", "Data", "Flow", "-LSB-", "7", "-RSB-", ".", "Unfortunately", ",", "such", "languages", "are", "inadequate", "to", "model", "concurrency", "in", "a", "state-based", ",", "nondeterministic", "world", "-LSB-", "1", "-RSB-", ".", "A", "third", "language", "paradigm", "consists", "of", "languages", "which", "explicitly", "manipulate", "parallelism", ".", "Some", "examples", "are", "CSP", "-LSB-", "9", "-RSB-", "and", "Occam", "-LSB-", "25", "-RSB-", ".", "However", ",", "CSP", "and", "Occam", "have", "an", "unavoidable", "limitation", "in", "the", "sense", "that", "a", "process", "in", "these", "systems", "can", "not", "create", "a", "new", "communication", "channel", "at", "run-time", "or", "pass", "it", "to", "another", "process", ".", "The", "configuration", "of", "the", "system", "is", "fixed", "at", "compile", "time", "resulting", "in", "a", "static", "topology", ".", "Our", "work", "is", "related", "to", "the", "last", "two", "paradigms", ".", "We", "use", "the", "Actor", "model", "-LSB-", "1", "-RSB-", "which", "unifies", "the", "functional", "and", "the", "object-based", "view", "of", "computation", ",", "supports", "parallelism", "explicitly", "and", "provides", "for", "a", "dynamic", "topology", "of", "computational", "agents", ".", "On", "the", "other", "hand", ",", "the", "Actor", "model", "differs", "from", "the", "model", "used", "in", "LINDA", "-LSB-", "11", "-RSB-", ",", "which", "separates", "coordination", "from", "computation", "rather", "than", "treats", "them", "in", "a", "single", "framework", ".", "We", "have", "developed", "a", "high-level", "programming", "language", ",", "called", "Hal", ".", "Our", "goals", "in", "designing", "Hal", "are", "as", "follows", ":", "Generality", ":", "We", "want", "our", "programming", "language", "to", "be", "truly", "general", "purpose", ".", "Control", "parallelism", "as", "well", "as", "data", "parallelism", "should", "be", "expressed", "in", "Hal", "in", "a", "natural", "way", ".", "Shared", "objects", "should", "be", "easily", "described", ".", "Furthermore", ",", "Hal", "should", "be", "architecture", "independent", "to", "allow", "efficient", "execution", "on", "both", "shared", "and", "distributed", "memory", "machines", ".", "Modularity", "and", "Abstraction", ":", "To", "simplify", "programming", ",", "Hal", "should", "support", "data", "and", "functional", "abstraction", ".", "In", "particular", ",", "users", "should", "be", "able", "to", "specify", "the", "abstraction", "-LRB-", "interface", "-RRB-", "independently", "of", "its", "representation", "-LRB-", "implementation", "-RRB-", ".", "Furthermore", ",", "Hal", "should", "support", "re-usability", "through", "language", "constructs", "such", "as", "inheritance", ",", "higher-order", "functions", "and", "reflection", ".", "Efficient", "Execution", ":", "It", "should", "be", "possible", "to", "describe", "arbitrary", "applications", "in", "sufficient", "detail", "to", "support", "efficient", "execution", "on", "different", "concurrent", "architectures", ".", "In", "particular", ",", "the", "same", "application", "may", "require", "different", "resource", "management", "techniques", "on", "different", "concurrent", "architectures", ".", "In", "designing", "Hal", ",", "we", "use", "a", "reflective", "Actor", "model", "to", "realize", "those", "goals", ".", "The", "current", "paper", "describes", "ongoing", "work", "on", "Hal", "and", "its", "compiler", ".", "Compiling", "Hal", "for", "efficient", "execution", "creates", "a", "number", "of", "distinct", "problems", ".", "We", "describe", "some", "of", "these", "problems", ",", "namely", ",", "resource", "management", ",", "inherent", "concurrency", ",", "synchronization", "constraints", "and", "distributed", "objects", ".", "These", "problems", "stem", "from", "the", "power", "and", "the", "flexibility", "inherent", "in", "actor-based", "languages", ".", "Resource", "Management", "Hal", "is", "designed", "in", "such", "a", "way", "that", "the", "code", "of", "a", "parallel", "algorithm", "can", "be", "described", "in", "an", "architecture", "independent", "way", ".", "However", ",", "for", "efficiency", "it", "is", "often", "essential", "to", "explicitly", "specify", "resource", "management", "policies", "for", "actor", "placement", "and", "load", "balancing", ".", "Hal", "allows", "the", "code", "for", "resource", "management", "and", "code", "for", "the", "application", "to", "be", "separately", "specified", ".", "Besides", "reducing", "code", "complexity", ",", "this", "allows", "both", "the", "code", "of", "application", "algorithms", "and", "the", "code", "for", "resource", "management", "strategies", "to", "be", "reused", ".", "The", "compiler", "must", "combine", "these", "two", "kinds", "of", "specifications", "for", "efficient", "execution", "-LRB-", "Section", "2.7", "-RRB-", ".", "Inherent", "Concurrency", "The", "Actor", "model", "supports", "internal", "concurrency", "as", "well", "as", "explicit", "parallelism", "-LSB-", "1", "-RSB-", ".", "The", "internal", "concurrency", "is", "inherently", "fine-grained", ".", "However", ",", "almost", "every", "conventional", "processor", "is", "too", "coarse", "grained", "to", "realize", "the", "fine-grained", "computation", "inherent", "in", "the", "internal", "concurrency", "in", "an", "efficient", "way", ".", "To", "achieve", "better", "performance", ",", "we", "must", "have", "a", "certain", "amount", "of", "run-time", "control", "over", "grain", "size", ".", "The", "internal", "concurrency", "makes", "it", "possible", "to", "pipeline", "behavior", "changes", "of", "an", "actor", ".", "However", ",", "the", "implementation", "of", "such", "pipelining", "on", "coarse", "grained", "processors", "carries", "memory", "management", "overhead", ".", "By", "not", "implementing", "such", "pipelining", ",", "we", "have", "obtained", "a", "good", "performance", "improvement", "on", "current", "generation", "medium-grained", "multicomputers", ".", "-LRB-", "Section", "3.2", "-RRB-", ".", "Representation", "of", "method", "invocations", "in", "the", "form", "of", "functional", "expressions", "allows", "the", "simple", "specification", "of", "control", "in", "the", "program", ".", "Unfortunately", ",", "it", "can", "cause", "unnecessary", "loss", "of", "concurrency", "if", "a", "function", "caller", "blocks", "until", "it", "receives", "returned", "function", "value", ".", "The", "transformation", "of", "such", "representations", "into", "asynchronous", "message", "passing", "makes", "it", "possible", "to", "retain", "maximal", "concurrency", "in", "the", "program", "-LRB-", "Section", "3.1", "-RRB-", ".", "Synchronization", "Constraints", "In", "a", "CSP", "like", "model", ",", "communicating", "processes", "must", "be", "synchronized", "whenever", "they", "exchange", "messages", "with", "each", "other", ".", "The", "synchronization", "is", "accomplished", "through", "busy", "waits", ".", "Synchronous", "communication", "is", "expensive", "because", "that", "a", "sender", "can", "not", "send", "a", "message", "until", "a", "receiver", "is", "ready", "to", "accept", "the", "message", ",", "causing", "loss", "of", "concurrency", ".", "In", "contrast", ",", "by", "using", "buffering", "accompanied", "with", "asynchronous", "message", "passing", ",", "we", "eliminate", "the", "need", "for", "extraneous", "synchronization", ",", "thereby", ",", "retaining", "the", "concurrency", ".", "Furthermore", ",", "asynchronous", "communication", "localizes", "the", "enforcement", "of", "synchronization", "constraints", "at", "the", "recipient", ".", "This", "is", "especially", "important", "since", "a", "requirement", "of", "fairness", "requires", "the", "re-evaluation", "of", "synchronization", "constraints", "with", "each", "message", "and", "state", "change", "-LSB-", "14", ",", "15", "-RSB-", ".", "Distributed", "Objects", "If", "only", "one", "actor", "is", "responsible", "for", "processing", "all", "incoming", "communications", "to", "a", "large", "data", "structure", ",", "the", "actor", "will", "be", "a", "bottleneck", ".", "We", "avoid", "the", "single", "address", "bottleneck", "problem", "associated", "with", "the", "uniqueness", "of", "an", "actor", "'s", "address", "by", "allowing", "concurrent", "access", "to", "a", "large", "data", "structure", "and", "locking", "only", "the", "relevant", "portion", "of", "the", "data", "structure", ".", "Our", "approach", "follows", "work", "on", "Concurrent", "Aggregates", "-LSB-", "12", "-RSB-", ".", "In", "the", "following", "section", ",", "we", "discuss", "some", "linguistic", "features", "of", "Hal", "with", "their", "semantics", ".", "Section", "3", "discusses", "the", "transformations", "of", "RPC", "style", "message", "sending", "and", "the", "transformation", "for", "code", "motion", "to", "optimize", "the", "implementation", "of", "replacement", "behavior", ".", "Some", "research", "related", "to", "our", "compiler", "is", "described", "in", "Section", "4", ".", "The", "last", "section", "provides", "future", "research", "directions", "and", "concluding", "remarks", ".", "2", "HAL", ":", "A", "High-level", "Actor", "Language", "We", "begin", "the", "section", "with", "a", "brief", "description", "of", "the", "Actor", "model", ".", "We", "then", "discusses", "the", "specification", "of", "synchronization", "constraints", ",", "inheritance", ",", "and", "the", "specification", "of", "replacement", "behavior", ".", "Finally", ",", "issues", "related", "to", "memory", "management", ",", "extensions", "to", "the", "asynchronous", "message", "passing", "primitive", "and", "reflection", "capability", "are", "addressed", "in", "that", "order", ".", "2.1", "The", "Actor", "Model", "Actors", "are", "self", "contained", ",", "independent", "computational", "agents", "that", "communicate", "by", "asynchronous", "message", "passing", "-LSB-", "1", "-RSB-", ".", "An", "actor", "consists", "of", "its", "mail", "queue", "and", "behavior", ".", "It", "is", "identified", "by", "its", "unique", "mail", "address", ".", "The", "mail", "queue", "of", "an", "actor", "buffers", "incoming", "communications", "-LRB-", "i.e.", "messages", "-RRB-", ".", "The", "behavior", "of", "an", "actor", "specifies", "the", "action", "performed", "by", "an", "actor", "in", "response", "to", "a", "communication", ".", "An", "actor", "'s", "state", "is", "defined", "by", "its", "acquaintances", "-LRB-", "actors", "whose", "mail", "addresses", "are", "known", "to", "the", "actor", "-RRB-", ".", "All", "computation", "in", "an", "actor", "system", "is", "carried", "out", "in", "response", "to", "communications", "sent", "to", "actors", "in", "the", "system", ".", "Specifically", ",", "an", "actor", "may", "perform", "three", "kinds", "of", "actions", "when", "it", "accepts", "a", "message", ":", "ffl", "it", "may", "change", "its", "behavior", ".", "ffl", "it", "may", "send", "more", "communications", ".", "Communication", "is", "asynchronous", "and", "point-to-point", "to", "an", "acquaintance", ".", "The", "sender", "may", "not", "be", "known", ",", "but", "the", "recipient", "must", "be", "an", "acquaintance", "of", "the", "sender", ".", "The", "delivery", "of", "a", "message", "is", "guaranteed", "after", "an", "arbitrary", ",", "but", "finite", ",", "delay", "-LRB-", "a", "fairness", "condition", "-LSB-", "14", "-RSB-", "-RRB-", ".", "ffl", "it", "may", "create", "more", "actors", ".", "These", "actors", "have", "their", "own", "unique", "mail", "addresses", "which", "are", "initially", "known", "only", "to", "their", "creator", "and", "possibly", "themselves", ".", "The", "replacement", "behavior", "of", "an", "actor", "is", "specified", "through", "the", "become", "primitive", ".", "Whenever", "there", "is", "no", "executable", "become", "primitive", "in", "the", "thread", "of", "an", "actor", "computation", ",", "an", "identically", "behaving", "actor", "is", "assumed", "to", "be", "its", "replacement", "behavior", "-LRB-", "by", "default", "-RRB-", ".", "Note", "that", "communications", "may", "contain", "mail", "addresses", "of", "actors", ";", "thus", "the", "interconnection", "topology", "of", "an", "actor", "system", "is", "dynamic", ".", "Building", "on", "the", "basic", "actor", "execution", "model", ",", "we", "have", "designed", "a", "high-level", "programming", "language", ",", "named", "Hal", "-LSB-", "16", "-RSB-", ".", "Hal", "is", "a", "descendant", "of", "actor", "languages", "such", "as", "Acore", "-LSB-", "24", "-RSB-", ",", "Rosette", "-LSB-", "30", "-RSB-", "and", "ABCL/R", "-LSB-", "33", "-RSB-", ".", "It", "provides", "abstractions", "which", "facilitate", "software", "development", ".", "We", "describe", "the", "constructs", "used", "for", "such", "abstractions", "below", ",", "emphasizing", "implementation", "issues", ".", "A", "more", "detailed", "description", "of", "the", "language", "constructs", "and", "their", "motivation", "may", "be", "found", "in", "-LSB-", "16", ",", "17", "-RSB-", ".", "Note", ",", "however", ",", "that", "Hal", "is", "an", "evolving", "language", ".", "New", "high-level", "constructs", "are", "continually", "being", "developed", "and", "tested", "in", "order", "to", "explore", "ways", "of", "simplifying", "the", "task", "of", "parallel", "programming", "while", "improving", "efficiency", "in", "execution", ".", "2.2", "Specification", "of", "Synchronization", "Constraints", "Actor", "semantics", "does", "not", "require", "message", "order", "preservation", ".", "In", "order", "to", "protect", "the", "system", "as", "well", "as", "an", "actor", "from", "possible", "internal", "inconsistency", "due", "to", "message", "order", "nondeterminism", ",", "we", "need", "to", "be", "able", "to", "specify", "synchronization", "constraints", "on", "actors", ".", "Earlier", "work", "has", "established", "how", "synchronization", "constraints", "can", "be", "used", "for", "software", "pipelining", "-LSB-", "3", "-RSB-", ".", "In", "particular", ",", "such", "pipelining", "transforms", "some", "algorithms", ",", "such", "as", "the", "Cholesky", "Decomposition", "of", "a", "symmetric", "positive", "definite", "matrix", ",", "from", "unscalable", "algorithms", "into", "scalable", "ones", ".", "We", "have", "adopted", "a", "philosophy", "of", "synchronization", "constraints", "proposed", "in", "-LSB-", "15", "-RSB-", ".", "All", "constraints", "are", "expressed", "as", "disabling", "restrictions", ".", "A", "disabling", "restriction", "means", "whenever", "any", "condition", "associated", "with", "a", "method", "evaluates", "to", "TRUE", ",", "the", "underlying", "system", "closes", "the", "entry", "point", "of", "the", "method", "and", "disables", "the", "method", ".", "All", "messages", "with", "the", "method", "name", "are", "not", "accepted", "until", "all", "conditions", "evaluate", "to", "FALSE", ".", "Use", "of", "disabling", "restrictions", "instead", "of", "enabling", "conditions", "-LSB-", "30", ",", "6", "-RSB-", "ensures", "that", "the", "synchronization", "constraints", "which", "hold", "for", "a", "superclass", "also", "hold", "for", "the", "subclasses", "which", "are", "derived", "from", "the", "superclass", ".", "Therefore", ",", "programmers", "can", "reason", "about", "the", "subclasses", "in", "terms", "of", "the", "superclass", "-LSB-", "15", "-RSB-", ".", "Disabling", "restrictions", "are", "specified", "using", "the", "following", "syntax", ":", "-LRB-", "disable", "<msg-expr>", "<expr>", "-RRB-", "-LRB-", "all-except", "<msg-expr>", "<expr>", "-RRB-", "where", "<msg-expr>", "specifies", "the", "method", "name", "on", "which", "the", "constraint", "is", "imposed", ".", "Users", "are", "allowed", "to", "associate", "more", "than", "one", "synchronization", "constraint", "with", "a", "method", ".", "<expr>", "is", "a", "function", "of", "acquaintances", "-LRB-", "i.e.", "actor", "'s", "internal", "state", "-RRB-", "and", "the", "incoming", "communication", ".", "When", "<expr>", "evaluates", "to", "TRUE", ",", "the", "method", "specified", "in", "<msg-expr>", "is", "disabled", ".", "If", "a", "constraint", "is", "specified", "with", "all-except", ",", "all", "other", "methods", "are", "disabled", "except", "one", "specified", "in", "<msg-expr>", ".", "The", "incoming", "messages", "with", "the", "method", "name", "are", "kept", "in", "the", "actor", ".", "When", "all", "conditions", "associated", "with", "a", "method", "evaluate", "to", "FALSE", ",", "its", "entry", "point", "is", "open", "and", "the", "pending", "messages", "may", "be", "processed", ".", "A", "potentially", "significant", "source", "of", "inefficiency", "is", "the", "need", "to", "re-evaluate", "the", "constraint", "expressions", "of", "the", "pending", "messages", "that", "are", "kept", "in", "an", "actor", ".", "In", "the", "current", "implementation", ",", "whenever", "the", "actor", "state", "changes", ",", "all", "constraints", "associated", "with", "the", "pending", "messages", "are", "re-evaluated", ".", "To", "allow", "more", "efficient", "execution", ",", "we", "are", "currently", "experimenting", "with", "a", "scheme", "which", "requires", "the", "evaluation", "of", "only", "those", "constraints", "that", "depend", "on", "the", "acquaintances", "which", "have", "changed", ".", "Specifically", ",", "our", "scheme", "uses", "dynamic", "dependency", "lists", "between", "an", "actors", "acquaintance", "and", "constraints", ".", "2.3", "Inheritance", "Hal", "has", "been", "designed", "to", "satisfy", "all", "of", "Wegner", "'s", "qualifications", "to", "be", "classified", "as", "an", "object-oriented", "language", "-LSB-", "34", "-RSB-", ".", "Class", "variables", "are", "not", "supported", "since", "they", "imply", "shared", "data", "between", "actors", ",", "thus", "restricting", "their", "autonomy", "and", "distribution", ".", "Hal", "allows", "the", "inheritance", "of", "both", "code", "and", "synchronization", "constraints", ".", "As", "in", "Smalltalk", "-LSB-", "22", "-RSB-", ",", "any", "method", "of", "the", "superclass", "of", "an", "actor", "may", "be", "redefined", "in", "the", "definition", "of", "the", "actor", ".", "Synchronization", "constraints", ",", "however", ",", "may", "only", "be", "strengthened", ",", "not", "weakened", "-LSB-", "15", "-RSB-", ".", "In", "this", "sense", ",", "inheritance", "can", "be", "viewed", "as", "a", "means", "of", "specialization", ".", "However", ",", "we", "are", "investigating", "whether", "it", "is", "beneficial", "to", "allow", "first-class", "constraints", ".", "Figure", "1", "defines", "a", "set", "of", "stack", "classes", "which", "exemplify", "the", "possible", "usage", "of", "inheritance", "and", "synchronization", "constraints", ".", "The", "most", "basic", "actor", "class", "is", "Stack", "which", "has", "the", "methods", "to", "push", "and", "pop", "one", "element", "to", "and", "from", "the", "stack", ",", "respectively", ".", "This", "definition", "has", "a", "constraint", "-LRB-", ">", "count", "0", "-RRB-", "on", "pop", "which", "must", "hold", "in", "order", "for", "a", "pop", "message", "to", "be", "processed", ".", "The", "Bounded-stack", "class", "is", "a", "subclass", "of", "Stack", ".", "This", "class", "has", "a", "constraint", "on", "the", "absolute", "size", "of", "the", "stack", ";", "one", "can", "not", "make", "the", "stack", "hold", "more", "than", "max", "elements", "at", "any", "time", ".", "Since", "we", "-LRB-", "defActor", "Stack", "-LRB-", "stack", "count", "-RRB-", "-LRB-", "disable", "-LRB-", "pop", "-RRB-", "-LRB-", "<", "count", "0", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "push", "x", "-RRB-", "-LRB-", "update", "stack", "-LRB-", "cons", "x", "stack", "-RRB-", "-RRB-", "-LRB-", "update", "count", "-LRB-", "+", "count", "1", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "pop", "entrypoint", "continuation", "-RRB-", "-LRB-", "send", "entrypoint", "continuation", "-LRB-", "car", "stack", "-RRB-", "-RRB-", "-LRB-", "update", "stack", "-LRB-", "cdr", "stack", "-RRB-", "-RRB-", "-LRB-", "update", "count", "-LRB-", "-", "count", "1", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "defActor", "Bounded-stack", "-LRB-", "max", "-RRB-", "-LRB-", "superclass", "Stack", "-RRB-", "-LRB-", "disable", "-LRB-", "push", "-RRB-", "-LRB-", ">", "count", "max", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "defActor", "Pop2-stack", "-LRB-", "superclass", "Bounded-stack", "-RRB-", "-LRB-", "disable", "-LRB-", "pop2", "-RRB-", "-LRB-", "<", "count", "1", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "pop2", "entrypoint", "continuation", "-RRB-", "-LRB-", "send", "entrypoint", "continuation", "-LRB-", "car", "stack", "-RRB-", "-LRB-", "car", "-LRB-", "cdr", "stack", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "update", "stack", "-LRB-", "cdr", "-LRB-", "cdr", "stack", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "update", "count", "-LRB-", "-", "count", "2", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "Figure", "1", ":", "Stack", "actor", "classes", "have", "separated", "the", "specification", "of", "synchronization", "constraints", "from", "the", "code", "of", "the", "actual", "method", ",", "we", "only", "need", "to", "state", "the", "new", "constraint", "without", "having", "to", "redefine", "the", "push", "method", ".", "Note", "that", "more", "restrictions", "are", "imposed", "on", "the", "push", "method", "in", "Bounded-stack", "class", "than", "in", "Stack", "class", ".", "Finally", ",", "we", "define", "the", "Pop2-stack", "class", "as", "a", "subclass", "of", "the", "Bounded-stack", "class", "with", "the", "ability", "to", "pop", "two", "elements", "out", "of", "the", "stack", "as", "an", "atomic", "action", ".", "This", "behavior", "is", "provided", "through", "the", "pop2", "method", ".", "Under", "our", "constraint", "specification", "scheme", ",", "the", "definition", "of", "both", "pop", "and", "push", "methods", "can", "be", "inherited", "from", "the", "Stack", "class", "into", "both", "of", "these", "subclasses", ".", "Also", ",", "the", "incremental", "specialization", "of", "synchronization", "constraints", "is", "allowed", "through", "inheritance", "-LSB-", "15", "-RSB-", ".", "2.4", "State", "Change", "Replacement", "behavior", "is", "computed", "by", "the", "become", "primitive", "in", "the", "Actor", "model", ".", "An", "actor", "can", "become", "an", "entirely", "different", "actor", "as", "a", "result", "of", "processing", "the", "become", "primitive", ".", "However", ",", "in", "many", "cases", ",", "replacement", "behavior", "involves", "only", "one", "or", "two", "acquaintance", "changes", "of", "an", "actor", ".", "The", "update", "primitive", "gives", "us", "a", "convenient", "way", "to", "specify", "a", "replacement", "behavior", "with", "the", "change", "of", "one", "acquaintance", ".", "It", "has", "the", "following", "syntax", ":", "-LRB-", "update", "<acquaintance-name>", "<expr>", "-RRB-", "update", "obeys", "a", "single-assignment", "semantics", ":", "there", "may", "be", "only", "one", "become", "in", "any", "given", "method", "invocation", ".", "However", ",", "more", "than", "one", "update", "can", "appear", "if", "they", "do", "not", "update", "the", "same", "acquaintance", ".", "Since", "the", "effect", "of", "replacement", "behavior", "is", "invisible", "to", "the", "current", "computation", "of", "an", "actor", ",", "multiple", "update", "'s", "can", "be", "viewed", "as", "one", "become", "with", "several", "acquaintance", "changes", ".", "2.5", "Message-passing", "Mechanisms", "Besides", "the", "asynchronous", "message", "sending", "provided", "in", "Actor", "semantics", ",", "Hal", "provides", "two", "more", "message", "sending", "primitives", ":", "ssend", "and", "bsend", ".", "The", "former", "is", "the", "message", "order", "preserving", "send", "primitive", ",", "or", "sequenced", "send", ".", "The", "latter", "is", "the", "RPC", "style", "send", "primitive", "akin", "to", "Acore", "'s", "ask", "primitive", "-LSB-", "24", "-RSB-", ".", "Though", "they", "have", "some", "flavor", "of", "synchronous", "message", "sending", ",", "they", "are", "not", "synchronous", "in", "the", "sense", "that", "a", "sender", "does", "not", "need", "to", "know", "whether", "a", "receiver", "is", "ready", "to", "accept", "its", "message", "or", "not", ".", "ssend", "gives", "a", "sender", "a", "way", "to", "control", "the", "sequence", "of", "actions", "which", "occur", "at", "a", "receiver", ".", "bsend", "is", "just", "like", "a", "function", "call", "so", "that", "the", "computation", "proceeds", "with", "the", "reply", "from", "the", "receiver", ".", "ssend", "is", "implemented", "by", "tagging", "the", "message", "sent", "and", "reordering", "messages", ",", "if", "needed", ",", "at", "the", "recipient", "'s", "end", ".", "bsend", "can", "be", "used", "as", "a", "way", "to", "synchronize", "several", "coordinating", "actors", ".", "The", "implementation", "issues", "related", "to", "bsend", "are", "given", "in", "detail", "in", "Section", "3.1", ".", "2.6", "Suicide", "When", "executing", "a", "large", "actor", "program", ",", "many", "actors", "may", "be", "created", "as", "a", "result", "of", "computation", ".", "Some", "of", "them", "will", "never", "be", "used", "again", "after", "they", "have", "accepted", "certain", "communications", ".", "Once", "they", "process", "particular", "communications", ",", "they", "become", "garbage", "actors", ",", "wasting", "valuable", "resources", "until", "they", "are", "reclaimed", "by", "garbage", "collector", ".", "It", "is", "beneficial", "to", "reclaim", "the", "resources", "which", "belong", "to", "such", "actors", "as", "soon", "as", "they", "become", "garbage", ".", "suicide", "is", "the", "primitive", "which", "does", "exactly", "what", "we", "want", ".", "It", "is", "similar", "to", "that", "used", "in", "Cantor", "-LSB-", "8", "-RSB-", ".", "When", "an", "actor", "executes", "the", "suicide", "primitive", ",", "it", "frees", "all", "the", "resources", "which", "are", "allocated", "to", "it", "so", "that", "the", "resources", "can", "be", "reused", ".", "This", "primitive", "can", "be", "used", "by", "a", "programmer", "or", "the", "compiler", ".", "Readers", "can", "find", "an", "example", "for", "the", "latter", "case", "in", "Section", "3.1.1", ".", "Once", "garbage", "collection", "has", "been", "fully", "optimized", ",", "use", "of", "suicide", "would", "be", "discouraged", "since", "suicide", "creates", "unsafe", "programs", ".", "2.7", "Reflection", "Reflection", "is", "a", "system", "'s", "ability", "to", "reason", "about", "itself", "and", "manipulate", "a", "causally", "connected", "description", "of", "itself", "-LSB-", "28", ",", "23", "-RSB-", ".", "Causal", "connection", "means", "that", "changes", "to", "the", "description", "have", "an", "immediate", "effect", "on", "the", "described", "object", ".", "Note", ",", "however", ",", "that", "the", "changes", "go", "into", "effect", "only", "for", "the", "subsequent", "messages", ".", "In", "general", ",", "reflection", "may", "be", "used", "to", "customize", "the", "implementation", "of", "a", "system", "from", "within", "the", "language", ".", "Currently", ",", "Hal", "supports", "the", "minimal", "amount", "of", "reflection", "capability", "necessary", "to", "customize", "the", "system", "with", "respect", "to", "fault", "tolerance", "-LSB-", "2", "-RSB-", ".", "An", "actor", "can", "reify", "its", "dispatcher", "and", "mail", "queue", "-LRB-", "the", "conceptual", "entities", "responsible", "for", "sending", "and", "receiving", "the", "communication", ",", "respectively", "-RRB-", ".", "-LRB-", "Mailq", "<expr>", "-RRB-", "-LRB-", "Dispatcher", "<expr>", "-RRB-", "The", "value", "of", "<expr>", "is", "the", "mail", "address", "of", "an", "actor", ".", "Once", "the", "mail", "queue", "of", "an", "actor", "is", "reified", ",", "all", "subsequent", "messages", "destined", "to", "the", "actor", "are", "delivered", "through", "its", "reified", "mail", "queue", "actor", ".", "To", "get", "a", "next", "message", "to", "process", ",", "the", "actor", "notifies", "its", "reified", "mail", "queue", "actor", "by", "sending", "a", "special", "message", ".", "A", "synchronization", "constraint", "is", "associated", "with", "the", "method", "in", "the", "mail", "queue", "actor", "corresponding", "to", "the", "message", ",", "guaranteeing", "that", "the", "message", "is", "accepted", "only", "when", "the", "mail", "queue", "actor", "has", "one", "or", "more", "messages", "to", "deliver", ".", "Reification", "of", "the", "dispatcher", "of", "an", "actor", "causes", "all", "the", "outgoing", "messages", "from", "the", "actor", "to", "be", "sent", "through", "its", "reified", "dispatcher", "actor", ".", "These", "are", "implemented", "by", "using", "system-generated", "put", ",", "get", "and", "transmit", "messages", ",", "respectively", ".", "Since", "reified", "mail", "queue", "actors", "and", "reified", "dispatcher", "actors", "are", "just", "ordinary", "actors", ",", "we", "can", "use", "any", "actor", "as", "a", "mail", "queue", "actor", "or", "a", "dispatcher", "actor", ".", "However", ",", "our", "implementation", "requires", "that", "all", "mail", "queue", "actors", "share", "a", "set", "of", "common", "properties", "such", "as", "having", "put", "and", "get", "methods", ",", "being", "able", "to", "hold", "the", "incoming", "messages", "in", "its", "state", ",", "etc.", ".", "The", "dispatcher", "actors", "share", "their", "own", "common", "properties", "too", ".", "We", "enforce", "these", "rules", "by", "restricting", "the", "eligible", "actors", "for", "mail", "queue", "actors", "or", "dispatcher", "actors", ":", "the", "run-time", "system", "provides", "the", "default", "mail", "queue/dispatcher", "actor", "classes", "from", "which", "all", "the", "other", "mail", "queue", "and", "dispatcher", "actors", "inherit", ",", "respectively", "-LRB-", "Figure", "2", "-RRB-", ".", "Users", "can", "define", "a", "mail", "queue", "actor", "class", "as", "follows", ":", "-LRB-", "defActor", "myMailQ", "-LRB-", "acq1", "acq2", "-RRB-", "-LRB-", "superclass", "Mailq", "-RRB-", "-LRB-", "method", "-LRB-", "entry1", "a", "b", "c", "-RRB-", ":", "A", "dispatcher", "actor", "can", "be", "defined", "similarly", ".", "The", "compiler", "enforces", "all", "mail", "queue", "-LRB-", "dispatcher", "-RRB-", "actors", "to", "have", "the", "default", "Mailq", "-LRB-", "Dispatcher", "-RRB-", "actor", "class", "at", "the", "top", "of", "its", "class", "hierarchy", ".", "Similarly", ",", "for", "the", "dispatcher", "actors", ".", "Note", "that", "a", "user", "does", "not", "need", "to", "know", "about", "the", "existence", "of", "enqueue", ",", "dequeue", "and", "toss", "shown", "in", "Figure2", ".", "enqueue", "adds", "a", "message", "to", "the", "queue", "internal", "to", "a", "mail", "queue", "actor", ".", "dequeue", "-LRB-", "defActor", "Mailq", "-LRB-", "baseActor", "queue", "-RRB-", "-LRB-", "disable", "-LRB-", "get", "-RRB-", "-LRB-", "emptyqueue", "queue", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "put", "msg", "-RRB-", "-LRB-", "enqueue", "queue", "msg", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "get", "-RRB-", "-LRB-", "let", "-LSB-", "-LSB-", "msg", "-LRB-", "dequeue", "queue", "-RRB-", "-RSB-", "-RSB-", "-LRB-", "toss", "msg", "baseActor", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "defActor", "Dispatcher", "-LRB-", "method", "-LRB-", "transmit", "msg", "dest", "-RRB-", "-LRB-", "toss", "msg", "dest", "-RRB-", "-RRB-", "-RRB-", "Figure", "2", ":", "Default", "mail", "queue", "actor", "class", "and", "default", "dispatcher", "actor", "class", "returns", "the", "message", "at", "the", "front", "of", "the", "queue", ".", "toss", "is", "just", "a", "variation", "of", "send", ",", "the", "asynchronous", "message", "sending", "primitive", "but", "it", "uses", "an", "already", "packed", "message", "so", "that", "it", "saves", "unnecessary", "unpacking", "and", "packing", "of", "the", "message", ".", "These", "reflection", "capabilities", "have", "been", "used", "to", "carry", "out", "an", "experiments", "in", "implementing", "reusable", "software", "fault", "tolerance", "protocols", "-LSB-", "2", "-RSB-", ".", "Such", "capabilities", "can", "also", "be", "used", "to", "separate", "the", "code", "for", "resource", "management", ",", "such", "as", "that", "for", "optimal", "actor", "placement", ",", "from", "the", "code", "for", "an", "application", ".", "3", "Implementation", "Issues", "In", "this", "section", ",", "we", "discuss", "three", "transformation", "techniques", "used", "in", "the", "Hal", "compiler", ".", "Two", "transformations", "allow", "translation", "of", "RPC", "style", "send", "primitives", "into", "asynchronous", "send", "primitives", ".", "The", "last", "one", "is", "the", "transformation", "for", "code", "motion", "to", "optimize", "the", "implementation", "of", "update", "/", "become", "primitive", ".", "The", "transformed", "programs", "shown", "in", "the", "figures", "are", "written", "in", "Hal", "itself", "to", "make", "it", "easier", "to", "understand", "the", "meanings", "of", "the", "transformations", ".", "3.1", "Transformation", "on", "RPC", "Style", "Send", "Primitive", "Most", "distributed", "memory", "multi-processor", "systems", "do", "not", "support", "truly", "synchronous", "message", "sending", "in", "the", "sense", "that", "a", "sender", "and", "a", "receiver", "can", "not", "synchronize", "with", "each", "other", "when", "they", "exchange", "a", "message", ".", "In", "order", "to", "implement", "RPC", "style", "message", "sending", "-LRB-", "Section", "2.5", "-RRB-", "on", "such", "architectures", ",", "we", "must", "be", "able", "to", "express", "it", "in", "terms", "of", "ordinary", "asynchronous", "message", "sending", ".", "In", "the", "following", "two", "sections", ",", "we", "discuss", "the", "implementation", "of", "RPC", "style", "message", "sending", "in", "our", "compiler", ".", "3.1.1", "Join", "Continuation", "Recall", "that", "bsend", "is", "like", "a", "remote", "procedure", "call", "which", "returns", "a", "result", "back", "to", "the", "place", "where", "the", "call", "is", "made", ".", "By", "lifting", "into", "a", "separated", "actor", "the", "expressions", "that", "should", "be", "executed", "only", "after", "a", "bsend", "expression", "receives", "a", "reply", ".", "we", "can", "implement", "bsend", "in", "terms", "of", "send", ".", "Note", "that", "the", "lifted", "actor", "is", "the", "continuation", "of", "the", "bsend", "expression", ".", "Delegation", "of", "work", "to", "an", "independent", "continuation", "actor", "makes", "it", "possible", "to", "avoid", "unnecessary", "loss", "of", "concurrency", "in", "the", "execution", ".", "-LRB-", "send", "mB", "-LRB-", "new", "ActorB", "a", "b", "-RRB-", "x", "-LRB-", "bsend", "mC", "ActorC", "...", "-RRB-", "-LRB-", "bsend", "mD", "ActorD", "...", "-RRB-", "-LRB-", "bsend", "mE", "ActorE", "...", "-RRB-", "-RRB-", "Figure", "3", ":", "Example", "expression", "which", "uses", "bsends", "Consider", "the", "expression", "in", "Figure", "3", ".", "The", "send", "expression", "has", "no", "effect", "on", "the", "computation", "of", "the", "other", "parts", "of", "the", "method", "script", "except", "that", "it", "should", "be", "executed", "only", "after", "it", "gets", "all", "the", "replies", "from", "the", "bsend", "expressions", ".", "Simply", "making", "the", "continuation", "passing", "style", "-LRB-", "CPS", "-RRB-", "conversion", "-LSB-", "29", ",", "21", "-RSB-", "is", "not", "satisfactory", "since", "it", "sequentializes", "the", "execution", "of", "the", "bsend", "expressions", ",", "causing", "a", "loss", "of", "concurrency", ".", "We", "create", "an", "independent", "join", "continuation", "actor", "through", "dependency", "analyses", ".", "The", "expression", "in", "Figure", "3", "is", "transformed", "into", "the", "join", "continuation", "actor", "in", "Figure", "4", "and", "the", "expression", "in", "Figure", "5", ".", "The", "join", "continuation", "actor", "is", "responsible", "for", "the", "execution", "of", "the", "expressions", "that", "must", "be", "executed", "only", "after", "all", "replies", "arrive", "from", "the", "target", "actors", "of", "the", "bsend", "expressions", ".", "When", "the", "join", "continuation", "actor", "gets", "a", "reply", "from", "one", "of", "target", "actors", ",", "it", "checks", "if", "all", "the", "other", "values", "have", "been", "received", ".", "If", "so", ",", "it", "executes", "the", "assigned", "expressions", ".", "If", "not", ",", "it", "stores", "the", "value", "in", "its", "state", "and", "waits", "until", "all", "values", "are", "available", ".", "The", "availability", "of", "each", "value", "is", "kept", "in", "a", "flag", "which", "is", "associated", "with", "the", "corresponding", "acquaintance", "variable", ".", "In", "Figure", "4", ",", "a", "join", "continuation", "actor", "is", "created", "with", "the", "appropriate", "initial", "values", "for", "its", "acquaintance", "variables", "and", "the", "environment", "in", "which", "it", "executes", "the", "assigned", "expressions", ".", "Note", "that", "a", "unique", "method", "name", "corresponding", "to", "the", "entry", "point", "of", "each", "reply", "message", "as", "well", "as", "the", "join", "continuation", "actor", "is", "added", "in", "the", "original", "bsend", "expressions", ".", "The", "definition", "of", "receiver", "actors", "should", "be", "modified", "accordingly", "to", "reflect", "the", "change", "in", "the", "sender", "actor", "'s", "definition", ".", "-LRB-", "defActor", "JC", "-LRB-", "acq1", "acq2", "v1", "v2", "v3", "f1", "f2", "f3", "-RRB-", "-LRB-", "method", "-LRB-", "ep1", "x", "-RRB-", "-LRB-", "if", "-LRB-", "and", "f2", "f3", "-RRB-", "-LRB-", "block", "-LRB-", "send", "mB", "acq1", "acq2", "x", "v2", "v3", "-RRB-", "-LRB-", "suicide", "-RRB-", "-RRB-", "-LRB-", "block", "-LRB-", "update", "v1", "x", "-RRB-", "-LRB-", "update", "f1", "TRUE", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "ep2", "x", "-RRB-", "-LRB-", "if", "-LRB-", "and", "f1", "f3", "-RRB-", "-LRB-", "block", "-LRB-", "send", "mB", "acq1", "acq2", "v1", "x", "v3", "-RRB-", "-LRB-", "suicide", "-RRB-", "-RRB-", "-LRB-", "block", "-LRB-", "update", "v2", "x", "-RRB-", "-LRB-", "update", "f2", "TRUE", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "method", "-LRB-", "ep3", "x", "-RRB-", "-LRB-", "if", "-LRB-", "and", "f1", "f2", "-RRB-", "-LRB-", "block", "-LRB-", "send", "mB", "acq1", "acq2", "v1", "v2", "x", "-RRB-", "-LRB-", "suicide", "-RRB-", "-RRB-", "-LRB-", "block", "-LRB-", "update", "v3", "x", "-RRB-", "-LRB-", "update", "f3", "TRUE", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "Figure", "4", ":", "Extracted", "Join", "Continuation", "actor", "The", "transformation", "given", "in", "this", "section", "is", "similar", "to", "the", "transformation", "done", "in", "Acore", "-LSB-", "24", "-RSB-", ".", "-LRB-", "let", "*", "-LSB-", "-LSB-", "jc", "-LRB-", "new", "JC", "-LRB-", "new", "ActorB", "a", "b", "-RRB-", "x", "FALSE", "FALSE", "FALSE", "-RRB-", "-RSB-", "-RSB-", "-LRB-", "send", "mC", "ActorC", "...", "ep1", "jc", "-RRB-", "-LRB-", "send", "mD", "ActorD", "...", "ep2", "jc", "-RRB-", "-LRB-", "send", "mE", "ActorE", "...", "ep3", "jc", "-RRB-", "-RRB-", "Figure", "5", ":", "The", "transformed", "expression", "ActorAActorBActorCActorDActorEJC", "Figure", "6", ":", "Message", "trajectory", "after", "extracting", "the", "Join", "Continuation", "actor", "However", ",", "there", "are", "two", "major", "differences", ".", "First", ",", "by", "associating", "with", "each", "acquaintance", "variable", "an", "explicit", "flag", "which", "holds", "values", "received", ",", "we", "eliminate", "the", "overhead", "of", "system-wide", "unique", "value", ".", "Second", ",", "the", "suicide", "primitive", "-LRB-", "Section", "2.6", "-RRB-", "is", "used", "to", "optimize", "memory", "reclamation", ".", "Because", "a", "join", "continuation", "actor", "is", "defined", "by", "the", "compiler", ",", "the", "compiler", "knows", "that", "the", "continuation", "actor", "will", "become", "garbage", "after", "it", "has", "been", "used", "only", "once", ".", "Thus", ",", "the", "compiler", "includes", "suicide", "in", "the", "definition", "so", "that", "the", "resources", "allocated", "to", "a", "join", "continuation", "actor", "can", "be", "reused", "as", "soon", "as", "it", "becomes", "garbage", ".", "Figure", "6", "shows", "the", "message", "sending", "pattern", "when", "the", "transformed", "program", "is", "executed", ".", "-LRB-", "defActor", "Customer", "-LRB-", "a", "b", "c", "-RRB-", "-LRB-", "method", "-LRB-", "m1", "x", "y", "-RRB-", ":", "-LRB-", "update", "a", "-LRB-", "bsend", "m2", "-LRB-", "new", "Server", "-RRB-", "x", "y", "-RRB-", ":", "-LRB-", "a", "-RRB-", "Before", "Transformation", "-LRB-", "defActor", "Customer", "-LRB-", "a", "b", "c", "flag", "-RRB-", "-LRB-", "all-except", "m1-continuation", "flag", "-RRB-", "-LRB-", "method", "-LRB-", "m1", "x", "y", "-RRB-", ":", "-LRB-", "send", "m2", "-LRB-", "new", "Server", "-RRB-", "x", "y", "m1-continuation", "self", "-RRB-", "-LRB-", "update", "flag", "TRUE", "-RRB-", ":", "-RRB-", "-LRB-", "method", "-LRB-", "m1-continuation", "x", "-RRB-", "-LRB-", "update", "a", "x", "-RRB-", "-LRB-", "update", "flag", "FALSE", "-RRB-", "-RRB-", ":", "-LRB-", "b", "-RRB-", "After", "Transformation", "Figure", "7", ":", "Transformation", "with", "method", "splitting", "3.1.2", "Method", "Splitting", "When", "a", "bsend", "expression", "is", "used", "with", "the", "specification", "of", "replacement", "behavior", ",", "we", "are", "forced", "to", "sacrifice", "some", "concurrency", "in", "order", "to", "maintain", "the", "consistency", "of", "the", "actor", "'s", "state", "-LRB-", "Figure", "7", ".", "a", "-RRB-", ".", "If", "we", "allow", "the", "sender", "to", "proceed", "before", "it", "gets", "the", "reply", "back", ",", "the", "sender", "may", "see", "the", "old", "value", "of", "the", "acquaintance", "rather", "than", "a", "new", "value", "when", "it", "accepts", "the", "next", "message", ".", "In", "this", "situation", ",", "we", "can", "not", "delegate", "the", "work", "dependent", "on", "the", "bsend", "expression", "to", "a", "continuation", ".", "Rather", ",", "we", "split", "the", "method", "executing", "the", "bsend", "expression", "and", "add", "a", "synchronization", "constraint", "to", "the", "resulting", "continuation", "method", "-LRB-", "Figure", "7", "-RRB-", ".", "All", "methods", "except", "the", "desired", "continuation", "method", "are", "disabled", "until", "the", "reply", "has", "been", "received", ",", "guaranteeing", "a", "safe", "update", ".", "3.2", "Optimization", "on", "the", "Replacement", "Behavior", "3.2.1", "Transformation", "for", "Code", "Motion", "of", "Replacement", "Behavior", "The", "semantics", "of", "the", "Actor", "model", "dictates", "that", "each", "communication", "to", "an", "actor", "is", "processed", "on", "its", "own", "version", "of", "the", "actor", "'s", "state", ",", "allowing", "pipelining", "in", "the", "execution", "of", "the", "method", "containing", "become", "/", "update", "-LSB-", "1", "-RSB-", ".", "This", "internal", "concurrency", "implies", "that", "each", "expression", "in", "a", "method", "can", "be", "executed", "concurrently", "and", "the", "effect", "of", "replacement", "behavior", "is", "visible", "only", "to", "subsequent", "communications", ".", "However", ",", "it", "can", "be", "very", "expensive", "to", "utilize", "all", "available", "internal", "concurrency", "on", "conventional", "multiprocessor", "architectures", ".", "We", "sacrifice", "the", "concurrent", "execution", "of", "each", "expression", "of", "a", "method", "while", "retaining", "the", "single", "assignment", "semantic", "of", "the", "replacement", "behavior", ".", "However", ",", "simple", "compilation", "of", "Hal", "program", "into", "sequential", "code", "preserving", "its", "textual", "order", "is", "not", "sufficient", "to", "make", "the", "effect", "of", "replacement", "behavior", "invisible", "to", "the", "current", "computation", ".", "In", "other", "words", ",", "the", "send", "expression", "in", "the", "following", "method", "definition", "may", "use", "the", "new", "value", "of", "balance", "where", "it", "is", "supposed", "to", "use", "the", "old", "value", ".", "-LRB-", "method", "-LRB-", "deposit", "amount", "-RRB-", "-LRB-", "update", "balance", "-LRB-", "+", "balance", "amount", "-RRB-", "-RRB-", "-LRB-", "send", "deposit", "LogActor", "balance", "amount", "-RRB-", "-RRB-", "A", "straight-forward", "solution", "is", "to", "have", "a", "copy", "of", "an", "actor", "'s", "acquaintance", "list", ",", "and", "perform", "an", "update", "on", "the", "copy", "rather", "than", "on", "the", "original", "acquaintance", "list", ".", "At", "the", "end", "of", "the", "computation", ",", "we", "can", "simply", "replace", "the", "acquaintance", "list", "with", "the", "copy", ".", "This", "solution", "is", "simple", "but", "has", "a", "very", "high", "overhead", "since", "it", "requires", "the", "entire", "acquaintance", "list", "to", "be", "copied", "whenever", "we", "execute", "the", "method", "containing", "become", "/", "update", "primitives", ".", "Our", "solution", "is", "to", "be", "as", "lazy", "as", "possible", ".", "The", "very", "internal", "concurrency", "that", "gives", "us", "the", "problem", "also", "allows", "us", "to", "solve", "it", "efficiently", ".", "We", "move", "become", "/", "update", "expressions", "to", "the", "end", "of", "the", "computation", "so", "that", "we", "can", "perform", "update", "in", "place", ".", "The", "visibility", "of", "the", "effect", "of", "become", "/", "update", "primitives", "only", "to", "the", "subsequent", "messages", "guarantees", "the", "operational", "equivalence", "between", "the", "program", "before", "the", "transformation", "and", "the", "program", "after", "the", "transformation", ".", "The", "use", "of", "bsend", "'s", "need", "not", "affect", "the", "equivalence", "since", "they", "have", "already", "been", "detached", "from", "the", "corresponding", "update", "'s", ".", "-LRB-", "if", "-LRB-", "_", "A", "_", "-RRB-", "-LRB-", "block", ":", "-LRB-", "update", "a", "x", "-RRB-", ":", "-RRB-", "-LRB-", "block", ":", "-LRB-", "update", "a", "y", "-RRB-", ":", "-RRB-", "-RRB-", "-LRB-", "if", "-LRB-", "_", "B", "_", "-RRB-", "-LRB-", "block", ":", "-LRB-", "update", "c", "x", "-RRB-", ":", "-RRB-", "-LRB-", "block", ":", "-LRB-", "update", "c", "y", "-RRB-", ":", "-RRB-", "-RRB-", "-RRB-", "Figure", "8", ":", "Before", "the", "transformation", "to", "optimize", "replacement", "behavior", "Simply", "moving", "update", "'s", "to", "the", "end", "of", "the", "method", "is", "not", "enough", "when", "a", "program", "has", "more", "than", "one", "if", "expression", "-LRB-", "Figure", "8", "-RRB-", ".", "We", "split", "each", "if", "into", "two", "if", "s", ",", "one", "with", "no", "update", "and", "the", "other", "with", "update", "'s", "only", ".", "All", "if", "expressions", "without", "update", "'s", "are", "placed", "before", "all", "if", "expressions", "with", "update", "'s", "only", ".", "Splitting", "if", "expression", "makes", "two", "copies", "of", "the", "same", "if", "condition", "expression", ".", "Unnecessary", "evaluation", "of", "the", "same", "conditions", "can", "be", "saved", "by", "introducing", "a", "let", "binding", "-LRB-", "Figure", "9", "-RRB-", ".", "Nested", "if", "expressions", "are", "not", "difficult", "to", "transform", ".", "let", "bindings", "introduced", "during", "splitting", "inner", "if", "expressions", "are", "promoted", "to", "the", "outer", "block", "so", "that", "the", "outer", "if", "expression", "is", "split", "as", "before", ".", "-LRB-", "let", "*", "-LSB-", "-LSB-", "ra", "-LRB-", "_", "A", "_", "-RRB-", "-RSB-", "-LSB-", "rb", "-LRB-", "_", "B", "_", "-RRB-", "-RSB-", "-RSB-", "-LRB-", "if", "ra", "-LRB-", "block", "...", "-RRB-", "-LRB-", "block", "...", "-RRB-", "-RRB-", "-LRB-", "if", "rb", "-LRB-", "block", "...", "-RRB-", "-LRB-", "block", "...", "-RRB-", "-RRB-", "-LRB-", "if", "ra", "-LRB-", "block", "-LRB-", "update", "a", "x", "-RRB-", "-RRB-", "-LRB-", "block", "-LRB-", "update", "b", "y", "-RRB-", "-RRB-", "-RRB-", "-LRB-", "if", "rb", "-LRB-", "block", "-LRB-", "update", "c", "x", "-RRB-", "-RRB-", "-LRB-", "block", "-LRB-", "update", "c", "y", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "-RRB-", "Figure", "9", ":", "After", "the", "transformation", "to", "optimize", "replacement", "behavior", "3.2.2", "Performance", "Comparison", "Table", "1", "shows", "the", "execution", "time", "of", "different", "number", "of", "update", "'s", "when", "we", "compiled", "an", "actor", "program", "with", "6", "acquaintance", "variables", "using", "the", "earlier", "version", "-LSB-", "16", "-RSB-", "and", "the", "current", "version", "of", "the", "Hal", "compiler", ".", "The", "current", "version", "uses", "the", "optimization", "which", "is", "mentioned", "in", "Section", "3.2.1", ".", "The", "reason", "why", "the", "earlier", "version", "of", "Hal", "takes", "much", "more", "time", "to", "perform", "update", "'s", "is", "that", "update", "'s", "are", "implemented", "in", "the", "straight-forward", "way", "by", "copying", "the", "acquaintance", "list", "of", "the", "actor", ".", "number", "of", "updates", "1", "2", "3", "4", "5", "Execution", "time", "unoptimized", "update", "285 304 323 342", "361", "-LRB-", "unit", ":", "cycle", "-RRB-", "in", "place", "update", "17", "26", "35", "44", "53", "method", "size", "unoptimized", "update", "32", "33", "33", "33", "33", "-LRB-", "unit", ":", "byte", "-RRB-", "in", "place", "update", "17", "21", "24", "26", "27", "Table", "1", ":", "Execution", "time", "for", "updates", "Table", "1", "also", "shows", "the", "code", "size", "per", "method", "in", "the", "executable", "object", "file", ".", "In", "all", "cases", ",", "optimized", "update", "yields", "less", "code", "size", ".", "Currently", ",", "Hal", "programs", "run", "on", "the", "top", "of", "the", "CHARM", "programming", "system", "which", "is", "a", "C", "based", "system", "-LSB-", "20", "-RSB-", ".", "CHARM", "has", "been", "implemented", "on", "both", "shared", "and", "distributed", "memory", "machines", ".", "The", "total", "execution", "time", "for", "this", "simple", "example", "was", "about", "0.0527", "sec", ".", "Over", "90", "%", "of", "the", "time", "was", "spent", "to", "execute", "CHARM", "kernel", "code", ",", "showing", "that", "the", "start-up", "overhead", "of", "CHARM", "is", "very", "high", ".", "In", "order", "to", "further", "improve", "performance", ",", "we", "are", "implementing", "our", "compiler", "on", "a", "lower-level", "run-time", "system", ",", "namely", ",", "CHOICES", "-LSB-", "10", "-RSB-", ",", "an", "object-oriented", "distributed", "operating", "system", ",", "which", "is", "known", "to", "be", "more", "efficient", ".", "4", "Related", "work", "In", "this", "section", ",", "we", "briefly", "compare", "our", "work", "with", "several", "previous", "efforts", "to", "build", "actor-based", "parallel", "languages", "and", "their", "compilers", ".", "Note", "that", "the", "first", "three", "languages", ",", "Act", ",", "Cantor", "and", "Acore", ",", "do", "not", "support", "inheritance", "and", "do", "not", "provide", "explicit", "constructs", "for", "specifying", "synchronization", "constraints", ".", "Act", ":", "It", "compiles", "the", "Scripter", "language", "into", "code", "which", "can", "be", "executed", "on", "a", "simulator", "for", "the", "Actor", "model", ",", "called", "Apiary", ",", "written", "on", "Symbolics", "3600", "Lisp", "machines", ".", "The", "Act", "compiler", "changes", "most", "system", "generated", "message", "sending", "to", "lisp", "function", "calls", "-LSB-", "13", "-RSB-", ".", "Cantor", ":", "Programs", "written", "for", "the", "Cantor", "system", "-LSB-", "8", "-RSB-", "can", "run", "on", "either", "sequential", "machines", "or", "Intel", "iPSC", "series", "machines", ".", "All", "communication", "is", "done", "through", "asynchronous", "message", "passing", ".", "Acore", ":", "C.", "Hewitt", "'s", "group", "at", "M.I.T.", "implemented", "the", "Acore", "compiler", "on", "the", "Apiary", "operating", "system", "-LSB-", "24", "-RSB-", ".", "It", "allows", "for", "synchronous", "message", "passing", "as", "well", "as", "asynchronous", "message", "passing", ".", "Rosette", ":", "Developed", "at", "MCC", "in", "collaboration", "with", "one", "of", "the", "authors", ",", "Rosette", "-LSB-", "30", "-RSB-", "runs", "on", "a", "uni-processor", "virtual", "machine", ".", "It", "supports", "synchronous", "and", "asynchronous", "message", "passing", ".", "Synchronization", "constraints", "are", "specified", "through", "enabled", "sets", "-LSB-", "31", "-RSB-", "which", "specify", "the", "methods", "that", "may", "be", "invoked", "by", "the", "next", "message", ".", "Enabled", "sets", "are", "mixed", "in", "with", "the", "code", "so", "that", "Rosette", "can", "not", "support", "incremental", "specialization", "of", "synchronization", "constraints", ".", "ABCL/R", ":", "ABCL", "-LRB-", "Actor", "Based", "Concurrent", "Language", "-RRB-", "provides", "for", "asynchronous", ",", "synchronous", "and", "future", "based", "message", "passing", ".", "ABCL", "also", "allows", "the", "specification", "of", "synchronization", "constraints", ".", "One", "difference", "of", "Hal", "and", "ABCL", "is", "that", "ABCL", "does", "not", "support", "inheritance", "-LSB-", "35", "-RSB-", ".", "5", "Current", "Status", "and", "Future", "Research", "Direction", "Some", "practical", "examples", "show", "the", "performance", "advantage", "of", "using", "fine-grained", "inherent", "concurrency", "in", "the", "Actor", "model", "for", "distributed", "execution", "on", "multicomputers", "-LSB-", "3", "-RSB-", ".", "However", ",", "to", "design", "an", "actorbased", "language", "which", "is", "easy", "to", "use", "and", "machine", "independent", ",", "we", "need", "to", "add", "several", "linguistic", "extensions", "to", "the", "basic", "Actor", "model", ".", "For", "example", ",", "the", "ability", "to", "easily", "describe", "synchronization", "constraints", "in", "a", "high-level", ",", "abstract", "and", "reusable", "way", "is", "indispensable", "in", "a", "high-level", "concurrent", "language", ":", "such", "constructs", "guarantee", "the", "consistent", "and", "reliable", "execution", "of", "parallel", "algorithms", ".", "Hal", "supports", "the", "specialization", "and", "factorization", "of", "both", "code", "and", "synchronization", "constraints", "using", "inheritance", ".", "Other", "features", "such", "as", "sequenced", "send", ",", "RPC", "style", "send", ",", "and", "update", "are", "added", "to", "make", "the", "language", "a", "general", "and", "easily", "programmable", "one", ".", "The", "Hal", "compiler", "generates", "a", "program", "written", "in", "CHARM", "-LSB-", "20", "-RSB-", "as", "its", "output", ".", "Optimization", "on", "the", "update", "primitive", "is", "implemented", "in", "Hal", ".", "We", "are", "implementing", "the", "transformation", "to", "extract", "a", "join", "continuation", "actor", ".", "Optimization", "on", "synchronization", "constraints", "is", "going", "to", "be", "added", "in", "near", "future", ".", "Active", "research", "is", "being", "done", "to", "incorporate", "distributed", "data", "structures", "in", "our", "compiler", ".", "A", "fair", "amount", "of", "effort", "has", "been", "made", "to", "preserve", "the", "concurrency", "which", "is", "naturally", "expressed", "in", "Hal", ".", "Currently", ",", "the", "run-time", "system", "for", "Hal", "does", "not", "support", "garbage", "collection", ".", "Distributed", "garbage", "collector", "-LSB-", "19", ",", "32", "-RSB-", "should", "be", "incorporated", "in", "near", "future", ".", "Finally", ",", "the", "compiler", "should", "be", "able", "to", "provide", "the", "run-time", "system", "with", "information", "on", "load", "balancing", "and", "locality", "control", "using", "modular", "specifications", "given", "by", "the", "user", "-LSB-", "3", "-RSB-", ".", "Acknowledgments", "We", "would", "like", "to", "thank", "other", "members", "of", "Open", "Systems", "Laboratory", "at", "the", "University", "of", "Illinois", "at", "Urbana-Illinois", ",", "in", "particular", ",", "Svend", "Frolund", "and", "Daniel", "Sturman", "for", "their", "constructive", "suggestions", "for", "designing", "Hal", ",", "and", "Raju", "Panwar", "and", "Chirstian", "Callsen", "for", "careful", "reading", "the", "draft", "of", "this", "paper", ".", "We", "also", "appreciate", "Chris", "Houck", ",", "a", "former", "member", "of", "OSL", ",", "for", "his", "work", "on", "designing", "and", "implementing", "the", "earlier", "version", "of", "Hal", ".", "References", "-LSB-", "1", "-RSB-", "G.", "Agha", ".", "Actors", ":", "A", "Model", "of", "Concurrent", "Computation", "in", "Distributed", "Systems", ".", "MIT", "Press", ",", "1986", ".", "-LSB-", "2", "-RSB-", "G.", "Agha", ",", "S.", "Frolund", ",", "R.", "Panwar", ",", "and", "D.", "Sturman", ".", "A", "Linguistic", "Framework", "for", "Dynamic", "Composition", "of", "Fault-Tolerance", "Protocols", ".", "Technical", "Report", "UIUCDCS-R-92-1730", ",", "University", "of", "Illinois", "at", "Urbana-Champaign", ",", "April", "1992", ".", "-LSB-", "3", "-RSB-", "G.", "Agha", ",", "C.", "Houck", ",", "and", "R.", "Panwar", ".", "Distributed", "Execution", "of", "Actor", "Systems", ".", "In", "Proceedings", "of", "Fourth", "Workshop", "on", "Languages", "and", "Compilers", "for", "Parallel", "Computing", ",", "Santa", "Clara", ",", "1991", ".", "-LSB-", "4", "-RSB-", "A.", "Aho", ",", "R.", "Sethi", ",", "and", "J.", "Ullman", ".", "Compilers", ":", "Principles", ",", "Techniques", "and", "Tools", ".", "Addison", "Wesly", ",", "1986", ".", "-LSB-", "5", "-RSB-", "R.", "Allen", "and", "K.", "Kennedy", ".", "Automatic", "Translation", "of", "Fortran", "Program", "to", "Vector", "Form", ".", "ACM", "Transactions", "on", "Programming", "Languages", "and", "Systems", ",", "9", ",", "1987", ".", "-LSB-", "6", "-RSB-", "P.", "America", "and", "F.", "van", "der", "Linden", ".", "A", "Parallel", "Object-Oriented", "Language", "with", "Inheritance", "and", "Subtyping", ".", "In", "OOPSLA", "'", "90", ",", "pages", "161", "-LCB-", "168", ",", "October", "1990", ".", "-LSB-", "7", "-RSB-", "Arvind", "and", "D.", "Culler", ".", "Annual", "Reviews", "in", "Computer", "Science", ",", "chapter", "Dataflow", "Architecture", ",", "pages", "225", "-LCB-", "253", ".", "Annual", "Reviews", "Inc.", ",", "1986", ".", "-LSB-", "8", "-RSB-", "W.", "Athas", "and", "C.", "Seitz", ".", "Cantor", "User", "Report", "Version", "2.0", ".", "Technical", "Report", "5232", ":", "TR", ":86", ",", "California", "Institute", "of", "Technology", ",", "Pasadena", ",", "CA", ",", "January", "1987", ".", "-LSB-", "9", "-RSB-", "S.", "Brookes", ",", "C.", "Hoare", ",", "and", "A.", "Roscoe", ".", "A", "Theory", "of", "Communicating", "Sequential", "Processes", ".", "Communications", "of", "the", "ACM", ",", "31:560", "-LCB-", "599", ",", "July", "1984", ".", "-LSB-", "10", "-RSB-", "Roy", "H.", "Campbell", ",", "Vincent", "Russo", ",", "and", "Gary", "Johnston", ".", "Choices", ":", "The", "Design", "of", "a", "Multiprocessor", "Operating", "System", ".", "In", "Proceedings", "of", "the", "USENIX", "C++", "Workshop", ",", "pages", "109", "-LCB-", "123", ",", "Santa", "Fe", ",", "New", "Mexico", ",", "November", "1987", ".", "IEEE", ".", "-LSB-", "11", "-RSB-", "N.", "Carriero", "and", "D.", "Gelernter", ".", "Linda", "in", "Context", ".", "Communication", "of", "the", "ACM", ",", "32", "-LRB-", "4", "-RRB-", ":444", "-LCB-", "458", ",", "April", "1989", ".", "-LSB-", "12", "-RSB-", "A.", "Chien", ".", "Concurrent", "Aggregates", ":", "An", "Object-Oriented", "Language", "for", "Fine-Grained", "MessagePassing", "Machines", ".", "PhD", "thesis", ",", "MIT", ",", "July", "1990", ".", "-LSB-", "13", "-RSB-", "P.", "de", "Jong", ".", "Compilation", "into", "Actors", ".", "SIGPLAN", "Notices", ",", "21", "-LRB-", "10", "-RRB-", ":68", "-LCB-", "77", ",", "October", "1986", ".", "-LSB-", "14", "-RSB-", "N.", "Francez", ".", "Fairness", ".", "Texts", "and", "Monographs", "in", "Computer", "Science", ".", "Springer-Verlag", ",", "1986", ".", "-LSB-", "15", "-RSB-", "S.", "Frolund", ".", "Inheritance", "of", "Synchronization", "Constraints", "in", "Concurrent", "Object-Oriented", "Programming", "Languages", ".", "In", "Proceedings", "of", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "1992", ".", "-LRB-", "to", "appear", "-RRB-", ".", "-LSB-", "16", "-RSB-", "C.", "Houck", ".", "Run-Time", "System", "Support", "for", "Distributed", "Actor", "Programs", ".", "Master", "'s", "thesis", ",", "University", "of", "Illinois", "at", "Urbana-Champaign", ",", "January", "1992", ".", "-LSB-", "17", "-RSB-", "C.", "Houck", "and", "G.", "Agha", ".", "HAL", ":", "A", "High-level", "Actor", "Language", "and", "Its", "Distributed", "Implementation", ".", "In", "21st", "International", "Conference", "on", "Parallel", "Processing", "-LRB-", "ICPP", "'", "92", "-RRB-", ",", "August", "1992", ".", "-LRB-", "to", "appear", "-RRB-", ".", "-LSB-", "18", "-RSB-", "P.", "Hudak", ".", "Conception", ",", "Evolution", "and", "Application", "of", "Functional", "Programming", "Languages", ".", "ACM", "Computing", "Surveys", ",", "21", "-LRB-", "3", "-RRB-", ":359", "-LCB-", "411", ",", "September", "1989", ".", "-LSB-", "19", "-RSB-", "D.", "Kafura", ",", "D.", "Washabaugh", ",", "and", "J.", "Nelson", ".", "Garbage", "Collection", "of", "Actors", ".", "In", "OOPSLA", "'", "90", ",", "pages", "126", "-LCB-", "134", ",", "October", "1990", ".", "-LSB-", "20", "-RSB-", "L.", "Kale", ".", "The", "CHARM", "-LRB-", "3.0", "-RRB-", "Programming", "Language", "Manual", ".", "University", "of", "Illinois", ",", "February", "1992", ".", "-LSB-", "21", "-RSB-", "D.", "A.", "Kranz", ".", "ORBIT", ":", "An", "Optimizing", "Compiler", "for", "Scheme", ".", "PhD", "thesis", ",", "Yale", "University", ",", "February", "1988", ".", "YALEU/DCS/RR", "-632", ".", "-LSB-", "22", "-RSB-", "W.", "LaLonde", "and", "J.", "Pugh", ".", "Inside", "Smalltalk", ",", "volume", "1", ".", "Prentice", "Hall", ",", "1990", ".", "-LSB-", "23", "-RSB-", "P.", "Maes", ".", "computational", "reflection", ".", "Technical", "Report", "87-2", ",", "Vrije", "University", ".", "Artificial", "Intelligence", "Laboratory", ",", "1987", ".", "-LSB-", "24", "-RSB-", "C.", "Manning", ".", "ACORE", ":", "The", "Design", "of", "a", "Core", "Actor", "Language", "and", "its", "Compiler", ".", "Master", "'s", "thesis", ",", "MIT", ",", "Artificial", "Intelligence", "Laboratory", ",", "August", "1987", ".", "-LSB-", "25", "-RSB-", "D.", "May", ",", "R.", "Shepherd", ",", "and", "C.", "Keane", ".", "Communicating", "Process", "Architecture", ":", "Transputer", "and", "Occam", ".", "In", "P.", "Treleaven", "and", "M.", "Vanneschi", ",", "editors", ",", "Future", "Parallel", "Architecture", ",", "pages", "35", "-LCB-", "81", ".", "Springer-Verlag", ",", "1986", ".", "LNCS", "272", ".", "-LSB-", "26", "-RSB-", "D.", "Padua", "and", "M.", "Wolfe", ".", "Advance", "compiler", "optimizations", "for", "supercomputers", ".", "Communication", "of", "the", "ACM", ",", "29", "-LRB-", "12", "-RRB-", ":1184", "-LCB-", "1201", ",", "December", "1986", ".", "-LSB-", "27", "-RSB-", "C.D.", "Polychronopoulos", ",", "M.B.", "Girkar", ",", "M.R.", "Haghighat", ",", "C.L.", "Lee", ",", "B.P.", "Leung", ",", "and", "D.A.", "Schouten", ".", "The", "Structure", "of", "Parafrase-2", ":", "an", "Advanced", "Parallelizing", "Compiler", "for", "C", "and", "Fortran", ".", "In", "D.", "Gelernter", ",", "A.", "Nicolau", ",", "and", "D.", "Padua", ",", "editors", ",", "Languages", "and", "Compilers", "for", "Parallel", "Computing", ",", "pages", "423", "-LCB-", "453", ".", "The", "MIT", "press", ",", "1990", ".", "-LSB-", "28", "-RSB-", "B.", "C.", "Smith", ".", "Reflection", "and", "semantics", "in", "a", "procedural", "language", ".", "Technical", "Report", "272", ",", "Massachusetts", "Institute", "of", "Technology", ".", "Laboratory", "of", "Computer", "Science", ",", "1982", ".", "-LSB-", "29", "-RSB-", "G.L.", "Jr.", ".", "Steele", ".", "RABBIT", ":", "a", "compiler", "for", "SCHEME", ".", "AI", "Memo", "474", ",", "MIT", ",", "May", "1978", ".", "-LSB-", "30", "-RSB-", "C.", "Tomlinson", ",", "W.", "Kim", ",", "M.", "Schevel", ",", "V.", "Singh", ",", "B.", "Will", ",", "and", "G.", "Agha", ".", "Rosette", ":", "An", "Object", "Oriented", "Concurrent", "System", "Architecture", ".", "SIGPLAN", "Notices", ",", "24", "-LRB-", "4", "-RRB-", ":91", "-LCB-", "93", ",", "1989", ".", "-LSB-", "31", "-RSB-", "C.", "Tomlinson", "and", "V.", "Singh", ".", "Inheritance", "and", "Synchronization", "with", "Enabled-Sets", ".", "In", "OOPSLA", ",", "1989", ".", "-LSB-", "32", "-RSB-", "N.", "Venkatasubramian", ".", "Hierarchical", "Memory", "Management", "in", "Scalable", "Parallel", "Systems", ".", "Master", "'s", "thesis", ",", "University", "of", "Illinois", "at", "Urbana-Champaign", ",", "1991", ".", "-LSB-", "33", "-RSB-", "T.", "Watanabe", "and", "A.", "Yonezawa", ".", "ABCL", "An", "Object-Oriented", "Concurrent", "System", ",", "chapter", "Reflection", "in", "an", "Object-Oriented", "Concurrent", "Language", ",", "pages", "45", "-LCB-", "70", ".", "MIT", "Press", ",", "Cambridge", ",", "Mass", ",", "1990", ".", "-LSB-", "34", "-RSB-", "P.", "Wegner", ".", "Dimensions", "of", "Object-Based", "Language", "Design", ".", "Technical", "Report", "CS-87-14", ",", "Brown", "University", ",", "July", "1987", ".", "-LSB-", "35", "-RSB-", "A.", "Yonezawa", ",", "editor", ".", "ABCL", "An", "Object-Oriented", "Concurrent", "System", ".", "MIT", "Press", ",", "Cambridge", ",", "Mass.", ",", "1990", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Efficient", "Differential", "Timeslice", "Computation", "Kristian", "Torp", "Leo", "Mark", "Christian", "S.", "Jensen", "College", "of", "Computing", "Department", "of", "Mathematics", "Georgia", "Institute", "of", "Technology", "and", "Computer", "Science", "Georgia", ",", "GA", "30332", ",", "USA", "Aalborg", "University", "Fredrik", "Bajers", "Vej", "7E", "DK-9220", "Aalborg", "O", ",", "DENMARK", "fkristian,leomarkg@cc.gatech.edu", "csj@iesd.auc.dk", "February", "19", ",", "1994", "Abstract", "Transaction-time", "databases", "record", "all", "previous", "database", "states", "and", "are", "ever-groving", ",", "leading", "to", "potentially", "huge", "quantities", "of", "data", ".", "For", "that", "reason", ",", "efficient", "query", "processing", "is", "of", "particular", "importance", ".", "Due", "to", "the", "large", "size", "of", "transaction-time", "relations", ",", "it", "is", "advantageous", "to", "utilize", "cheap", "writeonce", "storage", "media", "for", "storage", ".", "This", "is", "facilitated", "by", "adopting", "a", "log-based", "storage", "structure", ".", "Timeslices", ",", "i.e.", ",", "relation", "states", "or", "snapshots", ",", "are", "computed", "by", "traversing", "the", "logs", ",", "using", "previously", "computed", "and", "cached", "timeslices", "as", "outsets", ".", "When", "computing", "a", "new", "timeslice", ",", "the", "cache", "will", "contain", "two", "candidate", "outsets", ":", "an", "earlier", "outset", "and", "a", "later", "outset", ".", "We", "provide", "efficient", "means", "of", "always", "picking", "the", "optimal", "one", ".", "Specifically", ",", "we", "define", "and", "investigate", "the", "use", "of", "a", "new", "data", "structure", ",", "the", "B", "+", "-", "tree-like", "Insertion", "Tree", "-LRB-", "I-tree", "-RRB-", ",", "for", "this", "purpose", ".", "The", "cost", "of", "using", "an", "I-tree", "for", "picking", "the", "optimal", "outset", "is", "similar", "to", "that", "of", "using", "a", "B", "+", "-", "tree", ".", "Being", "sparse", ",", "I-trees", "require", "little", "space", "overhead", ",", "and", "they", "are", "cheap", "to", "maintain", "as", "the", "underlying", "relations", "are", "updated", ".", "I-trees", "also", "provide", "a", "basis", "for", "precisely", "and", "efficiently", "estimating", "the", "costs", "of", "performing", "timeslices", "in", "advance", ".", "This", "is", "useful", "for", "query", "optimization", "and", "can", "be", "essential", "in", "real-time", "applications", ".", "Finally", ",", "it", "is", "demonstrated", "how", "I-trees", "can", "be", "used", "in", "the", "computation", "of", "other", "types", "of", "queries", ".", "1", "Introduction", "A", "transaction-time", "database", "records", "the", "time", "when", "each", "stored", "tuple", "is", "current", "in", "the", "database", ",", "and", "it", "thus", "records", "the", "history", "of", "the", "database", "-LSB-", "SA", "85", "-RSB-", ".", "Database", "systems", "supporting", "transaction", "time", "are", "useful", "in", "a", "wide", "range", "of", "applications", ",", "including", "accounting", "and", "banking", ",", "where", "transactions", "on", "accounts", "are", "stored", ",", "as", "well", "as", "in", "many", "other", "systems", "where", "audit", "trails", "are", "important", "-LSB-", "EN", "89", "-RSB-", ".", "Applications", "also", "include", "the", "management", "of", "medical", "records", ",", "etc.", "-LSB-", "DWB", "86", "-RSB-", ".", "Recent", "and", "continuing", "advances", "in", "hardware", "have", "made", "the", "storage", "of", "ever-growing", "and", "potentially", "huge", "transaction-time", "databases", "a", "practical", "possibility", ".", "As", "a", "result", ",", "significant", "effort", "has", "recently", "been", "devoted", "to", "this", "topic", "see", ",", "e.g.", "-LSB-", "RS", "87", ",", "McK", "86", ",", "SS", "88", ",", "Soo", "91", "-RSB-", ".", "Research", "focus", "is", "moving", "from", "conceptual", "data", "modeling", "aspects", "to", "implementation-related", "aspects", ".", "In", "order", "to", "make", "transaction-time", "systems", "practical", ",", "the", "hardware", "advances", "must", "be", "combined", "with", "advances", "in", "query", "processing", "techniques", ".", "An", "essential", "operator", "in", "transaction-time", "databases", "is", "the", "timeslice", "operator", "-LSB-", "Sch", "77", "-RSB-", ".", "The", "timeslice", "R", "-LRB-", "t", "-RRB-", ",", "of", "a", "relation", "R", "at", "time", "t", "<", "=", "now", ",", "is", "the", "snapshot", "state", "of", "the", "relation", "R", "as", "of", "time", "t", "-LSB-", "AB", "80", "-RSB-", ".", "The", "transaction-time", "data", "model", "used", "in", "this", "paper", "is", "the", "backlog", "model", "-LSB-", "JM", "92", "-RSB-", ".", "In", "this", "model", ",", "a", "backlog", "is", "generated", "and", "maintained", "by", "the", "system", "for", "each", "relation", "defined", "in", "the", "database", "schema", ".", "The", "change", "requests", "-LRB-", "i.e.", ",", "inserts", "and", "deletes", "-RRB-", "to", "a", "relation", "are", "appended", "to", "its", "backlog", ".", "A", "relation", "is", "derived", "from", "a", "backlog", "by", "using", "the", "timeslice", "operator", ".", "Besides", "the", "attributes", "of", "the", "associated", "relation", ",", "each", "tuple", "in", "a", "backlog", "contains", "attributes", "which", "make", "the", "implementation", "of", "the", "timeslice", "operator", "possible", ",", "such", "as", "a", "transaction", "timestamp", ".", "Data", "is", "never", "deleted", "from", "a", "transaction-time", "database", ",", "meaning", "that", "it", "may", "eventually", "contain", "very", "large", "amounts", "of", "data", ".", "For", "transaction-time", "databases", "to", "be", "useful", ",", "queries", "must", "be", "processed", "efficiently", ".", "One", "way", "to", "improve", "efficiency", "is", "to", "use", "differential", "computation", ",", "i.e.", ",", "incrementally", "or", "decrementally", "compute", "queries", "from", "the", "cached", "results", "of", "similar", "and", "previously", "computed", "queries", "-LSB-", "Rou", "91", ",", "JM", "93", ",", "BCL", "89", ",", "BLT", "86", ",", "LHMPW", "86", ",", "CSLLM", "90", "-RSB-", ".", "The", "I-tree", "is", "a", "degenerate", ",", "sparse", "B", "+", "-", "tree", "designed", "for", "append-only", "relations", ",", "such", "as", "backlogs", "where", "data", "is", "inserted", "in", "transaction", "timestamp", "order", ".", "Thus", ",", "insertions", "are", "done", "in", "the", "right-most", "leaf", "only", ",", "and", "nodes", "may", "be", "packed", "completely", "because", "node", "splitting", "never", "occurs", ".", "In", "this", "paper", "we", "use", "an", "I-tree", "as", "a", "permanent", "index", "on", "the", "transaction-time", "attribute", "in", "a", "backlog", ".", "The", "I-tree", "is", "updated", "every", "time", "a", "new", "page", "of", "change", "requests", "is", "allocated", "for", "the", "backlog", ".", "Given", "a", "transaction", "timestamp", ",", "the", "I-tree", "efficiently", "locates", "the", "disk", "pages", "containing", "the", "change", "request", "-LRB-", "s", "-RRB-", "with", "that", "timestamp", "or", "the", "most", "recent", "earlier", "timestamp", ".", "This", "ability", "of", "the", "I-tree", ",", "to", "find", "the", "page", "position", "of", "a", "change", "request", "corresponding", "to", "a", "given", "timestamp", "value", ",", "is", "exploited", "during", "timeslice", "computation", "as", "described", "next", ".", "When", "given", "a", "transaction", "time", "tx", "at", "which", "to", "timeslice", "relation", "R", ",", "the", "times", "tx", "?", "1", "and", "tx", "+1", "of", "the", "nearest", "earlier", "and", "later", "timeslices", ",", "i.e.", ",", "R", "-LRB-", "tx", "?", "1", "-RRB-", "and", "R", "-LRB-", "tx", "+1", "-RRB-", ",", "respectively", ",", "in", "the", "cache", "are", "identified", ".", "The", "I-tree", "is", "then", "used", "to", "compute", "page", "positions", "for", "these", "times", "in", "the", "backlog", ".", "These", "positions", "can", "then", "be", "used", "to", "predict", "whether", "it", "is", "going", "to", "be", "more", "efficient", "to", "incrementally", "compute", "R", "-LRB-", "tx", "-RRB-", "from", "R", "-LRB-", "tx", "?", "1", "-RRB-", "or", "decrementally", "compute", "R", "-LRB-", "tx", "-RRB-", "from", "R", "-LRB-", "tx", "+1", "-RRB-", ".", "The", "most", "efficient", "outset", "for", "differential", "computation", "of", "the", "timeslice", "operator", "can", "be", "chosen", "with", "little", "overhead", ",", "and", "the", "cost", "of", "computing", "the", "timeslice", "can", "be", "estimated", "precisely", ",", "which", "is", "useful", "in", "e.g.", ",", "real-time", "applications", ".", "Also", ",", "the", "I-tree", "can", "be", "used", "to", "find", "the", "exact", "number", "of", "change", "requests", "appended", "to", "a", "backlog", "in", "a", "given", "time", "interval", ".", "Such", "statistics", "are", "useful", "for", "query", "optimization", ".", "The", "paper", "is", "organized", "as", "follows", ".", "Section", "2", "describes", "the", "data", "structures", "and", "operators", "in", "the", "backlog", "model", ".", "Section", "3", "defines", "the", "I-tree", "and", "explains", "why", "it", "is", "well-suited", "for", "backlogs", ".", "This", "section", "also", "compares", "the", "I-tree", "with", "related", "indices", ".", "Section", "4", "shows", "how", "an", "I-tree", "index", "on", "a", "backlog", "can", "be", "used", "to", "decide", "whether", "incremental", "or", "decremental", "computation", "is", "most", "efficient", ".", "Finally", ",", "Section", "5", "shows", "other", "situations", "where", "the", "I-tree", "can", "be", "used", ".", "Section", "6", "briefly", "summarizes", "the", "paper", "and", "points", "to", "directions", "for", "future", "research", ".", "2", "Implementation", "Model", "for", "Transaction-Time", "Databases", "Several", "data", "models", "support", "transaction-time", ";", "for", "a", "recent", "survey", ",", "please", "see", "-LSB-", "Sno", "92", "-RSB-", ".", "In", "this", "paper", "we", "have", "chosen", "the", "backlog", "data", "model", "because", "it", "is", "a", "very", "simple", "first", "normal", "form", "data", "model", "and", "because", "the", "simple", "query", "language", "has", "a", "formal", "semantics", "based", "on", "the", "relational", "algebra", "-LSB-", "Sno", "92", "-RSB-", ".", "2.1", "Backlog", "and", "Cache", "For", "each", "relation", "R", "defined", "in", "the", "database", "schema", ",", "the", "database", "system", "generates", "and", "maintains", "a", "backlog", "BR", ".", "A", "backlog", "BR", "is", "a", "relation", "which", "contains", "the", "entire", "history", "of", "change", "requests", "to", "the", "relation", "R", ".", "The", "schema", "of", "a", "relation", "R", "and", "its", "corresponding", "backlog", "BR", "is", "shown", "in", "Figure", "1", ".", "R", ":", "A1", ":", "D1", "...", "An", ":", "Dn", "BR", ":", "Id", ":", "surr", "Operation", ":", "fIns", ";", "Delg", "Time", ":", "TTIME", "A1", ":", "D1", "...", "An", ":", "Dn", "Figure", "1", ":", "The", "Attributes", "of", "the", "Relation", "R", "and", "its", "Backlog", "BR", "The", "backlog", "schema", "contains", "all", "attributes", "A1", "to", "An", "defined", "in", "the", "corresponding", "relation", ".", "In", "addition", "the", "backlogs", "has", "three", "new", "attributes", ":", "Id", ",", "a", "surrogate", "used", "as", "a", "tuple", "identifier", "for", "change", "requests", "in", "the", "backlog", ";", "Operation", ",", "an", "indicator", "of", "whether", "the", "change", "request", "is", "an", "insertion", "or", "a", "deletion", "-LRB-", "updates", "are", "modeled", "as", "a", "deletion/insertion", "pairs", "with", "the", "same", "transaction", "timestamp", "-RRB-", ";", "and", "Time", ",", "a", "transaction", "timestamp", ".", "It", "is", "assumed", "that", "each", "change", "request", "has", "a", "unique", "transaction", "timestamp", "-LRB-", "except", "updates", "-RRB-", "and", "that", "the", "backlog", "is", "ordered", "in", "transaction-time", "order", ".", "Figure", "2", "shows", "the", "effect", "on", "the", "backlog", "BR", "resulting", "from", "a", "change", "request", "to", "the", "relation", "R.", "Change", "request", "to", "R", "Effect", "on", "BR", "insert", "R", "-LRB-", "tuple", "-RRB-", "insert", "BR", "-LRB-", "id", ",", "Ins", ",", "time", ",", "tuple", "-RRB-", "delete", "R", "-LRB-", "k", "-RRB-", "insert", "BR", "-LRB-", "id", ",", "Del", ",", "time", ",", "tuple", "-LRB-", "k", "-RRB-", "-RRB-", "update", "R", "-LRB-", "k", ",", "new", "values", "-RRB-", "insert", "BR", "-LRB-", "id", ",", "Del", ",", "time", ",", "tuple", "-LRB-", "k", "-RRB-", "-RRB-", "insert", "BR", "-LRB-", "id", ",", "Ins", ",", "time", ",", "k", ",", "new", "values", "-RRB-", "Figure", "2", ":", "Operations", "on", "a", "Relation", "and", "Their", "Effect", "on", "the", "Backlog", "When", "an", "insertion", "to", "R", "is", "requested", ",", "an", "insertion", "request", "is", "appended", "to", "BR", ".", "When", "a", "deletion", "from", "R", "of", "a", "tuple", "with", "key", "value", "k", "is", "requested", ",", "an", "insertion", "request", "is", "appended", "to", "BR", ".", "The", "function", "tuple", "-LRB-", "k", "-RRB-", "returns", "the", "tuple", "identified", "by", "k", ",", "a", "primary", "key", "value", "in", "relation", "R.", "To", "efficiently", "compute", "this", "function", ",", "we", "assume", "that", "a", "cache", "for", "R", "-LRB-", "now", "-RRB-", "is", "maintained", "eagerly", ".", "When", "an", "update", "of", "a", "tuple", "with", "key", "value", "k", "is", "requested", ",", "two", "change", "requests", "are", "appended", "to", "the", "backlog", ",", "namely", "a", "deletion", "of", "the", "tuple", "with", "the", "key", "value", "k", "and", "an", "insertion", "of", "the", "tuple", "with", "key", "value", "k", "and", "the", "new", "attribute", "values", ".", "The", "results", "of", "previously", "computed", "timeslices", "are", "saved", "in", "view", "pointer", "caches", "-LSB-", "Rou", "91", "-RSB-", ".", "A", "view", "pointer", "cache", "is", "a", "stored", "data", "structure", "containing", "a", "collection", "of", "pointers", "to", "change", "requests", "needed", "to", "materialize", "the", "result", "of", "the", "corresponding", "timeslice", ".", "The", "structure", "of", "a", "view", "pointer", "cache", "is", "-LRB-", "TID0", ":", "surr", ",", "TID", ":", "surr", ",", "PID", ":", "ptr", "-RRB-", "where", "values", "of", "the", "attribute", "TID0", "are", "surrogates", "used", "as", "tuple", "identifiers", "in", "the", "view", "pointer", "cache", ".", "Values", "of", "the", "attribute", "TID", "are", "surrogates", "refering", "to", "change", "requests", "in", "the", "backlog", ".", "Finally", ",", "values", "of", "the", "attribute", "PID", "are", "pointers", "to", "pages", "in", "the", "backlog", "where", "the", "change", "requests", "are", "stored", ".", "View", "pointer", "caches", "may", "also", "be", "used", "for", "caching", "results", "of", "more", "general", "queries", "than", "timeslices", ",", "but", "this", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "2.2", "Algebra", "Operators", "The", "five", "basic", "relational", "operators", "are", "retained", "in", "the", "algebra", "for", "the", "backlog", "model", ".", "A", "relation", "must", "be", "timesliced", "before", "it", "is", "used", "as", "an", "operand", "in", "an", "algebra", "expression", ".", "The", "idea", "of", "timeslicing", "can", "be", "expressed", "as", "follows", ".", "R", "-LRB-", "tx", "-RRB-", "denotes", "R", "at", "time", "tx", ";", "tinit", "<", "=", "tx", "<", "=", "now", "R", "denotes", "R", "-LRB-", "now", "-RRB-", "The", "variable", "now", "has", "the", "value", "of", "the", "current", "time", ",", "and", "tinit", "is", "the", "time", "when", "the", "database", "was", "initialized", ".", "A", "formal", "definition", "of", "the", "timeslice", "operator", "is", "given", "next", "-LSB-", "JM", "93", "-RSB-", ".", "Let", "R", "be", "a", "relation", "having", "attributes", "A1", ",", "A2", ",", "...", ",", "An", "where", "Key", ",", "a", "time-invariant", "key", ",", "is", "one", "of", "these", ".", "The", "timeslice", "R", "-LRB-", "tx", "-RRB-", "is", "given", "by", "R", "-LRB-", "tx", "-RRB-", "=", "fy", "-LRB-", "n", "-RRB-", "j", "-LRB-", "9s", "-RRB-", "-LRB-", "s", "2", "BR", "^", "y", "-LSB-", "1", "-RSB-", "=", "s", "-LSB-", "1", "-RSB-", "^", "y", "-LSB-", "2", "-RSB-", "=", "s", "-LSB-", "2", "-RSB-", "^", "...", "^", "y", "-LSB-", "n", "-RSB-", "=", "s", "-LSB-", "n", "-RSB-", "^", "s", "-LSB-", "Time", "-RSB-", "<", "=", "tx", "^", "s", "-LSB-", "Operation", "-RSB-", "=", "Ins", "^", "-LRB-", "-LRB-", ":9", "u", "-RRB-", "-LRB-", "u", "2", "BR", "^", "s", "-LSB-", "Key", "-RSB-", "=", "u", "-LSB-", "Key", "-RSB-", "^", "s", "-LSB-", "Time", "-RSB-", "<", "u", "-LSB-", "Time", "-RSB-", "<", "=", "tx", "-RRB-", "-RRB-", "-RRB-", "g", "As", "can", "be", "seen", ",", "the", "timeslice", "is", "computed", "from", "the", "backlog", ".", "First", ",", "the", "attributes", "of", "the", "result", "are", "selected", ".", "In", "the", "second", "line", ",", "all", "insertions", "that", "are", "before", "the", "timeslice", "time", "are", "identified", ".", "The", "third", "line", "serves", "to", "eliminate", "all", "those", "insertions", "that", "have", "been", "countered", "by", "deletions", "before", "the", "time", "of", "the", "timeslice", ".", "2.3", "Incremental", "and", "Decremental", "Computation", "Informally", ",", "the", "idea", "of", "differential", "computation", "is", "to", "reuse", "the", "cached", "results", "of", "previously", "computed", "timeslices", "together", "with", "intermediate", "change", "requests", "to", "compute", "the", "results", "of", "new", "timeslices", ".", "When", "a", "timeslice", "query", "is", "issued", "against", "the", "database", ",", "the", "closest", "earlier", "and", "later", "timeslices", "that", "have", "been", "previously", "computed", "and", "cached", "are", "located", ".", "Note", "that", "it", "is", "straightforward", "to", "locate", "these", "cached", "timeslices", ";", "for", "example", ",", "a", "B", "+", "-", "tree", "on", "the", "times", "of", "the", "timeslices", "can", "be", "used", ".", "The", "problem", "of", "query", "matching", "when", "more", "general", "queries", "may", "be", "cached", "for", "reuse", "is", "addressed", "elsewhere", "-LSB-", "Rou", "91", ",", "Jen", "91", "-RSB-", ".", "This", "paper", "addresses", "the", "problem", "of", "how", "to", "efficiently", "determine", "whether", "incremental", "computation", ",", "using", "the", "earlier", "timeslice", ",", "or", "decremental", "computation", ",", "using", "the", "later", "timeslice", ",", "is", "most", "cost-efficient", ".", "Dec.Inc.Backlogt", "x-1R", "-LRB-", "-RRB-", "t", "x-1R", "-LRB-", "-RRB-", "Cost", "-LRB-", "-RRB-", "x", "+1", "t", "R", "-LRB-", "-RRB-", "Cost", "-LRB-", "-RRB-", "x", "+1", "t", "R", "-LRB-", "-RRB-", "txR", "-LRB-", "-RRB-", "ABCtime", "Figure", "3", ":", "Differential", "Computation", "of", "the", "Timeslice", "Operator", "The", "idea", "of", "differential", "computation", "of", "timeslices", "is", "shown", "in", "Figure", "3", ".", "The", "structures", "R", "-LRB-", "tx", "?", "1", "-RRB-", "and", "R", "-LRB-", "tx", "+1", "-RRB-", "are", "view", "pointer", "caches", "containing", "the", "results", "of", "previously", "computed", "timeslices", ",", "and", "R", "-LRB-", "tx", "-RRB-", "is", "the", "timeslice", "to", "be", "computed", ".", "To", "incrementally", "update", "R", "-LRB-", "tx", "?", "1", "-RRB-", "to", "R", "-LRB-", "tx", "-RRB-", "the", "change", "requests", "between", "A", "and", "B", "in", "Figure", "3", "must", "be", "traversed", ".", "Similarly", ",", "to", "decrementally", "\\", "downdate", "''", "R", "-LRB-", "tx", "+1", "-RRB-", "to", "R", "-LRB-", "tx", "-RRB-", "the", "change", "requests", "between", "C", "and", "B", "must", "be", "traversed", ".", "Algorithms", "for", "incremental", "and", "decremental", "computation", "of", "timeslices", "may", "be", "found", "in", "-LSB-", "TMJ", "94", "-RSB-", ".", "3", "I-trees", "In", "this", "section", ",", "we", "first", "review", "related", "work", "on", "indices", "and", "explain", "why", "a", "new", "index", "is", "needed", ".", "We", "then", "describe", "the", "structure", "of", "the", "I-tree", "and", "show", "how", "the", "tree", "is", "maintained", "during", "insertions", "to", "backlogs", ".", "3.1", "Related", "Work", "The", "I-tree", "is", "a", "degenerate", "B", "+", "-", "tree", "similar", "to", "and", "inspired", "by", "the", "Monotonic", "B", "+", "-", "tree", "-LRB-", "MB", "-", "tree", "-RRB-", "-LSB-", "EWK", "93", "-RSB-", "and", "the", "Append-only", "tree", "-LRB-", "AP-tree", "-RRB-", "-LSB-", "GS", "93", "-RSB-", ".", "The", "I-tree", "is", "specifically", "designed", "to", "index", "monotonically", "increasing", "values", ".", "If", "a", "regular", "B", "+", "-", "tree", "was", "used", "for", "this", ",", "the", "nodes", "would", "only", "be", "approximately", "50", "%", "full", "-LSB-", "GS", "93", "-RSB-", ".", "Several", "other", "indexes", "may", "be", "used", "to", "index", "monotonically", "increasing", "key", "values", ";", "for", "an", "overview", ",", "please", "see", "-LSB-", "T", "93", "-RSB-", ".", "Here", ",", "we", "simply", "describe", "why", "we", "have", "defined", "a", "new", "index", "instead", "of", "adopting", "any", "of", "the", "two", "most", "closely", "related", "indices", ",", "the", "MB-tree", "and", "the", "AP-tree", ".", "The", "MB-tree", "has", "not", "been", "used", "for", "three", "reasons", ".", "First", ",", "the", "internal", "nodes", "and", "the", "leaf", "nodes", "have", "different", "formats", ",", "and", "the", "leaf", "nodes", "can", "be", "different", "in", "size", ".", "This", "inhomogeneity", "is", "not", "necessary", "for", "our", "purposes", ".", "Second", ",", "internal", "nodes", "in", "the", "right-most", "subtree", "are", "allocated", "before", "they", "are", "needed", ",", "yielding", "a", "space", "overhead", "that", "we", "can", "avoid", ".", "Third", ",", "in", "the", "insertion", "algorithm", "extra", "parameters", "are", "given", "to", "be", "able", "to", "implement", "a", "Time", "Index", "-LSB-", "EWK", "93", "-RSB-", ".", "This", "extra", "generality", "makes", "the", "insertion", "algorithm", "more", "complicated", ".", "The", "AP-tree", "has", "not", "been", "used", "for", "three", "reasons", ".", "First", ",", "all", "pointers", "between", "nodes", "in", "the", "AP-tree", "are", "double", "pointers", ".", "For", "our", "problem", ",", "single", "pointers", "will", "do", ".", "Second", ",", "not", "all", "pointers", "are", "used", "in", "the", "internal", "nodes", "of", "the", "AP-tree", ",", "giving", "a", "slight", "waste", "of", "space", ".", "Third", ",", "when", "nodes", "in", "the", "right-most", "subtree", "of", "the", "root", "are", "appended", ",", "the", "chain", "from", "the", "root", "to", "the", "right-most", "leaf", "must", "be", "traversed", ".", "This", "requires", "that", "these", "nodes", "are", "stored", "in", "main", "memory", "or", "read", "from", "secondary", "storage", ".", "In", "the", "I-tree", ",", "designed", "for", "our", "specific", "problem", ",", "it", "has", "been", "possible", "to", "eliminate", "the", "above", "characteristics", ",", "as", "we", "shall", "see", "next", ".", "3.2", "Characteristics", "of", "the", "I-tree", "An", "I-tree", "of", "order", "d", "has", "the", "following", "properties", ".", "An", "example", "follows", "the", "properties", ".", "1", ".", "All", "nodes", "-LRB-", "including", "the", "root", ",", "internal", "nodes", ",", "and", "leaf", "nodes", "-RRB-", "are", "of", "the", "format", "<", "P0", ";", "t0", ";", "P1", ";", "t1", ";", "...", ";", "Pd", "?", "2", ";", "td", "?", "2", ";", "Pd", "?", "1", ">", "where", "the", "Pi", "are", "pointers", "and", "the", "ti", "are", "key", "values", ".", "2", ".", "A", "root", "node", "has", "i", "+", "1", "-LRB-", "non-null", "-RRB-", "pointers", "and", "i", "-LRB-", "non-null", "-RRB-", "key", "values", "if", "it", "is", "not", "at", "leaf", ",", "1", "<", "=", "i", "<", "=", "-LRB-", "d", "-", "2", "-RRB-", ".", "The", "root", "has", "one", "pointer", "if", "it", "is", "also", "a", "leaf", ".", "3", ".", "All", "internal", "nodes", "and", "leafs", ",", "except", "the", "right-most", "node/leaf", "at", "each", "level", ",", "have", "exactly", "d", "-LRB-", "non-null", "-RRB-", "pointers", "and", "d", "-", "1", "-LRB-", "non-null", "-RRB-", "key", "values", ".", "Such", "nodes", "are", "full", ".", "4", ".", "Within", "each", "full", "node", ",", "t0", "<", "t1", "<", "...", "<", "td", "?", "2", ".", "In", "general", ",", "all", "non-null", "key", "values", "are", "ordered", "this", "way", ".", "5", ".", "All", "leaf", "nodes", "that", "are", "descendants", "of", "non-right-most", "subtrees", "of", "the", "root", "are", "at", "the", "same", "level", ".", "This", "portion", "of", "the", "is", "full", "and", "balanced", ".", "The", "last", "pointer", "on", "each", "leaf", "page", ",", "Pd", "?", "1", ",", "is", "used", "to", "chain", "leaf", "nodes", "together", "in", "search", "key", "order", ".", "6", ".", "Insertions", "are", "always", "done", "in", "the", "right-most", "leaf", ",", "deletions", "do", "not", "occur", ",", "and", "search", "is", "as", "in", "B", "+", "-", "trees", ".", "7", ".", "For", "a", "tree", "of", "height", "h", "and", "with", "a", "root", "that", "has", "n", "subtrees", ",", "2", "<", "=", "n", "<", "=", "-LRB-", "d", "-", "1", "-RRB-", ",", "these", "properties", "hold", ".", "ffl", "The", "first", "n", "-", "1", "subtrees", "are", "full", "and", "balanced", "and", "have", "height", "h", "-", "1", ".", "ffl", "The", "n'th", "subtree", "has", "at", "least", "height", "1", "and", "at", "most", "h", "-", "1", ".", "ffl", "When", "the", "n'th", "subtree", "is", "full", ",", "a", "new", "subtree", "of", "height", "1", "is", "created", "-LRB-", "explained", "further", "in", "the", "next", "section", "-RRB-", ".", "If", "the", "height", "of", "the", "tree", "is", "increased", "by", "one", ",", "the", "new", "root", "only", "has", "two", "subtrees", ":", "one", "that", "is", "filled", "and", "one", "of", "height", "1", ".", "An", "example", "of", "an", "I-tree", "is", "shown", "in", "Figure", "4", ".", "The", "tree", "shown", "is", "of", "height", "h", "=", "2", "and", "order", "d", "=", "3", ".", "The", "chain", "of", "pointers", "and", "nodes", "to", "the", "right", "is", "called", "the", "right-most", "chain", ".", "In", "Figure", "4", ",", "the", "right-most", "chain", "consists", "of", "the", "root", ",", "the", "boldface", "pointer", ",", "and", "the", "right-most", "leaf", ",", "termed", "the", "current", "node", ".", "The", "array", "is", "a", "dynamic", "array", "containing", "pointers", "to", "all", "nodes", "in", "the", "right-most", "chain", "-LSB-", "EWK", "93", "-RSB-", ".", "These", "pointers", "are", "used", "when", "insertions", "are", "made", "to", "the", "tree", ".", "In", "Figure", "4", "Position", "of", "the", "array", "points", "to", "6", "and", "Position", "1", "points", "to", "5", ".", "The", "numbers", "5", "and", "6", "refer", "to", "the", "numbers", "shown", "above", "the", "right", "corner", "of", "each", "node", ".", "These", "numbers", "are", "used", "for", "illustrating", "the", "dynamics", "of", "the", "index", "and", "are", "not", "part", "of", "the", "data", "structure", ".", "Furthermore", ",", "for", "each", "position", "in", "the", "array", ",", "the", "level", "of", "the", "node", "is", "stored", "along", "with", "an", "indication", "of", "whether", "the", "node", "is", "full", "or", "not", ".", "Figure", "4", "also", "shows", "that", "the", "right-most", "subtree", "of", "the", "root", "needs", "not", "be", "balanced", "|", "there", "is", "no", "node", "at", "Level", "1", ".", "Level", ",", "l", "=", "0Level", ",", "l", "=", "1Level", ",", "l", "=", "20165Array1323283136319131723123456", "Figure", "4", ":", "An", "Example", "of", "a", "I-tree", "of", "Height", "h", "=", "2", "and", "Order", "d", "=", "3", "3.3", "Insertion", "into", "the", "I-tree", "We", "give", "a", "comprehensive", "description", "of", "insertion", "into", "the", "I-tree", "by", "means", "of", "three", "examples", "that", "cover", "all", "possible", "combinations", ".", "The", "algorithm", "that", "formed", "the", "basis", "for", "implementing", "the", "I-tree", "is", "given", "elsewhere", "-LSB-", "TMJ", "94a", "-RSB-", ".", "1", ".", "Figure", "5A", "shows", "an", "example", "of", "the", "general", "case", "where", "the", "whole", "tree", "is", "completely", "full", "and", "balanced", ".", "The", "key", "value", "17", "must", "be", "inserted", ".", "A", "new", "leaf", "is", "created", "and", "the", "new", "value", "inserted", ".", "A", "new", "root", "is", "created", "and", "the", "last", "key", "value", "in", "the", "old", "current", "node", "is", "inserted", ".", "The", "left-most", "pointer", "of", "the", "new", "root", "is", "set", "to", "point", "to", "the", "old", "root", ",", "and", "the", "right-most", "pointer", "is", "set", "to", "point", "to", "the", "new", "leaf", ".", "The", "array", "is", "properly", "updated", ".", "2", ".", "Figure", "5B", "shows", "an", "example", "of", "the", "general", "case", "where", "a", "non-full", "node", "is", "found", "in", "the", "rightmost", "chain", ".", "The", "number", "of", "levels", "between", "the", "closest", "non-full", "node", "and", "the", "next", "node", "in", "the", "right-most", "chain", "is", "one", ".", "The", "key", "value", "28", "must", "be", "inserted", ".", "A", "new", "leaf", "is", "created", "and", "the", "value", "28", "is", "inserted", ".", "The", "last", "key", "value", "in", "the", "old", "current", "node", "is", "inserted", "in", "the", "non-full", "node", ",", "and", "a", "new", "right-most", "pointer", "in", "the", "node", "is", "set", "to", "point", "to", "the", "new", "leaf", ".", "The", "array", "is", "updated", "to", "reflect", "the", "new", "leaf", "node", ".", "3", ".", "Figure", "5C", "shows", "an", "example", "of", "the", "general", "case", "where", "all", "nodes", "in", "the", "right-most", "subtree", "of", "the", "root", "are", "full", ",", "but", "the", "subtree", "is", "not", "balanced", ".", "This", "case", "also", "covers", "the", "situation", "when", "the", "root", "is", "full", "but", "the", "right-most", "subtree", "of", "the", "root", "not", "balanced", ".", "The", "key", "value", "151", "is", "to", "be", "inserted", ".", "A", "new", "leaf", "is", "created", "and", "the", "new", "key", "value", "is", "inserted", ".", "The", "last", "key", "value", "of", "the", "old", "current", "node", "is", "inserted", "in", "a", "new", "node", "created", "between", "the", "right-most", "node", "found", "to", "point", "directly", "to", "a", "leaf", "and", "the", "new", "leaf", ".", "The", "array", "is", "properly", "updated", ".", "913", "+", "171010132AB01320134012152024012315202526931121161211251211311311351381", "42138147147151152025269131712313", "+", "2891317231231391317232812342313C93112116121125131135138142147", "+", "151152024121131138", "Figure", "5", ":", "Examples", "of", "Appends", "to", "the", "I-tree", "4", "Use", "of", "I-trees", "for", "Efficient", "Differential", "Timeslice", "Computation", "In", "this", "section", ",", "we", "first", "describe", "how", "to", "find", "a", "page", "position", "in", "the", "backlog", "using", "the", "I-tree", ".", "Next", ",", "we", "estimate", "the", "size", "and", "the", "I/O-cost", "of", "maintaining", "the", "I-tree", ".", "Finally", ",", "we", "present", "an", "algorithm", "for", "choosing", "between", "incremental", "and", "decremental", "computation", "of", "timeslices", ".", "The", "basic", "idea", "is", "to", "build", "an", "I-tree", "on", "a", "backlog", "and", "use", "it", "to", "determine", "if", "it", "is", "more", "cost", "efficient", "to", "incrementally", "update", "a", "cached", "timeslice", "R", "-LRB-", "tx", "?", "1", "-RRB-", "to", "R", "-LRB-", "tx", "-RRB-", ",", "tx", "?", "1", "<", "=", "tx", ",", "or", "decrementally", "\\", "downdate", "''", "a", "cached", "timeslice", "R", "-LRB-", "tx", "+1", "-RRB-", "to", "R", "-LRB-", "tx", "-RRB-", ",", "tx", "+1", ">", "=", "tx", ",", "see", "Figure", "3", ".", "The", "nodes", "in", "the", "I-tree", "contain", "transaction", "timestamps", ".", "Figure", "6", "shows", "an", "I-tree", "on", "a", "backlog", ".", "125912151822252931353843464953571,2,45,6,89,10,1112,12,13", "BacklogPointe", "r", "number", ":", "pLevel", ":", "l", "=", "049,51,5253,54,5657,58", "Level", ":", "l", "=", "1Level", ":", "l", "=", "2Height", ":", "h", "=", "2", "Number", "of", "pointers", "in", "node", ":", "d", "=", "3", "915293522464912345678910111201261211Array", "Figure", "6", ":", "An", "I-tree", "and", "a", "Backlog", "4.1", "Finding", "Page", "Positions", "Using", "the", "I-tree", "To", "find", "the", "number", "of", "change", "requests", "between", "two", "times", ",", "the", "page", "positions", "in", "the", "backlog", "of", "change", "requests", "with", "approximately", "those", "times", "are", "computed", "using", "the", "I-tree", ".", "Then", "the", "desired", "number", "can", "be", "found", "by", "subtraction", ".", "Given", "a", "change", "request", "with", "transaction", "timestamp", "t", ",", "its", "page", "position", "in", "the", "backlog", "is", "found", "by", "using", "the", "I-tree", ".", "By", "page", "position", ",", "we", "mean", "the", "logical", "number", "of", "the", "disk", "page", "of", "the", "backlog", "on", "which", "the", "change", "request", "is", "stored", ".", "To", "compute", "this", "page", "position", ",", "the", "following", "parameters", "are", "needed", ",", "see", "also", "Figure", "6", ".", "Name", "Description", "h", "height", "of", "the", "I-tree", "d", "order", "of", "the", "I-tree", "p", "pointer", "number", "in", "a", "node", "l", "level", "number", "in", "the", "tree", "The", "page", "position", "is", "found", "by", "searching", "the", "I-tree", ",", "with", "t", "as", "a", "parameter", ".", "For", "each", "level", ",", "it", "is", "recorded", "which", "pointer", "number", "is", "followed", "to", "the", "next", "level", ".", "The", "page", "position", "is", "calculated", "from", "this", "information", ",", "by", "Formula", "1", ".", "Page", "Position", "=", "-LRB-", "d", "?", "1", "-RRB-", "?", "h", "?", "1", "X", "l", "=", "-LRB-", "dh", "?", "l", "?", "1", "?", "pl", "-RRB-", "+", "ph", "-LRB-", "1", "-RRB-", "Formula", "1", "may", "be", "explained", "as", "follows", ".", "The", "I-tree", "is", "balanced", "and", "all", "nodes", "are", "full", "to", "the", "left", ".", "This", "means", "that", "each", "time", "a", "pointer", "is", "skipped", "in", "a", "node", "at", "Level", "l", ",", "-LRB-", "d", "?", "1", "-RRB-", "?", "dh", "?", "l", "?", "1", "pointers", "to", "disk", "pages", "of", "the", "backlog", "are", "passed", "at", "the", "leaf", "level", ".", "The", "factor", "pl", "is", "the", "pointer", "number", "p", "followed", "to", "the", "next", "level", ",", "at", "level", "l.", "Formula", "1", "sums", "up", "the", "number", "of", "disk", "pages", "passed", "at", "each", "level", "from", "the", "root", "to", "the", "level", "just", "above", "leaf", "level", ".", "At", "the", "leaf", "level", ",", "one", "disk", "page", "is", "passed", "each", "time", "the", "pointer", "number", "p", "is", "increased", "by", "one", "|", "this", "is", "ph.", "The", "parameters", "-LRB-", "pl", "values", "-RRB-", "needed", "to", "compute", "the", "page", "position", "are", "provided", "using", "the", "I-tree", ".", "Notice", "the", "first", "disk-page", "number", "is", "0", ".", "As", "an", "example", ",", "consider", "finding", "the", "page", "position", "on", "which", "the", "change", "request", "with", "transaction", "timestamp", "=", "13", "is", "stored", ",", "see", "Figure", "6", ".", "In", "this", "example", "h", "=", "2", "and", "d", "=", "3", ".", "The", "page", "position", "is", "therefore", "-LRB-", "3", "?", "1", "-RRB-", "?", "-LRB-", "32", "?", "?", "1", "?", "+", "32", "?", "1", "?", "1", "?", "1", "-RRB-", "+", "1", "=", "2", "?", "-LRB-", "0", "+", "1", "-RRB-", "+", "1", "=", "3", "The", "I/O-cost", "of", "computing", "a", "page", "position", "is", "h", "disk", "accesses", ",", "the", "height", "of", "the", "tree", ".", "4.2", "Maintenance", "of", "the", "I-tree", "In", "this", "subsection", "we", "estimate", "the", "size", "of", "the", "I-tree", "and", "the", "I/O-cost", "for", "maintaining", "the", "I-tree", "as", "a", "permanent", "index", "on", "the", "backlog", ".", "4.2.1", "I-tree", "Size", "versus", "Backlog", "Size", "The", "I-tree", "does", "not", "need", "to", "contain", "the", "transaction", "timestamps", "of", "all", "the", "change", "requests", "in", "the", "backlog", ".", "Only", "approximately", "one", "transaction", "timestamp", "for", "each", "disk", "page", "is", "needed", "|", "the", "I-tree", "is", "a", "sparse", "index", ".", "Two", "I-trees", "of", "the", "same", "height", "are", "shown", "in", "Figure", "7", ".", "For", "this", "height", ",", "Figure", "7A", "shows", "a", "worst-case", "situation", "where", "the", "I-tree", "'s", "size", "is", "the", "largest", "possible", "compared", "to", "the", "size", "of", "the", "backlog", ".", "The", "rightmost", "leaf", "has", "just", "been", "allocated", ".", "For", "the", "same", "height", ",", "Figure", "7B", "shows", "a", "best-case", "situation", "where", "the", "size", "of", "the", "I-tree", "is", "the", "smallest", "possible", "compared", "to", "the", "size", "of", "the", "backlog", ".", "This", "I-tree", "is", "full", "and", "balanced", ".", "BA", "Figure", "7", ":", "Worst-case", "-LRB-", "A", "-RRB-", "and", "Best-case", "-LRB-", "B", "-RRB-", "Situations", "The", "following", "two", "expressions", "are", "valid", "for", "height", "h", ">", "=", "1", "and", "order", "d", ">", "=", "2", ".", "In", "the", "worst-case", "and", "best-case", "situations", ",", "the", "size", "of", "the", "I-tree", "compared", "with", "the", "size", "of", "the", "backlog", "is", "described", "by", "Formulas", "2", "and", "3", ".", "Worst", "case", ":", "??", "Ph", "?", "1", "m", "=", "0", "dm", "?", "+", "2", "?", ".", "?", "-LRB-", "d", "?", "1", "-RRB-", "?", "dh", "?", "1", "+", "2", "?", "-LRB-", "2", "-RRB-", "Best", "case", ":", "Phm", "=", "0", "dm", ".", "?", "-LRB-", "d", "?", "1", "-RRB-", "?", "dh", "+", "1", "?", "-LRB-", "3", "-RRB-", "Examples", "of", "the", "worst-case", "and", "the", "best-case", "are", "shown", "in", "the", "table", "below", "for", "height", ",", "h", "=", "3", "and", "order", ",", "d", "=", "100", ".", "As", "can", "be", "seen", ",", "the", "backlog", "is", "approximately", "d", "times", "larger", "than", "the", "I-tree", ".", "The", "size", "of", "the", "index", "is", "very", "small", ".", "The", "difference", "for", "the", "worst-case", "and", "best-case", "is", "insignificant", "for", "realistic", "trees", ".", "I-tree", "Backlog", "%", "I-tree/Backlog", "worst-case", "10,103", "990,002", "1.0205", "best-case", "1,010,101", "99,000,001", "1.0203", "4.2.2", "I/O-Cost", "of", "Maintaining", "the", "I-tree", "The", "I/O", "needed", "to", "maintain", "the", "backlog", "itself", "is", "independent", "of", "whether", "or", "not", "there", "is", "an", "I-tree", "index", "defined", "on", "it", ".", "There", "is", "an", "extra", "I/O-cost", "related", "to", "maintaining", "the", "I-tree", "as", "an", "index", "on", "the", "backlog", ".", "Here", "we", "describe", "that", "cost", ".", "We", "assume", "that", "the", "root", ",", "the", "right-most", "leaf", ",", "and", "the", "dynamic", "array", "of", "the", "I-tree", "are", "in", "main", "memory", ";", "and", "that", "the", "costs", "for", "allocating", ",", "reading", ",", "and", "writing", "a", "disk", "page", "are", "all", "the", "same", ".", "There", "is", "an", "insertion", "into", "the", "I-tree", "each", "time", "a", "new", "disk", "page", "is", "allocated", "for", "the", "backlog", ".", "Two", "cases", "should", "be", "distinguished", ":", "when", "the", "right-most", "leaf", "of", "the", "I-tree", "is", "not", "full", ",", "and", "when", "that", "leaf", "is", "full", ".", "The", "latter", "situation", "is", "rare", ".", "It", "occurs", "only", "once", "for", "each", "-LRB-", "d", "?", "1", "-RRB-", "?", "Nch", "appends", "to", "the", "backlog", ",", "where", "d", "is", "the", "order", "of", "the", "I-tree", "and", "Nch", "is", "the", "number", "of", "change", "requests", "which", "fit", "in", "one", "disk", "page", ".", "In", "the", "frequent", ",", "first", "case", ",", "the", "I/O-cost", "for", "updating", "the", "I-tree", "is", "zero", ".", "In", "the", "second", "case", ",", "the", "three", "possibilities", "shown", "in", "Figure", "5", "exist", ".", "The", "I/O-cost", "for", "these", "three", "possibilities", "are", "shown", "in", "the", "table", "below", ".", "Description", "Figure", "5A", "Figure", "5B", "Figure", "5C", "Allocate", "new", "leaf", "node", "p", "p", "p", "Allocate", "new", "root/node", "p", "p", "Read", "internal", "node", "p", "p", "Write", "internal", "node", "p", "p", "Write", "old", "root", "p", "Write", "new", "node", "p", "Write", "current", "node", "p", "p", "p", "Total", "I/O-cost", "4", "4", "6", "In", "the", "worst", "case", ",", "it", "will", "require", "6", "disk", "access", "to", "update", "the", "I-tree", "when", "the", "backlog", "is", "updated", ".", "It", "should", "be", "noted", "that", "the", "I/O-cost", "is", "independent", "of", "the", "height", "of", "the", "I-tree", ".", "The", "smallest", "-LRB-", "i.e.", ",", "worst", "case", "-RRB-", "average", "number", "of", "change", "request", "that", "can", "be", "appended", "to", "a", "backlog", "per", "I/O", "operation", "needed", "to", "maintain", "the", "I-tree", "index", "is", "given", "by", "-LRB-", "-LRB-", "d", "?", "1", "-RRB-", "?", "Nch", "=", "6", "-RRB-", ".", "The", "table", "below", "shows", "examples", "of", "how", "many", "change", "request", "can", "be", "appended", "to", "the", "backlog", "for", "each", "I-tree", "I/O", "operation", ",", "for", "different", "realistic", "page", "sizes", ".", "It", "is", "assumed", "that", "transaction", "timestamps", "occupy", "64", "bits", "-LSB-", "Sno", "92", "-RSB-", ",", "pointers", "-LRB-", "Unix", "-RRB-", "32", "bits", ",", "and", "change", "requests", "128", "bytes", ".", "Page", "size", "-LRB-", "bytes", "-RRB-", "512", "1,024", "2,048", "4,096", "8,192", "Order", "d", "42 85 170 341", "682", "Nch", "4", "8", "16", "42", "64", "appends", "per", "I/O", "27 112 451", "2,380", "7,264", "The", "number", "of", "appends", "per", "extra", "disk", "access", "grow", "with", "the", "square", "of", "the", "page", "size", "because", "both", "d", "and", "Nch", "depend", "on", "the", "page", "size", ".", "It", "is", "clear", "that", "the", "I-tree", "is", "cheap", "to", "maintain", "for", "realistic", "page", "sizes", ".", "Finally", ",", "the", "total", "cost", "of", "maintaining", "an", "I-tree", "for", "a", "backlog", "with", "j", "BR", "j", "change", "requests", "is", "less", "than", "6", "?", "j", "BR", "j", "=", "-LRB-", "d", "?", "1", "-RRB-", "?", "Nch", "4.3", "Choosing", "between", "Incremental", "and", "Decremental", "Timeslice", "Computation", "We", "now", "present", "the", "algorithm", "for", "choosing", "between", "incremental", "and", "decremental", "computation", "of", "timeslices", "in", "transaction", "time", "databases", ".", "4.3.1", "The", "Algorithm", "To", "decide", "whether", "to", "use", "incremental", "or", "decremental", "computation", ",", "we", "must", "know", "which", "one", "is", "more", "efficient", "in", "a", "given", "situation", ".", "In", "the", "algorithm", "presented", "below", ",", "the", "time", "tx", "is", "the", "time", "of", "the", "timeslice", "to", "be", "computed", ",", "and", "tx", "?", "1", "and", "tx", "+1", "are", "the", "times", "of", "the", "cached", "timeslices", "which", "are", "closest", "to", "tx", ",", "before", "and", "after", "tx", ",", "respectively", ".", "Observe", "that", "there", "will", "always", "exist", "both", "a", "newer", "timeslice", "and", "an", "older", "timeslice", "in", "the", "cache", ",", "as", "shown", "in", "Figure", "3", ".", "The", "timeslice", "R", "-LRB-", "tinit", "-RRB-", "which", "is", "empty", "is", "trivially", "in", "the", "cache", "and", "will", "always", "qualify", "as", "an", "earlier", "timeslice", ".", "Next", ",", "we", "made", "the", "assumption", "that", "R", "-LRB-", "now", "-RRB-", "is", "eagerly", "maintained", ".", "This", "timeslice", "will", "always", "qualify", "as", "a", "later", "timeslice", ".", "The", "page", "positions", "of", "the", "times", "tx", "?", "1", ",", "tx", ",", "and", "tx", "+1", "are", "denoted", "Ptx", "?", "1", ",", "Ptx", ",", "and", "Ptx", "+1", "in", "the", "following", ".", "The", "number", "of", "pages", "that", "must", "be", "read", "in", "order", "to", "do", "an", "incremental", "computation", "is", "j", "Ptx", "?", "Ptx", "?", "1", "j", "+", "1", ",", "and", "the", "number", "of", "pages", "that", "must", "be", "read", "in", "order", "to", "do", "a", "decremental", "computation", "is", "j", "Ptx", "+1", "?", "Ptx", "j", "+", "1", ".", "The", "two", "values", "are", "compared", "and", "the", "result", "reveals", "the", "cheapest", "computation", "method", ".", "The", "pseudo", "algorithm", "for", "choosing", "between", "incremental", "and", "decremental", "timeslice", "computation", "follows", ".", "incremental", "or", "decremental", "-LRB-", "BR", ",", "tx", "-RRB-", "Find", "R", "-LRB-", "tx", "?", "1", "-RRB-", "where", "tx", "?", "1", "=", "max", "-LRB-", "t", "<", "=", "tx", "^", "9", "timeslice", "at", "time", "t", "-RRB-", "Find", "R", "-LRB-", "tx", "+1", "-RRB-", "where", "tx", "+1", "=", "min", "-LRB-", "t", ">", "=", "tx", "^", "9", "timeslice", "at", "time", "t", "-RRB-", "Ptx", "?", "1", "page", "position", "of", "time", "tx", "?", "1", "Ptx0", "page", "position", "of", "time", "tx0", "Ptx", "+1", "page", "position", "of", "time", "tx", "+1", "if", "j", "Ptx0", "?", "Ptx", "?", "1", "j", "<", "=", "j", "Ptx", "+1", "?", "Ptx0", "j", "incremental", "timeslice", "-LRB-", "BR", ",", "R", "-LRB-", "tx", "?", "1", "-RRB-", ",", "tx", "?", "1", ",", "tx", "-RRB-", "-", "-", "function", "call", "else", "decremental", "timeslice", "-LRB-", "BR", ",", "R", "-LRB-", "tx", "+1", "-RRB-", ",", "tx", "+1", ",", "tx", "-RRB-", "-", "-", "function", "call", "Two", "comments", "are", "in", "order", ".", "To", "efficiently", "locate", "the", "cached", "timeslices", "in", "the", "first", "two", "lines", ",", "one", "may", "maintain", "a", "B", "+", "-", "tree", "index", "on", "the", "times", "of", "the", "cached", "timeslices", ".", "Next", ",", "it", "may", "be", "the", "case", "that", "no", "change", "request", "exists", "in", "the", "backlog", "with", "timestamp", "tx", ".", "Thus", ",", "the", "page", "position", "of", "the", "change", "request", "with", "the", "largest", "timestamp", "tx0", "that", "does", "not", "exceed", "tx", "is", "computed", ".", "4.3.2", "Comparison", "with", "Linear", "Scan", "If", "no", "I-tree", "is", "available", "on", "the", "backlog", ",", "the", "only", "way", "to", "find", "the", "cost", "of", "computing", "the", "timeslice", "is", "to", "actually", "compute", "the", "timeslice", ".", "Therefore", ",", "to", "investigate", "if", "the", "I-tree", "computation", "method", "is", "cost", "efficient", ",", "we", "compare", "it", "to", "the", "cost", "of", "a", "linear", "scan", "of", "the", "backlog", "from", "Ptx", "?", "1", "up", "to", "Ptx0", ".", "To", "find", "the", "two", "timeslices", "closest", "to", "the", "desired", "time", "tx", ",", "a", "lookup", "is", "done", "in", "the", "cache", ".", "We", "assume", "that", "the", "cost", "for", "this", "is", "the", "same", "in", "both", "situations", ".", "The", "cost", "of", "finding", "the", "positions", "Ptx", "?", "1", ",", "Ptx0", ",", "and", "Ptx", "+1", "in", "the", "I-tree", "is", "h", "disk", "accesses", "each.In", "the", "average-case", ",", "the", "linear", "scan", "will", "be", "3", "?", "h", "disk", "accesses", "better", "in", "approximately", "50", "%", "of", "the", "cases", ".", "There", "is", "a", "cost", "for", "the", "estimate", ",", "but", "this", "cost", "can", "reduce", "the", "total", "cost", "of", "computing", "the", "timeslice", "in", "the", "other", "approximately", "50", "%", "of", "the", "cases", ".", "Figure", "8", "shows", "the", "general", "case", ",", "where", "the", "cost", "of", "computing", "a", "timeslice", "by", "a", "linear", "scan", "is", "compared", "to", "the", "cost", "of", "computing", "a", "timeslice", "using", "differential", "computation", ".", "The", "x-axis", "indicates", "the", "position", "of", "Ptx", "and", "the", "y-axis", "indicates", "the", "number", "of", "disk", "accesses", "needed", "to", "compute", "the", "timeslice", ".", "The", "solid", "line", "assumes", "that", "the", "timeslice", "R", "-LRB-", "tx", "-RRB-", "is", "computed", "incrementally", "from", "Ptx", "?", "1", ",", "while", "the", "dashed", "curve", "assumes", "that", "the", "I-tree", "is", "being", "used", "to", "determine", "whether", "to", "do", "either", "incremental", "or", "decremental", "update", ",", "from", "position", "Ptx", "?", "1", "or", "Ptx", "+1", ",", "respectively", ".", "Figure", "8", "indicates", "that", "the", "I-tree", "approach", "looses", "slightly", "if", "the", "distances", "between", "the", "timeslices", "are", "small", ".", "At", "the", "same", "time", ",", "it", "shows", "that", "there", "can", "be", "significant", "efficiency", "gains", "using", "the", "I-tree", ".", "Note", "that", "the", "temporal", "closeness", "of", "the", "times", "of", "timeslices", "is", "not", "a", "reliable", "measure", "for", "their", "physical", "closeness", ",", "i.e.", ",", "for", "how", "many", "change", "requests", "that", "were", "entered", "into", "the", "backlog", "between", "the", "two", "timeslice", "times", ".", "To", "see", "the", "problem", ",", "consider", "an", "example", "where", "we", "assume", "that", "no", "I-tree", "is", "available", "and", "that", "the", "outset", "closest", "in", "time", "to", "tx", "is", "chosen", ".", "If", "the", "database", "is", "updated", "from", "8", "a.m.", "to", "4", "p.m.", "only", "and", "we", "want", "to", "compute", "a", "5", "p.m.", "timeslice", "for", "day", "5", "and", "we", "have", "a", "day", "5", ",", "2", "Number", "of", "Disk", "Accesses", "I-treeLinear", "ScanPosition", "of", "in", "the", "backlog", "Ptx-1Ptx", "+1", "xtPxtP", "Figure", "8", ":", "Cost", "Comparison", "When", "Computing", "Timeslices", "When", "Using", "Linear", "Scans", "versus", "I-trees", "p.m.", "cached", "result", "and", "a", "day", "6", ",", "9", "a.m.", "cached", "result", "then", "the", "day", "5", "outset", "will", "be", "chosen", ",", "but", "the", "day", "6", "outset", "is", "the", "best", ".", "5", "Additional", "Uses", "of", "the", "I-tree", "The", "I-tree", "may", "be", "used", "in", "other", "situations", "to", "make", "the", "database", "system", "more", "efficient", ".", "Here", "we", "show", "that", "it", "can", "be", "used", "to", "compute", "an", "exact", "position", "of", "a", "change", "request", ".", "Whereas", "the", "page", "position", "of", "a", "change", "request", "is", "the", "logical", "number", "of", "the", "disk", "page", "on", "which", "the", "change", "request", "is", "stored", ",", "the", "exact", "position", "of", "a", "change", "request", "consists", "of", "this", "page", "position", "and", "an", "offset", ".", "The", "exact", "position", "of", "a", "change", "request", "is", "useful", "when", "retrieving", "statistics", "about", "a", "backlog", ",", "e.g.", ",", "which", "day", "were", "the", "most", "change", "requests", "appended", "to", "the", "backlog", ".", "The", "exact", "position", "of", "a", "change", "request", "with", "transaction", "timestamp", "tx", "can", "be", "computed", "by", "finding", "the", "-LRB-", "logical", "-RRB-", "page", "position", "where", "the", "change", "request", "resides", ",", "using", "Formula", "1", ",", "then", "read", "the", "corresponding", "disk", "page", "and", "compute", "the", "change-request", "position", ",", "called", "pch", ",", "within", "that", "disk", "page", ".", "When", "the", "number", "of", "change", "request", "in", "a", "full", "disk", "page", ",", "Nch", ",", "and", "the", "number", "of", "disk", "pages", "skipped", "at", "the", "leaf", "level", "of", "the", "I-tree", ",", "Npages", ",", "are", "known", ",", "the", "change", "request", "'s", "exact", "position", "in", "the", "backlog", "is", "given", "by", "Npages", "?", "Nch", "+", "pch", ".", "The", "cost", "of", "finding", "the", "exact", "position", "is", "h", "+", "1", "disk", "accesses", ".", "If", "a", "database", "administrator", "wants", "to", "find", "out", "how", "many", "change", "request", "were", "appended", "to", "a", "backlog", "for", "the", "past", "day", ",", "he", "could", "issue", "the", "following", "backlog-based", "query", ".", "count", "-LRB-", "oe", "-LSB-", "now", "?", "1", "day", "<", "=", "Time", "<", "=", "now", "-RSB-", "BR", "-RRB-", "where", "count", "is", "an", "aggregate", "function", "which", "returns", "the", "cardinality", "of", "its", "parameter", ".", "This", "query", "can", "be", "converted", "to", "two", "point", "queries", "which", "find", "the", "exact", "positions", "of", "a", "change", "request", "with", "transaction", "timestamp", "t", "=", "now", "-", "1", "day", ",", "and", "t", "=", "now", ".", "The", "number", "of", "change", "requests", "between", "these", "positions", "can", "be", "computed", "from", "the", "results", "of", "the", "two", "exact-position", "queries", ".", "Generally", "all", "queries", "which", "count", "the", "total", "number", "of", "change", "requests", "in", "a", "transaction", "time", "interval", "can", "be", "converted", "to", "exact-position", "queries", ".", "This", "also", "applies", "to", "time-varying", "queries", ",", "the", "moving", "window", "operator", "-LSB-", "NA", "93", "-RSB-", "and", "the", "?", "-", "operator", "-LSB-", "JMR", "91", ",", "Jen", "91", "-RSB-", ".", "Details", "can", "be", "found", "in", "-LSB-", "TMJ", "94", "-RSB-", ".", "6", "Summary", "and", "Future", "Research", "In", "this", "paper", "we", "have", "taken", "one", "step", "in", "the", "direction", "of", "realizing", "a", "global", "query", "optimizer", "for", "temporal", "queries", ".", "We", "have", "given", "a", "method", "which", "can", "predict", "whether", "it", "is", "going", "to", "be", "more", "efficient", "to", "incrementally", "or", "decrementally", "compute", "a", "timeslice", "from", "a", "previously", "computed", "and", "cached", "result", "in", "a", "transaction-time", "data", "model", ".", "This", "has", "been", "done", "by", "using", "an", "I-tree", "as", "a", "permanent", "index", "on", "transaction", "timestamps", "on", "each", "backlog", ".", "An", "I-tree", "is", "a", "sparse", "B", "+", "-", "tree-like", "index", "with", "high", "space", "utilization", "where", "the", "format", "is", "the", "same", "for", "all", "nodes", "-LRB-", "root", ",", "internal", ",", "and", "leaf", "-RRB-", ".", "Nodes", "are", "connected", "by", "single", "pointers", "which", "eventually", "all", "will", "be", "used", ",", "and", "the", "nodes", "are", "not", "allocated", "before", "they", "are", "needed", ".", "The", "size", "of", "the", "I-tree", "in", "number", "of", "disk", "pages", "has", "been", "estimated", ",", "and", "we", "have", "shown", "that", "its", "size", "is", "very", "small", "compared", "to", "the", "size", "of", "the", "corresponding", "backlog", ".", "The", "I/O-cost", "for", "maintaining", "the", "I-tree", "has", "been", "estimated", "and", "found", "to", "be", "relatively", "small", "for", "trees", "of", "high", "order", ".", "Finally", ",", "the", "I-tree", "can", "be", "used", "in", "the", "actual", "computation", "of", "a", "wide", "range", "of", "other", "queries", "such", "as", ",", "point", "queries", ",", "time-varying", "queries", ",", "the", "moving", "window", "operator", ",", "and", "the", "?", "operator", ".", "Acknowledgement", "Kristian", "Torp", "was", "supported", "by", "The", "Fulbright", "Commission", ",", "Henry", "og", "Mary", "Skovs", "Fond", ",", "Grosserer", "L.", "F.", "Foghts", "Fond", ",", "Reinholdt", "W.", "Jorck", "og", "Hustrus", "Fond", ",", "and", "Aalborg", "University", ".", "References", "-LSB-", "AB", "80", "-RSB-", "Michel", "E.", "Adiba", "and", "Bruce", "G.", "Lindsay", ".", "Database", "Snapshots", ".", "Proceedings", "of", "the", "Sixth", "International", "Conference", "on", "Very", "Large", "Databases", "pp.", "86-91", ",", "1980", "-LSB-", "AS", "88", "-RSB-", "Ilsoo", "Ahn", "and", "Richard", "Snodgrass", ".", "Partitioned", "Storage", "for", "Temporal", "Databases", ".", "IEEE", "Transaction", "on", "Information", "Systems", ",", "Vol", ".", "13", ",", "No.", "4", ",", "pp.", "369-391", ",", "1988", "-LSB-", "BCL", "89", "-RSB-", "Jose", "A.", "Blakeley", ",", "Neil", "Coburn", ",", "and", "Per", "-", "?", "Ake", "Larson", "Updating", "Derived", "Relations", ":", "Detecting", "Irrelevant", "and", "Autonomously", "Computable", "Updates", ".", "ACM", "Transactions", "on", "Database", "Systems", ",", "Vol", "14", ",", "No", "3", ",", "pp", ".", "369-400", ",", "1989", "-LSB-", "BLT", "86", "-RSB-", "Jose", "A.", "Blakeley", ",", "Per", "-", "?", "Ake", "Larson", ",", "and", "Frank", "W.", "Tompa", ".", "Efficiently", "Updating", "Materialized", "Views", ".", "Proceedings", "of", "the", "ACM", "SIGMOD", "'", "86", ",", "pp.", "61-71", ",", "1986", "-LSB-", "BM", "93", "-RSB-", "Lars", "Baekgaard", "and", "Leo", "Mark", ".", "Incremental", "Evaluation", "of", "Time-Varying", "Queries", "Using", "Predicate", "Caches", ".", "Technical", "report", "CS-TR-2912", ",", "UMIACS-TR-92-64", ",", "Department", "of", "Computer", "Science", ",", "University", "of", "Maryland", ",", "College", "Park", ",", "MD", "20742", ",", "June", "1992", "-LSB-", "CSLLM", "90", "-RSB-", "Michael", "Carey", ",", "Eugene", "Shekita", ",", "George", "Lapis", ",", "Bruce", "Lindsay", ",", "and", "John", "McPherson", ".", "An", "Incremental", "Join", "Attachment", "for", "Starburst", ",", "Computer", "Sciences", "Department", ",", "University", "of", "Wisconsin", "|", "Madison", ",", "Technical", "report", ",", "no", "937", ",", "1990", "-LSB-", "DWB", "86", "-RSB-", "S.M.", "Downs", ",", "M.G.", "Walker", ",", "and", "R.L.", "Blum", ".", "Automated", "Summarization", "of", "On-line", "Medical", "Records", ".", "Stanford", "Memo", ",", "KSL-86-6", "Stanford", "University", ",", "1986", "-LSB-", "EN", "89", "-RSB-", "R.", "Elmasri", "and", "S.", "B.", "Navathe", ".", "Fundamentals", "of", "Database", "Systems", ".", "The", "Benjamin/Cummings", "Publishing", "Company", "Inc.", ".", "ISBN", "0-8053-0145-3", ",", "1989", "-LSB-", "EWK", "93", "-RSB-", "Ramez", "Elmasri", ",", "Gene", "T.J.", "Wuu", ",", "and", "Vram", "Kouramaijian", ".", "The", "Time", "Index", "and", "the", "Monotonic", "B", "+", "-", "tree", ".", "In", "Temporal", "Databases", "Theory", ",", "Design", "and", "Implementation", ".", "The", "Benjamin/Cummings", "Publishing", "Company", "Inc.", ".", "ISBN", "0-8053-2413-5", ",", "pp.", "433-456", ",", "1993", "-LSB-", "GS", "93", "-RSB-", "Himawan", "Gunadhi", "and", "Arie", "Segev", ".", "Efficient", "Indexing", "Methods", "for", "Temporal", "Relations", ".", "IEEE", "Transaction", "On", "Knowledge", "and", "Data", "Engineering", "Vol", ".5", "No.", "3", ",", "pp.", "496", "-", "509", ",", "June", "1993", "-LSB-", "Jen", "91", "-RSB-", "Christian", "S.", "Jensen", ".", "Towards", "the", "Realization", "of", "Transaction", "Time", "Database", "Systems", ".", "PhD", "dissertation", ",", "Technical", "Report", "R", "91-11", "Aalborg", "University", ",", "March", "1991", "-LSB-", "JM", "92", "-RSB-", "Christian", "S.", "Jensen", "and", "Leo", "Mark", ".", "Queries", "on", "Change", "in", "an", "Extended", "Relational", "Model", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "Vol", "4", ",", "No", "2", ",", "April", "1992", ",", "pp.", "192-200", "-LSB-", "JMR", "91", "-RSB-", "Christian", "S.", "Jensen", ",", "Leo", "Mark", ",", "and", "Nick", "Roussopoulos", ".", "Incremental", "Implementation", "Model", "of", "Relational", "Database", "with", "Transaction", "time", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "Vol", "3", ",", "No", "4", ",", "December", "1991", ",", "461-473", ".", "-LSB-", "JM", "93", "-RSB-", "Christian", "S.", "Jensen", "and", "Leo", "Mark", ".", "Differential", "Query", "Processing", "in", "TransactionTime", "Databases", ".", "In", "Temporal", "Databases", "Theory", ",", "Design", "and", "Implementation", ".", "The", "Benjamin/Cummings", "Publishing", "Company", "Inc.", ".", "ISBN", "0-8053-2413-5", ",", "pp.", "457-491", ",", "1993", "-LSB-", "LHMPW", "86", "-RSB-", "Bruce", "Lindsay", ",", "Laura", "Hass", ",", "C.", "Mohan", ",", "Hamid", "Pirahesh", ",", "and", "Paul", "Wilms", ".", "A", "Snapshot", "Differential", "Refresh", "Algorithm", ".", "Proceedings", "of", "the", "ACM", "SIGMOD", "'", "86", ",", "pp", "53-60", ",", "1986", "-LSB-", "LJ", "88", "-RSB-", "Nikos", "A.", "Lorentzos", "and", "Roger", "G.", "Johnson", ".", "Extending", "Relational", "Algebra", "to", "Manipulate", "Temporal", "Data", ".", "Information", "Systems", "Vol", ".", "13", ",", "No.", "3", "pp.", "289-296 1988", "-LSB-", "McK", "86", "-RSB-", "E.", "McKenzie", "Bibliography", ":", "Temporal", "Database", ".", "SIGMOD", ",", "Vol", "15", ",", "No", "4", ",", "pp.", "40-52", ",", "1986", ".", "-LSB-", "NA", "93", "-RSB-", "Shamkant", "B.", "Navathe", "and", "Rafi", "Ahmed", "Temporal", "Extensions", "to", "the", "Relational", "Model", "and", "SQL", ".", "In", "Temporal", "Databases", "Theory", ",", "Design", "and", "Implementation", ".", "The", "Benjamin/Cummings", "Publishing", "Company", "Inc.", ".", "ISBN", "0-8053-2413-5", ",", "pp.", "92-109", ",", "1993", "-LSB-", "RS", "87", "-RSB-", "L.", "Rowe", ",", "and", "M.", "Stonebraker", ".", "The", "POSTGRES", "Papers", ".", "UCB/ERL", "M86/85", ",", "University", "of", "California", ",", "Berkeley", ",", "CA", ",", "1987", "-LSB-", "Rou", "91", "-RSB-", "Nicholas", "Roussopoulos", ".", "An", "Incremental", "Access", "Method", "of", "ViewCache", ":", "Concept", ",", "Algorithms", ",", "and", "Cost", "Analysis", ".", "ACM", "Transaction", "on", "Database", "Systems", ",", "Vol", "16", "No.", "3", ",", "pp.", "535-563", ",", "September", "1991", "-LSB-", "Sch", "77", "-RSB-", "B.", "Schueler", ".", "Update", "Reconsidered", ".", "In", "G.", "M.", "Nijssen", "-LRB-", "ed", ".", "-RRB-", "Architecture", "and", "Models", "in", "Data", "Base", "Management", "Systems", ".", "North", "Holland", "Publishing", "Co", ",", "1977", ".", "-LSB-", "SG", "89", "-RSB-", "Arie", "Segev", "and", "Himawan", "Gunadhi", "Event-Join", "Optimization", "in", "Temporal", "Relational", "Databases", ".", "In", "Proceedings", "of", "the", "Fifteenth", "International", "Conference", "on", "Very", "Large", "Data", "Bases", ",", "pp.", "205-215", ",", "Amsterdam", "1989", "-LSB-", "SA", "85", "-RSB-", "R.", "Snodgrass", "and", "Ahn", ",", "I", ".", "A", "Taxonomy", "of", "Time", "in", "Database", ".", "ACM", "SIGMOD", ",", "pp.", "235-246", ",", "1985", "-LSB-", "Sno", "92", "-RSB-", "Richard", "T.", "Snodgrass", ".", "Temporal", "Databases", "In", "A.U.", "Frank", ",", "I.", "Campari", ",", "and", "U.", "Formentini", "-LRB-", "Eds", ".", "-RRB-", "Theories", "and", "Methods", "of", "Spatio-Temporal", "Reasoning", "In", "Geographic", "Space", ".", "Springer-Verlag", ",", "Lecture", "Notes", "in", "Computer", "Science", "639", ",", "pp.", "22-64", ",", "1992", "-LSB-", "Soo", "91", "-RSB-", "M.D.", "Soo", ".", "Bibliography", "on", "Temporal", "Databases", ".", "SIMMOD", ",", "Vol", "20", ",", "No", "1", ",", "pp.", "14-23", ",", "1991", "-LSB-", "SS", "88", "-RSB-", "R.", "Stam", "and", "R.", "Snodgrass", ".", "A", "Bibliography", "on", "Temporal", "Databases", ".", "Database", "Engineering", ",", "Vol", "7", ",", "No", "4", ",", "pp.", "231-239", ",", "1988", "-LSB-", "Sto", "87", "-RSB-", "Michael", "Stonebaker", ".", "The", "Design", "of", "The", "Postgres", "Storage", "System", ".", "In", "Proceedings", "of", "the", "13th", "international", "conference", "on", "Very", "Large", "Data", "Bases", ",", "pp.", "289-300", ",", "1987", "-LSB-", "T", "93", "-RSB-", "Tansel", "et", "al.", ".", "Temporal", "Database", ",", "Theory", "Design", "and", "Implementation", ".", "The", "Benjamin/Cummings", "Publishing", "Company", "Inc.", ".", "ISBN", "0-8053-2413-5", ",", "1993", "-LSB-", "TMJ", "94", "-RSB-", "Kristian", "Torp", ",", "Leo", "Mark", ",", "and", "Christian", "S.", "Jensen", ".", "Efficient", "Differential", "Timeslice", "Computation", "in", "Transaction", "Time", "Databases", ".", "Technical", "Report", ",", "Georgia", "Tech", "1994", ".", "-LSB-", "TMJ", "94a", "-RSB-", "Kristian", "Torp", ",", "Leo", "Mark", ",", "and", "Christian", "S.", "Jensen", ".", "Temporal", "Indexes", "for", "Transaction", "Time", "Databases", ".", "In", "preparation", ".", "-LSB-", "Ull", "82", "-RSB-", "Jeffery", "D.", "Ullman", ".", "Principles", "of", "Database", "Systems", ".", "Volume", "of", "Computer", "Software", "Engineering", "Series", ",", "Computer", "Science", "Press", ",", "second", "edition", ",", "1982" ]

[ "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "ABSTRACT", "Adaptive", "action", "prompting", "supports", "users", "by", "suggesting", "how", "to", "continue", "with", "the", "interaction", ".", "A", "small", "number", "of", "continuously", "updated", "action", "prompts", "are", "offered", "in", "addition", "to", "the", "regular", "menu", "interface", "of", "an", "application", ".", "Users", "can", "use", "these", "prompts", "either", "occasionally", "in", "trouble", "situations", "or", "for", "a", "sequence", "of", "system-guided", "action", "selections", ".", "The", "suggestions", "are", "based", "on", "models", "of", "the", "application", ",", "context", ",", "and", "user", ".", "According", "prompting", "strategies", "are", "automatically", "evaluated", "and", "can", "optionally", "be", "controlled", "by", "the", "user", ".", "Multimodal", "user", "interfaces", "provide", "further", "perspectives", "for", "adaptive", "prompting", ".", "INTRODUCTION", "In", "contemporary", "user", "interfaces", "extensive", "prompting", "is", "provided", "by", "means", "of", "icons", ",", "menus", ",", "buttons", ",", "input", "fields", ",", "and", "many", "other", ",", "often", "application", "specific", "controls", ".", "Due", "to", "the", "inherently", "large", "number", "of", "prompts", ",", "not", "all", "them", "can", "be", "made", "immediately", "available", "at", "the", "same", "time", ".", "Thus", ",", "users", "have", "to", "accomplish", "the", "task", "of", "searching", "for", "the", "appropriate", "prompt", "in", "a", "structured", "environment", "of", "hierarchic", "windows", ",", "lists", ",", "menus", ",", "and", "dialog", "boxes", ".", "Attempts", "to", "avoid", "hierarchical", "structure", ",", "on", "the", "other", "hand", ",", "lead", "to", "confusingly", "large", "numbers", "of", "items", "presented", "in", "a", "single", "menu", "or", "dialog", "box", ".", "Action", "selections", "from", "menus", "involve", "particular", "problems", ".", "Menu", "hierarchies", "typically", "include", "a", "menu", "bar", "with", "a", "couple", "of", "pull-down", "submenus", "with", "several", "items", "each", "some", "of", "which", "are", "further", "structured", "through", "cascaded", "menus", ".", "At", "the", "same", "time", ",", "interfaces", "often", "provide", "pop-up", "menus", ",", "usually", "one", "in", "each", "window", "pane", "and", "also", "sometimes", "cascaded", ".", "Navigating", "through", "these", "hierarchies", "in", "order", "to", "locate", "and", "select", "the", "desired", "action", "can", "be", "a", "time-consuming", "process", ",", "even", "if", "the", "user", "does", "know", "where", "exactly", "to", "find", "the", "item", "in", "question", "?", "what", "may", "or", "may", "not", "be", "the", "case", ".", "But", "users", "not", "only", "have", "problems", "to", "access", "the", "actions", "they", "already", "know", "about", ".", "Prior", "to", "selecting", "an", "action", ",", "users", "have", "to", "consider", "if", "the", "application", "provides", "an", "appropriate", "action", "at", "all", ".", "Even", "more", "basically", ",", "users", "have", "to", "imagine", "what", "would", "be", "an", "appropriate", "action", "to", "proceed", "with", "in", "order", "to", "perform", "a", "certain", "task", "of", "the", "application", "domain", "-LRB-", "cf.", "-LSB-", "10", "-RSB-", "-RRB-", ".", "While", "in", "direct", "manipulation", "interfaces", "all", "available", "functions", "are", "principally", "accessible", "at", "the", "same", "time", ",", "thus", "allowing", "for", "an", "explorative", "working", "style", ",", "these", "interfaces", "generally", "do", "not", "support", "users", "in", "dealing", "with", "such", "sequencing", "problems", ".", "Adaptive", "action", "prompting", ",", "as", "proposed", "in", "this", "paper", ",", "provides", "the", "user", "with", "a", "small", "number", "of", "immediate", "prompts", "for", "the", "most", "appropriate", "actions", "in", "a", "given", "situation", ".", "The", "underlying", "prompting", "strategies", "are", "adaptive", "about", "the", "changing", "context", "of", "both", "interaction", "and", "application", "and", "about", "the", "evolving", "knowledge", "and", "preferences", "of", "an", "individual", "user", ".", "The", "prompts", "are", "offered", "as", "a", "complementary", "aid", ",", "neither", "replacing", "nor", "interfering", "with", "the", "existing", "menus", ".", "Thus", ",", "explorative", "working", "in", "a", "rich", "environment", "is", "always", "possible", "if", "desired", "but", "not", "necessary", "in", "situations", "with", "a", "clear", "focus", "in", "the", "task", "domain", ".", "While", "this", "paper", "concentrates", "on", "the", "technical", "aspects", "of", "adaptive", "action", "prompting", "an", "earlier", "paper", "-LSB-", "7", "-RSB-", "describes", "the", "general", "idea", "of", "adaptive", "prompting", "as", "applicable", "to", "different", "concepts", "in", "contemporary", "user", "interfaces", ",", "including", "tool", "selection", "-LRB-", "see", "also", "-LSB-", "8", "-RSB-", "-RRB-", "and", "dialog", "boxes", "-LRB-", "see", "also", "-LSB-", "11", "-RSB-", "-RRB-", ".", "First", ",", "we", "provide", "a", "brief", "discussion", "of", "related", "work", ".", "Then", ",", "the", "adaptive", "action", "prompter", "is", "described", "in", "terms", "of", "its", "user", "interface", "and", "its", "functional", "characteristics", ".", "The", "underlying", "context", "model", "and", "the", "embedded", "prompting", "strategies", "are", "subsequently", "discussed", "in", "detail", ".", "Next", ",", "we", "show", "how", "the", "prompting", "strategies", "are", "partly", "controlled", "by", "the", "user", "and", "how", "they", "can", "be", "evaluated", "through", "built-in", "mechanisms", ".", "The", "discussion", "of", "limitations", "and", "risks", "of", "adaptive", "prompting", "is", "followed", "by", "an", "outlook", "on", "further", "implications", "of", "this", "work", "for", "multimodal", "interfaces", ".", "We", "conclude", "with", "the", "current", "status", "and", "future", "work", ".", "ADAPTIVE", "ACTION", "PROMPTING", "?", "A", "COMPLEMENTARY", "AID", "TO", "SUPPORT", "TASK-ORIENTED", "INTERACTION", "IN", "EXPLORATIVE", "USER", "INTERFACES", "Thomas", "K?hme", "Siemens", "Corporate", "Research", "and", "Development", "Otto-Hahn-Ring", "6", ",", "8000", "Munich", "8", ",", "Germany", "Email", ":", "kuehme@zfe.siemens.de", "RELATED", "WORK", "Various", "attempts", "have", "been", "made", "to", "reduce", "the", "navigation", "effort", "in", "menu", "hierarchies", ".", "Shortcuts", ",", "for", "instance", ",", "allow", "for", "a", "fast", "random", "access", "to", "menu", "items", "through", "pressing", "certain", "keys", "in", "combination", "or", "sequence", ".", "However", ",", "shortcuts", "trade", "faster", "accessibility", "for", "again", "more", "artifacts", "users", "have", "to", "remember", ".", "Pointer", "setting", "strategies", "for", "pop-up", "menus", "provide", "for", "a", "faster", "access", "to", "a", "certain", "menu", "item", ",", "often", "the", "most", "recently", "or", "most", "frequently", "used", ".", "Other", "approaches", "try", "to", "support", "users", "in", "selecting", "valid", "and", "appropriate", "items", ".", "Grey-shading", "of", "disabled", "menu-items", "falls", "into", "this", "category", ".", "Often", ",", "actions", "are", "prompted", "according", "to", "the", "previously", "selected", "objects", ",", "for", "instance", ",", "in", "objectspecific", "menus", "-LRB-", "most", "typically", "pop-up", "menus", "of", "editors", "and", "browsers", "-RRB-", "or", "dynamically", "exchanged", "control", "panels", "-LRB-", "e.g.", ",", "in", "computer-aided", "design", "systems", "-RRB-", ".", "In", "some", "environments", ",", "menus", "are", "configurable", ",", "i.e.", "users", "can", "determine", "which", "items", "are", "contained", "in", "a", "menu", "and", "in", "which", "order", ".", "Thus", ",", "users", "have", "the", "opportunity", "to", "adapt", "the", "menus", "to", "their", "particular", "needs", "and", "preferences", ".", "Microsoft", "Word", "-LSB-", "12", "-RSB-", "provides", "an", "adaptive", "menu", "which", "offers", "the", "most", "recently", "opened", "files", ".", "To", "reopen", "these", "files", ",", "users", "simply", "choose", "from", "the", "menu", "rather", "than", "going", "through", "the", "dialog", "with", "a", "file", "selection", "box", ".", "Related", "research", "focuses", "on", "a", "reorganization", "of", "menus", "according", "to", "user-specific", "usage", "patterns", ".", "Balint", "-LSB-", "1", "-RSB-", ",", "for", "instance", "reports", "on", "an", "adaptive", "dynamic", "menu", "system", "where", "positions", "of", "menu", "items", "are", "automatically", "adjusted", "after", "every", "interaction", ".", "Sukaviriya", "and", "Foley", "-LSB-", "16", "-RSB-", ",", "in", "contrast", ",", "propose", "to", "explicitly", "suggest", "modifications", "to", "menu", "layouts", "to", "users", ".", "The", "common", "goal", "is", "an", "increased", "performance", "due", "to", "the", "fact", "that", "the", "most", "frequently", "used", "item", "is", "moved", "to", "the", "most", "convenient", "location", "to", "select", ".", "Both", "approaches", "differ", "from", "the", "work", "described", "in", "this", "paper", "in", "that", "they", "modify", "the", "otherwise", "static", "menus", "of", "an", "application", "and", "that", "they", "only", "consider", "the", "statistical", "history", "of", "interactions", "to", "infer", "an", "improved", "menu", "structure", ".", "Cypher", "-LSB-", "3", "-RSB-", "introduced", "Eager", ",", "a", "Programming-By-Example", "system", "to", "automate", "iterative", "patterns", "in", "interaction", ".", "Eager", "is", "similar", "to", "adaptive", "prompting", "in", "that", "it", "anticipates", "which", "action", "the", "user", "is", "going", "to", "perform", "next", ".", "Whenever", "detecting", "a", "repetitive", "pattern", "in", "the", "dialog", ",", "it", "simultaneously", "shows", "the", "user", "how", "it", "would", "proceed", "by", "turning", "the", "corresponding", "menu", "items", ",", "buttons", ",", "etc.", "green", ".", "The", "user", "simply", "clicks", "on", "the", "Eager", "icon", "for", "task", "completion", "at", "any", "point", "in", "time", ".", "With", "its", "focus", "on", "repetitive", "tasks", ",", "a", "mechanism", "like", "that", "of", "Eager", "could", "be", "a", "supplemental", "part", "of", "adaptive", "prompting", ".", "The", "user", "interface", "environment", "UIDE", "-LSB-", "18", "-RSB-", "supports", "users", "in", "action", "selection", "by", "providing", "context-sensitive", "help", "on", "why", "an", "action", "is", "currently", "disabled", "and", "how", "to", "enable", "this", "action", ".", "Corresponding", "help", "can", "be", "either", "textual", "or", "animated", "-LSB-", "17", "-RSB-", "and", "is", "generated", "from", "a", "model", "of", "the", "application", "and", "interaction", ".", "The", "work", "described", "in", "this", "paper", "is", "closely", "related", "to", "UIDE", "and", "is", "based", "on", "its", "models", "and", "built-in", "provision", "for", "collecting", "individual", "task", "usage", "information", "-LSB-", "16", "-RSB-", ".", "A", "comparison", "between", "context-sensitive", "help", "and", "adaptive", "prompting", "is", "provided", "in", "a", "later", "section", ".", "THE", "ADAPTIVE", "ACTION", "PROMPTER", "A", "prompter", "in", "this", "context", "is", "an", "intelligent", "agent", "who", "helps", "the", "user", "by", "suggesting", "how", "to", "continue", "with", "the", "interaction", ".", "Unlike", "prompting", "an", "actor", "in", "a", "play", ",", "where", "a", "singular", "prompt", "is", "the", "only", "appropriate", "one", "in", "a", "given", "situation", ",", "mostly", "there", "are", "several", "alternative", "ways", "to", "continue", "with", "in", "a", "human-computer", "dialog", ".", "Accordingly", ",", "the", "action", "prompter", "provides", "a", "choice", "of", "prompts", "rather", "than", "only", "one", ".", "Like", "the", "real", "prompter", ",", "the", "action", "prompter", "keeps", "track", "of", "the", "context", "and", "simultaneously", "exchanges", "and", "adapts", "its", "suggestions", ".", "The", "prompts", "are", "presented", "as", "a", "menu", "in", "a", "small", ",", "permanently", "visible", "window", "-LRB-", "figure", "1", "-RRB-", ".", "This", "is", "in", "addition", "to", "the", "regular", "user", "interface", "the", "application", "provides", ".", "No", "changes", "?", "neither", "static", "nor", "dynamic", "?", "are", "made", "to", "this", "interface", ".", "Users", "are", "free", "to", "select", "actions", "from", "either", "the", "prompter", "menu", "or", "the", "menus", "of", "the", "original", "interface", ".", "Whenever", "the", "user", "does", "not", "know", "how", "to", "proceed", "with", "the", "interaction", "the", "prompter", "can", "be", "consulted", "and", "used", "for", "an", "action", "selection", ".", "In", "situations", "with", "a", "clear", "focus", ",", "the", "action", "prompter", "allows", "for", "temporarily", "switching", "to", "an", "ATM", "-LRB-", "automatic", "teller", "machine", "-RRB-", "kind", "of", "interaction", ".", "While", "working", "towards", "a", "certain", "goal", "or", "a", "couple", "of", "related", "goals", "users", "can", "make", "a", "series", "of", "subsequent", "selections", "from", "the", "prompter", ".", "Returning", "to", "a", "more", "explorative", "dialog", "in", "the", "regular", "interface", "is", "straightforward", "and", "always", "possible", ".", "Thus", ",", "the", "prompter", "supports", "a", "smooth", "change", "between", "arbitrary", "dialogs", "and", "a", "system-guided", "interaction", ".", "User", "Interface", "Obviously", ",", "the", "user", "interface", "to", "the", "action", "prompter", "needs", "to", "be", "as", "simple", "and", "easy", "to", "understand", "as", "possible", ".", "Otherwise", "the", "prompter", "would", "impose", "new", "problems", "instead", "of", "supporting", "users", ".", "However", ",", "the", "success", "of", "adaptive", "prompting", "supposedly", "depends", "on", "how", "well", "it", "is", "adjusted", "to", "the", "individual", "user", ".", "It", "is", "unlikely", "that", "a", "completely", "self-adaptive", "solution", "would", "be", "able", "to", "obtain", "satisfying", "results", ".", "Hence", ",", "the", "user", "has", "to", "be", "enabled", "to", "customize", "the", "prompter", "interface", "and", "to", "change", "the", "underlying", "strategies", ".", "This", "in", "turn", "Figure", "1", ".", "The", "Adaptive", "Action", "Prompter", "Use", "Create", "Open", "Edit", "in", "order", "to", "select", "a", "sample", "as", "input", "for", "the", "simulation", "in", "order", "to", "add", "a", "new", "sample", "to", "the", "simulation", "data", "base", "in", "order", "to", "change", "to", "another", "simulation", "scenario", "in", "order", "to", "switch", "to", "edit", "mode", "and", "modify", "simulation", "scenario", "requires", "a", "broader", "interface", "which", "provides", "corresponding", "access", ".", "The", "prompter", "window", "contains", "a", "menu", "bar", "and", "a", "number", "of", "action", "prompts", "-LRB-", "figure", "1", "-RRB-", ".", "The", "menu", "bar", "offers", "three", "submenus", ":", "Context", ",", "View", ",", "and", "Options", ".", "These", "menus", "provide", "opportunities", "to", "customize", "the", "prompter", "interface", "and", "to", "adjust", "the", "prompting", "strategies", ".", "The", "default", "number", "of", "presented", "action", "prompts", "is", "4", ",", "due", "to", "experiments", "that", "determined", "the", "average", "number", "of", "items", "perceivable", "at", "a", "glance", "to", "be", "4.2", "-LSB-", "15", "-RSB-", ".", "However", ",", "the", "number", "of", "prompts", "and", "the", "layout", "-LRB-", "rows/columns", "-RRB-", "can", "easily", "be", "changed", "by", "means", "of", "a", "dialog", "box", "that", "is", "accessible", "via", "the", "view", "menu", "-LRB-", "figure", "3", "-RRB-", ".", "The", "appearance", "of", "the", "prompts", "is", "adjustable", ".", "It", "can", "be", "simply", "the", "same", "as", "in", "the", "menu", "where", "an", "action", "originally", "Figure", "2", ".", "A", "Sample", "Interaction", "Sequence", "with", "the", "Action", "Prompter", "RunUse", "Create", "Use", "Run", "Step", "Create", "Step", "ParameterOpen", "Parameter", "Save", "EditEdit", "Analysis", "Edit", "Figure", "3", ".", "Prompter", "Interface", "Customization", "appears", "-LRB-", "figure", "2", "-RRB-", ".", "But", "also", ",", "actions", "can", "be", "extended", "by", "the", "objects", "to", "which", "the", "actions", "refer", "or", "by", "task-oriented", "explanations", "with", "respect", "to", "the", "purpose", "of", "an", "action", "-LRB-", "figure", "1", "-RRB-", ".", "Prompts", "are", "exchanged", "according", "to", "context", "changes", ".", "The", "user", "can", "determine", "when", "these", "updates", "shall", "occur", ":", "?", "on", "any", "context", "change", "?", ",", "?", "on", "any", "interaction", "?", ",", "or", "?", "on", "action", "selections", "?", ".", "Through", "the", "action", "prompter", ",", "the", "user", "has", "a", "good", "survey", "of", "sensible", "alternatives", "because", "the", "actions", "in", "question", "are", "listed", "one", "beneath", "another", ",", "as", "opposed", "to", "being", "distributed", "over", "different", "menus", ".", "While", "this", "means", "giving", "up", "the", "spacial", "consistency", "of", "static", "menus", ",", "the", "prompter", "interface", "keeps", "the", "order", "of", "prompts", "consistent", "with", "the", "original", "interface", "and", "between", "subsequent", "updates", ".", "If", "more", "than", "one", "prompt", "is", "taken", "from", "a", "menu", "in", "the", "original", "interface", "these", "prompts", "are", "presented", "in", "the", "same", "order", "as", "in", "that", "menu", ".", "Prompts", "which", "keep", "being", "presented", "from", "one", "update", "to", "another", "remain", "in", "their", "place", ".", "If", "possible", "without", "violating", "these", "rules", ",", "new", "prompts", "are", "presented", "in", "the", "same", "place", "as", "they", "were", "presented", "the", "last", "time", ".", "Functional", "Characteristics", "Figure", "2", "shows", "a", "sample", "interaction", "sequence", "using", "the", "action", "prompter", "to", "operate", "a", "simulation", "system", ".", "After", "selecting", "the", "Use", "action", "to", "determine", "the", "simulation", "input", "data", ",", "the", "actions", "Run", "and", "Step", "become", "available", ".", "The", "user", "chooses", "to", "run", "the", "simulation", "causing", "a", "prompt", "to", "come", "up", "for", "the", "Analysis", "action", ".", "After", "selecting", "this", "action", "and", "carefully", "looking", "at", "the", "provided", "analysis", "of", "the", "simulation", "run", ",", "the", "user", "decides", "to", "step", "through", "the", "simulation", "by", "clicking", "on", "the", "Step", "prompt", ".", "The", "interaction", "is", "not", "as", "restricted", "as", "it", "might", "appear", "at", "first", "sight", ".", "Even", "though", "the", "user", "has", "only", "four", "choices", "at", "a", "time", ",", "many", "more", "action", "sequences", "would", "have", "been", "possible", ".", "Consider", "that", "each", "action", "selection", "results", "in", "a", "potentially", "different", "set", "of", "prompts", ".", "Thus", ",", "the", "shown", "interaction", "sequence", "in", "this", "4-choice", ",", "4-step", "example", "is", "one", "out", "of", "up", "to", "256", "possible", "sequences", ".", "In", "practice", ",", "this", "number", "is", "smaller", "because", "prompt", "combinations", "overlap", ".", "But", "even", "then", "there", "is", "still", "more", "flexibility", "than", "required", "in", "many", "situations", ".", "Often", ",", "users", "actually", "consider", "only", "a", "few", "actions", "out", "of", "dozens", "or", "even", "hundreds", "of", "actions", "provided", "by", "an", "application", ".", "The", "functional", "design", "of", "the", "prompter", "is", "based", "on", "the", "observation", "that", "several", "reasons", "can", "contribute", "to", "this", "fact", ".", "Accordingly", ",", "the", "prompter", "evaluates", "a", "number", "of", "knowledge", "sources", "in", "order", "to", "find", "appropriate", "actions", "to", "prompt", "for", ".", "Prompting", "strategies", "are", "responsible", "for", "extracting", "the", "actual", "prompts", "as", "a", "fusion", "of", "the", "diverse", "pieces", "of", "knowledge", ".", "Optional", "user", "involvement", "allows", "for", "co-operatively", "controlling", "the", "whole", "process", ".", "Prompts", "can", "appear", "in", "virtually", "any", "possible", "combination", ".", "There", "are", "no", "pre-canned", "prompt", "combinations", ".", "However", ",", "the", "prompting", "strategies", "are", "deterministic", "in", "the", "sense", "that", "users", "can", "rely", "on", "seeing", "the", "same", "prompts", "in", "the", "same", "situation", ".", "The", "subsequent", "list", "of", "considered", "knowledge", "sources", "and", "their", "elements", "is", "open", ",", "i.e.", "future", "work", "is", "demanded", "to", "add", "to", "this", "list", ".", "The", "prompter", "design", "systematically", "allows", "for", "future", "extensions", ".", "In", "particular", ",", "the", "prompting", "strategies", "support", "an", "open", "number", "of", "knowledge", "sources", ".", "Application", "Model", ".", "Sensible", "alternatives", "of", "actions", "to", "proceed", "with", "are", "generally", "determined", "by", "the", "application", "domain", "and", "the", "tasks", "users", "perform", "in", "this", "domain", "by", "interacting", "with", "the", "computer", ".", "This", "work", "uses", "the", "UIDE", "application", "model", "-LSB-", "18", "-RSB-", "that", "provides", "information", "about", "the", "elements", "of", "the", "dialog", "such", "as", "objects", ",", "actions", ",", "relationships", "between", "objects", "and", "actions", ",", "and", "relationships", "between", "subsequent", "actions", ".", "By", "being", "used", "for", "controlling", "and", "monitoring", "the", "interaction", ",", "this", "model", "is", "able", "to", "also", "supply", "information", "about", "the", "actual", "dialog", "with", "respect", "to", "these", "elements", ".", "If", "there", "is", "a", "concurrently", "running", "application", "process", ",", "such", "as", "in", "supervisory", "control", "systems", ",", "the", "model", "processes", "and", "makes", "available", "events", "which", "are", "relevant", "for", "the", "interaction", "and", "as", "such", "important", "for", "prompting", ".", "Context", "Model", ".", "In", "a", "given", "situation", ",", "relationships", "between", "subsequent", "actions", "impose", "restrictions", "on", "the", "availability", "of", "particular", "actions", ";", "rule", "out", "actions", "which", "to", "choose", "would", "not", "be", "sensible", "although", "they", "are", "available", ";", "or", "provide", "evidence", "of", "what", "actions", "are", "to", "be", "selected", "consequently", ".", "The", "user?s", "focus", "on", "selected", "or", "otherwise", "used", "application", "objects", "leads", "to", "suitable", "actions", "when", "considered", "in", "conjunction", "with", "the", "relationships", "between", "object", "and", "actions", ".", "Sets", "of", "actions", "which", "are", "often", "used", "together", "in", "order", "to", "perform", "a", "certain", "task", "or", "a", "group", "of", "related", "tasks", "provide", "information", "about", "a", "possible", "next", "action", ",", "given", "that", "the", "majority", "of", "recent", "selections", "match", "elements", "of", "such", "a", "set", ".", "User", "Model", ".", "The", "users", "?", "knowledge", "and", "preferences", "also", "decide", "about", "selections", ",", "of", "course", ".", "Novice", "users", "know", "only", "a", "subset", "of", "all", "the", "existing", "actions", "of", "an", "application", ".", "Prompts", "might", "be", "desired", "only", "for", "the", "known", "actions", "to", "avoid", "confusion", "or", ",", "in", "contrast", ",", "for", "unknown", "actions", "in", "order", "to", "broaden", "the", "user?s", "knowledge", ".", "Experts", ",", "on", "the", "other", "hand", ",", "might", "have", "developed", "preferences", "for", "certain", "actions", "as", "far", "as", "there", "are", "redundant", "sets", "of", "actions", "and", "different", "ways", "to", "perform", "a", "given", "task", ".", "For", "purposes", "of", "user", "modeling", ",", "this", "work", "uses", "UIDE?s", "built-in", "mechanisms", "for", "recording", "a", "statistical", "history", "of", "interactions", "-LSB-", "16", "-RSB-", ".", "In", "order", "to", "obtain", "a", "model", "of", "the", "user?s", "expertise", ",", "not", "only", "successful", "completions", "of", "actions", "are", "recorded", "but", "also", ",", "for", "instance", ",", "related", "help", "requests", ".", "Preferred", "actions", "are", "determined", "by", "a", "comparative", "analysis", "of", "the", "user", "?", "s", "action-related", "expertise", "and", "the", "most-recentlyused", "time", "stamp", "for", "that", "action", ".", "The", "user?s", "overall", "experience", "is", "inferred", "from", "how", "many", "and", "how", "well", "actions", "are", "known", "and", "which", "are", "preferred", ".", "In", "the", "next", "two", "sections", ",", "the", "context", "model", "and", "the", "prompting", "strategies", "are", "described", "in", "greater", "detail", ".", "The", "employed", "elements", "of", "the", "UIDE", "model", "are", "explained", "along", "with", "this", "description", "as", "far", "as", "it", "is", "necessary", "to", "understand", "how", "they", "are", "used", ".", "For", "further", "details", "on", "UIDE", ",", "the", "reader", "is", "referred", "to", "the", "corresponding", "papers", "cited", "above", ".", "CONTEXT", "MODEL", "The", "context", "model", "is", "based", "on", "the", "assignment", "of", "actions", "to", "sets", "of", "actions", ".", "These", "sets", "are", "an", "input", "to", "the", "prompting", "strategies", "described", "in", "a", "further", "section", ".", "For", "instance", ",", "a", "prompting", "strategy", "might", "use", "as", "an", "input", "the", "set", "of", "currently", "enabled", "actions", "and", "the", "set", "of", "actions", "which", "would", "involve", "the", "currently", "selected", "object", ".", "These", "sets", "can", "either", "be", "predefined", "or", "dynamically", "constructed", "according", "to", "the", "current", "state", "of", "the", "interaction", ".", "The", "set", "of", "actions", "which", "can", "involve", "a", "particular", "object", "is", "predefined", "as", "part", "of", "the", "application", "model", ".", "Through", "the", "selection", "of", "this", "object", ",", "it", "becomes", "the", "set", "of", "actions", "which", "would", "involve", "the", "selected", "object", ".", "The", "set", "of", "enabled", "actions", ",", "on", "the", "other", "hand", ",", "is", "continuously", "changing", "and", "is", "obtained", "by", "an", "evaluation", "of", "the", "application", "model", "in", "a", "given", "situation", ".", "However", ",", "only", "those", "sets", "are", "generated", "that", "are", "actually", "used", "by", "the", "prompting", "strategies", "defined", "for", "that", "application", ".", "The", "overall", "context", "of", "the", "interaction", "at", "any", "point", "in", "time", "is", "given", "by", "the", "entirety", "of", "all", "defined", "action", "sets", "and", "their", "composing", "elements", "at", "that", "time", ".", "Three", "groups", "of", "actions", "sets", ",", "i.e.", "partial", "contexts", ",", "are", "particularly", "instructive", "for", "adaptive", "prompting", ":", "the", "action", "context", ",", "the", "focus", "context", ",", "and", "the", "task", "context", ".", "Action", "Context", "The", "action", "context", ",", "as", "defined", "here", ",", "is", "implicitly", "given", "by", "pre", "-", "and", "postconditions", "of", "actions", ".", "Pre", "-", "and", "postconditions", "are", "part", "of", "the", "application", "model", ".", "They", "describe", "under", "which", "circumstances", "an", "action", "is", "executable", "and", "what", "the", "expected", "results", "are", "with", "respect", "to", "the", "context", "of", "interaction", ".", "An", "action", "is", "enabled", "-LRB-", "i.e.", ",", "can", "be", "executed", "-RRB-", "if", "its", "precondition", "is", "fulfilled", ".", "The", "postcondition", ",", "on", "the", "other", "hand", ",", "determines", "the", "context", "changes", "which", "occur", "when", "this", "action", "has", "been", "completed", "successfully", ".", "The", "application", "model", "supports", "the", "reasoning", "about", "pre", "-", "and", "postconditions", ",", "thus", "allowing", "for", "an", "exploration", "of", "relationships", "between", "subsequent", "actions", ".", "Two", "different", "facets", "of", "the", "action", "context", "are", "considered", "and", "characterized", "below", "in", "terms", "of", "which", "actions", "go", "into", "the", "corresponding", "action", "sets", "and", "why", "they", "are", "useful", "with", "respect", "to", "adaptive", "prompting", ".", "It", "is", "also", "described", "how", "these", "sets", "are", "obtained", "by", "evaluating", "pre", "-", "and", "postconditions", ".", "Enabled", "Actions", ".", "Obviously", ",", "only", "actions", "which", "are", "currently", "enabled", "are", "interesting", "at", "all", "for", "adaptive", "prompting", ".", "Enabled", "actions", "are", "a", "subset", "of", "all", "existing", "actions", ",", "with", "the", "set", "of", "disabled", "actions", "as", "the", "complement", ".", "More", "interesting", "are", "those", "actions", "which", "were", "enabled", "by", "one", "of", "the", "recently", "executed", "actions", ".", "These", "actions", "are", "sensible", "candidates", "to", "be", "prompted", "because", "the", "user", "might", "have", "executed", "the", "respective", "action", "intentionally", "to", "enable", "one", "of", "these", "actions", "in", "order", "to", "proceed", "with", "it", ".", "Often", ",", "it", "may", "be", "assumed", "that", "an", "enabled", "action", "is", "the", "more", "important", "for", "prompting", "the", "more", "recently", "it", "was", "enabled", ".", "Hence", ",", "we", "define", "corresponding", "subsets", "of", "all", "enabled", "actions", ".", "For", "instance", ",", "the", "smallest", "subset", "is", "the", "set", "of", "actions", "which", "were", "enabled", "by", "the", "most", "recently", "executed", "action", ".", "This", "set", "is", "included", "as", "a", "subset", "in", "the", "set", "of", "actions", "which", "were", "enabled", "by", "one", "of", "the", "two", "most", "recently", "executed", "actions", ",", "and", "so", "forth", ".", "Figure", "4", "lists", "the", "definitions", "of", "the", "described", "sets", ".", "Enabled", "Actions", "actions", "=", "set", "of", "all", "actions", "disabled", "=", "set", "of", "all", "disabled", "actions", "enabled", "=", "set", "of", "all", "enabled", "actions", "enabledi", "=", "set", "of", "actions", "which", "were", "enabled", "by", "one", "of", "the", "i", "most", "recently", "executed", "actions", "actions", "=", "enabled", "?", "disabled", "enabled1", "?", "...", "?", "enabledi", "?", "...", "?", "enabled", "Partly", "Enabled", "Actions", "pEnabled", "=", "set", "of", "all", "partly", "enabled", "actions", "pEnabledi", "=", "set", "of", "actions", "which", "were", "partly", "enabled", "by", "one", "of", "the", "i", "most", "recently", "executed", "actions", "pEnabled1", "?", "...", "?", "pEnabledi", "?", "...", "?", "pEnabled", "Enabling", "Actions", "enabling", "-LRB-", "pEnabled", "-RRB-", "=", "set", "of", "enabling", "actions", "of", "all", "partly", "enabled", "actions", "enabling", "-LRB-", "pEnabledi", "-RRB-", "=", "set", "of", "enabling", "actions", "of", "partly", "enabled", "actions", "pEnabledi", "enabling", "-LRB-", "anAction", "-RRB-", "=", "set", "of", "enabling", "actions", "of", "the", "action", "anAction", "enabling", "-LRB-", "aSet", "-RRB-", "=", "set", "of", "enabling", "actions", "of", "all", "actions", "in", "the", "set", "aSet", "Multi", "Step", "Enabling", "Actions", "enabling", "-LRB-", "pEnabledk", "-RRB-", "=", "set", "of", "all", "enabling", "actions", "of", "partly", "enabled", "actions", "pEnabledk", "enablingi", "-LRB-", "pEnabledk", "-RRB-", "=", "set", "of", "i-step", "enabling", "actions", "of", "partly-enabled", "actions", "pEnabledk", "enabling1", "-LRB-", "pEnabledk", "-RRB-", "?", "...", "?", "enablingi", "-LRB-", "pEnabledk", "-RRB-", "?", "...", "?", "enabling", "-LRB-", "pEnabledk", "-RRB-", "Figure", "4", ".", "Action", "Context", "Enabling", "Actions", ".", "A", "specific", "group", "among", "the", "enabled", "actions", "should", "particularly", "be", "considered", "as", "prompting", "candidates", ",", "namely", "all", "those", "actions", "which", ",", "if", "executed", ",", "would", "enable", "another", "action", ".", "However", ",", "it", "can", "not", "be", "presumed", "that", "the", "user", "intends", "to", "enable", "an", "action", "only", "because", "it", "is", "just", "disabled", ".", "More", "evidence", "is", "necessary", ".", "A", "reasonable", "assumption", "seems", "to", "be", "that", "users", "may", "be", "trying", "to", "enable", "an", "action", "which", "already", "has", "been", "partly", "enabled", "by", "a", "recently", "executed", "action", ".", "Partly-enabled", "means", "that", "a", "precondition", "has", "become", "partly", "true", ",", "for", "instance", ",", "the", "predicate", "A", "in", "the", "expression", "A", "and", "B.", "Again", ",", "it", "could", "be", "considered", "that", "the", "more", "recently", "an", "action", "was", "partly", "enabled", "the", "more", "probably", "the", "user", "wants", "to", "proceed", "with", "fully", "enabling", "this", "action", ".", "Corresponding", "action", "sets", "contain", "actions", "which", "would", "enable", "actions", "which", "were", "partly", "enabled", ":", "by", "the", "most", "recently", "executed", "action", ";", "by", "one", "of", "the", "two", "most", "recently", "executed", "actions", ";", "etc.", ".", "See", "figure", "4", "for", "definitions", ".", "A", "further", "possibility", "is", "to", "consider", "not", "only", "enabling", "actions", "that", "enable", "another", "action", "in", "the", "very", "next", "step", "but", "also", "actions", "that", "contribute", "to", "enabling", "another", "action", "in", "one", "of", "the", "next", "steps", ".", "As", "we", "know", "from", "the", "generation", "of", "contextsensitive", "help", "on", "how", "an", "action", "could", "be", "enabled", "-LSB-", "17", "-RSB-", ",", "there", "are", "in", "general", "different", "ways", "to", "enable", "an", "action", ",", "i.e.", "to", "make", "the", "precondition", "of", "an", "action", "become", "true", ".", "Planning", "algorithms", "can", "be", "used", "to", "determine", "possible", "solutions", "by", "looking", "at", "which", "actions", "?", "postconditions", "would", "satisfy", "other", "actions", "?", "preconditions", ".", "Such", "planning", "leads", "to", "a", "number", "of", "action", "paths", "along", "which", "a", "particular", "action", "could", "be", "enabled", ".", "Some", "of", "them", "might", "take", "only", "one", "step", "-LRB-", "as", "discussed", "before", "-RRB-", ",", "others", "two", ",", "three", ",", "or", "even", "more", ".", "The", "starting", "action", "of", "each", "path", "is", "an", "enabling", "action", "in", "the", "broader", "sense", "considered", "in", "this", "paragraph", ".", "Correspondingly", ",", "the", "sets", "of", "enabling", "actions", "discussed", "above", "can", "be", "orthogonally", "subdivided", "into", "sets", "which", "contain", "starting", "actions", "of", "enabling", "paths", "with", "a", "certain", "number", "of", "steps", ".", "Figure", "4", "provides", "the", "definition", "for", "these", "multiple", "step", "enabling", "actions", ".", "The", "shorter", "an", "enabling", "path", "is", "the", "more", "interesting", "for", "prompting", "its", "starting", "action", "is", ",", "because", "of", "two", "reasons", ".", "Firstly", ",", "shorter", "ways", "to", "achieve", "the", "same", "result", ",", "i.e.", "enabling", "an", "action", ",", "are", "generally", "more", "attractive", "in", "terms", "of", "performance", "and", "simplicity", "than", "the", "longer", "alternatives", ".", "Secondly", ",", "short", "paths", "do", "not", "have", "as", "many", "side", "effects", "as", "long", "ones", "potentially", "have", ".", "A", "short", "path", "can", "therefore", "more", "clearly", "be", "interpreted", "as", "just", "?", "enabling", "an", "action", "?", "while", "the", "meaning", "of", "a", "longer", "path", "is", "questionable", ",", "at", "least", "when", "only", "looking", "at", "it", "on", "the", "level", "of", "pre", "-", "and", "postconditions", "as", "opposed", "to", "explicitly", "represented", ",", "more", "task-oriented", "action", "sequences", ".", "Prompting", "for", "enabling", "actions", "is", "very", "similar", "to", "providing", "how-to-enable", "help", ".", "With", "prompting", "though", ",", "the", "information", "is", "embedded", "in", "the", "normal", "interaction", "while", "help", "usually", "requires", "an", "additional", "-LRB-", "meta", "-", "-RRB-", "dialog", ".", "On", "the", "other", "hand", ",", "sometimes", "the", "more", "comprehensive", "information", "provided", "by", "extra", "help", "is", "definitely", "desired", ".", "In", "addition", ",", "if", "help", "on", "how", "to", "enable", "an", "action", "is", "explicitly", "requested", "by", "the", "user", "corresponding", "prompts", "for", "the", "enabling", "actions", "would", "ideally", "complement", "the", "presented", "help", "information", ".", "This", "can", "be", "considered", "in", "a", "prompting", "strategy", "if", ",", "first", ",", "an", "event", "?", "help", "requested", "for", "an", "action", "x", "?", "is", "passed", "to", "the", "prompter", ",", "and", ",", "second", ",", "the", "set", "of", "?", "enabling", "actions", "of", "the", "action", "x", "?", "is", "made", "available", ".", "So", "far", ",", "we", "discussed", "two", "indications", "that", "the", "user", "might", "want", "to", "enable", "a", "disabled", "action", ":", "a", "partly-enabled", "action", "or", "an", "action", "on", "which", "the", "user", "asks", "for", "help", "on", "how", "to", "enable", "it", ".", "But", "there", "are", "more", "reasons", "why", "enabling", "actions", "of", "certain", "disabled", "actions", "may", "be", "considerable", "candidates", "for", "prompting", ".", "Consider", ",", "for", "instance", ",", "a", "disabled", "action", "which", "is", "determined", "to", "be", "a", "reasonable", "prompt", "unless", "being", "disabled", ".", "Trying", "to", "enable", "this", "action", "would", "make", "sense", ".", "So", ",", "prompting", "for", "the", "corresponding", "enabling", "actions", "could", "be", "considered", ".", "The", "corresponding", "set", "of", "?", "enabling", "actions", "of", "all", "actions", "in", "a", "set", "?", "is", "available", ".", "The", "presented", "definition", "of", "the", "action", "context", "is", "exclusively", "based", "on", "a", "consideration", "of", "pre", "-", "and", "postconditions", "as", "given", "by", "the", "UIDE", "application", "model", ".", "Other", "approaches", "are", "conceivable", "and", "can", "be", "added", "to", "the", "action", "context", "definition", ".", "For", "instance", ",", "a", "stochastic", "model", "of", "action", "sequencing", "could", "contribute", "through", "providing", "a", "set", "of", "actions", "which", "are", "likely", "to", "be", "next", "in", "a", "series", "of", "successive", "actions", ".", "However", ",", "a", "drawback", "of", "a", "stochastic", "model", "is", "that", "its", "outcome", "is", "beyond", "any", "rationale", "that", "allows", "for", "understanding", "and", "controlling", "the", "resulting", "adaptive", "behavior", ".", "This", "is", "in", "contrast", "to", "the", "context", "definitions", "given", "here", "which", "all", "come", "along", "with", "an", "intelligible", "interpretation", ".", "Focus", "Context", "The", "focus", "context", "considers", "which", "application", "objects", "are", "in", "the", "user?s", "current", "focus", ".", "Obviously", "in", "the", "focus", "are", ",", "for", "instance", ",", "a", "selected", "object", ",", "an", "object", "that", "has", "explicitly", "received", "the", "input", "focus", "for", "keyboard", "events", ",", "or", "an", "object", "which", "was", "involved", "in", "the", "last", "selected", "action", ".", "These", "objects", "are", "elements", "of", "the", "first", "order", "focus", "context", ".", "According", "information", "about", "objects", "are", "obtained", "from", "the", "application", "model", ".", "While", "the", "above", "criteria", "for", "focus", "detection", "are", "considered", "on", "a", "syntactical", "level", "a", "more", "subtle", "mechanism", "based", "on", "the", "application", "model", "infers", "further", "assumptions", "about", "the", "user?s", "focus", ".", "This", "mechanism", "uses", "the", "first", "order", "focus", "context", "to", "establish", "and", "switch", "between", "respective", "second", "order", "focus", "contexts", "-LRB-", "cf.", "the", "notion", "of", "the", "focus", "space", "in", "-LSB-", "13", "-RSB-", "-RRB-", ".", "These", "contexts", "include", "in", "addition", "those", "objects", "which", "are", "closely", "related", "to", "an", "obviously", "focused", "object", ".", "The", "interpretation", "of", "?", "closely", "related", "?", "depends", "on", "structural", "relationships", "between", "objects", "provided", "by", "the", "application", "model", ".", "For", "instance", ",", "in", "a", "hierarchical", "structure", "all", "the", "objects", "on", "the", "path", "from", "the", "root", "of", "the", "hierarchy", "to", "the", "selected", "object", "and", "all", "the", "objects", "logically", "contained", "in", "the", "selected", "object", "would", "be", "considered", "to", "be", "in", "the", "user?s", "focus", ".", "A", "selected", "chart", "within", "a", "document", "within", "an", "editor", "would", "mean", "that", "the", "editor", ",", "the", "document", ",", "and", "the", "elements", "of", "the", "chart", "are", "also", "in", "the", "corresponding", "focus", "context", "while", "another", "document", "or", "another", "chart", "are", "not", ".", "Input", "for", "the", "prompting", "strategies", "is", "provided", "by", "means", "of", "three", "action", "sets", "according", "to", "the", "described", "focus", "contexts", ".", "See", "figure", "5", "for", "details", ".", "Task", "Context", "Task", "contexts", "are", "sets", "of", "actions", "which", "are", "often", "used", "together", "in", "order", "to", "perform", "a", "certain", "task", "or", "group", "of", "related", "tasks", ".", "Task", "contexts", "are", "predefined", "by", "either", "the", "system", "designer", "or", "the", "user", ".", "They", "are", "non-exclusive", "subsets", "of", "all", "available", "actions", ".", "Based", "on", "the", "monitoring", "provided", "by", "the", "application", "model", ",", "each", "task", "context", "determines", "how", "many", "of", "a", "certain", "number", "of", "recently", "selected", "actions", "match", "its", "elements", ".", "The", "resulting", "value", "is", "this", "task", "context?s", "current", "activation", "rate", ".", "The", "number", "of", "considered", "selections", "depends", "on", "the", "task", "context", "and", "is", "part", "of", "its", "definition", ".", "Task", "contexts", "which", "are", "expected", "to", "be", "often", "changed", "carry", "a", "smaller", "number", "than", "those", "in", "which", "the", "user", "usually", "remains", "for", "a", "longer", "period", ".", "Task", "contexts", "are", "available", "as", "input", "to", "the", "prompting", "strategies", ".", "They", "can", "be", "accessed", "from", "within", "a", "prompting", "strategy", "by", "name", "or", "activation", "rate", ",", "for", "instance", ",", "the", "task", "context", "with", "the", "highest", "activation", "rate", ",", "or", "a", "union", "of", "the", "two", "task", "contexts", "with", "the", "highest", "activation", "rates", ".", "Figure", "6", "provides", "the", "corresponding", "definition", ".", "On", "the", "one", "hand", ",", "this", "approach", "is", "less", "expressive", "than", "task", "modeling", "mechanisms", "dealing", "with", "actual", "sequences", "of", "actions", ".", "However", ",", "the", "notion", "of", "the", "task", "context", "seems", "to", "be", "just", "appropriate", "for", "action", "prompting", "in", "direct", "manipulation", "interfaces", ".", "The", "opportunity", "to", "switch", "between", "tasks", "and", "to", "choose", "any", "possible", "order", "of", "actions", "provided", "by", "direct", "manipulation", "dialogs", "is", "intrinsically", "taken", "into", "account", "by", "the", "task", "context", "approach", ".", "In", "addition", ",", "presenting", "a", "couple", "of", "reasonable", "alternatives", "to", "choose", "from", "does", "not", "necessarily", "demand", "for", "predicting", "the", "very", "next", "step", "in", "the", "one", "and", "only", "task", "the", "user", "could", "be", "assumed", "to", "deal", "with", ".", "Dealing", "with", "sequencing", "in", "terms", "of", "the", "action", "context", "described", "above", "might", "be", "sufficient", "in", "many", "cases", ".", "focused0", "=", "set", "of", "all", "actions", "which", "involve", "the", "currently", "selected", "object", "focused1", "=", "set", "of", "all", "actions", "which", "involve", "the", "objects", "in", "the", "current", "first", "order", "focus", "context", "focused2", "=", "set", "of", "all", "actions", "which", "involve", "the", "objects", "in", "the", "current", "second", "order", "focus", "context", "focused0", "?", "focused1", "?", "focused2", "Figure", "5", ".", "Focus", "Context", "active", "=", "set", "of", "actions", "which", "are", "elements", "of", "any", "task", "contexts", "activei", "=", "set", "of", "actions", "which", "are", "elements", "of", "those", "i", "task", "contexts", "with", "the", "highest", "activation", "rates", "active1", "?", "...", "?", "activei", "?", "...", "?", "active", "Figure", "6", ".", "Task", "Context", "PROMPTING", "STRATEGIES", "Defining", "appropriate", "strategies", "to", "combine", "all", "the", "available", "information", "is", "the", "key", "problem", "of", "adaptive", "prompting", ".", "Since", "the", "user", "?", "s", "style", "of", "interaction", "determines", "what", "?", "appropriate", "?", "means", "hardwiring", "a", "particular", "strategy", "would", "not", "help", ".", "For", "instance", ",", "the", "action", "context", "information", "might", "not", "be", "relevant", "for", "users", "who", "extensively", "switch", "between", "tasks", ".", "For", "them", ",", "the", "task", "context", "information", "becomes", "important", ".", "To", "complicate", "things", "further", ",", "a", "user", "may", "even", "have", "particular", "prompting", "needs", "for", "different", "task", "contexts", ",", "such", "as", "for", "text", "editing", "and", "layout", "design", "in", "a", "desktop", "publishing", "system", ".", "Therefore", ",", "the", "prompter", "works", "with", "an", "extendable", "collection", "of", "user-adaptable", "strategies", ".", "The", "actually", "used", "strategy", "is", "determined", "in", "a", "set-up", "procedure", "on", "the", "basis", "of", "context", "information", ".", "Thus", ",", "each", "prompting", "cycle", "consists", "of", "two", "steps", ":", "1", ".", "Perform", "set-up", "procedure", ".", "2", ".", "Perform", "selected", "prompting", "strategy", ".", "The", "set-up", "procedure", "also", "includes", "the", "computation", "of", "a", "base", "set", "containing", "those", "actions", "which", "are", "to", "be", "considered", "as", "possible", "prompts", "by", "either", "strategy", "-LRB-", "base", "-RRB-", ".", "Often", "this", "is", "simply", "the", "set", "of", "all", "actions", "of", "an", "application", ".", "It", "could", "also", "be", "reasonable", "to", "exclude", "actions", "the", "user", "does", "not", "know", "at", "all", "or", "actions", "with", "well-known", "shortcuts", ".", "Another", "set", "constructed", "in", "the", "set-up", "procedure", "contains", "actions", "which", "are", "definitely", "required", "to", "be", "prompted", "for", ",", "independently", "from", "the", "applied", "strategy", "-LRB-", "definitePrompts", "-RRB-", ".", "This", "feature", "allows", "for", "dealing", "with", "exceptions", "from", "the", "normal", "prompting", "strategies", ".", "For", "instance", ",", "a", "certain", "prompt", "could", "be", "required", "after", "the", "completion", "of", "a", "particular", "action", "or", "in", "consequence", "of", "an", "external", "event", ",", "such", "as", "a", "power", "failure", "alert", "in", "an", "assembly", "line", "control", "application", ".", "Another", "example", "for", "such", "an", "exception", "could", "be", "a", "?", "save", "?", "action", "which", "might", "need", "to", "be", "prompted", "for", "after", "every", "hundred", "action", "selections", ".", "These", "two", "sets", "can", "be", "used", "in", "the", "strategies", ".", "In", "addition", ",", "the", "set-up", "procedure", "can", "specify", "modifications", "to", "the", "actual", "context", "as", "to", "be", "considered", "by", "the", "strategies", ".", "For", "instance", ",", "it", "could", "override", "the", "activation", "rate", "of", "a", "particular", "task", "context", "if", "a", "certain", "object", "is", "selected", "or", "a", "certain", "action", "was", "completed", ".", "The", "corresponding", "activation", "rate", "would", "be", "set", "to", "either", "0", "or", "1", "in", "order", "to", "avoid", "or", "to", "ensure", "that", "a", "task", "context", "is", "considered", ",", "respectively", ".", "A", "prompting", "strategy", "is", "basically", "an", "expression", "to", "process", "the", "action", "sets", "provided", "by", "the", "context", "model", "and", "the", "set-up", "procedure", ".", "The", "result", "of", "the", "expression", "is", "the", "proposed", "set", "of", "prompts", ".", "Elements", "of", "such", "an", "expression", "are", "actions", "sets", ",", "set", "operators", ",", "and", "functions", ".", "Action", "sets", ".", "Beside", "the", "named", "action", "sets", "described", "above", ",", "constant", "and", "action", "sets", "can", "be", "used", ".", "Intermediate", "results", "can", "be", "assigned", "to", "action", "set", "variables", "for", "subsequent", "references", ".", "Set", "operations", ".", "The", "standard", "set", "operations", "such", "as", "union", ",", "intersection", ",", "and", "difference", "are", "available", ".", "Functions", ".", "Arguments", "and", "results", "of", "functions", "are", "actions", "sets", ".", "Available", "functions", "include", "standard", "set", "functions", "and", "functions", "provided", "by", "the", "application", ",", "context", ",", "and", "user", "model", ".", "For", "instance", ",", "the", "function", "to", "access", "the", "enabling", "actions", "of", "an", "action", "or", "set", "of", "actions", "has", "been", "described", "above", "as", "part", "of", "the", "context", "model", ".", "The", "user", "model", "provides", "functions", "such", "as", "bestKnownActions", "-LRB-", "aNumber", ",", "aSet", "-RRB-", "which", "yields", "a", "set", "of", "those", "aNumber", "actions", "out", "of", "aSet", "with", "the", "highest", "user", "expertise", "indication", ".", "A", "simplified", "example", "for", "a", "prompting", "strategy", "is", "provided", "in", "figure", "7", ".", "This", "strategy", "considers", "actions", "of", "the", "task", "context", "with", "the", "highest", "activation", "rate", "active1", "and", "the", "broad", "focus", "context", "focused2", ".", "Out", "of", "these", ",", "actions", "which", "were", "enabled", "at", "most", "three", "context", "changes", "ago", "are", "determined", "as", "candidates", "for", "being", "prompted", ".", "Only", "the", "best", "known", "actions", "of", "these", "are", "selected", "as", "actual", "prompts", ".", "maxPrompts", "is", "the", "maximum", "number", "of", "prompts", "according", "to", "the", "current", "prompter", "appearance", ".", "USER", "INVOLVEMENT", "A", "set", "of", "predefined", "prompting", "strategies", "and", "a", "set", "of", "stereotype", "user", "models", "for", "start-up", "use", "will", "normally", "come", "along", "with", "an", "application", ".", "The", "user", "model", "is", "individualized", "while", "using", "the", "application", ".", "Thus", ",", "the", "prompter", "works", "without", "any", "user", "involvement", "in", "the", "prompting", "mechanisms", ".", "Sometimes", ",", "however", ",", "it", "could", "be", "desirable", "for", "a", "user", "to", "get", "an", "insight", "into", "the", "internal", "mechanisms", "of", "adaptive", "behavior", ".", "Consider", ",", "for", "instance", ",", "a", "case", "in", "which", "the", "machine", "intelligence", "is", "not", "able", "to", "infer", "the", "necessary", "knowledge", ",", "at", "least", "not", "with", "a", "reasonable", "amount", "of", "design", "effort", "and", "computational", "power", ".", "The", "user", ",", "however", ",", "might", "be", "able", "to", "fill", "this", "gap", "by", "a", "simple", "change", "to", "a", "strategy", "or", "by", "adding", "a", "piece", "of", "knowledge", "to", "a", "model", ".", "Without", "the", "opportunity", "to", "become", "involved", ",", "any", "deficiencies", "would", "be", "irrevocable", ",", "the", "mechanisms", ",", "in", "our", "case", "adaptive", "prompting", ",", "would", "be", "less", "useful", "or", "even", "useless", "in", "certain", "situations", ".", "Therefore", ",", "the", "user", "is", "widely", "supported", "in", "inspecting", "and", "controlling", "the", "adaptive", "mechanisms", ".", "This", "approach", "has", "been", "called", "Computer-Aided", "Adaptation", "and", "described", "in", "more", "detail", "earlier", "-LSB-", "6", "-RSB-", ".", "It", "is", "crucial", "that", "the", "user", "can", "obtain", "any", "insights", "and", "adjustments", "with", "a", "minimal", "amount", "of", "additional", "knowledge", "and", "effort", ".", "Therefore", ",", "the", "user", "interface", "for", "all", "kinds", "of", "user", "involvement", "consists", "only", "of", "simple", "menus", "and", "dialog", "boxes", ".", "There", "are", "no", "files", "to", "edit", "and", "no", "comprehensive", "languages", "to", "learn", ".", "The", "context", "menu", ",", "for", "instance", ",", "allows", "the", "user", "to", "explicitly", "activate", "a", "task", "context", "-LRB-", "i.e.", "set", "activation", "rate", "to", "1", "-RRB-", ",", "such", "as", "in", "situations", "where", "the", "prompter", "failed", "inferring", "it", "correctly", "bestKnownActions", "-LRB-", "maxPrompts", ",", "-LRB-", "active1", "?", "focused2", "-RRB-", "?", "enabled3", "-RRB-", "Figure", "7", ".", "Sample", "Strategy", "from", "the", "dialog", "or", "the", "user", "unexpectedly", "wants", "to", "switch", "contexts", ".", "Task", "context", "definitions", "can", "be", "inspected", "and", "easily", "changed", "by", "means", "of", "a", "dialog", "box", "-LRB-", "figure", "8", "-RRB-", ".", "Access", "to", "the", "user", "model", "is", "provided", "by", "another", "dialog", "box", "-LRB-", "figure", "9", "-RRB-", ".", "The", "user", "can", "override", "the", "system-inferred", "values", "which", "indicate", "the", "user", "?", "s", "knowledge", "and", "preferences", "with", "respect", "to", "particular", "actions", ".", "A", "structure-based", "editor", "provides", "for", "easy", "access", "to", "the", "prompting", "strategies", ".", "EVALUATION", "The", "action", "prompter", "always", "observes", "the", "interaction", "and", "makes", "suggestions", ",", "whether", "or", "not", "the", "user", "actually", "selects", "actions", "from", "the", "prompter", ".", "As", "a", "consequence", ",", "an", "evaluation", "of", "the", "prompting", "strategies", "can", "be", "achieved", "by", "monitoring", "how", "often", "the", "proposed", "prompts", "match", "the", "actual", "user", "input", ".", "With", "some", "restrictions", ",", "such", "an", "evaluation", "can", "even", "be", "carried", "out", "off-line", "by", "using", "session", "protocols", ".", "Figure", "8", ".", "Task", "Context", "Editor", "Figure", "9", ".", "User", "Model", "Editor", "This", "type", "of", "evaluation", "is", "integrated", "in", "the", "prompter", "and", "is", "performed", "automatically", ".", "The", "corresponding", "statistics", "is", "accessible", "through", "the", "prompter?s", "options", "menu", ".", "Further", "evaluation", "includes", "extensive", "user-testing", "with", "respect", "to", "questions", "such", "as", ":", "Do", "users", "accept", "-LRB-", "i.e.", "use", "-RRB-", "prompting", "?", "Does", "its", "usage", "improve", "performance", "and", "quality", "of", "dialogs", "?", "How", "does", "the", "optional", "user", "involvement", "affect", "adaptive", "prompting", "?", "LIMITATIONS", "AND", "RISKS", "Adaptive", "action", "prompting", "attempts", "to", "provide", "guidance", "by", "presenting", "and", "thereby", "suggesting", "actions", "which", "are", "assumed", "to", "be", "appropriate", "in", "a", "given", "situation", ".", "However", ",", "the", "provision", "of", "guidance", "has", "to", "be", "designed", "very", "carefully", "since", "wrong", "assumptions", "about", "the", "appropriateness", "of", "items", "can", "cause", "problems", ".", "Obviously", ",", "misleading", "the", "user", "would", "be", "even", "worse", "than", "no", "guidance", "at", "all", ".", "User-testing", "will", "have", "to", "show", "whether", "this", "problem", "can", "be", "diminished", "by", "welldefined", ",", "user-controlled", "prompting", "strategies", ".", "Using", "the", "prompter", "for", "subsequent", "selections", "in", "situations", "with", "a", "clear", "focus", "is", "expected", "to", "be", "at", "least", "as", "efficient", "as", "using", "the", "regular", "menu", ".", "This", "requires", "successfully", "predicting", "the", "set", "of", "candidates", "for", "the", "next", "selection", "with", "a", "rate", "near", "100", "%", ".", "The", "performance", "could", "be", "decreased", ",", "however", ",", "if", "the", "user", "is", "too", "often", "forced", "within", "an", "interaction", "sequence", "to", "turn", "away", "from", "the", "prompter", "to", "the", "regular", "interface", "because", "the", "desired", "prompt", "was", "not", "offered", ".", "Even", "if", "the", "right", "prompt", "is", "offered", "the", "prompter", "might", "not", "always", "be", "the", "best", "alternative", "from", "which", "to", "select", ".", "For", "instance", ",", "if", "the", "user", "knows", "exactly", "where", "to", "find", "an", "action", "within", "a", "pull-down", "menu", "and", "if", ",", "besides", ",", "the", "current", "pointer", "position", "is", "close", "to", "this", "menu", "the", "search", "for", "the", "action", "in", "the", "prompter", "obviously", "requires", "more", "effort", "than", "the", "selection", "from", "the", "menu", ".", "However", ",", "his", "does", "not", "argue", "against", "the", "prompter", "approach", "as", "long", "as", "users", "do", "have", "the", "opportunity", "to", "select", "the", "items", "from", "the", "regular", "environment", ".", "ADAPTIVE", "PROMPTING", "IN", "MULTIMODAL", "INTERFACES", "Multimodal", "interfaces", "aim", "to", "relieve", "users", "from", "the", "burden", "of", "dealing", "with", "system", "functions", "and", "telling", "the", "system", "?", "how", "to", "do", "?", "something", ".", "Instead", ",", "users", "will", "be", "enabled", "to", "communicate", "their", "intentions", "and", "desires", "-LRB-", "i.e.", ",", "?", "what", "to", "be", "done", "?", "-RRB-", "to", "the", "system", "in", "a", "more", "natural", "way", "by", "means", "of", "gestures", "and", "spoken", "or", "written", "natural", "language", ".", "On", "the", "long", "run", ",", "users", "will", "no", "longer", "have", "to", "select", "abstract", "?", "tools", "?", "or", "?", "actions", "?", ".", "However", ",", "adaptive", "prompting", "is", "even", "more", "important", "and", "applicable", "in", "multimodal", "interfaces", ".", "There", "are", "several", "observations", "which", "support", "this", "hypothesis", ".", "Most", "of", "them", "can", "be", "considered", "under", "the", "two", "aspects", "of", "performance", "and", "guidance", ".", "A", "third", "aspect", "refers", "to", "how", "adaptive", "prompting", "can", "benefit", "from", "multimodality", "because", "of", "the", "provision", "of", "additional", "focus", "information", "and", "better", "opportunities", "for", "adapting", "the", "presentation", "of", "prompting", "information", ".", "However", ",", "the", "latter", "aspect", "is", "beyond", "the", "scope", "of", "this", "paper", ".", "Performance", "Aspects", "Allowing", "for", "more", "natural", ",", "intuitive", "user", "input", "requires", "a", "much", "larger", "effort", "for", "interpreting", "and", "evaluating", "this", "input", "within", "the", "user", "interface", ".", "Since", "there", "are", "still", "application", "programs", ",", "functions", "with", "parameters", ",", "and", "objects", "with", "attributes", "the", "user", "interface", "has", "to", "accomplish", "a", "mapping", "from", "a", "fuzzy", "input", "to", "definite", "entities", "an", "application", "deals", "with", ".", "As", "a", "matter", "of", "fact", ",", "the", "user", "interface", "now", "has", "the", "burden", "of", "selecting", "appropriate", "applications", "actions", ",", "according", "to", "the", "user?s", "interaction", "with", "the", "system", ".", "Internal", "Prompting", ".", "Adaptive", "prompting", "mechanisms", "can", "greatly", "support", "this", "internal", "selection", "process", "by", "providing", "a", "list", "of", "the", "actions", "which", "are", "most", "likely", "to", "be", "selected", ".", "Especially", "in", "gesture", "and", "speech", "recognition", "mechanisms", ",", "this", "information", "could", "be", "used", "to", "focus", "on", "the", "most", "probable", "interpretations", "resulting", "in", "a", "potentially", "higher", "recognition", "rate", ".", "Confirmative", "Prompting", ".", "As", "long", "as", "recognition", "rates", "are", "still", "poor", ",", "particularly", "too", "poor", "for", "certain", "safety-critical", "application", "areas", ",", "prompting", "the", "user", "should", "be", "considered", "also", "or", "even", "just", "with", "multimodal", "interfaces", ".", "Adaptive", "action", "prompting", "provides", "the", "user", "with", "a", "cue", "what", "the", "user", "interface", "considers", "to", "be", "most", "likely", "meant", "by", "the", "next", "gesture", "or", "speech", "input", ".", "On", "the", "one", "hand", ",", "the", "user", "would", "know", "that", "inputs", "which", "are", "not", "covered", "by", "the", "menu", "are", "more", "likely", "to", "be", "misunderstood", "by", "the", "interface", "than", "those", "in", "the", "menu", ".", "On", "the", "other", "hand", ",", "the", "user", "can", "use", "any", "prompted", "command", "-LRB-", "and", "perhaps", "gesture", "symbol", "-RRB-", "for", "producing", "a", "speech", "-LRB-", "or", "gesture", "-RRB-", "input", "which", "will", "be", "understood", "almost", "for", "certain", ".", "Optionally", ",", "the", "user", "can", "choose", "the", "desired", "action", "from", "the", "prompter", "by", "means", "of", "a", "more", "accurate", "input", "modality", ".", "The", "usefulness", "of", "this", "approach", "has", "been", "demonstrated", "earlier", "by", "Tennant", "et", "al.", "-LSB-", "19", "-RSB-", "who", "provided", "a", "menu", "to", "facilitate", "natural", "language", "input", "and", "recognition", ".", "Guidance", "Aspects", "Although", "multimodal", "interfaces", "facilitate", "more", "intuitive", "dialogs", "than", "ever", "possible", "in", "contemporary", "direct", "manipulation", "interfaces", "they", "will", "not", "completely", "relieve", "the", "interface", "from", "providing", "guidance", ".", "This", "assumption", "is", "based", "on", "the", "every", "day", "experience", "that", "new", "capabilities", "are", "fully", "exploited", "as", "soon", "as", "they", "appear", ".", "Interfaces", "and", "underlying", "applications", "will", "become", "more", "powerful", "but", "hardly", "simpler", "to", "use", "in", "their", "entirety", ".", "Intuitive", "Guidance", ".", "As", "described", "above", ",", "adaptive", "prompting", "provides", "guidance", "by", "particularly", "offering", "the", "most", "appropriate", "actions", "to", "be", "proceeded", "with", ".", "Since", "prompting", "is", "a", "regular", "part", "of", "the", "user?s", "interaction", "with", "the", "system", "this", "kind", "of", "guidance", "fits", "intuitively", "into", "the", "productive", "application", "dialog", ".", "Guidance", "for", "Pen-Based", "Systems", ".", "Guidance", "seems", "also", "to", "be", "necessary", "in", "pen-based", "systems", ".", "For", "instance", ",", "it", "can", "not", "be", "assumed", "that", "users", "remember", "all", "the", "possible", "gestures", "an", "interface", "designer", "might", "have", "thought", "of", "as", "?", "intuitive", "?", ".", "An", "optional", "guidance", "on", "gestures", "which", "are", "understood", "by", "the", "system", "would", "be", "more", "than", "helpful", ".", "However", ",", "there", "is", "rather", "little", "screen", "space", "on", "most", "pen-based", "systems", "where", "to", "provide", "this", "guidance", ".", "Adaptive", "prompting", "would", "be", "a", "solution", "since", "it", "presents", "only", "those", "items", "which", "are", "most", "important", "in", "a", "given", "situation", ".", "Hence", ",", "space", "consumption", "could", "be", "limited", "to", "what", "is", "just", "necessary", ".", "CURRENT", "STATUS", "AND", "FUTURE", "WORK", "A", "prototype", "of", "the", "action", "prompter", "has", "been", "developed", "in", "C++", "using", "UIDE", "-LSB-", "18", "-RSB-", "for", "application", "and", "user", "modeling", ".", "The", "prompter", "interface", "has", "been", "built", "with", "SX/Tools", "-LSB-", "9", "-RSB-", ".", "We", "have", "evaluated", "a", "couple", "of", "prompting", "strategies", ",", "however", ",", "only", "in", "the", "context", "of", "a", "small", "demo", "application", ".", "Although", "first", "results", "are", "encouraging", "they", "lack", "in", "generality", "because", "of", "the", "very", "limited", "domain", ".", "Current", "work", "therefore", "concentrates", "on", "developing", "and", "evaluating", "prompting", "strategies", "for", "a", "prototype", "of", "a", "complex", "traffic", "management", "system", ".", "Extensive", "user-testing", "will", "be", "carried", "out", "with", "this", "prototype", ".", "We", "see", "three", "major", "directions", "for", "future", "work", ":", "Prompter", "Interaction", ".", "The", "interaction", "with", "the", "prompter", "needs", "to", "be", "further", "explored", "in", "the", "context", "of", "multimodal", "interfaces", "and", "for", "different", "appearances", "of", "the", "prompter", ".", "We", "also", "consider", "further", "options", "for", "user", "support", ".", "In", "a", "future", "version", "of", "the", "prompter", ",", "for", "instance", ",", "the", "user", "will", "be", "able", "to", "choose", "that", "an", "animation", "of", "an", "action", "selection", "from", "the", "original", "menu", "is", "performed", "when", "selecting", "an", "action", "from", "the", "prompter", ".", "Considered", "Knowledge", ".", "So", "far", ",", "the", "prompting", "strategies", "have", "been", "based", "on", "knowledge", "that", "is", "maintained", "in", "an", "advanced", "user", "interface", "environment", "like", "UIDE", ".", "The", "intention", "was", "to", "use", "all", "available", "knowledge", "prior", "to", "investigating", "new", "knowledge", "sources", ".", "However", ",", "further", "work", "will", "include", "task", "models", "and", "elaborated", "user", "models", ".", "For", "instance", ",", "the", "user", "model", "needs", "to", "be", "enhanced", "with", "respect", "to", "contextual", "correlations", "of", "user?s", "preferences", ".", "Prompting", "Strategies", ".", "The", "prompting", "strategies", "are", "based", "on", "expressions", "for", "processing", "action", "sets", ".", "Considering", "user", "involvement", "in", "prompting", "strategies", "design", ",", "a", "representation", "needs", "to", "be", "found", "that", "is", "easier", "to", "understand", "than", "formal", "set", "operations", ".", "ACKNOWLEDGEMENTS", "This", "work", "was", "done", "at", "the", "Graphics", ",", "Visualization", ",", "and", "Usability", "Center", "during", "my", "stay", "as", "a", "visiting", "researcher", "at", "Georgia", "Tech", "from", "September", "1992", "to", "August", "1993", ".", "I", "would", "like", "to", "thank", "Al", "Badre", ",", "Jim", "Foley", ",", "Piyawadee", "?", "Noi", "?", "Sukaviriya", ",", "and", "the", "graduate", "students", "in", "the", "UIDE", "team", "for", "many", "invaluable", "discussions", "and", "comments", "on", "the", "ideas", "described", "in", "this", "paper", ".", "Thanks", "also", "to", "my", "colleagues", "Hartmut", "Dieterich", ",", "Uwe", "Malinowski", ",", "and", "Matthias", "SchneiderHufschmidt", "for", "providing", "substantial", "advice", "on", "the", "topic", ".", "REFERENCES", "1", ".", "L.", "Balint", ":", "Adaptive", "Dynamic", "Menu", "System", ".", "Poster", "Abstracts", "HCI", "International", "?", "89", ",", "Boston", ",", "September", "18", "-", "22", ",", "1989", ".", "2", ".", "P.", "R.", "Cohen", ":", "The", "Role", "of", "Natural", "Language", "in", "a", "Multimodal", "Interface", ".", "Proc", ".", "UIST", "?", "92", ",", "Monterey", ",", "CA", ",", "Nov", "15", "-", "18", ",", "1992", ".", "3", ".", "A.", "Cypher", ".", "Eager", ":", "Programming", "Repetitive", "Tasks", "By", "Example", ".", "Proc", ".", "CHI", "?", "91", ",", "pp.", "33-39", ",", "1991", ".", "4", ".", "H.", "Dieterich", ",", "U.", "Malinowski", ",", "T.", "K?hme", ",", "M.", "SchneiderHufschmidt", ":", "State", "of", "the", "Art", "in", "Adaptive", "User", "Interfaces", ".", "In", ":", "-LSB-", "14", "-RSB-", ".", "5", ".", "W.", "D.", "Gray", ",", "W.", "E.", "Hefley", ",", "D.", "Murray", "-LRB-", "eds", ".", "-RRB-", ":", "Proceedings", "of", "the", "1993", "ACM", "International", "Workshop", "on", "Intelligent", "User", "Interfaces", ".", "Orlando", ",", "FL", ".", "ACM", "Press", ",", "New", "York", ",", "1993", ".", "6", ".", "T.", "K?hme", ":", "A", "User-Centered", "Approach", "to", "Adaptive", "User", "Interfaces", ".", "In", "-LSB-", "5", "-RSB-", ",", "pp.", "243-245", ",", "1993", ".", "7", ".", "T.", "K?hme", ",", "U.", "Malinowski", ",", "J.", "D.", "Foley", ":", "Adaptive", "Prompting", ".", "Technical", "Report", "GIT-GVU-93-05", ",", "Georgia", "Institute", "of", "Technology", ",", "January", "1993", ".", "8", ".", "T.", "K?hme", ",", "U.", "Malinowski", ",", "J.", "D.", "Foley", ":", "Facilitating", "Interactive", "Tool", "Selection", "by", "Adaptive", "Prompting", ".", "Short", "Paper", "Abstracts", "INTERCHI", "?", "93", ",", "Amsterdam", ",", "The", "Netherlands", ",", "April", "24-29", ",", "1993", ".", "9", ".", "T.", "K?hme", ",", "M.", "Schneider-Hufschmidt", ":", "SX/Tools", "-", "An", "Open", "Design", "Environment", "for", "Adaptable", "Multimedia", "User", "Interfaces", ".", "Proc", ".", "Eurographics", "?", "92", ",", "Computer", "Graphics", "Forum", ",", "Vol", ".", "11", ",", "No.", "3", ",", "pp", "C-93", "?", "C-105", ",", "1992", ".", "10.C", ".", "Lewis", ",", "P.", "G.", "Polson", ":", "Cognitive", "Walkthroughs", ":", "A", "Method", "for", "Theory-Based", "Evaluation", "of", "User", "Interfaces", ".", "CHI", "?", "92", "Tutorial", "Notes", ",", "Monterey", ",", "CA", ",", "May", "4", ",", "1992", ".", "11", ".", "U.", "Malinowski", ":", "Adjusting", "Forms", "to", "Users", "?", "Behavior", ".", "In", "-LSB-", "5", "-RSB-", ",", "pp", ".", "247-249", ",", "1993", ".", "12", ".", "Microsoft", "Word", "5.0", ",", "Microsoft", "Corporation", ",", "1991", ".", "13", ".", "M.", "A.", "Per?z", ",", "J.", "L.", "Sibert", ":", "Focus", "in", "Graphical", "User", "Interfaces", ".", "In", "-LSB-", "5", "-RSB-", ",", "pp.", "255-257", ",", "1993", ".", "14", ".", "M.", "Schneider-Hufschmidt", ",", "T.", "K?hme", ",", "U.", "Malinowski", "-LRB-", "eds", ".", "-RRB-", ":", "Adaptive", "User", "Interfaces", "-", "Principles", "and", "Practice", ".", "Elsevier", ",", "Amsterdam", ".", "In", "preparation", ".", "15", ".", "G.", "Sperling", ":", "The", "Information", "Available", "in", "a", "Brief", "Visual", "Representation", ".", "Psych", ".", "Monogr.", ",", "Vol", ".", "74", ",", "No.", "11", ",", "1960", ".", "16", ".", "P.", "Sukaviriya", ",", "J.", "Foley", ":", "A", "Built-in", "Provision", "for", "Collecting", "Individual", "Task", "Usage", "Information", "in", "UIDE", ":", "the", "User", "Interface", "Design", "Environment", ".", "In", ":", "-LSB-", "14", "-RSB-", ".", "17", ".", "P.", "Sukaviriya", ",", "J.", "J.", "de", "Graaff", ":", "Automatic", "Generation", "of", "Context-sensitive", "?", "Show", "&", "Tell", "?", "Help", ".", "Technical", "Report", "GIT-GVU-92-18", ",", "Georgia", "Institute", "of", "Technology", ",", "July", "1992", ".", "18", ".", "P.", "Sukaviriya", ",", "J.", "Foley", ",", "T.", "Griffith", ":", "A", "Second", "Generation", "User", "Interface", "Design", "Environment", ":", "The", "Model", "and", "The", "Runtime", "Architecture", ".", "Proc", ".", "INTERCHI", "?", "93", ",", "Amsterdam", ",", "The", "Netherlands", ",", "April", "24-29", ",", "1993", ".", "19.H", ".", "R.", "Tennant", ",", "K.", "M.", "Ross", ",", "R.", "M.", "Saenz", ",", "C.", "W.", "Thompson", ",", "J.", "R.", "Miller", ":", "Menu-based", "natural", "language", "understanding", ".", "Proceedings", "of", "the", "21st", "annual", "meeting", "of", "the", "Association", "for", "Computational", "Linguistics", ",", "pp.", "151-158", ",", "1983", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "appear", "in", "the", "Proceedings", "of", "the", "SPIE", "Photonic", "East", "95", "-", "Mobile", "Robots", "X", "Conference", ",", "Philadelphia", ",", "Pennsylvania", ",", "October", "1995", ".", "Structured", "Light", "Systems", "for", "Dent", "Recognition", ":", "Lessons", "Learned", "Juan", "C.", "Santamar", "??", "a", "College", "of", "Computing", "Georgia", "Institute", "of", "Technology", "Atlanta", ",", "Georgia", "30332-0280", "U.S.A.", "Ronald", "C.", "Arkin", "College", "of", "Computing", "Georgia", "Institute", "of", "Technology", "Atlanta", ",", "Georgia", "30332-0280", "U.S.A.", "ABSTRACT", "This", "paper", "describes", "the", "results", "from", "a", "feasibility", "analysis", "performed", "on", "two", "different", "structured", "light", "system", "designs", "and", "the", "image", "processing", "algorithms", "they", "require", "for", "dent", "detection", "and", "localization", ".", "The", "impact", "of", "each", "structured", "light", "system", "is", "analyzed", "in", "terms", "of", "their", "mechanical", "realization", "and", "the", "complexity", "of", "the", "image", "processing", "algorithms", "required", "for", "robust", "dent", "detection", ".", "The", "two", "design", "alternatives", "considered", "consist", "of", "projecting", "vertical", "or", "horizontal", "laser", "stripes", "on", "the", "drum", "surface", ".", "The", "first", "alternative", "produces", "straight", "lines", "in", "the", "image", "plane", "and", "requires", "scanning", "the", "drum", "surface", "horizontally", ",", "whereas", "the", "second", "alternative", "produces", "conic", "curves", "on", "the", "camera", "plane", "and", "requires", "scanning", "the", "drum", "surface", "vertically", ".", "That", "is", ",", "the", "first", "alternative", "favors", "image", "processing", "against", "mechanical", "realization", "while", "the", "second", "alternative", "favors", "mechanical", "realization", "against", "image", "processing", ".", "The", "results", "from", "simulated", "and", "real", "structured", "light", "systems", "are", "presented", "and", "their", "major", "advantages", "and", "disadvantages", "for", "dent", "detection", "are", "presented", ".", "The", "paper", "concludes", "with", "the", "lessons", "learned", "from", "experiments", "with", "real", "and", "simulated", "structured", "light", "system", "prototypes", ".", "1", "INTRODUCTION", "This", "paper", "describes", "the", "lessons", "learned", "on", "several", "hardware", "and", "software", "alternatives", "in", "the", "design", "of", "a", "structured", "light", "system3", ",5", "to", "detect", "dent", "and", "bumps", "-LRB-", "blisters", "-RRB-", "on", "drums", ".", "Savannah", "River", "Technology", "Center", "-LRB-", "SRTC", "-RRB-", "is", "developing", "the", "Stored", "Waste", "Autonomous", "Mobile", "Investigator", "-LRB-", "SWAMI-II", "-RRB-", "to", "provide", "inspection", "and", "survey", "of", "low-level", "nuclear", "waste", "drums", ".", "SWAMI-II", "will", "help", "insure", "the", "health", "and", "safety", "of", "workers", "by", "monitoring", "the", "condition", "of", "radioactive", ",", "hazardous", "waste", ".", "The", "SWAMI-II", "base", "vehicle", "is", "a", "modified", "version", "of", "the", "HelpMate", "mobile", "robot", "manufactured", "by", "Transitions", "Research", "Corporation", "-LRB-", "TRC", "-RRB-", ".", "The", "vehicle", "will", "be", "equipped", "with", "a", "structured", "light", "system", "designed", "to", "recognize", "anomalies", "such", "as", "dents", "or", "blisters", "on", "a", "drum", "'s", "surface", ".", "The", "drums", "are", "stored", "on", "pallets", "on", "both", "sides", "of", "each", "aisle", ".", "As", "the", "robot", "passes", "each", "drum", ",", "it", "will", "estimate", "the", "location", "of", "each", "drum", "to", "appropriately", "aim", "a", "structured", "light", "system", ",", "taking", "images", "of", "it", "with", "cameras", "mounted", "on", "the", "rear", "of", "the", "vehicle", ".", "The", "objective", "of", "the", "dent", "recognition", "system", "is", "to", "detect", "dents", "and", "bumps", "-LRB-", "blisters", "-RRB-", "on", "a", "drum", "'s", "surface", ".", "The", "requirements", "of", "the", "system", "are", "to", "be", "able", "to", "recognize", "dents", "greater", "than", "1", "inch", "-LRB-", "2.54", "cm", "-RRB-", "laterally", "and", "vertically", ",", "and", "greater", "than", "1", "inch", "-LRB-", "2.54", "cm", "-RRB-", "deep", "on", "the", "visible", "portion", "of", "each", "drum", ".", "The", "drums", "have", "a", "black", ",", "shiny", "surface", "and", "some", "paper", "labels", "and", "will", "be", "located", "on", "pallets", "on", "both", "sides", "of", "the", "robot", ".", "The", "basic", "design", "involves", "a", "laser", "and", "a", "camera", ".", "The", "laser", "projects", "a", "stripe", "on", "the", "drum", "'s", "surface", "to", "make", "anomalies", "such", "as", "dents", "and", "blisters", "become", "visible", "as", "deformations", "of", "the", "laser", "stripe", ".", "Image", "processing", "software", "will", "analyze", "stored", "images", "off-board", ".", "This", "paper", "describes", "the", "results", "from", "a", "feasibility", "analysis", "performed", "on", "two", "structured", "light", "system", "designs", "and", "the", "image", "processing", "algorithms", "they", "require", "for", "dent", "detection", "and", "localization", ".", "The", "two", "design", "alternatives", "considered", "consist", "of", "projecting", "either", "vertical", "or", "horizontal", "laser", "stripes", "on", "the", "drum", "surface", ".", "The", "first", "alternative", "produces", "straight", "lines", "in", "the", "image", "plane", "and", "requires", "scanning", "the", "drum", "surface", "horizontally", ",", "whereas", "the", "second", "alternative", "produces", "conic", "curves", "on", "the", "camera", "plane", "and", "requires", "scanning", "the", "drum", "surface", "vertically", ".", "That", "is", ",", "the", "first", "alternative", "favors", "image", "processing", "against", "mechanical", "realization", "while", "the", "second", "alternative", "favors", "mechanical", "realization", "against", "image", "processing", ".", "In", "the", "general", "case", ",", "three", "different", "approaches", "for", "dent", "recognition", "were", "investigated", ".", "All", "of", "the", "approaches", "are", "variations", "on", "how", "to", "process", "an", "image", "of", "the", "drum", "surface", "illuminated", "by", "a", "laser", "beam", ".", "The", "first", "approach", "consists", "of", "zero-detection", "in", "the", "first", "derivative", "of", "the", "projected", "laser", "stripe", ".", "Points", "in", "which", "the", "first", "derivative", "evaluates", "to", "zero", "denote", "possible", "minima", "or", "maxima", "points", "on", "the", "laser", "stripe", ".", "These", "extreme", "points", "are", "candidate", "deformations", "on", "the", "drum", "'s", "surface", ".", "The", "second", "approach", "consists", "of", "detecting", "outliers", "from", "a", "fitted", "model", "of", "the", "laser", "stripe", ".", "For", "example", ",", "all", "those", "points", "that", "lie", "beyond", "two", "standard", "deviations", "from", "the", "fitted", "model", "are", "candidate", "deformations", "on", "the", "drum", "'s", "surface", ".", "The", "third", "approach", "involves", "spatio-temporal", "sampling", "to", "construct", "a", "3-D", "model", "of", "the", "drum", "'s", "surface", ".", "This", "paper", "is", "organized", "as", "follows", ":", "Section", "2", "describes", "the", "structured", "light", "systems", "and", "their", "components", "as", "well", "as", "the", "image", "sampling", "techniques", "that", "are", "used", "to", "gather", "data", ".", "Section", "3", "describes", "the", "image", "processing", "algorithms", "for", "each", "of", "the", "three", "different", "approaches", ".", "Section", "4", "presents", "results", "using", "the", "alternatives", "based", "on", "images", "generated", "by", "both", "a", "simulation", "package", "and", "real-world", "laser", "striping", "prototypes", ".", "Section", "5", "presents", "an", "analysis", "of", "the", "results", ",", "a", "discussion", "of", "the", "advantages", "and", "disadvantages", "of", "each", "approach", ",", "and", "some", "recommendations", "for", "improving", "performance", ".", "2", "IMAGING", "HARDWARE", "2.1", "System", "design", "SWAMI-II", "will", "be", "equipped", "with", "a", "mobile", "structured", "light", "system", "placed", "on", "the", "back", "of", "the", "vehicle", ".", "The", "structured", "light", "system", "will", "face", "toward", "a", "target", "drum", "at", "one", "side", "of", "the", "robot", ".", "As", "the", "robot", "navigates", "through", "the", "aisle", ",", "the", "structured", "light", "system", "will", "position", "itself", ",", "always", "pointing", "towards", "the", "center", "of", "the", "drum", ".", "Drums", "on", "the", "other", "side", "of", "the", "aisle", "will", "be", "scanned", "similarly", "during", "a", "second", "pass", "with", "the", "robot", "facing", "in", "the", "opposite", "direction", ".", "Two", "structured", "light", "systems", "design", "were", "considered", ":", "horizontal", "scanning", "and", "vertical", "scanning", ".", "The", "former", "projects", "a", "vertical", "laser", "stripe", "on", "the", "drum", "surface", "while", "scanning", "the", "drum", "horizontally", ".", "The", "later", "projects", "a", "horizontal", "laser", "stripe", "on", "the", "drum", "surface", "while", "scanning", "the", "drum", "vertically", ".", "The", "horizontal", "scanning", "structured", "light", "system", "was", "the", "original", "design", "proposed", "by", "SRTC", "but", "was", "discarded", "afterwards", "due", "to", "the", "mechanical", "top", "view", "drum", "camera", "laser", "a", "l", "a", "l", "side", "view", "cameralaser", "2", "drum", "laser", "1", "l", "Figure", "1", ":", "Horizontal", "scanning", "design", "Figure", "2", ":", "Vertical", "scanning", "design", "complexity", "of", "its", "implementation", ".", "The", "horizontal", "scanning", "structured", "light", "system", "design", "consisted", "of", "a", "laser", "and", "a", "camera", "mounted", "on", "a", "mobile", "platform", ".", "The", "camera", "and", "the", "laser", "were", "each", "fixed", "on", "the", "opposite", "extremes", "of", "a", "supporting", "bar", "arranged", "horizontally", ".", "The", "laser", "beam", "and", "the", "camera", "axis", "converge", "on", "a", "point", "located", "on", "an", "imaginary", "line", "perpendicular", "to", "the", "bar", "that", "crosses", "its", "midpoint", ".", "Figure", "1", "shows", "the", "horizontal", "scanning", "structured", "light", "system", ".", "In", "the", "horizontal", "scanning", "design", ",", "as", "the", "robot", "navigates", "through", "an", "aisle", ",", "the", "structured", "light", "system", "moves", "in", "such", "a", "way", "as", "to", "always", "point", "to", "the", "center", "of", "the", "drum", ".", "The", "movement", "of", "the", "frame", "is", "performed", "by", "following", "the", "circumference", "keeping", "a", "constant", "distance", "between", "the", "structured", "light", "system", "and", "the", "surface", "of", "the", "drum", ".", "Figure", "3", "demonstrates", "this", "procedure", ".", "The", "laser", "projects", "an", "eye-safe", "beam", "that", "produces", "a", "laser", "stripe", "on", "the", "drum", "surface", ".", "Dents", "and", "bumps", "can", "be", "recognized", "by", "capturing", "and", "analyzing", "images", "containing", "this", "stripe", ".", "The", "vertical", "scanning", "design", "consisted", "of", "two", "lasers", "and", "a", "camera", "mounted", "on", "a", "mobile", "platform", ".", "The", "two", "lasers", "are", "each", "fixed", "on", "opposite", "extremes", "of", "a", "supporting", "bar", "and", "the", "camera", "is", "located", "on", "the", "midpoint", ".", "The", "laser", "beams", "and", "the", "camera", "axis", "are", "parallel", "to", "each", "other", "and", "perpendicular", "to", "the", "drum", "surface", ".", "Figure", "2", "shows", "the", "redesigned", "structured", "light", "system", ".", "Using", "this", "system", ",", "as", "the", "robot", "navigates", "through", "an", "aisle", ",", "it", "will", "stop", "at", "each", "drum", ",", "then", "the", "structured", "light", "system", "moves", "vertically", "to", "cover", "the", "drum", "surface", ".", "Figure", "4", "demonstrates", "this", "procedure", ".", "The", "lasers", "projects", "two", "eye-safe", "beams", "that", "will", "produce", "two", "laser", "stripes", "on", "the", "drum", "surface", ",", "one", "above", "and", "one", "below", "the", "center", "of", "the", "image", ".", "Dents", "and", "bumps", "can", "be", "recognized", "by", "capturing", "and", "analyzing", "images", "containing", "these", "stripes", ".", "Image", "capture", "is", "the", "same", "in", "both", "designs", ".", "Images", "are", "captured", "at", "fixed", "intervals", ".", "Each", "image", "is", "thresholded", "and", "thinned", "in", "order", "to", "obtain", "a", "line", "description", "that", "occupies", "less", "space", "to", "store", "and", "is", "easier", "to", "process", "later", "on", ".", "Further", "details", "of", "the", "image", "processing", "depend", "on", "the", "particular", "approach", "selected", ".", "The", "next", "section", "describes", "each", "strategy", "in", "detail", ".", "2.2", "System", "components", "The", "components", "used", "in", "the", "prototype", "systems", "are", "the", "same", "as", "the", "components", "specified", "for", "the", "current", "structured", "light", "system", "design", ".", "The", "following", "lists", "describes", "each", "component", ".", "top", "view", "drum", "camera", "laser", "q", "x", "y", "trajectory", "robot", "q", "q", "min", "max", "d", "drum", "z", "trajectory", "robot", "d", "side", "view", "cameralaser", "2", "laser", "1", "z", "z", "min", "max", "Figure", "3", ":", "Sampling", "in", "the", "horizontal", "scanning", "design", "Figure", "4", ":", "Sampling", "in", "the", "vertical", "scanning", "design", "Camera", ":", "WATEC", "P/N", "WAT-203EX", "Lens", ":", "JML", "P/N", "CTV", "20080/100", "Laser", ":", "Lasiris", "P/N", "SNF-501L-635M-3-45", "CCD", "Size", ":", "1/2", "''", "format", "6:4", "?", "4:8", "mm", "Horizontal", "Resolution", ":", "550", "TV", "Lines", "Sensitivity", ":", "0.1", "Lux", "Lens", ":", "C", "Mount", "External", "Sync", "-LRB-", "HD-VD", "-RRB-", "Size", ":", "2:2000", "?", "2:4400", "?", "1:8800", "Focal", "Length", ":", "6.0", "mm", "f", "/", "#", ":", "1.2", "Format", ":", "1/2", "''", "CCD", "Mount", ":", "C", "Manual", "Iris", "Filter", "Diameter", ":", "M37", ":5", "?", ":5", "Length", ":", "40", "mm", "Diameter", ":", "45", "mm", "Weight", ":", "110", "grams", "Wave", "Length", ":", "635", "nm", "@", "25", "Cffi", "Power", ":", "3", "mW", "Class", ":", "IIa", "Stability", ":", "0.25", "nm/Cffi", "Fan", "angle", ":", "45", "degrees", "Modulation", "Option", ":", "Input", "TTL", "Frequency", "range", ":", "DC", ",", "6", "Hz", "-LCB-", "2", "MHz", "3", "VISUAL", "DENT", "DETECTION", "APPROACHES", "This", "section", "describes", "in", "detail", "several", "approaches", "to", "detect", "dents", "on", "drum", "surfaces", "using", "either", "the", "horizontal", "or", "vertical", "scanning", "structured", "light", "system", "designs", ".", "Each", "approach", "uses", "a", "different", "image", "processing", "technique", "to", "detect", "possible", "deformations", "on", "the", "drum", "by", "analyzing", "the", "images", "captured", "with", "the", "structured", "light", "systems", "described", "in", "the", "previous", "section", ".", "All", "of", "the", "approaches", "utilize", "the", "same", "input", "formats", "and", "generate", "the", "same", "output", ".", "The", "differences", "involve", "the", "image", "processing", "technique", "used", "to", "detect", "the", "surface", "deformations", ".", "There", "are", "two", "types", "of", "inputs", "to", "the", "dent", "detection", "software", ":", "configurational", "and", "data", ".", "The", "configurational", "input", "consists", "of", "information", "regarding", "the", "position", "and", "orientation", "of", "the", "laser", "and", "camera", ".", "The", "software", "only", "requires", "this", "information", "once", "at", "the", "beginning", "of", "execution", ".", "The", "data", "input", "consists", "of", "the", "images", "acquired", "by", "the", "camera", ".", "The", "software", "acquires", "this", "information", "periodically", "using", "it", "to", "detect", "and", "localize", "dents", "on", "drums", ".", "It", "is", "assumed", "that", "the", "structure", "supporting", "the", "laser", "and", "the", "camera", "always", "points", "toward", "the", "center", "of", "the", "drum", "while", "the", "structured", "light", "system", "scans", "the", "drum", "surface", "-LRB-", "refer", "to", "Figures", "1", "and", "2", "-RRB-", ".", "The", "input", "specifications", "follow", ":", "1", ".", "Frame", "Structure", "Information", ".", "The", "following", "information", "is", "required", "for", "the", "configuration", "of", "the", "structured", "light", "system", ":", "-LRB-", "a", "-RRB-", "l", ":", "the", "distance", "in", "meters", "between", "the", "camera", "and", "the", "laser", "on", "the", "frame", ".", "Range", ":", "-LSB-", "0", ";", "1", "-RRB-", "-LRB-", "b", "-RRB-", "ff", ":", "the", "angle", "in", "degrees", "between", "the", "longitudinal", "axis", "of", "the", "camera", "and", "the", "supporting", "frame", ".", "Range", ":", "-LSB-", "0", ";", "90", "-RSB-", "-LRB-", "c", "-RRB-", "d", ":", "the", "distance", "between", "the", "middle", "point", "of", "the", "supporting", "frame", "and", "the", "center", "of", "the", "drum", ".", "Range", ":", "-LSB-", "0", ";", "1", "-RRB-", "2", ".", "Data", "Information", ".", "The", "following", "information", "is", "required", "for", "each", "data", "sample", ":", "-LRB-", "a", "-RRB-", "-LSB-", "In", "-RSB-", ":", "the", "digitized", "image", "at", "that", "position", ".", "Range", ":", "In", "is", "an", "array", "of", "pixel", "values", "-LSB-", "0", ";", "255", "-RSB-", ".", "Ther", "output", "delivered", "by", "the", "dent", "recognition", "software", "consists", "of", "whether", "or", "not", "there", "is", "a", "dent", "in", "the", "processed", "image", ".", "The", "position", "of", "a", "detected", "dent", "can", "then", "be", "estimated", "considering", "the", "position", "of", "the", "structured", "light", "system", "at", "the", "time", "that", "image", "was", "taken", ".", "3.1", "Preprocessing", "algorithms", "and", "common", "image", "processing", "routines", "The", "following", "image", "processing", "routines", "are", "general", "and", "most", "are", "used", "in", "both", "of", "the", "structured", "light", "system", "designs", ".", "Cut", ":", "The", "purpose", "of", "this", "routine", "is", "to", "clip", "an", "image", "with", "a", "specified", "window", "and", "produce", "another", "image", "with", "only", "the", "information", "inside", "the", "given", "window", ".", "This", "function", "is", "required", "only", "in", "the", "vertical", "scanning", "structured", "light", "system", "and", "it", "is", "used", "to", "separate", "the", "top", "laser", "stripe", "from", "the", "bottom", "one", ".", "The", "window", "depends", "only", "on", "the", "configuration", "information", "and", "it", "is", "the", "same", "for", "each", "of", "the", "scanned", "images", ".", "In", "this", "way", ",", "each", "laser", "stripe", "can", "be", "processed", "individually", "and", "independently", "from", "each", "other", ".", "Binarize", ":", "The", "purpose", "of", "this", "function", "is", "to", "contrast", "the", "pixels", "related", "to", "the", "laser", "beam", "from", "the", "background", ".", "The", "routine", "takes", "an", "image", "and", "a", "threshold", "value", "and", "produces", "a", "quantized", "two-valued", "image", "where", "all", "the", "pixels", "of", "the", "original", "with", "an", "intensity", "above", "the", "specified", "threshold", "are", "set", "to", "the", "maximum", "intensity", "value", "and", "the", "rest", "of", "the", "pixels", "are", "set", "to", "zero", ".", "Average", ":", "The", "purpose", "of", "this", "routine", "is", "to", "produce", "a", "list", "of", "points", "-LRB-", "x", ";", "y", "-RRB-", "that", "represent", "the", "line", "produced", "by", "the", "projected", "laser", "beam", "on", "the", "image", ".", "Average", "scans", "the", "image", "column", "by", "column", "and", "returns", "the", "weighted", "row", "average", "of", "the", "for", "that", "column1", "-LRB-", "i.e.", "y", "-LRB-", "x", "-RRB-", "is", "the", "center", "of", "mass", "across", "all", "rows", "at", "column", "x", "-RRB-", ".", "Equation", "1", "shows", "the", "formula", "to", "estimate", "the", "row", "-LRB-", "y", "-RRB-", "for", "a", "given", "column", "-LRB-", "x", "-RRB-", ".", "y", "-LSB-", "x", "-RSB-", "=", "8", ">", "<", ">", ":", "if", "Ix", "=", "r", "=", "R", "X", "r", "=", "0", "r", "I", "-LRB-", "x", ";", "r", "-RRB-", "Ix", "otherwise", "-LRB-", "1", "-RRB-", "where", "Ix", "=", "R", "X", "r", "=", "0", "I", "-LRB-", "x", ";", "r", "-RRB-", ",", "and", "R", "is", "the", "total", "number", "of", "rows", ".", "The", "result", "of", "this", "routine", "a", "thinned", "line", "that", "serves", "as", "the", "best", "estimator", "of", "the", "laser", "stripe", "projected", "on", "the", "drum", "surface", ".", "The", "thinned", "line", "is", "the", "basic", "input", "for", "all", "of", "the", "dent", "detection", "approaches", ".", "Extrapolate", ":", "The", "purpose", "of", "this", "function", "is", "to", "fill", "up", "the", "empty", "spaces", "in", "a", "thinned", "line", "description", "of", "a", "laser", "stripe", ".", "Empty", "spaces", "are", "the", "result", "of", "low", "intensity", "spots", "in", "the", "laser", "stripe", "that", "were", "filtered", "out", "by", "the", "imaging", "or", "binarize", "operations", ".", "The", "interpolation", "is", "performed", "linearly", "using", "the", "two", "extreme", "points", "in", "the", "gap", ".", "Smooth", ":", "The", "purpose", "of", "this", "function", "is", "to", "cancel", "out", "noise", "in", "a", "thinned", "line", "and", "produce", "a", "smoothed", "version", "of", "the", "laser", "stripe", ".", "The", "filter", "used", "is", "an", "unidimensional", "Gaussian", "kernel", "of", "a", "specified", "size", "S", "and", "bandwidth", "constant", "1The", "direction", "of", "the", "scan", "depends", "on", "the", "orientation", "of", "the", "laser", "stripe", ".", "Horizontal", "laser", "stripes", "are", "scanned", "column", "by", "column", "and", "vertical", "laser", "stripes", "are", "scanned", "row", "by", "row", ".", "rc", "noise", "spot", "window", "-LRB-", "W", "-RRB-", "moving", "average", "-LRB-", "-RRB-", "I", "-LRB-", "x", ",", "y", "-RRB-", "rows", "columns", "Figure", "5", ":", "Moving-window-average", "B.", "Equation", "2", "shows", "the", "formula", "to", "calculate", "the", "smoothed", "y", "for", "each", "x.", "y", "-LSB-", "x", "-RSB-", "=", "S", "=", "2", "X", "t", "=", "?", "S", "=", "2", "y0", "-LSB-", "x", "?", "t", "-RSB-", "Gaussian", "-LSB-", "t", "-RSB-", "-LRB-", "2", "-RRB-", "where", "y0", "-LSB-", "?", "-RSB-", "is", "the", "periodic", "expansion", "of", "y", "-LSB-", "?", "-RSB-", "and", "Gaussian", "-LSB-", "t", "-RSB-", "=", "exp", "-LRB-", "?", "t2", "B", "-RRB-", "is", "the", "filter", "that", "spans", "from", "?", "S", "=", "2", "to", "S", "=", "2", ".", "Moving-Window-Average", ":", "Similar", "to", "Average", ",", "the", "purpose", "of", "this", "routine", "is", "to", "produce", "a", "list", "of", "points", "-LRB-", "x", ";", "y", "-RRB-", "that", "represent", "the", "line", "produced", "by", "projected", "laser", "beam", "on", "the", "image", ".", "The", "difference", "is", "that", "the", "MovingWindow-Average", "routine", "estimates", "the", "y", "coordinate", "of", "each", "point", "by", "calculating", "a", "weighted", "average", "over", "a", "small", "window", "centered", "on", "the", "moving", "average", "of", "the", "last", "N", "points", ".", "In", "this", "way", ",", "bright", "spots", "that", "are", "produced", "by", "reflection", "or", "refraction", "of", "the", "laser", "beam", "are", "filtered", "out", ".", "Figure", "3.1", "shows", "the", "procedure", "and", "Equation", "3", "shows", "the", "formula", "used", "to", "estimate", "the", "row", "-LRB-", "y", "-RRB-", "given", "column", "-LRB-", "x", "-RRB-", ".", "This", "function", "was", "created", "to", "overcome", "noisy", "bright", "spots", "on", "the", "images", "taken", "with", "the", "prototype", "system", "in", "the", "real", "world", ".", "Moving-window-average", "is", "computed", "using", ":", "y", "-LSB-", "x", "-RSB-", "=", "8", ">>", "<", ">>", ":", "if", "Ix", "=", "rc", "+", "W", "=", "2", "X", "r", "=", "rc?W", "=", "2", "r", "I", "-LRB-", "x", ";", "r", "-RRB-", "Ix", "otherwise", "-LRB-", "3", "-RRB-", "where", "Ix", "=", "rc", "+", "W", "=", "2", "X", "r", "=", "rc?W", "=", "2", "I", "-LRB-", "x", ";", "r", "-RRB-", ",", "which", "is", "the", "center", "of", "mass", "across", "W", "rows", "at", "column", "x", "and", "centered", "at", "row", "rc", ",", "and", "rc", "is", "the", "moving", "average", "of", "the", "last", "N", "points", ",", "which", "is", "updated", "for", "the", "following", "column", "using", "the", "following", "an", "exponential", "smoothing", "formula", ":", "rc", "N", "N", "+1", "rc", "+", "1", "N", "+1", "y", "-LSB-", "x", "-RSB-", ".", "3.2", "Dent", "detection", "approaches", "using", "vertical", "laser", "stripes", "This", "section", "describes", "two", "approaches", "used", "to", "detect", "dents", "on", "drum", "surfaces", ".", "Vertical", "laser", "stripes", "result", "from", "the", "horizontal", "scanning", "structured", "light", "system", "design", ".", "The", "approaches", "described", "here", "take", "advantage", "of", "the", "projection", "of", "vertical", "laser", "stripes", "over", "cylindrical", "surfaces", ".", "This", "simplifies", "the", "task", "of", "detecting", "dents", "because", "a", "vertical", "laser", "stripe", "projected", "over", "a", "smooth", "cylindrical", "surface", "produces", "a", "vertical", "line", "in", "the", "image", "plane", ".", "Thus", ",", "any", "deviations", "from", "a", "vertical", "line", "are", "an", "indication", "of", "the", "presence", "of", "an", "anomaly", "on", "the", "surface", ".", "First", "Derivative", "Approach", ":", "One", "way", "to", "detect", "deformations", "on", "the", "drum", "'s", "surface", "consists", "of", "detecting", "the", "maxima", "and", "minima", "points", "For", "every", "captured", "image", "I", "-LRB-", "x", ";", "y", "-RRB-", ":", "1", ".", "Binarize", "the", "image", ".", "2", ".", "Average", "binary", "image", "to", "produce", "thinned", "line", ".", "3", ".", "Smooth", "thinned", "line", "with", "a", "Gaussian", "filter", ".", "4", ".", "Calculate", "the", "first", "derivative", ".", "5", ".", "Detect", "all", "the", "points", "that", "evaluate", "to", "zero", ".", "6", ".", "Report", "a", "list", "of", "all", "the", "maxima", "and", "minima", "points", "above", "limits", ".", "Figure", "6", ":", "Zero", "Detection", "Algorithm", ".", "For", "every", "captured", "image", "I", "-LRB-", "x", ";", "y", "-RRB-", ":", "1", ".", "Binarize", "the", "image", ".", "2", ".", "Calculate", "column", "sample", "mean", "?", "x", "and", "sample", "column", "standard", "deviation", "ps2", "3", ".", "Detect", "all", "outlying", "points", "Ibinary", "-LRB-", "x", ";", "y", "-RRB-", "=", "1", "such", "that", "jy", "?", "?", "xj", ">", "kps2", "4", ".", "Report", "a", "list", "of", "all", "the", "consecutive", "outlying", "points", "above", "a", "limit", ".", "Figure", "7", ":", "Outliers", "Detection", "Algorithm", ".", "of", "the", "projected", "laser", "stripe", "in", "the", "captured", "image", ".", "Minima", "and", "maxima", "points", "are", "candidates", "for", "estimating", "the", "size", "of", "the", "deformations", "on", "the", "drum", "'s", "surface", ".", "A", "maximum", "or", "a", "minimum", "point", "of", "a", "function", "can", "be", "detected", "by", "analyzing", "the", "first", "derivative", "of", "such", "a", "function", "and", "detecting", "the", "points", "in", "which", "it", "evaluates", "to", "zero", ".", "Maxima", "and", "minima", "points", "are", "points", "in", "which", "the", "first", "derivative", "is", "zero", ".", "Then", ",", "the", "magnitude", "of", "the", "deviation", "from", "the", "straight", "line", "to", "the", "extreme", "point", "can", "be", "used", "to", "estimate", "the", "deformation", "on", "the", "drum", "surface", ".", "Before", "estimating", "the", "first", "derivative", "of", "the", "laser", "stripe", "in", "an", "image", ",", "some", "preprocessing", "is", "required", ".", "First", ",", "the", "image", "must", "be", "thresholded", "to", "discard", "all", "information", "not", "related", "to", "the", "portion", "of", "the", "drum", "where", "the", "laser", "is", "projected", "-LRB-", "i.e.", ",", "apply", "Binarize", "-RRB-", ".", "Second", ",", "all", "the", "horizontal", "points", "of", "the", "stripes", "are", "averaged", "together", "to", "produce", "a", "single", "point", "per", "row", "-LRB-", "i.e.", ",", "apply", "Average", "-RRB-", ".", "In", "this", "way", ",", "the", "original", "vertical", "laser", "stripe", "is", "condensed", "to", "a", "vertical", "line", ".", "Third", ",", "the", "line", "is", "smoothed", "with", "a", "Gaussian", "kernel", "to", "filter", "out", "noise", "-LRB-", "i.e.", ",", "apply", "Smooth", "-RRB-", ".", "Finally", ",", "the", "first", "derivative", "is", "estimated", "and", "the", "zero", "crossing", "points", "are", "detected", ".", "One", "last", "step", "verifies", "the", "magnitude", "of", "the", "maximum", "and", "minimum", "points", "to", "detect", "valid", "dents", "and", "blisters", "on", "the", "drum", "surface", ".", "The", "algorithm", "is", "shown", "in", "Figure", "6", ".", "Outliers", "Approach", ":", "As", "in", "the", "previous", "approach", ",", "the", "purpose", "of", "this", "approach", "is", "to", "detect", "deformations", "on", "the", "drum", "'s", "surface", "by", "detecting", "deviations", "of", "the", "projected", "laser", "stripe", ".", "However", ",", "instead", "of", "finding", "the", "maximum", "and", "minimum", "points", "on", "a", "preprocessed", "vertical", "line", ",", "this", "method", "concentrates", "on", "locating", "points", "that", "are", "far", "from", "the", "vertical", "stripe", "in", "a", "statistical", "sense", ".", "The", "best", "line", "fit", "to", "the", "projected", "laser", "stripe", "can", "be", "calculated", "using", "least", "squared", "estimation", "-LRB-", "LSE", "-RRB-", ".2", "Then", ",", "all", "the", "outlying", "points", "can", "be", "identified", "and", "the", "dents", "detected", "if", "there", "exist", "enough", "consecutive", "outlying", "points", ".", "For", "the", "simple", "case", "of", "a", "vertical", "straight", "stripe", ",", "the", "mean", "and", "the", "standard", "deviation", "of", "all", "the", "points", "in", "the", "thresholded", "image", "are", "calculated", ".", "Then", ",", "all", "of", "the", "points", "lying", "beyond", "some", "constant", "multiple", "of", "the", "sample", "standard", "deviation", "-LRB-", "ps2", "-RRB-", "are", "reported", "as", "outliers", ".", "The", "algorithm", "is", "shown", "in", "Figure", "7", ".", "2In", "this", "case", ",", "the", "LSE", "of", "the", "best", "vertical", "line", "is", "simply", "the", "sample", "average", "-LRB-", "i.e.", ",", "x", "=", "?", "x", "-RRB-", ".", "For", "every", "captured", "image", "I", "-LRB-", "x", ";", "y", "-RRB-", ":", "1", ".", "Cut", "the", "image", "into", "top", "and", "bottom", "sections", ".", "2", ".", "Calculate", "thinned", "lines", "using", "the", "Moving-Window-Average", "routine", ".", "3", ".", "Smooth", "thinned", "lines", "with", "a", "Gaussian", "filter", ".", "4", ".", "Calculate", "the", "second", "derivative", ".", "5", ".", "Detect", "all", "outlying", "points", ".", "6", ".", "Report", "a", "list", "of", "all", "the", "outlying", "points", "above", "limits", ".", "Figure", "8", ":", "Second-derivative", "Algorithm", ".", "3.3", "Dent", "detection", "approaches", "using", "horizontal", "laser", "stripes", "This", "section", "describes", "three", "approaches", "used", "to", "detect", "dents", "on", "drum", "surfaces", ".", "Horizontal", "laser", "stripes", "result", "from", "the", "vertical", "scanning", "design", "of", "the", "structured", "light", "system", ".", "Projecting", "horizontal", "laser", "stripes", "over", "cylindrical", "surfaces", "produces", "a", "curved", "line", "on", "the", "image", "plane", "of", "the", "camera", "-LRB-", "i.e.", ",", "a", "conic", "-RRB-", ".", "Detecting", "dents", "is", "not", "as", "simple", "as", "when", "analyzing", "vertical", "stripes", "because", "the", "reference", "is", "not", "a", "linear", "function", ".", "Using", "a", "simple", "camera", "model1", "it", "can", "be", "shown", "that", "the", "laser", "stripe", "is", "projected", "on", "the", "image", "plane", "as", "a", "section", "of", "an", "ellipse", ".", "However", ",", "given", "the", "current", "structured", "light", "system", "design", "and", "the", "field", "of", "view", "of", "the", "lens", ",", "the", "camera", "can", "cover", "at", "most", "1/3", "of", "the", "drum", "surface", ".3", "Under", "this", "configuration", ",", "the", "section", "of", "the", "ellipse", "can", "be", "approximated", "by", "a", "parabola", "without", "significant", "error", ".", "The", "approaches", "described", "here", "take", "advantage", "of", "a", "parabolic", "model", "of", "the", "line", "in", "the", "image", "plane", ".", "Thus", ",", "any", "deviations", "from", "this", "model", "can", "be", "considered", "as", "an", "indication", "of", "an", "anomaly", "on", "the", "surface", "on", "the", "drum", ".", "Deviations", "from", "Second", "Derivative", "Approach", ":", "Since", "the", "reference", "model", "is", "a", "parabola", ",", "a", "simple", "way", "to", "detect", "deformations", "on", "the", "drum", "'s", "surface", "consists", "of", "detecting", "when", "the", "quadratic", "coefficient", "is", "not", "constant", ".", "That", "is", ",", "taking", "the", "second", "derivative", "of", "the", "line", "and", "detecting", "outliers", "from", "its", "mean", ".", "Outlying", "points", "only", "provide", "information", "about", "strong", "deviations", "from", "the", "reference", "model", "-LRB-", "i.e.", ",", "a", "parabola", "-RRB-", ".", "In", "order", "to", "estimate", "the", "magnitude", "of", "the", "deformation", "on", "the", "drum", "surface", "it", "is", "necessary", "to", "calculate", "the", "best", "fitting", "parabola", "and", "consider", "the", "difference", "between", "the", "parabola", "and", "the", "line", ",", "both", "evaluated", "at", "the", "outlying", "points", ".", "Before", "estimating", "the", "second", "derivative", "of", "the", "laser", "stripe", "in", "an", "image", ",", "some", "preprocessing", "is", "required", ".", "First", ",", "the", "image", "is", "clipped", "to", "produce", "two", "image", "sections", ":", "one", "with", "the", "top", "laser", "stripe", "and", "the", "other", "with", "the", "bottom", "laser", "stripe", ".", "Second", ",", "each", "of", "the", "image", "sections", "is", "preprocessed", "with", "the", "Moving-Window-Average", "routine", "described", "previously", "to", "produce", "thinned", "lines", ".", "Third", ",", "the", "lines", "are", "smoothed", "with", "a", "Gaussian", "kernel", "to", "filter", "out", "noise", ".", "Finally", ",", "the", "second", "derivative", "is", "estimated", "and", "the", "outlying", "points", "are", "detected", ".", "One", "last", "step", "verifies", "the", "magnitude", "of", "the", "outlying", "points", "to", "detect", "valid", "dents", "and", "blisters", "on", "the", "drum", "surface", ".", "The", "algorithm", "is", "shown", "in", "Figure", "8", ".", "Outliers", "from", "a", "Fitted", "Parabola", ":", "As", "in", "the", "previous", "approach", ",", "the", "purpose", "of", "this", "approach", "is", "to", "detect", "deformations", "on", "the", "drum", "'s", "surface", "by", "detecting", "deviations", "of", "the", "projected", "laser", "stripe", "from", "its", "reference", "model", ".", "However", ",", "instead", "of", "calculating", "outliers", "relative", "to", "the", "second", "derivative", ",", "this", "method", "concentrates", "on", "fitting", "the", "best", "parabola", "to", "the", "given", "points", "and", "detecting", "outliers", "from", "the", "fitted", "curve", "in", "a", "statistical", "sense", ".", "The", "LSE", "estimation", "of", "the", "best", "fitting", "parabola", "to", "the", "projected", "laser", "stripe", "is", "calculated", "using", "the", "list", "of", "3For", "this", "reason", "the", "structured", "light", "system", "consists", "of", "three", "cameras", "and", "six", "lasers", ".", "Each", "camera", "and", "its", "respective", "pair", "of", "lasers", "cover", "1/3", "of", "the", "total", "surface", "of", "the", "drum", ".", "For", "every", "captured", "image", "I", "-LRB-", "x", ";", "y", "-RRB-", ":", "1", ".", "Cut", "the", "image", "into", "top", "and", "bottom", "sections", ".", "2", ".", "Calculate", "thinned", "lines", "using", "the", "Moving-Window-Average", "routine", ".", "3", ".", "Estimate", "parameters", "of", "the", "polynomium", "p", "-LRB-", "x", "-RRB-", "=", "+", "1x", "+", "2x2", "4", ".", "Detect", "all", "outlying", "points", "such", "that", "jy", "-LRB-", "xh", "-RRB-", "?", "p", "-LRB-", "xh", "-RRB-", "j", ">", "kps2xh", "where", "ps2xh", "=", "XhT", "-LRB-", "s2XT", "X", "?", "1", "-RRB-", "Xh", "5", ".", "Report", "a", "list", "of", "all", "the", "consecutive", "outlying", "points", "above", "a", "limit", ".", "Figure", "9", ":", "Parabolic", "Model", "Outliers", "Detection", "Algorithm", ".", "points", "-LRB-", "x", ";", "y", "-RRB-", "from", "the", "thinned", "line", ".2", "Then", ",", "all", "the", "outlying", "points", "are", "identified", "and", "dents", "reported", "as", "detected", "if", "there", "exist", "enough", "consecutive", "outlying", "points", ".", "For", "the", "case", "of", "a", "parabola", "-LRB-", "i.e.", ",", "a", "second", "order", "polynomium", "-RRB-", ",", "the", "sample", "standard", "deviation", "of", "a", "point", "depends", "on", "its", "offset", "from", "the", "mean", "and", "the", "inherent", "error", "in", "the", "signal", ".", "All", "the", "points", "beyond", "some", "constant", "of", "its", "sample", "standard", "deviation", "can", "be", "reported", "as", "outlying", ".", "The", "algorithm", "is", "shown", "in", "Figure", "9", ".", "The", "LSE", "estimation", "of", "the", "parameters", "is", "based", "on", "a", "model", "is", "of", "the", "form", ":", "Yi", "=", "+", "1Xi", "+", "2X2i", "+", "ffli", "where", "i", "=", "1", ";", ":", ":", ":", ";", "n", "and", "n", "is", "the", "number", "of", "points", ".", "The", "previous", "equation", "can", "be", "compactly", "written", "in", "matrix", "terms", "as", "follows", ":", "Y", "=", "X", "+", "ffl", "where", "Y", "=", "2", "64", "y1", "...", "yn", "3", "75", ";", "X", "=", "2", "64", "1", "x1", "x21", "...", "...", "...", "1", "xn", "x2n", "3", "75", ";", "=", "2", "4", "1", "2", "3", "5", ";", "and", "ffl", "=", "2", "64", "ffl1", "...", "ffln", "3", "75", ":", "Given", "the", "above", "formulae", ",", "the", "least", "squared", "error", "estimation", "of", "can", "be", "calculated", "as", ":", "?", "=", "-LRB-", "XTX", "-RRB-", "?", "1XTY", "It", "is", "important", "to", "mention", "that", "the", "previous", "formulae", "estimate", "the", "parabola", "that", "minimizes", "the", "cost", "function", "Q", "=", "Pnk", "=", "1", "-LRB-", "yk", "?", "^", "yk", "-RRB-", ".", "However", ",", "if", "there", "is", "a", "relatively", "small", "rotation", "between", "the", "drum", "and", "the", "image", "plane", "of", "the", "camera", "as", "depicted", "in", "Figure", "10", ",", "then", "it", "is", "required", "to", "find", "at", "which", "image", "plane", "angle", "the", "cost", "function", "Q", "-LRB-", "?", "-RRB-", "is", "minimized", ".", "The", "algorithm", "in", "Figure", "11", "uses", "gradient", "descent", "to", "find", "the", "best", "fitting", "parabola", "when", "the", "frame", "of", "reference", "is", "allowed", "to", "rotate", "freely", "-LRB-", "i.e.", ",", "finds", "the", "LSE", "estimation", "of", "the", "best", "fitting", "parabola", "assuming", "there", "is", "a", "misalignment", "with", "the", "axis", "of", "the", "drum", "and", "the", "normal", "vector", "of", "the", "image", "plane", "-RRB-", ".", "Spatio-Temporal", "Approaches", ":", "This", "approach", "uses", "each", "projected", "laser", "stripe", "to", "progressively", "construct", "a", "3-D", "model", "of", "the", "drum", "'s", "surface", ".4", "This", "3-D", "model", "is", "then", "analyzed", "to", "detect", "dents", "of", "different", "sizes", "and", "shapes", ".", "Constructing", "a", "3-D", "model", "is", "possible", "by", "fitting", "a", "parabola", "to", "consecutive", "curves", "and", "using", "it", "as", "a", "reference", ".", "With", "this", "information", ",", "it", "is", "possible", "to", "estimate", "the", "depth", "of", "each", "point", "on", "the", "drum", "surface", "given", "the", "deviation", "of", "its", "corresponding", "point", "on", "the", "reference", "surface", ".", "Thus", ",", "by", "combining", "the", "information", "of", "the", "points", "of", "the", "laser", "stripes", "of", "images", "captured", "at", "different", "positions", ",", "a", "three", "dimensional", "grid", "of", "the", "drum", "'s", "surface", "can", "be", "estimated", ".", "Such", "a", "grid", "can", "then", "be", "processed", "to", "locate", "and", "detect", "dents", "and", "blisters", "of", "arbitrary", "shape", ".", "focal", "point", "laser", "stripe", "drum", "x", "y", "x", "'", "y", "'", "rotated", "image", "plane", "image", "plane", "Figure", "10", ":", "Camera", "model", "with", "rotated", "image", "plane", ".", "For", "a", "thinned", "line", "description", "-LRB-", "xi", ";", "yi", "-RRB-", "and", "i", "=", "1", ";", ":", ":", ":", ";", "n", ":", "1", ".", "Standardize", "all", "points", ":", "-LRB-", "xi", ";", "yi", "-RRB-", "!", "-LRB-", "x0i", ";", "y0i", "-RRB-", "where", "x0i", "=", "-LRB-", "xi", "?", "?", "x", "-RRB-", "=", "ps2x", "and", "y0i", "=", "-LRB-", "yi", "?", "?", "y", "-RRB-", "=", "ps2y", "2", ".", "l", "min", "angle", ",", "r", "max", "angle", ".", "3", ".", "while", "-LRB-", "r", "?", "l", "<", "ffl", "-RRB-", "3.1", ".", "m", "l", "+", "r2", "3.2", ".", "Rotate", "all", "points", "an", "angle", "m", "h", "xri", "yri", "i", "=", "h", "cos", "-LRB-", "m", "-RRB-", "sin", "-LRB-", "m", "-RRB-", "?", "sin", "-LRB-", "m", "-RRB-", "cos", "-LRB-", "m", "-RRB-", "ih", "x0iy0i", "i", "3.3", ".", "Estimate", "best", "parabola", "-LRB-", "xri", ";", "fyri", "-RRB-", "for", "-LRB-", "xri", ";", "yri", "-RRB-", "3.4", ".", "Calculate", "cost", ":", "Q", "Pnk", "=", "1", "-LRB-", "yri", "?", "fyri", "-RRB-", "2", "3.5", ".", "If", "@Q", "@m", "=", "exit", "3.6", ".", "If", "@Q", "@m", ">", "r", "m", "3.7", ".", "If", "@Q", "@m", "<", "l", "m", "Figure", "11", ":", "Rotated", "Regression", "Algorithm", ".", "1", ".", "For", "all", "the", "images", "In", "-LRB-", "x", ";", "y", "-RRB-", "of", "a", "drum", ":", "1.1", ".", "Cut", "the", "image", "into", "top", "and", "bottom", "sections", ".", "1.2", ".", "Calculate", "thinned", "lines", "using", "the", "Moving-Window-Average", "routine", ".", "1.3", ".", "Smooth", "thinned", "lines", "with", "a", "Gaussian", "filter", ".", "1.4", ".", "Estimate", "reference", "curve", "using", "the", "k", "consecutive", "smoothed", "lines", ".", "1.5", ".", "Construct", "three-dimensional", "grid", "by", "subtracting", "thinned", "lines", "and", "the", "reference", "curves", ".", "2", ".", "Scan", "three-dimensional", "grid", "for", "dents", "and", "blisters", ".", "3", ".", "Report", "a", "list", "of", "all", "the", "dents", "and", "blisters", ".", "Figure", "12", ":", "3D", "Modeling", "Algorithm", ".", "As", "in", "the", "previous", "approaches", ",", "some", "preprocessing", "of", "the", "raw", "image", "is", "required", "to", "reduce", "the", "amount", "of", "noise", ".", "The", "preprocessing", "steps", "involve", "estimating", "the", "thinned", "line", "using", "the", "moving", "window", "average", "routine", ",", "extrapolating", "missing", "points", ",", "and", "smoothing", "the", "resultant", "curve", "with", "a", "Gaussian", "filter", ".", "The", "algorithm", "is", "shown", "in", "Figure", "12", ".", "4", "RESULTS", "Experiments", "with", "the", "horizontal", "scanning", "structured", "light", "system", "were", "performed", "in", "simulation", "only", "because", "the", "mechanical", "realization", "of", "a", "prototype", "proved", "too", "expensive", ".", "Experiments", "with", "the", "vertical", "scanning", "structured", "light", "system", "were", "performed", "with", "two", "prototypes", ":", "one", "was", "assembled", "at", "the", "Georgia", "Tech", "Mobile", "Robot", "Laboratory", "-LRB-", "GT-prototype", "-RRB-", "and", "the", "other", "one", "was", "assembled", "by", "Savannah", "River", "Technology", "Center", "personnel", "-LRB-", "SRTC-prototype", "-RRB-", ".", "Figures", "21a", "and", "21b", "show", "a", "picture", "of", "the", "prototypes", ".", "Both", "prototypes", "have", "the", "camera", "rotated", "90", "degrees", "clockwise", "to", "take", "advantage", "of", "greater", "resolution", "in", "the", "horizontal", "axis", "of", "the", "image", "plane", ".", "This", "also", "means", "that", "horizontal", "lines", "on", "the", "drum", "surface", "look", "vertical", "on", "the", "image", ".", "The", "following", "subsections", "present", "the", "results", "of", "the", "preprocessing", "routines", ",", "the", "horizontal", ",", "and", "vertical", "scanning", "structured", "light", "systems", ".", "4.1", "Preprocessing", "Routines", "All", "the", "figures", "presented", "here", "are", "based", "on", "image", "series", "taken", "with", "the", "SRTC-prototype", ".", "Cut", ":", "This", "routine", "takes", "a", "portion", "of", "an", "image", ".", "Figure", "13", "shows", "a", "512", "?", "486", "image", "and", "the", "result", "of", "a", "Cut", "operation", "with", "window", "starting", "at", "-LRB-", "95", ";", "0", "-RRB-", ",", "35", "columns", "wide", "and", "486", "rows", "tall", "-LRB-", "center", "-RRB-", ".", "The", "bright", "spots", "results", "from", "specular", "reflections", "produce", "by", "the", "camera", "'s", "lens", "and", "the", "shiny", "drum", "surface", ".", "Binarize", ":", "This", "routine", "creates", "a", "binary", "image", ".", "Figure", "13", "shows", "a", "35", "?", "486", "image", "-LRB-", "center", "-RRB-", "and", "the", "result", "of", "a", "Binarize", "operation", "with", "threshold", "20", "-LRB-", "right", "-RRB-", ".", "Average", ":", "This", "routine", "creates", "a", "thinned", "line", "from", "an", "image", ".", "Figure", "14", "the", "result", "of", "an", "Average", "operation", "to", "the", "35", "?", "486", "image", "from", "Figure", "13", "-LRB-", "center", "-RRB-", ".", "Smooth", ":", "This", "routine", "filters", "noise", "from", "a", "thinned", "line", ".", "Figure", "15", "shows", "the", "result", "of", "a", "Smooth", "operation", "of", "size", "of", "43", "pixels", "and", "bandwidth", "constant", "of", "7", "pixels", "applied", "to", "the", "thinned", "line", "in", "Figure", "14", ".", "Moving-Window-Average", ":", "This", "routine", "creates", "a", "thinned", "line", "from", "an", "image", ".", "Figure", "16", "shows", "the", "result", "of", "a", "Moving-Window-Average", "operation", "with", "window", "10", "to", "the", "35", "?", "486", "image", "from", "Figure", "13", "-LRB-", "center", "-RRB-", ".", "Figure", "13", ":", "Left", ":", "the", "original", "image", ".", "Center", ":", "its", "bottom", "portion", ".", "Right", ":", "binarized", ".", "Figure", "14", ":", "Thinned", "line", ".", "Figure", "15", ":", "Smoothed", "line", ".", "Figure", "16", ":", "Moving-Window-Average", "thinned", "line", ".", "Figure", "17", ":", "Left", ":", "Standard", "regression", ".", "Right", ":", "Regression", "with", "rotation", ".", "Regression", ":", "Although", "this", "is", "not", "a", "preprocessing", "routine", ",", "an", "example", "of", "the", "difference", "between", "the", "standard", "regression", "and", "the", "algorithm", "in", "Figure", "11", "is", "shown", "below", ".", "Figure", "17", "shows", "the", "fitted", "parabola", "to", "a", "thinned", "line", ".", "4.2", "Horizontal", "scanning", "structured", "light", "system", "All", "the", "experiments", "performed", "on", "the", "horizontal", "scanning", "structured", "light", "system", "were", "simulated", ".", "All", "images", "were", "generated", "using", "the", "rayshade", "environment", ".", "The", "simulated", "structured", "light", "system", "has", "the", "following", "parameters", "-LRB-", "refer", "to", "Figures", "1", "and", "3", "-RRB-", ":", "l", "=", "10cm", ",", "ff", "=", "81ffi", ",", "d", "=", "80cm", ",", "and", "?", "150ffi", "<", "=", "?", "<", "=", "?", "30ffi", ".", "Images", "were", "captured", "every", "5", "degrees", ".", "The", "model", "of", "the", "drum", "contained", "three", "dents", "and", "three", "bumps", ".", "Figure", "18", "shows", "the", "model", "of", "the", "drum", "used", "during", "these", "experiments", ".", "Figure", "18", ":", "Drum", "Model", ".", "First", "derivative", "approach", ":", "Figure", "19", "shows", "the", "different", "steps", "of", "the", "zero-detection", "algorithm", "of", "the", "image", "at", "position", "?", "=", "?", "135ffi", ".", "Outliers", "approach", ":", "Figure", "20", "shows", "the", "different", "steps", "of", "the", "outlier-detection", "algorithm", "of", "the", "image", "at", "position", "?", "=", "?", "135ffi", ".", "4.3", "Vertical", "scanning", "structured", "light", "system", "The", "GT-prototype", "and", "the", "SRTC-prototype", "were", "used", "to", "perform", "experiments", "using", "the", "current", "structured", "light", "system", "design", ".", "The", "GT-prototype", "consists", "of", "one", "camera", "and", "one", "laser", "mounted", "4.5", "inches", "above", "the", "camera", ".", "Figure", "21", "a", "shows", "a", "picture", "of", "the", "prototype", ".", "The", "SRTC-prototype", "was", "designed", "and", "developed", "at", "the", "Savannah", "River", "Technology", "Center", ".", "The", "SRTC-prototype", "consists", "of", "one", "camera", "and", "two", "lasers", ".", "Figure", "21b", "shows", "a", "picture", "of", "the", "prototypes", ".", "Deviations", "in", "Second", "Derivative", "Approach", ":", "Figure", "22", "shows", "the", "results", "for", "different", "steps", "of", "the", "second", "derivative", "algorithm", ".", "The", "image", "was", "gathered", "using", "the", "GT-prototype", ".", "There", "is", "one", "dent", "of", "depth", "1/8", "of", "an", "inch", "-LRB-", "approx", ".", "-RRB-", "in", "the", "center", ".", "Outliers", "from", "fitted", "parabola", ":", "Figure", "23", "shows", "the", "different", "steps", "of", "the", "algorithm", "that", "detects", "outliers", "from", "the", "best", "fitted", "parabola", ".", "The", "image", "was", "gathered", "using", "the", "GT-prototype", ".", "There", "is", "one", "dent", "of", "depth", "1/8", "of", "an", "inch", "-LRB-", "approx", ".", "-RRB-", "in", "the", "center", ".", "Spatio-Temporal", "Approach", ":", "Figure", "24", "shows", "the", "different", "steps", "of", "the", "spatio-temporal", "algorithm", ".", "Images", "were", "gathered", "using", "the", "SRTC-prototype", ".", "The", "processing", "was", "performed", "using", "17", "images", ",", "each", "one", "is", "taken", "by", "vertically", "moving", "the", "light", "system", "50", "mils", "down", "-LRB-", "i.e.", ",", "vertical", "scanning", "every", "50", "mils", "-RRB-", ".", "The", "top", "portion", "of", "the", "images", "cover", "a", "total", "of", "5", "artificial", "created", "bumps", "-LRB-", "three", "to", "the", "right", "and", "two", "to", "the", "left", "-RRB-", ".", "5", "DISCUSSION", "AND", "RECOMMENDATIONS", "In", "general", ",", "all", "the", "approaches", "presented", "here", "can", "be", "used", "to", "detect", "dents", "on", "drums", ".", "However", ",", "some", "approaches", "are", "more", "sensitive", "to", "noise", "and", "lighting", "conditions", ".", "Approaches", "that", "are", "based", "on", "derivatives", "are", "very", "sensitive", "to", "noise", ",", "but", "smoothing", "operations", "can", "reduce", "the", "variability", ".", "There", "is", "a", "compromise", "between", "strong", "filtering", "to", "reduce", "the", "noise", "and", "the", "desired", "resolution", "for", "dent", "detection", ".", "The", "more", "the", "filter", "rejects", "noise", "the", "less", "chance", "of", "detecting", "small", "dents", ".", "Specular", "reflection", "is", "a", "major", "problem", "for", "line", "extraction", "because", "the", "images", "contain", "spots", "of", "bright", "light", "near", "the", "lines", "-LRB-", "see", "right", "of", "Figure", "13", "-RRB-", ".", "These", "bright", "spots", "tend", "to", "bend", "the", "line", "during", "the", "thinning", "operation", ",", "which", "can", "trigger", "the", "dent", "detection", "algorithm", "and", "produce", "false", "positives", ".", "The", "Moving-Window-Average", "routine", "can", "help", "solve", "this", "potential", "problem", "effectively", "as", "shown", "in", "Figure", "16", ".", "Positioning", "and", "misalignment", "are", "another", "source", "of", "errors", ".", "Figure", "17", "shows", "the", "systematic", "error", "that", "can", "be", "introduced", "by", "fitting", "a", "parabola", "assuming", "perfect", "alignment", "between", "the", "axis", "of", "the", "drum", "and", "the", "image", "plane", ".", "The", "reason", "for", "this", "is", "that", "the", "regression", "equations", "minimize", "the", "squared", "difference", "in", "the", "ordinates", "axis", "only", ".", "The", "algorithm", "in", "Figure", "11", "corrects", "this", "problem", "by", "searching", "the", "rotation", "angle", "that", "minimize", "the", "squared", "difference", "in", "the", "ordinate", "axis", ".", "One", "major", "problem", "with", "the", "structured", "light", "system", "is", "the", "ambient", "lighting", "conditions", ".", "The", "experiments", "performed", "at", "Georgia", "Tech", "and", "in", "Savannah", "River", "Laboratories", "were", "performed", "under", "rigorous", "lighting", "constraints", ".", "Figure", "19", ":", "Zero", "detection", "images", ".", "Top", "left", "is", "the", "raw", "image", ".", "Top", "right", "is", "the", "thresholded", "image", ".", "Middle", "left", "is", "the", "mean", "of", "rows", ".", "Middle", "right", "is", "the", "smoothed", "line", "-LRB-", "expanded", "-RRB-", ".", "Bottom", "is", "the", "first", "derivative", "-LRB-", "expanded", "-RRB-", ".", "The", "two", "bumps", "were", "detected", "-LRB-", "plus", "two", "ribs", "-RRB-", ".", "Figure", "20", ":", "Outliers", "images", ".", "Top", "left", "is", "the", "raw", "image", ".", "Top", "right", "is", "the", "thresholded", "image", ".", "Bottom", "shows", "outliers", "-LRB-", "k", "=", "2", "-RRB-", ".", "Two", "two", "bumps", "were", "detected", "-LRB-", "plus", "two", "ribs", "-RRB-", ".", "Figure", "21", ":", "Prototypes", ":", "GT-prototype", "-LRB-", "left", "-RRB-", "and", "SRTC-prototype", "-LRB-", "right", "-RRB-", ".", "Figure", "22", ":", "Deviations", "in", "second", "derivative", ".", "Top", "left", "is", "the", "raw", "image", ".", "Top", "right", "is", "relevant", "portion", ".", "Middle", "left", "is", "the", "thinned", "line", ".", "Middle", "right", "is", "the", "smoothed", "line", ".", "Bottom", "left", "is", "the", "first", "derivative", ".", "Bottom", "right", "is", "the", "second", "derivative", ".", "The", "dent", "is", "readily", "detected", ".", "outlier", "region", "outlier", "region", "Figure", "23", ":", "Outliers", "from", "fitted", "parabola", ".", "Top", "left", "is", "the", "raw", "image", ".", "Top", "right", "is", "relevant", "portion", ".", "Middle", "left", "is", "the", "thinned", "line", ".", "Middle", "right", "is", "the", "smoothed", "line", ".", "Bottom", "left", "is", "the", "fitted", "parabola", ".", "Bottom", "right", "is", "the", "difference", "between", "the", "smoothed", "line", "and", "the", "parabola", "showing", "the", "outlying", "regions", ".", "The", "dent", "is", "readily", "detected", ".", "Figure", "24", ":", "Spatio-temporal", "approach", ".", "Top", "left", "is", "the", "set", "of", "original", "thinned", "lines", ".", "Top", "right", "is", "the", "set", "of", "smoothed", "lines", ".", "Bottom", "left", "is", "the", "set", "of", "fitted", "parabolas", ".", "Bottom", "right", "is", "the", "difference", "between", "the", "smoothed", "lines", "and", "the", "parabolas", ".", "However", ",", "none", "of", "the", "two", "prototype", "systems", "used", "included", "a", "red", "filter", "to", "enhance", "laser", "strip", "contrast", "and", "reduce", "ambient", "light", ".", "It", "is", "expected", "that", "a", "red", "filter", "can", "assist", "in", "solving", "this", "problem", ",", "but", "further", "evaluation", "is", "necessary", ".", "The", "sensitivity", "of", "the", "vertical", "scanning", "structured", "light", "system", "design", "is", "too", "low", "considering", "the", "amount", "of", "noise", "and", "size", "of", "the", "dents", ".", "Considering", "some", "images", "taken", "from", "the", "SRTC-prototype", ",", "there", "is", "a", "difference", "between", "the", "closest", "point", "-LRB-", "center", "of", "image", "-RRB-", "and", "the", "farthest", "point", "-LRB-", "one", "of", "the", "sides", "-RRB-", "of", "20", "pixels", ".", "55-gallon", "drums", ",", "have", "a", "radius", "of", "12", "inches", "approximately", ".", "Since", "the", "camera", "covers", "1/3", "of", "half", "the", "drum", "surface", ",", "the", "sensitivity", "of", "the", "structured", "light", "system", "is", "about", "0.3", "inches/pixels", ".", "In", "the", "vertical", "scanning", "structured", "light", "system", "design", ",", "the", "axis", "of", "camera", "and", "the", "laser", "light", "plane", "are", "parallel", ".", "The", "focal", "length", "and", "the", "distance", "between", "the", "lens", "and", "the", "drum", "are", "the", "two", "parameters", "that", "determine", "the", "sensitivity", "of", "the", "system", ".", "Reducing", "the", "distance", "between", "the", "drum", "and", "the", "camera", "or", "increasing", "the", "focal", "length", "will", "increase", "the", "sensitivity", ".", "However", ",", "both", "alternatives", "reduce", "the", "field", "of", "view", "of", "the", "camera", ".", "A", "third", "alternative", "consists", "of", "projecting", "the", "lasers", "at", "an", "angle", ".", "This", "can", "increase", "the", "deformation", "of", "the", "line", "on", "irregular", "surfaces", "and", "indirectly", "increase", "the", "sensitivity", "of", "the", "system", ".", "6", "ACKNOWLEDGMENTS", "This", "research", "was", "supported", "by", "the", "Westinghouse-Savannah", "River", "Technology", "Center", ".", "Additional", "funding", "for", "the", "Mobile", "Robotics", "Laboratory", "is", "provided", "by", "ARPA/ONR", ",", "the", "U.S.", "Army", "Applied", "Aviation", "Directorate", ",", "and", "the", "NAtional", "Science", "Foundation", ".", "7", "REFERENCES", "-LSB-", "1", "-RSB-", "R.O.", "Duda", "and", "P.E.", "Hart", ".", "Pattern", "Classification", "and", "Scene", "Analysis", ",", "Chapter", "7", ",", "Wiley", ",", "New", "York", ",", "1973", ".", "-LSB-", "2", "-RSB-", "J.", "Neter", ",", "W.", "Wasserman", ",", "and", "M.H.", "Kutner", ".", "Applied", "Regression", "Models", ",", "Chapters", "6", "and", "9", ",", "Prentice", "Hall", ",", "New", "Jersey", ",", "1989", ".", "-LSB-", "3", "-RSB-", "D.", "Lake", ".", "\\", "Lighting", "and", "Imaging", ",", "Part", "2", ":", "Making", "it", "All", "Work", "Right", ",", "''", "Advanced", "Imaging", ",", "pp.", "66", "-LCB-", "89", ",", "June", ",", "1994", ".", "-LSB-", "4", "-RSB-", "A.C.", "Kak", ".", "\\", "Depth", "Perception", "For", "Robots", "''", ",", "Handbook", "of", "Industrial", "Robotics", ",", "Shimon", "Y.", "Nof", "-LRB-", "ed", ".", "-RRB-", ",", "pp.", "272", "-LCB-", "319", ",", "John", "Wiley", "&", "Sons", ",", "New", "York", ",", "1985", ".", "-LSB-", "5", "-RSB-", "D.", "Wei", "and", "M.", "Gini", ".", "\\", "The", "Use", "of", "Taper", "Light", "Beam", "for", "Object", "Recognition", ",", "''", "Robot", "Vision", ".", "-LSB-", "6", "-RSB-", "W.J.", "Wolfe", ",", "J.", "Gunderson", ",", "and", "M.E.", "Walworth", ".", "\\", "Computer", "Vision", "Barrel", "Inspection", ",", "''", "SPIE", "Mobile", "Robots", "VIII", ",", "Vol", ".", "2058", ",", "pp.", "128", "-LCB-", "133", ",", "1993", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Scalable", "Implementation", "of", "Synchronization", "Primitives", "on", "Broadcast", "Rings", "?", "Martin", "H.", "Davis", ",", "Jr.", ".", "Umakishore", "Ramachandran", "GIT-CC-93", "/", "07", "January", "1993", "College", "of", "Computing", "Georgia", "Institute", "of", "Technology", "Atlanta", ",", "GA", "30332-0280", "fdavism,ramag@cc.gatech.edu", "Abstract", "Synchronization", "is", "an", "important", "aspect", "of", "parallel", "program", "design", ".", "By", "definition", "synchronization", "is", "an", "aspect", "of", "a", "program", "where", "multiple", "processors", "participate", ".", "Thus", "it", "is", "important", "to", "design", "and", "implement", "hardware", "primitives", "that", "scale", "well", "with", "the", "size", "of", "the", "parallel", "machine", ",", "both", "in", "terms", "of", "space", "and", "time", "requirements", ".", "The", "focus", "of", "this", "research", "is", "to", "propose", "implementation", "for", "some", "well-known", "synchronization", "primitives", "in", "a", "broadcast", "ring", "network", ".", "The", "key", "aspects", "of", "the", "implementation", "are", "to", "make", "local", "decisions", "to", "determine", "the", "outcome", "of", "the", "synchronization", "operations", ";", "and", "to", "keep", "the", "space", "overhead", "per", "node", "constant", "independent", "of", "the", "number", "of", "processors", "participating", "in", "such", "operations", ".", "It", "is", "also", "shown", "that", "the", "implementation", "incurs", "exactly", "the", "minimum", "amount", "of", "communication", "to", "perform", "the", "synchronization", "operations", ".", "?", "This", "work", "has", "been", "funded", "in", "part", "by", "NSF", "PYI", "Award", "MIP-9058430", ".", "1", "Introduction", "The", "work", "in", "this", "paper", "focuses", "on", "how", "shared", "memory", "style", "synchronization", "commands", "can", "be", "efficiently", "implemented", ".", "In", "order", "to", "make", "our", "solution", "general", ",", "we", "have", "made", "the", "implementation", "of", "these", "commands", "orthogonal", "to", "the", "physical", "implementation", "of", "the", "shared", "memory", "abstraction", ".", "In", "contemplating", "this", "problem", ",", "we", "have", "been", "interested", "in", "how", "the", "interconnection", "network", "can", "be", "structured", "so", "as", "to", "provide", "more", "than", "just", "communication", "services", ",", "i.e.", ",", "how", "can", "the", "interconnection", "network", "'s", "structure", "provide", "support", "for", "useful", "parallel", "programming", "commands", "?", "From", "this", "consideration", "we", "have", "developed", "interesting", "\\", "local", "decision", "''", "techniques", "for", "implementing", "locks", ",", "barriers", ",", "and", "F&OP", "synchronization", "primitives", ".", "In", "Section", "2", "we", "describe", "these", "implementation", "techniques", ".", "Our", "implementation", "incurs", "exactly", "the", "minimum", "amount", "of", "communication", "to", "perform", "the", "synchronization", ",", "by", "making", "local", "decisions", "for", "determining", "the", "outcome", "of", "the", "synchronization", "operations", ".", "Further", ",", "the", "implementation", "requires", "a", "constant", "amount", "of", "storage", "space", "per", "node", "independent", "of", "the", "number", "of", "processors", "participating", "in", "a", "synchronization", "operation", ".", "We", "present", "some", "discussion", "and", "analysis", "regarding", "these", "issues", "in", "Section", "3", ".", "Finally", ",", "we", "conclude", "in", "Section", "4", "with", "questions", "for", "future", "work", ".", "2", "Synchronization", "Primitives", "There", "are", "software", "algorithms", "for", "barriers", "and", "spin-lock", "that", "minimize", "the", "amount", "of", "network", "messages", "and", "storage", "space", "-LSB-", "4", "-RSB-", "for", "implementing", "such", "synchronization", "operations", ".", "However", ",", "such", "algorithms", "do", "not", "reduce", "the", "inherent", "latency", "for", "synchronization", "operations", ".", "This", "latency", "is", "two-fold", ":", "-LRB-", "1", "-RRB-", "the", "potential", "wait", "times", "at", "synchronization", "points", "due", "to", "simultaneous", "access", "from", "parallel", "processors", ";", "and", "-LRB-", "2", "-RRB-", "the", "intrinsic", "overhead", "for", "implementing", "the", "synchronization", ".", "In", "this", "section", "we", "describe", "our", "proposed", "hardware", "implementation", "for", "some", "well-known", "synchronization", "primitives", "that", "reduces", "this", "latency", ".", "Our", "implementation", "techniques", "for", "the", "three", "synchronization", "primitives", "are", "all", "local", "decision", "monitoring", "based", ".", "That", "is", ",", "each", "node", "maintains", "its", "own", "local", "copy", "of", "a", "data", "structure", ",", "which", "represents", "the", "current", "state", "of", "a", "particular", "instance", "of", "the", "synchronization", "primitive", ",", "by", "monitoring", "all", "the", "nodes", "'", "commands", "which", "affect", "that", "particular", "instance", ".", "The", "data", "structure", "contains", "enough", "information", "that", "each", "node", "independently", "decides", "how", "it", "is", "affected", "by", "the", "current", "state", ".", "The", "only", "architectural", "requirement", "for", "our", "local", "decision", "scheme", "is", "that", "the", "nodes", "transmit", "their", "synchronization", "commands", "via", "what", "we", "call", "a", "broadcast", "ring", ".", "The", "broadcast", "ring", "has", "three", "properties", "which", "are", "illustrated", "in", "Fig.", "1", ".", "First", ",", "the", "nodes", "are", "attached", "-LRB-", "at", "least", "logically", "if", "not", "physically", "-RRB-", "to", "the", "medium", "as", "a", "ring", ".", "Thus", ",", "a", "node", "'s", "message", "is", "transmitted", "unidirectionally", "to", "all", "its", "downstream", "neighbors", ",", "and", "a", "node", "always", "hears", "the", "messages", "from", "all", "its", "upstream", "neighbors", ".", "Second", ",", "every", "node", "'s", "message", "is", "broadcast", "to", "every", "other", "node", ",", "i.e.", ",", "each", "node", "is", "connected", "to", "the", "broadcast", "ring", "such", "that", "it", "hears", "all", "messages", "-LRB-", "including", "its", "own", "-RRB-", ".", "This", "connection", "is", "equivalent", "to", "every", "node", "having", "a", "connection", "so", "that", "every", "node", "-LRB-", "including", "itself", "-RRB-", "is", "upstream", "of", "the", "connection", ".", "Third", ",", "each", "node", "hears", "the", "broadcast", "messages", "in", "the", "same", "order", "as", "every", "other", "node", ";", "this", "property", "is", "expressed", "as", "a", "\\", "train", "''", "of", "messages", ".", "In", "the", "following", "subsections", "we", "describe", "these", "local", "decision", "monitoring", "algorithms", "for", "locks", ",", "barriers", ",", "and", "F&OP", ".", "2.1", "Locks", "A", "lock", "is", "a", "mechanism", "by", "which", "a", "task", "can", "access", "a", "set", "of", "shared", "data", "associated", "with", "the", "lock", "in", "a", "controlled", "and", "regulated", "fashion", ".", "There", "are", "two", "different", "modes", "in", "which", "a", "lock", "can", "be", "requested", ":", "read", "-LRB-", "or", "shared", ",", "denoted", "as", "R/S", "-RRB-", "and", "write", "-LRB-", "or", "exclusive", ",", "denoted", "as", "W/E", "-RRB-", ".", "By", "definition", ",", "use", "of", "the", "R/S", "mode", "guarantees", "to", "the", "task", "that", "the", "data", "can", "not", "change", "for", "the", "duration", "of", "the", "lock", ".", "Similarly", ",", "by", "definition", ",", "use", "of", "the", "W/E", "mode", "guarantees", "to", "the", "task", "that", "no", "other", "task", "can", "access", "the", "data", ",", "much", "less", "change", "the", "data", ".", "How", "requests", "for", "a", "particular", "lock", "are", "serviced", "can", "be", "understood", "by", "the", "concept", "of", "peer", "groups", ",", "as", "illustrated", "in", "Fig.", "2", ".", "A", "peer", "group", "of", "lock", "requests", "is", "a", "set", "of", "consecutive", "and", "compatible", "requests", "for", "a", "particular", "lock", ".", "Thus", ",", "a", "W/E", "request", "forms", "a", "peer", "group", "of", "size", "one", ".", "R/S", "requests", "made", "without", "an", "intervening", "W/E", "request", "form", "a", "peer", "group", "of", "arbitrary", "size", ".", "Although", "peer", "groups", "can", "be", "serviced", "out", "of", "order", ",", "some", "rules", "must", "exist", "to", "prevent", "starvation", "of", "requests", ".", "From", "a", "performance", "standpoint", ",", "if", "a", "R/S", "peer", "group", "is", "the", "currently", "serviced", "peer", "group", "and", "no", "other", "peer", "groups", "are", "pending", ",", "then", "another", "R/S", "request", "joins", "the", "current", "R/S", "peer", "group", "and", "is", "granted", "the", "lock", "immediately", ".", "Fig.", "3", "shows", "the", "data", "structure", "needed", "for", "each", "lock", "-LRB-", "note", "the", "various", "fields", "are", "grouped", "into", "four", "parts", "-RRB-", ".", "Remember", "that", "this", "data", "structure", "is", "replicated", "at", "each", "node", "and", "modified", "independently", "by", "each", "node", ".", "The", "first", "group", "-LRB-", "LOCK-ID", "and", "my", "-RRB-", "contains", "the", "fields", "to", "identify", "the", "lock", "and", "define", "the", "peer", "group", "into", "which", "the", "lock", "request", "is", "placed", ".", "The", "second", "group", "-LRB-", "prior", "-RRB-", "of", "fields", "defines", "the", "peer", "group", "which", "is", "to", "be", "serviced", "immediately", "before", "the", "lock", "request", "'s", "own", "peer", "group", ".", "The", "third", "group", "-LRB-", "most-recent", "-RRB-", "of", "fields", "defines", "the", "most", "recent", "peer", "group", "of", "lock", "requests", ",", "and", "the", "fourth", "group", "-LRB-", "next-recent", "-RRB-", "defines", "the", "peer", "group", "just", "before", "the", "most", "recent", "peer", "group", ".", "These", "four", "groups", "of", "fields", ",", "when", "taken", "as", "a", "whole", "over", "all", "the", "nodes", ",", "implement", "a", "distributed", "queue", "of", "lock", "requests", ".", "This", "queue", "is", "replicated", "at", "each", "node", ";", "note", ",", "however", ",", "that", "each", "node", "stores", "only", "the", "portion", "of", "the", "queue", "that", "is", "necessary", "to", "its", "knowing", "wherein", "the", "queue", "its", "own", "request", "falls", "and", "when", "its", "request", "should", "be", "granted", ".", "To", "maintain", "its", "portion", "of", "the", "distributed", "queue", ",", "each", "node", "follows", "specific", "monitoring", "algorithms", "-LRB-", "shown", "in", "Appendix", "A", "-RRB-", "when", "observing", "all", "nodes", "'", "lock", "requests", ".", "Recall", "that", "the", "broadcast", "ring", "'s", "properties", "guarantees", "that", "each", "node", "sees", "all", "the", "lock", "command", "traffic", "both", "preceding", "and", "succeeding", "its", "own", "command", "and", "that", "each", "node", "sees", "the", "same", "sequence", "of", "lock", "commands", "as", "every", "other", "node", ".", "The", "algorithms", "can", "be", "summarized", "as", "follows", "-LRB-", "the", "details", "can", "be", "found", "in", "-LSB-", "1", "-RSB-", "-RRB-", ".", "The", "first", "algorithm", "is", "for", "when", "a", "node", "sees", "a", "lock", "request", "from", "any", "node", "except", "itself", ":", "the", "node", "updates", "the", "most-recent", "and", "next-recent", "groups", ".", "The", "second", "algorithm", "is", "for", "when", "a", "node", "sees", "its", "own", "lock", "request", "command", ":", "the", "node", "updates", "the", "my", "fields", ",", "the", "prior", ",", "most-recent", ",", "and", "next-recent", "groups", ",", "and", "determines", "whether", "it", "can", "immediately", "acquire", "the", "lock", ".", "The", "third", "and", "fourth", "algorithms", "are", "needed", "for", "when", "the", "node", "sees", "a", "R/S", "or", "W/E", "unlock", "command", "respectively", ":", "the", "most-recent", "and", "next-recent", "groups", "are", "always", "updated", "appropriately", ",", "and", "the", "node", "'s", "own", "outstanding", "lock", "request", "-LRB-", "if", "any", "-RRB-", "is", "granted", "if", "appropriate", ".", "Thus", ",", "this", "implementation", "provides", "the", "logical", "abstraction", "of", "a", "nearly", "FCFS", "queue", "for", "lock", "requests", ".", "It", "is", "\\", "nearly", "''", "FCFS", "because", "of", "the", "broadcast", "ring", "'s", "possible", "re-ordering", "of", "nodes", "'", "requests", "within", "one", "ring", "cycle", ".", "Although", "the", "broadcast", "ring", "'s", "unidirectional", "property", "compromises", "true", "FCFS", "service", ",", "the", "same", "property", "also", "guarantees", "forward", "progress", "and", "no", "starvation", "of", "the", "lock", "requests", ".", "2.2", "Barriers", "The", "barrier", "is", "a", "rendezvous", "point", "for", "some", "set", "of", "tasks", ".", "The", "barrier", "'s", "semantics", "are", "that", "after", "initialization", "of", "the", "barrier", ",", "the", "participating", "tasks", "are", "free", "to", "reach", "the", "barrier", "at", "their", "own", "pace", ".", "A", "task", "is", "in", "the", "arrival", "phase", "when", "it", "reaches", "the", "barrier", ".", "Barrier", "completion", "occurs", "when", "all", "participating", "tasks", "have", "arrived", "at", "the", "barrier", ".", "A", "task", "must", "wait", "at", "the", "barrier", "until", "it", "becomes", "aware", "of", "barrier", "completion", ",", "at", "which", "time", "it", "can", "proceed", "past", "the", "barrier", ".", "Fig.", "4", "depicts", "the", "simple", "data", "structure", "which", "captures", "the", "state", "of", "a", "barrier", ".", "Recall", "that", "there", "is", "one", "such", "data", "structure", "per", "barrier", ",", "and", "this", "data", "structure", "is", "replicated", "at", "each", "node", ".", "The", "ID", "field", "uniquely", "identifies", "the", "barrier", ".", "The", "participation", "field", "stores", "how", "many", "nodes", "are", "participating", "in", "the", "barrier", ",", "and", "the", "counter", "field", "tracks", "how", "many", "nodes", "have", "reached", "the", "barrier", ".", "By", "maintaining", "the", "state", "of", "the", "barrier", ",", "each", "node", "can", "deduce", "when", "barrier", "completion", "occurs", ".", "To", "maintain", "the", "state", "of", "the", "barrier", ",", "each", "node", "follows", "a", "simple", "monitoring", "algorithm", "-LRB-", "shown", "in", "Appendix", "B", "-RRB-", "when", "observing", "all", "nodes", "'", "barrier", "commands", ".", "If", "the", "observed", "barrier", "command", "is", "for", "barrier", "initialization", ",", "then", "the", "participation", "and", "counter", "fields", "are", "set", "to", "the", "number", "of", "participating", "nodes", "and", "zero", "respectively", ".", "If", "the", "observed", "barrier", "command", "is", "that", "a", "node", "has", "reached", "the", "barrier", ",", "then", "the", "counter", "field", "is", "incremented", ".", "When", "a", "node", "itself", "reaches", "the", "barrier", ",", "it", "stalls", "at", "the", "barrier", "by", "watching", "the", "counter", "field", "and", "waiting", "for", "it", "to", "equal", "the", "participation", "field", ".", "When", "the", "two", "fields", "are", "equal", ",", "the", "node", "realizes", "that", "barrier", "completion", "has", "occurred", ".", "Note", "that", "since", "each", "node", "locally", "ascertains", "when", "barrier", "completion", "has", "occurred", ",", "there", "is", "no", "need", "for", "an", "explicit", "command", "to", "notify", "nodes", "of", "barrier", "completion", ".", "If", "the", "data", "structure", "continues", "to", "represent", "the", "same", "logical", "barrier", ",", "then", "reuse", "of", "the", "barrier", "hardware", "is", "a", "simple", "matter", "of", "each", "node", "resetting", "its", "copy", "of", "the", "counter", "field", ".", "If", "the", "data", "structure", "is", "to", "represent", "a", "different", "logical", "barrier", ",", "then", "an", "explicit", "barrier", "initialization", "command", "is", "required", "to", "reset", "the", "participation", "and", "counter", "fields", ".", "2.3", "Fetch", "-", "&", "-", "OP", "The", "F&OP", "-LRB-", "Fetch", "-", "&", "-", "OP", "-RRB-", "primitive", "is", "a", "generalization", "of", "the", "Fetch", "-", "&", "-", "ADD", "primitive", "introduced", "by", "Gottlieb", "-LSB-", "2", "-RSB-", ".", "Give", "that", "the", "OP", "represents", "any", "associative", ",", "commutative", "operator", ",", "the", "semantics", "is", "that", "when", "a", "node", "issues", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", ",", "the", "command", "returns", "the", "old", "value", "of", "V", "to", "the", "node", "and", "atomically", "replaces", "V", "with", "V", "OP", "e", ".", "An", "attractive", "property", "of", "the", "F&OP", "command", "is", "its", "potential", "combining", "capability", ".", "This", "capability", "can", "be", "expressed", "by", "saying", "that", "the", "F&OP", "command", "must", "satisfy", "the", "serialization", "principle", ":", "if", "V", "is", "a", "shared", "variable", "and", "many", "nodes", "issue", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "to", "the", "same", "target", "V", "simultaneously", ",", "then", "the", "effect", "of", "the", "many", "parallel", "F&OP", "commands", "is", "exactly", "what", "it", "would", "be", "if", "they", "had", "occurred", "in", "some", "-LRB-", "unspecified", "-RRB-", "serial", "order", ".", "That", "is", ",", "the", "final", "value", "of", "V", "due", "to", "the", "parallel", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "commands", "is", "the", "result", "of", "applying", "all", "the", "operators", "OP", "and", "operands", "e", "to", "the", "original", "V", ",", "and", "each", "node", "receives", "an", "intermediate", "value", "of", "V", "depending", "upon", "where", "its", "own", "particular", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "command", "happens", "to", "fall", "in", "the", "arbitrary", "serial", "order", ".", "The", "data", "structure", "associated", "with", "each", "target", "V", "is", "shown", "in", "Fig.", "5", ".", "The", "V-current", "field", "stores", "the", "current", "value", "of", "V", ",", "and", "the", "V-mine", "field", "stores", "the", "value", "of", "V", "which", "the", "node", "obtains", "from", "having", "issued", "the", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "command", ".", "Before", "any", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "command", "for", "a", "particular", "target", "V", "is", "issued", "by", "a", "node", ",", "the", "target", "V", "must", "be", "initialized", ",", "i.e.", ",", "the", "V-current", "field", "is", "set", "to", "the", "initial", "value", "of", "V.", "From", "this", "data", "structure", ",", "each", "node", "determines", "the", "value", "of", "V", "it", "should", "receive", "from", "its", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "command", "and", "updates", "V.", "To", "update", "its", "data", "structure", ",", "each", "node", "follows", "a", "simple", "monitoring", "algorithm", "-LRB-", "shown", "in", "Appendix", "C", "-RRB-", "when", "observing", "all", "nodes", "'", "F&OP", "commands", ".", "When", "the", "node", "observes", "its", "own", "command", ",", "it", "sets", "V-mine", "equal", "to", "V-current", "-LRB-", "and", "returns", "that", "value", "to", "the", "CPU", "-RRB-", ";", "for", "any", "node", "'s", "command", ",", "the", "node", "updates", "V-current", ".", "Thus", ",", "each", "node", "is", "provided", "the", "logical", "abstraction", "that", "its", "F&OP", "command", "is", "placed", "somewhere", "into", "a", "serial", "ordering", "of", "all", "the", "nodes", "'", "F&OP", "commands", ".", "3", "Analysis", "and", "Discussion", "3.1", "General", "observations", "There", "are", "several", "general", "observations", "to", "be", "made", "about", "these", "implementations", ".", "First", ",", "each", "implementation", "is", "decentralized", ".", "Each", "node", "independently", "maintains", "its", "copy", "of", "the", "appropriate", "data", "structure", "by", "observing", "the", "synchronization", "command", "traffic", ".", "Specifically", ",", "for", "locks", ",", "each", "node", "observes", "the", "stream", "of", "lock", "commands", "including", "its", "own", ".", "By", "observing", "this", "stream", "of", "commands", ",", "the", "node", "determines", "in", "what", "peer", "group", "its", "own", "command", "falls", ";", "from", "the", "stream", ",", "the", "node", "also", "deduces", "when", "the", "lock", "is", "released", "by", "the", "previous", "holder", "-LRB-", "s", "-RRB-", ".", "Thus", ",", "no", "central", "entity", "takes", "responsibility", "for", "queuing", "lock", "requests", "and", "granting", "them", ".", "For", "barriers", ",", "each", "node", "observes", "the", "stream", "of", "barrier", "arrivals", "including", "its", "own", ".", "By", "observing", "this", "stream", ",", "each", "node", "independently", "counts", "how", "many", "nodes", "have", "arrived", "at", "the", "barrier", ";", "from", "this", "information", ",", "each", "node", "independently", "ascertains", "when", "barrier", "completion", "has", "occurred", ".", "Thus", ",", "since", "no", "central", "entity", "computes", "barrier", "completion", ",", "no", "central", "entity", "has", "responsibility", "for", "notifying", "others", "of", "barrier", "completion", ".", "For", "the", "F&OP", "command", ",", "each", "node", "also", "observes", "the", "stream", "of", "commands", "including", "its", "own", ".", "By", "observing", "this", "stream", ",", "each", "node", "determines", "its", "own", "command", "'s", "place", "which", ",", "in", "turns", ",", "allows", "the", "node", "to", "compute", "the", "value", "of", "its", "F&OP", "command", ".", "Since", "each", "node", "listens", "to", "all", "the", "F&OP", "commands", ",", "each", "node", "also", "maintains", "the", "current", "value", "of", "the", "F&OP", "targets", ",", "thus", "avoiding", "the", "need", "for", "a", "central", "entity", "to", "maintain", "the", "value", ".", "The", "key", "to", "this", "decentralized", "scheme", "'s", "working", "is", "that", "each", "node", "hears", "all", "nodes", "'", "messages", "in", "the", "same", "order", "as", "every", "other", "node", ".", "Recall", "that", "we", "are", "interested", "in", "how", "the", "interconnection", "network", "'s", "structure", "provides", "support", "for", "the", "implementations", ".", "Our", "second", "observation", "concerns", "how", "the", "broadcast", "ring", "'s", "property", "of", "ordering", "the", "messages", "plays", "a", "role", "in", "the", "implementations", ".", "In", "the", "case", "of", "locks", ",", "the", "ordering", "automatically", "forms", "the", "service", "order", "of", "peer", "groups", ";", "thus", ",", "the", "interconnection", "network", "takes", "the", "responsibility", "for", "arbitrating", "among", "the", "queue", "of", "lock", "requests", ".", "For", "barriers", ",", "the", "ordering", "plays", "no", "role", ".", "For", "the", "F&OP", "command", ",", "the", "ordering", "automatically", "creates", "the", "-LRB-", "arbitrary", "-RRB-", "serial", "ordering", "needed", "for", "each", "node", "to", "calculate", "locally", "the", "value", "of", "its", "F&OP", "-LRB-", "V", ",", "e", "-RRB-", "command", ".", "The", "third", "observation", "concerns", "the", "space", "requirements", ".", "For", "the", "lock", "design", ",", "note", "that", "no", "matter", "how", "large", "the", "distributed", "queue", "of", "lock", "requests", "becomes", ",", "each", "node", "only", "needs", "to", "store", "four", "peer", "groups", "of", "information", "-LRB-", "per", "distinct", "lock", "-RRB-", ".", "For", "the", "barrier", ",", "each", "node", "stores", "only", "one", "group", "per", "barrier", "no", "matter", "how", "many", "nodes", "participate", "in", "the", "barrier", ".", "For", "the", "F&OP", ",", "each", "node", "also", "stores", "only", "one", "group", "per", "target", "V", "no", "matter", "how", "many", "nodes", "issue", "F&OP", "commands", "to", "that", "target", ".", "Thus", ",", "for", "each", "synchronization", "primitive", "implementation", ",", "the", "data", "structure", "storage", "requirements", "are", "constant", "per", "node", "per", "instance", "of", "the", "primitive", "no", "matter", "how", "many", "nodes", "participate", "in", "operations", "on", "the", "primitive", ".", "The", "fourth", "observation", "regards", "the", "number", "of", "messages", "generated", "for", "each", "primitive", "and", "how", "that", "number", "compares", "with", "the", "minimum", "number", "needed", ".", "For", "either", "a", "R/S", "or", "W/E", "lock", "request", ",", "a", "node", "generates", "only", "one", "message", "-LRB-", "the", "minimum", "number", "-RRB-", ".", "When", "a", "node", "releases", "a", "lock", ",", "only", "one", "message", "is", "generated", "-LRB-", "the", "minimum", "number", "-RRB-", ".", "No", "additional", "messages", "are", "generated", "for", "the", "lock", "actually", "to", "be", "granted", "to", "the", "next", "requester", "since", "the", "nodes", "are", "monitoring", "the", "request", "and", "release", "traffic", "to", "determine", "when", "they", "should", "be", "granted", "the", "lock", ".", "For", "the", "barrier", "operation", ",", "one", "message", "is", "generated", "to", "initialize", "the", "barrier", ",", "which", "is", "the", "minimum", ".", "One", "message", "is", "generated", "for", "each", "node", "arriving", "at", "the", "barrier", ",", "which", "is", "the", "minimum", ".", "No", "additional", "messages", "are", "generated", "when", "barrier", "completion", "occurs", "since", "each", "node", "calculates", "for", "itself", "when", "barrier", "completion", "occurs", ".", "For", "the", "F&OP", "command", ",", "each", "node", "generates", "a", "message", "when", "issuing", "the", "command", ",", "which", "is", "the", "minimum", ".", "No", "additional", "messages", "are", "needed", "for", "the", "node", "to", "calculate", "the", "result", "of", "its", "F&OP", "or", "keep", "the", "the", "target", "V", "updated", "since", "each", "node", "observes", "all", "the", "command", "traffic", "and", "performs", "those", "calculations", "locally", ".", "Together", ",", "the", "third", "and", "fourth", "observations", "demonstrate", "that", "the", "implementation", "of", "these", "synchronization", "primitives", "are", "scalable", "in", "both", "space", "and", "time", "requirements", ".", "3.2", "Implementation-dependent", "comments", "In", "-LSB-", "1", "-RSB-", "we", "assumed", "an", "optical", "fiber", "implementation", "of", "the", "broadcast", "ring", ";", "this", "assumption", "allows", "us", "to", "make", "two", "implementation-dependent", "observations", ".", "First", ",", "the", "previous", "discussion", "has", "implicitly", "assumed", "that", "all", "of", "a", "given", "synchronization", "command", "'s", "traffic", "is", "carried", "on", "only", "one", "broadcast", "ring", ".", "The", "high", "bandwidth", "of", "optical", "fibers", "-LRB-", "on", "the", "order", "of", "ten", "Terahertz", "-RRB-", "makes", "it", "possible", "to", "have", ",", "as", "the", "optical", "technology", "matures", ",", "large", "numbers", "-LRB-", "on", "the", "order", "of", "a", "hundred", "-RRB-", "of", "high", "speed", "-LRB-", "Gbit", "or", "more", "-RRB-", "channels", ".", "Thus", ",", "if", "the", "lock", "command", "-LRB-", "or", "barrier", "or", "F&OP", "command", "-RRB-", "traffic", "is", "heavy", "enough", ",", "one", "might", "allocate", "several", "high", "speed", "channels", "to", "alleviate", "the", "communication", "bottleneck", ".", "The", "algorithms", "previously", "described", "do", "not", "need", "modification", "to", "work", "properly", "if", "the", "command", "traffic", "is", "split", "over", "several", "channels", "as", "long", "as", "one", "restriction", "is", "observed", ".", "That", "restriction", "is", "that", "all", "command", "traffic", "pertaining", "to", "one", "instance", "of", "a", "given", "synchronization", "command", "must", "be", "carried", "on", "one", "channel", ".", "An", "additional", "implication", "of", "splitting", "a", "given", "type", "of", "command", "traffic", "over", "several", "channels", "is", "that", "the", "node", "will", "need", "to", "replicate", "the", "hardware", "that", "implements", "the", "monitoring", "algorithms", ".", "As", "a", "second", "observation", "-LRB-", "that", "assumes", "using", "optical", "fibers", "-RRB-", ",", "we", "show", "some", "minimum", "and", "maximum", "execution", "times", "of", "these", "synchronization", "primitives", "for", "various", "system", "configurations", "-LRB-", "the", "details", "of", "the", "derivation", "of", "these", "times", "are", "given", "in", "-LSB-", "1", "-RSB-", "-RRB-", ".", "Tables", "1", ",", "2", ",", "and", "3", "list", "these", "execution", "times", "for", "idle", "and", "busy", "locks", ",", "last", "arrival", "and", "simultaneous", "arrival", "barriers", ",", "and", "single", "and", "multiple", "F&OP", "commands", "respectively", ".", "These", "execution", "times", "are", "listed", "for", "small", "and", "large", "system", "sizes", "-LRB-", "50", "and", "100", "nodes", "respectively", "-RRB-", "and", "for", "small", "and", "large", "physical", "scales", "-LRB-", "end-to-end", "propagation", "times", "of", "50", "nsec", ",", "or", "10", "m", ",", "and", "500", "nsec", ",", "or", "100", "m", ",", "respectively", "-RRB-", ".", "An", "idle", "lock", "is", "one", "not", "being", "held", "when", "the", "node", "requests", "it", ";", "a", "busy", "lock", "is", "one", "for", "which", "the", "node", "waits", "before", "being", "granted", "it", ".", "A", "last", "arrival", "barrier", "is", "one", "for", "which", "all", "nodes", "but", "one", "have", "previously", "arrived", ";", "a", "simultaneous", "arrival", "barrier", "is", "one", "for", "which", "some", "arbitrary", "number", "of", "nodes", "arrive", "together", "at", "the", "barrier", ".", "A", "single", "F&OP", "command", "situation", "is", "one", "in", "which", "only", "one", "node", "issues", "the", "F&OP", "for", "a", "particular", "target", "V", ";", "in", "the", "multiple", "F&OP", "command", "situation", ",", "some", "number", "of", "nodes", "P", "issue", "the", "F&OP", "command", "to", "the", "same", "target", "V", ".", "These", "execution", "times", "indicate", "that", "even", "for", "large", "system", "sizes", "and", "large", "physical", "scales", ",", "the", "raw", "execution", "times", "of", "these", "three", "synchronization", "primitives", "is", "on", "the", "order", "of", "from", "a", "few", "microseconds", "to", "a", "few", "tens", "of", "microseconds", ".", "4", "Conclusions", "We", "have", "presented", "efficient", "implementation", "techniques", "for", "some", "well-known", "synchronization", "operations", "that", "rely", "on", "local", "decisions", "for", "determining", "the", "outcome", "of", "such", "operations", ".", "We", "have", "shown", "that", "our", "implementation", "incurs", "exactly", "the", "minimum", "number", "of", "messages", "to", "perform", "these", "operations", ".", "Further", ",", "the", "space", "requirement", "at", "each", "node", "for", "implementing", "these", "algorithms", "is", "a", "constant", "independent", "of", "the", "number", "of", "participating", "processors", ".", "Thus", "our", "implementation", "is", "scalable", "in", "terms", "of", "both", "time", "and", "space", "requirements", ".", "These", "algorithms", "depend", "upon", "the", "interconnection", "network", "being", "a", "broadcast", "ring", "having", "three", "particular", "properties", ".", "These", "algorithms", "demonstrate", "that", "it", "is", "useful", "to", "consider", "how", "an", "interconnection", "network", "'s", "structure", "-LRB-", "and", "resulting", "properties", "-RRB-", "can", "aid", "the", "implementation", "of", "useful", "parallel", "programming", "constructs", ".", "By", "assuming", "a", "particular", "implementation", "technology", "for", "the", "broadcast", "ring", "-LRB-", "optical", "fibers", "-RRB-", ",", "we", "have", "also", "presented", "some", "results", "showing", "the", "raw", "execution", "performance", "of", "these", "commands", "to", "be", "reasonable", "over", "even", "large", "system", "sizes", "and", "physical", "scales", ".", "The", "next", "research", "step", "is", "to", "consider", "the", "various", "practical", "issues", "and", "concomitant", "ramifications", "of", "constructing", "systems", "using", "these", "techniques", ".", "There", "are", "several", "different", "questions", "to", "be", "addressed", "in", "this", "next", "step", ".", "What", "are", "the", "engineering", "issues", "in", "building", "the", "broadcast", "ring", "in", "either", "electronic", "or", "optical", "hardware", "?", "How", "many", "nodes", "can", "be", "supported", "in", "either", "technology", "?", "What", "are", "the", "design", "issues", "involved", "in", "storing", "the", "replicated", "data", "structures", "distinct", "from", "the", "architecture", "'s", "shared", "memory", "?", "Should", "local", "hardware", "tables", "be", "used", "for", "this", "storage", "?", "Are", "there", "existing", "parallel", "systems", "-LRB-", "e.g.", ",", "the", "KSR", "machine", "-LSB-", "3", "-RSB-", "-RRB-", "having", "a", "ring-style", "interconnection", "network", "which", "could", "utilize", "these", "algorithms", "?", "Are", "there", "other", "interconnection", "network", "structures", "which", "can", "be", "utilized", "in", "a", "similar", "manner", "?", "Finally", ",", "how", "do", "\\", "real", "''", "parallel", "programs", "perform", "when", "using", "these", "synchronization", "primitives", "'", "implementations", "versus", "using", "other", "-LRB-", "previously", "suggested", "-RRB-", "software", "and", "hardware", "implementations", "?", "References", "-LSB-", "1", "-RSB-", "M.", "H.", "Davis", ",", "Jr.", ".", "Optical", "Waveguides", "in", "General", "Purpose", "Parallel", "Computers", ".", "PhD", "thesis", ",", "College", "of", "Computing", ",", "Georgia", "Institute", "of", "Technology", ",", "Atlanta", ",", "GA", "30332-0280", ",", "Dec.", "1992", ".", "Available", "as", "Technical", "Report", "GIT-CC-93", "/", "06", ".", "-LSB-", "2", "-RSB-", "A.", "Gottlieb", "and", "C.", "Kruskal", ".", "Coordinating", "parallel", "processors", ":", "A", "partial", "unification", ".", "Computer", "Architecture", "News", ",", "pages", "16", "-LCB-", "24", ",", "Oct.", ".", "1981", ".", "-LSB-", "3", "-RSB-", "Kendall", "Square", "Research", "Corp.", ",", "Waltham", ",", "Massachusetts", ".", "Kendall", "Square", "Research", "Technical", "Summary", ",", "1992", ".", "-LSB-", "4", "-RSB-", "J.", "M.", "Mellor-Crummey", "and", "M.", "L.", "Scott", ".", "Algorithms", "for", "scalable", "synchronization", "on", "shared-memory", "multiprocessors", ".", "ACM", "Transactions", "on", "Computer", "Systems", ",", "9", "-LRB-", "1", "-RRB-", ":21", "-LCB-", "65", ",", "February", "1991", ".", "oeoeoe", "-", "-", "-", "Node", "1", "U", "T", "B", "Node", "i", "U", "T", "B", "Node", "N", "U", "T", "B", "fflfflfflffl", "1", "'s", "msg", "i", "'s", "msg", "N", "'s", "msgfflffl", "o", "-", "oe", "Figure", "1", ":", "The", "broadcast", "ring", "'s", "properties", ".", "P3", "P1", "P4", "P5", "P7", "P2", "P6", "P8", "P9", "R/S", "req", ".", "W/E", "req", ".", "R/S", "req", ".", "W/E", "req", ".", "-", "-", "-", "Figure", "2", ":", "Lock", "request", "peer", "groups", ".", "LOCK-ID", "my-type", "my-id", "my-status", "prior-type", "prior-id", "prior-count", "most-recent-type", "most-recent-id", "most-recent-count", "next-recent-type", "next-recent-id", "next-recent-count", "Figure", "3", ":", "The", "data", "structure", "associated", "with", "each", "lock", ".", "ID", "participation", "counter", "Figure", "4", ":", "The", "data", "structure", "which", "represents", "the", "state", "of", "each", "barrier", ".", "V-current", "V-mine", "Figure", "5", ":", "The", "data", "structure", "associated", "with", "each", "target", "V.", "Execution", "Time", "-LRB-", "nsec", "-RRB-", "Idle", "Busy", "N", "o", "-LRB-", "nsec", "-RRB-", "min", "max", "min", "max", "50", "50 70 2555 170", "3910", "50", "500 70 2555 670", "4360", "500", "50", "70", "25055", "170", "37660", "500", "500", "70", "25055", "1070", "38110", "Table", "1", ":", "Minimum", "and", "maximum", "execution", "times", "for", "idle", "and", "busy", "locks", ".", "N", "is", "the", "system", "size", ",", "and", "o", "is", "the", "physical", "scale", ".", "Execution", "Time", "-LRB-", "nsec", "-RRB-", "Last", "Simul", "N", "o", "-LRB-", "nsec", "-RRB-", "min", "max", "min", "max", "50", "50 70 2605 670", "2655", "50", "500 70 3055 670", "3555", "500", "50", "70", "25105", "6295", "25155", "500", "500", "70", "25555", "6295", "26055", "Table", "2", ":", "Minimum", "and", "maximum", "execution", "times", "for", "last", "arrival", "and", "simultaneous", "arrival", "barriers", ".", "N", "is", "the", "system", "size", ",", "and", "o", "is", "the", "physical", "scale", ".", "Execution", "Time", "-LRB-", "nsec", "-RRB-", "Single", "Multiple", "N", "o", "-LRB-", "nsec", "-RRB-", "min", "max", "min", "max", "50", "50 70 2555 170", "2555", "50", "500 70 2555 670", "2555", "500", "50", "70", "25055", "170", "25055", "500", "500", "70", "25055", "1070", "25055", "Table", "3", ":", "Minimum", "and", "maximum", "execution", "times", "for", "single", "command", "and", "multiple", "command", "F&OP", ".", "N", "is", "the", "system", "size", ",", "and", "o", "is", "the", "physical", "scale", ".", "A", "Lock", "Monitoring", "Algorithms", "if", "-LRB-", "COMMAND", "==", "request", "-RRB-", ":", "if", "-LRB-", "SENDER", "!", "=", "self", "-RRB-", ":", "/", "/", "Just", "update", "most-recent", "and", "next-recent", "peer", "groups", ".", "switch", "REQUEST_TYPE", ":", "case", "w/e", ":", "/", "/", "Automatically", "starts", "new", "Peer", "Group", ".", "next-recent-type", ":", "=", "most-recent-type", ";", "next-recent-id", ":", "=", "most-recent-id", ";", "next-recent-count", ":", "=", "most-recent-count", ";", "most-recent-type", ":", "=", "w/e", ";", "most-recent-id", ":", "=", "REQUEST-id", ";", "most-recent-count", ":", "=", "1", ";", "break", ";", "case", "r/s", ":", "if", "-LRB-", "most-recent-type", "==", "-LRB-", "none", ".", "OR", ".", "w/e", "-RRB-", "-RRB-", ":", "/", "/", "Starts", "a", "new", "Peer", "Group", ".", "next-recent-type", ":", "=", "most-recent-type", ";", "next-recent-id", ":", "=", "next-recent-id", ";", "next-recent-count", ":", "=", "next-recent-count", ";", "most-recent-type", ":", "=", "r/s", ";", "most-recent-id", ":", "=", "REQUEST-id", ";", "most-recent-count", ":", "=", "1", ";", "else", ":", "/", "/", "Since", "most-recent", "Peer", "Group", "is", "R/S", ",", "this", "request", "joins", "it", ".", "most-recent-count", "+", "+", ";", "endif", ".", "break", ";", "endswitch", ".", "endif", ".", "endif", ".", "Figure", "6", ":", "The", "algorithm", "which", "nodes", "follow", "for", "processing", "Lock", "Requests", "from", "other", "nodes", ".", "if", "-LRB-", "COMMAND", "==", "request", "-RRB-", ":", "if", "-LRB-", "SENDER", "==", "self", "-RRB-", ":", "/", "/", "Must", "define", "my", "and", "prior", "peer", "groups", ",", "as", "well", "as", "update", "most-recent", "and", "next-recent", "peer", "groups", ".", "switch", "REQUEST_TYPE", ":", "case", "w/e", ":", "/", "/", "Automatically", "starts", "new", "Peer", "Group", ".", "/", "/", "First", "create", "prior", "group", "from", "most-recent", "group", ":", "prior-type", ":", "=", "most-recent-type", ";", "prior-id", ":", "=", "most-recent-id", ";", "prior-count", ":", "=", "most-recent-count", ";", "/", "/", "Update", "next-recent", "and", "most-recent", "groups", ":", "next-recent-type", ":", "=", "most-recent-type", ";", "next-recent-id", ":", "=", "most-recent-id", ";", "next-recent-count", ":", "=", "most-recent-count", ";", "most-recent-type", ":", "=", "w/e", ";", "most-recent-id", ":", "=", "REQUEST-id", ";", "most-recent-count", ":", "=", "1", ";", "/", "/", "Create", "my", "group", ":", "my-type", ":", "=", "most-recent-type", ";", "my-id", ":", "=", "most-recent-id", ";", "if", "-LRB-", "prior-type", "==", "none", "-RRB-", ":", "my-status", ":", "=", "granted", ";", "else", ":", "my-status", ":", "=", "pending", ";", "endif", ".", "break", ";", "First", "part", "-LRB-", "of", "three", "-RRB-", "of", "Fig.", "7", ".", "Figure", "7", ":", "The", "algorithm", "which", "nodes", "follow", "for", "processing", "Lock", "Requests", "from", "themselves", ".", "case", "r/s", ":", "if", "-LRB-", "most-recent-type", "==", "-LRB-", "none", ".", "OR", ".", "w/e", "-RRB-", ":", "/", "/", "Form", "new", "Peer", "Group", ":", "/", "/", "First", "create", "prior", "group", "from", "most-recent", ":", "prior-type", ":", "=", "most-recent-type", ";", "prior-id", ":", "=", "most-recent-id", ";", "prior-count", ":", "=", "most-recent-count", ";", "/", "/", "Update", "next-recent", "and", "most-recent", "groups", ":", "next-recent-type", ":", "=", "most-recent-type", ";", "next-recent-id", ":", "=", "most-recent-id", ";", "next-recent-count", ":", "=", "most-recent-count", ";", "most-recent-type", ":", "=", "r/s", ";", "most-recent-id", ":", "=", "REQUEST-id", ";", "most-recent-count", ":", "=", "1", ";", "/", "/", "Create", "my", "group", ":", "my-type", ":", "=", "most-recent-type", ";", "my-id", ":", "=", "most-recent-id", ";", "if", "-LRB-", "prior-type", "==", "none", "-RRB-", ":", "my-status", ":", "=", "granted", ";", "else", ":", "my-status", ":", "=", "pending", ";", "endif", ".", "Second", "part", "-LRB-", "of", "three", "-RRB-", "of", "Fig.", "7", ".", "else", ":", "/", "/", "Since", "most", "recent", "Peer", "Group", "is", "R/S", ",", "this", "request", "/", "/", "joins", "it", ".", "/", "/", "First", "create", "my", "group", ":", "prior-type", ":", "=", "next-recent-type", ";", "prior-id", ":", "=", "next-recent-id", ";", "prior-count", ":", "=", "next-recent-count", ";", "/", "/", "Update", "most", "recent", "group", ":", "most-recent-count", "+", "+", ";", "/", "/", "Create", "my", "group", ":", "my-type", ":", "=", "most-recent-type", ";", "my-id", ":", "=", "most-recent-id", ";", "if", "-LRB-", "prior-type", "==", "none", "-RRB-", ":", "my-status", ":", "=", "granted", ";", "else", ":", "my-status", ":", "=", "pending", ";", "endif", ".", "endif", ".", "break", ";", "endswitch", ".", "endif", ".", "endif", ".", "Third", "part", "-LRB-", "of", "three", "-RRB-", "of", "Fig.", "7", ".", "if", "-LRB-", "COMMAND", "==", "w/e-unlock", "-RRB-", ":", "if", "-LRB-", "REQUEST-id", "==", "next-recent-id", "-RRB-", ":", "next-recent-type", ":", "=", "none", ";", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "most-recent-id", "-RRB-", ":", "most-recent-type", ":", "=", "none", ";", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "prior-id", "-RRB-", ":", "prior-type", ":", "=", "none", ";", "if", "-LRB-", "my-type", "==", "-LRB-", "w/e", ".", "OR", ".", "r/s", "-RRB-", ":", "my-status", ":", "=", "granted", ";", "endif", ".", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "my-id", "-RRB-", ":", "/", "/", "Change", "my-type", "to", "indicate", "that", "node", "/", "/", "no", "longer", "holds", "this", "lock", "|", "there", "is", "no", "/", "/", "my-count", "field", "to", "update", ".", "my-type", ":", "=", "none", ";", "endif", ".", "endif", ".", "Figure", "8", ":", "The", "algorithm", "which", "nodes", "follow", "for", "processing", "W/E", "UNLOCK", "commands", ".", "if", "-LRB-", "COMMAND", "==", "r/s-unlock", "-RRB-", ":", "if", "-LRB-", "REQUEST-id", "==", "next-recent-id", "-RRB-", ":", "next-recent-count", "--", ";", "if", "-LRB-", "next-recent-count", "==", "0", "-RRB-", ":", "next-recent-type", ":", "=", "none", ";", "endif", ".", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "most-recent-id", "-RRB-", ":", "most-recent-count", "--", ";", "if", "-LRB-", "most-recent-count", "==", "0", "-RRB-", ":", "most-recent-type", ":", "=", "none", ";", "endif", ".", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "prior-id", "-RRB-", ":", "prior-count", "--", ";", "if", "-LRB-", "prior-count", "==", "0", "-RRB-", ":", "prior-type", ":", "=", "none", ";", "if", "-LRB-", "my-type", "==", "-LRB-", "w/e", ".", "OR", ".", "r/s", "-RRB-", ":", "my_status", ":", "=", "granted", ";", "endif", ".", "endif", ".", "endif", ".", "if", "-LRB-", "REQUEST-id", "==", "my-id", "-RRB-", ":", "/", "/", "Change", "my-type", "to", "indicate", "that", "node", "/", "/", "no", "longer", "holds", "this", "lock", "|", "there", "is", "no", "/", "/", "my-count", "field", "to", "update", ".", "my-type", ":", "=", "none", ";", "endif", ".", "endif", ".", "Figure", "9", ":", "The", "algorithm", "which", "nodes", "follow", "for", "processing", "R/S", "UNLOCK", "commands", ".", "B", "Barrier", "monitoring", "algorithms", "switch", "command", ":", "case", "initialize", ":", "participation", ":", "=", "N", ";", "counter", ":", "=", "0", ";", "break", ";", "case", "reach", ":", "counter", "+", "+", ";", "break", ";", "endcase", ";", "endswitch", ".", "Figure", "10", ":", "The", "monitoring", "algorithm", "that", "each", "node", "follows", "in", "processing", "barrier", "commands", ".", "C", "F&OP", "monitoring", "algorithms", "if", "-LRB-", "SENDER", "==", "self", "-RRB-", ":", "V-mine", ":", "=", "V-current", ";", "notify", "CPU", "that", "the", "F&OP", "has", "completed", "by", "returning", "V-mine", ";", "endif", ";", "V-current", ":", "=", "-LRB-", "V-current", "OP", "e", "-RRB-", ".", "Figure", "11", ":", "The", "monitoring", "algorithm", "each", "node", "follows", "in", "the", "hybrid", "F&OP", "scheme", "." ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "A", "Highly", "Asynchronous", "Minimum", "Spanning", "Tree", "Protocol", "?", "Gurdip", "Singh", "Department", "of", "Computing", "and", "Information", "Sciences", ",", "234", "Nichols", "Hall", ",", "Kansas", "State", "University", ",", "Manhattan", ",", "Kansas", "66506", "Arthur", "J.", "Bernstein", "Department", "of", "Computer", "Science", "SUNY", "at", "Stony", "Brook", "Stony", "Brook", ",", "Long", "Island", ",", "NY", "11794", ".", "Abstract", ":", "In", "this", "paper", ",", "we", "present", "an", "efficient", "distributed", "protocol", "for", "constructing", "a", "minimum-weight", "spanning", "tree", "-LRB-", "MST", "-RRB-", ".", "Gallager", ",", "Humblet", "and", "Spira", "-LSB-", "5", "-RSB-", "proposed", "a", "protocol", "for", "this", "problem", "with", "time", "and", "message", "complexities", "O", "-LRB-", "N", "log", "N", "-RRB-", "and", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "respectively", ".", "A", "protocol", "with", "O", "-LRB-", "N", "-RRB-", "time", "complexity", "was", "proposed", "by", "Awerbuch", "-LSB-", "1", "-RSB-", ".", "We", "show", "that", "the", "time", "complexity", "of", "the", "protocol", "in", "-LSB-", "5", "-RSB-", "can", "also", "be", "expressed", "as", "O", "-LRB-", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", ",", "where", "D", "is", "the", "maximum", "degree", "of", "a", "node", "and", "d", "is", "the", "diameter", "of", "the", "MST", "and", "therefore", "this", "protocol", "performs", "better", "than", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "whenever", "D", "+", "d", "<", "N", "=", "log", "N", ".", "We", "give", "a", "protocol", "which", "requires", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "and", "O", "-LRB-", "E+N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", "messages", ".", "The", "protocol", "constructs", "a", "minimum", "spanning", "tree", "by", "growing", "disjoint", "subtrees", "of", "the", "MST", "-LRB-", "which", "are", "referred", "to", "as", "fragments", "-RRB-", ".", "Fragments", "having", "the", "same", "minimumweight", "outgoing", "edge", "are", "combined", "until", "a", "single", "fragment", "which", "spans", "the", "entire", "network", "remains", ".", "The", "protocols", "in", "-LSB-", "5", "-RSB-", "and", "-LSB-", "1", "-RSB-", "enforce", "a", "balanced", "growth", "of", "fragments", ".", "We", "relax", "the", "requirement", "of", "balanced", "growth", "and", "obtain", "a", "highly", "asynchronous", "protocol", ".", "In", "this", "protocol", ",", "fast", "growing", "fragments", "combine", "more", "often", "and", "therefore", "speed", "up", "the", "execution", ".", "?", "This", "work", "was", "supported", "by", "NSF", "under", "grants", "CCR8701671", ",", "CCR8901966", "and", "CCR9211621", ".", "1", "Introduction", "In", "this", "paper", ",", "we", "develop", "a", "distributed", "protocol", "for", "obtaining", "a", "minimum", "spanning", "tree", "in", "an", "asynchronous", "network", ".", "We", "assume", "that", "each", "edge", "has", "a", "distinct", "weight", "associated", "with", "it", ".", "When", "the", "protocol", "terminates", ",", "each", "node", "knows", "which", "edges", "incident", "on", "it", "are", "in", "the", "minimum", "spanning", "tree", ".", "The", "problem", "of", "obtaining", "a", "minimum", "spanning", "tree", "is", "an", "important", "one", ".", "Many", "problems", ",", "such", "as", "leader", "election", "and", "computing", "a", "global", "function", ",", "can", "be", "solved", "efficiently", "by", "maintaining", "a", "minimum", "spanning", "tree", ".", "The", "problems", "of", "constructing", "a", "spanning", "tree", "and", "leader", "election", "are", "closely", "related", "and", "are", "reducible", "to", "each", "other", "using", "O", "-LRB-", "E", "-RRB-", "messages", "and", "O", "-LRB-", "N", "-RRB-", "time", ",", "where", "E", "and", "N", "are", "the", "number", "of", "edges", "and", "nodes", "respectively", "in", "the", "network", "-LRB-", "i", ":", "e", ":", ";", "given", "a", "protocol", "with", "message", "and", "time", "complexities", "O", "-LRB-", "M", "-RRB-", "and", "O", "-LRB-", "T", "-RRB-", "respectively", "for", "one", "of", "them", ",", "we", "can", "obtain", "a", "protocol", "for", "the", "other", "with", "message", "and", "time", "complexities", "O", "-LRB-", "M", "+", "E", "-RRB-", "and", "O", "-LRB-", "T", "+", "N", "-RRB-", "respectively", "-RRB-", ".", "As", "observed", "in", "-LSB-", "5", "-RSB-", ",", "?", "-LRB-", "E", "-RRB-", "messages", "are", "necessary", "to", "construct", "a", "spanning", "tree", "in", "a", "network", "with", "an", "arbitrary", "topology", ".", "Also", ",", "as", "shown", "in", "-LSB-", "3", "-RSB-", ",", "?", "-LRB-", "N", "log", "N", "-RRB-", "messages", "are", "required", "for", "leader", "election", "in", "a", "ring", "-LRB-", "therefore", ",", "constructing", "a", "spanning", "tree", "will", "require", "O", "-LRB-", "N", "log", "N", "-RRB-", "messages", "in", "a", "ring", "-RRB-", ".", "It", "follows", "that", "?", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "are", "required", "for", "constructing", "a", "spanning", "tree", "in", "a", "network", "with", "an", "arbitrary", "topology", ".", "In", "-LSB-", "1", "-RSB-", ",", "it", "was", "noted", "that", "?", "-LRB-", "N", "-RRB-", "is", "a", "lower", "bound", "on", "the", "time", "complexity", "for", "this", "problem", "since", "in", "a", "network", "having", "O", "-LRB-", "N", "-RRB-", "diameter", ",", "O", "-LRB-", "N", "-RRB-", "time", "is", "required", "just", "to", "traverse", "the", "network", ".", "In", "-LSB-", "5", "-RSB-", ",", "a", "message", "optimal", "protocol", "-LRB-", "requiring", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "-RRB-", "was", "given", "to", "construct", "a", "minimum", "spanning", "tree", "-LRB-", "MST", "-RRB-", ".", "The", "time", "complexity", "of", "this", "protocol", "was", "shown", "to", "be", "O", "-LRB-", "N", "log", "N", "-RRB-", ",", "which", "is", "not", "optimal", ".", "This", "protocol", "maintains", "a", "spanning", "forest", "of", "trees", "-LRB-", "referred", "to", "as", "fragments", "-RRB-", ",", "each", "of", "which", "is", "a", "subtree", "of", "the", "MST", ".", "Fragments", "are", "merged", "over", "their", "minimum", "weight", "outgoing", "edges", "until", "a", "single", "fragment", "which", "spans", "the", "entire", "network", "remains", ".", "In", "order", "to", "keep", "the", "message", "complexity", "low", ",", "each", "fragment", "has", "a", "level", "number", "associated", "with", "it", "which", "is", "a", "measure", "of", "the", "number", "of", "nodes", "in", "the", "fragment", ".", "A", "fragment", ",", "F", ",", "at", "a", "higher", "level", "which", "makes", "a", "request", "to", "join", "with", "a", "fragment", "at", "a", "lower", "level", "is", "made", "to", "wait", "until", "the", "smaller", "fragment", "grows", "to", "the", "point", "where", "its", "level", "number", "is", "equal", "to", "or", "greater", "than", "F", "s", "level", "number", ".", "Due", "to", "this", ",", "the", "execution", "time", "is", "determined", "by", "the", "slowest", "growing", "fragment", ".", "This", "may", "result", "in", "a", "large", "execution", "time", ".", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", "proposed", "improved", "message", "optimal", "protocols", "for", "this", "problem", "with", "time", "complexity", "O", "-LRB-", "N", "log?N", "-RRB-", ",", "where", "log?N", "=", "minfk", ":", "logkN", "<", "=", "1g", "and", "logkN", "is", "the", "log", "function", "applied", "successively", "k", "times", "to", "N", ".", "Finally", ",", "a", "message", "optimal", "protocol", "with", "O", "-LRB-", "N", "-RRB-", "time", "complexity", "was", "given", "in", "-LSB-", "1", "-RSB-", ".", "This", "protocol", "involves", "an", "initial", "phase", "in", "which", "the", "number", "of", "nodes", "in", "the", "network", "are", "counted", "by", "constructing", "a", "spanning", "tree", ".", "This", "phase", "requires", "O", "-LRB-", "N", "-RRB-", "time", "on", "all", "networks", "since", "the", "spanning", "tree", "constructed", "is", "arbitrary", "and", "can", "have", "O", "-LRB-", "N", "-RRB-", "diameter", ".", "Hence", ",", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "requires", "O", "-LRB-", "N", "-RRB-", "time", "on", "all", "networks", ".", "In", "this", "paper", ",", "we", "show", "that", "the", "time", "complexity", "of", "-LSB-", "5", "-RSB-", "can", "also", "be", "expressed", "as", "O", "-LRB-", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", ",", "where", "D", "is", "the", "maximum", "degree", "of", "a", "node", "and", "d", "is", "the", "diameter", "of", "the", "MST", ".", "The", "protocol", "in", "-LSB-", "5", "-RSB-", "will", "therefore", "perform", "better", "than", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "whenever", "D", "+", "d", "is", "less", "than", "N", "=", "log", "N", ".", "Hence", ",", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "is", "not", "optimal", "for", "a", "large", "class", "of", "networks", ".", "We", "present", "a", "protocol", ",", "CompMST", ",", "which", "requires", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "and", "O", "-LRB-", "E", "+", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", "messages", ".", "To", "arrive", "at", "this", "protocol", ",", "we", "first", "develop", "a", "protocol", "Async", ".", "In", "Async", ",", "a", "fragment", "does", "not", "wait", "for", "another", "fragment", "to", "reach", "a", "particular", "level", "before", "it", "can", "combine", "with", "it", ".", "The", "protocol", "takes", "at", "most", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "and", "O", "-LRB-", "N2", "-RRB-", "messages", ".", "Although", "it", "is", "not", "message", "optimal", ",", "it", "requires", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "after", "all", "fragments", "have", "reached", "size", "N", "=", "log", "N", ".", "Similarly", ",", "the", "protocols", "in", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", "are", "not", "time", "optimal", "but", "require", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "up", "to", "the", "point", "at", "which", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "We", "combine", "the", "features", "of", "Async", "and", "the", "protocol", "in", "-LSB-", "2", "-RSB-", "to", "obtain", "CompMST", ".", "We", "relax", "the", "requirement", "of", "balanced", "growth", "and", "require", "a", "fragment", "at", "level", "l", "to", "wait", "for", "a", "neighboring", "fragment", "to", "reach", "a", "level", "greater", "than", "or", "equal", "to", "l?log", "l", "before", "combining", "with", "it", ".", "This", "protocol", "behaves", "like", "the", "protocol", "in", "-LSB-", "2", "-RSB-", "when", "fragment", "size", "is", "small", ".", "After", "the", "fragment", "size", "reaches", "N", "=", "log", "N", ",", "its", "behavior", "is", "identical", "to", "that", "of", "Async", ".", "The", "time", "complexity", "of", "CompMST", "is", "equal", "to", "the", "protocol", "of", "-LSB-", "5", "-RSB-", "for", "networks", "in", "which", "D", "+", "d", "<", "N", "=", "log", "N", "and", "to", "the", "protocol", "of", "-LSB-", "1", "-RSB-", "for", "networks", "in", "which", "D", "+", "d", ">", "N", "=", "log", "N", ".", "Further", ",", "the", "protocol", "does", "not", "require", "counting", "the", "number", "of", "nodes", "as", "in", "-LSB-", "1", "-RSB-", ".", "In", "CompMST", ",", "fast", "growing", "fragments", "combine", "more", "often", "and", "hence", "speed", "up", "the", "execution", ".", "Its", "message", "complexity", ",", "although", "not", "optimal", "for", "general", "networks", ",", "is", "optimal", "for", "all", "networks", "in", "which", "E", ">", "N", "log", "N", "log", "N", "=", "log", "log", "N", ".", "The", "time", "complexity", "of", "protocols", "in", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", "can", "be", "expressed", "as", "O", "-LRB-", "min", "-LRB-", "N", "log?N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", ".", "For", "dense", "networks", ",", "CompMST", "is", "an", "improvement", "over", "the", "protocols", "in", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", ".", "However", ",", "for", "sparse", "networks", ",", "CompMST", "improves", "the", "time", "complexity", "by", "a", "factor", "of", "log?N", "at", "the", "expense", "of", "increasing", "the", "message", "complexity", "by", "a", "factor", "of", "log", "N", "=", "log", "log", "N", ".", "Towards", "this", "end", ",", "we", "give", "a", "technique", "to", "reduce", "the", "message", "overhead", "factor", "of", "CompMST", "to", "log", "log", "N", "=", "log", "log", "log", "N", "-LRB-", "at", "the", "expense", "of", "increasing", "the", "time", "complexity", "by", "a", "constant", "factor", "-RRB-", ".", "This", "report", "is", "organized", "as", "follows", ".", "In", "the", "next", "section", ",", "we", "describe", "our", "model", "of", "distributed", "computation", ".", "In", "Section", "3", ",", "we", "discuss", "the", "protocol", "in", "-LSB-", "5", "-RSB-", "and", "analyze", "it", ".", "Section", "4", "describes", "the", "protocol", "Async", ".", "In", "Section", "5", "we", "present", "the", "protocol", "CompMST", "and", "its", "analysis", ".", "Section", "6", "discusses", "an", "extension", "to", "the", "protocol", "and", "Section", "7", "presents", "the", "conclusion", ".", "2", "Model", "In", "this", "problem", ",", "we", "model", "a", "network", "as", "an", "undirected", "graph", "with", "N", "nodes", "-LRB-", "which", "represent", "the", "processors", "of", "the", "network", "-RRB-", "and", "E", "edges", "-LRB-", "which", "represent", "the", "communication", "links", "between", "the", "processors", "-RRB-", ".", "All", "nodes", "are", "assumed", "to", "have", "distinct", "identities", "-LRB-", "when", "we", "say", "node", "i", ",", "we", "will", "mean", "a", "node", "with", "identity", "i", "-RRB-", ".", "We", "assume", "that", "all", "edges", "have", "distinct", "weights", "and", "each", "process", "knows", "the", "weight", "of", "all", "edges", "incident", "on", "it", ".", "The", "nodes", "communicate", "via", "messages", ".", "Message", "are", "not", "lost", "and", "they", "arrive", "at", "their", "destination", "within", "finite", "but", "unpredictable", "time", ".", "Further", ",", "messages", "sent", "over", "an", "edge", "arrive", "in", "the", "order", "in", "which", "they", "are", "sent", ".", "On", "the", "initiation", "of", "the", "protocol", ",", "we", "assume", "that", "each", "node", "knows", "the", "weight", "of", "each", "edge", "incident", "on", "it", ".", "On", "the", "termination", "of", "the", "protocol", ",", "each", "node", "knows", "which", "edges", "incident", "on", "it", "belong", "to", "the", "minimum", "spanning", "tree", ".", "The", "message", "complexity", "of", "a", "protocol", "is", "the", "maximum", "number", "of", "messages", "sent", "during", "any", "possible", "execution", "of", "the", "protocol", ".", "The", "time", "complexity", "of", "a", "protocol", "is", "the", "worst", "case", "execution", "time", "assuming", "that", "each", "message", "takes", "at", "most", "one", "time", "unit", "to", "reach", "its", "destination", "and", "computation", "time", "is", "negligible", ".", "Furthermore", ",", "intermessage", "delay", "on", "a", "link", "is", "at", "most", "one", "time", "unit", ".", "The", "correctness", "of", "the", "protocols", "do", "not", "depend", "on", "this", "assumption", ".", "3", "The", "MST", "Protocol", "of", "-LSB-", "GHS83", "-RSB-", "In", "-LSB-", "5", "-RSB-", ",", "a", "protocol", "was", "given", "to", "construct", "a", "minimum", "spanning", "tree", "-LRB-", "MST", "-RRB-", ".", "The", "protocol", "maintains", "a", "forest", "of", "rooted", "trees", "-LRB-", "referred", "to", "as", "fragments", "-RRB-", ".", "The", "root", "of", "a", "fragment", "is", "the", "root", "of", "the", "corresponding", "tree", "and", "the", "root", "'s", "identity", "is", "used", "as", "the", "identity", "of", "the", "fragment", ".", "The", "best", "edge", "of", "a", "fragment", "is", "the", "minimum", "weight", "edge", "among", "all", "edges", "leading", "out", "of", "the", "fragment", ".", "Each", "fragment", "has", "a", "level", "number", "associated", "with", "it", ".", "Fragments", "containing", "only", "a", "single", "node", "are", "at", "level", "0", ".", "When", "two", "fragments", "at", "level", "l", "merge", ",", "a", "new", "fragment", "at", "level", "l", "+", "1", "is", "created", ".", "For", "such", "a", "level", "numbering", "scheme", ",", "it", "can", "be", "shown", "that", "a", "fragment", "with", "level", "number", "l", "contains", "at", "least", "2l", "nodes", ".", "Therefore", ",", "the", "level", "number", "of", "a", "fragment", "can", "not", "exceed", "log", "N", ".", "The", "level", "number", "of", "a", "node", "is", "the", "level", "number", "of", "the", "fragment", "to", "which", "it", "belongs", ".", "A", "node", "may", "be", "in", "one", "of", "the", "following", "states", ":", "the", "initial", "state", "Sleeping", "-LRB-", "a", "node", "is", "in", "this", "state", "until", "it", "starts", "executing", "the", "protocol", "-RRB-", ",", "the", "state", "Find", "while", "participating", "in", "a", "fragment", "'s", "search", "for", "its", "best", "edge", ",", "and", "the", "state", "Found", "at", "other", "times", ".", "When", "a", "node", "wakes", "up", ",", "it", "changes", "state", "to", "Find", "and", "sends", "messages", "to", "awaken", "all", "neighbors", ".", "The", "algorithm", "starts", "with", "each", "node", "as", "a", "separate", "fragment", ".", "Fragments", "are", "merged", "iteratively", "on", "the", "best", "edges", "and", "the", "algorithm", "terminates", "when", "only", "one", "fragment", "which", "spans", "the", "entire", "network", "remains", ".", "In", "each", "iteration", ",", "a", "fragment", "determines", "its", "best", "edge", "and", "combines", "with", "the", "fragment", "at", "the", "other", "end", "of", "the", "best", "edge", ".", "When", "two", "fragments", "having", "the", "same", "best", "edge", ",", "e", ",", "combine", "to", "form", "a", "new", "fragment", ",", "the", "node", "with", "the", "larger", "identity", "among", "the", "two", "end-points", "of", "e", "becomes", "the", "new", "root", "of", "the", "combined", "fragment", ".", "It", "then", "initiates", "the", "next", "iteration", "for", "finding", "the", "best", "edge", "of", "the", "combined", "fragment", ".", "To", "initiate", "an", "iteration", ",", "the", "root", "of", "a", "fragment", "changes", "its", "state", "to", "Find", "and", "sends", "an", "initiate", "message", "containing", "the", "fragment", "identity", ",", "the", "level", "number", "and", "the", "state", "Find", "to", "all", "nodes", "in", "the", "fragment", ".", "After", "receiving", "this", "message", ",", "node", "i", "updates", "its", "fragment", "identity", "and", "level", "number", ".", "Node", "i", "then", "changes", "its", "state", "to", "Find", "and", "picks", "a", "local", "best", "edge", ",", "which", "is", "the", "minimum", "weight", "edge", "incident", "on", "the", "node", "which", "leads", "out", "of", "the", "fragment", ".", "The", "root", "then", "picks", "the", "global", "minimum", "weight", "edge", "among", "these", "local", "best", "edges", ".", "Each", "node", "i", "keeps", "the", "identity", "of", "edges", "incident", "on", "it", "sorted", "according", "to", "their", "weights", "in", "a", "list", "unusedi", ".", "In", "order", "to", "find", "its", "minimum", "weight", "outgoing", "edge", ",", "node", "i", "picks", "the", "next", "edge", ",", "-LRB-", "i", ";", "j", "-RRB-", ",", "from", "unusedi", "and", "sends", "a", "test", "message", "with", "its", "fragment", "identity", "and", "the", "level", "number", "over", "this", "edge", ".", "When", "site", "j", "receives", "a", "test", "message", "from", "i", ",", "it", "behaves", "as", "follows", ":", "If", "the", "fragment", "identity", "of", "j", "agrees", "with", "that", "of", "i", ",", "then", "i", "and", "j", "belong", "to", "the", "same", "fragment", "and", "therefore", ",", "j", "responds", "by", "sending", "a", "reject", "message", ".", "When", "a", "reject", "message", "from", "j", "is", "received", "by", "i", ",", "it", "deletes", "the", "edge", "-LRB-", "i", ";", "j", "-RRB-", "from", "the", "list", "unusedi", "and", "continues", "by", "sending", "a", "test", "message", "over", "the", "next", "edge", "in", "its", "list", ".", "If", "the", "fragment", "identities", "of", "i", "and", "j", "are", "different", "and", "the", "level", "number", "of", "j", "is", "greater", "than", "or", "equal", "to", "that", "of", "i", ",", "it", "sends", "an", "accept", "message", "to", "i", "-LRB-", "which", "indicates", "that", "-LRB-", "i", ";", "j", "-RRB-", "is", "an", "outgoing", "edge", "-RRB-", ".", "Otherwise", ",", "j", "delays", "the", "response", "until", "its", "level", "number", "becomes", "at", "least", "as", "large", "as", "that", "of", "i", ".", "This", "delay", "is", "required", "because", "when", "two", "fragments", "join", ",", "the", "nodes", "in", "these", "fragments", "-LRB-", "other", "than", "the", "roots", "-RRB-", "are", "not", "immediately", "informed", "of", "the", "identity", "and", "level", "number", "of", "the", "new", "fragment", ".", "For", "example", ",", "consider", "the", "situation", "of", "Figure", "1", "in", "which", "fragments", "F", "and", "G", ",", "both", "f", "f", "f", "f", "'", "&", "$", "%", "'", "&", "$", "%", "XXXXXXXXXX", "GF", "j", "i", "yx", "Figure", "1", ":", "Example", "illustrating", "the", "merge", "of", "F", "and", "G", "at", "level", "l", ",", "combine", "on", "the", "edge", "-LRB-", "x", ";", "y", "-RRB-", ".", "If", "x", ">", "y", "then", "x", "will", "be", "root", "of", "the", "combined", "fragment", ".", "Then", "the", "fragment", "identity", "and", "level", "number", "of", "nodes", "in", "the", "combined", "fragment", "will", "have", "to", "be", "changed", ".", "When", "a", "node", "i", "-LRB-", "originally", "in", "F", "-RRB-", "receives", "the", "initiate", "message", ",", "it", "updates", "its", "level", "number", "to", "l", "+", "1", "and", "fragment", "identity", "and", "starts", "the", "process", "of", "finding", "its", "local", "best", "edge", ".", "Consider", "the", "case", "when", "i", "sends", "a", "test", "message", "to", "site", "j", "-LRB-", "originally", "in", "G", "-RRB-", ".", "Site", "j", "may", "not", "have", "received", "the", "initiate", "message", "from", "x", "containing", "the", "new", "fragment", "identity", "and", "hence", "thinks", "it", "is", "still", "in", "G.", "Therefore", "its", "fragment", "identity", "will", "be", "different", "from", "that", "of", "i.", "However", ",", "the", "level", "number", "of", "j", "at", "this", "point", "will", "be", "l", "-LRB-", "which", "will", "be", "updated", "to", "l", "+1", "on", "the", "receipt", "of", "the", "initiate", "message", "-RRB-", ".", "Hence", ",", "it", "will", "delay", "the", "response", "to", "the", "test", "message", "from", "i.", "Therefore", ",", "by", "delaying", "the", "reply", "until", "the", "level", "number", "of", "j", "is", "at", "least", "as", "high", "as", "that", "of", "i", ",", "the", "algorithm", "ensures", "that", "j", "will", "respond", "correctly", ".", "After", "the", "nodes", "in", "a", "fragment", "have", "found", "their", "local", "best", "edges", ",", "they", "must", "cooperate", "to", "find", "the", "fragment", "'s", "global", "best", "edge", ".", "For", "this", "purpose", ",", "after", "a", "leaf", "node", "has", "determined", "its", "local", "best", "edge", ",", "e", ",", "it", "sends", "a", "report", "message", "to", "its", "parent", "with", "the", "weight", "of", "e", ".", "A", "non-leaf", "node", "waits", "until", "it", "has", "found", "its", "local", "best", "edge", "and", "received", "report", "messages", "from", "all", "of", "its", "children", ".", "The", "node", "then", "sends", "the", "smallest", "of", "these", "edge", "weights", "to", "its", "parent", "in", "a", "report", "message", ".", "The", "global", "minimum", ",", "emin", ",", "is", "then", "picked", "by", "the", "root", "which", "sends", "a", "message", ",", "change-root", ",", "to", "the", "node", "in", "the", "fragment", "with", "emin", "as", "an", "incident", "edge", ".", "This", "node", "becomes", "the", "new", "root", "of", "the", "fragment", "and", "it", "sends", "a", "connect", "message", "with", "its", "level", "number", "over", "emin", ".", "This", "marks", "the", "end", "of", "the", "iteration", ".", "The", "merging", "of", "the", "fragments", "depends", "on", "the", "level", "numbers", ".", "Let", "site", "j", ",", "which", "is", "in", "fragment", "G", "at", "level", "lj", ",", "receive", "a", "connect", "message", "from", "site", "i", "which", "is", "in", "fragment", "F", "at", "level", "li", ".", "We", "have", "the", "following", "cases", "to", "consider", ":", "1", ".", "lj", "<", "li", ":", "Before", "sending", "a", "connect", "message", "to", "j", ",", "i", "must", "have", "sent", "a", "test", "message", "to", "j", "to", "determine", "whether", "-LRB-", "i", ";", "j", "-RRB-", "is", "an", "outgoing", "edge", ".", "Since", "j", "has", "a", "smaller", "level", "number", ",", "it", "will", "delay", "responding", "to", "the", "test", "message", "until", "its", "level", "number", "becomes", "at", "least", "li", ".", "Hence", ",", "this", "case", "is", "not", "possible", ".", "2", ".", "lj", "=", "li", ":", "In", "this", "case", ",", "site", "j", "delays", "responding", "to", "the", "connect", "message", "until", "its", "level", "number", "becomes", "greater", "than", "li", "-LRB-", "in", "which", "case", "it", "behaves", "as", "in", "case", "3", "-RRB-", "or", "as", "a", "result", "of", "receiving", "a", "change-root", "message", "from", "the", "root", "of", "G", ",", "it", "finds", "that", "-LRB-", "i", ";", "j", "-RRB-", "is", "the", "best", "edge", "of", "G", "also", ".", "If", "-LRB-", "i", ";", "j", "-RRB-", "is", "the", "best", "edge", "of", "G", "then", "F", "and", "G", "are", "merged", ".", "If", "j", ">", "i", "then", "j", "becomes", "the", "root", "of", "the", "combined", "fragment", ".", "It", "increases", "its", "level", "number", "by", "one", "and", "initiates", "a", "new", "iteration", "by", "sending", "an", "initiate", "message", "to", "its", "neighbors", ".", "Otherwise", "it", "sends", "a", "connect", "message", "to", "i", "and", "i", "becomes", "the", "new", "root", ".", "3", ".", "lj", ">", "li", ":", "-LRB-", "a", "-RRB-", "If", "site", "j", "has", "received", "an", "initiate", "message", "and", "not", "yet", "sent", "the", "report", "message", ",", "then", "it", "sends", "an", "initiate", "message", "with", "fragment", "identity", "G", ",", "level", "number", "lj", "and", "state", "Find", "to", "i", "and", "waits", "for", "a", "report", "message", "from", "i", "before", "sending", "its", "report", "message", ".", "Thus", ",", "F", "is", "absorbed", "in", "G", "as", "part", "of", "G", "'s", "current", "iteration", ".", "-LRB-", "b", "-RRB-", "If", "j", "has", "sent", "the", "report", "message", "then", "its", "local", "best", "edge", "must", "have", "a", "weight", "smaller", "than", "that", "of", "-LRB-", "i", ";", "j", "-RRB-", "-LRB-", "the", "edge", "-LRB-", "i", ";", "j", "-RRB-", "can", "not", "be", "the", "local", "best", "edge", "of", "j", "because", "i", "will", "not", "respond", "to", "a", "test", "message", "from", "j", "since", "i", "is", "in", "a", "lower", "level", "fragment", "-RRB-", ".", "Then", "the", "local", "best", "edge", "of", "j", "has", "a", "weight", "smaller", "than", "the", "minimum", "weight", "outgoing", "edge", "of", "F", ".", "Therefore", ",", "the", "participation", "of", "F", "in", "the", "search", "for", "the", "best", "edge", "of", "G", "is", "not", "required", ".", "In", "this", "case", ",", "the", "state", "Found", "is", "included", "in", "the", "initiate", "message", "to", "i", ".", "A", "node", "which", "receives", "an", "initiate", "message", "with", "state", "Found", "changes", "its", "state", "to", "Found", ",", "updates", "its", "level", "number", "and", "fragment", "identity", "and", "propagates", "the", "message", "to", "its", "children", ".", "However", ",", "it", "does", "not", "engage", "in", "finding", "the", "local", "best", "edge", "and", "sending", "a", "report", "message", ".", "Lemma", "3.1", "The", "message", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", ".", "Proof", ":", "Since", "the", "level", "number", "of", "a", "fragment", "can", "be", "at", "most", "log", "N", "and", "the", "level", "number", "increases", "after", "each", "iteration", ",", "a", "node", "can", "participate", "in", "at", "most", "log", "N", "iterations", ".", "In", "an", "iteration", ",", "each", "node", "in", "a", "fragment", "can", "receive", "at", "most", "one", "initiate", "and", "one", "accept", "message", ".", "It", "can", "transmit", "at", "most", "one", "report", "and", "one", "change-root", "or", "connect", "message", ".", "Hence", ",", "if", "we", "disregard", "the", "test", "and", "the", "reject", "messages", ",", "then", "a", "node", "can", "send", "only", "a", "constant", "number", "of", "messages", "in", "each", "iteration", ".", "This", "accounts", "for", "at", "most", "O", "-LRB-", "N", "log", "N", "-RRB-", "messages", ".", "At", "most", "two", "reject", "messages", "are", "sent", "over", "each", "edge", ".", "These", "messages", "will", "contribute", "a", "sum", "of", "O", "-LRB-", "E", "-RRB-", ".", "Each", "test", "message", "is", "responded", "to", "by", "either", "a", "reject", "or", "an", "accept", "message", ".", "Since", "there", "are", "at", "most", "O", "-LRB-", "E", "-RRB-", "reject", "messages", "and", "at", "most", "O", "-LRB-", "N", "log", "N", "-RRB-", "accept", "messages", ",", "there", "can", "be", "at", "most", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "test", "messages", ".", "Thus", ",", "the", "message", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", ".", "2", "Let", "tl", "be", "the", "time", "at", "which", "the", "node", "with", "the", "smallest", "level", "number", "changes", "its", "level", "number", "to", "at", "least", "l.", "Let", "d", "be", "the", "diameter", "of", "the", "MST", "and", "D", "be", "the", "maximum", "degree", "of", "a", "node", ".", "Since", "a", "message", "is", "initially", "broadcast", "to", "all", "nodes", ",", "every", "node", "will", "receive", "it", "within", "O", "-LRB-", "d", "-RRB-", "time", "and", "form", "a", "fragment", "with", "level", "0", ".", "Hence", "t0", "=", "O", "-LRB-", "d", "-RRB-", ".", "We", "now", "obtain", "an", "upper", "bound", "on", "tl", "+1", "?", "tl", "-LRB-", "which", "is", "the", "time", "interval", "for", "which", "l", "is", "the", "lowest", "level", "in", "the", "network", "-RRB-", ".", "Lemma", "3.2", "All", "fragments", "with", "level", "number", "l", "at", "time", "tl", "will", "send", "a", "connect", "message", "by", "time", "tl", "+", "2D", "+", "2d", ".", "Proof", ":", "A", "node", "i", "in", "fragment", "F", "reaches", "level", "l", "when", "it", "receives", "an", "initiate", "message", "with", "level", "number", "l", ".", "After", "receiving", "this", "message", ",", "it", "must", "find", "its", "local", "best", "edge", ".", "It", "can", "send", "at", "most", "D", "test", "messages", ".", "Since", "the", "level", "number", "of", "any", "node", "is", "at", "least", "l", ",", "the", "response", "to", "a", "test", "message", "sent", "by", "i", "will", "not", "be", "delayed", ".", "Therefore", ",", "site", "i", "will", "find", "its", "local", "best", "edge", "within", "2D", "time", "units", ".", "The", "propagation", "of", "the", "report", "and", "the", "change-root", "messages", "will", "take", "at", "most", "2d", "time", "units", ".", "Therefore", ",", "a", "connect", "message", "will", "be", "sent", "by", "F", "within", "2D", "+", "2d", "time", "units", "after", "time", "tl", ".", "2", "Lemma", "3.3", "The", "time", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "-LRB-", "d", "+", "D", "-RRB-", "log", "N", "-RRB-", ".", "Proof", ":", "Let", "F", "be", "a", "fragment", "at", "level", "l", "at", "time", "tl", ".", "Then", ",", "from", "Lemma", "3.2", ",", "it", "will", "send", "a", "connect", "message", "within", "the", "next", "2D", "+2", "d", "time", "units", ".", "Now", "we", "have", "to", "consider", "the", "time", "for", "which", "fragment", "F", "has", "to", "wait", "until", "its", "request", "to", "merge", "results", "in", "a", "level", "increase", ".", "If", "the", "connect", "message", "reaches", "a", "fragment", "with", "a", "higher", "level", "number", "l0", "then", "the", "level", "number", "l0", "is", "propagated", "immediately", "to", "nodes", "in", "F", "in", "an", "initiate", "message", "which", "will", "take", "at", "most", "d", "time", "units", "to", "reach", "all", "nodes", "in", "F", ".", "As", "a", "result", ",", "all", "nodes", "in", "F", "will", "have", "increased", "their", "level", "number", "by", "time", "tl", "+", "2D", "+", "3d", ".", "If", "the", "connect", "message", "reaches", "a", "fragment", "G", "at", "level", "l", "and", "the", "best", "edge", "of", "G", "is", "the", "same", "as", "that", "of", "F", "then", "F", "and", "G", "will", "merge", "immediately", "to", "form", "a", "fragment", "with", "level", "l", "+1", ".", "Since", "G", "is", "also", "at", "level", "l", ",", "it", "will", "also", "send", "a", "connect", "message", "by", "time", "tl", "+", "2D", "+", "2d", ".", "The", "new", "level", "number", "will", "reach", "all", "nodes", "in", "F", "within", "d", "additional", "time", "units", "and", "therefore", ",", "all", "nodes", "in", "F", "will", "have", "increased", "their", "level", "number", "by", "time", "tl", "+", "2D", "+", "3d", ".", "If", "the", "connect", "message", "reaches", "a", "fragment", "G", "at", "level", "l", "and", "the", "best", "edge", "of", "G", "is", "not", "the", "same", "as", "that", "of", "F", ",", "then", "a", "response", "to", "the", "connect", "message", "will", "be", "delayed", ".", "In", "general", ",", "we", "may", "have", "a", "sequence", "of", "fragments", "F1", ";", ":", ":", ":", ";", "Fm", ",", "all", "at", "level", "l", ",", "where", "F", "=", "F1", "and", "the", "connect", "message", "of", "Fi", "arrives", "at", "a", "node", "in", "Fi", "+1", ",", "where", "i", "<", "m", ",", "and", "the", "best", "edge", "of", "Fm", "leads", "to", "a", "fragment", "with", "a", "higher", "level", "number", "or", "to", "Fm", "?", "1", ".", "If", "the", "best", "edge", "of", "Fm", "leads", "to", "a", "higher", "level", "fragment", "with", "level", "number", "l0", ",", "then", "an", "initiate", "message", "with", "level", "number", "l0", "will", "be", "immediately", "propagated", "to", "nodes", "in", "Fm", ".", "Further", ",", "nodes", "in", "Fi", "will", "propagate", "this", "message", "to", "nodes", "in", "Fi", "?", "1", "until", "it", "reaches", "nodes", "in", "F1", ".", "Since", "the", "sum", "of", "the", "diameters", "of", "Fi", ",", "1", "<", "=", "i", "<", "=", "m", ",", "is", "bounded", "by", "d", ",", "the", "nodes", "in", "F1", "will", "receive", "the", "initiate", "message", "within", "d", "time", "units", ".", "If", "the", "best", "edge", "of", "Fm", "leads", "to", "Fm", "?", "1", "then", "Fm", "?", "1", "and", "Fm", "will", "merge", "to", "form", "a", "fragment", "at", "level", "l", "+", "1", ".", "In", "this", "case", "again", ",", "an", "initiate", "message", "with", "level", "number", "l", "+", "1", "will", "be", "sent", "which", "will", "reach", "all", "nodes", "in", "F1", "within", "d", "time", "units", ".", "Hence", ",", "nodes", "in", "F", "will", "increase", "their", "level", "numbers", "within", "2D", "+", "3d", "time", "units", "after", "time", "tl", ".", "Therefore", ",", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "D", "+", "d", "-RRB-", ".", "The", "time", "complexity", "of", "the", "protocol", "is", "given", "by", "t0", "+", "PlogN", "?", "1", "l", "=", "0", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "=", "O", "-LRB-", "d", "-RRB-", "+", "PlogN", "?", "1", "l", "=", "0", "O", "-LRB-", "D", "+", "d", "-RRB-", "=", "O", "-LRB-", "-LRB-", "d", "+", "D", "-RRB-", "log", "N", "-RRB-", ".", "2", "A", "protocol", "with", "O", "-LRB-", "N", "-RRB-", "time", "complexity", "was", "given", "in", "-LSB-", "1", "-RSB-", ".", "The", "protocol", "proceeds", "in", "the", "following", "two", "stages", ".", "In", "the", "first", "stage", ",", "a", "spanning", "tree", "of", "the", "network", "is", "found", ".", "The", "number", "of", "nodes", "in", "the", "network", "are", "counted", "using", "this", "spanning", "tree", ".", "The", "second", "stage", "involves", "finding", "the", "minimum", "spanning", "tree", ".", "In", "this", "stage", ",", "a", "fragment", "behaves", "as", "in", "the", "protocol", "of", "-LSB-", "5", "-RSB-", "up", "to", "the", "point", "at", "which", "its", "size", "is", "at", "least", "N", "=", "log", "N", ".", "After", "the", "size", "of", "a", "fragment", "reaches", "N", "=", "log", "N", "-LRB-", "which", "can", "be", "determined", "since", "N", "is", "now", "known", "-RRB-", ",", "it", "executes", "two", "additional", "procedures", ",", "Root-update", "and", "Test-distance", ",", "which", "enables", "the", "fragment", "to", "update", "its", "level", "number", "more", "quickly", ",", "thereby", "reducing", "the", "time", "complexity", ".", "Since", "the", "spanning", "tree", "constructed", "in", "the", "first", "phase", "is", "arbitrary", ",", "it", "can", "have", "a", "diameter", "of", "O", "-LRB-", "N", "-RRB-", ".", "Therefore", "the", "time", "complexity", "of", "this", "protocol", "is", "O", "-LRB-", "N", "-RRB-", "for", "all", "networks", ".", "Hence", "this", "protocol", "is", "not", "optimal", "for", "many", "classes", "of", "networks", ".", "For", "example", ",", "if", "d", "=", "O", "-LRB-", "log", "N", "-RRB-", "and", "D", "=", "O", "-LRB-", "log", "N", "-RRB-", "then", "the", "protocol", "of", "-LSB-", "5", "-RSB-", "will", "require", "at", "most", "O", "-LRB-", "-LRB-", "log", "N", "-RRB-", "2", "-RRB-", "time", "units", ".", "4", "A", "minimum", "spanning", "tree", "protocol", "In", "this", "section", ",", "we", "develop", "a", "protocol", ",", "Async", ",", "in", "which", "we", "do", "not", "maintain", "level", "numbers", ".", "The", "response", "to", "a", "test", "message", "is", "therefore", "not", "delayed", "on", "the", "basis", "of", "level", "numbers", ".", "However", ",", "level", "numbers", "are", "required", "in", "the", "protocol", "of", "-LSB-", "5", "-RSB-", "to", "ensure", "that", "the", "outgoing", "edges", "are", "correctly", "identified", ".", "For", "this", "purpose", ",", "we", "execute", "each", "iteration", "in", "two", "phases", ".", "In", "the", "first", "phase", ",", "the", "fragment", "identity", "is", "propagated", "to", "all", "sites", "in", "the", "fragment", ".", "After", "this", "phase", "is", "over", ",", "the", "root", "initiates", "the", "second", "phase", "for", "finding", "the", "best", "edge", ".", "The", "protocol", "starts", "with", "all", "nodes", "as", "individual", "fragments", ".", "Fragments", "are", "merged", "iteratively", "over", "the", "best", "edges", "until", "a", "single", "fragment", "remains", ".", "Each", "iteration", "is", "executed", "in", "two", "phases", ".", "First-Phase", ":", "The", "root", "of", "a", "fragment", "initiates", "the", "first", "phase", "by", "sending", "an", "initiate1", "message", "with", "the", "fragment", "identity", "-LRB-", "which", "is", "the", "identity", "of", "the", "root", "-RRB-", "as", "a", "parameter", "to", "its", "children", ".", "On", "receiving", "the", "message", "initiate1", ",", "a", "node", "updates", "its", "fragment", "identity", "and", "propagates", "initiate1", "to", "its", "children", ".", "When", "the", "initiate1", "message", "reaches", "a", "leaf", "node", ",", "it", "sends", "a", "finish", "message", "to", "its", "parent", ".", "An", "intermediate", "site", "waits", "for", "a", "finish", "message", "from", "all", "children", "before", "sending", "a", "finish", "message", "to", "its", "parent", ".", "When", "the", "root", "receives", "a", "finish", "message", "from", "all", "children", ",", "it", "knows", "that", "all", "nodes", "in", "the", "fragment", "know", "the", "current", "fragment", "identity", ".", "The", "root", "then", "initiates", "the", "second", "phase", ".", "Second-Phase", ":", "The", "root", "of", "a", "fragment", "initiates", "the", "second", "phase", "by", "sending", "initiate2", "to", "its", "children", ".", "In", "this", "phase", ",", "the", "best", "edge", "of", "the", "fragment", "is", "found", ".", "The", "process", "of", "finding", "the", "best", "edge", "is", "the", "same", "as", "in", "-LSB-", "5", "-RSB-", ".", "A", "node", "sends", "a", "test", "message", "over", "an", "edge", "to", "ascertain", "that", "the", "edge", "is", "outgoing", ".", "However", ",", "the", "reply", "to", "a", "test", "message", "is", "not", "delayed", "-LRB-", "because", "if", "the", "receiving", "node", "is", "in", "the", "same", "fragment", ",", "then", "it", "must", "know", "the", "correct", "fragment", "identity", "since", "the", "first", "phase", "of", "the", "iteration", "has", "completed", "-RRB-", ".", "After", "a", "node", "has", "determined", "its", "local", "best", "edge", ",", "it", "propagates", "this", "edge", "weight", "towards", "the", "root", "using", "report", "messages", ".", "The", "root", "picks", "the", "edge", "with", "the", "minimum", "weight", "among", "the", "local", "best", "edges", "and", "send", "a", "change-root", "message", "to", "the", "node", "in", "the", "fragment", "with", "this", "as", "an", "incident", "edge", ".", "This", "node", "becomes", "the", "new", "root", "of", "the", "fragment", "and", "sends", "a", "connect", "message", "over", "the", "best", "edge", "in", "an", "attempt", "to", "combine", "with", "the", "fragment", "at", "the", "other", "end", ".", "Consider", "the", "case", "when", "a", "connect", "message", "from", "a", "site", "i", "in", "fragment", "F", "reaches", "a", "site", "j", ",", "which", "is", "in", "fragment", "G", ".", "We", "have", "the", "following", "cases", ":", "-LRB-", "a", "-RRB-", "If", "j", "has", "received", "initiate1", "and", "has", "not", "yet", "sent", "a", "finish", "message", ",", "then", "j", "treats", "-LRB-", "i", ";", "j", "-RRB-", "as", "an", "edge", "of", "the", "fragment", "and", "sends", "initiate1", "to", "i.", "Further", ",", "site", "j", "waits", "for", "a", "finish", "message", "from", "i", "before", "sending", "its", "finish", "message", ".", "In", "this", "case", ",", "nodes", "in", "F", "are", "absorbed", "in", "G", "as", "part", "of", "the", "current", "iteration", "of", "G.", "-LRB-", "b", "-RRB-", "If", "j", "has", "already", "sent", "its", "finish", "message", "then", "the", "response", "to", "the", "connect", "message", "is", "delayed", ".", "If", "-LRB-", "i", ";", "j", "-RRB-", "is", "also", "the", "best", "edge", "of", "G", "then", "G", "will", "also", "send", "a", "connect", "message", "over", "this", "edge", "and", "F", "and", "G", "will", "merge", "ending", "the", "iteration", ".", "The", "node", "with", "the", "larger", "identity", "among", "the", "two", "end-points", "of", "the", "best", "edge", "will", "become", "the", "new", "root", "of", "the", "combined", "fragment", "and", "will", "initiate", "the", "next", "iteration", ".", "Otherwise", ",", "when", "j", "gets", "initiate1", "message", "during", "the", "first", "phase", "of", "the", "next", "iteration", ",", "it", "will", "send", "an", "initiate1", "message", "to", "i", "and", "as", "a", "result", "F", "will", "be", "absorbed", "as", "a", "part", "of", "that", "iteration", ".", "Hence", ",", "fragments", "are", "absorbed", "only", "while", "a", "site", "is", "executing", "the", "first", "phase", ".", "No", "new", "sites", "are", "added", "to", "a", "fragment", "while", "it", "is", "executing", "its", "second", "phase", ".", "As", "in", "-LSB-", "5", "-RSB-", ",", "when", "a", "node", "wakes", "up", ",", "it", "sends", "messages", "to", "awaken", "all", "neighbors", ".", "4.1", "Time", "and", "Message", "Complexity", "Analysis", "We", "define", "the", "level", "number", "of", "a", "fragment", "F", "to", "be", "blog", "jF", "jc", ",", "where", "jF", "j", "is", "the", "number", "of", "nodes", "which", "receive", "the", "message", "initiate1", "in", "the", "first", "phase", ".", "The", "level", "number", "of", "a", "fragment", "does", "not", "change", "during", "the", "second", "phase", "since", "no", "new", "nodes", "are", "added", "during", "this", "phase", ".", "A", "fragment", "may", "be", "in", "one", "of", "the", "following", "states", ":", "active", "or", "inactive", "-LRB-", "these", "states", "have", "been", "introduced", "for", "complexity", "analysis", "only", "and", "a", "fragment", "does", "not", "know", "which", "state", "it", "is", "in", "-RRB-", ".", "Initially", ",", "all", "fragments", "are", "active", ".", "An", "active", "fragment", "F", "becomes", "inactive", "when", "the", "connect", "message", "sent", "by", "a", "node", "in", "F", "reaches", "its", "destination", ".", "A", "new", "active", "fragment", "F", "is", "formed", "when", "the", "root", "of", "F", "is", "found", "and", "it", "initiates", "a", "new", "iteration", ".", "Note", "that", "the", "level", "number", "of", "a", "fragment", "is", "determined", "only", "when", "its", "first", "phase", "completes", ".", "We", "say", "that", "an", "active", "fragment", "F", "has", "level", "l", "at", "time", "t", "-LRB-", "even", "if", "it", "is", "executing", "its", "first", "phase", "at", "time", "t", "-RRB-", "if", "l", "=", "blog", "jF", "jc", "at", "the", "end", "of", "its", "first", "phase", ".", "Lemma", "4.1", "Let", "F", "be", "a", "fragment", "with", "level", "number", "l", ".", "Then", "it", "takes", "at", "most", "7", "?", "-LRB-", "2l", "+1", "?", "1", "-RRB-", "time", "units", "to", "execute", "the", "iteration", ".", "Proof", ":", "There", "can", "be", "at", "most", "2l", "+1", "?", "1", "nodes", "in", "F", ".", "It", "will", "take", "at", "most", "2l", "+1", "?", "1", "time", "units", "for", "the", "initiate1", "message", "to", "reach", "all", "nodes", "and", "at", "most", "2l", "+1", "?", "1", "time", "units", "for", "the", "finish", "messages", "to", "reach", "the", "root", ".", "Further", ",", "it", "will", "take", "at", "most", "2l", "+1", "?", "1", "time", "units", "for", "the", "initiate2", "message", "to", "reach", "all", "nodes", "in", "the", "fragment", ".", "A", "node", "can", "take", "at", "most", "2", "?", "2l", "+1", "time", "units", "to", "find", "its", "local", "best", "edge", "since", "at", "most", "2l", "+1", "?", "1", "reject", "messages", "can", "be", "received", "-LRB-", "because", "reject", "messages", "can", "only", "be", "received", "from", "nodes", "in", "the", "same", "fragment", "-RRB-", ".", "The", "propagation", "of", "report", "and", "the", "change-root", "messages", "can", "take", "at", "most", "2l", "+1", "time", "units", "each", ".", "Hence", ",", "within", "7", "?", "2l", "+1", "?", "1", "time", "units", ",", "a", "connect", "message", "will", "be", "sent", ".", "2", "Lemma", "4.2", "The", "execution", "of", "Async", "takes", "at", "most", "O", "-LRB-", "N", "-RRB-", "time", "units", ".", "Proof", ":", "Let", "tl", "be", "the", "minimum", "time", "in", "an", "execution", "after", "which", "no", "active", "fragment", "with", "level", "less", "than", "or", "equal", "to", "l", "remains", ".", "At", "the", "beginning", "of", "the", "execution", ",", "a", "message", "is", "broadcast", "to", "awaken", "all", "nodes", ".", "This", "message", "will", "reach", "all", "nodes", "within", "N", "time", "units", "and", "all", "nodes", "will", "be", "in", "fragments", "with", "level", "number", "at", "least", "0", ".", "Hence", ",", "no", "fragment", "with", "level", "will", "be", "formed", "after", "time", "N", "and", "therefore", ",", "t0", "=", "O", "-LRB-", "N", "-RRB-", ".", "We", "will", "now", "show", "that", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "2l", "-RRB-", ".", "Let", "F", "be", "an", "active", "fragment", "with", "level", "number", "l", "+", "1", "at", "time", "tl", ".", "If", "F", "has", "not", "already", "sent", "a", "connect", "message", ",", "then", "in", "the", "worst", "case", ",", "it", "will", "execute", "the", "first", "phase", "followed", "by", "the", "second", "phase", ",", "which", "will", "take", "at", "most", "7", "?", "2l", "+2", "time", "units", "-LRB-", "by", "Lemma", "4.1", "-RRB-", ".", "Hence", ",", "a", "connect", "message", "will", "be", "sent", "within", "7", "?", "2l", "+2", "time", "units", "after", "time", "tl", ",", "and", "the", "fragment", "will", "become", "inactive", ".", "Thus", ",", "after", "time", "tl", "+", "7", "?", "2l", "+2", ",", "all", "active", "fragments", "which", "were", "at", "level", "l", "+", "1", "at", "time", "tl", "will", "be", "inactive", ".", "Let", "F", "be", "a", "fragment", "at", "level", "l", "+", "1", "formed", "between", "time", "tl", "and", "tl", "+", "7", "?", "2l", "+2", ".", "Then", ",", "a", "connect", "message", "will", "be", "sent", "within", "7", "?", "2l", "+2", "time", "units", "and", "the", "fragment", "will", "become", "inactive", ".", "This", "connect", "message", "will", "not", "go", "to", "a", "node", "in", "a", "fragment", ",", "G", ",", "with", "a", "smaller", "level", "number", "since", "any", "such", "fragment", "would", "have", "sent", "a", "connect", "message", "before", "or", "at", "time", "tl", "and", "would", "have", "been", "absorbed", "in", "the", "first", "phase", ".", "Thus", ",", "G", "must", "have", "level", "at", "least", "l", "+", "1", "and", "therefore", ",", "F", "will", "merge", "to", "produce", "a", "fragment", "of", "size", "at", "least", "l", "+", "2", ".", "Thus", ",", "no", "new", "active", "fragment", "at", "level", "l", "+", "1", "will", "be", "formed", "after", "time", "tl", "+", "7", "?", "2l", "+2", ".", "Hence", ",", "after", "time", "14", "?", "2l", "+2", ",", "no", "active", "fragment", "with", "level", "l", "+1", "will", "remain", ".", "Therefore", ",", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "2l", "-RRB-", ".", "Then", ",", "tlogN", "=", "t0", "+", "PlogN", "?", "1", "l", "=", "0", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "=", "O", "-LRB-", "N", "-RRB-", "+", "PlogN", "?", "1", "l", "=", "0", "O", "-LRB-", "2l", "-RRB-", "=", "O", "-LRB-", "N", "-RRB-", "+", "O", "-LRB-", "1", "+", "21", "+", ":", ":", ":", "+", "2logN", "?", "1", "-RRB-", "=", "O", "-LRB-", "N", "-RRB-", ".", "No", "active", "fragments", "with", "level", "less", "than", "log", "N", "?", "1", "will", "remain", "after", "time", "tlogN", "?", "1", ".", "From", "the", "fact", "that", "there", "can", "be", "at", "most", "one", "fragment", "with", "level", "log", "N", "and", "before", "the", "termination", ",", "there", "must", "be", "some", "active", "fragment", ",", "only", "one", "fragment", "which", "contains", "all", "the", "nodes", "will", "be", "present", "after", "time", "tlogN", "?", "1", ".", "This", "fragment", "will", "determine", "that", "there", "exist", "no", "outgoing", "edge", "within", "N", "time", "and", "the", "protocol", "will", "terminate", ".", "Hence", ",", "the", "execution", "time", "of", "the", "protocol", "is", "O", "-LRB-", "N", "-RRB-", ".", "2", "Lemma", "4.3", "The", "protocol", "takes", "at", "most", "O", "-LRB-", "-LRB-", "d", "+", "D", "-RRB-", "log", "N", "-RRB-", "time", ".", "Proof", ":", "We", "modify", "the", "proof", "given", "in", "Lemma", "4.2", "as", "follows", ".", "The", "execution", "of", "the", "first", "phase", "of", "a", "fragment", "F", "can", "take", "at", "most", "2d", "time", "units", ".", "Since", "a", "node", "can", "send", "at", "most", "D", "test", "messages", ",", "it", "will", "take", "at", "most", "2D", "time", "units", "to", "find", "the", "local", "best", "edge", ".", "The", "propagation", "of", "initiate2", ",", "report", "and", "change-root", "messages", "will", "take", "a", "total", "of", "at", "most", "3d", "time", "units", ".", "Hence", ",", "a", "fragment", "at", "level", "l", "will", "send", "a", "connect", "message", "within", "-LRB-", "5d", "+", "2D", "-RRB-", "time", "units", "after", "tl", ".", "Therefore", ",", "in", "the", "proof", "of", "Lemma", "4.2", ",", "we", "can", "replace", "7", "?", "2l", "+1", "by", "-LRB-", "5d", "+", "2D", "-RRB-", ".", "Then", "it", "follows", "that", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "D", "+", "d", "-RRB-", "and", "PlogN", "?", "1", "l", "=", "0", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "=", "O", "-LRB-", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", ".", "Therefore", "the", "protocol", "will", "take", "at", "most", "O", "-LRB-", "-LRB-", "d", "+", "D", "-RRB-", "log", "N", "-RRB-", "time", "units", ".", "2", "From", "Lemma", "4.2", "and", "Lemma", "4.3", ",", "we", "have", "that", "the", "time", "complexity", "of", "Async", "is", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "d", "+", "D", "-RRB-", "log", "N", "-RRB-", "-RRB-", ".", "Lemma", "4.4", "The", "message", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "N2", "-RRB-", ".", "Proof", ":", "Consider", "a", "fragment", ",", "F", ",", "with", "k", "nodes", "at", "the", "end", "of", "its", "first", "phase", ".", "In", "the", "first", "phase", ",", "each", "node", "can", "receive", "at", "most", "one", "initiate1", "message", "and", "send", "at", "most", "one", "finish", "message", ".", "Therefore", ",", "the", "first", "phase", "must", "have", "required", "at", "most", "O", "-LRB-", "k", "-RRB-", "messages", ".", "In", "the", "second", "phase", ",", "each", "node", "can", "receive", "at", "most", "one", "initiate2", "and", "one", "accept", "message", ".", "Each", "node", "can", "transmit", "at", "most", "one", "change-root", ",", "one", "report", "and", "one", "connect", "message", ".", "Hence", ",", "if", "we", "disregard", "the", "test", "and", "the", "reject", "messages", ",", "at", "most", "O", "-LRB-", "k", "-RRB-", "messages", "will", "be", "required", "to", "execute", "both", "phases", ".", "Therefore", ",", "in", "the", "worst", "case", ",", "at", "most", "O", "-LRB-", "N", "-RRB-", "messages", "will", "be", "required", "to", "add", "an", "edge", "to", "the", "spanning", "forest", ".", "Adding", "N", "?", "1", "edges", "will", "therefore", "require", "O", "-LRB-", "N2", "-RRB-", "messages", ".", "At", "most", "two", "reject", "messages", "are", "sent", "over", "each", "link", ".", "Since", "E", "<", "=", "N2", ",", "these", "messages", "will", "contribute", "a", "sum", "of", "O", "-LRB-", "N2", "-RRB-", ".", "Each", "test", "message", "is", "responded", "to", "by", "either", "a", "reject", "or", "an", "accept", "message", ".", "Since", "there", "are", "at", "most", "O", "-LRB-", "N2", "-RRB-", "reject", "and", "accept", "messages", ",", "there", "can", "be", "at", "most", "O", "-LRB-", "N2", "-RRB-", "test", "messages", ".", "Thus", ",", "the", "message", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "N2", "-RRB-", ".", "2", "Lemma", "4.5", "The", "protocol", "requires", "at", "most", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "after", "the", "size", "of", "each", "fragment", "is", "at", "least", "N", "=", "log", "N", ".", "Proof", ":", "There", "can", "be", "at", "most", "log", "N", "fragments", "of", "size", "at", "least", "N", "=", "log", "N", ".", "Hence", ",", "only", "-LRB-", "log", "N", "?", "1", "-RRB-", "more", "edges", "will", "be", "needed", "to", "complete", "the", "MST", "when", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "In", "the", "worst", "case", ",", "addition", "of", "an", "edge", "can", "take", "at", "most", "O", "-LRB-", "N", "-RRB-", "messages", "-LRB-", "Lemma", "4.4", "-RRB-", ".", "Therefore", ",", "if", "we", "disregard", "the", "test", "and", "the", "reject", "messages", ",", "at", "most", "O", "-LRB-", "N", "log", "N", "-RRB-", "messages", "will", "be", "required", "to", "add", "log", "N", "?", "1", "edges", ".", "At", "most", "two", "reject", "messages", "are", "sent", "over", "each", "link", ".", "Therefore", ",", "there", "can", "be", "at", "most", "O", "-LRB-", "E", "-RRB-", "reject", "messages", ".", "Each", "test", "message", "is", "responded", "to", "by", "either", "a", "reject", "or", "an", "accept", "message", ".", "Since", "there", "are", "at", "most", "O", "-LRB-", "N", "log", "N", "-RRB-", "accept", "messages", "and", "O", "-LRB-", "E", "-RRB-", "reject", "messages", ",", "there", "can", "be", "at", "most", "O", "-LRB-", "E+N", "log", "N", "-RRB-", "test", "messages", ".", "Therefore", ",", "the", "protocol", "will", "send", "at", "most", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "after", "the", "size", "of", "all", "fragments", "is", "at", "least", "N", "=", "log", "N", ".", "2", "5", "A", "Composite", "protocol", "Although", "the", "protocol", "Async", "is", "not", "message", "optimal", ",", "at", "most", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "and", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "units", "are", "required", "after", "the", "size", "of", "all", "fragments", "is", "at", "least", "N", "=", "log", "N", "-LRB-", "Lemma", "4.3", "and", "4.5", "-RRB-", ".", "The", "protocol", "in", "-LSB-", "2", "-RSB-", "requires", "O", "-LRB-", "N", "log?N", "-RRB-", "time", "and", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", ".", "However", ",", "it", "was", "shown", "in", "-LSB-", "2", "-RSB-", "that", "this", "protocol", "requires", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "and", "O", "-LRB-", "E+N", "log", "N", "-RRB-", "messages", "up", "to", "the", "point", "at", "which", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "We", "can", "obtain", "a", "protocol", "with", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", "complexity", "and", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "message", "complexity", "by", "executing", "the", "protocol", "in", "-LSB-", "2", "-RSB-", "up", "to", "the", "point", "at", "which", "all", "fragments", "have", "size", "N", "=", "log", "N", "and", "the", "protocol", "Async", "thereafter", ".", "This", "however", "requires", "that", "the", "number", "of", "nodes", "in", "the", "network", "be", "known", "to", "all", "nodes", "so", "that", "a", "switch", "between", "protocols", "can", "be", "made", "by", "a", "fragment", "when", "its", "size", "reaches", "at", "least", "N", "=", "log", "N", ".", "However", ",", "determining", "the", "number", "of", "nodes", "in", "a", "network", "is", "as", "difficult", "as", "finding", "the", "spanning", "tree", ".", "In", "-LSB-", "1", "-RSB-", ",", "a", "protocol", "for", "counting", "the", "number", "of", "nodes", "with", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "messages", "and", "O", "-LRB-", "N", "-RRB-", "time", "was", "given", ".", "The", "protocol", "is", "very", "complicated", "and", "the", "constants", "involved", "are", "high", ".", "In", "this", "section", ",", "we", "develop", "a", "protocol", ",", "CompMST", ",", "which", "does", "not", "require", "knowledge", "of", "the", "number", "of", "nodes", ".", "CompMST", "behaves", "like", "the", "protocol", "in", "-LSB-", "2", "-RSB-", "when", "the", "fragment", "size", "is", "small", "and", "like", "Async", "when", "the", "fragment", "size", "becomes", "large", ".", "To", "obtain", "this", "behavior", ",", "we", "perform", "synchronization", "on", "the", "basis", "of", "the", "fragment", "size", ".", "In", "contrast", "to", "Async", ",", "the", "level", "numbers", "are", "explicitly", "stored", "by", "the", "sites", "and", "we", "require", "that", "the", "response", "to", "a", "test", "message", "sent", "by", "a", "node", "i", "at", "level", "l", "to", "a", "node", "j", "be", "delayed", "only", "if", "the", "level", "number", "of", "j", "is", "less", "than", "l-log", "l", "-LRB-", "and", "not", "l", "-RRB-", ".", "Since", "log", "l", "increases", "with", "l", ",", "the", "protocol", "becomes", "more", "asynchronous", "as", "l", "increases", ".", "In", "particular", ",", "as", "we", "will", "show", "later", ",", "this", "protocol", "behaves", "like", "Async", "when", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "'", "&", "$", "%", "'", "&", "$", "%", "'", "&", "$", "%", "'", "&", "$", "%", "oeoeoeoe", "li", "<", "lj", "level", "lj", "G", "Fm", "?", "1", "i1", "jm", "?", "1", "im", "?", "1", "jm", "li", "li", "C", "Fm", "i", "F1", "j", "Figure", "2", ":", "Fragments", "F1", ";", ":", ":", ":", ";", "Fm", "are", "absorbed", "in", "G.", "Further", ",", "in", "CompMST", ",", "we", "want", "the", "level", "number", "of", "a", "fragment", "to", "be", "proportional", "to", "the", "amount", "of", "time", "it", "has", "to", "wait", "before", "updating", "its", "level", "number", ".", "The", "changes", "required", "in", "Async", "to", "obtain", "this", "behavior", "are", "explained", "in", "the", "following", ".", "First-Phase", ":", "The", "initiator", "site", "-LRB-", "which", "is", "the", "root", "of", "the", "fragment", "-RRB-", "sends", "initiate1", "message", "to", "its", "children", "with", "its", "current", "level", "number", "and", "the", "fragment", "identity", ".", "On", "receiving", "initiate1", ",", "a", "site", "updates", "its", "level", "number", "and", "fragment", "identity", "and", "propagates", "initiate1", "to", "its", "children", ".", "The", "number", "of", "nodes", "are", "counted", "while", "propagating", "the", "finish", "-LRB-", "count", "-RRB-", "messages", ",", "where", "count", "is", "the", "number", "of", "nodes", "in", "the", "subtree", "rooted", "at", "the", "node", "sending", "this", "message", ".", "A", "leaf", "node", "sends", "a", "finish", "-LRB-", "1", "-RRB-", "message", "to", "its", "parent", ".", "After", "site", "i", "has", "received", "a", "finish", "-LRB-", "countm", "-RRB-", "message", "from", "each", "child", "m", ",", "it", "sums", "up", "the", "counts", "received", "from", "the", "children", ",", "adds", "one", "to", "it", "and", "sends", "the", "resulting", "number", "in", "a", "finish", "message", "to", "its", "parent", ".", "The", "first", "phase", "terminates", "after", "the", "initiator", "receives", "a", "finish", "message", "from", "each", "child", ".", "Let", "M", "be", "the", "sum", "of", "the", "counts", "received", "from", "the", "children", "by", "the", "initiator", ".", "The", "initiator", "site", "then", "updates", "its", "level", "number", "to", "blog", "-LRB-", "M", "+", "1", "-RRB-", "c", ".", "This", "may", "be", "greater", "than", "the", "level", "number", "previously", "stored", "in", "the", "initiator", "due", "to", "fragments", "absorbed", "during", "the", "first", "phase", ".", "The", "complexity", "of", "this", "phase", "is", "the", "same", "as", "in", "Async", ".", "The", "Second", "Phase", "is", "modified", "as", "follows", ".", "The", "initiator", "site", "propagates", "its", "new", "level", "number", "in", "the", "initiate2", "messages", "and", "sites", "update", "their", "level", "numbers", "on", "receiving", "this", "message", ".", "The", "level", "number", "of", "a", "node", "is", "included", "in", "the", "test", "messages", "sent", "by", "it", ".", "If", "a", "node", "j", "receives", "a", "test", "message", "from", "a", "node", "with", "level", "l", "and", "j0s", "fragment", "identity", "differs", "from", "the", "one", "received", "then", "the", "response", "is", "delayed", "by", "j", "until", "its", "level", "number", "becomes", "at", "least", "l-log", "l", ".", "In", "addition", ",", "we", "use", "a", "protocol", "Update", "which", "allows", "a", "node", "to", "update", "the", "level", "number", "and", "fragment", "identity", "of", "the", "nodes", "in", "its", "fragment", ".", "The", "initiator", "site", "starts", "the", "protocol", "by", "sending", "an", "update", "message", "to", "its", "children", "with", "its", "fragment", "identity", "and", "level", "number", "in", "it", ".", "On", "receiving", "update", "-LRB-", "level", ";", "id", "-RRB-", ",", "site", "i", "updates", "its", "level", "number", "and", "fragment", "identity", "and", "propagates", "the", "update", "message", "to", "its", "children", ".", "Consider", "the", "case", "considered", "in", "the", "proof", "of", "Lemma", "3.3", "in", "which", "there", "is", "a", "sequence", "of", "fragments", ",", "F1", ";", ":", ":", ":", ";", "Fm", ",", "all", "at", "level", "li", ",", "such", "that", "the", "connect", "message", "of", "Fi", "arrives", "at", "a", "node", "in", "Fi", "+1", "-LRB-", "shown", "in", "Figure", "2", "-RRB-", ".", "If", "the", "best", "edge", "of", "Fm", "leads", "to", "a", "node", "in", "a", "fragment", "with", "a", "higher", "level", "number", ",", "lj", ",", "then", "the", "level", "numbers", "of", "nodes", "in", "F1", ";", ":", ":", ":", ";", "Fm", "are", "updated", "to", "lj", "in", "the", "protocol", "in", "-LSB-", "5", "-RSB-", ".", "This", "updating", "may", "take", "up", "to", "Pmi", "=", "1", "jFij", "-LRB-", "=", "Sli", "-RRB-", "time", ".", "This", "is", "a", "problem", "since", "we", "want", "a", "node", "that", "waits", "O", "-LRB-", "Sli", "-RRB-", "time", "before", "updating", "its", "level", "number", "to", "be", "able", "to", "increase", "its", "level", "number", "to", "at", "least", "blog", "Slic", "and", "it", "may", "be", "the", "case", "that", "blog", "Slic", ">", "lj", ".", "For", "this", "purpose", ",", "we", "have", "to", "count", "the", "number", "of", "nodes", "in", "C", "and", "update", "the", "level", "number", "accordingly", ".", "The", "changes", "required", "in", "the", "protocol", "for", "this", "are", "explained", "in", "the", "following", ".", "Consider", "the", "case", "when", "a", "connect", "message", "from", "i", ",", "in", "fragment", "F", "at", "level", "li", "is", "received", "by", "a", "node", "j", "in", "fragment", "G", "at", "level", "lj", ".", "If", "j", "has", "already", "sent", "a", "connect", "message", "to", "i", "-LRB-", "so", "that", "both", "F", "and", "G", "have", "the", "same", "best", "edge", "-RRB-", "then", "F", "and", "G", "are", "merged", ".", "If", "j", ">", "i", "then", "j", "becomes", "the", "root", "of", "the", "combined", "fragment", ",", "and", "initiates", "a", "new", "iteration", ".", "Otherwise", ",", "i", "becomes", "the", "new", "root", ".", "If", "j", "has", "not", "sent", "a", "connect", "message", "to", "i", "then", "j", "behaves", "as", "follows", ":", "1", ".", "li", ">", "lj", ":", "In", "this", "case", ",", "site", "j", "delays", "response", "to", "the", "connect", "message", "until", "its", "level", "number", "becomes", "at", "least", "li", "-LRB-", "the", "connect", "message", "is", "then", "handled", "as", "described", "in", "case", "2", "below", "-RRB-", "or", "it", "sends", "a", "connect", "message", "to", "i", "-LRB-", "in", "this", "case", ",", "the", "fragments", "are", "merged", "as", "described", "above", "-RRB-", ".", "2", ".", "li", "<", "=", "lj", ":", "We", "have", "the", "following", "subcases", ":", "-LRB-", "2a", "-RRB-", ":", "Site", "j", "has", "received", "initiate1", "and", "has", "not", "sent", "the", "finish", "message", ":", "In", "this", "case", ",", "site", "j", "propagates", "initiate1", "to", "i", "and", "waits", "for", "a", "finish", "message", "from", "i", "before", "sending", "a", "finish", "message", "to", "its", "parent", ".", "Thus", "F", "is", "absorbed", "in", "G", "and", "nodes", "in", "F", "participate", "in", "the", "current", "iteration", "of", "the", "protocol", "in", "G", "-LRB-", "this", "is", "the", "same", "as", "in", "protocol", "Async", "-RRB-", ".", "The", "number", "of", "nodes", "in", "F", "are", "therefore", "included", "in", "updating", "the", "level", "number", "of", "G.", "-LRB-", "2b", "-RRB-", ":", "Site", "j", "has", "sent", "the", "finish", "message", "and", "li", "<", "lj", "?", "log", "lj", ":", "In", "this", "case", ",", "since", "j", "has", "already", "sent", "the", "finish", "message", ",", "the", "nodes", "in", "F", "will", "not", "be", "included", "in", "updating", "the", "level", "number", "of", "G.", "Therefore", ",", "we", "require", "that", "i", "counts", "the", "number", "of", "nodes", "in", "F", "and", "reports", "that", "count", "to", "j", "before", "the", "connect", "message", "is", "processed", "by", "j.", "To", "do", "this", ",", "site", "j", "sends", "a", "message", "to", "site", "i", "instructing", "it", "to", "count", "the", "number", "of", "nodes", ",", "and", "temporarily", "refrains", "from", "sending", "a", "report", "message", "to", "its", "parent", "in", "G", "if", "it", "has", "not", "already", "sent", "it", "-LRB-", "the", "reason", "for", "this", "is", "that", ",", "as", "we", "shall", "see", "later", ",", "site", "j", "may", "want", "to", "include", "information", "regarding", "the", "best", "edge", "from", "F", "in", "its", "report", "message", "-RRB-", ".", "On", "receiving", "this", "message", ",", "site", "i", "updates", "its", "fragment", "identity", "to", "i", "and", "then", "initiates", "First-Phase", "to", "count", "the", "number", "of", "nodes", ".", "Let", "C", "denote", "the", "fragment", "rooted", "at", "i", "after", "the", "completion", "of", "First-Phase", "-LRB-", "it", "may", "include", "nodes", "from", "fragments", "which", "are", "absorbed", "by", "F", "during", "the", "first", "phase", "-RRB-", "and", "count", "be", "the", "number", "of", "nodes", "in", "C", "which", "is", "reported", "to", "i", "when", "First-Phase", "completes", ".", "ffl", "If", "blog", "countc", ">", "=", "lj", "then", "site", "i", "decides", "to", "keep", "C", "distinct", "from", "G", ".", "It", "notifies", "j", "of", "this", "fact", "so", "that", "j", "can", "resume", "execution", "of", "the", "second", "phase", "in", "G", ".", "In", "addition", ",", "site", "i", "updates", "its", "level", "number", "to", "blog", "countc", "and", "initiates", "Update", "to", "update", "the", "level", "number", "of", "the", "nodes", "in", "C.", "ffl", "If", "blog", "countc", "<", "lj", "then", "G", "absorbs", "C", ".", "In", "this", "case", ",", "i", "notifies", "j", "of", "its", "decision", "to", "get", "absorbed", "and", "then", "updates", "its", "fragment", "identity", "to", "G", "and", "level", "number", "to", "lj", ".", "Further", ",", "it", "initiates", "Update", "to", "update", "the", "level", "number", "and", "fragment", "identity", "of", "nodes", "in", "its", "subtree", ".", "If", "j", "has", "not", "already", "sent", "the", "report", "message", ",", "then", "nodes", "in", "C", "participate", "in", "the", "second", "phase", "of", "the", "current", "iteration", "of", "G", ".", "When", "j", "receives", "initiate2", "-LRB-", "or", "if", "it", "has", "already", "received", "it", "-RRB-", ",", "it", "propagates", "it", "to", "'", "&", "$", "%", "'", "&", "$", "%", "-", "oe", "CG", "k", "p", "j", "i", "Figure", "3", ":", "G", "absorbs", "C", "after", "finishing", "first", "phase", ".", "i", "and", "waits", "for", "a", "report", "message", "from", "i", "before", "sending", "its", "report", "message", ".", "To", "see", "that", "the", "outgoing", "edges", "will", "be", "correctly", "identified", "if", "C", "is", "absorbed", "in", "G", ",", "consider", "the", "fragments", "shown", "in", "Figure", "3", ".", "Suppose", "that", "a", "site", "p", "in", "C", "receives", "a", "test", "message", "from", "a", "node", "k", "in", "G", ".", "If", "p", "has", "received", "the", "update", "message", "then", "the", "fragment", "identity", "of", "p", "will", "be", "the", "same", "as", "that", "of", "k", "and", "therefore", "it", "will", "send", "a", "reject", "message", ".", "If", "p", "has", "not", "received", "update", "then", "its", "level", "number", "-LRB-", "=", "li", "-RRB-", "will", "be", "less", "than", "lj", "?", "log", "lj", "-LRB-", "lj", "will", "be", "the", "level", "number", "received", "in", "the", "test", "message", "-RRB-", ".", "Therefore", ",", "the", "response", "to", "the", "test", "message", "will", "be", "delayed", "until", "the", "level", "number", "of", "p", "increases", ",", "which", "will", "happen", "only", "after", "it", "receives", "update", ".", "Hence", ",", "outgoing", "edges", "will", "be", "correctly", "identified", ".", "-LRB-", "2c", "-RRB-", ":", "Site", "j", "has", "sent", "the", "finish", "message", "and", "lj", ">", "=", "li", ">", "=", "lj", "?", "log", "lj", ".", "In", "this", "case", ",", "nodes", "in", "F", "can", "not", "participate", "in", "the", "current", "iteration", "of", "G", ".", "As", "in", "the", "previous", "case", ",", "site", "i", "updates", "its", "fragment", "identity", "to", "i", "and", "initiates", "First-Phase", ".", "However", ",", "site", "j", "does", "not", "refrain", "from", "sending", "messages", "to", "its", "parent", "while", "the", "counting", "is", "in", "progress", ".", "After", "the", "first", "phase", "is", "over", ",", "site", "i", "updates", "its", "level", "number", "to", "max", "-LRB-", "lj", ";", "blog", "countc", "-RRB-", ",", "where", "count", "is", "the", "number", "of", "nodes", "reported", "to", "i", "when", "the", "first", "phase", "completes", ".", "Site", "i", "then", "initiates", "Update", "update", "the", "level", "number", "of", "nodes", "in", "its", "fragment", ".", "Lemma", "5.1", "The", "message", "complexity", "of", "CompMST", "is", "O", "-LRB-", "E", "+", "N", "-LRB-", "logN", "-RRB-", "2", "=", "log", "log", "N", "-RRB-", ".", "Proof", ":", "Let", "G", "be", "a", "fragment", "at", "level", "l", ".", "We", "will", "determine", "the", "maximum", "number", "of", "messages", "a", "node", "in", "G", "has", "to", "send", "to", "increase", "its", "level", "number", ".", "Let", "the", "best", "edge", "of", "G", "lead", "to", "a", "node", "in", "F", ",", "which", "is", "at", "level", "l0", ".", "Consider", "the", "case", "in", "which", "l0", ">", "=", "l", ".", "If", "F", "and", "G", "have", "the", "same", "best", "edge", "then", "they", "will", "merge", "to", "form", "a", "new", "fragment", "and", "the", "level", "number", "will", "increase", "by", "at", "least", "1", "in", "the", "next", "iteration", ".", "If", "the", "best", "edge", "of", "F", "is", "different", "from", "that", "of", "G", "then", "the", "level", "number", "of", "nodes", "in", "G", "will", "get", "updated", "to", "at", "least", "l0", "using", "update", "messages", ".", "If", "l0", ">", "l", "then", "the", "level", "number", "of", "nodes", "in", "G", "will", "increase", ".", "If", "l0", "=", "l", "then", "in", "the", "next", "iteration", ",", "the", "number", "of", "nodes", "counted", "will", "be", "at", "least", "2l", "+1", "and", "the", "level", "number", "will", "increase", "to", "at", "least", "l", "+", "1", ".", "Since", "a", "node", "sends", "a", "constant", "number", "of", "messages", "in", "an", "iteration", ",", "a", "node", "in", "G", "will", "send", "a", "constant", "number", "of", "messages", "in", "both", "cases", ".", "Now", "consider", "the", "case", "where", "l0", "<", "l", ".", "It", "must", "be", "the", "case", "that", "l0", ">", "=", "l", "?", "log", "l", ".", "If", "the", "best", "edge", "of", "F", "is", "not", "the", "same", "as", "that", "of", "G", "then", "a", "response", "to", "the", "connect", "message", "from", "G", "will", "be", "delayed", "until", "the", "level", "number", "of", "F", "becomes", "at", "least", "l", ".", "In", "the", "next", "iteration", ",", "nodes", "in", "G", "will", "acquire", "a", "level", "number", "greater", "than", "l", "-LRB-", "since", "nodes", "in", "G", "and", "F", "will", "be", "included", "in", "updating", "the", "level", "number", "and", "F", "now", "has", "at", "least", "2l", "nodes", "-RRB-", ".", "In", "this", "case", ",", "each", "node", "in", "G", "will", "send", "a", "constant", "number", "of", "messages", "to", "increase", "its", "level", "number", ".", "If", "F", "and", "G", "have", "the", "same", "best", "edge", "then", "they", "will", "merge", "to", "form", "a", "new", "fragment", ".", "However", ",", "since", "l0", "<", "l", ",", "merging", "these", "fragments", "might", "not", "result", "in", "an", "increase", "in", "the", "level", "number", "of", "G.", "Hence", ",", "G", "may", "have", "to", "execute", "several", "iterations", "to", "increase", "its", "level", "number", ".", "Let", "G", "merge", "with", "fragments", "F1", ";", ":", ":", ":", ";", "Fk", ",", "of", "sizes", "n1", ";", ":", ":", ":", ";", "nk", "respectively", ",", "where", "n1", ";", ":", ":", ":", ";", "nk", ">", "=", "2l", "=", "l", ",", "in", "the", "order", "given", "before", "G", "increases", "its", "level", "number", ".", "Since", "the", "number", "of", "nodes", "in", "the", "combined", "fragment", "does", "not", "exceed", "2l", "+1", "?", "1", "in", "each", "of", "the", "k", "iterations", ",", "executing", "each", "iteration", "will", "take", "O", "-LRB-", "2l", "-RRB-", "messages", "if", "we", "disregard", "the", "test", ",", "update", "and", "the", "reject", "messages", "-LRB-", "the", "analysis", "is", "similar", "to", "the", "one", "in", "Lemma", "4.4", "-RRB-", ".", "Executing", "the", "first", "phase", "following", "the", "kth", "iteration", "will", "again", "take", "O", "-LRB-", "2l", "-RRB-", "messages", ".", "Therefore", ",", "O", "-LRB-", "k", "?", "2l", "-RRB-", "messages", "will", "be", "required", "to", "increase", "the", "level", "number", "of", "nodes", "in", "G", ".", "We", "will", "now", "count", "the", "total", "increase", "in", "the", "level", "number", "of", "nodes", "in", "G", ";", "F1", ";", "F2", ";", ":", ":", ":", ";", "Fk", "-LRB-", "i", ":", "e", ":", ";", "the", "summation", "of", "the", "change", "in", "level", "number", "for", "each", "node", "in", "these", "fragments", "-RRB-", ".", "Nodes", "in", "G", "increase", "their", "level", "by", "1", "-LRB-", "which", "results", "in", "a", "total", "increase", "of", "O", "-LRB-", "2l", "-RRB-", "-RRB-", ".", "The", "total", "increase", "in", "level", "number", "of", "nodes", "in", "fragment", "Fi", "is", "at", "least", "L", "=", "O", "-LRB-", "ni", "-LRB-", "l", "?", "log", "ni", "-RRB-", "-RRB-", "=", "O", "-LRB-", "ni", "log", "2l", "ni", "-RRB-", ".", "Let", "ai", "=", "2l", "=", "ni", ".", "Then", "L", "=", "O", "-LRB-", "2l", "log", "ai", "ai", "-RRB-", ".", "Since", "ni", ">", "=", "2l", "=", "l", ",", "ai", "<", "=", "l.", "Furthermore", ",", "log", "ai", "=", "ai", ">", "=", "log", "l", "=", "l", ".", "Then", "L", "is", "lower", "bounded", "by", "O", "-LRB-", "2l", "log", "l", "l", "-RRB-", ".", "Thus", ",", "the", "total", "level", "increase", "of", "nodes", "in", "F1", ";", ":", ":", ":", ";", "Fk", "is", "lower", "bounded", "by", "O", "-LRB-", "k2l", "log", "l", "l", "-RRB-", ".", "Hence", ",", "the", "number", "of", "messages", "sent", "per", "level", "increase", "will", "be", "O", "-LRB-", "k", "?", "2l", "-LRB-", "k", "?", "2l", "?", "log", "l", "=", "l", "-RRB-", "-RRB-", "=", "O", "-LRB-", "l", "=", "log", "l", "-RRB-", ".", "Since", "l", "=", "log", "l", "is", "an", "increasing", "function", "of", "l", ",", "the", "maximum", "number", "of", "messages", "sent", "per", "level", "increase", "will", "be", "O", "-LRB-", "log", "N", "=", "log", "log", "N", "-RRB-", ".", "Since", "the", "sum", "of", "the", "total", "level", "increase", "during", "the", "execution", "of", "the", "protocol", "can", "be", "O", "-LRB-", "N", "log", "N", "-RRB-", "-LRB-", "since", "the", "maximum", "level", "of", "a", "node", "can", "be", "log", "N", "-RRB-", ",", "the", "protocol", "will", "require", "O", "-LRB-", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", "messages", ".", "There", "can", "be", "at", "most", "one", "update", "message", "received", "by", "a", "node", "for", "each", "level", "number", ".", "Hence", "these", "messages", "can", "add", "up", "to", "at", "most", "O", "-LRB-", "N", "log", "N", "-RRB-", ".", "Further", ",", "at", "most", "two", "reject", "messages", "are", "sent", "over", "each", "edge", ".", "These", "messages", "will", "contribute", "a", "sum", "of", "O", "-LRB-", "E", "-RRB-", ".", "Each", "test", "message", "is", "responded", "to", "by", "either", "a", "reject", "or", "an", "accept", "message", ".", "Since", "there", "are", "at", "most", "O", "-LRB-", "E", "-RRB-", "reject", "messages", "and", "at", "most", "O", "-LRB-", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", "accept", "messages", ",", "there", "can", "be", "at", "most", "O", "-LRB-", "E", "+", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", "test", "messages", ".", "The", "message", "complexity", "of", "the", "protocol", "is", "therefore", "O", "-LRB-", "E", "+", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", ".", "2", "We", "evaluate", "the", "time", "complexity", "by", "dividing", "the", "computation", "into", "two", "stages", ".", "The", "first", "stage", "involves", "the", "computation", "up", "to", "the", "point", "at", "which", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "We", "show", "that", "the", "execution", "of", "both", "stages", "takes", "at", "most", "O", "-LRB-", "N", "-RRB-", "time", "units", ".", "In", "this", "stage", ",", "let", "tl", "be", "the", "time", "in", "an", "execution", "at", "which", "the", "node", "with", "the", "smallest", "level", "number", "changes", "its", "level", "number", "to", "at", "least", "l", ".", "We", "will", "compute", "an", "upper", "bound", "on", "tl", "+1", "?", "tl", ".", "Lemma", "5.2", "Let", "F", "be", "a", "fragment", "whose", "root", "is", "at", "level", "l", "at", "time", "tl", ".", "If", "the", "level", "number", "of", "the", "root", "of", "F", "remains", "l", "at", "the", "end", "of", "the", "first", "phase", ",", "then", "the", "execution", "of", "the", "second", "phase", "of", "F", "will", "take", "at", "most", "O", "-LRB-", "jF", "j", "-RRB-", "time", "units", ".", "Proof", ":", "Let", "F", "be", "a", "fragment", "whose", "root", "is", "at", "level", "l", "at", "time", "tl", ".", "Since", "all", "nodes", "have", "level", "number", "at", "least", "l", ",", "no", "fragments", "will", "be", "absorbed", "during", "the", "second", "phase", ".", "Thus", ",", "a", "node", "in", "F", "can", "send", "at", "most", "jF", "j", "test", "messages", ".", "Therefore", ",", "it", "will", "take", "at", "most", "2jF", "j", "time", "units", "to", "find", "the", "local", "best", "edge", "-LRB-", "since", "no", "fragment", "has", "a", "smaller", "level", "number", ",", "the", "response", "to", "its", "test", "messages", "will", "not", "be", "delayed", "-RRB-", ".", "The", "propagation", "of", "initiate2", ",", "report", "and", "change-root", "messages", "will", "take", "at", "most", "3jF", "j", "time", "units", ".", "2", "Lemma", "5.3", "The", "execution", "of", "CompMST", "takes", "at", "most", "O", "-LRB-", "N", "-RRB-", "time", "units", ".", "Proof", ":", "Let", "F", "be", "a", "fragment", "whose", "root", "is", "at", "level", "l", "at", "time", "tl", ".", "If", "F", "has", "not", "already", "sent", "a", "connect", "message", ",", "then", "in", "the", "worst", "case", ",", "it", "will", "start", "the", "execution", "of", "the", "first", "phase", "at", "time", "tl", ".", "We", "have", "the", "following", "cases", "to", "consider", ":", "-LRB-", "1", "-RRB-", ":", "The", "level", "number", "of", "the", "root", "of", "F", "remains", "l", "at", "the", "end", "of", "the", "first", "phase", ".", "In", "this", "case", ",", "it", "will", "take", "at", "most", "O", "-LRB-", "jF", "j", "-RRB-", "time", "units", "to", "find", "the", "best", "edge", "-LRB-", "Lemma", "5.2", "-RRB-", ".", "Now", "we", "have", "to", "consider", "the", "time", "F", "has", "to", "wait", "until", "its", "request", "to", "merge", "-LRB-", "i", ":", "e", ":", ";", "the", "connect", "message", "sent", "by", "F", "-RRB-", "results", "in", "a", "level", "increase", ".", "As", "observed", "in", "Lemma", "3.3", ",", "the", "worst", "case", "involves", "a", "sequence", "F1", ";", ":", ":", ":", ";", "Fm", "of", "fragments", ",", "all", "at", "level", "l", ",", "where", "F", "=", "F1", ",", "and", "the", "connect", "message", "of", "Fi", "arrives", "at", "a", "node", "in", "Fi", "+1", "for", "i", "<", "m.", "For", "a", "given", "level", "l", ",", "there", "may", "be", "several", "such", "sequences", "in", "an", "execution", ".", "Consider", "the", "one", "with", "the", "maximum", "number", "of", "nodes", ".", "Let", "Cl", "denote", "this", "sequence", "and", "let", "Sl", "=", "-LRB-", "Pmk", "=", "1", "jFk", "j", "-RRB-", ".", "We", "have", "the", "following", "subcases", "to", "consider", ":", "-LRB-", "1a", "-RRB-", ":", "The", "best", "edge", "of", "Fm", "leads", "to", "Fm", "?", "1", ".", "Fm", "and", "Fm", "?", "1", "will", "combine", "to", "form", "a", "new", "fragment", "F", "at", "level", "number", "l", "+", "1", "and", "start", "the", "first", "phase", "of", "a", "new", "iteration", ".", "Each", "of", "the", "fragments", "Fi", ",", "1", "<", "=", "i", "<", "=", "m", "?", "2", ",", "will", "be", "absorbed", "in", "F", ".", "Hence", ",", "nodes", "in", "F", "will", "update", "their", "level", "number", "to", "l", "+", "1", "within", "O", "-LRB-", "Sl", "-RRB-", "time", "units", "after", "tl", ".", "Let", "x", "be", "the", "root", "of", "F", ".", "The", "number", "of", "nodes", "in", "F", "will", "increase", "to", "at", "least", "Sl", "and", "will", "be", "known", "to", "x", "at", "the", "end", "of", "the", "first", "phase", ",", "The", "new", "level", "number", ",", "which", "will", "be", "at", "least", "blog", "Slc", ",", "will", "reach", "all", "nodes", "in", "F", "in", "the", "second", "phase", ".", "-LRB-", "1b", "-RRB-", ":", "The", "best", "edge", "of", "Fm", "leads", "to", "a", "node", "j", "which", "is", "in", "fragment", "G", "with", "a", "higher", "level", "number", ",", "lj", ".", "We", "have", "the", "following", "subcases", ":", "ffl", "If", "j", "has", "not", "sent", "the", "finish", "message", ",", "then", "it", "will", "propagate", "the", "initiate1", "message", "with", "level", "number", "lj", "to", "nodes", "in", "Fm", ".", "In", "this", "case", ",", "all", "fragments", "Fi", "in", "Cl", "will", "be", "absorbed", "in", "G.", "Hence", ",", "all", "nodes", "in", "Cl", "will", "increase", "their", "level", "number", "within", "O", "-LRB-", "Sl", "-RRB-", "time", "units", ".", "If", "blog", "Slc", "<", "=", "lj", "then", "nodes", "in", "Cl", "will", "increase", "their", "level", "number", "to", "lj", "with", "O", "-LRB-", "Sl", "-RRB-", "time", "units", ".", "If", "blog", "Slc", ">", "lj", "then", "all", "nodes", "in", "Cl", "will", "receive", "level", "number", "at", "least", "blog", "Slc", "in", "the", "second", "phase", ".", "ffl", "Now", "consider", "the", "case", "when", "j", "has", "sent", "the", "finish", "message", "and", "l", "<", "lj", "?", "log", "lj", ".", "The", "number", "of", "nodes", "that", "are", "waiting", "to", "be", "absorbed", "in", "G", "-LRB-", "which", "are", "the", "nodes", "in", "Cl", "-RRB-", "are", "counted", "by", "the", "root", ",", "y", ",", "of", "fragment", "Fm", ".", "If", "Sl", "is", "greater", "than", "or", "equal", "to", "2lj", "then", "y", "decides", "to", "keep", "its", "fragment", "distinct", "from", "G", "and", "the", "new", "level", "number", ",", "blog", "Slc", ",", "is", "propagated", "to", "all", "nodes", "in", "y0s", "fragment", "via", "update", "messages", "within", "Sl", "time", "units", ".", "If", "Sl", "is", "less", "than", "2lj", "then", "Fm", "is", "absorbed", "in", "G", ".", "In", "this", "case", ",", "y", "updates", "its", "level", "number", "to", "lj", "and", "initiates", "Update", ".", "The", "level", "number", "lj", "-LRB-", ">", "blog", "Slc", "-RRB-", "will", "again", "reach", "all", "nodes", "in", "O", "-LRB-", "Sl", "-RRB-", "time", "units", ".", "ffl", "If", "j", "has", "sent", "the", "finish", "message", "and", "lj", ">", "=", "l", ">", "=", "lj", "?", "log", "lj", ",", "then", "again", "the", "number", "of", "nodes", "waiting", "to", "get", "absorbed", "in", "G", "are", "counted", "by", "y", ".", "After", "the", "counting", "is", "over", ",", "y", "updates", "its", "level", "number", "to", "max", "-LRB-", "lj", ";", "blog", "Slc", "-RRB-", "and", "initiates", "update", ".", "Thus", ",", "all", "nodes", "in", "Cl", "will", "reach", "level", "at", "least", "blog", "Slc", "within", "O", "-LRB-", "Sl", "-RRB-", "time", "units", ".", "Hence", ",", "nodes", "in", "Cl", "will", "increase", "their", "level", "number", "to", "at", "least", "l", "+", "1", "within", "O", "-LRB-", "Sl", "-RRB-", "time", "units", "after", "time", "tl", ".", "-LRB-", "2", "-RRB-", ":", "The", "level", "number", "of", "the", "root", "of", "F", "at", "the", "end", "of", "the", "first", "phase", "is", "greater", "than", "l", ".", "In", "the", "first", "phase", ",", "F", "can", "only", "absorb", "fragments", "at", "level", "l", "-LRB-", "since", "all", "fragments", "are", "at", "level", "at", "least", "l", "-RRB-", ".", "In", "the", "worst", "case", ",", "there", "could", "be", "a", "sequence", "of", "fragments", ",", "F1", ";", ":", ":", ":", ";", "Fm", ",", "all", "at", "level", "l", ",", "such", "that", "F", "=", "Fm", "and", "a", "connect", "message", "from", "Fi", "arrives", "at", "Fi", "+1", ",", "where", "i", "<", "m", ".", "In", "this", "case", ",", "all", "fragments", "Fi", ",", "1", "<", "=", "i", "<", "m", ",", "will", "get", "absorbed", "during", "the", "first", "phase", "of", "Fm", ".", "The", "first", "phase", "will", "complete", "in", "O", "-LRB-", "Sl", "-RRB-", "time", "and", "the", "level", "number", "of", "nodes", "will", "increase", "to", "blog", "Slc", "within", "O", "-LRB-", "Sl", "-RRB-", "time", "units", "after", "time", "tl", ".", "Hence", ",", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "Sl", "-RRB-", ".", "The", "time", "taken", "by", "the", "first", "stage", "is", "given", "by", "PlogN?log", "log", "N", "?", "1", "l", "=", "0", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", ".", "Let", "s1", "=", "fl", ":", "l", "<", "log", "-LRB-", "N", "=", "log", "N", "-RRB-", "and", "Sl", "<", "=", "N", "=", "log", "Ng", "and", "s2", "=", "fl", ":", "l", "<", "log", "-LRB-", "N", "=", "log", "N", "-RRB-", "and", "Sl", ">", "N", "=", "log", "Ng", ".", "Then", "PlogN?log", "log", "N", "?", "1", "l", "=", "0", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "can", "be", "written", "as", "P", "l2s1", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "+", "P", "l2s2", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", ".", "Since", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "Sl", "-RRB-", ",", "we", "have", "that", "P", "l2s1", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "<", "=", "P", "l2s1", "O", "-LRB-", "Sl", "-RRB-", "<", "=", "PlogN?log", "log", "N", "l", "=", "0", "O", "-LRB-", "N", "=", "log", "N", "-RRB-", "-LRB-", "since", "Sl", "<", "N", "=", "log", "N", "for", "l", "2", "s1", "-RRB-", "<", "=", "O", "-LRB-", "N", "-RRB-", ".", "Let", "l", "2", "s2", ".", "Let", "Cl", "be", "formed", "from", "the", "sequence", "F1", ";", ":", ":", ":", ";", "Fm", "of", "fragments", ",", "all", "at", "level", "l", ".", "If", "the", "best", "edge", "of", "Fm", "leads", "to", "Fm", "?", "1", "then", "a", "new", "fragment", "is", "formed", "whose", "nodes", "are", "counted", "and", "updated", "to", "at", "least", "blog", "Slc", "-LRB-", ">", "=", "log", "-LRB-", "N", "=", "log", "N", "-RRB-", "-RRB-", ".", "Otherwise", ",", "let", "the", "best", "edge", "of", "Fm", "lead", "to", "a", "node", "j", "in", "fragment", "G", "will", "level", "l0", ">", "l", ".", "If", "j", "has", "already", "sent", "the", "finish", "message", "then", "the", "number", "of", "nodes", "in", "Cl", "is", "counted", "and", "the", "level", "number", "is", "updated", "to", "at", "least", "blog", "Slc", ".", "If", "j", "has", "not", "sent", "the", "finish", "message", "then", "Cl", "is", "absorbed", "in", "G", "during", "the", "first", "phase", "of", "the", "current", "iteration", "of", "G", ".", "At", "the", "end", "of", "this", "first", "phase", ",", "the", "level", "number", "is", "updated", "to", "at", "least", "blog", "Slc", ".", "Hence", ",", "a", "node", "in", "Cl", "can", "not", "be", "part", "of", "the", "second", "phase", "of", "a", "fragment", "with", "level", "l0", "<", "log", "-LRB-", "N", "=", "log", "N", "-RRB-", ".", "Thus", ",", "before", "the", "level", "number", "of", "a", "node", "in", "Cl", "exceeds", "log", "-LRB-", "N", "=", "log", "N", "-RRB-", ",", "it", "may", "be", "part", "of", "Cl", "and", "also", "part", "of", "the", "first", "phase", "of", "an", "iteration", "of", "another", "fragment", "with", "level", "l0", "2", "s2", ",", "where", "l0", ">", "l.", "Hence", ",", "each", "node", "can", "contribute", "towards", "at", "most", "two", "level", "numbers", "in", "s2", ".", "Therefore", "P", "l2s2", "-LRB-", "tl", "+1", "?", "tl", "-RRB-", "<", "P", "l2s2", "O", "-LRB-", "Sl", "-RRB-", "<", "O", "-LRB-", "N", "-RRB-", ".", "The", "first", "stage", "will", "therefore", "take", "at", "most", "O", "-LRB-", "N", "-RRB-", "time", "units", ".", "The", "second", "stage", "involves", "the", "execution", "from", "the", "point", "at", "which", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "Consider", "a", "fragment", "F", "with", "M", "nodes", ",", "where", "M", ">", "=", "N", "=", "log", "N", "-LRB-", "its", "level", "number", "will", "be", "blog", "Mc", "-RRB-", ".", "The", "response", "to", "a", "test", "message", "sent", "by", "a", "node", "in", "F", "will", "not", "be", "delayed", "by", "any", "node", "with", "level", "number", "at", "least", "blog", "M", "?", "log", "log", "Mc", "-LRB-", "=", "blog", "-LRB-", "M", "=", "log", "M", "-RRB-", "c", "-RRB-", ".", "Since", "log", "N?log", "log", "N", ">", "=", "log", "M?log", "log", "M", "-LRB-", "log", "X", "?", "log", "log", "X", "is", "an", "increasing", "function", "of", "X", ",", "for", "X", ">", "2", "-RRB-", ",", "the", "response", "to", "a", "test", "message", "sent", "by", "a", "node", "in", "F", "will", "not", "be", "delayed", "by", "a", "node", "j", "in", "any", "fragment", "of", "size", "at", "least", "N", "=", "log", "N", "-LRB-", "since", "j0s", "level", "number", "will", "be", "at", "least", "blog", "-LRB-", "N", "=", "log", "N", "-RRB-", "c", "which", "is", "greater", "than", "blog", "-LRB-", "M", "=", "log", "M", "-RRB-", "c", "-RRB-", ".", "Thus", ",", "in", "the", "second", "stage", ",", "the", "response", "to", "a", "test", "message", "is", "not", "delayed", "on", "the", "basis", "of", "level", "numbers", ".", "Consider", "the", "case", "when", "node", "j", "at", "level", "lj", "receives", "a", "connect", "message", "from", "node", "i", "in", "a", "lower", "level", "fragment", "at", "level", "li", ".", "Since", "li", ">", "lj", "?", "log", "lj", ",", "j", "may", "ask", "i", "to", "count", "the", "number", "of", "nodes", "in", "its", "fragment", ",", "however", "it", "will", "not", "delay", "sending", "messages", "to", "its", "parent", ".", "Hence", "the", "execution", "is", "similar", "to", "that", "of", "Async", ".", "Therefore", ",", "this", "phase", "will", "require", "at", "most", "O", "-LRB-", "N", "-RRB-", "time", ".", "2", "Lemma", "5.4", "The", "time", "complexity", "of", "CompMST", "is", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", ".", "Proof", ":", "Consider", "the", "following", "modification", "of", "the", "proof", "of", "Lemma", "5.3", ".", "A", "fragment", "at", "level", "l", "at", "time", "tl", "will", "send", "a", "connect", "message", "within", "O", "-LRB-", "D", "+", "d", "-RRB-", "time", "units", "after", "time", "tl", ".", "Further", ",", "the", "depth", "of", "Cl", "for", "any", "l", "can", "not", "be", "greater", "than", "d.", "Hence", ",", "a", "node", "at", "level", "l", "will", "increase", "its", "level", "number", "within", "O", "-LRB-", "D", "+", "d", "-RRB-", "time", "after", "tl", ".", "Therefore", ",", "tl", "+1", "?", "tl", "=", "O", "-LRB-", "D", "+", "d", "-RRB-", ".", "Observe", "that", "this", "is", "true", "for", "all", "level", "numbers", "l", ",", "1", "<", "=", "l", "<", "=", "log", "N", ".", "Therefore", ",", "the", "protocol", "can", "take", "at", "most", "O", "-LRB-", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "time", "units", "since", "the", "level", "number", "can", "not", "exceed", "log", "N", ".", "Hence", "the", "time", "complexity", "of", "our", "protocol", "is", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "?", "log", "N", "-RRB-", "-RRB-", ".", "2", "6", "Discussion", "The", "time", "and", "message", "complexities", "of", "the", "protocols", "in", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", "are", "O", "-LRB-", "min", "-LRB-", "N", "log?N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "and", "O", "-LRB-", "E", "+", "N", "log", "N", "-RRB-", "respectively", ".", "Thus", ",", "for", "dense", "networks", "-LRB-", "whenever", "E", ">", "N", "log", "N", "=", "log", "log", "N", "-RRB-", ",", "the", "performance", "of", "CompMST", "is", "better", ".", "However", ",", "for", "sparse", "networks", ",", "CompMST", "improves", "the", "time", "complexity", "by", "a", "factor", "of", "log?N", "at", "the", "expense", "of", "increasing", "the", "message", "complexity", "by", "a", "factor", "of", "log", "N", "=", "log", "log", "N", ".", "In", "the", "following", ",", "we", "give", "a", "modification", "of", "our", "protocol", "to", "reduce", "this", "factor", ".", "We", "modify", "CompMST", "as", "follows", ":", "In", "CompMST", ",", "the", "response", "to", "a", "test", "message", "with", "level", "number", "l", "is", "delayed", "by", "a", "node", "if", "its", "level", "number", "is", "less", "than", "l", "?", "log", "l", ".", "We", "change", "this", "rule", "as", "follows", ":", "A", "response", "to", "a", "test", "message", "with", "level", "number", "l", "is", "delayed", "by", "a", "node", "if", "its", "level", "number", "is", "less", "than", "l", "?", "log", "log", "l.", "Furthermore", ",", "in", "the", "response", "to", "a", "connect", "message", ",", "the", "conditions", "for", "cases", "-LRB-", "2b", "-RRB-", "and", "-LRB-", "2c", "-RRB-", "are", "changed", "to", "li", "<", "lj?log", "log", "lj", "-LRB-", "for", "case", "2b", "-RRB-", "and", "lj", ">", "=", "li", ">", "=", "lj?log", "log", "lj", "-LRB-", "for", "case", "2c", "-RRB-", "respectively", ".", "This", "change", "makes", "the", "protocol", "more", "synchronous", "-LRB-", "since", "the", "difference", "in", "level", "numbers", "of", "combining", "fragments", "is", "reduced", "-RRB-", "and", "this", "results", "in", "a", "reduction", "in", "the", "message", "complexity", ".", "The", "message", "complexity", "of", "the", "resulting", "protocol", "is", "O", "-LRB-", "E+N", "log", "N", "log", "log", "N", "=", "log", "log", "log", "N", "-RRB-", ".", "The", "analysis", "is", "similar", "to", "that", "in", "Lemma", "5.1", "-LRB-", "the", "term", "L", "will", "now", "be", "lower", "bounded", "by", "O", "-LRB-", "2l", "log", "log", "l", "=", "log", "l", "-RRB-", "-RRB-", ".", "The", "time", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", ".", "The", "analysis", "involves", "dividing", "the", "execution", "of", "the", "protocol", "into", "three", "stages", ":", "The", "first", "stage", "is", "the", "computation", "up", "to", "the", "point", "at", "which", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "N", ".", "The", "second", "stage", "begins", "after", "the", "first", "stage", "and", "continues", "until", "all", "fragments", "have", "size", "at", "least", "N", "=", "log", "log", "N", ".", "The", "third", "stage", "involves", "the", "rest", "of", "the", "execution", ".", "The", "analysis", "of", "the", "first", "and", "the", "second", "stage", "is", "similar", "to", "the", "anlaysis", "of", "the", "first", "stage", "in", "Lemma", "5.3", ".", "Each", "of", "these", "stages", "require", "O", "-LRB-", "N", "-RRB-", "time", ".", "In", "the", "third", "stage", ",", "the", "algorithm", "behaves", "exactly", "as", "Async", "and", "has", "time", "complexity", "of", "O", "-LRB-", "N", "-RRB-", ".", "From", "an", "analysis", "similar", "to", "that", "of", "Lemma", "5.4", ",", "the", "time", "complexity", "of", "the", "protocol", "is", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", ".", "7", "Conclusion", "In", "this", "paper", ",", "we", "have", "presented", "a", "protocol", "for", "constructing", "a", "minimum-weight", "spanning", "tree", "in", "a", "general", "network", ".", "In", "-LSB-", "5", "-RSB-", ",", "a", "protocol", "for", "this", "problem", "was", "given", "and", "its", "time", "complexity", "was", "shown", "to", "be", "O", "-LRB-", "N", "log", "N", "-RRB-", ".", "-LSB-", "1", "-RSB-", "proposed", "a", "protocol", "which", "requires", "O", "-LRB-", "N", "-RRB-", "time", ".", "We", "showed", "that", "the", "time", "complexity", "of", "the", "protocol", "in", "-LSB-", "5", "-RSB-", "can", "also", "be", "expressed", "as", "O", "-LRB-", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", ".", "This", "enabled", "us", "to", "conclude", "that", "the", "protocol", "in", "-LSB-", "5", "-RSB-", "will", "perform", "better", "than", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "whenever", "D", "+", "d", "is", "less", "than", "N", "=", "log", "N", ".", "Hence", ",", "the", "protocol", "in", "-LSB-", "1", "-RSB-", "is", "not", "optimal", "for", "a", "large", "class", "of", "networks", ".", "We", "first", "presented", "a", "fully", "asynchronous", "protocol", ",", "Async", ",", "which", "reqiures", "O", "-LRB-", "N2", "-RRB-", "messages", "and", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", ".", "We", "then", "combined", "the", "features", "of", "Async", "and", "the", "protocol", "in", "-LSB-", "2", "-RSB-", "-LSB-", "4", "-RSB-", "to", "obtain", "a", "protocol", ",", "CompMST", ",", "which", "requires", "O", "-LRB-", "min", "-LRB-", "N", ";", "-LRB-", "D", "+", "d", "-RRB-", "log", "N", "-RRB-", "-RRB-", "time", ".", "The", "time", "complexity", "of", "CompMST", "is", "equal", "to", "the", "protocol", "of", "-LSB-", "5", "-RSB-", "for", "networks", "in", "which", "D", "+", "d", "is", "less", "than", "N", "=", "log", "N", "and", "to", "the", "protocol", "of", "-LSB-", "1", "-RSB-", "for", "networks", "in", "which", "D", "+", "d", "is", "greater", "than", "N", "=", "log", "N", ".", "The", "message", "complexity", "of", "CompMST", "is", "O", "-LRB-", "E", "+", "N", "log", "N", "log", "N", "=", "log", "log", "N", "-RRB-", ",", "which", "is", "optimal", "for", "networks", "in", "which", "E", ">", "N", "log", "N", "log", "N", "=", "log", "log", "N", ".", "References", "-LSB-", "1", "-RSB-", "Awerbuch", ",", "B.", "Optimal", "distributed", "algorithms", "for", "minimal", "weight", "spanning", "tree", ",", "counting", ",", "leader", "election", "and", "related", "problems", ".", "In", "Proceedings", "of", "the", "ACM", "Sym", ".", "on", "Theory", "of", "Computing", ",", "1987", ".", "-LSB-", "2", "-RSB-", "Chin", ",", "F.", "and", "Ting", ",", "H.F.", ".", "An", "almost", "linear", "time", "and", "o", "-LRB-", "nlogn", "+", "e", "-RRB-", "messages", "distributed", "algorithm", "for", "minimum-weight", "spanning", "trees", ".", "In", "Proc", ".", "of", "the", "IEEE", "Sym", ".", "on", "FOCS", ",", "1985", ".", "-LSB-", "3", "-RSB-", "Frederickson", ",", "G.", "and", "Lynch", ",", "N", ".", "The", "impact", "of", "synchronous", "communication", "on", "the", "problem", "of", "electing", "a", "leader", "in", "a", "ring", ".", "In", "Proceedings", "of", "ACM", "Sym", ".", "on", "Theory", "of", "Computing", ",", "1984", ".", "-LSB-", "4", "-RSB-", "Gafni", ",", "E.", "Improvement", "in", "the", "time", "complexities", "of", "two", "message", "optimal", "protocols", ".", "In", "Proceedings", "of", "the", "ACM", "Symp", ".", "on", "Principles", "of", "Distributed", "Computing", ",", "1985", ".", "-LSB-", "5", "-RSB-", "Gallager", ",", "R.G.", ",", "Humblet", ",", "P.A.", ",", "and", "Spira", ",", "P.M.", ".", "A", "distributed", "algorithm", "for", "minimal", "spanning", "tree", ".", "ACM", "Transaction", "on", "Programming", "Languages", "and", "Systems", ",", "30", "-LRB-", "12", "-RRB-", ",", "Dec.", "1983", ".", "5", "Figure", "1", ":", "Example", "illustrating", "the", "merge", "of", "F", "and", "G.", "Figure", "2", ":", "Fragments", "F1", ";", ":", ":", ":", ";", "Fm", "are", "absorbed", "in", "G.", "Figure", "3", ":", "G", "absorbs", "C", "after", "finishing", "first", "phase", "." ]

[ "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B", "I", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Learning", "Object-Oriented", "Software", "Development", "with", "the", "Demeter", "Method", "Karl", "J.", "Lieberherr", "Director", ",", "Center", "for", "Software", "Sciences", "Northeastern", "University", ",", "College", "of", "Computer", "Science", "Cullinane", "Hall", ",", "360", "Huntington", "Ave.", ",", "Boston", "MA", "02115", "lieber@corwin.CCS.northeastern.EDU", "phone", ":", "-LRB-", "617", "-RRB-", "437", "20", "77", "FAX", ":", "-LRB-", "617", "-RRB-", "437", "51", "21", "September", "21", ",", "1992", "Texed", "at", "10:09", "September", "21", ",", "1992", "Copyright", "c", "1991", "Karl", "Lieberherr", ",", "all", "rights", "reserved", ".", "Abstract", "We", "describe", "how", "we", "teach", "the", "Demeter", "Method", "for", "object-oriented", "software", "development", "to", "undergraduate", "and", "graduate", "students", ".", "This", "paper", "presents", "a", "refinement", "of", "the", "teaching", "approach", "outlined", "in", "-LSB-", "LR89", "-RSB-", ".", "1", "Introduction", "The", "Center", "for", "Software", "Sciences", "has", "been", "actively", "involved", "in", "several", "industrial", ",", "research", "and", "teaching", "projects", "using", "object-oriented", "technology", ".", "In", "this", "process", ",", "the", "Demeter", "System", "for", "object-oriented", "analysis", ",", "design", "and", "programming", "was", "developed", ".", "The", "Demeter", "System", "consists", "of", "the", "Demeter", "Method", "and", "the", "Demeter", "Tools", ".", "The", "Method", "is", "programming-language", "independent", ";", "the", "Tools", "support", "the", "Method", "on", "the", "UNIX", "operating", "system", ".", "The", "Demeter", "System/C", "+", "+", "applies", "the", "Method", "to", "C++", "software", "development", "and", "the", "Demeter", "Tools/C", "+", "+", "allow", "the", "checking", "of", "high-level", "programs", "at", "several", "levels", "of", "abstraction", "and", "they", "provide", "C++", "software", "for", "manipulating", "objects", "defined", "by", "the", "high-level", "programs", ".", "The", "research", "and", "the", "development", "of", "the", "Demeter", "System/C", "+", "+", "has", "progressed", "for", "six", "years", ".", "At", "this", "stage", "it", "presents", "an", "integrated", "and", "polished", "approach", "to", "object-oriented", "C++", "software", "development", "which", "is", "valuable", "for", "numerous", "industrial", "software", "projects", "which", "use", "C++", "technology", ".", "By", "using", "novel", "abstractions", "such", "as", "class", "dictionaries", "and", "propagation", "patterns", ",", "the", "C++", "software", "development", "time", "is", "significantly", "reduced", ".", "Furthermore", ",", "the", "Demeter", "System", "is", "ideal", "for", "learning", "of", "object-oriented", "technology", "since", "it", "breaks", "the", "material", "into", "easy", "to", "learn", "behavioral", "objectives", "and", "by", "providing", "tools", "which", "help", "you", "master", "those", "objectives", ".", "The", "Demeter", "Method", "was", "developed", "with", "the", "objective", "to", "significantly", "improve", "the", "productiveness", "of", "software", "engineers", "with", "minimal", "training", "costs", ".", "We", "have", "tested", "the", "adequacy", "of", "our", "system", "in", "numerous", "academic", "and", "industrial", "courses", "and", "projects", "and", "found", "that", "we", "can", "effectively", "teach", "our", "method", "in", "about", "five", "weeks", "with", "three", "hours", "of", "lectures", "per", "week", "and", "hands-on", "exercises", ".", "In", "the", "remaining", "five", "weeks", ",", "the", "students", "do", "a", "project", "of", "significant", "size", "which", "would", "be", "impossible", "to", "complete", "without", "the", "Demeter", "System", "in", "the", "available", "time", ".", "We", "use", "the", "same", "method", "in", "both", "a", "junior", "level", "undergraduate", "and", "a", "graduate", "course", "but", "with", "more", "emphasis", "on", "the", "theory", "in", "the", "graduate", "course", ".", "A", "small", "project", "version", "of", "the", "system", "and", "several", "papers", "on", "the", "system", "are", "available", "by", "ftp", "-LSB-", "LBH", "+91", "-RSB-", ".", "A", "survey", "of", "the", "system", "is", "in", "-LSB-", "HSX91", "-RSB-", "which", "is", "also", "available", "by", "ftp", ".", "2", "Expanded", "Syllabus", "The", "syllabus", "is", "outlined", "by", "the", "five", "homeworks", "which", "the", "students", "write", ":", "ffl", "Writing", "a", "simple", "C++", "program", "without", "using", "virtual", "functions", ".", "ffl", "Writing", "a", "simple", "C++", "program", "with", "virtual", "functions", ".", "Learning", "classes", "from", "objects", ".", "ffl", "Spending", "a", "few", "hours", "in", "writing", "a", "part", "of", "a", "larger", "C++", "program", ".", "Writing", "and", "debugging", "class", "dictionaries", ".", "ffl", "Implementing", "the", "C++", "program", "from", "the", "previous", "week", "with", "propagation", "patterns", ".", "ffl", "Writing", "C++", "programs", "with", "propagation", "patterns", "and", "testing", "them", "with", "growth", "plans", ".", "The", "rationale", "behind", "this", "assignment", "sequence", "is", "to", "give", "the", "students", "the", "confidence", "that", "they", "can", "write", "simple", "C++", "programs", ".", "After", "they", "have", "learned", "important", "high-level", "concepts", "such", "as", "class", "dictionaries", "-LSB-", "Lie88", ",", "LBSL91", "-RSB-", "and", "propagation", "patterns", "-LSB-", "LXSL91", ",", "LHSLX92", ",", "Lie92", "-RSB-", ",", "they", "can", "then", "suddenly", ",", "by", "using", "the", "Demeter", "Tools/C", "+", "+", ",", "write", "much", "larger", "C++", "programs", "-LRB-", "containing", "thousands", "of", "lines", "of", "code", "-RRB-", ".", "First", "we", "teach", "the", "basic", "concepts", "of", "object-oriented", "programming", ":", "classes", "with", "part-of", "and", "kind-of", "relationships", ",", "methods", ",", "inheritance", ",", "and", "delayed", "binding", "and", "we", "show", "how", "they", "are", "expressed", "in", "C++", ".", "We", "teach", "only", "a", "small", "subset", "of", "C++", "which", "is", "available", "in", "similar", "form", "in", "many", "other", "object-oriented", "languages", ",", "such", "as", "Smalltalk-80", "and", "CLOS", ".", "The", "introduction", "of", "C++", "is", "building", "on", "knowledge", "of", "C", "and/or", "Pascal", ".", "In", "homework", "one", "the", "students", "complete", "a", "simple", "C++", "program", "without", "inheritance", "and", "without", "virtual", "functions", ",", "such", "as", "a", "program", "to", "compute", "the", "size", "of", "a", "tree", ".", "They", "only", "write", "the", "class", "definitions", "and", "they", "get", "the", "C++", "code", "for", "constructing", "an", "object", "and", "the", "member", "function", "implementations", ".", "In", "homework", "two", ",", "the", "students", "complete", "a", "more", "complex", "C++", "program", "with", "virtual", "functions", ",", "such", "as", "a", "simple", "pocket", "calculator", ".", "Inheritance", "is", "only", "used", "to", "define", "the", "virtual", "functions", "but", "not", "to", "express", "common", "functionality", ".", "In", "the", "second", "part", "of", "the", "homework", ",", "students", "write", "object", "graphs", "for", "several", "domains", "and", "they", "learn", "class", "dictionary", "graphs", "from", "them", "-LSB-", "LBSL91", ",", "BL91", "-RSB-", ".", "Domains", "include", ":", "C++", "programs", ",", "binary", "trees", ",", "linked", "lists", "and", "a", "domain", "of", "their", "choice", "-LRB-", "an", "orchestra", ",", "golf", "course", ",", "chess", "board", "etc.", "-RRB-", ".", "In", "homeworks", "one", "and", "two", "the", "students", "have", "seen", "how", "tedious", "it", "is", "to", "describe", "objects", "in", "C++", ".", "We", "take", "this", "experience", "to", "motivate", "class", "dictionaries", ".", "A", "class", "dictionary", "is", "a", "class", "dictionary", "graph", "with", "concrete", "syntax", "added", "to", "define", "an", "application", "specific", "language", "for", "describing", "objects", "in", "declarative", "form", ".", "The", "language", "consists", "of", "a", "set", "of", "sentences", "which", "can", "be", "automatically", "parsed", "into", "objects", ".", "In", "connection", "with", "class", "dictionaries", "we", "discuss", "printing", "and", "parsing", "and", "ambiguity", "of", "class", "dictionaries", ".", "We", "also", "cover", "learning", "of", "class", "dictionaries", "from", "object-graphs", "with", "syntax", ".", "We", "clarify", "now", "the", "informal", "syntax", "definition", "for", "class", "dictionaries", "and", "object", "graphs", "by", "showing", "them", "a", "class", "dictionary", "for", "class", "dictionaries", "and", "object", "graphs", ".", "In", "homework", "three", ",", "the", "students", "work", "on", "a", "C++", "program", "with", "over", "a", "dozen", "classes", ".", "They", "are", "set", "a", "time", "limit", "and", "are", "not", "expected", "to", "complete", "the", "program", "in", "the", "given", "time", "frame", ".", "A", "good", "example", "is", "to", "compute", "the", "total", "salary", "in", "a", "conglomerate", "of", "companies", ".", "In", "addition", ",", "the", "students", "learn", "to", "dubug", "class", "dictionaries", "by", "writing", "sentences", "in", "an", "application", "specific", "language", "and", "by", "checking", "whether", "the", "corresponding", "objects", "can", "be", "represented", "by", "the", "class", "dictionary", ".", "The", "class", "dictionary", "graph", "from", "homework", "two", "is", "enhanced", "to", "a", "class", "dictionary", "and", "the", "students", "write", "sentences", "for", "the", "resulting", "class", "dictionary", ".", "In", "homework", "four", "the", "students", "complete", "the", "task", "which", "they", "could", "not", "complete", "in", "homework", "three", "by", "using", "a", "new", "programming", "technique", ",", "called", "propagation", "patterns", ".", "They", "encourage", "students", "to", "thinking", "in", "groups", "of", "collaborating", "classes", "with", "the", "same", "interface", ".", "With", "the", "new", "technique", ",", "the", "programming", "task", "from", "the", "last", "homework", "is", "easily", "solved", ".", "We", "introduce", "propagation", "patterns", "by", "showing", "first", "the", "traverse", "function", "for", "some", "class", "dictionary", "graph", ".", "The", "traverse", "function", "traverses", "an", "object", "in", "preorder", "and", "its", "code", "is", "a", "simple", "translation", "of", "the", "class", "dictionary", "graph", ".", "Propagation", "patterns", "use", "the", "traverse", "function", "idea", "to", "generate", "the", "default", "bodies", "for", "the", "classes", "in", "a", "propagation", "graph", ".", "Next", "we", "show", "how", "to", "specify", "propagation", "graphs", "with", "propagation", "directives", "of", "the", "simple", "*", "from", "*", "A", "*", "to", "*", "B", "form", ".", "This", "requires", "the", "introduction", "of", "inheritance", "edges", "which", "are", "reversed", "alternation", "edges", ".", "And", "we", "show", "how", "the", "generated", "default", "bodies", "of", "the", "propagated", "interfaces", "can", "be", "overriden", "with", "primary", ",", "before", "and", "after", "code", "fragments", ".", "To", "debug", "propagation", "pattern", "code", ",", "we", "introduce", "top-down", "growth", "plans", ".", "A", "top-down", "growth", "plan", "consists", "of", "a", "sequence", "of", "larger", "and", "larger", "partial", "class", "dictionary", "graphs", "all", "anchored", "at", "the", "same", "class", ".", "A", "partial", "class", "dictionary", "graph", "anchored", "at", "some", "class", "v", "contains", "enough", "classes", "to", "build", "at", "least", "one", "object", "of", "class", "v.", "Equiped", "with", "propagation", "patterns", ",", "students", "solve", "several", "small", "tasks", "in", "homework", "five", ".", "Good", "examples", "are", ",", "e.g.", ",", "1", ".", "writing", "a", "simple", "compiler", "for", "postfix", "expressions", "by", "generating", "code", "for", "a", "stack", "machine", ",", "2", ".", "computing", "the", "size", "of", "postfix", "expressions", ",", "3", ".", "computing", "the", "size", "of", "a", "class", "dictionary", "graph", "by", "using", "a", "class", "dictionary", "graph", "which", "describes", "class", "dictionary", "graphs", ".", "After", "homework", "five", ",", "students", "select", "a", "project", "from", "my", "list", "or", "they", "create", "one", "themselves", "which", "is", "related", "to", "their", "COOP", "and/or", "work", "experience", ".", "While", "they", "work", "on", "the", "projects", ",", "I", "give", "lectures", "on", "a", "variety", "of", "object-oriented", "design", "topics", "which", "help", "them", "doing", "their", "projects", ".", "ffl", "Finding", "the", "first", "prototype", ":", "simplifying", "the", "data", "-LRB-", "with", "growth", "plans", "-RRB-", "and", "additionally", "simplifying", "the", "functionality", ",", "if", "needed", ".", "ffl", "Parameterized", "classes", ",", "repetition", "classes", "and", "optional", "parts", ".", "ffl", "Class", "dictionary", "transformations", ":", "Object-equivalence", ",", "optimization", "of", "class", "dictionaries", "-LRB-", "common", "normal", "form", ",", "consolidation", "of", "alternatives", ",", "tree", "property", "-RRB-", ",", "flattening", ",", "weak", "extension", ",", "extension", "-LSB-", "LBSL91", ",", "BL91", ",", "Ber91", "-RSB-", ".", "ffl", "The", "Law", "of", "Demeter", "for", "functions", "-LRB-", "object/class", "and", "weak/strong", "form", "-RRB-", "-LSB-", "LHR88", ",", "LH89", "-RSB-", "and", "its", "relationship", "to", "propagation", "patterns", ".", "ffl", "The", "Law", "of", "Demeter", "for", "classes", "-LSB-", "LX93", "-RSB-", ".", "ffl", "Propagation", "pattern", "transformations", ":", "equivalence", "of", "propagation", "directives", ",", "adding", "*", "bypassing", "*", ",", "*", "through", "*", "and", "*", "to-stop", "*", ".", "ffl", "Propagation", "graph", "programs", ",", "introducing", "derived", "edges", ".", "ffl", "Testing", "of", "object-oriented", "programs", ",", "minimally", "adequate", "test", "sets", "and", "their", "relationship", "to", "class", "dictionary", "learning", ".", "ffl", "Propagation", "graph", "programs", "and", "their", "evolution", "and", "reuse", ",", "splitting", "a", "project", "into", "subprojects", ",", "relationship", "to", "growth", "plans", ".", "ffl", "Case", "studies", ":", "program", "evolution", "and", "modeling", "the", "design", "process", ".", "3", "Miscelleanous", "As", "text", "book", "we", "use", "any", "good", "C++", "book", "such", "as", "-LSB-", "Lip89", "-RSB-", ".", "In", "addition", ",", "the", "manuscript", "of", "a", "textbook", "on", "the", "Demeter", "Method", "is", "used", ",", "as", "well", "as", "selected", "papers", "from", "the", "literature", ".", "The", "material", "has", "been", "divided", "into", "about", "80", "behavioral", "objectives", ",", "each", "covering", "a", "simple", "learning", "unit", ".", "For", "example", ",", "the", "legal", "object", "objective", "asks", "students", "to", "determine", "whether", "a", "given", "object", "graph", "is", "legal", "with", "respect", "to", "a", "class", "dictionary", "graph", ".", "These", "objectives", "are", "tested", "in", "a", "midterm", "and", "final", "exam", ".", "Many", "of", "the", "objectives", "are", "handled", "by", "the", "Demeter", "Tools/C", "+", "+", "which", "support", "the", "Demeter", "Method", "on", "UNIX", "platforms", "with", "C++", ".", "Therefore", ",", "the", "tools", "are", "also", "an", "effective", "learning", "aid", ",", "besides", "facilitating", "the", "programming", "process", ".", "The", "course", "relies", "on", "the", "Demeter", "Tools/C", "+", "+", "and", "their", "documentation", ".", "Each", "tool", "has", "a", "man", "page", "and", "many", "tools", "are", "explained", "by", "a", "gentle", "introduction", "which", "shows", "how", "to", "use", "the", "tool", "in", "typical", "situations", ".", "We", "also", "use", "an", "overall", "gentle", "introduction", "to", "the", "Demeter", "Tools", "which", "guides", "the", "student", "through", "a", "typical", "scenario", "of", "tool", "usage", ".", "To", "help", "the", "students", "with", "tool", "usage", ",", "we", "offer", "three", "hands-on", "sessions", ".", "4", "Conclusions", "We", "have", "outlined", "how", "we", "teach", "a", "novel", "way", "of", "developing", "object-oriented", "software", "which", "treats", "C++", "merely", "as", "an", "assembly", "language", ".", "A", "lot", "of", "the", "work", "is", "done", "at", "a", "higher", "level", "of", "abstraction", "with", "class", "dictionaries", "and", "propagation", "graphs", ".", "This", "higher", "level", "of", "abstraction", "leads", "to", "easier", "and", "safer", "software", "development", "which", "is", "straightforward", "to", "teach", "and", "which", "can", "be", "used", "effectively", "by", "both", "freshman", "and", "Ph.D.", "students", ".", "The", "Demeter", "System", ",", "consisting", "of", "the", "Method", "and", "the", "Tools", ",", "was", "developed", "to", "be", "a", "software", "development", "system", "which", "is", "easy", "to", "learn", "and", "which", "is", "useful", "quickly", "for", "a", "variety", "of", "object-oriented", "languages", ".", "Acknowledgements", ":", "I", "would", "like", "to", "thank", "my", "Ph.D.", "students", "for", "actively", "developing", "the", "theory", "behind", "our", "system", "and", "for", "constantly", "improving", "the", "implementation", ".", "The", "theory", "is", "the", "foundation", "which", "makes", "our", "system", "elegant", "and", "easy", "to", "use", ".", "Linda", "Seiter", "suggested", "that", "the", "students", "should", "first", "hand-code", "simple", "C++", "programs", "to", "experience", "the", "benefits", "of", "the", "tools", ".", "This", "work", "is", "supported", "in", "part", "by", "IBM", "Yorktown", "and", "IBM", "Mid-Hudson", "Valley", ",", "Mettler-Toledo", "and", "the", "National", "Science", "Foundation", "under", "grants", "CCR-9102578", "-LRB-", "Software", "Engineering", "-RRB-", "and", "CDA-9015692", "-LRB-", "Research", "Instrumentation", "-RRB-", ".", "References", "-LSB-", "Ber91", "-RSB-", "Paul", "Bergstein", ".", "Object-preserving", "class", "transformations", ".", "In", "Object-Oriented", "Programming", "Systems", ",", "Languages", "and", "Applications", "Conference", ",", "in", "Special", "Issue", "of", "SIGPLAN", "Notices", ",", "pages", "299", "-LCB-", "313", ",", "Phoenix", ",", "Arizona", ",", "1991", ".", "ACM", "Press", ".", "SIGPLAN", "Notices", ",", "Vol", ".", "26", ",", "11", "-LRB-", "November", "-RRB-", ".", "-LSB-", "BL91", "-RSB-", "Paul", "Bergstein", "and", "Karl", "Lieberherr", ".", "Incremental", "class", "dictionary", "learning", "and", "optimization", ".", "In", "European", "Conference", "on", "Object-Oriented", "Programming", ",", "pages", "377", "-LCB-", "396", ",", "Geneva", ",", "Switzerland", ",", "1991", ".", "Springer", "Verlag", ".", "-LSB-", "HSX91", "-RSB-", "Walter", "L.", "H?ursch", ",", "Linda", "M.", "Seiter", ",", "and", "Cun", "Xiao", ".", "In", "any", "CASE", ":", "Demeter", ".", "The", "American", "Programmer", ",", "4", "-LRB-", "10", "-RRB-", ":46", "-LCB-", "56", ",", "October", "1991", ".", "-LSB-", "LBH", "+91", "-RSB-", "Karl", "Lieberherr", ",", "Paul", "Bergstein", ",", "Ian", "Holland", ",", "Walter", "H?ursch", ",", "Ignacio", "Silva-Lepe", ",", "Linda", "Seiter", ",", "and", "Cun", "Xiao", ".", "Demeter", "papers", "and", "license", "agreement", ".", "In", "FTP", "distribution", "from", "ftp.ccs.northeastern.edu", "or", "129.10.10.51", "in", "pub/demeter", ".", "Northeastern", "University", ",", "1991", ".", "-LSB-", "LBSL91", "-RSB-", "Karl", "J.", "Lieberherr", ",", "Paul", "Bergstein", ",", "and", "Ignacio", "Silva-Lepe", ".", "From", "objects", "to", "classes", ":", "Algorithms", "for", "object-oriented", "design", ".", "Journal", "of", "Software", "Engineering", ",", "6", "-LRB-", "4", "-RRB-", ":205", "-LCB-", "228", ",", "July", "1991", ".", "-LSB-", "LH89", "-RSB-", "Karl", "J.", "Lieberherr", "and", "Ian", "Holland", ".", "Assuring", "good", "style", "for", "object-oriented", "programs", ".", "IEEE", "Software", ",", "pages", "38", "-LCB-", "48", ",", "September", "1989", ".", "-LSB-", "LHR88", "-RSB-", "Karl", "J.", "Lieberherr", ",", "Ian", "Holland", ",", "and", "Arthur", "J.", "Riel", ".", "Object-oriented", "programming", ":", "An", "objective", "sense", "of", "style", ".", "In", "Object-Oriented", "Programming", "Systems", ",", "Languages", "and", "Applications", "Conference", ",", "in", "Special", "Issue", "of", "SIGPLAN", "Notices", ",", "number", "11", ",", "pages", "323", "-LCB-", "334", ",", "San", "Diego", ",", "CA.", ",", "September", "1988", ".", "A", "short", "version", "of", "this", "paper", "appears", "in", "IEEE", "Computer", ",", "June", "88", ",", "Open", "Channel", "section", ",", "pages", "78-79", ".", "-LSB-", "LHSLX92", "-RSB-", "Karl", "J.", "Lieberherr", ",", "Walter", "H?ursch", ",", "Ignacio", "Silva-Lepe", ",", "and", "Cun", "Xiao", ".", "Experience", "with", "a", "graphbased", "propagation", "pattern", "programming", "tool", ".", "In", "International", "Workshop", "on", "CASE", ",", "pages", "114", "-LCB-", "119", ",", "Montr?eal", ",", "Canada", ",", "1992", ".", "IEEE", "Computer", "Society", ".", "-LSB-", "Lie88", "-RSB-", "Karl", "J.", "Lieberherr", ".", "Object-oriented", "programming", "with", "class", "dictionaries", ".", "Journal", "on", "Lisp", "and", "Symbolic", "Computation", ",", "1", "-LRB-", "2", "-RRB-", ":185", "-LCB-", "212", ",", "1988", ".", "-LSB-", "Lie92", "-RSB-", "Karl", "J.", "Lieberherr", ".", "Component", "enhancement", ":", "An", "adaptive", "reusability", "mechanism", "for", "groups", "of", "collaborating", "classes", ".", "In", "J.", "van", "Leeuwen", ",", "editor", ",", "Information", "Processing", "'", "92", ",", "12th", "World", "Computer", "Congress", ",", "pages", "179", "-LCB-", "185", ",", "Madrid", ",", "Spain", ",", "1992", ".", "Elsevier", ".", "-LSB-", "Lip89", "-RSB-", "S.B.", "Lippman", ".", "C++", "Primer", ".", "Addison", "Wesley", ",", "1989", ".", "second", "edition", ".", "-LSB-", "LR89", "-RSB-", "Karl", "J.", "Lieberherr", "and", "Arthur", "J.", "Riel", ".", "Contributions", "to", "teaching", "object-oriented", "design", "and", "programming", ".", "In", "Object-Oriented", "Programming", "Systems", ",", "Languages", "and", "Applications", "Conference", ",", "in", "Special", "Issue", "of", "SIGPLAN", "Notices", ",", "pages", "11", "-LCB-", "22", ",", "October", "1989", ".", "-LSB-", "LX93", "-RSB-", "Karl", "J.", "Lieberherr", "and", "Cun", "Xiao", ".", "Formal", "Foundations", "for", "Object-Oriented", "Data", "Modeling", ".", "IEEE", "Transactions", "on", "Knowledge", "and", "Data", "Engineering", ",", "June", "1993", ".", "accepted", "for", "publication", "May", "1991", ".", "-LSB-", "LXSL91", "-RSB-", "Karl", "Lieberherr", ",", "Cun", "Xiao", ",", "and", "Ignacio", "Silva-Lepe", ".", "Propagation", "patterns", ":", "Graph-based", "specifications", "of", "cooperative", "behavior", ".", "Technical", "Report", "NU-CCS-91-14", ",", "Northeastern", "University", ",", "September", "1991", ".", "Contents", "1", "Introduction", "1", "2", "Expanded", "Syllabus", "2", "3", "Miscelleanous", "4", "4", "Conclusions", "4" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]