Datasets:

anlp

/

sentence_anno

like 0

Follow

anlp team project 4

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "338–350", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "Text", "Adversarial", "Purification", "as", "Defense", "against", "Adversarial", "Attacks", "Linyang", "Li", "Demin", "Song", ",", "Xipeng", "Qiu", "School", "of", "Computer", "Science", ",", "Fudan", "University", "Shanghai", "Key", "Laboratory", "of", "Intelligent", "Information", "Processing", ",", "Fudan", "University", "{", "linyangli19", ",", "dmsong20", ",", "xpqiu", "}", "@", "fudan.edu.cn", "Abstract", "Adversarial", "purification", "is", "a", "successful", "defense", "mechanism", "against", "adversarial", "attacks", "without", "requiring", "knowledge", "of", "the", "form", "of", "the", "incom-", "ing", "attack" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Generally", ",", "adversarial", "purification", "aims", "to", "remove", "the", "adversarial", "perturbations", "therefore", "can", "make", "correct", "predictions", "based", "on", "the", "recovered", "clean", "samples" ]

[ "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Despite", "the", "success", "of", "adversarial", "purification", "in", "the", "com-", "puter", "vision", "field", "that", "incorporates", "generative", "models", "such", "as", "energy", "-", "based", "models", "and", "dif-", "fusion", "models", ",", "using", "purification", "as", "a", "defense", "strategy", "against", "textual", "adversarial", "attacks", "is", "rarely", "explored" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "In", "this", "work", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "that", "fo-", "cuses", "on", "defending", "against", "textual", "adversarial", "attacks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "With", "the", "help", "of", "language", "models", ",", "we", "can", "inject", "noise", "by", "masking", "input", "texts", "and", "reconstructing", "the", "masked", "texts", "based", "on", "the", "masked", "language", "models", "In", "this", "way", ",", "we", "con-", "struct", "an", "adversarial", "purification", "process", "for", "textual", "models", "against", "the", "most", "widely", "used", "word", "-", "substitution", "adversarial", "attacks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "We", "test", "our", "proposed", "adversarial", "purification", "method", "on", "several", "strong", "adversarial", "attack", "methods", "in-", "cluding", "Textfooler", "and", "BERT", "-", "Attack", "and", "exper-", "imental", "results", "indicate", "that", "the", "purification", "al-", "gorithm", "can", "successfully", "defend", "against", "strong", "word", "-", "substitution", "attacks" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "1", "Introduction", "Adversarial", "examples", "(", "Goodfellow", "et", "al", ",", "2014", ")", "can", "successfully", "mislead", "strong", "neural", "models", "in", "both", "computer", "vision", "tasks", "(", "Carlini", "and", "Wagner", ",", "2016", ")", "and", "language", "understanding", "tasks", "(", "Alzantot", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ ",", "2018", ";", "Jin", "et", "al", ",", "2019", ")", "An", "adversarial", "example", "is", "a", "maliciously", "crafted", "example", "attached", "with", "an", "imperceptible", "perturbation", "and", "can", "mislead", "neural", "networks", "To", "defend", "attack", "examples", "of", "images", ",", "the", "most", "effective", "method", "is", "adversarial", "training", "(", "Goodfellow", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2014", ";", "Madry", "et", "al", ",", "2019", ")", "which", "is", "a", "mini", "-", "max", "game", "used", "to", "incorporate", "perturba-", "tions", "into", "the", "training", "process", "Defending", "adversarial", "attacks", "is", "extremely", "im-", "portant", "in", "improving", "model", "robustness" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "How-", "ever", ",", "defending", "adversarial", "examples", "in", "natural", "languages", "is", "more", "challenging", "due", "to", "the", "discrete", "nature", "of", "texts", "That", "is", ",", "gradients", "can", "not", "be", "used", "directly", "in", "crafting", "perturbations", "The", "substitution-", "based", "adversarial", "examples", "are", "more", "complicated", "than", "gradient", "-", "based", "adversarial", "examples", "in", "im-", "ages", ",", "making", "it", "difficult", "for", "neural", "networks", "to", "de-", "fend", "against", "these", "substitution", "-", "based", "attacks", "The", "first", "challenge", "of", "defending", "against", "adver-", "sarial", "attacks", "in", "NLP", "is", "that", "due", "to", "the", "discrete", "na-", "ture", ",", "these", "substitution", "-", "based", "adversarial", "examples", "can", "have", "substitutes", "in", "any", "token", "of", "the", "sentence", "and", "each", "substitute", "has", "a", "large", "candidate", "list", "This", "would", "cause", "a", "combinatorial", "explosion", "problem", ",", "making", "it", "hard", "to", "apply", "adversarial", "training", "meth-", "ods", "Strong", "attacking", "methods", "such", "as", "Jin", "et", "al", "(", "2019", ")", "show", "that", "using", "the", "crafted", "adversarial", "ex-", "amples", "as", "data", "augmentation", "in", "adversarial", "training", "can", "not", "effectively", "defend", "against", "these", "substitution-", "based", "attacks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Further", ",", "defending", "strategies", "such", "as", "adversarial", "training", "rely", "on", "the", "assumption", "that", "the", "candidate", "lists", "of", "the", "substitutions", "are", "accessible", "However", ",", "the", "candidate", "lists", "of", "the", "substitutions", "should", "notbe", "exposed", "to", "the", "target", "model", ";", "that", "is", ",", "the", "target", "model", "should", "be", "unfamiliar", "to", "the", "candi-", "date", "list", "of", "the", "adversarial", "examples", "In", "real", "-", "world", "defense", "systems", ",", "the", "defender", "is", "not", "aware", "of", "the", "strategy", "the", "potential", "attacks", "might", "use", ",", "so", "the", "as-", "sumption", "that", "the", "candidate", "list", "is", "available", "would", "significantly", "constrain", "the", "potential", "applications", "of", "these", "defending", "methods", "Considering", "that", "it", "is", "challenging", "to", "defend", "against", "textual", "adversarial", "attacks", "when", "the", "form", "of", "the", "attacks", "can", "not", "be", "acknowledged", "in", "advance", ",", "we", "introduce", "a", "novel", "adversarial", "purification", "method", "as", "a", "feasible", "defense", "mechanism", "against", "these", "at-", "tacks", "The", "adversarial", "purification", "method", "is", "to", "purify", "adversarially", "perturbed", "input", "samples", "before", "making", "predictions", "(", "Srinivasan", "et", "al", ",", "2021", ";", "Shi338", "et", "al", ",", "2021", ";", "Yoon", "et", "al", ",", "2021", ")", "The", "major", "works", "about", "adversarial", "purification", "focus", "on", "purifying", "continuous", "inputs", "such", "as", "images", ",", "therefore", "these", "works", "explore", "different", "generative", "models", "such", "as", "GANs", "(", "Samangouei", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2018", ")", ",", "energy", "-", "based", "models", "(", "EBMs", ")", "(", "LeCun", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ ",", "2006", ")", "and", "recently", "developed", "diffusion", "models", "(", "Song", "et", "al", ",", "2021", ";", "Nie", "et", "al", ",", "2022", ")", "However", ",", "in", "textual", "adversarial", "at-", "tacks", ",", "the", "inputs", "are", "discrete", "tokens", "which", "makes", "it", "more", "challenging", "to", "deploy", "previous", "adversarial", "purification", "methods", "Therefore", ",", "we", "introduce", "a", "purification", "mecha-", "nism", "with", "the", "help", "of", "masked", "language", "models", "We", "first", "consider", "the", "widely", "used", "masking", "process", "to", "inject", "noise", "into", "the", "input", ";", "then", "we", "recover", "the", "clean", "texts", "from", "the", "noisy", "inputs", "with", "the", "help", "of", "the", "masked", "language", "models", "(", "e.g", "a", "BERT", "(", "De-", "vlin", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O" ]

[ ",", "2018", ")", ")", "Further", ",", "considering", "that", "the", "iterative", "process", "in", "previous", "adversarial", "purifica-", "tion", "algorithms", "can", "be", "extremely", "costly", "(", "e.g", "a", "VP", "-", "SDE", "process", "in", "diffusion", "models", "(", "Song", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ")", ")", ",", "we", "instead", "simplify", "the", "iterative", "process", "to", "an", "ensemble", "-", "purifying", "process", "that", "conducting", "adversarial", "purification", "multiple", "times", "to", "obtain", "an", "ensembled", "result", "as", "a", "compromise", "to", "the", "time", "cost", "in", "traditional", "adversarial", "purification", "process", "Through", "extensive", "experiments", ",", "we", "prove", "that", "the", "proposed", "text", "adversarial", "purification", "algorithm", "can", "successfully", "serve", "as", "defense", "against", "strong", "at-", "tacks", "such", "as", "Textfooler", "and", "BERT", "-", "Attack" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName" ]

[ "Exper-", "iment", "results", "show", "that", "the", "accuracy", "under", "attack", "in", "baseline", "defense", "methods", "is", "lower", "than", "random", "guesses", ",", "while", "after", "text", "purification", ",", "the", "perfor-", "mance", "can", "reach", "only", "a", "few", "percent", "lower", "than", "the", "original", "accuracy", "when", "the", "candidate", "range", "of", "the", "attack", "is", "limited", "Further", ",", "extensive", "results", "indicate", "that", "the", "candidate", "range", "of", "the", "attacker", "score", "is", "essential", "for", "successful", "attacks", ",", "which", "is", "a", "key", "fac-", "tor", "in", "maintaining", "the", "semantics", "of", "the", "adversaries", "Therefore", "we", "also", "recommend", "that", "future", "attacking", "methods", "can", "focus", "on", "achieving", "successful", "attacks", "with", "tighter", "constraints", "To", "summarize", "our", "contributions", ":", "(", "1", ")", "We", "raise", "the", "concern", "of", "defending", "substitution", "-", "based", "adversarial", "attacks", "without", "ac-", "knowledging", "the", "form", "of", "the", "attacks", "in", "NLP", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "(", "2", ")", "To", "the", "best", "of", "our", "knowledge", ",", "we", "are", "the", "first", "to", "consider", "adversarial", "purification", "as", "a", "defense", "against", "textual", "adversarial", "attacks", "exemplified", "by", "strong", "word", "-", "substitution", "attacks", "and", "combine", "text", "adversarial", "purification", "with", "pre", "-", "trained", "models.", "(", "3", ")", "We", "perform", "extensive", "experiments", "to", "demon-", "strate", "that", "the", "adversarial", "purification", "method", "is", "capable", "of", "defending", "strong", "adversarial", "attacks", ",", "which", "brings", "a", "new", "perspective", "to", "defending", "tex-", "tual", "adversarial", "attacks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "2", "Related", "Work", "2.1", "Adversarial", "Attacks", "in", "NLP", "In", "NLP", "tasks", ",", "current", "methods", "use", "substitution-", "based", "strategies", "(", "Alzantot", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2018", ";", "Jin", "et", "al", ",", "2019", ";", "Ren", "et", "al", ",", "2019", ")", "to", "craft", "adversarial", "exam-", "ples", "Most", "works", "focus", "on", "the", "score", "-", "based", "black-", "box", "attack", ",", "that", "is", ",", "attacking", "methods", "know", "the", "logits", "of", "the", "output", "prediction", "These", "methods", "use", "different", "strategies", "(", "Yoo", "et", "al", ",", "2020", ";", "Morris", "et", "al", ",", "2020b", ")", "to", "find", "words", "to", "replace", ",", "such", "as", "genetic", "algorithm", "(", "Alzantot", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2018", ")", ",", "greedy", "-", "search", "(", "Jin", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ";", "Li", "et", "al", ",", "2020", ")", "or", "gradient", "-", "based", "methods", "(", "Ebrahimi", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2017", ";", "Cheng", "et", "al", ",", "2019", ")", "and", "get", "substitutes", "using", "synonyms", "(", "Jin", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ";", "Mrkši", "´", "c", "et", "al", ",", "2016", ";", "Ren", "et", "al", ",", "2019", ")", "or", "language", "models", "(", "Li", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ";", "Shi", "et", "al", ",", "2019", ")", "2.2", "Adversarial", "Defenses", "We", "divide", "the", "defense", "methods", "for", "word-", "substitution", "attacks", "by", "whether", "the", "defense", "method", "requires", "knowledge", "of", "the", "form", "of", "the", "attack", "When", "the", "candidate", "list", "is", "known", ",", "recent", "works", "introduce", "defense", "strategies", "that", "incorporate", "the", "candidates", "of", "the", "words", "to", "be", "replaced", "as", "an", "aug-", "mentation", "Jin", "et", "al", "(", "2019", ")", ";", "Li", "et", "al", "(", "2020", ")", ";", "Si", "et", "al", "(", "2020", ")", "uses", "generated", "adversaries", "to", "augment", "the", "classifier", "for", "better", "defense", "performances", ";", "Jia", "et", "al", "(", "2019", ")", ";", "Huang", "et", "al", "(", "2019", ")", "introduce", "a", "certified", "robust", "model", "to", "construct", "a", "certified", "space", "within", "the", "range", "of", "a", "candidate", "list", "therefore", "the", "substitu-", "tions", "in", "the", "candidate", "list", "can", "not", "perturb", "the", "model", "Zhou", "et", "al", "(", "2020", ")", ";", "Dong", "et", "al", "(", "2021", ")", "construct", "a", "convex", "hull", "based", "on", "the", "candidate", "list", "which", "can", "resist", "substitutions", "in", "the", "candidate", "list", "To", "defend", "unknown", "attacks", ",", "NLP", "models", "can", "in-", "corporate", "gradient", "-", "based", "adversarial", "training", "strate-", "gies", "(", "Miyato", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2016", ";", "Madry", "et", "al", ",", "2019", ")", "since", "recent", "works", "(", "Ebrahimi", "et", "al", ",", "2017", ";", "Cheng", "et", "al", ",", "2019", ";", "Zhu", "et", "al", ",", "2019", ";", "Li", "and", "Qiu", ",", "2020", ")", "show", "that", "gradient", "-", "based", "adversarial", "training", "can", "also", "improve", "defense", "performances", "against", "word-", "substitution", "attacks.339", "Adversarial", "Image", "(", "Gibbon", ")", "Purified", "Image", "(", "Panda", ")", "a", "continuous", "image", "re", "-", "construct", "process", "from", "a", "noisy", "image", "e.g", "using", "Diffusion", "Models", "/", "Score", "-", "based", "Models", "I", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Adversarial", "Text", "(", "Negative", ")", "...", "I", "[", "MASK", "]", "the", "good", "common", "logical", "sense", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "realize", "...", "it", "is", "[", "MASK", "]", "I", "like", "...", "...", "...", "MLMI", "know", "the", "good", "common", "logical", "sense", "to", "sense", "...", "it", "is", "something", "I", "like", "...", "Purified", "TextsI", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "(", "Positive", ")", "I", "possess", "the", "good", "common", "logical", "[", "MASK", "]", "to", "[", "MASK", "]", "...", "it", "is", "something", "I", "like", "...", "I", "possess", "the", "good", "common", "logical", "feel", "to", "realize", "...", "it", "is", "something", "I", "like", "...", "Figure", "1", ":", "Text", "Adversarial", "Purification", "Process", ":", "Compared", "with", "Image", "Purification", ",", "we", "use", "masked", "language", "models", "to", "recover", "noisy", "texts", "to", "purify", "adversarial", "texts", "as", "a", "defense", "against", "word", "-", "substitutions", "attacks", "2.3", "Adversarial", "Purification", "Adversarial", "purification", "is", "a", "defense", "strategy", "that", "uses", "generative", "models", "to", "purify", "adversarial", "inputs", "before", "making", "predictions", ",", "which", "is", "a", "promising", "direction", "in", "adversarial", "defense", "Samangouei", "et", "al", "(", "2018", ")", "uses", "a", "defensive", "GAN", "framework", "to", "build", "clean", "images", "to", "avoid", "adversarial", "attacks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName" ]

[ "Energy-", "based", "models", "(", "EBMs", ")", "are", "used", "to", "purify", "attacked", "images", "via", "Langevin", "dynamics", "(", "LeCun", "et", "al" ]

[ "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2006", ")", "Score", "-", "based", "models", "(", "Yoo", "et", "al" ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "is", "also", "in-", "troduced", "as", "a", "purification", "strategy", "Recent", "works", "focus", "on", "exploring", "diffusion", "models", "as", "the", "purifi-", "cation", "model", "in", "purifying", "the", "attacked", "images", "(", "Nie", "et", "al", ",", "2022", ")", "Though", "widely", "explored", ",", "adversarial", "purification", "strategy", "is", "less", "explored", "in", "the", "NLP", "field", "3", "Text", "Adversarial", "Purification", "3.1", "Background", "of", "Adversarial", "Purification", "A", "classic", "adversarial", "purification", "process", "is", "to", "grad-", "ually", "purify", "the", "input", "through", "Tsteps", "of", "purifica-", "tion", "runs", "As", "seen", "in", "Figure", "1", ",", "the", "purification", "process", "in", "the", "image", "domain", "is", "to", "first", "constructan", "input", "x′from", "the", "perturbed", "input", "xby", "injecting", "random", "noise", "Then", "the", "purification", "algorithm", "will", "recover", "the", "clean", "image", "/", "hatwidexfrom", "the", "noisy", "image", "x′", "which", "usually", "takes", "multiple", "rounds", "The", "intuition", "of", "such", "a", "purification", "process", "is", "that", "the", "recovered", "inputs", "will", "not", "contain", "adversarial", "effects", "Specifically", ",", "in", "the", "score", "-", "based", "adversarial", "purifi-", "cation", "(", "Yoo", "et", "al", ",", "2020", ")", ",", "the", "sample", "injected", "with", "random", "noise", "is", "x′=x+εwhere", "ε∼", "N", "(", "0", ",", "σ2I", ")", "and", "the", "goal", "is", "to", "purify", "x′with", "score", "network", "sθ", "In", "a", "continuous", "time", "step", "where", "x0", "=", "x′", ",", "the", "goal", "is", "to", "recover", "x0through", "a", "score", "-", "based", "generative", "model", "xt", "=", "xt−1+αt−1sθ", "(", "xt−1", ")", "where", "αis", "the", "step", "size", "related", "to", "xt−1", "After", "Ttimes", "of", "gener-", "ation", ",", "the", "recovered", "/", "hatwidex", "=", "xTis", "used", "in", "the", "final", "prediction", "which", "contains", "less", "adversarial", "effect", "As", "for", "the", "diffusion", "-", "based", "purification", "methods", "(", "Nie", "et", "al", ",", "2022", ")", ",", "the", "process", "includes", "a", "forward", "diffusion", "process", "and", "a", "reverse", "recovery", "process", "The", "noise", "injection", "process", "is", "a", "forward", "stochastic", "differential", "equation", "(", "SDE", ")", ",", "that", "is", ",", "the", "noisy", "input", "x′=x", "(", "T", ")", "and", "initial", "perturbed", "input", "x", "=", "x", "(", "0", ")", "The", "diffusion", "process", "is", "x", "(", "T", ")", "=", "/", "radicalbig", "α", "(", "T", ")", "x", "(", "0", ")", "+", "/", "radicalbig", "1−α", "(", "T", ")", "εwhere", "αis", "a", "hyper", "-", "parameter", "and340", "ε∼", "N", "(", "0", ",", "σ2I", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "final", "purified", "input", "/", "hatwidex=", "/", "hatwidex", "(", "0", ")", "where", "/", "hatwidex", "(", "0", ")", "is", "the", "reverse", "-", "time", "SDE", "generated", "input", "from", "the", "diffused", "input", "x", "(", "T", ")", "3.2", "Text", "Adversarial", "Purification", "with", "BERT", "Instead", "of", "the", "iterative", "purification", "process", "used", "in", "purifying", "images", ",", "we", "introduce", "a", "novel", "purification", "method", "that", "purifies", "the", "input", "texts", "via", "masking", "and", "masks", "prediction", "with", "pre", "-", "trained", "masked", "language", "models", "exemplified", "by", "BERT", "(", "Devlin", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2018", ")", "As", "seen", "in", "Figure", "1", ",", "instead", "of", "gradually", "adding", "noise", "and", "recovering", "the", "clean", "sample", "from", "the", "noisy", "samples", ",", "we", "inject", "random", "noise", "into", "the", "input", "texts", "multiple", "times", "and", "recover", "the", "noisy", "data", "to", "a", "clean", "text", "based", "on", "the", "mask", "-", "prediction", "ability", "of", "the", "masked", "language", "model", "Fm", "(", "·", ")", "Considering", "that", "the", "perturbed", "text", "is", "X", ",", "we", "can", "inject", "noise", "to", "construct", "multiple", "copies", "X′", "i=", "[", "w0", ",", "···", ",", "[", "MASK", "]", ",", "wn", ",", "·", "·", "·", ",", "]", "We", "use", "two", "simple", "masking", "strategies", ":", "(", "1", ")", "Randomly", "mask", "the", "input", "texts", ";", "(", "2", ")", "Randomly", "insert", "masks", "into", "the", "input", "texts", "Such", "a", "random", "masking", "process", "is", "similar", "to", "adding", "a", "random", "noise", "ε∼", "N", "(", "0", ",", "σ2I", ")", "to", "the", "inputs", "x", "After", "constructing", "multiple", "noisy", "inputs", ",", "we", "run", "the", "denoise", "process", "via", "masked", "language", "models", ":", "/", "hatwideXi", "=", "Fm", "(", "X′", "i", ")", "With", "Nrecovered", "texts", ",", "we", "are", "able", "to", "make", "predictions", "with", "the", "classifier", "Fc", "(", "·", ")", ":", "Si=", "1", "N", "/", "summationtextN", "i=0", "/", "parenleftig", "Softmax", "(", "Fc", "(", "/", "hatwideXi", ")", ")", "/", "parenrightig", "Unlike", "continuous", "perturbations", "to", "images", ",", "word", "-", "substitution", "adversarial", "samples", "only", "contain", "several", "perturbed", "words", "Therefore", ",", "we", "consider", "using", "a", "multiple", "-", "time", "mask", "-", "and", "-", "recover", "process", "as", "text", "adversarial", "purification", ",", "which", "makes", "full", "use", "of", "the", "pre", "-", "trained", "ability", "of", "the", "masked", "lan-", "guage", "models", "Compared", "with", "the", "generation", "pro-", "cess", "used", "in", "image", "adversarial", "purification", ",", "masked", "language", "model", "-", "based", "purification", "method", "is", "eas-", "ier", "to", "implement", "and", "utilize", "in", "pre", "-", "trained", "model-", "based", "applications", "as", "a", "defense", "against", "strong", "word-", "substitution", "adversarial", "attacks", "3.3", "Combining", "with", "Classifier", "Normal", "adversarial", "purification", "methods", "are", "plug-", "and", "-", "play", "processes", "inserted", "before", "the", "classifica-", "tion", ",", "however", ",", "the", "masked", "language", "model", "itself", "is", "a", "widely", "used", "classification", "model", "That", "is", ",", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classification", "model", "Fc", "(", "·", ")", "can", "share", "the", "same", "model", "There-", "fore", ",", "instead", "of", "using", "a", "normal", "masked", "languagemodel", "such", "as", "BERT", ",", "we", "train", "the", "classifier", "and", "the", "mask", "-", "filling", "ability", "as", "multi", "-", "tasks", "The", "classifica-", "tion", "loss", "is", "Lc", "=", "L", "(", "Fc", "(", "X′", ")", ",", "y", ",", "θ", ")", "+L", "(", "Fc", "(", "X", ")", ",", "y", ",", "θ", ")", "and", "the", "masked", "language", "model", "loss", "is", "Lmlm=", "L", "(", "Fm", "(", "X′", ")", ",", "X", ",", "θ", ")", "Here", ",", "the", "input", "Xis", "the", "clean", "text", "used", "in", "training", "the", "classifier", "and", "the", "X′is", "the", "random", "masked", "text", "The", "loss", "function", "L", "(", "·", ")", "is", "the", "cross", "-", "entropy", "loss", "used", "in", "both", "the", "text", "classifica-", "tion", "head", "and", "masked", "language", "modeling", "head", "in", "the", "pre", "-", "trained", "models", "exemplified", "by", "BERT" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "In", "this", "way", ",", "we", "are", "utilizing", "the", "pre", "-", "trained", "mod-", "els", "to", "their", "full", "ability", "by", "using", "both", "the", "mask", "-", "filling", "function", "learned", "during", "the", "pre", "-", "training", "stage", "as", "well", "as", "the", "generalization", "ability", "to", "downstream", "tasks", "Algorithm", "1", "Adversarial", "Training", "Require", ":", "Training", "Sample", "X", ",", "adversarial", "step", "Ta", "1", ":", "X′←Inject", "Noise", "X", "2", ":", "δ0←1√DN", "(", "0", ",", "σ2", ")", "/", "/", "Init", "Perturb", "3", ":", "fort=", "0,1", ",", "...", "T", "ado", "4", ":", "gδ←", "▽", "δ", "(", "Lc+Lmlm", ")", "/", "/", "Get", "Perturbation", "5", ":", "δt←", "/", "producttext", "||δ||F", "<", "ϵ", "(", "δt+α·gδ", "/", "||gδ||F", ")", "6", ":", "Lnoise←", "L", "(", "Fm", "(", "X′+δt", ")", ",", "X", ",", "θ", ")", "7", ":", "X′←X′+δt", "/", "/", "Update", "Input", "8", ":", "gt+1", "=", "gt+", "▽", "θ", "(", "Lc+Lmlm+Lnoise", ")", "9", ":", "θ←θ−gT+1", "/", "/", "Update", "model", "parameter", "θ", "3.4", "Combining", "with", "Adversarial", "Training", "Different", "from", "the", "image", "field", "where", "adver-", "saries", "are", "usually", "generated", "by", "gradients", ",", "word-", "substitution", "attacks", "do", "not", "have", "direct", "connections", "with", "gradient", "-", "based", "adversaries", "in", "the", "text", "domain", "Therefore", ",", "it", "is", "intuitive", "to", "incorporate", "gradient-", "based", "adversarial", "training", "in", "the", "purification", "pro-", "cess", "when", "the", "purification", "process", "is", "combined", "with", "the", "classifier", "training", "We", "introduce", "the", "adversarial", "training", "process", "therefore", "the", "purification", "function", "Fm", "(", "·", ")", "includes", "mask", "-", "prediction", "and", "recovering", "clean", "texts", "from", "inputs", "with", "gradient", "-", "based", "perturbations", ",", "which", "leads", "to", "stronger", "purification", "ability", "compared", "with", "a", "standard", "BERT" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "Following", "standard", "adversarial", "training", "process", "with", "gradient", "-", "based", "adversaries", "introduced", "by", "Zhu", "et", "al", "(", "2019", ")", ";", "Li", "and", "Qiu", "(", "2020", ")", "In", "the", "adversarial", "training", "process", ",", "a", "gradient", "-", "based", "perturbation", "δis", "added", "to", "the", "embedding", "output", "of", "the", "input", "text", "X", "(", "for", "simplicity", ",", "we", "still", "use", "XandX′to", "denote", "the341", "embedding", "output", "in", "the", "Algorithm", "1", ")", "Then", "the", "perturbed", "inputs", "are", "added", "to", "the", "training", "set", "in", "the", "training", "process", "We", "combine", "gradient", "-", "based", "ad-", "versarial", "training", "with", "the", "text", "purification", "process", "As", "illustrated", "in", "Algorithm", "1", ",", "for", "an", "adversarial", "training", "step", ",", "we", "add", "perturbations", "to", "the", "masked", "textX′and", "run", "Tatimes", "of", "updates", "We", "calculate", "gradients", "based", "on", "both", "classification", "losses", "Lcand", "masked", "language", "modeling", "losses", "Lmlm", ";", "further", ",", "as", "seen", "in", "line", "6", ",", "we", "also", "calculate", "the", "loss", "that", "the", "masked", "language", "model", "will", "predict", "the", "texts", "from", "the", "perturbed", "text", "X′+δ", ",", "which", "enhanced", "the", "text", "recover", "ability", "from", "noisy", "or", "adversarial", "texts", "4", "Experiments", "4.1", "Datasets", "We", "use", "two", "widely", "used", "text", "classification", "datasets", ":", "IMDB1", "(", "Maas", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O" ]

[ ",", "2011", ")", "and", "AG", "’s", "News2", "(", "Zhang", "et", "al" ]

[ "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O" ]

[ ",", "2015", ")", "in", "our", "experiments", "The", "IMDB", "dataset", "is", "a", "bi", "-", "polar", "movie", "review", "classification", "task", ";", "the", "AG", "’s", "News", "dataset", "is", "a", "four", "-", "class", "news", "genre", "classification", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "The", "average", "length", "is", "220", "words", "in", "the", "IMDB", "dataset", ",", "and", "40", "words", "in", "the", "AG", "’s", "News", "dataset" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O" ]

[ "We", "use", "the", "test", "set", "fol-", "lowing", "the", "Textfooler", "1k", "test", "set", "in", "the", "main", "re-", "sult", "and", "sample", "100", "samples", "for", "the", "rest", "of", "the", "experiments", "since", "the", "attacking", "process", "is", "seriously", "slowed", "down", "when", "the", "model", "is", "defensive" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "4.2", "Attack", "Methods", "Popular", "attack", "methods", "exemplified", "by", "genetic", "Al-", "gorithm", "(", "Alzantot", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2018", ")", ",", "Textfooler", "(", "Jin", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "and", "BERT", "-", "Attack", "(", "Li", "et", "al" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "can", "successfully", "mislead", "strong", "models", "of", "both", "IMDB", "and", "AG", "’s", "News", "task", "with", "a", "very", "small", "per-", "centage", "of", "substitutions" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-DatasetName", "O", "B-DatasetName", "I-DatasetName", "I-DatasetName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Therefore", ",", "we", "use", "these", "strong", "adversarial", "attack", "methods", "as", "the", "attacker", "to", "test", "the", "effectiveness", "of", "our", "defense", "method", "The", "hyperparameters", "used", "in", "the", "attacking", "algorithm", "vary", "in", "different", "settings", ":", "we", "choose", "candidate", "list", "sizeKto", "be", "12", ",", "48", ",", "and", "50", "which", "are", "used", "in", "the", "Textfooler", "and", "BERT", "-", "Attack", "methods" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O" ]

[ "We", "use", "the", "exact", "same", "metric", "used", "in", "Textfooler", "and", "BERT", "-", "Attack", "that", "calculates", "the", "after", "-", "attack", "accuracy", ",", "which", "is", "the", "targeted", "adversarial", "evalu-", "ation", "defined", "by", "Si", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "(", "2020", ")", "The", "after", "-", "attack", "accuracy", "measures", "the", "actual", "defense", "ability", "of", "the", "system", "under", "adversarial", "attacks" ]

[ "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "I-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "1https", ":", "/", "/", "datasets.imdbws.com", "/", "2https", ":", "/", "/", "www.kaggle.com", "/", "amananandrai", "/", "ag-news-", "classification", "-", "dataset4.3", "Victim", "Models", "and", "Defense", "Baselines", "The", "victim", "models", "are", "the", "fine", "-", "tuned", "pre", "-", "train", "mod-", "els", "exemplified", "by", "BERT", "and", "RoBERTa", ",", "which", "we", "implement", "based", "on", "Huggingface", "Transformers3", "(", "Wolf", "et", "al", ",", "2020", ")", "As", "discussed", "above", ",", "there", "are", "few", "works", "concerning", "adversarial", "defenses", "against", "attacks", "without", "knowing", "the", "candidates", "in", "NLP", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O" ]

[ "Moreover", ",", "previous", "works", "do", "not", "focus", "on", "recent", "strong", "attack", "algorithms", "such", "as", "Textfooler", "(", "Jin", "et", "al", ",", "2019", ")", ",", "BERT", "-", "involved", "attacks", "(", "Li", "et", "al", ",", "2020", ";", "Garg", "and", "Ramakrishnan", ",", "2020", ")", "Therefore", ",", "we", "first", "list", "methods", "that", "can", "defend", "against", "adver-", "sarial", "attacks", "without", "accessing", "the", "candidate", "list", "as", "our", "baselines", ":", "Adv", "-", "Train", "(", "Adv", "-", "HotFlip", ")", ":", "Ebrahimi", "et", "al", "(", "2017", ")", "introduces", "the", "adversarial", "training", "method", "used", "in", "defending", "against", "substitution", "-", "based", "adver-", "sarial", "attacks", "in", "NLP", "It", "uses", "gradients", "to", "find", "actual", "adversaries", "in", "the", "embedding", "space", "Virtual", "-", "Adv", "-", "Train", "(", "FreeLB", ")", ":", "Li", "and", "Qiu", "(", "2020", ")", ";", "Zhu", "et", "al", "(", "2019", ")", "use", "virtual", "adversaries", "to", "improve", "the", "performances", "in", "fine", "-", "tuning", "pre-", "trained", "models", ",", "which", "can", "also", "be", "used", "to", "deal", "with", "adversarial", "attacks", "without", "accessing", "the", "candidate", "list", "We", "follow", "the", "standard", "FreeLB", "training", "pro-", "cess", "to", "re", "-", "implement", "the", "defense", "results", "Further", ",", "there", "are", "some", "works", "that", "require", "the", "candidate", "list", ",", "it", "is", "not", "a", "fair", "comparison", "with", "de-", "fense", "methods", "without", "accessing", "the", "candidates", ",", "so", "we", "list", "them", "separately", ":", "Adv", "-", "Augmentation", ":", "We", "generate", "adversarial", "examples", "of", "the", "training", "dataset", "as", "a", "data", "augmen-", "tation", "method", "We", "mix", "the", "generated", "adversarial", "examples", "and", "the", "original", "training", "dataset", "to", "train", "a", "model", "in", "a", "standard", "fine", "-", "tuning", "process", "ASCC", ":", "Dong", "et", "al", "(", "2021", ")", "also", "uses", "a", "convex-", "hull", "concept", "based", "on", "the", "candidate", "vocabulary", "as", "a", "strong", "adversarial", "defense", "ADA", ":", "Si", "et", "al", "(", "2020", ")", "uses", "a", "mixup", "strategy", "based", "on", "the", "generated", "adversarial", "examples", "to", "achieve", "adversarial", "defense", "with", "variants", "AMDA-", "SMix", "that", "mixup", "the", "special", "tokens", "FreeLB++", ":", "Li", "et", "al", "(", "2021", ")", "introduces", "a", "variant", "of", "FreeLB", "method", "that", "expands", "the", "norm", "bound" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "RanMASK", ":", "Zeng", "et", "al", "(", "2021", ")", "introduces", "a", "masking", "strategy", "that", "makes", "use", "of", "noises", "to", "im-", "prove", "robustness", "3https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformers342", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "(", "K=50", ")", "(", "K=48", ")", "IMDB", "↓", "BERT", "(", "Devlin", "et", "al", ",", "2018", ")", "94.1", "20.4", "18.5", "2.8", "3.2", "RoBERTa", "(", "Liu", "et", "al", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "(", "Ebrahimi", "et", "al", ",", "2017", ")", "95.1", "36.1", "34.2", "8.0", "6.2", "■", "FreeLB", "(", "BERT", ")", "(", "Li", "and", "Qiu", ",", "2020", ")", "96.0", "30.2", "30.4", "7.3", "2.3", "■", "FreeLB++", "(", "BERT", ")", "(", "Li", "et", "al", ",", "2021", ")", "93.2", "-", "-", "45.3", "39.9", "▲", "RanMASK", "(", "RoBERTa", ")", "(", "Zeng", "et", "al", ",", "2021", ")", "93.0", "-", "-", "23.7", "26.8", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "81.5", "76.7", "51.0", "44.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "96.1", "84.2", "82.0", "54.3", "52.2", "AG", "’s", "News", "↓", "BERT", "(", "Devlin", "et", "al", ",", "2018", ")", "92.0", "32.8", "34.3", "19.4", "14.1", "RoBERTa", "(", "Liu", "et", "al", ",", "2019", ")", "97.3", "26.3", "24.5", "25.2", "23.0", "●", "Adv", "-", "HotFlip", "(", "BERT", ")", "91.2", "35.3", "34.1", "18.2", "8.5", "■", "FreeLB", "(", "BERT", ")", "90.5", "40.1", "34.2", "20.1", "8.5", "▲", "Text", "Purification", "(", "BERT", ")", "90.6", "61.5", "49.7", "34.9", "22.5", "▲", "Text", "Purification", "(", "RoBERTa", ")", "90.8", "59.1", "41.2", "34.2", "19.5", "Table", "1", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "defense", "methods", "that", "can", "defend", "attacks", "without", "acknowledging", "the", "form", "of", "the", "attacks", "That", "is", ",", "the", "substitution", "candidates", "of", "the", "attack", "methods", "are", "unknown", "to", "defense", "systems", "Methods", "Origin", "Textfooler", "GA", "IMDB", "↓", "BERT", "94.0", "2.0", "45.0", "■", "Data", "-", "Augmentation", "93.0", "18.0", "53.0", "●", "ADA", "(", "Si", "et", "al", ",", "2020", ")", "96.7", "3.0", "-", "●", "AMDA", "(", "Si", "et", "al", ",", "2020", ")", "96.9", "17.4", "-", "▲", "ASCC", "(", "Dong", "et", "al", ",", "2021", ")", "77.0", "-", "71.0", "▲", "Text", "Purification", "(", "BERT", ")", "93.0", "51.0", "79.0", "Table", "2", ":", "After", "-", "Attack", "Accuracy", "compared", "with", "access-", "candidates", "methods", "based", "on", "the", "BERT", "model", "Here", "we", "implement", "Textfooler", "with", "K=50", "for", "consistency", "with", "previous", "works" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O" ]

[ "GA", "is", "the", "Genetic", "Attack", "method" ]

[ "B-MethodName", "O", "O", "B-MethodName", "I-MethodName", "O" ]

[ "We", "use", "the", "AMDA", "-", "SMix", "setup", "for", "the", "AMDA", "method" ]

[ "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "B-MethodName", "O" ]

[ "4.4", "Implementations", "We", "use", "BERT", "-", "BASE", "and", "RoBERTa", "-", "BASE", "models", "based", "on", "the", "Huggingface", "Transformers4" ]

[ "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O" ]

[ "We", "mod-", "ify", "the", "adversarial", "training", "with", "virtual", "adversaries", "based", "on", "the", "implementation", "of", "FreeLB", ",", "TA", "V", "AT", ",", "and", "FreeLB++" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "B-MethodName" ]

[ "The", "training", "hyper", "-", "parameters", "we", "use", "are", "different", "from", "FreeLB", "and", "TA", "V", "AT", "since", "we", "aim", "to", "find", "large", "perturbations", "to", "simulate", "adver-", "saries" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "We", "set", "adversarial", "learning", "rate", "α=1e-1", "to", "and", "normalization", "boundary", "ϵ=2e-1", "in", "all", "tasks" ]

[ "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "O" ]

[ "We", "set", "the", "multiple", "purification", "size", "N", "=", "to", "16", "for", "all", "tasks", "and", "we", "will", "discuss", "the", "selection", "of", "Nin", "the", "later", "section" ]

[ "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "B-HyperparameterName", "O", "O", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "our", "text", "adversarial", "purification", "method", ",", "we", "4https", ":", "/", "/", "github.com", "/", "huggingface", "/", "transformersuse", "the", "model", "that", "is", "trained", "with", "gradient", "-", "based", "adversarial", "training", "as", "the", "purification", "model", "Fm", "(", "·", ")", "and", "the", "classifier", "Fc", "(", "·", ")", "for", "the", "main", "experiments", "and", "conduct", "thorough", "ablations", "to", "explore", "the", "ef-", "fect", "of", "combining", "purification", "with", "classifier", "and", "adversarially", "trained", "classifier", "As", "for", "implementing", "adversarial", "attack", "methods", ",", "we", "use", "the", "TextAttack", "toolkit", "while", "referring", "the", "official", "codes", "of", "the", "corresponding", "attack", "methods", "5", "(", "Morris", "et", "al", ",", "2020a", ")", "The", "similarity", "thresholds", "of", "the", "word", "-", "substitution", "range", "are", "the", "main", "fac-", "tors", "of", "the", "attacking", "algorithm", "We", "tune", "the", "USE", "(", "Cer", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName" ]

[ ",", "2018", ")", "constraint", "0.5", "for", "the", "AG", "task", "and", "0.7", "for", "the", "IMDB", "task", "and", "0.5", "for", "the", "cosine-", "similarity", "threshold", "of", "the", "synonyms", "embedding", "(", "Mrkši", "´", "c", "et", "al" ]

[ "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-TaskName", "O", "O", "B-HyperparameterValue", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "I-HyperparameterName", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O" ]

[ ",", "2016", ")", "which", "can", "reproduce", "the", "re-", "sults", "of", "the", "attacking", "methods", "reported", "4.5", "Results", "As", "seen", "in", "Table", "1", ",", "the", "proposed", "Text", "Adversar-", "ial", "Purification", "algorithm", "can", "successfully", "defend", "strong", "attack", "methods", "The", "accuracy", "of", "our", "defend-", "ing", "method", "under", "attack", "is", "significantly", "higher", "than", "non", "-", "defense", "models", "(", "50", "%", "vs", "20", "%", "in", "the", "IMDB", "dataset", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricValue", "I-MetricValue", "O", "B-MetricValue", "I-MetricValue", "O", "O", "B-DatasetName", "O", "O" ]

[ "Compared", "with", "previous", "defense", "methods", ",", "our", "proposed", "method", "can", "achieve", "higher", "defense", "accuracy", "in", "both", "the", "IMDB", "task", "and", "AG", "’s", "News", "task" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "The", "Adv", "-", "HotFlip", "and", "the", "FreeLB", "methods", "5https", ":", "/", "/", "github.com", "/", "QData", "/", "TextAttack343", "Defense", "↓Attacks", "→Origin", "Textfooler", "BERT", "-", "Attack", "(", "K=12", ")", "(", "K=12", ")", "▲", "Text", "Purification", "Only", "↓", "✔", "Purification", "94.0", "72.0", "60.0", "✔", "Purification", "✖", "Multi" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O" ]

[ "Recovery", "87.0", "20.0", "13.0", "✔", "Purification", "✖", "Mask", "Insertion", "✖", "Multi" ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O" ]

[ "Recovery", "92.0", "11.0", "3.0", "▲", "Combining", "Classifier", "↓", "✔", "Purification", "✔", "Comb" ]

[ "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Classifier", "95.0", "76.0", "67.0", "✔", "Purification", "✔", "Comb", "Classifier", "✖", "Multi", "Recovery", "95.0", "45.0", "34.0", "✔", "Purification", "✔", "Comb" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "B-MetricValue", "B-MetricValue", "B-MetricValue", "O", "O", "O", "O" ]

[ "Classifier", "✖", "Multi", "Recovery", "✖", "Mask", "Insertion", "95.0", "29.0", "17.0", "▲", "Combining", "Adversarially", "Trained", "Classifier", "↓", "✔", "Purification", "✔", "AT", "Classifier", "93.0", "86.0", "77.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "Recovery", "93.0", "63.0", "52.0", "✔", "Purification", "✔", "AT", "Classifier", "✖", "Multi", "Recovery", "✖", "Mask", "Insertion", "93.0", "42.0", "29.0", "BERT", "94.0", "10.0", "5.0", "Table", "3", ":", "Ablations", "results", "tested", "on", "attacking", "the", "IMDB", "task", "based", "on", "BERT", "models", "Comb", "Classifier", "is", "the", "combined", "fine", "-", "tuned", "Fc", "(", "·", ")", "andFm", "(", "·", ")", "and", "AT", "Classifier", "is", "the", "adversarially", "trained", "Fc", "(", "·", ")", "Mask", "Insertion", "is", "to", "use", "both", "mask", "-", "replacing", "and", "mask", "-", "insertion", "in", "injecting", "noise", "are", "effective", ",", "which", "indicates", "that", "gradient", "-", "based", "adversaries", "are", "not", "very", "similar", "to", "actual", "substitu-", "tions", "We", "can", "see", "that", "Adv", "-", "HotFlip", "and", "FreeLB", "methods", "achieve", "similar", "results", "(", "around", "30", "%", "when", "K=", "12", ")", "which", "indicates", "that", "gradient", "-", "based", "adver-", "sarial", "training", "methods", "have", "similar", "defense", "abili-", "ties", "no", "matter", "whether", "the", "adversaries", "are", "virtual", "or", "real", "since", "they", "are", "both", "unaware", "of", "the", "attacker", "’s", "candidate", "list", "Also", ",", "the", "original", "accuracy", "(", "on", "the", "clean", "data", ")", "of", "our", "method", "is", "only", "a", "little", "lower", "than", "the", "baseline", "methods", ",", "which", "indicates", "that", "the", "purified", "texts", "still", "contain", "enough", "information", "for", "classification", "The", "RoBERTa", "model", "also", "shows", "robustness", "using", "both", "original", "fine", "-", "tuned", "model", "and", "our", "defensive", "framework", ",", "which", "indicates", "our", "purification", "algorithm", "can", "be", "used", "in", "various", "pre-", "trained", "language", "models" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Compared", "with", "methods", "that", "specifically", "focus", "on", "adversarial", "defense", ",", "our", "proposed", "method", "can", "still", "surpass", "the", "state", "-", "of", "-", "the-", "art", "defense", "system", "FreeLB++", "(", "Li", "et", "al", ",", "2021", ")", "and", "RanMASK", "(", "Zeng", "et", "al", ",", "2021", ")", "Further", ",", "the", "candidate", "size", "is", "extremely", "im-", "portant", "in", "defending", "against", "adversarial", "attacks", ",", "when", "the", "candidate", "size", "is", "smaller", ",", "exemplified", "by", "K=", "12", ",", "our", "method", "can", "achieve", "very", "promising", "results" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "I-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-HyperparameterName", "B-HyperparameterValue", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "pointed", "out", "by", "Morris", "et", "al", "(", "2020b", ")", ",", "the", "candidate", "size", "should", "not", "be", "too", "large", "that", "the", "quality", "of", "the", "adversarial", "examples", "is", "largely", "dam-", "aged", "As", "seen", "in", "Table", "2", ",", "we", "compare", "our", "method", "with", "previous", "access", "-", "candidates", "defense", "methods", "When", "defending", "against", "the", "widely", "used", "Textfooler", "attack", "and", "genetic", "attack", "(", "Alzantot", "et", "al", ",", "2018", ")", ",", "our", "method", "can", "achieve", "similar", "accuracy", "even", "compared", "with", "known", "-", "candidates", "defense", "meth-", "ods", "As", "seen", ",", "the", "data", "augmentation", "method", "can-", "not", "significantly", "improve", "model", "robustness", "since", "the", "candidates", "can", "be", "very", "diversified", "Therefore", ",", "using", "generated", "adversarial", "samples", "as", "an", "aug-", "mentation", "strategy", "does", "not", "guarantee", "robustness", "against", "greedy", "-", "searched", "methods", "like", "Textfooler", "and", "BERT", "-", "Attack", "4.6", "Analysis", "4.6.1", "Ablations", "As", "we", "design", "an", "adversarial", "purification", "algo-", "rithm", "with", "masked", "language", "models", "and", "propose", "a", "multiple", "-", "recovering", "strategy", ",", "we", "aim", "to", "explore", "which", "process", "helps", "more", "in", "the", "purification", "de-", "fense", "system", "Plus", ",", "we", "combine", "classifiers", "within", "the", "purification", "model", "so", "it", "is", "also", "important", "to", "explore", "whether", "such", "a", "combination", "is", "helpful", "For", "each", "type", "of", "purification", "method", ",", "we", "test", "whether", "the", "specific", "purification", "process", "we", "pro-", "pose", "is", "effective", "That", "is", ",", "we", "test", "whether", "making", "multiple", "recoveries", "in", "the", "purification", "process", "is", "helpful", ";", "also", ",", "we", "test", "whether", "using", "both", "masking", "tokens", "and", "inserting", "additional", "masks", "is", "helpful", "As", "seen", "in", "Table", "3", ",", "we", "can", "summarize", "that", ":", "(", "1", ")", "Multi", "-", "time", "recovering", "is", "necessary", ":", "in", "the", "image", "domain", ",", "multiple", "reconstructions", "with", "a", "con-", "tinuous", "time", "purification", "process", "are", "necessary.344", "Texts", "Confidence", "(", "Positive", ")", "Clean", "-", "SampleI", "have", "the", "good", "common", "logical", "sense", "to", "know", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "revolves", "around", "petrochemical", "products", "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "so", "...", "93.2", "%", "Adv", "of", "BERTI", "possess", "the", "good", "common", "logical", "sense", "to", "realize", "that", "oil", "can", "not", "last", "forever", "and", "I", "am", "acutely", "aware", "of", "how", "much", "of", "my", "life", "in", "the", "suburbs", "spins", "around", "petrochemical", "products" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "I", "’ve", "been", "an", "avid", "consumer", "of", "new", "technology", "and", "I", "keep", "running", "out", "of", "space", "on", "powerboards", "-", "well", "...", "38.3", "%", "Adv", "of", "Text", "PureI", "know", "the", "wonderful", "general", "sense", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "city", "spins", "around", "petrochemical", "products", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "powerboards", "!", "well", "...", "80.1", "%", "Purified", "TextsWell", "I", "know", "the", "wonderful", "general", "sense", "notion", "to", "knows", "that", "oils", "production", "can", "not", "last", "for", "endless", "years", "and", "I", "am", "acutely", "know", "of", "how", "the", "majority", "of", "my", "live", "in", "the", "city", "spins", "around", "the", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "new", "technologies", "and", "I", "kept", "working", "out", "of", "spaces", "on", "power", "skateboards", "!", "well", "...", "80.4", "%", "I", "know", "the", "wonderful", "common", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "forever", "and", "I", "also", "acutely", "know", "of", "how", "majority", "of", "my", "lived", "in", "the", "world", "and", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "them", "on", "skateboards", "!", "well", "...", "81.4", "%", "I", "know", "the", "wonderfully", "general", "sense", "notion", "to", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "how", "majority", "part", "of", "my", "lived", "in", "the", "big", "city", "spins", "around", "petrocochemical", "production", "...", "I", "should", "have", "been", "an", "amateur", "consumers", "fan", "of", "newly", "technologies", "and", "I", "kept", "on", "working", "out", "of", "spaces", "and", "on", "powerboards", "!", "well", "...", "76.2", "%", "I", "am", "the", "the", "general", "sense", "notion", "and", "knows", "that", "oils", "can", "not", "last", "endless", "and", "I", "am", "acutely", "know", "of", "the", "part", "of", "my", "lived", "as", "the", "city", "spins", "around", "petrochemical", "production", "...", "I", "’ve", "been", "an", "amateur", "consumers", "of", "newly", "technologies", "and", "I", "kept", "working", "out", "of", "bed", "on", "powerboards", "!", "well", "...", "78.5", "%", "Table", "4", ":", "A", "random", "selected", "sample", "that", "BERT", "model", "failed", "to", "defend", "against", "the", "Textfooler", "Attack", "in", "the", "IMDB", "dataset", "and", "Text", "Pure", "(", "Text", "Adversarial", "Purification", ")", "succeed", "Adv", "of", "BERT", "is", "the", "adversarial", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ "Adv", "of", "Text", "Pure", "is", "the", "sample", "generated", "by", "Textfooler", "to", "attack", "the", "classifier", "but", "failed", "The", "purified", "texts", "are", "also", "listed", "Similarly", ",", "the", "multi", "-", "recovery", "process", "is", "important", "in", "obtaining", "high", "-", "quality", "purification", "results", "We", "can", "observe", "that", "one", "-", "time", "recovery", "can", "not", "achieve", "promising", "defense", "performances", "(", "2", ")", "Combining", "classifiers", "is", "effective", ":", "we", "can", "observe", "that", "when", "we", "use", "trained", "classifiers", "and", "masked", "language", "models", ",", "the", "defense", "perfor-", "mances", "are", "better", "than", "using", "fine", "-", "tuned", "classifier", "and", "vanilla", "BERT", "as", "a", "masked", "language", "model", ",", "indicating", "that", "such", "a", "combined", "training", "process", "is", "helpful", "in", "obtaining", "more", "strong", "defense", "systems" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Also", ",", "with", "gradient", "-", "based", "adversarial", "training", ",", "the", "purification", "process", "can", "obtain", "a", "further", "boost", ",", "indi-", "cating", "that", "our", "proposed", "text", "purification", "algorithm", "can", "be", "used", "together", "with", "previous", "defense", "meth-", "ods", "as", "an", "advanced", "defense", "system", "4.6.2", "Example", "of", "Purification", "Results", "As", "seen", "in", "Table", "4", ",", "we", "construct", "multiple", "recoveries", "and", "use", "the", "averaged", "score", "as", "the", "final", "classifica-", "tion", "result", "Such", "a", "purification", "process", "is", "effective", "compared", "with", "vanilla", "fine", "-", "tuned", "BERT" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "We", "can", "observe", "that", "the", "adversarial", "sample", "that", "successfully", "attacked", "the", "vanilla", "BERT", "model", "only", "achieves", "this", "by", "replacing", "only", "a", "few", "tokens" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "While", "with", "the", "purification", "process", ",", "the", "attack", "algorithm", "is", "struggling", "in", "finding", "effective", "substitutions", "to", "achieve", "a", "successful", "attack", "Even", "replacing", "a", "large", "number", "of", "tokens", "that", "seriously", "hurt", "the", "semantics", "of", "the", "input", "texts", ",", "with", "the", "purification", "process", "in-", "volved", ",", "the", "classifier", "can", "still", "resist", "the", "adversarialeffect", "Further", ",", "by", "observing", "the", "purified", "texts", ",", "we", "can", "find", "that", "the", "purified", "texts", "can", "make", "predictions", "correctly", "though", "some", "substitutes", "still", "exist", "in", "the", "purified", "texts", ",", "indicating", "that", "making", "predictions", "based", "on", "purified", "texts", "using", "the", "combined", "trained", "classifier", "can", "obtain", "a", "promising", "defense", "perfor-", "mance", "That", "is", ",", "our", "proposed", "method", ",", "though", "is", "not", "a", "plug", "-", "and", "-", "play", "system", ",", "can", "be", "used", "as", "a", "gen-", "eral", "system", "as", "a", "defense", "against", "substitution", "-", "based", "attacks", "5", "Conclusion", "and", "Future", "Work", "In", "this", "paper", ",", "we", "introduce", "a", "textual", "adversar-", "ial", "purification", "algorithm", "as", "a", "defense", "against", "substitution", "-", "based", "adversarial", "attacks", "We", "utilize", "the", "mask", "-", "infill", "ability", "of", "pre", "-", "trained", "models", "to", "re-", "cover", "noisy", "texts", "and", "use", "these", "purified", "texts", "to", "make", "predictions", "Experiments", "show", "that", "the", "pu-", "rification", "method", "is", "effective", "in", "defending", "strong", "adversarial", "attacks", "without", "acknowledging", "the", "sub-", "stitution", "range", "of", "the", "attacks", "We", "are", "the", "first", "to", "consider", "the", "adversarial", "purification", "method", "with", "a", "multiple", "-", "recovering", "strategy", "in", "the", "text", "domain", "while", "previous", "successes", "of", "adversarial", "purifica-", "tion", "strategies", "usually", "focus", "on", "the", "image", "field", "Therefore", ",", "we", "hope", "that", "the", "adversarial", "purification", "method", "can", "be", "further", "explored", "in", "NLP", "applica-", "tions", "as", "a", "powerful", "defense", "strategy.345", "Limitations", "In", "this", "paper", ",", "we", "discuss", "an", "important", "topic", "in", "the", "NLP", "field", ",", "the", "defense", "against", "adversarial", "attacks", "in", "NLP", "applications", "We", "provide", "a", "strong", "defense", "strategy", "against", "the", "most", "widely", "used", "word", "substi-", "tution", "attacks", "in", "the", "NLP", "field", ",", "which", "is", "limited", "in", "several", "directions", "•We", "are", "testing", "defense", "strategies", "using", "down-", "stream", "task", "models", "such", "as", "BERT", "and", "RoBERTa", ",", "and", "the", "purification", "tool", "is", "a", "model", "with", "a", "mask", "-", "filling", "ability", "such", "as", "BERT" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName" ]

[ "Such", "a", "process", "can", "be", "further", "improved", "with", "strong", "models", "such", "as", "large", "language", "models", "•We", "study", "the", "concept", "of", "adversarial", "purifica-", "tion", "in", "the", "adversarial", "attack", "scenarios", "with", "word", "-", "substitution", "attacks", "on", "small", "fine", "-", "tuned", "models", "The", "concept", "of", "adversarial", "purifica-", "tion", "can", "be", "further", "expanded", "to", "various", "NLP", "applications", "For", "instance", ",", "the", "purification", "of", "natural", "language", "can", "be", "used", "in", "malicious", "text", "purification", "which", "is", "more", "suitable", "in", "applica-", "tions", "with", "large", "language", "models", "Acknowledgement", "This", "work", "was", "supported", "by", "the", "National", "Natu-", "ral", "Science", "Foundation", "of", "China", "(", "No", "62236004", "and", "No", "62022027", ")", "and", "CAAI", "-", "Huawei", "MindSpore", "Open", "Fund", "References", "Moustafa", "Alzantot", ",", "Yash", "Sharma", ",", "Ahmed", "Elgohary", ",", "Bo-", "Jhang", "Ho", ",", "Mani", "B", "Srivastava", ",", "and", "Kai", "-", "Wei", "Chang", "2018", "Generating", "natural", "language", "adversarial", "exam-", "ples", "CoRR", ",", "abs", "/", "1804.07998", "Nicholas", "Carlini", "and", "David", "A", "Wagner", "2016", "Towards", "evaluating", "the", "robustness", "of", "neural", "networks", "CoRR", ",", "abs", "/", "1608.04644", "Daniel", "Cer", ",", "Yinfei", "Yang", ",", "Sheng", "-", "yi", "Kong", ",", "Nan", "Hua", ",", "Nicole", "Limtiaco", ",", "Rhomni", "St", "John", ",", "Noah", "Constant", ",", "Mario", "Guajardo", "-", "Cespedes", ",", "Steve", "Yuan", ",", "Chris", "Tar", ",", "et", "al", "2018", "Universal", "sentence", "encoder", "arXiv", "preprint", "arXiv:1803.11175", "Yong", "Cheng", ",", "Lu", "Jiang", ",", "and", "Wolfgang", "Macherey", "2019", "Robust", "neural", "machine", "translation", "with", "doubly", "adver-", "sarial", "inputs", "arXiv", "preprint", "arXiv:1906.02443", "Jacob", "Devlin", ",", "Ming", "-", "Wei", "Chang", ",", "Kenton", "Lee", ",", "and", "Kristina", "Toutanova", "2018", "BERT", ":", "pre", "-", "training", "of", "deep", "bidirectional", "transformers", "for", "language", "under-", "standing", "CoRR", ",", "abs", "/", "1810.04805.Xinshuai", "Dong", ",", "Hong", "Liu", ",", "Rongrong", "Ji", ",", "and", "Anh", "Tuan", "Luu", "2021", "Towards", "robustness", "against", "natural", "lan-", "guage", "word", "substitutions", "In", "International", "Confer-", "ence", "on", "Learning", "Representations", "Javid", "Ebrahimi", ",", "Anyi", "Rao", ",", "Daniel", "Lowd", ",", "and", "De-", "jing", "Dou", "2017", "Hotflip", ":", "White", "-", "box", "adversarial", "examples", "for", "text", "classification", "arXiv", "preprint", "arXiv:1712.06751", "Siddhant", "Garg", "and", "Goutham", "Ramakrishnan", "2020", "Bae", ":", "Bert", "-", "based", "adversarial", "examples", "for", "text", "classifica-", "tion", "arXiv", "preprint", "arXiv:2004.01970", "Ian", "J", "Goodfellow", ",", "Jonathon", "Shlens", ",", "and", "Christian", "Szegedy", "2014", "Explaining", "and", "harnessing", "adver-", "sarial", "examples", "arXiv", "preprint", "arXiv:1412.6572", "Po", "-", "Sen", "Huang", ",", "Robert", "Stanforth", ",", "Johannes", "Welbl", ",", "Chris", "Dyer", ",", "Dani", "Yogatama", ",", "Sven", "Gowal", ",", "Krish-", "namurthy", "Dvijotham", ",", "and", "Pushmeet", "Kohli", "2019", "Achieving", "verified", "robustness", "to", "symbol", "substitu-", "tions", "via", "interval", "bound", "propagation", "arXiv", "preprint", "arXiv:1909.01492", "Robin", "Jia", ",", "Aditi", "Raghunathan", ",", "Kerem", "Göksel", ",", "and", "Percy", "Liang", "2019", "Certified", "robustness", "to", "adversarial", "word", "substitutions", "CoRR", ",", "abs", "/", "1909.00986", "Di", "Jin", ",", "Zhijing", "Jin", ",", "Joey", "Tianyi", "Zhou", ",", "and", "Peter", "Szolovits", "2019", "Is", "BERT", "really", "robust", "?", "natural", "language", "attack", "on", "text", "classification", "and", "entailment", "CoRR", ",", "abs", "/", "1907.11932", "Yann", "LeCun", ",", "Sumit", "Chopra", ",", "Raia", "Hadsell", ",", "M", "Ranzato", ",", "and", "F", "Huang", "2006", "A", "tutorial", "on", "energy", "-", "based", "learn-", "ing", "Predicting", "structured", "data", ",", "1", "(", "0", ")", "Linyang", "Li", ",", "Ruotian", "Ma", ",", "Qipeng", "Guo", ",", "Xiangyang", "Xue", ",", "and", "Xipeng", "Qiu", "2020", "Bert", "-", "attack", ":", "Adver-", "sarial", "attack", "against", "bert", "using", "bert", "arXiv", "preprint", "arXiv:2004.09984", "Linyang", "Li", "and", "Xipeng", "Qiu", "2020", "Textat", ":", "Ad-", "versarial", "training", "for", "natural", "language", "understand-", "ing", "with", "token", "-", "level", "perturbation", "arXiv", "preprint", "arXiv:2004.14543", "Zongyi", "Li", ",", "Jianhan", "Xu", ",", "Jiehang", "Zeng", ",", "Linyang", "Li", ",", "Xiao-", "qing", "Zheng", ",", "Qi", "Zhang", ",", "Kai", "-", "Wei", "Chang", ",", "and", "Cho", "-", "Jui", "Hsieh", "2021", "Searching", "for", "an", "effective", "defender", ":", "Benchmarking", "defense", "against", "adversarial", "word", "sub-", "stitution", "arXiv", "preprint", "arXiv:2108.12777", "Yinhan", "Liu", ",", "Myle", "Ott", ",", "Naman", "Goyal", ",", "Jingfei", "Du", ",", "Man-", "dar", "Joshi", ",", "Danqi", "Chen", ",", "Omer", "Levy", ",", "Mike", "Lewis", ",", "Luke", "Zettlemoyer", ",", "and", "Veselin", "Stoyanov", "2019", "Roberta", ":", "A", "robustly", "optimized", "bert", "pretraining", "ap-", "proach", "arXiv", "preprint", "arXiv:1907.11692", "Andrew", "Maas", ",", "Raymond", "E", "Daly", ",", "Peter", "T", "Pham", ",", "Dan", "Huang", ",", "Andrew", "Y", "Ng", ",", "and", "Christopher", "Potts", "2011", "Learning", "word", "vectors", "for", "sentiment", "analysis", "In", "Proceedings", "of", "the", "49th", "annual", "meeting", "of", "the", "associ-", "ation", "for", "computational", "linguistics", ":", "Human", "language", "technologies", ",", "pages", "142–150.346", "Aleksander", "Madry", ",", "Aleksandar", "Makelov", ",", "Ludwig", "Schmidt", ",", "Dimitris", "Tsipras", ",", "and", "Adrian", "Vladu", "2019", "Towards", "deep", "learning", "models", "resistant", "to", "adversarial", "attacks", "Takeru", "Miyato", ",", "Andrew", "M", "Dai", ",", "and", "Ian", "J", "Goodfellow", "2016", "Virtual", "adversarial", "training", "for", "semi", "-", "supervised", "text", "classification", "ArXiv", ",", "abs", "/", "1605.07725", "John", "Morris", ",", "Eli", "Lifland", ",", "Jin", "Yong", "Yoo", ",", "Jake", "Grigsby", ",", "Di", "Jin", ",", "and", "Yanjun", "Qi", "2020a", "Textattack", ":", "A", "frame-", "work", "for", "adversarial", "attacks", ",", "data", "augmentation", ",", "and", "adversarial", "training", "in", "nlp", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natu-", "ral", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "119–126", "John", "X", "Morris", ",", "Eli", "Lifland", ",", "Jack", "Lanchantin", ",", "Yangfeng", "Ji", ",", "and", "Yanjun", "Qi", "2020b", "Reevaluating", "adversar-", "ial", "examples", "in", "natural", "language", "In", "ArXiv", ",", "volume", "abs", "/", "2004.14174", "Nikola", "Mrkši", "´", "c", ",", "Diarmuid", "O", "Séaghdha", ",", "Blaise", "Thom-", "son", ",", "Milica", "Gaši", "´", "c", ",", "Lina", "Rojas", "-", "Barahona", ",", "Pei", "-", "Hao", "Su", ",", "David", "Vandyke", ",", "Tsung", "-", "Hsien", "Wen", ",", "and", "Steve", "Young", "2016", "Counter", "-", "fitting", "word", "vectors", "to", "linguistic", "con-", "straints", "arXiv", "preprint", "arXiv:1603.00892", "Weili", "Nie", ",", "Brandon", "Guo", ",", "Yujia", "Huang", ",", "Chaowei", "Xiao", ",", "Arash", "Vahdat", ",", "and", "Animashree", "Anandkumar", "2022", "Diffusion", "models", "for", "adversarial", "purification", "In", "In-", "ternational", "Conference", "on", "Machine", "Learning", ",", "ICML", "2022", ",", "17", "-", "23", "July", "2022", ",", "Baltimore", ",", "Maryland", ",", "USA", ",", "volume", "162", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "16805–16827", "PMLR", "Shuhuai", "Ren", ",", "Yihe", "Deng", ",", "Kun", "He", ",", "and", "Wanxiang", "Che", "2019", "Generating", "natural", "language", "adversarial", "exam-", "ples", "through", "probability", "weighted", "word", "saliency", "In", "Proceedings", "of", "the", "57th", "Annual", "Meeting", "of", "the", "Asso-", "ciation", "for", "Computational", "Linguistics", ",", "pages", "1085", "–", "1097", "Pouya", "Samangouei", ",", "Maya", "Kabkab", ",", "and", "Rama", "Chel-", "lappa", "2018", "Defense", "-", "gan", ":", "Protecting", "classifiers", "against", "adversarial", "attacks", "using", "generative", "models", "CoRR", ",", "abs", "/", "1805.06605", "Changhao", "Shi", ",", "Chester", "Holtz", ",", "and", "Gal", "Mishne", "2021", "Online", "adversarial", "purification", "based", "on", "self-", "supervised", "learning", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", "OpenReview.net", "Zhouxing", "Shi", ",", "Minlie", "Huang", ",", "Ting", "Yao", ",", "and", "Jing-", "fang", "Xu", "2019", "Robustness", "to", "modification", "with", "shared", "words", "in", "paraphrase", "identification", "CoRR", ",", "abs", "/", "1909.02560", "Chenglei", "Si", ",", "Zhengyan", "Zhang", ",", "Fanchao", "Qi", ",", "Zhiyuan", "Liu", ",", "Yasheng", "Wang", ",", "Qun", "Liu", ",", "and", "Maosong", "Sun", "2020", "Better", "robustness", "by", "more", "coverage", ":", "Adver-", "sarial", "training", "with", "mixup", "augmentation", "for", "robust", "fine", "-", "tuning", "arXiv", "preprint", "arXiv:2012.15699", ".Yang", "Song", ",", "Jascha", "Sohl", "-", "Dickstein", ",", "Diederik", "P", "Kingma", ",", "Abhishek", "Kumar", ",", "Stefano", "Ermon", ",", "and", "Ben", "Poole", "2021", "Score", "-", "based", "generative", "modeling", "through", "stochastic", "differential", "equations", "In", "9th", "International", "Conference", "on", "Learning", "Representations", ",", "ICLR", "2021", ",", "Virtual", "Event", ",", "Austria", ",", "May", "3", "-", "7", ",", "2021", "OpenRe-", "view.net", "Vignesh", "Srinivasan", ",", "Csaba", "Rohrer", ",", "Arturo", "Marbán", ",", "Klaus", "-", "Robert", "Müller", ",", "Wojciech", "Samek", ",", "and", "Shinichi", "Nakajima", "2021", "Robustifying", "models", "against", "ad-", "versarial", "attacks", "by", "langevin", "dynamics", "Neural", "Net-", "works", ",", "137:1–17", "Thomas", "Wolf", ",", "Lysandre", "Debut", ",", "Victor", "Sanh", ",", "Julien", "Chaumond", ",", "Clement", "Delangue", ",", "Anthony", "Moi", ",", "Pier-", "ric", "Cistac", ",", "Tim", "Rault", ",", "Rémi", "Louf", ",", "Morgan", "Funtowicz", ",", "Joe", "Davison", ",", "Sam", "Shleifer", ",", "Patrick", "von", "Platen", ",", "Clara", "Ma", ",", "Yacine", "Jernite", ",", "Julien", "Plu", ",", "Canwen", "Xu", ",", "Teven", "Le", "Scao", ",", "Sylvain", "Gugger", ",", "Mariama", "Drame", ",", "Quentin", "Lhoest", ",", "and", "Alexander", "M", "Rush", "2020", "Transform-", "ers", ":", "State", "-", "of", "-", "the", "-", "art", "natural", "language", "processing", "In", "Proceedings", "of", "the", "2020", "Conference", "on", "Empirical", "Methods", "in", "Natural", "Language", "Processing", ":", "System", "Demonstrations", ",", "pages", "38–45", ",", "Online", "Association", "for", "Computational", "Linguistics", "Jin", "Yong", "Yoo", ",", "John", "X", "Morris", ",", "Eli", "Lifland", ",", "and", "Yanjun", "Qi", "2020", "Searching", "for", "a", "search", "method", ":", "Bench-", "marking", "search", "algorithms", "for", "generating", "nlp", "adver-", "sarial", "examples", "ArXiv", ",", "abs", "/", "2009.06368", "Jongmin", "Yoon", ",", "Sung", "Ju", "Hwang", ",", "and", "Juho", "Lee", "2021", "Adversarial", "purification", "with", "score", "-", "based", "generative", "models", "In", "Proceedings", "of", "the", "38th", "International", "Conference", "on", "Machine", "Learning", ",", "ICML", "2021", ",", "18", "-", "24", "July", "2021", ",", "Virtual", "Event", ",", "volume", "139", "of", "Proceedings", "of", "Machine", "Learning", "Research", ",", "pages", "12062–12072", "PMLR", "Jiehang", "Zeng", ",", "Xiaoqing", "Zheng", ",", "Jianhan", "Xu", ",", "Linyang", "Li", ",", "Liping", "Yuan", ",", "and", "Xuanjing", "Huang", "2021", "Certified", "robustness", "to", "text", "adversarial", "attacks", "by", "randomized", "[", "mask", "]", "arXiv", "preprint", "arXiv:2105.03743", "Xiang", "Zhang", ",", "Junbo", "Zhao", ",", "and", "Yann", "LeCun", "2015", "Character", "-", "level", "convolutional", "networks", "for", "text", "clas-", "sification", "In", "Advances", "in", "neural", "information", "pro-", "cessing", "systems", ",", "pages", "649–657", "Yi", "Zhou", ",", "Xiaoqing", "Zheng", ",", "Cho", "-", "Jui", "Hsieh", ",", "Kai", "-", "wei", "Chang", ",", "and", "Xuanjing", "Huang", "2020", "Defense", "against", "adversarial", "attacks", "in", "nlp", "via", "dirichlet", "neighborhood", "ensemble", "arXiv", "preprint", "arXiv:2006.11627", "Chen", "Zhu", ",", "Yu", "Cheng", ",", "Zhe", "Gan", ",", "Siqi", "Sun", ",", "Thomas", "Gold-", "stein", ",", "and", "Jingjing", "Liu", "2019", "Freelb", ":", "Enhanced", "ad-", "versarial", "training", "for", "language", "understanding", "arXiv", "preprint", "arXiv:1909.11764", ".347", "Appendix", "Recovery", "Number", "Analysis", "One", "key", "problem", "is", "that", "how", "many", "recoveries", "we", "should", "use", "in", "the", "recovering", "process", ",", "as", "finding", "a", "proper", "Tis", "also", "important", "in", "the", "image", "-", "domain", "purification", "process", "We", "use", "two", "attack", "methods", "withK=", "12", "to", "test", "how", "the", "accuracy", "varies", "when", "using", "different", "recovery", "number", "N", "As", "seen", "in", "Fig", "2", "(", "a", ")", ",", "the", "ensemble", "size", "is", "actu-", "ally", "not", "a", "key", "factor", "Larger", "ensemble", "size", "would", "not", "result", "in", "further", "improvements", "We", "assume", "that", "larger", "ensemble", "size", "will", "smooth", "the", "output", "score", "which", "will", "benefit", "the", "attack", "algorithm", "That", "is", ",", "the", "tiny", "difference", "between", "substitutes", "can", "be", "de-", "tected", "by", "the", "attack", "algorithm", "since", "the", "confidence", "score", "is", "given", "to", "the", "attack", "algorithms", "Still", ",", "we", "can", "conclude", "that", "a", "multiple", "recovery", "process", "is", "ef-", "fective", "in", "the", "purification", "process", "and", "quite", "simple", "to", "implement", "Candidate", "Size", "Analysis", "The", "attack", "algorithms", "such", "as", "BERT", "-", "Attack", "and", "Textfooler", "use", "a", "wide", "range", "of", "substitution", "set", "(", "e.g", "K=50", "in", "Textfooler", "means", "for", "each", "token", "to", "replace", ",", "the", "algorithm", "will", "find", "the", "best", "replacement", "in", "50", "candidates", ")", ",", "which", "seriously", "harms", "the", "quality", "of", "the", "input", "texts", "As", "seen", "in", "Fig", "2", "(", "b", ")", ",", "when", "the", "candidate", "is", "0", ",", "the", "accuracy", "is", "high", "on", "the", "clean", "samples", "When", "the", "candidate", "is", "6", ",", "the", "normal", "fine", "-", "tuned", "BERT", "model", "can", "not", "correctly", "predict", "the", "generated", "adversarial", "examples" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "This", "indicates", "that", "normal", "fine", "-", "tuned", "BERT", "is", "not", "robust", "even", "when", "the", "candidate", "size", "is", "small" ]

[ "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "After", "purification", ",", "the", "model", "can", "tolerate", "these", "limited", "candidate", "size", "attacks", "When", "the", "can-", "didate", "size", "grows", ",", "the", "performance", "of", "our", "defense", "framework", "drops", "by", "a", "relatively", "large", "margin", "We", "assume", "that", "large", "candidate", "size", "would", "seriously", "harm", "the", "semantics", "which", "is", "also", "explored", "in", "Mor-", "ris", "et", "al", "(", "2020b", ")", ",", "while", "these", "adversaries", "can", "not", "be", "well", "evaluated", "even", "using", "human", "-", "evvaluations", "since", "the", "change", "rate", "is", "still", "low", "Accuracy", "Under", "Attack304254667890", "18163264", "BERT", "-", "Attack", "(", "k=12", ")", "-Text", "Purification", "Textfooler", "(", "k=12", ")", "-Text", "Purification", "(", "a", ")", "Recovery", "Number", "Influence", "Accuracy", "Under", "Attack020406080100", "0612243648", "Textfooler", "-", "BERT", "Textfooler", "-", "Text", "Purification", "BERT", "-", "Attack", "-", "BERT", "BERT", "-", "Attack", "-", "Text", "Purification", "(", "b", ")", "Candidate", "-", "Size", "Influence", "Figure", "2", ":", "Hyper", "-", "Parameter", "Selection", "Analysis348", "ACL", "2023", "Responsible", "NLP", "Checklist", "A", "For", "every", "submission", ":", "/", "squareA1" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MetricName", "I-MetricName", "I-MetricName", "B-MetricValue", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-HyperparameterName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Did", "you", "describe", "the", "limitations", "of", "your", "work", "?", "Left", "blank", "/", "squareA2", "Did", "you", "discuss", "any", "potential", "risks", "of", "your", "work", "?", "Left", "blank", "/", "squareA3", "Do", "the", "abstract", "and", "introduction", "summarize", "the", "paper", "’s", "main", "claims", "?", "Left", "blank", "/", "squareA4", "Have", "you", "used", "AI", "writing", "assistants", "when", "working", "on", "this", "paper", "?", "Left", "blank", "B", "/", "squareDid", "you", "use", "or", "create", "scientific", "artifacts", "?", "Left", "blank", "/", "squareB1", "Did", "you", "cite", "the", "creators", "of", "artifacts", "you", "used", "?", "Left", "blank", "/", "squareB2", "Did", "you", "discuss", "the", "license", "or", "terms", "for", "use", "and", "/", "or", "distribution", "of", "any", "artifacts", "?", "Left", "blank", "/", "squareB3", "Did", "you", "discuss", "if", "your", "use", "of", "existing", "artifact", "(", "s", ")", "was", "consistent", "with", "their", "intended", "use", ",", "provided", "that", "it", "was", "specified", "?", "For", "the", "artifacts", "you", "create", ",", "do", "you", "specify", "intended", "use", "and", "whether", "that", "is", "compatible", "with", "the", "original", "access", "conditions", "(", "in", "particular", ",", "derivatives", "of", "data", "accessed", "for", "research", "purposes", "should", "not", "be", "used", "outside", "of", "research", "contexts", ")", "?", "Left", "blank", "/", "squareB4", "Did", "you", "discuss", "the", "steps", "taken", "to", "check", "whether", "the", "data", "that", "was", "collected", "/", "used", "contains", "any", "information", "that", "names", "or", "uniquely", "identifies", "individual", "people", "or", "offensive", "content", ",", "and", "the", "steps", "taken", "to", "protect", "/", "anonymize", "it", "?", "Left", "blank", "/", "squareB5", "Did", "you", "provide", "documentation", "of", "the", "artifacts", ",", "e.g.", ",", "coverage", "of", "domains", ",", "languages", ",", "and", "linguistic", "phenomena", ",", "demographic", "groups", "represented", ",", "etc", "?", "Left", "blank", "/", "squareB6" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Proceedings", "of", "the", "61st", "Annual", "Meeting", "of", "the", "Association", "for", "Computational", "Linguistics", "Volume", "1", ":", "Long", "Papers", ",", "pages", "351–363", "July", "9", "-", "14", ",", "2023", "©", "2023", "Association", "for", "Computational", "Linguistics", "SPEECH", ":", "Structured", "Prediction", "with", "Energy", "-", "Based", "Event", "-", "Centric", "Hyperspheres", "Shumin", "Deng", "♥", ",", "Shengyu", "Mao", "♠", ",", "Ningyu", "Zhang", "♠", "∗", ",", "Bryan", "Hooi", "♥", "∗", "♥", "National", "University", "of", "Singapore", "&", "NUS", "-", "NCS", "Joint", "Lab", ",", "Singapore", "♠", "Zhejiang", "University", "&", "AZFT", "Joint", "Lab", "for", "Knowledge", "Engine", ",", "China", "{", "shumin", ",", "dcsbhk", "}", "@", "nus.edu.sg", ",", "{", "shengyu", ",", "zhangningyu", "}", "@", "zju.edu.cn", "Abstract", "Event", "-", "centric", "structured", "prediction", "involves", "predicting", "structured", "outputs", "of", "events", "In", "most", "NLP", "cases", ",", "event", "structures", "are", "complex", "with", "manifold", "dependency", ",", "and", "it", "is", "challeng-", "ing", "to", "effectively", "represent", "these", "complicated", "structured", "events", "To", "address", "these", "issues", ",", "we", "propose", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O" ]

[ "SPEECH", "models", "complex", "dependency", "among", "event", "structured", "components", "with", "energy-", "based", "modeling", ",", "and", "represents", "event", "classes", "with", "simple", "but", "effective", "hyperspheres" ]

[ "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Exper-", "iments", "on", "two", "unified", "-", "annotated", "event", "datasets", "indicate", "that", "S", "PEECH", "is", "predominant", "in", "event", "detection", "and", "event", "-", "relation", "extraction", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "1", "Introduction", "Structured", "prediction", "(", "Taskar", "et", "al" ]

[ "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ ",", "2005", ")", "is", "a", "task", "where", "the", "predicted", "outputs", "are", "complex", "structured", "components", "This", "arises", "in", "many", "NLP", "tasks", "(", "Smith", ",", "2011", ";", "Kreutzer", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2017", ";", "Wang", "et", "al", ",", "2023", ")", "and", "supports", "various", "applications", "(", "Jagannatha", "and", "Yu", ",", "2016", ";", "Kreutzer", "et", "al", ",", "2021", ")", "In", "event", "-", "centric", "NLP", "tasks", ",", "there", "exists", "strong", "complex", "dependency", "be-", "tween", "the", "structured", "outputs", ",", "such", "as", "event", "detec-", "tion", "(", "ED", ")", "(", "Chen", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ ",", "2015", ")", ",", "event", "-", "relation", "extrac-", "tion", "(", "ERE", ")", "(", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O", "O", "O", "O", "O" ]

[ ",", "2020b", ")", ",", "and", "event", "schema", "induction", "(", "Li", "et", "al" ]

[ "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O" ]

[ ",", "2020", ")", "Thus", ",", "these", "tasks", "can", "also", "be", "revisited", "as", "event", "-", "centric", "structured", "predic-", "tion", "problems", "(", "Li", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O" ]

[ ",", "2013", ")", "Event", "-", "centric", "structured", "prediction", "(", "ECSP", ")", "tasks", "require", "to", "consider", "manifold", "structures", "and", "de-", "pendency", "of", "events", ",", "including", "intra-", "/", "inter", "-", "sentence", "structures" ]

[ "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "For", "example", ",", "as", "seen", "in", "Figure", "1", ",", "given", "a", "document", "containing", "some", "event", "mentions", "“", "David", "Warren", "shot", "and", "killed", "Henry", "Glover", "...", "David", "was", "convicted", "and", "sentenced", "to", "25", "years", "and", "9", "months", "...", "”", ",", "in", "ED", "task", "mainly", "considering", "intra", "-", "sentence", "structures", ",", "we", "need", "to", "identify", "event", "triggers", "(", "killed", ",", "convicted", ")", "from", "these", "tokens", "and", "categorize", "them", "∗Corresponding", "Author" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "…", "…", "[", "S1", "]", "FormerNOPDpoliceofficerDavidWarrenshotandkilledHenryGlover.", "[", "S2", "]", "FivecurrentandformerofficersoftheNOPDwerechargedwithGlover‘sdeath.", "[", "S3", "]", "Davidwasconvictedandsentencedto25yearsand9monthsinprisonforshootingandkillingGlover.", "…", "…", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "trigger", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "…", "non", "-", "trigger", "…", "…", "…", "…", "…", "…", "triggerkillinglegal_rulingsdeath", "[", "S1", "]", ",", "cause", ",", "[", "S3", "]", "[", "S2", "]", ",", "before", ",", "[", "S3", "]", "…", "…", "EDEREFigure", "1", ":", "Illustration", "of", "event", "-", "centric", "structured", "predic-", "tion", "tasks", ",", "with", "the", "examples", "of", "ED", "and", "ERE", "into", "event", "classes", "(", "killing", ",", "legal_rulings", ")", ";", "in", "ERE", "task", "mainly", "considering", "inter", "-", "sentence", "structures", ",", "we", "need", "to", "find", "the", "relationship", "between", "each", "event", "mention", "pair", ",", "such", "as", "event", "coreference", ",", "temporal", ",", "causal", "and", "subevent", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "As", "seen", "from", "Figure", "1", ",", "the", "outputs", "of", "ECSP", "lie", "on", "a", "complex", "manifold", "and", "possess", "interdepen-", "dent", "structures", ",", "e.g.", ",", "the", "long", "-", "range", "dependency", "of", "tokens", ",", "the", "association", "among", "triggers", "and", "event", "classes", ",", "and", "the", "dependency", "among", "event", "classes", "and", "event", "relations" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Thus", "it", "is", "challenging", "to", "model", "such", "complex", "event", "structures", "while", "efficiently", "rep-", "resenting", "these", "events", "Previous", "works", "increasingly", "apply", "deep", "representation", "learning", "to", "tackle", "these", "problems", "Lin", "et", "al", "(", "2020", ")", ";", "Li", "et", "al", "(", "2020", ")", "propose", "to", "predict", "event", "structures", "based", "on", "the", "event", "graph", "schema", "Hsu", "et", "al", "(", "2022", ")", "generate", "event", "structures", "with", "manually", "designed", "prompts", "However", ",", "these", "methods", "mainly", "focus", "on", "one", "of", "ECSP", "tasks", "and", "their", "event", "structures", "are", "hard", "to", "represent", "effec-", "tively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "Paolini", "et", "al", "(", "2021", ")", ";", "Lu", "et", "al", "(", "2021", ",", "2022", ")", "propose", "to", "extract", "multiple", "event", "structures", "from", "texts", "with", "a", "unified", "generation", "paradigm", "However", ",", "the", "event", "structures", "of", "these", "approaches", "are", "usually", "quite", "simplistic", "and", "they", "often", "ignore", "the", "complex", "dependency", "among", "tasks", "In", "this", "paper", ",", "we", "focus", "more", "on", ":", "(", "i", ")", "how", "to", "learn", "complex", "event", "structures", "for", "manifold", "ECSP", "tasks", ";", "and", "(", "ii", ")", "how", "to", "simultane-351", "ously", "represent", "events", "for", "these", "complex", "structured", "prediction", "models", "effectively" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "To", "resolve", "the", "first", "challenging", "problem", "of", "mod-", "eling", "manifold", "event", "structures", ",", "we", "utilize", "energy", "networks", "(", "Lecun", "et", "al", ",", "2006", ";", "Belanger", "and", "McCal-", "lum", ",", "2016", ";", "Belanger", "et", "al", ",", "2017", ";", "Tu", "and", "Gimpel", ",", "2018", ")", ",", "inspired", "by", "their", "potential", "benefits", "in", "cap-", "turing", "complex", "dependency", "of", "structured", "compo-", "nents", "We", "define", "the", "energy", "function", "to", "evaluate", "compatibility", "of", "input", "/", "output", "pairs", ",", "which", "places", "no", "limits", "on", "the", "size", "of", "the", "structured", "components", ",", "making", "it", "powerful", "to", "model", "complex", "and", "mani-", "fold", "event", "structures", "We", "generally", "consider", "token-", ",", "sentence-", ",", "and", "document-", "level", "energy", "respectively", "for", "trigger", "classification", ",", "event", "classification", "and", "event", "-", "relation", "extraction", "tasks", "To", "the", "best", "of", "our", "knowledge", ",", "this", "work", "firstly", "address", "event", "-", "centric", "structured", "prediction", "with", "energy", "-", "based", "modeling" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "O", "O", "O", "O" ]

[ "To", "resolve", "the", "second", "challenging", "problem", "of", "efficiently", "representing", "events", ",", "we", "take", "advantage", "of", "hyperspheres", "(", "Mettes", "et", "al", ",", "2019", ";", "Wang", "and", "Isola", ",", "2020", ")", ",", "which", "is", "demonstrated", "to", "be", "a", "simple", "and", "effective", "approach", "to", "model", "class", "representa-", "tion", "(", "Deng", "et", "al", ",", "2022", ")", "We", "assume", "that", "the", "event", "mentions", "of", "each", "event", "class", "distribute", "on", "the", "corre-", "sponding", "energy", "-", "based", "hypersphere", ",", "so", "that", "we", "can", "represent", "each", "event", "class", "with", "a", "hyperspherical", "centroid", "and", "radius", "embedding", "The", "geometrical", "modeling", "strategy", "(", "Ding", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O" ]

[ ",", "2021", ";", "Lai", "et", "al", ",", "2021", ")", "is", "demonstrated", "to", "be", "beneficial", "for", "mod-", "elling", "enriched", "class", "-", "level", "information", "and", "suitable", "for", "constructing", "measurements", "in", "Euclidean", "space", ",", "making", "it", "intuitively", "applicable", "to", "manifold", "event-", "centric", "structured", "prediction", "tasks" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName", "O" ]

[ "Summarily", ",", "considering", "the", "two", "issues", ",", "we", "pro-", "pose", "to", "address", "Structured", "Prediction", "with", "Energy-", "based", "Event-", "Centric", "Hyperspheres", "(", "SPEECH", ")", ",", "and", "our", "contributions", "can", "be", "summarized", "as", "follows", ":", "•We", "revisit", "the", "event", "-", "centric", "structured", "predic-", "tion", "tasks", "in", "consideration", "of", "both", "complex", "event", "structures", "with", "manifold", "dependency", "and", "efficient", "representation", "of", "events" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "propose", "a", "novel", "approach", "named", "SPEECH", "to", "model", "complex", "event", "structures", "with", "energy", "-", "based", "networks", "and", "efficiently", "repre-", "sent", "events", "with", "event", "-", "centric", "hyperspheres" ]

[ "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ "•We", "evaluate", "SPEECH", "on", "two", "newly", "proposed", "datasets", "for", "both", "event", "detection", "and", "event-", "relation", "extraction", ",", "and", "experiments", "demon-", "strate", "that", "our", "model", "is", "advantageous.2", "Related", "Work", "Event", "-", "Centric", "Structured", "Prediction", "(", "ECSP", ")" ]

[ "O", "O", "B-MethodName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "O", "B-TaskName", "O" ]

[ "Since", "the", "boom", "in", "deep", "learning", ",", "traditional", "ap-", "proaches", "to", "ECSP", "mostly", "define", "a", "score", "function", "between", "inputs", "and", "outputs", "based", "on", "a", "neural", "network", ",", "such", "as", "CNN", "(", "Chen", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-TaskName", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O" ]

[ ",", "2015", ";", "Deng", "et", "al", ",", "2020", ")", ",", "RNN", "(", "Nguyen", "et", "al", ",", "2016", ";", "Meng", "and", "Rumshisky", ",", "2018", ";", "Nguyen", "and", "Nguyen", ",", "2019", ")", ",", "and", "GCN", "(", "Yan", "et", "al", ",", "2019", ";", "Lai", "et", "al", ",", "2020", ";", "Cui", "et", "al", ",", "2020", ")", "With", "the", "development", "of", "pretrained", "large", "models", ",", "more", "recent", "research", "has", "entered", "a", "new", "era", "Wang", "et", "al", "(", "2019", ")", ";", "Du", "and", "Cardie", "(", "2020", ")", ";", "Liu", "et", "al", "(", "2020a", ")", ";", "Deng", "et", "al", "(", "2021", ")", ";", "Sheng", "et", "al", "(", "2022", ")", "leverage", "BERT", "(", "Devlin", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "for", "event", "ex-", "traction" ]

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName" ]

[ "Han", "et", "al", "(", "2020", ")", "and", "Wang", "et", "al", "(", "2020a", ")", ";", "Man", "et", "al", "(", "2022", ")", ";", "Hwang", "et", "al", "(", "2022", ")", "respectively", "adopt", "BERT", "and", "RoBERTa", "(", "Liu", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "O", "B-MethodName", "O", "O", "O", "O" ]

[ ",", "2019", ")", "for", "event", "-", "relation", "extraction" ]

[ "O", "O", "O", "O", "B-TaskName", "I-TaskName", "I-TaskName", "I-TaskName" ]

[ "Lu", "et", "al", "(", "2021", ")", ";", "Paolini", "et", "al", "(", "2021", ")", ";", "Lu", "et", "al", "(", "2022", ")", "propose", "generative", "ECSP", "models", "based", "on", "pre", "-", "trained", "T5", "(", "Raffel", "et", "al" ]

[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-MethodName", "I-MethodName", "I-MethodName", "O", "O", "O", "O", "O", "B-MethodName", "O", "O", "O", "O" ]