Adversarial-attack-in-nlp

Evasion Attacks and Defenses

仅仅将film改为了films ## Four Ingredients

### Goal

使得模型丢弃掉红字之后的部分 ### Transformation

直接使用bert进行替换可能词义完全相反，因为符合context的词语不一定符合原本的任务（例如情感色彩等）。 不使用Mask直接扔进bert ### Constrains

# Search Method 直到模型的预测变化后停止。由于recommend比highly更重要所以优先换recommend。 当无法得到模型内部的信息时，采用此方法，逐步去除单词，根据来决定单词的重要程度。这种方法更为常用。 ## Example ### Crafting Adversaries by Auto-Encoder ## Evasion Defenses

Imitation Attacks and Defenses

Backdoor Attacks and Defenses