TAADpapers

テキストの敵対的攻撃と防御に関する必見の論文（TAAD）

このリストは現在、UchicagoのChenghao Yangによって維持されています。

Fanchao Qiや、彼らがThunlpにいたときの元Zangを含む他の以前の主要な貢献者。

すべての素晴らしい貢献者に感謝します。

コンテンツ

• 0。ツールキット
• 1。調査論文
• 2。攻撃論文（摂動レベルに従って分類）
  • 2.1文レベルの攻撃
  • 2.2単語レベルの攻撃
  • 2.3 char-level攻撃
  • 2.4マルチレベル攻撃
• 3。防衛論文
• 4。認定された堅牢性
• 5。ベンチマークと評価
• 6。その他の論文
• 貢献者

0。ツールキット

1. robustqa：質問回答システムに関する敵対的なテキスト生成分析のフレームワーク。 Yasaman Boreshban、Seyed Morteza Mirbostani、Seyedeh Fatemeh Ahmadi、Gita Shojaee、Fatemeh Kamani、Gholamreza Ghassem-Sani、Seyed Abolghasem Mirroshandel 。 EMNLP 2022デモ。 [コードベース] [PDF]
2. Seqattack：名前付きエンティティ認識の敵対的攻撃について。ウォルター・シモンシニ、ジェラシモス・スパニス。 EMNLP 2021デモ。 [ウェブサイト] [PDF]
3. OpenAttack：オープンソースのテキストの敵対的な攻撃ツールキット。 Guoyang Zeng、Fanchao Qi、Qianrui Zhou、Tingji Zhang、Bairu Hou、Yuan Zang、Zhiyuan Liu、Maosong Sun。 ACL-IJCNLP 2021デモ。 [ウェブサイト] [doc] [pdf]
4. TextAttack：NLPでの敵対的な攻撃、データ増強、敵対的なトレーニングのフレームワーク。ジョン・モリス、エリ・ライフランド、ジン・ヨン・ユ、ジェイク・グリグスビー、ディ・ジン、ヤンジュン・チー。 EMNLP 2020デモ。 [ウェブサイト] [doc] [pdf]

1。調査論文

1. NLPモデルの堅牢性を測定および改善：調査。 Xuezhi Wang、Haohan Wang、Diyi Yang 。 NAACL 2022。[PDF]
2. テキストの堅牢な深いニューラルネットワークに向けて：調査。 Wenqi Wang、Lina Wang、Benxiao Tang、Run Wang、Aoshuang Ye 。 TKDE 2021。[PDF]
3. 自然言語処理における深い学習モデルに対する敵対的攻撃：調査。 Wei Emma Zhang、Quan Z. Sheng、Ahoud Alhazmi、Chenliang Li 。 ACM TIST 2020。[PDF]
4. 画像、グラフ、テキストの敵対的な攻撃と防御：レビュー。 Han Xu、Yao MA、Hao-Chen Liu、Debayan Deb、Hui Liu、Ji-Liang Tang、Anil K. Jain 。 Automation and Computing 2020の国際ジャーナル。[PDF]
5. 神経言語処理における分析方法：調査。 Yonatan Belinkov、James Glass 。 TACL 2019。[PDF]

2。攻撃論文

各論文は、攻撃モデルが被害者モデルについて知っている情報の量を示す1つ以上のペーパーに添付されています： gradient （= white 、すべての情報）、 score （出力決定とスコア）、 decision （出力決定のみ）、 blind （何も）

2.1文レベルの攻撃

1. 敵対的な攻撃を使用して、機械読解モデルの統計的バイアスを明らかにします。 Jieyu Lin、Jiajie Zou、Nai Ding 。 ACL-IJCNLP 2021。 blind [PDF]
2. センチメント分類のためのグレーボックス敵対的な攻撃と防御。 Ying Xu、Xu Zhong、Antonio Jimeno Yepes、Jey Han Lau 。 gradient -hlt2021。gradient[pdf] [code]
3. 注釈付きの平行ペアを使用せずに構文的に制御された言い換えを生成します。 Kuan-Hao HuangとKai-Wei Chang 。 EACL 2021。[PDF] [コード]
4. Cat-Gen：制御された敵対的なテキスト生成を介したNLPモデルの堅牢性の向上。 Tianlu Wang、Xuezhi Wang、Yao Qin、Ben Packer、Kang Lee、Jilin Chen、Alex Beutel、Ed Chi 。 EMNLP2020。 score [PDF]
5. T3：Tree-AutoEncoderターゲット攻撃のための敵対的なテキスト生成を制約します。 Boxin Wang、Hengzhi Pei、Boyuan Pan、Qian Chen、Shuohang Wang、Bo Li 。 gradient [PDF] [コード]
6. 構造化された予測モデルの敵対的攻撃と防御。 Wenjuan Han、Liwen Zhang、Yong Jiang、Kewei Tu 。 emnlp 2020。 blind [PDF] [コード]
7. MALCOM：ニューラルの偽のニュース検出モデルを攻撃するための悪意のあるコメントを生成します。タイ・ル、スハン・ワン、ドンウォン・リー。 ICDM 2020。 gradient [PDF] [コード]
8. 質問に答えるシステムの堅牢性を改善して、質問の言い換えに。 Wee Chung Gan、Hwee Tou Ng 。 ACL 2019。 blind [PDF] [データ]
9. できるなら、私をだましてください：質問に答えるための敵対例の人間の生成。エリック・ウォレス、ペドロ・ロドリゲス、シ・フェン、イクヤ・ヤマダ、ジョーダン・ボイド・グラバー。 TACL2019。 score [PDF]
10. 足：言葉スクランブルの敵を言い換えます。 Yuan Zhang、Jason Baldridge、Luheng He 。 NAACL-HLT 2019。 blind [PDF] [データセット]
11. 対話システムの堅牢性の評価と強化：交渉エージェントに関するケーススタディ。 Minhao Cheng、Wei Wei、Cho-Jui Hsieh 。 NAACL-HLT2019。Gradient gradient [PDF score [コード]
12. NLPモデルをデバッグするための意味的に同等の敵対規則。 Marco Tulio Ribeiro、Sameer Singh、Carlos Guestrin 。 ACL 2018。 decision [PDF] [コード]
13. 論理的な背景知識を統合するために、神経NLIモデルを敵対的に正規化します。パスクアーレ・ミネルヴィーニ、セバスチャン・リーデル。 score [PDF] [コードとデータ]
14. 敵対的な訓練による堅牢な機械理解モデル。イシェン・ワン、モヒト・バンサル。 NAACL-HLT 2018。 decision [PDF] [データセット]
15. 構文的に制御された言い換えネットワークを使用した敵対的な例生成。 Mohit Iyyer、John Wieting、Kevin Gimpel、Luke Zettlemoyer 。 NAACL-HLT 2018。 blind [PDF] [コードとデータ]
16. 自然な敵対例を生成します。 Zhengli Zhao、Dheeru Dua、Sameer Singh 。 ICLR 2018。 decision [PDF] [コード]
17. 読解システムを評価するための敵対例。ロビン・ジア、パーシー・リアン。 EMNLP2017。 score decision blind [PDF] [コード]
18. 神経リンク予測子を正規化するための敵対セット。 Pasquale Minervini、Thomas Demeester、TimRocktäschel、Sebastian Riedel 。 score [PDF] [コード]

2.2単語レベルの攻撃

1. 範囲の拡大：英語の敵対的な攻撃を中国語に適応させます。 Hanyu Liu、Chengyuan Cai、Yanjun Qi 。 ACL 2023の調査結果。 decision [PDF] [コード]
2. 検索と学習による敵対的なテキスト生成。 Guoyi Li、Bingkang Shi、Zongzhen Liu、Dehan Kong、Yulei Wu、Xiaodan Zhang、Longtao Huang、Honglei Lyu 。 ACL 2023の調査結果。 score [PDF] [コード]
3. CVとNLPの間のギャップを埋めます！グラデーションベースのテキスト敵対攻撃フレームワーク。 Lifan Yuan、Yichi Zhang、Yangyi Chen、Wei Wei 。 ACL 2023の調査結果。 decision [PDF] [コード]
4. Texthacker：テキストハードラベル敵対攻撃のための学習ベースのハイブリッドローカル検索アルゴリズム。 Zhen Yu、Xiaosen Wang、Wanxiang Che、Kun He 。 EMNLP 2022の調査結果。 decision [PDF] [コード]
5. Texthoaxer：テキストに対する予算のハードラベル敵対攻撃。 Muchao Ye、Chenglin Miao、Ting Wang、Fenglong Ma 。 decision [pdf] [code]
6. ベイジアン最適化による離散シーケンシャルデータに対するクエリ効率の高いスケーラブルなブラックボックスの敵対的攻撃。 Deokjae Lee、Seungyong Moon、Junhyeok Lee、Hyun Oh Song 。 ICML2022。 score [PDF] [コード]
7. Semattack：さまざまなセマンティックスペースに対する自然なテキスト攻撃。 Boxin Wang、Chejian Xu、Xiangyu Liu、Yu Cheng、Bo Li 。 NAACL 2022の調査結果。 gradient [PDF] [コード]
8. テキスト変圧器に対するグラデーションベースの敵対攻撃。 Chuan Guo、Alexandre Sablayrolles、HervéJégou、Douwe Kiela 。 gradient [pdf] [code]
9. ブラックボックス設定でのクエリ効率的な攻撃のための強力なベースライン。 Rishabh Maheswary、Saket Maheshwary、Vikram Pudi 。 score [PDF] [コード]
10. 神経テキスト分類器に対する敵対的な攻撃の移動性について。リピングユアン、Xiaoqing Zheng、Yi Zhou、Cho-Jui Hsieh、Kai-Wei Chang 。 EMNLP 2021。[PDF]
11. 神経機械翻訳の敵対例を作成します。 Xinze Zhang、Junzhe Zhang、Zhenhua Chen、Kun He 。 ACL-IJCNLP2021。 score [PDF] [コード]
12. NMTに対する敵対的な攻撃に関する実証研究：言語と位置は重要です。 Zhiyuan Zeng、Deyi Xiong 。 ACL-IJCNLP2021。 score [PDF]
13. より良い敵対例を使用して、神経依存関係パーサーの堅牢性を詳しく調べます。 Yuxuan Wang、Wanxiang Che、Ivan Titov、Shay B. Cohen、Zhilin Lei、Ting Liu 。 ACLの調査score ：ACL-IJCNLP2021。SCORE[PDF] [Code]
14. テキストの敵対的攻撃のための文脈化された摂動。 Dianqi Li、Yizhe Zhang、Hao Peng、Liqun Chen、Chris Brockett、Ming-Ting Sun、Bill Dolan 。 naacl-hlt2021。 score [PDF] [コード]
15. Adv-Olm：OLM経由のテキスト敵を生成します。 Vijit Malik、Ashwani Bhat、Ashutosh Modi 。 EACL2021。 score [PDF] [コード]
16. 野生における敵対的なスタイロメトリー：著者のプロファイルに対する移動可能な語彙置換攻撃。クリス・エメリー、アコス・カダール、GrzegorzChrupała 。 EACL 2021。 blind [PDF] [コード]
17. ハードラベルのブラックボックス設定で自然言語攻撃を生成します。 Rishabh Maheshwary、Saket Maheshwary、Vikram Pudi 。 decision [pdf] [code]
18. 自然言語の敵対例を生成するための幾何学的な攻撃。 Zhao Meng、Roger Wattenhofer 。 gradient [PDF] [コード]
19. Bert-attack：Bertを使用したBertに対する敵対的な攻撃。 Linyang Li、Ruotian MA、Qipeng Guo、Xiangyang Xue、Xipeng Qiu 。 score [PDF] [コード]
20. BAE：テキスト分類のためのBertベースの敵対例。シッダント・ガーグ、ガウタム・ラマクリシュナン。 score [PDF] [コード]
21. モデルに依存しない敵対的攻撃のための機械翻訳における単語感覚の曖昧性偏りの検出。デニス・エメリン、イヴァン・ティトフ、リコ・センリッヒ。 emnlp 2020。 blind [PDF] [コード]
22. ブラックボックスの機械翻訳システムの模倣攻撃と防御。エリック・ウォレス、ミッチェル・スターン、ドーン・ソング。 emnlp 2020。 decision [PDF] [コード]
23. 言い換えされた言葉で共有された単語を使用して変更する堅牢性。 Zhouxing Shi、Minlie Huang 。 ACLの調査結果：EMNLP2020。 score [PDF]
24. 組み合わせの最適化としての単語レベルのテキスト敵対的攻撃。 Yuan Zang、Fanchao Qi、Chenghao Yang、Zhiyuan Liu、Meng Zhang、Qun Liu、Maosong Sun。 ACL 2020。 score [PDF] [コード]
25. モルフィンの時間です！屈折性摂動と言語差別との闘い。 Samson Tan、Shafiq Joty、Min-Yen Kan、Richard Socher 。 ACL 2020。 score [PDF] [コード]
26. 文法エラーに対する言語エンコーダーの堅牢性について。ファン・イン、Quanyu Long、Tao Meng、Kai-Wei Chang 。 ACL 2020。 score [PDF] [コード]
27. ニューラルネットワークベースの依存関係モデルの堅牢性を敵対例で評価および強化します。 Xiaoqing Zheng、Jiehang Zeng、Yi Zhou、Cho-Jui Hsieh、Minhao Cheng、Xuanjing Huang 。 ACL 2020。 gradient score [PDF] [コード]
28. 神経機械翻訳の敵対例の強化された生成。 Wei Zou、Shujian Huang、Jun Xie、Xinyu Dai、Jiajun Chen 。 ACL 2020。 decision [PDF]
29. バートは本当に堅牢ですか？テキストの分類と伴うことに対する自然言語攻撃のための強力なベースライン。ディ・ジン、Zhijing Jin、Joey Tianyi Zhou、Peter Szolovits 。 aaai 2020。 score [PDF] [コード]
30. SEQ2SICK：敵対例を使用したシーケンスからシーケンスモデルの堅牢性を評価します。 Minhao Cheng、Jinfeng Yi、Pin-Yu Chen、Huan Zhang、Cho-Jui Hsieh 。 aaai 2020。 score [PDF] [コード]
31. 貪欲な攻撃とガンベル攻撃：離散データの敵対例を生成します。 Puyudi Yang、Jianbo Chen、Cho-Jui Hsieh、Jane-Lingwang、Michael I. Jordan 。 score [PDF] [コード]
32. 自己完全なモデルの堅牢性について。 Yu-Lun Hsieh、Minhao Cheng、Da-Cheng Juan、Wei Wei、Wen-Lian Hsu、Cho-Jui Hsieh 。 ACL2019。 score [PDF]
33. 確率加重単語の顕著性を通じて自然言語の敵対例を生成します。 Shuhuai Ren、Yihe Deng、Kun He、Wanxiang Che 。 ACL2019。 score [PDF] [コード]
34. 自然言語の流fluent敵の例を生成します。 Huangzhao Zhang、Hao Zhou、Ning Miao、Lei Li 。 ACL2019。 gradient score [PDF] [コード]
35. 二重の敵対的な入力を伴う堅牢なニューラル機械翻訳。 Yong Cheng、Lu Jiang、Wolfgang Macherey 。 gradient [PDF]
36. テキスト分類子に対する普遍的な敵対的攻撃。 Melika Behjati、Seyed-Mohsen Moosavi-Dezfooli、Mahdieh Soleymani Baghshah、Pascal Frossard 。 gradient [PDF]
37. 自然言語の敵対例を生成します。 Moustafa Alzantot、Yash Sharma、Ahmed Elgohary、Bo-Jhang Ho、Mani Srivastava、Kai-Wei Chang 。 score [PDF] [コード]
38. 単純な語彙推論を必要とする文でNLIシステムを破る。 Max Glockner、Vered Shwartz、Yoav Goldberg 。 ACL 2018。 blind [PDF] [データセット]
39. 深いテキスト分類はだまされます。 Bin Liang、Hongcheng Li、Miaoqiang Su、Pan Bian、Xirong Li、Wenchang Shi 。 IJCAI2018。 gradient score [PDF]
40. テキスト用の入力埋め込みスペースにおける解釈可能な敵対的摂動。佐藤、江口、鈴木ジュン、シンドウチ、松本ゆく。 gradient [PDF] [コード]
41. テキストの敵対サンプルの作成に向けて。 Suranjana Samanta、Sameep Mehta 。 gradient [PDF]
42. 再発性ニューラルネットワークの敵対的な入力シーケンスを作成します。ニコラス・パパノット、パトリック・マクダニエル、アナントラム・スワミ、リチャード・ハラン。 gradient [PDF]

2.3 char-level攻撃

1. 言語モデルのキャラクターレベルの敵対的攻撃を再検討します。 Elias Abad Rocamoma 、Yongtao Wu、Fanghui Liu、Grigorios G. Chrysos、 blind Cevher、ICML2024。ScoreBlind score gradient PDF] [Code]
2. Vertattack：テキスト分類子の水平ビジョンを利用します。ジョナサンルサート、NAACL2024。 blind score [PDF]
3. 句読点レベルの攻撃：シングルショットと単一の句読点は、テキストモデルをだますことができます。ウェンキアン・ワン、チョンヤン・デュ、タオ・ワン、カイハオ・チャン、ウェンハン・ルー、リンマ、ウェイ・リュー、シャオ。ニューリップス2023。 score blind [PDF]
4. 深い学習ベースのNLPシステムに対する敵対的な攻撃として句読点を使用：実証研究。ブライアン・フォルメント、チュアン・シェン・フー、ルー・アン・トゥアン、キオン・ナグを参照。 EACL（調査結果）2023。 blind score PDF] [コード]
5. モデルの抽出と敵対的な移動性、あなたのバートは脆弱です！ 。 Xuanli He、Lingjuan Lyu、Lichao Sun、Qiongkai Xu 。 NAACL-HLT 2021。 blind [PDF] [コード]
6. 人間のようなテキスト処理は、NLPシステムの視覚的に攻撃してシールドします。 Steffen Eger、GözdeGülHsahin、AndreasRücklé、Ji-ung Lee、Claudia Schulz、Mohsen Mesgar、Krishnkant Swarnkar、Edwin Simpson、Iryna Gurevych 。 NAACL-HLT 2019。 blind [PDF] [コードとデータ]
7. 白から黒：ブラックボックスの敵対的攻撃の効率的な蒸留。 Syotam Gil、Yoav Chai、またはGorodissky、Jonathan Berant 。 NAACL-HLT 2019。 blind [PDF] [コード]
8. 深い学習分類器を回避するための敵対的なテキストシーケンスのブラックボックス生成。 Ji Gao、Jack Lanchantin、Mary Lou Soffa、Yanjun Qi 。 IEEE SPW 2018。 score [PDF] [コード]
9. キャラクターレベルのニューラル機械翻訳の敵対例について。 Javid Ebrahimi、Daniel Lowd、Dejing Dou 。 gradient [PDF] [コード]
10. 合成および自然なノイズはどちらも神経機械の翻訳を破ります。 Yonatan Belinkov、Yonatan Bisk 。 ICLR 2018。 blind [PDF] [コードとデータ]

2.4マルチレベル攻撃

1. LLMはそれ自体をだますことができます：迅速な敵対的攻撃。 Xilie Xu、Keyi Kong、Ning Liu、Lizhen Cui、Di Wang、Jingfeng Zhang、Mohan Kankanhalli 。 ICLR2024。 blind [PDF]
2. 動作クローンを伴う多粒度のテキスト敵対的攻撃。 Yangyi Chen、Jin Su、Wei Wei 。 blind [PDF] [コード]
3. 堅牢な応答のランキングと評価に対する敵対的な否定的応答の合成。 Prakhar Gupta、Yulia Tsvetkov、Jeffrey Bigham 。 ACLの調査結果：ACL-IJCNLP2021。BLINK[PDF] [ blind ]
4. セサミストリートのコードミックス：敵対的なポリグロットの夜明け。 Samson Tan、Shafiq Joty 。 naacl-hlt2021。 score [PDF] [コード]
5. テキスト分類のための自然なトリガーによる普遍的な敵対的攻撃。 Liwei Song、Xinwei Yu、Hsuan-Tung Peng、Karthik Narasimhan 。 gradient -hlt2021。gradient[pdf] [code]
6. BBAEG：テキスト分類のためのBertベースの生物医学的敵対例生成に向けて。イシャニ・モンダル。 naacl-hlt2021。 score [PDF] [コード]
7. 回答のために「nswvtnvakggxpm」を取得しないでください。自動コンテンツスコアリングシステムの驚くべき脆弱性から敵対的な入力です。 Yuning Ding、Brian Riordan、Andrea Horbach、Aoife Cahill、Torsten Zesch 。 COLING2020。 blind [PDF] [コード]
8. NLPを攻撃および分析するための普遍的な敵対的なトリガー。エリック・ウォレス、シー・フェン、ニキル・カンダル、マット・ガードナー、サミャー・シン。 gradient -ijcnlp2019。gradient[pdf] [code] [webサイト]
9. TextBugger：実際のアプリケーションに対して敵対的なテキストを生成します。 Jinfeng Li、Shouling Ji、Tianyu du、Bo Li、Ting Wang 。 NDSS2019。 gradient score [PDF]
10. 深い強化モデルを使用したテキスト分類器のブラックボックスの敵対例を生成します。 Prashanth Vijayaraghavan、Deb Roy 。 score [PDF]
11. ホットフリップ：テキスト分類のためのホワイトボックスの敵対例。 Javid Ebrahimi、Anyi Rao、Daniel Lowd、Dejing Dou 。 gradient [PDF] [コード]
12. 対話モデルの敵対的な過敏症および安定性戦略。 Tong Niu、Mohit Bansal 。 blind [PDF] [コードとデータ]
13. 注意ベースの畳み込みと再発性のニューラルネットワークの比較：機械の読解における成功と制限。 Matthias Blohm、Glorianna Jagfeld、Ekta Sood、Xiang Yu、Ngoc Thang Vu 。 gradient [PDF] [コード]

3。防衛論文

1. AIに生成されたテキスト検出器は、敵対的な摂動に対して堅牢ですか？ Guanhua Huang、Yuchen Zhang、Zhe Li、Yongjian You、Mingze Wang、およびZhouwang Yang。 ACL 2024。[PDF] [コード]
2. セムロード：単語レベルの攻撃に対して堅牢な表現を学ぶためのマクロ敵対的なトレーニング。ブライアン・フォルメント、ウェンジー・フェン、チュアン・シェン・フー、アン・ツアン・ルー、シー・キオン・ng 。 NAACL 2024。[PDF] [コード]
3. DSRM：分布シフトリスクの最小化によるテキストの敵対的トレーニングを増やします。 Songyang Gao、Shihan Dou、Yan Liu、Xiao Wang、Qi Zhang、Zhongyu Wei、Jin Ma、Ying Shan 。 ACL 2023。[PDF] [コード]
4. モデルの堅牢性のための摂動トークン検出による生成的敵対的訓練。 Jiahao Zhao、Wenji Mao 。 EMNLP 2023。[PDF] [コード]
5. 自然言語に対するテキストマニホールドベースの防御。 Dang Minh Nguyen、Luu Anh Tuan 。 EMNLP 2022。[PDF] [コード]
6. Shapley Additiveの説明を介して、単語レベルの敵対的なテキスト攻撃を検出します。 Lukas Huber、Marc AlexanderKühn、Edoardo Mosca、Georg Groh 。 REPL4NLP@ACL 2022。[PDF] [コード]
7. テキスト分類における敵対例の検出：堅牢な密度推定によるベンチマークとベースライン。キユーン・ユ、ジャンゴ・キム、ジホ・チャン、ノジャン・クワーク。 ACL 2022（調査結果）。 [PDF] [コード]
8. 「それは疑わしい反応です！」：NLPの敵対的攻撃を検出するためのロジットのバリエーションを解釈します。 Edoardo Mosca、Shreyash Agarwal、Javier RandoRamírez、Georg Groh 。 ACL 2022。[PDF] [コード]
9. シールド：確率的マルチエクスペリパッチャーを使用した複数のブラックボックス敵対的攻撃に対するテキストニューラルネットワークを防御します。タイ・ル、ノーズン・パーク、ドンウォン・リー。 ACL 2022。[PDF]
10. 野生の摂動：現実的な敵対的な攻撃と防御のための人間が書いたテキストの摂動を活用します。タイ・ル、ジュヨン・リー、ケビン・イェン、イーファン・フー、ドンウォン・リー。 ACL 2022（調査結果）。 [PDF]
11. 個別の敵対的訓練を通じてモデルの堅牢性を達成します。マール・イヴギ、ジョナサン・ベラント。 EMNLP 2021。[PDF] [コード]
12. Dirichlet Neighborhood Ensembleを介した同義語に基づく敵対攻撃に対する防御。 Yi Zhou、Xiaoqing Zheng、Cho-Jui Hsieh、Kai-Wei Chang、Xuanjing Huang 。 ACL-IJCNLP 2021。[PDF]
13. ダーシーによる甘いウサギの穴：ハニーポットを使用して、ユニバーサルトリガーの敵対的な攻撃を検出します。タイ・ル、ノーズン・パーク、ドンウォン・リー。 ACL-IJCNLP 2021。[PDF] [code]
14. より多くのカバレッジによるより良い堅牢性：堅牢な微調整のための逆境および混合データ増強。 Chenglei SI、Zhengyan Zhang、Fanchao Qi、Zhiyuan Liu、Yasheng Wang、Qun Liu、Maosong Sun。 ACLの調査結果：ACL-IJCNLP 2021。[PDF] [Code]
15. Bert Defense：Bertに基づいた確率モデルは、認知的にインスピレーションを与えた正書法の敵対攻撃と戦う。 Yannik Keller、Jan Mackensen、Steffen Eger 。 ACLの調査結果：ACL-IJCNLP 2021。[PDF] [Code]
16. パフォーマンスの犠牲なしに敵対的な単語代替から事前に訓練された言語モデルを擁護します。ロンツー・バオ、江・王、ハイ・Zhao 。 ACLの調査結果：ACL-IJCNLP 2021。[PDF] [Code]
17. 神経機械翻訳のための多様な敵対的な増強。グアンダン・チェン、カイ・ファン、カイボ・チャン、ボクシングチェン、Zhongqiang Huang 。 ACLの調査結果：ACL-IJCNLP 2021。[PDF]
18. 同義語エンコーディングによる自然言語敵対的防御。 Xiaosen Wang、Hao Jin、Kun He 。 UAI 2021。[PDF] [コード]
19. 同義語代替テキスト攻撃に対する高速勾配投影法による敵対的なトレーニング。 Xiaosen Wang、Yichen Yang、Yihe Deng、Kun He 。 aaai2021。[pdf] [code]
20. テキストの敵対例を検出するための周波数誘導ワード置換。マクシミリアン・モーズ、ポントス・ステネトルプ、ベネット・クラインバーグ、ルイス・D・グリフィン。 EACL 2021。[PDF] [コード]
21. 自然言語の単語代替に対する堅牢性に向けて。 Xinshuai Dong、Anh Tuan Luu、Rongrong Ji、Hong Liu。 ICLR 2021。[PDF] [コード]
22. Infobert：情報理論的な観点から言語モデルの堅牢性を向上させます。 Boxin Wang、Shuohang Wang、Yu Cheng、Zhe Gan、Ruoxi Jia、Bo Li、Jingjing Liu 。 ICLR 2021。[PDF] [コード]
23. 敵対的攻撃による脆弱性を備えたニューラルモデルの強化。 Rong Zhang、Qifei Zhou、Bo An、Weiping Li、Tong Mo、Bo Wu 。 COLING2020。[PDF] [コード]
24. 副詞攻撃を伴うクロスドメインスロット充填のための対照的なゼロショット学習。 Keqing He、Jinchao Zhang、Yuanmeng Yan、Weiran Xu、Cheng Niu、Jie Zhou 。 Coling2020。[PDF]
25. あなたの変曲に注意してください！ベースインフレンスエンコーディングを備えた非標準英語のNLPの改善。 Samson Tan、Shafiq Joty、Lav R. Varshney、Min-Yen Kan 。 EMNLP 2020。[PDF] [コード]
26. 堅牢なエンコーディング：敵対的なタイプミスと戦うためのフレームワーク。エリック・ジョーンズ、ロビン・ジア、アディティ・ラグナサン、パーシー・リアン。 ACL 2020。[PDF] [コード]
27. 敵対的なテキストを擁護するための共同文字レベルの単語埋め込みと敵対的な安定性トレーニング。 Hui Liu、Yongzheng Zhang、Yipeng Wang、Zheng Lin、Yige Chen 。 AAAI 2020。[PDF]
28. 機械の読解力に対する堅牢な敵対的な訓練アプローチ。カイ・リュー、Xin Liu、Yang、Jing Liu、Jinsong Su、Sujian Li、Qiaoqiao She 。 AAAI 2020。[PDF]
29. Freelb：言語理解のための強化された敵対的な訓練。 Chen Zhu、Yu Cheng、Zhe Gan、Siqi Sun、Tom Goldstein、Jingjing Liu 。 Corr 2019。[PDF] [コード]
30. テキスト分類における敵対的な攻撃をブロックするための摂動を区別することを学ぶ。 Yichao Zhou、Jyun-Yu Jiang、Kai-Wei Chang、Wei Wang 。 emnlp-ijcnlp 2019。[pdf] [code]
31. それを構築して、対話の安全のためにそれを修正します：敵対的な人間の攻撃からの堅牢性。エミリー・ディナン、サミュエル・フムー、バラート・チンタグンタ、ジェイソン・ウェストン。 EMNLP-IJCNLP 2019。[PDF] [データ]
32. 堅牢な単語認識で敵対的なスペルと戦う。デンマーク・プルティ、ブーワン・ディングラ、ザカリー・C・リプトン。 ACL 2019。[PDF] [コード]
33. 自然言語処理タスクの堅牢なモデル。バレンティン・マリフ。 ACL 2019。[PDF] [コード]

4。認定された堅牢性

1. プライバシーの差で単語代替攻撃に対する認定堅牢性。 Wenjie Wang、Pengfei Tang、Jian Lou、Li Xiong 。 NAACL-HLT 2021。[PDF]
2. スケーラブルな認定された堅牢性以降の自動摂動分析。 Kaidi Xu、Zhouxing Shi、Huan Zhang、Yihan Wang、Kai-Wei Chang、Minlie Huang、Bhavya Kailkhura、Xue Lin、Cho-Jui Hsieh 。 Neurips2020。[PDF] [コード]
3. より安全：敵対的な単語代替に対する認定された堅牢性のための構造なしのアプローチ。 Mao Ye、Chengyue Gong、Qiang Liu 。 ACL 2020。[PDF] [コード]
4. トランスの堅牢性の検証。 Zhouxing Shi、Huan Zhang、Kai-Wei Chang、Minlie Huang、Cho-Jui Hsieh 。 ICLR 2020。[PDF] [コード]
5. 間隔結合伝播を介してシンボル置換に対する検証された堅牢性を達成します。 PO-Sen Huang、Robert Stanforth、Johannes Welbl、Chris Dyer、Dani Yogatama、Sven Gowal、Krishnamurthy Dvijotham、Pushmeet Kohli 。 EMNLP-IJCNLP 2019。[PDF]
6. 敵対的な単語代替に対する認定堅牢性。 Robin Jia、Aditi Raghunathan、KeremGöksel、Percy Liang 。 emnlp-ijcnlp 2019。[pdf] [code]
7. popqorn：再発性ニューラルネットワークの堅牢性の定量化。 Ching-Yun Ko、Zhaoyang Lyu、Lily Weng、Luca Daniel、Ngai Wong、Dahua Lin 。 ICML 2019。[PDF] [コード]

5。ベンチマークと評価

1. DeCodingTrust：GPTモデルにおける信頼性の包括的な評価。 Boxin Wang、Weixin Chen、Hengzhi Pei、Chulin Xie、Mintong Kang、Chenhui Zhang、Chejian Xu、Zidi Xiong、Ritik Dutta、Rylan Schaeffer、Sang T. Truong、Simran Arora、Mantas Mazeika歌、ボイ。 Neurips 2023（データセットとベンチマークトラック）。 [PDF] [ウェブサイト]
2. テキストの敵対的攻撃におけるセマンティクスの保存。デビッド・ヘレル、ヒューゴ・シスネロス、トマス・ミコロフ。 ECAI 2023。[PDF] [コード]
3. GPT-3を信頼できるように促します。 Chenglei SI、Zhe Gan、Zhengyuan Yang、Shuohang Wang、Jianfeng Wang、Jordan Boyd-Graber、Lijuan Wang 。 ICLR 2023。[PDF] [コード]
4. なぜ敵対的な摂動は知覚できないのですか？敵対的なNLPの研究パラダイムを再考します。 Yangyi Chen、Hongcheng Gao、Ganqu Cui、Fanchao Qi、Longtao Huang、Zhiyuan Liu、Maosong Sun。 EMNLP 2022。[PDF] [コードとデータ]
5. 神経NLPモデルの堅牢性をテキスト摂動に解釈する。 Yunxiang Zhang、Liangming Pan、Samson Tan、Min-Yen Kan 。 ACLの調査結果、2022。[PDF]
6. テキスト分類のための人間と機械で生成された単語レベルの敵対例を対照的にします。マクシミリアン・モーズ、マックス・バルトロ、ポントゥス・ステネトルプ、ベネット・クラインバーグ、ルイス・D・グリフィン。 EMNLP 2021。[PDF] [コード]
7. Dynabench：NLPでのベンチマークの再考。ドゥーウェ・キエラ、マックス・バルトロ、Yixin Nie、Divyansh Kaushik、Atticus Geiger、Zhengxuan Wu、Bertie Vidgen、Grusha Prasad、Amanpreet Singh、Pratik Ringshia、Zhiyi MA、Tristan Thrush、Mohidak waseeem Bansal、Christopher Potts、Adina Williams 。 NAACL 2021。[PDF] [Webサイト]
8. 敵対的な接着剤：言語モデルの堅牢性評価のためのマルチタスクベンチマーク。 Boxin Wang、Chejian Xu、Shuohang Wang、Zhe Gan、Yu Cheng、Jianfeng Gao、Ahmed Hassan Awadallah、Bo Li 。 Neurips 2021（データセットとベンチマークトラック）。 [PDF] [ウェブサイト]
9. 効率的なディフェンダーの検索：敵対的な単語代替に対するベンチマーク防御。 Zongyi Li、Jianhan Xu、Jiehang Zeng、Linyang Li、Xiaoqing Zheng、Qi Zhang、Kai-Wei Chang、およびCho-Jui Hsieh 。 EMNLP 2021。[PDF]
10. 二重摂動：堅牢性と反事実的バイアス評価の堅牢性について。 Chong Zhang、Jieyu Zhao、Huan Zhang、Kai-Wei Chang、およびCho-Jui Hsieh Naacl 2021。[PDF] [Code]
11. 自然言語の敵対的な例を再評価します。ジョン・モリス、エリ・ライフランド、ジャック・ランチャンティン、ヤンフェン・ジ、ヤンジュン・チー。 ACLの調査結果：EMNLP 2020。[PDF] [コードとデータ]
12. ヒーローからゼロへ：低レベルの敵対的攻撃のベンチマーク。 Steffen Eger、Yannik Benz 。 AACL-IJCNLP 2020。[PDF] [コードとデータ]
13. 敵対的なNLI：自然言語理解のための新しいベンチマーク。 Yixin Nie、Adina Williams、Emily Dinan、Mohit Bansal、Jason Weston、Douwe Kiela 。 ACL 2020。[PDF] [DEMO] [データセットとリーダーボード]
14. コントラストセットを介してNLPモデルの評価。マット・ガードナー、ヨアブ・アルチュ、ビクトリア・バスモバ、ジョナサン・ベラント、ベン・ボギン、シハオ・チェン、プラディープ・ダシギ、ディール・ドゥア、ヤナイ・エラザール、アナント・ゴッツゥムカラ、ニティッシュ・グプタ、ハンナ・ハジシルツィ、ガブリエル・イルハルコ、ダニエル・ハシャビン、キーヴィンネルソン・F・リュー、フィービー・ムルケール、Qiang Ning、サミャー・シン、ノア・A・スミス、サンジェイ・スブラマニアン、ロート・ツァルファティ、エリック・ウォレス、アリー・チャン、ベン・Zhou 。 ACLの調査結果：EMNLP 2020。[PDF] [Webサイト]
15. シーケンスからシーケンスモデルの敵対的摂動の評価について。ポール・ミシェル、Xian Li、Graham Neubig、Juan Miguel Pino 。 NAACL-HLT 2019。[PDF] [コード]

6。その他の論文

1. 単語レベルの敵対例を生成するための人間の戦略を特定する。マクシミリアン・モーズ、ベネット・クラインバーグ、ルイス・D・グリフィン。 ACLの調査結果：EMNLP 2022。[PDF]
2. lexicalat：堅牢な感情分類のための語彙ベースの敵対的補強トレーニング。 Jingjing Xu、Liang Zhao、Hanqi Yan、Qi Zeng、Yun Liang、Xu Sun。 emnlp-ijcnlp 2019。[pdf] [code]
3. 統一された視覚セマンな埋め込み：構造化された意味表現を備えたビジョンと言語を橋渡しします。 Hao Wu、Jiayuan Mao、Yufeng Zhang、Yuning Jiang、Lei Li、Weiwei Sun、Wei-ing Ma 。 CVPR 2019。[PDF]
4. アドベンチャー：知識誘導の例を伴うテキストの絡み合いのための敵対的なトレーニング。 Dongyeop Kang、Tushar Khot、Ashish Sabharwal、Eduard Hovy 。 ACL 2018。[PDF] [コード]
5. 対照的な敵対サンプルから視覚的に接地されたセマンティクスを学ぶ。 Haoyue Shi、Jiayuan Mao、Tete Xiao、Yuning Jiang、Jian Sun。 Coling 2018。[PDF] [コード]

貢献者

このリストへのすべての貢献者に感謝します。そして、より多くの貢献は大歓迎です。