Awesome Diffusion Models for NLP

令人敬畏的擴散模型 - nlp

？目錄

• ？ NLP的擴散模型是什麼？
• ？調查
• 文件
• ？資源
• ？貢獻
  • 貢獻者
  • 致謝

？ NLP的擴散模型是什麼？

？調查

• 文本生成中的擴散模型： Qiuhua Yi，Xiangfan Chen，Chenwei Zhang，Zehai Zhou，Linan Zhu，Xiangjie Kong。 PEERJ計算機科學2024 2月

• 文本生成Helenačeović，Marinšilić，GoranDelač，Klemo Vladimir的擴散模型的概述。 MIPRO 2023 JUN

• 自然語言處理中的擴散模型Hao Zou，Zae Myung Kim，Dongyeop Kang的調查。 Arxiv 2023年5月

• NLP中的擴散模型： Zhao的Yuansong Zhu調查。 Arxiv 2023年3月

• 非自動回歸文本生成的擴散模型： Yifan Li，Kun Zhou，Wayne Xin Zhao，Ji-Rong Wen。 IJCAI 2023年3月

文件

• 在文本生成Zhujin Gao，Junliang Guo，Xu Tan，Yongxin Zhu，Fang Zhang，Jiang Bian，Linli Xu的嵌入空間上增強擴散模型。 NAACL 2024年6月

• 簡單有效的掩蓋擴散語言模型Subham Sekhar Sahoo，Marianne Arriola，Yair Schiff，Aaron Gokaslan，Edgar Marroquin，Justin T Chiu，Alexander Rush，Volodymyr Kuleshov。 Arxiv 2024年6月

• 有效地集成了文本擴散和預訓練的語言模型與語言易於優先的時間表Yimin OU，Ping Jian。 LREC |殖民地2024年5月

• 幾乎沒有時間的暫時修剪會加速文本生成Bocheng Li，Zhujin Gao，Yongxin Zhu，Kun Yin，Haoyu Cao，Deqiang Jiang，Linli Xu的擴散模型。 LREC |殖民地2024年5月

• LADIC：擴散模型真的不如圖像到文本生成的自動回歸對應物嗎？ Yuchi Wang，Shuhuai Ren，Rundong Gao，Linli Yao，Qingyan Guo，Kaikai AN，Jianhong Bai，Xu Sun。 NAACL 2024 APR

• 通過可控的潛擴散Wei Zou，Ziyuan Zhuang，Shujian Huang，Jia Liu，Jiajun Chen生成釋義。 Arxiv 2024 Apr

• 分散詞：詞彙約束文本生成Jinqiao Dai，Pengsen Cheng，Jiamiao Liu，Jiayong Liu的對比擴散模型。 SSRN 2024 APR

• 擴散性：與潛在的對話生成的擴散模型，潛在空間Jianxiang Xiang，Zhenhua Liu，Haodong Liu，Yin Bai，Jia Cheng，Wenliang Chen。 LREC |殖民地2024年4月

• 使用時間步驟意識掛起江，吉蒙CAI，Xiaolu Tang來改善基於迭代的非自動回歸語言模型。 ICPADS 2024年3月

• 語言糾正流：通過概率流shujian Zhang，Lemeng Wu，Cenengyue Gong和Xingchao Liu的概率流進行擴散語言產生。 NAACL 2024年3月

• 有條件文本生成的流量匹配，以幾個採樣步驟，di Wu，Yuki Asano，Pascal Mettes，Basura Fernando，Björn -Ommer，Cees Snoek。 EACL 2024年3月

• 利用潛在擴散模型加速採樣速度並增強文本生成質量Chenyang Li，Long Zhang，Qiusheng Zheng。特刊人工智能工程2024年3月的進步

• LDSEQ：序列序列文本生成Yizhou ding，Jidong Tian，Shanxing Mei，Yifan Zhou，Yuwu Dong，Hao He，Hao He，Weisheng Hu的潛在擴散模型。 CSAI 2024年3月

• 機器翻譯的基準擴散模型Yunus Demirag，Danni Liu，Jan Niehues。 EACL 2024年3月

• 生成，重建和表示離散和連續的數據：通用擴散，可學習編碼的廣泛編碼liu，Yu Wang，Yu Wang，Zeyu Feng，Qiyu Wu，Qiyu Wu，Liping Tang，Yuan Gao，Yuan Gao，Zhen Li，Shuguang Cui，Shuguang Cui，Julian McAuley，Julian McAuley，Eric P. p. x. Xing，zing yang， Arxiv 2024年2月

• TENCDM：了解語言模型空間中擴散模型的特性編碼亞歷山大·沙巴林，Viacheslav Meshchaninov，Tingir Badmaev，Dmitry Molchanov，Grigory Bartosh，Sergey Markov，Sergey Markov，Dmitry Vetrov。 Arxiv 2024年2月

• 差異：上下文常識性知識擴散silin gao，mete ismayilzada，Mengjie Zhao，Hiromi Wakaki，Yuki Mitsufuji，Antoine Bosselut。 Arxiv 2024年2月

• IPED：基於擴散模型Jianli Zhao，Changhao Xu，Bin Jiang的關係三重提取的隱式觀點。 NAACL 2024年2月

• 讓我們逐步糾正：通過擴散模型Shunyu Liu，Jie Zhou，Qunxi Zhu，Qin Chen，Qingchun Bai，Jun Xiao，Liang He來改善基於方面的情感分析。 LREC | 2月2024年殖民地

• 文本擴散與加強條件的Yuxuan Liu，Tianchi Yang，Shaohan Huang，Zihan Zhang，Haizhen Huang，Furu Wei，Weiwei Deng，Feng Sun，Qi Zhang。 Arxiv 2024年2月

• 可控擴散語言模型Cheng Kang，Xinye Chen，Yong Hu，Daniel Novak的量化嵌入向量。 Arxiv 2024年2月

• 思想的擴散：擴散語言模型中的經過思考推理Jiacheng Ye，Shansan Gong，Liheng Chen，Lin Zheng，Jiahui Gao，Han Shi，Chuan Wu，Zhenguo，Zhenguo Li，Wei Bi，Wei Bi，Lingpeng Kong。 Arxiv 2024年2月

• 文本擴散模型的轉移學習Kehang Han，Kathleen Kenealy，Aditya Barua，Noah Fiedel，Noah Constant。 Arxiv 2024 Jan

• MDM：硬限製文本生成Wenjun KE，Yikai Guo，Qi Liu，Wanyi Chen，Peng Wang，Haoran Luo，Zhizhao Luo的元擴散模型。基於知識的系統2024 JAN

• ROIC-DM：通過擴散模型Shilong Yuan，Wei Yuan，Hongzhi Yin，Tieke He的強大文本推斷和分類。 Arxiv 2024 Jan

• 擴散-EXR：可控制的審查生成，可通過擴散模型Ling Li，Shaohua Li，Winda Marantika，Alex C. Kot，Huijing Zhan。 Arxiv 2023 Dec

• iPad：迭代，平行和基於擴散的網絡，用於場景文本識別Yang，Zhi Qiao，Yu Yu Zhou，Weiping Wang。 Arxiv 2023 Dec

• Diffuvst：通過全球歷史引導的DeNoising模型Shengguang Wu，Mei Yuan，Qi Su來敘述虛構的場景。 EMNLP 2023 DEC

• 擴散：通過TAG擴散過程Ziyang Huang，Pengfei Cao，Jun Zhao，Kang Liu的序列標記。 EMNLP 2023 DEC

• CodeFusion：代碼生成Mukul Singh，JoséCambronero，Sumit Gulwani，Vu LE，Vu LE，Carina Negreanu，Gust verbruggen的預訓練擴散模型。 EMNLP 2023年10月

• 通過估計數據分佈Aaron Lou，Chenlin Meng，Stefano Ermon的比率來進行離散擴散建模。 Arxiv 2023年10月

• 新意圖發現Wenkai Shi，Wenbin An，Feng Tian，Qinghua Zheng，Qianying Wang，Ping Chen的擴散加權圖框架。 EMNLP 2023年10月

• Scandl：在文本Lena Bolliger，David Reich，Patrick Haller，Deborah Jakobi，Paul Prasse，LenaJäger上產生合成掃描的擴散模型。 EMNLP 2023年10月

• DETIME：使用基於編碼的LLM Weijie Xu，Wenxiang Hu，Fanyou Wu，Srinivasan Sengamedu的擴散增強主題建模。 EMNLP 2023年10月

• 通過擴散模型Lei Luo，Yajing Xu進行基於生成的事件參數提取的上下文感知提示。 CIKM 2023年10月

• Diffucom：評論生成Jiamiao Liu，Pengsen Cheng，Jinqiao Dai，Jiayong Liu的新型擴散模型。基於知識的系統2023年10月

• 插條：信息熵意識到非自動回歸文本生成Renzhi Wang，Jing Li，Piji Li的擴散過程。 EMNLP 2023年10月

• Ladida：使用順序解碼Zihuiwen Ye，Elle Michelle Yang，Phil Blunsom的潛在擴散。擴散模型的神經車間2023年10月

• diffuseq-v2：加速的Seq2Seq擴散模型Shansan Gong，Mukai Li，Jiangtao Feng，Zhiyong Wu，Lingpeng Kong加速的離散和連續文本空間。 EMNLP 2023年10月

• diffusionret：使用約束解碼的Shanbao Qiao，Xuebing Liu，Seung-Hoon Na使用擴散增強的生成試劑。 EMNLP 2023年10月

• Paraguide：引導式釋義的引導式釋義，用於插件的文本樣式轉移Zachary Horvitz，Ajay Patel，Chris Callison-Burch，Zhou Yu，Kathleen McKeown。 AAAI 2023年8月

• 擴散語言模型可以通過縮放和指令進行許多任務Jiasheng Ye，Zaixiang Zheng，Yu Bao，Lihua Qian，Quanquan GU。 Arxiv 2023 8月

• 通過信息瓶頸指導的文本擴散過程來增強短語表示，用於提取鍵形的Yuanzhen Luo，Qingyu Zhou，feng Zhou。 LREC |殖民地2023年8月

• 擴散如何影響驗證的語言模型對分佈數據的數據？ Huazheng Wang，Daixuan Cheng，Haifeng Sun，Jingyu Wang，Qi Qi，Jianxin Liao，Jing Wang，Cong Liu。 ECAI 2023 JUL

• XDLM：機器翻譯的跨語義擴散語言模型Linyao Chen，Aosong Feng，Boming Yang，Zihui li。 Arxiv 2023 Jul

• 通過擴散模型Jiaao Chen，Diyi Yang的對話結構可控制的對話結構。 ACL 2023 Jul

• 詩歌：在詩歌一代Zhiyuan Hu，Chumin Liu，Yue Feng，Anh Tuan Luu，Bryan Hooi中邁向共同的語義和度量操縱。 AAAI 2023 JUN

• DiffudeTox：用於文本排毒的混合擴散模型Griffin Floto，Mohammad Mahdi Abdollah Pour，Parsa Farinneya，Zhenwei Tang，Ali Pesaranghader，Manasa Bharadwaj，Scottanner。 ACL 2023 Jun

• 計劃者：通過潛在語言擴散模型Yizhe Zhang，Jiatao GU，Zhuofeng Wu，Shuangfei Zhai，Josh Susskind，Navdeep Jaitly產生多元化的段落。神經2023年6月

• Diffusemp：一個基於擴散模型的框架，具有多核控制的促進響應生成Guanqun BI，Lei Shen，Yanan Cao，Meng Chen，Yuqiang Xie，Zheng Lin，Zheng Lin，Xiaodong He。 ACL 2023 Jun

• 基於可能性的擴散語言模型Ishaan Gulrajani，Tatsunori B. Hashimoto。神經2023年5月

• Dior-cvae：訓練的語言模型和差異對話框的擴散先驗， Yang，Thy Yang，Thy Tran，Iryna Gurevych。 EMNLP 2023年5月

• David幫助Goliath：小型專業和大型擴散LMS Xioochuang Han，Sachin Kumar，Yulia Tsvetkov，Marjan Ghazvininejad之間的推理時間合作。 Arxiv 2023年5月

• 擴散器：命名實體識別的邊界擴散Yongliang Shen，Kaitao Song，Xu Tan，Dongsheng Li，Weiming Lu，Yueting Zhuang。 ACL 2023年5月

• 基於擴散的語言模型Yiwei Lyu，Tiange Luo，Jiacheng Shi，Todd Hollon，Honglak Lee具有細粒度的文本樣式轉移。 REPL4NLP 2023 5月

• diffusia：用於編碼器 - 二十座文本擴散的螺旋相互作用架構，玉龍，賈·喬·古，Zhen-hua ling。 Arxiv 2023年5月

• 擴散語言模型的生成可以停止早期索非亞·瑪麗亞·洛西羅·瓦納（Sofia Maria Lo Cicero Vaina），尼基塔·巴拉甘斯基（Nikita Balagansky），丹尼爾·加夫里洛夫（Daniil Gavrilov）。 Arxiv 2023年5月

• AR擴散：文本生成Wu，Zhihao Fan，Xiao Liu，Yeyun Gong，Yelong Shen，Jian Jiao，Hai-Tao Zheng，Juntao Li，Zhongyu Wei，Jian Guo，Nan Duan，Nan Duan，Weizhu Chen。神經2023年5月

• 苔絲：文本到文本自我條件的單純形擴散Rabeeh Karimi Mahabadi，Hamish Ivison，Jaesung Tae，James Henderson，Iz Henderson，Iz Beltagy，Matthew Peters，Matthew Peters，Arman Cohan。 EACL 2023年5月

• 擴散模型可以在文本生成中獲得更好的性能嗎？彌合訓練和推理之間的差距！ Zecheng Tang，Pinzheng Wang，Keyan Zhou，Juntao Li，Ziqiang Cao，Min Zhang。 ACL 2023年5月

• 擴散 - 納特：非自動回歸文本生成Kun Zhou，Yifan Li，Xin Zhao，ji-rong Wen的自我啟動離散擴散。 EACL 2023年5月

• Diffusum：通過擴散的Haopeng Zhang，liu，Jiawei Zhang的生成增強的提取性摘要。 ACL 2023年5月

• glyphdiffusion：文本生成圖像生成Junyi Li，Wayne Xin Zhao，Jian-Yun Nie，Ji-Rong Wen。 ARXIV 2023 APR

• 一種更便宜，更好的擴散語言模型，帶有軟掩模的噪音Jiaao Chen，Aston Zhang，Mu Li，Alex Smola，Diyi Yang。 EMNLP 2023 APR

• 恐龍：通過操縱噪聲jiasheng ye，Zaixiang Zheng，Yu Bao，Lihua Qian，Mingxuan Wang。* TACL 2023 FEB

• 文本生成Lin Zheng，Jianbo Yuan，Lei Yu，Lingpeng Kong的重新聚集分散擴散模型。 Arxiv 2023年2月

• 帶有擴散語言模型的文本生成：一種連續段落的訓練方法Denoise Zhenghao Lin，Yeyun Gong，Yelong Shen，Tong Wu，Zhihao Fan，Chen Lin，Nan Duan，Weizhu Chen。 ICML 2022 DEC

• seqdiffuseq：帶有編碼器 - 二十個變形金剛的文本擴散，Zheng Yuan，Chuanqi Tan，Fei Huang，Songfang Huang。 Arxiv 2022 Dec

• 語言生成的潛在擴散賈斯汀·洛夫拉斯，瓦爾莎·凱瑟，喬萬，艾略特·謝克曼，基利安·Q。Weinberger。神經2022年12月

• 在文本生成Zhujin Gao，Junliang Guo，Xu Tan，Yongxin Zhu，Fang Zhang，Jiang Bian，Linli Xu的嵌入空間上增強擴散模型。 NAACL 2022 DEC

• 擴散性：通過擴散模型Zhengfu He，Tianxiang Sun，Qiong Tang，Kuanning Wang，Xuanjing Huang，Xipeng Qiu改善生成性掩蔽的語言模型。 ACL 2022年11月

• 分類數據桑德·迪爾曼（Sander Dieleman），勞倫特·薩特蘭（Laurent Sartran），阿爾曼·羅萬奈（Arman Roshannai），尼古拉·薩維諾夫（Nikolay Savinov），Yaroslav Ganin，Pierre H. Richemond，Arnaud Doucet，Robin Doucet，Robin Strudel，Chris Durer，Conor Durkan，Conor Durkan，Cortis Hawthorne，Rebrond，RémiLeblond，Johohohhohl， Arxiv 2022年11月

• 自我調節的嵌入文本生成Robin Strudel，Corentin Tallec，FlorentAltché，Yilun Du，Yilun Du，Yaroslav Ganin，Arthur Mensch，Will Grathwohl，Nikolay Savinov，Sander Dieleman，Sander Dieleman，Laurent Sifre，Laurent Sifre，RémiLeblond。 Arxiv 2022年11月

• SSD-LM：用於文本生成和模塊化控制Xioochuang Han，Sachin Kumar，Sachin Kumar，Yulia tsvetkov的半自動退縮單純性擴散語言模型。 ACL 2022 OCT

• 擴散器：通過基於編輯的重建Machel Reid的離散擴散，Vincent J. Hellendoorn，Graham Neubig。 Arxiv 2022年10月

• diffuseq：通過擴散模型Shansan Gong，Mukai Li，Jiangtao Feng，Zhiyong Wu，Lingpeng Kong的序列文本生成序列。 ICLR 2022年10月

• 模擬位：使用帶有自我調節的Ting Chen，Ruixiang Zhang，Geoffrey Hinton的擴散模型生成離散數據。 ICLR 2022年8月

• 可綜合文本在潛在空間中控制著odes guangyi liu，zeyu feng，yuan gao，Zichao Yang，Xiaodan Liang，Junwei Bao，Xiaodong HE，Shuguang Cui，Zhen li，Zhen li，zhiting hu。 EMNLP 2022 8月

• 可解釋的文本建模Peiyu Yu，Sirui Xie，Xiaojian MA，Baoxiong Jia，Bo Pang，Ruiqi Gao，Yixin Zhu，Song-Chun Zhu，Ying Nian Wu。 ICML 2022 Jun

• 擴散LM改善了可控文本Xiang Lisa Li，John Glongstun，Ishaan Gulrajani，Percy Liang，Tatsunori B. Hashimoto。神經2022年5月

• 為文本尼古拉·薩維諾夫（Nikolay Savinov），朱諾格（Junyoung Chung），米科拉（Mikolaj Binkowski），埃里希·埃爾森（Erich Elsen），亞倫·範·丹·登·奧德（Aaron van den Oord）提供了逐步摘要的deno deno deno deno deno denoecododer。 ICLR 2021年12月

• 自回歸擴散模型Emiel Hoogeboom，Alexey A. Gritsenko，Jasmijn Bastings，Ben Poole，Rianne van den Berg，Tim Salimans。 ICLR 2021年10月

• 在離散狀態空間中的結構化denoising擴散模型雅各布·奧斯汀，丹尼爾·約翰遜，喬納森·霍，丹尼爾·塔洛，瑞安娜·範·丹·伯格。神經2021年7月

• Argmax流和多項式擴散：學習分類分佈Emiel Hoogeboom，Didrik Nielsen，Priyank Jaini，PatrickForré，Max Welling。 Neurips 2021 2月

？資源

？貢獻

貢獻者

Zecheng Tang，Youyuan Zhang，Haolun Wu，Ye Yuan

為這個項目做出貢獻

請隨時提交公關以供該項目貢獻！非常感謝您的幫助！

致謝