Prompt4ReasoningPapers
1.0.0
作為複雜問題解決的基本能力，推理可以為各種現實世界應用（例如醫學診斷，談判等）提供後端支持。本文通過語言模型提示提供了有關推理的尖端研究的全面調查。我們介紹了研究工作，並提供了比較和摘要，並提供了系統的資源來幫助初學者。我們還討論了出現這種推理能力的潛在原因，並突出未來的研究方向。
使用語言模型提示推理：調查。
Shuofei Qiao，Yixin OU，Ningyu Zhang，Xiang Chen，Yunzhi Yao，Shumin Deng，Chuanqi Tan，Fei Huang，Huajun Chen。 [ABS]，2022.12
在大型語言模型中進行推理：調查。
Jie Huang，Kevin Chen-Chuan Chang。 [ABS]，2022.12
對數學推理深度學習的調查。
Pan Lu，Liang Qiu，Wenhao Yu，Sean Welleck，Kai-Wei Chang。 [ABS]，2022.12
一項關於封閉式學習的調查。
Qingxiu dong，Lei Li，Damai Dai，Ce Zheng，Zhiyong Wu，Baobao Chang，Xu Sun，Jingjing Xu，Lei Li，lii li，shifang sui。 [ABS]，2022.12
知識增強的神經機器推理：評論。
Tanmoy Chowdhury，Chen Ling，Xuchao Zhang，Xujiang Zhao，Guangji Bai，Jian Pei，Haifeng Chen，Liang Zhao。 [ABS]，2023.2
增強語言模型：調查。
GrégoireMialon，RobertoDessì，Maria Lomeli，Christoforos Nalmpantis，Ram Pasunuru，Roberta Raleanu，BaptisteRozière，Timo Schick，Jane Dwivedi-yu，Asli celikyilmaz，Edouard Grave，Edouard Grave，Edouard Grave，Yann Lecun，Yann Lecun，Yann Lecun，Thomas Scialom，Thomas Scialom。 [ABS]，2023.2
大語言模型中知識的生命週期：調查。
Boxi Cao，Hongyu Lin，Xianpei Han，Le Sun。 [ABS]，2023.3
是您需要的及時嗎？否。教學學習的全面，更廣泛的看法。
Renze Lou，Kai Zhang，Wenpeng Yin。 [ABS]，2023.3
自然語言作為知識表示的邏輯推理：調查。
Zonglin Yang，Xinya du，Rui Mao，Jinjie Ni，Erik Cambria。 [ABS]，2023.3
自然語言推理，調查。
Fei Yu，Hongbo Zhang，Benyou Wang。 [ABS]，2023.3
大型語言模型的調查。
Wayne Xin Zhao, Kun Zhou, Junyi Li, Tianyi Tang, Xiaolei Wang, Yupeng Hou, Yingqian Min, Beichen Zhang, Junjie Zhang, Zican Dong, Yifan Du, Chen Yang, Yushuo Chen, Zhipeng Chen, Jinhao Jiang, Ruiyang Ren, Yifan Li, Xinyu Tang, Zikang Liu, Peiyu Liu，Jian-Yun Nie，Ji-Rong Wen。 [ABS]，2023.3
通過基礎模型學習工具。
Yujia Qin, Shengding Hu, Yankai Lin, Weize Chen, Ning Ding, Ganqu Cui, Zheni Zeng, Yufei Huang, Chaojun Xiao, Chi Han, Yi Ren Fung, Yusheng Su, Huadong Wang, Cheng Qian, Runchu Tian, Kunlun Zhu, Shihao Liang, Xingyu Shen, Bokai Xu，Zhen Zhang，Yining Ye，Bowen Li，Ziwei Tang，Jing Yi，Yuzhang Zhu，Zhenning Dai，Lan Yan，Xin Cong，Xin Cong，Yaxi Lu，Weilin Zhao，Weilin Zhao，Yuxiang Huang Huang Huang，Junxi Yan，Junxi Yan，Junxi Yan，Juhan，Xu Han，Xu Han，Xu Han，dinang yang yang yang yang yang yange yan phuang whang yuang whun phuang woang woang wong，wor， Ji，Zhiyuan Liu，Maosong Sun。 [ABS]，2023.4
對思想推理鏈的調查：進步，邊界和未來。
Zheng Chu，Jingchang Chen，Qianglong Chen，Weijiang Yu，Tao He，Haotian Wang，Weihua Peng，Ming Liu，Bing Qin，Ting Liu。 [ABS]，2023.9
基礎模型的推理調查：概念，方法和前景。
Jiankai Sun, Chuanyang Zheng, Enze Xie, Zhengying Liu, Ruihang Chu, Jianing Qiu, Jiaqi Xu, Mingyu Ding, Hongyang Li, Mengzhe Geng, Yue Wu, Wenhai Wang, Junsong Chen, Zhangyue Yin, Xiaozhe Ren, Jie Fu, Junxian He, Wu Yuan, Qi Liu，Xihui Liu，Yu Li，Hao Dong，Yu Cheng，Ming Zhang，Pheng Ann Heng，Jifeng Dai，Ping Luo，Jingdong Wang，Ji-Rong Wen，Xipeng Qiu，Yike Qiu，Yike Guo，Hui Xiong，Qun Liu Xiong，Qun Liu，Zhenguo li。 [ABS]，2023.12
促使對對比度解釋常識性推理任務。
Bhargavi Paranjape，Julian Michael，Marjan Ghazvininejad，Luke Zettlemoyer，Hannaneh Hajishirzi。 [ABS]，2021.6
模板填充可控制的常識性推理。
Dheeraj Rajagopal，Vivek Khetan，Bogdan Sacaleanu，Anatole Gershman，Andrew Fano，Eduard Hovy。 [ABS]，2021.11
思想鏈促使人們在大語言模型中引起推理。
Jason Wei，Xuezhi Wang，Dale Schuurmans，Maarten Bosma，Brian Ichter，Fei Xia，Ed H. Chi，Quoc V. Le，Denny Zhou。 [ABS]，2022.1
大型語言模型是零拍的推理器。
Takeshi Kojima，Shixiang Shane Gu，Machel Reid，Yutaka Matsuo，Yusuke Iwasawa。 [ABS]，2022.5
心理知識的鍊鍊提示了大語模型中隱喻理解的提示。
Ben Prystawski，Paul Thibodeau，Noah Goodman。 [ABS]，2022.9
基於復雜性的提示，用於多步推理。
Yao Fu，Hao Peng，Ashish Sabharwal，Peter Clark，Tushar Khot。 [ABS]，2022.10
語言模型是多語言鏈的推理者。
Freda Shi，Mirac Suzgun，Markus Freitag，Xuezhi Wang，Suraj Srivats，Soroush Vosoughi，Hyung Won Won Chung，Yi Tay，Sebastian Ruder，Denny Zhou，Dipanjan Das，Jason Wei。 [ABS]，2022.10
自動思想鏈在大型語言模型中引起了人們的注意。
Zhang Zhang，Aston Zhang，Mu Li，Alex Smola。 [ABS]，2022.10
大型語言模型很少（1）張桌子推理器。
Wenhu Chen。 [ABS]，2022.10
通過文化學習來教授算法推理。
Hattie Zhou，Azade Nova，Hugo Larochelle，Aaron Courville，Behnam Neyshabur，Hanie Sedghi。 [ABS]，2022.11
主動提示大型語言模型的思想鏈。
Shizhe Dioo，Pengcheng Wang，Yong Lin，Tong Zhang。 [ABS]，2023.2
自動及時的增強和選擇，並從標記的數據中進行思考。
Kashun Shum，Shizhe Dioo，Tong Zhang。 [ABS]，2023.2
及時的模式目錄，可通過CHATGPT提高工程。
Jules White，Quchen Fu，Sam Hays，Michael Sandborn，Carlos Olea，Henry Gilbert，Ashraf Elnashar，Jesse Spencer-Smith，Douglas C Schmidt。 [ABS]，2023.2
CHATGPT促進了改善代碼質量，重構，需求啟發，進行推理和記住自我Notesd軟件設計的模式。
Jules White，Sam Hays，Quchen Fu，Jesse Spencer-Smith，Douglas C Schmidt。 [ABS]，2023.3
學會推理和記住自稱。
Jack Lanchantin，Shubham Toshniwal，Jason Weston，Arthur Szlam，Sainbayar Sukhbaatar。 [ABS]，2023.5
計劃和解決提示：通過大型語言模型改善零擊鏈的推理。
Lei Wang，Wanyu Xu，Yihuai Lan，Zhiqiang Hu，Yunshi Lan，Roy Ka-Wei Lee，Ee-Peng Lim。 [ABS]，2023.5
除了大語言模型中的經過思考鏈，有效的思維推理之外。
Yao Yao，Zuchao Li，Hai Zhao。 [ABS]，2023.5
重新閱讀可以改善語言模型中的推理。
Xiaohan Xu，Chongyang Tao，Tao Shen，Can Xu，Hongbo Xu，Guodong Long，Jian-Guang Lou。 [ABS]，2023.9
與離線逆RL進行查詢有關的及時評估和優化。
Hao Sun，Alihan Huyuk，Mihaela van der Schaar。 [ABS]，2023.9
迭代地促使預先訓練的思維鏈預先訓練的語言模型。
Boshi Wang，Xiang Deng，Huan Sun。 [ABS]，2022.3
選擇推導：利用大型語言模型來解釋邏輯推理。
Antonia Creswell，Murray Shanahan，Irina Higgins。 [ABS]，2022.5
最小一是提示可以在大型語言模型中實現複雜的推理。
Denny Zhou，NathanaelSchärli，Le Hou，Jason Wei，Nathan Scales，Xuezhi Wang，Dale Schuurmans，Olivier Bousquet，Quoc Le，Ed Chi。 [ABS]，2022.5
Maieutic提示：邏輯上一致的推理，並進行遞歸解釋。
Jaehun Jung，Lianhui Qin，Sean Welleck，Faeze Brahman，Chandra Bhagavatula，Ronan Le Bras，Yejin Choi。 [ABS]，2022.5
使用大型語言模型的忠實推理。
Antonia Creswell，Murray Shanahan。 [ABS]，2022.8
大型語言模型的組成語義解析。
Andrew Drozdov，NathanaelSchärli，EkinAkyürek，Nathan Scales，Xinying Song，Xinyun Chen，Olivier Bousquet，Denny Zhou。 [ABS]，2022.9
分解提示：解決複雜任務的模塊化方法。
Tushar Khot，Harsh Trivedi，Matthew Finlayson，Yao Fu，Kyle Richardson，Peter Clark，Ashish Sabharwal。 [ABS]，2022.10
測量和縮小語言模型中的組成差距。
Ofir Press，Muru Zhang，Sewon Min，Ludwig Schmidt，Noah A. Smith，Mike Lewis。 [ABS]，2022.10
連續提示分解複雜問題。
Dheeru Dua，Shivanshu Gupta，Sameer Singh，Matt Gardner。 [ABS]，2022.12
符號表示對少量推理的文化學習的影響。
Hanlin Zhang，Yi-Fan Zhang，Li Erran Li，Eric Xing。 [ABS]，2022.12
LAMBADA：以自然語言自動推理的向後鏈接。
Seyed Mehran Kazemi，Najoung Kim，Deepti Bhatia，Xin Xu，Deepak Ramachandran。 [ABS]，2022.12
迭代分解：通過監督推理過程來改善科學問答。
賈斯汀·雷珀特（Justin Reppert），本·拉赫巴赫（Ben Rachbach），查理·喬治（Charlie George），盧克·斯特賓（Luke Stebbing），榮格·拜恩（Jungwon Byun），瑪姬·阿普爾頓（Maggie Appleton），安德烈亞斯·斯圖爾·斯圖爾（AndreasStuhlmüller）。 [ABS]，2023.1
自我選擇：通過問題提煉在大語言模型中增強推理。
Zhiheng XI，Senjie Jin，Yuhao Zhou，Rui Zheng，Songyang Gao，Tao Gui，Qi Zhang，Xuanjing Huang。 [ABS]，2023.5
重新構建人類合作，以產生自由文本解釋。
Sarah Wiegreffe，Jack Hessel，Swabha Swayamdipta，Mark Riedl，Yejin Choi。 [ABS]，2021.12
在幾乎沒有鏡頭的學習中解釋的不可靠性。
Xi ye，Greg Durrett。 [ABS]，2022.5
通過語言模型為歧視者引導的多步推理。
Muhammad Khalifa，Lajanugen Logeswaran，Moontae Lee，Honglak Lee，Lu Wang。 [ABS]，2023.5
RCOT：通過逆轉思想鏈來檢測並糾正推理的事實不一致。
Tianci Xue，Ziqi Wang，Zhenhailong Wang，Chi Han，Pengfei Yu，Heng JI。 [ABS]，2023.5
自洽性改善了語言模型中的思想推理鏈。
Xuezhi Wang，Jason Wei，Dale Schuurmans，Quoc Le，Ed H. Chi，Sharan Narang，Aakanksha Chowdhery，Denny Zhou。 [ABS]，2022.3
在使語言模型的推動下，更好的推理器。
Yifei Li，Zeqi Lin，Shizhuo Zhang，Qiang Fu，Bei Chen，Jian-Guang Lou，Weizhu Chen。 [ABS]，2022.6
基於復雜性的提示，用於多步推理。
Yao Fu，Hao Peng，Ashish Sabharwal，Peter Clark，Tushar Khot。 [ABS]，2022.10
大型語言模型是具有自我驗證的推理者。
Yixuan Weng，Minjun Zhu，Shizhu He，Kang Liu，Jun Zhao。 [ABS]，2022.12
通過對多個思想鏈進行元評估來回答問題。
Ori Yoran，Tomer Wolfson，Ben Bogin，Uri Katz，Daniel Deutch，Jonathan Berant。 [ABS]，2023.4
思想樹：大型語言模型的故意解決問題。
Shunyu Yao，Dian Yu，Jeffrey Zhao，Izhak Shafran，Thomas L. Griffiths，Yuan Cao，Karthik Narasimhan。 [ABS]，2023.5
通過多種辯論改善語言模型中的事實和推理。
Yilun Du，Shuang Li，Antonio Torralba，Joshua B. Tenenbaum，Igor Mordatch。 [ABS]，2023.5
汽車：自動混合語言模型
Aman Madaan，Pranjal Aggarwal，Ankit Anand，Srividya Pranavi Potharaju，Swaroop Mishra，Pei Zhou，Aditya Gupta，Dheeraj Rajagopal，Karthik Karthik Karthik Kappaganthu，Yiming Yang Yang，Shyam Upadhyay，Mausam，Manaal Faruugui。 [ABS]，2023.9
思想逆轉：通過偏好引導的反向推理熱身來增強大型語言模型。
Jiahao Yuan，Dehui du，Hao Zhang，Zixiang di，Usman Naseem。 [ABS]，[代碼]，2024.10
星：引導推理與推理。
Eric Zelikman，Yuhuai Wu，Noah D. Goodman。 [ABS]，2022.3
大型語言模型可以自我爆發。
Jiaxin Huang，Shixiang Shane Gu，Le Hou，Yuexin Wu，Xuezhi Wang，Hongkun Yu，Jiawei Han。 [ABS]，2022.10
反射：具有動態記憶和自我反射的自治藥物。
Noah Shinn，Beck Labash，Ashwin Gopinath。 [ABS]，2023.3
自我重新申請：迭代改進，並進行自我反饋。
Aman Madaan, Niket Tandon, Prakhar Gupta, Skyler Hallinan, Luyu Gao, Sarah Wiegreffe, Uri Alon, Nouha Dziri, Shrimai Prabhumoye, Yiming Yang, Sean Welleck, Bodhisattwa Prasad Majumder, Shashank Gupta, Amir Yazdanbakhsh, Peter Clark. [ABS]，2023.3
煉油廠：中間表示的推理反饋。
Debjit Paul，Mete Ismayilzada，Maxime Peyrard，Beatriz Borges，Antoine Bosselut，Robert West，Boi Faltings。 [ABS]，2023.4
語言模型的推理是通過世界模型計劃
Shibo Hao*，Yi Gu*，Haodi MA，Joshua Jiahua Hong，Zhen Wang，Daisy Zhe Wang，Zhiting Hu [abs]，2023.5
通過邏輯增強大語言模型中的零擊鍊鍊推理。
Xufeng Zhao，Mengdi Li，Wenhao Lu，Cornelius Weber，Jae Hee Lee，Kun Chu，Stefan Wermter。 [ABS] [代碼]，2024.2
思想的眼睛：通過模擬進行基礎的語言模型推理。
Ruibo Liu，Jason Wei，Shixiang Shane Gu，Te-Yen Wu，Soroush Vosoughi，Claire Cui，Denny Zhou，Andrew M. Dai 。 [ABS]，2022.10
代碼的語言模型是幾乎沒有常識的學習者。
Aman Madaan，Shuyan Zhou，Uri Alon，Yiming Yang，Graham Neubig。 [ABS]，2022.10
PAL：程序輔助語言模型。
Luyu Gao，Aman Madaan，Shuyan Zhou，Uri Alon，Pengfei Liu，Yiming Yang，Jamie Callan，Graham Neubig。 [ABS]，2022.11
思想計劃提示：將計算與數值推理任務的推理相關。
Wenhu Chen，Xueguang MA，Xinyi Wang，William W. Cohen。 [ABS]，2022.11
忠實的思想推理。
清楚，Shreya Havaldar，Adam Stein，Li Zhang，Delip Rao，Eric Wong，Marianna Apidianaki，Chris Callison-Burch。 [ABS]，2023.1
大型語言模型是多功能分解器：分解基於桌子的推理的證據和問題。
Yunhu Ye，Binyuan Hui，Min Yang，Binhua Li，Fei Huang，Yongbin Li。 [ABS]，2023.1
合成提示：為大語言模型生成經過思考的示範。
Zhihong Shao，Yeyun Gong，Yelong Shen，Minlie Huang，Nan Duan，Weizhu Chen。 [ABS]，2023.2
MathProppter：使用大語言模型的數學推理。
Shima Imani，Liang du，苛刻的Shrivastava。 [ABS]，2023.3
使用大型語言模型進行推理的自動選擇。
Xu Zhao，Yuxi Xie，Kenji Kawaguchi，Junxian He，Qizhe Xie。 [ABS]，2023.5
代碼提示：一種用於大語言模型中復雜推理的神經符號方法。
Yi Hu，Haotong Yang，Zhouchen Lin，Muhan Zhang。 [ABS]，2023.5
IF的魔力：調查大型代碼模型中的因果推理能力。
小劉，da yin，Chen Zhang，Yansong Feng，Dongyan Zhao。 [ABS]，2023.5
Zhen Bi，Ningyu Zhang，Yinuo Jiang，Shumin Deng，Guozhou Zheng，Huajun Chen。 [ABS]，2023.12
工具形式：語言模型可以教會自己使用工具。
Timo Schick，Jane Dwivedi-Yu，RobertoDessì，Roberta Realeanu，Maria Lomeli，Luke Zettlemoyer，Nicola Cancedda，Thomas Scialom。 [ABS]，2023.2
藝術：大型語言模型的自動多步推理和工具使用。
Bhargavi Paranjape，Scott Lundberg，Sameer Singh，Hannaneh Hajishirzi，Luke Zettlemoyer，Marco Tulio Ribeiro。 [ABS]，2023.3
變色龍：具有大語言模型的插件構圖推理。
Pan Lu，Baolin Peng，Hao Cheng，Michel Galley，Kai-Wei Chang，Ying Nian Wu，Song-Chun Zhu，Jianfeng Gao。 [ABS]，2023.4
評論家：大型語言模型可以通過工具相互作用的批評自我糾正。
Zhibin Gou，Zhihong Shao，Yeyun Gong，Yelong Shen，Yujiu Yang，Nan Duan，Weizhu Chen。 [ABS]，2023.5
通過執行反饋使語言模型更好。
Shuofei Qiao，Honghao Gui，Huajun Chen，Ningyu Zhang。 [ABS]，2023.5
創建者：通過工具創建大型語言模型的抽象和具體推理。
Cheng Qian，Chi Han，Yi R. Fung，Yujia Qin，Zhiyuan Liu，Heng Ji。 [ABS]，2023.5
Chatcot：基於聊天的大語言模型上的工具增強鏈的推理。
Zhipeng Chen，Kun Zhou，Beichen Zhang，Zheng Gong，Wayne Xin Zhao，Ji-Rong Wen。 [ABS]，2023.5
Multitool-Cot：GPT-3可以使用帶有思維鏈提示的多個外部工具。
Tatsuro Inaba，Hirokazu Kiyomaru，Fei Cheng，Sadao Kurohashi。 [ABS]，2023.5
Toolkengpt：通過工具嵌入使用大量工具來增強冷凍語言模型
Shibo Hao，Tianyang Liu，Zhen Wang，Zhiting Hu [abs]，2023.5
產生的知識促使常識性推理。
Jicheng Liu，Alisa Liu，Ximing Lu，Sean Welleck，Peter West，Ronan Le Bras，Yejin Choi，Hannaneh Hajishirzi。 [ABS]，2021.10
Rainier：常識性問題的增強知識內省。
Jicheng Liu，Skyler Hallinan，Ximing Lu，Pengfei He，Sean Welleck，Hannaneh Hajishirzi，Yejin Choi。 [ABS]，2022.10
大型語言模型的解釋使小推理器變得更好。
Shiyang Li，Jianshu Chen，Yelong Shen，Zhiyu Chen，Xinlu Zhang，Zekun Li，Hong Wang，Jing Qian，Baolin Peng，Yi Mao，Wenhu Chen，Xifeng Yan。 [ABS]，2022.10
Pinto：使用及時生成的理由的忠實語言推理。
Peifeng Wang，Aaron Chan，Filip Ilievski，Muhao Chen，Xiang Ren。 [ABS]，2022.11
TSGP：兩階段的生成性提示無監督的常識問題回答。
Yueqing Sun，Yu Zhang，Le Qi，Qi Shi。 [ABS]，2022.11
通過語義分解將大語言模型的多步推理能力提煉成較小的模型。
Kumar Shridhar，Alessandro Stolfo，Mrinmaya Sachan。 [ABS]，2022.12
教小語言模型進行推理。
露西·夏洛特（Lucie Charlotte Magister），喬納森·馬林森（Jonathan Mallinson），雅庫布·阿德梅克（Jakub Adamek），埃里克·馬爾米（Eric Malmi），阿里亞克西·塞維利（Aliaksei Severyn）。 [ABS]，2022.12
大型語言模型是推理教師。
Namgyu Ho，Laura Schmid，Se-Young Yun。 [ABS]，2022.12
專門針對多步推理的較小語言模型。
Yao Fu，Hao Peng，Litu OU，Ashish Sabharwal，Tushar Khot。 [ABS]，2023.1
PAD：計劃輔助蒸餾劑專門推理了大型型號。
Xuekai Zhu，Biqing Qi，Kaiyan Zhang，Xingwei Long，Bowen Zhou。 [ABS]，2023.5
memprompt：內存輔助提示編輯以改進部署後的GPT-3
Aman Madaan，Niket Tandon，Peter Clark，Yiming Yang。 [ABS]，2022.1
Logicsolver：通過邏輯及時增強學習解決可解釋的數學單詞問題。
Zhicheng Yang，Jinghui Qin，Jiaqi Chen，Liang Lin，Xiaodan Liang。 [ABS]，2022.5
選擇性註釋使語言模型更好地學習者。
Hongjin Su，Jungo Kasai，Chen Henry Wu，Weijia Shi，Tianlu Wang，Jiayi Xin，Rui Zhang，Mari Ostendorf，Luke Zettlemoyer，Noah A. Smith，Tao Yu。 [ABS]，2022.9
通過策略梯度進行半結構化數學推理的策略梯度學習。
Pan Lu，Liang Qiu，Kai-Wei Chang，Ying Nian Wu，Song-Chun Zhu，Tanmay Rajpurohit，Peter Clark，Ashwin Kalyan。 [ABS]，2022.9
與知識密集型多步驟問題的經過思考的推理相結合。
嚴酷的Trivedi，Niranjan Balasubramanian，Tushar Khot，Ashish Sabharwal。 [ABS]，2022.12
通過檢索重新思考：忠實的大語言模型推斷。
Hangfeng He，Hongming Zhang，Dan Roth。 [ABS]，2023.1
驗證和編輯：一個知識增強的思想鏈框架。
Ruochen Zhao，Xingxuan Li，Shafiq Joty，Chengwei Qin，Lidong Bing。 [ABS]，2023.5
語言模型級聯。
David Dohan，Winnie Xu，Aitor Lewkowycz，Jacob Austin，David Bieber，Raphael Gontijo Lopes，Yuhuai Wu，Henryk Michalewski，Rif A. Saurous，Jascha Sohl-Dickstein，Kevin Murphy，Kevin Murphy，Charles Sutton 。 [ABS]，2022.7
學會解釋：通過思想鏈的多模式推理，用於科學問題回答。
Pan Lu，Swaroop Mishra，Tony Xia，Liang Qiu，Kai-Wei Chang，Song-Chun Zhu，Oyvind Tafjord，Peter Clark，Ashwin Kalyan。 [ABS]，2022.9
知識圖上的多模式類比推理。
Ningyu Zhang，Lei Li，Xiang Chen，Xiaozhuan Liang，Shumin Deng，Huajun Chen。 [ABS]，2022.10
縮放指導說明語言模型。
Hyung Won Chung, Le Hou, Shayne Longpre, Barret Zoph, Yi Tay, William Fedus, Yunxuan Li, Xuezhi Wang, Mostafa Dehghani, Siddhartha Brahma, Albert Webson, Shixiang Shane Gu, Zhuyun Dai, Mirac Suzgun, Xinyun Chen, Aakanksha Chowdhery, Alex Castro-Ros, Marie Pellat, Kevin Robinson, Dasha Valter, Sharan Narang, Gaurav Mishra, Adams Yu, Vincent Zhao, Yanping Huang, Andrew Dai, Hongkun Yu, Slav Petrov, Ed H. Chi, Jeff Dean, Jacob Devlin, Adam Roberts, Denny Zhou, Quoc V. Le, Jason Wei. [ABS]，2022.10
請參閱，思考，確認：基於知識的視覺推理的視覺和語言模型之間的相互關係。
Zhenfang Chen，Qinhong Zhou，Yikang Shen，Yining Hong，Hao Zhang，Chuang Gan。 [ABS]，2023.1
語言模型中的多模式鏈中的推理。
Zhusen Zhang，Aston Zhang，Mu Li，Hai Zhao，George Karypis，Alex Smola。 [ABS]，2023.2
語言不是您所需要的：將感知與語言模型保持一致。
Shaohan Huang, Li Dong, Wenhui Wang, Yaru Hao, Saksham Singhal, Shuming Ma, Tengchao Lv, Lei Cui, Owais Khan Mohammed, Qiang Liu, Kriti Aggarwal, Zewen Chi, Johan Bjorck, Vishrav Chaudhary, Subhojit Som, Xia Song, Furu Wei. [ABS]，2023.2
Visual Chatgpt：使用視覺基礎模型進行交談，繪畫和編輯。
Chenfei Wu，Shengming Yin，Weizhen Qi，Xiaodong Wang，Zecheng Tang，Nan Duan。 [ABS]，2023.3
Vipergpt：通過Python執行進行推理的視覺推斷。
DídacSurís，Sachit Menon，Carl Vondrick。 [ABS]，2023.3
MM反應：提示CHATGPT進行多模式推理和動作。
Zhengyuan Yang，Linjie Li，Jianfeng Wang，Kevin Lin，Ehsan Azarnasab，Faisal Ahmed，Zicheng Liu，Ce Liu，Michael Zeng，Lijuan Wang。 [ABS]，2023.3
通過提示在大語言模型中提高智力理論的表現。
Shima Rahimi Moghaddam，Christopher J. Honey。 [ABS]，2023.4
語言模型可以從上下文中的解釋中學習嗎？
Andrew K. Lampinen，Ishita Dasgupta，Stephanie Cy Chan，Kory Matthewson，Michael Henry Tessler，Antonia Creswell，James L. McClelland，Jane X. Wang，Felix Hill。 [ABS]，2022.4
大型語言模型的緊急能力。
Jason Wei，Yi Tay，Rishi Bommasani，Colin Raffel，Barret Zoph，Sebastian Borgeaud，Dani Yogatama，Maarten Bosma，Denny Zhou，Donny Zhou，Donald Metzler，Ed H. Chi，Tatsunori Hashimoto，Tatunori Hashimoto，Oriol Vinyals，Oriol Vinyals，Percy Liang Liang，William fedus，jeff defus，jeff deas eff deas eff。 [ABS]，2022.6
語言模型顯示出類似人類的內容對推理的影響。
Ishita Dasgupta，Andrew K. Lampinen，Stephanie Cy Chan，Antonia Creswell，Dharshan Kumaran，James L. McClelland，Felix Hill。 [ABS]，2022.7
語言模型中的理性授權合奏。
Xuezhi Wang，Jason Wei，Dale Schuurmans，Quoc Le，Ed Chi，Denny Zhou。 [ABS]，2022.7
大型語言模型可以真正理解提示嗎？一個案例研究，帶有否定的提示。
Joel Jang，Seongheyon Ye，Minjoon Seo。 [ABS]，2022.9
文本和模式：為了有效的思想鏈，探戈需要兩個
Aman Madaan，Amir Yazdanbakhsh。 [ABS]，2022.9
具有挑戰性的大台任務以及經過思考的鏈條是否可以解決這些問題。
Mirac Suzgun，Nathan Scales，NathanaelSchärli，Sebastian Gehrmann，Yi Tay，Hyung Won Chung，Aakanksha Chowdhery，Quoc V. Le，Ed H. Chi，Denny Zhou，Jason Wei。 [ABS]，2022.10
語言模型是貪婪的推理者：對經營鏈的系統形式分析。
Abulhair Saparov，他。 [ABS]，2022.10
知識在語言模型中減輕隱私風險的知識。
Joel Jang，Dongkeun Yoon，Sohee Yang，Sungmin Cha，Moontae Lee，Lajanugen Logeswaran，Minjoon Seo。 [ABS]，2022.10
在大型語言模型中出現類似推理。
泰勒·韋伯（Taylor Webb），基思·J·霍利亞克（Keith J. [ABS]，2022.12
旨在理解思想鏈的提示：對重要的事情的實證研究。
Boshi Wang，Sewon Min，Xiang Deng，Jiaming Shen，You Wu，Luke Zettlemoyer，Huan Sun。 [ABS]，2022.12
第二次思考，讓我們不要逐步思考！零射線推理中的偏見和毒性。
Omar Shaikh，Hongxin Zhang，William Held，Michael Bernstein，Diyi Yang。 [ABS]，2022.12
獵犬的語言模型可以推理嗎？獵犬和語言模型之間的責備遊戲。
Parishad Behnamghader，Santiago Miret，Siva Reddy。 [ABS]，2022.12
為什麼GPT可以在文化中學習？語言模型將梯度下降作為薈萃激烈。
Damai Dai，Yutao Sun，Li Dong，Yaru Hao，Zhifang Sui，Furu Wei。 [ABS]，2022.12
在大型語言模型中分離語言和思想：認知觀點。
Kyle Mahowald，Anna A. Ivanova，Idan A. Blank，Nancy Kanwisher，Joshua B. Tenenbaum，Evelina Fedorenko。 [ABS]，2023.1
大型語言模型很容易被無關緊要的環境分散注意力。
Freda Shi，Xinyun Chen，Kanishka Misra，Nathan Scales，David Dohan，Ed Chi，NathanaelSchärli，Denny Zhou。 [ABS]，2023.2
關於推理，幻覺和互動性的CHATGPT的多語言，多語言，多模式評估。
Yejin Bang，Samuel Cahyawijaya，Nayeon Lee，Wenliang Dai，Dan Su，Bryan Wilie，Holy Lovenia，Ziwei JI，Tiezheng Yu，Willy Chung，Willy Chung，Quyet V. Do，Yan Xu，Yan Xu，Pascale Fung。 [ABS]，2023.2
Chatgpt是一種知識淵博但缺乏經驗的求解器：對大語言模型中常識性問題的調查。
Ning Bian，Xianpei Han，Le Sun，Hongyu Lin，Yaojie Lu，Ben He。 [ABS]，2023.3
為什麼要逐步考慮？推理是從經驗的當地出現的。
Ben Prystawski，Noah D. Goodman。 [ABS]，2023.4
從基於正式邏輯的合成語料庫中學習演繹推理。
Terufumi Morishita，Gaku Morio，Atsuki Yamaguchi，Yasuhiro Sogawa。 [ABS]，2023.8
| 推理技能 | 基準 |
|---|---|
| 算術推理 | GSM8K，SVAMP，ASDIV，Aqua-Rat，Mawps，AddSub，Multiarith，Singleq，Singleop |
| 常識推理 | CONSENSENSEQA，StrategyQA，ARC，Saycan，Boolqa，HotPotQA，OpenBookQa，PIQA，WikiWhy Why |
| 象徵性推理 | 上一個字母串聯，硬幣翻轉，反向列表 |
| 邏輯推理 | 證明作者，IntailmentBank，Ruletaker，Clutrr，FLD |
| 多模式推理 | Scienceqa |
| 其他的 | 大基礎，掃描，經過思考樞紐，MR-BEN，WORFBENCH |
/abs/格式）。不用擔心，如果您錯了一些問題，它們將為您解決。只需在這裡做出貢獻並促進您的出色工作！
如果您發現此調查對您的研究有用，請考慮引用
@inproceedings{qiao-etal-2023-reasoning,
title = "Reasoning with Language Model Prompting: A Survey",
author = "Qiao, Shuofei and
Ou, Yixin and
Zhang, Ningyu and
Chen, Xiang and
Yao, Yunzhi and
Deng, Shumin and
Tan, Chuanqi and
Huang, Fei and
Chen, Huajun",
booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.acl-long.294",
pages = "5368--5393",
abstract = "Reasoning, as an essential ability for complex problem-solving, can provide back-end support for various real-world applications, such as medical diagnosis, negotiation, etc. This paper provides a comprehensive survey of cutting-edge research on reasoning with language model prompting. We introduce research works with comparisons and summaries and provide systematic resources to help beginners. We also discuss the potential reasons for emerging such reasoning abilities and highlight future research directions. Resources are available at https://github.com/zjunlp/Prompt4ReasoningPapers (updated periodically).",
}
