作为复杂问题解决的基本能力,推理可以为各种现实世界应用(例如医学诊断,谈判等)提供后端支持。本文通过语言模型提示提供了有关推理的尖端研究的全面调查。我们介绍了研究工作,并提供了比较和摘要,并提供了系统的资源来帮助初学者。我们还讨论了出现这种推理能力的潜在原因,并突出未来的研究方向。
使用语言模型提示推理:调查。
Shuofei Qiao,Yixin OU,Ningyu Zhang,Xiang Chen,Yunzhi Yao,Shumin Deng,Chuanqi Tan,Fei Huang,Huajun Chen。 [ABS],2022.12
在大型语言模型中进行推理:调查。
Jie Huang,Kevin Chen-Chuan Chang。 [ABS],2022.12
对数学推理深度学习的调查。
Pan Lu,Liang Qiu,Wenhao Yu,Sean Welleck,Kai-Wei Chang。 [ABS],2022.12
一项关于封闭式学习的调查。
Qingxiu dong,Lei Li,Damai Dai,Ce Zheng,Zhiyong Wu,Baobao Chang,Xu Sun,Jingjing Xu,Lei Li,lii li,shifang sui。 [ABS],2022.12
知识增强的神经机器推理:评论。
Tanmoy Chowdhury,Chen Ling,Xuchao Zhang,Xujiang Zhao,Guangji Bai,Jian Pei,Haifeng Chen,Liang Zhao。 [ABS],2023.2
增强语言模型:调查。
GrégoireMialon,RobertoDessì,Maria Lomeli,Christoforos Nalmpantis,Ram Pasunuru,Roberta Raleanu,BaptisteRozière,Timo Schick,Jane Dwivedi-yu,Asli celikyilmaz,Edouard Grave,Edouard Grave,Edouard Grave,Yann Lecun,Yann Lecun,Yann Lecun,Thomas Scialom,Thomas Scialom。 [ABS],2023.2
大语言模型中知识的生命周期:调查。
Boxi Cao,Hongyu Lin,Xianpei Han,Le Sun。 [ABS],2023.3
是您需要的及时吗?否。教学学习的全面,更广泛的看法。
Renze Lou,Kai Zhang,Wenpeng Yin。 [ABS],2023.3
自然语言作为知识表示的逻辑推理:调查。
Zonglin Yang,Xinya du,Rui Mao,Jinjie Ni,Erik Cambria。 [ABS],2023.3
自然语言推理,调查。
Fei Yu,Hongbo Zhang,Benyou Wang。 [ABS],2023.3
大型语言模型的调查。
Wayne Xin Zhao, Kun Zhou, Junyi Li, Tianyi Tang, Xiaolei Wang, Yupeng Hou, Yingqian Min, Beichen Zhang, Junjie Zhang, Zican Dong, Yifan Du, Chen Yang, Yushuo Chen, Zhipeng Chen, Jinhao Jiang, Ruiyang Ren, Yifan Li, Xinyu Tang, Zikang Liu, Peiyu Liu,Jian-Yun Nie,Ji-Rong Wen。 [ABS],2023.3
通过基础模型学习工具。
Yujia Qin, Shengding Hu, Yankai Lin, Weize Chen, Ning Ding, Ganqu Cui, Zheni Zeng, Yufei Huang, Chaojun Xiao, Chi Han, Yi Ren Fung, Yusheng Su, Huadong Wang, Cheng Qian, Runchu Tian, Kunlun Zhu, Shihao Liang, Xingyu Shen, Bokai Xu,Zhen Zhang,Yining Ye,Bowen Li,Ziwei Tang,Jing Yi,Yuzhang Zhu,Zhenning Dai,Lan Yan,Xin Cong,Xin Cong,Yaxi Lu,Weilin Zhao,Weilin Zhao,Yuxiang Huang Huang Huang,Junxi Yan,Junxi Yan,Junxi Yan,Juhan,Xu Han,Xu Han,Xu Han,dinang yang yang yang yang yang yange yan phuang whang yuang whun phuang woang woang wong,wor, Ji,Zhiyuan Liu,Maosong Sun。 [ABS],2023.4
对思想推理链的调查:进步,边界和未来。
Zheng Chu,Jingchang Chen,Qianglong Chen,Weijiang Yu,Tao He,Haotian Wang,Weihua Peng,Ming Liu,Bing Qin,Ting Liu。 [ABS],2023.9
基础模型的推理调查:概念,方法和前景。
Jiankai Sun, Chuanyang Zheng, Enze Xie, Zhengying Liu, Ruihang Chu, Jianing Qiu, Jiaqi Xu, Mingyu Ding, Hongyang Li, Mengzhe Geng, Yue Wu, Wenhai Wang, Junsong Chen, Zhangyue Yin, Xiaozhe Ren, Jie Fu, Junxian He, Wu Yuan, Qi Liu,Xihui Liu,Yu Li,Hao Dong,Yu Cheng,Ming Zhang,Pheng Ann Heng,Jifeng Dai,Ping Luo,Jingdong Wang,Ji-Rong Wen,Xipeng Qiu,Yike Qiu,Yike Guo,Hui Xiong,Qun Liu Xiong,Qun Liu,Zhenguo li。 [ABS],2023.12
促使对对比度解释常识性推理任务。
Bhargavi Paranjape,Julian Michael,Marjan Ghazvininejad,Luke Zettlemoyer,Hannaneh Hajishirzi。 [ABS],2021.6
模板填充可控制的常识性推理。
Dheeraj Rajagopal,Vivek Khetan,Bogdan Sacaleanu,Anatole Gershman,Andrew Fano,Eduard Hovy。 [ABS],2021.11
思想链促使人们在大语言模型中引起推理。
Jason Wei,Xuezhi Wang,Dale Schuurmans,Maarten Bosma,Brian Ichter,Fei Xia,Ed H. Chi,Quoc V. Le,Denny Zhou。 [ABS],2022.1
大型语言模型是零拍的推理器。
Takeshi Kojima,Shixiang Shane Gu,Machel Reid,Yutaka Matsuo,Yusuke Iwasawa。 [ABS],2022.5
心理知识的链链提示了大语模型中隐喻理解的提示。
Ben Prystawski,Paul Thibodeau,Noah Goodman。 [ABS],2022.9
基于复杂性的提示,用于多步推理。
Yao Fu,Hao Peng,Ashish Sabharwal,Peter Clark,Tushar Khot。 [ABS],2022.10
语言模型是多语言链的推理者。
Freda Shi,Mirac Suzgun,Markus Freitag,Xuezhi Wang,Suraj Srivats,Soroush Vosoughi,Hyung Won Won Chung,Yi Tay,Sebastian Ruder,Denny Zhou,Dipanjan Das,Jason Wei。 [ABS],2022.10
自动思想链在大型语言模型中引起了人们的注意。
Zhang Zhang,Aston Zhang,Mu Li,Alex Smola。 [ABS],2022.10
大型语言模型很少(1)张桌子推理器。
Wenhu Chen。 [ABS],2022.10
通过文化学习来教授算法推理。
Hattie Zhou,Azade Nova,Hugo Larochelle,Aaron Courville,Behnam Neyshabur,Hanie Sedghi。 [ABS],2022.11
主动提示大型语言模型的思想链。
Shizhe Dioo,Pengcheng Wang,Yong Lin,Tong Zhang。 [ABS],2023.2
自动及时的增强和选择,并从标记的数据中进行思考。
Kashun Shum,Shizhe Dioo,Tong Zhang。 [ABS],2023.2
及时的模式目录,可通过CHATGPT提高工程。
Jules White,Quchen Fu,Sam Hays,Michael Sandborn,Carlos Olea,Henry Gilbert,Ashraf Elnashar,Jesse Spencer-Smith,Douglas C Schmidt。 [ABS],2023.2
CHATGPT促进了改善代码质量,重构,需求启发,进行推理和记住自我Notesd软件设计的模式。
Jules White,Sam Hays,Quchen Fu,Jesse Spencer-Smith,Douglas C Schmidt。 [ABS],2023.3
学会推理和记住自称。
Jack Lanchantin,Shubham Toshniwal,Jason Weston,Arthur Szlam,Sainbayar Sukhbaatar。 [ABS],2023.5
计划和解决提示:通过大型语言模型改善零击链的推理。
Lei Wang,Wanyu Xu,Yihuai Lan,Zhiqiang Hu,Yunshi Lan,Roy Ka-Wei Lee,Ee-Peng Lim。 [ABS],2023.5
除了大语言模型中的经过思考链,有效的思维推理之外。
Yao Yao,Zuchao Li,Hai Zhao。 [ABS],2023.5
重新阅读可以改善语言模型中的推理。
Xiaohan Xu,Chongyang Tao,Tao Shen,Can Xu,Hongbo Xu,Guodong Long,Jian-Guang Lou。 [ABS],2023.9
与离线逆RL进行查询有关的及时评估和优化。
Hao Sun,Alihan Huyuk,Mihaela van der Schaar。 [ABS],2023.9
迭代地促使预先训练的思维链预先训练的语言模型。
Boshi Wang,Xiang Deng,Huan Sun。 [ABS],2022.3
选择推导:利用大型语言模型来解释逻辑推理。
Antonia Creswell,Murray Shanahan,Irina Higgins。 [ABS],2022.5
最小一是提示可以在大型语言模型中实现复杂的推理。
Denny Zhou,NathanaelSchärli,Le Hou,Jason Wei,Nathan Scales,Xuezhi Wang,Dale Schuurmans,Olivier Bousquet,Quoc Le,Ed Chi。 [ABS],2022.5
Maieutic提示:逻辑上一致的推理,并进行递归解释。
Jaehun Jung,Lianhui Qin,Sean Welleck,Faeze Brahman,Chandra Bhagavatula,Ronan Le Bras,Yejin Choi。 [ABS],2022.5
使用大型语言模型的忠实推理。
Antonia Creswell,Murray Shanahan。 [ABS],2022.8
大型语言模型的组成语义解析。
Andrew Drozdov,NathanaelSchärli,EkinAkyürek,Nathan Scales,Xinying Song,Xinyun Chen,Olivier Bousquet,Denny Zhou。 [ABS],2022.9
分解提示:解决复杂任务的模块化方法。
Tushar Khot,Harsh Trivedi,Matthew Finlayson,Yao Fu,Kyle Richardson,Peter Clark,Ashish Sabharwal。 [ABS],2022.10
测量和缩小语言模型中的组成差距。
Ofir Press,Muru Zhang,Sewon Min,Ludwig Schmidt,Noah A. Smith,Mike Lewis。 [ABS],2022.10
连续提示分解复杂问题。
Dheeru Dua,Shivanshu Gupta,Sameer Singh,Matt Gardner。 [ABS],2022.12
符号表示对少量推理的文化学习的影响。
Hanlin Zhang,Yi-Fan Zhang,Li Erran Li,Eric Xing。 [ABS],2022.12
LAMBADA:以自然语言自动推理的向后链接。
Seyed Mehran Kazemi,Najoung Kim,Deepti Bhatia,Xin Xu,Deepak Ramachandran。 [ABS],2022.12
迭代分解:通过监督推理过程来改善科学问答。
贾斯汀·雷珀特(Justin Reppert),本·拉赫巴赫(Ben Rachbach),查理·乔治(Charlie George),卢克·斯特宾(Luke Stebbing),荣格·拜恩(Jungwon Byun),玛姬·阿普尔顿(Maggie Appleton),安德烈亚斯·斯图尔·斯图尔(AndreasStuhlmüller)。 [ABS],2023.1
自我选择:通过问题提炼在大语言模型中增强推理。
Zhiheng XI,Senjie Jin,Yuhao Zhou,Rui Zheng,Songyang Gao,Tao Gui,Qi Zhang,Xuanjing Huang。 [ABS],2023.5
重新构建人类合作,以产生自由文本解释。
Sarah Wiegreffe,Jack Hessel,Swabha Swayamdipta,Mark Riedl,Yejin Choi。 [ABS],2021.12
在几乎没有镜头的学习中解释的不可靠性。
Xi ye,Greg Durrett。 [ABS],2022.5
通过语言模型为歧视者引导的多步推理。
Muhammad Khalifa,Lajanugen Logeswaran,Moontae Lee,Honglak Lee,Lu Wang。 [ABS],2023.5
RCOT:通过逆转思想链来检测并纠正推理的事实不一致。
Tianci Xue,Ziqi Wang,Zhenhailong Wang,Chi Han,Pengfei Yu,Heng JI。 [ABS],2023.5
自洽性改善了语言模型中的思想推理链。
Xuezhi Wang,Jason Wei,Dale Schuurmans,Quoc Le,Ed H. Chi,Sharan Narang,Aakanksha Chowdhery,Denny Zhou。 [ABS],2022.3
在使语言模型的推动下,更好的推理器。
Yifei Li,Zeqi Lin,Shizhuo Zhang,Qiang Fu,Bei Chen,Jian-Guang Lou,Weizhu Chen。 [ABS],2022.6
基于复杂性的提示,用于多步推理。
Yao Fu,Hao Peng,Ashish Sabharwal,Peter Clark,Tushar Khot。 [ABS],2022.10
大型语言模型是具有自我验证的推理者。
Yixuan Weng,Minjun Zhu,Shizhu He,Kang Liu,Jun Zhao。 [ABS],2022.12
通过对多个思想链进行元评估来回答问题。
Ori Yoran,Tomer Wolfson,Ben Bogin,Uri Katz,Daniel Deutch,Jonathan Berant。 [ABS],2023.4
思想树:大型语言模型的故意解决问题。
Shunyu Yao,Dian Yu,Jeffrey Zhao,Izhak Shafran,Thomas L. Griffiths,Yuan Cao,Karthik Narasimhan。 [ABS],2023.5
通过多种辩论改善语言模型中的事实和推理。
Yilun Du,Shuang Li,Antonio Torralba,Joshua B. Tenenbaum,Igor Mordatch。 [ABS],2023.5
汽车:自动混合语言模型
Aman Madaan,Pranjal Aggarwal,Ankit Anand,Srividya Pranavi Potharaju,Swaroop Mishra,Pei Zhou,Aditya Gupta,Dheeraj Rajagopal,Karthik Karthik Karthik Kappaganthu,Yiming Yang Yang,Shyam Upadhyay,Mausam,Manaal Faruugui。 [ABS],2023.9
思想逆转:通过偏好引导的反向推理热身来增强大型语言模型。
Jiahao Yuan,Dehui du,Hao Zhang,Zixiang di,Usman Naseem。 [ABS],[代码],2024.10
星:引导推理与推理。
Eric Zelikman,Yuhuai Wu,Noah D. Goodman。 [ABS],2022.3
大型语言模型可以自我爆发。
Jiaxin Huang,Shixiang Shane Gu,Le Hou,Yuexin Wu,Xuezhi Wang,Hongkun Yu,Jiawei Han。 [ABS],2022.10
反射:具有动态记忆和自我反射的自治药物。
Noah Shinn,Beck Labash,Ashwin Gopinath。 [ABS],2023.3
自我重新申请:迭代改进,并进行自我反馈。
Aman Madaan, Niket Tandon, Prakhar Gupta, Skyler Hallinan, Luyu Gao, Sarah Wiegreffe, Uri Alon, Nouha Dziri, Shrimai Prabhumoye, Yiming Yang, Sean Welleck, Bodhisattwa Prasad Majumder, Shashank Gupta, Amir Yazdanbakhsh, Peter Clark. [ABS],2023.3
炼油厂:中间表示的推理反馈。
Debjit Paul,Mete Ismayilzada,Maxime Peyrard,Beatriz Borges,Antoine Bosselut,Robert West,Boi Faltings。 [ABS],2023.4
语言模型的推理是通过世界模型计划
Shibo Hao*,Yi Gu*,Haodi MA,Joshua Jiahua Hong,Zhen Wang,Daisy Zhe Wang,Zhiting Hu [abs],2023.5
通过逻辑增强大语言模型中的零击链链推理。
Xufeng Zhao,Mengdi Li,Wenhao Lu,Cornelius Weber,Jae Hee Lee,Kun Chu,Stefan Wermter。 [ABS] [代码],2024.2
思想的眼睛:通过模拟进行基础的语言模型推理。
Ruibo Liu,Jason Wei,Shixiang Shane Gu,Te-Yen Wu,Soroush Vosoughi,Claire Cui,Denny Zhou,Andrew M. Dai 。 [ABS],2022.10
代码的语言模型是几乎没有常识的学习者。
Aman Madaan,Shuyan Zhou,Uri Alon,Yiming Yang,Graham Neubig。 [ABS],2022.10
PAL:程序辅助语言模型。
Luyu Gao,Aman Madaan,Shuyan Zhou,Uri Alon,Pengfei Liu,Yiming Yang,Jamie Callan,Graham Neubig。 [ABS],2022.11
思想计划提示:将计算与数值推理任务的推理相关。
Wenhu Chen,Xueguang MA,Xinyi Wang,William W. Cohen。 [ABS],2022.11
忠实的思想推理。
清楚,Shreya Havaldar,Adam Stein,Li Zhang,Delip Rao,Eric Wong,Marianna Apidianaki,Chris Callison-Burch。 [ABS],2023.1
大型语言模型是多功能分解器:分解基于桌子的推理的证据和问题。
Yunhu Ye,Binyuan Hui,Min Yang,Binhua Li,Fei Huang,Yongbin Li。 [ABS],2023.1
合成提示:为大语言模型生成经过思考的示范。
Zhihong Shao,Yeyun Gong,Yelong Shen,Minlie Huang,Nan Duan,Weizhu Chen。 [ABS],2023.2
MathProppter:使用大语言模型的数学推理。
Shima Imani,Liang du,苛刻的Shrivastava。 [ABS],2023.3
使用大型语言模型进行推理的自动选择。
Xu Zhao,Yuxi Xie,Kenji Kawaguchi,Junxian He,Qizhe Xie。 [ABS],2023.5
代码提示:一种用于大语言模型中复杂推理的神经符号方法。
Yi Hu,Haotong Yang,Zhouchen Lin,Muhan Zhang。 [ABS],2023.5
IF的魔力:调查大型代码模型中的因果推理能力。
小刘,da yin,Chen Zhang,Yansong Feng,Dongyan Zhao。 [ABS],2023.5
Zhen Bi,Ningyu Zhang,Yinuo Jiang,Shumin Deng,Guozhou Zheng,Huajun Chen。 [ABS],2023.12
工具形式:语言模型可以教会自己使用工具。
Timo Schick,Jane Dwivedi-Yu,RobertoDessì,Roberta Realeanu,Maria Lomeli,Luke Zettlemoyer,Nicola Cancedda,Thomas Scialom。 [ABS],2023.2
艺术:大型语言模型的自动多步推理和工具使用。
Bhargavi Paranjape,Scott Lundberg,Sameer Singh,Hannaneh Hajishirzi,Luke Zettlemoyer,Marco Tulio Ribeiro。 [ABS],2023.3
变色龙:具有大语言模型的插件构图推理。
Pan Lu,Baolin Peng,Hao Cheng,Michel Galley,Kai-Wei Chang,Ying Nian Wu,Song-Chun Zhu,Jianfeng Gao。 [ABS],2023.4
评论家:大型语言模型可以通过工具相互作用的批评自我纠正。
Zhibin Gou,Zhihong Shao,Yeyun Gong,Yelong Shen,Yujiu Yang,Nan Duan,Weizhu Chen。 [ABS],2023.5
通过执行反馈使语言模型更好。
Shuofei Qiao,Honghao Gui,Huajun Chen,Ningyu Zhang。 [ABS],2023.5
创建者:通过工具创建大型语言模型的抽象和具体推理。
Cheng Qian,Chi Han,Yi R. Fung,Yujia Qin,Zhiyuan Liu,Heng Ji。 [ABS],2023.5
Chatcot:基于聊天的大语言模型上的工具增强链的推理。
Zhipeng Chen,Kun Zhou,Beichen Zhang,Zheng Gong,Wayne Xin Zhao,Ji-Rong Wen。 [ABS],2023.5
Multitool-Cot:GPT-3可以使用带有思维链提示的多个外部工具。
Tatsuro Inaba,Hirokazu Kiyomaru,Fei Cheng,Sadao Kurohashi。 [ABS],2023.5
Toolkengpt:通过工具嵌入使用大量工具来增强冷冻语言模型
Shibo Hao,Tianyang Liu,Zhen Wang,Zhiting Hu [abs],2023.5
产生的知识促使常识性推理。
Jicheng Liu,Alisa Liu,Ximing Lu,Sean Welleck,Peter West,Ronan Le Bras,Yejin Choi,Hannaneh Hajishirzi。 [ABS],2021.10
Rainier:常识性问题的增强知识内省。
Jicheng Liu,Skyler Hallinan,Ximing Lu,Pengfei He,Sean Welleck,Hannaneh Hajishirzi,Yejin Choi。 [ABS],2022.10
大型语言模型的解释使小推理器变得更好。
Shiyang Li,Jianshu Chen,Yelong Shen,Zhiyu Chen,Xinlu Zhang,Zekun Li,Hong Wang,Jing Qian,Baolin Peng,Yi Mao,Wenhu Chen,Xifeng Yan。 [ABS],2022.10
Pinto:使用及时生成的理由的忠实语言推理。
Peifeng Wang,Aaron Chan,Filip Ilievski,Muhao Chen,Xiang Ren。 [ABS],2022.11
TSGP:两阶段的生成性提示无监督的常识问题回答。
Yueqing Sun,Yu Zhang,Le Qi,Qi Shi。 [ABS],2022.11
通过语义分解将大语言模型的多步推理能力提炼成较小的模型。
Kumar Shridhar,Alessandro Stolfo,Mrinmaya Sachan。 [ABS],2022.12
教小语言模型进行推理。
露西·夏洛特(Lucie Charlotte Magister),乔纳森·马林森(Jonathan Mallinson),雅库布·阿德梅克(Jakub Adamek),埃里克·马尔米(Eric Malmi),阿里亚克西·塞维利(Aliaksei Severyn)。 [ABS],2022.12
大型语言模型是推理教师。
Namgyu Ho,Laura Schmid,Se-Young Yun。 [ABS],2022.12
专门针对多步推理的较小语言模型。
Yao Fu,Hao Peng,Litu OU,Ashish Sabharwal,Tushar Khot。 [ABS],2023.1
PAD:计划辅助蒸馏剂专门推理了大型型号。
Xuekai Zhu,Biqing Qi,Kaiyan Zhang,Xingwei Long,Bowen Zhou。 [ABS],2023.5
memprompt:内存辅助提示编辑以改进部署后的GPT-3
Aman Madaan,Niket Tandon,Peter Clark,Yiming Yang。 [ABS],2022.1
Logicsolver:通过逻辑及时增强学习解决可解释的数学单词问题。
Zhicheng Yang,Jinghui Qin,Jiaqi Chen,Liang Lin,Xiaodan Liang。 [ABS],2022.5
选择性注释使语言模型更好地学习者。
Hongjin Su,Jungo Kasai,Chen Henry Wu,Weijia Shi,Tianlu Wang,Jiayi Xin,Rui Zhang,Mari Ostendorf,Luke Zettlemoyer,Noah A. Smith,Tao Yu。 [ABS],2022.9
通过策略梯度进行半结构化数学推理的策略梯度学习。
Pan Lu,Liang Qiu,Kai-Wei Chang,Ying Nian Wu,Song-Chun Zhu,Tanmay Rajpurohit,Peter Clark,Ashwin Kalyan。 [ABS],2022.9
与知识密集型多步骤问题的经过思考的推理相结合。
严酷的Trivedi,Niranjan Balasubramanian,Tushar Khot,Ashish Sabharwal。 [ABS],2022.12
通过检索重新思考:忠实的大语言模型推断。
Hangfeng He,Hongming Zhang,Dan Roth。 [ABS],2023.1
验证和编辑:一个知识增强的思想链框架。
Ruochen Zhao,Xingxuan Li,Shafiq Joty,Chengwei Qin,Lidong Bing。 [ABS],2023.5
语言模型级联。
David Dohan,Winnie Xu,Aitor Lewkowycz,Jacob Austin,David Bieber,Raphael Gontijo Lopes,Yuhuai Wu,Henryk Michalewski,Rif A. Saurous,Jascha Sohl-Dickstein,Kevin Murphy,Kevin Murphy,Charles Sutton 。 [ABS],2022.7
学会解释:通过思想链的多模式推理,用于科学问题回答。
Pan Lu,Swaroop Mishra,Tony Xia,Liang Qiu,Kai-Wei Chang,Song-Chun Zhu,Oyvind Tafjord,Peter Clark,Ashwin Kalyan。 [ABS],2022.9
知识图上的多模式类比推理。
Ningyu Zhang,Lei Li,Xiang Chen,Xiaozhuan Liang,Shumin Deng,Huajun Chen。 [ABS],2022.10
缩放指导说明语言模型。
Hyung Won Chung, Le Hou, Shayne Longpre, Barret Zoph, Yi Tay, William Fedus, Yunxuan Li, Xuezhi Wang, Mostafa Dehghani, Siddhartha Brahma, Albert Webson, Shixiang Shane Gu, Zhuyun Dai, Mirac Suzgun, Xinyun Chen, Aakanksha Chowdhery, Alex Castro-Ros, Marie Pellat, Kevin Robinson, Dasha Valter, Sharan Narang, Gaurav Mishra, Adams Yu, Vincent Zhao, Yanping Huang, Andrew Dai, Hongkun Yu, Slav Petrov, Ed H. Chi, Jeff Dean, Jacob Devlin, Adam Roberts, Denny Zhou, Quoc V. Le, Jason Wei. [ABS],2022.10
请参阅,思考,确认:基于知识的视觉推理的视觉和语言模型之间的相互关系。
Zhenfang Chen,Qinhong Zhou,Yikang Shen,Yining Hong,Hao Zhang,Chuang Gan。 [ABS],2023.1
语言模型中的多模式链中的推理。
Zhusen Zhang,Aston Zhang,Mu Li,Hai Zhao,George Karypis,Alex Smola。 [ABS],2023.2
语言不是您所需要的:将感知与语言模型保持一致。
Shaohan Huang, Li Dong, Wenhui Wang, Yaru Hao, Saksham Singhal, Shuming Ma, Tengchao Lv, Lei Cui, Owais Khan Mohammed, Qiang Liu, Kriti Aggarwal, Zewen Chi, Johan Bjorck, Vishrav Chaudhary, Subhojit Som, Xia Song, Furu Wei. [ABS],2023.2
Visual Chatgpt:使用视觉基础模型进行交谈,绘画和编辑。
Chenfei Wu,Shengming Yin,Weizhen Qi,Xiaodong Wang,Zecheng Tang,Nan Duan。 [ABS],2023.3
Vipergpt:通过Python执行进行推理的视觉推断。
DídacSurís,Sachit Menon,Carl Vondrick。 [ABS],2023.3
MM反应:提示CHATGPT进行多模式推理和动作。
Zhengyuan Yang,Linjie Li,Jianfeng Wang,Kevin Lin,Ehsan Azarnasab,Faisal Ahmed,Zicheng Liu,Ce Liu,Michael Zeng,Lijuan Wang。 [ABS],2023.3
通过提示在大语言模型中提高智力理论的表现。
Shima Rahimi Moghaddam,Christopher J. Honey。 [ABS],2023.4
语言模型可以从上下文中的解释中学习吗?
Andrew K. Lampinen,Ishita Dasgupta,Stephanie Cy Chan,Kory Matthewson,Michael Henry Tessler,Antonia Creswell,James L. McClelland,Jane X. Wang,Felix Hill。 [ABS],2022.4
大型语言模型的紧急能力。
Jason Wei,Yi Tay,Rishi Bommasani,Colin Raffel,Barret Zoph,Sebastian Borgeaud,Dani Yogatama,Maarten Bosma,Denny Zhou,Donny Zhou,Donald Metzler,Ed H. Chi,Tatsunori Hashimoto,Tatunori Hashimoto,Oriol Vinyals,Oriol Vinyals,Percy Liang Liang,William fedus,jeff defus,jeff deas eff deas eff。 [ABS],2022.6
语言模型显示出类似人类的内容对推理的影响。
Ishita Dasgupta,Andrew K. Lampinen,Stephanie Cy Chan,Antonia Creswell,Dharshan Kumaran,James L. McClelland,Felix Hill。 [ABS],2022.7
语言模型中的理性授权合奏。
Xuezhi Wang,Jason Wei,Dale Schuurmans,Quoc Le,Ed Chi,Denny Zhou。 [ABS],2022.7
大型语言模型可以真正理解提示吗?一个案例研究,带有否定的提示。
Joel Jang,Seongheyon Ye,Minjoon Seo。 [ABS],2022.9
文本和模式:为了有效的思想链,探戈需要两个
Aman Madaan,Amir Yazdanbakhsh。 [ABS],2022.9
具有挑战性的大台任务以及经过思考的链条是否可以解决这些问题。
Mirac Suzgun,Nathan Scales,NathanaelSchärli,Sebastian Gehrmann,Yi Tay,Hyung Won Chung,Aakanksha Chowdhery,Quoc V. Le,Ed H. Chi,Denny Zhou,Jason Wei。 [ABS],2022.10
语言模型是贪婪的推理者:对经营链的系统形式分析。
Abulhair Saparov,他。 [ABS],2022.10
知识在语言模型中减轻隐私风险的知识。
Joel Jang,Dongkeun Yoon,Sohee Yang,Sungmin Cha,Moontae Lee,Lajanugen Logeswaran,Minjoon Seo。 [ABS],2022.10
在大型语言模型中出现类似推理。
泰勒·韦伯(Taylor Webb),基思·J·霍利亚克(Keith J. [ABS],2022.12
旨在理解思想链的提示:对重要的事情的实证研究。
Boshi Wang,Sewon Min,Xiang Deng,Jiaming Shen,You Wu,Luke Zettlemoyer,Huan Sun。 [ABS],2022.12
第二次思考,让我们不要逐步思考!零射线推理中的偏见和毒性。
Omar Shaikh,Hongxin Zhang,William Held,Michael Bernstein,Diyi Yang。 [ABS],2022.12
猎犬的语言模型可以推理吗?猎犬和语言模型之间的责备游戏。
Parishad Behnamghader,Santiago Miret,Siva Reddy。 [ABS],2022.12
为什么GPT可以在文化中学习?语言模型将梯度下降作为荟萃激烈。
Damai Dai,Yutao Sun,Li Dong,Yaru Hao,Zhifang Sui,Furu Wei。 [ABS],2022.12
在大型语言模型中分离语言和思想:认知观点。
Kyle Mahowald,Anna A. Ivanova,Idan A. Blank,Nancy Kanwisher,Joshua B. Tenenbaum,Evelina Fedorenko。 [ABS],2023.1
大型语言模型很容易被无关紧要的环境分散注意力。
Freda Shi,Xinyun Chen,Kanishka Misra,Nathan Scales,David Dohan,Ed Chi,NathanaelSchärli,Denny Zhou。 [ABS],2023.2
关于推理,幻觉和互动性的CHATGPT的多语言,多语言,多模式评估。
Yejin Bang,Samuel Cahyawijaya,Nayeon Lee,Wenliang Dai,Dan Su,Bryan Wilie,Holy Lovenia,Ziwei JI,Tiezheng Yu,Willy Chung,Willy Chung,Quyet V. Do,Yan Xu,Yan Xu,Pascale Fung。 [ABS],2023.2
Chatgpt是一种知识渊博但缺乏经验的求解器:对大语言模型中常识性问题的调查。
Ning Bian,Xianpei Han,Le Sun,Hongyu Lin,Yaojie Lu,Ben He。 [ABS],2023.3
为什么要逐步考虑?推理是从经验的当地出现的。
Ben Prystawski,Noah D. Goodman。 [ABS],2023.4
从基于正式逻辑的合成语料库中学习演绎推理。
Terufumi Morishita,Gaku Morio,Atsuki Yamaguchi,Yasuhiro Sogawa。 [ABS],2023.8
| 推理技能 | 基准 |
|---|---|
| 算术推理 | GSM8K,SVAMP,ASDIV,Aqua-Rat,Mawps,AddSub,Multiarith,Singleq,Singleop |
| 常识推理 | CONSENSENSEQA,StrategyQA,ARC,Saycan,Boolqa,HotPotQA,OpenBookQa,PIQA,WikiWhy Why |
| 象征性推理 | 上一个字母串联,硬币翻转,反向列表 |
| 逻辑推理 | 证明作者,IntailmentBank,Ruletaker,Clutrr,FLD |
| 多模式推理 | Scienceqa |
| 其他的 | 大基础,扫描,经过思考枢纽,MR-BEN,WORFBENCH |
/abs/格式)。不用担心,如果您错了一些问题,它们将为您解决。只需在这里做出贡献并促进您的出色工作!
如果您发现此调查对您的研究有用,请考虑引用
@inproceedings{qiao-etal-2023-reasoning,
title = "Reasoning with Language Model Prompting: A Survey",
author = "Qiao, Shuofei and
Ou, Yixin and
Zhang, Ningyu and
Chen, Xiang and
Yao, Yunzhi and
Deng, Shumin and
Tan, Chuanqi and
Huang, Fei and
Chen, Huajun",
booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.acl-long.294",
pages = "5368--5393",
abstract = "Reasoning, as an essential ability for complex problem-solving, can provide back-end support for various real-world applications, such as medical diagnosis, negotiation, etc. This paper provides a comprehensive survey of cutting-edge research on reasoning with language model prompting. We introduce research works with comparisons and summaries and provide systematic resources to help beginners. We also discuss the potential reasons for emerging such reasoning abilities and highlight future research directions. Resources are available at https://github.com/zjunlp/Prompt4ReasoningPapers (updated periodically).",
}