Рассуждение, как важная способность для сложного решения проблем, может обеспечить внутреннюю поддержку различных реальных приложений, таких как медицинская диагностика, переговоры и т. Д. В этом документе представлена комплексное обследование передовых исследований по поводу рассуждения с подсказкой языковой модели. Мы вводим исследовательские работы с сравнениями и резюме и предоставляем систематические ресурсы, чтобы помочь начинающим. Мы также обсуждаем потенциальные причины создания таких способностей рассуждений и подчеркивают будущие направления исследований.
Рассуждение с подсказкой на языковой модели: опрос.
Шуофей Цяо, Йисин Оу, Нинью Чжан, Сян Чен, Юньцхи Яо, Шумин Денг, Чуанки Тан, Фей Хуан, Хуаджун Чен. [ABS], 2022.12
На пути к рассуждениям в крупных языковых моделях: опрос.
Цзе Хуан, Кевин Чен-Чуан Чанг. [ABS], 2022.12
Обзор глубокого обучения по математическим рассуждениям.
Пан Лу, Лян Цю, Вэнхао Ю, Шон Веллек, Кай-Вей Чанг. [ABS], 2022.12
Опрос для обучения в контексте.
Qingxiu Dong, Lei Li, Damai Dai, CE Zheng, Zhiyong Wu, Baobao Chang, Xu Sun, Jingjing Xu, Lei Li, Zhifang Sui. [ABS], 2022.12
Увеличенные знаниями мышление нейронной машины: обзор.
Танмоя Чоудхури, Чен Лин, Сючао Чжан, Сюдзин Чжао, Гуанджи Бай, Цзянь Пей, Хайфенг Чен, Лян Чжао. [ABS], 2023.2
Дополненные языковые модели: опрос.
Грегуаре Миал, Роберто Десси, Мария Ломели, Кристофорос Налмпантис, Рам Пасунуру, Роберта Ралеану, Баптист Розьер, Тимо Шик, Джейн Двиведь-Ю, Асли Селикилмаз, Эдуард Грейв, Янн Лекун, Томас Сексалам. [ABS], 2023.2
Жизненный цикл знаний в моделях большого языка: опрос.
Boxi Cao, Hongyu Lin, Xianpei Han, Le Sun. [ABS], 2023.3
Быстро ли быстро? Нет. Комплексный и более широкий взгляд на обучение обучения.
Рензе Лу, Кай Чжан, Венпенг Инь. [ABS], 2023.3
Логические рассуждения над естественным языком как представление знаний: опрос.
Zonglin Yang, Xinya Du, Rui Mao, Jinjie Ni, Erik Cambria. [ABS], 2023.3
Рассуждение о природе, опрос.
Фей Ю, Хонбо Чжан, Бену Ванг. [ABS], 2023.3
Обзор крупных языковых моделей.
Уэйн Синь Чжао, Кун Чжоу, Джуни Ли, Тяни Тан, Сяолей Ванг, Юпенг Хоу, Ингчян Мин, Бейхен Чжан, Джуни Чжан, Зикан Донг, Ифан Дю, Чен Ян, Юшуо Чен, Зини Чен, Джинхао Джианг, Ренг -Жин, Зини, Зинь, Зини, Чен. Пейю Лю, Цзянь-Юн Ни, Джи-Ронг Вэнь. [ABS], 2023.3
Обучение инструментами с основными моделями.
Юдзия Цинь, Шенгидинг Ху, Янкай Лин, Вайз Чен, Нин Дин, Ганк -Куй, Чжени Зенг, Юфэй Хуан, Чаоджун Сяо, Чи Хан, Йи Рен Фунг, Юшенг Су, Хуадонг Ван, Ченг Цянь, Рунчю Тянь, Кунлун Зуа -Ши -Ши -Ши -Ши -Ши -Лян Bokai Xu, Zhen Zhang, Yining Ye, Bowen Li, Ziwei Tang, Jing Yi, Yuzhang Zhu, Zhenning Dai, Lan Yan, Xin Cong, Yaxi Lu, Weilin Zhao, Yuxiang Huang, Junxi Yan, Xan, Xian Sun, Dahai Li, Jason Phang, Tonags, Tongsh, Jangsh, Jangsh, йанг, Джун Ян, Джун Ян, Скюн, Сюг, Джунг, Джун Ян, Хан, Сюг, Джун Ян, Джун Ян, Джун Ян, Хан, Сюг, Сюг, Сюг, Джун, Джунси Ян, Скюн, Хан, Сюн, Джунг, Джунси Ян. Хенг Джи, Чжиюань Лю, Маосонг Сан. [ABS], 2023.4
Обзор рассуждений за мысли: достижения, границы и будущее.
Чжэн Чу, Цзиньчан Чен, Цяньглонг Чен, Вейцзян Ю, Тао Хе, Хаотиан Ван, Вейхуа Пэн, Мин Лю, Бинг Цинь, Тинг Лю. [ABS], 2023.9
Обзор рассуждений с моделями фундамента: концепции, методологии и перспективы.
Цзянкай Сан, Чуаньян Чжэн, Энзе Си, Чженгинг Лю, Руханг Чу, Цзяньинг Цю, Цзяки Сюй, Минью Дин, Хонгьян Ли, Менгже Генг, Юэ Ву, Венхай Ванг, Джун Чен, Чжангью Иин, Синьозхэ, Жюнь -Хен, Жюнь, Жюнь Чен, У, Джун Хен, Жюнь Чен, Жюнь Чен, Жюнь Чен, Жюнь Чен. Лю, Сихуи Лю, Ю Ли, Хао Донг, Ю Ченг, Мин Чжан, Фенг Энн Хенг, Джифенг Дай, Пинг Луо, Цзиндон Ванг, Джи-Ронг Вэнь, Сюзенг Цю, Йике Го, Хуи Сионг, Куну Лю, Чжэнгуо Ли. [ABS], 2023.12
Побуждая контрастные объяснения для разумных задач здравого смысла.
Бхаргави Паранджап, Джулиан Майкл, Марджан Газвининежад, Люк Зеттлемуер, Ханнане Хаджиширзи. [ABS], 2021.6
Шаблон заполнение для управляемого здравого смысла рассуждения.
Dheeraj Rajagopal, Vivek Khetan, Bogdan Sacaleanu, Anatole Gershman, Andrew Fano, Eduard Hovy. [ABS], 2021.11
Цепочка мыслительного подсказки вызывает рассуждения в крупных языковых моделях.
Джейсон Вэй, Сюэжи Ван, Дейл Шуурманс, Мартен Босма, Брайан Ихтер, Фей Ся, Эд Х. Чи, Квок В. Л., Денни Чжоу. [ABS], 2022.1
Большие языковые модели-это с нулевые выстрелы.
Такеши Кодзима, Шиксиан Шейн Гу, Мачел Рейд, Ютака Мацуо, Юсуке Ивасава. [ABS], 2022.5
Психологически информированные подсказки о цепочке мыслей для понимания метафоры в крупных языковых моделях.
Бен Приставский, Пол Тибодо, Ноа Гудман. [ABS], 2022.9
На основе сложности побуждение для многоэтапных рассуждений.
Яо Фу, Хао Пэн, Ашиш Сабхарвал, Питер Кларк, Тушар Хот. [ABS], 2022.10
Языковые модели являются многоязычными разумеющимися цепочками.
Фрида Ши, Мирак Сузгун, Маркус Фрейтаг, Сюэжхи Ван, Сурадж Шриватс, Сорууш Восоуи, Хен Вон Чунг, Йи Тай, Себастьян Рудер, Денни Чжоу, Дипанджан Дас, Джейсон Вей. [ABS], 2022.10
Автоматическая цепочка мышления, подсказывающую моделям больших языков.
Чжуошэн Чжан, Астон Чжан, Му Ли, Алекс Смола. [ABS], 2022.10
Большие языковые модели немного (1) -shot таблицы.
Венху Чен. [ABS], 2022.10
Обучение алгоритмическим рассуждениям с помощью встроенного обучения.
Хэтти Чжоу, Азаде Нова, Хьюго Ларошель, Аарон Курвилл, Бехнам Нейшабур, Хани Седги. [ABS], 2022.11
Активное подсказка с цепочкой мыслей для крупных языковых моделей.
Шицхе Диао, Пенгченг Ван, Юн Лин, Тонг Чжан. [ABS], 2023.2
Автоматическое увеличение быстрого увеличения и выбор с цепью размышлений из помеченных данных.
Кашун Шум, Шицхе Диао, Тонг Чжан. [ABS], 2023.2
Быстрый каталог шаблонов для улучшения инженерии быстрого с помощью CHATGPT.
Жюль Уайт, Кухен Фу, Сэм Хейс, Майкл Сэндборн, Карлос Олеа, Генри Гилберт, Ашраф Эльнашар, Джесси Спенсер-Смит, Дуглас С Шмидт. [ABS], 2023.2
Шаблоны быстрого приглашения CHATGPT для улучшения качества кода, рефакторинга, выявления требований, обучения для разума и запоминания с помощью дизайна программного обеспечения для самостоятельной ноты.
Жюль Уайт, Сэм Хейс, Кухен Фу, Джесси Спенсер-Смит, Дуглас С Шмидт. [ABS], 2023.3
Учиться рассуждать и запоминать с самостоятельными нотами.
Джек Ланчантин, Шубхэм Тошнивал, Джейсон Уэстон, Артур Шлам, Сейнбаяр Сухбаатар. [ABS], 2023,5
Планирование и сферу подсказки: улучшение цепочки с нулевым выстрелом в цепочке мышления с помощью крупных языковых моделей.
Лей Ван, Ваню Сюй, Йихуаи Лан, Чжицян Ху, Юнши Лан, Рой Ка-Вей Ли, EE-Peng Lim. [ABS], 2023,5
Помимо цепочки мыслей, эффективные рассуждения о графике мыслей в крупных языковых моделях.
Яо Яо, Зучао Ли, Хай Чжао. [ABS], 2023,5
Перечитывание улучшает рассуждения в языковых моделях.
Сяохан Сюй, Чонгьян Тао, Тао Шен, Кан Сюй, Хонбо Сюй, Гудонг Лонг, Цзянь-Гуан Лу. [ABS], 2023.9
Зависимая от запроса оценка и оптимизация с помощью автономного обратного RL.
Hao Sun, Alihan Huyuk, Mihaela van der Schaar. [ABS], 2023.9
Итеративно быстрое предварительно обученные языковые модели для цепочки мышления.
Боши Ван, Сян Дэн, Хуан Сан. [ABS], 2022.3
Отбор-инференция: эксплуатация больших языковых моделей для интерпретируемых логических рассуждений.
Антония Кресвелл, Мюррей Шанахан, Ирина Хиггинс. [ABS], 2022.5
Наименьшее количество подсказок позволяет сложные рассуждения в крупных языковых моделях.
Денни Чжоу, Натанаэль Шарли, Ле Хоу, Джейсон Вей, Натан Шелкс, Сюэжи Ван, Дейл Шуурманс, Оливье Букет, Кук Ле, Эд Чи. [ABS], 2022.5
Маеутическое подсказка: логически последовательные рассуждения с рекурсивными объяснениями.
Jaehun Jung, Lianhui Qin, Sean Welleck, Faeze Brahman, Chandra Bhagavatula, Ronan Le Bras, Yejin Choi. [ABS], 2022.5
Верные рассуждения с использованием больших языковых моделей.
Антония Кресвелл, Мюррей Шанахан. [ABS], 2022.8
Композиционный семантический анализ с большими языковыми моделями.
Эндрю Дроздов, Натанаэль Шарли, Экин Айкюрек, Натан Скайлз, Синьинг Песня, Синьун Чен, Оливье Буске, Денни Чжоу. [ABS], 2022.9
Разложенное подсказка: модульный подход для решения сложных задач.
Тушар Хот, Харш Триведи, Мэтью Финлейсон, Яо Фу, Кайл Ричардсон, Питер Кларк, Ашиш Сабхарвал. [ABS], 2022.10
Измерение и сужение разрыва в композиции в языковых моделях.
Офир Пресс, Муру Чжан, Сьюон Мин, Людвиг Шмидт, Ноа А. Смит, Майк Льюис. [ABS], 2022.10
Последовательное подсказка для разложения сложных вопросов.
Dheeru Dua, Shivanshu Gupta, Самир Сингх, Мэтт Гарднер. [ABS], 2022.12
Влияние символических представлений на обучение в контексте для нескольких выстрелов.
Хэнлин Чжан, И-Фан Чжан, Ли Эрран Ли, Эрик Син. [ABS], 2022.12
Ламбада: обратная цепочка для автоматических рассуждений на естественном языке.
Сейед Мехран Каземи, Наджун Ким, Дипти Бхатия, Синь Сюй, Дипак Рамачандран. [ABS], 2022.12
Итерационное разложение: улучшение научных вопросов и ответов, контролируя процессы рассуждений.
Джастин Репперт, Бен Рахбах, Чарли Джордж, Люк Стеббинг, Юнгвон Бюн, Мэгги Эпплтон, Андреас Стулмюллер. [ABS], 2023.1
Самополиш: улучшить рассуждения в крупных языковых моделях за счет уточнения проблем.
Zhiheng Xi, Senjie Jin, Yuhao Zhou, Rui Zheng, Songyang Gao, Tao Gui, Qi Zhang, Xuanjing Huang. [ABS], 2023,5
Переосмысление сотрудничества человека-аи для получения объяснений свободного текста.
Сара Вигрефф, Джек Хессель, Свабха Сэйамдипта, Марк Ридл, Йецзин Чой. [ABS], 2021.12
Ненадежность объяснений в нескольких выстрелах в контексте обучения.
Xi Ye, Грег Дурретт. [ABS], 2022.5
Многоэтапные рассуждения с дискриминаторами с дискриминаторами с языковыми моделями.
Мухаммед Халифа, Ладжануген Лодесваран, Монте, Хонлак Ли, Лу Ван. [ABS], 2023,5
RCOT: обнаружение и исправление фактического несоответствия в рассуждениях путем отмены цепочки мыслей.
Tianci Xue, Ziqi Wang, Zhenhailong Wang, Chi Han, Pengfei Yu, Heng Ji. [ABS], 2023,5
Самосогласованность улучшает цепочку мышления в языковых моделях.
Xuezhi Wang, Jason Wei, Dale Schuurmans, Quoc Le, Ed H. Chi, Sharan Narang, Aakanksha Chowdhery, Denny Zhou. [ABS], 2022.3
На продвижение языковых моделей лучшими обоснователями.
Yifei Li, Zeqi Lin, Shizhuo Zhang, Qiang Fu, Bei Chen, Jian-Guang Lou, Weizhu Chen. [ABS], 2022.6
На основе сложности побуждение для многоэтапных рассуждений.
Яо Фу, Хао Пэн, Ашиш Сабхарвал, Питер Кларк, Тушар Хот. [ABS], 2022.10
Большие языковые модели являются разумными с самостоятельностью.
Иксуань Вэн, Минджун Чжу, Шучжу Х. Х., Кан Лю, Джун Чжао. [ABS], 2022.12
Отвечая на вопросы мета-редакции по нескольким цепям мышления.
Ори Йоран, Томер Вольфсон, Бен Богин, Ури Кац, Даниэль Дейтч, Джонатан Берант. [ABS], 2023.4
Дерево мыслей: преднамеренное решение проблем с большими языковыми моделями.
Шуню Яо, Диан Ю, Джеффри Чжао, Ижак Шафран, Томас Л. Гриффитс, Юань Цао, Картик Нарасимхан. [ABS], 2023,5
Улучшение фактов и рассуждений в языковых моделях с помощью многоагентных дебатов.
Yilun Du, Shuang Li, Antonio Torralba, Джошуа Б. Тененбаум, Игорь Мордатч. [ABS], 2023,5
Automix: автоматически смешивание языковых моделей
Аман Мадан, Пранджал Аггарвал, Анкит Ананд, Шривидия Пранави Потараджу, Суваруп Мишра, Пей Чжоу, Адитья Гупта, Дойрадж Раджагопал, Картик Каппаганту, Йиминг Ян, Шьям Упудхей, Маусам, Манаал Фарукю. [ABS], 2023.9
Изменение мышления: улучшение больших языковых моделей с помощью предпочтения, подведя обратную рассуждения.
Jiahao Yuan, Dehui Du, Hao Zhang, Zixiang Di, Usman Naseem. [ABS], [CODE], 2024.10
Звезда: рассуждения о начальной загрузке с рассуждением.
Эрик Зеликман, Юхуай Ву, Ноа Д. Гудман. [ABS], 2022.3
Большие языковые модели могут самостоятельно заполнить.
Цзиаксин Хуанг, Шиксиан Шейн Гу, Ле Хоу, Юэксин Ву, Сюэжи Ван, Хонкун Ю, Цзявей Хан. [ABS], 2022.10
Рефлексия: автономный агент с динамической памятью и саморефлексией.
Ной Шинн, Бек Лабаш, Эшвин Гопинатх. [ABS], 2023.3
Саморефина: итеративная уточнение с помощью самоотдачи.
Аман Мадан, Никет Тандон, Прахар Гупта, Скайлер Халлинан, Лую Гао, Сара Вигрефф, Ури Алон, Нуха Дзири, Шримай Прабхумоя, Йиминг Ян, Шон Веллек, Бодхисаттву Прасад Мадждер, Шашанк Гупта, Амир Ясанбаха. [ABS], 2023.3
РЕФИНЕР: Обозначение обратной связи по промежуточным представлениям.
Дебжит Пол, Мет Исмаильзада, Максим Пейрард, Беатрис Борхес, Антуан Босслют, Роберт Уэст, Бой Фалтингс. [ABS], 2023.4
Рассуждение с языковой моделью планирует с мировой моделью
Shibo Hao*, Yi Gu*, Haodi MA, Joshua Jiahua Hong, Zhen Wang, Daisy Zhe Wang, Zhiting Hu [Abs], 2023.5
Улучшение разумных рассуждений с нулевым выстрелом в больших языковых моделях с помощью логики.
Сюфенг Чжао, Менгди Ли, Венхао Лу, Корнелиус Вебер, Чже Хи Ли, Кун Чу, Стефан Вермер. [ABS] [CODE], 2024.2
Глаз Mind: обоснование модели языка за счет симуляции.
Рурибо Лю, Джейсон Вей, Шиксиан Шейн Гу, Те-Йен Ву, Соруш Восоу, Клэр Куй, Денни Чжоу, Эндрю М. Дай . [ABS], 2022.10
Языковые модели кода являются учащимися в целом.
Аман Мадан, Шуян Чжоу, Ури Алон, Йиминг Ян, Грэм Нойбиг. [ABS], 2022.10
PAL: Программные языковые модели.
Лую Гао, Аман Мадан, Шуян Чжоу, Ури Алон, Пенгфей Лю, Йим Ян, Джейми Каллан, Грэм Нойбиг. [ABS], 2022.11
Программа подсказки мыслей: раскрытие вычислений от рассуждений по численным задачам.
Венху Чен, Сюугуанг М.А., Синьи Ван, Уильям В. Коэн. [ABS], 2022.11
Верная цепочка мыслей.
Цин Лю, Шрея Хавальдар, Адам Стейн, Ли Чжан, Делип Рао, Эрик Вонг, Марианна Апидианаки, Крис Каллисон-Берч. [ABS], 2023.1
Крупные языковые модели являются универсальными декомпозиторами: разлагают доказательства и вопросы для рассуждений на основе таблицы.
Юнху Ю, Биньюан Хуэй, Мин Ян, Бинхуа Ли, Фей Хуанг, Юнбин Ли. [ABS], 2023.1
Синтетическое подсказка: создание демонстраций цепочки мыслей для крупных языковых моделей.
Чжихон Шао, Йейн Гонг, Йелонг Шен, Минли Хуан, Нан Дуан, Вейху Чен. [ABS], 2023.2
MathPrompter: математические рассуждения с использованием больших языковых моделей.
Shima Imani, Liang Du, Harsh Shrivastava. [ABS], 2023.3
Автоматический выбор модели с большими языковыми моделями для рассуждения.
Сюй Чжао, Юси Се, Кенджи Кавагучи, Джунсиан Х. Х., Кжи, Си. [ABS], 2023,5
Подсказка кода: нейронный символический метод для сложных рассуждений в моделях крупных языков.
Йи Ху, Хатонг Ян, Жхачен Лин, Мухан Чжан. [ABS], 2023,5
Магия IF: исследование способностей причинно -следственных мышлений в крупных языковых моделях кода.
Сяо Лю, Да Инь, Чен Чжан, Янсонг Фэн, Дунньян Чжао. [ABS], 2023,5
Чжэнь Би, Ниню Чжан, Инуо Цзян, Шумин Денг, Гоожеу Чжэн, Хуаджун Чен. [ABS], 2023.12
Инструмент: языковые модели могут научить себя использовать инструменты.
Тимо Шик, Джейн Двиведи-Ю, Роберто Десси, Роберта Рейреану, Мария Ломели, Люк Зеттлемуер, Никола Кандедда, Томас Скиалом. [ABS], 2023.2
Искусство: автоматические многоэтапные рассуждения и использование инструментов для крупных языковых моделей.
Бхаргави Паранджап, Скотт Лундберг, Самир Сингх, Ханнане Хаджиширзи, Люк Зеттлемуер, Марко Тулио Рибейро. [ABS], 2023.3
Chameleon: композиционные рассуждения подключаемой и игры с большими языковыми моделями.
Пан Лу, Баолин Пенг, Хао Ченг, Мишель Галлей, Кай-Вей Чанг, Ин Нянь Ву, Сонг-Чун Чжу, Цзянфенг Гао. [ABS], 2023.4
Критик: Модели с большими языками могут самокорректировать с интерационной критикой инструмента.
Зибин Гу, Чжихон Шао, Йенун Гонг, Йелонг Шен, Юдзиу Ян, Нан Дуан, Вейху Чен. [ABS], 2023,5
Сделать языковые модели лучшими учениками инструмента с обратной связью.
Shuofei Qiao, Honghao Gui, Huajun Chen, Ningyu Zhang. [ABS], 2023,5
Создатель: распутать абстрактные и конкретные рассуждения крупных языковых моделей с помощью создания инструментов.
Ченг Цянь, Чи Хан, Йи Р. Фанг, Юдзия Цинь, Чжиюань Лю, Хенг Джи. [ABS], 2023,5
Чаткот: облегченная цепочка для цепочки мыслей о больших языковых моделях, основанных на чате.
Zhipeng Chen, Kun Zhou, Beichen Zhang, Zheng Gong, Wayne Xin Zhao, Ji-Rong Wen. [ABS], 2023,5
Multitool-Cot: GPT-3 может использовать несколько внешних инструментов с цепочкой подсказки мышления.
Тацуро Инаба, Хироказу Кийомару, Фей Ченг, Садао Курохаши. [ABS], 2023,5
Toolkengpt: дополнение моделей замороженного языка с помощью массивных инструментов с помощью инструментов Entrydings
Шибо Хао, Тяньян Лю, Чжэнь Ван, Жейт Ху [ABS], 2023.5
Сгенерированные знания, подсказывающие здравый смысл рассуждения.
Jiacheng Liu, Alisa Liu, Ximing Lu, Sean Welleck, Peter West, Ronan Le Bras, Yejin Choi, Hannaneh Hajishirzi. [ABS], 2021.10
Рейнир: Усиленный интроспектор знаний для ответа на вопрос об здравом смысле.
Jiacheng Liu, Skyler Hallinan, Ximing Lu, Pengfei He, Sean Welleck, Hannaneh Hajishirzi, Yejin Choi. [ABS], 2022.10
Объяснения из крупных языковых моделей улучшают небольшие рассуждения лучше.
Шиян Ли, Цзяншу Чен, Йелонг Шен, Чжию Чен, Синлу Чжан, Зекун Ли, Хонг Ван, Цзин Цянь, Баолин Пенг, Йи Мао, Венху Чен, Сифенг Ян. [ABS], 2022.10
Пинто: Верные языковые рассуждения с использованием быстрого сгенерированного рационального.
Пейфенг Ван, Аарон Чан, Филип Илиевский, Мухао Чен, Сян Рен. [ABS], 2022.11
TSGP: двухэтапное генеративное подсказка для ответа на вопрос о неконтролируемом вопросе.
Yueqing Sun, Yu Zhang, Le Qi, Qi Shi. [ABS], 2022.11
Распределение многоэтапных возможностей рассуждений крупных языковых моделей в более мелкие модели посредством семантических разложений.
Кумар Шридхар, Алессандро Стольфо, Мринмайя Сачан. [ABS], 2022.12
Обучение малых языковых моделей в разум.
Люси Шарлотта Магистер, Джонатан Маллинсон, Джакуб Адамек, Эрик Малми, Алиаксеи Северин. [ABS], 2022.12
Крупные языковые модели рассуждают учителя.
Namgyu Ho, Laura Schmid, Se-Young Yun. [ABS], 2022.12
Специализация меньших языковых моделей для многоэтапных рассуждений.
Яо Фу, Хао Пэн, Литу Оу, Ашиш Сабхарвал, Тушар Хот. [ABS], 2023.1
PAD: Программная дистилляция специализирует большие модели в рассуждениях.
Xuekai Zhu, Bizing Qi, Kaiyan Zhang, Xingwei Long, Bowen Zhou. [ABS], 2023,5
MEMPROMPT: подсказка с помощью памяти для улучшения GPT-3 после развертывания
Аман Мадан, Никет Тандон, Питер Кларк, Йиминг Ян. [ABS], 2022.1
LogicsOlver: На пути к интерпретируемому решению проблем по математике с помощью логического обучения с подсказкой.
Zhicheng Yang, Jinghui Qin, Jiaqi Chen, Liang Lin, Xiaodan Liang. [ABS], 2022.5
Селективная аннотация делает языковые модели лучшими учащимися несколькими выстрелами.
Хонгдзин Су, Юнго Касаи, Чен Генри Ву, Вейджиа Ши, Тянлу Ван, Цзяйи Син, Руи Чжан, Мари Остендорф, Люк Зеттлемуер, Ноа А. Смит, Тао Ю. [ABS], 2022.9
Динамическое быстрое обучение через градиент политики для полуструктурированных математических рассуждений.
Пан Лу, Лян Цю, Кай-Вей Чанг, Ин Нянь Ву, Сонг-Чун Чжу, Танмай Раджпурохит, Питер Кларк, Эшвин Калян. [ABS], 2022.9
Чувствие по поиску с цепью размышлений для многоэтапных вопросов.
Харш Триведи, Ниранджан Баласубраманец, Тушар Хот, Ашиш Сабхарвал. [ABS], 2022.12
Переосмысление с помощью поиска: верный вывод о большой языке.
Hangfeng он, Хонгинг Чжан, Дэн Рот. [ABS], 2023.1
Проверьте и издайте: рамка с целью цепочки мыслей.
Ruochen Zhao, Xingxuan Li, Shafiq Joty, Chengwei Qin, Lidong Bing. [ABS], 2023,5
Языковая модель каскады.
Дэвид Дохан, Винни Сюй, Айтор Льюковик, Джейкоб Остин, Дэвид Бибер, Рафаэль Гонтиджо Лопес, Юхуай Ву, Генрик Михалевски, Риф А. Саурус, Джаша Сохл-Дикшштейн, Кевин Мерфи, Чарльз Суттон . [ABS], 2022.7
Научитесь объяснять: мультимодальные рассуждения с помощью цепочек мышления для ответа на вопрос о науке.
Пан Лу, Сваруп Мишра, Тони Ся, Лян Цю, Кай-Вей Чанг, Сонг-Чун Чжу, Ойвинд Тафьорд, Питер Кларк, Эшвин Калян. [ABS], 2022.9
Мультимодальные аналогичные рассуждения по графам знаний.
Ningyu Zhang, Lei Li, Xiang Chen, Xiazhuan Liang, Shumin Deng, Huajun Chen. [ABS], 2022.10
Масштабирование моделей с помощью инструкций.
Hyung Won Won Chung, Le Hou, Shayne Longpre, Barret Zoph, Yi Tay, William Fedus, Yunxuan Li, Xuezhi Wang, Mestafa Dehghani, Siddhartha Brahma, Albert Webson, Shixiang Shane Gu, Zhuyun Dai, Mirac Suzgun, xinyun Chen, Aakangy Aakangy, Aakangy, Aakangy, Aakany. Кастро-Рос, Мари Пеллат, Кевин Робинсон, Даша Вэлтер, Шаран Наранг, Гаурав Мишра, Адамс Ю, Винсент Чжао, Янпинг Хуанг, Эндрю Дай, Хонгкун Ю, Слав Петров, Эд Х. Чи, Джефф Дин, Джейкоб Девлин, Адам Робертс, Денни Зон, Кукан. [ABS], 2022.10
Смотрите, подумайте, подтвердите: взаимодействие между зрения и языковых моделей для визуальных рассуждений, основанных на знаниях.
Чженфанг Чен, Цинхонг Чжоу, Йиканг Шен, Ининг Хонг, Хао Чжан, Чуан Ган. [ABS], 2023.1
Мультимодальная цепочка мышления в языковых моделях.
Чжуошэн Чжан, Астон Чжан, Му Ли, Хай Чжао, Джордж Карипис, Алекс Смола. [ABS], 2023.2
Язык - это не все, что вам нужно: согласование восприятия с языковыми моделями.
Шаохан Хуанг, Ли Донг, Венхуи Ванг, Яру Хао, Сакшам Синхал, Шуминг М.А., Тенгчао Л.В., Лей Куй, Овайс Хан Мохаммед, Цянь Лю, Крити Аггарвал, Зуен Чи, Иоган Бьорк, Вишрейв Чадхари, Субэдж, мы. [ABS], 2023.2
Visual Chatgpt: Говорить, рисовать и редактировать с помощью моделей Visual Foundation.
Ченфей Ву, Шенминг Инь, Вейзхен Ци, Сяодон Ван, Зеченнг Тан, Нэн Дуан. [ABS], 2023.3
Vipergpt: Визуальный вывод через выполнение Python для рассуждения.
Дидак Сурис, Сахит Менон, Карл Вондрик. [ABS], 2023.3
MM-React: побуждение CHATGPT для мультимодальных рассуждений и действий.
Чжэнгуань Ян, Линджи Ли, Цзянфенг Ванг, Кевин Лин, Эхсан Азарнасаб, Фейсал Ахмед, Зиченг Лю, Се Лю, Майкл Зенг, Лиджуань Ван. [ABS], 2023.3
Повышение производительности теории в больших языках с помощью подсказки.
Шима Рахими Могаддам, Кристофер Дж. Хани. [ABS], 2023.4
Могут ли языковые модели учиться на объяснениях в контексте?
Эндрю К. Лампинен, Ишита Дасгупта, Стефани Сай Чан, Кори Мэтьюсон, Майкл Генри Тесслер, Антония Кресвелл, Джеймс Л. Макклелланд, Джейн Х. Ван, Феликс Хилл. [ABS], 2022.4
Возникающие способности крупных языковых моделей.
Джейсон Вей, Йи Тай, Риши Боммасани, Колин Раффель, Баррет Зоф, Себастьян Борги, Дани Йогатама, Маартен Босма, Денни Чжоу, Дональд Метцлер, Эд Х. Чи, Тацунори Хашимото, Иройо Виньялы, Перси Лианг, Джиф Дейн, Уильям Феду. [ABS], 2022.6
Языковые модели демонстрируют влияние содержания, подобное человеку, на рассуждения.
Ишита Дасгупта, Эндрю К. Лампинен, Стефани Сай Чан, Антония Кресвелл, Дхаршан Кумаран, Джеймс Л. Макклелланд, Феликс Хилл. [ABS], 2022.7
Обоснование-аугментирование ансамблей в языковых моделях.
Xuezhi Wang, Jason Wei, Dale Schuurmans, Quoc Le, Ed Chi, Denny Zhou. [ABS], 2022.7
Могут ли крупные языковые модели действительно понять подсказки? Тематическое исследование с отрицательными подсказками.
Джоэл Джанг, Seongheyon Ye, Minjoon Seo. [ABS], 2022.9
Текст и шаблоны: для эффективной цепочки мышления требуется два для танго
Аман Мадан, Амир Язданбахш. [ABS], 2022.9
Бросает вызов большим задачам и может ли их решить цепь мыслей.
Мирак Сусгун, Натан Скайлс, Натанаэль Шарли, Себастьян Германн, Йи Тэй, Хен Вон Чунг, Ааканкша Чоудери, Кок В. Ле, Эд Х. Чи, Денни Чжоу, Джейсон Вэй. [ABS], 2022.10
Языковые модели являются жадными рассуждениями: систематический формальный анализ цепочки мыслей.
Абулхайр Сапаров, он. [ABS], 2022.10
Отсутствие знаний для смягчения рисков конфиденциальности в языковых моделях.
Джоэл Джанг, Донгкеун Юн, Сохи Ян, Сунгмин Ча, Монти Ли, Ладжануген Логесваран, Минджун Сео. [ABS], 2022.10
Появляющиеся аналогичные рассуждения в моделях крупных языков.
Тейлор Уэбб, Кит Дж. Холиоак, Хонджин Лу. [ABS], 2022.12
На пути к пониманию подсказки о цепочке мыслей: эмпирическое исследование того, что имеет значение.
Боши Ван, Сьюон Мин, Сян Денг, Джиамин Шен, ты Ву, Люк Зеттлемойер, Хуан Сан. [ABS], 2022.12
Подумав, давайте не будем думать шаг за шагом! Предвзятость и токсичность в нулевых рассуждениях.
Омар Шейх, Хонсин Чжан, Уильям Хельд, Майкл Бернштейн, Дийи Ян. [ABS], 2022.12
Могут ли ретривер-аугментированные языковые модели причины? Игра вины между ретривером и языковой моделью.
Паришад Бехнамхадер, Сантьяго Мирет, Шива Редди. [ABS], 2022.12
Почему GPT может учиться в контексте? Языковые модели тайно выполняют градиентное происхождение в качестве мета-оптимизатора.
Дамай Дай, Ютао Сан, Ли Донг, Яру Хао, Жифанг Суй, Фуру Вэй. [ABS], 2022.12
Диссоциация языка и мысли в больших языковых моделях: когнитивная перспектива.
Кайл Махоульд, Анна А. Иванова, Иган А. Бланк, Нэнси Канвишер, Джошуа Б. Тененбаум, Эвелина Федоренко. [ABS], 2023.1
Большие языковые модели могут легко отвлечься от нерелевантного контекста.
Фрида Ши, Синьун Чен, Канишка Мисра, Натан Скайлз, Дэвид Дохан, Эд Чи, Натанаэль Шарли, Денни Чжоу. [ABS], 2023.2
Многозадачная многоязычная, мультимодальная оценка CHATGPT по рассуждениям, галлюцинации и интерактивности.
Еджин Банг, Сэмюэль Кэхьявиджайя, Найон Ли, Вэньлиан Дай, Дэн Су, Брайан Вили, Святая Лоения, Зивей Джи, Тижэн Ю, Вилли Чунг, Квиет В. До, Ян Сю, Паскале Фунг. [ABS], 2023.2
CHATGPT - это знающий, но неопытный решатель: исследование проблемы здравого смысла в моделях крупных языков.
Нин Биан, Сянпей Хан, Ле Сан, Хонгю Лин, Яоджи Лу, Бен Хе. [ABS], 2023.3
Зачем думать поэтапно? Рассуждения возникают из местности опыта.
Бен Приставский, Ноа Д. Гудман. [ABS], 2023.4
Обучение дедуктивной рассуждения из синтетического корпуса на основе формальной логики.
Terufumi Morishita, Gaku Morio, Atsuki Yamaguchi, Yasuhiro Sogawa. [ABS], 2023,8
| Навыки рассуждений | Тесты |
|---|---|
| Арифметические рассуждения | GSM8K, SVAMP, ASDIV, Aqua-Rat, Mawps, Addsub, Multiarith, Singleteq, Onlop |
| Общее рассуждение | Commonsenseqa, Strategyqa, Arc, Saycan, Boolqa, Hotpotqa, OpenBookqa, Piqa, WikiWhy |
| Символические рассуждения | Последняя буква конкатенация, переворачивание монеты, обратный список |
| Логические рассуждения | Proofwriter, EntailmentBank, RuleTaker, CluTrr, FLD |
| Мультимодальное рассуждение | Scienceqa |
| Другие | Big-Bench, Scan, Цепь мыслей, Mr-Ben, Worfbench |
/abs/ формат, если это публикация Arxiv).Не волнуйтесь, если вы сделаете что -то не так, они будут исправлены для вас. Просто внесите и продвигайте свою потрясающую работу здесь!
Если вы найдете этот опрос полезным для вашего исследования, пожалуйста, рассмотрите возможность ссылаться на
@inproceedings{qiao-etal-2023-reasoning,
title = "Reasoning with Language Model Prompting: A Survey",
author = "Qiao, Shuofei and
Ou, Yixin and
Zhang, Ningyu and
Chen, Xiang and
Yao, Yunzhi and
Deng, Shumin and
Tan, Chuanqi and
Huang, Fei and
Chen, Huajun",
booktitle = "Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)",
month = jul,
year = "2023",
address = "Toronto, Canada",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2023.acl-long.294",
pages = "5368--5393",
abstract = "Reasoning, as an essential ability for complex problem-solving, can provide back-end support for various real-world applications, such as medical diagnosis, negotiation, etc. This paper provides a comprehensive survey of cutting-edge research on reasoning with language model prompting. We introduce research works with comparisons and summaries and provide systematic resources to help beginners. We also discuss the potential reasons for emerging such reasoning abilities and highlight future research directions. Resources are available at https://github.com/zjunlp/Prompt4ReasoningPapers (updated periodically).",
}