awesome ai papers

很棒的AI论文

描述

该存储库是按出版日期组织的重要AI论文的最新列表。它涵盖了五个领域：计算机视觉，自然语言处理，音频处理，多模式学习和强化学习。如果您喜欢这项工作，请随时给该存储库一个明星。

维护者：瞄准剂

目录

1. 2023论文
   • 计算机视觉
   • 自然语言处理
   • 音频处理
   • 多模式学习
   • 强化学习
   • 其他论文
2. 2022论文
   • 计算机视觉
   • 自然语言处理
   • 音频处理
   • 多模式学习
   • 强化学习
   • 其他论文
3. 历史论文

分类学

为了选择最相关的论文，我们选择了引用数量的主观限制。这里的每个图标都指定符合这些标准之一的纸质类型。

？历史论文：超过10k引用和对AI进化的决定性影响。

重要论文：超过50多个引用和最新结果。

⏫趋势：1至50次引用，最近的和创新的论文，采用越来越多。

？重要文章：没有研究论文的决定性工作。

---

2023论文

计算机视觉

• 01/2023：缪斯：通过蒙版生成变压器（MUSE）的文本到图像生成
• 02/2023：结构和内容引导的视频合成，具有扩散模型（GEN-1）
• 02/2023：将视觉变压器扩展到220亿参数（VIT 22B）
• 02/2023：将条件控制添加到文本到图像扩散模型（ControlNET）
• 03/2023：Visual Chatgpt：使用视觉基础模型（Visual Chatgpt）说话，绘画和编辑
• 03/2023：扩大剂量的文本对图像合成（gigagan）
• 04/2023：段的任何东西（SAM）
• 04/2023：DINOV2：学习强大的视觉功能而无需监督（Dinov2）
• 04/2023：视觉说明调整
• 04/2023：使您的潜伏期对齐：高分辨率视频综合与潜在扩散模型（视频）
• 04/2023：扩散模型的合成数据改善了成像网分类
• 04/2023：分段医学图像中的任何内容（MEDSAM）
• 05/2023：拖动gan：在生成图像歧管上基于交互点的操作（Draggan）
• 06/2023：Neuralangelo：高保真神经表面重建（Neuralangelo）
• 07/2023：SDXL：改进高分辨率图像合成（SDXL）的潜在扩散模型
• 08/2023：3D高斯分裂，用于实时辐射场渲染
• 08/2023：QWEN-VL：一种用于理解的多功能视觉模型，本地化...（QWEN-VL）
• ⏫08/2023：MVDREAM：3D代的多视图扩散（mvdream）
• ⏫11/2023：佛罗伦萨-2：推进各种视觉任务的统一代表（佛罗伦萨-2）
• ⏫12/2023：videopoet：零拍摄视频的大型语言模型（videopoet）

NLP

• 01/2023：检测：使用概率曲率（检测）零击机生成的文本检测
• 02/2023：工具形式：语言模型可以教自己使用工具（工具形式）
• 02/2023：美洲驼：开放有效的基础语言模型（Llama）
• ？ 03/2023：GPT-4
• 03/2023：人工通用智能的火花：GPT-4的早期实验（GPT-4评估）
• 03/2023：HuggingGpt：与Chatgpt及其朋友在Huggingface（HuggingGpt）一起解决AI任务
• 03/2023：Bloomberggpt：财务大型语言模型（Bloomberggpt）
• 04/2023：使用GPT-4进行指导调整
• 04/2023：生成剂：人类的交互式模拟（Gen Agents）
• 05/2023：Palm 2技术报告（Palm-2）
• 05/2023：思想树：大型语言模型（TOT）故意解决问题
• 05/2023：利马：更少用于对齐（利马）
• 05/2023：QLORA：量化LLMS（Qlora）的有效明换
• 05/2023：Voyager：具有大语言模型（Voyager）的开放式体现代理
• 07/2023：TOOLLLM：促进大型语言模型，以掌握16000多个现实世界API（TOOLLLM）
• 08/2023：METAGPT：用于多代理协作框架的元编程（METAGPT）
• 08/2023：代码骆驼：代码的开放基础模型（代码骆驼）
• ⏫09/2023：RLAIF：通过AI反馈（RLAIF）从人类反馈中缩放增强加固学习
• 09/2023：大型语言模型作为优化器（OPRO）
• ⏫10/2023：尤里卡：通过编码大语言模型（Eureka）的人级奖励设计
• ⏫12/2023：通过大型语言模型（FUNSEARZ）从程序搜索中进行的数学发现

音频处理

• 01/2023：神经编解码器语言模型是语音合成器（VALL-E）的零弹性文本
• 01/2023：Musiclm：从文本（Musiclm）生成音乐
• 01/2023：AudiOldm：具有潜扩散模型（AudiOldM）的文本到ADIO生成
• 03/2023：Google USM：扩展自动语音识别超过100种语言（USM）
• 05/2023：将语音技术扩展到1,000多种语言（MMS）
• ⏫06/2023：简单可控的音乐发电（Musicgen）
• ⏫06/2023：Audiopalm：可以说和倾听的大型语言模型（AudioPalm）
• ⏫06/2023：语音箱：文本引导的多语言通用语音生成（语音框）

多模式学习

• 02/2023：语言不是您所需要的：与语言模型（KOSMOS-1）保持感知
• 03/2023：棕榈-E：一种具体的多模式模型（Palm-E）
• 04/2023：Audiogpt：理解和生成语音，音乐，声音和说话的头（Audiogpt）
• 05/2023：ImageBind：一个嵌入空间以将它们绑定在一起（ImageBind）
• ⏫07/2023：缩放自回旋多模式模型：预训练和指导调整（CM3Leon）
• ⏫07/2023：元转换器：多模式学习的统一框架（meta-transformer）
• ⏫08/2023：SeamlessM4T：大规模多语言和多模式转换（SeamlessM4T）

强化学习

• 01/2023：通过世界模型掌握各种领域（Dreamerv3）
• ⏫02/2023：与在线RL（GLAM）的交互式环境中接地大语言模型
• ⏫02/2023：通过离线数据（RLPD）有效的在线增强学习
• ⏫03/2023：语言模型的奖励设计
• 05/2023：直接偏好优化：您的语言模型是秘密的奖励模型（DPO）
• ⏫06/2023：使用深钢筋学习发现的更快的排序算法（Alphadev）
• ⏫08/2023：翻新器：具有策略梯度优化（Rateroformer）的回顾性大语言代理

其他论文

• 02/2023：优化算法的符号发现（狮子）
• 07/2023：RT-2：视觉语言 - 行动模型将Web知识传输到机器人控制（RT-2）
• ⏫11/2023：缩放材料发现深度学习（GNOME）
• ⏫12/2023：发现具有可解释深度学习的结构性抗生素类

2022论文

计算机视觉

• 01/2022：2020年代的convnet（Convnext）
• 01/2022：您需要的补丁（Convmixer）
• 02/2022：Block-nerf：可扩展的大场景神经视图综合（块-NERF）
• 03/2022：DINO：带有改进的DeNoing锚固盒的DETR用于端到端对象检测（Dino）
• 03/2022：将内核扩展到31×31：在CNN中重新访问大型内核设计（大内核CNN）
• 03/2022：Tensorf：张力辐射场（Tensorf）
• 04/2022：MAXVIT：多轴视觉变压器（MAXVIT）
• 04/2022：层次文本条件图像生成剪辑潜伏（dall-e 2）
• 05/2022：具有深度语言理解（Imagen）的情相逼真的文本对图像扩散模型
• 05/2022：git：视觉和语言的生成图像到文本变压器（git）
• 06/2022：CMT：卷积神经网络符合视觉变压器（CMT）
• 07/2022：SWIN UNETR：用于脑肿瘤语义分割的Swin Transformers ...（Swin unet）
• 07/2022：无分类器扩散指南
• 08/2022：主题驱动一代的微调文本对图像扩散模型（Dreambooth）
• 09/2022：DreamFusion：使用2D扩散（DreamFusion）的文本到3D
• 09/2022：make-a-video：没有文本视频数据的文本到video生成（make-a-video）
• 10/2022：有关引导扩散模型的蒸馏
• 10/2022：LAION-5B：用于培训下一代图像文本模型（LAION-5B）的开放大型数据集（LAION-5B）
• 10/2022：图像：基于文本的真实图像编辑，具有扩散模型（图像）
• 11/2022：视觉提示调整
• 11/2022：魔术3D：高分辨率文本到3D内容创建（魔术3D）
• 11/2022：dibFusionDet：对象检测的扩散模型（diffusionDet）
• 11/2022：Cunsterpix2Pix：学习遵循图像编辑指令（ConsendPix2Pix）
• 12/2022：文本对图像扩散的多概念自定义（自定义扩散）
• 12/2022：具有变压器（DIT）的可扩展扩散模型

NLP

• 01/2022：lambda：对话框应用程序的语言模型（lambda）
• 01/2022：经过思考的链条提示在大语言模型（COT）中引起推理
• 02/2022：使用字母（字母）的竞争级代码生成
• 02/2022：填充语言模型是零拍的学习者（Flan）
• 03/2022：培训语言模型遵循人类反馈（指示）的人类指示
• 03/2022：多任务提示培训启用零击任务概括（T0）
• 03/2022：培训计算 - 最佳大语模型（Chinchilla）
• 04/2022：尽我所能，不是我说的：机器人负担中的基础语言（saycan）
• 04/2022：GPT-NEOX-20B：开源自回归语言模型（GPT-NEOX）
• 04/2022：棕榈：使用途径的缩放语言建模（棕榈）
• 06/2022：超越模仿游戏：量化和推断Lang的功能...（Big-Bench）
• 06/2022：解决语言模型的定量推理问题（密涅瓦）
• 10/2022：REACT：在语言模型中协同推理和作用（REACT）
• 11/2022：Bloom：176B参数开放式访问多语言模型（Bloom）
• ？ 11/2022：对话的优化语言模型（chatgpt）
• 12/2022：大型语言模型编码临床知识（MED-PALM）

音频处理

• 02/2022：MSLAM：言语和文本（MSLAM）的大量多语言联合预培训
• 02/2022：添加2022：第一个音频深度合成检测挑战（添加）
• 03/2022：用贴画（PASST）对音频变压器进行有效培训
• 04/2022：大师：通过模态匹配（Maestro）匹配的语音文本表示形式
• 05/2022：SECTERTT5：统一模式编码器折 - 训练语言的预培训...（SpeechT5）
• 06/2022：WAVLM：大规模自我监督的预训练，用于完整堆栈语音处理（WAVLM）
• 07/2022：BIGSSL：探索ASR（BIGSSL）的大规模半监督学习的前沿
• 08/2022：Mulan：音乐音频和自然语言的联合嵌入（Mulan）
• 09/2022：Audiolm：音频生成的语言建模方法（AUDIOLM）
• 09/2022：Audiogen：文本引导的音频产生（Audiogen）
• 10/2022：高保真神经音频压缩（Eccodec）
• 12/2022：通过大规模弱监督（Whisper）通过大规模的语音识别

多模式学习

• 01/2022：BLIP：统一视觉语言的boostapping语言图像预训练...（blip）
• 02/2022：data2Vec：语音，视觉和...的自我监督学习的一般框架（data2vec）
• 03/2022：VL-ADAPTER：视觉和语言任务的参数效率转移学习（VL-ADAPTER）
• 04/2022：Winoground：Visio-Linguistic的探测视觉和语言模型...（Winoground）
• 04/2022：Flamingo：用于几次学习的视觉语言模型（Flamingo）
• 05/2022：通才特工（Gato）
• 05/2022：可口可乐：对比标题是图像文本基础模型（COCA）
• 05/2022：VLMO：统一的视觉语言与模式 - 外观混合物（VLMO）预训练（VLMO）
• 08/2022：作为外语的图像：为所有视觉和视觉语言任务预读（BEIT）
• 09/2022：帕利：一个共同尺度的多语言图像模型（PALI）

强化学习

• 01/2022：在野外学习四足机器人的强大感知运动
• 02/2022：BC-Z：机器人模仿学习的零击任务概括
• 02/2022：冠军冠军Gran Turismo驾驶员，具有深厚的加固学习（Sophy）
• 02/2022：通过深钢筋学习对Tokamak等离子体的磁控制
• 08/2022：学习使用大量平行的深钢筋学习（Anymal）学习在几分钟内走路
• 10/2022：通过增强学习（alphatensor）发现更快的矩阵乘法算法

其他论文

• 02/2022：Fourcastnet：全球数据驱动的高分辨率天气模型...（四castnet）
• 05/2022：colabfold：使所有人都可以使用蛋白质折叠（colabfold）
• 06/2022：测量和改善GNN中图信息的使用
• 10/2022：时间网络：通用时间序列分析（时间网）的时间2D变量建模
• 12/2022：RT-1：用于实际控制的机器人变压器（RT-1）

历史论文

• ？ 1958年：Perceptron：大脑中信息存储和组织的概率模型（Perceptron）
• ？ 1986年：通过反向传播错误（反向传播）的学习表示形式
• ？ 1986年：决策树的归纳（购物车）
• ？ 1989年：关于隐藏的马尔可夫模型的教程和语音识别中选定的应用程序（HMM）
• ？ 1989年：多层馈电网络是通用近似器
• ？ 1992年：最佳保证金分类器（SVM）的培训算法
• ？ 1996年：装袋预测指标
• ？ 1998年：基于梯度的学习应用于文档识别（CNN/GTN）
• ？ 2001：随机森林
• ？ 2001年：快速而精英的多目标遗传算法（NSGA-II）
• ？ 2003年：潜在的Dirichlet分配（LDA）
• ？ 2006年：使用神经网络（自动编码器）降低数据的维度
• ？ 2008：使用T-SNE（T-SNE）可视化数据
• ？ 2009：Imagenet：大规模分层图像数据库（Imagenet）
• ？ 2012年：具有深卷积神经网络（Alexnet）的Imagenet分类
• ？ 2013：对向量空间中单词表示形式的有效估算（Word2Vec）
• ？ 2013年：自动编码变分贝叶斯（VAE）
• ？ 2014年：生成对抗网络（GAN）
• ？ 2014：辍学：防止神经网络过度拟合（辍学）的简单方法
• ？ 2014：神经网络序列学习的顺序
• ？ 2014：通过共同学习对齐和翻译的神经机器翻译（RNNSearch-50）
• ？ 2014：亚当：一种随机优化的方法（亚当）
• ？ 2015年：批发归一化：通过减少内部COV加速深度网络培训...（batchnorm）
• ？ 2015年：卷积（成立）更深入
• ？ 2015年：通过深度加强学习（深Q网络）的人类水平控制
• ？ 2015年：更快的R-CNN：使用区域提案网络实时对象检测（更快的R-CNN）
• ？ 2015：U-NET：生物医学图像分割的卷积网络（U-NET）
• ？ 2015年：图像识别的深度残留学习（重新网络）
• ？ 2016年：您只看一次：统一的实时对象检测（YOLO）
• ？ 2017：您需要的全部（变压器）
• ？ 2018：伯特：深层双向变压器的培训以进行语言理解（BERT）
• ？ 2020年：语言模型是很少的学习者（GPT-3）
• ？ 2020年：降级扩散概率模型（DDPM）
• ？ 2020年：图像值得16x16单词：用于大规模图像识别的变压器（VIT）
• ？ 2021年：高准确的蛋白质结构预测（Alphafold）（alphafold）
• ？ 2022：chatgpt：优化对话的语言模型（chatgpt）