awesome ai papers

很棒的AI論文

描述

該存儲庫是按出版日期組織的重要AI論文的最新列表。它涵蓋了五個領域：計算機視覺，自然語言處理，音頻處理，多模式學習和強化學習。如果您喜歡這項工作，請隨時給該存儲庫一個明星。

維護者：瞄準劑

目錄

1. 2023論文
   • 計算機視覺
   • 自然語言處理
   • 音頻處理
   • 多模式學習
   • 強化學習
   • 其他論文
2. 2022論文
   • 計算機視覺
   • 自然語言處理
   • 音頻處理
   • 多模式學習
   • 強化學習
   • 其他論文
3. 歷史論文

分類學

為了選擇最相關的論文，我們選擇了引用數量的主觀限制。這裡的每個圖標都指定符合這些標準之一的紙質類型。

？歷史論文：超過10k引用和對AI進化的決定性影響。

重要論文：超過50多個引用和最新結果。

⏫趨勢：1至50次引用，最近的和創新的論文，採用越來越多。

？重要文章：沒有研究論文的決定性工作。

---

2023論文

計算機視覺

• 01/2023：繆斯：通過蒙版生成變壓器（MUSE）的文本到圖像生成
• 02/2023：結構和內容引導的視頻合成，具有擴散模型（GEN-1）
• 02/2023：將視覺變壓器擴展到220億參數（VIT 22B）
• 02/2023：將條件控制添加到文本到圖像擴散模型（ControlNET）
• 03/2023：Visual Chatgpt：使用視覺基礎模型（Visual Chatgpt）說話，繪畫和編輯
• 03/2023：擴大劑量的文本對圖像合成（gigagan）
• 04/2023：段的任何東西（SAM）
• 04/2023：DINOV2：學習強大的視覺功能而無需監督（Dinov2）
• 04/2023：視覺說明調整
• 04/2023：使您的潛伏期對齊：高分辨率視頻綜合與潛在擴散模型（視頻）
• 04/2023：擴散模型的合成數據改善了成像網分類
• 04/2023：分段醫學圖像中的任何內容（MEDSAM）
• 05/2023：拖動gan：在生成圖像歧管上基於交互點的操作（Draggan）
• 06/2023：Neuralangelo：高保真神經表面重建（Neuralangelo）
• 07/2023：SDXL：改進高分辨率圖像合成（SDXL）的潛在擴散模型
• 08/2023：3D高斯分裂，用於實時輻射場渲染
• 08/2023：QWEN-VL：一種用於理解的多功能視覺模型，本地化...（QWEN-VL）
• ⏫08/2023：MVDREAM：3D代的多視圖擴散（mvdream）
• ⏫11/2023：佛羅倫薩-2：推進各種視覺任務的統一代表（佛羅倫薩-2）
• ⏫12/2023：videopoet：零拍攝視頻的大型語言模型（videopoet）

NLP

• 01/2023：檢測：使用概率曲率（檢測）零擊機生成的文本檢測
• 02/2023：工具形式：語言模型可以教自己使用工具（工具形式）
• 02/2023：美洲駝：開放有效的基礎語言模型（Llama）
• ？ 03/2023：GPT-4
• 03/2023：人工通用智能的火花：GPT-4的早期實驗（GPT-4評估）
• 03/2023：HuggingGpt：與Chatgpt及其朋友在Huggingface（HuggingGpt）一起解決AI任務
• 03/2023：Bloomberggpt：財務大型語言模型（Bloomberggpt）
• 04/2023：使用GPT-4進行指導調整
• 04/2023：生成劑：人類的交互式模擬（Gen Agents）
• 05/2023：Palm 2技術報告（Palm-2）
• 05/2023：思想樹：大型語言模型（TOT）故意解決問題
• 05/2023：利馬：更少用於對齊（利馬）
• 05/2023：QLORA：量化LLMS（Qlora）的有效明換
• 05/2023：Voyager：具有大語言模型（Voyager）的開放式體現代理
• 07/2023：TOOLLLM：促進大型語言模型，以掌握16000多個現實世界API（TOOLLLM）
• 08/2023：METAGPT：用於多代理協作框架的元編程（METAGPT）
• 08/2023：代碼駱駝：代碼的開放基礎模型（代碼駱駝）
• ⏫09/2023：RLAIF：通過AI反饋（RLAIF）從人類反饋中縮放增強加固學習
• 09/2023：大型語言模型作為優化器（OPRO）
• ⏫10/2023：尤里卡：通過編碼大語言模型（Eureka）的人級獎勵設計
• ⏫12/2023：通過大型語言模型（FUNSEARZ）從程序搜索中進行的數學發現

音頻處理

• 01/2023：神經編解碼器語言模型是語音合成器（VALL-E）的零彈性文本
• 01/2023：Musiclm：從文本（Musiclm）生成音樂
• 01/2023：AudiOldm：具有潛擴散模型（AudiOldM）的文本到ADIO生成
• 03/2023：Google USM：擴展自動語音識別超過100種語言（USM）
• 05/2023：將語音技術擴展到1,000多種語言（MMS）
• ⏫06/2023：簡單可控的音樂發電（Musicgen）
• ⏫06/2023：Audiopalm：可以說和傾聽的大型語言模型（AudioPalm）
• ⏫06/2023：語音箱：文本引導的多語言通用語音生成（語音框）

多模式學習

• 02/2023：語言不是您所需要的：與語言模型（KOSMOS-1）保持感知
• 03/2023：棕櫚-E：一種具體的多模式模型（Palm-E）
• 04/2023：Audiogpt：理解和生成語音，音樂，聲音和說話的頭（Audiogpt）
• 05/2023：ImageBind：一個嵌入空間以將它們綁定在一起（ImageBind）
• ⏫07/2023：縮放自迴旋多模式模型：預訓練和指導調整（CM3Leon）
• ⏫07/2023：元轉換器：多模式學習的統一框架（meta-transformer）
• ⏫08/2023：SeamlessM4T：大規模多語言和多模式轉換（SeamlessM4T）

強化學習

• 01/2023：通過世界模型掌握各種領域（Dreamerv3）
• ⏫02/2023：與在線RL（GLAM）的交互式環境中接地大語言模型
• ⏫02/2023：通過離線數據（RLPD）有效的在線增強學習
• ⏫03/2023：語言模型的獎勵設計
• 05/2023：直接偏好優化：您的語言模型是秘密的獎勵模型（DPO）
• ⏫06/2023：使用深鋼筋學習發現的更快的排序算法（Alphadev）
• ⏫08/2023：翻新器：具有策略梯度優化（Rateroformer）的回顧性大語言代理

其他論文

• 02/2023：優化算法的符號發現（獅子）
• 07/2023：RT-2：視覺語言 - 行動模型將Web知識傳輸到機器人控制（RT-2）
• ⏫11/2023：縮放材料發現深度學習（GNOME）
• ⏫12/2023：發現具有可解釋深度學習的結構性抗生素類

2022論文

計算機視覺

• 01/2022：2020年代的convnet（Convnext）
• 01/2022：您需要的補丁（Convmixer）
• 02/2022：Block-nerf：可擴展的大場景神經視圖綜合（塊-NERF）
• 03/2022：DINO：帶有改進的DeNoing錨固盒的DETR用於端到端對象檢測（Dino）
• 03/2022：將內核擴展到31×31：在CNN中重新訪問大型內核設計（大內核CNN）
• 03/2022：Tensorf：張力輻射場（Tensorf）
• 04/2022：MAXVIT：多軸視覺變壓器（MAXVIT）
• 04/2022：層次文本條件圖像生成剪輯潛伏（dall-e 2）
• 05/2022：具有深度語言理解（Imagen）的情相逼真的文本對圖像擴散模型
• 05/2022：git：視覺和語言的生成圖像到文本變壓器（git）
• 06/2022：CMT：卷積神經網絡符合視覺變壓器（CMT）
• 07/2022：SWIN UNETR：用於腦腫瘤語義分割的Swin Transformers ...（Swin unet）
• 07/2022：無分類器擴散指南
• 08/2022：主題驅動一代的微調文本對圖像擴散模型（Dreambooth）
• 09/2022：DreamFusion：使用2D擴散（DreamFusion）的文本到3D
• 09/2022：make-a-video：沒有文本視頻數據的文本到video生成（make-a-video）
• 10/2022：有關引導擴散模型的蒸餾
• 10/2022：LAION-5B：用於培訓下一代圖像文本模型（LAION-5B）的開放大型數據集（LAION-5B）
• 10/2022：圖像：基於文本的真實圖像編輯，具有擴散模型（圖像）
• 11/2022：視覺提示調整
• 11/2022：魔術3D：高分辨率文本到3D內容創建（魔術3D）
• 11/2022：dibFusionDet：對象檢測的擴散模型（diffusionDet）
• 11/2022：Cunsterpix2Pix：學習遵循圖像編輯指令（ConsendPix2Pix）
• 12/2022：文本對圖像擴散的多概念自定義（自定義擴散）
• 12/2022：具有變壓器（DIT）的可擴展擴散模型

NLP

• 01/2022：lambda：對話框應用程序的語言模型（lambda）
• 01/2022：經過思考的鏈條提示在大語言模型（COT）中引起推理
• 02/2022：使用字母（字母）的競爭級代碼生成
• 02/2022：填充語言模型是零拍的學習者（Flan）
• 03/2022：培訓語言模型遵循人類反饋（指示）的人類指示
• 03/2022：多任務提示培訓啟用零擊任務概括（T0）
• 03/2022：培訓計算 - 最佳大語模型（Chinchilla）
• 04/2022：盡我所能，不是我說的：機器人負擔中的基礎語言（saycan）
• 04/2022：GPT-NEOX-20B：開源自回歸語言模型（GPT-NEOX）
• 04/2022：棕櫚：使用途徑的縮放語言建模（棕櫚）
• 06/2022：超越模仿遊戲：量化和推斷Lang的功能...（Big-Bench）
• 06/2022：解決語言模型的定量推理問題（密涅瓦）
• 10/2022：REACT：在語言模型中協同推理和作用（REACT）
• 11/2022：Bloom：176B參數開放式訪問多語言模型（Bloom）
• ？ 11/2022：對話的優化語言模型（chatgpt）
• 12/2022：大型語言模型編碼臨床知識（MED-PALM）

音頻處理

• 02/2022：MSLAM：言語和文本（MSLAM）的大量多語言聯合預培訓
• 02/2022：添加2022：第一個音頻深度合成檢測挑戰（添加）
• 03/2022：用貼畫（PASST）對音頻變壓器進行有效培訓
• 04/2022：大師：通過模態匹配（Maestro）匹配的語音文本表示形式
• 05/2022：SECTERTT5：統一模式編碼器折 - 訓練語言的預培訓...（SpeechT5）
• 06/2022：WAVLM：大規模自我監督的預訓練，用於完整堆棧語音處理（WAVLM）
• 07/2022：BIGSSL：探索ASR（BIGSSL）的大規模半監督學習的前沿
• 08/2022：Mulan：音樂音頻和自然語言的聯合嵌入（Mulan）
• 09/2022：Audiolm：音頻生成的語言建模方法（AUDIOLM）
• 09/2022：Audiogen：文本引導的音頻產生（Audiogen）
• 10/2022：高保真神經音頻壓縮（Eccodec）
• 12/2022：通過大規模弱監督（Whisper）通過大規模的語音識別

多模式學習

• 01/2022：BLIP：統一視覺語言的boostapping語言圖像預訓練...（blip）
• 02/2022：data2Vec：語音，視覺和...的自我監督學習的一般框架（data2vec）
• 03/2022：VL-ADAPTER：視覺和語言任務的參數效率轉移學習（VL-ADAPTER）
• 04/2022：Winoground：Visio-Linguistic的探測視覺和語言模型...（Winoground）
• 04/2022：Flamingo：用於幾次學習的視覺語言模型（Flamingo）
• 05/2022：通才特工（Gato）
• 05/2022：可口可樂：對比標題是圖像文本基礎模型（COCA）
• 05/2022：VLMO：統一的視覺語言與模式 - 外觀混合物（VLMO）預訓練（VLMO）
• 08/2022：作為外語的圖像：為所有視覺和視覺語言任務預讀（BEIT）
• 09/2022：帕利：一個共同尺度的多語言圖像模型（PALI）

強化學習

• 01/2022：在野外學習四足機器人的強大感知運動
• 02/2022：BC-Z：機器人模仿學習的零擊任務概括
• 02/2022：冠軍冠軍Gran Turismo駕駛員，具有深厚的加固學習（Sophy）
• 02/2022：通過深鋼筋學習對Tokamak等離子體的磁控制
• 08/2022：學習使用大量平行的深鋼筋學習（Anymal）學習在幾分鐘內走路
• 10/2022：通過增強學習（alphatensor）發現更快的矩陣乘法算法

其他論文

• 02/2022：Fourcastnet：全球數據驅動的高分辨率天氣模型...（四castnet）
• 05/2022：colabfold：使所有人都可以使用蛋白質折疊（colabfold）
• 06/2022：測量和改善GNN中圖信息的使用
• 10/2022：時間網絡：通用時間序列分析（時間網）的時間2D變量建模
• 12/2022：RT-1：用於實際控制的機器人變壓器（RT-1）

歷史論文

• ？ 1958年：Perceptron：大腦中信息存儲和組織的概率模型（Perceptron）
• ？ 1986年：通過反向傳播錯誤（反向傳播）的學習表示形式
• ？ 1986年：決策樹的歸納（購物車）
• ？ 1989年：關於隱藏的馬爾可夫模型的教程和語音識別中選定的應用程序（HMM）
• ？ 1989年：多層饋電網絡是通用近似器
• ？ 1992年：最佳保證金分類器（SVM）的培訓算法
• ？ 1996年：裝袋預測指標
• ？ 1998年：基於梯度的學習應用於文檔識別（CNN/GTN）
• ？ 2001：隨機森林
• ？ 2001年：快速而精英的多目標遺傳算法（NSGA-II）
• ？ 2003年：潛在的Dirichlet分配（LDA）
• ？ 2006年：使用神經網絡（自動編碼器）降低數據的維度
• ？ 2008：使用T-SNE（T-SNE）可視化數據
• ？ 2009：Imagenet：大規模分層圖像數據庫（Imagenet）
• ？ 2012年：具有深卷積神經網絡（Alexnet）的Imagenet分類
• ？ 2013：對向量空間中單詞表示形式的有效估算（Word2Vec）
• ？ 2013年：自動編碼變分貝葉斯（VAE）
• ？ 2014年：生成對抗網絡（GAN）
• ？ 2014：輟學：防止神經網絡過度擬合（輟學）的簡單方法
• ？ 2014：神經網絡序列學習的順序
• ？ 2014：通過共同學習對齊和翻譯的神經機器翻譯（RNNSearch-50）
• ？ 2014：亞當：一種隨機優化的方法（亞當）
• ？ 2015年：批發歸一化：通過減少內部COV加速深度網絡培訓...（batchnorm）
• ？ 2015年：卷積（成立）更深入
• ？ 2015年：通過深度加強學習（深Q網絡）的人類水平控制
• ？ 2015年：更快的R-CNN：使用區域提案網絡實時對象檢測（更快的R-CNN）
• ？ 2015：U-NET：生物醫學圖像分割的捲積網絡（U-NET）
• ？ 2015年：圖像識別的深度殘留學習（重新網絡）
• ？ 2016年：您只看一次：統一的實時對象檢測（YOLO）
• ？ 2017：您需要的全部（變壓器）
• ？ 2018：伯特：深層雙向變壓器的培訓以進行語言理解（BERT）
• ？ 2020年：語言模型是很少的學習者（GPT-3）
• ？ 2020年：降級擴散概率模型（DDPM）
• ？ 2020年：圖像值得16x16單詞：用於大規模圖像識別的變壓器（VIT）
• ？ 2021年：高準確的蛋白質結構預測（Alphafold）（alphafold）
• ？ 2022：chatgpt：優化對話的語言模型（chatgpt）