Title Generator with LLM PEFT

LLM＆PEFT（LORA）的標題生成器

[更新]：與Qlora的微調Llama2很快將添加！

該項目旨在從給定的學術文章摘要中產生標題。使用ARXIV數據集對模型進行微調。用洛拉調整了兩個不同的模型（Hu等，2021）。 ARXIV數據集中只選擇了計算機科學類別中的文章。由於內存和時間限制，此數字也已減少。可以通過擁抱面空間獲得微調型號：

• 擁抱面積巴特
• 擁抱面太空T5

該項目包括：

• 低級適應法（LORA）
• 參數有效的微調（PEFT）
• 擁抱面模型培訓（T5-Base，Bart-Base）
• 評估Rouge Score評分
• 一擊，零拍的評估和提示提示的添加
• 模型合併並上傳到擁抱面
• 跟踪日誌，內存使用情況，經過的時間進行預處理，培訓，評估過程，訓練/測試損失的可視化
• EDA和腳本僅使用計算機科學（CS）文章過濾ARXIV數據集。
• 過濾和轉換.json數據集為.csv格式

外部庫和軟件包：

• 火炬
• 擁抱面
• 變壓器
• bitsandbytes
• peft
• 加速
• 評估（胭脂分數）
• 洛拉布
• trl
• 熊貓，numpy，matplotlib，tqdm，時間

培訓參數和限制

• 從數據集中過濾6000個培訓樣本，1000個驗證樣本，250個測試樣品被過濾。
• （相關論文的數量為299131。但是，該項目的目的之一是檢查使用PEFT/LORA的小LLM的效率。因此，考慮的培訓數據樣本較少，培訓時期較少。）
• 模型經過6個時期的訓練。
• lora注意R=8 ， alpha=64 ， dropout=0.01 ， learning rate=2e-4 ， paged_adamW_32bit optimizer

結果

微調的巴特

• 記憶緩存：11.2 GB
• 培訓時間：11423.89 S

微調T5

• 記憶緩存：13.7 GB
• 培訓時間：9793.74 S

微調的巴特輸出

	原始標題	生成的標題
1	與量子系統密切相關的量子電路	密切相關的多體哈密頓量的量子模擬
2	Teko：具有外部知識的文本豐富的圖形神經網絡	文本豐富的圖形神經網絡具有外部知識
3	貨物：基因組信息的有效無格式壓縮存儲	貨物：基因組學的壓縮歸檔
4	火車地面MMWave通信的節能功率控制	高速火車的火車地面MMWave通信的能源效率
5	關於機器學習研究偏見的調查	了解機器學習中偏見的來源和後果
6	SA-UNET：視網膜血管分割的空間注意U-NET	空間注意力U-NET：與眼睛有關疾病的空間關注
7	快速K分段的一種新的啟發式算法	一種新穎的啟發式算法，用於K段
8	IOT在醫療保健中的進步和挑戰：簡短的評論	智能醫療保健和醫療保健：智能醫療保健和安全的比較分析
9	FVC：在特徵空間中進行深視頻壓縮的新框架	功能空間視頻壓縮，用於基於學習的視頻編碼

屏幕截圖

• 巴特訓練/測試損失（6個時代）

• T5訓練/測試損失（6個時代）