brocode

一個與​​您一起編碼的兄弟

---

概述

為什麼總是總是python？讓我們Finetune僅適用於打字稿的代碼生成模型！

數據集

我創建了一個Typescript-Instruct 20K數據集。這是20,000對{指令，輸出}，在當前代碼生成LLMS數據集中找不到（或者您可以）

對於輸出，謝謝HuggingFace，我從堆棧項目中獲取打字稿代碼數據
有關指示，謝謝Openai，我提出了20K API呼叫請求，以生成這些代碼數據的指令和說明

訓練

• 基本型號：這是代碼駱駝 - 指示13B
• 參數有效的微調方法：洛拉
• 使用兩個A100 GPU使用指令調整

有關培訓的所有其他事情（參數，日誌，...）您可以在此處看到它（鏈接稍後鏈接HuggingFace培訓指標鏈接）

結果

我使用乘法基準（Cassano等，2023），就像基本型號代碼llama在他們的論文中使用

（稍後將評估結果錶鍊接）

榮譽

• 我的家人一直告訴我我在網絡開發人員時不要辭職
• 我的論文顧問協會。 Quan Thanh教授啟發了我這個話題
• Modal.com使培訓步驟更加容易

來源

您可以在這裡找到我的作品：

• 推理網站：https：//brocode.site（當前是倒數的，而不是正確的版本，但是如果我以某種方式設置了服務器，它將在那裡）
• 數據集：Typescript-Instruct 20k（如果您也想使用此功能，請ping我）
• 微調模型：打字稿 - 教學模型（以後將鏈接，最終將在我的擁抱面上）

或在此處與我聯繫：https：//levuminhhuy.site/about

未來

• 生鏽怎麼樣？ ！