repairllama

Repairllama：プログラム修理のための効率的な表現と微調整されたアダプター

学術研究で修理用ラマを使用する場合は、「修理：プログラム修理のための効率的な表現と微調整されたアダプター」を引用してください。テクニカルレポート、ARXIV 2312.15698、2023。

 @techreport { repairllama2023 ,
  title = { RepairLLaMA: Efficient Representations and Fine-Tuned Adapters for Program Repair } ,
  author = { Silva, Andr{'e} and Fang, Sen and Monperrus, Martin } ,
  url = { http://arxiv.org/abs/2312.15698 } ,
  number = { 2312.15698 } ,
  institution = { arXiv } ,
}

このリポジトリには、コード、モデル、および結果が含まれています。

次のように構成されています。

• Repairllama-Loraには、「修理アダプター」と呼ばれるCodellama-7Bの修理Lowランク適応が含まれています
• 結果には、すべてのモデルによる欠陥4JおよびHumanval-Javaのすべての生成されたパッチが含まれています（完全な微調整、LORA、およびコード表現を含む）
• SRCには、さまざまな入出力表現のデータセットを生成するためのトレーニングと推論のスクリプト、およびスクリプトが含まれています（IRXOR）
• 例には、修理モデルの読み込みと促される方法を説明するノートブックの例が含まれています
• ベンチマークには、さまざまな入出力表現のデータセットが含まれています（IRXOR）

モデル

すべての微調整されたモデルは、Huggingfaceで利用できます。ここに特定のリンクがあります。

• IR1XOR1：https：//huggingface.co/assert-kth/repairllama-ir1-or1
• IR1XOR3：https：//huggingface.co/assert-kth/repairllama-ir1-or3
• IR1XOR3：https：//huggingface.co/assert-kth/repairllama-ir1-or4
• IR2XOR2：https：//huggingface.co/assert-kth/repairllama-ir2-or2
• IR3XOR2：https：//huggingface.co/assert-kth/repairllama-ir3-or2

データセット

処理された微調整データセットは、https://huggingface.co/datasets/assert-kth/repairllama-datasetsのHuggingfaceで利用可能になります。これには、Repairllamaモデルのトレーニングに使用されるデータセットが含まれています。 30k..50kのデータセットを取得するには、入力 +出力ペアのトークン長に基づいて1024トークン未満のトークンに基づいてさらにフィルタリングを行いました。

それがあなたに興味を持っているなら、あなたは私たちの抱きしめられたフェイスの組織でこれらを見つけることができます：

• Megadiff（元のデータセット、HF形式）：https：//huggingface.co/datasets/assert-kth/megadiff
• Megadiffの単一機能（単一機能違いのみ、バギーと固定関数が抽出されている）：https：//huggingface.co/datasets/assert-kth/megadiff-single-function

ベンチマーク

評価ベンチマークは、欠陥4J V2、Humanval-Java、およびGitBug-Javaです。

単一機能バグに焦点を当てています（つまり、開発者パッチが1つの関数のみを変更するバグ）：

• defects4jには488個の単一機能バグが含まれています：defects4j_sf.txt
• HumanEval-Javaには162の単一機能バグが含まれています：HumanEvaljava_sf.txt
• gitbug-javaには、90の単一関数バグが含まれています：gitbugjava_sf.txt

元のHumanval-Javaには重複したバグが含まれていることに注意してください。