repairllama

Repairllama: representaciones eficientes y adaptadores ajustados para la reparación del programa

Si usa reparación en investigación académica, cite "Repairllama: representaciones eficientes y adaptadores ajustados para la reparación del programa", Informe técnico, ARXIV 2312.15698, 2023.

 @techreport { repairllama2023 ,
  title = { RepairLLaMA: Efficient Representations and Fine-Tuned Adapters for Program Repair } ,
  author = { Silva, Andr{'e} and Fang, Sen and Monperrus, Martin } ,
  url = { http://arxiv.org/abs/2312.15698 } ,
  number = { 2312.15698 } ,
  institution = { arXiv } ,
}

Este repositorio contiene el código, el modelo y los resultados para replicar el documento "Repairllama: representaciones eficientes y adaptadores ajustados para la reparación del programa"

Está estructurado de la siguiente manera:

• Repairllama-Lora contiene la adaptación de bajo rango de reparación de Codellama-7b, llamada "adaptador de reparación"
• Los resultados contienen todos los parches generados para defectos4J y Humaneval-Java por todos los modelos (incluidos los ajustes completos, Lora y las representaciones de código)
• SRC contiene los scripts de capacitación e inferencia y los scripts para generar conjuntos de datos para diferentes representaciones de entrada-salida (IRXOR)
• El ejemplo contiene un cuaderno de ejemplo que explica cómo cargar y solicitar el modelo Repairllama
• Los puntos de referencia contienen los conjuntos de datos para diferentes representaciones de entrada-salida (IRXOR)

Modelos

Todos los modelos ajustados están disponibles en Huggingface, aquí hay enlaces específicos:

• Ir1xor1: https://huggingface.co/assert-kth/repairllama-ir1-or1
• Ir1xor3: https://huggingface.co/assert-kth/repairllama-ir1-or3
• Ir1xor3: https://huggingface.co/assert-kth/repairllama-ir1-or4
• Ir2xor2: https://huggingface.co/assert-kth/repairllama-ir2-or2
• Ir3xor2: https://huggingface.co/assert-kth/repairllama-ir3-or2

Conjuntos de datos

Los conjuntos de datos procesados ​​de tuning están disponibles en Huggingface en https://huggingface.co/datasets/assert-kth/repairllama-datasets. Contiene los conjuntos de datos utilizados para capacitar a los modelos Repairllama, un subconjunto por par de representación de entrada/salida. Para obtener los conjuntos de datos de 30k..50k, hicimos más filtrado en función de la longitud del token de los pares de entrada + salida de menos de 1024 tokens.

Si le interesa, también puede encontrarlos en nuestro Huggingface Org:

• Megadiff (conjunto de datos original, en formato HF): https://huggingface.co/datasets/assert-kth/megadiff
• Megadiff Funciones únicas (diferencia de una sola función, con funciones con errores y fijas extraídas): https://huggingface.co/datasets/assert-kth/megadiff-single-funcion

Puntos de referencia

Los puntos de referencia de evaluación son defectos4J V2, Humaneval-Java y Gitbug-Java.

Nos centramos en errores de función única (es decir, errores cuyo parche de desarrollador cambia exclusivamente una función):

• Defects4j contiene 488 errores de una sola función: defectos4j_sf.txt
• Humaneval-Java contiene 162 errores de función única: Humanevaljava_sf.txt
• Gitbug-java contiene 90 errores de funciones individuales: gitbugjava_sf.txt

Tenga en cuenta que el Humaneval-Java original contiene un error duplicado.