advances in ai 2024

AI의 국제 여름 학교

대형 언어 모델과 지시 조정 방법 (지속 가능한 방식으로)

저자 : Danilo Croce

많은 감사 : Claudiu Daniel Hromei (대부분의) 코드 개발 지원에 대한 Claudiu Daniel Hromei

이 저장소는 AIXIA가 주최 한 AI 2024의 여름 학교 및 Vances에서 개최 된 강의에서 자료를 호스팅합니다.

이 강의의 목표는 다음과 같습니다.

• 인코딩 디코딩, 인코더 전용 및 디코더 전용 구조를 포함한 변압기 기반 아키텍처를 소개합니다 .
• 다중 태스킹 프레임 워크에서 다양한 데이터 세트에서 대형 언어 모델 (LLM)의 미세 조정을 보여줍니다 .
• "Modest"하드웨어 (예 : 단일 16GB RAM GPU)에 대한 지속 가능하고 효율적인 튜닝을 위해 LORA (Low Rank Adaptation)를 활용하십시오.

이 저장소에는 Evalita 2023에서 제안 된 것과 같은 NLP 작업을 해결하기 위해 LLAMA 기반의 대형 언어 모델 (LLAMA 기반)을 미세 조정하는 코드가 포함됩니다.

암호

실험실 : Evalita 2023의 모든 작업에 대한 라마 기반 모델을 미세 조정

결국,이 강의는 다른 작업의 데이터를 특정 프롬프트로 인코딩하고 Q-Lora를 사용하여 LLM을 미세 조정하는 방법을 보여줍니다. 이 코드는 15GB 메모리가 장착 된 NVIDIA-T4 GPU를 사용하여 Google Colab에서도 사용할 수 있습니다.

이 강령은 Evalita 2023에 참여하는 극단적 인 시스템에 사용 된 코드를 기반으로합니다.

• 극단적 인 종이
• 극단적 인 Github 코드

전체 프로세스는 4 단계로 나뉩니다.

• 1 단계 - 데이터 인코딩 : Evalita 작업에서 데이터를 인코딩하여 LLM의 프롬프트를 생성하는 방법을 보여줍니다.
• 2 단계-라마 모델 미세 조정 : 프롬프트가 주어진 LLM을 미세 조정하는 방법을 보여줍니다.
• 3 단계 - 추론 : 답변 생성 : 벌금형 튜닝 모델 사용 방법을 보여줍니다.
• 4 단계 - 데이터 데스링 : Evalta Challenge에서 평가할 데이터를 변환하는 방법을 보여줍니다.

슬라이드

저장소에는 슬라이드 (링크)도 있습니다.

운동

프레젠테이션의 마지막 슬라이드에서 운동이 제안됩니다.

콘택트 렌즈

쿼리 또는 제안의 경우이 저장소에서 문제를 제기하거나 [email protected]에게 이메일을 보내십시오.