what llm to use
1.0.0
LLM (Large Language Models)의 도움을 받아 개발자 커뮤니티의 속기 인 Devai Space에서 얼마나 빨리 움직이는 지에 따라 어떤 모델을 사용할 것인지 파악하기가 어려울 수 있습니다.
우리는 계속 커뮤니티의 일환으로 경험을 바탕 으로이 저장소를 시작했습니다. 풀 요청을 열어 개선을 제안하고 최신 정보를 유지하도록 도와주세요!
LLM이 많이 있습니다. 우리는 지금 사용하는 사람들을보고있는 사람들에게 초점을 맞추기로 결정했습니다.
이러한 모든 모델과 그에 대한 정보가 포함 된 CSV를 여기에서 찾을 수 있습니다.
일반적으로 가장 먼저 선택하는 것은 오픈 소스 또는 상업용 모델을 사용할 것인지 여부입니다.
Open-Source LLM을 사용하기로 결정한 경우 다음 결정은 로컬 컴퓨터 또는 호스팅 된 모델 제공 업체에서 모델을 설정할 것인지 여부입니다.
우리는 여기에서 팀을 위해 오픈 소스 코드 LLM을 배포하는 방법에 대한 안내서를 유지합니다.
상용 LLM을 사용하기로 결정한 경우 일반적으로 API 키를 얻고 비교를 위해 여러 개와 함께 플레이합니다. 제안의 품질과 사용 비용 모두 중요한 기준이 될 수 있습니다.
이것은 코딩 중에 개발자가 사용하는 오픈 소스 LLM의 목록이며, 2023 년 10 월 현재 가장 인기있는 가장 인기있는 것부터 대략적으로 주문했습니다.
Code Llama는 코드를 생성하고 논의하기 위해 Meta가 교육하는 LLM입니다. Llama 2 위에 세워졌습니다. 빅 코드 모델 리더 보드의 WizardCoder 및 Phind-Codellama 아래에 있지만 두 가지 모두의 기본 모델입니다. 또한 7B, 13B 및 34B와 같은 다양한 크기로 제공되므로 호스팅 된 공급 업체뿐만 아니라 로컬 머신에서도 사용하는 것이 인기가 있습니다. 이 시점에서 코딩을위한 가장 잘 알려진 오픈 소스 기본 모델이며 코딩 유능한 LLM을 만들기위한 오픈 소스 노력을 이끌고 있습니다.
Creator: Meta
Date released: August 24th, 2023
License: Llama 2 Community
Base model: Llama 2
Parameters: 7B, 13B, 34B
WizardCoder는 Wizardlm 팀이 Code Llama 위에 구축 된 LLM입니다. Evol-Instruct 방법은 코드 LLAMA를 미세 조정하는 데 사용되는 교육 데이터 세트를 작성하는 코딩 작업에 적합합니다. 코드 llama : 7b, 13b 및 34b와 같은 크기로 제공됩니다. 결과적으로 지금까지 가장 인기있는 오픈 소스 교육 교육 LLM입니다.
Creator: WizardLM
Date released: August 26th, 2023
License: Llama 2 Community
Base model: Code Llama
Parameters: 7B, 13B, 34B
Phind-Codellama는 Phind의 Code Llama 위에 제작 된 LLM입니다. ~ 80k 고품질 프로그래밍 문제 및 솔루션의 독점 데이터 세트를 사용하여 코드 LLAMA를 미세 조정했습니다. 그 미세 조정 된 모델은 1.5b 추가 토큰에서 더 미세 조정되었습니다. 현재 빅 코드 모델 리더 보드로 이어집니다. 그러나 34B 매개 변수 모델로만 사용할 수 있으므로 더 많은 메모리를 사용해야합니다.
Creator: Phind
Date released: August 28th, 2023
License: Llama 2 Community
Base model: Code Llama
Parameters: 34B
Mistral은 Mistal AI가 훈련 한 7b 매개 변수 LLM입니다. 9 월 말 에이 목록에서 가장 최근에 출시 된 모델입니다. Mistal AI는“코드에 대한 Codellama 7B 성능에 접근하면서 영어 작업에 능숙하게 유지됩니다”라고 말합니다. 하나의 작은 크기로만 구할 수 있음에도 불구하고, 사람들은 석방 후 처음 몇 주 동안 그것에 대해 매우 흥분합니다. 기지로 사용하는 최초의 미세 조정 된 LLM이 이제 등장하기 시작했으며 앞으로 더 많은 것을 볼 수 있습니다.
Creator: Mistral AI
Date released: September 27th, 2023
License: Apache 2.0
Base model: Mistral
Parameters: 7B
Starcoder는 Bigcode가 훈련 한 15b 매개 변수 LLM으로 5 월에 출시 된시기보다 앞서있었습니다. 옵트 아웃 요청이 제외 된 스택 (v1.2)의 80 개 이상의 프로그래밍 언어로 교육을 받았습니다. 명령 모델이 아니며 "제곱근을 계산하는 함수 작성"과 같은 명령은 잘 작동하지 않습니다. 그러나 기술 어시스턴트 프롬프트를 사용하면 더 도움이 될 수 있습니다.
Creator: BigCode
Date released: May 4th, 2023
License: OpenRAIL-M
Base model: StarCoder
Parameters: 15B
DeepSeek Coder는 Deepseek AI가 2 조 토큰으로 훈련 한 LLM입니다. 80 개가 넘는 프로그래밍 언어로 구성된 데이터 세트를 사용 하여이 목록에서 최신 모델이며 다양한 코딩 관련 벤치 마크에서 상당히 높은 점수를받는 것으로보고되었습니다.
Creator: DeepSeek AI
Date released: November 3rd, 2023
License: DeepSeek License Agreement
Base model: DeepSeek Coder
Parameters: 1.3B, 6.7B, 33B
Llama 2는 2 조의 토큰으로 메타로 훈련 된 LLM입니다. 전반적으로 가장 인기있는 오픈 소스 LLM이므로 일부 개발자는 코드 편집 할 때 위의 많은 모델만큼 좋지는 않지만 사용합니다. 코딩에 가장 인기있는 LLM 인 Code Llama가 그 위에 구축되었으며, 이는 마법사와 Phind-Codellama의 기초가되기 때문에 중요합니다.
Creator: Meta
Date released: July 18th, 2023
License: Llama 2 Community
Base model: Llama 2
Parameters: 7B, 13B, 70B
이것은 코딩 중에 개발자가 사용하는 상용 LLM의 목록이며, 2023 년 10 월 현재 가장 인기있는 가장 인기있는 것부터 대략적으로 주문했습니다.
OpenAI의 GPT-4는 일반적으로 코딩하는 동안 사용하기에 가장 적합한 LLM으로 간주됩니다. 코드를 생성하고 논의 할 때 매우 도움이됩니다. 그러나 API를 통해 Code를 OpenAI로 보내야하며 상당히 비쌀 수 있습니다. 그럼에도 불구하고, 그것은 전체 코딩에 가장 인기있는 LLM이며 대부분의 개발자는이 시점에서 코딩하는 동안이를 사용합니다. 2023 년 7 월 6 일 이전에 $ 1 이상을 성공적으로 지불 한 모든 OpenAI API 사용자에게는 GPT-4에 액세스 할 수 있었으며 곧 모든 개발자에게 액세스 할 계획입니다.
OpenAI의 GPT-4 터보는 GPT-4보다 저렴하고 빠릅니다. 2023 년 4 월의 지식 컷오프가 있으며 128k 컨텍스트 창이 있습니다. 현재 2023 년 11 월 현재 미리보기에 있지만 OpenAI API 계정과 기존 GPT-4 액세스가있는 사람은 누구나 사용할 수 있습니다.
Openai의 GPT-3.5 터보는 GPT-4보다 저렴하고 빠릅니다. 그러나 그 제안은 거의 도움이되지 않습니다. 또한 API를 통해 OpenAI로 코드를 보내야합니다. 지금까지 전체 코딩에 두 번째로 인기있는 LLM입니다. 모든 개발자는 OpenAI 계정에 가입 한 후 지금 사용할 수 있습니다.
Claude 2는 Anthropic이 훈련 한 LLM으로, 첫 번째 버전의 Claude와 비교하여 코딩 기술이 크게 향상되었습니다. 많은 맥락을 제공 할 때 특히 다른 LLM에 비해 탁월합니다. API를 통해 코드를 Anthropic으로 보내야합니다. 이 시점에서 클로드 2에 액세스하려면 신청해야합니다.
Palm 2는 Google이 교육하는 LLM입니다. 시도해 보려면 Makersuite를 통해 API 키를 얻은 후 Palm API를 통해 Code를 Google에 보내야합니다. 둘 다 현재 공개 미리보기에 있습니다.
모델이 누락되거나 의견을 공유하고 싶다면 PR이나 문제를 여는 것을 환영합니다! 우리는 코딩에 가장 유용한 언어 모델의 커뮤니티 중심 및 최신 지수를 유지하기를 희망합니다.
이 블로그 게시물을 좋아하고 LLMS의 도움으로 소프트웨어를 구축하는 사람들의 커뮤니티 인 Devai에 대한 자세한 내용을보고 싶다면 월간 뉴스 레터에 참여하십시오.
