Awesome Domain LLM

멋진 도메인 LLM

Chatgpt가 대표하는 대형 언어 모델이 출현 한 이후, 새로운 연구 및 응용 라운드가 시작되었으며 Llama, Chatglm, Baichuan, Qwen 등을 포함한 많은 일반 모델이 등장했습니다. 그 후, 다른 필드의 실무자들은 일반 모델을 기반으로 연속 사전 훈련/명령 미세 조정을 통해 수직 필드에 적용합니다.

이 프로젝트는 수직 필드에서 오픈 소스 모델 , 데이터 세트 및 평가 벤치 마크를 수집 및 정렬하는 것을 목표로합니다. 이 프로젝트에 포함되지 않은 오픈 소스 모델, 데이터 세트, 평가 벤치 마크 및 기타 컨텐츠에 기여하고 모든 생계에서 큰 모델의 권한을 공동으로 홍보 할 수 있습니다!

? 고쳐 쓰다

• [2023/11/26] 향상된 네트워크 보안 대형 모델 Secgpt, 의료 빅 모델 Chimed-GPT, 금융 빅 모델 Tongyi-Finance-14B, 금융 평가 벤치 마크 FinanceBench 및 CFBenchmark.
• [2023/11/01] DevOps 필드 빅 모델 DevOps- 모델 및 평가 벤치 마크 DevOps-Eval ANT Group 및 Peking University가 발표했습니다.
• [2023/10/28] 재무 모델 Disc-Finllm, 의료 모델 Alpacare 및 Marine Model Marinegpt가 추가되었습니다.
• [2023/10/19] 심리적 모델 Mentalllama, 이중 언어 생물 의학 모델 Taiyi (Taiyi) 및 Ocean Model Oceangpt가 추가되었습니다.
• [2023/10/10]는 Yunzhi Intelligent Research Institute와 Beihang이 공동으로 개발 한 운영 및 유지 보수 필드에 대한 Big Model Owl 및 Evaluation Benchmark Owl-Bench를 추가했습니다. 중국 법률 모델 평가를위한 벤치 마크 LAIW를 추가했습니다.
• [2023/10/05] 심리적 모델 Chatpychiatrist, Financial Model Investlm, 농업 모델 Agrigpt 및 의료 모델 Wingpt2가 추가되었습니다.
• [2023/10/03] 두 가지 법적 평가 벤치 마크, 즉 중국 법률 시스템에 대한 Lawbench와 미국 법률 시스템의 법률 벤치가 추가되었습니다.
• [2023/10/01] Fudan University가 공개적으로 공개 된 법률 분야의 큰 모델 인 Disc-Lawllm은 사용자에게 전문적이고 지능적이며 포괄적 인 법률 서비스를 제공하는 것을 목표로했습니다. Finglm을 추가하여 공개, 공공 복지 및 지속적인 재무 모델 프로젝트를 구축하고 오픈 소스를 사용하여 "AI+금융"을 홍보하십시오.
• [2023/9/25] Qwen을 업데이트하고 Qwen-14B 및 Qwen-14B-Chat 모델을 추가하고 Qwen-7B 및 Qwen-7B-Chat 모델을 업데이트하십시오. 원래 QWEN-7B와 비교할 때 새 버전은 더 많은 교육 데이터 (2.4T 토큰)를 사용하고 시퀀스 길이는 2048 년에서 8192 년으로 확장되었습니다. 전반적인 중국어 능력과 코드 능력은 많이 개선되었습니다.
• [2023/9/22] 홍콩 중국 대학교 및 Fudan University Open Source 다국어 도크 모델과 공동으로 Internlm (Scholar Puyu), 상하이 AI 실험실 및 Sensetime 기술을 추가합니다.
• [2023/9/15]는 사전 훈련, 감독 된 미세 조정 및 RLHF 완전한 교육 과정을 가진 한약 모델 인 Zhongjing-Llama (Zhongjing)를 추가했습니다.
• [2023/9/14] Weaverbird를 추가하여 현지 지식 및 온라인 검색 기능을 통해 Financial Field 대화 모델에 액세스하십시오.
• [2023/9/13] Shandong University, Inspur Cloud 및 중국 정치 과학 및 법률 대학이 공동으로 개발 한 사법 모델 인 Master Mingzha를 추가하십시오.

목차

• ? 모델
  • 일반 모델
  • ? 도메인 모델
    • ? 의료
    • ⚖ 법률
    • ? 재원
    • ? 기르다
    • ➕ 기타
• 데이터 세트
• ? 평가 벤치 마크
• ? 충수
  • 역사처럼
  • ? 친절한 링크

? 모델

일반 모델

도메인 모델은 일반적으로 일반적인 모델을 기반으로 한 지속적인 사전 훈련 또는 미세 조정에 의해 얻어집니다. 여기서 우리는 일반적으로 사용되는 오픈 소스 일반 모델을 구성합니다.

모델	크기	기구	종이
llama2	7B/7B-Chat 13B/13B-Chat 70B/70B-Chat	메타	종이
chatglm3-6b	6B-베이스/6B/6B-32K	Tsinghua University	종이
Qwen	1.8B/1.8B chat 7B/7B-Chat 14B/14B-chat 72B/72B-Chat	알리바바 클라우드	종이
Baichuan2	7B/7B-Chat 13B/13B-Chat	Baichuan 지능형	종이
internlm	7B/7B-Chat 20B/20B chat	상하이 AI 실험실	종이

? 도메인 모델

? 의료

• Chimed-Gpt [종이]

  • Chimed-Gpt는 Ziya-V2를 기반으로 한 중국 의료 모델입니다. Ziya-V2에 기초하여, 인간 피드백으로부터 사전 훈련, 감독 된 미세 조정 (SFT) 및 강화 학습 (RLHF)은 포괄적 인 방식으로 수행되었다.

• 알파 케어 [종이]

  • 이 프로젝트는 Llama에서 미세 조정 된 Medical Mockup Alpacare를 공개했습니다.

• Taiyi (Taiyi) [종이]

  • 중국-영어 이중 언어 생물 의학 모형 인 Taiyi (Taiyi)의 프로젝트 오픈 소스는 생체 의학 분야에서 이중 언어 자연 언어 가공 멀티 태스킹의 능력을 탐구하는 것을 목표로합니다.

• 멘탈 라마 [종이]

  • 소셜 미디어에서 해석 가능한 정신 건강 분석에 사용할 수있는 프로젝트 오픈 소스 정신적 모형 Mentalllama.

• wingpt2

  • Wingpt는 전문 의료 지식, 의료 정보 및 데이터를 통합하고 의료 Q & A, 진단 지원 및 의료 지식과 같은 지능형 정보 서비스를 제공하여 진단 및 치료 효율성 및 의료 서비스 품질을 향상시키는 GPT 기반 의료 수직 모델입니다.

• Chatpsychiatrist [종이]

  • LLAMA-7B 미세 조정을 기반으로 한 심리적 모델 인 프로젝트 오픈 소스 Chatpsychiatrist는 심리적 문제를 신속하게 식별하고 맞춤형 치료 권장 사항을 제공 할 수 있습니다.

• Zhongjing-Llama (Zhongjing) [종이]

  • 이 프로젝트는 사전 훈련, 감독 된 미세 조정 및 RLHF 완전한 교육 프로세스를 포함하는 첫 번째 중국 의학 대형 모델을 공개했습니다. 또한 실제 의사 환자 대화에서 70,000을 포함하는 다중 라운드 대화 데이터 세트도 공개되었습니다. 이 데이터 세트에는 다수의 의사의 사전 예방 적 질문 문장이 포함되어있어 모델의 사전 의료 문의 기능을 향상시키는 데 도움이됩니다.

• Doctorglm [종이]

  • ChatGLM-6B의 중국 상담 모델을 기반으로, 중국 의료 대화 데이터 세트의 미세 조정 및 배포는 LORA, P-TUNINGV2 등의 미세 조정 및 배포를 통해 달성됩니다.

• Bentsao (재료 약초) [종이]

  • 이 프로젝트는 의료 지식 그래프 및 의료 문헌을 기반으로 LLAMA, Alpaca-Chinese, Bloom, Movable Type Model 등을 포함한 LLAMA, Alpaca-Chinese, Bloom, Movable Type Model 등을 포함한 중국 의료 지침에 의해 미세하게 조정 된 대형 언어 모델 세트의 출처를 열어 ChatGPT API와 결합하여 중국의 의료 지침 미세 조정 데이터 세트를 구성하고 다양한 기본 모델의 질문을 미세한 튜닝에 사용하여 기본의 의료를 개선했습니다.

• Med-Chatglm

  • Project 오픈 소스 ChatGLM-6B 모델은 중국 의료 지침에 의해 미세 조정되었으며 미세 조정 데이터는 Bentsao와 동일합니다.

• 바이앙크 (bianque) [종이]

  • 이 프로젝트는 생활 공간 건강의 큰 모델의 원천을 열어줍니다. 현재 오픈 소스 중국 의료 Q & A 데이터 세트 (Meddialog-CN, IMCS-V2, Chip-MDCFNPC, MEDDG, CMEDQA2, 중국의 의료-다이얼그-데이터), 단일 라운드/멀티 라운드 특성 및 의사 문의 특성이 분석되었으며, 자체 구매 공간의 건강 대화, Bianquecopus의 BianqueCopus와 결합되었습니다. 수백만 레벨이 구성되었습니다. Bianque Health Big Data Bianquecorpus에 기초하여, ChatGLM-6B는 초기화 모델로 선택되었고, Bianque는 전체 매개 변수의 명령 미세 조정 교육을 통해 얻어졌다.

• huatuogpt (hua tuo) [종이]

  • 이 프로젝트는 Baichuan-7B 및 Ziya-Llama-13b-Pretrain-V1 교육을 기반으로 한 Huatuogpt-13B 교육을 기반으로 한 Huatuogpt-7B 교육을 포함하여 의료 대형 모델 Huatuogpt를 공개했습니다.

• Qizhengpt

  • 이 프로젝트는 Qizhen Medical Knowledge Base에서 제작 한 중국 의료 교육 데이터 세트를 사용하며,이를 바탕으로 중국의 의료 시나리오에서 모델의 효과를 크게 향상시키는 중국-줄라기 -7B, CAMA-13B 및 ChatGLM-6B 모델에서 미세 조정됩니다.

• 채팅

  • 이 프로젝트는 50W + 온라인 상담 + Chatgpt의 답변을 사용하는 중국 의료 대형 모델 Chatmed-Consult를 공개했습니다. 중국 의료 온라인 상담 데이터 세트 Chatmed_Consult_dataset의 교육 세트로 LLAMA-7B를 기반으로 LORA 미세 조정을 사용하여 얻습니다.

• Shennong-TCM-LLM (Shennong)

  • 이 프로젝트 오픈 소스 중국 전통 중국 의학 대형 모델 Shennong-TCM-LLM. 오픈 소스 전통 중국 의학 지식 그래프를 기반으로 한 엔티티 중심의 자체 비축 방법을 채택하고 chatgpt를 호출하여 2.6W+ 전통 중국 의학 교육 데이터 세트 chatmed_tcm_dataset을 얻습니다. 데이터 세트를 기반으로 LLAMA를 사용한 LLAMA 및 미세 조정을 기반으로합니다.

• xrayglm

  • 이 프로젝트는 의료 영상 진단 및 여러 라운드의 대화식 대화에서 특별한 잠재력을 보여주는 중국의 멀티 모달 의료 데이터 세트 및 모델을 개방했습니다.

• MedicalGpt

  • 점진적인 사전 훈련, 감독 미세 조정, RLHF (보상 모델링, 강화 학습 교육) 및 DPO (직접 환경 최적화)를 포함하는 프로젝트 오픈 소스 의료 모델 MedicalGPT.

• Sunsimiao (Sun Simiao)

  • 이 프로젝트 오픈 소스 중국 의료 모델 Sunsimiao는 100,000의 고품질 중국 의료 데이터에서 Baichuan-7B 및 ChatGLM-6B 기본 모델을 기반으로 미세 조정됩니다.

• 간호

  • 프로젝트 오픈 소스 의료 모델 CareGpt (CareGPT)는 또한 공개적으로 이용 가능한 의료용 미세 조정 데이터 세트와 LLM 교육, 평가, 배포 등을 포함하여 공개적으로 이용 가능한 의료 대형 언어 모델을 모아 의료 LLM의 빠른 개발을 촉진합니다.

• Disc-Medllm [종이]

  • 이 프로젝트는 Fudan University가 발표 한 의료 및 건강 대화 시나리오를 위해 설계된 의료 분야의 큰 모델 및 데이터 세트입니다. 이 모델은 Baichuan-13B-Base 명령어를 기반으로 DISC-MED-SFT 데이터 세트의 미세 조정에 의해 얻어진다.

• PMC-Llama [종이]

  • Medllama_13B의 미리 훈련 된 버전과 PMC_LLAMA_13B의 미세 조정 버전을 포함한 프로젝트 오픈 소스 Medical Mockup PMC-Llama.

• chatdoctor [종이]

  • LLAMA에 대한 교육을받은 프로젝트 오픈 소스 의료 모델 ChatDoctor.

• 밍 (Ming Medical)

  • MING-7B를 얻기위한 Bloomz-7B 명령의 미세 조정을 기반으로하는 프로젝트 오픈 소스 의료 대형 모델 ming은 의료 Q & A, 지능형 상담 및 기타 기능을 지원합니다.

• ivygpt

  • 이 프로젝트 오픈 소스 Medical Mockup Ivygpt는 고품질 의료 Q & A 데이터에 대한 미세 조정을 감독하고 인간 피드백으로부터 강화 학습을 사용하여 교육을 받았습니다.

• 맥박

  • 이 프로젝트 오픈 소스 중국 의료 모델 펄스는 한약 및 일반 분야의 약 4,000,000 지침 미세 조정 데이터를 사용하여 건강 교육, 의사 시험 질문, 보고서 해석, 구조화 된 의료 기록 및 시뮬레이션 된 진단 및 치료를 포함한 의료 분야의 다양한 자연 언어 처리 작업을 지원합니다.

• Huangdi (황제)

  • 이 프로젝트는 중국 의학 대형 모델 Huangdi (황제)의 출처를 열어줍니다. 이 모델은 먼저 한약 교과서, 한약 웹 사이트 데이터 및 기타 코퍼스를 추가하여 Ziya-Llama-13B-V1 기본 모델을 기반으로 한약 지식을 이해하는 사전 훈련 모델을 훈련시킵니다. 그런 다음이를 바탕으로 많은 양의 한약 고대 도서 교육 대화 데이터 및 일반 지시 데이터를 통해 감독 및 미세 조정되어 모델이 한약 고대 책 지식에 대답 할 수 있습니다.

• Zhongjing (Zhongjing)

  • 이 프로젝트는 한약 모델 Zhongjing (Zhongjing)을 개방합니다.이 프로젝트는 전통 중국 의약에 대한 심오한 지식을 명확하게하고 고대의 지혜와 현대 기술 혁신을 물려받으며 궁극적으로 의료 분야에 신뢰할 수 있고 전문적인 도구를 제공하는 것을 목표로합니다.

• tcmllm

  • 이 프로젝트는 전통적인 한약의 임상 보조 진단 및 치료 작업 (질병 진단, 처방 권고 등) 및 기타 중국 의학 지식 질문 및 대규모 모델을 통한 대답을 실현하고 전통적인 한약 지식 질문 및 답변, 임상 보조 진단 및 치료 영역의 빠른 발달을 촉진 할 계획입니다. 현재, 한약의 임상 지능 진단 및 치료에서 처방 권고 작업에 대한 응답으로 전통 중국 의약 처방 권고 모델의 TCMLLM-PR이 발표되었습니다. 실제 임상 기록, 의료 클래식 및 중국 의학 교과서 및 기타 데이터를 통합함으로써 68K 데이터 항목을 포함하는 처방 권장 지침 미세 조정 데이터 세트가 구성되었으며 ChatGLM Big Model에서 미세 조정이 얻어졌습니다.

• 메카트 [종이]

  • 이 프로젝트는 중국 정신 건강 지원 대화 모델과 데이터 세트를 공개했습니다. 이 모델은 ChatGLM-6B LORA 16 비트 명령어에 의해 미세 조정됩니다. 데이터 세트는 ChatGpt를 사용하여 실제 심리적 상호 원조 QA를 다시 작성하여 여러 라운드의 정신 건강에 대한 여러 라운드의 대화를 지원합니다. 데이터 세트에는 56k 다중 라운드 대화가 포함되어 있으며 대화 테마, 어휘 및 장 의미제는 더 풍부하고 다양하며 장기 다중 라운드 대화의 응용 시나리오와 더 일치합니다.

• SoulChat (영적 마음) [종이]

  • 이 프로젝트는 ChatGLM-6B를 초기화 모델로 사용하는 정신 건강 모델 SoulChat (Spiritual Heart)을 공개했으며 백만 규모의 심리 상담 분야에서 중국어의 긴 텍스트의 공동 지침에 의해 미세 조정되어 있으며 여러 라운드의 공감 대화 데이터.

• Mindchat (아카이브)

  • 이 프로젝트는 심리 모델 Mindchat (애니메이션 토크)의 오픈 소스로, 교육, 가족, 연구, 삶, 사회, 안전 및 기타 측면을 다루기 위해 수동으로 수동으로 약 20 만 개의 고품질 다중 심리적 대화 데이터를 사용합니다. 심리 상담, 심리 평가, 심리적 진단 및 심리적 치료의 4 가지 차원에서 사람들이 심리적 스트레스를 완화하고 심리적 혼란을 해결하고 정신 건강 수준을 향상시키는 데 도움이 될 것으로 예상됩니다.

• Qiaoban (()

  • 이 프로젝트는 어린이의 정서적 대화 Big Model Qiaoban의 오픈 소스입니다. 일반 도메인 인간 컴퓨터 대화, 단일 륜 지시 데이터 및 어린이의 정서적 동반자 대화 데이터를 사용하여 지시를 미세 조정하고 어린이의 정서적 동반자에 적합한 대형 모델을 개발하는 오픈 소스 일반 모델을 기반으로합니다.

⚖ 법률

• 디스크 졸림 [종이]

  • Disc-Lawllm은 사용자에게 전문적이고 지능적이고 포괄적 인 법률 서비스를 제공하도록 설계된 법률 분야의 큰 모델입니다. Disc-Lawllm-13B 모델 및 디스크-법률 SFT 데이터 세트를 포함하여 Fudan University의 Data Intelligence and Social Computing Laboratory (Fudan-DISC)가 개발하고 공개했습니다.

• lawgpt_zh (xiefeng)

  • 이 프로젝트의 오픈 소스 중국법 일반 모델은 ChatGLM-6B LORA 16 비트 명령을 미세 조정하여 얻습니다. 데이터 세트에는 법률 및 실제 사례에 의해 안내 된 자체 강조를 기반으로 구성된 기존의 법적 Q & A 데이터 세트 및 고품질 법률 Q & A가 포함되어 법률 분야에서 공통 언어 큰 모델의 성능을 향상시키고 모델 답변의 신뢰성과 전문성을 향상시킵니다.

• Lawgpt

  • 일반 중국 받침대 모델 (예 : 중국-롤라, ChatGlm 등)을 기반 으로이 일련의 모델은 법적 분야의 독점 어휘 목록과 중국 법률 코퍼스의 대규모 사전 훈련을 확장하여 법률 분야의 큰 모델에 대한 기본 의미 론적 이해를 향상시킵니다. 이를 바탕으로 법률 필드 대화 Q & A 데이터 세트와 중국 사법 시험 데이터 세트는 지침을 미세 조정하기 위해 구성되어 법적 콘텐츠의 모델의 이해와 시행 능력을 향상 시켰습니다.

• Lexilaw

  • Lexilaw는 ChatGLM-6B 아키텍처를 기반으로 한 미세 조정 된 중국 법률 모델로, 법률 분야의 데이터 세트에서 미세 조정하여 법적 조언과 지원을 제공하는 데있어 더 높은 성과와 전문성을 제공 할 수 있습니다. 이 모델은 법률 전문가, 학생 및 일반 사용자에게 정확하고 신뢰할 수있는 법률 자문 서비스를 제공하도록 설계되었습니다. Lexilaw는 특정 법적 문제를 참고하거나 법적 조건, 사례 분석 및 규정 해석에 대한 문의를 할 필요가 있는지 여부에 관계없이 유용한 조언과 지침을 제공 할 수 있습니다.

• 변호사 라마 [종이]

  • LLAMA 훈련을 기반으로 한 법률 분야와 중국 법률 모형 변호사 라마의 프로젝트 오픈 소스 지침 미세 조정 데이터. 변호사 라마는 먼저 대규모 법률 코퍼스에서 미리 훈련하여 중국 법률 지식 시스템을 체계적으로 배울 수 있도록합니다. 이를 바탕으로 Chatgpt는 중국의 국가 통합 법률 전문가 자격 시험에 대한 객관적인 질문에 대한 분석을 수집하는 데 사용되었으며 법적 상담에 대한 답변을 사용하여 모델을 미세 조정하여 모델이 특정 시나리오에 법적 지식을 적용 할 수있는 능력을 획득 할 수있었습니다.

• 한 페이 (한 페이)

  • Hanfei-1.0 (Han Fei)은 중국에서 최초의 풀 ​​매개 변수 교육 법률 모델입니다. 매개 변수 수량은 7b입니다. 주요 기능에는 법률 Q & A, 여러 라운드의 대화, 기사 작성, 검색 등이 있습니다.

• chatlaw [종이]

  • Peking University가 오픈 한 일련의 법률 모델은 법률 뉴스, 법률 포럼, 법률, 사법 해석, 법적 상담, 법적 협의, 법적 시험 질문, 판결 문서 등과 같은 많은 독창적 인 텍스트를 사용하여 Jiang Ziya-13B 및 Anima-33B가 교육했습니다. 또한 Chatlaw-Text2Vec도 공개적이며 유사성 일치 모델은 BERT를 기반으로 교육을받습니다.이 모델은 사용자 질문 정보를 해당 법률과 일치시킬 수 있습니다.

• 리치 (Lu Zhi)

  • 중국 사법 분야 Big Model Law-GLM-10B는 GLM-10B 모델을 기반으로 공개적이며, 미세 조정 지침은 30GB의 중국 법률 데이터에 대해 얻습니다.

• Wisdominterrogatory (Zhihai-Luwen)

  • Zhejiang University, Alibaba Damo Academy 및 China Computing Academy가 공동으로 설계하고 개발 한 법률 모델은 Baichuan-7B를 기반으로했으며, 법률 데이터의 2 차 사전 훈련 및 미세 조정이 수행되었으며 지식이 강화 된 추론 프로세스가 설계되었습니다.

• 법정

  • 이 프로젝트는 다음을 포함하여 중국 법적 코퍼스를 기반으로 한 일련의 언어 모델을 훈련시킵니다. 1) 해석 가능한 법적 판단 예측 모델 AI 판사는 법적 코퍼스에서 GPT2에 의해 추가로 훈련되고 법적 애플리케이션 모델 (BERT를 기반으로 한 분류기)에 의해 미세 조정됩니다. 판결 결과를 제시 할 수있을뿐만 아니라 해당 법원의 견해도 제공 할 수 있습니다. 2) 지능형 법률 상담 모델 AI 변호사는 적극적인 학습을 사용하여 소량의 데이터에 대해 미세 조정하고 사용자 상담에 따라 질문에 답변 할 수 있습니다.

• 마스터 Mingcha

  • 마스터 Mingcha 사법 모델은 Shandong University, Inspur Cloud 및 중국 정치 과학 및 법률 대학이 공동으로 개발 한 중국 사법 모델입니다. 그것은 수많은 수많은 감독되지 않은 사법 코퍼스 (다양한 판단 문서, 법률 및 규정 등)와 감독 된 사법 미세 조정 데이터 (법적 질문 및 답변 포함, 사례 검색)를 기반으로합니다. 이 모델은 법적 검색, 사례 분석, 음절 추론 및 판단, 사법 대화를 지원하며 사용자에게 포괄적이고 정확한 법적 상담 및 응답 서비스를 제공하는 것을 목표로합니다.

? 재원

• Tongyi-Finance-14B

  • Tongyi Finance-14B (Tongyi-Finance-14B)는 금융 산업을 위해 시작된 대형 언어 모델입니다. 그것은 Tongyi Qianwen의 기본 모델을 기반으로 산업 코퍼스에 대한 점진적인 학습을 수행하고, 금융 분야에서 지식과 시나리오를 적용하는 능력을 강화하며, 재무 지식 질문 및 답변, 텍스트 분류, 텍스트 생성, 읽기 이해, 논리 추론, 다중 모드 및 코딩과 같은 능력 사분면을 다룹니다.

• Disc-Finllm [종이]

  • Disc-Finllm은 금융 분야의 큰 언어 모델입니다. 재무 컨설팅, 재무 텍스트 분석, 금융 컴퓨팅 및 금융 지식 검색 Q & A의 다양한 재무 시나리오를위한 4 가지 모듈로 구성된 다중 엑스퍼트 스마트 금융 시스템입니다. 이 모듈은 재무 NLP 작업, 휴먼 테스트 질문, 데이터 분석 및 시사 분석을 포함한 4 가지 평가에서 명백한 이점을 보여 주며, 디스크-핀름이 광범위한 금융 분야에 대한 강력한 지원을 제공 할 수 있음을 증명합니다.

• 투자 [종이]

  • 이 프로젝트는 LLAMA-65B 미세 조정을 기반으로 한 영어 재무 모델을 공개했습니다.

• 손가락

  • 우리는 개방적이고 공공 복지 및 지속적인 재무 모델 프로젝트를 구축하고 "AI+Financial"을 홍보하기 위해 오픈 소스와 개방성을 사용하기 위해 노력하고 있습니다.

• weaverbird (weaverbird) [종이]

  • 이 프로젝트 오픈 소스는 중국-영어 이중 언어 금융 분야의 미세 조정을 기반으로 금융 분야의 큰 대화 모델이며 지역 지식 기반 및 온라인 검색 엔진에도 액세스 할 수 있습니다.

• BBT-Fincuge-Applications [종이]

  • 이 프로젝트는 중국 금융 분야 Corpus BBT-Fincorpus, 지식이 강화 된 큰 모델 BBT-FINT5 및 Evaluation Benchmark CFLEB를 공개했습니다.

• 뿔 (뿔의 안 잡리)

  • 이 프로젝트는 공개 및 크롤링 된 중국 금융 분야 Q & A 데이터를 기반으로 지시 데이터 세트를 구성하며,이를 바탕으로 LLAMA 시스템 모델에 대한 지침을 미세 조정하여 금융 분야에서 LLAMA의 질문 응답 효과를 향상시킵니다.

• Xuanyuan (Xuanyuan) [종이]

  • Xuanyuan은 중국에서 10 억 수준의 중국 대화 모델을 가진 최초의 오픈 소스 중국 대화 모델이며, 중국 금융 분야에 최적화 된 최초의 오픈 소스 중국 대화 모델이기도합니다. Bloom-176B를 기반으로 Xuanyuan은 중국 일반 분야 및 금융 분야의 사전 훈련 및 미세 조정을 수행했습니다. 일반 분야의 문제를 다룰 수있을뿐만 아니라 다양한 재무 관련 질문에 대답하여 사용자에게 정확하고 포괄적 인 재무 정보 및 제안을 제공합니다.

• pixiu (pixiu) [종이]

  • Financial Field Intruction 미세 조정 데이터 세트 적합, 대형 모델 FINMA 및 평가 벤치 마크 플레어의 프로젝트 오픈 소스.

• Fingpt [paper1] [paper2]

  • 이 프로젝트는 ChatGLM2-6B+LORA 및 LLAMA2-7B+LORA를 포함한 여러 재무 모델을 공개했으며 금융 뉴스, 소셜 미디어, 재무 보고서 등을 포함한 중국어 및 영어 교육 데이터를 수집했습니다.

• 플랜 [종이]

  • 이 프로젝트는 재무 모델 플랜 및 평가 벤치 마크 연도를 공개했습니다.

? 기르다

• 타올리 (타올리)

  • 이 프로젝트는 국제 중국 교육 분야에 적합한 대형 모델의 출처를 열어줍니다. 500 개가 넘는 국제 중국 교육 교과서 및 교육 보조원, 중국어 숙련 시험 질문 및 중국 학습자 사전 등을 기반으로 국제 중국 교육 분야에서 유통되고있는 국제 중국 교육 자원 도서관이 건설되었습니다. 총 88,000 개의 고품질 국제 중국 교육 질문 및 답변 데이터 세트가 다양한 형태의 지침을 통해 구성되었으며, 수집 된 데이터는 특정 시나리오에 국제 교육 지식을 적용 할 수있는 능력을 획득 할 수 있도록 지침을 미세 조정하는 데 사용되었습니다.

• 에두차 [종이]

  • 이 프로젝트는 교육의 수직 분야에 대한 대화 모델의 출처, 주로 미리 훈련 된 모델을 기반으로 한 교육 대화 모델과 관련된 기술을 연구하고, 다양한 교육 수직 필드 데이터를 통합하고, 교육 미세 조정 및 가치 정렬과 같은 방법으로 보완되고, 자동 질문 설정, 숙제 교정, 감정 지원, 코스 참가자와 같은 풍부한 기능을 제공합니다. 교사, 학생 및 학부모, 적성, 공정하고 정당하며 ​​따뜻한 지적 교육을 달성하는 데 도움을줍니다.

➕ 기타

• DevOps 모델

  • 이 프로젝트 오픈 소스 Devops-Model, Ant Group과 Peking University에서 개발 한 DevOps 필드 모델.

• 올빼미 [종이]

  • 이 프로젝트 오픈 소스는 Cloud Intelligent Intelligence Research Institute 및 Beihang University가 공동으로 개발 한 지능형 운영 및 유지 보수 (AIOP) 대형 언어 모델로 수집 된 올빼미 강조 데이터에 대해 교육을 받았습니다. 또한, 벤치 마크가 없기 때문에 지능형 운영 및 유지 보수 분야의 대형 언어 모델로 올빼미 벤치 평가 벤치 마크가 설정되었습니다.

• 해양 gpt [종이]

  • 이 프로젝트는 해양 분야를 위해 특별히 설계된 최초의 시각적 언어 모델 인 Marinegpt를 공개했습니다.

• Oceangpt [종이]

  • 이 프로젝트 오픈 소스 Oceangpt, 해양학의 큰 모델.

• agrigpt

  • 이 프로젝트는 농업 모형 MediaGpt를 공개했습니다.

• 미디어 gpt

  • 이 프로젝트는 중국 셀프 메디아 빅 모델 MediaGpt를 공개했습니다. 그것은 먼저 대규모 셀프 미디어 코퍼스에서 지속적인 사전 훈련을 수행하여자가 미디어의 지식 시스템을 체계적으로 배우게됩니다. 그런 다음 ChatGpt의 도움으로 Douyin Operation, Short Video Creation, 엄청난 양의 Qianchuan 배포, Live Broadcast Operation 및 Live Broadcast Speech 기술과 같은 분야의 지식 문제에 대한 분석 및 답변을 제공하여 모델을 수집하는 데 사용되었으며 모델을 미세한 조정하는 데 사용되었습니다.

• ecomgpt [종이]

  • 이 프로젝트는 전자 상거래 필드의 Bloomz의 명령 미세 조정 데이터 세트 ecominstruct를 기반으로하는 전자 상거래 Big Model Ecomgpt를 공개했습니다. 12 개의 전자 상거래 평가 데이터 세트에 대한 수동 평가가 ChatGpt를 초과했습니다.

• Starwhisper (스타)

  • 천문학적 빅 모델 스타 GLM의 개발 경험을 바탕으로 천문학 과학 교육 연합, Jisipu 문학 플랫폼 및 Sitian Engineering의 지원으로 Starwhisper 시리즈 모델 (6b, 7b, 13b, 14b, 20b 포함)을 더욱 교육했습니다. 천문학에서 대형 모델에 대한 일반적인 지식의 환각 현상을 더욱 완화시키기 위해, 그것은 천문학적 멀티 모달 작업을 처리하고 망원경 어레이에 배치 할 수있는 Sitian Brain의 기초를 놓습니다.

• K2 [종이]

  • 이 프로젝트는 LLAMA를 기반으로 지구 과학 문헌 및 Wikipedia 데이터를 사용하여 미리 훈련 된 Earth Science Mockup K2를 오픈 소스로 지정된 데이터 세트를 사용하여 지침을 미세 조정합니다.

• Transgpt (Zhiyuan)

  • 이 프로젝트는 운송 모델 Transgpt (Zhiyuan)를 공개했으며, 이는 주로 실제 운송 산업에서 실제 가치를 활용하기 위해 노력하고 있습니다. 교통 상황 예측, 지능형 컨설팅 보조원, 대중 교통 서비스, 교통 계획 및 설계, 교통 안전 교육, 지원 관리, 교통 사고보고 및 분석, 자율 주행 지원 시스템 및 기타 기능을 실현할 수 있습니다. 일반적인 상식 운송 모델로서 TransGpt는 도로 엔지니어링, 교량 공학, 터널 공학, 도로 운송, 물 운송, 도시 대중 교통, 운송 경제, 운송 안전 등과 같은 산업에 상식을 제공 할 수 있습니다.이를 바탕으로 특정 교통 응용 시나리오에 중점을 둘 수 있습니다.

• Secgpt

  • 이 프로젝트는 네트워크 보안 Big Model Secgpt를 공개했습니다. 이 모델은 Baichuan-13B를 기반으로 한 사전 훈련 및 SFT 교육을 위해 LORA를 사용하고, 개방형 관련 사전 훈련 및 명령 미세 조정 데이터 세트를 사용합니다.

• Autoaudit

  • 이 프로젝트는 보안 감사 및 네트워크 방어를위한 강력한 자연 언어 처리 기능을 제공하기 위해 사이버 보안 Mockup Autoaudit을 공개했습니다. 악성 코드 분석, 사이버 공격 감지 및 보안 취약점 예측 기능이 있으며 보안 전문가에게 강력한 지원을 제공합니다.

• TechGpt

  • 컴퓨터 과학, 자료, 기계, 야금, 금융 및 항공 우주와 같은 10 가지가 넘는 수직 전문 분야를 목표로하는 프로젝트 오픈 소스 기술 모델 TechGPT, 현장 용어 추출, 기업 인식, 텍스트 키워드 생성, 제목 세대, 텍스트 포괄적 인 제목, 기본 공동 이해력, 대답 및 대답 및 대답 및 대답, 텍스트 필드 인식 제목, 텍스트 필드 인식 제목, 텍스트 인식 제목, 텍스트 인식 제목, 텍스트 인식 제목, 관계. 제안 상담 질문 및 답변, 카피 라이팅 생성, 중국어-영어 번역 및 간단한 코드 생성 등

• Mozi (Mozi) [종이]

  • 이 프로젝트는 과학 논문 Mockup Mozi (Mozi)를 공개했으며, 과학 및 기술 문헌의 질문과 답변 및 정서적 지원에 사용될 수 있습니다.

• OpenBiomed [paper1] [paper2] [paper3]

  • 이 프로젝트는 멀티 모달 생물 의학 모델 Biomedgpt, Multimodal Small Molecule Basic Model DrugFM 및 MOLFM, Cell Erresentation Learning Model Celllm 등을 포함한 여러 가지 멀티 모달 생물 의학 모델을 개방했습니다.

• 야이 (yayi)

  • 이 프로젝트는 멀티 필드 모델 Yayi (Yayi)의 오픈 소스이며, 수백만 개의 인위적으로 구성된 고품질 필드 데이터에 대해 미세 조정 지침입니다. 교육 데이터는 미디어 홍보, 여론 분석, 공공 안전, 재무 위험 관리 및 도시 거버넌스 및 수백 개의 자연 언어 명령 작업과 같은 5 가지 주요 분야를 다룹니다.

데이터 세트

? 평가 벤치 마크

• C-Eval [종이]

  • C-Eval은 Shanghai Jiaotong University가 발표 한 중국 기본 모델 평가 벤치 마크입니다. 여기에는 인문학, 사회 과학, 과학 및 공학 및 기타 전공, 52 명의 과목, 중학교 대학원생 및 직업 시험의 4 가지 주요 방향을 다루는 13,948 개의 객관식 질문이 포함되어 있습니다.

• Agieval [종이]

  • Agieval은 Microsoft가 인간인지 작업에서 대형 모델의 성능을 평가하기 위해 발표 한 평가 벤치 마크입니다. 여기에는 일반 대학 입학 시험 (중국 대학 입학 시험 및 미국 SAT 시험), 로스쿨 입학 시험, 수학 경쟁 및 변호사 자격 시험, 국가 공무원 시험 등을 포함하여 평범한 후보자를위한 20 개의 공식, 개방형 고도대 입학 및 자격 시험이 포함됩니다.

• Xiezhi (Xiezhi) [종이]

  • Xiezhi는 철학, 경제, 법률, 교육, 문학, 역사, 농업, 농업, 농업, 의학, 군사, 관리 및 예술, 516 개의 특정 분야 및 249,587 개의 질문 등 13 개의 분야를 포함하여 Fudan University가 발표 한 포괄적이고 여러 분야의 여러 분야 및 자동으로 업데이트 된 현장 지식 평가 벤치 마크입니다.

• CMMLU [종이]

  • CMMLU는 포괄적 인 중국 평가 벤치 마크이며, 특히 중국 맥락에서 언어 모델의 지식과 추론 능력을 평가하는 데 사용됩니다. CMMLU는 기본 분야에서 고급 전문 수준에 이르기까지 67 개의 주제를 다룹니다. 여기에는 계산과 추론이 필요한 자연 과학, 지식이 필요한 인문학 및 사회 과학, 인생에서 상식이 필요한 중국 운전 규칙. Furthermore, many tasks in CMMLU have Chinese-specific answers and may not be universally applicable in other regions or languages. Therefore, it is a completely Chinese test benchmark.

• MMCU [paper]

  • MMCU是一个综合性的中文评测基准，包括来自医学、法律、心理学和教育等四大领域的测试。

• CG-Eval [paper]

  • CG-Eval是一个由甲骨易AI研究院与LanguageX AI Lab联合发布的针对中文大模型生成能力的评测基准。包含了科技与工程、人文与社会科学、数学计算、医师资格考试、司法考试、注册会计师考试等六个大科目类别下的55个子科目的11000道不同类型问题。CG-Eval包含一套复合的打分系统：对于非计算题，每一道名词解释题和简答题都有标准参考答案，采用多个标准打分然后加权求和；对于计算题目，会提取最终计算结果和解题过程，然后综合打分。

• CBLUE [paper]

  • CBLUE是一个中文医学语言理解评测基准，包含8个中文医疗语言理解任务。

• PromptCBLUE [paper]

  • PromptCBLUE是一个面向中文医疗场景的评测基准，通过对CBLUE基准进行二次开发，将16种不同的医疗场景NLP任务全部转化为基于提示的语言生成任务。

• LAiW [paper]

  • LAiW 是一个中文法律大模型评测基准，针对3大能力设计13个基础任务：1）法律NLP 基础能力：评测法律基础任务、 NLP 基础任务和法律信息抽取的能力，包括法条推送、要素识别、命名实体识别、司法要点摘要和案件识别5 个基础任务；2）法律基础应用能力：评测大模型对法律领域知识的基础应用能力，包括争议焦点挖掘、类案匹配、刑事裁判预测、民事裁判预测和法律问答5 个基础任务；3）法律复杂应用能力：评测大模型对法律领域知识的复杂应用能力，包括司法说理生成、案情理解和法律咨询3 个基础任务。

• LawBench [paper]

  • LawBench 是一个面向中国法律体系的法律评测基准。LawBench 模拟了司法认知的三个维度，并选择了20个任务来评估大模型的能力。与一些仅有多项选择题的现有基准相比，LawBench 包含了更多与现实世界应用密切相关的任务类型，如法律实体识别、阅读理解、犯罪金额计算和咨询等。

• LegalBench [paper]

  • LegalBench 是一个面向美国法律体系的法律评测基准，包含162个法律推理任务。

• LEXTREME [paper]

  • LEXTREME是一个多语言的法律评测基准，包含了24种语言11个评测数据集。

• LexGLUE [paper]

  • LexGLUE是一个英文法律评测基准。

• CFBenchmark [paper]

  • CFBenchmark是一个旨在评估大语言模型在中文金融场景下辅助工作的评测基准。CFBenchmark的基础版本包括3917个金融文本涵盖三个方面和八个任务，从金融识别、金融分类、金融生成三个方面进行组织。

• FinanceBench [paper]

  • FinanceBench是一个用于评估开放式金融问题问答的评测基准，包含10,231 个有关上市公司的问题，以及相应的答案。

• FinEval [paper]

  • FinEval是一个金融知识评测基准，包含了4,661个高质量的多项选择题，涵盖金融、经济、会计和证书等领域，34个不同的学术科目。

• FLARE [paper]

  • FLARE是一个金融评测基准，包含了金融知识理解和预测等任务。

• CFLEB [paper]

  • CFLEB是一个中文金融评测基准，包含两项语言生成任务和四项语言理解任务。

• FLUE [paper]

  • FLUE是一个金融评测基准，包含5个金融领域数据集。

• GeoGLUE [paper]

  • GeoGLUE是一个由阿里巴巴达摩院与高德联合发布的地理语义理解能力评测基准，旨在推动地理相关文本处理技术和社区的发展。本榜单提炼了其中多个典型场景：地图搜索、电商物流、政府登记、金融交通，并设计了六个核心任务：门址地址要素解析、地理实体对齐、Query-POI库召回、Query-POI相关性排序、地址Query成分分析、WhereWhat切分。

• OWL-Bench [paper]

  • OWL-Bench 是一个面向运维领域的双语评测基准。它包含317 个问答题和1000 个多选题，涵盖了该领域的众多现实工业场景，包括信息安全、应用、系统架构、软件架构、中间件、网络、操作系统、基础设施和数据库这九个不同的子领域。以确保OWL-Bench 能够展现出多样性。

• DevOps-Eval

  • DevOps-Eval是由蚂蚁集团联合北京大学发布的面向DevOps领域的大语言模型评测基准。

? 충수

点赞历史

? Friendly links

• Awesome Code LLM
  • 该项目收集了代码大模型相关论文，并整理出一篇综述。
• CodeFuse-ChatBot
  • CodeFuse-ChatBot是由蚂蚁CodeFuse团队开发的开源AI智能助手，致力于简化和优化软件开发生命周期中的各个环节。
• Awesome AIGC Tutorials
  • 该项目收集了关于AIGC的各种精选教程和资源，既适合初学者也适合进阶AI爱好者。
• Awesome Tool Learning
  • 该项目收集了关于工具学习的资源，包括论文、框架和应用。
• Awesome LLM reasoning
  • 该项目收集了关于大语言模型推理方面的资源，包括论文、数据集等。