lawyer llama
1.0.0
[Zh] [en]
Através do ajuste fino da instrução, o modelo LLAMA teve um desempenho muito bom no campo geral. No entanto, devido à falta de dados apropriados, poucas pessoas exploraram a capacidade da lhama no campo legal. Para preencher essa lacuna, propomos o advogado LLAMA, um modelo que foi treinado adicionalmente nos dados de domínio legal.
O advogado Llama primeiro realizou pré-treinamento contínuo em um corpus legal em larga escala para permitir que ele aprenda sistematicamente o sistema de conhecimento jurídico da China. Com base nisso, usamos o ChatGPT para coletar um lote de análises de perguntas objetivas para o exame de qualificação profissional legal unificado da China (a seguir referido como exame jurídico) e respostas à consulta legal, e usamos os dados coletados para ajustar o modelo para permitir que o modelo adquirisse a capacidade de aplicar conhecimento legal a cenários específicos.
Nosso modelo pode:
Mestre Conhecimento Jurídico Chinês: Ser capaz de entender corretamente conceitos legais em áreas comuns, como direito civil, direito penal, direito administrativo e lei de litígios. Por exemplo, se você dominar a teoria da composição do crime no direito penal, poderá identificar o sujeito criminal, objeto de crime, comportamento criminal, estado psicológico subjetivo e outros componentes criminais da descrição de casos criminais. O modelo usa os conceitos e teorias legais aprendidos para responder melhor a maioria das perguntas no exame jurídico.
Aplicado à prática jurídica chinesa : capaz de interpretar conceitos legais em idiomas fáceis de entender e conduzir consultas legais básicas, cobrindo campos legais como casamento, empréstimos, comércio marítimo e direito penal.
Para contribuir para a pesquisa aberta de modelos legais chineses, este projeto abrirá uma série de dados de ajuste fino e parâmetros de modelos legais chineses com base no treinamento de lhama .
[2024/4/25]? Nova versão do advogado LLAMA 2 ( lawyer-llama-13b-v2 ) Parâmetros do modelo, bem como dados de ajuste da diretiva jurídica de alta qualidade .
[2023/10/14] Atualizou o advogado do advogado LLAMA LLAMA LLAMA: Aprimorando o LLMS com conhecimento jurídico , fornecendo mais detalhes técnicos e descobertas de pesquisa.
[2023/6/8] lawyer-llama-13b-beta1.0 de código aberto parâmetros do modelo.
[2023/5/25] O código aberto de instruções em maior escala de dados de ajuste fino e publica dados de diálogo contendo leis e regulamentos relacionados a problemas de usuário.
[2023/5/25] Relatório técnico do advogado LLAMA.
[2023/4/13] Código aberto dos dados de ajuste fino gerados pelo ChatGPT, incluindo respostas para perguntas de teste legal 2K e respostas de consulta legal 5K.
Coletamos alguns dos dados jurídicos públicos para treinamento contínuo do modelo, incluindo disposições legais, documentos judiciais, etc.
Alpaca-GPT4 52k em chinês, 52k em inglês.
| Nome do arquivo | escala | descrever |
|---|---|---|
| ? fakao_gpt4.json | 1.000 | Respostas às perguntas legais de teste geradas pelo GPT-4 |
| ? zixun_gpt4.json | 1.000 | Resposta de consulta legal GPT-4 gerada com base na lei |
| Judicial_examination.json | 2.000 | Respostas às perguntas legais de teste geradas pelo GPT-3.5 |
| Judicial_examination_v2.json | 5.000 | Respostas às perguntas legais de teste geradas pelo GPT-3.5 (segundo lote) |
| Legal_advice.json | 5.000 | Resposta de consulta legal gerada pelo GPT-3.5 |
| Legal_counsel_v2.json | 8.000 | Respostas de consulta legal geradas pelo GPT-3.5 (segundo lote) |
| Legal_counsel_with_article_v2.json | 1.000 | GPT-3.5 Respostas de consulta legal geradas com base nas leis |
| Legal_counsel_multi_turn_with_article_v2.json | 476 | GPT-3.5 Múltiplas rodadas de diálogo de consulta legal gerada com base nas leis |
No treinamento do advogado Llama 2 ( lawyer-llama-13b-v2 ), usamos a nova versão dos dados legais de ajuste fino. A seguir, é apresentada uma comparação de alguns dados novos e antigos.
Digitamos as perguntas do teste do conjunto de dados de exame de direito chinês JEC-QA no ChatGPT para gerar uma análise de cada resposta.
A seguir, compara os dados usados pelas versões antigas e novas do advogado Llama:
| GPT-3.5 Geração | ? Geração GPT-4 |
|---|---|
| Pergunta: De acordo com a lei da propriedade, as seguintes disposições especiais sobre mudanças nos direitos de propriedade estão corretas? Se um direito de propriedade for obtido devido a herança ou legado, forneça um processo de raciocínio detalhado antes de dar a resposta após o efeito ocorrer desde o início da herança ou legado. Resposta: Esta declaração está correta. De acordo com o artigo X da lei da propriedade, "se um direito de propriedade for obtido por meio de herança ou legatário, ele entrará em vigor desde o início da herança ou do legado". Isso significa que, quando uma pessoa obtém propriedades por meio de herança ou legado, a eficácia desse direito de propriedade entra em vigor desde o início da herança ou do legado, e não a partir do momento da transferência da propriedade. Isso ocorre porque a herança ou o legado é uma maneira estatutária de obter direitos de propriedade; portanto, a eficácia dos direitos de propriedade deve entrar em vigor a partir desse momento estatutário. | Problema: Análise do cenário: Zhang deve Li 20.000 yuan, Zhang tem um táxi no valor de 40.000 yuan, e agora Zhang doa o carro para seu amigo Wang Wu; Li descobriu que Zhang não tem outras coisas valiosas, e esse presente afetará o reembolso de Zhang da dívida, então processou o tribunal para solicitar a revogação do presente de Zhang. O Tribunal determinará a eficácia do presente. Resposta: Zhang devia 20.000 yuan, e Zhang deu seu táxi no valor de 40.000 yuan a Wang Wu. Esse comportamento pode constituir uma transferência maliciosa de propriedade legalmente com o objetivo de fugir das dívidas. Li entrou com uma ação ao tribunal, solicitando a revogação do presente de Zhang para proteger os direitos de seu credor contra danos. Primeiro, de acordo com o artigo 254 do Código Civil da República Popular da China, se o devedor transferir maliciosamente a propriedade e prejudicar os interesses do credor, o credor tem o direito de solicitar ao Tribunal do Povo que revogue o comportamento do devedor. Nesse caso, o presente de Zhang pode ser considerado uma transferência maliciosa de propriedade, porque esse comportamento ocorre quando Zhang deve dívidas e Zhang não tem outras coisas valiosas. Esse presente provavelmente pode levar à incapacidade de realizar a dívida de Li. Em segundo lugar, de acordo com o artigo 255 do Código Civil da República Popular da China, o exercício do direito de revogação não prejudicará os direitos de um terceiro de boa -fé. No entanto, nesse caso, se Wang Wu, como a parte que recebeu o presente, tinha boas intenções e se sabia que o presente de Zhang prejudicaria os interesses do credor (LI), era a chave para julgar se o presente era eficaz. Se Wang Wu soubesse que o presente de Zhang foi realizado para evitar o pagamento de dívidas, Wang Wu não poderia ser considerado um terceiro de boa fé. Portanto, com base na análise acima, o comportamento do presente de Zhang prejudicou os interesses do credor LI e foi realizado quando o devedor transferiu maliciosamente a propriedade. De acordo com as disposições relevantes do Código Civil da República Popular da China, o Tribunal deve determinar que o comportamento do presente é inválido. Tais julgamentos têm como objetivo proteger os interesses dos credores e impedir que o devedor evite dívidas transferindo a propriedade. Portanto, o Tribunal deve determinar que a eficácia do presente é inválida. |
Coletamos algumas perguntas de consultoria do conjunto de dados aberto e entramos no ChatGPT para deixar o ChatGPT desempenhar o papel de um advogado para responder às perguntas. A entrada de leis relevantes em conjunto pode melhorar a qualidade da geração de chatgpt.
A seguir, compara os dados usados pelas versões antigas e novas do advogado Llama:
| GPT-3.5 Geração | ? Geração GPT-4 |
|---|---|
| Pergunta: Olá, como os casais distribuem sua propriedade após o divórcio Resposta: Olá, de acordo com as disposições relevantes do Código Civil, a distribuição de propriedades de casais após o divórcio pode ser tratada através da negociação entre o casal. Se não houver consenso, o Tribunal precisará fazer um julgamento com base nas circunstâncias específicas da propriedade e de acordo com o princípio de cuidar dos direitos e interesses das crianças, da mulher e do partido não culposo. A propriedade comum obtida pelo casal durante o casamento, incluindo salários, bônus, remuneração do trabalho, produção, operação, receita de investimento, direitos de propriedade intelectual, propriedades herdadas ou doadas e outras propriedades que devem ser de propriedade em conjunto, serão divididas igualmente. Os bens pessoais obtidos por marido e mulher durante o casamento, incluindo propriedade pré-conjugal, compensação ou compensação obtida por lesões pessoais, a propriedade determinada a pertencer a uma parte em um contrato de vontade ou presente e as necessidades diárias exclusivamente para uma parte pertencem a essa parte. Como é a propriedade que você obteve durante o casamento? | Pergunta: Meu marido geralmente não vai para casa. Eu sei que ele está do lado de fora e fez muitas coisas ruins ao mesmo tempo. 365 dias por ano. O que devo fazer sobre esta situação? Resposta: De acordo com a situação que você fornece, seu marido não voltou para casa há muito tempo e há outras pessoas do lado de fora, o que pode abordar as disposições do artigo 1042 do Código Civil sobre "proibir os cônjuges de viver com outras pessoas". Se seu marido vive com outras pessoas, isso constitui uma violação legal e, como vítima, você tem o direito de tomar ações legais correspondentes. Primeiro, você precisa coletar evidências. Isso inclui, mas não se limita à evidência de que seu marido mora com os outros, o tempo que ele não vai para casa e a evidência de que "muitas coisas ruins" que ele faz. Evidências podem ser fotos, vídeos, registros de comunicação, testemunho de testemunhas etc., o que é crucial para sua ação legal subsequente. Em segundo lugar, se o comportamento do seu marido causar danos mentais ou perdas econômicas a você, você poderá reivindicar uma compensação de acordo com as disposições relevantes do Código Civil. A lei do casamento também estipula a obrigação de lealdade entre marido e mulher. Se for violado, a parte ferida tem o direito de reivindicar compensação por danos mentais. Terceiro, considerando que seu marido "fez muitas coisas ruins" que você mencionou, a situação específica precisa ser mais esclarecida. Esses comportamentos envolvem crimes ilegais ou "coisas ruins" no nível moral? Se houver atividades ilegais ou criminosas, considere relatar o departamento relevante. Este não é apenas um ato de proteger os próprios direitos e interesses, mas também uma implementação de responsabilidades sociais. Finalmente, essa é uma pergunta que precisa de uma consideração séria sobre o fim de um casamento. A infidelidade é uma das razões importantes pelas quais muitas pessoas optam por se divorciar. Com base nas evidências que você coletou, se você decidir dar essa etapa, poderá entrar com um processo de divórcio no Tribunal do Povo, solicitando dividir a propriedade conjunta do casal, lutar pela custódia das crianças (se houver), etc. No processo, considerando a complexidade das questões legais, pode ser necessário procurar ajuda de advogados profissionais que possam fornecer consultoria jurídica mais profissional e conduzir atividades de litígio em seu nome. Em suma, a situação que você está enfrentando é mais complicada, mas você tem todo o direito de tomar medidas para proteger seus direitos e interesses legítimos. A chave é coletar evidências, avaliar a situação e procurar ajuda legal profissional, se necessário. |
Atualmente, as seguintes versões do advogado llama são divulgadas:
lawyer-llama-13b-v2 : Baseado em quzhe/llama_chinese_13b (LLAMA-2 foi continuamente pré-treinado em chinês), a SFT é realizada usando as instruções legais geradas por instrução geral e GPT-4, equipado com módulo de pesquisa legal relacionado ao casamento. Para endereço de download e métodos de uso, consulte demo/run_inference_v2.md .lawyer-llama-13b-beta1.0 : Com base no chinês-lama-13b, a SFT é realizada usando as instruções legais geradas por instruções gerais e o GPT-3.5, equipado com o módulo de busca legal relacionada ao casamento. Para endereços de download e métodos de uso, consulte demo/run_inference_v1.md . Utilizamos 200 questões de consulta relacionadas ao casamento em cadeia de discussão para testar o seguinte modelo:
lawyer-llama-13b-v2 )lawyer-llama-13b-beta1.0 )Use o GPT-4 para avaliar a qualidade das respostas de consulta (de 10 pontos). Durante o processo de pontuação, pedimos ao modelo GPT-4 que classificasse o texto em torno das perspectivas de fluência, lógica, se citou leis irrelevantes e se era semanticamente consistente com a resposta padrão do ouro escrito pelo advogado. Cada modelo é expresso da seguinte forma:
| Modelo | Pontuação |
|---|---|
| ? Advogado Llama 2 | 6.71 |
| Advogado Llama 1 | 5.61 |
| Lawllm do disco | 5.70 |
| GPT-3.5-Turbo | 6.90 |
| Gemini-1.0-Pro | 6.94 |
Para o desempenho da versão antiga do lawyer-llama-13b-beta1.0 , consulte a versão antiga do ReadMe.
A seguir, mostra os resultados da advogada Llama 2, o advogado LLAMA 1 e o Disc-Lawllm para o mesmo problema.
Pergunta: não pode herdar a propriedade sem apoiar os idosos?
Leis relacionadas:
Saída do modelo:
| Lawllm do disco | Advogado Llama 1 | ? Advogado Llama 2 |
|---|---|---|
| Pontuação do GPT-4: 4 pontos <br> De acordo com o Código Civil, as crianças têm a obrigação de apoiar seus pais. Se os filhos adultos não cumprirem sua obrigação de apoiar, os pais que não têm a capacidade de trabalhar ou têm dificuldades em suas vidas têm o direito de exigir que seus filhos adultos paguem apoio. Portanto, por lei, se a obrigação de apoiar os idosos não for cumprida, o direito de herança será perdido. No entanto, deve -se notar que se houver uma situação de "perda de direito de herança" deve ser determinada pelo Tribunal com base na situação específica do caso, e todos os comportamentos de idosos não suportados não podem ser diretamente generalizados. | Classificação GPT-4: 3 pontos <br> Olá, de acordo com as leis chinesas, você não pode se tornar um herdeiro sem apoiar os idosos, mas se o falecido faleceu, sua propriedade será distribuída aos herdeiros legais na ordem de herança estatutária. Ao mesmo tempo, se o falecido forneceu apoio ou apoio antes de sua morte, ele poderá prestar certo cuidado ao alocar a herança. Além disso, se houver disposições sobre distribuição de propriedades na vontade do falecido, ela será executada de acordo com o testamento. Qual é a sua situação específica? | Pontuação do GPT-4: 8 pontos <br> De acordo com sua consulta, podemos analisar a questão de saber se a propriedade não pode ser herdada devido à falta de apoio aos idosos. Primeiro de tudo, de acordo com o artigo 1130 do Código Civil, se os herdeiros cumprirem suas principais obrigações de apoio ao falecido ou viver com o falecido, poderão dividir mais a herança do que a herança. Isso significa que, se os herdeiros apoiarem o herdeiro financeiramente ou cuidam de sua vida antes de sua vida, ele poderá obter uma parcela maior da herança. Em segundo lugar, o artigo 1125 do Código Civil afirma claramente que, se o herdeiro abandonar o falecido ou abusar do falecido em circunstâncias sérias, o direito de herança será perdido. Isso sugere que, se o herdeiro abandonou ou abusou do falecido antes de sua vida, fazendo com que sua vida tivesse problemas, ele pode ser restrito ao herdar a propriedade. No entanto, o Código Civil não estipula diretamente que a propriedade não pode ser herdada sem apoio aos idosos. A aquisição dos direitos de herança é baseada principalmente em laços de sangue e no escopo dos herdeiros estipulados por lei, em vez de dependem diretamente do ato de apoiar os idosos. Portanto, mesmo que a obrigação de apoiar os idosos não seja cumprida, os herdeiros ainda têm o direito de herdar a propriedade. Em resumo, embora o ato de apoiar os idosos possa afetar o exercício do direito de herança, não apoiar os idosos não priva diretamente o direito da herança. A aquisição do direito de herança depende principalmente dos laços de sangue e das qualificações de herdeiros estipulados por lei. Se você tiver dúvidas sobre direitos de herança, é recomendável saber mais sobre seus direitos de herança e considerar se há algum abandono ou abuso para evitar afetar o exercício dos direitos de herança. |
Obrigado pela sua ajuda dos seguintes projetos durante o processo de abertura.
https://jecqa.thunlp.org/
https://opendata.pku.edu.cn/dataset.xhtml?persistentid=doi:10.18170/dvn/olo4g8
https://github.com/tatsu-lab/stanford_alpaca
https://github.com/lianjiatech/belle
https://github.com/ymcui/chinese-llama-alpaca
https://github.com/pointnetwork/point-alpaca
Os principais colaboradores deste projeto:
Huang quzhe*, Tao Mingxu*, Zhang Chen*, um Zhenwei*, Jiang Cong, Chen Zhibin, Wu Zirui, Feng Yansong
* Igual contribuição
Este projeto foi realizado sob a orientação do professor Feng Yansong.
Muitos desenvolvedores compartilharam a implantação e o uso da lhama de advogados, e eu gostaria de expressar minha gratidão. As contribuições da comunidade relevantes estão listadas da seguinte forma:
lawyer-llama-13b-v2 e implantado através do ollama, consulte o #66 (crédito a @yangxiaoshuai2333) O conteúdo deste projeto é apenas para pesquisa acadêmica e não deve ser usada para propósitos comerciais e outros que possam causar danos à sociedade. Ao usar peças envolvendo código de terceiros, siga estritamente o protocolo de código aberto correspondente.
Os dados usados neste projeto são gerados pelo ChatGPT. Não foi verificado estritamente e pode haver conteúdo incorreto. Por favor, tenha cuidado ao identificá -lo ao usá -lo.
A saída do modelo neste projeto não é um resultado de consulta legal profissional e pode conter conteúdo incorreto. Se você precisar de assistência jurídica, obtenha ajuda de um profissional.
Se você usou o conteúdo deste projeto ou acha que este projeto é útil para sua pesquisa, cite este projeto.
@misc{huang2023lawyer,
title={Lawyer LLaMA Technical Report},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
eprint={2305.15062},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
@misc{Lawyer-LLama,
title={Lawyer Llama},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
publisher={GitHub},
journal={GitHub repository},
howpublished={url{https://github.com/AndrewZhe/lawyer-llama}},
}
