lawyer llama
1.0.0
[Zh] [en]
指示の微調整を通じて、Llamaモデルは一般的な分野で非常にうまく機能しました。ただし、適切なデータが不足しているため、法的分野でのLlamaの能力を調査した人はほとんどいません。このギャップを埋めるために、法的ドメインデータについてさらに訓練されたモデルである弁護士ラマを提案します。
弁護士ラマは、中国の法的知識制度を体系的に学習できるようにするために、大規模な合法的なコーパスで最初に継続的な事前供与を実施しました。これに基づいて、CHATGPTを使用して、中国の全国統一された法的専門資格試験（以下、法的試験と呼ばれる）および法的協議に対する回答の客観的な質問の分析を収集し、収集されたデータを使用してモデルを微調整して特定のシナリオに法的知識を適用する能力を獲得しました。
私たちのモデルは：
中国の法的知識をマスター：民法、刑法、行政法、訴訟法などの共通分野で法的概念を正しく理解できるようにします。たとえば、刑法における犯罪構成の理論を習得すると、犯罪の主題、犯罪の対象、犯罪行為、主観的な心理的状態、および刑事事件の事実の記述からその他の犯罪的要素を特定できます。このモデルは、法的概念と理論を使用して、法的試験のほとんどの質問によりよく答えることができます。
中国の法的慣行に適用される：法的概念を理解しやすい言語で解釈し、結婚、貸付、海事商業、刑法などの法的分野をカバーする基本的な法的協議を実施することができます。
中国の法的モデルのオープンな研究に貢献するために、このプロジェクトは、ラマトレーニングに基づいた中国の法的モデルの一連の指令微調整データとパラメーターをオープンします。
[2024/4/25]？弁護士Llama 2（ lawyer-llama-13b-v2 ）の新しいバージョンモデルパラメーター、および高品質の法的指令微調整データ。
[2023/10/14]弁護士Llamaの技術報告書弁護士Llamaを更新：法的知識でLLMを強化し、より多くの技術的詳細と調査結果を提供します。
[2023/6/8]オープンソースlawyer-llama-13b-beta1.0モデルパラメーター。
[2023/5/25]大規模な命令のオープンソース微調整データとユーザーの問題に関連する法律と規制を含む対話データを公開します。
[2023/5/25]弁護士Llamaの技術報告書をリリースします。
[2023/4/13] 2Kの法的テストの質問や5Kの法的相談の回答を含む、CHATGPTによって生成された微調整データのオープンソース。
法的規定、司法文書など、モデルの継続的なトレーニングのための公的法的データの一部を収集しました。
中国語のALPACA-GPT4 52K、英語で52K。
| ファイル名 | 規模 | 説明する |
|---|---|---|
| ？ fakao_gpt4.json | 1,000 | GPT-4によって生成された法的テストの質問に対する回答 |
| ？ zixun_gpt4.json | 1,000 | GPT-4法律に基づいて生成された法的協議の対応 |
| Judicial_examination.json | 2,000 | GPT-3.5によって生成された法的テストの質問に対する回答 |
| Judicial_examination_v2.json | 5,000 | GPT-3.5（2番目のバッチ）によって生成された法的テストの質問への回答 |
| Legal_advice.json | 5,000 | GPT-3.5によって生成された法的協議対応 |
| Legal_counsel_v2.json | 8,000 | GPT-3.5（2番目のバッチ）によって生成された法的協議の回答 |
| Legal_counsel_with_article_v2.json | 1,000 | GPT-3.5法律に基づいて生成された法的協議の回答 |
| Legal_counsel_multi_turn_with_article_v2.json | 476 | GPT-3.5法律に基づいて生成された法的協議対話の複数ラウンド |
弁護士ラマ2（ lawyer-llama-13b-v2 ）のトレーニングでは、法的な微調整データの新しいバージョンを使用しました。以下は、いくつかの新しいデータと古いデータの比較です。
JEC-QA中国の法律試験データセットからテストの質問をChatGPTに入力して、各回答の分析を生成します。
以下は、弁護士ラマの古いバージョンと新しいバージョンで使用されているデータを比較しています。
| GPT-3.5世代 | ？ GPT-4世代 |
|---|---|
| 質問：財産法によると、財産権の変更に関する次の特別な規定は正しいですか？ 相続または遺産のために財産権が得られる場合、継承または遺産の開始から効果が発生した後に答えを与える前に、詳細な推論プロセスを提供してください。 返信：このステートメントは正しいです。 財産法の第X条によると、「財産権が相続またはレガティ人を通じて得られた場合、それは相続またはレガティの開始から有効になります。」これは、人が相続またはレガティを介して財産を取得する場合、この財産権の有効性が、財産権の譲渡時ではなく、相続財産またはレガティの開始から施行されることを意味します。これは、継承またはレガシーが財産権を取得する法的な方法であるため、財産権の有効性がこの法定時点から有効になるはずです。 | 問題：シナリオ分析：Zhangは20,000元を負っています。チャンは40,000元のタクシーを持っています。リーは、Zhangには他に貴重なものがないことを発見し、この贈り物はZhangの債務の返済に影響を与えるため、Zhangの贈り物の取り消しを要求するために裁判所を訴えました。裁判所は、贈り物の有効性を決定するものとします。 返信： ZhangはLiを20,000元を借りて、Zhangは彼のタクシーに40,000元の価値が王Wuに与えました。この行動は、債務を回避する目的で、法的に財産の悪意のある移転を構成する可能性があります。 Liは裁判所に訴訟を起こし、債権者の権利を損害から保護するためにZhangの贈り物の取り消しを要求しました。 第一に、中華人民共和国の民法第254条によれば、債務者が財産を悪意を持って譲渡し、債権者の利益を損なう場合、債権者は債務者の行動を取り消すために人民裁判所に要求する権利を持っています。この場合、チャンの贈り物は財産の悪意のある移転と見なされる可能性があります。これは、Zhangが債務を負っており、Zhangには他に貴重なものがない場合に発生するためです。この贈り物は、李の借金を実現できないことにつながる可能性が非常に高いです。 第二に、中華人民共和国の民法第255条によれば、取り消しの権利の行使は、真正な第三者の権利を傷つけないものとします。しかし、この場合、Wang Wuは、贈り物を受け取った党として、善意を持っていたかどうか、そしてZhangの贈り物が債権者（Li）の利益を傷つけることを知っていたかどうかは、贈り物が効果的かどうかを判断する鍵でした。王は、Zhangの贈り物が債務の返済を回避するために行われたことを知っていた場合、Wang Wuは誠実に第三者と見なすことができませんでした。 したがって、上記の分析に基づいて、Zhangの贈り物の行動は債権者Liの利益を傷つけ、債務者が悪意を持って財産を移転したときに行われました。中華人民共和国の民法の関連規定によれば、裁判所は贈り物の行動が無効であると判断すべきです。このような判断は、債権者の利益を保護し、債務者が財産を譲渡することにより債務を回避することを妨げることを目的としています。したがって、裁判所は、贈り物の有効性が無効であると判断する必要があります。 |
Open Datasetからいくつかのコンサルティングの質問を収集し、ChatGptを入力して、ChatGptが質問に答えるために弁護士の役割を果たしました。関連する法律を一緒に入力すると、ChatGPTの世代の品質が向上する可能性があります。
以下は、弁護士ラマの古いバージョンと新しいバージョンで使用されているデータを比較しています。
| GPT-3.5世代 | ？ GPT-4世代 |
|---|---|
| 質問：こんにちは、カップルは離婚後にどのように財産を配布しますか 返信：こんにちは、民法の関連規定によると、離婚後のカップルの財産配布は、カップル間の交渉を通じて処理できます。コンセンサスがない場合、裁判所は、財産の特定の状況に基づいて、子供、女性、非障害者の権利と利益の世話をする原則に従って判断を下す必要があります。賃金、ボーナス、労働報酬、生産、運用、投資収入、知的財産権、継承または寄付された財産、および共同所有されるべきその他の財産を含む、結婚中に夫婦が取得した共通財産は、均等に分割されるものとします。結婚中に夫婦が取得した個人財産は、婚前の財産、人身傷害のために得られた補償または補償、遺言またはギフト契約の1つの当事者に属すると判断された財産、および一方の当事者専用の日常的な必需品を含む。結婚中にあなたが得た財産はどのようにしていますか？ | 質問：私の夫はしばしば家に帰りません。私は彼が外にいることを知っており、同時に多くの悪いことをしました。年間365日。この状況についてどうすればよいですか？ 返信：あなたが提供する状況によれば、あなたの夫は長い間家に戻っていないし、外に他の人がいる。「配偶者が他の人と一緒に暮らすことを禁止する」という民法の第1042条の規定に触れるかもしれない。あなたの夫が他の人と一緒に住んでいる場合、これは法的違反を構成し、被害者として、あなたは対応する法的措置を講じる権利を持っています。 まず、証拠を収集する必要があります。これには、あなたの夫が他の人と一緒に住んでいるという証拠、彼が家に帰らない時、そして彼がする「多くの悪いこと」の証拠が含まれますが、これらに限定されません。証拠は、写真、ビデオ、コミュニケーションの記録、証人の証言などです。これは、その後の法的措置に不可欠です。 第二に、あなたの夫の行動があなたに精神的危害または経済的損失を引き起こす場合、あなたは民法の関連する規定に従って補償を請求することができます。結婚法はまた、夫と妻の間の忠誠心の義務を規定しています。違反した場合、負傷者は精神的損害に対する補償を請求する権利を有します。 第三に、あなたの夫があなたが言及した「多くの悪いことをした」ことを考えると、特定の状況をさらに明確にする必要があります。これらの行動には、道徳的レベルでの違法犯罪または「悪いこと」が含まれますか？違法または犯罪行為がある場合は、関連部門への報告を検討できます。これは、自分の権利と利益を保護する行為だけでなく、社会的責任の実施でもあります。 最後に、これは結婚を終わらせるかどうかについて真剣に検討する必要がある質問です。不倫は、多くの人々が離婚を選択する重要な理由の1つです。収集した証拠に基づいて、このステップを踏むことにした場合、人民裁判所に離婚訴訟を提起し、カップルの共同財産を分割することを要求し、子供の監護権（もしあれば）などと戦うことができます。 その過程で、法的問題の複雑さを考慮すると、より専門的な法的助言を提供し、あなたに代わって訴訟活動を行うことができる専門弁護士に助けを求める必要があるかもしれません。 全体として、あなたが直面している状況はより複雑ですが、あなたはあなたの正当な権利と利益を保護するために行動を起こすすべての権利を持っています。重要なのは、証拠を収集し、状況を評価し、必要に応じて専門的な法的支援を求めることです。 |
弁護士ラマの次のバージョンが現在開示されています。
lawyer-llama-13b-v2 ：quzhe/llama_chinese_13b（llama-2は中国語では継続的に事前に訓練されていました）に基づいて、SFTは、一般指導とGPT-4によって生成された法的指示を使用して行われます。アドレスと使用方法をダウンロードするには、 demo/run_inference_v2.mdを参照してください。lawyer-llama-13b-beta1.0 ：中国語-llama-13bに基づいて、SFTは、一般的な指示とGPT-3.5によって生成された法的指示を使用して実行されます。アドレスと使用方法をダウンロードするには、 demo/run_inference_v1.mdを参照してください。 私たちは、議論のチェーンに200の結婚関連の相談の質問を使用して、次のモデルをテストしました。
lawyer-llama-13b-v2 ）lawyer-llama-13b-beta1.0 ）GPT-4を使用して、相談応答の質を評価します（10ポイントのうち）。スコアリングプロセス中に、GPT-4モデルに、無関係な法律を引用したかどうか、およびそれが弁護士によって書かれたゴールドスタンダードの返信と意味的に一致しているかどうか、流encyさ、論理の視点に関するテキストを評価するように依頼しました。各モデルは次のように表現されます。
| モデル | スコア |
|---|---|
| ？弁護士ラマ2 | 6.71 |
| 弁護士ラマ1 | 5.61 |
| disc-lawllm | 5.70 |
| GPT-3.5-ターボ | 6.90 |
| gemini-1.0-pro | 6.94 |
lawyer-llama-13b-beta1.0の古いバージョンのパフォーマンスについては、古いバージョンのREADMEを参照してください。
以下は、同じ問題に対する弁護士Llama 2、弁護士Llama 1、Disc-Lawllmの出力を示しています。
質問：高齢者を支援せずに財産を継承することはできませんか？
関連する法律：
モデル出力：
| disc-lawllm | 弁護士ラマ1 | ？弁護士ラマ2 |
|---|---|---|
| GPT-4スコア：4ポイント<br>民法によると、子どもたちは両親を支援する義務があります。大人の子供たちが支援する義務を果たさない場合、仕事をする能力や人生で困難を抱えている親は、大人の子供に支援を支払うように要求する権利を持っています。したがって、法律では、高齢者を支援する義務が満たされない場合、相続権は失われます。 ただし、「相続権の喪失」状況があるかどうかは、特定の事例の状況に基づいて裁判所によって決定されるべきであり、サポートされていない高齢者のすべての行動は直接一般化できないことに注意する必要があります。 | GPT-4格付け：3ポイント<br>こんにちは、中国の法律によれば、あなたは高齢者を支持することなく相続人になることはできませんが、故人が亡くなった場合、彼の財産は法定相続の順序で法的相続人に分配されます。同時に、故人が彼の死の前に支援または支援を提供していた場合、彼は相続を割り当てるときに特定のケアを与えることができます。さらに、故人の意志に財産分布に関する規定がある場合、それは遺言に従って実行されるものとします。あなたの特定の状況は何ですか？ | GPT-4スコア：8ポイント<br>相談によると、高齢者へのサポートがないため、不動産を継承できないかどうかの問題を分析できます。 まず第一に、民法第1130条によれば、相続人が故人に対する主な支持義務を果たしたり、故人と一緒に住んでいる場合、彼らは相続よりも相続財産を分割することができます。これは、相続人が継承者を財政的に支持したり、人生の前に彼の人生の世話をする場合、彼は相続のより大きな割合を得るかもしれないことを意味します。 第二に、民法の第1125条は、相続人が故人を放棄した場合、または深刻な状況で故人を虐待した場合、継承の権利が失われることを明確に述べています。これは、相続人が彼の人生の前に故人を放棄または虐待し、彼の人生を困らせた場合、彼は財産を相続するときに制限される可能性があることを示唆しています。 ただし、民法は、高齢者への支援なしに財産を継承できないことを直接規定していません。相続権の獲得は、主に血のつながりと、高齢者を支援する行為に直接依存するのではなく、法律で規定された相続人の範囲に基づいています。したがって、高齢者を支援する義務が満たされていなくても、相続人は依然として不動産を継承する権利を持っています。 要約すると、高齢者を支援する行為は相続権の行使に影響を与える可能性がありますが、高齢者を支持しないことは相続権を直接奪うことはありません。相続権の獲得は、主に血のつながりと法律で規定された相続人の資格に依存します。相続権について質問がある場合は、相続権についてさらに学び、相続権の行使に影響を与えることを避けるために放棄または虐待があるかどうかを検討することをお勧めします。 |
オープニングプロセス中の以下のプロジェクトからご協力いただきありがとうございます。
https://jecqa.thunlp.org/
https://opendata.pku.edu.cn/dataset.xhtml?persistentid=doi:10.18170/dvn/olo4g8
https://github.com/tatsu-lab/stanford_alpaca
https://github.com/lianjiatech/belle
https://github.com/ymcui/chinese-llama-alpaca
https://github.com/pointnetwork/point-alpaca
このプロジェクトの主な貢献者：
Huang Quzhe*、Tao Mingxu*、Zhang Chen*、An Zhenwei*、Jiang Cong、Chen Zhibin、Wu Zirui、Feng Yansong
*平等な貢献
このプロジェクトは、Feng Yansong教授の指導の下で実施されました。
多くの開発者は、弁護士ラマの展開と使用を共有しており、感謝の気持ちを表明したいと思います。関連するコミュニティの貢献は、次のようにリストされています。
lawyer-llama-13b-v2の量子化とOllamaを介して展開された＃66（ @Yangxiaoshuai2333のクレジット）を参照してください。 このプロジェクトの内容は学術研究のみであり、社会に害を及ぼす可能性のある商業的およびその他の目的に使用されてはなりません。サードパーティコードを含むパーツを使用する場合は、対応するオープンソースプロトコルに厳密に従ってください。
このプロジェクトで使用されているデータは、ChatGPTによって生成されます。厳密に検証されておらず、コンテンツが誤っている可能性があります。使用するときは、それを特定するように注意してください。
このプロジェクトのモデル出力は、専門的な法的協議の結果ではなく、誤ったコンテンツが含まれている可能性があります。法的援助が必要な場合は、専門家から助けを求めてください。
このプロジェクトの内容を使用した場合、またはこのプロジェクトがあなたの研究に役立つと思う場合は、このプロジェクトを引用してください。
@misc{huang2023lawyer,
title={Lawyer LLaMA Technical Report},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
eprint={2305.15062},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
@misc{Lawyer-LLama,
title={Lawyer Llama},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
publisher={GitHub},
journal={GitHub repository},
howpublished={url{https://github.com/AndrewZhe/lawyer-llama}},
}
