[Zh] [en]
Melalui penyempurnaan instruksi, model Llama telah berkinerja sangat baik di bidang umum. Namun, karena kurangnya data yang tepat, beberapa orang telah mengeksplorasi kemampuan Llama di bidang hukum. Untuk mengisi kesenjangan ini, kami mengusulkan Lawyer Llama, sebuah model yang telah dilatih juga pada data domain hukum.
Pengacara Llama pertama kali melakukan pretraining terus menerus pada korpus hukum skala besar untuk mengizinkannya secara sistematis mempelajari sistem pengetahuan hukum Tiongkok. Atas dasar ini, kami menggunakan chatgpt untuk mengumpulkan sejumlah analisis pertanyaan objektif untuk pemeriksaan kualifikasi profesional hukum unifikasi nasional China (selanjutnya disebut sebagai pemeriksaan hukum) dan jawaban atas konsultasi hukum, dan menggunakan data yang dikumpulkan untuk menyempurnakan model untuk memungkinkan model memperoleh kemampuan menerapkan pengetahuan hukum pada skenario tertentu.
Model kami dapat:
Pengetahuan Hukum Master Cina: dapat memahami konsep hukum dengan benar di bidang umum seperti hukum sipil, hukum pidana, hukum administrasi, dan hukum litigasi. Misalnya, jika Anda menguasai teori komposisi kejahatan dalam hukum pidana, Anda dapat mengidentifikasi subjek kriminal, objek kejahatan, perilaku kriminal, negara psikologis subyektif dan komponen kriminal lainnya dari deskripsi fakta kasus pidana. Model ini menggunakan konsep dan teori hukum yang dipelajari untuk menjawab sebagian besar pertanyaan dalam ujian hukum dengan lebih baik.
Diterapkan pada Praktik Hukum Tiongkok : Mampu menafsirkan konsep hukum dalam bahasa yang mudah dipahami dan melakukan konsultasi hukum dasar, yang mencakup bidang hukum seperti pernikahan, pinjaman, perdagangan maritim, dan hukum pidana.
Untuk berkontribusi pada penelitian terbuka model hukum Tiongkok, proyek ini akan membuka serangkaian data penyempurnaan pengarahan dan parameter model hukum Tiongkok berdasarkan pelatihan LLAMA .
[2024/4/25]? Versi baru dari parameter model Lawyer Llama 2 ( lawyer-llama-13b-v2 ) , serta data penyempurnaan pengarahan hukum berkualitas tinggi .
[2023/10/14] Laporan Teknis Pengacara Llama yang Diperbarui Llama: Meningkatkan LLM dengan pengetahuan hukum , memberikan lebih banyak detail teknis dan temuan penelitian.
[2023/6/8] Parameter model Open Source lawyer-llama-13b-beta1.0 .
[2023/5/25] Sumber terbuka dari data penyempurnaan instruksi skala besar dan mempublikasikan data dialog yang berisi undang-undang dan peraturan yang terkait dengan masalah pengguna.
[2023/5/25] Laporan Teknis Pengacara Llama.
[2023/4/13] Sumber terbuka data penyesuaian instruksi yang dihasilkan oleh chatgpt, termasuk jawaban untuk pertanyaan tes hukum 2K dan balasan konsultasi hukum 5K.
Kami telah mengumpulkan beberapa data hukum publik untuk pelatihan model yang berkelanjutan, termasuk ketentuan hukum, dokumen yudisial, dll.
Alpaca-GPT4 52K dalam bahasa Cina, 52k dalam bahasa Inggris.
| Nama file | skala | menggambarkan |
|---|---|---|
| ? fakao_gpt4.json | 1.000 | Jawaban atas pertanyaan tes hukum yang dihasilkan oleh GPT-4 |
| ? zixun_gpt4.json | 1.000 | GPT-4 Respons konsultasi hukum yang dihasilkan berdasarkan hukum |
| judicial_examination.json | 2.000 | Jawaban atas pertanyaan tes hukum yang dihasilkan oleh GPT-3.5 |
| Judicial_examination_v2.json | 5.000 | Jawaban atas pertanyaan tes hukum yang dihasilkan oleh GPT-3.5 (batch kedua) |
| legal_advice.json | 5.000 | Respons konsultasi hukum yang dihasilkan oleh GPT-3.5 |
| legal_counsel_v2.json | 8.000 | Respons konsultasi hukum yang dihasilkan oleh GPT-3.5 (batch kedua) |
| legal_counsel_with_article_v2.json | 1.000 | GPT-3.5 Respons konsultasi hukum yang dihasilkan berdasarkan undang-undang |
| legal_counsel_multi_turn_with_article_v2.json | 476 | GPT-3.5 Berbagai putaran dialog konsultasi hukum yang dihasilkan berdasarkan undang-undang |
Dalam pelatihan Lawyer Llama 2 ( lawyer-llama-13b-v2 ), kami menggunakan versi baru data penyempurnaan hukum. Berikut ini adalah perbandingan dari beberapa data baru dan lama.
Kami memasukkan pertanyaan tes dari dataset pemeriksaan hukum Tiongkok JEC-QA ke dalam chatgpt untuk menghasilkan analisis setiap jawaban.
Berikut ini membandingkan data yang digunakan oleh versi lama dan baru pengacara Llama:
| Generasi GPT-3.5 | ? Generasi GPT-4 |
|---|---|
| Pertanyaan: Menurut undang -undang properti, apakah ketentuan khusus berikut tentang perubahan hak properti benar? Jika hak properti diperoleh karena warisan atau warisan, harap berikan proses penalaran yang terperinci sebelum memberikan jawaban setelah efek terjadi sejak awal warisan atau warisan. Balas: Pernyataan ini benar. Menurut Pasal X Hukum Properti, "Jika hak properti diperoleh melalui warisan atau waris, itu akan berlaku dari awal warisan atau warisan." Ini berarti bahwa ketika seseorang memperoleh properti melalui warisan atau warisan, efektivitas hak properti ini mulai berlaku sejak awal warisan atau waris, daripada dari waktu transfer hak properti. Ini karena warisan atau warisan adalah cara hukum untuk mendapatkan hak properti, sehingga efektivitas hak properti harus berlaku dari titik waktu hukum ini. | Masalah: Analisis Skenario: Zhang berutang 20.000 yuan, Zhang memiliki taksi senilai 40.000 yuan, dan sekarang Zhang menyumbangkan mobil itu kepada temannya Wang Wu; Li menemukan bahwa Zhang tidak memiliki hal -hal berharga lainnya, dan hadiah ini akan memengaruhi pembayaran hutang Zhang, jadi dia menggugat pengadilan untuk meminta pencabutan hadiah Zhang. Pengadilan harus menentukan efektivitas hadiah. Balas: Zhang berhutang 20.000 yuan, dan Zhang memberikan taksi senilai 40.000 yuan ke Wang Wu. Perilaku ini dapat merupakan transfer properti yang berbahaya secara legal dengan tujuan menghindari hutang. Li mengajukan gugatan ke pengadilan, meminta pencabutan hadiah Zhang untuk melindungi hak -hak kreditornya dari kerusakan. Pertama, menurut Pasal 254 KUHAP Republik Rakyat Tiongkok, jika debitur dengan jahat mentransfer properti dan membahayakan kepentingan kreditor, kreditor memiliki hak untuk meminta pengadilan rakyat untuk mencabut perilaku debitur. Dalam hal ini, hadiah Zhang dapat dianggap sebagai transfer properti yang berbahaya, karena perilaku ini terjadi ketika Zhang berutang hutang dan Zhang tidak memiliki hal -hal berharga lainnya. Hadiah ini sangat mungkin mengarah pada ketidakmampuan untuk mewujudkan utang Li. Kedua, menurut Pasal 255 Kode Sipil Republik Rakyat Tiongkok, pelaksanaan hak pencabutan tidak akan membahayakan hak -hak pihak ketiga yang bonafid. Namun, dalam kasus ini, apakah Wang Wu, sebagai partai yang menerima hadiah itu, memiliki niat baik dan apakah dia tahu bahwa hadiah Zhang akan membahayakan kepentingan kreditor (LI), adalah kunci untuk menilai apakah hadiah itu efektif. Jika Wang Wu tahu bahwa hadiah Zhang dilakukan untuk menghindari pembayaran hutang, Wang Wu tidak dapat dianggap sebagai pihak ketiga dengan itikad baik. Oleh karena itu, berdasarkan analisis di atas, perilaku hadiah Zhang merusak kepentingan kreditor LI dan dilakukan ketika debitur mentransfer properti secara jahat. Menurut ketentuan yang relevan dari Kode Sipil Republik Rakyat Tiongkok, pengadilan harus menentukan bahwa perilaku hadiah tidak valid. Penilaian semacam itu dimaksudkan untuk melindungi kepentingan kreditor dan mencegah debitur menghindari hutang dengan mentransfer properti. Oleh karena itu, pengadilan harus menentukan bahwa efektivitas hadiah itu tidak valid. |
Kami mengumpulkan beberapa pertanyaan konsultasi dari dataset terbuka dan memasuki chatgpt untuk membiarkan chatgpt memainkan peran pengacara untuk menjawab pertanyaan. Memasuki undang -undang yang relevan bersama dapat meningkatkan kualitas generasi chatgpt.
Berikut ini membandingkan data yang digunakan oleh versi lama dan baru pengacara Llama:
| Generasi GPT-3.5 | ? Generasi GPT-4 |
|---|---|
| Pertanyaan: Halo, bagaimana pasangan mendistribusikan properti mereka setelah perceraian Balas: Halo, menurut ketentuan yang relevan dari KUHP, distribusi properti pasangan setelah perceraian dapat ditangani melalui negosiasi antara pasangan. Jika tidak ada konsensus, pengadilan perlu membuat penilaian berdasarkan keadaan spesifik properti dan sesuai dengan prinsip menjaga hak dan kepentingan anak-anak, wanita dan partai non-salah. Properti umum yang diperoleh pasangan selama pernikahan, termasuk upah, bonus, remunerasi tenaga kerja, produksi, operasi, pendapatan investasi, hak kekayaan intelektual, properti yang diwarisi atau disumbangkan, dan properti lain yang harus dimiliki bersama, harus dibagi secara merata. Properti pribadi yang diperoleh oleh suami dan istri selama pernikahan, termasuk properti pra-nikah, kompensasi atau kompensasi yang diperoleh untuk cedera pribadi, properti yang ditentukan menjadi milik satu pihak dalam wasiat atau kontrak hadiah, dan kebutuhan sehari-hari secara eksklusif untuk satu pihak akan menjadi milik pihak tersebut. Bagaimana properti yang Anda peroleh selama pernikahan? | Pertanyaan: Suami saya sering tidak pulang. Saya tahu dia ada di luar dan telah melakukan banyak hal buruk pada saat yang sama. 365 hari setahun. Apa yang harus saya lakukan tentang situasi ini? Balas: Menurut situasi yang Anda berikan, suami Anda sudah lama tidak kembali ke rumah dan ada orang lain di luar, yang mungkin menyentuh ketentuan Pasal 1042 KUHP tentang "melarang pasangan untuk tinggal bersama orang lain". Jika suami Anda hidup dengan orang lain, ini merupakan pelanggaran hukum, dan sebagai korban, Anda memiliki hak untuk mengambil tindakan hukum yang sesuai. Pertama, Anda perlu mengumpulkan bukti. Ini termasuk tetapi tidak terbatas pada bukti bahwa suami Anda tinggal bersama orang lain, waktu dia tidak pulang, dan bukti bahwa "banyak hal buruk" yang dia lakukan. Bukti dapat berupa foto, video, catatan komunikasi, kesaksian saksi, dll., Yang sangat penting untuk tindakan hukum Anda berikutnya. Kedua, jika perilaku suami Anda menyebabkan kerugian mental atau kerugian ekonomi bagi Anda, Anda dapat mengklaim kompensasi sesuai dengan ketentuan yang relevan dari KUHP. Undang -undang perkawinan juga menetapkan kewajiban kesetiaan antara suami dan istri. Jika dilanggar, pihak yang terluka memiliki hak untuk mengklaim kompensasi atas kerusakan mental. Ketiga, mengingat bahwa suami Anda "telah melakukan banyak hal buruk" yang Anda sebutkan, situasi spesifik perlu diklarifikasi lebih lanjut. Apakah perilaku ini melibatkan kejahatan ilegal atau "hal -hal buruk" di tingkat moral? Jika ada kegiatan ilegal atau kriminal, Anda dapat mempertimbangkan melaporkan ke departemen yang relevan. Ini bukan hanya tindakan melindungi hak dan kepentingan seseorang sendiri, tetapi juga implementasi tanggung jawab sosial. Akhirnya, ini adalah pertanyaan yang membutuhkan pertimbangan serius apakah akan mengakhiri pernikahan. Perselingkuhan adalah salah satu alasan penting mengapa banyak orang memilih untuk bercerai. Berdasarkan bukti yang telah Anda kumpulkan, jika Anda memutuskan untuk mengambil langkah ini, Anda dapat mengajukan gugatan perceraian dengan pengadilan rakyat, meminta untuk membagi properti bersama pasangan, memperjuangkan hak asuh anak -anak (jika ada), dll. Dalam prosesnya, mengingat kompleksitas masalah hukum, Anda mungkin perlu mencari bantuan dari pengacara profesional yang dapat memberi Anda nasihat hukum yang lebih profesional dan melakukan kegiatan litigasi atas nama Anda. Secara keseluruhan, situasi yang Anda hadapi lebih rumit, tetapi Anda memiliki hak untuk mengambil tindakan untuk melindungi hak dan kepentingan Anda yang sah. Kuncinya adalah mengumpulkan bukti, mengevaluasi situasi, dan mencari bantuan hukum profesional jika perlu. |
Versi pengacara Llama berikut ini saat ini diungkapkan:
lawyer-llama-13b-v2 : Berdasarkan Quzhe/llama_chinese_13b (Llama-2 terus-menerus terlatih dalam bahasa Cina), SFT dilakukan dengan menggunakan instruksi hukum yang dihasilkan oleh instruksi umum dan GPT-4, dilengkapi dengan modul pencarian hukum terkait pernikahan. Untuk alamat unduhan dan metode penggunaan, lihat demo/run_inference_v2.md .lawyer-llama-13b-beta1.0 : Berdasarkan China-Llama-13b, SFT dilakukan dengan menggunakan instruksi hukum yang dihasilkan oleh instruksi umum dan GPT-3.5, dilengkapi dengan modul pencarian hukum terkait pernikahan. Untuk alamat unduhan dan metode penggunaan, lihat demo/run_inference_v1.md . Kami menggunakan 200 pertanyaan konsultasi terkait pernikahan dalam rantai-diskusi untuk menguji model berikut:
lawyer-llama-13b-v2 )lawyer-llama-13b-beta1.0 )Gunakan GPT-4 untuk menilai kualitas tanggapan konsultasi (dari 10 poin). Selama proses penilaian, kami meminta model GPT-4 untuk menilai teks di sekitar perspektif kelancaran, logika, apakah itu mengutip hukum yang tidak relevan, dan apakah itu secara semantik konsisten dengan balasan standar emas yang ditulis oleh pengacara. Setiap model dinyatakan sebagai berikut:
| Model | Skor |
|---|---|
| ? Pengacara Llama 2 | 6.71 |
| Pengacara Llama 1 | 5.61 |
| Disc-Lawllm | 5.70 |
| GPT-3.5-turbo | 6.90 |
| Gemini-1.0-Pro | 6.94 |
Untuk kinerja versi lama dari lawyer-llama-13b-beta1.0 , silakan merujuk ke versi lama ReadMe.
Berikut ini menunjukkan output pengacara Llama 2, Lawyer Llama 1 dan Disc-LawllM untuk masalah yang sama.
Pertanyaan: Tidak dapat mewarisi properti tanpa mendukung orang tua?
Hukum terkait:
Output Model:
| Disc-Lawllm | Pengacara Llama 1 | ? Pengacara Llama 2 |
|---|---|---|
| Skor GPT-4: 4 poin <br> Menurut KUHP, anak-anak memiliki kewajiban untuk mendukung orang tua mereka. Jika anak -anak dewasa gagal memenuhi kewajiban mereka untuk mendukung, orang tua yang tidak memiliki kemampuan untuk bekerja atau mengalami kesulitan dalam hidup mereka memiliki hak untuk meminta anak dewasa mereka membayar dukungan. Oleh karena itu, secara hukum, jika kewajiban untuk mendukung orang tua tidak terpenuhi, hak waris akan hilang. Namun, perlu dicatat bahwa apakah ada situasi "kehilangan hak waris" yang harus ditentukan oleh pengadilan berdasarkan situasi kasus tertentu, dan semua perilaku orang tua yang tidak didukung tidak dapat secara langsung digeneralisasi. | Peringkat GPT-4: 3 poin <br> Halo, menurut undang-undang Tiongkok, Anda tidak dapat menjadi pewaris tanpa mendukung orang tua, tetapi jika almarhum telah meninggal, propertinya akan didistribusikan kepada ahli waris hukum dalam urutan warisan hukum. Pada saat yang sama, jika almarhum telah memberikan dukungan atau dukungan sebelum kematiannya, ia dapat memberikan perawatan tertentu ketika mengalokasikan warisan. Selain itu, jika ada ketentuan tentang distribusi properti dalam kehendak almarhum, itu akan dieksekusi sesuai dengan kehendak. Apa situasi spesifik Anda? | Skor GPT-4: 8 poin <br> Menurut konsultasi Anda, kami dapat menganalisis masalah apakah properti tidak dapat diwarisi karena kurangnya dukungan untuk orang tua. Pertama -tama, menurut Pasal 1130 KUHP, jika ahli waris memenuhi kewajiban dukungan utama mereka kepada almarhum atau hidup dengan almarhum, mereka dapat membagi warisan lebih dari warisan. Ini berarti bahwa jika ahli waris mendukung pewaris secara finansial atau mengurus hidupnya sebelum hidupnya, ia mungkin mendapatkan bagian yang lebih besar dari warisan. Kedua, Pasal 1125 KUHP dengan jelas menyatakan bahwa jika pewaris meninggalkan almarhum atau melecehkan almarhum dalam keadaan serius, hak waris akan hilang. Ini menunjukkan bahwa jika pewaris itu meninggalkan atau melecehkan almarhum sebelum hidupnya, menyebabkan hidupnya dalam kesulitan, maka ia mungkin dibatasi ketika mewarisi perkebunan. Namun, KUHP tidak secara langsung menetapkan bahwa properti tidak dapat diwarisi tanpa dukungan untuk orang tua. Akuisisi hak waris terutama didasarkan pada ikatan darah dan ruang lingkup ahli waris yang diatur oleh hukum, daripada secara langsung bergantung pada tindakan mendukung orang tua. Karena itu, bahkan jika kewajiban untuk mendukung orang tua tidak terpenuhi, ahli waris masih memiliki hak untuk mewarisi perkebunan. Singkatnya, meskipun tindakan mendukung orang tua dapat mempengaruhi pelaksanaan hak waris, tidak mendukung lansia tidak secara langsung menghilangkan hak waris. Akuisisi hak warisan terutama tergantung pada ikatan darah dan kualifikasi ahli waris yang diatur oleh hukum. Jika Anda memiliki pertanyaan tentang hak waris, disarankan untuk mempelajari lebih lanjut tentang hak waris Anda dan mempertimbangkan apakah ada pengabaian atau pelecehan untuk menghindari mempengaruhi pelaksanaan hak waris. |
Terima kasih atas bantuan Anda dari proyek -proyek berikut selama proses pembukaan.
https://jecqa.thunlp.org/
https://opendata.pku.edu.cn/dataset.xhtml?PerSistentId=doi:10.18170/dvn/olo4g8
https://github.com/tatsu-lab/stanford_alpaca
https://github.com/lianjiatech/belle
https://github.com/ymcui/chinese-llama-alpaca
https://github.com/pointnetwork/point-alpaca
Kontributor utama proyek ini:
Huang Quzhe*, Tao Mingxu*, Zhang Chen*, An Zhenwei*, Jiang Cong, Chen Zhibin, Wu Zirui, Feng Yansong
* Kontribusi yang sama
Proyek ini dilakukan di bawah bimbingan Profesor Feng Yansong.
Banyak pengembang telah berbagi penyebaran dan penggunaan pengacara Llama, dan saya ingin mengucapkan terima kasih. Kontribusi komunitas yang relevan terdaftar sebagai berikut:
lawyer-llama-13b-v2 dan dikerahkan melalui Ollama, silakan merujuk ke #66 (kredit ke @YangxiaoshUai2333) Isi proyek ini hanya untuk penelitian akademik dan tidak boleh digunakan untuk tujuan komersial dan lain yang dapat menyebabkan kerusakan pada masyarakat. Saat menggunakan bagian yang melibatkan kode pihak ketiga, silakan ikuti protokol open source yang sesuai.
Data yang digunakan dalam proyek ini dihasilkan oleh ChatGPT. Ini belum diverifikasi secara ketat dan mungkin ada konten yang salah. Harap berhati -hati untuk mengidentifikasinya saat menggunakannya.
Output model dalam proyek ini bukan hasil konsultasi hukum profesional dan mungkin berisi konten yang salah. Jika Anda membutuhkan bantuan hukum, silakan dapatkan bantuan dari seorang profesional.
Jika Anda telah menggunakan konten proyek ini atau berpikir proyek ini bermanfaat untuk penelitian Anda, silakan kutip proyek ini.
@misc{huang2023lawyer,
title={Lawyer LLaMA Technical Report},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
eprint={2305.15062},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
@misc{Lawyer-LLama,
title={Lawyer Llama},
author={Quzhe Huang and Mingxu Tao and Chen Zhang and Zhenwei An and Cong Jiang and Zhibin Chen and Zirui Wu and Yansong Feng},
year={2023},
publisher={GitHub},
journal={GitHub repository},
howpublished={url{https://github.com/AndrewZhe/lawyer-llama}},
}