UA LLM

UA-LLM: LLMS untuk Ukraina NLP

Repositori ini berisi jaringan pipa lengkap, serta skrip dan komponen individual, yang membantu mengadaptasi, melatih, mengevaluasi, dan memanfaatkan berbagai model bahasa besar (LLM) untuk berbagai tugas NLP Ukraina.

Instalasi

Untuk menggunakan kode di repositori ini, Anda harus menginstal Conda pada sistem Anda. Anda kemudian dapat membuat lingkungan Conda baru dengan dependensi yang diperlukan dengan menjalankan perintah berikut:

 conda env create -f environment.yml

Ini akan menciptakan lingkungan Conda baru yang disebut ua-llm dengan semua dependensi yang diperlukan dipasang. Anda kemudian dapat mengaktifkan lingkungan ini dengan menjalankan perintah berikut:

 conda activate ua-llm
pre-commit install  # required only for contributors

Penggunaan

Dapatkan kredensial akses Anda dari penyedia LLM.

Buka direktori kode sumber:

 cd src

Isi konfigurasi model dengan kredensial yang diperoleh. Lihat Contoh Perintah Di Bawah Untuk Penyedia OpenAI.

 python tools/set_auth.py --openai_org_id <your_org> --openai_api_key <your_api_key>

Atau gunakan perintah yang mirip dengan yang berikut untuk penyedia LLM yang didukung lainnya (jalankan dengan --help untuk melihat daftar argumen).

 python tools/set_auth.py --cohere_api_key <your_api_key>

Jalankan Tugas Contoh untuk mendapatkan prediksi dan mengevaluasinya (perhatikan, bahwa Anda akan ditagih oleh penyedia LLM untuk setiap permintaan, jadi lebih baik menjalankan perintah berikutnya dengan langganan uji coba atau kunci API):

 python main.py +task=qa_eval_task

Akibatnya, Anda akan mendapatkan output berikut:

Jangan ragu untuk mengeksplorasi konfigurasi tugas evaluasi dan file lain di configs/ direktori untuk mendapatkan detail lebih lanjut tentang tugas dan cara kerjanya. Anda mungkin juga ingin mempelajari lebih lanjut tentang Hydra Framework dan OmeGaconf.

Sekarang Anda siap menggunakan set data Anda sendiri untuk evaluasi atau mengadaptasi tugas yang didukung untuk kebutuhan spesifik Anda.

LLMS yang didukung

• Model Openai GPT
• Perintah cohere
• Model Replicate.com (Llama, Mistral, dll.)

Tugas yang didukung

• Jawaban Pertanyaan Berbasis Konteks (CBQA)

 python main.py +task=qa_predict_task

• Pertanyaan berbasis konteks menjawab pembuatan data/anotasi

 python main.py +task=qa_annotate_task

Berkontribusi

Jika Anda ingin berkontribusi pada repositori ini, silakan buat cabang baru dan kirimkan permintaan tarik dengan perubahan Anda. Kontribusi apa pun dipersilakan!

Lisensi

Repositori ini dilisensikan di bawah lisensi Apache 2.0. Lihat file lisensi untuk lebih jelasnya.