primeqa

Repositori utama untuk pertanyaan multibahasa yang canggih menjawab penelitian dan pengembangan.

Primeqa adalah repositori open source publik yang memungkinkan para peneliti dan pengembang untuk melatih model canggih untuk menjawab pertanyaan (QA). Dengan menggunakan PrimeQA, seorang peneliti dapat mereplikasi eksperimen yang diuraikan dalam makalah yang diterbitkan dalam konferensi NLP terbaru sambil juga menikmati kemampuan untuk mengunduh model pra-terlatih (dari repositori online) dan menjalankannya pada data khusus mereka sendiri. Primeqa dibangun di atas Toolkit Transformers dan menggunakan set data dan model yang dapat diunduh secara langsung.

Model-model dalam PrimeqA mendukung menjawab pertanyaan ujung ke ujung. Primeqa menjawab pertanyaan melalui

• Pengambilan Informasi: Pengambilan Dokumen dan Bagian Menggunakan Model Tradisional (Misalnya BM25) dan Neural (Misalnya Colbert)
• Pemahaman membaca mesin multibahasa: mengekstrak dan/ atau menghasilkan jawaban yang diberikan dokumen atau bagian sumber.
• Generasi pertanyaan multibahasa: Mendukung pembuatan pertanyaan untuk adaptasi domain yang efektif melalui tabel dan teks multibahasa.
• Retrieval Augmented Generation: Hasilkan jawaban menggunakan model pretrained GPT-3/ChatGPT, dikondisikan pada bagian yang diambil.

Beberapa contoh model (berlaku pada dataset benchmark) yang didukung adalah:

• IR tradisional dengan bm25 pyserini
• IR saraf dengan Colbert, DPR (kolaborasi dengan Stanford NLP IR yang dipimpin oleh Chris Potts & Matei Zaharia). Mereplikasi eksperimen yang dilakukan oleh Dr. Dec (Li et. Al, 2022) untuk mencapai puncak papan peringkat XOR Tydi.
• Pemahaman membaca mesin dengan XLM-R: Untuk mereplikasi eksperimen untuk mencapai puncak papan peringkat Tydi mirip dengan kinerja sistem IBM Gaama. Segera Hadir: Kode Untuk Meniru Kinerja Gaama tentang Pertanyaan Alami.

? Atas papan peringkat

Primeqa berada di puncak beberapa papan peringkat: Xor-Tydi, Tydiqa-Main, OTT-QA dan Hybridqa.

Xor-tydi

Tydiqa-Main

OTT-QA

Hybridqa

✔️ Memulai

Instalasi

Instalasi Doc

 # cd to project root

# If you want to run on GPU make sure to install torch appropriately

# E.g. for torch 1.11 + CUDA 11.3:
pip install ' torch~=1.11.0 ' --extra-index-url https://download.pytorch.org/whl/cu113

# Install as editable (-e) or non-editable using pip, with extras (e.g. tests) as desired
# Example installation commands:

# Minimal install (non-editable)
pip install .

# GPU support
pip install .[gpu]

# Full install (editable)
pip install -e .[all]

Harap dicatat bahwa dependensi (ditentukan dalam setup.py) disematkan untuk memberikan pengalaman yang stabil. Saat menginstal dari sumber ini dapat dimodifikasi, namun ini tidak secara resmi didukung.

Catatan: Di banyak lingkungan, perpustakaan FAISS berbasis Conda-Forge berkinerja jauh lebih baik daripada yang default yang diinstal dengan PIP. Untuk menginstal perpustakaan FAISS dari Conda-Forge, gunakan langkah-langkah berikut:

• Buat dan aktifkan lingkungan Conda
• Instal Perpustakaan Faiss, Menggunakan Perintah

conda install -c conda-forge faiss=1.7.0 faiss-gpu=1.7.0

• Di setup.py , lepaskan garis yang berhubungan dengan FAISS:

 "faiss-cpu~=1.7.2": ["install", "gpu"],
"faiss-gpu~=1.7.2": ["gpu"],

• Lanjutkan dengan perintah pip install seperti desktibed di atas.

Persyaratan Java

Java 11 diperlukan untuk pengambilan BM25. Instal Java sebagai berikut:

conda install -c conda-forge openjdk=11

Posting Blog

Ada beberapa posting blog oleh anggota komunitas open source tentang bagaimana mereka menggunakan Primeqa untuk kebutuhan mereka. Baca beberapa dari mereka:

1. Primeqa dan GPT 3
2. Pencarian perusahaan dengan primeqa
3. Mesin pencari untuk trivia geeks

? Tes unit

Pengujian dok

Untuk menjalankan tes unit, Anda pertama -tama harus menginstal PrimeqA. Pastikan untuk menginstal dengan [tests] atau [all] ekstra dari PIP.

Dari sana Anda dapat menjalankan tes melalui Pytest, misalnya:

pytest --cov PrimeQA --cov-config .coveragerc tests/

Untuk informasi lebih lanjut, lihat:

• TOX.ini kami
• Dokumentasi Pytest dan Tox

? Pelajari lebih lanjut

Bagian	Keterangan
? Dokumentasi	Dokumentasi dan tutorial API lengkap
? Tur Cepat: Titik Masuk untuk Primeqa	Poin masuk yang berbeda untuk Primeqa: Pengambilan Informasi, Pemahaman Membaca, Tableqa dan Pembuatan Pertanyaan
? Tutorial: Jupyter Notebooks	Notebook untuk memulai tugas QA
? GPT-3/Notebook Pembaca ChatGPT	Notebook untuk memulai dengan komponen pembaca GPT-3/CHATGPT
Contoh: Menerapkan primeqa pada berbagai tugas QA	Contoh skrip untuk menyempurnakan model primeqa pada berbagai tugas QA
? Berbagi dan mengunggah model	Unggah dan bagikan model yang disesuaikan dengan komunitas Anda dengan komunitas
✅ Tarik permintaan	Permintaan tarik primeqa
? Menghasilkan dokumentasi	Bagaimana dokumentasi bekerja
? Layanan Microservice Layanan Orchestrator	Kode Bukti Konsep untuk Microservice Orchestrator Primeqa
Ui perkakas	Demo ui

❤️ kolaborator primeqa termasuk

	Stanford NLP		Universitas Illinois
	Universitas Stuttgart		Universitas Notre Dame
	Universitas Negeri Ohio		Universitas Carnegie Mellon
	Universitas Massachusetts		Penelitian IBM