primeqa
v0.15.2-alpha: Merge pull request #508 from primeqa

最先進的多語言問題回答研發的主要存儲庫。
PrimeQA是一個公共開源存儲庫,使研究人員和開發人員能夠訓練最先進的模型以進行問答(QA)。通過使用PrimeQA,研究人員可以復制在最新NLP會議上發表的論文中概述的實驗,同時還享受下載預培訓模型(來自在線存儲庫)的能力,並根據自己的自定義數據運行它們。 PrimeQA建立在變壓器工具包的頂部,並使用可直接下載的數據集和模型。
PrimeQA中的模型支持端到端的問題回答。 PrimeQA通過
支持的一些模型(適用於基準數據集)的示例是:
PrimeQA位於幾個排行榜的頂部:Xor-Tydi,Tydiqa-Main,Ott-QA和HybridQA。




安裝文檔
# cd to project root
# If you want to run on GPU make sure to install torch appropriately
# E.g. for torch 1.11 + CUDA 11.3:
pip install ' torch~=1.11.0 ' --extra-index-url https://download.pytorch.org/whl/cu113
# Install as editable (-e) or non-editable using pip, with extras (e.g. tests) as desired
# Example installation commands:
# Minimal install (non-editable)
pip install .
# GPU support
pip install .[gpu]
# Full install (editable)
pip install -e .[all]請注意,依賴關係(在setup.py中指定)被固定以提供穩定的體驗。從源安裝時可以修改這些,但是這不受正式支持。
注意:在許多環境中,基於Conda-Forge的Faiss庫的性能要比PIP安裝的默認值得得多。要從Conda-Forge安裝Faiss庫,請使用以下步驟:
conda install -c conda-forge faiss=1.7.0 faiss-gpu=1.7.0
setup.py中,刪除與faiss相關的線: "faiss-cpu~=1.7.2": ["install", "gpu"],
"faiss-gpu~=1.7.2": ["gpu"],
pip install命令。BM25檢索需要Java 11。如下安裝Java:
conda install -c conda-forge openjdk=11開源社區成員有幾篇博客文章,涉及他們如何使用PrimeQA滿足他們的需求。閱讀其中一些:
測試文檔
要運行單元測試,您首先需要安裝PrimeQA。確保使用PIP中的[tests]或[all] Extras安裝。
從那裡您可以通過pytest進行測試,例如:
pytest --cov PrimeQA --cov-config .coveragerc tests/有關更多信息,請參見:
| 部分 | 描述 |
|---|---|
| ?文件 | 完整的API文檔和教程 |
| ?快速遊覽:PrimeQA的入口點 | PrimeQA的不同切入點:信息檢索,閱讀理解,表格和問題生成 |
| ?教程:Jupyter筆記本 | 筆記本開始執行質量檢查任務 |
| ? GPT-3/CHATGPT閱讀器筆記本 | 筆記本開始使用GPT-3/CHATGPT讀取器組件 |
| 示例:在各種質量檢查任務上應用PrimeQA | 在一系列質量檢查任務上進行微調PrimeQA模型的示例腳本 |
| ?模型共享和上傳 | 上傳並與社區分享您的微調模型 |
| ✅拉出請求 | PrimeQA拉力請求 |
| ?生成文檔 | 文檔的工作原理 |
| ?樂隊服務休息微服務 | PrimeQA編排微服務的概念證明代碼 |
| 工具UI | 演示UI |
![]() | 斯坦福大學NLP | ![]() | 伊利諾伊大學 |
![]() | 斯圖加特大學 | ![]() | 聖母大學 |
![]() | 俄亥俄州立大學 | ![]() | 卡內基·梅隆大學 |
![]() | 馬薩諸塞大學 | ![]() | IBM研究 |