mindnlp

Mindnlp

Daftar isi

• Mindnlp
  • Daftar isi
  • Berita?
  • Instalasi
    • Instal dari PYPI
    • Build harian
    • Instal dari sumber
    • Kompatibilitas Versi
  • Perkenalan
    • Fitur utama
  • Model yang didukung
  • Lisensi
  • Umpan balik dan kontak
  • Mindspore NLP Sig
  • Pengakuan
  • Kutipan

Berita?

• Fitur terbaru

  • ? 250+ Model pretrain mendukung API seperti Transformers Huggingface . Anda dapat menggunakannya dengan mudah dengan mengikuti cuplikan kode:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • Dukungan platform penuh : Dukungan komprehensif untuk Ascend 910 series , Ascend 310B (Orange Pi) , GPU , dan CPU . (Catatan: Saat ini satu -satunya kit pengembangan AI yang tersedia di Orange Pi.)
  • Inferensi paralel terdistribusi : multi-perangkat, dukungan inferensi paralel multi-proses untuk model yang melebihi parameter 10B.
  • Dukungan Algoritma Kuantisasi : Smoothquant tersedia untuk PI oranye; Bitsandbytes-like int8 kuantisasi didukung pada GPU.
  • Dukungan Transformer Kalimat : Mengaktifkan pengembangan Rag (Retrieval-Augmented Generation) yang efisien.
  • Optimalisasi Kinerja Grafik Dinamis : Mencapai kecepatan inferensi level PyTorch+GPU untuk grafik dinamis pada Ascend Hardware (kinerja Llama yang diuji pada 85ms/token ).
  • Unifikasi grafik statis dan dinamis sejati : Switching satu baris ke mode grafik dengan mindspore.jit , sepenuhnya kompatibel dengan gaya kode wajah memeluk untuk kemudahan penggunaan dan peningkatan kinerja yang cepat. Kinerja Llama yang diuji pada Ascend Hardware mencapai kecepatan grafik dinamis 2x ( 45ms/token ), konsisten dengan suite berbasis grafik statis mindspore lainnya.
  • Pembaruan Aplikasi LLM yang luas : Termasuk Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone , dll. Dengan peningkatan dukungan model, aplikasi yang lebih menarik menunggu pengembangan!

Instalasi

Instal dari PYPI

Anda dapat menginstal versi resmi MindNLP yang diunggah ke PYPI.

pip install mindnlp

Build harian

Anda dapat mengunduh MindNLP Daily Wheel dari sini.

Instal dari sumber

Untuk menginstal mindnlp dari sumber, silakan jalankan:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

Kompatibilitas Versi

Versi MindNLP	Versi Mindspore	Versi Python yang didukung
menguasai	build harian	> = 3.7.5, <= 3.9
0.1.1	> = 1.8.1, <= 2.0.0	> = 3.7.5, <= 3.9
0.2.x	> = 2.1.0	> = 3.8, <= 3.9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3.8, <= 3.9
0.4.x	> = 2.2.x	> = 3.9, <= 3.11

Perkenalan

MindNLP adalah pustaka NLP open source berdasarkan Mindspore. Ini mendukung platform untuk menyelesaikan tugas pemrosesan bahasa alami, yang berisi banyak pendekatan umum di NLP. Ini dapat membantu para peneliti dan pengembang untuk membangun dan melatih model dengan lebih nyaman dan cepat.

Cabang Master bekerja dengan Mindspore Master .

Fitur utama

• Pemrosesan Data Komprehensif : Beberapa set data NLP klasik dikemas ke dalam modul ramah untuk mudah digunakan, seperti multi30K, pasukan, conll, dll.
• Toolset model NLP yang ramah : MindNLP menyediakan berbagai komponen yang dapat dikonfigurasi. Ini ramah untuk menyesuaikan model menggunakan MindNLP.
• Mesin yang mudah digunakan : MindNLP menyederhanakan proses pelatihan yang rumit di Mindspore. Ini mendukung antarmuka pelatih dan evaluator untuk melatih dan mengevaluasi model dengan mudah.

Model yang didukung

Karena ada terlalu banyak model yang didukung, silakan periksa di sini

Lisensi

Proyek ini dirilis di bawah lisensi Apache 2.0.

Umpan balik dan kontak

Versi dinamis masih sedang dikembangkan, jika Anda menemukan masalah atau memiliki ide tentang fitur baru, jangan ragu untuk menghubungi kami melalui masalah GitHub.

Mindspore NLP Sig

MindSpore NLP SIG (Bahasa Alami Pemrosesan Bunga Khusus) adalah tim pengembangan utama kerangka MindNLP. Ini bertujuan untuk berkolaborasi dengan pengembang dari industri dan akademisi yang tertarik dalam penelitian, pengembangan aplikasi, dan implementasi praktis pemrosesan bahasa alami. Tujuan kami adalah menciptakan kerangka kerja NLP terbaik berdasarkan kerangka domestik Mindspore. Selain itu, kami secara teratur mengadakan sesi berbagi teknologi NLP dan acara offline. Pengembang yang tertarik dapat bergabung dengan grup SIG kami menggunakan kode QR di bawah ini.

Pengakuan

Mindspore adalah proyek open source yang menyambut setiap kontribusi dan umpan balik.
Kami berharap kotak alat dan tolok ukur dapat melayani penelitian yang berkembang
komunitas dengan memberikan toolkit yang fleksibel dan standar untuk menerapkan kembali metode yang ada
dan mengembangkan metode segmentasi semantik baru mereka sendiri.

Kutipan

Jika Anda menemukan proyek ini berguna dalam penelitian Anda, silakan pertimbangkan mengutip:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}