mindnlp

Mindnlp

สารบัญ

• Mindnlp
  • สารบัญ
  • ข่าว ?
  • การติดตั้ง
    • ติดตั้งจาก PYPI
    • งานสร้างทุกวัน
    • ติดตั้งจากแหล่งที่มา
    • ความเข้ากันได้ของเวอร์ชัน
  • การแนะนำ
    • คุณสมบัติที่สำคัญ
  • รุ่นที่รองรับ
  • ใบอนุญาต
  • คำติชมและการติดต่อ
  • MindSpore NLP SIG
  • การรับทราบ
  • การอ้างอิง

ข่าว ?

• คุณสมบัติล่าสุด

  • - รุ่นที่ผ่านการฝึกอบรม 250+ รองรับ API ที่เหมือน HuggingFace Transformers คุณสามารถใช้งานได้อย่างง่ายดายโดยทำตามตัวอย่างโค้ด:

     from mindnlp . transformers import AutoModel
    
    model = AutoModel . from_pretrained ( 'bert-base-cased' )

  • การสนับสนุนแพลตฟอร์มเต็มรูปแบบ : การสนับสนุนที่ครอบคลุมสำหรับ Ascend 910 series , Ascend 310B (Orange Pi) , GPU และ CPU (หมายเหตุ: ปัจจุบันเป็นชุดพัฒนา AI เดียวที่มีอยู่ใน Orange Pi)
  • การอนุมานแบบขนานแบบกระจาย : การรองรับการอนุมานแบบหลายอุปกรณ์แบบหลายอุปกรณ์การอนุมานแบบขนานสำหรับโมเดลที่เกินพารามิเตอร์ 10b
  • การสนับสนุนอัลกอริทึมเชิงปริมาณ : Smoothquant มีให้สำหรับ PI สีส้ม; Bitsandbytes-like quantization ที่รองรับใน GPU
  • การสนับสนุนหม้อแปลงประโยค : เปิดใช้งานการพัฒนา RAG (Generation-uugmented Retrieval-Augmented) ที่มีประสิทธิภาพ
  • การเพิ่มประสิทธิภาพประสิทธิภาพของกราฟแบบไดนามิก : บรรลุความเร็วการอนุมานระดับ Pytorch+GPU สำหรับกราฟแบบไดนามิกบนฮาร์ดแวร์ Ascend (ทดสอบประสิทธิภาพ Llama ที่ 85ms/โทเค็น )
  • การรวมกราฟแบบคงที่และแบบไดนามิกที่แท้จริง : การสลับแบบบรรทัดเดียวเป็นโหมดกราฟด้วย mindspore.jit เข้ากันได้อย่างเต็มที่กับ รูปแบบรหัสหน้ากอด เพื่อการใช้งานง่ายและการปรับปรุงประสิทธิภาพอย่างรวดเร็ว ประสิทธิภาพการทำงานของ Llama บนฮาร์ดแวร์ Ascend ถึงความเร็วกราฟแบบไดนามิก 2X ( 45ms/โทเค็น ) ซึ่งสอดคล้องกับห้องสวีทกราฟที่ใช้ Mindspore Static อื่น ๆ
  • การอัปเดตแอปพลิเคชัน LLM ที่กว้างขวาง : รวมถึง Text information extraction , Chatbots , Speech recognition , ChatPDF , Music generation , Code generation , Voice clone ฯลฯ ด้วยการสนับสนุนรุ่นที่เพิ่มขึ้นแอปพลิเคชันที่น่าตื่นเต้นยิ่งขึ้นรอการพัฒนา!

การติดตั้ง

ติดตั้งจาก PYPI

คุณสามารถติดตั้ง MindNLP เวอร์ชันอย่างเป็นทางการซึ่งอัปโหลดไปยัง PYPI

pip install mindnlp

งานสร้างทุกวัน

คุณสามารถดาวน์โหลด MindNLP Daily Wheel ได้จากที่นี่

ติดตั้งจากแหล่งที่มา

ในการติดตั้ง MindNLP จากแหล่งที่มาโปรดเรียกใช้:

pip install git+https://github.com/mindspore-lab/mindnlp.git
# or
git clone https://github.com/mindspore-lab/mindnlp.git
cd mindnlp
bash scripts/build_and_reinstall.sh

ความเข้ากันได้ของเวอร์ชัน

mindnlp เวอร์ชัน	เวอร์ชัน MindSpore	รุ่น Python ที่รองรับ
ผู้เชี่ยวชาญ	งานสร้างทุกวัน	> = 3.7.5, <= 3.9
0.1.1	> = 1.8.1, <= 2.0.0	> = 3.7.5, <= 3.9
0.2.x	> = 2.1.0	> = 3.8, <= 3.9
0.3.x	> = 2.1.0, <= 2.3.1	> = 3.8, <= 3.9
0.4.x	> = 2.2.x	> = 3.9, <= 3.11

การแนะนำ

MindNLP เป็นไลบรารี NLP โอเพนซอร์สตาม MindSpore รองรับแพลตฟอร์มสำหรับการแก้ปัญหาการประมวลผลภาษาธรรมชาติซึ่งมีวิธีการทั่วไปมากมายใน NLP มันสามารถช่วยนักวิจัยและนักพัฒนาในการสร้างและฝึกอบรมแบบจำลองที่สะดวกและรวดเร็วยิ่งขึ้น

สาขาหลักทำงานร่วมกับ Mindspore Master

คุณสมบัติที่สำคัญ

• การประมวลผลข้อมูลที่ครอบคลุม : ชุดข้อมูล NLP แบบคลาสสิกหลายชุดถูกบรรจุไว้ในโมดูลที่เป็นมิตรเพื่อใช้งานง่ายเช่น Multi30K, Squad, Conll ฯลฯ
• ชุดเครื่องมือ NLP รุ่นที่เป็นมิตร : MindNLP ให้ส่วนประกอบที่กำหนดค่าได้ต่างๆ เป็นมิตรในการปรับแต่งโมเดลโดยใช้ MindNLP
• เอ็นจิ้นที่ใช้งานง่าย : MindNLP ทำให้กระบวนการฝึกอบรมที่ซับซ้อนใน MindSpore ง่ายขึ้น รองรับอินเทอร์เฟซเทรนเนอร์และผู้ประเมินเพื่อฝึกอบรมและประเมินโมเดลได้อย่างง่ายดาย

รุ่นที่รองรับ

เนื่องจากมีรุ่นที่รองรับมากเกินไปโปรดตรวจสอบที่นี่

ใบอนุญาต

โครงการนี้เปิดตัวภายใต้ใบอนุญาต Apache 2.0

คำติชมและการติดต่อ

เวอร์ชันไดนามิกยังอยู่ระหว่างการพัฒนาหากคุณพบปัญหาใด ๆ หรือมีความคิดเกี่ยวกับคุณสมบัติใหม่โปรดอย่าลังเลที่จะติดต่อเราผ่านปัญหา GitHub

MindSpore NLP SIG

Mindspore NLP SIG (กลุ่มการประมวลผลภาษาธรรมชาติพิเศษ) เป็นทีมพัฒนาหลักของกรอบ MindNLP มันมีจุดมุ่งหมายที่จะร่วมมือกับนักพัฒนาจากทั้งอุตสาหกรรมและสถาบันการศึกษาที่มีความสนใจในการวิจัยการพัฒนาแอปพลิเคชันและการใช้งานการประมวลผลภาษาธรรมชาติ เป้าหมายของเราคือการสร้างกรอบ NLP ที่ดีที่สุดตามกรอบการทำงานในประเทศ Mindspore นอกจากนี้เรายังมีการแบ่งปันเทคโนโลยี NLP เป็นประจำและกิจกรรมออฟไลน์ นักพัฒนาที่สนใจสามารถเข้าร่วมกลุ่ม SIG ของเราโดยใช้รหัส QR ด้านล่าง

การรับทราบ

MindSpore เป็นโครงการโอเพ่นซอร์สที่ยินดีต้อนรับการมีส่วนร่วมและข้อเสนอแนะใด ๆ
เราหวังว่ากล่องเครื่องมือและเกณฑ์มาตรฐานสามารถให้บริการการวิจัยที่เพิ่มขึ้น
ชุมชนโดยการจัดหาชุดเครื่องมือที่มีความยืดหยุ่นและเป็นมาตรฐานในการใช้วิธีการที่มีอยู่ใหม่
และพัฒนาวิธีการแบ่งส่วนความหมายใหม่ของตนเอง

การอ้างอิง

หากคุณพบว่าโครงการนี้มีประโยชน์ในการวิจัยของคุณโปรดพิจารณาอ้าง:

@misc{mindnlp2022,
    title={{MindNLP}: Easy-to-use and high-performance NLP and LLM framework based on MindSpore},
    author={MindNLP Contributors},
    howpublished = { url {https://github.com/mindlab-ai/mindnlp}},
    year={2022}
}