nlp_overview

เทคนิคการเรียนรู้ลึกสมัยใหม่ที่ใช้กับการประมวลผลภาษาธรรมชาติ

โครงการนี้มีภาพรวมของแนวโน้มล่าสุดในการประมวลผลภาษาธรรมชาติที่ใช้การเรียนรู้อย่างลึกซึ้ง (NLP) ครอบคลุมคำอธิบายเชิงทฤษฎีและรายละเอียดการใช้งานที่อยู่เบื้องหลังแบบจำลองการเรียนรู้ลึกเช่นเครือข่ายประสาท (RNNS), เครือข่ายประสาท (CNNS) ของ Convolutional (CNNS) และการเรียนรู้การเสริมแรงใช้เพื่อแก้ปัญหางาน NLP และแอปพลิเคชันต่างๆ ภาพรวมยังมีบทสรุปของผลลัพธ์ที่ทันสมัยของงานศิลปะสำหรับงาน NLP เช่น การแปลเครื่อง การตอบคำถาม และ ระบบการสนทนา คุณสามารถค้นหาทรัพยากรการเรียนรู้ได้ที่ที่อยู่ต่อไปนี้: https://nlpoverview.com/ ภาพรวมของเว็บไซต์มีอยู่ด้านล่าง:

เกี่ยวกับโครงการนี้

แรงจูงใจหลักสำหรับโครงการนี้มีดังนี้:

• รักษาทรัพยากรการเรียนรู้ที่ทันสมัยซึ่งรวมข้อมูลสำคัญที่เกี่ยวข้องกับการวิจัย NLP เช่น:
  • ผลลัพธ์ที่ทันสมัย
  • แนวคิดและแอปพลิเคชันที่เกิดขึ้นใหม่
  • ชุดข้อมูลมาตรฐานใหม่
  • รหัส/ชุดข้อมูล
  • เป็นต้น
• สร้างทรัพยากรที่เป็นมิตรและเปิดกว้างเพื่อช่วยแนะนำนักวิจัยและทุกคนที่สนใจเรียนรู้เกี่ยวกับเทคนิคที่ทันสมัยที่ใช้กับ NLP
• โครงการความร่วมมือที่นักวิจัยผู้เชี่ยวชาญสามารถแนะนำการเปลี่ยนแปลง (เช่นรวมผลลัพธ์ SOTA) ตามการค้นพบล่าสุดและผลการทดลองของพวกเขา

สารบัญ

• การแนะนำ
• การเป็นตัวแทนแบบกระจาย
  • การฝังคำ
  • Word2Vec
  • ตัวละครฝังตัว
  • การฝังคำบริบท
• เครือข่ายประสาท
  • CNN พื้นฐาน
    • การสร้างแบบจำลองประโยค
    • วิธีการหน้าต่าง
  • แอปพลิเคชัน
• เครือข่ายประสาทกำเริบ
  • ต้องการเครือข่ายซ้ำ
  • รุ่น RNN
    • RNN ง่ายๆ
    • หน่วยความจำระยะสั้นระยะยาว
    • หน่วยกำเริบที่มีรั้วรอบขอบชิด
  • แอปพลิเคชัน
    • RNN สำหรับการจำแนกระดับคำ
    • RNN สำหรับการจำแนกระดับประโยค
    • RNN สำหรับการสร้างภาษา
  • กลไกความสนใจ
  • ความสนใจแบบขนาน: หม้อแปลง
• เครือข่ายประสาทแบบเรียกซ้ำ
  • โมเดลพื้นฐาน
• โมเดลเสริมแรงและการเรียนรู้ที่ไม่ได้รับการดูแลอย่างลึกซึ้ง
  • การเรียนรู้การเสริมแรงสำหรับการสร้างลำดับ
  • การเรียนรู้การเป็นตัวแทนประโยคที่ไม่ได้รับการดูแล
  • แบบจำลองการกำเนิดลึก
• เครือข่ายหน่วยความจำ
• ประสิทธิภาพของรุ่นที่แตกต่างกันในงาน NLP ที่แตกต่างกัน
  • การติดแท็ก POS
  • การแยกวิเคราะห์
  • การรับรู้ที่มีชื่อ
  • การติดฉลากบทบาทความหมาย
  • การจำแนกความเชื่อมั่น
  • การแปลเครื่องจักร
  • ตอบคำถาม
  • ระบบการสนทนา
  • การฝังบริบท

จะมีส่วนร่วมอย่างไร?

มีหลายวิธีในการมีส่วนร่วมในโครงการนี้

• วิธีที่เร็วที่สุดในการเสนอการแก้ไขหรือเพิ่มข้อความมีดังนี้: fork repo, เรียกดู chapter ที่เกี่ยวข้องแล้วคลิกที่ปุ่ม edit เพื่อเพิ่มข้อมูลของคุณ ภาพด้านล่างแสดงสองขั้นตอนสุดท้ายหลังจากที่คุณได้ทำการซื้อคืน จากนั้นคุณสามารถส่งคำขอดึงและเราจะอนุมัติตามนั้น หากคุณต้องการเปลี่ยนส่วนใหญ่ของโครงการหรือเพิ่มบทหนึ่งเราขอแนะนำให้ดูที่ส่วน "Build site locally" ด้านล่าง

• นอกจากนี้คุณยังสามารถเสนอการเพิ่มข้อความในเอกสารสาธารณะที่ใช้ร่วมกันนี้หากคุณไม่คุ้นเคยกับ git เราจะช่วยแก้ไขและแก้ไขเนื้อหาจากนั้นช่วยให้คุณรวมการมีส่วนร่วมในโครงการ
• อ้างถึงส่วนปัญหาเพื่อเรียนรู้เพิ่มเติมเกี่ยวกับวิธีอื่น ๆ ที่คุณสามารถช่วยได้
• หรือคุณสามารถให้คำแนะนำโดยส่งปัญหาใหม่ คำแนะนำโดยละเอียดเพิ่มเติมเร็ว ๆ นี้

สร้างเว็บไซต์ในพื้นที่

หากคุณวางแผนที่จะเปลี่ยนบางแง่มุมของไซต์ (เช่นการเพิ่มส่วนหรือสไตล์) และต้องการดูตัวอย่างในเครื่องของคุณเราขอแนะนำให้คุณสร้างและเรียกใช้เว็บไซต์โดยใช้ jekyll นี่คือคำแนะนำ:

• ก่อนอื่นให้ตรวจสอบว่ามีการติดตั้ง Ruby 2.1.0 หรือสูงกว่าบนคอมพิวเตอร์ของคุณ คุณสามารถตรวจสอบโดยใช้คำสั่ง ruby --version ถ้าไม่โปรดติดตั้งโดยใช้คำแนะนำที่ให้ไว้ที่นี่
• หลังจากตรวจสอบให้แน่ใจว่ามีการติดตั้งทับทิมแล้วให้ติดตั้ง Bundler โดยใช้ gem install bundler
• โคลน repo นี้ในพื้นที่: git clone https://github.com/omarsar/nlp_overview.git
• นำทางไปยังโฟลเดอร์ repo ด้วย cd nlp_overview
• ติดตั้ง Jekyll: bundle install
• เรียกใช้เว็บไซต์ Jekyll ในพื้นที่: bundle exec jekyll serve
• ตัวอย่างไซต์บนเบราว์เซอร์ที่ http://localhost:4000

การซ่อมบำรุง

โครงการนี้ได้รับการดูแลโดย Elvis Saravia และ Soujanya Poria คุณสามารถหาฉันบน Twitter หากคุณมีความคิดเห็นหรือคำถามโดยตรง ส่วนสำคัญของโครงการนี้ได้รับการยืมโดยตรงจากการทำงานของ Young และคณะ (2017) เราขอขอบคุณผู้เขียน