NLP Interview Notes

NLP เป็นเรื่องแปลก

บทนำ: โครงการนี้เป็นบันทึกการศึกษาและวัสดุที่จัดทำโดยการสัมภาษณ์ภาษาธรรมชาติ (NLP) จากการสัมภาษณ์และประสบการณ์ส่วนตัว เนื้อหานี้มีการสะสมคำถามสัมภาษณ์ในสาขาภาษาธรรมชาติต่าง ๆ

> NLP สัมภาษณ์และ Exchange Group (หมายเหตุ: ถ้าคุณเต็มคุณสามารถเพิ่มตัวแก้ไข WX: YzyykM666 เพื่อเข้าร่วมกลุ่ม!)

4. การสัมภาษณ์ทั่วไปสำหรับอัลกอริทึมการเรียนรู้ NLP

4.1 การสัมภาษณ์ทั่วไปสำหรับการสกัดข้อมูล

4.1.1 การสัมภาษณ์ทั่วไปสำหรับการรับรู้การตั้งชื่อนิติบุคคล

• อัลกอริทึม Markov ที่ซ่อนอยู่ hmm การสัมภาษณ์ทั่วไป
  • 1. ข้อมูลเบื้องต้นเกี่ยวกับข้อมูลพื้นฐาน
    • 1.1 โมเดลกราฟความน่าจะเป็นคืออะไร?
    • 1.2 สนามบินสุ่มคืออะไร?
  • 2. กระบวนการรู้เบื้องต้นเกี่ยวกับมาร์คอฟ
    • 2.1 กระบวนการมาร์คอฟคืออะไร?
    • 2.2 ความคิดหลักของกระบวนการมาร์คอฟคืออะไร?
  • iii. อัลกอริทึม Markov ที่ซ่อนอยู่
    • 3.1 ความรู้เบื้องต้นเกี่ยวกับอัลกอริทึม Markov ที่ซ่อนอยู่
      • 3.1.1 อัลกอริทึมมาร์คอฟที่ซ่อนอยู่คืออะไร?
      • 3.1.2 สองลำดับในอัลกอริทึม Markov ที่ซ่อนอยู่คืออะไร?
      • 3.1.3 เมทริกซ์สามตัวในอัลกอริทึม Markov ที่ซ่อนอยู่คืออะไร?
      • 3.1.4 สมมติฐานสองข้อในอัลกอริทึม Markov ที่ซ่อนอยู่คืออะไร?
      • 3.1.5 เวิร์กโฟลว์ในอัลกอริทึม Markov ที่ซ่อนอยู่คืออะไร?
    • 3.2 กระบวนการคำนวณของโมเดลอัลกอริทึม Markov ที่ซ่อนอยู่
      • 3.2.1 กระบวนการฝึกอบรมของการเรียนรู้อัลกอริทึมมาร์คอฟที่ซ่อนอยู่คืออะไร?
      • 3.2.2 กระบวนการคำอธิบายประกอบลำดับ (การถอดรหัส) ของอัลกอริทึมมาร์คอฟที่ซ่อนอยู่คืออะไร?
      • 3.2.3 กระบวนการความน่าจะเป็นของลำดับของอัลกอริทึม Markov ที่ซ่อนอยู่คืออะไร?
    • 3.3 ปัญหาอัลกอริทึมของ Markov ที่ซ่อนอยู่

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ MEMM MODE MODE MODE
  • 4. โมเดล Markov สูงสุด (MEMM)
    • 4.1 แรงจูงใจโมเดล Markov โมเดล (MEMM) สูงสุด (MEMM)
      • 4.1.1 มีปัญหาอะไรกับ HMM?
    • 4.2 บทนำสู่โมเดล Markov สูงสุด (MEMM)
      • 4.2.1 โมเดลมาร์คอฟสูงสุด (MEMM) มีลักษณะอย่างไร?
      • 4.2.2 โมเดล Markov สูงสุด (MEMM) วิธีแก้ปัญหา HMM ได้อย่างไร?
    • 4.3 ปัญหาโมเดลมาร์คอฟสูงสุด (MEMM)

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ทั่วไปที่มีเงื่อนไขสนามบินสุ่ม (CRF)
  • 5. ฟิลด์สุ่มแบบมีเงื่อนไข (CRF)
    • 5.1 CRF แรงจูงใจ
      • 5.1.1 ปัญหาเกี่ยวกับ HMM และ MEMM คืออะไร?
    • 5.2 CRF บทนำ
      • 5.2.1 CRF คืออะไร?
      • 5.2.2 แนวคิดหลักของ CRF คืออะไร?
      • 5.2.3 คำจำกัดความของ CRF คืออะไร?
      • 5.2.4 กระบวนการของ CRF คืออะไร?
    • 5.3 CRF ข้อดีและข้อเสีย
      • 5.3.1 ข้อดีของ CRF คืออะไร?
      • 5.3.2 ข้อเสียของ CRF คืออะไร?
    • 5.4 การทำซ้ำ CRF?
  • 6. เปรียบเทียบ
    • 6.1 โมเดล CRF และโมเดล HMM และ MEMM แตกต่างกันอย่างไร

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ทั่วไป DNN-CRF
  • 1. ข้อมูลพื้นฐาน
    • 1.1 ตัวบ่งชี้การประเมินผลสำหรับการจดจำเอนทิตีการตั้งชื่อคืออะไร?
  • 2. วิธีการรับรู้เอนทิตีการตั้งชื่อแบบดั้งเดิม
    • 2.1 วิธีการตามกฎของการจดจำเอนทิตีของเอนทิตีคืออะไร?
    • 2.2 วิธีการรับรู้เอนทิตีการตั้งชื่อที่ใช้การเรียนรู้ที่ไม่ได้รับการดูแลเป็นอย่างไร?
    • 2.3 วิธีการรับรู้เอนทิตีที่ตั้งอยู่บนพื้นฐานของการเรียนรู้ภายใต้คุณสมบัติของคุณลักษณะคืออะไร?
  • 3. วิธีการจดจำเอนทิตีการตั้งชื่อตามการเรียนรู้อย่างลึกซึ้ง
    • 3.1 อะไรคือข้อดีของวิธีการจดจำเอนทิตีที่มีชื่อตามการเรียนรู้อย่างลึกซึ้งเมื่อเทียบกับวิธีการรับรู้เอนทิตีที่มีชื่อตามการเรียนรู้ของเครื่อง?
    • 3.2 โครงสร้างของวิธีการจดจำเอนทิตีที่มีชื่อตามการเรียนรู้อย่างลึกซึ้งคืออะไร?
    • 3.3 เลเยอร์อินพุตแบบกระจายคืออะไรและวิธีการคืออะไร?
    • 3.4 ตัวเข้ารหัสข้อความ
      • 3.4.1 bilstm-crf
        • 3.4.1.1 bilstm-crf คืออะไร?
        • 3.4.1.2 ทำไมต้องใช้ bilstm?
      • 3.4.2 IDCNN-CRF
        • 3.4.2.1 CNN ขยายคืออะไร?
        • 3.4.2.2 ทำไม CNN ขยาย?
        • 3.4.2.3 ข้อดีของ CNN ขยายตัวคืออะไร?
        • 3.4.2.4 บทนำสู่ IDCNN-CRF
    • 3.5 แท็กตัวถอดรหัส
      • 3.5.1 ตัวถอดรหัสแท็กคืออะไร?
      • 3.5.2 บทนำสู่เลเยอร์ MLP+Softmax?
      • 3.5.3 บทนำสู่เลเยอร์ CRF แบบสุ่มแบบมีเงื่อนไข?
      • 3.5.4 บทนำสู่เลเยอร์ RNN ของเครือข่ายประสาทกำเริบหรือไม่?
      • 3.5.3 บทนำสู่เลเยอร์เครือข่ายตัวชี้?
  • 4. เปรียบเทียบ
    • 4.1 CNN-CRF กับ Bilstm-CRF กับ IDCNN-CRF?
    • 4.2 ทำไม DNN ต้องเพิ่ม CRF?
    • 4.3 CRF ใน Tensorflow vs CRF ในชุดเครื่องมือที่ไม่ต่อเนื่อง?

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์สามัญภาคสนามของจีน
  • 1. แรงจูงใจ
    • 1.1 ความแตกต่างระหว่างการรับรู้เอนทิตีที่มีชื่อของจีนและการจดจำนิติบุคคลภาษาอังกฤษคืออะไร?
  • 2. การเพิ่มประสิทธิภาพคำศัพท์
    • 2.1 การปรับปรุงคำศัพท์คืออะไร?
    • 2.2 เหตุใดวิธี "การปรับปรุงคำศัพท์" จึงมีผลบังคับใช้สำหรับงานจีน
    • 2.3 วิธีการปรับปรุงคำศัพท์คืออะไร?
    • 2.4 สถาปัตยกรรมแบบไดนามิก
      • 2.4.1 สถาปัตยกรรมแบบไดนามิกคืออะไร?
      • 2.4.2 วิธีการทั่วไปคืออะไร?
      • 2.4.3 Lattice LSTM คืออะไรและปัญหาคืออะไร?
      • 2.4.4 แบนคืออะไรและมีปัญหาอะไร?
    • 2.5 กระบวนทัศน์การฝังตัวแบบปรับตัว
      • 2.5.1 กระบวนทัศน์การฝังแบบปรับตัวคืออะไร?
      • 2.5.2 วิธีการทั่วไปคืออะไร?
      • 2.5.3 WC-LSTM คืออะไรและปัญหาคืออะไร?
  • 3. การปรับปรุงข้อมูลประเภทคำศัพท์/เอนทิตี
    • 3.1 การปรับปรุงข้อมูลประเภทคำศัพท์/เอนทิตีคืออะไร?
    • 3.2 ทำไมวิธีการ "การปรับปรุงประเภทข้อมูลคำศัพท์/เอนทิตี" จึงมีผลบังคับใช้สำหรับงานภาษาจีน
    • 3.3 ข้อมูลประเภทคำศัพท์/เอนทิตีคืออะไร?
    • 3.4 Lex-Bert คืออะไร?

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ทั่วไปการรับรู้เอนทิตี
  • เคล็ดลับที่ 1: การจับคู่พจนานุกรมโดเมน
  • เคล็ดลับ 2: การสกัดกฎ
  • เคล็ดลับ 3: การเลือกเวกเตอร์คำ: เวกเตอร์คำหรือเวกเตอร์คำ?
  • เคล็ดลับที่ 4: วิธีเลือกตัวแยกฟีเจอร์?
  • เคล็ดลับ 5: จะจัดการกับชื่อที่โดดเด่นได้อย่างไร?
  • เคล็ดลับ 6: วิธีจัดการกับข้อมูลการติดฉลากไม่เพียงพอ?
  • เคล็ดลับที่ 7: วิธีจัดการกับการรับรู้เอนทิตีที่มีชื่อซ้อนกัน
    • 7.1 การทำรังของเอนทิตีคืออะไร?
    • 7.2 ความแตกต่างจากงานการจดจำเอนทิตีแบบดั้งเดิม
    • 7.3 วิธีแก้ปัญหา:
      • 7.3.1 วิธี 1: คำอธิบายประกอบลำดับ
      • 7.3.2 วิธีที่ 2: คำอธิบายประกอบตัวชี้
      • 7.3.3 วิธีที่ 3: คำอธิบายประกอบส่วนหัวยาว
      • 7.3.4 วิธีการ 4: การจัดเรียงชิ้นส่วน
  • เคล็ดลับ 8: เหตุใดวิธี "การปรับปรุงคำศัพท์" จึงมีผลบังคับใช้สำหรับงานภาษาจีน
  • Trick 9: ฉันควรทำอย่างไรถ้าช่วงเอนทิตีของ NER ยาวเกินไป?
  • เคล็ดลับ 10: ปัญหาการติดฉลากข้อมูลเสียงรบกวน?
  • เคล็ดลับที่ 11: ได้รับงานจดจำเอนทิตีสองรายการงานหนึ่งงานมีข้อมูลเพียงพอและอื่น ๆ มีข้อมูลน้อยมาก ฉันจะทำอย่างไร?
  • เคล็ดลับที่ 12: ปัญหาของการติดฉลาก NER คือความไม่สมดุลหรือไม่?

คลิกเพื่อดูคำตอบ

4.1.2 การสัมภาษณ์ทั่วไปสำหรับการวาดความสัมพันธ์

• การวาดความสัมพันธ์การสัมภาษณ์ทั่วไป
  • 1. แรงจูงใจ
    • 1.1 การสกัดความสัมพันธ์คืออะไร?
    • 1.2 เทคนิคการสกัดความสัมพันธ์ประเภทใด?
    • 1.3 กระบวนการสกัดความสัมพันธ์ทั่วไปทำได้อย่างไร?
  • 2. การสกัดความสัมพันธ์แบบคลาสสิก
    • 2.1 วิธีการจับคู่แม่แบบอ้างถึงอะไร? ข้อดีและข้อเสียคืออะไร?
    • 2.2 การสกัดความสัมพันธ์ในการกำกับดูแลระยะไกลอ้างถึงอะไร? ข้อดีและข้อเสียคืออะไร?
    • 2.3 ความสัมพันธ์ทับซ้อนกันคืออะไร? ปัญหาความสัมพันธ์ที่ซับซ้อน?
    • 2.4 การสกัดร่วมกันคืออะไร? ปัญหาคืออะไร?
    • 2.5 วิธีการสกัดร่วมโดยรวมคืออะไร? ข้อบกพร่องของพวกเขาคืออะไร?
    • 2.6 บทนำเกี่ยวกับวิธีการสกัดร่วมตามพารามิเตอร์ที่ใช้ร่วมกัน?
    • 2.7 บทนำการถอดรหัสร่วมกันตามการถอดรหัสร่วมกัน?
    • 2.8 เทคโนโลยีและความท้าทายที่ทันสมัยในการสกัดความสัมพันธ์ของเอนทิตีคืออะไร? วิธีแก้ปัญหาการสกัดความสัมพันธ์ของเอนทิตีภายใต้ทรัพยากรต่ำและตัวอย่างที่ซับซ้อน
  • 3. การสกัดความสัมพันธ์ระดับเอกสาร
    • 3.1 ความแตกต่างระหว่างการสกัดความสัมพันธ์ระดับเอกสารและการแยกความสัมพันธ์แบบคลาสสิกคืออะไร?
    • 3.2 มีปัญหาอะไรบ้างในการสกัดความสัมพันธ์ระดับเอกสาร?
    • 3.3 วิธีการแยกความสัมพันธ์ระดับเอกสารคืออะไร?
      • 3.3.1 การสกัดความสัมพันธ์ของเอกสารขึ้นอยู่กับการทำแบบเบิร์ตเป็นอย่างไร?
      • 3.3.2 การแยกความสัมพันธ์กับเอกสารที่ใช้กราฟทำอย่างไร?
    • 3.4 ชุดข้อมูลทั่วไปสำหรับการแยกความสัมพันธ์ระดับเอกสารและวิธีการประเมินของพวกเขาคืออะไร?

คลิกเพื่อดูคำตอบ

4.1.3 การสัมภาษณ์เหตุการณ์ทั่วไป

• การวาดภาพเหตุการณ์การสัมภาษณ์ทั่วไป
  • 1. หลักการ
    • 1.1 เหตุการณ์คืออะไร?
    • 1.2 การสกัดเหตุการณ์คืออะไร?
    • 1.3 คำศัพท์และงานพื้นฐานที่เกี่ยวข้องกับการสกัดเหตุการณ์ในการประเมิน ACE คืออะไร?
    • 1.4 การสกัดเหตุการณ์พัฒนาอย่างไร?
    • 1.5 ปัญหาเกี่ยวกับการสกัดเหตุการณ์คืออะไร?
  • 2. งานพื้นฐาน
    • 2.1 ทริกเกอร์การตรวจจับคำ
      • 2.1.1 การตรวจจับคำกระตุ้นคืออะไร?
      • 2.1.2 วิธีการตรวจจับคำเรียกทริกเกอร์คืออะไร?
    • 2.2 ประเภทการระบุ
      • 2.2.1 การจดจำประเภทคืออะไร?
      • 2.2.2 วิธีการระบุประเภทคืออะไร?
    • 2.3 การรับรู้บทบาท
      • 2.3.1 การจดจำบทบาทคืออะไร?
      • 2.3.2 วิธีการรับรู้บทบาทคืออะไร?
    • 2.4 การตรวจจับอาร์กิวเมนต์
      • 2.4.1 การตรวจจับอาร์กิวเมนต์คืออะไร?
      • 2.4.2 วิธีการตรวจจับอาร์กิวเมนต์คืออะไร?
  • 3. วิธีการทั่วไป
    • 3.1 วิธีการใช้วิธีการจับคู่รูปแบบในการสกัดเหตุการณ์?
    • 3.2 วิธีการเรียนรู้ของเครื่องทางสถิติใช้ในการสกัดเหตุการณ์อย่างไร
    • 3.3 วิธีการเรียนรู้เชิงลึกจะใช้ในการสกัดเหตุการณ์ได้อย่างไร?
  • iv. ชุดข้อมูลและตัวบ่งชี้การประเมินผล
    • 4.1 ชุดข้อมูลภาษาอังกฤษทั่วไปในการสกัดเหตุการณ์คืออะไร?
    • 4.2 ชุดข้อมูลจีนทั่วไปในการสกัดเหตุการณ์คืออะไร?
    • 4.3 ตัวบ่งชี้การประเมินผลสำหรับการสกัดเหตุการณ์คืออะไร? จะคำนวณได้อย่างไร?
  • 5. เปรียบเทียบ
    • 5.1 ความคล้ายคลึงกันและความแตกต่างระหว่างการสกัดเหตุการณ์และการรับรู้เอนทิตีที่มีชื่อ (เช่นการสกัดเอนทิตี) คืออะไร?
    • 5.2 ความคล้ายคลึงกันและความแตกต่างระหว่างการสกัดเหตุการณ์และการสกัดความสัมพันธ์คืออะไร?
    • 5.3 แผนที่ของความจริงคืออะไร? ประเภทความสัมพันธ์ของเหตุการณ์คืออะไร? วิธีการสร้างแผนที่เหตุผล? สาขาเทคนิคหลักและฮอตสปอตการพัฒนาปัจจุบันคืออะไร?
  • 6. แอปพลิเคชัน
  • 7. การขยายตัว
    • 7.1 สรุปเอกสารการสกัดเหตุการณ์
    • 7.2 คำถามที่พบบ่อยการสกัดเหตุการณ์

4.2 การสัมภาษณ์ทั่วไปสำหรับอัลกอริทึมการฝึกอบรม NLP

• 【เกี่ยวกับ tf-idf 】สิ่งที่คุณไม่รู้จัก
  • 1. ร้อนหนึ่งครั้ง
    • 1.1 เหตุใดจึงมีความร้อนเพียงครั้งเดียว?
    • 1.2 ความร้อนแรงคืออะไร?
    • 1.3 คุณลักษณะของความร้อนหนึ่งครั้งคืออะไร?
    • 1.4 มีปัญหาอะไรกับความร้อนแรงเพียงครั้งเดียว?
  • 2. TF-IDF
    • 2.1 TF-IDF คืออะไร?
    • 2.2 TF-IDF ประเมินความสำคัญของคำอย่างไร
    • 2.3 ความคิดของ TF-IDF คืออะไร?
    • 2.4 สูตรการคำนวณสำหรับ TF-IDF คืออะไร?
    • 2.5 จะอธิบาย TF-IDF ได้อย่างไร?
    • 2.6 ข้อดีของ TF-IDF คืออะไร?
    • 2.7 ข้อเสียของ TF-IDF คืออะไร?
    • 2.8 แอปพลิเคชันของ TF-IDF?

คลิกเพื่อดูคำตอบ

• 【เกี่ยวกับ word2vec 】สิ่งที่คุณไม่รู้จัก
  • 1. บทนำสู่ WordVec
    • 1.1 WordVec หมายถึงอะไร?
    • 1.2 CBOW ใน WordVec หมายถึงอะไร?
    • 1.3 Skip-Gram หมายถึงอะไรใน WordVec?
    • 1.4 อันไหนดีกว่าสำหรับ cbow vs skip-gram?
  • 2. บทความการเพิ่มประสิทธิภาพ WordVec
    • 2.1 ต้น Hoffman ใน Word2vec คืออะไร?
    • 2.2 ทำไมคุณต้องใช้ Hoffman Tree ใน Word2vec?
    • 2.3 ประโยชน์ของการใช้ต้นฮอฟแมนใน Word2vec คืออะไร?
    • 2.4 เหตุใดการสุ่มตัวอย่างเชิงลบจึงใช้ใน Word2vec?
    • 2.5 การสุ่มตัวอย่างเชิงลบเป็นอย่างไรใน Word2vec?
    • 2.6 วิธีการสุ่มตัวอย่างของการสุ่มตัวอย่างเชิงลบใน Word2Vec คืออะไร?
  • 3. การเปรียบเทียบ WordVec
    • 3.1 อะไรคือความแตกต่างระหว่าง Word2VEC และ NNLM? (Word2Vec vs NNLM)
    • 3.2 ความแตกต่างระหว่าง Word2VEC และ TF-IDF ในการคำนวณความคล้ายคลึงกันคืออะไร?
  • 4. Word2vec บทที่ใช้งานได้จริง
    • 4.1 เคล็ดลับการฝึกอบรม Word2vec การตั้งค่าหน้าต่างใหญ่แค่ไหน?
    • 4.1 เคล็ดลับการฝึกอบรม Word2vec, Latitude Vector Word, ผลกระทบของขนาดใหญ่และขนาดเล็กและพารามิเตอร์อื่น ๆ คืออะไร?

คลิกเพื่อดูคำตอบ

• 【เกี่ยวกับ fasttext 】สิ่งที่คุณไม่รู้จัก
  • 1. แรงจูงใจ fasttext
    • 1.1 โมเดลระดับคำคืออะไร?
    • 1.2 มีปัญหาอะไรกับโมเดลระดับคำ?
    • 1.3 โมเดลระดับตัวละครคืออะไร?
    • 1.4 ข้อดีของโมเดลระดับอักขระ?
    • 1.5 มีปัญหากับโมเดลระดับตัวละครหรือไม่?
    • 1.6 การแก้ปัญหาโมเดลระดับอักขระ?
  • 2. ข้อมูลเบื้องต้นเกี่ยวกับข้อมูล N-Gram เป็นคำ (ข้อมูล subword n-gram)
    • 2.1 บทนำ
    • 2.2 FastText คืออะไร?
    • 2.3 โครงสร้างของ FastText คืออะไร?
    • 2.4 ทำไม FastText จึงใช้ข้อมูล N-Gram ในคำ (ข้อมูล subword n-gram)?
    • 2.5 บทนำเกี่ยวกับข้อมูล N-Gram ในคำ FastText (ข้อมูล subword n-gram)?
    • 2.6 กระบวนการฝึกอบรมของข้อมูล N-Gram ใน Word FastText?
    • 2.7 มีปัญหาใด ๆ กับข้อมูล N-Gram ในคำ FastText หรือไม่?
  • 3. บทนำสู่การถดถอย softmax แบบลำดับชั้น (softmax ลำดับชั้น)
    • 3.1 ทำไมต้องใช้การถดถอยแบบลำดับชั้น softmax?
    • 3.2 ความคิดของการถดถอย softmax แบบลำดับชั้นคืออะไร?
    • 3.3 ขั้นตอนการถดถอย Softmax แบบลำดับชั้นคืออะไร?
  • 4. มีปัญหากับ FastText หรือไม่?

คลิกเพื่อดูคำตอบ

• 【เกี่ยวกับ Elmo 】สิ่งที่คุณไม่รู้จัก
  • 1. แรงจูงใจของ Elmo
    • 1.1 ทำไมถึงมี Elmo?
  • 2. บทนำ Elmo
    • 2.1 คุณสมบัติของ Elmo คืออะไร?
    • 2.2 ความคิดของ Elmo คืออะไร?
  • 3. คำถาม Elmo
    • 3.1 Elmo มีปัญหาอะไร?

คลิกเพื่อดูคำตอบ

4.3 การสัมภาษณ์ทั่วไปของเบิร์ต

• การสัมภาษณ์ทั่วไปของเบิร์ต
  • 1. แรงจูงใจ
    • 1.1 [ประวัติวิวัฒนาการ] มีปัญหากับความร้อนแรงเพียงครั้งเดียวหรือไม่?
    • 1.2 [ประวัติวิวัฒนาการ] มีปัญหากับ WordVec หรือไม่?
    • 1.3 [ประวัติวิวัฒนาการ] มีปัญหากับ FastText หรือไม่?
    • 1.4 [ประวัติวิวัฒนาการ] มีปัญหากับ Elmo หรือไม่?
  • 2. เบิร์ต
    • 2.1 Bert บทนำ
      • 2.1.1 【เบิร์ต】เบิร์ตคืออะไร?
      • 2.1.2 【เบิร์ต】เบิร์ตสามประเด็นสำคัญ?
    • 2.2 การระบุลักษณะอินพุตและเอาต์พุตของ Bert
      • 2.2.1 [เบิร์ต] การจำแนกลักษณะอินพุตและเอาต์พุตของเบิร์ตมีลักษณะอย่างไร?
    • 2.3 【 Bert 】 Bert Pre-Training
      • 2.3.1 【เบิร์ต】งานฝึกอบรมก่อนการฝึกอบรม
      • 2.3.2 【เบิร์ต】งานฝึกอบรมก่อนการฝึกอบรม
        • 2.3.2.1 【เบิร์ต】ทำไมเบิร์ตถึงต้องทำงานก่อนการฝึกอบรมปิดบัง LM?
        • 2.3.2.2 【เบิร์ต】วิธีทำหน้าที่ฝึกอบรมก่อนการฝึกอบรมของเบิร์ต
        • 2.3.2.3 【เบิร์ต】มีปัญหาอะไรบ้างกับงานฝึกอบรมก่อนการฝึกอบรมของเบิร์ตหรือไม่?
        • 2.3.2.4 【เบิร์ต】วิธีแก้ปัญหาที่ไม่ตรงกันระหว่างการฝึกอบรมก่อนและการปรับแต่ง?
      • 2.3.3 【 Bert 】งานการฝึกอบรมก่อนการทำนายประโยคถัดไป
        • 2.3.3.1 [เบิร์ต] ทำไมเบิร์ตจึงต้องการงานฝึกอบรมล่วงหน้าการทำนายประโยคต่อไป?
        • 2.3.3.2 【เบิร์ต】ทำนายการทำนายประโยคต่อไปในงานการฝึกอบรมล่วงหน้าของเบิร์ตได้อย่างไร?
    • 2.4 【เบิร์ต】บทความการเลี้ยวดี?
      • 2.4.1 【เบิร์ต】ทำไมเบิร์ตถึงต้องกลับมาอย่างละเอียด?
      • 2.4.2 【เบิร์ต】วิธีการปรับเลี้ยวในเบิร์ตอย่างไร?
    • 2.5 【 Bert 】ฟังก์ชั่นการสูญเสียเบิร์ต?
      • 2.5.1 [เบิร์ต] ฟังก์ชั่นการสูญเสียที่สอดคล้องกับงานการฝึกอบรมล่วงหน้าสองอย่างของเบิร์ต (แสดงในรูปแบบสูตร)?
  • 3. เปรียบเทียบ?
    • 3.1 [ความคมชัด] ปัญหาของ polysynthetics คืออะไร?
    • 3.2 [การเปรียบเทียบ] ทำไม Word2vec ไม่สามารถแก้ปัญหาของ polysynonyms ได้?
    • 3.3 [การเปรียบเทียบ] ความแตกต่างระหว่าง GPT และ BERT คืออะไร?
    • 3.4 [การเปรียบเทียบ] ทำไม Elmo, GPT และ Bert สามารถแก้ปัญหาของ polysynonyms ได้? (นำ Elmo เป็นตัวอย่าง)

คลิกเพื่อดูคำตอบ

• 【เกี่ยวกับการวิเคราะห์รหัสที่มาของเบิร์ตฉันเป็นตัวหลัก] สิ่งที่คุณไม่รู้จัก
• 【เกี่ยวกับการวิเคราะห์รหัสแหล่งที่มาของเบิร์ต II บทก่อนการฝึกอบรม】สิ่งที่คุณไม่รู้จัก
• 【เกี่ยวกับการวิเคราะห์รหัสแหล่งที่มาของเบิร์ต III บทปรับแต่งบทที่คุณไม่รู้จัก
• [เกี่ยวกับการวิเคราะห์รหัสแหล่งที่มาของเบิร์ตบทความการสร้างเวกเตอร์ประโยค] สิ่งที่คุณไม่รู้จัก
• [เกี่ยวกับการวิเคราะห์รหัสแหล่งที่มาของเบิร์ต V ข้อความที่คล้ายคลึงกัน] สิ่งที่คุณไม่รู้จัก

4.3.1 การสัมภาษณ์ทั่วไปสำหรับการบีบอัดแบบจำลองเบิร์ต

• การสัมภาษณ์แบบจำลอง Bert Model
  • 1. แรงจูงใจในการบีบอัดแบบจำลองเบิร์ต
  • 2. ตารางเปรียบเทียบการบีบอัดแบบจำลองเบิร์ต
  • 3. วิธีการบีบอัดแบบจำลอง Bert บทนำ
    • 3.1 การแยกตัวประกอบระดับต่ำและการแบ่งปันพารามิเตอร์ข้ามเลเยอร์ของวิธีการบีบอัดแบบจำลอง Bert
      • 3.1.1 การแยกตัวประกอบระดับต่ำคืออะไร?
      • 3.1.2 การแชร์พารามิเตอร์ข้ามเลเยอร์คืออะไร?
      • 3.1.3 วิธีการที่อัลเบิร์ตใช้?
    • 3.2 การกลั่นวิธีการบีบอัดแบบจำลองเบิร์ต
      • 3.2.1 การกลั่นคืออะไร?
      • 3.2.2 มีเอกสารอะไรบ้างที่ใช้การกลั่นแบบจำลอง? ให้ฉันแนะนำมันสั้น ๆ ?
    • 3.3 ปริมาณของวิธีการบีบอัดแบบจำลอง Bert
      • 3.3.1 ปริมาณคืออะไร?
      • 3.3.2 Q-Bert: การหาปริมาณที่มีความแม่นยำต่ำเป็นพิเศษของ Hessian
    • 3.4 วิธีการบีบอัดแบบจำลองเบิร์ต
      • 3.4.1 การตัดแต่งกิ่งคืออะไร?
  • 4. มีปัญหาเกี่ยวกับการบีบอัดแบบจำลองหรือไม่?

คลิกเพื่อดูคำตอบ

4.3.2 บทสัมภาษณ์ทั่วไปสำหรับซีรี่ส์ Bert Model

• คุณรู้จัก xlnet หรือไม่? บอกได้ไหม เบิร์ตแตกต่างกันอย่างไร?
• คุณรู้จัก Roberta หรือไม่? บอกได้ไหม เบิร์ตแตกต่างกันอย่างไร?
• คุณรู้จัก Spanbert หรือไม่? บอกได้ไหม เบิร์ตแตกต่างกันอย่างไร?
• คุณรู้จักมวล? บอกได้ไหม เบิร์ตแตกต่างกันอย่างไร?

คลิกเพื่อดูคำตอบ

4.4 การสัมภาษณ์ทั่วไปสำหรับการจำแนกประเภทข้อความ

• การสัมภาษณ์ทั่วไปสำหรับการจำแนกข้อความ
  • 1. ข้อเสนอบทคัดย่อ
    • 1.1 หมวดหมู่ของงานการจำแนกประเภทคืออะไร? ลักษณะของพวกเขาคืออะไร?
    • 1.2 ความแตกต่างระหว่างงานการจำแนกประเภทข้อความเมื่อเทียบกับงานการจำแนกประเภทในสาขาอื่นคืออะไร?
    • 1.3 งานการจำแนกประเภทข้อความและงานอื่น ๆ ในฟิลด์ข้อความคืออะไร?
    • 1.4 กระบวนการจัดประเภทข้อความ?
  • 2. การประมวลผลข้อมูลล่วงหน้า
    • 2.1 วิธีการประมวลผลข้อมูลล่วงหน้าสำหรับงานการจำแนกประเภทข้อความคืออะไร?
    • 2.2 คุณใช้วิธีการและเครื่องมือของคำว่าคำใดบ้าง?
    • 2.3 วิธีการใช้ตำราภาษาจีนเป็นอย่างไร?
    • 2.4 หลักการของวิธีการแบ่งส่วนคำตามการจับคู่สตริงคืออะไร?
    • 2.5 แบบจำลองภาษาทางสถิติจะนำไปใช้กับคำศัพท์ได้อย่างไร? N-Gram ความน่าจะเป็นสูงสุดหรือไม่?
    • 2.6 วิธีการแบ่งส่วนคำที่ใช้คำอธิบายประกอบลำดับคืออะไร?
    • 2.7 คำอธิบายประกอบส่วนหนึ่งของการพูดตาม (BI-) LSTM คืออะไร?
    • 2.8 อะไรคือความแตกต่างระหว่างการสกัดต้นกำเนิดและการฟื้นฟูรูปร่างของคำ?
  • 3. การสกัดคุณลักษณะ
    • 3.1 (เฉพาะ) คุณลักษณะใดที่สามารถใช้ในงานการจำแนกประเภทข้อความได้?
    • 3.2 (สำหรับตำราตะวันตก) ความแตกต่างระหว่างการใช้คำและการใช้ตัวอักษรเป็นคุณสมบัติคืออะไร?
    • 3.3 คุณสามารถแนะนำโมเดล Bag of Words สั้น ๆ ได้หรือไม่?
    • 3.4 n-gram
      • 3.4.1 ไวยากรณ์ N-Method คืออะไร? ทำไมต้องใช้ n-gram?
      • 3.4.2 ข้อ จำกัด ของอัลกอริทึม N-Gram คืออะไร?
    • 3.5 การสร้างแบบจำลองหัวข้อ
      • 3.5.1 ความรู้เบื้องต้นเกี่ยวกับงานการสร้างแบบจำลองหัวข้อ?
      • 3.5.2 วิธีการทั่วไปของการสร้างแบบจำลองหัวข้อ
      • 3.5.3 อัลกอริทึม TF-IDF ทำอะไร? การแนะนำสั้น ๆ เกี่ยวกับอัลกอริทึม TF-IDF
      • 3.5.4 ค่าเฉลี่ยของ TF-IDF สูงเท่าไหร่?
      • 3.5.5 ข้อบกพร่องของ TF-IDF
    • 3.6 ข้อความที่คล้ายคลึงกัน
      • 3.6.1 วิธีการคำนวณระยะห่างระหว่างสองย่อหน้าของข้อความ?
      • 3.6.2 ระยะทาง Jaccard คืออะไร?
      • 3.6.3 ความแตกต่างระหว่างค่าสัมประสิทธิ์ลูกเต๋าและค่าสัมประสิทธิ์ Jaccard คืออะไร?
      • 3.6.4 การแก้ไขระยะทางเดียวกันความแตกต่างระหว่างระยะทางเลวินสไตน์และระยะทาง hamming คืออะไร?
      • 3.6.5 เขียนคำถามการเขียนโปรแกรมเกี่ยวกับการคำนวณระยะการแก้ไข (ระยะทาง Lewinstein)?
  • 4. รุ่น
    • 4.1 fasttext
      • 4.1.1 กระบวนการจำแนกประเภทของ FastText?
      • 4.1.2 ข้อดีของ FastText คืออะไร?
    • 4.2 textcnn
      • 4.2.1 กระบวนการของ TextCNN ดำเนินการจำแนกประเภทข้อความ?
      • 4.2.2 TextCNN สามารถปรับพารามิเตอร์ใดได้บ้าง
      • 4.2.3 เมื่อใช้ CNN เป็นตัวจําแนกข้อความช่องสัญญาณต่าง ๆ สอดคล้องกับข้อความอะไรบ้าง
      • 4.2.4 ความยาวและความกว้างของเคอร์เนล convolution ใน textcnn เป็นตัวแทนของอะไร?
      • 4.2.5 ความแตกต่างระหว่างการดำเนินการรวมใน textCNN และการดำเนินการรวมใน CNN ทั่วไปคืออะไร?
      • 4.2.6 ข้อ จำกัด ของ textcnn?
    • 4.3 dpcnn
      • 4.3.1 วิธีแก้ปัญหาการจำแนกประเภทข้อความยาว?
      • 4.3.2 แนะนำการปรับปรุงโมเดล DPCNN สั้น ๆ โดยย่อเมื่อเทียบกับ TextCNN หรือไม่?
    • 4.4 textrcnn
      • 4.4.1 แนะนำการปรับปรุง textrcnn สั้น ๆ โดยย่อเมื่อเทียบกับ textcnn?
    • 4.5 RNN+ความสนใจ
      • 4.5.1 แนวคิดของ RNN+ความสนใจสำหรับงานการจำแนกประเภทข้อความและทำไมต้องเพิ่มกลไกความสนใจ/ความสนใจ?
    • 4.6 เครือข่ายประสาทกราฟ GNN
      • 4.6.1 เครือข่ายประสาทกราฟ GNN ใช้กับฟิลด์การจำแนกประเภทข้อความได้อย่างไร
    • 4.7 หม้อแปลง
      • 4.7.1 วิธีการใช้โมเดลที่ผ่านการฝึกอบรมมาก่อนตามหม้อแปลงกับเขตข้อมูลการจำแนกประเภทข้อความ?
    • 4.8 โมเดลที่ผ่านการฝึกอบรมมาก่อน
      • 4.8.1 คุณรู้จักโมเดลที่ผ่านการฝึกอบรมมาก่อนอะไร? ลักษณะของพวกเขาคืออะไร?
  • V. ฟังก์ชั่นการสูญเสีย
    • 5.1 ฟังก์ชั่นการเปิดใช้งาน sigmoid
      • 5.1.1 บทนำเกี่ยวกับฟังก์ชั่นการเปิดใช้งาน Sigmoid ที่ใช้สำหรับปัญหาการจำแนกประเภทไบนารี?
      • 5.1.2 ข้อเสียของ Sigmod คืออะไร?
    • 5.2 ฟังก์ชั่นการเปิดใช้งาน Softmax
      • 5.2.1 ฟังก์ชั่น Softmax คืออะไร?
      • 5.2.2 วิธีค้นหาอนุพันธ์ของฟังก์ชั่น Softmax?
    • 5.3 ฟังก์ชั่นการสูญเสียอื่น ๆ ที่ใช้สำหรับปัญหาการจำแนกประเภทใด
  • 6. การประเมินแบบจำลองและการเปรียบเทียบอัลกอริทึม
    • 6.1 อัลกอริทึมและตัวชี้วัดการประเมินที่ใช้ในงานการจำแนกประเภทข้อความคืออะไร?
    • 6.2 บทนำสั้น ๆ เกี่ยวกับเมทริกซ์ความสับสนและคัปปา?

คลิกเพื่อดูคำตอบ

• เคล็ดลับการจำแนกประเภทข้อความการสัมภาษณ์ทั่วไป
  • 1. วิธีประมวลผลข้อมูลการจำแนกข้อความล่วงหน้า
  • 2. วิธีเลือกรูปแบบการจำแนกประเภทข้อความที่ผ่านการฝึกอบรมมาก่อน?
  • 3. จะเพิ่มประสิทธิภาพพารามิเตอร์การจำแนกประเภทข้อความได้อย่างไร?
  • 4. งานการจำแนกข้อความที่ยากลำบากคืออะไร?
  • 5. การก่อสร้างระบบการติดฉลากการจำแนกประเภทข้อความ?
  • 6. การก่อสร้างกลยุทธ์การจำแนกข้อความ?

คลิกเพื่อดูคำตอบ

• ใช้วิธีการค้นหาเพื่อทำการสัมภาษณ์ทั่วไปสำหรับการจำแนกประเภทข้อความ
  • ทำไมเราต้องใช้การค้นหาเพื่อจำแนกข้อความ?
  • แนวคิดของการจำแนกข้อความตามวิธีการค้นหาคืออะไร?
  • วิธีการสร้างไลบรารีการเรียกคืนสำหรับวิธีที่ดึงมาได้อย่างไร
  • วิธีการฝึกอบรมของวิธีการค้นหาอย่างไร
  • จะทำอย่างไรในขั้นตอนการทำนายของวิธีการค้นหา?
  • สถานการณ์ที่เกี่ยวข้องสำหรับการจำแนกประเภทข้อความโดยใช้วิธีการค้นหาคืออะไร?

คลิกเพื่อดูคำตอบ

4.5 บทสัมภาษณ์ทั่วไปสำหรับการจับคู่ข้อความ

• รูปแบบการจับคู่ข้อความ ESIM การสัมภาษณ์ทั่วไป
  • ทำไมคุณถึงต้องการ ESIM?
  • แล้วการแนะนำรุ่น ESIM ล่ะ?

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ทั่วไปสำหรับ Bert ในงานการจับคู่ความคล้ายคลึงกันของความหมาย
  • 1. งานจำแนกคู่ประโยค: ใช้ CLS
  • 2. ความคล้ายคลึงกันของโคไซน์
  • 3. ความแตกต่างระหว่างข้อความยาวและสั้น
  • 4. การฝังประโยค/คำ
  • 5. วิธีเครือข่ายสยาม

คลิกเพื่อดูคำตอบ

4.6 การสัมภาษณ์ทั่วไปสำหรับระบบถาม - ตอบ

4.6.1 การสัมภาษณ์ทั่วไปสำหรับระบบตอบคำถามที่พบบ่อย

• 1. แรงจูงใจ
  • 1.1 แรงจูงใจของระบบถาม - ตอบ?
  • 1.2 ระบบถาม - ตอบคืออะไร?
• 2. บทนำสู่ระบบตอบคำถามที่พบบ่อย
  • 2.1 ระบบคำถามและคำตอบที่พบบ่อยคืออะไร?
  • 2.2 แกนหลักของ QA มาตรฐานการจับคู่คืออะไร?
• 3. การแก้ปัญหาระบบตอบคำถามที่พบบ่อย
  • 3.1 วิธีแก้ปัญหาที่ใช้กันทั่วไปคืออะไร?
  • 3.2 ทำไมการจับคู่ QQ จึงใช้กันทั่วไปมากขึ้น?
    • 3.2.1 ข้อดีของการจับคู่ QQ คืออะไร?
    • 3.2.2 พื้นที่ความหมายสำหรับการจับคู่ QQ คืออะไร?
    • 3.2.3 ความเสถียรของคลังการจับคู่ QQ คืออะไร?
    • 3.2.4 การแยกส่วนของคำตอบทางธุรกิจและอัลกอริทึมการจับคู่ QQ คืออะไร?
    • 3.2.5 การค้นพบและการซ้ำซ้อนของปัญหาการจับคู่ QQ ใหม่คืออะไร?
    • 3.2.6 ความเร็วการทำงานออนไลน์ของการจับคู่ QQ คืออะไร?
  • 3.3 กระบวนการประมวลผลทั่วไปสำหรับการจับคู่ QQ คืออะไร? [สมมติว่าธนาคารปัญหามาตรฐานได้รับการดำเนินการแล้ว]
• 4. การก่อสร้างธนาคารปัญหามาตรฐานคำถามที่พบบ่อย
  • 4.1 วิธีค้นหาปัญหามาตรฐานในคำถามที่พบบ่อย?
  • 4.2 วิธีแยกคำถามที่พบบ่อย?
  • 4.3 วิธีการรวมคำถามที่พบบ่อย?
  • 4.4 วิธีอัปเดตไลบรารีมาตรฐานคำถามที่พบบ่อยแบบเรียลไทม์?
• 5. คำถามที่พบบ่อยคำถามมาตรฐานธนาคารคำตอบการเพิ่มประสิทธิภาพ
  • 5.1 วิธีเพิ่มประสิทธิภาพคำตอบของธนาคารคำถามที่พบบ่อย

คลิกเพื่อดูคำตอบ

4.6.2 เครื่องมือการสัมภาษณ์ระบบการสัมภาษณ์ทั่วไป

• การสัมภาษณ์ทั่วไปของ FAISS
  • 1. แรงจูงใจ
    • 1.1 มีปัญหาอะไรกับอัลกอริทึมความคล้ายคลึงกันแบบดั้งเดิม?
  • 2. บทนำ
    • 2.1 FAISS คืออะไร?
    • 2.2 วิธีใช้ FAISS?
    • 2.3 หลักการ FAISS และอัลกอริทึมหลัก
  • 3. บทที่ใช้งานจริงของ FAISS
    • 3.1 วิธีการติดตั้ง FAISS?
    • 3.2 ดัชนีดัชนีของ FAISS คืออะไร?
    • 3.3 วิธีใช้ดัชนีดัชนีของ FAISS?
      • 3.3.1 การเตรียมข้อมูล
      • 3.3.2 indexthetics ความรุนแรง indexflatl2
      • 3.3.3 The Flash indexivflat
      • 3.3.4 Memory Manager IndexIVFPQ
    • 3.4 faiss แล้วใช้ GPU?
  • 4. การเปรียบเทียบ FAISS
    • 4.1 อันไหนดีกว่า sklearn cosine_similarity หรือ faiss

4.7 การสัมภาษณ์ทั่วไปสำหรับระบบการสนทนา

• การสัมภาษณ์ทั่วไปสำหรับระบบการสนทนา
  • 1. บทนำสู่ระบบบทสนทนา
    • 1.1 ระบบบทสนทนาคืออะไร?
    • 1.2 ความแตกต่างระหว่างระบบการสนทนาเหล่านี้คืออะไร?
  • 2. บทนำสู่ระบบการสนทนาหลายรอบ
    • 2.1 ทำไมต้องใช้ระบบการสนทนาหลายรอบ?
    • 2.2 โซลูชันระบบการสนทนาหลายรอบทั่วไปคืออะไร?
  • 3. บทนำสู่ระบบการสนทนาตามงาน
    • 3.1 ระบบการสนทนาตามงานคืออะไร?
    • 3.2 กระบวนการของระบบบทสนทนาตามงานคืออะไร?
    • 3.3 การทำความเข้าใจภาษาระบบการสนทนาตามงาน (SLU)
      • 3.3.1 ความเข้าใจภาษา (SLU) คืออะไร?
      • 3.3.2 อินพุตและเอาต์พุตของความเข้าใจภาษา (SLU) คืออะไร?
      • 3.3.3 เทคนิคที่ใช้ในการทำความเข้าใจภาษา (SLU) คืออะไร?
    • 3.4 ระบบการสนทนาตามงาน DST (การติดตามสถานะการสนทนา)
      • 3.4.1 DST (การติดตามสถานะบทสนทนา) คืออะไร?
      • 3.4.2 อินพุตและเอาต์พุตของ DST (การติดตามสถานะบทสนทนา) คืออะไร?
      • 3.4.3 DST (การติดตามสถานะบทสนทนา) มีปัญหาและการแก้ปัญหาหรือไม่?
      • 3.4.4 วิธีการใช้งานของ DST (การติดตามสถานะการสนทนา) คืออะไร?
    • 3.5 DPO (การเรียนรู้กลยุทธ์การสนทนา) บทของระบบบทสนทนาตามงาน
      • 3.5.1 DPO (การเรียนรู้กลยุทธ์การสนทนา) คืออะไร?
      • 3.5.2 อินพุตและเอาต์พุตของ DPO (การเรียนรู้กลยุทธ์บทสนทนา) คืออะไร?
      • 3.5.3 วิธีการใช้งานของ DPO (การเรียนรู้กลยุทธ์การสนทนา) คืออะไร?
    • 3.6 NLG (การสร้างภาษาธรรมชาติ) ระบบการสนทนาตามงาน
      • 3.6.1 NLG (การสร้างภาษาธรรมชาติ) คืออะไร?
      • 3.6.2 อินพุตและเอาต์พุตของ NLG (การสร้างภาษาธรรมชาติ) คืออะไร?
      • 3.6.3 การใช้งาน NLG (การสร้างภาษาธรรมชาติ) หรือไม่?

คลิกเพื่อดูคำตอบ

4.8 การสัมภาษณ์ทั่วไปสำหรับกราฟความรู้

4.8.1 การสัมภาษณ์ทั่วไปสำหรับกราฟความรู้

• 1. บทนำสู่กราฟความรู้
  • 1.1 บทนำ
  • 1.2 กราฟความรู้คืออะไร?
    • 1.2.1 กราฟคืออะไร?
    • 1.2.2 สคีมาคืออะไร?
  • 1.3 กราฟความรู้หมวดหมู่คืออะไร?
  • 1.4 คุณค่าของกราฟความรู้คืออะไร?
• 2. จะสร้างกราฟความรู้ได้อย่างไร?
  • 2.1 ข้อมูลจากกราฟความรู้มาจากไหน?
  • 2.2 ความยากลำบากในการสกัดข้อมูลคืออะไร?
  • 2.3 เทคโนโลยีที่เกี่ยวข้องในการสร้างกราฟความรู้?
  • 2.4. เทคโนโลยีเฉพาะสำหรับการสร้างกราฟความรู้คืออะไร?
    • 2.4.1 การจดจำเอนทิตีชื่อ
    • 2.4.2 การสกัดความสัมพันธ์
    • 2.4.3 ความละเอียดเอนทิตี
    • 2.4.4 หมายถึงความไม่ลงรอยกัน
• 3. จะจัดเก็บกราฟความรู้ได้อย่างไร?
• 4. กราฟความรู้สามารถทำอะไรได้บ้าง?

คลิกเพื่อดูคำตอบ

4.8.2 การสัมภาษณ์ทั่วไป KBQA

• 1. วิธีการตามพจนานุกรมและกฎ
  • ใช้ KBQA ตามพจนานุกรมและกฎ?
  • การใช้กระบวนการ KBQA ตามพจนานุกรมและกฎ?
• 2. วิธีการตามการสกัดข้อมูล
  • ใช้กระบวนการ KBQA ตามการดึงข้อมูลหรือไม่

คลิกเพื่อดูคำตอบ

4.8.3 การสัมภาษณ์ทั่วไป neo4j

• 1. Neo4J บทนำและการติดตั้ง
  • 1.1 บทนำ
  • 1.2 วิธีดาวน์โหลด neo4j?
  • 1.3 จะติดตั้ง neo4j ได้อย่างไร?
  • 1.4 บทนำสู่ Neo4J Web Interface
  • 1.5 ภาษาเคียวรี Cypher คืออะไร?
• 2. การเพิ่ม Neo4J, การลบ, การค้นหาและการดัดแปลง
  • 2.1 บทนำ
  • 2.2 วิธีสร้างโหนดใน neo4j?
  • 2.3 วิธีสร้างความสัมพันธ์ใน neo4j?
  • 2.4 วิธีการสร้างความสัมพันธ์ในบ้านเกิดใน neo4j?
  • 2.5 วิธีการสอบถาม neo4j?
  • 2.6 วิธีการลบและแก้ไข neo4j?
• 3. จะใช้ Python เพื่อใช้งานฐานข้อมูลกราฟ Neo4J ได้อย่างไร?
  • 3.1 โมดูล Neo4J: คำสั่ง CQL (CYPHER) คืออะไร?
  • 3.2 โมดูล PY2NEO คืออะไร?
• 4. ฐานข้อมูลนำเข้าข้อมูล Neo4J Diagram

คลิกเพื่อดูคำตอบ

4.9 บทสรุปข้อความการสัมภาษณ์ทั่วไป

• 1. แรงจูงใจ
  • 1.1 บทสรุปข้อความคืออะไร?
  • 1.2 เทคนิคการสรุปข้อความประเภทใด?
• 2. สรุปการสกัด
  • 2.1 วิธีการสรุปอย่างเด็ดขาด?
    • 2.1.1 อัลกอริทึมการประเมินความสำคัญของประโยคคืออะไร?
    • 2.1.2 วิธีการสร้างสรุปตามข้อ จำกัด คืออะไร?
    • 2.1.3 อัลกอริทึม TextTeaser แยกบทสรุปได้อย่างไร
    • 2.1.4 อัลกอริทึม Textrank แยกบทสรุปได้อย่างไร
  • 2.2 ปัญหาความสามารถในการอ่านของสรุปสกัดคืออะไร?
• 3. สรุปการบีบอัด
  • 3.1 วิธีการสรุปการบีบอัด?
• 4. สรุปกำเนิด
  • 4.1 วิธีการสรุปการกำเนิด?
  • 4.2 มีปัญหาเกี่ยวกับการสรุปทั่วไปอย่างไร?
  • 4.3 เครือข่ายผู้สร้างตัวชี้แก้ไขปัญหาอะไรบ้าง?
• V. วิธีการประเมินคุณภาพบทคัดย่อ
  • 5.1 วิธีการประเมินคุณภาพแบบนามธรรมประเภทใด?
  • 5.2 Rouge คืออะไร?
  • 5.3 ความแตกต่างระหว่างตัวบ่งชี้รูจหลายตัวคืออะไร?
  • 5.4 ความแตกต่างระหว่าง Bleu และ Rouge คืออะไร?

คลิกเพื่อดูคำตอบ

4.10 ข้อความแก้ไขข้อผิดพลาดบทความบทความสัมภาษณ์ทั่วไป

• 1. บทนำ
  • 1.1 การแก้ไขข้อผิดพลาดข้อความคืออะไร?
  • 1.2 ประเภทข้อผิดพลาดข้อความทั่วไป?
  • 1.3 วิธีการทั่วไปสำหรับการแก้ไขข้อผิดพลาดข้อความ?
• 2. วิธีการขั้นตอนการไปป์ไลน์
  • จะใช้การตรวจจับข้อผิดพลาดในไปป์ไลน์ได้อย่างไร?
  • จะใช้การเรียกคืนผู้สมัครในไปป์ไลน์ได้อย่างไร?
  • จะใช้การเรียงลำดับการแก้ไขข้อผิดพลาดในไปป์ไลน์ได้อย่างไร?
  • วิธีการใช้การเพิ่มประสิทธิภาพ ASR Echo ใน Pipeline?

คลิกเพื่อดูคำตอบ

4.11 บทสรุปการสัมภาษณ์ทั่วไป

• 1. แรงจูงใจ
  • 1.1 บทสรุปข้อความคืออะไร?
  • 1.2 เทคนิคการสรุปข้อความประเภทใด?
• 2. สรุปการสกัด
  • 2.1 วิธีการสรุปอย่างเด็ดขาด?
    • 2.1.1 อัลกอริทึมการประเมินความสำคัญของประโยคคืออะไร?
    • 2.1.2 วิธีการสร้างสรุปตามข้อ จำกัด คืออะไร?
    • 2.1.3 อัลกอริทึม TextTeaser แยกบทสรุปได้อย่างไร
    • 2.1.4 อัลกอริทึม Textrank แยกบทสรุปได้อย่างไร
  • 2.2 ปัญหาความสามารถในการอ่านของสรุปสกัดคืออะไร?
• 3. สรุปการบีบอัด
  • 3.1 วิธีการสรุปการบีบอัด?
• 4. สรุปกำเนิด
  • 4.1 วิธีการสรุปการกำเนิด?
  • 4.2 มีปัญหาเกี่ยวกับการสรุปทั่วไปอย่างไร?
  • 4.3 เครือข่ายผู้สร้างตัวชี้แก้ไขปัญหาอะไรบ้าง?
• V. วิธีการประเมินคุณภาพบทคัดย่อ
  • 5.1 วิธีการประเมินคุณภาพแบบนามธรรมประเภทใด?
  • 5.2 Rouge คืออะไร?
  • 5.3 ความแตกต่างระหว่างตัวบ่งชี้รูจหลายตัวคืออะไร?
  • 5.4 ความแตกต่างระหว่าง Bleu และ Rouge คืออะไร?

คลิกเพื่อดูคำตอบ

4.12 บทสัมภาษณ์ทั่วไปสำหรับการสร้างข้อความ

• การสัมภาษณ์ทั่วไปสำหรับวิธีการถอดรหัสสำหรับการสร้างแบบจำลอง
  • โมเดลกำเนิดคืออะไร?
  • วิธีการถอดรหัสแบบใช้การค้นหาคืออะไร?
  • วิธีการถอดรหัสที่ใช้การสุ่มตัวอย่างคืออะไร?

คลิกเพื่อดูคำตอบ

3. การสัมภาษณ์อัลกอริทึมการเรียนรู้อย่างลึกซึ้ง

• การสัมภาษณ์ทั่วไปของ CNN
  • 1. แรงจูงใจ
  • 2. เลเยอร์ cnn convolutional
    • 2.1 สาระสำคัญของเลเยอร์ convolutional คืออะไร?
    • 2.2 การเชื่อมต่อระหว่างเลเยอร์ CNN convolutional และเลเยอร์ที่เชื่อมต่ออย่างสมบูรณ์คืออะไร?
    • 2.3 ช่องหมายถึงอะไร?
  • 3. เลเยอร์การรวมตัวกันของ CNN
    • 3.1 เลเยอร์การรวมตัวของภูมิภาคคืออะไร?
    • 3.2 เลเยอร์การรวมประเภทอะไร?
    • 3.3 ฟังก์ชั่นของเลเยอร์การรวมกันคืออะไร?
    • 3.4 backpropagation ในเลเยอร์การรวมเป็นอย่างไร?
    • 3.5 การรวม backpropagation เป็นอย่างไร?
    • 3.6 backpropagation ของเลเยอร์การรวมเป็นอย่างไร?
  • 4. CNN โดยรวม
    • 4.1 กระบวนการของ CNN คืออะไร?
    • 4.2 ลักษณะของ CNN คืออะไร?
    • 4.3 เหตุใดเครือข่ายนิวรัลวัตจึงมีค่าคงที่การแปล?
    • 4.4 IM2COL ถูกนำไปใช้ในเครือข่ายประสาท Convolutional อย่างไร
    • 4.5 ข้อ จำกัด ของ CNN คืออะไร?
  • 5. CNN ที่ขยายตัวซ้ำแล้วซ้ำอีก
    • 5.1 CNN Void Convolution ขยายตัวคืออะไร?
    • 5.2 CNN ที่ขยายตัวซ้ำแล้วซ้ำอีก?
  • 6. Deconvolution
    • 6.1 อธิบายหลักการและการใช้งาน Deconvolution?

คลิกเพื่อดูคำตอบ

• การสัมภาษณ์ทั่วไป RNN
  • 1. RNN
    • 1.2 ทำไมฉันถึงต้องการ RNN?
    • 1.2 โครงสร้าง RNN คืออะไร?
    • 1.3 สูตรการคำนวณไปข้างหน้า RNN?
    • 1.4 ปัญหาเกี่ยวกับ RNN คืออะไร?
  • 2. เครือข่ายหน่วยความจำระยะยาวระยะยาว (LSTM)
    • 2.1 ทำไมคุณถึงต้องการ LSTM?
    • 2.2 โครงสร้างของ LSTM คืออะไร?
    • 2.3 LSTM ช่วยลดปัญหาของการไล่ระดับสี RNN หายไปและการระเบิดการไล่ระดับสีได้อย่างไร?
    • 2.3 กระบวนการของ LSTM คืออะไร?
    • 2.4 ฟังก์ชั่นการเปิดใช้งานความแตกต่างใน LSTM คืออะไร?
    • 2.5 LSTM ความซับซ้อน?
    • 2.6 LSTM มีปัญหาอะไรบ้าง?
  • 3. GRU (หน่วยกำเริบที่มีรั้วรอบขอบชิด)
    • 3.1 ทำไมคุณถึงต้องการ Gru?
    • 3.2 โครงสร้างของ GRU คืออะไร?
    • 3.3 การคำนวณไปข้างหน้าของ GRU?
    • 3.4 ความแตกต่างระหว่าง GRU กับรุ่น RNN อื่น ๆ คืออะไร?
  • 4. รุ่น RNN Series
    • 4.1 คุณลักษณะของโมเดล RNN Series คืออะไร?

คลิกเพื่อดูคำตอบ

• ความสนใจการสัมภาษณ์ทั่วไป
  • 1. seq2seq
    • 1.1 SEQ2SEQ (ENCODER-DECODER) คืออะไร?
    • 1.2 แล้ว ENCODER ใน SEQ2SEQ?
    • 1.3 แล้วตัวถอดรหัสใน SEQ2SEQ ล่ะ?
    • 1.4 คุณรู้จัก SEQ2SEQ จากมุมมองทางคณิตศาสตร์หรือไม่?
    • 1.5 SEQ2SEQ มีปัญหาอะไรบ้าง?
  • 2. ความสนใจ
    • 2.1 ความสนใจคืออะไร?
    • 2.2 ทำไมกลไกความสนใจจึงถูกแนะนำ?
    • 2.3 ฟังก์ชั่นของความสนใจคืออะไร?
    • 2.4 กระบวนการให้ความสนใจคืออะไร?
      • ขั้นตอนที่ 1 เพื่อดำเนินการเข้ารหัส (สอดคล้องกับ SEQ2SEQ)
      • ขั้นตอนที่ 2 คำนวณค่าสัมประสิทธิ์การจัดตำแหน่งก
      • ขั้นตอนที่ 3: คำนวณเวกเตอร์ความหมายบริบท C
      • ขั้นตอนที่ 4 อัปเดตสถานะตัวถอดรหัส
      • ขั้นตอนที่ 5 คำนวณคำทำนายเอาต์พุต
    • 2.5 พื้นที่แอปพลิเคชันที่ให้ความสนใจคืออะไร?
  • 3. ตัวแปรความสนใจ
    • 3.1 ความสนใจที่นุ่มนวลคืออะไร?
    • 3.2 ความสนใจที่ยากคืออะไร?
    • 3.3 ความสนใจระดับโลกคืออะไร?
    • 3.4 ความสนใจในท้องถิ่นคืออะไร?
    • 3.5 ความตั้งใจของตนเองคืออะไร?

คลิกเพื่อดูคำตอบ

• การสร้างเครือข่ายที่เป็นปฏิปักษ์ GAN การสัมภาษณ์ทั่วไป
  • 1. แรงจูงใจ
  • 2. บทนำ
    • 2.1 แนวคิดพื้นฐานของ Gan
    • 2.2 เบื้องต้นเบื้องต้นเกี่ยวกับกาน
      • 2.2.1 GAN 的基本结构
      • 2.2.2 GAN 的基本思想
  • 三、训练篇
    • 3.1 生成器介绍
    • 3.2 判别器介绍
    • 3.3 训练过程
    • 3.4 训练所涉及相关理论基础
  • 四、总结

点击查看答案

3.1 Transformer 常见面试篇

• Transformer 常见面试篇
  • 一、动机篇
    • 1.1 为什么要有Transformer?
    • 1.2 Transformer 作用是什么？
  • 二、整体结构篇
    • 2.1 Transformer 整体结构是怎么样？
    • 2.2 Transformer-encoder 结构怎么样？
    • 2.3 Transformer-decoder 结构怎么样?
  • 三、模块篇
    • 3.1 self-attention 模块
      • 3.1.1 传统attention 是什么?
      • 3.1.2 为什么会有self-attention?
      • 3.1.3 self-attention 的核心思想是什么?
      • 3.1.4 self-attention 的目的是什么?
      • 3.1.5 self-attention 的怎么计算的?
      • 3.1.6 self-attention 为什么Q和K使用不同的权重矩阵生成，为何不能使用同一个值进行自身的点乘？
      • 3.1.7 为什么采用点积模型的self-attention 而不采用加性模型？
      • 3.1.8 Transformer 中在计算self-attention 时为什么要除以 $sqrt{d}$ -
      • 3.1.9 self-attention 如何解决长距离依赖问题？
      • 3.1.10 self-attention 如何并行化？
    • 3.2 multi-head attention 模块
      • 3.2.1 multi-head attention 的思路是什么样?
      • 3.2.2 multi-head attention 的步骤是什么样?
      • 3.2.3 Transformer为何使用多头注意力机制？（为什么不使用一个头）
      • 3.2.4 为什么在进行多头注意力的时候需要对每个head进行降维？
      • 3.2.5 multi-head attention 代码介绍
    • 3.3 位置编码（Position encoding）模块
      • 3.3.1 为什么要加入位置编码（Position encoding） ？
      • 3.3.2 位置编码（Position encoding）的思路是什么？
      • 3.3.3 位置编码（Position encoding）的作用是什么？
      • 3.3.4 位置编码（Position encoding）的步骤是什么？
      • 3.3.5 Position encoding为什么选择相加而不是拼接呢？
      • 3.3.6 Position encoding和Position embedding的区别？
      • 3.3.7 为何17年提出Transformer时采用的是Position Encoder 而不是Position Embedding？而Bert却采用的是Position Embedding ？
      • 3.3.8 位置编码（Position encoding）的代码介绍
    • 3.4 残差模块模块
      • 3.4.1 为什么要加入残差模块？
    • 3.5 Layer normalization 模块
      • 3.5.1 为什么要加入Layer normalization 模块？
      • 3.5.2 Layer normalization 模块的是什么？
      • 3.5.3 Batch normalization 和Layer normalization 的区别？
      • 3.5.4 Transformer 中为什么要舍弃Batch normalization 改用Layer normalization 呢?
      • 3.5.5 Layer normalization 模块代码介绍
    • 3.6 Mask 模块
      • 3.6.1 什么是Mask？
      • 3.6.2 Transformer 中用到几种Mask？
      • 3.6.3 能不能介绍一下Transformer 中用到几种Mask？

点击查看答案

• 【关于Transformer 问题及改进】那些你不知道的事
  • 一、Transformer 问题篇
    • 1.1 既然Transformer 怎么牛逼，是否还存在一些问题？
  • 二、每个问题的解决方法是什么？
    • 2.1 问题一：Transformer 不能很好的处理超长输入问题
      • 2.1.1 Transformer 固定了句子长度？
      • 2.1.2 Transformer 固定了句子长度的目的是什么？
      • 2.1.3 Transformer 针对该问题的处理方法？
    • 2.2 问题二：Transformer 方向信息以及相对位置的缺失问题
    • 2.3 问题三：缺少Recurrent Inductive Bias
    • 问题四：问题四：Transformer是非图灵完备的： 非图灵完备通俗的理解，就是无法解决所有的问题
    • 问题五：transformer缺少conditional computation；
    • 问题六：transformer 时间复杂度和空间复杂度过大问题；

五、NLP 技巧面

5.1 少样本问题面

5.1.1 数据增强（EDA） 面试篇

• 一、动机篇
  • 1.1 什么是数据增强？
  • 1.2 为什么需要数据增强？
• 二、常见的数据增强方法篇
  • 2.1 词汇替换篇
    • 2.1.1 什么是基于词典的替换方法？
    • 2.1.2 什么是基于词向量的替换方法？
    • 2.1.3 什么是基于MLM 的替换方法？
    • 2.1.4 什么是基于TF-IDF 的词替换？
  • 2.2 词汇插入篇
    • 2.2.1 什么是随机插入法？
  • 2.3 词汇交换篇
    • 2.3.1 什么是随机交换法？
  • 2.4 词汇删除篇
    • 2.4.1 什么是随机删除法？
  • 2.5 回译篇
    • 2.5.1 什么是回译法？
  • 2.6 交叉增强篇
    • 2.6.1 什么是交叉增强篇
  • 2.7 语法树篇
    • 2.7.1 什么是语法树操作？
  • 2.8 对抗增强篇
    • 2.8.1 什么是对抗增强？

点击查看答案

5.1.2 主动学习面试篇

• 一、动机篇
  • 1.1 主动学习是什么？
  • 1.2 为什么需要主动学习？
• 二、主动学习篇
  • 2.1 主动学习的思路是什么？
  • 2.2 主动学习方法的价值点在哪里？
• 三、样本选取策略篇
  • 3.1 以未标记样本的获取方式的差别进行划分
  • 3.2 测试集内选取“信息”量最大的数据标记
    • 3.2.1 测试集内选取“信息”量最大的数据标记
    • 3.2.2 依赖不确定度的样本选取策略（Uncertainty Sampling, US）
    • 3.2.3 基于委员会查询的方法（Query-By-Committee，QBC）

点击查看答案

5.1.3 数据增强之对抗训练面试篇

• 一、介绍篇
  • 1.1 什么是对抗训练？
  • 1.2 为什么对抗训练能够提高模型效果？
  • 1.3 对抗训练有什么特点？
  • 1.4 对抗训练的作用?
• 二、概念篇
  • 2.1 对抗训练的基本概念?
  • 2.2 如何计算扰动?
  • 2.3 如何优化?
• 三、实战篇
  • 3.1 NLP 中经典对抗训练之Fast Gradient Method（FGM）
  • 3.2 NLP 中经典对抗训练之Projected Gradient Descent（PGD）

点击查看答案

5.2 “脏数据”处理面试篇

• 一、动机
  • 1.1 何为“脏数据”？
  • 1.2 “脏数据” 会带来什么后果？
• 二、“脏数据” 处理篇
  • 2.1 “脏数据” 怎么处理呢？
  • 2.2 置信学习方法篇
    • 2.2.1 什么是置信学习方法？
    • 2.2.2 置信学习方法优点？
    • 2.2.3 置信学习方法怎么做？
    • 2.2.4 置信学习方法怎么用？有什么开源框架？
    • 2.2.5 置信学习方法的工作原理？

点击查看答案

5.3 batch_size设置面试篇

• 一、训练模型时，batch_size的设置，学习率的设置?

点击查看答案

5.4 早停法EarlyStopping 面试篇

• 一、 为什么要用早停法EarlyStopping？
• 二、 早停法EarlyStopping 是什么？
• 三、早停法torch 版本怎么实现？

点击查看答案

5.5 标签平滑法LabelSmoothing 面试篇

• 一、为什么要有标签平滑法LabelSmoothing？
• 二、 标签平滑法是什么？
• 三、 标签平滑法torch 怎么复现？

点击查看答案

5.6 Bert Trick 面试篇

5.6.1 Bert 未登录词处理面试篇

• 什么是Bert 未登录词？
• Bert 未登录词如何处理？
• Bert 未登录词各种处理方法有哪些优缺点？

点击查看答案

5.6.2 BERT在输入层引入额外特征面试篇

• BERT在输入层如何引入额外特征？

点击查看答案

5.6.3 关于BERT 继续预训练面试篇

• 什么是继续预训练？
• 为什么会存在【数据分布/领域差异】大问题？
• 如何进行继续预训练？
• 还有哪些待解决问题？
• 训练数据问题解决方案？
• 知识缺乏问题解决方案？
• 知识理解缺乏问题解决方案？

点击查看答案

5.6.4 BERT如何处理篇章级长文本面试篇

• 为什么Bert 不能处理长文本？
• BERT 有哪些处理篇章级长文本?

点击查看答案

六、 Prompt Tuning 面试篇

6.1 Prompt 面试篇

1. 什么是prompt？
2. 如何设计prompt？
3. prompt进阶——如何自动学习prompt？
4. Prompt 有哪些关键要点？
5. Prompt 如何实现？

点击查看答案

6.2 Prompt 文本生成面试篇

1. Prompt之文本生成评估手段有哪些？
2. Prompt文本生成具体任务有哪些？

点击查看答案

6.3 LoRA 面试篇

1. 什么是lora？
2. lora 是怎么做的呢？
3. lora 为什么可以这样做？
4. 用一句话描述lora？
5. lora 优点是什么？
6. lora 缺点是什么？
7. lora 如何实现？

点击查看答案

6.4 PEFT（State-of-the-art Parameter-Efficient Fine-Tuning）面试篇

• 一、微调Fine-tuning 篇
  • 1.1 什么是微调Fine-tuning ？
  • 1.2 微调Fine-tuning 基本思想是什么？
• 二、轻度微调（lightweight Fine-tuning）篇
  • 2.1 什么是轻度微调（lightweight Fine-tuning）？
• 三、适配器微调（Adapter-tuning）篇
  • 3.1 什么是适配器微调（Adapter-tuning）？
  • 3.2 适配器微调（Adapter-tuning）变体有哪些？
• 四、提示学习（Prompting）篇
  • 4.1 什么是提示学习（Prompting）？
  • 4.2 提示学习（Prompting）的目的是什么？
  • 4.3 提示学习（Prompting） 代表方法有哪些？
    • 4.3.1 前缀微调（Prefix-tining）篇
      • 4.3.1.1 什么是前缀微调（Prefix-tining）？
      • 4.3.1.2 前缀微调（Prefix-tining）的核心是什么？
      • 4.3.1.3 前缀微调（Prefix-tining）的技术细节有哪些？
      • 4.3.1.4 前缀微调（Prefix-tining）的优点是什么？
      • 4.3.1.5 前缀微调（Prefix-tining）的缺点是什么？
    • 4.3.2 指示微调（Prompt-tuning）篇
      • 4.3.2.1 什么是指示微调（Prompt-tuning）？
      • 4.3.2.2 指示微调（Prompt-tuning）的核心思想？
      • 4.3.2.3 指示微调（Prompt-tuning）的优点/贡献是什么？
      • 4.3.2.4 指示微调（Prompt-tuning）的缺点是什么？
      • 4.3.2.5 指示微调（Prompt-tuning）与Prefix-tuning 区别是什么？
      • 4.3.2.6 指示微调（Prompt-tuning）与fine-tuning 区别是什么？
    • 4.3.3 P-tuning 篇
      • 4.3.3.1 P-tuning 动机是什么？
      • 4.3.3.2 P-tuning 核心思想是什么？
      • 4.3.3.3 P-tuning 做了哪些改进？
      • 4.3.3.4 P-tuning 有哪些优点/贡献？
      • 4.3.3.5 P-tuning 有哪些缺点？
    • 4.3.4 P-tuning v2 篇
      • 4.3.4.1 为什么需要P-tuning v2？
      • 4.3.4.2 P-tuning v2 是什么？
      • 4.3.4.3 P-tuning v2 有哪些优点？
      • 4.3.4.4 P-tuning v2 有哪些缺点？
    • 4.3.5 PPT 篇
      • 4.3.5.1 为什么需要PPT ？
      • 4.3.5.2 PPT 核心思想是什么？
      • 4.3.5.3 PPT 具体做法是怎么样？
      • 4.3.5.4 常用的soft prompt初始化方法？
      • 4.3.5.5 PPT 的优点是什么？
      • 4.3.5.6 PPT 的缺点是什么？
  • 4.4 提示学习（Prompting） 优点是什么？
  • 4.5 提示学习（Prompting） 本质是什么？
• 五、指令微调（Instruct-tuning）篇
  • 5.1 为什么需要指令微调（Instruct-tuning）？
  • 5.2 指令微调（Instruct-tuning）是什么？
  • 5.3 指令微调（Instruct-tuning）的优点是什么？
  • 5.4 指令微调（Instruct-tuning） vs 提升学习（Prompting）？
  • 5.5 指令微调（Instruct-tuning） vs 提升学习（Prompting） vs Fine-tuning？
• 六、指令提示微调（Instruct Prompt tuning）篇
  • 6.1 为什么需要指令微调（Instruct-tuning）？
  • 6.2 指令微调（Instruct-tuning） 是什么？
  • 6.3 指令微调（Instruct-tuning） 在不同任务上性能？
• 七、self-instruct篇
  • 7.1 什么是self-instruct？
• 八、Chain-of-Thought 篇
  • 8.1 为什么需要Chain-of-Thought ？
  • 8.2 什么是Chain-of-Thought ？
  • 8.3 Chain-of-Thought 的思路是怎么样的？
  • 8.4 Chain-of-Thought 的优点是什么？
  • 8.5 为什么chain-of-thought 会成功？
• 九、LoRA 篇
  • 9.1 LoRA 篇
    • 9.1.1 LoRA 核心思想是什么？
    • 9.1.2 LoRA 具体思路是什么？
    • 9.1.3 LoRA 优点是什么？
    • 9.1.4 LoRA 缺点是什么？
  • 9.2 AdaLoRA 篇
    • 9.2.1 AdaLoRA 核心思想是什么？
    • 9.2.2 AdaLoRA 实现思路是什么？
  • 9.3 DyLoRA 篇
    • 9.3.1 AdaLoRA 动机是什么？
    • 9.3.2 AdaLoRA 核心思想是什么？
    • 9.3.3 AdaLoRA 优点是什么？
• 十、BitFit 篇
  • 10.1 AdaLoRA 核心思想是什么？
  • 10.2 AdaLoRA 优点是什么？
  • 10.3 AdaLoRA 缺点是什么？

点击查看答案

七、LLMs 面试篇

7.1 【现在达模型LLM，微调方式有哪些？各有什么优缺点？

• 现在达模型LLM，微调方式有哪些？各有什么优缺点？

点击查看答案

7.2 GLM：ChatGLM的基座模型常见面试题

• GLM 的核心是什么？
• GLM 的模型架构是什么？
• GLM 如何进行多任务训练？
• 在进行NLG 时， GLM 如何保证生成长度的未知性？
• GLM 的多任务微调方式有什么差异？
• GLM 的多任务微调方式有什么优点？

点击查看答案

一、基础算法常见面试篇

• 过拟合和欠拟合常见面试篇
  • 一、过拟合和欠拟合是什么？
  • 二、过拟合/高方差（overfiting / high variance）篇
    • 2.1 过拟合是什么及检验方法？
    • 2.2 导致过拟合的原因是什么？
    • 2.3 过拟合的解决方法是什么？
  • 三、欠拟合/高偏差（underfiting / high bias）篇
    • 3.1 欠拟合是什么及检验方法？
    • 3.2 导致欠拟合的原因是什么？
    • 3.3 过拟合的解决方法是什么？

点击查看答案

• BatchNorm vs LayerNorm 常见面试篇
  • 一、动机篇
    • 1.1 独立同分布（independent and identically distributed）与白化
    • 1.2 （ Internal Covariate Shift，ICS）
    • 1.3 ICS问题带来的后果是什么？
  • 二、Normalization 篇
    • 2.1 Normalization 的通用框架与基本思想
  • 三、Batch Normalization 篇
    • 3.1 Batch Normalization（纵向规范化）是什么？
    • 3.2 Batch Normalization（纵向规范化）存在什么问题？
    • 3.3 Batch Normalization（纵向规范化）适用的场景是什么？
    • 3.4 BatchNorm 存在什么问题？
  • 四、Layer Normalization（横向规范化） 篇
    • 4.1 Layer Normalization（横向规范化）是什么？
    • 4.2 Layer Normalization（横向规范化）有什么用？
  • 五、BN vs LN 篇
  • 六、主流Normalization 方法为什么有效？

点击查看答案

• 激活函数常见面试篇

  • 一、动机篇
    • 1.1 为什么要有激活函数？
  • 二、激活函数介绍篇
    • 2.1 sigmoid 函数篇
      • 2.1.1 什么是sigmoid 函数？
      • 2.1.2 为什么选sigmoid 函数作为激活函数？
      • 2.1.3 sigmoid 函数有什么缺点？
    • 2.2 tanh 函数篇
      • 2.2.1 什么是tanh 函数？
      • 2.2.2 为什么选tanh 函数作为激活函数？
      • 2.2.3 tanh 函数有什么缺点？
    • 2.3 relu 函数篇
      • 2.3.1 什么是relu 函数？
      • 2.3.2 为什么选relu 函数作为激活函数？
      • 2.3.3 relu 函数有什么缺点？
  • 三、激活函数选择篇

• 正则化常见面试篇

  • 一、L0，L1，L2正则化篇
    • 1.1 正则化是什么？
    • 1.2 什么是L0 正则化？
    • 1.3 什么是L1 （稀疏规则算子Lasso regularization）正则化？
    • 1.4 什么是L2 正则化（岭回归Ridge Regression 或者权重衰减Weight Decay）正则化？
  • 二、对比篇
    • 2.1 什么是结构风险最小化？
    • 2.2 从结构风险最小化的角度理解L1和L2正则化
    • 2.3 L1 vs L2
  • 三、dropout 篇
    • 3.1 什么是dropout？
    • 3.2 dropout 在训练和测试过程中如何操作？
    • 3.3 dropout 如何防止过拟合?

点击查看答案

• 优化算法及函数常见面试篇
  • 一、动机篇
    • 1.1 为什么需要优化函数？
    • 1.2 优化函数的基本框架是什么?
  • 二、优化函数介绍篇
    • 2.1 梯度下降法是什么?
    • 2.2 随机梯度下降法是什么?
    • 2.3 Momentum 是什么?
    • 2.4 SGD with Nesterov Acceleration 是什么?
    • 2.5 Adagrad 是什么?
    • 2.6 RMSProp/AdaDelta 是什么？
    • 2.7 Adam 是什么?
    • 2.8 Nadam 是什么?
  • 三、优化函数学霸笔记篇

点击查看答案

• 归一化常见面试篇
  • 一、动机篇
    • 1.1 为什么要归一化？
  • 二、介绍篇
    • 2.1 归一化有哪些方法？
    • 2.2 归一化各方法特点？
    • 2.3 归一化的意义？
  • III. แอปพลิเคชัน
    • 3.1 哪些机器学习算法需要做归一化？
    • 3.2 哪些机器学习算法不需要做归一化？

点击查看答案

• 判别式（discriminative）模型vs. 生成式(generative)模型常见面试篇
  • 一、判别式模型篇
    • 1.1 什么是判别式模型？
    • 1.2 判别式模型是思路是什么？
    • 1.3 判别式模型的优点是什么？
  • 二、生成式模型篇
    • 2.1 什么是生成式模型？
    • 2.2 生成式模型是思路是什么？
    • 2.3 生成式模型的优点是什么？
    • 2.4 生成式模型的缺点是什么？

点击查看答案

二、机器学习算法篇常见面试篇

• 逻辑回归常见面试篇
  • 一、介绍篇
    • 1.1什么是逻辑回归
    • 1.2逻辑回归的优势
  • 二、推导篇
    • 2.1逻辑回归推导
    • 2.2求解优化

点击查看答案

• 支持向量机常见面试篇
  • 一、原理篇
    • 1.1 什么是SVM？
      • QA
    • 1.2 SVM怎么发展的？
    • 1.3 SVM存在什么问题？
      • QA
  • 二、算法篇
    • 2.1 什么是块算法？
    • 2.2 什么是分解算法？
    • 2.3 什么是序列最小优化算法？
    • 2.4 什么是增量算法？
      • QA
  • 三、其他SVM篇
    • 3.1 什么是最小二次支持向量机？
    • 3.2 什么是模糊支持向量机？
    • 3.3 什么是粒度支持向量机？
    • 3.4 什么是多类训练算法？
    • 3.5 什么是孪生支持向量机？
    • 3.6 什么是排序支持向量机？
      • QA
  • IV. แอปพลิเคชัน
    • 4.1 模式识别
    • 4.2 网页分类
    • 4.3 系统建模与系统辨识
    • 4.4 其他
  • 五、对比篇
  • 六、拓展篇

点击查看答案

• 集成学习常见面试篇
  • 一、动机
  • 二、集成学习介绍篇
    • 2.1 介绍篇
      • 2.1.1 集成学习的基本思想是什么？
      • 2.1.2 集成学习为什么有效？
  • 三、 Boosting 篇
    • 3.1 用一句话概括Boosting？
    • 3.2 Boosting 的特点是什么？
    • 3.3 Boosting 的基本思想是什么？
    • 3.4 Boosting 的特点是什么？
    • 3.5 GBDT 是什么？
    • 3.6 Xgboost 是什么？
  • 四、Bagging 篇
    • 4.1 用一句话概括Bagging？
    • 4.2 Bagging 的特点是什么？
    • 4.3 Bagging 的基本思想是什么？
    • 4.4 Bagging 的基分类器如何选择？
    • 4.5 Bagging 的优点是什么？
    • 4.6 Bagging 的特点是什么？
    • 4.7 随机森林是什么？
  • 五、 Stacking 篇
    • 5.1 用一句话概括Stacking ？
    • 5.2 Stacking 的特点是什么？
    • 5.3 Stacking 的基本思路是什么？
  • 六、常见问题篇
    • 6.1 为什么使用决策树作为基学习器？
    • 6.2 为什么不稳定的学习器更适合作为基学习器？
    • 6.3 哪些模型适合作为基学习器？
    • 6.4 Bagging 方法中能使用线性分类器作为基学习器吗？ Boosting 呢？
    • 6.5 Boosting/Bagging 与偏差/方差的关系？
  • 七、对比篇
    • 7.1 LR vs GBDT?

点击查看答案

九、【关于Python 】那些你不知道的事

• 【关于Python 】那些你不知道的事
  • 一、什么是*args 和**kwargs？
    • 1.1 为什么会有*args 和**kwargs？
    • 1.2 *args 和**kwargs 的用途是什么？
    • 1.3 *args 是什么？
    • 1.4 **kwargs是什么？
    • 1.5 *args 与**kwargs 的区别是什么？
  • 二、什么是装饰器？
    • 2.1 装饰器是什么？
    • 2.2 装饰器怎么用？
  • 三、Python垃圾回收（GC）
    • 3.1 垃圾回收算法有哪些？
    • 3.2 引用计数（主要）是什么？
    • 3.3 标记-清除是什么？
    • 3.4 分代回收是什么？
  • 四、python的sorted函数对字典按key排序和按value排序
    • 4.1 python 的sorted函数是什么？
    • 4.2 python 的sorted函数举例说明？
  • 五、直接赋值、浅拷贝和深度拷贝
    • 5.1 概念介绍
    • 5.2 介绍
    • 5.3 变量定义流程
    • 5.3 赋值
    • 5.4 浅拷贝
    • 5.5 深度拷贝
    • 5.6 核心：不可变对象类型and 可变对象类型
      • 5.6.1 不可变对象类型
      • 5.6.2 可变对象类型
  • 六、进程、线程、协程
    • 6.1 进程
      • 6.1.1 什么是进程？
      • 6.1.2 进程间如何通信？
    • 6.2 线程
      • 6.2.1 什么是线程？
      • 6.2.2 线程间如何通信？
    • 6.3 进程vs 线程
      • 6.3.1 区别
      • 6.3.2 应用场景
    • 6.4 协程
      • 6.4.1 什么是协程？
      • 6.4.2 协程的优点？
  • 七、全局解释器锁
    • 7.1 什么是全局解释器锁？
    • 7.2 GIL有什么作用？
    • 7.3 GIL有什么影响？
    • 7.4 如何避免GIL带来的影响？

十、【关于Tensorflow 】那些你不知道的事

• 【关于Tensorflow 损失函数】 那些你不知道的事
  • 一、动机
  • 二、什么是损失函数？
  • 三、目标函数、损失函数、代价函数之间的关系与区别？
  • 四、损失函数的类别
    • 4.1 回归模型的损失函数
      • （1）L1正则损失函数（即绝对值损失函数）
      • （2）L2正则损失函数（即欧拉损失函数）
      • （3）均方误差（MSE, mean squared error）
      • （4）Pseudo-Huber 损失函数
    • 4.2 分类模型的损失函数
      • （1）Hinge损失函数
      • （2）两类交叉熵（Cross-entropy）损失函数
      • （3）Sigmoid交叉熵损失函数
      • （4）加权交叉熵损失函数
      • （5）Softmax交叉熵损失函数
      • (6) SparseCategoricalCrossentropy vs sparse_categorical_crossentropy
  • 5. สรุป