PromptKG

Fampekg Family: แกลเลอรี่ของการเรียนรู้ที่รวดเร็วและงานวิจัยที่เกี่ยวข้องกับ KG, ชุดเครื่องมือและรายการกระดาษ

ไดเรกทอรี	คำอธิบาย
วิจัย	•การรวบรวม รูปแบบการวิจัย ที่เกี่ยวข้องกับการเรียนรู้ที่รวดเร็ว
Lambdakg	•ห้องสมุดสำหรับ การฝังและแอปพลิเคชัน KG ที่ใช้ PLM
Deltakg	•ไลบรารีสำหรับ การแก้ไข KG Embeddings ที่ใช้ PLM แบบไดนามิกแบบไดนามิก
หนังสือนิทาน	• สมุดบันทึกการสอน สำหรับผู้เริ่มต้น

สารบัญ

• บทเรียน
• การสำรวจ
• เอกสาร
  • ความรู้ตามพรอมต์
    • 1. ความเข้าใจภาษา
    • 2. หลายรูปแบบ
    • 3. งานขั้นสูง
  • พรอมต์ (PLMs) สำหรับความรู้
    • 1. การตรวจสอบความรู้
    • 2. การฝังกราฟความรู้
    • 3. การวิเคราะห์
• ข้อมูลติดต่อ

บทเรียน

• NLP แบบศูนย์และไม่กี่ครั้งพร้อมกับรุ่นภาษาที่ผ่านการฝึกฝน AACL 2022 บทช่วยสอน [ppt]
• การสร้างกราฟความรู้ที่มีประสิทธิภาพด้านข้อมูล CCKS2022 บทช่วยสอน [PPT]
• การสร้างกราฟความรู้ที่มีประสิทธิภาพและ robuts บทช่วยสอน AACL-IJCNLP [ppt]
• ความรู้แจ้งการเรียนรู้ที่รวดเร็ว MLNLP 2022 บทช่วยสอน (จีน) [ppt]

การสำรวจ

• การปรับจูนเดลต้า: การศึกษาที่ครอบคลุมเกี่ยวกับวิธีการที่มีประสิทธิภาพพารามิเตอร์สำหรับแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อน (บน ARXIV 2021) [กระดาษ]
• Pre-train, Promp และ Predict: การสำรวจอย่างเป็นระบบของวิธีการแจ้งเตือนในการประมวลผลภาษาธรรมชาติ (การสำรวจการคำนวณ ACM 2021) [กระดาษ]
• ปรับโครงสร้างก่อนการฝึกอบรม (บน Arxiv 2022) [กระดาษ]
• การสำรวจ NLP ที่ใช้ความรู้อย่างเข้มข้นด้วยแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อน (บน ARXIV 2022) [กระดาษ]
• การสำรวจแบบจำลองภาษาที่ได้รับการฝึกอบรมล่วงหน้าที่ได้รับการฝึกอบรมล่วงหน้า (บน Arxiv 2022) [กระดาษ]
• บทวิจารณ์เกี่ยวกับแบบจำลองภาษาเป็นฐานความรู้ (บน Arxiv 2022) [กระดาษ]
• การสร้างกราฟความรู้ทั่วไป: การทบทวน (EMNLP, 2022) [กระดาษ]
• การให้เหตุผลกับการแจ้งเตือนแบบจำลองภาษา: การสำรวจ (บน Arxiv 2022) [กระดาษ]
• การให้เหตุผลกับกราฟความรู้ประเภทต่าง ๆ : แบบคงที่ชั่วคราวและหลายโหมด (บน arxiv 2022) [กระดาษ]
• วงจรชีวิตของความรู้ในรูปแบบภาษาขนาดใหญ่: การสำรวจ (บน arxiv 2022) [กระดาษ]
• การรวมโมเดลภาษาขนาดใหญ่และกราฟความรู้: แผนงาน (บน Arxiv 2023) [กระดาษ]

เอกสาร

ความรู้ตามพรอมต์

ความเข้าใจภาษา

• การค้นพบแบบสืบค้นสำหรับงาน NLP ที่ใช้ความรู้มากใน Neurips 2020. [PDF]
• Realm: รูปแบบภาษาที่เรียกคืนก่อนการฝึกอบรมใน ICML 2020. [PDF]
• การทำให้แบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนผู้เรียนไม่กี่คนใน ACL 2022 [PDF]
• PTR: การปรับแต่งพร้อมกฎสำหรับการจำแนกประเภทข้อความใน OpenAI 2022 [PDF]
• ฉลากด้วยวาจาและการส่งมอบสำหรับการแยกความสัมพันธ์แบบศูนย์และไม่กี่ครั้งใน EMNLP 2021 [PDF]
• RelationPrompt: การใช้ประโยชน์จากการใช้งานเพื่อสร้างข้อมูลสังเคราะห์สำหรับการสกัด Triplet Relit-shot zero-shot ใน EMNLP 2022 (ผลการวิจัย) [PDF]
• การปรับจูนที่มีความรู้: การรวมความรู้เข้ากับ Verbalizer พร้อมสำหรับการจำแนกประเภทข้อความใน ACL 2022 [PDF]
• PPT: การปรับแต่งพร้อมที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการเรียนรู้ไม่กี่นัดใน ACL 2022 [PDF]
• การปรับจูนการสาธิตแบบตัดกันสำหรับแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนใน EMNLP 2022 (ผลการวิจัย) [PDF]
• Adaprompt: การฝึกอบรมแบบปรับตัวสำหรับ NLP ตามพรอมต์ใน ARXIV 2022 [PDF]
• Knowprompt: การปรับแต่งความรู้ด้วยความรู้ด้วยการเพิ่มประสิทธิภาพเสริมฤทธิ์กันสำหรับการสกัดความสัมพันธ์ใน www 2022 [PDF]
• การอ้างอิงที่ตระหนักถึงสคี
• decoupling ความรู้จากการท่องจำ: การเรียนรู้การดึงข้อมูลทันทีใน Neurips 2022. [PDF]
• การสกัดความสัมพันธ์เป็นการตรวจสอบแบบเปิดหนังสือ: การปรับจูนการดึงข้อมูลการดึงข้อมูลใน SIGIR 2022 [PDF]
• LIGHTNER: กระบวนทัศน์การปรับแต่งน้ำหนักเบาสำหรับแหล่งที่มาต่ำผ่านการแจ้งเตือนที่สามารถทำได้ใน COLING 2022 [PDF]
• การสร้างโครงสร้างแบบครบวงจรสำหรับการสกัดข้อมูลสากลใน ACL 2022 [PDF]
• Lasuie: การรวมข้อมูลการสกัดด้วยโมเดลภาษาแบบปรับโครงสร้างแบบปรับตัวที่แฝงอยู่ใน Neurips 2022 [PDF]
• ATLAS: การเรียนรู้ไม่กี่นัดด้วยโมเดลภาษาเสริมการดึงข้อมูลใน Arxiv 2022. [PDF]
• อย่าแจ้งให้ค้นหา! การเรียนรู้แบบศูนย์การขุดด้วยโมเดลภาษาใน ACL 2022 [PDF]
• ความรู้แจ้งในรูปแบบภาษาที่ผ่านการฝึกอบรมมาก่อนเพื่อทำความเข้าใจภาษาธรรมชาติใน EMNLP 2022 [PDF]
• ความรู้แบบครบวงจรพร้อมฝึกอบรมก่อนการสนทนาการบริการลูกค้าใน CIKM 2022 [PDF]
• ความรู้แจ้งในรูปแบบภาษาที่ผ่านการฝึกอบรมมาก่อนเพื่อทำความเข้าใจภาษาธรรมชาติใน EMNLP 2022 [PDF]
• Instruct ตัวเอง: จัดแนวโมเดลภาษากับคำแนะนำที่สร้างขึ้นด้วยตนเองใน Arxiv 2022. [PDF]
• หนึ่ง Embedder, งานใด ๆ : การสั่งซื้อข้อความที่ใช้ในการใช้งานใน arxiv 2022. [PDF]
• เรียนรู้ที่จะดึงพรอมต์สำหรับการเรียนรู้ในบริบทใน NAACL 2022 [PDF]
• ข้อมูลการฝึกอบรมมีค่ามากกว่าที่คุณคิด: วิธีที่ง่ายและมีประสิทธิภาพโดยการดึงข้อมูลจากการฝึกอบรมใน ACL 2022 [PDF]
• รุ่นเดียวสำหรับทุกโดเมน: การปรับแต่งโดเมนร่วมกันสำหรับการปรับแต่งสำหรับ cross-domain ner ใน arxiv 2023. [PDF]
• REPLUG: แบบจำลองภาษากล่องดำแบบสืบค้น-AUGMENTED ใน ARXIV 2023 [PDF]
• แบบจำลองภาษาที่มีความรู้ที่กระตุ้นการตอบสนองต่อการตอบคำถามกราฟความรู้แบบไม่มีการถ่ายภาพใน Arxiv 2023 [PDF]

หลายรูปแบบ

• คำแนะนำด้านภาพที่ดีทำให้ตัวแยกที่ดีขึ้น: คำนำหน้าภาพแบบลำดับชั้นสำหรับเอนทิตีหลายรูปแบบและการสกัดความสัมพันธ์ใน NAACL 2022 (ผลการวิจัย) [PDF]
• การปรับจูนพร้อมด้วยภาพใน ECCV 2022 [PDF]
• CPT: การปรับแต่งสีสันสดใสสำหรับรุ่น Vision-Language ที่ผ่านการฝึกอบรมมาก่อนใน EMNLP 2022 [PDF]
• เรียนรู้ที่จะพร้อมสำหรับแบบจำลองภาษาวิสัยทัศน์ใน IJCV 2022 [PDF]
• การปรับแต่งเวลาทดสอบเวลาสำหรับการวางนัยทั่วไปแบบไม่มีการยิงในแบบจำลองการมองเห็นภาษาใน Neurips 2022 [PDF]

งานขั้นสูง

• คำแนะนำในการประมวลผลภาษา (RLP): pretrain แบบครบวงจร, Personalized Prompt & Predict Paradigm (P5), ใน ACM RECSYS 2022. [PDF]
• สู่ระบบผู้แนะนำการสนทนาแบบครบวงจรผ่านการเรียนรู้ที่ได้รับการปรับปรุงความรู้ใน KDD 2022 [PDF]
• พรอมต์: การปรับจูนสำหรับการจับคู่เอนทิตีทั่วไปที่มีทรัพยากรต่ำใน VLDB 2023. [PDF]
• VIMA: การจัดการหุ่นยนต์ทั่วไปที่มีพรอมต์หลายรูปแบบใน Arxiv 2022. [PDF]
• โมเดลภาษาที่ไม่ได้ใช้ยา retrosynthesis ที่มีการตัดการเชื่อมต่อใน Arxiv 2022. [PDF]
• ProgPrompt: การสร้างแผนงานหุ่นยนต์ที่ตั้งอยู่โดยใช้แบบจำลองภาษาขนาดใหญ่ใน Arxiv 2022. [PDF]
• การร่วมมือกับแบบจำลองภาษาสำหรับการใช้เหตุผลที่เป็นตัวเป็นตนใน Neurips 2022 Workshop Larel [PDF]

พรอมต์ (PLMs) สำหรับความรู้

การตรวจสอบความรู้

• คุณสามารถเก็บความรู้ไว้ในพารามิเตอร์ของแบบจำลองภาษาได้มากแค่ไหน? ใน EMNLP 2020. [PDF]
• แบบจำลองภาษาเป็นฐานความรู้? ใน EMNLP 2019. [PDF]
• ฐานความรู้ที่เป็นรูปธรรมจาก Transformers ทั่วไปใน CSRR 2022 [PDF]
• แบบจำลองภาษาที่ทราบเวลาเป็นฐานความรู้ชั่วคราวใน TACL2022 [PDF]
• แบบจำลองภาษาที่ผ่านการฝึกอบรมมาแล้วสามารถใช้เป็นฐานความรู้สำหรับ QA แบบปิดได้หรือไม่? ใน ACL2021 [PDF]
• แบบจำลองภาษาเป็นฐานความรู้: ในการเป็นตัวแทนของเอนทิตีความสามารถในการจัดเก็บและการสอบถามรายละเอียดเพิ่มเติมใน EACL2021 [PDF]
• แบบจำลองภาษาวิทยาศาสตร์สำหรับฐานความรู้ด้านชีวการแพทย์ที่สมบูรณ์: การศึกษาเชิงประจักษ์ใน AKBC 2021 [PDF]
• LAMA หลายภาษา: การตรวจสอบความรู้ในแบบจำลองภาษาหลายภาษาหลายภาษาใน EACL2021 [PDF]
• เราจะรู้ได้อย่างไรว่ารูปแบบภาษาใดรู้ ใน Tacl 2020. [PDF]
• บริบทมีผลต่อการทำนายข้อเท็จจริงของแบบจำลองภาษาอย่างไรใน AKBC 2020 [PDF]
• COPEN: การตรวจสอบความรู้แนวคิดในแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนใน EMNLP 2022 [PDF]
• การตรวจสอบความรู้เปรียบเทียบจากแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนใน ACL 2022 [PDF]

การฝังกราฟความรู้ (เรามีห้องสมุดและเกณฑ์มาตรฐาน Lambdakg)

• KG-BERT: BERT สำหรับความรู้กราฟเสร็จสมบูรณ์ใน ARXIV 2020 [PDF]
• การเรียนรู้แบบหลายงานสำหรับการทำให้กราฟความรู้สำเร็จด้วยแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อน， ใน Coling 2020 [PDF]
• การเรียนรู้การเป็นตัวแทนข้อความโครงสร้างการเรียนรู้เพื่อการสร้างกราฟความรู้ที่มีประสิทธิภาพใน www 2021. [PDF]
• Kepler: แบบครบวงจรสำหรับการฝังความรู้และการเป็นตัวแทนภาษาที่ผ่านการฝึกอบรมมาก่อน Tacl 2021 [PDF]
• Statik: โครงสร้างและข้อความสำหรับกราฟความรู้อุปนัยใน NAACL 2022 [PDF]
• ความหมายภาษาร่วมและโครงสร้างการฝังกราฟความรู้ในการทำให้เสร็จสมบูรณ์ใน Coling [PDF]
• ความรู้นั้นแบน: กรอบการกำเนิด SEQ2SEQ สำหรับการสร้างกราฟความรู้ที่หลากหลายใน COLING [PDF]
• โมเดลที่ผ่านการฝึกอบรมมาก่อนจะเป็นประโยชน์ต่อกราฟความรู้ที่สมบูรณ์หรือไม่? การประเมินที่เชื่อถือได้และวิธีการที่สมเหตุสมผลใน ACL 2022 [PDF]
• แบบจำลองภาษาเป็นฝังความรู้ใน IJCAI 2022 [PDF]
• จากการเลือกปฏิบัติไปสู่รุ่น: กราฟความรู้เสร็จสมบูรณ์ด้วยหม้อแปลงไฟฟ้าใน www 2022. [PDF]
• การใช้เหตุผลผ่านการท่องจำ: การฝังกราฟความรู้เพื่อนบ้านที่ใกล้ที่สุดใน Arxiv 2022 [PDF]
• SIMKGC: กราฟความรู้ที่แตกต่างอย่างง่ายด้วยแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนใน ACL 2022 [PDF]
• ลำดับการทำกราฟความรู้ลำดับความรู้และการตอบคำถามใน ACL 2022 [PDF]
• LP-BERT: กราฟการฝึกอบรมก่อนการฝึกอบรมหลายงานเบิร์ตสำหรับการทำนายลิงก์ใน Arxiv 2022. [PDF]
• หน้ากากและเหตุผล: กราฟกราฟความรู้ก่อนการฝึกอบรมสำหรับการสืบค้นเชิงตรรกะที่ซับซ้อนใน KDD 2022 [PDF]
• ความรู้คือแบน: กรอบการกำเนิด SEQ2SEQ สำหรับการสร้างกราฟความรู้ที่หลากหลายใน COLING 2022 [PDF]

การวิเคราะห์

• การเดาที่มีความรู้หรือมีการศึกษา? การกลับมาแบบจำลองภาษาเป็นฐานความรู้ใน ACL 2021 [PDF]
• สามารถตรวจสอบแบบจำลองภาษาที่เตรียมไว้ล่วงหน้าได้หรือไม่? ทำความเข้าใจกับความเสี่ยงที่มองไม่เห็นจากมุมมองเชิงสาเหตุใน ACL 2022 [PDF]
• แบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนจับความรู้ที่เป็นข้อเท็จจริงอย่างไร การวิเคราะห์ที่ได้แรงบันดาลใจจากสาเหตุใน ACL 2022 [PDF]
• ความสามารถฉุกเฉินของแบบจำลองภาษาขนาดใหญ่ใน Arxiv 2022. [PDF]
• เซลล์ประสาทความรู้ในหม้อแปลงที่ผ่านการฝึกอบรมใน ACL 2022 [PDF]
• การค้นหาเซลล์ประสาททักษะในแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนใน EMNLP 2022 [PDF]
• พร้อมที่จะแก้ปัญหางาน NLP โดยใช้ภาษาธรรมชาติหรือไม่? ใน Arxiv 2022. [PDF]
• ทบทวนบทบาทของการสาธิต: สิ่งที่ทำให้การเรียนรู้ในบริบท? ใน EMNLP 2022. [PDF]
• โมเดลที่มีพื้นฐานมาจากการพร้อมที่จะเข้าใจความหมายของพรอมต์ของพวกเขาหรือไม่? ใน NAACL 2022. [PDF]
• เมื่อไม่ไว้วางใจแบบจำลองภาษา: การตรวจสอบประสิทธิภาพและข้อ จำกัด ของความทรงจำแบบพารามิเตอร์และไม่ใช่พารามิเตอร์ในอาร์กซ์ 2022 [PDF]
• ทำไม GPT จึงเรียนรู้ในบริบทได้? แบบจำลองภาษาอย่างลับ ๆ แสดงการไล่ระดับสีเป็น meta-optimizers， ใน arxiv 2022. [PDF]
• คำสั่งซื้อที่น่าอัศจรรย์และสถานที่ที่จะหาได้: การเอาชนะความไวต่อการสั่งซื้อไม่กี่ครั้งใน ACL 2022 [PDF]
• การแก้ไขแบบจำลองภาษาขนาดใหญ่: ปัญหาวิธีการและโอกาสใน Arxiv 2023. [PDF]

ข้อมูลติดต่อ

สำหรับความช่วยเหลือหรือปัญหาโดยใช้ข้อเสนอโปรดส่งปัญหา GitHub