หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

การทำนายอารมณ์ความรู้สึกในเบราว์เซอร์

แอพตอบสนองนี้แสดงให้เห็นถึงการอนุมาน ML ในเบราว์เซอร์โดยใช้

  • หน้า CloudFlare เพื่อส่งมอบแอพตอบสนองและโมเดลผ่านเครือข่ายการส่งเนื้อหาทั่วโลก (CDN)
  • ONNX Runtime Web สำหรับการอนุมานแบบจำลองในเบราว์เซอร์
  • HuggingFace สำหรับ NLP Model Hosting and Training API (Library Transformer)
  • Google Colab สำหรับการฝึกอบรมแบบจำลองโดยใช้อินสแตนซ์ GPU

การสาธิตสดที่ https://aiserv.cloud/

ดูเพิ่มเติมที่บล็อกโพสต์ของฉันย้ายการอนุมาน ML จากคลาวด์ไปยังขอบและปรับใช้โมเดลหม้อแปลงในเบราว์เซอร์ด้วย #onnxruntime บน YouTube

โมเดลการทำนายอารมณ์เป็นรุ่นที่ปรับแต่งอย่างละเอียดของโมเดลภาษาที่ผ่านการฝึกอบรมมาแล้ว Microsoft/Xtremedistil-L6-H384-uncased โมเดลได้รับการปรับแต่งอย่างละเอียดในชุดข้อมูล goemotions ซึ่งเป็นปัญหาการจัดหมวดหมู่ข้อความหลายฉลาก

Goemotions ชุดข้อมูลที่มีคำอธิบายประกอบของมนุษย์ของความคิดเห็น Reddit 58K ที่สกัดจาก subreddits ภาษาอังกฤษยอดนิยมและติดป้ายด้วย 27 หมวดหมู่อารมณ์ เป็นชุดข้อมูลภาษาอังกฤษที่มีคำอธิบายประกอบภาษาอังกฤษที่ใหญ่ที่สุดจนถึงปัจจุบัน ตรงกันข้ามกับอารมณ์พื้นฐานหกประการซึ่งรวมถึงอารมณ์เชิงบวกเพียงหนึ่งเดียว (ความสุข) อนุกรมวิธานรวมถึง 12 บวก, 11 ลบ, 4 หมวดหมู่อารมณ์ที่คลุมเครือ 4 และ 1“ เป็นกลาง” ทำให้เหมาะอย่างยิ่งสำหรับงานการทำความเข้าใจการสนทนาที่ต้องมีความแตกต่างระหว่างการแสดงออกทางอารมณ์

Paper Goemotions: ชุดข้อมูลของอารมณ์ความรู้สึกละเอียด

  • โมเดลที่ปรับแต่งได้นั้นโฮสต์บน HuggingFace: Bergum/Xtremedistil-L6-H384-Go-emotion
  • ชุดข้อมูล go_emotions มีอยู่ในฮับชุดข้อมูล HuggingFace

ดู traingoemotions.ipynb สำหรับวิธีการฝึกอบรมโมเดลในชุดข้อมูลและส่งออกโมเดลที่ปรับจูนไปยัง ONNX

onnx-runtime-web

แบบจำลองจะถูกวัดปริมาณเป็นน้ำหนัก int8 และมีพารามิเตอร์ที่สามารถฝึกอบรมได้ 22 เมตร

การอนุมานเป็นแบบมัลติเธรด ในการใช้เธรดการอนุมานหลายครั้งส่วนหัว HTTP เฉพาะจะต้องนำเสนอโดย CDN ให้ดูที่การทำให้เว็บไซต์ของคุณ "แยกจากต้นกำเนิด" โดยใช้ COOP และ COEP

สามเธรดใช้สำหรับการอนุมาน เนื่องจากข้อผิดพลาดนี้มัลติเธรดและส่วนหัวของ Coop ต้องถูกปิดใช้งานเนื่องจากโมเดลจะล้มเหลวในการเริ่มต้นบนอุปกรณ์ iOS อย่างเงียบ ๆ

สำหรับการพัฒนา SRC/SetUpproxy.js เพิ่มส่วนหัวที่จำเป็น ดู React ปัญหา 10210

การนำทางรหัส

  • ตรรกะของแอพส่วนหน้าอยู่ใน src/app.js
  • ตรรกะการอนุมานแบบจำลองอยู่ใน src/inferfer.js
  • Tokenizer อยู่ใน SRC/BERT_TOKENIZER.js ซึ่งเป็นสำเนาของ Google TFJS (Apache 2.0)
  • ส่วนหัวของ Cloudflare แทนที่สำหรับนโยบาย Cross-Origin Coop เพื่อเปิดใช้งานการอนุมานหลายเกลียวสาธารณะ/_header

แบบจำลองและอคติภาษา

รูปแบบภาษาที่ผ่านการฝึกอบรมมาก่อนได้รับการฝึกฝนเกี่ยวกับข้อความที่มีอคติดูถึงอันตรายของนกแก้วสุ่ม: รูปแบบภาษามีขนาดใหญ่เกินไปหรือไม่? สำหรับการศึกษาเกี่ยวกับอันตรายของแบบจำลองภาษาที่ผ่านการฝึกอบรมมาก่อนและถ่ายโอนการเรียนรู้

จากชุดข้อมูล goemotions: ชุดข้อมูลของอารมณ์ความรู้สึกที่ดี:

ข้อจำกัดความรับผิดชอบข้อมูล: เราทราบว่าชุดข้อมูลมีอคติและไม่ได้เป็นตัวแทนของความหลากหลายทั่วโลก เราทราบว่าชุดข้อมูลมีเนื้อหาที่มีปัญหา อคติที่อาจเกิดขึ้นในข้อมูลรวมถึง: อคติโดยธรรมชาติใน Reddit และอคติฐานผู้ใช้รายการคำที่น่ารังเกียจ/หยาบคายที่ใช้สำหรับการกรองข้อมูล, อคติโดยธรรมชาติหรือหมดสติในการประเมินฉลากเอกลักษณ์ที่น่ารังเกียจ สิ่งเหล่านี้มีผลต่อการติดฉลากความแม่นยำและการเรียกคืนสำหรับแบบจำลองที่ผ่านการฝึกอบรม แบบจำลองนักบินอารมณ์ที่ใช้สำหรับการติดฉลากความเชื่อมั่นได้รับการฝึกฝนเกี่ยวกับตัวอย่างที่ตรวจสอบโดยทีมวิจัย ใครก็ตามที่ใช้ชุดข้อมูลนี้ควรตระหนักถึงข้อ จำกัด เหล่านี้ของชุดข้อมูล

เรียกใช้แอพนี้

ติดตั้ง node.js/npm ดูการติดตั้ง node.js

ในไดเรกทอรีโครงการคุณสามารถเรียกใช้:

npm start

รันแอพในโหมดการพัฒนา
เปิด http: // localhost: 3000 เพื่อดูในเบราว์เซอร์ของคุณ

หน้าจะโหลดซ้ำเมื่อคุณทำการเปลี่ยนแปลง
คุณอาจเห็นข้อผิดพลาดผ้าสำลีในคอนโซล

npm run build

สร้างแอพสำหรับการผลิตไปยังโฟลเดอร์ build
มันรวมกันอย่างถูกต้องตอบสนองในโหมดการผลิตและปรับการสร้างเพื่อประสิทธิภาพที่ดีที่สุด

การปรับใช้แอพ

โคลน repo นี้และใช้หน้า CloudFlare

สิ่งที่ต้องทำ

  • แก้ไข build เพื่อคัดลอกไฟล์ WASM จาก node_modules เพื่อสร้างเพื่อหลีกเลี่ยงการมีไฟล์ WASM ภายใต้การควบคุมแหล่งที่มา
  • ยินดีต้อนรับการประชาสัมพันธ์และข้อเสนอแนะ - สร้างปัญหาเพื่อติดต่อ
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด