browser ml inference
1.0.0
此React應用使用使用
https://aiserv.cloud/實時演示。
另請參見我的博客文章將ML推斷從雲到邊緣移動，並在YouTube上使用#ONNXRUNTIME在瀏覽器中部署變壓器模型。
情緒預測模型是預訓練的語言模型Microsoft/Xtremedistil-L6-H384 un-un-un-un-un-unce的微調版本。該模型已在GoEmotions數據集上進行了微調，這是一個多標籤文本分類問題。
Goelemotions是一個從流行的英語亞列表中提取的58K Reddit評論的人類通知數據集，並標有27個情感類別。作為迄今為止，最大的完全註釋的英語精細情感數據集。與僅包括一種積極情緒（歡樂）的基本六個情緒相反，分類法包括12個積極，11個負面，4個模棱兩可的情緒類別和1種“中性”，使其廣泛地適合於對話理解需要在情感表達之間微妙的任務的對話。
紙質食物：細顆粒情緒的數據集
go_emotions數據集可在HuggingFace DataSet Hub上使用。有關如何在數據集上訓練模型並將微調模型導出到ONNX上，請參見TraingoEmotions.IPYNB。
該模型被量化為int8權重，並具有22m可訓練的參數。
推理是多線程。要使用多個推理線程，必須由CDN呈現特定的HTTP標頭，請參見使用COP和COEP“隔離”網站。
三個線程用於推斷。由於此錯誤，因此必須禁用多線程和Coop標頭，因為該模型將無法在iOS設備上初始化。
為了開發，src/setupproxy.js添加了所需的標題。參見React問題10210
預先訓練的語言模型接受了具有偏見的文本訓練，請參閱隨機鸚鵡的危險：語言模型會太大嗎？對於預先訓練語言模型和轉移學習的危險的研究。
從數據集紙張goelemotions：精細元素情緒的數據集：
數據免責聲明：我們知道數據集包含偏見，並且不代表全球多樣性。我們知道數據集包含潛在的問題內容。數據中的潛在偏見包括：Reddit和用戶基礎偏見的固有偏見，用於評估進攻性身份標籤的數據過濾，固有或無意識偏見的進攻/庸俗單詞列表，註釋者都是印度的母語英語。所有這些都可能影響訓練有素的模型的標籤，精度和召回。用於情感標籤的情感試驗模型，接受了研究團隊審查的示例培訓。使用此數據集的任何人都應意識到數據集的這些局限性。
安裝node.js/npm，請參閱安裝node.js
在項目目錄中，您可以運行：
npm start在開發模式下運行該應用程序。
打開http：// localhost：3000在瀏覽器中查看。
進行更改時，該頁面將重新加載。
您可能還會在控制台中看到任何棉絨錯誤。
npm run build將應用程序構建到build文件夾中。
它正確地捆綁了在生產模式下進行反應，並優化構建以獲得最佳性能。
克隆此存儲庫並使用CloudFlare頁面。
