browser ml inference
1.0.0
此React应用使用使用
https://aiserv.cloud/实时演示。
另请参见我的博客文章将ML推断从云到边缘移动，并在YouTube上使用#ONNXRUNTIME在浏览器中部署变压器模型。
情绪预测模型是预训练的语言模型Microsoft/Xtremedistil-L6-H384 un-un-un-un-un-unce的微调版本。该模型已在GoEmotions数据集上进行了微调，这是一个多标签文本分类问题。
Goelemotions是一个从流行的英语亚列表中提取的58K Reddit评论的人类通知数据集，并标有27个情感类别。作为迄今为止，最大的完全注释的英语精细情感数据集。与仅包括一种积极情绪（欢乐）的基本六个情绪相反，分类法包括12个积极，11个负面，4个模棱两可的情绪类别和1种“中性”，使其广泛地适合于对话理解需要在情感表达之间微妙的任务的对话。
纸质食物：细颗粒情绪的数据集
go_emotions数据集可在HuggingFace DataSet Hub上使用。有关如何在数据集上训练模型并将微调模型导出到ONNX上，请参见TraingoEmotions.IPYNB。
该模型被量化为int8权重，并具有22m可训练的参数。
推理是多线程。要使用多个推理线程，必须由CDN呈现特定的HTTP标头，请参见使用COP和COEP“隔离”网站。
三个线程用于推断。由于此错误，因此必须禁用多线程和Coop标头，因为该模型将无法在iOS设备上初始化。
为了开发，src/setupproxy.js添加了所需的标题。参见React问题10210
预先训练的语言模型接受了具有偏见的文本训练，请参阅随机鹦鹉的危险：语言模型会太大吗？对于预先训练语言模型和转移学习的危险的研究。
从数据集纸张goelemotions：精细元素情绪的数据集：
数据免责声明：我们知道数据集包含偏见，并且不代表全球多样性。我们知道数据集包含潜在的问题内容。数据中的潜在偏见包括：Reddit和用户基础偏见的固有偏见，用于评估进攻性身份标签的数据过滤，固有或无意识偏见的进攻/庸俗单词列表，注释者都是印度的母语英语。所有这些都可能影响训练有素的模型的标签，精度和召回。用于情感标签的情感试验模型，接受了研究团队审查的示例培训。使用此数据集的任何人都应意识到数据集的这些局限性。
安装node.js/npm，请参阅安装node.js
在项目目录中，您可以运行：
npm start在开发模式下运行该应用程序。
打开http：// localhost：3000在浏览器中查看。
进行更改时，该页面将重新加载。
您可能还会在控制台中看到任何棉绒错误。
npm run build将应用程序构建到build文件夹中。
它正确地捆绑了在生产模式下进行反应，并优化构建以获得最佳性能。
克隆此存储库并使用CloudFlare页面。
