browser ml inference
1.0.0
이 반응 앱은 브라우저에서 ML 추론을 보여줍니다.
https://aiserv.cloud/에서 라이브 데모.
또한 내 블로그 게시물을 참조하십시오. ML 추론을 클라우드에서 에지로 이동하고 YouTube의 #onnxRuntime을 사용하여 브라우저에서 변압기 모델을 배포하십시오.
감정 예측 모델은 미리 훈련 된 언어 모델 Microsoft/Xtremedistil-L6-H384-incased의 미세 조정 버전입니다. 이 모델은 멀티 라벨 텍스트 분류 문제인 Goemotions 데이터 세트에서 미세 조정되었습니다.
Goemotions, 인기있는 영어 서브 레딧에서 추출한 58K Reddit 의견의 인간이 주석화 된 데이터 세트 인 Goemotions는 27 개의 감정 범주로 표시됩니다. 현재까지 최대 주석이 달린 영어 최대의 미세한 감정 데이터 세트로서. 하나의 긍정적 인 감정 (기쁨)만을 포함하는 기본 6 가지 감정과 달리, 분류는 12 개의 긍정적, 11 개의 부정적인, 4 개의 모호한 감정 범주와 1 개의 "중립"을 포함하므로 감정 표현 사이의 미묘한 차별화가 필요한 작업을 이해하는 데 널리 적합합니다.
종이 goemotions : 세밀한 감정의 데이터 세트
go_emotions 데이터 세트는 HuggingFace DataSet Hub에서 사용할 수 있습니다.데이터 세트에서 모델을 훈련시키고 미세 조정 된 모델을 ONNX로 내보내는 방법은 TraingoEmotions.ipynb를 참조하십시오.
이 모델은 int8 가중치로 양자화되며 22m의 훈련 가능한 매개 변수가 있습니다.
추론은 다중 스레드입니다. 여러 추론 스레드를 사용하려면 CDN에서 특정 HTTP 헤더를 제시해야합니다.
3 개의 스레드가 추론에 사용됩니다. 이 버그로 인해 멀티 스레딩 및 쿠퍼 헤더는 모델이 iOS 장치에서 조용히 초기화되지 않으므로 비활성화해야했습니다.
개발을 위해 SRC/SETUPPROXY.JS는 필요한 헤더를 추가합니다. React Issue 10210을 참조하십시오
미리 훈련 된 언어 모델은 편견이있는 텍스트에 대한 교육을 받았습니다. 확률 앵무새의 위험을 참조하십시오. 언어 모델이 너무 커질 수 있습니까? 미리 훈련 된 언어 모델의 위험과 전송 학습의 위험에 대한 연구.
데이터 세트 용지 goemotions : 미세한 감정의 데이터 세트 :
데이터 면책 조항 : 데이터 세트에 편견이 포함되어 있으며 글로벌 다양성을 대표하지 않습니다. 우리는 데이터 세트에 잠재적 인 문제가있는 콘텐츠가 포함되어 있음을 알고 있습니다. 데이터의 잠재적 편견에는 다음이 포함됩니다. Reddit 및 사용자 기반 편견의 고유 한 편향, 공격적 신원 레이블의 평가에 데이터 필터링, 고유 또는 무의식적 편견에 사용되는 공격/저속한 단어 목록, 주석기는 모두 인도의 영어 원어민이었습니다. 이 모든 것이 훈련 된 모델의 라벨, 정밀도 및 리콜에 영향을 미칩니다. 감정 라벨링에 사용 된 감정 파일럿 모델은 연구팀이 검토 한 예제에 대해 교육을 받았습니다. 이 데이터 세트를 사용하는 사람은 데이터 세트의 이러한 제한 사항을 알고 있어야합니다.
node.js/npm 설치, node.js 설치를 참조하십시오
프로젝트 디렉토리에서는 다음을 실행할 수 있습니다.
npm start 개발 모드에서 앱을 실행합니다.
브라우저에서 http : // localhost : 3000을 엽니 다.
변경하면 페이지가 다시로드됩니다.
콘솔에 보풀 오류가 표시 될 수도 있습니다.
npm run build build 폴더에 생산을위한 앱을 빌드합니다.
생산 모드에서 올바르게 반응하고 최상의 성능을 위해 빌드를 최적화합니다.
이 저장소를 복제하고 CloudFlare 페이지를 사용하십시오.
