euanka下載euanka源代碼下載

euanka

Ai源碼

1.0.0

下載

本地完全部署自己的大模型語音對話角色

介紹

當前最需要的是你的STAR，謝謝！

這是一個即將起步的AI對話服務體系，當然當前都是構思完善中，如果有人喜歡會繼續更新...

功能

使用k2實現流式語音識別ASR
使用Rasa作為NLU語義分詞對話加速拿到外部信源數據，快速給到真實外部信源數據給到大模型使用，有別於AutoChain和LangChain那種代理Agent反復觀察輸入模型，當前有：天氣
使用ChatGLM2-6B CPP版本作為大模型推理，作為角色推理
使用VITS作為TTS，提供派蒙音色
對話協議分發服務，使用Go實現
Vue 實現簡單前端訪問
樹莓派，Snowboy Go 與C++動態庫實現語音關鍵詞喚醒

服務架構

使用euanka-web 前端效果

點擊圖片打開視頻

euanka-web

使用樹莓派4麥克風陣列定制喚醒交互

點擊圖片打開視頻

環境

當前構建的版本都是x86架構，i5 8gen 4核32G，可以緩慢運行

構建

本地構建

構建

 go build src/main.go

運行

./main

docker 構建

 docker build -t registry.cn-shenzhen.aliyuncs.com/yuanfangqiao/euanka:0.1 .

支持一鍵運行，docker-compose

到docker-compose文件夾，使用docker-compose一鍵啟動

 docker-compose -f euanka-all-compose.yaml up -d

查看啟動情況

 docker-compose -f euanka-all-compose.yaml ps

如下，全部啟動成功就可以訪問

             Name                           Command               State                    Ports
------------------------------------------------------------------------------------------------------------------
docker-compose_action-server_1   ./entrypoint.sh start --ac ...   Up      0.0.0.0:5055->5055/tcp,:::5055->5055/tcp
docker-compose_asr_1             ./build/bin/sherpa-onnx-on ...   Up      0.0.0.0:6006->6006/tcp,:::6006->6006/tcp
docker-compose_euanka-web_1      /docker-entrypoint.sh /bin ...   Up      0.0.0.0:80->80/tcp,:::80->80/tcp
docker-compose_euanka_1          /bin/demo                        Up      0.0.0.0:8080->8080/tcp,:::8080->8080/tcp
docker-compose_llm_1             python -u websokcet_server ...   Up      0.0.0.0:7600->7600/tcp,:::7600->7600/tcp
docker-compose_rasa_1            rasa run                         Up      0.0.0.0:5005->5005/tcp,:::5005->5005/tcp
docker-compose_tts_1             python3 -u app.py                Up      0.0.0.0:7860->7860/tcp,:::7860->7860/tcp

當前已經部署euanka-web前端，直接網頁訪問即可如：http://192.168.1.16 即可，需要參考euanka-web項目解決錄音問題訪問效果如下如上web效果。