AntSK
0.5.5
简体中文 | Английский
Семантическое ядро : использует передовые технологии обработки естественного языка для точного понимания, обработки и реагирования на сложные семантические запросы, предоставляя пользователям точные услуги поиска информации и рекомендации.
Память ядра : способная к непрерывному обучению и хранению точек знаний, ANTSK обладает долговременной функцией памяти, накапливает опыт и обеспечивает более персонализированный опыт взаимодействия.
База знаний : база импорта знаний через документы (Word, PDF, Excel, TXT, Markdown, JSON, PPT) и выполняйте вопросы и ответы знаний.
Генерация GPT : эта платформа поддерживает создание персонализированных моделей GPT, что позволяет пользователям создавать свои собственные модели GPT.
Publishing Interface API : разоблачает внутренние функции в форме API, позволяя разработчикам интегрировать ANTSK в другие приложения и улучшить интеллект приложений.
Система плагинов API : открывая систему плагина API, которая позволяет сторонним разработчикам или поставщикам услуг легко интегрировать свои услуги в ANTSK, постоянно расширяя функциональность приложения.
Система плагина .NET : открывая систему плагинов DLL, которая позволяет сторонним разработчикам или поставщикам услуг легко интегрировать свои бизнес-функции, генерируя DLL в стандартный код формата, постоянно расширяя функции приложения.
Онлайн-поиск : ANTSK, доступ к последней информации в режиме реального времени, гарантируя, что пользователи получают самые своевременные и соответствующие данные.
Управление модели : адаптирует и управляет интеграцией различных моделей от различных производителей, включая типы GGUF, поддерживаемые Llama.cpp и модели автономных работ, поддерживаемых Llamafactory и Ollama .
Внутренние инновации : ANTSK поддерживает внутренние модели и базы данных и может работать в условиях внутренних инноваций.
Модель тонкой настройки : запланировано на основе LlamaFactory для модели точной настройки.
Antsk подходит для различных бизнес -сценариев, таких как:
документ
Демо и демонстрация
Default account: test
Default password: test
Due to the low configuration of the cloud server, the local model cannot be run, so the system settings permissions have been closed. You can simply view the interface. If you want to use the local model, please download and use it on your own.
Видео демонстрация
Здесь я использую Postgres в качестве хранилища данных и вектора, потому что семантическая память ядра и ядра поддерживает их, но вы также можете использовать другие варианты.
Модель по умолчанию поддерживает локальную модель OpenAI, Azure Openai и Llama. Если вам нужно использовать другие модели, вы можете интегрировать их с помощью One-API.
Конфигурация входа в файл конфигурации - это учетная запись входа по умолчанию и пароль.
Следующий файл конфигурации необходимо настроить
При условии, что PG-версия Appsettings.json и упрощенная версия (SQLite+Disk) Docker-compose.simple.yml
Загрузите Docker-compose.yml из каталога Project Root и поместите файл конфигурации Appsettings.json в том же каталоге.
Изображение PG уже подготовлено. Вы можете изменить имя пользователя и пароль по умолчанию в docker-compose.yml, а затем подключение к базе данных в ваших приложениях .
Затем вы можете выполнить следующую команду в каталоге, чтобы запустить Antsk
docker-compose up -d
# Non-host version, do not use local proxy
version: '3.8'
services:
antsk:
container_name: antsk
image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
ports:
- 5000:5000
networks:
- antsk
depends_on:
- antskpg
restart: always
environment:
- ASPNETCORE_URLS=http://*:5000
volumes:
- ./appsettings.json:/app/appsettings.json # Local configuration file needs to be placed in the same directory
- D://model:/app/model
networks:
antsk:
Принимая это в качестве примера, это означает монтаж локальной папки модели D: // Windows в контейнер/приложение/модель. Если это так, адрес модели в ваших приложениях.
Litedockercompet
Компактная версия развернута с SQLite-Disk одним щелчком
Fulldockercompet
В полной версии используется PG+Aspire
{
"DBConnection": {
"DbType": "Sqlite",
"ConnectionStrings": "Data Source=AntSK.db;"
},
"KernelMemory": {
"VectorDb": "Disk",
"ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=",
"TableNamePrefix": "km-"
},
"FileDir": {
"DirectoryPath": "D:\git\AntBlazor\model"
},
"Login": {
"User": "admin",
"Password": "xuzeyu"
},
"BackgroundTaskBroker": {
"ImportKMSTask": {
"WorkerCount": 1
}
}
}
// Supports various databases, you can check SqlSugar, MySql, SqlServer, Sqlite, Oracle, PostgreSQL, Dm, Kdbndp, Oscar, MySqlConnector, Access, OpenGauss, QuestDB, HG, ClickHouse, GBase, Odbc, OceanBaseForOracle, TDengine, GaussDB, OceanBase, Tidb, Vastbase, PolarDB, Custom
DBConnection.DbType
// Connection string, need to use the corresponding string according to the different DB types
DBConnection.ConnectionStrings
//The type of vector storage, supporting Postgres, Disk, Memory, Qdrant, Redis, AzureAISearch
//Postgres and Redis require ConnectionString configuration
//The ConnectionString of Qdrant and AzureAISearch uses Endpoint | APIKey
KernelMemory.VectorDb
//Local model path, used for quick selection of models under llama, as well as saving downloaded models.
FileDir.DirectoryPath
//Default admin account password
Login
//Import asynchronous processing thread count. A higher count can be used for online API, but for local models, 1 is recommended to avoid memory overflow issues.
BackgroundTaskBroker.ImportKMSTask.WorkerCount
Запустите следующее в Antsk/SRC/Antsk:
dotnet clean
dotnet build
dotnet publish "AntSK.csproj"
Затем перейдите к Antsk/SRC/Antsk/Bin/Release/Net8.0/Опубликовать и запустить:
dotnet AntSK.dll
Стили теперь должны применяться после начала.
Я использую режим CodeFirst для базы данных, поэтому до тех пор, пока соединение базы данных правильно настроено, структура таблицы будет создана автоматически.
1. First, ensure that Python and pip are installed in your environment. This step is not necessary if using an image, such as version v0.2.3.2, which already includes the complete Python environment.
2. Go to the model add page and select llamafactory.
3. Click "Initialize" to check whether the 'pip install' environment setup is complete.
4. Choose a model that you like.
5. Click "Start" to begin downloading the model from the tower. This may involve a somewhat lengthy wait.
6. After the model has finished downloading, enter http://localhost:8000/ in the request address. The default port is 8000.
7. Click "Save" and start chatting.
8. Many people ask about the difference between LLamaSharp and llamafactory. In fact, LLamaSharp is a .NET implementation of llama.cpp, but only supports local gguf models, while llamafactory supports a wider variety of models and uses Python implementation. The main difference lies here. Additionally, llamafactory has the ability to fine-tune models, which is an area we will focus on integrating in the future.
Этот проект существует благодаря всем людям, которые вносят свой вклад.
Этот склад следует за протоколом с открытым исходным кодом Antsk.
Этот проект следует по соглашению Apache 2.0, в дополнение к следующим дополнительным условиям
Этот проект может использоваться в коммерческих целях, но он имеет право запрещать вам использовать его, если он нарушает следующие положения
Без авторизации вам не разрешено изменять логотип Antsk и заголовок
Без авторизации вам не разрешено изменять информацию об авторском праве в нижней части страницы
Если вам нужно разрешение, вы можете связаться с WeChat: Xuzeyu91
Если вы планируете использовать ANTSK в коммерческих проектах, вам необходимо убедиться, что вы выполняете следующие шаги:
Заявление об авторском праве, содержащее лицензию ANTSK. Антск Лицензия.
Если вы измените исходный код программного обеспечения, вам необходимо четко указать эти модификации в исходном коде.
Соответствовать вышеуказанным требованиям
Помощь в разработке приложений AI Enterprise, мы рекомендуем Antblazor
Если у вас есть какие -либо вопросы или предложения, пожалуйста, свяжитесь со мной через мою официальную учетную запись WeChat. У нас также есть дискуссионная группа, где вы можете отправить сообщение для присоединения, а затем я добавлю вас в группу.
Кроме того, вы также можете связаться со мной по электронной почте: [email protected]
Мы ценим ваш интерес к Antsk и с нетерпением ждем возможности сотрудничать с вами, чтобы создать умное будущее!
