AntSK
0.5.5
简体中文 | Inglés
Kernel semántico : utiliza tecnología avanzada de procesamiento del lenguaje natural para comprender, procesar y responder con precisión a consultas semánticas complejas, proporcionando a los usuarios servicios precisos de recuperación de información y recomendación.
Memoria del núcleo : capaz de aprender continuo y almacenar puntos de conocimiento, Antsk tiene una función de memoria a largo plazo, acumula experiencia y proporciona una experiencia de interacción más personalizada.
Base de conocimiento : la base de conocimiento de importación a través de documentos (Word, PDF, Excel, TXT, Markdown, JSON, PPT) y realiza preguntas y respuestas de la base de conocimiento.
GPT Generation : esta plataforma admite la creación de modelos GPT personalizados, lo que permite a los usuarios construir sus propios modelos GPT.
Publicación de la interfaz API : expone las funciones internas en forma de API, lo que permite a los desarrolladores integrar ANTSK en otras aplicaciones y mejorar la inteligencia de aplicaciones.
Sistema de complementos API : sistema de complemento API abierto que permite a los desarrolladores de terceros o proveedores de servicios integrar fácilmente sus servicios en ANTSK, mejorando continuamente la funcionalidad de la aplicación.
Sistema de complementos .NET : sistema de complemento DLL abierto que permite a los desarrolladores de terceros o proveedores de servicios integrar fácilmente sus funciones comerciales mediante la generación de DLL en código de formato estándar, mejorando continuamente la funcionalidad de la aplicación.
Búsqueda en línea : antsk, acceso en tiempo real a la información más reciente, asegurando que los usuarios reciban los datos más oportunos y relevantes.
Gestión del modelo : Adapta y administra la integración de diferentes modelos de diferentes fabricantes, incluidos los tipos de GGUF compatibles con Llama.CPP y los modelos fuera de línea con el apoyo de LlamaFactory y Ollama .
Innovación doméstica : ANTSK apoya modelos y bases de datos nacionales y puede ejecutarse en condiciones de innovación doméstica.
Modelo de ajuste fino : planeado basado en LlamaFactory para el modelo de ajuste fino.
Antsk es adecuado para varios escenarios comerciales, como:
documento
demostración y demostración1
Default account: test
Default password: test
Due to the low configuration of the cloud server, the local model cannot be run, so the system settings permissions have been closed. You can simply view the interface. If you want to use the local model, please download and use it on your own.
Demostración de video
Aquí estoy usando Postgres como datos y almacenamiento vectorial porque la memoria semántica y la memoria del núcleo lo admiten, pero también puede usar otras opciones.
El modelo por defecto admite el modelo local de OpenAI, Azure OpenAI y LLAMA. Si necesita usar otros modelos, puede integrarlos usando One-API.
La configuración de inicio de sesión en el archivo de configuración es la cuenta de inicio de sesión predeterminada y la contraseña.
El siguiente archivo de configuración debe configurarse
Proporcionó la versión PG AppSettings.json y la versión simplificada (SQLite+disco) Docker-Compose.simple.yml
Descargue Docker-Compose.yml desde el directorio de Project Root y coloque el archivo de configuración AppSettings.json en el mismo directorio.
La imagen PG ya ha sido preparada. Puede modificar el nombre de usuario y la contraseña predeterminados en docker-compose.yml, y luego la conexión de la base de datos en su appSettings.json debe ser consistente.
Luego puede ejecutar el siguiente comando en el directorio para iniciar antsk
docker-compose up -d
# Non-host version, do not use local proxy
version: '3.8'
services:
antsk:
container_name: antsk
image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
ports:
- 5000:5000
networks:
- antsk
depends_on:
- antskpg
restart: always
environment:
- ASPNETCORE_URLS=http://*:5000
volumes:
- ./appsettings.json:/app/appsettings.json # Local configuration file needs to be placed in the same directory
- D://model:/app/model
networks:
antsk:
Tomando esto como ejemplo, significa montar la carpeta local d: // modelo de Windows en el contenedor/app/modelo. Si es así, la dirección del modelo en su appSettings.json debe configurarse como
LitedOckerCompose
La versión compacta se implementa con SQLite-Disk con un clic
FulldockerCompose
La versión completa usa PG+Aspire
{
"DBConnection": {
"DbType": "Sqlite",
"ConnectionStrings": "Data Source=AntSK.db;"
},
"KernelMemory": {
"VectorDb": "Disk",
"ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=",
"TableNamePrefix": "km-"
},
"FileDir": {
"DirectoryPath": "D:\git\AntBlazor\model"
},
"Login": {
"User": "admin",
"Password": "xuzeyu"
},
"BackgroundTaskBroker": {
"ImportKMSTask": {
"WorkerCount": 1
}
}
}
// Supports various databases, you can check SqlSugar, MySql, SqlServer, Sqlite, Oracle, PostgreSQL, Dm, Kdbndp, Oscar, MySqlConnector, Access, OpenGauss, QuestDB, HG, ClickHouse, GBase, Odbc, OceanBaseForOracle, TDengine, GaussDB, OceanBase, Tidb, Vastbase, PolarDB, Custom
DBConnection.DbType
// Connection string, need to use the corresponding string according to the different DB types
DBConnection.ConnectionStrings
//The type of vector storage, supporting Postgres, Disk, Memory, Qdrant, Redis, AzureAISearch
//Postgres and Redis require ConnectionString configuration
//The ConnectionString of Qdrant and AzureAISearch uses Endpoint | APIKey
KernelMemory.VectorDb
//Local model path, used for quick selection of models under llama, as well as saving downloaded models.
FileDir.DirectoryPath
//Default admin account password
Login
//Import asynchronous processing thread count. A higher count can be used for online API, but for local models, 1 is recommended to avoid memory overflow issues.
BackgroundTaskBroker.ImportKMSTask.WorkerCount
Ejecute lo siguiente en antsk/src/antsk:
dotnet clean
dotnet build
dotnet publish "AntSK.csproj"
Luego navegue a Antsk/Src/Antsk/bin/versión/net8.0/publicar y ejecutar:
dotnet AntSK.dll
Los estilos ahora deben aplicarse después de comenzar.
Estoy usando el modo CodeFirst para la base de datos, por lo que mientras la conexión de la base de datos esté configurada correctamente, la estructura de la tabla se creará automáticamente.
1. First, ensure that Python and pip are installed in your environment. This step is not necessary if using an image, such as version v0.2.3.2, which already includes the complete Python environment.
2. Go to the model add page and select llamafactory.
3. Click "Initialize" to check whether the 'pip install' environment setup is complete.
4. Choose a model that you like.
5. Click "Start" to begin downloading the model from the tower. This may involve a somewhat lengthy wait.
6. After the model has finished downloading, enter http://localhost:8000/ in the request address. The default port is 8000.
7. Click "Save" and start chatting.
8. Many people ask about the difference between LLamaSharp and llamafactory. In fact, LLamaSharp is a .NET implementation of llama.cpp, but only supports local gguf models, while llamafactory supports a wider variety of models and uses Python implementation. The main difference lies here. Additionally, llamafactory has the ability to fine-tune models, which is an area we will focus on integrating in the future.
Este proyecto existe gracias a todas las personas que contribuyen.
Este almacén sigue el protocolo de código abierto de la licencia ANTSK.
Este proyecto sigue el acuerdo Apache 2.0, además de los siguientes términos adicionales.
Este proyecto se puede utilizar con fines comerciales, pero tiene el derecho de prohibirle usarlo si viola las siguientes disposiciones
Sin autorización, no se le permite modificar el logotipo de Antsk y la información del título
Sin autorización, no se le permite modificar la información de derechos de autor en la parte inferior de la página
Si necesita autorización, puede comunicarse con WeChat: Xuzeyu91
Si planea usar antsk en proyectos comerciales, debe asegurarse de seguir los siguientes pasos:
Declaración de derechos de autor que contiene la licencia ANTSK. Licencia antsk.
Si modifica el código fuente de software, debe indicar claramente estas modificaciones en el código fuente.
Cumplir con los requisitos anteriores
Ayudando al desarrollo de aplicaciones de IA Enterprise, recomendamos AntBlazor
Si tiene alguna pregunta o sugerencia, contácteme a través de mi cuenta oficial de WeChat. También tenemos un grupo de discusión donde puede enviar un mensaje para unirse, y luego lo agregaré al grupo.
Además, también puede contactarme por correo electrónico: [email protected]
¡Agradecemos su interés en Antsk y esperamos colaborar con usted para crear un futuro inteligente!
