AntSK
0.5.5
简体中文 | Anglais
Noyau sémantique : utilise une technologie de traitement avancée du langage naturel pour comprendre avec précision, traiter et répondre aux requêtes sémantiques complexes, fournissant aux utilisateurs des services de récupération et de recommandation précis.
Mémoire de noyau : capable d'apprentissage continu et de stockage de points de connaissances, ANTSK a une fonction de mémoire à long terme, accumule l'expérience et offre une expérience d'interaction plus personnalisée.
Base de connaissances : importez la base de connaissances via des documents (Word, PDF, Excel, TXT, Markdown, JSON, PPT) et effectuer des questions et réponses de base de connaissances.
GÉNÉRATION GPT : Cette plate-forme prend en charge la création de modèles GPT personnalisés, permettant aux utilisateurs de créer leurs propres modèles GPT.
Publication de l'interface API : expose les fonctions internes sous forme d'API, permettant aux développeurs d'intégrer ANTSK dans d'autres applications et d'améliorer l'intelligence des applications.
Système de plugin API : Open API Plugin System qui permet aux développeurs ou fournisseurs de services tiers d'intégrer facilement leurs services dans ANTSK, améliorant en continu les fonctionnalités d'application.
Système de plugin .NET : Open DLL Plugin System qui permet aux développeurs de tiers ou aux fournisseurs de services d'intégrer facilement leurs fonctions commerciales en générant une DLL dans le code de format standard, améliorant continuellement les fonctionnalités d'application.
Recherche en ligne : ANTSK, accès en temps réel aux dernières informations, garantissant aux utilisateurs les données les plus opportunes et les plus pertinentes.
Gestion des modèles : adapte et gère l'intégration de différents modèles de différents fabricants, y compris les types GGUF pris en charge par LLAMA.CPP et les modèles hors ligne du fonctionnement soutenu par Llamafactory et Olllama .
Innovation nationale : ANTSK prend en charge les modèles et bases de données nationaux et peut fonctionner dans des conditions d'innovation nationales.
Modélisation du réglage fin : planifié en fonction de la llamafactory pour le réglage du modèle.
ANTSK convient à divers scénarios commerciaux, tels que:
document
démo et démo1
Default account: test
Default password: test
Due to the low configuration of the cloud server, the local model cannot be run, so the system settings permissions have been closed. You can simply view the interface. If you want to use the local model, please download and use it on your own.
Démonstration vidéo
Ici, j'utilise Postgres comme données de données et de vecteur car la mémoire du noyau et du noyau sémantique le prend en charge, mais vous pouvez également utiliser d'autres options.
Le modèle par défaut prend en charge le modèle local d'Openai, Azure Openai et Llama. Si vous avez besoin d'utiliser d'autres modèles, vous pouvez les intégrer à l'aide d'un API.
La configuration de connexion dans le fichier de configuration est le compte de connexion par défaut et le mot de passe.
Le fichier de configuration suivant doit être configuré
Fourni la version pg appsettings.json et la version simplifiée (sqlite + disque) docker-compose.simple.yml
Téléchargez docker-compose.yml à partir du répertoire racine du projet et placez le fichier de configuration appsettings.json dans le même répertoire.
L'image PG a déjà été préparée. Vous pouvez modifier le nom d'utilisateur et le mot de passe par défaut dans docker-compose.yml, puis la connexion de la base de données dans votre appsettings.json doit être cohérente.
Ensuite, vous pouvez exécuter la commande suivante dans le répertoire pour démarrer AntSk
docker-compose up -d
# Non-host version, do not use local proxy
version: '3.8'
services:
antsk:
container_name: antsk
image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
ports:
- 5000:5000
networks:
- antsk
depends_on:
- antskpg
restart: always
environment:
- ASPNETCORE_URLS=http://*:5000
volumes:
- ./appsettings.json:/app/appsettings.json # Local configuration file needs to be placed in the same directory
- D://model:/app/model
networks:
antsk:
En prenant cela à titre d'exemple, cela signifie le montage du dossier Modèle D: // Modèle local dans le conteneur / app / modèle. Si c'est le cas, l'adresse du modèle dans votre appsettings.json doit être configurée comme
Litre-compose
La version compacte est déployée avec Sqlite-Disk par un clic
Fulldockercose
La version complète utilise PG + Aspire
{
"DBConnection": {
"DbType": "Sqlite",
"ConnectionStrings": "Data Source=AntSK.db;"
},
"KernelMemory": {
"VectorDb": "Disk",
"ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=",
"TableNamePrefix": "km-"
},
"FileDir": {
"DirectoryPath": "D:\git\AntBlazor\model"
},
"Login": {
"User": "admin",
"Password": "xuzeyu"
},
"BackgroundTaskBroker": {
"ImportKMSTask": {
"WorkerCount": 1
}
}
}
// Supports various databases, you can check SqlSugar, MySql, SqlServer, Sqlite, Oracle, PostgreSQL, Dm, Kdbndp, Oscar, MySqlConnector, Access, OpenGauss, QuestDB, HG, ClickHouse, GBase, Odbc, OceanBaseForOracle, TDengine, GaussDB, OceanBase, Tidb, Vastbase, PolarDB, Custom
DBConnection.DbType
// Connection string, need to use the corresponding string according to the different DB types
DBConnection.ConnectionStrings
//The type of vector storage, supporting Postgres, Disk, Memory, Qdrant, Redis, AzureAISearch
//Postgres and Redis require ConnectionString configuration
//The ConnectionString of Qdrant and AzureAISearch uses Endpoint | APIKey
KernelMemory.VectorDb
//Local model path, used for quick selection of models under llama, as well as saving downloaded models.
FileDir.DirectoryPath
//Default admin account password
Login
//Import asynchronous processing thread count. A higher count can be used for online API, but for local models, 1 is recommended to avoid memory overflow issues.
BackgroundTaskBroker.ImportKMSTask.WorkerCount
Exécutez ce qui suit dans ANTSK / SRC / ANTSK:
dotnet clean
dotnet build
dotnet publish "AntSK.csproj"
Accédez ensuite à AntSk / Src / AntSk / Bin / Release / Net8.0 / Publier et Exécuter:
dotnet AntSK.dll
Les styles doivent maintenant être appliqués après le début.
J'utilise le mode CodeFirst pour la base de données, donc tant que la connexion de la base de données est correctement configurée, la structure du tableau sera créée automatiquement.
1. First, ensure that Python and pip are installed in your environment. This step is not necessary if using an image, such as version v0.2.3.2, which already includes the complete Python environment.
2. Go to the model add page and select llamafactory.
3. Click "Initialize" to check whether the 'pip install' environment setup is complete.
4. Choose a model that you like.
5. Click "Start" to begin downloading the model from the tower. This may involve a somewhat lengthy wait.
6. After the model has finished downloading, enter http://localhost:8000/ in the request address. The default port is 8000.
7. Click "Save" and start chatting.
8. Many people ask about the difference between LLamaSharp and llamafactory. In fact, LLamaSharp is a .NET implementation of llama.cpp, but only supports local gguf models, while llamafactory supports a wider variety of models and uses Python implementation. The main difference lies here. Additionally, llamafactory has the ability to fine-tune models, which is an area we will focus on integrating in the future.
Ce projet existe grâce à toutes les personnes qui contribuent.
Cet entrepôt suit le protocole open source de licence ANTSK.
Ce projet suit l'accord Apache 2.0, en plus des conditions supplémentaires suivantes
Ce projet peut être utilisé à des fins commerciales, mais elle a le droit de vous interdire de l'utiliser si elle viole les dispositions suivantes
Sans autorisation, vous n'êtes pas autorisé à modifier les informations sur le logo et le titre d'ANTSK
Sans autorisation, vous n'êtes pas autorisé à modifier les informations sur le droit d'auteur en bas de la page
Si vous avez besoin d'autorisation, vous pouvez contacter WeChat: XuzeyU91
Si vous prévoyez d'utiliser ANTSK dans des projets commerciaux, vous devez vous assurer de suivre les étapes suivantes:
Déclaration de copyright contenant une licence ANTSK. Licence ANTSK.
Si vous modifiez le code source du logiciel, vous devez indiquer clairement ces modifications dans le code source.
Répondre aux exigences ci-dessus
Aidant le développement d'applications de l'IA d'entreprise, nous recommandons Antblazor
Si vous avez des questions ou des suggestions, veuillez me contacter via mon compte WECHAT officiel. Nous avons également un groupe de discussion où vous pouvez envoyer un message à rejoindre, puis je vous ajouterai au groupe.
De plus, vous pouvez également me contacter par e-mail: [email protected]
Nous apprécions votre intérêt pour ANTSK et nous sommes impatients de collaborer avec vous pour créer un avenir intelligent!
