AntSK
0.5.5
简体中文 | 영어
시맨틱 커널 : 고급 자연 언어 처리 기술을 사용하여 복잡한 시맨틱 쿼리를 정확하게 이해, 처리 및 응답하여 사용자에게 정확한 정보 검색 및 권장 서비스를 제공합니다.
커널 메모리 : 지속적인 학습 및 지식 포인트를 저장할 수있는 ANTSK는 장기 메모리 기능을 가지고 있으며 경험을 축적하며보다 개인화 된 상호 작용 경험을 제공합니다.
지식 기반 : 문서 (Word, PDF, Excel, TXT, Markdown, JSON, PPT)를 통해 지식 기반을 가져오고 지식 기반 Q & A를 수행합니다.
GPT 생성 :이 플랫폼은 개인화 된 GPT 모델을 작성하여 사용자가 자체 GPT 모델을 구축 할 수 있도록합니다.
API 인터페이스 게시 : API 형태로 내부 기능을 노출시켜 개발자가 Antsk를 다른 응용 프로그램에 통합하고 응용 프로그램 인텔리전스를 향상시킬 수 있습니다.
API 플러그인 시스템 : 타사 개발자 또는 서비스 제공 업체가 서비스를 ANTSK에 쉽게 통합하여 애플리케이션 기능을 지속적으로 향상시킬 수있는 API 플러그인 시스템을 열 수 있습니다.
.NET 플러그인 시스템 : 타사 개발자 또는 서비스 제공 업체가 표준 형식 코드에서 DLL을 생성하여 애플리케이션 기능을 지속적으로 향상시켜 비즈니스 기능을 쉽게 통합 할 수있는 DLL 플러그인 시스템을 열어줍니다.
온라인 검색 : Antsk, 최신 정보에 대한 실시간 액세스, 사용자가 가장시기 적절하고 관련된 데이터를받을 수 있도록합니다.
모델 관리 : LLAMA.CPP 가 지원하는 GGUF 유형 및 Llamafactory 및 Ollama 가 지원하는 실행되는 오프라인 모델을 포함하여 다양한 제조업체의 다양한 모델을 적응하고 관리합니다.
국내 혁신 : ANTSK는 국내 모델과 데이터베이스를 지원하며 국내 혁신 조건에서 실행할 수 있습니다.
모델 미세 조정 : 모델 미세 조정을위한 llamafactory를 기반으로 계획되었습니다.
Antsk는 다음과 같은 다양한 비즈니스 시나리오에 적합합니다.
문서
데모 및 데모 1
Default account: test
Default password: test
Due to the low configuration of the cloud server, the local model cannot be run, so the system settings permissions have been closed. You can simply view the interface. If you want to use the local model, please download and use it on your own.
비디오 데모
Semantic 커널과 커널 메모리가 지원하기 때문에 Postgres를 데이터 및 벡터 스토리지로 사용하고 있지만 다른 옵션을 사용할 수도 있습니다.
기본적으로 모델은 OpenAi, Azure OpenAi 및 Llama의 로컬 모델을 지원합니다. 다른 모델을 사용해야하는 경우 One-API를 사용하여 통합 할 수 있습니다.
구성 파일의 로그인 구성은 기본 로그인 계정 및 비밀번호입니다.
다음 구성 파일을 구성해야합니다
PG 버전 AppSettings.json 및 Simplified Version (SQLite+Disk) Docker-Compose.simple.yml 제공
프로젝트 루트 디렉토리에서 docker-compose.yml을 다운로드하고 configuration 파일 appsettings.json을 동일한 디렉토리에 배치하십시오.
PG 이미지가 이미 준비되었습니다. docker-compose.yml에서 기본 사용자 이름과 비밀번호를 수정 한 다음 AppSettings.json 의 데이터베이스 연결이 일관성이 있어야합니다.
그런 다음 디렉토리에서 다음 명령을 실행하여 Antsk를 시작할 수 있습니다.
docker-compose up -d
# Non-host version, do not use local proxy
version: '3.8'
services:
antsk:
container_name: antsk
image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
ports:
- 5000:5000
networks:
- antsk
depends_on:
- antskpg
restart: always
environment:
- ASPNETCORE_URLS=http://*:5000
volumes:
- ./appsettings.json:/app/appsettings.json # Local configuration file needs to be placed in the same directory
- D://model:/app/model
networks:
antsk:
이를 예로 들어 보면 로컬 d : // Windows의 폴더를 컨테이너/앱/모델에 장착하는 것을 의미합니다. 그렇다면 AppSettings.json의 모델 주소는 다음과 같이 구성해야합니다.
litedockercompose
소형 버전은 한 번의 클릭으로 Sqlite-Disk로 배포됩니다.
FullDockerCompose
정식 버전은 PG+Aspire를 사용합니다
{
"DBConnection": {
"DbType": "Sqlite",
"ConnectionStrings": "Data Source=AntSK.db;"
},
"KernelMemory": {
"VectorDb": "Disk",
"ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=",
"TableNamePrefix": "km-"
},
"FileDir": {
"DirectoryPath": "D:\git\AntBlazor\model"
},
"Login": {
"User": "admin",
"Password": "xuzeyu"
},
"BackgroundTaskBroker": {
"ImportKMSTask": {
"WorkerCount": 1
}
}
}
// Supports various databases, you can check SqlSugar, MySql, SqlServer, Sqlite, Oracle, PostgreSQL, Dm, Kdbndp, Oscar, MySqlConnector, Access, OpenGauss, QuestDB, HG, ClickHouse, GBase, Odbc, OceanBaseForOracle, TDengine, GaussDB, OceanBase, Tidb, Vastbase, PolarDB, Custom
DBConnection.DbType
// Connection string, need to use the corresponding string according to the different DB types
DBConnection.ConnectionStrings
//The type of vector storage, supporting Postgres, Disk, Memory, Qdrant, Redis, AzureAISearch
//Postgres and Redis require ConnectionString configuration
//The ConnectionString of Qdrant and AzureAISearch uses Endpoint | APIKey
KernelMemory.VectorDb
//Local model path, used for quick selection of models under llama, as well as saving downloaded models.
FileDir.DirectoryPath
//Default admin account password
Login
//Import asynchronous processing thread count. A higher count can be used for online API, but for local models, 1 is recommended to avoid memory overflow issues.
BackgroundTaskBroker.ImportKMSTask.WorkerCount
Antsk/Src/Antsk에서 다음을 실행하십시오.
dotnet clean
dotnet build
dotnet publish "AntSK.csproj"
그런 다음 Antsk/Src/Antsk/bin/Release/Net8.0으로 이동하십시오. 게시 및 실행 :
dotnet AntSK.dll
시작 후 스타일을 적용해야합니다.
데이터베이스에 CodeFirst 모드를 사용하고있어 데이터베이스 연결이 올바르게 구성되는 한 테이블 구조가 자동으로 생성됩니다.
1. First, ensure that Python and pip are installed in your environment. This step is not necessary if using an image, such as version v0.2.3.2, which already includes the complete Python environment.
2. Go to the model add page and select llamafactory.
3. Click "Initialize" to check whether the 'pip install' environment setup is complete.
4. Choose a model that you like.
5. Click "Start" to begin downloading the model from the tower. This may involve a somewhat lengthy wait.
6. After the model has finished downloading, enter http://localhost:8000/ in the request address. The default port is 8000.
7. Click "Save" and start chatting.
8. Many people ask about the difference between LLamaSharp and llamafactory. In fact, LLamaSharp is a .NET implementation of llama.cpp, but only supports local gguf models, while llamafactory supports a wider variety of models and uses Python implementation. The main difference lies here. Additionally, llamafactory has the ability to fine-tune models, which is an area we will focus on integrating in the future.
이 프로젝트는 기부 한 모든 사람들 덕분에 존재합니다.
이 창고는 Antsk 라이센스 오픈 소스 프로토콜을 따릅니다.
이 프로젝트는 다음 추가 약관 외에도 Apache 2.0 계약을 따릅니다.
이 프로젝트는 상업적 목적으로 사용될 수 있지만 다음 조항을 위반하는 경우 사용하는 것은 금지 할 권리가 있습니다.
승인 없이는 Antsk의 로고 및 제목 정보를 수정할 수 없습니다.
승인 없이는 페이지 하단에서 저작권 정보를 수정할 수 없습니다.
승인이 필요한 경우 WeChat : Xuzeyu91 에 문의하십시오
상업 프로젝트에서 Antsk를 사용하려는 경우 다음 단계를 수행해야합니다.
ANTSK 라이센스가 포함 된 저작권 명세서. Antsk 라이센스.
소프트웨어 소스 코드를 수정하면 소스 코드에 이러한 수정 사항을 명확하게 표시해야합니다.
위의 요구 사항을 충족하십시오
엔터프라이즈 AI 애플리케이션 개발을 돕기 위해 Antblazor를 권장합니다
질문이나 제안이 있으시면 공식 WeChat 계정을 통해 저에게 연락하십시오. 또한 가입 할 메시지를 보낼 수있는 토론 그룹이 있으며 그룹에 추가하겠습니다.
또한 이메일을 통해 [email protected]을 통해 저에게 연락 할 수도 있습니다
Antsk 에 대한 관심에 감사 드리며 지능형 미래를 만들기 위해 귀하와 협력 할 수 있기를 기대합니다!
