AntSK
0.5.5
简体中文 | ภาษาอังกฤษ
เคอร์เนลความหมาย : ใช้เทคโนโลยีการประมวลผลภาษาธรรมชาติขั้นสูงเพื่อทำความเข้าใจกระบวนการและตอบสนองต่อการสืบค้นความหมายที่ซับซ้อนอย่างถูกต้องทำให้ผู้ใช้ได้รับข้อมูลการดึงข้อมูลที่แม่นยำและบริการแนะนำ
หน่วยความจำเคอร์เนล : ความสามารถในการเรียนรู้อย่างต่อเนื่องและจัดเก็บจุดความรู้ Antsk มีฟังก์ชั่นหน่วยความจำระยะยาวสะสมประสบการณ์และมอบประสบการณ์การโต้ตอบที่เป็นส่วนตัวมากขึ้น
ฐานความรู้ : นำเข้าฐานความรู้ผ่านเอกสาร (Word, PDF, Excel, TXT, Markdown, JSON, PPT) และดำเนินการคำถามและคำตอบความรู้
GPT Generation : แพลตฟอร์มนี้รองรับการสร้างโมเดล GPT ที่เป็นส่วนตัวทำให้ผู้ใช้สามารถสร้างรุ่น GPT ของตัวเอง
การเผยแพร่อินเตอร์เฟส API : เปิดเผยฟังก์ชั่นภายในในรูปแบบของ API ทำให้นักพัฒนาสามารถรวม ANTSK เข้ากับแอปพลิเคชันอื่น ๆ และปรับปรุงความฉลาดของแอปพลิเคชัน
ระบบปลั๊กอิน API : เปิดระบบปลั๊กอิน API ที่ช่วยให้นักพัฒนาบุคคลที่สามหรือผู้ให้บริการสามารถรวมบริการของพวกเขาเข้ากับ Antsk ได้อย่างง่ายดายเพื่อเพิ่มฟังก์ชั่นแอปพลิเคชันอย่างต่อเนื่อง
ระบบปลั๊กอิน. NET : เปิดระบบปลั๊กอิน DLL ที่ช่วยให้นักพัฒนาบุคคลที่สามหรือผู้ให้บริการสามารถรวมฟังก์ชั่นทางธุรกิจของพวกเขาได้อย่างง่ายดายโดยการสร้าง DLL ในรหัสรูปแบบมาตรฐานเพิ่มฟังก์ชั่นแอปพลิเคชันอย่างต่อเนื่อง
การค้นหาออนไลน์ : Antsk การเข้าถึงข้อมูลล่าสุดตามเวลาจริงเพื่อให้แน่ใจว่าผู้ใช้จะได้รับข้อมูลที่เหมาะสมและเกี่ยวข้องมากที่สุด
การจัดการแบบจำลอง : ปรับและจัดการการรวมโมเดลที่แตกต่างจากผู้ผลิตที่แตกต่างกันรวมถึงประเภท GGUF ที่รองรับโดย Llama.cpp และโมเดลออฟไลน์วิ่งที่สนับสนุนโดย Llamafactory และ Ollama
นวัตกรรมในประเทศ : Antsk สนับสนุนแบบจำลองในประเทศและฐานข้อมูลและสามารถทำงานภายใต้เงื่อนไขนวัตกรรมในประเทศ
การปรับแต่งแบบจำลอง : วางแผนตาม llamafactory สำหรับการปรับแต่งแบบจำลอง
Antsk เหมาะสำหรับสถานการณ์ทางธุรกิจที่หลากหลายเช่น:
เอกสาร
การสาธิตและ demo1
Default account: test
Default password: test
Due to the low configuration of the cloud server, the local model cannot be run, so the system settings permissions have been closed. You can simply view the interface. If you want to use the local model, please download and use it on your own.
การสาธิตวิดีโอ
ที่นี่ฉันใช้ Postgres เป็นข้อมูลและที่เก็บข้อมูลเวกเตอร์เนื่องจากเคอร์เนลความหมายและหน่วยความจำเคอร์เนลรองรับ แต่คุณสามารถใช้ตัวเลือกอื่น ๆ ได้
แบบจำลองโดยค่าเริ่มต้นรองรับโมเดลท้องถิ่นของ Openai, Azure Openai และ Llama หากคุณต้องการใช้โมเดลอื่น ๆ คุณสามารถรวมเข้าด้วยกันโดยใช้ One-API
การกำหนดค่าเข้าสู่ระบบในไฟล์การกำหนดค่าคือบัญชีล็อกอินเริ่มต้นและรหัสผ่านเริ่มต้น
ต้องกำหนดค่าไฟล์การกำหนดค่าต่อไปนี้
ให้ appsettings.json รุ่น PG และเวอร์ชันที่เรียบง่าย (SQLite+Disk) Docker-compose.simple.yml
ดาวน์โหลด Docker-compose.yml จากไดเรกทอรีรูทของโครงการและวางไฟล์การกำหนดค่า appsettings.json ในไดเรกทอรีเดียวกัน
ภาพ PG ได้รับการจัดทำขึ้นแล้ว คุณสามารถแก้ไขชื่อผู้ใช้และรหัสผ่านเริ่มต้นใน Docker-compose.yml จากนั้นการเชื่อมต่อฐานข้อมูลใน appsettings.json ของคุณจะต้องสอดคล้องกัน
จากนั้นคุณสามารถเรียกใช้คำสั่งต่อไปนี้ในไดเรกทอรีเพื่อเริ่ม antsk
docker-compose up -d
# Non-host version, do not use local proxy
version: '3.8'
services:
antsk:
container_name: antsk
image: registry.cn-hangzhou.aliyuncs.com/AIDotNet/antsk:v0.5.0
ports:
- 5000:5000
networks:
- antsk
depends_on:
- antskpg
restart: always
environment:
- ASPNETCORE_URLS=http://*:5000
volumes:
- ./appsettings.json:/app/appsettings.json # Local configuration file needs to be placed in the same directory
- D://model:/app/model
networks:
antsk:
การทำเช่นนี้เป็นตัวอย่างมันหมายถึงการติดตั้งโฟลเดอร์ D: // โมเดลของ Windows ลงในคอนเทนเนอร์/แอพ/รุ่น ถ้าเป็นเช่นนั้นที่อยู่รุ่นใน appsettings.json ของคุณควรกำหนดค่าเป็น
LitedockerCompose
รุ่นกะทัดรัดถูกปรับใช้กับ SQLite-Disk โดยคลิกเดียว
FulldockerCompose
เวอร์ชันเต็มใช้ pg+aspire
{
"DBConnection": {
"DbType": "Sqlite",
"ConnectionStrings": "Data Source=AntSK.db;"
},
"KernelMemory": {
"VectorDb": "Disk",
"ConnectionString": "Host=;Port=;Database=antsk;Username=;Password=",
"TableNamePrefix": "km-"
},
"FileDir": {
"DirectoryPath": "D:\git\AntBlazor\model"
},
"Login": {
"User": "admin",
"Password": "xuzeyu"
},
"BackgroundTaskBroker": {
"ImportKMSTask": {
"WorkerCount": 1
}
}
}
// Supports various databases, you can check SqlSugar, MySql, SqlServer, Sqlite, Oracle, PostgreSQL, Dm, Kdbndp, Oscar, MySqlConnector, Access, OpenGauss, QuestDB, HG, ClickHouse, GBase, Odbc, OceanBaseForOracle, TDengine, GaussDB, OceanBase, Tidb, Vastbase, PolarDB, Custom
DBConnection.DbType
// Connection string, need to use the corresponding string according to the different DB types
DBConnection.ConnectionStrings
//The type of vector storage, supporting Postgres, Disk, Memory, Qdrant, Redis, AzureAISearch
//Postgres and Redis require ConnectionString configuration
//The ConnectionString of Qdrant and AzureAISearch uses Endpoint | APIKey
KernelMemory.VectorDb
//Local model path, used for quick selection of models under llama, as well as saving downloaded models.
FileDir.DirectoryPath
//Default admin account password
Login
//Import asynchronous processing thread count. A higher count can be used for online API, but for local models, 1 is recommended to avoid memory overflow issues.
BackgroundTaskBroker.ImportKMSTask.WorkerCount
รันต่อไปนี้ใน Antsk/Src/Antsk:
dotnet clean
dotnet build
dotnet publish "AntSK.csproj"
จากนั้นนำทางไปยัง Antsk/Src/Antsk/bin/release/net8.0/เผยแพร่และเรียกใช้:
dotnet AntSK.dll
ตอนนี้ควรใช้สไตล์หลังจากเริ่มต้น
ฉันใช้โหมด CodeFirst สำหรับฐานข้อมูลดังนั้นตราบใดที่การเชื่อมต่อฐานข้อมูลได้รับการกำหนดค่าอย่างถูกต้องโครงสร้างตารางจะถูกสร้างขึ้นโดยอัตโนมัติ
1. First, ensure that Python and pip are installed in your environment. This step is not necessary if using an image, such as version v0.2.3.2, which already includes the complete Python environment.
2. Go to the model add page and select llamafactory.
3. Click "Initialize" to check whether the 'pip install' environment setup is complete.
4. Choose a model that you like.
5. Click "Start" to begin downloading the model from the tower. This may involve a somewhat lengthy wait.
6. After the model has finished downloading, enter http://localhost:8000/ in the request address. The default port is 8000.
7. Click "Save" and start chatting.
8. Many people ask about the difference between LLamaSharp and llamafactory. In fact, LLamaSharp is a .NET implementation of llama.cpp, but only supports local gguf models, while llamafactory supports a wider variety of models and uses Python implementation. The main difference lies here. Additionally, llamafactory has the ability to fine-tune models, which is an area we will focus on integrating in the future.
โครงการนี้มีอยู่ขอบคุณทุกคนที่มีส่วนร่วม
คลังสินค้านี้เป็นไปตามโปรโตคอลโอเพ่นซอร์สของ Antsk
โครงการนี้เป็นไปตามข้อตกลง Apache 2.0 นอกเหนือจากข้อกำหนดเพิ่มเติมต่อไปนี้
โครงการนี้สามารถใช้เพื่อวัตถุประสงค์ทางการค้า แต่มีสิทธิ์ที่จะห้ามไม่ให้คุณใช้หากละเมิดบทบัญญัติต่อไปนี้
หากไม่มีการอนุญาตคุณไม่ได้รับอนุญาตให้แก้ไขโลโก้และข้อมูลชื่อเรื่องของ Antsk
หากไม่มีการอนุญาตคุณไม่ได้รับอนุญาตให้แก้ไขข้อมูลลิขสิทธิ์ที่ด้านล่างของหน้า
หากคุณต้องการการอนุญาตคุณสามารถติดต่อ WeChat: Xuzeyu91
หากคุณวางแผนที่จะใช้ Antsk ในโครงการเชิงพาณิชย์คุณต้องตรวจสอบให้แน่ใจว่าคุณทำตามขั้นตอนต่อไปนี้:
คำสั่งลิขสิทธิ์ที่มีใบอนุญาต Antsk ใบอนุญาต Antsk
หากคุณแก้ไขซอร์สโค้ดซอฟต์แวร์คุณต้องระบุการแก้ไขเหล่านี้อย่างชัดเจนในซอร์สโค้ด
ตรงตามข้อกำหนดข้างต้น
ช่วยเหลือการพัฒนาแอปพลิเคชันขององค์กร AI เราขอแนะนำ Antblazor
หากคุณมีคำถามหรือคำแนะนำใด ๆ โปรดติดต่อฉันผ่านบัญชี WeChat อย่างเป็นทางการของฉัน นอกจากนี้เรายังมีกลุ่มสนทนาที่คุณสามารถส่งข้อความเพื่อเข้าร่วมแล้วฉันจะเพิ่มคุณในกลุ่ม
นอกจากนี้คุณยังสามารถติดต่อฉันทางอีเมล: [email protected]
เราขอขอบคุณที่คุณสนใจ Antsk และหวังว่าจะได้ร่วมมือกับคุณเพื่อสร้างอนาคตที่ชาญฉลาด!
