semantic ai

Семантический AI lib

Структура с открытым исходным кодом для поисковой системы (RAG) использует семантический поиск для извлечения ожидаемых результатов и генерирования прочитаемых человеком разговорных ответов с помощью LLM (большая языковая модель).

Семантические документы библиотеки AI здесь

Требования

Python 3.10+ Asyncio

Установка

 # Using pip
$ python -m pip install semantic-ai

# Manual install
$ python -m pip install .

Установите переменную среды

Установите учетные данные в файле .env. Дайте учетные данные только для одного разъема, единого индексатора и конфигурации модели One LLM. Другие поля становятся пустыми

 # Default
FILE_DOWNLOAD_DIR_PATH= # default directory name 'download_file_dir'
EXTRACTED_DIR_PATH= # default directory name 'extracted_dir'

# Connector (SharePoint, S3, GCP Bucket, GDrive, Confluence etc.,)
CONNECTOR_TYPE= " connector_name " # sharepoint
SHAREPOINT_CLIENT_ID= " client_id "
SHAREPOINT_CLIENT_SECRET= " client_secret "
SHAREPOINT_TENANT_ID= " tenant_id "
SHAREPOINT_HOST_NAME= ' <tenant_name>.sharepoint.com '
SHAREPOINT_SCOPE= ' https://graph.microsoft.com/.default '
SHAREPOINT_SITE_ID= " site_id "
SHAREPOINT_DRIVE_ID= " drive_id "
SHAREPOINT_FOLDER_URL= " folder_url " # /My_folder/child_folder/

# Indexer
INDEXER_TYPE= " <vector_db_name> " # elasticsearch, qdrant, opensearch
ELASTICSEARCH_URL= " <elasticsearch_url> " # give valid url
ELASTICSEARCH_USER= " <elasticsearch_user> " # give valid user
ELASTICSEARCH_PASSWORD= " <elasticsearch_password> " # give valid password
ELASTICSEARCH_INDEX_NAME= " <index_name> "
ELASTICSEARCH_SSL_VERIFY= " <ssl_verify> " # True or False

# Qdrant
QDRANT_URL= " <qdrant_url> "
QDRANT_INDEX_NAME= " <index_name> "
QDRANT_API_KEY= " <apikey> "

# Opensearch
OPENSEARCH_URL= " <opensearch_url> "
OPENSEARCH_USER= " <opensearch_user> "
OPENSEARCH_PASSWORD= " <opensearch_password> "
OPENSEARCH_INDEX_NAME= " <index_name> "

# LLM
LLM_MODEL= " <llm_model> " # llama, openai
LLM_MODEL_NAME_OR_PATH= " " # model name
OPENAI_API_KEY= " <openai_api_key> " # if using openai

# SQL
SQLITE_SQL_PATH= " <database_path> " # sqlit db path

# MYSQL
MYSQL_HOST= " <host_name> " # localhost or Ip Address
MYSQL_USER= " <user_name> "
MYSQL_PASSWORD= " <password> "
MYSQL_DATABASE= " <database_name> "
MYSQL_PORT= " <port> " # default port is 3306

Метод 1: загрузить файл .env. File env должен иметь учетные данные

%load_ext dotenv
%dotenv
%dotenv relative/or/absolute/path/to/.env

(or)

dotenv -f .env run -- python

Метод 2:

 from semantic_ai . config import Settings
settings = Settings ()

Не структура

1. Импорт модуля

 import asyncio
import semantic_ai

2. Чтобы загрузить файлы из данного источника, извлеките контент из загруженных файлов и индексируйте извлеченные данные в данном векторе DB.

 await semantic_ai . download ()
await semantic_ai . extract ()
await semantic_ai . index ()

После завершения загрузки, извлечения и индекса мы можем генерировать ответ из индексированного вектора DB. Этот код приведен ниже.

3. Чтобы сгенерировать ответ из индексированного векторного DB с использованием модели поиска LLM.

 search_obj = await semantic_ai . search ()
query = ""
search = await search_obj . generate ( query )

Предположим, что задание работает в течение длительного времени, мы можем посмотреть количество обработанных файлов, количество файлов не удалось, и это имя файла, хранящееся в текстовом файле, который обрабатывается и не удалось в каталоге 'Extracted_DIR_PATH/Meta'.

Пример

Чтобы подключить источник и получить объект соединения. Мы можем видеть это в папке примеров. Пример: разъем SharePoint

 from semantic_ai . connectors import Sharepoint

CLIENT_ID = '<client_id>'  # sharepoint client id
CLIENT_SECRET = '<client_secret>'  # sharepoint client seceret
TENANT_ID = '<tenant_id>'  # sharepoint tenant id
SCOPE = 'https://graph.microsoft.com/.default'  # scope
HOST_NAME = "<tenant_name>.sharepoint.com"  # for example 'contoso.sharepoint.com'

# Sharepoint object creation
connection = Sharepoint (
    client_id = CLIENT_ID ,
    client_secret = CLIENT_SECRET ,
    tenant_id = TENANT_ID ,
    host_name = HOST_NAME ,
    scope = SCOPE
)

Структура

1. Импорт модуля

 import asyncio
import semantic_ai

2. Подключение к базе данных

SQLite:

 from semantic_ai . connectors import Sqlite

file_path = < database_file_path >

sql = Sqlite ( sql_path = file_path )

Mysql:

 from semantic_ai . connectors import Mysql

sql = Mysql (
    host = < host_name > ,
    user = < user_name > ,
    password = < password > ,
    database = < database > ,
    port = < port_number >  # 3306 is default port
)

3. Чтобы сгенерировать ответ от DB с помощью модели поиска LLM.

 query = ""
search_obj = await semantic_ai . db_search ( query = query )

Запустить на сервере

$ semantic_ai serve -f .env

INFO:     Loading environment from ' .env '
INFO:     Started server process [43973]
INFO:     Waiting for application startup.
INFO:     Application startup complete.
INFO:     Uvicorn running on http://127.0.0.1:8000 (Press CTRL+C to quit)

Откройте свой браузер по адресу http://127.0.0.1:8000/semantic-ai

Интерактивные документы API

Теперь перейдите по адресу http://127.0.0.1:8000/docs. Вы увидите автоматическую интерактивную документацию API (предоставленная UI Swagger UI):