personal graph

Персональный граф: график для создания памяти для приложений ИИ

Личный граф-это библиотека Python для создания, управления и запроса графиков знаний. Он стремится помочь решить рабочие и долгосрочные проблемы памяти в системах ИИ, особенно на крупных языковых моделях (LLMS).

Функции

• Может быть быстро : построен на Libsql, высокопроизводительный двигатель SQLite в Rust
• ? Один ДБ на пользователя : интегрируйте с Turso DB для частных, пользовательских графиков знаний
• Интерфейсы естественного языка : запросы естественного языка, основанные на SQLite-VSS и инструкторе
• ? ML-ready : экспорт данных для библиотек машинного обучения, таких как Networkx и Pyg
• ✅ поддерживает локальное выполнение с помощью Ollama LLMS и моделей встраивания
• ✅ Поддерживает локальный DB как для хранения графика, так и для внедрения

Пари

• Добавление поддержки для столбчатой ​​базы данных: DuckDB
• Внедрение алгоритмов нейронной сети графиков: транс, транс, Query2box

Установка

Установите персональный граф с помощью PIP:

pip install personal-graph

Использование

Создание рабочей памяти для искусственного интеллекта

 from personal_graph import GraphDB
from personal_graph . text import text_to_graph
from personal_graph . vector_store import VliteVSS

vector_store = VliteVSS ( collection = "memories" )
graph = GraphDB ( vector_store = vector_store )

# Insert information into the graph
g = text_to_graph ( "Alice is Bob's sister. Bob works at Google." )
graph . insert_graph ( g )

# Retrieve relevant information from the graph
query = "Who is Alice?"
results = graph . search ( query )
print ( results )

# Use the retrieved information to answer questions
print ( f"Question: { query } " )
print ( f"Answer: Alice is Bob's sister." )

query = "Where does Bob work?"
results = graph . search ( query )
print ( results )
print ( f"Question: { query } " )
print ( f"Answer: Bob works at Google." )

В этом примере мы вставляем информацию об Алисе и Бобе в график знаний. Затем мы используем метод поиска для извлечения соответствующей информации на основе заданных запросов. Полученная информация может использоваться как часть рабочей памяти ИИ, чтобы ответить на вопросы и предоставить контекст для дальнейших взаимодействий.

Построение долговременной памяти

 from personal_graph import GraphDB
from personal_graph . vector_store import VliteVSS

vector_store = VliteVSS ( collection = "memories" )
graph = GraphDB ( vector_store = vector_store )

# Insert information about conversations with the user over time
graph . insert (
  text = "User talked about their childhood dreams and aspirations." ,
  attributes = {
    "date" : "2023-01-15" ,
    "topic" : "childhood dreams" ,
    "depth_score" : 3
  })

graph . insert (
  text = "User discussed their fears and insecurities in their current relationship." ,
  attributes = {
    "date" : "2023-02-28" ,
    "topic" : "relationship fears" ,
    "depth_score" : 4
})

graph . insert (
  text = "User shared their spiritual beliefs and existential questions." ,
  attributes = {
    "date" : "2023-03-10" ,
    "topic" : "spirituality and existence" ,
    "depth_score" : 5
})

graph . insert (
  text = "User mentioned their favorite hobbies and weekend activities." ,
  attributes = {
    "date" : "2023-04-02" ,
    "topic" : "hobbies" ,
    "depth_score" : 2
})

# User queries about the deepest conversation
query = "What was the deepest conversation we've ever had?"

deepest_conversation = graph . search ( query , sort_by = "depth_score" , descending = True , limit = 1 )

В этом примере мы храним информацию о разговорах с пользователем, включая дату, тему и оценку глубины. Оценка глубины представляет, насколько значимым был разговор.

Когда пользователь спрашивает о самом глубоком разговоре, мы ищем разговор с наибольшей оценкой глубины, используя метод поиска. Мы сортируем результаты по оценке глубины в порядке убывания и ограничиваем вывод до одного разговора.

Если разговор найден, ИИ отвечает датой и темой самого глубокого разговора. Если разговоров не найдено, ИИ сообщает пользователю, что у него недостаточно информации.

Этот пример демонстрирует, как может использоваться личный граф для создания долговременной памяти о взаимодействиях пользователей и получения конкретной информации на основе критериев, таких как глубина разговора.

Создание и запрос графика знаний

 from personal_graph import GraphDB
from personal_graph . text import text_to_graph
from personal_graph . vector_store import VliteVSS

vector_store = VliteVSS ( collection = "memories" )

graphdb = GraphDB ( vector_store = vector_store )

nl_query = "Increased thirst, weight loss, increased hunger, and frequent urination are all symptoms of diabetes."
kg = text_to_graph ( text = nl_query )
graphdb . insert_graph ( kg )

search_query = "I am losing weight too frequently."
g = text_to_graph ( search_query )
print ( g )

graphdb . insert_graph ( g )

Поиск и вопрос о ответе

 import os
import dspy
from personal_graph import GraphDB , PersonalRM

db = GraphDB () # storage_db is in-memory sqlite, vector_db is in vlite
turbo = dspy . OpenAI ( api_key = os . getenv ( "OPENAI_API_KEY" ))
retriever = PersonalRM ( graph = db , k = 2 )
dspy . settings . configure ( lm = turbo , rm = retriever )


class GenerateAnswer ( dspy . Signature ):
    """Answer questions with short factoid answers."""

    context = dspy . InputField ( desc = "may contain relevant facts from user's graph" )
    question = dspy . InputField ()
    answer = dspy . OutputField (
        desc = "a short answer to the question, deduced from the information found in the user's graph"
    )

class RAG ( dspy . Module ):
    def __init__ ( self , depth = 3 ):
        super (). __init__ ()
        self . retrieve = dspy . Retrieve ( k = depth )
        self . generate_answer = dspy . ChainOfThought ( GenerateAnswer )

    def forward ( self , question ):
        context = self . retrieve ( question ). passages
        prediction = self . generate_answer ( context = context , question = question )
        return dspy . Prediction ( context = context , answer = prediction . answer )

rag = RAG ( depth = 2 )
response = rag ( "How is Jack related to James?" )
print ( response . answer )

Местное использование

 from personal_graph . graph import GraphDB
from personal_graph . graph_generator import OllamaTextToGraphParser
from personal_graph . database import SQLite
from personal_graph . vector_store import VliteVSS
from personal_graph . clients import OllamaClient , OllamaEmbeddingClient

phi3 = OllamaClient ( model_name = "phi3" )
nomic_embed = OllamaEmbeddingClient ( model_name = "nomic-embed-text" )

storage_db = SQLite ( local_path = "./local.db" )
vector_store = VliteVSS ( collection = "./vectors" )

graph_generator = OllamaTextToGraphParser ( llm_client = phi3 )
print ( graph_generator ) # Should print the InstructorGraphGenerator 

with GraphDB (
    database = storage_db , 
    vector_store = vector_store , 
    graph_generator = graph_generator
  ) as db :
    print ( db )

Личный граф PYG, затем вернемся к личному графу

Следующее - просто набросок запланированного потока. Пари

 graphdb = GraphDB ( storage = db , vector_store = vector_store , graph_generator = graph_generator )

graphdb . load_dataset ( "KarateClub" )

pyg_graph = graphdb . to_pyg ()

updated_graph = model ( pyg_graph ) # Run Neural Network algorithms here using PyG

graphdb . from_pyg ( updated_graph )

Видео описание

Это видео лучше всего описывает библиотеку личных графиков. [! Личный график]

Для получения более подробной информации и документации API см. Документацию личного графа.

Внося

Взносы приветствуются! Не стесняйтесь создавать проблемы для ошибок и запросов функций.

Лицензия

Личный граф выпущен по лицензии MIT.

Контакт

Вопросы, обратная связь или предложения? Обратитесь на [email protected] или откройте проблему на GitHub.