ALP

MONTAÑA

Descripción general

ALP es un sistema de IA conversacional basado en el conocimiento y de código abierto, diseñado para producir respuestas que se basan en la información relevante de fuentes externas. ?

ALP le permite construir una gran base de conocimiento que se puede consultar mientras interactúa con un chatbot. Las construcciones de contexto basadas en similitud permiten una mejor relevancia de los materiales extraídos de la base de datos. El chatbot tiene memoria de conversación ilimitada y la capacidad de exportar conversaciones y incrustaciones de origen al formato JSON.

¿ALP mantiene el historial de conversación y las integridades en una base de datos SQLite local? ️. Como resultado, los procesos de carga e incrustación de documentos se requieren solo una vez, lo que permite a los usuarios reanudar las conversaciones sin problemas.

ALP está destinado a ejecutarse a través de localhost. Todo lo que necesitas es Python y pocos comandos para configurar el entorno. ¿No dude en bifurcar, explorar el código y ajustar a sus necesidades?

Tabla de contenido

• MONTAÑA
  • Tabla de contenido
  • Colegio de cambios
  • Introducción
  • Características
  • Instalación
  • Configuración
  • Uso
  • Manifestación
  • Hacer

Colegio de cambios

• 20240815-Lista de modelos actualizada a: gpt-4o' , gpt-4o-mini
• 20231226- gpt-4-1106-preview agregada como modelo generativo predeterminado. El usuario puede cambiarlo en ./lib/params.py en prod_model . COLLECCIÓN DE LA COLECCIÓN CUENTA DE ENCUENTRO DEL CONTAJE DE LA PÁGINA.
• 20230911 - Defina el comportamiento del agente personalizado en ./static/data/simulacra.json y elija el administrador de sesión desde un menú desplegable.
• 20230406 - FIJO DE ERRES que impidió que el programa inicialice la base de datos en/static/data/dbs/; requisitos. Corrección de txt
• 20230705 - Nuevo modelo de datos, integridades basadas en Sbert
• 20230411 - Actualización de interfaz, mejoras de UX, correcciones de errores
• 20230405 - Historia de la Converastion de la converastion de los programas

Introducción

ALP mejora la precisión de las respuestas de los modelos basados ​​en GPT en relación con los documentos PDF dados mediante el uso de un método de aumento de recuperación. Este enfoque asegura que el contexto más relevante siempre se pase al modelo. La intención detrás de ALP es ayudar a la exploración de la abrumadora base de conocimiento de trabajos de investigación, libros y notas, lo que facilita el acceso y digerir contenido.

Actualmente ALP utiliza los siguientes modelos:

1. Incrustación de texto: multi-qa-MiniLM-L6-cos-v1
2. Generación: gpt-4o' , gpt-4o-mini

Características

• Asistente de investigación conversacional : interactúe y obtenga información de las colecciones de archivos PDF.
• Memoria de conversación ilimitada : Retener información de conversaciones anteriores para respuestas conscientes de contexto.
• Vuelve a las conversaciones pasadas : recoge tu conversación justo donde te vas.
• Modelo de datos flexible : permite una conversación con más de un documento en una sesión.
• Utiliza modelos de código abierto : los transformadores de oraciones permiten una incrustación de texto rápido y rápido.
• Soporte para documentos largos : cargar libros y otros largos PDF.
• Aumento de recuperación : utilice técnicas de aumento de recuperación para mejorar la precisión. Lea más aquí.
• Defina el comportamiento de su propio agente : establezca el mensaje del sistema que define a sus agentes en ./static/data/simulacra.json. Luego puede ajustar fácilmente el formulario HTML para elegir nombres de un menú desplegable.
• Implementación local : gire a Alp localmente en su máquina.
• Exportación JSON : Conversación de exportación como un archivo JSON.
• Open Source : El código es suyo para leer, probar, romper y construir.

Instalación

Para configurar ALP en su máquina local, siga estos pasos:

1. Instalar python:

Asegúrese de tener Python instalado en su máquina. Recomiendo a Anaconda para una configuración fácil.

IMPORTANTE: ALP se ejecuta en Python 3.10

2. Bifurca y clona el repositorio:

Después de bifurgar el Repo Clone en una línea de comando:

git clone https://github.com/yourusername/alp.git 
cd ALP

3. Crear un entorno virtual y activarlo:

Desde dentro del directorio ALP/ Local Invoca los siguientes comandos

Para usuarios de Linux en Bash:

python3 -m venv venv
source venv/bin/activate

Para usuarios de Windows en CMD:

 python -m venv venv
venvScriptsactivate.bat

Esto debería crear alp/ venv/ directorio y activar el entorno virtual. Naturalmente, puede usar otros programas para manejar VirtualEnvs.

4. Instale las dependencias requeridas en el entorno virtual:

pip install -r requirements.txt

Configuración

Por defecto, ALP se ejecuta en localhost . Requiere la tecla API para conectarse con el modelo GPT a través de la API de AI Open. En el directorio ALP/, cree un API_KEY.TXT y pegue su tecla API allí. Asegúrese de que api_key.txt se agregue a su archivo .gitignore para que no se filtre a GitHub. Puede obtener su tecla API de AI Open aquí https://platform.openai.com

Uso

5. Ejecute la aplicación ALP:

python alp.py

6. Acceda a la aplicación:

La aplicación debe abrirse en su navegador web predeterminado. Si no es así, navegue a http: // localhost: 5000. El primer uso implica la creación del archivo APP.DB en ALP/STATIC/DATA/DBS/. Este es su archivo de base de datos SQLite que contendrá el historial de conversaciones y los incrustaciones. Además, el script descargará 'Multi-Qa-minilm-L6-Cos-V1' (80 MB) a su PC desde abrazar repositorios faciales. Sucederá automáticamente en un primer lanzamiento.

7. Comience a usar ALP:

La interfaz de la aplicación ALP consta de un par de secciones:

• HUB le permite crear una nueva colección en 'Colecciones' o crear/continuar la sesión de conversación en 'Sesiones'.
• Manager de colecciones: cree una nueva colección especificando su nombre y cargando un archivo PDF.
• Gerente de sesión:
  • Continúe la sesión existente seleccionándola desde el menú desplegable y presionando 'Inicio'.
  • Cree una nueva sesión allí también definiendo su nombre y seleccionando colecciones vinculadas a la sesión.
  • Seleccione el papel de agente predefinido para la conversación. Funciona también para chats históricos.
• Ventana de sesión: Hable con el modelo GPT sobre colecciones vinculadas a la sesión. Cada vez que se calcula una puntuación de similitud entre la consulta del usuario y los incrustaciones de colecciones, se imprime una lista de la mayoría de los cuentos de datos similares en la consola del programa. Estas fuentes se pasarán como un contexto con la pregunta del usuario al modelo GPT.

Capturas de pantalla

Hacer

• Permita que el usuario continúe con las conversaciones en otras sesiones.
• Guardar el historial de chat en una mesa separada
• Cargar documento en la tabla de contexto
• Permitir que el usuario elija el contexto para la conversación o continúe el anterior
• Implementar modelos de incrustación alternativa (transformadores de oraciones)
• Permitir al usuario cargar más de un documento
• Datos de conversación de decouple de los datos de recopilación
• Implementar transformadores de oraciones para la incrustación de texto
• Fuentes de visualización utilizadas por el agente para la respuesta
• Introducir a varios agentes en el chatbot
• El usuario puede eliminar converastiones no deseadas de la base de datos
• Menú de configuración global (actualmente en params.py)
• El usuario puede cargar texto de fuentes distintas a PDF
• Mejorar el diseño de la GUI
• Agregue susurros para audio-text