optimate

Opatimado

[Legado]

Este repositorio ahora está en una fase heredada y ya no se mantiene activamente. Aunque el código fuente todavía está disponible en el historial GIT, no habrá actualizaciones adicionales o soporte oficial.

[Sobre Nebuly]

Nuestro equipo está totalmente comprometido a crear la mejor plataforma de experiencia de usuario para LLM para que las empresas puedan comprender el comportamiento del usuario a escala al interactuar con sus productos basados ​​en LLM.

• Para obtener más información sobre cómo comenzar, visite nuestra documentación oficial
• Si necesita soporte empresarial, contáctenos aquí

[Sobre Optimate]

Tenemos un par de proyectos internos de código abierto a la comunidad, pero actualmente no los mantenemos. Optimate es una colección de bibliotecas diseñadas para ayudarlo a optimizar sus modelos de IA. Es un proyecto de código abierto desarrollado por Nebuly AI pero no se mantiene activamente .

Las herramientas disponibles para ayudarlo en su optimización son:

✅ Speedster: reduzca los costos de inferencia aprovechando las técnicas de optimización de SOTA que mejor acoplan sus modelos de IA con el hardware subyacente (GPU y CPU)

✅ NOS: Reduzca los costos de infraestructura al aprovechar la partición dinámica en tiempo real y las cuotas elásticas para maximizar la utilización de su clúster de GPU de Kubernetes

✅ Chatllama: reduzca los costos de hardware y datos aprovechando las técnicas de optimización de ajuste fino y la alineación de RLHF