TypeChat

Typechat

Typechat es una biblioteca que facilita la construcción de interfaces de lenguaje natural usando tipos.

La construcción de interfaces de lenguaje natural ha sido tradicionalmente difícil. Estas aplicaciones a menudo se basan en árboles de decisión complejos para determinar la intención y recopilar las entradas requeridas para tomar medidas. Los modelos de idiomas grandes (LLM) han facilitado esto al permitirnos tomar la entrada del lenguaje natural de un usuario y una coincidencia con la intención. Esto ha introducido sus propios desafíos, incluida la necesidad de limitar la respuesta del modelo por seguridad, estructurar respuestas del modelo para su posterior procesamiento y garantizar que la respuesta del modelo sea válida. La ingeniería rápida tiene como objetivo resolver estos problemas, pero viene con una curva de aprendizaje empinada y una mayor fragilidad a medida que aumenta el tamaño de tamaño.

Typechat reemplaza la ingeniería rápida con ingeniería de esquemas .

Simplemente defina tipos que representen los intentos respaldados en su aplicación de lenguaje natural. Eso podría ser tan simple como una interfaz para clasificar el sentimiento o ejemplos más complejos como tipos para un carrito de compras o una aplicación de música. Por ejemplo, para agregar intenciones adicionales a un esquema, un desarrollador puede agregar tipos adicionales a una unión discriminada. Para hacer que los esquemas sean jerárquicos, un desarrollador puede usar un "meta-schema" para elegir uno o más sub-esquemas basados ​​en la entrada del usuario.

Después de definir sus tipos, Typechat se encarga del resto por:

1. Construir un aviso a la LLM usando tipos.
2. Validación de la respuesta LLM se ajusta al esquema. Si la validación falla, repare la salida no conformada a través de una mayor interacción del modelo de lenguaje.
3. Resumiendo sucintamente (sin uso de un LLM) la instancia y confirma que se alinea con la intención del usuario.

¡Los tipos son todo lo que necesitas!

Empezando

Instale Typechat para TypeScript/JavaScript:

 npm install typechat

También puede trabajar con Typechat desde la fuente para:

• Pitón
• Mecanografiado
• C#/. NET

Para ver Typechat en acción, recomendamos explorar los proyectos de ejemplo de typechat. Puede probarlos en su máquina local o en un espacio de código GitHub.

Para obtener más información sobre Typechat, visite la documentación que incluye más información sobre Typechat y cómo comenzar.

Que contribuye

Este proyecto da la bienvenida a las contribuciones y sugerencias. La mayoría de las contribuciones requieren que acepte un Acuerdo de Licencia de Contributor (CLA) que declare que tiene derecho y realmente hacernos los derechos para utilizar su contribución. Para más detalles, visite https://cla.opensource.microsoft.com.

Cuando envíe una solicitud de extracción, un BOT CLA determinará automáticamente si necesita proporcionar un CLA y decorar el PR adecuadamente (por ejemplo, verificación de estado, comentario). Simplemente siga las instrucciones proporcionadas por el bot. Solo necesitará hacer esto una vez en todos los reposos usando nuestro CLA.

Este proyecto ha adoptado el Código de Conducta Open Open Microsoft. Para obtener más información, consulte el Código de Conducta Preguntas frecuentes o comuníquese con [email protected] con cualquier pregunta o comentario adicional.

Marcas registradas

Este proyecto puede contener marcas comerciales o logotipos para proyectos, productos o servicios. El uso autorizado de marcas o logotipos de Microsoft está sujeto y debe seguir las pautas de marca y marca de Microsoft. El uso de marcas registradas de Microsoft o logotipos en versiones modificadas de este proyecto no debe causar confusión o implicar el patrocinio de Microsoft. Cualquier uso de marcas comerciales o logotipos de terceros está sujeto a las políticas de esas partes de terceros.