openai_ex

Réadmettre

OpenaiEx est une bibliothèque Elixir qui fournit un client API OpenAAI entretenu dans la communauté.

Des parties de ce projet ont été développées avec l'aide de Chatgpt 3.5 et 4, ainsi que de Claude 3 Opus et Claude 3.5 Sonnet. Cependant, chaque ligne de code est organisée humaine (par moi?).

Tous les points de terminaison et les fonctionnalités de l'API (au 1er mai 2024) sont pris en charge, y compris l' API API Beta 2 avec Run Streaming , Dall-E-3, Text-to-Speech, la prise en charge des outils dans les compléments de chat et la version en streaming du point de terminaison de l'achèvement du chat. L'annulation de la demande de streaming est également prise en charge.

La configuration des pools Finch et de l'URL de base de l'API est prise en charge.

Il existe des différences par rapport aux autres emballages d'Openai Elixir.

• J'ai essayé de refléter fidèlement la dénomination / la structure de l'API officielle Python. Par exemple, le contenu déjà en mémoire peut être téléchargé dans le cadre d'une demande, il n'a pas à être lu à partir d'un fichier sur un chemin local.
• Je développais pour un cas d'utilisation livebook, donc je n'ai pas de configuration, seulement des variables d'environnement.
• Les versions API de streaming, avec annulation de demande, sont prises en charge.
• Le transport sous-jacent est le pinson, plutôt que la httpoison
• Les LLM tiers (y compris locaux) avec un proxy OpenAI, ainsi que l' API Azure OpenAI , sont considérés comme des cas d'utilisation légitimes.

La discussion et les annonces sont sur ce fil dans Elixir Forum

Installation et utilisation

Pour les instructions d'installation et les exemples d'utilisation détaillés, veuillez consulter le guide de l'utilisateur sur Hexdocs. Le guide est un LiveBook, et vous pouvez exécuter tout le code sans créer un nouveau projet. Pratiquement chaque appel API a un exemple de fonctionnement dans le guide de l'utilisateur.

Il existe également des exemples de Livebook pour

• Streaming Orderbot un exemple de la façon d'utiliser le streaming ChatCompletion dans un chatbot. Il s'agit d'une version en streaming du prochain Livebook de cette liste.
• The Deeplearning.ai Order Bot. Ce carnet est une traduction Elixir / Kino du cahier Python dans Leçon 8, de DeepLearning.ai Course Chatgpt Inside Engineering pour les développeurs.
• Un chatbot de complétion qui peut être déployé sous forme d'application LiveBook. L'application déployée affiche 2 formulaires, un pour les compléments normaux et un autre pour les compléments en streaming.
• Une ui de génération d'images

Ceux-ci sont hébergés sur des hexdocs et peuvent être utilisés comme inspiration / entrées pour vos propres projets.

Développement

La section suivante concerne uniquement les développeurs qui souhaitent contribuer à ce référentiel.

Cette bibliothèque a été développée à l'aide d'une image Docker LiveBook qui s'exécute dans un VS Code DevContainer. Le dossier .devcontainer contient tous les fichiers pertinents.

Pour commencer, clonez le référentiel de votre machine locale et ouvrez-le en code vs. Suivez les invites pour l'ouvrir dans un conteneur.

Une fois que le conteneur est opérationnel en code vs, vous pouvez accéder à LiveBook sur http: // localhost: 8080. Cependant, vous devrez saisir un mot de passe stocké dans la variable d'environnement LIVEBOOK_PASSWORD . Cette variable doit être définie dans le fichier .devcontainer/.env , qui est expliqué ci-dessous.

Variables et secrets d'environnement

Pour définir des variables d'environnement pour le développement DevContainer, vous pouvez créer un fichier .env dans le dossier .devcontainer . Tous les secrets, tels que OPENAI_API_KEY et LIVEBOOK_PASSWORD , peuvent être définis dans ce fichier comme des variables d'environnement. Notez que ce fichier .env ne doit pas être inclus dans le contrôle de version, et il est déjà inclus dans le fichier .gitignore pour cette raison.

Vous pouvez trouver un exemple de fichier env dans le même dossier, que vous pouvez utiliser comme modèle pour votre propre fichier .env . Ces variables seront transmises à LiveBook via docker-compose.yml .