cf openai azure proxy

cf-openai-azure-proxy

Anglais |

La plupart des clients OpenAI ne prennent pas en charge le service Azure OpenAI, mais la liaison de l'application et de la carte du service Azure OpenAI sont très simples, et il existe également une limite de crédit gratuite. Ce script utilise le travailleur CloudFlare gratuit comme proxy, permettant aux clients compatibles OpenAI d'utiliser directement le service Azure Openai.

Modèles pris en charge:

• GPT-3
• Gpt-4
• Dall-e-3

L'ajout de sous-classes du modèle est très facile, reportez-vous aux instructions suivantes à utiliser

Description du projet:

• Puis-je l'utiliser sans serveur?
  • Ce script s'exécute dans CloudFlare Worker, ne nécessite pas de serveur, ne nécessite pas de liaison de carte, 100 demandes par jour sont gratuites
• Puis-je utiliser mon propre nom de domaine?
  • Aussi, référence: # 3
• Implémentez le mode imprimante:
  • La réponse du service Azure Openai est une réponse paragraphe par paragraphe
  • Lors du retour au client, ce projet démonte les messages un par un, puis les envoie en mode imprimante.
• Le projet prend également en charge le déploiement de Docker (basé sur Wrangler)

déployer

Demandes d'Openai proxy au service Azure Openai, étapes de déploiement de code:

1. Inscrivez-vous et connectez-vous à votre compte CloudFlare
2. Créer un nouveau travailleur Cloudflare
3. Copier et coller cf-openai-azure-proxy.js dans l'éditeur de travailleurs CloudFlare
4. Ajustez la valeur du mappeur de ressources et de déploiement en modifiant ou en environnement des variables
5. Enregistrer et déployer le travailleur CloudFlare
6. # 3 FONCTIONNEMENT OPTIONNELLE DU NOM DE DOMAINE CUSTUMENT

Instructions pour une utilisation

Obtenez d'abord ResourceName et déploiement du mappeur et connectez-vous à l'arrière-plan d'Azure:

Voici deux façons de le faire:

• Modifiez directement leurs valeurs, telles que:

 // The name of your Azure OpenAI Resource.
const resourceName = "codegpt"

// deployment model mapper
const mapper = {
     'gpt-3.5-turbo' : 'gpt3' ,
     'gpt-4' : 'gpt4' ,
     'dall-e-3' : 'dalle3' 
   } ;
其他的map规则直接按这样的格式续写即可

• Ou via la console de travail CloudFlare, accédez à Script des travailleurs> Paramètres> Ajouter une variable dans les variables d'environnement.

  

Client

Prendre OpenCat comme exemple: nom de domaine API personnalisé remplissant le nom de domaine lié dans la sixième étape:

J'ai essayé plusieurs clients, et si je rencontre des problèmes avec d'autres clients, je me réjouis de créer un problème.