cf openai azure proxy

cf-openai-azure-proxy

Inglés |

La mayoría de los clientes de Operai no admiten el servicio Azure OpenAI, pero la aplicación y la vinculación de la tarjeta del servicio Azure OpenAI son muy simples, y también hay un límite de crédito gratuito. Este script utiliza el trabajador de CloudFlare gratuito como proxy, lo que permite a los clientes habilitados por OpenAI utilizar el servicio Azure OpenAI directamente.

Modelos compatibles:

• GPT-3
• GPT-4
• Dall-E-3

Agregar subclases de modelo es muy fácil, consulte las siguientes instrucciones para usar

Descripción del proyecto:

• ¿Puedo usarlo sin servidor?
  • Este script se ejecuta en Cloudflare Worker, no requiere un servidor, no requiere un enlace de tarjeta, 100 solicitudes por día son gratuitas.
• ¿Puedo usar mi propio nombre de dominio?
  • Además, referencia: #3
• Implementar el modo de impresora:
  • La respuesta del servicio de Azure Openai es un párrafo de respuesta por párrafo
  • Al regresar al cliente, este proyecto desmonta los mensajes uno por uno y luego los envía al modo de impresora.
• El proyecto también admite la implementación de Docker (basado en Wrangler)

desplegar

Solicitudes proxy Openai para el servicio Azure OpenAI, pasos de implementación de código:

1. Regístrese e inicie sesión en su cuenta de CloudFlare
2. Crear un nuevo trabajador de Cloudflare
3. Copie y pegue CF-Openai-Azure-Proxy.js en el editor de trabajadores de Cloudflare
4. Ajustar el valor del nombre de recursos y el mapeador de implementación modificando o las variables de entorno
5. Guardar e implementar el trabajador de Cloudflare
6. #3 Vinculación opcional del nombre de dominio personalizado: Agregue un nombre de dominio personalizado para este trabajador en la página Detalles del trabajador -> disparador -> dominios personalizados

Instrucciones de uso

Primero obtenga el nombre de recursos y el mapeador de implementación, e inicie sesión en los antecedentes de Azure:

Aquí hay dos formas de hacerlo:

• Modifique sus valores directamente, como:

 // The name of your Azure OpenAI Resource.
const resourceName = "codegpt"

// deployment model mapper
const mapper = {
     'gpt-3.5-turbo' : 'gpt3' ,
     'gpt-4' : 'gpt4' ,
     'dall-e-3' : 'dalle3' 
   } ;
其他的map规则直接按这样的格式续写即可

• O a través de la consola de trabajadores de CloudFlare, vaya a Workers Script> Configuración> Agregar variable en Variables de entorno.

  

Cliente

Tomar OpenCat como ejemplo: Nombre de dominio API personalizado que llena el nombre de dominio en el sexto paso:

He probado múltiples clientes, y si encuentro problemas con otros clientes, bienvenido a crear un problema.